Cos²a+ctg²a+sin²a=1+ctg²a=1/sin²a
(1+tg²a)/(1+ctg²a)=(1+sin²a/cos²a):(1+cos²a/sin²a)=
=(cos²a+sin²a)/cos²a;(sin²a+cos²a)/sin²a=1/cos²a:1/sin²a=sin²a/cos²a=tg²a
По свойству г.п. x=√(x-2)(x+2)
x²=x²-4 ⇒-4=0 что невозможно и значит таких чисел нет.
Решением системы будет точка (1; 5)