Система уравнений выглядит так (а - числитель, и - знаменатель)
a^2+b^2=25
a/b+b/a=25/12
Систему решаешь, получаешь два решения (4,3) и (3,4).
Для решения системы второе уравнение приводишь к общему знаменателю, а затем числитель, который получится (a^2+b^2) заменяешь на 25 (из первого уравнения)
чтобы проверить какая из предложенных пар является решением нужно подставить эти числа в уравнение
x²-y²=25
первая пара (0;5) значит х=0; у=5
0²-5²=0-25=-25 ; -25≠25
Значит первая пара не подходит
вторая пара (5;0), значит х=5; у=0
5²-0²=25; 25=25
Вторая пара является решением
Третья пара (6;3), значит х=6;у=3
6²-3²=36-9=25; 25=25
Третья пара является решением
Четвертая пара (3;6), значит х=3;у=6
3²-6²=9-36=-25; -25≠25
Не является решением