Нужно разделить столбиком многочлен на многочлен в остатке останется и нужно приравнять коэффициэнты при х и отдельно свободный член .Получим а+12=30 решаем а=18 ,а в=18
(5х^4+20x^3+11x^2+ax+b):(5x^2+10x+6)=x^2+2x+3
5x^4+10x^3+6x^2
----------------------
вычитаем
--------------------
10x^3+5x^2+ax
10x^3+20x^2+12x
-----------------------------
вычитаем
-------------------------
-15x^2+(a-12)x+b
15x^2+30x+18
--------------------------------------
a-12=30 a-42 b=18 b и все но в вычитаниях проверь
1)Из второго уравнения выражаем х: х=-3-y
2)Подставляем в первое цравнение то, что получилось во втором и получаем:
2(-3-y)-y(-3-y)+2y=63
3)Раскрываем скобки: -6-2y+3y+y^2+2y=63
4)Приводим подобные: y^2+3y-6=63
5)переносим все в одну сторону y^2+3y-6-63=0
Преобразуем: y^2+3y-69=0
6)Вынесем y за скобку: y(y+3-69)=0
y1=0; y-66=0
y2=66
7) Подставляем y во второе выражение x1=-3-0=-3
x2=-3-66=-69
8) при выполнении проверки ясно что подходит только х1
Таким образом ответ х=-3 y=0