-8х^2 - 6ху + 20ху +15у^2 +5х^2 - 6ху +10 ху - 12у^2= -3х^2 + 3у^2 + 18xy
Один корень у квадратноготуранения будет когда дискриминант =0
D=(2a)²-4a(2-a) =4a²-8a+4a² =8a²-8a=0
a=0 отпадает
а=1 подходит
Найдём производную от функции. Приравняем к нулю. Найдём точки максимума и минимума
X^2+18x-63=0
D=18^2-4*(-63)*1=576
x1,2=-18+/-24/2
x1 = -21 x2= 3