Находим производную:
Поскольку при всех x выполнено неравенство , то всегда . Если производная принимает только неотрицательные значения, то функция (возможно, нестрого) возрастает, минимальные значения на отрезке принимает в левом конце отрезка, максимальные – в правом.
По теореме Виета:
Сумма квадратов корней :
Сумма квадратов принимает наименьшее значение, если достигает наименьшего значения, а поскольку графиком функции является парабола, с ветвями направленными вверх, то вершина параболы достигает минимума.
Ответ: a = 1.
X(y-5)-6y(5-y)=x(y-5)+6y(y-5)=(y-5)(x+6y)