Вот все решение, возможно у тебя в школе записывают немного по другому.
Решаем систему способом подстановки,далее квадратное уравнение-через замену переменной.Далее-формулы частных случаев.
Ab+ay-bx-xy+ab-ay-bx+xy=2ab-2bx=2b(a-x)
Там только так
-3a²b*(2ab-5b²)=-6a³b²+15a²b³