Простое правило Чтобы найти неизвестное вычитаемое нужно из уменьшаемого вычесть разность.
Поэтому звездочка равна
4х^2-6ху-у^2.