К этому больше подходит х=3
1*7=1(10а+6)
7=10а+6
10а=7-6
10а=1
а=1/10
Ответ фоткан................
X^2-XY+3XY-3Y^2=(X^2-XY)+(3XY-3Y^2)=X(X-Y)+3Y(X-Y)=(X-Y)(X+3Y)
Раскрываем скобки, группируем, выносим за скобку в первом слагаемом X, во втором 3Y, опять выносим за скобку общий множитель(X-Y).