Уравнение с двумя неизвестными, насколько я понял. Можно решить этой уравнение в целых числах, если стоит именно такая задача, но это очень сложно.
X=-2/5
x=2/5
----------------------------------------------
5(х-1) -3(х+2) =5 х
5х-5-3х-6 = 5х
2х-11 = 5х
-3х = 11
х = -11/3
Должно быть все правильно.