Если я правильно понял, то это дробь и её надо сократить. Начну преобразования со знаменателя. a²-b² - это разность квадартов. Применю соответствующую формулу:
(2a2-b)(2a-b)-2a2+5ab=4a3-2a2b+2ab+b2-2a2+5ab=4a3-2a3b+7ab-2a2+b2.