F(x)>3
Значит значения по оси у>3
Это достигается на промежутке от 3 до 5., значит x∈(3; 5)
Вынеси за скобки 5а, получится:
=5а(а-4b) вот и все разложение: первый множитель -5а. второй - (а-4b)
Честно, я не уверена, не сталкивалась с подобными задачами
Решение Вашего задания во вложении