Находим производную
y'=15*3x^2-18*2x
y=45*121-36*11
y=5445-396
y=5049
Вот решения, надеюсь подойдут...
Только это сейчас а должна сама делать домашку прости
Составляем уравнение
x - 1 или 2 полка
x + x + 2x = 80
4x = 80
x = 20 - книг на 1 или 2 полке
80 - (20+20) = 40 книг на третьей полке