Если это еще актуально, то
D=16+20=36=6
x1=10/2=5
x2=-2/2=-1
Методом подбора получаем
х=5
у=-2
Найдем экстремумы: f' = 0 → x = -2; 2
Значение в экстремуме: f(2) = 2³ -12*2 = 8 - 24 = -16
Значения на краях: f(0) = 0, f(3) = 3³-12*3 = 27-36 = -9
Итого: наименьшее значение функции: -9, наибольшее: 0