-3x²-x+8=x²-6x+9
-3x²-x+8-x²+6x-9=0
-4x²+5x-1=0
4x²-5x+1=0
D=25-16=9
x1=5+3/8=1
x2=5-3/8=2/8=1/4
sin^2A+cos^2A=1, cos2a=cos^2A-sin^2A.
В числителе просто квадратное уравнение. Находите корни через дискриминант. и записываете в виде a(x-x1)(x-x2), подставляете в ваш пример и сокращаете.