Все догадался, второе выражение преносим в другую сторону, т.е. b^2-16+8b-2(4b-13)>0 дальше раскрываем и сокращаем, b^2-16+8b-8b+26)>0, в итоге, b^2+10>0, т.к. b в квадрате, то оно гарантировано положительно и к нему прибавляется 10
Cosx=t
|t|<=1
2t^2-3t+1=0
t1=1
t2=1/2
cosx=1
x=2Пk
cosx=1/2
x=+-П/3+2Пk