Решение во вложении.......
Если не понятно, то пиши
a^2+2ab-(2b+2a)=a^2+2ab-2b-2a
на первой - 20 книг
на второй - 20*1,2=24 книг
на третьей-20*1.3=26 книг
всего на рех полках=20+24+26=70 книг