вот такой ответ получился
Пусть сторона квадрата была равна у , тогда его площадь была у². После увеличения сторона квадрата стала ух, а его площадь - (ух)².
(ух)²/у²=9
х²=9
х=√9
х=+/-√3