Площадь заштрихованной фигуры это будет прямоугольник со сторонами a x минус площадь прямоугольника со сторонами b y
a*x-b*y
===========================================
10*3=30 км (прошел первый лыжник)
10+5=15 км/ч (скорость второго)
30/15=2 ч (пройдет второй лыжник)