Решение

Запишем зависимость плотсноти вещества от пройденного поршнем расстояния
$$\rho(x)=\frac{\rho_0a}{x}$$
Запишем отношение плотностей в начале и конце в виде отношения их длин:
$$\frac{\rho}{\rho_0}=\frac{a}{b}$$
Полный путь который пройдет
$$x=a-b=a(1-\frac{\rho_0}{\rho})$$
Запишем закон изменения импульса для уже сжатой ччасти вещества:
$$Fdt=\rho(a-b)Sdx*v$$
Кинематическое соображение:
$$\frac{dx}{dt}=v$$
Поделим обе части уравнения на $dt$:
$$F=\rho(a-b)Sv^2$$
Подставим плотность:
$$F=\frac{\rho_0a}{a(\frac{\rho-\rho_0}{\rho})}Sv^2$$
Выразим квадрат скорости:
$$v^2=\frac{F(\rho-\rho_0)}{S\rho\rho_0}$$
Подставим площадь и возьмем уравнение под корень, получив ответ:
$$\boxed{v=\sqrt{\frac{F(\rho-\rho_0)}{\pi r^2\rho\rho_0}}}$$