Решение

Запишем закон изменения импульса:
$$Fdt=P_f-P_i$$
Импульсы в начале и конце запишем относительно катера, то есть для малой массы воды:
$$P_i=dmv$$

$$P_f=dmu$$
Малая масса воды будет иметь малую ширину, т.к. площадь нам известна:
$$dm=\rho Sdx$$
А так же, малое расстояние пройденное катером за малый промежуток времени будет постоянной скоростью катера:
$$\frac{dx}{dt}=v$$
Подставим импульсы в закон изменения:
$$Fdt=dm(u-v)$$
Подсатвим малую массу:
$$Fdt=\rho Sdx(u-v)$$
Поделим обе части уравнения на $dt$ и подставим силу сопротевления:
$$kv^2=\rho Sv(u-v)$$
Раскроем скобки
$$kv=\rho Su-\rho Sv$$
Решаем, получив ответ:
$$\boxed{v=\frac{\rho Su}{\rho S+k}}$$