Решение

Перейдём в систему отсчёта связанную с центром масс системы. В данной системе кинетическую энергию тел можна представить как сумму кинетической энергии центра масс и кинетической энергии относительного движения тел:

$$K=\frac{1}{2}(m_{1}+m_{2})V_{ЦМ}+\frac{1}{2}\cdot\frac{m_{1}m_{2}}{m_{1}+m_{2}}\upsilon_{отн}^{2}$$

Поскольку внешние силы равны и противоположны, результирующая сила равна 0, значит центр масс остаётся неподвижным $V_{ЦМ}=0$. Тогда:

$$K=\frac{1}{2}\cdot\frac{m_{1}m_{2}}{m_{1}+m_{2}}\upsilon_{отн}^{2}$$

Запишем закон сохранения энергии: вся работа внешних сил идёт в потенциальную энергию пружины и кинетическую энергию относительного движения.

При суммарном растяжении пружины $r=\Delta x_{1}+\Delta x_{2}$ общая работа внешних сил:

$$A=F\cdot r$$

Потенциальная энергия пружины:

$$U=\frac{1}{2}kr^{2}$$

Тогда закон сохранения энергии примет вид:

$$Fr=\frac{1}{2}kr^{2}+K\Longrightarrow K=Fr-\frac{1}{2}kr^{2}$$

Максимум функции кинетической энергии достигается при:

$$\frac{dK}{dr}=F-kr=0\Longrightarrow r=\frac{F}{k}$$

Подставляем:

$$K_{макс}=F\cdot\frac{F}{k}-\frac{1}{2}k\left( \frac{F}{k} \right)^{2}=\frac{F^{2}}{2k}$$

Максимальная потенциальная энергия пружины приобретается в момент максимального растяжения пружины. В этой точке $\upsilon_{отн}=0$ и значит $K=0$. Тогда закон сохранения энергии можна переписать в следующем виде:

$$Fr_{макс}=\frac{1}{2}kr_{макс}^{2}\Longrightarrow r_{макс}=\frac{2F}{k}$$

Тогда:

$$U_{макс}=\frac{1}{2}kr_{макс}^{2}=\frac{1}{2}k\left( \frac{2F}{k} \right)^{2}=\frac{2F^{2}}{k}$$

Максимальная относительная скорость происходит в момент максимальной кинетической энергии:

$$\frac{1}{2}\cdot\frac{m_{1}m_{2}}{m_{1}+m_{2}}\upsilon_{отн}^{2}=K_{макс}=\frac{F^{2}}{2k}$$

Отсюда выразим $\upsilon_{отн}$:

$$\upsilon_{отн}=F\sqrt{\frac{m_{1}+m_{2}}{km_{1}m_{2}}}$$