Решение

Сначала рассмотрим движение частиц до момента увеличения скорости одной из частиц. Частицы вращаются вокруг общего центра масс под действием силы кулоновского притяжения. Пусть расстояние между частицами - $r$, скорость частицы с массой $m$ обозначим $\upsilon$, скорость частицы с массой $M$ обозначим $V$. Кулоновская сила сообщает частицам центростремительное ускорение, запишем второй закон Ньютона для обеих частиц:

$$\frac{m\upsilon^{2}}{r_{m}}=\frac{kq^{2}}{r^{2}} \tag{1}$$
$$\frac{MV^{2}}{r_{M}}=\frac{kq^{2}}{r^{2}} \tag{2}$$

где $\left| q \right|$ - заряд частиц; $r_{m}$ - радиус орбиты частицы массы $m$; $r_{M}$ - радиус орбиты частицы массы $M$:

$$r=r_{m}+r_{M} \tag{3}$$

Согласно закону сохранения импульса (изначально система замкнута, центр масс покоится):

$$m\upsilon=MV \Longrightarrow \frac{\upsilon}{V}=\frac{M}{m} \tag{4}$$

Используя уравнения (1)-(4) найдём:

$$r_{m}=\frac{M}{m+M}r$$
$$r_{M}=\frac{m}{m+M}r$$

Можно выразить $\upsilon^{2}$:

$$\upsilon^{2}=\frac{kq^{2}}{m}\cdot \frac{r_{m}}{r^{2}}=\frac{kq^{2}}{m}\cdot \frac{\frac{M}{m+M}r}{r^{2}}=\frac{kq^{2}M}{m(m+M)r} \tag{5}$$

Теперь рассмотрим, что происходит с нашей системой, когда частице с массой $m$ мгновенно увеличивают скорость в $n$ раз: $\vec \upsilon^{'}=n\vec \upsilon$. Это внешнее воздействие приводит к тому, что импульс системы больше не равен нулю, и теперь центр масс движется. Перейдём в систему отсчёта, связанную с центром масс системы. Полную энергию системы, с использованием теоремы Кёнига для кинетических энергий центра масс и относительного движения, можно записать:

$$E=K_{ЦМ}+K_{отн}+U$$

Поскольку в процессе разлёта частиц нас интересует только их относительное движение, то критерием минимальности скорости $\upsilon^{'}$ будет:

$$K_{отн}+U=0 \tag{6}$$

В этом случае траектории частиц перестают быть замкнутыми.

Потенциальная энергия взаимодействия разноименных зарядов:

$$U=-\frac{kq^{2}}{r}$$

Кинетическая энергия относительного движения в системе центра масс:

$$K_{отн}=\frac{1}{2}\mu \upsilon_{отн}^{2}$$

где $\mu=\frac{mM}{m+M}$ приведённая масса системы, $\upsilon_{отн}$ - относительная скорость частиц в системе центра масс:

$$\vec \upsilon_{отн}=\vec \upsilon_{m}^{ЦМ}-\vec \upsilon_{M}^{ЦМ} \tag{7}$$

здесь $\vec \upsilon_{m}^{ЦМ}$ - скорость частицы с массой $m$ в системе центра масс, $\upsilon_{M}^{ЦМ}$ - скорость частицы с массой $M$ в системе центра масс.

Связь скоростей частиц при переходе из системы отсчёта, связанной с Землей, в систему отсчёта центра масс:

$$\vec \upsilon_{m}^{ЦМ}=\vec \upsilon^{'}-\vec V_{ЦМ} \tag{8}$$
$$\vec \upsilon_{M}^{ЦМ}=\vec V^{'}-\vec V_{ЦМ} \tag{9}$$

При мгновенном изменении скорости частицы с массой $m$ другая частица не успевает мгновенно среагировать на это воздействие, поэтому в первый момент её скорость такая, какой была и до воздействия: $\vec V^{'}=\vec V$. Согласно (4) в векторной форме: $\vec V=-\frac{m}{M}\vec \upsilon$.

Подставим (8) и (9) в (7):

$$\vec \upsilon_{отн}=\vec \upsilon^{'}-\vec V_{ЦМ}-\vec V^{'}+\vec V_{ЦМ}=\vec \upsilon^{'}-\vec V^{'}=n\vec \upsilon-\vec V=n\vec \upsilon+\frac{m}{M}\vec \upsilon=\left( n+\frac{m}{M} \right)\vec \upsilon$$

$$\upsilon_{отн}^{2}=\left( n+\frac{m}{M} \right)^{2}\upsilon^{2}$$

Выразим $K_{отн}$:

$$K_{отн}=\frac{1}{2}\mu \upsilon_{отн}^{2}=\frac{1}{2}\cdot\frac{mM}{m+M}\left( n+\frac{m}{M} \right)^{2}\upsilon^{2}$$

Подставим в (6):

$$\frac{1}{2}\cdot\frac{mM}{m+M}\left( n+\frac{m}{M} \right)^{2}\upsilon^{2}-\frac{kq^{2}}{r}=0$$

Подставим $\upsilon^{2}$ из выражения (5):

$$\frac{1}{2}\cdot\frac{mM}{m+M}\left( n+\frac{m}{M} \right)^{2}\frac{kq^{2}M}{m(m+M)r}-\frac{kq^{2}}{r}=0$$

Сократим на $\frac{kq^{2}}{r}$ и упростим:

$$\frac{M^{2}}{\left( m+M \right)^{2}}\left( n+\frac{m}{M} \right)^{2}=2$$

Извлекаем корень:

$$\frac{M}{m+M}\left( n+\frac{m}{M} \right)=\sqrt{2}$$

Выразим $n$:

$$n=\sqrt{2}\cdot \frac{m+M}{M}-\frac{m}{M}$$
$$n=(\sqrt{2}-1)\frac{m}{M}+\sqrt{2}$$