Решение

Запишем потенциальную энергию для начального и конечного моментов:
$$U_0=-2Fr$$

$$U=-FR$$

Из-за симметрии появляется два равнобедренных треугольника, один из углов которого $\alpha$, другие два $\beta=\frac{\pi}{2}-\frac{\alpha}{2}$

По теореме синусов найдем половину расстояния между телами в конечном моменте:
$$\frac{R}{2sin\alpha}=\frac{r}{cos\frac{\alpha}{2}}$$
Запишем синус угла как синус двойного угла $\frac{\alpha}{2}$
$$sin\alpha=2sin\frac{\alpha}{2}cos\frac{\alpha}{2}$$
Подставим:
$$\frac{R}{4sin\frac{\alpha}{2}cos\frac{\alpha}{2}}=\frac{r}{cos\frac{\alpha}{2}}$$
Выразим полное расстояние между телами:
$$R=4rsin\frac{\alpha}{2}$$
Разница между потенциальными энергиями есть работа:
$$A=U_0-U=-2Fr-(-FR)$$

$$A=F(R-2r)$$
Подставим:
$$A=F(4rsin\frac{\alpha}{2}-2r)$$
Получим ответ:
$$\boxed{A=2Fr(2sin\frac{\alpha}{2}-1)}$$
Работа равняется нулю только если:
$$2sin\frac{\alpha}{2}-1=0$$
Выразим синус половины угла:
$$sin\frac{\alpha}{2}=\frac{1}{2}$$
Значит:
$$\frac{\alpha}{2}=30°$$
Получем сам угол:
$$\boxed{\alpha=60°}$$