Решение

Запишем расстояние от первой звезды до центра масс, вокруг которого вращаются звезды:
$$x=\frac{m_2R}{m_1+m_2}$$
Запишем уравнение равновесия, при круговом движении:
$$\frac{\gamma m_1m_2}{R^2}=m_1\omega^2x$$
Сократим что можем, выразив квадрат угловой скорости через период:
$$\frac{\gamma m_2}{R^2}=\frac{4\pi^2}{T^2}\frac{m_2R}{m_1+m_2}$$
Выразим квадрат периода:
$$T^2=4\pi^2\frac{R^3}{\gamma (m_1+m_2)}$$
Получим ответ:
$$\boxed{T=2\pi\sqrt{\frac{R^3}{\gamma (m_1+m_2)}}}$$