Решение

Найдём уравнение движения. Запишем координаты шариков:
\begin{cases} x_1 = L\sin{\theta_1} \newline y_1 = L\cos{\theta_1} \newline x_2 = L\sin{\theta_1} + l\sin{\theta_2} \newline y_2 = L\cos{\theta_1} + l\cos{\theta_2} \end{cases}
Проекции скоростей на оси:
\begin{cases} \dot{x_1} = L\dot{\theta_1}\cos{\theta_1} \newline \dot{y_1} = -L\dot{\theta_1}\sin{\theta_1} \newline \dot{x_2} = L\dot{\theta_1}\cos{\theta_1} + l\dot{\theta_2}\cos{\theta_2} \newline \dot{y_1} = -L\dot{\theta_1}\sin{\theta_1} - l\dot{\theta_2}\sin{\theta_2} \end{cases}
Квадраты полных скоростей:
\begin{cases} v_1^2 = L^2\dot{\theta_1}^2 \newline v_2^2 = L^2\dot{\theta_1}^2 + l^2\dot{\theta_2}^2 + 2Ll\theta_1\theta_2\cos{(\theta_1-\theta_2)} \end{cases}
Запишем лагранжиан системы:
$$\mathcal{L} = \frac{1}{2}m(v_1^2 + v_2^2) - mg(y_1 + y_2) = \frac{1}{2}m(2L^2\dot{\theta_1}^2 + l^2\dot{\theta_2}^2 + 2Ll\theta_1\theta_2\cos{(\theta_1-\theta_2)}) - mg(2L\cos{\theta_1} + l\cos{\theta_2})$$
И воспользуемся уравнением Эйлера-Лагранжа:
\begin{cases} \frac{d}{dt}\frac{\partial\mathcal{L}}{\partial\dot{\theta_1}} - \frac{\partial\mathcal{L}}{\partial\theta_1} = 0 \newline \frac{d}{dt}\frac{\partial\mathcal{L}}{\partial\dot{\theta_2}} - \frac{\partial\mathcal{L}}{\partial\theta_2} = 0 \end{cases}
Откуда получаем систему уравнений движения при малых колебаниях:
\begin{cases} 2L\ddot{\theta_1} + l\ddot{\theta_2} + 2g\theta_1 = 0 \newline L\ddot{\theta_1} + l\ddot{\theta_2} + g\theta_2 = 0 \end{cases}
Или заменяя $\theta_j = A_je^{i\omega t}$:
\begin{cases} (-2L\omega^2 + 2g)A_1 + (-l\omega^2)A_2 = 0 \newline (-L\omega^2)A_1 + (-l\omega^2+g)A_2 = 0 \end{cases}
Или в матричной форме:
\begin{pmatrix} 2g-2L\omega^2 & -l\omega^2 \newline -l\omega^2 & g - l\omega^2 \end{pmatrix} \begin{pmatrix} A_1 \newline A_2 \end{pmatrix} = 0
Из условия нетривиального решения, определитель первой матрицы равен нулю:
$$(2g-2L\omega^2)(g-l\omega^2) - (-l\omega^2)(-L\omega^2) = 0 \quad \Rightarrow \quad Ll\omega^4 - 2g(L+l)\omega^2 + 2g^2 = 0$$
По теореме Виета:
$$\omega_1^2\omega_2^2 = \frac{2g^2}{Ll} \quad \Rightarrow \quad L = \frac{2g^2}{\omega_1^2\omega_2^2l}$$