Решение

Рассмотрим максимальное отклонение от положения равновесия на угол $\alpha$. Причём $\alpha\rightarrow0$. Колебания будут существовать при существовании устойчивого равновесия:

$$M_{mg} + M_{T} + M_{F_{К}} > 0$$

Момент силы натяжения нити равен:

$$M_{T} = 0$$

Момент силы тяжести равен:

$$M_{mg} = mgl\sin\alpha$$

Момент силы Кулона равен:

$$M_{F_{К}} = -F_{К}l\frac{l+h}{h}\sin\alpha$$

где $F_{К} = \frac{1}{4\pi\varepsilon_0}\cdot\frac{qQ}{h^2}$

В итоге мы получим условие существования колебаний:

$$mg > \frac{1}{4\pi{}\varepsilon{}_0} \cdot{} \frac{Qq(l+h)}{h^3}$$

Рассмотрим колебания на горизонтальной оси $x$:

$$ma_x = F_{К}\frac{l}{h}\sin\alpha - T\sin\alpha$$

где $\sin\alpha = \frac{x}{l}$

Так как колебания малые, то:

$$T \approx mg - F_{К}$$

И найдём проекцию ускорения на ось $x$:

$$a_x = -x\left(\frac{g}{l} - \frac{1}{4\pi{}\varepsilon{}_0} \cdot{} \frac{Qq(l+h)}{mlh^3}\right)$$

Из уравнения гармонических колебаний следует:

$$a_x = -\omega^2x$$

Тогда получим ответ:

$$\omega = \sqrt{\frac{g}{l}-\frac{1}{4\pi{}\varepsilon{}_0} \cdot{} \frac{Qq(l+h)}{mlh^3}}$$