Решение

Запишем закон сохранения энергии для верхнего шарика:

$$mgl=\frac{mv^2}{2}+mgl\sin\alpha$$

Выразим квадрат скорости:

$$v^2=2gl(1-\sin\alpha)$$

Запишем уравнение статики вдоль стержня:

$$N+\frac{mv^2}{l}=mg\sin\alpha$$

Сила реакции стержня:

$$N=mg(3\sin\alpha-2)$$

Т.к. нам нужна горизонатльная сила, найдем проекцию силы реакции на горизональ:

$$F=N\cos\alpha$$

Отсюда найдем ответ:

$$\boxed{F=mg\cos\alpha(3\sin\alpha-2)}$$

Видно, что если

$$\sin\alpha\leq 2/3$$

То сила равняется нулю, т.к. на стену давления не будет

$$F=0$$