Решение

Пункт а

Пусть свободный конец, на который не действует сила в координате $x = 0$. Из задач этого раздела смещение стоячей волны удовлетворяет такому подобранному закону

$$Y = A\cos\left(kx\right)\sin\left(\omega t\right),$$

где $A$ есть амплитуда смещения стоячей волны, $k = 2\pi/\lambda$. То есть на этом свободном конце пучность смещения: $\cos\left(kx\right)$ максимален.

Найдем закон для деформации $\varepsilon$:

$$\varepsilon = \frac{\partial Y}{\partial x} = -kA\sin\left(kx\right)\sin\left(\omega t\right).$$

Найдем закон для напряжения (изменения давления) в стержне:

$$\sigma \equiv \Delta P = -E\varepsilon = EkA\sin\left(kx\right)\sin\left(\omega t\right)$$

или

$$\sigma = \sigma_0\sin\left(kx\right)\sin\left(\omega t\right)\tag{1}$$

Максимум напряжения стоячей в месте действия силы $x = -L$ должен равняться максимуму напряжения $\sigma^*$ этой силы:

$$\sigma^* = \sigma_0\left|\sin\left(-kL\right)\right|$$

или с учетом интереса к положительным значениям

$$\sigma^* = \sigma_0\sin\left(kL\right).$$

То есть максимум силы внешней

$$\boxed{F^* = \sigma^*S = \sigma_0S\sin\left(\frac{2\pi}{\lambda}L\right).}$$

Узлы напряжений (нули) $(1)$ будут на расстояниях $\dfrac{\lambda}{2}n$, где $n$ есть целое.

Пункт б

Функция $\sigma_0S/F^*$ после упрощения

$$\frac{\sigma_0S}{F^*} = \frac{1}{\sin\left(\dfrac{\omega L}{c}\right)}.$$

Построение:

Функция $\sigma_0S/F^*$ будет неограниченно возрастать, когда знаменатель ее выражения будет нулевым при условии:

$$\frac{\omrga^{\max}L}{c} = n\pi,$$

где $n$ есть целое.

Отсюда

$$\boxed{\omega^{\max} = \frac{n\pi c}{L}.}$$