Решение

0. $H$ — искомая высота.

1. Рассмотрим пучок шириной $dh$. Лучи на высоте $H$ и $H-dh$ принадлежат одному волновому фронту, а значит, оптические длины их путей должны быть равны.

2. Показатели преломления на высотах $H$ и $H-dh$:
   $$n_1 = n_0 - \alpha H, \qquad n_2 = n_0 - \alpha(H-dh)$$

3. Оптические пути:
   $$l_1 = n_1 (R+H)\,\Delta\beta, \qquad l_2 = n_2 (R+H-\Delta h)\,\Delta\beta$$

Из равенства $l_1 = l_2$:
$$(n_0-\alpha H)(R+H)\Delta\beta = \big(n_0-\alpha(H-dh)\big)(R+H-dh)\Delta\beta$$

Пренебрегаем членом $\alpha dh^2$ как величиной второго порядка малости:
$$n_0 dh= \alpha R dh + 2\alpha H dh$$

Сокращая на $dh$:
$$n_0 = \alpha R + 2\alpha H$$

$$\boxed{H = \frac{n_0 - \alpha R}{2\alpha} = \frac{1}{2}\left(\frac{n_0}{\alpha} - R\right)}$$