Поскольку колба тонкостенная, преломлением луча в стекле можно пренебречь: свет фактически преломляется один раз --- на границе жидкость--полость колбы (внутри колбы будем считать среду воздухом, $n_{\text{возд}}\approx 1$). Радиус пучка $R_0$ много меньше радиуса колбы $R$, поэтому все углы, возникающие в задаче, малы, и можно всюду заменять синусы и тангенсы самими углами (параксиальное приближение). Задача сводится к тому, чтобы (а) связать угол преломления $\beta$ с углом падения $\alpha$ через закон Снелла, и (б) отдельно связать эти же углы через геометрию распространения луча внутри колбы, используя данное в условии удвоение диаметра пучка.
\textbf{1. Угол падения луча на входе.} Рассмотрим крайний луч пучка, идущий на расстоянии $R_0$ от оптической оси. Он попадает на сферу в точке $A$, где радиус $OA$ (нормаль к поверхности) составляет с осью малый угол $\alpha$: $$\sin\alpha = \frac{R_0}{R} \;\;\Longrightarrow\;\; \alpha \approx \frac{R_0}{R}.$$
\textbf{2. Закон преломления на границе жидкость--воздух.} На входе луч переходит из жидкости (показатель преломления $n$) в полость колбы (воздух, показатель преломления $\approx 1$): $$n\sin\alpha = \sin\beta \;\;\Longrightarrow\;\; n\alpha \approx \beta,$$ где $\beta$ --- угол между преломлённым лучом и радиусом $OA$.
\textbf{3. Геометрия луча внутри колбы.} Введём систему координат с началом в центре колбы $O$; ось $x$ направим вдоль оптической оси пучка. В параксиальном приближении точка входа $A \approx (-R,\, R_0)=(-R,\,R\alpha)$.
Нормаль $OA$ образует с осью угол $\alpha$, а преломлённый луч образует с той же нормалью угол $\beta$ (причём $\beta>\alpha$, так как $n>1$: луч отклоняется от нормали при переходе в менее плотную среду). Несложно показать, что при этом направление преломлённого луча составляет с оптической осью угол $$\gamma = \beta-\alpha$$ (луч отклоняется от оси на этот угол наружу --- это тот же эффект, что даёт, например, пузырёк воздуха в воде, действующий как рассеивающая линза).
Пройдя внутри колбы путь, горизонтальная проекция которого в параксиальном приближении равна $\approx 2R$ (от одной стороны сферы до другой), луч поднимется на дополнительную высоту $2R\gamma = 2R(\beta-\alpha)$. Высота луча у противоположной стенки колбы: $$y_B = R_0 + 2R(\beta-\alpha) = R\alpha + 2R(\beta-\alpha) = R(2\beta-\alpha).$$
\textbf{4. Условие удвоения диаметра пучка.} По условию высота луча у противоположной стенки должна равняться $2R_0=2R\alpha$: $$R(2\beta-\alpha) = 2R\alpha \;\;\Longrightarrow\;\; 2\beta-\alpha=2\alpha \;\;\Longrightarrow\;\; 2\beta=3\alpha \;\;\Longrightarrow\;\; \beta = 1{,}5\,\alpha.$$
\textbf{5. Показатель преломления жидкости.} Сопоставляя с законом преломления $n\alpha=\beta$ из пункта 2: $$n = \frac{\beta}{\alpha} = 1{,}5.$$
