Решение

Здесь под массой фотона имеется в виду эквивалентная масса энергии фотона $E$:

$$m=\frac{E}{c^{2}}$$

Импульс фотона:

$$p=\frac{E}{c}=mc$$

В начале атом у нас находится в возбуждённом состоянии с массой покоя $M$, а после испускания фотона, он переходит в более низкое энергетическое состояние с массой покоя $M^{'}$ и движется со скоростью "отдачи" $\upsilon$. Запишем закон сохранения энергии:

$$Mc^{2}=\frac{M^{'}c^{2}}{\sqrt{1-\frac{\upsilon^{2}}{c^{2}}}}+mc^{2}$$

Отсюда:

$$\frac{M^{'}}{\sqrt{1-\frac{\upsilon^{2}}{c^{2}}}}=M-m \tag{1}$$

Запишем закон сохранения импульса вдоль оси испускания:

$$0=\frac{M^{'}\upsilon}{\sqrt{1-\frac{\upsilon^{2}}{c^{2}}}}-mc$$

Но учитывая (1), получим:

$$(M-m)\upsilon=mc\Longrightarrow \upsilon=\frac{mc}{M-m}$$