Решение

Система замкнута и изолирована, поэтому можем применять законы сохранения массы, импульса, энергии. Закон сохранения энергии запишем в такой интерпритации - выделившаяся энергия $E$ равна изменению кинетической энергии системы:

$$E=(K_{1}+K_{2})-K_{0} \tag{1}$$

где начальная кинетическая энергия ядра: $K_{0}=\frac{p_{0}^{2}}{2M}$, кинетическая энергия осколков: $K_{1}=\frac{p_{1}^{2}}{2m_{1}}$, $K_{2}=\frac{p_{2}^{2}}{2m_{2}}$.

По закону сохранения массы: $M=m_{1}+m_{2}$. Подставим всё в (1):

$$E=\frac{p_{1}^{2}}{2m_{1}}+\frac{p_{2}^{2}}{2m_{2}}-\frac{p_{0}^{2}}{2(m_{1}+m_{2})} \tag{2}$$

Первоначальный импульс $p_{0}$ ядра найдём из закона сохранения импульса:

$$\vec p_{0}=\vec p_{1}+\vec p_{2}$$

Возведём это векторное уравнение в квадрат:

$$p_{0}^{2}=p_{1}^{2}+p_{2}^{2}+2\vec p_{1}\vec p_{2} \tag{3}$$

Поскольку угол между векторами $\vec p_{1}$ и $\vec p_{2}$ равен $θ$, то скалярное произведение этих векторов можно записать в виде:

$$\vec p_{1}\vec p_{2}=p_{1}p_{2}\cos\theta$$

Подставим это выражение в (3):

$$p_{0}^{2}=p_{1}^{2}+p_{2}^{2}+2p_{1}p_{2}\cos\theta$$

Теперь подставим выражение для $p_{0}^{2}$ в (2):

$$E=\frac{p_{1}^{2}}{2m_{1}}+\frac{p_{2}^{2}}{2m_{2}}-\frac{p_{1}^{2}+p_{2}^{2}+2p_{1}p_{2}\cos\theta}{2(m_{1}+m_{2})}$$

После приведения к общему знаменателю и упрощений получим:

$$E=\frac{p_{1}^{2}m_{2}^{2}+p_{2}^{2}m_{1}^{2}-2p_{1}p_{2}m_{1}m_{2}\cos\theta}{2m_{1}m_{2}(m_{1}+m_{2})}$$