Решение

Введём обозначения: $m_{1}$ — масса налетающей частицы, её скорость до столкновения - $\vec\upsilon_{1}$, а после столкновения - $\vec u_{1}$; $m_{2}$ — масса покоящейся частицы, её скорость после столкновения $\vec u_{2}$. Наша система замкнута и изолирована, поэтому в ней выполняется закон сохранения импульса и закон сохранения энергии. Направим ось $X$ вдоль движения налетающей частицы по направлению её скорости, а ось $Y$ - перпендикулярно вверх. По закону сохранения энергии:

$$\frac{1}{2}m_{1}\upsilon_{1}^{2}=\frac{1}{2}m_{1}u_{1}^{2}+\frac{1}{2}m_{2}u_{2}^{2} \tag{1}$$

Закон сохранения импульса в проекции на ось $X$:

$$m_{1}\upsilon_{1}=m_{1}u_{1}\cos\alpha+m_{2}u_{2}\cos\beta \tag{2}$$

Закон сохранения импульса в проекции на ось $Y$:

$$0=m_{1}u_{1}\sin\alpha-m_{2}u_{2}\sin\beta \tag{3}$$

Из выражения (3) определим $u_{2}$:

$$u_{2}=\frac{m_{1}\sin\alpha}{m_{2}\sin\beta}u_{1} \tag{4}$$

Подставим в выражение (2):

$$m_{1}\upsilon_{1}=m_{1}u_{1}\cos\alpha+m_{2}\frac{m_{1}\sin\alpha}{m_{2}\sin\beta}u_{1}\cos\beta$$
$$\upsilon_{1}\sin\beta=u_{1}(\cos\alpha\sin\beta+\sin\alpha\cos\beta)$$
$$u_{1}=\frac{\upsilon_{1}\sin\beta}{\sin(\alpha+\beta)} \tag{5}$$

Подставим в (4):

$$u_{2}=\frac{m_{1}\sin\alpha}{m_{2}\sin\beta}\frac{\upsilon_{1}\sin\beta}{\sin(\alpha+\beta)}$$
$$u_{2}=\frac{m_{1}\sin\alpha}{m_{2}\sin(\alpha+\beta)}\upsilon_{1} \tag{6}$$

Закон сохранения энергии перепишем в виде:

$$\upsilon_{1}^{2}=u_{1}^{2}+\frac{m_{2}}{m_{1}}u_{2}^{2}$$

Подставим значения $u_{1}$ и $u_{2}$: