Решение

Пусть $\mathcal{E}$ - искомая энергия. Запишем релятивистский инвариант для начального состояния:
$$I=4\mathcal{E}^2-(\vec{p_{e^+}}+\vec{p_{e^-}})^2c^2\tag{1}$$
Обратите внимание, сумма импульсов векторная! Также важно, что инвариант не равен квадрату суммы энергий покоя электрона и позитрона. Ведь по определению
$$I=M_{\text{сист}}^2 c^4= \biggl(\sum_i E_i\biggr)^{2} - \biggl(\sum_i \mathbf{p}_i\biggr)^{2} c^2$$
И направления импульсов входящих в систему частиц влияют на результат. Формулируя по другому: масса покоя системы не обязательно равна сумме масс покоя её компонентов. Но вернёмся к задаче.

Обозначим $p_{e^+}=p_{e^-}=p$, причем для каждой частицы
$$\mathcal{E}^2=p^2c^2+m_e^2c^4\tag{2}$$
Тогда, аккуратно перемножив векторы и используя тригонометрию:
$$I=4\mathcal{E}^2-2p^2c^2(1+\cos\alpha)=4\mathcal{E}^2-4(\mathcal{E}^2-m_e^2c^4)\cos^2\frac{\alpha}{2}$$
$$I=4\mathcal{E}^2\sin^2\frac{\alpha}{2}+4m_e^2c^4\cos^2\frac{\alpha}{2}\tag{3}$$
Чтобы энергия, затраченная на образование пары, была минимальной, конечные частицы должны покоиться относительно друг друга. Инвариант в этом частном случае как раз равен квадрату суммы энергий покоя частиц
$$I=(2m_pc^2)^2\tag{4}$$
Приравняем $(3)=(4)$ и немного преобразуем:
$$\mathcal{E}^2\sin^2\frac{\alpha}{2}=m_p^2c^4-m_e^2c^4\cos^2\frac{\alpha}{2}$$
$$\mathcal{E} = m_p c^2 \sqrt{1 + \left(1 − \frac{m_e^2}{m_p^2} \right) \cot^2\frac{\alpha}{2} }$$
Можно проанализировать: при $\alpha=\pi$ (встречные пучки) $\mathcal{E}=m_pc^2$; при $\alpha=0$ реакция невозможна