Решение

Перейдём в систему отсчёта связанную с центром масс системы, тогда полная механическая энергия системы $E$:

$$E=\frac{1}{2}MV_{ЦМ}^{2}+\frac{1}{2}\sum_{i=1}^{N}m_{i}u_{i}^{2}+U_{пот}$$

где $V_{ЦМ}$ - скорость центра масс, $M=\sum_{i=1}^{N}m_{i}$ - масса всей системы, $u_{i}=\upsilon_{i}-V_{ЦМ}$ - скорость $i$-й частицы относительно центра масс, $U_{пот}$ - потенциальная энергия взаимодействия частиц между собой.

По определению внутренней энергии системы:

$$U_{внутр}=\frac{1}{2}\sum_{i=1}^{N}m_{i}u_{i}^{2}+U_{пот}$$

Следовательно,

$$E=\frac{1}{2}MV_{ЦМ}^{2}+U_{внутр}$$

Если $V_{ЦМ}=0$, тогда полная механическая энергия системы сводится к внутренней.

Теперь ответим на второй вопрос.

Обозначим внешние и внутренние силы на $i$-ю частицу как $\vec F_{i}^{внеш}$ и $\vec F_{i}^{внут}$. Пусть $\vec r_{i}$ - радиус-вектор частицы, $\vec R$ - радиус-вектор центра масс, $\vec \xi_{i}=\vec r_{i}-\vec R$ - положение частицы относительно центра масс. Тогда:

$$d\vec r_{i}=d\vec R+d\vec\xi_{i}$$

По теореме об изменении кинетической энергии:

$$dK_{общ}=\sum_{i=1}^{N}\left( \vec F_{i}^{внеш}+\vec F_{i}^{внут} \right)d\vec r_{i}=\sum_{i=1}^{N}\left( \vec F_{i}^{внеш}+\vec F_{i}^{внут} \right)\left( d\vec R+d\vec\xi_{i} \right)$$

Раскроем скобки:

$$dK_{общ}=\sum_{i=1}^{N}\vec F_{i}^{внеш}\cdot d\vec R+\sum_{i=1}^{N}F_{i}^{внеш}\cdot d\vec\xi_{i}+\sum_{i=1}^{N}\vec F_{i}^{внут}\cdot d\vec R+\sum_{i=1}^{N}\vec F_{i}^{внут}\cdot d\vec\xi_{i}$$

Поскольку $\sum_{i=1}^{N}\vec F_{i}^{внеш}=\vec F_{внеш}^{рез}$ - результирующая сила внешних сил, действующих на систему и по третьему закону Ньютона для внутренних сил: $\sum_{i=1}^{N}\vec F_{i}^{внут}=0$, тогда:

$$dK_{общ}=\vec F_{внеш}^{рез}\cdot d\vec R+\sum_{i=1}^{N}F_{i}^{внеш}\cdot d\vec\xi_{i}+\sum_{i=1}^{N}\vec F_{i}^{внут}\cdot d\vec\xi_{i}$$