Решение

Что бы нижний груз оторвался от пола, в момент отрыва сиоа реакции опоры должна быть равна нулю, а для этого нам нужно приравнять силу упрогости в этот момент к весу нижнего груза:
$$m_2g=kx_2$$
Выразим удлинение в этот момент:
$$x_2=\frac{m_2g}{k}$$
До того, как сила перестает действовать, уравнение статики выглядит так:
$$F+m_1g=kx_1$$
А закон сохранения энергии после действия силы так:
$$\frac{kx_1^2}{2}=\frac{kx_2^2}{2}+mg(x_1+x_2)$$
Подставим удлинение:
$$\frac{kx_1^2}{2}=\frac{m_2^2g^2}{2k}+mgx_1+\frac{m_1m_2g^2}{k}$$
Получаем квадратное уравнение для сжатия:
$$\frac{kx_1^2}{2}-mgx_1-\frac{m_2g^2}{2k}(2m_1+m_2)=0$$
Прирешении можем прийти к этому выраению:
$$x_1=\frac{g}{k}(m_1\pm(m_1+m_2))$$
Т.к. расстояние не может быть отрицательным, правильный ответ со знаком плюс перед дискриминантом:
$$x_1=\frac{g}{k}(2m_1+m_2)$$
Выразим силу из уравнения статики:
$$F=kx_1-m_1g$$
Подставим сжатие:
$$\boxed{F=(m_1+m_2)g}$$