Решение

Геометрические параметры правильного тетраэдра с ребром $a$:
Площадь одной грани:
$$S = \frac{a^2 \sqrt{3}}{4}$$
Объем тетраэдра:
$$V = \frac{a^3 \sqrt{2}}{12}$$
Косинус двугранного угла при основании: $\cos\alpha = \frac{1}{3}$.
Синус этого угла: $\sin\alpha = \sqrt{1 - \left(\frac{1}{3}\right)^2} = \frac{2\sqrt{2}}{3}$.

Эту задачу можно решить двумя независимыми способами.

Способ 1: Использование закона Архимеда

Рассмотрим силы давления, действующие на замкнутую поверхность тетраэдра.
Сила давления на нижнюю горизонтальную грань направлена строго вертикально вверх. Давление на глубине $h$ равно $p = P + \rho gh$, поэтому:
$$F_{\text{осн}} = (P + \rho gh)S$$

Согласно закону Архимеда, равнодействующая сил гидростатического давления на замкнутую поверхность направлена вверх и равна $\rho g V$. Атмосферное давление $P$ действует на все грани и в сумме дает нулевой вклад в подъемную силу.

Обозначим искомую силу давления на одну боковую грань как $F$. В силу симметрии горизонтальные составляющие сил давления на три боковые грани взаимно компенсируются. Вертикальная составляющая силы давления на одну боковую грань направлена вниз и равна $F \cos\alpha$.

Запишем условие равновесия сил в проекции на вертикальную ось:
$$F_{\text{осн}} - 3F \cos\alpha = \rho g V$$
$$F_{\text{осн}} - 3F \cdot \frac{1}{3} = \rho g V \implies F_{\text{осн}} - F = \rho g V$$

Отсюда выражаем искомую силу $F$:
$$F = F_{\text{осн}} - \rho g V = (P + \rho gh)S - \rho g V$$

Подставим геометрические параметры:
$$F = (P + \rho gh) \frac{a^2 \sqrt{3}}{4} - \rho g \frac{a^3 \sqrt{2}}{12}$$

Способ 2: Через среднее давление (метод центроида)

Сила давления жидкости на плоскую фигуру равна произведению площади фигуры на давление в её геометрическом центре (центроиде):
$$F = p_{\text{ср}} S = (P + \rho g h_c) S$$
где $h_c$ — глубина расположения центра масс боковой грани.

Центр масс треугольника (боковой грани) лежит на расстоянии $1/3$ её высоты от основания. Высота грани $H_{\text{гр}} = \frac{a\sqrt{3}}{2}$. Значит, расстояние от дна тетраэдра до центроида вдоль самой грани равно:
$$l = \frac{H_{\text{гр}}}{3} = \frac{a\sqrt{3}}{6}$$

Спроецируем это расстояние на вертикальную ось, чтобы найти, на сколько центроид приподнят над нижней гранью:
$$\Delta z = l \sin\alpha = \frac{a\sqrt{3}}{6} \cdot \frac{2\sqrt{2}}{3} = \frac{a\sqrt{6}}{9}$$
заметим - что она равна 1/3 от высоты самого тетраэдра.

Тогда глубина центроида боковой грани:
$$h_c = h - \Delta z = h - \frac{a\sqrt{6}}{9}$$

Подставляем $h_c$ в формулу силы:
$$F = \left( P + \rho g \left( h - \frac{a\sqrt{6}}{9} \right) \right) \frac{a^2 \sqrt{3}}{4}$$

Раскроем скобки, чтобы показать идентичность результатов обоих способов:
$$F = (P + \rho gh) \frac{a^2 \sqrt{3}}{4} - \rho g \frac{a\sqrt{6}}{9} \cdot \frac{a^2\sqrt{3}}{4}$$
$$F = (P + \rho gh) \frac{a^2 \sqrt{3}}{4} - \rho g \frac{a^3 \sqrt{18}}{36} = (P + \rho gh) \frac{a^2 \sqrt{3}}{4} - \rho g \frac{a^3 \sqrt{2}}{12}$$

Оба метода привели к одному выражению. Для получения финального ответа сгруппируем слагаемые:
$$F = \frac{1}{4} P a^2 \sqrt{3} + \frac{3\sqrt{3}}{12} \rho g h a^2 - \frac{\sqrt{2}}{12} \rho g a^3$$
$$F = \frac{1}{12} \rho g a^2 (3\sqrt{3}h - \sqrt{2}a) + \frac{1}{4} P a^2 \sqrt{3}$$