Решение

В сферически симметричном случае приращение гидростатического давления при изменении радиуса на $dr$ будет:

$$dP_{r}=\rho g(r)dr$$

где $g(r)$ - ускорение свободного падения на расстоянии $r$ от центра.

По теореме Гаусса, гравитационное ускорение внутри сферы радиуса $r$ определяется массой, заключенной в сфере радиуса $r$:

$$M(r)=\frac{4}{3}\pi r^{3}\rho$$

По закону всемирного тяготения Ньютона:

$$g(r)=\frac{\gamma M(r)}{r^{2}}=\frac{4}{3}\pi \gamma \rho r$$

Подставим в выражение для давления:

$$dP_{r}=\rho \frac{4}{3}\pi \gamma \rho rdr$$

Проинтегрируем от $r$ до $R$ с учетом граничного условия $P_{r}(R)=0$ на поверхности планеты гидростатическое давление равно нулю.

$$P_{r}(r)=\int_{r}^{R}\frac{4}{3}\rho^{2}\pi \gamma rdr=\frac{2}{3}\rho^{2}\pi \gamma \left( R^{2}-r^{2} \right)$$

В центре планеты $r=0$ давление будет:

$$P_{r}(0)=\frac{2}{3}\rho^{2}\pi \gamma R^{2}$$