Решение

Общий заряд шара:

$$Q=\frac{4}{3}\rho\pi R^{3}$$

Найдём напряжённость поля внутри шара $0\lt r\lt R$. Для этого воспользуемся теоремой Гаусса. Выберем сферическую поверхность радиуса $r\lt R$. Заряд внутри этой поверхности:

$$q=\frac{4}{3}\rho\pi r^{3}$$

По теореме Гаусса:

$$E(r)\cdot 4\pi r^{2}=\frac{q}{\varepsilon_{0}}=\frac{4\rho\pi r^{3}}{3\varepsilon_{0}}$$
$$E(r)=\frac{\rho r}{3\varepsilon_{0}} \tag{1}$$

Теперь найдём напряжённость поля снаружи шара $r\gt R$. Весь заряд $Q$ заключён внутри сферы, тогда по теореме Гаусса:

$$E(r)\cdot 4\pi r^{2}=\frac{Q}{\varepsilon_{0}}=\frac{4\rho\pi R^{3}}{3\varepsilon_{0}}$$
$$E(r)=\frac{\rho R^{3}}{3\varepsilon_{0}r^{2}} \tag{2}$$

Найдём потенциал снаружи шара $r\gt R$. На бесконечности потенциал равен нулю $\varphi(\infty )=0$. По определению разности потенциалов:

$$\varphi(r)-\varphi(\infty )=\frac{A_{r\infty }}{q_{0}}=\int_{r}^{\infty }E(r^{'})dr^{'}$$

Используем формулу для напряжённости поля снаружи шара (2):

$$\varphi(r)=\int_{r}^{\infty }\frac{\rho R^{3}}{3\varepsilon_{0}r^{'2}}dr^{'}=\frac{\rho R^{3}}{3\varepsilon_{0}}\left[ -\frac{1}{r^{'}} \right]_{r}^{\infty }=\frac{\rho R^{3}}{3\varepsilon_{0}r} \tag{3}$$

Потенциал на поверхности шара:

$$\varphi(R)=\frac{\rho R^{3}}{3\varepsilon_{0}R}=\frac{\rho R^{2}}{3\varepsilon_{0}} \tag{4}$$

Найдём потенциал внутри шара $0\lt r\lt R$. По определению разности потенциалов:

$$\varphi(r)-\varphi(R)=\frac{A_{rR}}{q_{0}}=\int_{r}^{R}E(r^{'})dr^{'}$$
$$\varphi(r)=\varphi(R)+\int_{r}^{R}E(r^{'})dr^{'}$$

Используем формулу для напряжённости поля внутри шара (1):

$$\varphi(r)=\frac{\rho R^{2}}{3\varepsilon_{0}}+\int_{r}^{R}\frac{\rho r^{'}}{3\varepsilon_{0}}dr^{'}=\frac{\rho R^{2}}{3\varepsilon_{0}}+\frac{\rho}{3\varepsilon_{0}}\left[ \frac{1}{2}r^{'2} \right]_{r}^{R}=\frac{\rho R^{2}}{3\varepsilon_{0}}+\frac{\rho}{6\varepsilon_{0}}(R^{2}-r^{2})$$

$$\varphi(r)=\frac{\rho R^{2}}{3\varepsilon_{0}}+\frac{\rho}{6\varepsilon_{0}}(R^{2}-r^{2})=\frac{\rho}{2\varepsilon_{0}}\left( R^{2}-\frac{r^{2}}{3} \right) \tag{5}$$