Решение

Будем использовать теорему Гаусса в форме
$$\oint \vec D d\vec S=Q$$
$D=\varepsilon_0 E$ в вакууме, $D=\varepsilon\varepsilon_0 E$ в диэлектрике. В такой формулировке учитываются только свободные заряды, то есть индуцированные заряды на поверхности диэлектрика можно игнорировать

Выберем в качестве гауссовой поверхности концетрическую сферу радиусом $\rho$. Естественно, при $\rho < r$ поле нулевое - так как в проводнике его может не быть.

$r\leq \rho< R:$
$$\varepsilon\varepsilon_0 E \cdot 4\pi\rho^2=Q$$
$$E_1 =\frac{Q}{ 4\pi\rho^2\varepsilon\varepsilon_0}$$
$\rho \geq R:$
$$\varepsilon_0 E \cdot 4\pi\rho^2=Q$$
$$E_2 =\frac{Q}{ 4\pi\rho^2\varepsilon_0}$$
Нанеся это на график, получим скачки на границах диэлектрика.

По определению, потенциал в точке на расстоянии $\rho$ от центра системы равен работе сил электрического поля по переносу единичного положительного заряда из этой точки в бесконечность:

$$\varphi(\rho) = \int_{\rho}^{\infty} E(\rho) \, d\rho$$

$\rho \ge R$:

$$\varphi(\rho) = \int_{\rho}^{\infty} \frac{Q}{4\pi \varepsilon_0 \rho^2} \, d\rho = \frac{Q}{4\pi \varepsilon_0} \left[ -\frac{1}{x} \right]_{\rho}^{\infty} = \frac{Q}{4\pi \varepsilon_0 \rho}$$

На границе диэлектрика ($\rho = R$):

$$\varphi(R) = \frac{Q}{4\pi \varepsilon_0 R}$$

$r\leq \rho< R:$

Используя свойство аддитивности интеграла, разобьем путь интеграл на две части (внутри диэлектрика и в вакууме):

$$\varphi(\rho) = \int_{\rho}^{R} E_1(\rho) d\rho + \int_{R}^{\infty} E_2(\rho) d\rho = \int_{\rho}^{R} \frac{Q}{4\pi \varepsilon_0 \varepsilon x^2} \, dx + \varphi(R)$$

$$\varphi(\rho) = \frac{Q}{4\pi \varepsilon_0 \varepsilon} \left[ -\frac{1}{x} \right]_{\rho}^{R} + \frac{Q}{4\pi \varepsilon_0 R} = \frac{Q}{4\pi \varepsilon_0 \varepsilon} \left( \frac{1}{\rho} - \frac{1}{R} \right) + \frac{Q}{4\pi \varepsilon_0 R}$$

Автор привёл это примерно к виду:

$$\varphi(\rho) = \frac{Q}{4\pi \varepsilon_0} \left[ \frac{1}{R} + \frac{1}{\varepsilon} \left( \frac{1}{\rho} - \frac{1}{R} \right) \right]$$

$0 \le \rho \le r:$

Так как внутри проводника электростатическое поле отсутствует ($E_1 = 0$), работа по перемещению заряда внутри шара равна нулю. Следовательно, потенциал во всех точках проводника одинаков и равен потенциалу на его поверхности ($\rho = r$):

$$\varphi(\rho) = \varphi(r) = \frac{Q}{4\pi \varepsilon_0} \left[ \frac{1}{R} + \frac{1}{\varepsilon} \left( \frac{1}{r} - \frac{1}{R} \right) \right]$$

Итоговое распределение потенциала:

$$\varphi(\rho) = \begin{cases} \dfrac{Q}{4\pi \varepsilon_0} \left[ \dfrac{1}{R} + \dfrac{1}{\varepsilon} \left( \dfrac{1}{r} - \dfrac{1}{R} \right) \right], & 0 \le \rho \le r \\ \dfrac{Q}{4\pi \varepsilon_0} \left[ \dfrac{1}{R} + \dfrac{1}{\varepsilon} \left( \dfrac{1}{\rho} - \dfrac{1}{R} \right) \right], & r < \rho \le R \\ \dfrac{Q}{4\pi \varepsilon_0 \rho}, & \rho > R \end{cases}$$

Нанесём это на график, тут уже никаких скачков нет. Графики будут выглядеть так:

Теперь найдем плотности зарядов на границе

На внутренней границе соприкасаются диэлектрик и проводник. По свойству проводника, весь заряд $Q$ шара сосредоточен на внутренней границе с диэлектриком, пусть его плотность равна
$$\sigma=\frac{Q}{4\pi r^2}\tag{1}$$
В Иродове для такого случая есть готовая формула,
$$\boxed{\sigma'=-\frac{\varepsilon-1}{\varepsilon}\sigma}\tag{2}$$
из этого можно сразу записать в ответ
$$\sigma_{in}=-\frac{(\varepsilon-1)Q}{4\pi\varepsilon r^2}$$
$(2)$ просто выводится. Поле вблизи проводника, измеряемое в диэлектрике:
$$E=\frac{\sigma}{\varepsilon\varepsilon_0}\tag{3}$$
Плотность индуцированного заряда определяется скачком поляризованности (нормаль к поверхности диэлектрика направлена к центру шара, против поля):
$$\sigma'=\vec P\cdot\vec n=-P=-(\varepsilon-1)\varepsilon_0E\tag{4}$$
Подставив $(3)$ в $(4)$ получим искомое. Обратите внимание: индуцированный заряд противоположен по знаку $Q$. Савченко не отразил это в ответе

Для внешней границы (нормаль направлена от центра) аналогично
$$\sigma'=\vec P\cdot\vec n=P=(\varepsilon-1)\varepsilon_0E\tag{5}$$
$$E=\frac{Q}{4\pi\varepsilon\varepsilon_0R^2}$$
Обратите внимание: мы всё еще рассматриваем поле внутри диэлектрика, отсюда и $\varepsilon$
$$\sigma_{out}=\frac{(\varepsilon-1)Q}{4\pi\varepsilon R^2}$$
На этот раз знак у автора он верен.