а) Из треугольника ABC по теореме Пифагора:
\(A{B^2} = A{C^2} + B{C^2}\,\,\,\,\,\, \Leftrightarrow \,\,\,\,\,\,AB = \sqrt {{{15}^2} + {8^2}} = 17.\)
Поскольку первая окружность проходит через вершину C прямого угла треугольника ABC, а её центр лежит на катете BC, то прямая AC касается этой окружности в точке C.
Центр окружности, вписанной в угол, лежит на его биссектрисе, поэтому AO – биссектриса угла CAB.
Пусть \(\angle KAO = \angle OAB = {\rm{\alpha }}\), тогда \(\angle CAB = 2{\rm{\alpha }}\).
По определению косинуса из треугольника ABC:
\(\cos 2{\rm{\alpha }} = \dfrac{{AC}}{{AB}} = \dfrac{{15}}{{17}}\,\,\,\,\,\,\, \Leftrightarrow \,\,\,\,\,\,\,2{\cos ^2}{\rm{\alpha }}-1 = \dfrac{{15}}{{17}}\,\,\,\,\,\,\, \Leftrightarrow \,\,\,\,\,\,\,{\cos ^2}{\rm{\alpha }} = \dfrac{{16}}{{17}}\,\,\,\,\,\,\, \Leftrightarrow \,\,\,\,\,\,\,\cos {\rm{\alpha }} = \dfrac{4}{{\sqrt {17} }}.\)
Тогда из основного тригонометрического тождества:
\({\sin ^2}{\rm{\alpha }} + {\cos ^2}{\rm{\alpha }} = 1\,\,\,\,\,\, \Leftrightarrow \,\,\,\,\,\,\,\sin {\rm{\alpha }} = \dfrac{1}{{\sqrt {17} }}.\)
Тогда:
\(\,{\mathop{\rm tg}\nolimits} {\rm{\alpha }} = \dfrac{{\sin {\rm{\alpha }}}}{{\cos {\rm{\alpha }}}} = \dfrac{1}{{\sqrt {17} }} \cdot \dfrac{{\sqrt {17} }}{4} = \dfrac{1}{4}.\)
Пусть \(KO = r\). Из прямоугольного треугольника AKO:
\({\mathop{\rm tg}\nolimits} {\rm{\alpha }} = \dfrac{{KO}}{{AK}} = \dfrac{r}{{AK}} = \dfrac{1}{4}\,\,\,\,\,\,\,\, \Leftrightarrow \,\,\,\,\,\,\,r = \dfrac{{AK}}{4}.\)
Так как \(AK < AC\), то \(r < \dfrac{{AC}}{4}\). Что и требовалось доказать.
б) Пусть H – проекция точки O1 на прямую OK. Тогда четырёхугольник CKHO1 является прямоугольником. Из пункта а) нам известно, что \(AK = 4r\). Тогда:
\(KC = AC-AK = 15-4r = H{O_1}\).
\(HO = KO-C{O_1} = r-2,5;\,\,\,\,O{O_1} = r + C{O_1} = r + 2,5\).
Тогда из треугольника \(O{O_1}H\) по теореме Пифагора:
\(O{O_1}^2 = H{O^2} + {O_1}{H^2}\,\,\,\,\, \Leftrightarrow \,\,\,\,\,\,\,{\left( {r + 2,5} \right)^2} = {\left( {r-2,5} \right)^2} + {\left( {15-4r} \right)^2}\,\,\,\,\,\,\, \Leftrightarrow \)
\( \Leftrightarrow \,\,\,\,{r^2} + 5r + 6,25 = {r^2}-5r + 6,25 + 225-120r + 16{r^2}\,\,\,\,\,\,\, \Leftrightarrow \,\,\,\,\,\,\,16{r^2}-130r + 225 = 0.\)
Корни квадратного уравнения \({r_1} = \dfrac{{45}}{8},\,\,\,\,{r_2} = \dfrac{5}{2} = 2,5\), но так как \(r < \dfrac{{AC}}{4} = \dfrac{{15}}{4} = \dfrac{{30}}{8}\), то \({r_1}\) не подходит. Следовательно, радиус искомой окружности равен 2,5.
Ответ: 2,5.