а) Пусть \(\angle BCA = \angle BAC = \angle HCA = \angle KAM = {\rm{\alpha }}.\) Из прямоугольного треугольника AHC:
\(\angle HAC = {90^ \circ }-{\rm{\alpha }} = \angle HAM.\)
Из прямоугольного треугольника AHM:
\(\angle AHM = {90^ \circ }-\angle HAM = {90^ \circ }-\left( {{{90}^ \circ }-{\rm{\alpha }}} \right) = {\rm{\alpha }}.\)
Четырёхугольник AHKM вписанный, так как \(\angle HKA = \angle HMA = {90^ \circ }.\) Следовательно, \(\angle AHM = \angle AKM = {\rm{\alpha }}\) как углы, опирающиеся на одну сторону AM этого четырёхугольника. Таким образом, \(\angle AKM = \angle KAM = {\rm{\alpha }}.\) Следовательно, треугольник AMK равнобедренный и \(AM = MK.\) Что и требовалось доказать.
б) В равнобедренном треугольнике ABC проведём высоту BP, которая будет являться медианой и биссектрисой. Тогда:
\(AP = CP = \dfrac{{AC}}{2} = \dfrac{5}{2} = 2,5.\)
По определению косинуса из прямоугольного треугольника BPC:
\(\cos {\rm{\alpha }} = \dfrac{{PC}}{{BC}} = \dfrac{{2,5}}{3} = \dfrac{5}{6}.\)
По основному тригонометрическому тождеству:
\({\sin ^2}{\rm{\alpha }} + {\cos ^2}{\rm{\alpha }} = 1\,\,\,\,\,\, \Leftrightarrow \,\,\,\,\,\,\sin {\rm{\alpha }} = \sqrt {1-{{\left( {\dfrac{5}{6}} \right)}^2}} = \dfrac{{\sqrt {11} }}{6}.\)
По определению синуса из прямоугольного треугольника AHC:
\(\sin {\rm{\alpha }} = \dfrac{{AH}}{{AC}}\,\,\,\,\,\, \Leftrightarrow \,\,\,\,\,\,\dfrac{{\sqrt {11} }}{6} = \dfrac{{AH}}{5}\,\,\,\,\,\, \Leftrightarrow \,\,\,\,\,\,AH = \dfrac{{5\sqrt {11} }}{6}.\)
По определению синуса из прямоугольного треугольника AHM:
\(\sin {\rm{\alpha }} = \dfrac{{AM}}{{AH}}\,\,\,\,\,\, \Leftrightarrow \,\,\,\,\,\,\dfrac{{\sqrt {11} }}{6} = \dfrac{{6AM}}{{5\sqrt {11} }}\,\,\,\,\,\, \Leftrightarrow \,\,\,\,\,\,AM = \dfrac{{55}}{{36}}.\)
Следовательно, \(MK = AM = \dfrac{{55}}{{36}}.\)
Ответ: \(\dfrac{{55}}{{36}}.\)