Запишем ОДЗ на параметр a:
\({a^2}-2a-8 \ge 0\;\;\;\; \Leftrightarrow \;\;\;\;\left( {a-4} \right)\left( {a + 2} \right) \ge 0\;\;\;\; \Leftrightarrow \;\;\;\;a \in \left( {-\infty ;-2} \right] \cup \left[ {4;\infty } \right).\)
\(D = {a^2}-2a-8 + 2,4a-25,6 = {a^2} + 0,4a-33,6.\)
Исходное уравнение будет иметь корни, если:
\({a^2} + 0,4a-33,6 \ge 0\;\;\;\; \Leftrightarrow \;\;\;\;a \in \left( {-\infty ;-6} \right] \cup \left[ {5,6;\infty } \right).\)
Так как \(a \in \left( {-\infty ;-2} \right] \cup \left[ {4;\infty } \right),\) то: \(a \in \left( {-\infty ;-6} \right] \cup \left[ {5,6;\infty } \right).\)
Воспользуемся теоремой Виета: \(\left\{ {\begin{array}{*{20}{c}}{{x_1} + {x_2} = -\sqrt {{a^2}-2a-8} ,}\\{{x_1} \cdot {x_2} = -0,6a + 6,4.\;\;\;\;\,}\end{array}} \right.\)
\(x_1^2 + x_2^2 = x_1^2 + 2{x_1} \cdot {x_2} + x_2^2-2{x_1} \cdot {x_2} = {\left( {{x_1} + {x_2}} \right)^2}-2{x_1} \cdot {x_2} = \)
\( = {a^2}-2a-8 + 1,2a-12,8 = {a^2}-0,8a-20,8.\)
Введём функцию \(f\left( a \right) = {a^2}-0,8a-20,8,\) являющуюся параболой, ветви которой направлены вверх, с вершиной равной \({a_{\rm{B}}} = \dfrac{{0,8}}{2} = 0,4 \notin \left( {-\infty ;-6} \right] \cup \left[ {5,6;\infty } \right).\)
Следовательно, функция принимает наименьшее значение, если \(a = -6\) или \(a = 5,6.\)
\(f\left( {-6} \right) = 36 + 4,8-20,8 = 20;\;\;\;\;f\left( {5,6} \right) = {5,6^2}-4,48-20,8 = 6,08.\)
Таким образом, сумма квадратов корней уравнения принимает наименьшее значение, если \(a = 5,6.\)
Ответ: \(5,6.\)