Область определения функции: \(x\, \in \,R.\)
Найдем производную заданной функции:
\(y’ = {\left( {{x^2} — 10x + 10} \right)^\prime }{e^{10 — x}} + \left( {{x^2} — 10x + 10} \right){\left( {{e^{10 — x}}} \right)^\prime } = \)
\( = \left( {2x — 10} \right){e^{10 — x}} + \left( {{x^2} — 10x + 10} \right){e^{10 — x}} \cdot {\left( {10 — x} \right)^\prime } = \left( {2x — 10} \right){e^{10 — x}} — \left( {{x^2} — 10x + 10} \right){e^{10 — x}} = \)
\( = {e^{10 — x}}\left( {2x — 10 — {x^2} + 10x — 10} \right) = {e^{10 — x}}\left( { — {x^2} + 12x — 20} \right).\)
Найдем нули производной:
\({e^{10 — x}}\left( { — {x^2} + 12x — 20} \right) = 0\,\,\,\,\,\,\,\, \Leftrightarrow \,\,\,\,\,\,\,\,\,{x_1} = 2,\,\,\,\,\,\,\,{x_2} = 10.\)
Значение \({x_2} = 2 \notin \left[ {5;11} \right].\)
Определим знаки производной функции на отрезке \(\left[ {5;11} \right]\) и её поведение:

Следовательно, наибольшее значение функции на отрезке \(\left[ {5;11} \right]\) будет в точке \(x = 10.\)
\(y\left( {10} \right) = \left( {{{10}^2} — 10 \cdot 10 + 10} \right){e^{10 — 10}} = 10.\)
Ответ: 10.