Раз многочлен малоуклоняющийся, то старший коэффициент не превосходит соответствующего коэффициента в многочлене Чебышева: $|a|\le2$. Пусть $F(x)=ax^2+bx+c$. Раз $|F(0)|\le1$, то $|c|\le1$. Раз $|F(1)|\le1$, то $|a+b+c|\le1$. Раз $|F(-1)|\le1$, то $|a-b+c|\le1$, тогда $|a+c|+|b|\le1$.\\
Докажем следующее: при выполнении $|a|\le2;|c|\le1;|a+c|+|b|\le1$ выполняется $a^2+b^2+c^2\le5$. Для начала, заметим что если $|a|\ne2$ и $|c|\ne1$, то можно увеличить большее и уменьшить меньшее до достижения одним из них границы, тогда $|a+c|$ не изменится, так что ни одно неравенство не нарушится, а сумма квадратов увеличится (я считаю то, что при сохранении суммы и увелечении разности сумма квадратов увеличивается, известным фактом). Тогда, разберём 2 случая:\\
При $a=2$ (случай $a=-2$ аналогичен), $|c|=1$ (т.к. $|a+c|\le1$), тогда $|b|=0$, тогда $a^2+b^2+c^2=5$.\\
При $c=1$ (случай $c=-1$ аналогичен), $|a|+|b|\le2$ (раз $|a|$ отличается от $|a+c|$ не более чем на $|c|$). Тогда, $a^2+b^2\le4$ (пользуюсь тем же известным, как мне кажется, фактом), тогда $a^2+b^2+c^2\le5$.
