Phương pháp giải:

- Hàm số \(y = f\left( x \right)\) nghịch biến trên \(\mathbb{R}\) khi và chỉ khi \(y' \le 0\,\,\forall x \in \mathbb{R}\).

- Xét dấu tam thức bậc hai: \(a{x^2} + bx + c \le 0\,\,\forall x \in \mathbb{R} \Leftrightarrow \left\{ \begin{array}{l}a < 0\\\Delta \le 0\end{array} \right.\).

Lời giải chi tiết:

TH1: \(3{m^2} - 12 = 0 \Leftrightarrow m = \pm 2\).

Với \(m = 2\), hàm số trở thành \(y = - x + 2\) nghịch biến trên \(\mathbb{R}\) (thỏa mãn).

Với \(m = - 2\), hàm số trở thành \(y = - 12{x^2} - x + 2\) nghịch biến trên \(\left( { - \dfrac{1}{{24}}; + \infty } \right)\) (không thỏa mãn).

TH2: \(3{m^2} - 12 \ne 0 \Leftrightarrow m \ne \pm 2\).

Ta có: \(y' = 3\left( {3{m^2} - 12} \right){x^2} + 6\left( {m - 2} \right)x - 1\).

Để hàm số nghịch biến trên \(\mathbb{R}\) thì \(y' \le 0\,\,\forall x \in \mathbb{R}\).

\(\begin{array}{l} \Leftrightarrow \left\{ \begin{array}{l}3{m^2} - 12 < 0\\\Delta ' = 9{\left( {m - 2} \right)^2} + 3\left( {3{m^2} - 12} \right) \le 0\end{array} \right.\\ \Leftrightarrow \left\{ \begin{array}{l} - 2 < m < 2\\9{m^2} - 36m + 36 + 9{m^2} - 36 \le 0\end{array} \right.\\ \Leftrightarrow \left\{ \begin{array}{l} - 2 < m < 2\\18{m^2} - 36m \le 0\end{array} \right.\\ \Leftrightarrow \left\{ \begin{array}{l} - 2 < m < 2\\0 \le m \le 2\end{array} \right. \Leftrightarrow 0 \le m < 2\end{array}\)

Kết hợp các TH ta có \(0 \le m \le 2\).

Mà \(m \in \mathbb{Z} \Rightarrow m \in \left\{ {0;1;2} \right\}\).

Vậy tổng bình phương tất cả các giá trị của \(m\) thỏa mãn là \(0 + {1^2} + {2^2} = 5.\)

Chọn C.