Ta có phương trình bậc hai:

\(x^{2} - 2 x + m - 3 = 0\)

Điều kiện để phương trình có hai nghiệm là Δ ≥ 0, với Δ là biệt số:

\(\Delta = \left(\right. - 2 \left.\right)^{2} - 4 \left(\right. m - 3 \left.\right) = 4 - 4 m + 12 = 16 - 4 m \geq 0\) \(\Rightarrow 16 \geq 4 m \Rightarrow m \leq 4\)

Bước 1: Biểu diễn các nghiệm x₁, x₂ theo định lý Viète

Theo định lý Viète:

\(x_{1} + x_{2} = 2 , x_{1} x_{2} = m - 3\)

Bước 2: Biến đổi hệ thức đề bài

Ta có điều kiện:

\(x_{1}^{2} - 2 x_{2} + x_{1} x_{2} = - 12\)

Thay x₁ = 2 - x₂ vào:

\(\left(\right. 2 - x_{2} \left.\right)^{2} - 2 x_{2} + \left(\right. 2 - x_{2} \left.\right) x_{2} = - 12\)

Mở rộng và thu gọn:

\(4 - 4 x_{2} + x_{2}^{2} - 2 x_{2} + 2 x_{2} - x_{2}^{2} = - 12\) \(4 - 4 x_{2} = - 12\) \(- 4 x_{2} = - 16\) \(x_{2} = 4\)

Bước 3: Tìm m

Từ x_1 + x_2 = 2, ta có:

\(x_{1} = 2 - 4 = - 2\)

Từ x_1x_2 = m - 3:

\(\left(\right. - 2 \left.\right) \left(\right. 4 \left.\right) = m - 3\) \(- 8 = m - 3\) \(m = - 5\)

Bước 4: Kiểm tra điều kiện \(m \leq 4\)

Vì \(m = - 5\) thỏa mãn \(m \leq 4\), nên đáp án cuối cùng là \(m = - 5\)