[인수분해] ① 기약다항식

문제

$x^5 + x + 1$을 인수분해하시오.

대입 심층 면접을 준비할 때 풀었던 문제이다. 물론 그때도 그렇고 요즘도 이런 문제는 실제 입시에 거의 출제되지 않지만, 다항식에 대한 감을 익혀 보라는 취지에서 다루었던 것 같다. 이 글을 쓰면서 인수분해와 다항식의 기약성(irreducibility)을 탐구함과 동시에 대수학에 잠깐 발을 담갔다 빼려 한다. 1편은 고등학교 수준에서 서술하고, 2편은 최소한의(?) 엄밀함을 위해 대수학 이야기를 조금 가미할 것이다.

힌트

$x^4 + x^2 + 1$은 다음과 같이 $x^2$을 더하고 빼서 인수분해된다.

\begin{align*} x^4 + x^2 + 1 & = x^4 + 2x^2 + 1 - x^2 \\ & = \left( x^2 + 1 \right)^2 - x^2 \\ & = \left( x^2 + x + 1 \right) \!\! \left( x^2 - x + 1 \right) \end{align*}

풀이

마찬가지로 $x^2$을 더하고 빼면

\begin{align*} x^5 + x + 1 & = x^5 - x^2 + x^2 + x + 1 \\ & = x^2 \! \left( x^3 - 1 \right) + x^2 + x + 1 \\ & = \left( x^2 + x + 1 \right) \!\! \left( x^2 (x-1) + 1 \right) \\ & = \left( x^2 + x + 1 \right) \!\! \left( x^3 - x^2 + 1 \right) \end{align*}

과 같이 인수분해된다. 그렇다면 과연 이게 최선일까?

고차다항식의 인수분해

인수 정리

고등학교에서 고차다항식을 인수분해하는 방법으로 인수 정리(factor theorem)를 배웠다.

다항식 $f(x)$에 대하여 $x - a$가 $f$의 인수일 필요충분조건은 $f(a) = 0$이다.

근을 하나씩 찾으면서 차수를 점점 낮추는 것이 요령이다. 문제의 다항식을 다시 보면 차수가 홀수이므로 (사잇값 정리에 따라) 실근이 존재하고, $\mathbb{R}$에서 증가하므로 유일하다. 그러나 그것이 절대 평범한 유리수가 아님을 보일 수 있다.

유리근 정리

정수 계수 방정식의 유리수 해를 찾는 방법으로 이름은 익숙하지 않겠지만 유리근 정리(rational root theorem)가 있다.

정수 계수 방정식 $\ds \sum_{k=0}^n a_k x^k = 0$에 유리수 해 $x = p/q$ ($p$와 $q$는 서로소인 정수)가 존재하면 $p \mid a_0$이고 $q \mid a_n$이다.

이 정리는 유리수 해의 필요조건만 제시할 뿐 존재성을 보장하지는 않는다. 오히려 유리수 해가 없음을 보이는 데 쓰이기도 한다.

관찰

실근을 모르면 일차 인수를 뽑아낼 수 없지만, 허근을 알면 실계수 방정식의 해는 켤레로 존재하므로 이차 인수를 뽑아낼 수 있다. 문제와 힌트에서 다룬 두 다항식의 공통점은 방정식 $x^3 = 1$의 허근 $\omega$가 근인 것이다.

$\omega^5 + \omega + 1 = \omega^2 + \omega + 1 = 0$이고, $\omega^4 + \omega^2 + 1 = \omega + \omega^2 + 1 = 0$이다.

인수 정리에 따라 $(x - \omega)(x - \overline{\omega}) = x^2 + x + 1$이 두 다항식의 인수이다.

기약다항식

더는 약분할 수 없는 분수를 기약분수라고 하듯이, 더는 인수분해되지 않는 다항식을 기약다항식(irreducible polynomial)이라고 한다. 엄밀한 정의는 2편에서 소개하겠다. 당장은 썩 마음에 들지 않는 표현이지만, 적당히 고등학교 수준에서 이해하고 넘어가도 무방하다. 이상 내용을 다음과 같이 요약할 수 있다.

실수 범위에서 상수가 아닌 일변수 기약다항식은 일차이거나 판별식이 음수인 이차식이다.

기약성 증명

특별한 언급이 없으면 보통 유리수 범위에서 인수분해한다. 처음 던진 물음으로 돌아가

\[x^5 + x + 1 = \left( x^2 + x + 1 \right) \!\! \left( x^3 - x^2 + 1 \right)\]

에서 $x^2 + x + 1$과 $x^3 - x^2 + 1$이 각각 기약인지 살펴보자.

1. 기약이 아니면 이차식은 두 일차식의 곱으로, 삼차식은 일차식과 이차식의 곱으로 나타낼 수 있다.
2. 인수 정리에 따라 일차식을 인수로 가지려면 유리근이 존재한다.
3. 유리근 정리에 따르면 유리근으로 가능한 후보는 $\pm 1$이지만, 모두 근이 아니다. 다시 말해 유리근이 없다.
4. 따라서 각각이 기약이므로 위 인수분해가 최선이다.

사차 이상의 다항식에는 일차식을 인수로 가지지 않을 수도 있어서 이 논리를 그대로 적용할 수 없다. 이렇게 기약성을 증명해야 비로소 풀이가 완벽하게 끝을 맺는다.