모델론 맛보기 [2]: 힐버트의 17번째 문제

본 글에서는 실수 순서체 및 닫힌 실체의 `한정기호 제거’를 사용하여, 어떻게 힐버트의 17번째 문제를 해결할 수 있는지 알아보도록 하겠습니다.

힐버트^{D. Hilbert}의 17번째 문제는 양의 준정부호^{positive semidefinite} 다항함수, 즉 실수에 대해서 항상 음이 아닌 값만 갖는 실계수 다항함수의 형태에 대한 질문입니다. 먼저 다항함수의 제곱의 합으로 표현되는 경우에는 양의 준정부호 다항함수가 됩니다. 하지만 역방향은 성립하지 않습니다. 1888년에 이미 힐버트는 역방향은 성립하지 않을 것이라고 예상한 것으로 보입니다. [1][2](2쪽, 두 번째 문단) 그리고 이에 대한 구체적인 예는 약 80년 정도 후인 1967년에 모츠킨^{T. S. Motzkin}에 의해서 처음으로 제시되었습니다. [3][4]

\begin{align*}f(x,y)&=x^4y^2+x^2y^4+1-3x^2y^2\\&=\frac{x^2y^2(x^2+y^2+1)(x^2+y^2-2)^2+(x^2-y^2)^2}{(x^2+y^2)^2}.\end{align*}

임의의 실수값 \(a\)와 \(b\)에 대해서, 음이아닌 실수값 \(a^4b^2\), \(a^2b^4\), 및 \(1\)에 산술평균-기하평균 부등식을 적용하여,

\begin{align*}&\frac{a^4b^2+a^2b^4+1}{3}\ge \sqrt[3]{a^4b^2\cdot a^2b^4\cdot 1}=a^2b^2\\\Leftrightarrow& f(a,b)=a^4b^2+a^2b^4+1-3a^2b^2\ge 0\end{align*}

을 얻게됩니다. 따라서, 다항함수 \(f\)의 실수에 대한 함수값은 항상 0보다 크거나 같게 됩니다. 또한, 만약 다항함수 \(f\)가 실계수 다항함수들의 제곱의 합으로 쓰여진다면, 즉 실계수 다항함수 \(f_1(x,y),\ldots, f_r(x,y)\)가 존재하여, \(f=f_1^2+\cdots+f_r^2\)이 된다면, 다항함수들 사이의 차수를 비교하여, 다항함수 \(f_i\)의 꼴이 어떤 1차 다항식 \(g_i\) 및 실수 \(a_i\)가 존재하여 \(xyg_i+a_i\) 꼴을 갖는 다는 것을 알 수 있습니다. 따라서,

\(x^4y^2+x^2y^4+1-3x^2y^2=\sum_{i=1}^r \left( xyg_i+a_i\right)^2\)

이 성립하게 되고, 이로부터

\(xy\left(x^2+y^2-3-(\sum_{i=1}^r g_i^2)\right)=2\sum_{i=1}^r a_ig_i\)

를 얻게 됩니다. 다시 서로 양변의 다항식의 차수를 비교하여, 다항식 \(g_1,\ldots,g_r\)은 다음의 관계식을 만족하게 됩니다:

\(x^2+y^2-3-(\sum_{i=1}^r g_i^2)=0,\ \sum_{i=1}^r a_ig_i=0\)

그런데 \(x=y=0\)을 관계식 \(x^2+y^2-3-(\sum_{i=1}^r g_i^2)=0\)에 대입하면,

\(-3=\sum_{i=1}^r g_i(0,0)^2\ge 0\)

라는 모순이 발생하게 됩니다. 따라서, 다항함수 \(f\)는 절대로 실계수 다항함수들의 제곱합으로 쓰여질 수 가 없습니다.

그렇다면 유리다항함수의 제곱의 합으로 표현되는 경우에는 어떻게 될까요? 힐버트의 17번째 문제는 이 조건이 실계수 다항함수에 대해 양의 준정보호가 되기 위한 필요충분조건인지 판단하는 문제입니다. 구체적으로, 힐버트의 17번째 문제는 다음과 같습니다.

문제 0.1. 실계수 다항함수 \(p\in \mathbb{R}[T_1,\ldots,T_n]\)가 실수에 대한 함수 값이 항상 \(0\)보다 크거나 같다면, \(p\)는 실계수 유리다항함수들의 제곱의 합으로 표현이 되는가? 즉, 어떤 유리다항함수 \(q_1,\ldots, q_m\in \mathbb{R}(T_1,\ldots,T_n)\)이 존재하여, \(p=q_1^2+\cdots q_n^2\)이 성립하는가?

실제로 힐버트는 2변수의 경우에 이 유리다항함수 제곱의 합으로 표현된다는 조건이 양의 준정부호가 되기 위한 필요충분조건임을 증명하였습니다.[2] 일반적인 경우에 대해서는, 1927년 아틴^{E. Artin}에 의해서, 이 조건이 필요충분조건임이 증명되었습니다.[5] 본 글에서는, 1955년에 발표된 로빈손^{A. Robinson}의 닫힌 실체의 `한정기호 제거’를 사용한 증명을 소개하려고 합니다.[6][7](Section 3)

1. `한정기호 제거’를 통한 연립부등식의 해의 존재여부 판별법

`한정기호 제거’를 이용한, 실계수 연립부등식의 해의 존재여부를 판별할 수 있는 방법론을 소개하도록 하겠습니다. 이를 위해 순서체에 대한 몇 가지 기초적인 사실들을 먼저 알아보겠습니다.

정의 1.1. [8] 어떤 체에서 `\(-1\)’이 제곱수 합으로 표현되지 않는 경우, 이 체를 실체^{real field} 라고 부릅니다.

예를 들어, 유리수체는 실체가 됩니다. 하지만 유리수와 허수 \(i\)를 포함하는 가장 작은체 \(\mathbb{Q}(i)\)는 실체가 되지 않습니다. 일반적으로 음의 유리수가 제곱수의 합으로 표현되는 체는 실체가 될 수 없습니다. 예를 들어, 유리수와 \(\sqrt{-\frac{1}{3}}\)를 포함하는 가장 작은체 \(\mathbb{Q}(\sqrt{\frac{-1}{3}})\)의 경우,

\(-1=\left( 3\sqrt{-\frac{1}{3}}\right)^2+1^2+1^2=-3+1+1\)

가 성립하여, \(\mathbb{Q}(\sqrt{\frac{-1}{3}})\)는 실체가 되지 않습니다.

사실 1.2. [8]

(1) 실체 \(F\)에 대해서, 원소 \(a\in F\)가 제곱수의 합으로 표현되지 않는다고 가정합시다. 그러면 다음의 조건을 만족하는 순서관계 \(<\)를 찾을 수 있습니다:

• \((F,<)\)는 순서체입니다.
• \(a<0\).

(2) 임의 순서체 \(F\)에 대해서, 이를 포함하는 닫힌 실체를 찾을 수 있습니다.

예를 들어, 사실 1.2(1)에 의해서 유리수와 실수 \(\pi\)를 포함하는 가장작은 체 \(F=\mathbb{Q}(\pi)\)를 순서체로 만드는 서로 다른 순서관계 \(<_1\)과 \(<_2\)가 존재하여, 실수 \(\pi\)가 순서관계 \(<_1\)에 대해서는 \(0\)보다 작지만, 순서관계 \(<_2\)에 대해서는 \(0\)보다 크게 됩니다.

이제 `한정기호 제거’를 사용한 실계수 연립다항부등식의 실수 해의 존재여부 판별법을 소개하겠습니다.

사실 1.3. 임의 다항함수 \(p\in \mathbb{R}[\bar x]\)에 대해서, 부등식 `\(p<0\)’이 실수체를 포함하는 어떤 순서체 \(F\)에서 해를 갖는다면, 이 부등식은 실수해를 갖습니다. 또한, 이는 실계수 연립다항부등식에 대해서도 성립합니다.

사실 1.3을 이용하여 부등식 \(x+y-1<0\)의 실수해 존재성을 한번 알아보도록 하겠습니다. 먼저 다항함수 \(f(x,y)=x+y-1\)는 실계수 유리함수들의 제곱의 합으로 표현되지 않습니다. 실제로 만약 \(f\)가 유리함수의 제곱의 합으로 표현된다면, 즉 다항함수 \(p_1,\ldots,p_n\)과 \(q_1,\ldots,q_n\)이 존재하여

\(f=\sum_{i=1}^n \left(\frac{p_i}{q_i}\right)^2\)

이 성립한다고 합시다. 양변에 다항함수 \(q^2=(q_1\cdots q_n)^2\)을 곱해줌으로서, 다항함수 \(r_1=p_1\frac{q}{q_1},\ldots,r_n=p_n\frac{q}{q_n}\)에 대해서,

\(q^2 f=\sum_{i=1}^n r_i^2\)

이 성립합니다. 그런데 양변의 다항식의 차수를 비교하면, 좌변의 차수는 홀수가 되고 우변의 차수는 짝수가 되어 모순됩니다. 따라서, 다항함수 \(f\)는 유리함수의 제곱의 합으로 표현되지 않습니다. 따라서, 사실 1.2(1)에 의해서 실체 \(\mathbb{R}(x,y)\)상에 \((\mathbb{R}(x,y),<‘)\)는 순서체가 되고, \(x+y-1<‘0\)이 성립하는 순서관계 \(<‘\)가 존재합니다. 사실 1.3에 의해 부등식 \(x+y-1<0\)은 실수해를 갖게 됩니다.

사실 1.3의 증명을 간단히 살펴보겠습니다. 어떤 다항함수 \(p\in \mathbb{R}[\bar x]\)가 주어졌다고 합시다. 그리고 실수체를 포함하는 어떤 순서체 \(F\)가 부등식 \(p<0\)의 해 \(a\in F^{|\bar x|}\)를 갖는다고 가정합니다. 사실 1.2(2)에 의해서, \(F\)를 포함하는 닫힌 실체 \(R\)이 존재하고, 이 닫힌 실체 \(R\)은 부등식 \(p<0\)의 해 \(a\in F^{|\bar x|}\subseteq R^{|\bar x|}\)를 갖습니다. 또한, 정수계수를 갖는 다항함수 \(q\in \mathbb{Z}[\bar x,\bar y]\) 및 실수 순서쌍 \(\bar b\in \mathbb{R}^{|\bar y|}\)가 존재하여, \(p(\bar x)=q(\bar x,\bar b)\)가 됩니다.

이제, `양화사 제거’에 의해서 다항함수 \(P_1,\ldots,P_n,Q_1,\ldots, Q_m\in \mathbb{Z}[\bar y]\)가 존재하여, 실수 순서체 \(\mathbb{R}\)를 포함하는 임의 닫힌 실체 \(R’\)에 대해서 부등식 \(q(\bar x,\bar b)<0\)이 \(R’\)에서 해를 갖기 위한 필요충분조건은 \(R’\) 상에서 순서쌍 \(\bar b\)가 다음 연립부등식의 해가 된다는 것과 동치입니다:

\(\begin{cases}P_1(\bar y)>0,\ldots,P_n(\bar y)>0,\\Q_1(\bar y)=\ldots=Q_m(\bar y)=0.\end{cases}\)

이는 \(\mathbb{R}\) 상에서,

\(\begin{cases}P_1(\bar b)>0,\ldots,P_n(\bar b)>0,\\Q_1(\bar b)=\ldots=Q_m(\bar b)=0,\end{cases}\)

이 성립하는지 여부에 의해서 결정됩니다. 그런데 닫힌 실체 \(R\)에 대해서 부등식 `\(q(\bar x,\bar b)<0\)’의 해가 존재하기 때문에,

\(\begin{cases}P_1(\bar b)>0,\ldots,P_n(\bar b)>0,\\Q_1(\bar b)=\ldots=Q_m(\bar b)=0,\end{cases}\)

이 성립하게 됩니다. 따라서, 부등식 `\(q(\bar x,\bar b)<0\)’은 실수해를 갖게 됩니다.

2. 힐버트의 17번째 문제의 증명

이제 사실 1.3 및 사실 1.2를 사용하여, 힐버트의 17번째 문제에 대한 증명을 간략히 알아보겠습니다. 대우를 취하여 다음의 조건을 만족하는 다항함수 \(p\in \mathbb{R}[T_1,\ldots,T_n]\)가 있다고 가정하겠습니다:

• 다항함수 \(p\)는 실수에 대해서 항상 \(0\)보다 크거나 같은 값을 갖는다. \((\dagger_1)\)
• 다항함수 \(p\)는 유리함수체 \(\mathbb{R}(T_1,\ldots,T_n)\)에서 제곱수의 합으로 표현되지 않는다. \((\dagger_2)\)

순서쌍 \((T_1,\ldots,T_n)\)을 \(\bar T\)로 두겠습니다. 먼저, 유리함수체 \(\mathbb{R}(\bar T)\)는 실체가 됩니다. 가정 \((\dagger_2)\) 및 사실 1.2(1)에 의해서, 순서관계 \(<‘\)가 존재하여, \((\mathbb{R}(\bar T),<‘)\)는 순서체이고 \(p<‘0\)을 만족합니다. 이때, 순서관계 \(<‘\)는 실수의 순서관계를 확장합니다. 즉, 순서체 \((\mathbb{R}(\bar T),<‘)\)는 \(\mathbb{R}\)를 순서체로서 포함합니다. 이를 위해, 임의 양의 실수 \(a\)가 순서관계 \(<‘\)에 대해서도 양수임을, 즉 \(0<‘a\)가 성립함을 보이면 됩니다. 양의 실수 \(a\)는 어떤 실수 \(b\)의 제곱으로 표현이 됩니다. 따라서, \(a\)는 체 \(\mathbb{R}(\bar T)\)에서 제곱수가 됩니다. 그런데 임의 순서체에서 영이 아닌 제곱수는 항상 양수가 되기 때문에 \(0<‘a\)가 성립합니다.

원소 \(p(\bar T)\in \mathbb{R}(\bar T)\)는 순서관계 \(<‘\)에 대해서 \(0\)보다 작기 때문에, 순서쌍 \(\bar T\in \mathbb{R}(\bar T)^{n}\)는 부등식 \(p(\bar x)<0\)의 해가 됩니다. 따라서, 사실 1.3에 의해서 부등식 \(p(\bar x)<0\)은 \(\mathbb{R}\)에서 해를 갖게 되며, 이는 가정 \((\dagger_1)\)에 모순됩니다. 결국 실계수 다항함수가 양의 준정부호이면 이 다항함수는 유리다항함수의 제곱합으로 쓰여지게 됩니다.

3. 끝맺음

힐버트의 17번째 문제는 실수체에 대한 문제입니다. 그런데 실수체를 벗어나 더 큰 순서체에서 실수체를 바라봄으로써, 새로운 시각으로 실수체의 문제를 해결할 수도 있습니다.

때로는, 표준^standard 모델을 이해하기 위해 모델론이라는 렌즈를 이용하여, 비표준^non-standard 모델을 통해 바라보면 숨겨진 정보를 발견할지도 모릅니다. 마치 적절한 일탈을 통해 우리 일상이 더 풍요롭게 되는 것처럼요.

모델론에 대한 기본적인 내용을 위해, 마커^{D. Marker}의 모델론 교재[7] 나 텐트^{K. Tent}와 지글러^{M. Zielger}의 모델론 교재[9]를 추천합니다. 또한, 본 글(모델론 맛보기 [1]-[2])에 사용된 모델론에 대한 몇몇 한글 용어들은 최근 연세대의 김병한 교수님께서 준비 중이신 한글 모델론 교재[10]를 참조하였습니다.