메뉴 보기
물리학자들이 놀랐다. 양-밀스 이론이 수학적으로 빈틈없이 성립한다는 걸 인공지능(AI)이 증명했다고 지난달 26일 오픈AI가 발표해서다. 양-밀스 이론은 입자물리학의 기초를 이루는 중요한 생각이다. 물리학자들은 이게 옳다고 생각하고, 자연의 기본적인 힘들을 설명하는 집을 그 위에 지었다. 하지만 수학자가 보기에는 그건 온전한 건축물은 아니었다. 그래서 양-밀스 방정식 문제는, 난제를 모아놓은 ‘밀레니엄 문제’가 되어 있었다.
양-밀스 방정식은 1953년 싹 텄다. 그해 3월 스탈린이 죽었다. 영국 엘리자베스 2세 여왕이 대관식을 한 건 6월이었으며, 미국 상원의원 존 F 케네디가 재클린과 결혼한 건 그해 9월이었다. 미국 뉴저지주 프린스턴의 고등연구소(IAS)에 있던 중국 물리학자 양전닝은 같은 해 뉴욕주 롱아일랜드의 브룩헤이븐국립연구소로 가서 1년을 머무르게 됐다. 그곳에서 신임 연구원 로버트 밀스와 같은 사무실을 배정받았다. 이 만남에서 양-밀스 이론이 나왔다. 양이 시카고대학교 박사과정 시절인 1947년부터 몇 차례 시도하다 실패했던 이론 문제를 밀스에게 꺼낸 게 계기가 됐다.
당시 브룩헤이븐연구소 등의 입자가속기에서는 새로운 입자들이 잇따라 발견되고 있었다. 물리학자들은 입자들 간의 상호작용을 하나씩 설명하려고 했다. 그런 방식에 양전닝은 만족하지 못했다. “입자들의 상호작용을 지배하는 일반 원리가 있어야 한다.” 이것이 그가 찾고 있던 큰 그림이었다.
전자기학에 앞선 성공 사례가 있었다. 전하를 가진 입자들의 상호작용을 설명하는 건 하나의 대칭 원리였다. U(1) 게이지대칭이라고 한다. 그렇다면 양성자와 중성자를 묶어주는 강한 핵력에도 비슷한 원리가 있지 않을까, 라고 양은 생각했다. 입자마다 힘의 법칙을 따로 만들지 않고, 하나의 대칭 원리에서 상호작용을 끌어낼 수 있지 않을까. 그는 전자기학에서 성공한 게이지 대칭의 생각을 더 일반적인 대칭으로 확장하려 했다. 이 대칭이 SU(2) 게이지대칭이다.
하지만 시도할 때마다 식이 엉켰다. 전자기력을 전달하는 광자끼리는 직접 상호작용하지 않는다. 그런데 양전닝이 구상한 새로운 힘을 전달하는 입자는 자기들끼리도 상호작용하는 성질을 가질 수밖에 없었고, 이 성질이 골치 아픈 항으로 튀어나와 계산을 망쳤다. 브룩헤이븐에서 밀스와 문제를 다시 들여다보던 양전닝은 발상을 뒤집었다. ‘상호작용’을 처음부터 식에 넣자 깔끔하게 맞아떨어졌다. 골치 아픈 항들이 상쇄되어 없어졌다. 양전닝은 그 순간을 두고 “우리가 금광을 찾았다는 걸 알았다”고 훗날 말했다.
당시 IAS 소장은 미국 원자폭탄의 아버지 로버트 오펜하이머였다. 1954년 2월 오펜하이머 소장이 두 사람 연구 이야기를 듣고 양전닝을 불러 세미나를 하게 했다. 발표장에는 노벨상 수상자 볼프강 파울리(오스트리아)가 있었다. 파울리는 발표하던 양에게 “그 장(field)의 질량은 얼마냐”고 몰아붙였다. 양은 답하지 못했다.
파울리 질문은 사소한 게 아니었다. 전자기력을 전달하는 광자는 질량이 0이다. 이로 인해 전자기력은 멀리까지 미친다. 그런데 양과 밀스가 설명하려 했던 핵력은 아주아주 짧은 거리에서만 작용한다. 그 때문에 힘을 전달하는 입자가 질량이 0이라면 곤란했다. 그러니 파울리는 양-밀스 이론의 가장 아픈 곳을 찌른 것이다. 양은 브룩헤이븐으로 돌아가 밀스와 몇 달 더 고민했지만 답을 찾지 못했다. 두 사람은 문제를 그대로 남겨두고 논문을 내기로 했다. ‘아이소스핀 보존과 아이소스핀 게이지 불변’ 논문은 1954년 10월1일 ‘피지컬 리뷰’에 나왔다.
파울리가 지적한 질량 문제의 돌파구는 약 10년 뒤인 1964년에 나왔다. 물리학자들은 양-밀스 이론의 구조를 살리면서도 힘을 전달하는 입자가 질량을 가질 수 있는 방법을 찾아냈다. 힉스 메커니즘이다. 이 아이디어가 전자기력과 약력을 함께 설명하는 이론과 결합되면서, 약력을 전달하는 W, Z 입자가 왜 무거운지를 설명할 수 있게 됐다. 강력을 설명하는 이론도 양과 밀스가 만든 틀을 받아들였다. 양-밀스 이론은 결국 약력과 강력을 설명하는 표준모형의 뼈대가 됐다.
그런데 풀리지 않은 일이 남아 있었다. 양-밀스 이론으로 물리학자들은 실험 결과를 놀랍도록 잘 설명했지만, 이론을 엄밀한 수학적 대상으로 구성할 수 있다는 건 증명하지 못했다. 물리학자는 70년째 멀쩡히 쓰는 건물인데, 수학자가 요구하는 구조계산서가 없었다. 또 다른 질량 문제인, ‘질량 간극’도 풀리지 않고 남아 있었다. 컴퓨터를 이용한 수치 계산은 그런 간극이 있다는 걸 강하게 지지하지만, 엄밀한 수학적 증명은 없었다.
2000년 클레이수학연구소는 ‘양-밀스 이론의 존재와 질량 간극’을 일곱 개의 밀레니엄 문제 중 하나로 선정했다. 상금은 100만달러였다. 수학자와 수리물리학자들이 매달렸으나 문제는 풀리지 않았다. 그런데 이론이 나온 지 72년이 지난 시점에서 AI가 ‘4차원 양-밀스 이론의 존재’를 증명했다고 주장했다. 기뻐할 일인지, 두려워할 일인지, 사람들이 벙벙해하고 있다.
최준석 과학저널리스트
