Dexter's story

"[…] For a mathematician, every system is closed: one does not care in what kind of system one is working, as long as the axioms are clear and things are well-defined. […]

For a physicist, on the other hand, every system is open, and (more to the point) approximate. […]"

- I. Saberi (https://arxiv.org/abs/1801.07270)

원래 새로운 도구를 쓰는 것을 귀찮아하는 편이다. 뭔가 새로운 서비스를 써야 할 일이 있을 때 앱(app)을 설치하지 않을 수 있으면 최대한 설치하지 않으려 하고, 무언가 회원가입을 요구하면 진짜로 그 서비스가 필요한지 다시 검토하고. 줌(Zoom)의 경우에도 대학원생 시절 교수님과 화상면담할때 썼지만 회원가입을 하거나 앱을 설치하지 않았는데 코로나가 터지고 나서야 회원가입을 하고 줌을 설치했다.

ChatGPT의 경우에도 마찬가지여서 매우 최근까지 대규모언어모형(LLM)을 직접 쓴 적은 없었다.^[각주:1] 온라인에서 문법을 확인해주는 사이트를 이용할 때 백그라운드에서 자동으로 같이 돌아가는 경우 정도가 대규모언어모형을 활용하는 전부였다. Mathematica를 LLM 모형에 연결해주는 Wolfbook이란 VS Code 확장 튜토리얼 당시 필요해서 ChatGPT 아이디를 만든 것은 이번 4월쯤이었고, 에르되시 문제 1196번이 ChatGPT의 도움으로 해결되는 것을 보면서 '새로운 시대가 진짜 열리는건가?'란 감상이 들기도 했었는데, 아이디만 만들어 두고 실제로 사용하지는 않고 있었다. 러다이트니 반인공지능이니 그런 고차원(?)적인 이유는 아니었고, 단순히 쓸 필요를 못 느꼈기 때문.^[각주:2] 그리고 최근에서야 드디어 ChatGPT를 쓰게 되었는데, 실제로 ChatGPT를 써봐야겠다고 마음먹게 된 계기는 저번 달 월드컵 결승 직후 트위터에 던져진 야코비안 가설의 3차원 반례였다. 반례가 던져진 후 일주일 정도 지난 뒤의 감상:

몇달 전 에르되시 1196번을 볼 때는 '뭔가 시작됐다…'란 느낌이었는데 어제오늘 야코비안 가설을 보면서 느끼는 감정은 '벌써 시작의 끝이 다가오나?'에 더 가까운 듯.

— Dexter Kim (@AstralDexter) July 20, 2026

여튼, 지금은 주로 문헌 요약 및 검색의 용도로만 사용하고 있고 풍문으로 들었던 것보다는 환각 문제가 거의 없다시피 해서 (한번 문제(?)를 일으킨 적이 있긴 하다. 정확히는 없는 문헌을 만들어낸 것이 아니라^[각주:3] 문헌에서 사용되는 정의가 있는데 그 정의를 무시하고 대충 이런 의미겠거니 아무말을 해댄 것. '이 답변 틀림'을 제출하고 며칠 뒤 프롬프트를 다시 입력했더니 그때는 제대로 정리해줬다) 키워드는 아는데 어떤 문헌이 있는지는 모르는 주제를 알아볼 때 혹은 대충은 아는데 구체적으로는 모르는 주제를 좀 더 자세히 파고들 필요가 있을 때 한번씩 쓰는 중이다. ChatGPT를 쓰던 사람들의 평가로는 불과 반 년 전과 비교해봐도 성능이 확실히 좋아졌다고 하니 이런 용도로 쓰는데 큰 문제는 없을 듯. 좀 더 수고를 들이면 '무엇을 어떤 절차를 통해 계산하면 되는지는 아는데 내가 굳이 시간을 들일만한 가치는 없어서 보류중인 프로젝트'들을^[각주:4] 해치우는데 쓸 수 있을 것 같은데 아직은 그 필요를 못 느껴서 보류하고 있다.

잡담은 이쯤 하고, 방 안의 코끼리에 대해서 이야기해보자. 그래서 "무엇을 할 것인가?"

---

"Algebra’s like sheet music; the important thing isn’t can you read music, it’s can you hear it. Can you hear the music, Robert?"

- Bohr to Oppenheimer in Oppenheimer (2023)

작년 여름 6월 서울 학회에서 연사들을 안내하는 동안^[각주:5] 대충 '인공지능이 모든 직업을 대체하지 않겠냐?'란 내용으로 요약되는 대화가 있었는데, 그 대화에 내가 덧붙인 이야기는 이것이었다: "인공지능이 유관(relevant)해지기 전에 정규직을 잡는 것만 바란다". 온갖 그룹에서 인공지능을 쓰기 시작하는 것을 보니 애석하게도 이 바램은 실패(...)한 듯.

여튼, 현재로서는 인공지능이 인간보다(?) 강점을 보이는 분야는 '특정 맥락에서 개발되어 명확하게 정의된 도구를 사용되던 맥락과는 다른 맥락에 적용하여 새로운 결과를 얻는 것'으로 보인다. 그리고 이 강점이 인공지능의 수학에서의 성공적인 영향력을 설명하는 한편 (이론)물리학에서의 (아직까지는 그다지) 성공적이지 못한 영향력을 설명한다고도 할 수 있겠다. 글의 서두에 인용했듯 물리학의 문제는 '얼마나 잘 정의되었는가?'만 놓고 보면 "회색지대"인 경우가 많다 보니. 그래서 아직까지는 인공지능에 대해 아주 큰 걱정을 하지는 않고 있다. 10년 정도 연구란걸 해 보면^[각주:6] 자신의 강점이 무엇인지 대충 감을 잡기 마련이고,^[각주:7] 내 강점은 '한 맥락에서 이해된 현상을 전혀 다른 맥락에서 찾아내는 것'도^[각주:8] 있기는 하지만 그보다는 '다소 불분명하게 정의된 문제에서 핵심을 간파하는 것'의 비중이 더 높으니. 영화 오펜하이머(2023)에서 보어의 말을 빌린다면 '가벼운 두드림만으로도 음악을 듣는 능력'이라고도 표현할 수 있겠다.

그리고 이 강점은 한동안은 인공지능이 따라잡기 어려울 것이라고 생각하는 편이다. 약간(?)은 시간을 번 셈. 그렇다면 얼마나 시간을 번 것일까?

---

5.6 Die Grenzen meiner Sprache bedeuten die Grenzen meiner Welt.
5.6 The limits of my language mean the limits of my world.

7 Wovon man nicht sprechen kann, darüber muss man schweigen.
7 Whereof one cannot speak, thereof one must be silent.

- L. Wittgenstein, Tractatus Logico Philosophicus

나가의 육성 언어는 언제나 좋은 사색거리를 제공한다. 그들이 사용하는 문자는 우리의 것과 같고 그 문자가 우리의 말을 기본으로 만들어졌기 때문에 나가들은 니름을 쓸 수 있음에도 불구하고 육성 언어 또한 습득한다. 육성 언어를 습득하지 않으면 문자를 이해할 수 없기 때문이다. 따라서 나가의 육성 언어는 문자 습득을 위한 보조 수단인 셈이다. 그런데 여기서 우리의 사고 과정에 대해 생각해 보자. 일반적으로 우리의 사고는 언어로 이루어진다고 믿어진다. 하지만 나가의 경우에도 언어로 사고할까? 전술했듯이 그들에게 언어는 문자 습득의 보조수단이다. 따라서 그들은 굳이 언어로 사고할 필요가 없다. 하지만 그들의 사고와 우리의 사고 사이에서 현격한 차이를 ― 생태와 문화, 성장 환경의 차이 때문에 나타날 수 있는 것 이상의 차이를 발견한 자는 없다. 과연 사고는 언어로 이루어지는 것일까?

― 가이너 카쉬냅의 『생각하는 동물들』 중

- 이영도, 『피를 마시는 새』

개인적으로는 '인공지능이 진정한 의미에서의 지능을 갖고 있는가?'란 질문은 (답이 중요하지 않다는 점에서) 의미가 없는 질문이라고 생각하는 편이지만 이런 질문에 항상 딸려나오는 강인공지능 혹은 범용인공지능(AGI)이란 용어가 있다. 의미가 없다고 생각하는 이유는 예전에 남긴 코멘트로 갈음:

현 기계학습 모형의 능력이 불만족스럽다는 이유로 지능을 세밀하게 정의할수록 ‘인류의 상당수는 지능이 없다’는 결론만 남을 뿐이다. 이 결론을 틀렸다고는 할 수는 없겠지만 그렇게 고생해서 세밀하게 정의한 지능이 과연 쓸모있는 정의일지는 모를 일이다. https://t.co/Q12nuyHjUF

— Dexter Kim (@AstralDexter) May 28, 2024

막말로 밈적사고와 인터넷 커뮤니티에 자아를 의탁한 사람보다 Chat-GPT가 훨씬 조리에 맞는 글을 쓰는 세상에서 후자가 지능을 갖추었는지 논하는 데 무슨 의미가 있겠는가.

— Dexter Kim (@AstralDexter) May 28, 2024

다시 범용인공지능으로 돌아와서, 인공지능이 지금의 우리가 상상하지도 못할 방향으로 강력해질 것에 대해서는 의심의 여지가 없지만 가까운 미래에 우리가 '범용인공지능'이란 말을 하면서 막연하게 상상하는 종류의 정보처리능력^[각주:9]이 구현되기는 아무래도 어렵다고 본다. 대규모'언어'모형이란 용어가 암시하듯 현재 인공지능은 언어(혹은 기호의 연쇄)로 세계를 표상할 수 있음에 의존하고 있다. 그리고 우리는 언어가 세계를 완전하게 표상하지는 못함을 아주 잘 이해하고 있다---기원전 항해에 나선 사람들의 기록으로부터 그 사람들이 보았던 바다의 반짝임과 뱃머리에서 느꼈던 냄새를 우리는 상상할 수는 있지만 그 상상과 실재가 일치했으리라고 확신할 수는 없는 것처럼.^[각주:10] 좀 더 가까운 예시라면 개기일식의 기록을 아무리 많이 읽고 본다고 해서 개기일식을 경험하는 것이 무엇인지 안다고 할 수 있을까?^[각주:11]

언어는 강력하기는 하지만 세계를 완전히 표상하지는 못하고, 우리는 세계의 표상되지 못하는 부분을 인지하고는 있지만 그 부분들을 선문답을 통해서라도 통제할 수 있는 형태로 끌어내리기보다는 대체로 그에 대해 침묵하기를 택한다. 보어의 '음악을 듣는 능력'을 체계적으로 훈련시키는 방법을 안다고 자신하는 사람이 없는 이유이기도 하다.^[각주:12]

예전에 잡담하다가 ‘물리하는 사람들 수학 엉망으로 쓴다’는 주제가 나온 적이 있는데 그 때 ‘수학은 문법같은 것이고 시를 쓰는 데 문법을 완벽하게 알아야 할 필요는 없다’ 뭐 이런 식으로 반응했던 기억이 있군요. 물론 문법을 아예 모른다면 문제가 생기겠으나…

— Dexter Kim (@AstralDexter) November 7, 2022

여튼, 수학을 배울 때 가장 중요한 것은 ’그 수학이 어떤 추상적인 성질을 현실로 끌어내리기 위한 언어인가?‘를 익히는 것이고, 이것만 제대로 익혔다면 문법 정도는 다소 엉성하게 써도 문제는 없다는 것이 제 입장입니다. 물론 이게 제일 배우기 어렵죠… https://t.co/nYULd07dxb

— Dexter Kim (@AstralDexter) November 7, 2022

글의 맨 처음에 인용한 수학과 물리학의 차이와, 한번씩 사람들이 묻곤 하는 '최신 대규모언어모형이 수학에서는 상당한 성과를 내고 있는 것 같은데 왜 이론물리에서는 별다른 성취가 없는가?'란 질문도 이 점과 연관이 있다. 결국 수학은 언어고, 언어'만'을 다룬다면 최신 LLM들은 상당히 강력한 성능을 보여주고 있다.^[각주:13] 하지만 물리는 "언어"만으로는 표상되지 않는 부분이 있고, 언어로 표상되지 않는 부분을 얼마나 능숙하게 활용하느냐(혹은 얼마나 능숙하게 "언어화"하느냐)가 실력을 결정한다. "인공지능이 수학자와 (이론)물리학자를 대체할거야!"란 일부의 호들갑과는 달리 대체될거란 걱정을 잘 안 하는 이유이기도 하다. 아, '펀딩을 결정하는 사람들이 수학자와 (이론)물리학자가 필요 없다고 판단하는^[각주:14] 것'은 걱정되긴 하지만. 영국 UKRI 돌아가는 상황을 보면 실제로 그런 판단을 하는 듯한 의심이 있고...

그러면 언제쯤부터 내가 할 수 있는 것들이 인공지능에 의해 대체되는 것을 걱정해야 할까? AI 회사들이 반도체 메모리를 확보하는데 집중하고 책을 대규모로 스캔한 후 파기하느라 구설수에 오르는 동안은 걱정할 필요가 없다고 생각한다. AI 회사들이 군용/정밀기계용 센서를 대규모로 확보하기 시작했다는 소식이 들려오면 그때야말로 걱정하기 시작할 때 아닐까? 아무래도 경제성의 문제로 AI 개발에 이런 방향으로 무게가 실리기는 힘드리라고 생각하지만.

---

The purpose of computing is insight, not numbers.

- R. Hamming, Numerical Methods for Scientists and Engineers (1962) Preface

아이폰이 처음 등장하고 10년이 지나서야 인류가 세상과 상호작용하는 방법이 완전히 바뀌었고, 알파고--이세돌 대전으로부터 센다면 인공지능도 10년이 걸려 인류가 세상과 상호작용하는 방법을 완전히 바꿔버렸다고 할 수 있겠다. 그렇다면 우리가 던질 질문은 아무래도 '다음 10년은?'이 되겠다.

예전에 테렌스 타오(Terence Tao)의 인터뷰에서 미래의 '산업화된' 수학을 상상한다는 견해를 흥미롭게 들은 적이 있다. 현재의 몇 명이서 한 문제에 달라붙어 문제를 해결하고 논문을 쓰는 수학이 아니라 LHC와 같은 거대과학실험처럼 여러 명의 사람들이 한 문제에 각자 작은 부분을 기여하는 형태의 수학을. AI의 가능성을 가장 열심히 탐구하는 수학자 중 하나가 타오인 것은 우연이 아닐 것이다. 그리고 타오의 올해 ICM 공개강연 슬라이드를 보면 이런 '미래의 산업화된 수학'에 대한 고민을 엿볼 수 있다. 수학계의 AI에 대한 첫 대응이라고도 할 수 있는 라이덴 선언(Leiden declaration)과는 또 느낌이 다른데, 라이덴 선언이 다소 뜬구름잡는듯한 느낌이 있었다면 타오의 주장은 좀 더 구체적인 느낌이랄까. 여튼, 인용한 해밍의 말을 빌린다면 '증명의 목적은 통찰이지 정리가 아니다'라고 (최근 LLM 기반 수학 증명에 대한) 타오의 주장을 정리할 수 있겠다. 그리고 어떻게 바뀔지는 두고봐야겠으나 아직까지는 인공지능이 '통찰'에 좋은 도구는 아닌 듯 하다.

충분히 수학에 가까운^[각주:15] (이론)물리학의 경우에는 어떤 미래가 펼쳐질까? 앞서 이야기한 것처럼 '방법론은 잘 정의되어 있고 (비슷하지만) 새로운 경우에 적용하면 되는 문제'는 AI가 전부 먹어치울 가능성이 높다고 보는 편이고, 그렇기 때문에 학생들을 어떻게 훈련시킬지 문제가 될 것이라고 생각하는 편이다. 뭐, '다음 세대를 어떻게 육성해야 하는가?'에 대해서는 지금 내가 뭘 할 수 있는 입장이 아니니^[각주:16] 다음 기회에 이야기하기로 하자...

여튼, 현재의 AI의 발전 속도를 토대로 예상해본다면 (새로운 방법론을 필연적으로 요구하는) 가장 어려운 계산들은 계속 사람의 감독이 필요하겠지만 일반적으로 '소수의 전문가들만 할 수 있었던 계산'은 많은 부분 AI가 대체할 수 있을 것이라고 생각한다.^[각주:17] 다르게 말한다면, 해밍이 말하는 '통찰', 혹은 물리학자들이 흔히 말하는 "물리"에 좀 더 집중할 수 있는 환경으로 재편되리라고 생각한다. 물리학에서 "언어화되지 않는 부분"의 비중이 늘어날 것이라는 의미.

21. CAS가 발달한 현대에 컴퓨터와 계산 능력으로 경쟁하는 것은 멍청한 짓이지만, 원칙적으로 컴퓨터가 할 줄 아는 계산은 손으로도 할 줄 알아야 한다.

— Dexter Kim (@AstralDexter) September 8, 2020

다만 한가지 생각해보게 되는 부분은 실전되는 계산 기술과 계산 기술에 맞물려있는 통찰이다. 어떤 통찰은 '직접 손을 더럽히며' 계산을 해 봐야만 깨닫는 것들이 있는데, AI가 자잘한 계산과 같은 '손을 더럽혀야 하는 부분'들을 전부 대신해주게 되면 이런 통찰을 익힐 인센티브가 사라진다는 의미이다. 특수함수와 리(Lie) 군 및 대칭성과 맺는 다양한 관계들이 지금은 사실상 실전된 것과 마찬가지로. 당분간이야 지금 전공자들은 손계산을 빡세게 해봤으니 괜찮겠지만 다음 세대는?

물론, 이 모든 걱정이 이제는 대부분의 연구중심대학에서 사라진 초자가공(glass blowing)과 같은 구시대에 대한 향수일지도 모른다. 대학마다 있던 초자 장인도, 현판에 남은 입자 궤적을 분류하는 사람도, 계산을 천공카드에 옮겨주는 전문가도, 심지어 특수함수와 대칭성 사이의 연관성을 배우는 사람도 더 이상은 없지만 연구는 계속되고 지식의 최전선은 계속 확장되고 있다. 간혹 정복되었다고 믿었던 지식의 최전선과는 아주 먼 곳들이 천천히 망각의 그림자 속으로 사라져가고 있기는 하지만, 이런 일을 막으려고 열린 과학(open science)을 하는 것 아니겠는가? 연금술과 신비술의 세계에서 지식 공유와 근대과학의 세계를 일구어냈던 사람들의 꿈처럼.

---

PS. 원래 이 글을 쓰려고 직접적으로 마음먹게 된 계기는 referee review를 요청받은 논문을 LLM이 쓴 것 같아 리뷰를 미루다가 약속한 deadline이 닥쳐와서 리뷰를 시작했더니 30쪽짜리 논문 중 첫 네 페이지에서 말도 안 되는 헛소리만 다섯번 튀어나오는 것을 보고는 너무 화가 나서 글을 쓰기 시작했는데 정작 논문 생태계 이야기는 하나도 안 했다. 으음...

---

0.

몇 개월 전 꽤나 공들여 썼던 포스트의^[각주:1] 레퍼런스 표기를 편집한다고^[각주:2] 건드렸다가 각주 내용을 전부 날려버린 덕분에 정신을 못 차리고 있다. 대부분은 있으나 없느나 상관없는 사족이라 각주로 남겨둔 것이지만 중요한 각주도 두어개 정도 있었던 것으로 기억하고 있는데 되살릴 방법이 없으니 그냥 일괄 삭제하기로 결정했다. 필요 이상으로 각주를 많이 다는 버릇이 있다는 자각도 있으니 다소 비싼 교육비를 치렀다고 생각하자...^[각주:3]

1.

새로운 국가로 이사하게 되면 항상 겪는 죽음(...)의 사이클이 있다. 대표적으로 은행 계좌를 열려면 집 주소가 필요한데 집 계약을 하려면 은행 계좌가 필요한 경우가 있겠다. 여기에 전화 회선을 개통하는데 은행 계좌가 필요하다던가 월급을 받아야 하는데 은행 계좌는 아직도 안 열리는 등의 문제가 더해지면^[각주:4] 꽤나 즐거운 상황이 벌어진다. 인생이란 가까이서 보면 비극이지만 멀리서 보면 희극 아니겠는가. 리얼리티 쇼로 시트콤을 한다고 생각하면 마음이 좀 편하다급발진.

이번에는 집을 엄청나게 빨리 구해서 이사가 매끄럽게 진행되는가 싶었는데, 문제는 엉뚱한 곳에서 터졌다. 집 전기 계약을 내가 열어야 하는데, 전기 계약을 열려면 (프랑스) 은행 계좌와 휴대전화 번호가 필요했던 것이다. 그 와중에 (스위스) 은행 계좌를 열러 은행에 갔더니 (아직 연구소 계약이 시작되지 않아) 은행 서류를 받을 주소가 없다고 다음에 오라는 말을 들었고, 아직 독일 번호를 쓰고 있던 시점에 프랑스 번호를 개통하려고 하니 선결제 심으로는 휴대번호의 장기 개통이 안되니 은행 계좌가 필요하다고 하고, 이사는 연구소 계약 시작 전인데 이러다가는 첫 일주일을 전기 끊긴 집에서 살게 생겼고.^[각주:5]

결국 영국에서 이 죽음의 사이클을 해결한 방법을 그대로 써서 이사 직전에 모든 문제를 정리하는데 성공했다. 가장 약한(?) 고리인 은행계좌를 공략하는 것. 월드와이드웹의 꽤 먼 후손으로 인터넷 은행 혹은 핀테크(fintech)라는 것이 있는데, 인터넷 은행에서는 계좌를 열 때 필요한 서류 등이 훨씬 간략하기 때문에 생각보다 쉽게 은행 계좌를 열 수 있다.^[각주:6] 은행 계좌가 있으니 프랑스 번호도 개통하고 전기도 계약하고^[각주:7] 이사는 문제 없이 진행되었다. 새 집은 빨래가 좀 불편하긴 한데^[각주:8] 뭐 그럭저럭 만족하고 있다.

1.1.

이로서 다섯 개 나라에 은행 계좌를 갖게 되었다. 하필 그 중 하나가 스위스라 뭔가 어둠의 세계의 거물이 된 듯한 느낌이 없지는 않은데, 블랙홀만큼 까만 것도 없으니 뭐 대충 비슷?하다고 하자.

1.1.1.

그와는 별개로 스위스 은행 계좌를 열 때 다른 나라에 얼마나 자산을 갖고 있는지 물어봐서 당황했다. 이제는 '스위스 은행'의 평판을 신경쓰는구나...

2.

새 연구소에는 조금씩 적응해가고 있다. 연구 주제 자체가 고에너지물리 세부주제로 놓고 볼 때 학제간(?)의 성격이 있어서 어느 연구 그룹에 발을 붙여야 하는가가 다소 미묘하긴 했는데,^[각주:9] 일단은 양자장론의 형식적인 부분(formal theory)에 가까운 편이니 끈이론 그룹에 정착하는 방향으로 가고 있다. 이번 학기 첫 그룹 미팅을 가 봤는데, 포츠담에 있던 3년간 고전 중력만 다루다가 양자 중력을 다시 하려니 좀 적응 기간이 필요하단 느낌이 들고 있다.

2.1.

드디어(?) 물어볼만한 사람들과 같은 연구 그룹이 되어 대학원생 시절부터 갖고 있었던 의문을 해소해볼만한 기회를 갖게 되었다.

$\mathcal{N} = 8$ SUGRA는 $E_{7(7)}$ (정확한 대칭군이 중요하진 않다) global symmetry를 갖고 있는데, 왜 no global symmetry conjecture에 위배되지 않죠?^[각주:10]

이 질문에 대해 그다지 만족스럽지 못한^[각주:11] 대답을 벨기에에서 열렸던 Strings 2019의 학회 디너 자리에서^[각주:12] 들은 기억이 있고, 최근에는 포츠담에서 colloquium을 담당할 때 Timo Weigand가 swampland 관련 톡을 하러 와서 이 질문을 던지고 당황시킨 기억이 있다.^[각주:13] 여기 와서는 마찬가지로 swampland쪽 일을 한 적이 있는 Wolfgang Lerche에게 같은 질문을 던졌고 good question이란^[각주:14] 코멘트를 받았는데, 오늘 점심때 Irene Valenzuela까지 모여서 간략하게 이야기를 나누고 나서는 이 질문의 답에 대한 대략적인 윤곽이 잡힌 느낌이다. 새로운 결과라 할 만한 것은 없으니 답을 정리한다고 해서 논문 거리는 안 될 것 같긴 하지만.

---