약 11분

비 오는 그림이 자꾸 흐려지는 이유

ICML 2026 AI4Physics 워크숍의 패널 토론. 물리 세계를 이해하는 AI를 둘러싼 세 연구자의 대화.

목차

자리에 앉아서 왼쪽부터 순서대로 자기소개를 듣는데, 셋의 배경이 하나같이 결이 달랐다. 엔비디아에서 대학과의 연구 협업을 이끌고 단백질 폴딩과 신소재 발견을 붙잡고 있는 마이크. 점프트레이딩에서 AI 리서치를 이끌며 퀀트 에이전트를 개선하는 미카스 베이커. 자율주행차를 8년 만들다가 지금은 날씨를 예측하고 통제하는 대규모 물리 모델을 만드는 켈시. 모더레이터는 예일대의 애나 길버트였다. 배경이 이렇게 다른 세 사람이 같은 질문 앞에 앉으니, 답이 자꾸 같은 단어로 수렴하는 게 재미있었다. 데이터.

첫 질문은 단순했다. 당신 회사는 AI를 물리학에 어떻게 쓰고 있는가. 켈시의 답이 제일 단도직입적이었다. 자기네가 만드는 건 그냥 “물리학을 위한 AI”라고 했다. 미카스는 결이 달랐다. 점프트레이딩 리서치 팀 안에는 고에너지물리학, 끈이론, 칼라비-야우 다양체 같은 문제를 붙잡고 있는 사람이 따로 있고, 모델을 훈련시키고 데이터를 들여다보면서 뭔가 발견할 게 있는지를 본다고 했다. 발견 자체가 목적이라는 거다. 마이크는 두 갈래로 나눠 답했다. 엔비디아는 GPU 컴퓨팅 플랫폼 회사니까 AI4Science를 위한 소프트웨어를 만드는 게 하나. 그런데 사내에는 반대 방향의 팀도 있다고 했다. “physics of AI” — 지금 AI가 왜 작동하는지 우리는 경험적으로만 알고 있는데, 백 년 넘게 쌓인 수학과 물리 이론을 가져다 그 작동 원리를 설명해보려는 팀이라고 했다.

수학은 데이터를 지어낼 수 있고, 물리학은 못 한다

이어진 질문이 날카로웠다. 물리학과 수학은 사촌지간처럼 가까운데, LLM이나 AGI의 관점에서 보면 둘은 어떻게 다른가. 미카스의 답이 명쾌했다. 지금까지는 수학이 자동정형화(autoformalization)에 훨씬 유리했다고 했다. 문화적인 이유도 있지만, 단순히 그 분야에 이미 쌓인 작업량이 많아서이기도 하다고. 그런데 진짜 차이는 다른 데 있었다. 수학은 데이터를 합성해서 만들어낼 수 있다. 코드를 쓰고 분포를 바꾸면 RL 에이전트를 위한 학습 데이터가 얼마든지 나온다. 물리학은 그렇게 안 된다. 발견을 하려면 결국 진짜 데이터를 수집해야 한다. 이 차이 하나가 물리학 쪽 진전을 구조적으로 느리게 만든다고 했다.

이 문장이 계속 머리에 남았던 이유는, 다음 질문에 대한 답들이 결국 다 이 지점에서 갈라졌기 때문이다. 지금의 AI가 각자 풀어야 할 연구 문제를 풀 만큼 충분한지, 아니면 새로운 패러다임이 필요한지를 묻는 질문에 켈시가 제일 구체적으로 답했다. 자기는 지금 만들고 있는 게 “AI”라는 단어로 불리는 게 맞는지부터 의심스럽다고 했다. 한 단계 뜯어보면 결국 두 가지뿐이라는 거다. 어떤 데이터로 학습시키는가, 그리고 어떤 아키텍처로 학습시키는가. 트랜스포머 블록이 만능은 아니라고 했다. 예를 들어 이미지를 통째로 토큰으로 펼쳐서 모델에 넣을 수도 있지만, 그게 산을 산으로 인식하는 가장 효율적인 방법인지는 전혀 다른 질문이라는 거다. CNN이 공간적 귀납 편향을 내장하고 있듯, 시공간적으로 밀도 높은 데이터에는 그에 맞는 귀납 편향이 따로 있을 수 있다고 했다. 손실 함수도 마찬가지다. 강수량 예측에 흔히 쓰는 MSE 손실은 아예 작동하지 않는다고 잘라 말했다. MSE로 학습시키면 결과가 그냥 흐릿해진다는 거다. 비가 온다는 것도, 안 온다는 것도 아닌, 어중간하게 뭉개진 회색 그림. 멀리 갈 것도 없이 그림 한 장만 봐도 안다고 했다.

같은 질문에 다른 패널리스트는 정반대 결을 들고 나왔다. 자기는 “AGI에 진심으로 베팅한 사람” 쪽이라고 했다. 지금 패러다임 안에서 인간 지적 노동의 대부분이 향후 3년 안에 자동화되지 못할 이유가 안 보인다고. 다만 모델 자체를 지능의 단위로 놓는 게 잘못됐다고도 했다. 프론티어 모델은 구구단도 잘 못 한다. 두 자릿수 세 자릿수는 되는데 일곱 자릿수쯤 가면 무너진다. 그런데 그게 뭐가 중요하냐고 반문했다. 어떤 에이전틱 시스템이든 계산기를 쓰거나 파이썬 코드를 짜서 처리하면 그만이다. 그러니 질문은 모델이 뭘 못 하느냐가 아니라 에이전트 전체가 뭘 할 수 있느냐여야 한다고 했다. 모델은 조종석의 파일럿일 뿐이고, 판단은 시스템 전체를 놓고 해야 한다는 거였다.

마이크는 다시 다른 각도에서 받았다. 지금 우리가 세상 전체를 걸고 트랜스포머 기반 빠른 추론에 투자를 쏟아부었는데, 새로운 아키텍처로 갈아탄다는 건 이 모든 엔지니어링을 다시 짜야 한다는 뜻이라고 했다. 그 정도로 갈아탈 가치가 있는지는 아직 확신이 안 선다고. 그리고 3년 전에는 다들 LLM이 수학을 못 한다고 했고, 1년 전에는 올림피아드 수준 문제를 못 푼다고 했고, 지금은 연구 최전선의 문제를 못 푼다고 한다며, 계속 골대를 옮기고 있는 게 아니냐고 되물었다. 그러면서도 정작 자기 팀이 씨름하는 물리학 문제 — 새로운 정리를 증명하고 보조정리를 세우고 논문 초안까지 쓰게 하는 작업 — 로 넘어가면 얘기가 또 달라진다고 했다. 거대한 언어 모델을 아주 작은 물리 문제 하나에 그대로 갖다 쓰는 게 정말 맞는 방법인지는 여전히 모르겠다고, 뉴턴의 법칙 같은 걸 데이터만 보고 다시 발견해낼 수 있는지를 지금도 시험하고 있다고 했다.

스케일링은 결국 사람이 먼저 놓은 발판 위에서 일어난다

가장 흥미로웠던 대목은 비터 레슨(bitter lesson) 얘기였다. 데이터와 컴퓨팅이 결국 사람의 통찰을 이긴다는 그 유명한 명제를, 미카스는 조금 다르게 읽고 있었다. 맞는 말이지만, 그 데이터와 컴퓨팅은 늘 어느 정도의 인간 통찰로 먼저 부트스트랩된다는 거였다. 10년 전 알파고를 만들 때 얘기를 꺼냈다. 최종적으로는 인간 데이터 없이 처음부터 훈련시켜서 하루 만에 세계 챔피언급까지 올라갔다는 이야기로 남았지만, 그 뒤에는 프로 기사 한 명이 매일 알려진 약점을 파고들며 기계와 계속 대국을 두던 시간이 있었다고 했다. 그 대국들이 아키텍처 선택을 이끌었고, 탐색해야 할 방대한 공간을 실질적으로 좁혀줬다는 것이다. 스케일이 이기는 건 맞지만, 그 스케일이 설 수 있는 발판은 늘 사람이 먼저 놓는다고 했다.

같은 회사 안에서도 이 발판의 무게가 달랐다. 미카스는 자기 팀이 만드는 에이전틱 시스템 쪽에서는 스케일링 얘기가 대부분이지만, 발견 팀 쪽으로 넘어가면 완전히 다른 이야기가 된다고 했다. 항공기 물리학과 제어 이론, 결정학, 끈이론 문제에서 반복해서 확인한 게, 언어 모델에서 통했던 스케일링 법칙이 그대로 옮겨오지 않는다는 사실이었다. 데이터를 만드는 사람이 그 수학을 이해하지 못하면, 아무리 많이 모아도 진짜 수학자가 짜준 데이터로 훈련한 모델을 못 이긴다고 했다. 제어 이론 프로젝트 하나에 2년을 들여 데이터를 정교하게 설계했는데, 결국 판을 뒤집은 건 프랑스의 한 교수가 던져준 수학적 직관 한 조각이었다는 얘기도 했다.

켈시는 자기 분야의 사례로 맞장구쳤다. 자율주행 할 때도, 지금 날씨 데이터를 다룰 때도 똑같이 확인한다고 했다. 양이 아니라 구성이 문제라는 것. 보행자가 단 한 번도 안 나오는 주행 영상을 아무리 많이 모아봐야 소용없다고 했다. 그래서 데이터를 그냥 쌓는 대신 직접 큐레이션했다고. 사막처럼 늘 같은 온도만 나오는 지역, 샌프란시스코처럼 사시사철 비슷한 지역의 데이터만 잔뜩 있으면 모델은 그냥 평평한 온도를 예측하는 법만 배운다고 했다. 그래서 일부러 변화가 큰 데이터를 찾아 넣었다는 거다. 지금은 이걸 사람이 감으로 고르는 대신 자동으로 찾아내는 연구도 나오고 있다고, 어떤 데이터가 실제로 손실 값에 기여하는지를 온라인으로 가려내는 방향이 꽤 흥미롭다고 덧붙였다.

마이크는 에이전틱 시스템의 비용 얘기로 이어받았다. 결국 에이전트가 하는 일도 껍데기를 벗기면 모델 호출 한 번이라고 했다. 그 사이에 낀 처리 과정을 다 걷어내고, 에이전트가 실제로 어떻게 정보를 처리했는지, 그 처리에서 뭘 배울 수 있는지를 물어야 한다고. 결국 에이전틱 문제도 정보 처리 문제로 환원해서 봐야 한다는 게 그의 결론이었다.

질문이 마지막으로 넘어간 건 박사 학위였다. 학생들에게 박사를 하라고 해야 하느냐는, 강단에 선 모더레이터의 현실적인 질문이었다. 미카스는 학위 여부는 중요하지 않다고 잘라 말했다. 필요한 건 능력과 의지뿐이라고. 다만 그 위에 호기심과 비전, 그리고 자기 생각을 끝까지 설득력 있게 밀고 나가는 일관성이 있어야 한다고 했다. 자기 팀은 벨 연구소 같은 걸 지향하는, 느슨하고 유기적인 조직이라 그런 자질이 특히 잘 맞는다고. 다른 패널리스트는 조금 다르게 답했다. 박사가 주는 건 결국 시간이라고 했다. 하나의 깊은 문제에 오래 붙어 있을 수 있는 시간. 모델을 0.3% 개선하는 정도로는 부족하고, 정말 깊이 생각해야 하는 순간이 오는데, 그 훈련을 박사 과정만큼 안전하게 받을 수 있는 길이 많지 않다고 했다. 대신 박사를 안 하고 산업계로 가면 GPU를 훨씬 많이 만질 수 있다는, 지금 시점에서는 무시 못 할 이점도 있다고 덧붙였다. 예전 직장에서 가장 좋았던 협업자 두 명이 원래 이론물리학자로 박사와 포닥, 교수직까지 거친 뒤에 AI로 넘어온 사람들이었다는 얘기도 나왔다. 실험만 하는 게 아니라 문제를 정말 깊이 생각하는 사람들이었다고. 그래서 박사를 하고, 그다음에 인턴십으로 산업 경험을 쌓는 조합이 제일 좋은 타협점일 수 있다는 얘기로 이어졌다.

마이크는 박사보다 문제 해결 능력 자체가 중요하다고 했다. 지금 배운 기술이 몇 년 뒤엔 낡은 것이 될 수 있으니, 특정 기술이 아니라 문제를 붙잡는 힘을 길러야 한다고. 그리고 마지막 질문에는 이렇게 답했다. 딥테크 스타트업이 성공하려면 데이터에서 문제가 나오든, 모델에서 나오든, 지표에서 나오든, GPU에서 나오든 일단 다 부딪혀봐야 한다고. 그런데 그보다 더 중요한 건 왜 이 문제를 풀고 싶은지 스스로 아는 일이라고 했다. 문제가 재미없으면 결국 왜 이걸 하고 있는지를 잃어버리게 되고, 진짜 원동력은 결국 순수한 흥미라고. 아침에 눈을 뜨자마자 GPU를 고치고 모델을 고치고 싶어서 몸이 근질거리는 사람인지, 그게 제일 중요한 질문이라고 했다.

자리를 정리하고 나오면서 계속 강수량 예측 얘기가 떠올랐다. MSE로 학습시키면 비가 온다는 것도 안 온다는 것도 아닌, 흐릿한 회색 그림이 나온다던 그 말. 돌이켜보면 이 패널에서 나온 모든 이야기가 결국 그 흐릿함을 걷어내는 이야기였다. 수학은 데이터를 지어낼 수 있어서 빨리 가지만, 물리학은 진짜 데이터를 모아야 해서 느리다. 스케일은 결국 이기지만, 그 스케일이 설 발판은 늘 누군가 먼저 손으로 놓아야 한다. 프로 기사의 대국이든, 프랑스 교수의 직관이든, 보행자를 놓치지 않으려 데이터를 골라낸 손길이든. 결국 이 판에서 흐릿함을 걷어내는 건 더 큰 모델이 아니라, 그 흐릿함이 왜 생기는지를 정확히 아는 사람의 판단이었다. 나는 그날 집에 오는 길에, 내가 지금 하고 있는 일에서 그 흐릿함이 어디서 오는지 제대로 설명할 수 있는지 스스로에게 물어봤다. 아직 답을 못 했다.


이 글은 ICML 2026 AI4Physics 워크숍의 패널 토론을 듣고 쓴 기록입니다. 화자 표기는 녹취 기준이라 정확하지 않을 수 있습니다.