목차

• 수백 개를 찾고도 하나를 놓치다
• 대학원생을 키우듯 에이전트를 키우다
• 패턴 하나가 열리면, 나머지는 순식간이었다

이 글은 ICML 2026에서 들은 발표 “Unifying Structure for Ramanujan’s 17 Series for 1/π: A Human-AI Discovery”를 발표자 1인칭 시점으로 재구성한 것입니다.

같은 상수를 표현하는 급수 공식이 수백 개씩 존재한다는 사실을 처음 마주했을 때, 나는 이상하다고 생각했다. 파이(π)의 역수를 계산하는 방법이 왜 이렇게 많아야 할까. 역사를 거슬러 올라가 보면 이런 공식들이 계속 쌓여왔는데, 그 사이에 정말 아무 연결고리도 없는 걸까? 이 질문 하나에서 우리 Ramanujan Machine 그룹의 작업이 시작됐다.

몇 년 전 우리는 이 질문에 대한 답의 실마리를 찾았다. Conservative Matrix Fields, 줄여서 CMF라고 부르는 구조다. 2F1 하이퍼기하함수처럼 잘 정의된 함수를 가져다가, 그 함수로부터 하나의 기하학적 공간을 만들어내는 방법론이었다. 이 공간 안에서 점 하나를 골라잡으면, 그 점이 하나의 기준 공식, 즉 reference form을 내놓는다. 점을 잘 고르면 수렴이 아주 빠르다거나 값이 유리수라거나 하는, 흥미로운 성질을 가진 공식이 나온다. 여기까지 오니 자연스러운 질문이 하나 더 따라왔다. 이 공간에서 공식을 만들어낼 수 있다면, 반대로 이미 존재하는 공식을 이 공간 안에서 찾아낼 수도 있지 않을까.

수백 개를 찾고도 하나를 놓치다

그래서 우리는 반대 방향으로 움직였다. 그동안 문헌에 쌓여온 공식들을 전부 훑으면서, 이들이 CMF라는 공간 어딘가에 숨어 있는지 확인해봤다. 결과는 놀라웠다. 수백 개의 기존 공식이 이 하나의 구조 안에 정확히 들어맞았다. 우리는 이 결과를 발표했고, 반년 뒤에는 유럽에서 다시 한번 소개할 기회를 얻었다. 여기까지는 순조로웠다.

그런데 정작 가장 유명한 공식 하나는 그 안에서 찾지 못했다. 1914년 라마누잔이 내놓은, 당시로서는 파격적이었고 지금 봐도 수렴 속도가 압도적으로 빠른 바로 그 공식이었다. 수백 개를 찾아낸 결과가 Scientific American 표지 기사로 실렸을 때, 기자가 나에게 물었다. “그럼 그 유명한 라마누잔 공식은 어떻게 됐나요?” 나는 사실대로 답할 수밖에 없었다. 찾지 못했다고. 이 발표는 그 뒤로 우리가 어떻게 그 마지막 하나를 찾아 17개 공식 전체의 지도를 완성했는지에 대한 이야기다.

라마누잔 공식으로 이어지는 시작점, 이른바 “launch”라는 형태를 하나 발견했는데, 육안으로는 정체를 알아보기 어려웠지만 3F2 하이퍼기하함수와 닮아 있었다. 요즘 세상이 다 그렇듯, 나도 당연히 AI에게 먼저 물어봤다. 이걸 가장 간단하고 짧은 형태로 정리해달라고, 혹은 3F2로 표현해달라고. GPT-5.5가 내놓은 답은 완벽해 보였다. 그런데 뜯어보니 완전히 틀린 답이었다. AI는 같은 함수를 찾은 게 아니라 같은 극한값을 재현했을 뿐이었다. 극한이 같다고 함수 자체가 같은 건 아니다. 겉보기엔 정확했지만 실제로는 아무 쓸모가 없었다.

대학원생을 키우듯 에이전트를 키우다

이 경험을 계기로 우리는 좀 더 영리한 방법이 필요하다는 걸 깨달았다. 그래서 이 문제를 풀기 위한 전용 리서치 에이전트를 직접 만들기로 했다. 방법은 이랬다. 관련 논문 전부와 우리가 지금까지 해온 프로젝트의 코드를 에이전트에게 넘겨준다. 그런데 그것만으로는 부족하다. 우리 연구팀만의 기준과 문화까지 학습시켜야 한다. 예를 들면 이런 것들이다. 새로 나온 공식은 반드시 수치적으로 정확도를 검증해야 한다. 어떤 가설을 테스트할 때는 의미 있게 서로 다른 여러 사례에서 확인해야 한다. 연구자에게는 굳이 말할 필요도 없이 당연한 원칙들이지만, 강제로 심어주지 않으면 AI는 알아서 지키지 않는다.

그래서 우리는 이 에이전트를 실전에 투입하기 전에, 마치 연구실에 갓 들어온 학생을 대하듯 다뤘다. 논문 몇 편을 건네고, 작은 과제를 혼자 풀어보게 하고, 그 결과를 보고 우리가 만족할 때에야 다음 단계로 넘어갔다. 이후로는 사람과 AI가 번갈아 맡는 하이브리드 리서치 사이클로 들어갔다. 연구 방향을 정하면 에이전트가 그걸 코드로 구현한다. 이건 에이전트가 잘하는 일이었다. 그다음 에이전트가 공식 후보를 만들어내고, 가능한 한 스스로 검증까지 해낸다.

처음엔 순탄치 않았다. 에이전트가 내놓는 후보 대부분이 틀렸고, 그때마다 내가 직접 피드백을 주고 하나하나 검토해야 했다. 결국 내가 병목이 됐다. 그래서 방식을 바꿨다. 수렴 속도나 recurrence의 rank처럼 공식을 특징짓는 파라미터들을 그래프로 시각화하도록 만든 것이다. 텍스트로 늘어놓은 수식보다 시각 데이터가 사람의 뇌에는 훨씬 편하게 들어온다. 그럼에도 나는 계속 후보를 거절했다. 하지만 이번엔 방향이 있었다. 이 시각화 방식대로 데이터를 계속 쌓아 올렸고, 어느 순간부터 에이전트가 성공적인 후보를 스스로 찾아내기 시작했다.

패턴 하나가 열리면, 나머지는 순식간이었다

가장 단순한 공식 하나, 즉 17개 중 맨 위에 있던 그 하나가 올바른 패턴과 궤적을 찾아내자 흥미로운 일이 벌어졌다. 나머지 열여섯 개가 매우 빠른 속도로 뒤따라 발견된 것이다. 일단 옳은 패턴 하나를 손에 쥐고 나면, AI가 그걸 바탕으로 나머지를 개선해나가는 일은 훨씬 쉬워진다는 걸 우리는 직접 확인했다. 최종적으로 17개 공식 모두가 매트릭스 그룹과 일치하는 하나의 7차원 공간 안에 존재한다는 사실이 드러났다. 백 년 넘게 개별적으로 존재해온 공식들이, 결국 하나의 구조 안에서 서로를 알아본 셈이다.

이 작업을 돌아보면 내가 가장 오래 기억하고 싶은 건 완성된 결과의 우아함이 아니라, 그 사이에 있었던 시행착오다. 범용 AI는 그럴듯해 보이지만 검증되지 않은 답을 아무렇지 않게 내놓는다. 그 함정을 피하는 방법은 AI를 아예 믿지 않는 게 아니라, 우리 연구의 기준과 문화를 알고 있는 나만의 에이전트를 직접 키워내는 것이었다. 그래서 발표를 마치며 나는 청중에게 이렇게 말했다. 여러분도 한번 자신만의 에이전트를 만들어보시라고.