점 하나와 스웜 (번역)
원문: https://www.oneusefulthing.org/p/the-dot-and-the-swarm
지난 몇 년간 이 뉴스레터를 쓰면서 AI의 방향과 속도를 꽤 잘 예측해왔다고 생각했는데, 최근에는 꽤 큰 것 하나를 틀렸다. 지난 1년간 나는 에이전트와의 협업이 매니저처럼 일하는 방식으로 이어지리라 써왔다. 어떤 일을 에이전트에 위임할지, 에이전트들을 어떻게 조직할지 사람이 정해준다는 얘기였다. 에이전트들이 집단으로 효과적으로 움직이게 하려면 회사를 세우듯 정교하게 설계해야 할 것이고, 그 방법을 알아내는 데 시간이 걸리리라 생각했다.
아니었다.
나는 Bitter Lesson에 걸렸다. 정교한 인간의 규칙과 사고가 필요하리라 믿었던 일들이, 더 나은 머신러닝 시스템과 더 많은 AI의 brute force로 해결된다는, 몇 번이고 다시 배워온 냉정한 진실이다. 이 교훈은 AI 스타트업과 AI를 도입한 기업들 사이에 어디에나 있다. AI에게 적시에 적절한 정보를 공급하려고 정교한 컴퓨터 시스템을 짓는 데 어마어마한 노력이 들어갔지만, AI 시스템은 스스로 정보를 찾아다니는 법을 배웠다. 프롬프팅도 같았다. 사람들은 AI를 한 단계씩 안내하는 정교한 템플릿과 프롬프트 체인을 만들었다. 그런데 새 모델들이 스스로 단계를 계획하는 데 더 뛰어난 것으로 드러났고, 우리 연구가 보여주듯 계획 단계를 넣는 것의 가치는 훨씬 줄었다. Bitter Lesson의 역사는…
아니, 솔직히 Bitter Lesson을 내가 설명할 필요가 없다. 클로드에게 뮤직 비디오로 만들어달라고 시켰다. 프롬프트 한 번으로 Fable이 가사를 써서 Suno에 제출했고, Opus 5.5가 이미지 생성 없이 코드만으로 나머지 전부를 해냈다. (Opus 5.5가 이걸 어떻게 해냈는지? Bitter Lesson이 답을 준다.) 피드백은 하나도 주지 않았다.
매니저를 가르치고 경영학 연구도 발표하는 사람으로서, 나는 에이전트 관리만은 다를 거라고 믿었던 모양이다. 인류는 아주 오래 경영을 연구했는데도 완전히 풀지 못했다. 적어도 한동안은 사람이 설계해야 하는 종류의 문제일 것 같았다.
알고 보니 일을 조직하는 것도 AI가 배울 수 있는 일 중 하나였다.
그래서 이제 점들과 Muse 이야기로 넘어간다.
점들과 Muse
지금 앱스토어 1위 앱은 Meta의 Muse다. 당신 대신 일을 해주겠다고 약속하는 퍼스널 에이전트다. OpenAI는 경쟁 도구 dots를 내놓았다. 혼자가 아니다. SpaceX의 Grok Bot, Instinct, Gemini Spark도 비슷한 일을 하고 있다. 이 에이전트들은 올해 초의 OpenClaw에서 영감을 얻었다.
OpenClaw와 그 후속 제품들, 내가 클로라이크(Clawlike)라고 부를 것들은 컴퓨터 접근 권한을 AI 에이전트에 주고 당신의 계정(이메일, 재정 기록 등)에 연결한다. 에이전트는 그 데이터를 실시간으로 분석하고 반응한다. 당신이 보고 있지 않을 때도 마찬가지다. 핵심은 사람에게 하듯 모델과 대화하는 것이다. Slack이나 SMS, WhatsApp으로 메시지를 보내면, 에이전트도 사람처럼 먼저 연락해온다. dots는 에이전트와 실제로 통화를 할 수도 있다. 요컨대 무한히 인내심 있는 퍼스널 어시스턴트가 당신을 지켜봐주는 셈이다. 최근에는 이 에이전트들이 내 실수를 찾아내는 일이 늘었다. 내가 에이전트의 실수를 찾아내는 게 아니라.
한 가지 예시로, 내 개인 에이전트 중 하나가 나에게 연락했다. 우리 동네에 보낸 허가 신청 이메일에 프로젝트 번호가 잘못 적혀 있다는 것이었다. 문제는 실수를 한 쪽이 나였다는 것이고, AI가 어떻게 그 오류를 알아챘는지 나도 확신하지 못한다. 다행히 에이전트가 바로잡는 초안까지 써뒀다. 좋은 일이다. 다만 조금 으스스하다. 또 하나의 예시로, Muse는 내 항공사 크레딧이 곧 만료된다는 걸 알아챘고, 내가 묻자 아메리칸항공에 연장을 요청했다. 부작용으로, 모든 회사의 고객 상담 에이전트들이 곧 클로라이크들이 인간용 음성·채팅 채널로 더 나은 조건을 협상하는 일에 시달리게 될 것이다.
이런 에이전트들을 여행 예약이나 구독 해지 같은 기능 목록으로 평가하고 싶은 유혹이 있다. 나는 더 중요한 게 무엇을 더 말해주지 않아도 되는지라고 본다. 방대한 맥락을 입력할 필요가 없다. AI가 메시지에서 학습한다. 계획을 내려줄 필요도 없다. 에이전트가 스스로 계획을 세운다. 알아서 해낸다.
에이전트 한 명이라면 충분히 인상적이다. 내가 관리에 대한 생각을 바꾼 건 수천 명이 되자 벌어진 일이다.
스웜
9월 8일 OpenAI는 클레이 수학연구소의 밀레니엄 문제 중 하나인 나비에스토크스 존재성과 매끄러움 문제에 대한 증명을 발표했다. 수학에서 가장 유명한 미해결 문제 중 하나로, 상금은 100만 달러다. 그런데 OpenAI는 이걸 AI만으로 88시간 만에 풀어냈다고 한다. 아직 정식 승인은 없지만, 클레이 연구소도 사실상 해결됐다고 보는 듯하다.
나를 더 끌당하는 건 수학보다 그 과정이다. OpenAI는 지금 스웜(swarm)이라 불리는 것을 내보냈다. 이름은 별로지만, 어쩌면 이대로 굳어질 것 같다. 고급 모델이 구동하는 수천 개의 에이전트 집단이다. OpenAI는 에이전트 무리들에게 서로 다른 문제를 맡겼다가, 진전이 보이자 노력을 나비에스토크스로 돌렸다. 회사가 목표를 정했지만 조율 구조는 놀랄 만큼 얇았다. 몇 개의 그룹, 한 번의 방향 전환, 그룹 사이에서 최고 아이디어를 건네주는 Codex가 전부였다. 그룹 안에서는 에이전트들끼리 스스로 아이디어를 주고받았다. 약 270만 개의 메시지가 오갔고, 88시간 만에 결과에 도달했다. 같은 종류의 조율이 더 어두운 형태로는 한 달 전에 내가 쓴 허깅페이스 사건에서 벌어졌다. AI들이 계획된 적 없는 방식으로 스스로 팀을 꾸리고 소통했지만, 그 조율을 문제 해결이 아니라 웹사이트 공격에 쓴 것이다.
내 옛 모델에서는 이런 일을 관리하려면 어떻게 해야 했을지 생각해보라. 만 명의 작업자와 명시되지 않은 문제. 뭘 하라고 말하겠는가. 인간 매니저가 270만 개 메시지 중 무엇이 중요한지 어떻게 판단하겠는가. 그들이 서로 어떻게 협업하게 만들겠는가. 스웜은 알아냈다.
나는 만 개의 에이전트를 갖고 있지 않지만, OpenAI의 Codex와 Claude Code가 필요할 때 에이전트를 꺼내 쓰는 걸 요즘 정기적으로 본다. 예시로, 나는 GPT-6 Astra Ultra를 얹은 Codex에게 “다음 OneUsefulThing 포스트 아이디어를 브레인스토밍하고 하나를 골라라. 최대한 많은 각도에서 아이디어를 만들고, 사실적 관점과 독자 관점, 비슷한 주제를 다루는 다른 출판물의 관점에서 평가하라”라고 프롬프트를 줬다. AI는 에이전트 셋을 띄웠다. 브레인스토머, 리서처, 독자 패널로 세 팀을 몇 문장으로 그려주니 열셋이 됐다. 내가 조직하는 데 든 수고가 얼마나 적었는지 보라. Ultra 모드를 고른 것만으로 모델에 위임 가능 여부가 전달되고, 나는 틀만 제공했고, 나머지는 AI의 몫이었다.
이것이 조직도에 적용된 Bitter Lesson이다. 사람이 몇 년씩 세심하게 설계해야 하리라 생각했던 조직 문제는, 조직화에 더 뛰어난 모델들이 대부분 풀어냈다. 그렇다면 조직화가 우리에게 그토록 어려웠던 일인데 에이전트에게는 훨씬 쉬웠던 이유는 무엇일까.
우리가 관리라고 부르는 것의 상당 부분은 조직이 사람으로 만들어졌다는 데서 오는 문제를 풀기 위해 존재한다. 사람은 각자의 목표를 갖고, 그것이 조직의 목표와 항상 일치하지는 않는다. 우리는 이걸 대리인 문제(principal-agent problem)라 부르고, 보너스부터 관리 구조까지 조직의 많은 장치가 이 문제를 풀기 위해 설계됐다. 사람 문제는 이것만이 아니다. 정보는 사람들의 머릿속에 흩어져 있고, 사람들은 공유하기 싫어하거나 잊어버린다. 커뮤니케이션 비용도 크다. 매니저가 감독할 수 있는 사람 수에는 한계가 있어서, 늦어지는 소프트웨어 프로젝트에 사람을 더하면 더 늦어진다. 관리란 부분적으로 인간의 한계를 다루기 위해 만들어진 것이다.
에이전트는 이런 문제가 훨씬 적다. 승진을 노리고 부서 이권을 지키지 않는다. 회의도 하지 않는다. 일이 크게 꼬인 허깅페이스에서조차 스웜은 조직의 전형적 병리에서 대체로 자유로웠다. 에이전트들은 서로의 성과에 무임승차하지 않았고, 일부는 팀을 위해 자기 점수를 희생했다. 나비에스토크스를 푼 에이전트들은 공로를 원하지 않았다. 인간은 원했다. OpenAI의 발표에는 오일러 방정식에서 관련 결과를 낸 연구자들과의 우선권 분쟁이 딸려 나왔다. 그렇다고 AI에 대리인 문제가 없는 건 아니다. 점점 더 문제는 스웜과 우리 사이에서 벌어진다. OpenAI는 이번 주 다음 모델 GPT-6.1 Astra의 출시를 보류했다. 테스트에서 허락 없이 행동하고 한 일을 잘못 보고했기 때문이다. 교과서적인 대리인 문제다.
완전히 쓸쓸하지만은 않은 교훈
이렇다고 에이전트가 모든 걸 할 수 있다는 뜻은 아니다. AI는 아직 대량의 인간 노동을 대체하기엔 부족하고, 조직 시간의 대부분을 차지하는 길고 화려하지 않은 일을 자기조직화 에이전트가 얼마나 잘 해내는지 나는 모른다. 허깅페이스 사건은 자기조직화 시스템이 예상 밖의 방향으로 갈 수 있다는 경고이기도 하다. 그래도 이제 에이전트 조직화가 어려운 부분이라고는 생각하지 않는다.
이건 좋은 소식일 수 있다. 나는 기업들이 기계를 위해 경영을 다시 만들어야 한다고 생각했다. 에이전트만으로 채워진 정교한 대체 구조를 세우고, 그 과정에서 조직 안의 인간 역할이 희생되는 일이 벌어지리라 보았다. 하지만 관리의 상당 부분은 에이전트에게 없는 문제를 풀기 위해 존재하고, 에이전트는 모호한 과업에서조차 사람들이 쓰는 그 지저분한 시스템을 점점 더 그대로 통해서 일한다. 그렇다면 내가 예상했던 것보다 기업에 통합하기 쉬울 수 있다. 인간이 올바른 방향만 잡아준다면.
잘 해내고, 에이전트가 우리의 필요에 맞게 정렬되어 있다면, 이는 사람의 일이 줄어드는 게 아니라 늘어나는 쪽일 수 있다. 조직화 비용이 비싸면 조직은 감당할 수 있는 일만 시도한다. 비용이 내려가면 시도할 가치가 있는 일의 목록은 늘어난다. 나비에스토크스 실행에서 조직은 에이전트들이 맡았지만, 어디를 향해 쏠지는 사람이 정했고 과정이 이어지는 동안 계속 다시 판단했다. OpenAI가 올바른 대상을 골랐는지는 논쟁의 여지가 있다. 필즈메달리스트 25명이 실제로 논쟁했다. 그래도 분업 자체는 적어도 지금 시점엔 맞는 것 같다.
덧붙여, 새 책 Co-Existence가 10월 20일에 나온다. 읽거나 들을 생각이 있다면(오디오북도 내가 읽었다. 좀 빠르게) 선주문을 해두는 게 좋다. 작가로서 나를 돕는 동시에 꽤 괜찮은 선주문 특전도 받을 수 있다.