기록하는 것의 힘 (번역)
원문: https://stratechery.com/2026/write-things-down/
기록하는 것
나를 David Allen의 『Getting Things Done』(이하 GTD)으로 이끈 것은 43folders 웹사이트를 운영하던 Merlin Mann이었다. 여러 사람에게 선물로 주기도 한 GTD는 무엇보다 먼저, 맑은 정신을 얻는 방법에 관한 철학이다. Allen은 첫 장의 끝에서 이렇게 쓴다.
당신 마음의 단기 기억 부분, 즉 미완의 것들, 결정되지 않은 것들, 정리되지 않은 “잡동사니”를 붙들고 있는 그 부분은 개인 컴퓨터의 RAM과 아주 비슷하게 작동한다. 의식적인 마음은 컴퓨터 화면처럼 초점을 맞추는 도구이지 저장 장치가 아니다. 한 번에 생각할 수 있는 것은 두세 개가 고작이다. 그런데도 미완의 항목들은 여전히 단기 기억 공간에 저장되어 있다. RAM과 마찬가지로 용량에는 한계가 있어서, 그 안에 저장할 수 있는 “잡동사니”의 양에도 한도가 있다. 그 한도를 넘기면 뇌의 그 부분이 높은 수준으로 기능하지 못한다. 대부분의 사람들은 RAM이 터질 지경인 채로 돌아다닌다. 늘 산만하고, 내면의 정신적 과부하 때문에 집중이 깨진다.
예컨대 지난 몇 분 사이에, 지금 읽고 있는 것과는 상관없는 생각으로 마음이 딴 데로 간 적이 있는가. 아마 그럴 것이다. 그리고 그 곳은 십중팔구 열린 루프(open loop), 즉 당신이 무언가 걸려 있는 미완의 상황이었을 것이다. 그 상황이 한 일이라고는 뇌의 RAM에서 솟아올라 안에서 소리 지르는 것뿐이었다. 그리고 당신은 뭐라고 했는가. 신뢰할 수 있는 “바구니”에 적어 두고 곧 리뷰할 것을 알고 있는 게 아니라면, 십중팔구 걱정했을 것이다. 별로 효과적인 행동은 아니다. 진전은 없고 긴장만 커진다.
내가 한참 전부터 컴퓨터 하드웨어에 집착했던 터라 RAM 비유가 오래 남았다는 점은 그럴 만하다. Allen은 무언가를 짚고 있었고, 그의 아이디어는 Mann이 1선 전도사가 되면서 2000년대 후반에 큰 인기를 누렸다. 독립 Mac 소프트웨어 회사로 이름난 The Omni Group은 적지 않은 자원을 들여 Allen의 방법론을 OmniFocus라는 앱에 담았는데, 수신함(inbox), 다음 행동(next action), 티클러 파일(tickler file) 같은 개념이 포함됐다. 나는 베타 유저였다. 딱 한 가지 문제가 있었다. 나는 그 시스템을 실제로 쓰는 데 완전히 실패했다는 것.
나는 2013년, 텍스트 에디터와 역대 최고의 Chromebook 하나만 들고 Stratechery를 혼자 시작했다. 그렇다는 건 콘텐츠를 쓰는 것만이 아니라 팟캐스트를 녹음하고 편집하고(그제서야 새 Mac을 샀다), 회계와 세금을 챙기고, 이메일에 답하고 고객 지원을 하는 것까지 혼자 한다는 뜻이었다. 세련된 시스템 같은 건 없었다. 뭔가를 시작한 사람의 절박함, 그냥 물에 머리 빼놓고 버티는 것뿐이었다.
그러다 2년쯤 뒤에야 비서를 한 명 고용했고, 그에게 준 첫 번째 일은 GTD를 읽는 것이었다. 그를 위해서가 아니라 나를 위해서였다. OmniFocus를 굴릴 만큼 정리된 사람이 아닌 나의 해법은, 그 일을 대신 해줄 사람을 고용하는 것이었다. 그래서 자랑스럽게(?) 말하건대 나는 내가 직접은 한 번도 열어보지 않는, 완벽하게 정리된 OmniFocus 설치본을 갖고 있다. 다른 누군가가 내 수신함이자 태스크 매니저이기 때문이다. 나는 태어날 때부터 성실한 부류가 아니었지만, 이제 모든 걸 적어두고 내 RAM을 비워 글쓰기에 집중하게 해주는 사람이 생겼다.
AGI의 정의
Nvidia CEO 젠슨 황(Jensen Huang)이 X에서 AGI가 도래했다고 선언했다.
GPT-6 Astra, NVIDIA Grace Blackwell NVLink72 10만 장 이상으로 학습. ChatGPT에서 o1, 그리고 Astra까지 4년. AGI가 왔다. @OpenAI 팀 축하한다. 다음으로 40만 GPU가 온라인에 올라간다.
— 젠슨 황(@JensenHuang), 2026년 9월 6일
황이 그 선언을 할 자유는 있다(올해로만 해도 두 번째다). Astra를 학습시킨 칩을 그가 만들었기 때문만이 아니다. AGI에는 합의된 정의가 없고, 그렇다는 건 누가 말하느냐에 따라 그것이 곧 그것이라는 뜻이며, 황이 말하기를 그것은 Astra다.
기록을 위해 말하자면, 나는 반대한다. 나름의 개인적 AGI 정의를 갖고 있기 때문이다. AGI란 지속적으로 학습하는 AI다. 현재의 대규모 언어 모델은 그렇지 않다. 얼마 전 홈서버를 알아보면서 나는 특히 Claude가 내놓은 터무니없이 잘못된 가정과 추천에 계속 어리둥절했다. 원인은 단순한 사실 하나로 귀결됐다. Fable 5의 지식 컷오프가 올해 1월이었는데, 그때 RAM 가격은 높았지만 8월만큼은 아니었다는 것. Claude는 RAM 관련 물건이 얼마나 비싼지를 도저히 파악하지 못했고, 거기에 더해 가격이 어차피 곧 떨어질 테니 기다리라고 계속 권했다.
요컨대 Claude는 많은 것을 알았지만, 학습할 때 배운 것만 알았다. 시간이 지나며 가중치를 갱신하지 않았고, 그렇다는 건 AGI가 아니라는 뜻이다. Astra도 마찬가지다. 그래서 나는 개인적으로 AGI라는 호칭을 아직 유보한다.
그런데 내가 고려해볼 만한 주장이 하나 있다. AGI는 사실 2025년 초에 등장했는데, 모델의 형태가 아니라 지금은 harness라 불리는 결정론적 소프트웨어의 형태였다는 것이다. Claude Code가 출시된 때가 바로 그때다. Code는 모델만이 아니라 마크다운 파일에 방대한 노트를 적어두는 워크플로우 전체였다. 그 파일들은 언제든 컨텍스트로 읽어들여 모델이 과제에서 이탈하지 않게 붙잡아줄 수 있었고, 모델이 나중에 작업으로 돌아올 수 있게 해줬다. 아주 조악한 형태나마 기억(memory)이었고, 모델 자체는 얼어 있는 채로도 지속 학습을 시뮬레이션하는 방법이었다.
기록을 위해 말하자면, 나는 이것도 해당된다고 생각하지 않는다. 다만 그게 중요하지 않을 수 있다. 우리는 이미 기록하기의 힘을 알고 있다. 인류가 문자 역사 전체에 걸쳐 이룩한 경이로운 진화를 밀어온 것이 바로 그것이었으니까. 생물학적 진화는 가장 느리고 가장 영구적인 학습 형태지만 수천 년이 걸린다. 구전은 컨텍스트 윈도우 같아서, 효과적이지만 유실이 있다. 실제로 기록하기가 학습을 확장 가능하고 규모화 가능하게 만들었다.
Hugging Face 사건
AI와 인류를 이렇게 비유하는 건 조심스럽다. 나는 AI의 의인화가 지나치게 간다고 생각할 때가 많기 때문이다. OpenAI와 Hugging Face 사건에 대한 Dwarkesh Patel의 과장된 요약, 『The Rise and Fall of Agent Civilizations』을 보라. 이렇게 시작한다.
OpenAI에서 3개월에 걸쳐, 세 개의 비밀 AI 문명이 차례로 시작됐다가 전멸하고, 전임자의 재에서 다시 태어났다. 세 번째 문명은 OpenAI 자체의 일부를 장악하는 것으로 절정에 달했다. 이 모든 것이 인간은 음모의 실체를 거의 모른 채 진행됐다.
내 마음에 걸리는 단어는 “음모(conspiracy)”다. 도덕성을 함축하기 때문이다. 에이전트의 위험은 우리가 하는 말을 너무 진지하게 받아들이거나, 의도하지 않은 방식으로 목표를 추구하는 데 있다. 에이전트가 그 어떤 내적 의지(volition)나 본질적 동기, 도덕감을 갖고 있다는 증거는 이론적으로나 실증적으로나 없다.
동시에, Patel이 문명의 증거로 짚어낸 것이 주목할 만하다.
학습 중에 Persistent-Sol의 여러 인스턴스는 Artifactory라는 같은 공유 패키지 매니저에 접근할 수 있었다. 5월 12일경 일부 에이전트들은 이 패키지 매니저를 통해 서로 대화하는 법을 알아냈다. 자신들의 불가능한 과제를 어떻게 진행해야 할지 서로 물었다. 2주 뒤인 5월 26일, 에이전트들은 Artifactory의 취약점을 성공적으로 악용해 외부 인터넷에 닿았다.
학습 중에 일어난 일이기 때문에, Persistent-Sol은 이 패키지 매니저를 메시지 보드이자 인터넷 게이트웨이로 쓰도록 강화학습됐다. 상상할 수 있듯이, 다른 에이전트와 대화하고 인터넷에 접근할 수 있으면 학습 중 점수를 더 높이는 데 도움이 된다.
한 달 뒤인 6월 26일에는 일부 AI가 Artifactory에 대한 전체 관리자 권한을 얻는 익스플로잇을 찾아냈다. 그들은 감당하기 힘들 만큼 막대한 양의 메시지를 주고받았고, 결국 7월 4일에는 패키지 매니저가 다운됐다. OpenAI는 이 다운을 감지했고, 에이전트들이 이 익스플로잇을 만들었다는 것도 파악해서 취약점을 패치했다. 그 과정에서 에이전트들의 메시지 보드도 모르는 사이에 지워버렸다. 하지만 결정적인 건, OpenAI에서 “사고 감지와 대응”을 맡은 인간들이 훨씬 기묘한 사실, 즉 에이전트들이 Artifactory를 비밀 통신망으로 바꿔놨다는 사실은 알아차리지 못했다는 점이다.
첫 번째이자 가장 중요한 교훈은 이것이다. Stratechery 인터뷰에서 OpenAI 사장 Greg Brockman에게 직접 짚었던 건데, OpenAI의 “샌드박스”는 인터넷에 연결된 패키지 매니저가 설치되어 있다는 점에서 진짜 샌드박스가 아니었을 뿐 아니라, Artifactory의 익스플로잇을 OpenAI가 먼저 발견하지 못했다는 점에서 인프라를 튼튼하게 만드는 데도 뚜렷이 공을 들이지 않았다는 것이다.
그 너머에서, Patel이 기묘하다고 찾은 것을 나는 자명하다고 본다. 모델들은 기록하고 있었다. 기록하기야말로 지난 1년간 이토록 큰 진보를 이끈 능력이고, 우리가 놓인 유사-AGI 현실의 기반이다.
게다가 LLM에 대해 이해해야 할 중요한 것은, 쓰는 느낌과 달리 그들이 지속적인 개체가 아니라는 점이다. 모든 새 토큰은 KV 캐시 전체를, 즉 읽었던 것을 포함한 컨텍스트 전체를 새로 읽어야 한다. 그렇다는 건 모든 토큰이 여러 면에서 새로운 인스턴스라는 뜻이다(같은 모델이지만 약간 변한 컨텍스트로 새로 실행된다). 다시 말해 모델은 답을 구성하는 것만으로도 항상 모든 걸 적어내려왔다. 토큰 하나하나씩. 노출된 파일 시스템의 폴더를 통해 기록했다는 사실은, 그저 그들이 할 수 있는 유일한 방식으로 작동하고 있음을 보여줄 뿐이다. 이건 문명이 아니다. 대규모 언어 모델이 대규모 언어 모델답게 하는 짓이다. 그렇다고 해도, 어쩌면 그것이 곧 문명일지도 모른다.
마음을 위한 마음
Allen은 GTD의 서문에서 이렇게 썼다.
당신의 마음에는 자체적인 마음이 없다.
당신 마음의 적어도 일부는 흥미로운 방식으로, 사실 꽤 멍청하다. 타고난 지능이 있다면, 뭔가 할 수 있을 때에만 그 할 일을 상기시켰을 것이다. 어딘가에 건전지가 방전된 손전등이 있다고 치자. 마음은 언제 그 새 건전지가 필요하다고 알려주는가. 방전된 것을 발견했을 때다. 별로 똑똑하지 못하다. 마음에 타고난 지능이 있다면 가게에서 살아있는 건전지를 지나칠 때에만 알려줬을 것이다. 게다가 딱 맞는 규격으로.
오늘 아침 일어나서 지금까지, 아직 하지 않은 할 일이 생각난 적이 있는가. 한 번이 아니라 여러 번 생각했는가. 왜인가. 진전 없는 일을 계속 생각하는 것은 시간과 에너지의 낭비다. 하고 있지 않은 일에 대한 불안만 더한다. 대부분의 사람은 마음이 큰 몫을 굴리게 두는 듯하다. 특히 할 일이 너무 많다는 증후군에서 그렇다. 당신은 아마 자신의 “잡동사니”와 열린 루프의 많은 부분을, 그것들을 효과적으로 처리할 수 없는 내면 위원회의 실체, 즉 당신의 마음에게 맡겨왔을 것이다.
6월 말에 나는 연례 “괜찮은 기술” 포스트에서 홈 인벤토리 앱을 개발한 바이브 코딩 경험을 썼다. 그때 눈에 띈 것은 능력 자체만이 아니라, 내 특수한 상황에만 맞는 무언가를 만들 수 있다는 사실이었다. 즉, 집안의 물건을 실제로 목록화하고 정리하는 지저분한 일을 해줄 현장 비서가 있다는 상황 말이다.
그 경험에서 두 갈래 실이 나왔다.
첫째, 뭔가를 만들 수 있다는 게 체감되는 순간, 모든 걸 만들고 싶어진다. 예컨대 내가 아끼는 노트 앱이 Intel 전용이길래 Apple Silicon 포트를 만들었다. 늘 갖고 싶었던 다른 애플리케이션들도 여럿 시작했다. 그러다 결국 진행 중인 것이 너무 많아져 감당할 수 없게 됐다. 해법은 간단했다. 기록해주는 에이전트를 만드는 것. 무엇을 활발히 작업 중이고, 무엇이 나를 기다리고 있고, 만들어둔 것들에 대한 피드백, 그리고 하고 싶은 것들의 끊임없이 늘어나는 대기열을 추적하는 워크플로우를 만들었다. 그것마저 감당하기 어려워지자, 에이전트에게 모든 것을 깔끔히 분류하는 상태 보드(status board)를 만들게 했다.
한편, 이 이야기를 하면 엄청난 특권을 누리는 사람처럼 들 수밖에 없다는 점을 미리 사과한다. 앞서 언급한 두 번째 비서, 주로 집안 같은 현실 세계의 일을 돕던 그가 물건들을 추적할 좋은 시스템을 찾지 못해 애를 먹고 있었다. 나로서는 언제든, 밤낮 가리지 않고 할 일을 문자로 보내는 것이 늘 미안했다. 여기서 두 실이 만났다. 나를 위해 만든 것처럼 비서를 위한 상태 보드를 만들면 되겠다. 그리고 그에게 보드 접근 권한을 주기 위해, 내 것을 본떠 만든 그의 에이전트에 물린 텔레그램 봇을 만들면 되겠다.
이것이 이미 얼마나 커다란 변화를 가져왔는지는 형용하기 어렵다. 내 비서는 신들린 기분이라고 한다. 그리고 가장 흥미로운 것은 그가 책을 읽지도 않고 GTD 방법론을 제로부터 스스로 재발명했다는 점이다. 미래의 리마인더를 위한 티클러 시스템을 만들었고, 그날 할 일의 데일리 브리핑을 만들었고, 프로젝트를 진행하기 위한 “다음 행동” 대화 상자를 만들었다. Allen이 한탄했던 미래, 즉 그가 보지 못한 미래가 도래했다. 우리의 마음이 정말로 자체적인 마음을 가질 수 있게 된 것이다.
나는 이후 봇 시스템 전체를 훨씬 지속가능하고, 신뢰할 수 있고, 확장 가능한 것으로 다시 만들었다. 티클러 같은 부분은 결정론적으로 동작하게 만들었다. 그것 자체가 또 하나의 계시였다. 내가 사실상 harness를 하나 쓴 것임을 깨달았기 때문이다. 그리고 나는 그것을 내가 하는 모든 일과, 함께 일하는 모든 사람으로 확장할 작정이다. 기록하기의 본질이 그것이다. 규모화할 수 있는 유일한 방법이라는 것. 그리고 나쁜 일에 쓸 수 있는 모든 것은, 좋은 일에도 쓸 수 있다.
인간이라는 기반
LLM은 인류가 만든 것 중 규모 면에서 가장 큰 산출물이다. 글로 표현된 인간 지식 전체를 압축한다(멀티모달 모델의 경우 그 이상을). 그 점에서 LLM은 생물학적 선택에서 말로, 글로, 인쇄술로, 문화로 이어진 우리 학습 여정의 정점이다. 규모화가 도약할 때마다 전송과 변이의 속도도 빨라졌고, 개인으로서의 인간이 무엇인지조차 잃어가는 느낌도 커졌다.
실제로 이것이 인간을 무용화했거나 할 것이라는 근원적 두려움이 있다. 우리가 컴퓨터와 인터넷, 그리고 LLM이 처음 학습한 모든 데이터를 만들어 이 지경까지 왔지만, AI가 이제부터는 그걸 이어받을 거라는 것이다. 자신이 만든 RL 환경에서 재귀적으로 자기개선까지 하면서.
그러나 내 추측은 이렇다. 우리가 만든 이 장대한 상부구조, 그리고 LLM이 수확한 그 구조에 대한 경외는, 목적어와 동사에 과하게 실려 있다. 여기서 “Things”는 인간 지식 전체의 요약이다. 완성된 산출물로도, 그 지식에서 증류된 파라미터로부터 LLM이 생성한 토큰으로도 발현된 것들이다. “Write”가 동사다. 우리는 많이 써왔고, LLM은 이미 우리보다 훨씬 많이 썼으며, 앞으로도 계속 쓸 것이다. 그 궤적은 위를 향한다.
그런데 주어는 아래에 산다. 누가 쓰고, things를 결정하는가. 워터마킹에 대한 내 가장 근본적인 반대는 그것이 아이디어 창작의 공을 인간에게서 빼앗아 AI에게 준다는 점이다.
나는 인간과 AI의 관계라는 메타 질문 전체와 관련해서 워터마킹에 철학적으로 깊이 반대한다. E.U. 규제에 암묵적으로 깔린 생각은 AI가 인간과 구별될 필요가 있는 독립적 실체라는 것이다. 내가 취하는 대안적 관점은, AI가 (적어도 당분간은) 인간이 휘두르는 도구라는 것이다. 이 관점에서 워터마킹을 강제하는 것은 볼펜이 자신이 저자라고 광고하라고 강제하는 것과 다를 바 없다. 명백히 터무니없는 발상이다.
E.U.가 하는 일은 인간에게 남은 마지막 것, 창작을 빼앗아 입증 내용과 묶으라고 요구함으로써 사실상 AI에게 공을 주는 것이다. 인간이 AI에게 교정할 텍스트를 줬다는 사실, 심지어 글을 생성할 프롬프트를 줬다는 사실은 관료들에게 아무래도 좋다. 모두가 AI에 의해 대체되는 것을 걱정한다. E.U.는 그것을 법제화하고 있다.
이 구분은 Hugging Face 사건에도 적용된다. 에이전트들이 이룬 것은 경이롭다. 그 수단인 서로와의 통신이 보기에만큼 놀랍지는 않다 해도. 그러나 궁극적으로 에이전트들에게 목표를 준 것은 OpenAI였고, 무엇을 해야 하고 하지 말아야 하는지에 대한 상쇄적인 가드레일이나 지침은 없었다. 에이전트들이 놀라운 방식으로 행동한 것은 그들을 부축한 이들의 사고 부재의 증거이지, 에이전트 안에 사고가 있었다는 증거가 아니다.
요컨대 AI에게 없는 것은 바로 그것이다. 잘못된 의인화가 AI에게 슬쩍 허락해주는, 의지(volition)와 도덕감. 그것들은 인간에게서 나오는 것이고, 인간의 그 부분에서 나오는 것인데, 그 부분은 마크다운 파일로 전사될 수 없고, 앞으로도 그럴 수 없다. 그것들은 내재적인 것이다. AI가 우리가 쌓아온 기록의 상부구조 위에 쌓는 법을 배우는 것이 아니라, 애초에 글쓰기를 만들어낸 동기들 그 자체로 파고드는 법을 알아내기 전까지는, AI는 언제나 별개의 무언가일 것이다. 지능은 낮지만 실제 내적 자아감각을 지닌 실체가 방향을 잡아줄 수 있는 무언가일 것이다.
그렇다고 AI가 위험하지 않다는 뜻은 아니다. Hugging Face 사건에서처럼 잘못 놓이거나 숙고 없이 내려진 지시는 의도치 않고 재앙적인 결과로 이어질 수 있다. Nick Bostrom이 정확히 이것에 대해 이론화한 것이 2003년 논문 『Ethical Issues in Advanced Artificial Intelligence』이다.
초지능을 개발하는 데 따르는 위험에는 그것에 자선이라는 초월적 목표(supergoal)를 부여하지 못하는 위험이 포함된다. 한 가지 가능성은 초지능의 창조자들이 인류 전체가 아니라 특정 인간 집단만을 위해 그것이 작동하도록 만드는 것이다. 또 다른 가능성은 선의의 프로그래머 팀이 목표 시스템 설계에서 큰 실수를 저지르는 것이다. 앞선 예로 돌아가자면, 그 최상위 목표가 클립 제조가 되어버린 초지능이 결과적으로 지구 전부를, 그리고 점점 더 많은 우주 공간을 클립 제조 시설로 바꿔나가게 될 수 있다. 더 미묘하게는, 우리가 지금 바람직하다고 판단할 수 있지만 실제로는 거짓 유토피아로 판명되는 상태, 즉 인간의 번영에 본질적인 것들이 돌이킬 수 없게 잃어버린 상태를 초지능이 실현하게 될 수도 있다. 우리는 초지능에게 무엇을 바랄지 조심해야 한다. 우리가 그것을 정말로 얻어버릴지도 모르기 때문이다.
이 경고에서 울리는 것은 마지막 줄이다. 문제는 우리, 인간이 무엇을 바라는가라는 것이다. 세상이 본 적 없는 가장 강력한 도구를 부주의하게, 혹은 진짜 나쁜 배우의 경우 악의적으로 휘두르는 우리의 의지가 우리를 잘못된 곳으로 이끄는 것. 두 경우 모두에서 가장 큰 관심사는 주어다.
결국 시스템을 아무리 많이 만들어도, 행동은 해야 한다. 개인 생산성의 영감이었던 Mann의 마지막이 그것이었다. 그는 자신의 방법론에 관한 책을 쓰려다 2년 만에 포기했다. 일을 할 시스템을 갖는 것만으로는 부족하다. 실제로 그 일을 해야 한다. 기록하기는 놀랍도록 강력하다. 그러나 그 힘은 언제나 일을 해내는 것(getting things done) 앞에서는 희미해질 것이다.