기존 강자들이 온다 (번역)
기존 시스템 오브 레코드(systems of record)에 대한 낙관론은 이렇습니다, AI는 시스템 오브 레코드를 덜 중요하게 만드는 게 아니라, 더 중요하게 만든다. 왜냐하면 이론상 고객은 이제 시스템의 데이터를 Claude나 Codex에 파이프로 연결해서 AI 네이티브 앱을 건너뛸 수 있기 때문입니다.
에이전트가 이런 시스템들을 통해 더 많은 일을 하게 될수록, 시스템이 통제하는 데이터와 액션의 가치는 올라갑니다. 따라서 기존 시스템 오브 레코드 + 범용 에이전트(또는 기존 업체가 만든 에이전트)만으로도 일을 해낼 수 있을 수 있습니다. Salesforce가 Anthropic과 파트너십으로 발표한 것이 바로 이것입니다. _Claudeforce_는 Salesforce를 열 필요 없이 Claude 안에서 Salesforce CRM을 다룰 수 있게 해줍니다 (그렇다고 주장하기로는요!).
이 논리는 부분적으로 맞습니다. 기존 업체들(incumbents)은 가만히 있지 않고 있습니다.
기존 업체들은 자기 데이터에 대한 접근을 통제하고 과금할 유인이 있고, 이제는 자기들의 에이전트도 밀고 나가고 있습니다. 이미 기존 업체들은 단순히 정보를 저장하는 것에서 나아가 일 자체를 더 많이 수행하는 제품을 내놓고 있습니다. Docusign의 Iris는 계약서를 검토하고, Atlassian의 Rovo는 요청을 해결·라우팅하고, Klaviyo의 Composer는 캠페인을 만들고 마케팅 성과를 평가합니다. 이 제품들은 기존 업체들을 “챗봇 붙이기” 전략에서 벗어나 행동(action)을 하는 쪽으로 옮겨갑니다.
동시에 Claude는 여러 애플리케이션에 걸친 작업을 조율하기 시작했고, 범용 에이전트가 기존 업체들 위에 얹힌 레이어로 동작하는 것이 가능해졌습니다. Claudeforce가 그 모습을 보여줍니다. Claude가 그 일의 ‘정문(front door)’이 되고, Salesforce는 여전히 기반이 되는 CRM 데이터와 액션을 통제합니다. 인터페이스와 시스템 오브 레코드가 분리(unbundling)되는 것처럼 보이고, 이것이 AI 네이티브 스타트업이 ‘일(job)’을 중심으로 다시 묶는(rebundle) 기회를 만듭니다.
그렇다면 스타트업은 어디서 여전히 경쟁할 수 있을까?
버티컬 AI 네이티브 회사는 ‘집중(focus)’으로 이겨야 합니다. 기존 업체의 전용 에이전트보다, 또 Claude 같은 범용 에이전트보다, 이들은 하위 도구들로부터 그 일을 재구성할 수 있습니다, 특정한 크로스-시스템 잡(cross-system job)을 더 잘 수행해야 합니다. 집중은 버티컬 스타트업에게 더 깊은 접근권, 의도적으로 구축한 데이터 자산, 더 구체적인 맥락, 그리고 특정 잡에서 ‘좋은 일의 결과물’이 무엇인지 시간이 지나며 더 잘 이해하게 만드는 학습 루프(learning loop)를 가져다줍니다.
에이전트 계층구조 (The agent hierarchy)
기존 업체가 가장 강한 곳과 버티컬 AI 회사가 우위를 가질 수 있는 곳을 보려면, 자율성과 판단력이 얼마나 필요한지에 따라 구분되는 네 가지 유형의 애플리케이션 레벨 에이전트로 생각하는 게 도움이 됩니다.
검색 보조(Retrieval assistants)는 정보를 찾고, 문서를 요약하고, 질문에 답하고, 응답 초안을 작성합니다. 프로세스 에이전트(Process agents)는 레코드 업데이트나 결재 라우팅 같은 규칙 기반 작업을 수행하고, 과제를 해석하는 데 제한된 판단을 쓰며, 실행합니다. 정책 에이전트(Policy agents)는 조직의 플레이북, 선례, 임계값(thresholds)의 규칙을 모호한 사례에 적용합니다. 주체 에이전트(Principal agents)는 조직이 무엇을 해야 하는지에 대한 판단을 내립니다. 전략·리스크·자원을 둘러싼 열린 트레이드오프를 다루는 경우가 많습니다.
1년 전만 해도 대부분 기존 업체의 AI 제품은 검색 단계에 머물러 있었습니다. 기존 레코드를 끌어다 쓰는 챗봇과 분석 도구 정도였습니다. 이제는 더 많은 제품이 제품 안에 이미 내장된 워크플로·권한·규칙에 기반해서 행동할 수 있습니다. 일부는 좁고 사람이 정의한 정책 적용을 시작했습니다. 판단은 그 결정이 incumbent이 관리하는 레코드 바깥의 정보에 의존할 때 어려워집니다.
지금 보이는 큰 흐름은 기존 업체들이 검색·프로세스에서 정책을 통한 판단으로 계층을 위로 올라가는 것입니다, 법무팀의 플레이북을 적용하는 Docusign의 Iris처럼요. 하지만 그 판단조차 여전히 대부분 incumbent이 소유한 레코드 안에 갇혀 있습니다.
일은 레코드보다 크다 (The job is bigger than the record)
Incumbent는 자기 핵심 레코드 주변의 일을 더 많이 자동화할 수 있지만, 고객이 해결하려는 ‘일(job to be done)’은 레코드보다 큽니다. 이것은 단단한 기술적 경계가 아닙니다. incumbent은 외부 데이터를 끌어오고 워크플로를 추가할 수 있으니까요. 하지만 그들의 작업은 여전히 _자기가 이미 소유한 레코드에서 바깥쪽으로 확장_되는 방식입니다.
고객의 일은 사람, 프로세스, 소프트웨어의 결합으로 완성됩니다. 계약서가 법률 사안 전체는 아니고, 티켓이 고객의 해결(resolution) 전체는 아니며, 영업 기회가 판매 전체는 아닙니다. 온전한 일은 애플리케이션과 팀, 때로는 회사의 경계를 넘습니다. 서로 다른 당사자들이 서로 다른 정보를 갖고 있고, 서로 다른 결과를 원할 수 있습니다. Incumbent는 “로컬 시스템 오브 워크”를 만드는 데 갇히지만, 더 큰 기회는 모든 당사자, 사람, 문서, 결정, 수정, 최종 결과까지 포함해 경계를 넘어 일을 관리하는 것입니다.
Claude나 Codex 같은 범용 에이전트가 이 모든 시스템에 걸쳐 손을 뻗을 수는 있지만, 접근만으로 일을 잘해낼 수 있는 건 아닙니다. MCP를 쓰더라도 애플리케이션들 사이에서 정보를 끌어오는 데는 지연(latency)이 있고, 각 애플리케이션은 같은 고객·계약·거래를 서로 다르게 기술할 수 있습니다. 범용 에이전트가 한 회사 내 모든 앱에 접근할 수 있어도, 외부 당사자(예: 구매자와 공급자 사이)가 쥔 정보에 자동으로 접근할 수 있는 건 아닙니다.
이런 한계에도 불구하고, Claude는 여전히 시스템 오브 레코드 위에 앉을 수 있습니다. Claudeforce는 Claude를 일의 정문으로 만들고, Salesforce는 CRM 데이터와 액션을 계속 소유합니다. 그리고 Claude는 incumbent들이 허가한 더 깊은 통합을 통해 계속 맥락을 쌓아갈 수 있습니다.
#
버티컬 AI는 어떻게 배우는가 (How vertical AI learns)
일의 더 많은 부분을 소유하는 것이 중요한 이유는, 스타트업이 최종 결과물을 만들어낸 결정과 수정 과정을 볼 수 있기 때문입니다. 모델은 올바른 맥락, 도구, 워크플로, 평가(evals)를 갖춘 ‘버티컬 하네스(vertical harness)’를 통해 특정 잡에서 더 좋은 성능을 냅니다. 학습 루프는 매 작업이 끝난 후 에이전트의 작업물, 전문가 피드백, 결과물 자체를 사용해 다음 시도를 개선함으로써 시스템(모델 + 하네스)을 발전시키는 것입니다.
완성된 레코드만으로는 그 일을 위한 훈련 커리큘럼이 되지 못합니다. 서명된 계약서는 당사자들이 무엇에 합의했는지는 보여주지만, 검토했던 모든 대안이나 예외 처리의 모든 이유를 보여주지 않습니다. 종결된 티켓은 해결책을 보여주지만, 지원팀이 테스트했던 모든 가설을 보여주지 않습니다.
기억 vs. 학습 (Remembering vs. learning)
랩(labs)들도 범용 메모리를 만들고 있으므로, 맥락 보존만으로는 지속가능한 우위가 아닙니다. 기억(remembering)과 학습(learning)은 다릅니다. 메모리는 범용 에이전트가 고객의 선호나 지난주의 결정을 회상하는 데 도움이 됩니다. 하지만 그 일이 잘 됐는지, 왜 전문가가 그것을 수정했는지, 다음엔 무엇을 바꿔야 하는지는 알려주지 않습니다. 집중(focus)은 회사가 같은 일의 더 많은 사례를 보고, 더 빨리 배우고, 개선을 더 잘 측정하게 만듭니다.
직업(Profession)과 조직(Institution)
배움에는 두 종류가 있습니다. 좋은 전문가가 일을 어떻게 하는지 배우는 것. 회사는 전문가가 만든 과제, 현실적인 예시, 좋은 결과물의 기준으로 이것을 가르치기 시작할 수 있습니다.
특정 회사(firm)나 고객이 일을 어떻게 하는지 배우는 것, 그들의 템플릿과 선례, 리스크 임계값, 에스컬레이션 규칙을 포함해서요. 이것은 고객의 기존 자료로 시작해 훈련 과정에서의 수정과 예외를 통해 개선될 수 있습니다. 직업에 대한 교훈은 모든 고객에게 제품을 개선하지만, 한 회사에 대한 교훈은 그 회사에만 제품을 개선할 수 있습니다.
직업과 조직 둘 다 배우려면, 스타트업이 최대 규모의 과거 데이터 스톡으로 시작할 필요는 없습니다. 직업을 위한 커리큘럼을 제조(manufacture)하고, 그다음 프로덕션(실서비스)을 통해 조직을 배우면 됩니다. 오픈 웨이트 모델과 포스트 트레이닝이 늘어날수록, 올바른 데이터와 evals를 조립하는 것이 더욱 중요해집니다.
장기 실행 에이전트(long-running agents)는 특히 학습 루프의 이득이 큽니다. 에이전트가 수시간·수일에 걸쳐, 수많은 중간 결정과 핸드오프가 있는 복잡한 로직 체인을 통해 일할 때, 학습 루프의 품질은 더욱 중요해집니다. 긴 수명 주기의 과제는 체크포인트 집합으로 분해해 평가할 수 있습니다.
분명히 할 점은, incumbent들도 자기 제품 안에서 수행된 작업으로부터 배울 것입니다. 하지만 그 학습은 일의 자기 몫만 다룹니다. Docusign 안의 계약 검토, Jira 안의 티켓 해결, Salesforce 안의 파이프라인 업데이트 말이죠.
Harvey가 커리큘럼을 제조한 방법
Harvey의 Tenet 작업은 버티컬 AI의 경로가 어떤 모습일 수 있는지 보여줍니다. Harvey는 고객 데이터를 쓰지 않고 합성 데이터, 공개 법률 데이터, 인간 전문가가 만든 데이터로 오픈 웨이트 모델을 포스트 트레이닝했습니다. 약 1,750개의 법률 과제 환경을 만들었는데, 각각은 파트너가 배정한 사안(matter)을 시뮬레이션하며 문서와 도구, 고품질 결과물을 위한 전문가 루브릭(rubric)을 갖추었습니다. 평균 과제에는 약 50개의 구체적인 기준이 있었습니다. 고객 히스토리가 충분히 쌓이기를 몇 년 기다리는 대신, Harvey는 모델을 훈련·평가하는 데 쓸 커리큘럼을 직접 제조한 것입니다.
Harvey의 더 넓은 작업은 버티컬 회사가 일의 서로 다른 부분을 위해 모델을 훈련할 수 있음도 보여줍니다. M&A 실사(diligence) 같은 산업 특화 역량이나, 로펌의 전체 지식을 이해하는 것까지요.
스타트업의 기회는 이것을 모두 조합하는 데 있습니다. 버티컬 특수성은 스타트업이 일을 구체적 역량들로 분해하고, 데이터 권리·시스템·권한 관리의 실용적 마찰을 해결하며, 제품을 고객의 일상 업무에 맞추는 데 도움을 줍니다. 결국 결과물에 대한 책임을 편하게 질 수 있게 됩니다. 여기서 배포(deployment)와 책임(responsibility)이 핵심입니다!
좋은 버티컬 AI 시장은 무엇으로 판단할까?
Harvey를 예로 들어, 잠재적 버티컬 AI 시장을 평가할 몇 가지 축입니다.
- 전문가가 AI가 무엇을 맞췄고 틀렸는지 빠르게 판단하고, 어떻게 개선해야 하는지 설명할 수 있는가?
- 일이 판단(judgment)이 중요할 만큼 어려운가 (단순 규칙 vs)?
- 제품이 학습할 만큼 일이 자주 발생하는가?
- 스타트업이 하나의 과제에서 시작해 점점 일 전체를 하도록 성장할 수 있는가?
최고의 버티컬 AI 시장은 네 가지를 모두 충족하는 경향이 있고, 그래서 강한 학습 루프를 갖습니다.
법률·세무·회계의 많은 워크플로가 이 테스트를 통과합니다. 일이 반복되고, 판단이 필요하고, 전문가가 이미 결과를 검토하기 때문입니다. 이 패턴은 산업 현장처럼 덜 눈에 띄는 시장에서도 나타납니다. 제조 결함이 발견되면 품질 엔지니어는 시험 결과, 공급자 문서, 설비 로그, 공장 규칙을 모아서 무엇이 허용 가능한지 무엇을 바꿔야 하는지 결정해야 합니다. 그 정보는 여러 시스템에 흩어져 있을 수 있습니다. 어느 incumbent이 결함 보고서를 저장할 수는 있지만, 조사 전체를 소유한 단 하나의 제품은 없습니다. 스타트업은 이 일의 한 조각(예: 조사 보고서 초안 작성)에서 시작해 시간이 지나 엔드투엔드 해결을 소유할 수 있습니다. 그러려면 좋은 품질 엔지니어가 문제를 조사하는 법과, 특정 공장·고객·감사인이 그렇게 하는 법 둘 다 배워야 합니다.
그 일은 아직 주인이 정해지지 않았다 (The job is still up for grabs)
시스템 오브 레코드 + 범용 에이전트로 충분한 일들도 있지만, 버티컬 AI 네이티브 스타트업에게 의미 있는 기회는 여전히 있습니다! 가장 강한 버티컬 기회는 일이 자주 발생하고, 전문가 판단이 중요하고, 학습 루프가 강한 곳에 있습니다. Incumbent는 레코드를 소유하고, 랩은 정문을 통제할지 모릅니다. 하지만 버티컬 AI 회사는 그 일 자체를 가장 잘하는 회사가 되어 여전히 이길 수 있습니다.