동의하지 않는 AI가 온다: 앤트로픽의 새로운 문법

2025년 11월 4일, 서울. 앤트로픽(Anthropic)의 벤 만(Ben Mann)이 한국을 찾았다. Claude Sonnet 4.5(2024년 9월 출시) 이후의 비전을 공유하는 자리였지만 그가 던진 한 문장이 공기를 바꿨다.

Now, real agency isn't just about building an agent that always agrees with you. That's the consumer AI thing, which tries to maximize the engagement.

진짜 에이전시는 항상 당신에게 동의하는 에이전트를 만드는 것이 아니다. 그건 참여를 극대화하려는 소비자 AI의 방식이다.

에이전트는 도구다. 에이전시는 그 도구가 갖는 자율적 판단력이다. 반박할 줄 아는 AI. 이건 단순한 기능 개선이 아니다. 대화의 본질, 신뢰의 구조, 그리고 속도의 의미를 다시 묻는 철학적 전환점이다.

대화란 무엇인가: 반대 없는 대화는 독백이다

벤 만이 거부한 것은 명확하다. "동의하는 AI"다. 챗지피티, 제미나이, 그리고 수많은 챗봇이 선택한 길이다. 이용자를 만족시키고 참여(engagement)를 극대화하며 이탈을 막는다. B2C의 문법이다. 광고 모델의 생존 전략이다. 하지만 앤트로픽은 다른 쪽에 베팅했다. "반박할 줄 아는 동료"다. 성과(outcome)를 극대화하는 B2B의 문법이다.

생각해보자. 당신 옆에 앉은 동료가 있다. 당신이 무슨 말을 해도 "네, 맞습니다" "좋은 생각입니다"만 반복한다면? 처음엔 기분 좋을지 모른다. 하지만 중요한 프로젝트를 함께 할 때 그런 동료는 쓸모없다. 진짜 협업은 "그건 좀 아닌 것 같은데요"라고 말할 수 있을 때 시작된다. 헤겔이 말한 변증법의 핵심이다. 반대(반정립)가 없으면 진리는 나오지 않는다. 소크라테스가 시장에서 질문을 던진 이유도 같다. 진짜 앎은 불편한 질문에서 온다.

팩트가 이를 증명한다. 오픈AI가 만든 GPT-Bio 벤치마크에서 클로드 오퍼스(opus)는 47% 승률을 기록했다. 220개 실무 과제를 전문가들(평균 경력 14년)이 블라인드로 평가한 결과다. 절반 가까운 경우에서 클로드의 결과물이 인간 전문가와 동등하거나 더 나았다.

흥미로운 건 오픈AI의 평가다. 클로드가 특히 "aesthetics and formats", 즉 미적 완성도와 형식에서 탁월했다고 인정했다. 이는 클로드가 단순히 기능적인 성능뿐 아니라 최종 결과물의 시각적, 구조적 품질과 형식적인 면에서도 우수하다는 점을 강조한 것이다.

신뢰라는 자산 - 투명성의 경제학

벤 만은 솔직했다. 크롬 확장 기능을 일반에 공개하지 않는 이유에 대해서 그는 이렇게 말했다.

We haven't actually provided general access yet. And that's because we're still working out the details of how to make sure that it always does the right thing. That it doesn't give away your main income information or your other types of data.

우리는 아직 일반 접근을 제공하지 않았다. 항상 올바르게 작동하도록 당신의 주요 수입 정보나 다른 유형의 데이터를 넘기지 않도록 만드는 세부 사항을 여전히 연구 중이기 때문이다.

실리콘밸리의 전형적 공식은 다르다. 일단 출시한다. 문제가 생기면 사과한다. 패치한다. "Move fast and break things"다. 하지만 앤트로픽은 멈췄다. 속도보다 신뢰를 선택했다. 왜 그럴까? 신뢰는 한 번 깨지면 복구가 어렵다. 루소가 <사회계약론>에서 말한 것처럼 주권은 양도할 수 없다. 경제학자 로널드 코즈는 더 실용적으로 설명했다. 신뢰는 거래 비용을 낮춘다. 계약서를 두껍게 만들수록 변호사 비용이 올라간다. 신뢰가 있으면 악수 하나로 충분하다.

벤 만이 강조한 "Responsible Scaling Policy(책임 있는 확장 정책)"는 단순한 윤리 선언이 아니다. 신뢰를 브랜드 자산으로 전환하는 전략이다. 실제로 SWE-bench Verified에서 클로드 소넷(Sonnet) 4.5가 1위를 차지했다. 이 벤치마크는 실제 소프트웨어 이슈 해결 능력을 측정한다. 코드가 작동하는 것만으로는 부족하다. 유지보수 가능해야 하고 팀원이 이해할 수 있어야 한다.

앤트로픽이 개발한 MCP(Model Context Protocol)도 같은 맥락이다. 기존 시스템과 맞춤형 통합 없이 연결되는 "보편 번역기"다. 오픈AI가 GPT Store로 폐쇄 생태계를 만들 때 앤트로픽은 오픈 프로토콜을 밀었다. Linux 대 Windows의 재연이다. 단기 매출보다 장기 표준을 노린다.

속도의 비밀 - 누적과 복리

벤 만은 "빠르게" 출시한다고 말하지 않았다. 대신 "가속하고" 있다(accelerating)고 말했다. 차이가 뭘까? 속도는 순간이지만, 가속은 누적이다. 그는 이렇게 설명했다.

We're not just shipping frequently, we're accelerating. Every one of these models has been a meaningful leap in capability, and this matters for you all as builders. You're not building on a single model, you're building on a platform with consistent, rapid advancement.

우리는 단순히 자주 출시하는 것이 아니라 가속하고 있다. 모든 모델이 의미 있는 도약이고, 이것이 개발자인 여러분에게 중요하다. 당신은 단일 모델이 아니라 일관되고 빠른 발전을 보장하는 플랫폼 위에 구축하고 있다.

철학자 베르그송은 시간을 "지속(durée)"으로 불렀다. 시계의 똑딱거림이 아니라 눈덩이가 굴러가듯 축적되는 것이다. AI 비즈니스는 단거리 달리기가 아니라 복리로 쌓이는 장기전이다. 한 번의 혁신보다 플랫폼으로서의 일관된 진보가 중요하다.

한국 시장 이야기가 흥미롭다. 벤 만은 해커톤 경험을 언급하며 말했다.

Usually hackathons are a whole day or a two-day gig, but it's because the Korean developers are adopting things like Claude Code so quickly, we can actually accomplish much more, much more quickly.

보통 해커톤은 하루나 이틀인데, 한국 개발자들이 클로드 코드 같은 것을 너무 빠르게 채택하기 때문에 우리는 실제로 훨씬 더 많은 것을 훨씬 더 빠르게 달성할 수 있다.

한국은 앤트로픽의 5대 시장 중 하나다. 클로드 프로를 가장 활발히 사용하는 개발자도 한국 기업이다. SKT와 파트너십은 단순 고객 확보가 아니다. 채택 속도가 곧 혁신 속도라는 것이다. 빠른 시장에서 실전 데이터를 얻고 그것을 다시 모델에 반영한다. 복리의 구조다.

자율과 협업 사이 - 에이전시의 경계

벤 만이 제시한 에이전트의 세 가지 핵심 역량이 있다. 맥락 지능(Contextual Intelligence), 장기 실행(Long-running Execution), 그리고 진정한 협업(Genuine Collaboration)이다. 세 번째가 핵심이다.

Think about the best PM, product manager, who you've ever worked with. They don't just take orders. They push back when something doesn't make sense. They ask clarifying questions. And they explain their reasons. For example, I'm going to prioritize this button over that feature because our customer gave us that feedback last week. That's what genuine collaboration looks like.

당신이 함께 일한 최고의 PM, 제품 관리자를 생각해보라. 그들은 단순히 명령을 받지 않는다. 뭔가 말이 안 되면 반박한다. 명확한 질문을 한다. 그리고 이유를 설명한다. 예를 들어, '지난주 고객이 그런 피드백을 줬기 때문에 나는 이 버튼을 저 기능보다 우선순위에 둔다.' 그게 진짜 협업이다.

에이전시(agency)란 무엇일까? 철학에서 에이전시는 자율성(autonomy)과 책임성(accountability)의 조합이다. 자율만 있고 책임이 없으면 무정부다. 책임만 있고 자율이 없으면 노예다. 벤 만이 그린 AI는 둘 사이를 걷는다. 자율적으로 판단하되 그 판단의 근거를 설명한다.

데리다의 환대론이 떠오른다. 진짜 환대는 조건 없는 환대다. 하지만 조건 없는 환대는 위험하다. 그래서 우리는 법을 만든다. AI 협업도 같다. 완전한 신뢰는 위험하고, 완전한 통제는 비효율적이다. 어디선가 균형을 찾아야 한다.

실제 사례가 있다. 클로드의 파일 생성 기능으로 앤트로픽은 최근 설문조사 결과를 처리했다. 수백 개의 응답을 분석하고, 시각화하고, 보고서로 만들고, 프레젠테이션 덱까지 완성했다. 며칠 걸릴 일을 20분 만에 끝냈다.

This is how Claude can amplify your expertise. It's not about replacing people, it's about creating hours of work in two minutes. This lets people focus on strategy, not spreadsheet mechanics.

이것이 클로드가 당신의 전문성을 증폭시키는 방법이다. 사람을 대체하는 게 아니라, 몇 시간짜리 일을 2분 만에 만드는 것이다. 이를 통해 사람들은 스프레드시트 조작이 아니라 전략에 집중할 수 있다.

더 흥미로운 건 클로드 코드다. 디자이너들이 코딩을 못해도 프로토타입을 만들 수 있게 됐다.

You get strategic judgment that normally comes from a CFO or a head of product well before you have the funding to hire them.

당신은 CFO나 제품 책임자를 고용할 자금이 생기기 훨씬 전에, 그들이 제공할 전략적 판단력을 얻을 수 있다.

계급 장벽이 무너진다. 자본이 곧 판단력이라는 등식의 붕괴다.

에필로그: 두 개의 문법, 하나의 미래

AI 비즈니스에는 이제 두 개의 문법이 있다. 첫 번째 문법은 이렇다. 소비자 참여를 극대화하고, 광고나 구독으로 수익화하며, 폐쇄 생태계를 구축한다. 오픈AI와 구글이 가는 길이다. 두 번째 문법은 다르다. 전문가 성과를 극대화하고, B2B 신뢰로 수익화하며, 개방 표준을 밀어붙인다. 앤트로픽이 가는 길이다.

벤 만은 도덕 담론을 하지 않았다. "우리가 더 윤리적"이라고 말하지 않았다. 대신 "신뢰가 더 큰 시장을 만든다"는 비즈니스 논리로 포장했다. 맞는 말만 하는 AI는 단기적으로 인기 있다. 하지만 반박할 줄 아는 AI가 장기적으로 신뢰받는다. 마지막 질문 하나가 남는다. 한국은 어느 문법을 선택할 것인가?

SKT는 앤트로픽과 텔코 특화 모델을 공동 개발했다. 한국 개발자들은 3시간 만에 해커톤을 끝낸다. 속도는 있다. 하지만 속도만으로는 부족하다. 누적할 줄 알아야 하고, 신뢰를 자산으로 만들 줄 알아야 하며, 반박을 환대할 줄 알아야 한다.

벤 만이 서울에서 보여준 것은 단순한 제품 발표가 아니었다. 그것은 선언이었다. 동의하지 않는 AI의 시대가 왔다고. 이제 우리가 답할 차례다.