'빅쇼트' 마이클 버리, 오픈AI와 앤스로픽 맹비난: AI R&D 둔화는 안전 조치인가, IPO용 과대광고인가?

TradingKey - 영화 '빅쇼트'의 실제 모델이자 저명한 공매도 투자자인 마이클 버리가 오픈AI와 앤스로픽 경영진이 제안한 '첨단 AI 연구·개발 속도 조절' 구상을 강하게 비판하는 글을 소셜 미디어에 게재했다. 그는 이러한 주장이 명백히 사리사욕을 채우기 위한 것이며, 이들의 진짜 의도는 기술적 위험을 통제하는 것이 아니라 선두 기업의 시장 지위를 보호하고 잠재적 기업공개(IPO)를 위해 더 매력적인 서사를 구축하려는 것일 수 있다고 주장했다.

출처: X

이번 논란은 다리오 아모데이 앤스로픽 최고경영자(CEO)가 앞서 발표한 장문의 기고문에서 비롯됐다. 아모데이 CEO는 모델 성능이 지속적으로 강화됨에 따라 AI 시스템이 차세대 AI 개발에 참여하는 속도가 빨라지고 있으며, 사이버 공격, 모델 통제력 상실, 재귀적 자아 개선 등의 위험이 업계의 현재 관리 능력을 벗어날 수 있다고 경고했다. 따라서 첨단 AI 기업들은 안전성 평가와 규제 장치 마련을 위한 시간을 벌기 위해 성능 향상의 속도를 적절히 조절해야 한다고 강조했다.

아모데이 CEO는 앤스로픽이 독립적인 제3자 평가 팀을 도입하고, 이들에게 사무용 기기, 내부 도구, 사내 리스크 팀과 유사한 모델 평가 환경 등 정직원에 가까운 시스템 접근 권한을 부여할 것이라고 제안했다. 이러한 외부 기관은 기업이 안전 약속을 이행하는지 검증하고, 모델 학습 과정을 면밀히 조사하며, 잠재적 사고를 보고하는 역할을 맡게 된다. 아모데이 CEO는 또한 다른 주요 AI 연구소들에도 유사한 조치를 도입할 것을 촉구하고, 기업과 정부가 첨단 모델을 둘러싼 더 광범위한 안전 기준을 확립해야 한다고 요구했다.

이후 샘 올트먼 오픈AI CEO는 해당 제안에 대해 공개적으로 지지 의사를 밝혔다. 그는 독립 평가 기관에 정직원 수준의 접근 권한을 부여하는 것은 가치 있는 제안이며 오픈AI도 동일한 조치를 취할 것이라고 말했다. xAI 창립자인 일론 머스크 역시 AI 위험에 대한 아모데이 CEO의 평가에 동의했다.

마이클 버리가 의문을 제기하는 이유

마이클 버리는 이에 대해 완전히 다른 설명을 제시했다. 그는 우선 이들 기업이 '인공지능'을 어떻게 정의하는지 의문을 제기하며, 현재의 거대언어모델(LLM)은 방대한 데이터와 컴퓨팅 자원에 의존해 예측을 수행하는 기술적 시스템에 불과하다고 주장했다. 진정한 의미의 일반인공지능(AGI)이 아니며, 자연스럽게 AGI로 진화하는 것도 아니라는 것이다. 버리의 관점에서는 기존 LLM이 이들 기업이 설명하는 자율적인 지능 능력을 갖추지 못했다면, "기술이 너무 강력하므로 선제적으로 개발 속도를 늦춰야 한다"는 주장 자체에 의문이 제기될 수밖에 없다.

버리는 나아가 연구개발(R&D) 속도를 늦추려는 시도가 업계 선도 기업들이 경쟁 우위를 공고히 하기 위한 수단으로 활용될 수 있다고 주장한다. 오픈AI와 앤스로픽은 이미 방대한 컴퓨팅 자원, 인재풀, 학습 데이터, 자본 지원을 확보한 반면, 오픈소스 모델과 신생 AI 기업들은 그 격차를 빠르게 줄여가고 있다. 규제 당국이 시장 선도 기업들이 제안한 기준에 따라 모델 학습 및 안전성 심사의 문턱을 높일 경우, 자본과 컴퓨팅 자원이 부족한 경쟁사들은 더 높은 규제 준수 비용을 부담하게 되어 기존 거대 기업들이 독점적 지위를 유지하기가 한층 더 쉬워진다.

다시 말해 버리는 이번 논쟁을 순수한 기술 안전성 논의가 아니라, 업계 규칙 제정권을 둘러싼 상업적 경쟁으로 보고 있다. 선도적인 모델을 보유한 기업들은 한편으로는 위험성을 강조하면서 다른 한편으로는 규제 프레임워크 수립에 참여한다. 그 결과 도출된 규칙은 자금력이 풍부하고 기술적으로 성숙한 기존 기업에 유리하게 작용하는 반면, 후발 주자가 시장 구조에 도전하는 것은 제한할 수 있다.

기업공개(IPO) 역시 버리가 집중 비판하는 핵심 대상이다. 그는 아직 안정적인 수익성을 달성하지 못한 AI 기업들이 자본시장에 자사 기술의 대체 불가능성을 증명해야 하는 상황에서, "우리 모델은 위험할 정도로 강력하다"고 주장하는 것이 결과적으로 희소성과 업계 선도력에 대한 인식을 강화한다고 본다. 이러한 내러티브는 시장의 관심을 끌 뿐만 아니라 IPO에 앞서 높은 기업가치를 유지하는 데도 도움이 된다. 버리의 시각에서 기술력을 글로벌 차원의 통제가 필요한 잠재적 위협으로 포장하는 것은, 본질적으로 훨씬 정교해진 홍보 수단일 수 있다.

버리는 또한 이른바 자발적인 R&D 속도 조절이 산업 성장의 자연스러운 둔화 현상에 대해 보다 유리한 명분을 찾기 위한 방편일 수 있다고 의심한다. 프론티어 모델을 학습시키는 데는 기하급수적으로 늘어나는 GPU, 전력, 데이터센터, 자본이 필요하지만, 장기적으로 모델 성능의 한계적 개선이 비용 증가세를 감당할 수 있을지에 대해서는 상당한 불확실성이 남아 있다. 기술 발전이 더뎌지거나 자금 조달이 어려워지고 상장 계획이 지연될 경우, 기업들은 어쩔 수 없이 맞이한 속도 둔화를 '선제적으로 안전 책임을 다하는 모습'으로 재포장할 수 있다.