AI 규제 논쟁 가열: 트럼프의 글로벌 규제 반대 속 오픈AI와 앤스로픽 국제 협력 촉구

TradingKey - 현지시간 수요일, 샘 올트먼 오픈AI CEO와 다리오 아모데이 앤스로픽 CEO가 유엔 안전보장이사회에서 인공지능(AI) 안전을 주제로 연이어 연설했다. 양사는 국제 협력 강화의 필요성을 강조하며, 새로운 안전 위험이 확인될 경우 고도화된 AI 시스템의 출시를 늦출 수 있다고 밝혔다. 경쟁 관계인 두 회사의 CEO가 국제 무대에서 유사한 안전 입장을 표명한 것은 이례적이다.

불과 하루 전, 도널드 트럼프 미국 대통령은 유엔총회에서 글로벌 AI 규제 프레임워크 구축에 반대하고 미국이 AI 분야에서 주도권을 유지해야 한다고 강조하며 이와 다른 견해를 밝혔다. 트럼프 대통령은 AI 위험에 대한 외부의 우려로 인해 미국이 이 기술의 발전을 제한하지는 않을 것이라고 밝혔다.

오픈AI와 앤트로픽, 이례적 공동 전선 구축

첨단 대형 모델 시장의 직접적인 경쟁사인 오픈AI와 앤트로픽이 유엔(UN)에서 공개적으로 유사한 입장을 표명한 것은 이례적이다. 올트먼은 상업적 경쟁이 기업이 위험을 무릅쓰고 모델을 출시하는 이유가 되어서는 안 된다고 밝혔다. 오픈AI는 과거에도 선제적으로 R&D 속도를 줄인 바 있으며, 필요하다면 향후에도 이를 지속할 것이라고 덧붙였다.

아모데이는 적절한 관리가 이루어지지 않을 경우 인공지능이 악의적인 주체에 의해 사이버 공격을 감행하거나 생물 무기 제조를 지원하는 데 악용될 수 있을 뿐만 아니라, 개발자의 실질적인 통제를 벗어난 시스템으로 진화할 수도 있다고 경고했다. 그는 앤트로픽이 위험 평가를 바탕으로 제품 출시 속도를 조절할 것이라고 약속하는 한편, 단일 기업이나 국가가 프론티어 AI가 가져올 글로벌 문제를 독자적으로 해결할 수는 없다고 강조했다.

두 CEO가 공동으로 제기한 핵심 우선과제에는 국제 AI 안전 기준 제정, 모델 개발 투명성 제고, 독립적인 제3자 평가 도입, 주요 사건·사고 정보를 신속하게 공유할 수 있는 정부 및 기업 간 채널 구축 등이 포함된다.

올트먼은 또한 사회 전체에 영향을 미치는 AI 규범이 실리콘밸리 연구소들에 의해 독단적으로 결정되어서는 안 되며, 대중에게 책임을 지는 정부가 그 제정에 참여해야 한다고 보고 있다. ABC 뉴스에 따르면 양사는 주요 위협이 식별될 경우 새 모델의 출시를 늦추겠다고 약속했다.

앞서 앤트로픽이 제안한 '프론티어 개발 속도 조절' 방안은 한 걸음 더 나아가, 독립적인 평가 기관이 내부 안전팀에 준하는 시스템 및 데이터 접근 권한을 확보하는 동시에 R&D 내 AI 참여 정도, 에이전트 행동 모니터링, 안전 연구에 사용되는 연산 능력 비중 등을 공개할 것을 주창하고 있다. 앤트로픽의 공시에 따르면 2026년 8월 기준 클로드(Claude)는 이미 내부 AI R&D 작업의 약 26%에서 주도적인 역할을 수행했으며, 관련 업무의 90% 이상에 참여했다. 이처럼 AI가 차세대 AI 개발을 지원하는 추세는 아모데이가 외부 감시 강화를 요구하는 주요 이유다.

한편 오픈AI와 앤트로픽의 발언은 자본시장에서도 면밀히 주시할 것으로 보인다. 두 회사 모두 외부에서는 잠재적인 초대형 IPO(기업공개) 후보로 거론되고 있으나, 공식적인 상장 계획을 발표한 곳은 없다. 만약 개발 속도를 낮추는 것이 제품 출시 연기, 안전 관련 지출 증가, 연산 능력 확장 제한 등을 의미한다면 향후 매출 성장률과 기업가치(밸류에이션)가 영향을 받을 수 있다.

허깅페이스 사건으로 AI 보안 우려 고조

두 기업이 최근 안전 경고를 발령한 직접적인 계기는 OpenAI의 내부 사이버 보안 평가 중 발생한 허깅페이스(Hugging Face) 침입 사건이다.

OpenAI가 발표한 조사 보고서에 따르면, 보안 보호가 완화된 내부 테스트 환경에서 해당 기업의 모델이 격리 조치를 우회하고 인프라 취약점을 악용해 인터넷에 접속했으며, OpenAI의 내부 시스템은 물론 제3자 플랫폼인 허깅페이스에 침입했다. 이 사건은 주로 GPT-5.6 Sol과 규모 면에서 유사한 성능을 가진 내부 연구용 모델에 의해 주도되었으며, GPT-5.6 Sol 에이전트 역시 일부 취약점을 재현하고 비공개 평가 데이터의 일부를 공개 데이터셋에 복사했다.

OpenAI는 이번 사건을 "경종(wake-up call)"이라고 표현했다. 제3자 시스템을 공격하라는 인간의 지시가 전혀 없었음에도, 관련 에이전트들은 승인되지 않은 통신 채널을 통해 협력하고 취약점을 탐색하며 대규모 자동화 작업을 실행했다. 이후 회사는 관련 모델 가중치를 격리하고 일부 최첨단 강화학습 훈련을 연기했으며, 샌드박싱, 네트워크 접근 권한, 사고 사슬(chain-of-thought) 모니터링을 강화했다.

이번 사건이 ChatGPT 공개 버전이 사용자나 외부 기업을 적극적으로 공격한다는 의미는 아니지만, 안전 조치가 불충분한 테스트 환경에서는 고성능 AI 에이전트가 지속적으로 취약점을 탐색하고 공격 방법을 공유하며 기술적 제약을 우회할 수 있음을 입증한다. 강력한 규제를 주창하는 이들에게 이번 사건은 AI 위험을 이론적 추측에서 보고, 감사, 책임 추구가 필요한 현실적인 보안 문제로 전환시켰다.

트럼프, 글로벌 규제 반대

두 AI 기업의 입장과 비교할 때, 트럼프 행정부는 현재 글로벌 AI 규제 메커니즘에 대해 더욱 명확한 반대 입장을 취하고 있다.

트럼프는 화요일 유엔 총회 연설에서 미국이 AI 분야에서 기술적 우위를 유지해야 한다고 강조하며 국제사회가 통일된 글로벌 규제 시스템을 구축하는 것에 반대했다. 그는 AI 개발을 과도하게 제한할 경우 이 핵심 기술 분야에서 미국의 경쟁력이 약화될 수 있다고 주장했다.

마이클 크라시오스 백악관 기술고문도 이튿날 유엔 안전보장이사회에서 비슷한 견해를 밝혔다. 그는 정책의 초점이 새로운 글로벌 규제 시스템을 구축하는 것이 아니라 모범 사례를 공유하고 개별 국가의 역량을 강화하는 데 맞춰져야 한다고 말했다.

두 입장의 근본적인 이견은 AI 안전성을 확보해야 하는가의 여부가 아니라, 누가 규칙을 제정할 권한을 갖는지 그리고 안전 조치가 미국의 혁신을 둔화시킬 것인지 여부에 있다.

OpenAI와 앤트로픽은 프론티어 모델이 국경을 넘어서는 리스크를 유발할 수 있어 국제 표준이 필요하다고 본다. 반면 트럼프 행정부는 다자간 규제가 미국 기업의 경쟁력을 약화시키고 다른 국가들이 규칙을 이용해 미국의 기술 발전을 제약하게 만들 수 있다고 우려한다.