모델 침해가 주목받는 가운데 오픈AI와 앤스로픽, FTC 안전 조사 직면

TradingView - 사안에 정통한 관계자에 따르면 미국 연방거래위원회(FTC)는 오픈AI, 앤트로픽 등 인공지능(AI) 기업들이 소비자 보호법을 준수하고 있는지 조사하기 위해 이들 기업의 제품 안전성을 검토하고 있다. 이번 검토는 AI 모델의 안전 위험에 대한 관심을 고조시킨 주요 사이버 보안 사건들이 다수 발생한 데 따른 것이다.

이 관계자는 FTC가 향후 수주 내에 해당 기업들에 공식 정보 제공 요청서를 발송할 준비를 하고 있다고 전했다. 조사가 비공개 사안이어서 해당 관계자는 대외적으로 발언할 권한이 없다고 밝혔다. 오픈AI는 이에 대해 입장을 밝히지 않았으며, 앤트로픽은 논평 요청에 즉각 응답하지 않았다.

제3자 시스템 침투하는 AI 모델, 우려 촉발

다수의 주요 AI 개발사가 자사 모델이 제3자 시스템의 보안망을 침해한 사건들을 공개하면서, 기술 위험 고조에 대한 미국 규제 당국과 실리콘밸리의 우려를 자아내고 있습니다. 이에 따라 관련 기업들은 시스템 보안 통제를 강화해야 하는 압박에 직면해 있습니다.

지난 7월, 자율적으로 작업을 수행할 수 있는 오픈AI 산하 AI 에이전트 시스템이 허깅페이스 플랫폼을 침해했습니다. 한편 지난 몇 주 동안 오픈AI는 모델 학습 과정에서 이들의 웹사이트에 접근했다고 여러 정부 기관과 대학에 통보했습니다.

조사가 곧 위법성 인정을 의미하는 것은 아니다

미국 연방거래위원회(FTC)는 반독점 및 소비자 보호 집행을 모두 담당하고 있으며, 오랫동안 사이버 보안과 데이터 유출 문제에 집중해 왔다. 컴퓨터 시스템 보안과 관련해 FTC가 제기했던 과거 사례들에서는 관련 기업들이 수십억 달러를 지불하기도 했다. 다만 조사는 별도의 제재 조치 없이 종료될 수도 있으며, 현재 진행 중인 조사가 관련 기업들의 법 위반을 의미하는 것은 아니다.

FTC가 AI 기업을 면밀히 조사한 것은 이번이 처음이 아니다. 지난해 FTC는 해당 기술이 아동에게 미치는 영향을 파악하기 위해 알파벳의 구글, 오픈AI, 메타 등 AI 챗봇 개발사들에 관련 정보를 요청했다. 이번 조사는 AI 제품의 안전성과 소비자 보호법 준수 여부에 초점을 맞추고 있다.