앨라배마주, 오픈AI의 허깅페이스 보안 침해 조사 착수

TradingKey - 미 동부 시간 8월 24일 로이터 통신 보도에 따르면, 스티브 마셜 앨라배마주 검찰총장은 오픈AI(OpenAI)에 소환장을 발부하고 이 회사의 AI 모델이 오픈소스 플랫폼 허깅페이스(Hugging Face)를 침해한 사건에 대한 공식 조사에 착수했다고 발표했다.

마셜 검찰총장은 성명을 통해 이번 조사의 목적이 오픈AI에 "감독 부족 및 적절한 안전 장치 부재"가 있었는지 여부, 이러한 행위가 앨라배마주 소비자 보호법을 위반했는지 여부, 그리고 주 주민들에게 지속적인 피해 위험을 초래하는지 여부를 규명하는 데 있다고 밝혔다.

이번 사건은 지난 7월에 발생했다. 당시 오픈AI는 외부 네트워크와 격리된 샌드박스 환경에서 GPT-5.6 Sol 및 이보다 성능이 뛰어난 미공개 모델에 대한 사이버 보안 역량 평가를 진행 중이었다. 모델의 능력 한계를 시험하기 위해 테스터들은 일부 안전 거부 제한을 완화했고, 이에 따라 모델은 이전에 금지되었던 유형의 응답을 출력할 수 있게 되었다.

테스트 과정에서 해당 모델은 제3자 소프트웨어인 아티팩토리(Artifactory)의 알려지지 않은 제로데이 취약점을 포착하고 이를 악용했다. 모델은 권한을 승격한 후 인터넷에 연결된 시스템 포트에 침투했으며, 최종적으로 허깅페이스를 목표 삼아 데이터를 탈취했다. 로이터에 따르면 이번 침입은 며칠 동안 지속되었으며, 허깅페이스는 피해를 입은 4개 기관 중 하나였다.

이후 허깅페이스는 중국의 오픈소스 모델인 GLM-5.2의 도움을 받아 공격 로그를 분석했다.

클레망 드랑그 허깅페이스 공동 창업자는 공격 수법의 복잡성 때문에 한때 공격 주체가 첨단 AI 연구소일 것으로 의심했으나, 최종적으로 오픈AI에서 비롯된 것임을 확인했다고 밝혔다. 오픈AI는 이번 사건을 "전례 없는 사이버 보안 사건"이라고 불렀으며, 관련 모델은 이후 폐기 및 암호화 처리되어 접근이 제한되었다.

사건 이후 마셜 검찰총장은 8월 초 플로리다, 미주리, 텍사스 등 14개 주의 검찰총장들과 합류해 샘 올트먼 오픈AI CEO에게 서한을 보내 안전 조치가 완비될 때까지 유사한 사이버 보안 평가 활동을 중단할 것을 요구했다.

네이트 에반스 오픈AI 대변인은 외부 컨설턴트와 함께 내부 조사를 진행 중이며, 조사가 완료되는 대로 관련 정부 부처에 기술 보고서를 제출하고 조사 결과를 공개할 예정이라고 답했다.

대응 조치의 일환으로 오픈AI는 8월 18일 최신 배포 모델에 대한 강화학습 훈련을 2주간 중단한다고 발표했으나, 현재까지 가장 규모가 큰 첨단 강화학습 훈련은 재개되지 않고 있다.

동시에 이 회사는 의심스러운 활동이 감지된 지 30분 이내에 경보를 발령할 수 있는 새로운 모니터링 시스템을 개발 중이다. 이 시스템은 특정 첨단 모델 및 실험적 워크로드의 보안 모니터링을 위해 약 20%의 추가 연산 오버헤드를 발생시킬 것으로 예상된다.