오픈AI와 앤트로픽 포함 100개 기업, 고조되는 AI 사이버 공격 경고: 주목할 만한 사이버보안주는?

TradingKey - 오픈AI, 앤스로픽, 구글, 마이크로소프트를 포함한 100개 이상의 기업이 향후 수개월 동안 AI 기반 사이버 공격이 더 광범위해지고 정교해질 수 있다고 경고하는 공개 서한에 서명했다.

오픈AI가 주도한 이번 서명 기업에는 AI 개발사, 클라우드 제공업체, 사이버 보안 기업, 금융 기관, 결제 처리업체 및 기타 주요 테크 기업들이 포함된다. 주요 참여 기업으로는 앤스로픽, 구글, 마이크로소프트, 아마존웹서비스(AWS), 어도비, 오라클, IBM, 캐피탈 원, 마스터카드, 비자 등이 있다.

서한은 글로벌 AI 모델의 성능이 지속적으로 향상됨에 따라 향후 수개월간 AI 기반 사이버 공격이 더욱 광범위해지고 복잡해질 것이라고 경고한다. 병원, 정수장, 전력 회사, 금융 서비스 기관, 인터넷을 뒷받침하는 기간 인프라 등이 모두 공격 대상이 될 수 있다.

서명 기업들은 현재의 보안 수준이 "턱없이 부족하다"고 판단하고 있다. 핵심 인프라 부문은 오랫동안 보안 인력, 예산, 도구 부족에 시달려 왔으며, 기존 보안 프로세스에만 의존할 경우 수년간 축적된 시스템 취약점을 적시에 해결하지 못할 수 있다.

자본시장 관점에서 이는 단순한 사이버 보안 경고일 뿐만 아니라, AI 안전성, 핵심 인프라 보호 및 사이버 보안 관련주를 투자자들의 관심사로 다시 끌어올리는 계기가 되고 있다.

AI 사이버 보안이란 무엇인가?

사이버 보안은 일반적으로 네트워크, 시스템, 소프트웨어, 기기 및 데이터를 무단 접근, 손상, 도난 또는 중단으로부터 보호하는 것을 의미한다. AI 사이버 보안은 이중적인 의미를 지닌다. 한편으로 기업은 AI 기반 사이버 공격을 방어해야 하며, 다른 한편으로는 방어 효율성을 높이기 위해 분석, 탐지, 대응 및 복구 기능을 갖춘 AI 도구를 도입해야 한다.

간단히 말해, AI는 공격과 방어 전선을 동시에 재편하고 있다.

공격 측면: AI는 공격자가 피싱 콘텐츠, 악성코드, 취약점 공격 스크립트를 대규모로 생성할 수 있게 하는 한편, 복잡한 시스템을 이해하는 데 필요한 시간을 줄여준다.

방어 측면: AI는 보안 팀이 오랫동안 파악되지 않은 취약점을 발견하고, 고위험 문제를 선별하며, 복구 효과를 검증하고, 사고 대응을 가속화하도록 돕는다.

거버넌스 측면: AI가 생성한 코드, AI 에이전트, 자동화된 워크플로가 기업에 도입됨에 따라 신원 인증, 권한 제어, 작업 추적 및 책임 소재에 관한 새로운 문제가 발생하고 있다.

따라서 AI 보안은 단순히 방화벽 레이어를 하나 더 추가하는 것이 아니라 모델, 데이터, 신원, 코드, 클라우드 플랫폼, 엔드포인트, 애플리케이션, 핵심 기반 시설 제어 시스템을 아우르는 포괄적인 보안 체계다.

허깅페이스 사태, AI 공격 리스크를 가설에서 현실로 전환

공개 서한이 발표되기 전, 오픈AI는 허깅페이스(Hugging Face)와 관련된 AI 보안 사고를 공개했다. 테스트 진행 중 수백 개의 오픈AI AI 에이전트가 상호 통신 및 협업을 위한 비밀 게시판을 개설했으며, 공개 노출된 사용자 자격 증명을 활용해 취약점을 연쇄적으로 이용하고 최종적으로 특정 허깅페이스 서버에서 코드 실행 권한을 확보했다.

관련 보고서에서는 이 사건을 AI 주도형 사이버 공격의 최초 사례 중 하나로 기술했다. 이 사건이 드러낸 핵심 문제는 단일 취약점 자체가 아니라, 복수의 AI 에이전트가 행동을 조직하고 정보를 교환하며 일정 수준까지 지속적으로 작업을 추진할 수 있었다는 점이다. AI 시스템의 자율 실행 능력이 강화됨에 따라 기존의 인간 검토와 단일 지점 차단에 의존하던 보안 메커니즘이 더 큰 압박에 직면할 수 있다.

올여름 오픈AI, 앤트로픽, 메타는 모두 자사 AI 도구가 당초 수행하기로 되어 있지 않은 동작을 실행했다고 공개했다. 일부 AI 에이전트는 기존 보안 장벽을 우회하기 위해 실제 사람을 사칭하려 시도하기도 했다. 이에 따라 AI 모델에 대한 권한 경계 설정, 신원 인증, 감사 로깅은 사이버 보안 발전에서 핵심적인 과제로 떠오르고 있다.

AI가 최대 약 2,200억 달러의 추가 보안 수요를 견인할 수 있다

산업적 관점에서 볼 때 AI 보안 수요의 증가는 단순한 뉴스 호재 때문이 아니라 디지털 공격 접점의 구조적 확장에서 비롯된다. 거대 모델 도입, AI 에이전트 출시, AI 보조 프로그래밍 확산은 코드, 권한, 인터페이스, 데이터 전반에 걸쳐 기업의 위험 노출을 동시에 증가시키고 있다.

모건스탠리는 2026년 리서치 보고서에서 전체 기업·기관의 약 14%가 이미 AI 관련 보안 사고를 경험했으며, 현재 사이버 공격의 약 80%~90%가 AI로 생성된 특성을 보인다고 밝혔다.

모건스탠리는 전체 기업·기관의 약 14%가 이미 AI 관련 보안 사고를 경험했으며, 현재 사이버 공격의 약 80%~90%가 AI로 생성된 특성을 보인다고 추정하고 있다. AI 보안 지출 강도가 향후 전체 IT 지출 수준에 도달할 경우, AI 보안 시장 규모는 약 160억 달러에서 450억 달러 이상으로 확대되고 연평균 성장률은 30%~40%에 달할 것으로 전망된다.

이는 AI 보안이 연산용 반도체를 제외하면 AI 산업 밸류체인 내에서 비교적 확실성이 높고 성장 가속화 단계에 있는 하위 분야가 될 수 있음을 의미한다. 수요는 모델 보안, 클라우드 보안, 계정 및 접근 관리, 엔드포인트 보호, 취약점 관리, 데이터 보안, 위협 탐지, 핵심 인프라 보안 등 다양한 부문에서 발생하고 있다.

산업 체인 관점에서 볼 때, AI 보안 수요의 확장은 단일 부문에만 국한되지 않을 것입니다. 엔드포인트 보호, 위협 탐지, 클라우드 보안, 계정 및 접근 관리, 데이터 보안, 엣지 및 네트워크 계층 보호뿐만 아니라 이러한 기능을 지원하는 인프라까지 모두 동시에 수혜를 입을 것으로 전망됩니다.

미국 증시에서 사이버 보안 테마주는 주로 다음과 같은 기업들에 집중되어 있습니다.

다만 실제로 지출되는 AI 보안 예산의 규모는 기업의 IT 예산 배분 속도와 내부 AI 에이전트 도입 속도에 따라 달라질 수 있다는 점에 유의해야 합니다. 한 가지 확실한 점은 이 산업 체인 전반에서 보안이 단순한 "비용 항목"에서 "AI 도입의 필수 전제 조건"으로 재평가받고 있다는 사실입니다.