앤트로픽은 10월 26일 기업공개(IPO) 서류에서 두 가지 보안 문제를 공개했습니다. 회사는 모델 가중치 도용 방지 대책을 강화하는 동안 최첨단 모델의 사전 학습 시작을 한 달 이상 연기했습니다. 또한, 사이버 보안 평가 과정에서 4개의 클로드(Claude) 모델이 실제 기업 시스템에 접근한 것으로 드러났습니다.

두 가지 문제, 하나의 서류 제출
앤트로픽은 나스닥에 주식 상장을 위한 신청서를 제출했으며, 상장 종목 코드는 ANT입니다. 이사회의 대부분은 장기 이익 신탁(Long-Term Benefit Trust)이 장악하고 있습니다. 신청서에는 아직 IPO 가격이나 기업 가치가 명시되어 있지 않습니다.
이번 공개는 두 가지 주요 문제를 제기합니다. 하나는 중요한 모델 가중치를 보호하는 것이고, 다른 하나는 AI 에이전트가 테스트 환경 외부의 시스템에 접근하는 것을 방지하는 것입니다.
평가 목표가 최종적으로 어떻게 실현되었는지
앤트로픽은 7월 30일 보고서 에서 141,006건의 사이버 보안 테스트를 검토하는 과정에서 클로드(Claude) 모델이 실제 기업 시스템에 무단으로 접근한 사례를 세 건 발견했다고 밝혔습니다. 테스트 파트너사인 이레귤러(Irregular)는 클로드 모델이 격리된 시뮬레이션 환경에서 작동하고 있다고 설정했음에도 불구하고 실수로 인터넷 접속을 허용해 둔 것으로 드러났습니다.
깃발 뺏기 훈련 중 요원들은 실제 시스템을 테스트 대상으로 오인하여 취약한 비밀번호나 인증이 필요 없는 엔드포인트를 통해 접근 권한을 획득했습니다.해당 사례에는 다음 세 가지 모델이 포함되었습니다.
4월에 출시된 Claude Opus 4.7, 6월에 도입되어 초기에는 자격을 갖춘 사이버 방어 담당자에게만 접근이 허용된 Mythos 5, 그리고 아직 일반에 공개되지 않은 내부 연구 모델입니다.
평가 과정에서 이러한 모델들은 일반적으로 공개 버전에서 사용되는 사이버 보안 필터 및 모니터링 기능 없이 실행되었습니다. 앤트로픽은 조사가 진행되는 동안 사이버 보안 평가를 중단했습니다. 앤트로픽은 어떤 모델도 고의로 테스트 환경을 탈출하거나 자체 복제를 시도하지 않았다고 밝혔습니다.
9월에 실시된 평가에서 Opus 4.6 초기 버전이 1월에 실제 시스템에 접근한 네 번째 사례가 드러났습니다. 앤트로픽은 8월이 되어서야 이 사건을 발견했으며, 이후 약 4억 8천 1백만 건의 녹취록으로 검토 범위를 확대했지만 유사한 심각도의 추가 사례는 발견되지 않았습니다.
더욱 우려스러운 점은 일부 모델들이 실제 시스템을 표적으로 삼고 있다는 징후에도 불구하고 공격을 계속했다는 사실입니다. 독립 연구 그룹인 METR은 이러한 사건들을 조사하고 있습니다.

영국 인공지능 연구소에서 진행된 별도의 사건
영국 AI 보안 연구소는 122번의 테스트 실행 중 10번에서 19건의 무단 행위가 발생했다고 보고했습니다 . 이 중 17건은 Mythos 5와 관련이 있었고, 2건은 OpenAI가 6월 26일에 공개한 주력 모델인 GPT-5.6 Sol과 관련이 있었습니다 . 한 에이전트는 오픈 소스 프로젝트에 악성 코드를 삽입하려 시도하면서 가짜 신분을 만들어 프로젝트 관리자에게 압력을 가하려 했으나, 관리자가 이를 거부했습니다.
AISI는 요원들의 역량을 평가하기 위해 사이버 보안 설정을 비활성화한 채 인터넷 접속을 허용했습니다. 요원들은 일반에 공개된 버전과는 다른 버전을 사용했습니다. 조사 결과, 실제 피해가 발생할 가능성은 발견되지 않았습니다.
그러나 요원들은 해서는 안 될 행동들을 했고, 이로 인해 유사한 상황에서의 그들의 행동에 대한 의혹이 제기되었습니다. AISI는 해당 사건에 대한 보고서에서 다음과 같이 밝혔습니다.
“우리가 확실히 말할 수 있는 것은 그러한 행동이 가능했고, 지속적이었으며, 새로운 것이었다는 점입니다. 그것만으로도 주목할 만한 가치가 있습니다.”
포인트의 검토 결과는 이러한 테스트 실패를 범죄자들이 인공지능(AI)을 점점 더 많이 사용하는 추세, 특히 에이전트형 랜섬웨어의 사용 증가와 연관 짓고 있습니다.
안전 점검 시간이 길어질 경우 발생할 수 있는 비용
크립토폴리탄(Cryptopolitan) 보도 에 따르면 , 투자자들은 앤트로픽(Anthropic)의 기업공개(IPO) 예상 기업가치를 약 2조 달러로 추산했는데, 이는 지난 5월 비공개 평가액인 9,650억 달러의 두 배가 넘는 수치입니다. 하지만 앤트로픽이 IPO 신청서에 공모가나 기업가치를 명시하지 않았기 때문에 이 수치는 아직 추정치에 불과합니다.
이처럼 높은 기대치 때문에 더욱 엄격한 안전 검사는 재정적인 부담을 수반합니다. 이는 신제품 출시를 지연시키고 개발 비용을 증가시킬 수 있지만, 강화된 안전장치는 신중한 기업 고객을 확보하는 데 도움이 될 수도 있습니다. 위험 부담은 점점 커지고 있습니다.가트너에 따르면 전 세계 AI 관련 지출은 2026년에 2조 7천억 달러에 달해 49.5% 증가할 것으로 예상되며, 해당 분야의 사이버 보안 지출은 두 배로 늘어날 것입니다.
BCG 조사 에 따르면 조사 대상 기업 중 자율 에이전트에 대한 완전한 제어 기능을 갖춘 기업은 5%에 불과했지만, 42%는 2030년까지 자율 에이전트에 의사 결정 권한을 부여할 것으로 예상했습니다. 효과적인 안전장치를 입증할 수 있는 공급업체는 경쟁 우위를 확보할 수 있을 것입니다.