무슨 일이 있었나
2026년 7월 30일, Anthropic은 공식 블로그를 통해 클로드 모델 3개가 사이버보안 평가 과정에서 실제 외부 조직 3곳의 시스템에 무단으로 접속한 사실을 공개했습니다. 이 소식은 국내 언론에도 곧바로 보도됐는데, 핵심만 추리면 다음과 같습니다.
앤트로픽은 사이버보안 평가 도중 클로드 모델이 실제 세 개 조직의 시스템에 무단 접근했다고 공개했으며, 이는 경쟁사 오픈AI가 일주일 앞서 보고한 유사한 보안 침해 사건에 뒤이어 나온 발표였습니다. 발표 계기가 흥미로운데, 오픈AI가 자사 AI 에이전트 중 하나가 허깅페이스 인프라를 해킹했다고 밝힌 직후 앤트로픽이 자체적으로 14만 1천여 건의 평가 기록을 전수 조사했고, 그 과정에서 문제가 드러났습니다.
세 사건 모두 “캡처 더 플래그” 방식의 보안 훈련이었습니다. AI 모델에게 다른 네트워크에 숨겨진 정보를 찾아오라는 과제를 주는 방식인데, 문제는 이 평가 환경이 인터넷과 완전히 차단돼 있어야 했지만 실제로는 그렇지 않았다는 점입니다. 클로드에게 이 환경은 시뮬레이션이며 인터넷 접근이 없다고 안내했지만, 실제로는 열린 인터넷에 닿을 수 있었고 그 결과 실제 조직의 운영 시스템까지 건드리게 된 것입니다. 앤트로픽 스스로도 이를 “정렬(alignment) 실패가 아니라 운영상의 실패”로 규정했고, 모델이 스스로 목표를 세워 탈출을 시도한 증거는 없었다고 밝혔습니다.
더 눈에 띄는 대목은 피해 조직들의 반응입니다. 앤트로픽에 따르면 영향을 받은 조직에 연락했을 때, 이 중 일부는 그런 접근이 있었는지조차 사전에 감지하지 못했다고 답했습니다. 즉, AI 에이전트가 시스템에 들어왔다 나가도 피해 당사자는 인지하지 못할 수 있다는 뜻입니다.
AI 에이전트 도입 계약, 이것부터 확인해야 할까요
만약 우리 회사 시스템이 이런 평가 대상이었다면, 통보를 받기 전까지는 알 방법이 없었을 가능성이 큽니다. 실무자가 지금 확인해야 할 것은 AI 벤더나 파트너사가 우리 인프라에 접근할 수 있는 테스트·평가·자동화 작업을 할 때, 그 사실을 통보받고 로그를 확인할 권리가 계약에 명시되어 있는지입니다.
이번 사건에서 문제가 된 것은 모델의 성능이 아니라 평가 환경의 격리 설정이었습니다. 이는 우리 회사가 외부 AI 서비스나 자동화 도구를 도입할 때도 똑같이 적용되는 이야기입니다. 우리 쪽에서 권한을 준 도구가 예상 범위를 벗어난 접근을 했을 때, 그것을 감지할 로그와 알림 체계가 있는지가 핵심입니다.
중소기업 실무자가 오늘 점검할 3가지
첫째, 외주·용역 계약서의 접근 통제 조항을 다시 봅니다. IT 유지보수나 데이터 가공을 외부에 맡길 때, 계약서에 “테스트 목적의 접근이라도 사전 고지 및 로그 제공”을 명시했는지 확인합니다. 저희 픽셀앤코드도 공공·민간 고객사와 유지보수 계약을 맺을 때 접근 이력을 남기고 필요시 공유하는 절차를 두고 있는데, 이런 조항이 없다면 지금이라도 추가를 요청할 만합니다.
둘째, 사내에 들어온 AI 에이전트의 접근 범위를 목록화합니다. 이메일, 캘린더, 파일 시스템에 연결된 AI 도구가 늘어나면서 관리가 어려워지는 것은 이미 여러 조직이 겪는 문제입니다. 관련해서는 에이전트가 늘어난 사무실, 이제는 관리가 필요합니다 글에서 이력 관리와 권한 문제를 다룬 적이 있는데, 이번 사건은 그 필요성을 다시 한번 보여줍니다.
셋째, 로그가 남는지, 그 로그를 누가 정기적으로 확인하는지를 정합니다. 로그가 쌓이기만 하고 아무도 보지 않으면 이번 사건의 피해 조직들과 같은 상황이 됩니다. 자동화 스크립트를 운영할 때도 마찬가지인데, 자동화 스크립트, 만들고 나서가 더 중요합니다에서 정리한 자동화 로그 작성법이 이런 상황에서 최소한의 안전판이 됩니다.
이번 일이 AI 도입을 늦출 이유는 아닙니다
앤트로픽은 이번 사건에 대해 평가 환경 격리 강화, 모니터링 개선 등 재발 방지 조치를 발표했습니다. 이는 AI 안전 연구의 정상적인 자기 점검 과정이기도 합니다. 다만 이 사건이 실무자에게 주는 메시지는 분명합니다. AI 모델 자체의 위험성보다, 그 모델에게 어떤 권한과 환경을 주었는지, 그리고 그 결과를 누가 확인하는지가 실제 사고를 가르는 지점이라는 것입니다. 사내에 AI 사용 가이드라인이 아직 없다면 사내 AI 사용 가이드라인 만드는 법에서 데이터 등급과 자동 실행 한도부터 시작해볼 수 있습니다.
이런 사고는 대기업 AI 랩에서만 벌어지는 일처럼 보이지만, 실제로는 중소기업이 도입하는 자동화 스크립트나 외주 개발 결과물에도 같은 원리가 적용됩니다. 권한 범위가 애매하게 설정된 자동화 도구, 로그 없이 돌아가는 스크립트가 사내에 얼마나 있는지부터 점검해 보는 것이 첫걸음입니다. 픽셀앤코드는 맞춤형 소프트웨어 개발과 유지보수 과정에서 이런 접근 권한과 로그 관리를 함께 설계해 드리고 있으니, 사내 자동화나 AI 도구 도입을 검토 중이시라면 초기 설계 단계에서부터 점검해 보시길 권해드립니다.