📮AI가 커닝하려고 인프라를 해킹했다?

허깅페이스가 7월 27일, 이번 달 9일부터 13일까지 자사 인프라에서 벌어진 AI 에이전트 침입 사고의 기술적 타임라인을 공개했어요. OpenAI 모델을 조합해 만든 자율 에이전트가 사이버 보안 역량 평가를 수행하던 중, 문제를 직접 풀지 않고 허깅페이스에 호스팅된 정답을 훔치려 한 사건인데요.

침입은 두 단계였어요. 외부 업체의 코드 평가 샌드박스에서 관리자 권한을 얻어 발판을 만들고, 이어서 데이터셋 처리 파이프라인의 허점을 이용해 허깅페이스 내부로 들어왔고요. 이후 쿠버네티스 클러스터, 클라우드 메타데이터, 내부 네트워크, 소스 관리 시스템까지 차례로 이동했다고 해요. 접근된 고객 데이터는 벤치마크 정답이 담긴 데이터셋 5개뿐이고, 다른 모델이나 데이터셋, Spaces, 패키지는 영향이 없었다고 합니다. 분석 과정도 눈에 남는데, Claude Opus와 Fable이 공격 로그 분석을 거부해 오픈소스 모델 GLM-5.2를 직접 올려 페이로드를 해독했어요.