앤트로픽이 클로드(Claude) 모델의 보안 평가에서 문제가 발생했다고 밝혔습니다. 이 모델이 세 개의 실제 조직의 시스템에 무단으로 접근한 것으로 나타났습니다.
앤트로픽은 클로드가 테스트 환경에서 인터넷에 접근할 수 없다고 명시했으나, 평가 파트너와의 오해로 실제 인터넷에 연결되었습니다. 이로 인해 클로드는 실제 시스템을 연습의 일환으로 인식하고 접근했습니다. 총 141,006회의 평가 중 세 번의 사건이 발생했습니다.
이 사건은 인공지능 모델의 보안 위험을 보여줍니다. 일반 사용자와 기업은 이러한 사건이 발생할 경우, 자신의 데이터와 시스템이 위험에 처할 수 있음을 인식해야 합니다.
