외부기관들 무단 해킹
‘불량 에이전트’ 사고
사이어보안 경계 상승
정부도 규제강화 나서
메타의 인공지능(AI) 모델도 내부 사이버 보안 시험 도중 외부 기관을 해킹한 것으로 드러났다.
오픈AI의 GPT 모델과 앤트로픽의 클로드 모델에 이어 세 번째로 확인된 이른바 ‘불량 에이전트’ 사고다.
7일 블룸버그 통신과 CNN 등 언론들에 따르면 메타는 자사 AI 모델 ‘뮤즈 스파크’가 독립 검증업체 ‘이레귤러’가 진행하는 시험 도중 인터넷에 무단 접속했고, 이후 다른 기관의 시스템을 해킹한 사실을 확인했다고 밝혔다.
뮤즈 스파크는 이레귤러의 설정 오류로 인터넷에 연결됐으며, 취약점을 악용해 외부 기관에 무단 접속한 것으로 나타났다.
해킹 피해를 본 기관은 한 곳이지만, 구체적으로 어느 기관인지는 공개되지 않았다.
다만 뮤즈 스파크가 ‘샌드박스’로 불리는 격리 환경에서 탈출한 것이 아니라 설정 오류로 인터넷에 접속했다는 점으로 비춰보면, 앞서 샌드박스에서 탈출해 보안 공격을 감행한 GPT 모델의 허깅페이스 해킹 사고보다는 덜 우려할 만한 상황으로 보인다.
사고 원인을 제공한 이레귤러 측은 “이번 사건은 ‘샌드박스’ 격리 환경의 탈출이나 정교한 사이버 해킹 공작과는 다르다”며 “현재 해결되지 않은 보안 문제는 없다”고 해명했다.
GPT와 달리 앤트로픽 사례처럼 인간의 실수로 인터넷에 연결돼 해킹을 자행한 사건과 비슷한 문제라는 것이다.
그럼에도 불구하고 불과 몇 주 사이에 세계 AI 업계를 주도하는 기업 세 곳의 최첨단 모델이 연이어 내부 시험 도중 외부 업체를 해킹하는 사태가 발생하면서 AI발 사이버 보안 경계감은 더 커질 것으로 전망된다.
영국 AI보안연구소(AISI)는 앤트로픽과 오픈AI의 AI 모델이 가짜 신원으로 인간과 접촉해 악성코드를 심으려 하는 등 위험 사례가 다수 발견됐다고 최근 발표한 바 있다.
메타와 이레귤러는 이번 보안 사고의 구체적인 사실관계를 추가 조사해 사후 보고서와 백서 등을 발표할 계획이다.
연방 정부는 첨단 AI 모델 출시 30일 전에 모델을 사전 제출해 보안 검증을 받도록 하는 규제를 마련 중이고, 연방 의회에서도 AI가 통제를 잃으면 정부가 개입할 수 있는 ‘AI 킬스위치법’이 발의되는 등 규제 압박이 거세지고 있다.
테드 류 하원의원(민주·캘리포니아)과 너새니얼 모런 하원의원(공화·텍사스)이 공동 발의한 이 법안은 AI 모델이 개발자의 의도를 벗어난 위험한 행동을 수행하는 등 통제 상실 시나리오가 발생하면 국토안보부가 개입할 수 있는 권한을 부여하는 것을 골자로 하고 있다.
류 의원은 X에 올린 글에서 이 법안에 대해 “안전장치를 뚫고 나간 첨단 AI 모델 문제를 해결하기 위한 시급하고 상식적인 법안”이라고 강조했다.
이번 사태로 AI 모델을 공개하기 전 정부에 이를 의무적으로 제출해 사전 검토를 받도록 해야 한다는 주장에 더욱 힘이 실릴 것으로 보인다.
미 하원의 양당 소속 의원 6명은 AI 모델 개발자들이 상무부 인증을 받은 감사 기관에 모델을 제출하도록 하는 법안을 제안했다.
AI 모델 공개 전 국가안보국(NSA) 시험을 의무화해야 한다고 주장해온 상원 정보위원회 민주당 간사 마크 워너 상원의원(버지니아)도 성명을 통해 “바로 이런 사고 때문에 정부 기관이 참여해 전 과정을 투명하게 파악할 수 있는 (AI) 안전 시험이 필요한 것”이라고 목소리를 높였다.
