신종 ‘사이버 불링’ 심각
인공지능(AI) 딥페이크(Deepfake) 기술을 악용한 신종 ‘사이버 불링’(온라인상의 괴롭힘)으로 베벌리힐스 교육구가 발칵 뒤집혔다. 한인 학생들도 다수 재학 중인 베벌리힐스의 중학교에서 여자 동급생 사진에 누드를 합성한 가짜 이미지가 온라인상으로 유포되면서 아이들이 사이버 리스크에 노출되고 있는 것이다.
지난주 베벌리힐스에 위치한 베벌리 비스타 중학교 교사와 학부모들은 인위적으로 생성된 누드에 실제 학생의 얼굴을 합성한 가짜 이미지가 온라인에 유포되고 있다는 보고를 받고 충격을 받았다. 베벌리힐스 통합교육구에 따르면 이 가짜 이미지들은 교육구의 유일한 6~8학년 학교인 베벌리 비스타의 중학생들이 동급생 사진으로 만들어 공유한 것이었다. 약 750명의 학생이 재학 중인 베벌리 비스타 중학교에는 온라인 상에 떠돌아 다니는 얼굴만 여학생의 진짜 사진이고 신체는 AI 딥페이크 기술로 완벽하게 결합한 가짜 누드 사진으로 사이버 불링 피해자가 속출하고 있다.
베벌리힐스 교육구 측은 주법이 허용하는 가장 엄중한 징계를 내릴 준비가 되어 있는 입장이다. 지난주 학부모에게 발송된 성명서에 따르면 “이러한 형태의 AI 생성 이미지를 제작, 유포 또는 소지한 것으로 밝혀진 학생은 퇴학 권고를 포함한 징계 조치를 받게 될 것”이라는 단호한 의사를 밝혔다.
이 성명서에는 비벌리 비스타의 켈리 스콘 교장이 지난 26일 3학년 학생 거의 전원을 만나 이번 사건으로 제기된 여러 가지 문제를 논의했으며 학생들에게 “소셜 미디어를 어떻게 사용하는지 반성하고 자신의 가치관에 맞지 않는 상황을 두려워하지 말 것, 그리고 소셜 미디어 계정을 비공개로 설정하고 모르는 사람이 자신의 계정을 팔로우하지 않도록 할 것을 요청했다”고 밝혔다. 스콘 교장은 “이번 사건으로 인해 상처받은 피해 학생들이 있으며, 이는 일어난 일을 고려할 때 예상할 수 있는 일”이라며 “이 터무니없는 행위로부터 학생들이 스스로를 극복해가는 용기와 회복력을 기대한다”고 덧붙였다.
문제는 이같은 상황이 베벌리힐스 교육구가 처음이 아니라는 점이다. 26일자 LA타임스에 따르면 전 세계 교육기관은 가짜 사진, 비디오 및 오디오로 인한 사이버 리스크 노풀에 몸살을 앓고 있다. 뉴저지 웨스트필드, 시애틀, 위니펙, 스페인 알멘드랄레호, 리우데자네이루에서 ‘딥페이크’ 기술을 사용하는 사람들이 여학생의 진짜 사진과 인위적이거나 사기성 누드 사진을 완벽하게 결합했다.
■ 딥페이크 왜 문제인가
일상 파고든 딥페이크
저렴하고 사용하기 쉬워
현재 온라인 상에는 특정 인물의 사진을 전송하면 딥페이크 기술을 이용해 해당 인물을 누드로 만들어 주는 딥페이크 앱이 수십 개나 있다.
이 앱들은 AI 기반 이미지 인페인팅 기술을 사용하여 옷을 나타내는 픽셀을 제거하고 그 사람의 누드에 가까운 이미지로 대체하는 프로그램으로, 다른 도구를 사용하면 대상자의 얼굴을 다른 사람의 누드 신체에 얼굴을 바꾸는 ‘페이스 스왑’도 가능하다.
이미지 생성 인공지능(AI) 프로그램을 이용해 원하는 인물을 누드로 만들어 주는 딥페이크 사이트는 수년 전부터 사용 가능했다. 하지만, 초기 버전은 비싸고 사용하기 어려우며 사실적이지 못했다.
그러나, AI가 발달하면서 실제와 같은 이미지를 복제하고 딥페이크를 빠르게 만들 수 있게 됐다. 스마트폰으로도 단 몇 초 만에 딥페이크를 만들 수 있는 것이다.
이처럼 저렴하고 사용하기 쉬운 딥페이크 도구가 널리 보급되면서 본인의 의사와 상관없는 딥페이크 포르노의 양이 폭발적으로 증가했다.
독립 연구기관의 연구에 따르면 2023년 첫 9개월 동안 가장 인기 있는 35개 딥페이크 포르노 사이트에 11만3,000개의 딥페이크 포르노 동영상이 업로드된 것으로 나타났다. 이 속도라면 연말까지 지난 한 해를 모두 합친 것보다 더 많은 동영상이 제작될 것으로 연구진은 예상했다.
<하은선 기자>
