내년 대선 앞두고 ‘AI 생성 가짜뉴스’ 기승 우려

인공지능 진화 속도 빨라…‘정교한 오보’

대량 유포로 소셜미디어 위기조장 가능

 

공화당 대선 주자인 론 디샌티스 플로리다 주지사는 지난달 트위터에 한 영상을 올렸다. 영상에는 같은 당 대선 주자 중 선두인 도널드 트럼프 전 대통령이 앤서니 파우치 전 국립알레르기·전염병연구소(NIAID) 소장을 안는 이미지가 담겼다.

 

트럼프 전 대통령은 재임 시절 코로나19 팬데믹 대처 방식을 놓고 파우치 전 소장과 심각한 마찰을 빚었다. 이 이미지는 그럼에도 파우치 전 소장을 경질하지 않은 트럼프 전 대통령의 태도를 은근히 비난하는 듯했다.

 

이 이미지는 급속히 확산했고 팩트체크 기관과 ‘네티즌 수사대’ 등이 분석에 나선 끝에 ‘가짜’라는 점이 밝혀졌다. 하지만 이후에도 트위터는 해당 영상을 제거하지 않았다. 뒤늦게 영상 속 스틸 샷 3장은 인공지능(AI)이 생성한 것이라는 점만 고지했다.

 

CNN 방송은 17일 내년 미국 대선을 앞두고 AI 생성 콘텐츠가 유권자를 혼란에 빠뜨릴 가능성을 언급하며 이번 에피소드는 시작에 불과하다고 보도했다. 제빈 웨스트 워싱턴대 교수는 “캠페인이 늘어나기 시작했고 선거가 빠르게 다가오고 있으며 기술도 빠르게 발전하고 있다”며 “우리는 AI가 끼칠 수 있는 영향력의 증거를 이미 봤다”고 말했다.

 

전문가들은 특히 소셜미디어 플랫폼에서는 수십억명이 정보를 찾아 다니고 ‘악당’이 종종 가짜 주장을 퍼뜨린다는 점에서 관련 기업의 위험 관리 책임이 크다고 지적한다.

 

CNN은 하지만 지금 상황은 선거 관련 오보의 물결을 따라잡기가 어느 때보다 어려운 탓에 소셜미디어는 ‘퍼펙트 스톰’(초대형 복합위기)에 직면해있다고 강조했다. AI가 만들어내는 글이 매우 설득력 있고 이미지가 사실적이라 유권자가 잘못된 정보에 쉽게 휘둘릴 가능성이 크다는 점에서다.

 

와중에 일부 메이저 소셜미디어 네트워크는 선거 오보 관련 대응에 미온적이며 일부는 대량 해고 사태까지 겪었다. 이는 선거 뉴스와 관련해 책임 있는 AI 팀을 구축하는데 타격을 준 것으로 알려졌다.

 

규제당국도 아직 AI 기술과 관련한 실질적인 방호책을 구축하지 못한 상태라고 CNN은 설명했다. 반면 AI의 기술 진화 속도는 소셜미디어 플랫폼이나 규제당국이 따라잡기에 버거울 정도로 빠른 상태다.

 

페이스북 모회사 메타에서 근무했던 AI 연구원 데이비드 에번 해리스는 “대선까지는 아직 1년 이상이 남았다”며 “(AI 관련) 도구들은 더 나아질 것이고 수준 높은 사용자의 손에 들어가게 되면 매우 강력하게 될 것”이라고 경고했다.

 

이어 그는 2016년과 2020년에도 선거와 관련해 SNS에서 잘못된 정보가 나돌았는데 앞으로는 AI로 인해 더 악화할 것이라고 우려했다.

 

일각에서는 AI 도구가 선거 개입을 의도하는 조직이나 외국 세력에게 특히 유용할 것이라는 지적도 나온다. 과거에는 선거에 영향을 끼치려면 대규모의 댓글부대를 고용해야 했지만, 이제는 한 명이 수많은 생성형 AI봇(AI와 로봇의 합성어)을 운용할 수 있기 때문이다.