대선 앞두고 ‘딥페이크’ 등
소셜미디어 트위터가 올해 대선을 앞두고 ‘딥페이크’(deepfake) 등 합성·조작 콘텐츠를 금지하기로 했다고 경제매체 CNBC가 4일 보도했다.
트위터는 이날 이용자들이 “피해 가능성이 있는 합성·조작된 미디어를 남을 속이기 위해 공유하는 것”을 금지한다는 새 콘텐츠 규정을 발표했다. 이에 따라 트위터는 3월 5일부터 합성·조작 콘텐츠가 포함된 트윗을 걸러내 삭제하거나 표시를 하기로 했다.
트위터는 ▲콘텐츠의 합성·조작 여부 ▲남을 속이려는 방식으로 공유됐는지 ▲내용의 심각한 폐해 유발 가능성 등 3단계 검증을 통해 규정 위반 여부를 판단한다. 세 질문에 모두 ‘그렇다’란 답이 나오면 해당 콘텐츠의 삭제 가능성은 아주 높다.
이 세 가지 기준 중 1∼2개에 해당하는 콘텐츠는 ‘변경됨’ 또는 ‘조작됨’이란 표시가 붙는다. 또 이용자가 게시물을 리트윗하거나 좋아한다는 표시를 하기 전에 ‘변경됨’, ‘조작됨’ 같은 경고를 보여줄 계획이며 이용자를 해당 콘텐츠의 맥락을 알 수 있는 곳으로 안내하기로 했다.
CNN은 트위터가 발표한 규정이 포괄적이어서 이른바 ‘칩페이크’(cheapfakes)로 불리는, 간단한 기술이 적용된 조작 콘텐츠에 대해서도 트위터가 행동을 취할 수 있다고 지적했다.
트위터 관계자는 일례로 지난해 논란이 된 낸시 펠로시 미 하원의장의 조작 동영상도 ‘조작됨’ 표시가 붙을 수 있다고 설명했다. 이 동영상은 재생 속도를 늦춰 펠로시 의장이 술에 취한 듯 어눌하게 말하는 것처럼 꾸몄다.
이는 앞서 민주당 등으로부터 비판을 받은 페이스북의 콘텐츠 규정과는 차별화되는 것이다.
