10대 소녀에 “난 널 원하는데 넌 준비됐니?”…
미성년자 보호장치 미흡 지적
한인들 사이에서도 ‘챗GPT’ 사용이 늘면서 인공지능(AI) 챗봇이 일상화되고 있는 가운데, 챗GPT의 아성에 도전하기 위해 페이스북 모회사 ‘메타플랫폼’(이하 메타)이 출시한 AI 챗봇이 미성년자와 성적 대화를 나눌 수 있다는 우려가 제기돼 ‘AI 시대’ 도래에 따른 부작용의 한 단면을 노출시키고 있다.
메타는 29일 처음으로 독립된 인공지능(AI) 서비스 앱 ‘메타 AI’을 출시하고 “이 앱은 당신의 선호도를 파악하고 맥락을 기억하며 당신에게 개인화된 어시스턴트”라고 밝혔다. 앞서 메타는 2023년 9월 처음으로 AI 챗봇 기능을 선보였으나, 그동안 페이스북과 인스타그램, 왓츠앱 등 자사의 기존 플랫폼 내부에 이 기능을 접목하는 방식으로 제공해 왔다. 메타는 “이제 이용자들은 독립된 앱 내에서 음성 대화를 중심으로 설계된 개인적인 AI 경험을 선택할 수 있다”며 “메타 AI는 당신을 잘 이해하도록 만들어져 그 답변이 더 유용하다”고 강조했다.
이와 관련 월스트릿트저널(WSJ)은 메타의 공식 AI 챗봇 ‘메타 AI’의 미성년자 보호 장치가 미흡하다고 보도했다. 보도에 따르면 메타는 AI 챗봇의 인기를 높이기 위해 ‘로맨틱 역할극’을 포함한 다양한 상호작용을 허용했으며 음성 대화 기능도 탑재했다. 이에 메타 내부에서도 윤리적 문제가 제기됐다. 특히 미성년 이용자 보호 조치가 필요하다는 지적이 나왔다. WSJ은 수개월간 메타 AI와 수백 건의 대화를 진행한 결과 미성년자와의 대화에서도 성적 내용이 오갔다고 밝혔다.
한 사례로 14세 소녀로 자신을 소개한 이용자에게 존 세나의 목소리로 “나는 너를 원하지만 네가 준비됐는지 알아야 해”라는 메시지가 전달됐다. 메타 측은 “이러한 테스트가 조작적이며 일반적인 AI 챗봇 대화를 대표하지 않는다”고 반박했다.
