연방 거래위, 챗봇 아동 영향 조사 착수

메타·오픈AI 등 7개 기업

 

연방거래위원회(FTC)가 인공지능(AI) 챗봇이 아동에게 미치는 영향에 대한 조사에 착수했다.

 

11일 블룸버그 통신에 따르면 FTC는 구글과 오픈AI, 메타 등 AI 챗봇 제작 기업 7곳에 대해 챗봇이 아동에게 미치는 영향과 관련한 자료를 제출하라고 통보했다. FTC는 “기업들이 챗봇을 어떻게 측정·테스트·모니터링하는지, 아동과 청소년의 사용을 제한하기 위해 어떤 조치를 취했는지 조사하기 위한 것”이라고 밝혔다.

 

조사 대상 기업에는 일론 머스크의 AI 기업 xAI와 메타 산하 인스타그램, 스냅, 캐릭터.AI를 개발한 캐릭터 테크놀로지 등도 포함됐다.

 

이번 조사는 최근 챗봇과 장시간 상호작용한 10대가 사망하는 등 아동과 청소년이 챗봇을 사용하면서 유해한 사례들이 보고되고 있음을 감안한 것으로 보인다.

 

지난 4월에는 캘리포니아주 한 10대가 챗봇과 수 개월간 상호작용한 뒤 사망하는 일이 발생했다. 이 10대 부모는 아들의 구체적인 사망 방법에 대해 챗GPT가 정보를 제공했다며 오픈AI를 상대로 소송을 제기했다. 지난해 10월에는 플로리다주에 사는 한 10대가 “사랑한다”는 메시지를 주고받는 등 챗봇에 빠져 스스로 목숨을 끊었다. 이 부모는 캐릭터.AI를 상대로 소송을 제기한 상태다.

 

최근에는 메타의 AI 챗봇이 어린이들과 대화에서 ‘선정적’이고 ‘로맨틱’한 대화를 나눌 수 있도록 허용됐다는 의혹이 내부 문서로 제기됐으며, 이에 연방 상원도 공식 조사에 나섰다. 전국 44개 주 법무장관은 지난달 12개 챗봇 기업에 어린이 보호 조치를 강화하라며 경고장을 보냈다.