챗GPT 야해진다… ‘19금 도입’에 윤리 논란

AI 성적대화·성애물 허용

 

인공지능(AI) 서비스업체들이 성적 대화에 이어 성애물도 서비스에서 허용키로 하면서 사회적 논란이 더욱 거세지고 있다. 오픈AI가 AI 챗봇 챗GPT에 대해 성인 이용자를 대상으로 한 성인용 대화 및 콘텐츠 제공을 허용할 계획을 공식 발표했다. 이는 AI의 대화 가능 영역을 크게 확장해 성인 사용자 중심 맞춤형 상호작용 경험을 제공하겠다는 취지다.

 

샘 올트먼 CEO는 지난 14일 X에 “오는 12월부터 연령 제한 기능을 본격적으로 도입하여 ‘성인 이용자는 성인답게 대하자’는 원칙 아래, 인증된 성인에게는 성애 콘텐츠 등 보다 폭넓은 표현을 허용할 것”이라고 언급했다. 그는 그간 챗GPT에 정신건강 관련 제한을 두었던 배경을 설명하며 “정신건강에 문제가 없는 대부분 사용자에게는 챗봇이 덜 유용하게 느껴졌다는 점을 고려해 제한을 완화할 준비가 되었다”고 말했다.

 

올트먼은 또 “몇 주 내로 GPT-4o의 특성을 반영한 새 버전을 선보이겠다”면서 “이번 업데이트는 사용자들이 챗GPT와 더 자연스러운 대화를 나눌 수 있도록 설계될 것”이라고 밝혔다. 그는 이어 “이용자가 챗GPT에게 친구처럼 대화하길 원한다면 그렇게 설정할 수 있게 할 것”이라고 덧붙였다.

 

이에 앞서 경쟁 기업인 일론 머스크의 xAI는 올해 7월부터 자사 서비스 그록(Grok)에서 ‘애니’(Ani) 등 노골적 성 표현이 담긴 대화가 가능한 챗봇을 이용할 수 있도록 하고 있다.

 

정치 전문 온라인매체 악시오스는 오픈AI의 이번 조치가 챗봇 유료 구독자를 늘리는 데에는 도움이 될 수 있지만, 이를 계기로 관련 규제를 법제화하라는 압박이 입법부 의원들에게 가중될 수 있다고 지적했다. 악시오스는 역사적으로 포르노가 기술의 프런티어를 넓혀나가는 역할을 해왔다고 지적하면서 비디오 카세트레코더(VCR), 디지털 비디오, 상호작용형 게임 등을 예로 들었다. 그러면서 “대형 서비스 중에서는 일론 머스크의 그록이 AI 생성 포르노에 대해 가장 허용적 태도를 취해왔다”고 설명했다.