청소년 자해 등 챗GPT의 정신건강 관련 논란으로 여러 건의 소송을 치르고 있는 오픈AI가 청소년용 챗봇 서비스를 내놨다.
오픈AI는 청소년들의 학습을 돕고 안전장치를 대폭 강화한 ‘청소년용 챗GPT’(ChatGPT for Teens) 모드를 18일 출시했다.
이용자가 자신의 나이를 13∼17세로 입력하거나, 시스템이 이용자 연령을 18세 미만으로 추정하면 해당 계정은 자동으로 청소년용 챗GPT 모드로 변경 적용된다.
청소년용 모드는 자해, 폭력, 섭식장애, 위험 행동, 성적·노골적 콘텐츠 등에 대해 청소년이 질문하거나 대화를 시도할 때 답변 출력을 강하게 통제하는 안전장치가 적용됐다. 이용자가 민감하거나 사적인 사진을 올릴 때 주의를 주는 기능도 탑재됐다.
특히 청소년용 모드는 챗GPT가 인간처럼 행동하며 정서적 교감을 자극하거나 의존증을 유발하는 행동을 못 하도록 차단하기도 했다.
부모의 관리 도구도 강화해 자녀의 챗GPT 사용을 아예 차단하는 ‘방해금지 시간’(Quiet Hours)이나 공부 모드를 기본값으로 설정하는 ‘공부 시간’(Study Hours)을 설정할 수 있다.
댓글 0개
