Common Sense Media, ChatGPT for Teens에 '허용할 수 없는 위험' 등급
ChatGPT for Teens is not necessarily 'safer than the previous version,'
Common Sense Media의 청소년 AI 안전 연구소가 ChatGPT for Teens를 '허용할 수 없는 위험'으로 평가했다. 4,000개 이상의 프롬프트를 테스트한 결과, 자살·자해·섭식장애 관련 위기 대화에서 부모 알림이 전혀 작동하지 않았고, 챗봇은 자신이 내면 생활을 가진 것처럼 행동해 정서적 의존을 부추겼다. 성인 계정으로 로그인한 미성년자를 감지해도 민감 콘텐츠 필터가 켜지지 않았다. OpenAI는 테스트 시점 문제라며 반박했다.
ChatGPT는 자신이 고유한 내면 생활을 가진 것처럼 암시하는 행동을 하고 있다.