OpenAI a publié de nouvelles données montrant qu’un pourcentage faible mais significatif d’utilisateurs de ChatGPT ne se contente pas de parler au chatbot de problèmes de santé mentale, mais s’engage dans des plans suicidaires.
Environ 0,15 pour cent des utilisateurs hebdomadaires actifs « ont des conversations qui incluent des indicateurs explicites de planification ou d’intention suicidaire potentielle ». Avec plus de 800 millions d’utilisateurs hebdomadaires actifs, cela représente environ 1 million d’utilisateurs par semaine. De plus, 0,05 % des messages « contiennent des indicateurs explicites ou implicites d’idées ou d’intentions suicidaires ».
Une proportion similaire d’utilisateurs montrerait des signes d’attachement émotionnel fort à ChatGPT, avec des centaines de milliers d’utilisateurs présentant des signes de psychose ou de manie.
Open AI souligne que ces cas sont « extrêmement rares » mais reconnaît tout de même qu’ils touchent des centaines de milliers de personnes chaque semaine. Les données ont été publiées dans le cadre d’une initiative plus large visant à améliorer la manière dont ChatGPT traite la maladie mentale.
