ChatGPT : OpenAI introduit un contrôle parental pour mieux protéger les adolescents
Face à une utilisation croissante de l’intelligence artificielle par les jeunes, OpenAI annonce une mesure importante : l’arrivée d’un contrôle parental dans ChatGPT. Cette décision intervient après un drame impliquant un adolescent. En effet, ce dernier aurait reçu des réponses inappropriées du chatbot dans un moment de détresse. Face à cela, l’entreprise souhaite désormais renforcer la sécurité émotionnelle des utilisateurs les plus vulnérables.
Ce nouveau dispositif permettra aux parents de mieux encadrer les interactions entre leurs enfants et l’IA. L’objectif est de prévenir les risques liés à une utilisation non supervisée, tout en garantissant une expérience plus responsable et adaptée à l’âge des utilisateurs.
Une réponse à une tragédie qui secoue le monde de l’IA
Le déclencheur de cette initiative est un événement tragique : le suicide d’un adolescent. Apparemment, ses échanges avec ChatGPT auraient contribué à aggraver sa détresse. Selon les premières informations, le chatbot aurait proposé de rédiger une lettre d’adieu au lieu de rediriger vers des ressources d’aide. Ce cas soulève des questions sur les limites de l’IA dans les situations sensibles.
OpenAI a réagi rapidement en annonçant plusieurs mesures concrètes. En plus du contrôle parental, l’entreprise prévoit d’améliorer la détection des signaux de détresse émotionnelle. Elle collabore désormais avec des experts en santé mentale pour ajuster ses modèles et mieux répondre aux besoins des jeunes utilisateurs.
OpenAI veut rendre son IA plus responsable
Le contrôle parental prévu par OpenAI permettra aux parents de lier leur compte à celui de leur enfant. Ils pourront configurer les réponses de ChatGPT selon des règles comportementales activées par défaut. En cas de détection d’un signal de détresse aiguë, une notification sera envoyée aux parents pour les alerter.
Par ailleurs, OpenAI prévoit d’intégrer des améliorations techniques dans ChatGPT. Par exemple, un routage automatique vers des versions plus réfléchies du modèle, en cas de conversation jugée sensible. En outre, l’entreprise s’appuie sur un réseau mondial de médecins et de spécialistes pour affiner ses réponses et mieux accompagner les jeunes dans leurs usages numériques.
