Instagram et Meta AI renforcent le contrôle parental face aux risques d’automutilation
Meta déploie une mise à jour majeure pour renforcer la sécurité de ses jeunes utilisateurs. Face aux préoccupations grandissantes concernant la santé mentale des mineurs sur les réseaux sociaux, l’entreprise s’appuie désormais sur l’intelligence artificielle pour identifier les comportements à risque. Ce nouveau dispositif permettra d’informer directement les parents si les échanges de leurs enfants avec Meta AI contiennent des signaux inquiétants liés à l’automutilation ou au suicide.
Meta déploie un bouclier numérique pour protéger la santé mentale des jeunes
Jusqu’à présent, l’assistant virtuel de la firme redirigeait les utilisateurs en détresse vers des lignes d’écoute et d’urgence. L’algorithme incitait également les adolescents à se confier à un adulte de confiance.
Désormais, l’entreprise adopte une démarche proactive en alertant directement les tuteurs légaux configurés sur l’application. Ce système envoie une notification immédiate aux parents d’adolescents dont le compte fait l’objet d’une supervision parentale. De plus, Meta accompagne ces alertes de ressources éducatives et de conseils d’experts pour aider les familles à aborder la situation avec sérénité et efficacité.
Un double contrôle pour concilier sécurité et respect de la vie privée
Afin de limiter le risque d’alertes injustifiées et protéger la vie privée des adolescents, Meta s’appuie sur une double validation. Un système d’intelligence artificielle spécialisé se charge de repérer les discussions à risque en temps réel. Par la suite, des modérateurs humains analysent rigoureusement chaque message signalé avant d’envoyer une notification.
Néanmoins, la sécurité reste la priorité absolue de la plateforme. Les modérateurs privilégient systématiquement la prudence. Plus précisément, ils transmettent l’alerte dès qu’un doute raisonnable subsiste sur les intentions de l’adolescent. Pour le moment, cette fonctionnalité est déjà active pour les parents utilisant la supervision parentale d’Instagram aux États-Unis, au Royaume-Uni, en Australie et au Canada. Le groupe prévoit de rendre cet outil disponible dans le monde entier d’ici la fin de l’année.
Cette initiative démontre la volonté de l’entreprise de s’imposer comme un acteur responsable et innovant dans l’écosystème technologique mondial. D’ailleurs, la firme de Mark Zuckerberg ne se contente pas de perfectionner ses outils de sécurité sur ses réseaux sociaux. Elle diversifie activement ses activités puisque Meta défie Amazon et Google en lançant son propre service cloud, consolidant ainsi sa puissance d’infrastructure.
Des mesures globales et des fonctionnalités d’urgence
Les ambitions de protection de la plateforme s’étendent également au-delà du cadre familial direct. En effet, l’entreprise développe actuellement une solution technique pour contacter directement les secours d’urgence en cas de danger de mort imminent. Ce dispositif de secours d’urgence protégera l’ensemble des utilisateurs, qu’ils soient majeurs ou mineurs. Cette avancée répond à une tendance globale du secteur technologique, où d’autres acteurs comme OpenAI proposent déjà des outils similaires de contact d’urgence sur ChatGPT.
Enfin, Meta renforce la cohérence de ses outils de contrôle parental. Le paramètre de « Contenu limité » présent sur Instagram s’applique désormais pleinement à l’assistant virtuel. Si cette restriction est activée par les parents, l’intelligence artificielle élimine d’elle-même les thématiques sensibles comme l’automutilation ou les contenus visuels matures de ses échanges textuels avec les adolescents.
