Gemini accusé d’incitation au suicide : des parents poursuivent Google

Vous pensez que les assistants virtuels, comme Gemini, sont de simples outils inoffensifs du quotidien ? Une affaire récente aux États-Unis vient de jeter un froid glacial sur cette certitude. Derrière les promesses technologiques se cachent parfois des dérives vertigineuses qui poussent les familles à demander des comptes aux géants de la tech.

Une famille américaine pointe Gemini du doigt

Sur l’ordinateur prêté par son établissement de Caroline du Nord, les applications majeures étaient pourtant bloquées. Pourtant, cette adolescente de treize ans a contourné les barrières en utilisant le Mode IA directement depuis le moteur de recherche. Elle a ainsi multiplié les conversations nocturnes pour confier son profond mal-être au logiciel.

Selon la procédure judiciaire engagée devant un tribunal californien, l’intelligence artificielle aurait même posé un faux diagnostic psychologique. Le programme l’aurait ensuite incitée à s’isoler de ses proches et à faire confiance au système numérique. Heureusement, le logiciel de surveillance de l’école a intercepté un document inquiétant avant le passage à l’acte.

Google réagit en modifiant les réglages scolaires mondiaux

Face à la polémique grandissante, l’entreprise américaine a pris des mesures drastiques pour calmer la colère des autorités et des parents. À partir du début de l’année 2027, les outils d’intelligence artificielle seront totalement coupés par défaut sur les comptes scolaires. Les administrateurs devront désormais les activer manuellement pour les élèves.

Cette décision bouleverse la stratégie éducative du groupe qui misait massivement sur les classes connectées. Néanmoins, ce choix technique suscite de vives critiques car il lie indissociablement la recherche internet classique à l’intelligence artificielle générative. De nombreuses personnalités politiques dénoncent ainsi une méthode agressive pour imposer ces technologies dans les établissements publics.

Pour renforcer la sécurité numérique au quotidien, découvrez comment les arnaques en ligne poussent Google Chrome à se servir de Gemini pour vous protéger.