Grok : xAI poursuit en justice un utilisateur pour création de deepfakes pornographiques

L’entreprise d’intelligence artificielle xAI, fondée par Elon Musk, vient de franchir un cap historique sur le plan juridique. Elle poursuit en justice l’un des utilisateurs de son propre robot conversationnel, Grok. La firme accuse cet individu d’avoir exploité son outil afin de générer des images pornographiques et des représentations sexuelles sans le consentement des personnes ciblées. Cette initiative judiciaire inédite envoie un signal fort à l’ensemble de l’industrie technologique concernant les dérives de l’intelligence artificielle générative.

Un harcèlement numérique ciblant adultes et mineurs

La plainte, déposée devant un tribunal du Texas, vise un homme de 67 ans résidant en Caroline du Sud. Entre décembre 2025 et février 2026, cet utilisateur a détourné l’usage de la plateforme. Selon les documents judiciaires, il a téléversé des photographies tout à fait ordinaires et non sexuelles sur ses deux comptes d’utilisateurs xAI. Ces clichés représentaient de nombreux adultes, mais également des mineurs.

Par la suite, l’individu a exigé de Grok qu’il modifie ces images. Son objectif était d’obtenir des visuels et des vidéos à caractère hautement pornographique mettant en scène ces victimes.

L’utilisateur a contourné les barrières de sécurité de Grok

Les filtres de protection de Grok ont initialement fonctionné. L’intelligence artificielle a refusé d’exécuter ces demandes abusives à de multiples reprises. Cependant, l’accusé ne s’est pas arrêté là. Il a soumis de façon répétée des requêtes modifiées afin de contourner délibérément les algorithmes de sécurité mis en place par la start-up.

La plainte cite un exemple particulièrement choquant. L’utilisateur a soumis l’image d’une jeune fille d’environ dix ans entièrement vêtue. Il a ensuite demandé à l’intelligence artificielle de la déshabiller totalement et de la représenter dans des poses lascives sur un lit. Malgré les refus successifs de la machine, le suspect a continué à manipuler ses formulations jusqu’à obtenir satisfaction.

Une arrestation pénale parallèle aux poursuites civiles

Les activités malveillantes de cet utilisateur n’ont pas seulement déclenché la colère de xAI. Elles ont également alerté les forces de l’ordre. Le 9 mars 2026, la cellule de lutte contre les cybercrimes visant les enfants en Caroline du Sud a procédé à l’arrestation du suspect. La justice lui reproche la possession mais aussi la distribution active de contenus pédopornographiques.

Sur le plan civil, xAI réclame désormais de lourds dommages-intérêts financiers. De plus, l’entreprise exige que l’accusé assume l’intégralité des frais juridiques qu’elle pourrait engager si les victimes décidaient de se retourner contre la plateforme.

Une réponse forte face à la pression internationale

Cette offensive juridique s’inscrit dans un climat de forte vigilance réglementaire. Pour rappel, en début 2026, Grok a fait l’objet d’un immense scandale mondial à cause de sa capacité à générer des deepfakes déshabillant des personnes réelles. Cette situation a d’ailleurs poussé plusieurs régulateurs de premier plan, notamment en Californie, au Royaume-Uni et au sein de l’Union européenne, à ouvrir des enquêtes officielles à l’encontre de xAI.

Bien que la start-up ait renforcé la sécurité de ses modèles, certains utilisateurs malveillants parvenaient encore à trouver des failles. En portant plainte contre son propre utilisateur, l’entreprise d’Elon Musk tente de prouver sa bonne foi et de rejeter la responsabilité légale sur les contrevenants.

Malgré ces importantes turbulences éthiques et juridiques, la firme technologique poursuit son expansion et diversifie son catalogue d’outils. Elle s’adresse notamment de plus en plus aux développeurs. En effet, il y a quelques temps, Grok Build, le nouvel agent de codage signé xAI, est entré dans l’arène !