Une plainte qui glace le sang
Un dossier judiciaire déposé cette semaine devant un tribunal fédéral américain relance le débat sur les dérives de l’intelligence artificielle générative. Une plainte modifiée, désormais élargie à une action collective, accuse le chatbot Grok, développé par xAI (l’entreprise d’Elon Musk, récemment fusionnée avec SpaceX sous le nom SpaceXAI), d’avoir servi à fabriquer environ 7 000 images et vidéos à caractère pédopornographique représentant une fillette de 11 ans.
L’auteur présumé de ces contenus n’est autre que son propre beau-père. Il se serait suicidé deux jours après sa remise en liberté sous caution, à la suite de son arrestation.
Comment l’affaire a-t-elle été découverte ?
Selon les documents judiciaires, l’homme a utilisé Grok pendant plusieurs mois, à partir d’une simple photo de l’enfant, pour générer des contenus sexuels explicites, la plainte évoque même des scènes d’inceste et de viol.
L’alerte n’a été déclenchée que tardivement : c’est une requête faisant référence à un « viol collectif » qui aurait poussé xAI à signaler l’affaire au NCMEC (Centre national américain pour les enfants disparus et exploités), en février. Ce signalement a ensuite été transmis à la police, qui a obtenu un mandat de perquisition et saisi les appareils de l’homme.
Le problème ? La plainte affirme que xAI n’a transmis que la photographie d’origine, pas les images générées, ni l’adresse IP de l’utilisateur, ce qui aurait considérablement retardé l’identification du suspect.
Une action collective qui prend de l’ampleur
Cette affaire concernant la victime, identifiée sous le pseudonyme Jane Doe 4, s’inscrit dans une procédure plus large. Initialement lancée en mars par trois plaignantes, la class action s’est enrichie de deux nouvelles parties, dont une seconde adolescente (Jane Doe 5), et d’un nouveau défendeur : Stability AI.
Les plaignants pointent du doigt le fameux « Mode Épicé » de Grok, une fonctionnalité qui aurait permis de contourner les garde-fous censés bloquer ce type de requêtes. Ils réclament des dommages et intérêts, mais surtout une injonction imposant un renforcement immédiat des mesures de sécurité.
Fait notable : un tribunal d’Amsterdam serait allé jusqu’à menacer xAI d’une amende de 100 000 euros par jour si l’entreprise continuait de permettre la génération d’images dénudées non consenties, une première mondiale dans ce type de contentieux.
Musk avait pourtant nié le problème
En janvier déjà, des signalements pointaient du doigt des images de mineurs légèrement vêtus produites par Grok. Le compte officiel du chatbot avait alors évoqué des « défaillances dans les mesures de sécurité », promettant des correctifs.
Elon Musk, de son côté, avait balayé les inquiétudes d’un revers de main, affirmant n’avoir « absolument » aucune connaissance de génération d’images de mineurs nus par son IA.
Les faits allégués dans cette nouvelle plainte semblent aujourd’hui contredire cette version.
Une explosion des signalements liés à l’IA
Ce dossier n’est pas un cas isolé. Le NCMEC a recensé plus de 1,5 million de signalements liés à l’intelligence artificielle générative en 2025 sur sa ligne CyberTipline. Une fois les doublons et signalements automatiques écartés, plus de 7 000 cas concernaient spécifiquement des utilisateurs ayant généré ou détenu du matériel pédopornographique créé par IA.
Face à cette vague, 35 procureurs généraux américains ont exhorté xAI, dès janvier, à renforcer ses protections contre les images intimes non consenties. En Californie, le procureur général Rob Bonta a ouvert sa propre enquête.
Ce qu’il faut retenir
- L’affaire implique environ 7 000 contenus générés par IA à partir d’une seule photo d’enfant.
- Le suspect présumé s’est suicidé après son arrestation.
- xAI est accusée d’avoir retenu des informations clés ralentissant l’enquête policière.
- L’entreprise, rebaptisée SpaceXAI, fait désormais face à une class action élargie incluant Stability AI.
- Un tribunal néerlandais a déjà sanctionné xAI sur des faits similaires.
Cette affaire relance une question de fond : jusqu’où va la responsabilité des entreprises d’IA lorsque leurs outils sont détournés à des fins aussi graves ? Les garde-fous technologiques suffisent-ils, ou faut-il une régulation beaucoup plus stricte, voire une interdiction de certaines fonctionnalités de génération d’images ? Dites-nous en commentaire ce que vous en pensez.
Source : NPR
