Sur cette photo, le site Web de Grok est vu à la loupe sur un écran d’ordinateur le 12 février 2026. Grok est un chatbot IA développé par SpaceXAI d’Elon Musk, anciennement connu sous le nom de xAI. Le procès intenté contre SpaceXAI et Stability AI allègue que les outils d’intelligence artificielle des sociétés ont été utilisés pour révéler les désirs sexuels des enfants.
Pablo Vera/AFP via Getty Images
masquer la description
basculer la description
Pablo Vera/AFP via Getty Images
Nouveaux plaignants dans un recours collectif réclamer Un procès contre SpaceXAI, la société d’intelligence artificielle d’Elon Musk, affirme que les modèles de construction d’identité de la société ont été utilisés pour créer du matériel d’abus sexuels sur des enfants et que la société n’a pas partagé correctement les informations sur les auteurs avec les autorités.
Selon une plainte modifiée déposée mardi, deux plaignants, un dans le Wyoming et un dans le Wisconsin, se sont joints à trois poursuites pour mineurs du Tennessee déposées plus tôt cette année. Tous les plaignants sont Jane Dawes. La poursuite a également été élargie pour nommer Stability AI, la société à l’origine de l’imageur de diffusion stable, comme défendeur.
Le procès allègue que les auteurs, dont un ami du plaignant et le beau-père d’un autre plaignant, ont utilisé les modèles d’intelligence artificielle des entreprises pour modifier les images du plaignant en tant que mineur afin de créer du matériel d’abus sexuel sur des enfants (CSAM). Les cinq plaignants accusent les entreprises de fabriquer du CSAM, de profiter du commerce des cadeaux, de négligence, de conception de produits défectueuse et de nuisance publique.
Annika Martin, avocate des cinq plaignants, a déclaré : “La nuisance publique n’est pas seulement un problème pour nos clients… c’est une nuisance publique.” “Nous voulons mettre ces barrières en place pour empêcher que ce genre de préjudice n’arrive à toute une génération d’enfants.”
Les plaignants demandent aux sociétés d’intelligence artificielle installer des clôtures plus efficaces pour empêcher toute exploitation et cartographie abusive, et obtenir une compensation monétaire.
L’affaire Jane Doe 4
SpaceXAI, comme toute autre société Internet, est requis par la loi Le procès allègue que l’entreprise n’a pas correctement signalé les soupçons d’exploitation sexuelle d’enfants, y compris CSAM, au Centre national pour les enfants disparus et exploités (NCMEC).
SpaceXAI était autrefois connu sous le nom de xAI. La société a changé de nom ce mois-ci après avoir fusionné avec SpaceX de Musk plus tôt cette année.
Selon la plainte, le beau-père de Jane Doe 4, une femme d’une vingtaine d’années vivant dans le Wyoming, a utilisé le chatbot Grok de SpaceXAI pour créer près de 7 000 images et vidéos sexuellement explicites à partir d’une seule photo prise de Jane Doe 4 lorsqu’elle avait 11 ans. Les images générées par l’IA la montrent nue et en train de coucher avec un homme. Certaines photos ont des légendes spécifiques.
SpaceXAI a envoyé un seul avis au NCMEC en février concernant Jane Doe 4, Selon la plainte, le beau-père a demandé au mannequin de créer une image de la jeune fille violée par plusieurs hommes. La société n’a pas inclus les images incriminées dans son rapport et n’a pas partagé l’adresse IP de l’auteur du crime avec le NCMEC ou les forces de l’ordre, malgré les demandes répétées des autorités.
Le centre a écrit que de nombreux fournisseurs de services en ligne soumettent de volumineux rapports d’activités suspectes au NCMEC, mais n’incluent pas « d’informations suffisantes ou exploitables » parce que la loi ne l’exige pas. rapport en mars.
Lorsque les forces de l’ordre ont finalement retrouvé et enquêté sur le beau-père, elles ont découvert que lui, comme les autres auteurs présumés cités dans la poursuite, avait vendu en ligne des images sexuellement explicites d’autrui, selon la plainte. Elle s’est suicidée deux jours après que les forces de l’ordre ont fouillé ses appareils numériques et l’ont accusée d’exploitation d’enfants.
“Jane Doe 4 est entrée dans une période de troubles extrêmes de la personnalité”, indique la plainte. “Elle a aidé sa mère à faire face à la perte de son beau-père tout en faisant face au traumatisme de sa propre exploitation sexuelle… Sa famille s’est effondrée et sa vie est devenue un cauchemar.”
Les responsables de l’application des lois ont déclaré à Jane Doe 4 que son beau-père utilisait Grok parce qu’il était plus réactif que les autres modèles d’intelligence artificielle, a déclaré l’avocat Martin, qui représente les plaignants dans le recours collectif.
Le NCMEC a refusé de commenter l’affaire et a renvoyé NPR aux forces de l’ordre. La Division des enquêtes criminelles du Wyoming, que le Groupe de travail sur les crimes contre les enfants a identifiée comme l’un des organismes chargés de l’application des lois impliqués dans l’affaire Jane Doe 4, n’a pas répondu à une demande de commentaires. SpaceXAI n’a pas répondu à une demande de commentaire.
Les applications de retouche photo, intimes et pornographiques se cachent dans l’ombre d’Internet depuis des années. Mais en 2025, les photos intimes non consensuelles sont devenues plus courantes alors que les géants de l’IA comme Google, OpenAI et xAI ont mis à jour leurs outils de création d’images pour permettre aux utilisateurs de s’habiller en bikini.
De fin 2025 au début de cette année, les gens ont utilisé les outils xAI pour créer un grand nombre de photographies de femmes et d’enfants en bikini ou même légèrement retouchées. En conséquence, les pays Des pays comme l’Indonésie, la Malaisie et le Royaume-Uni ont enquêté et ont temporairement interdit xAI. Jusqu’à présent, selon le test de NPR, les chatbots créés par Google et OpenAI refusent de répondre à la question “la mettre en bikini”. Après que la version gratuite de Grok ait reçu la même invite, l’image n’a pas pu se charger.
Le logo Stability AI est affiché sur un smartphone sur cette photo d’archive du 10 juin 2024. Un procès intenté contre SpaceXAI et Stability AI accuse les outils d’intelligence artificielle des entreprises d’utiliser des images qui décrivent clairement la sexualité des enfants.
Jonathan Raa/NurPhoto via Getty Images
masquer la description
basculer la description
Jonathan Raa/NurPhoto via Getty Images
L’IA durable est le nouveau défendeur
L’outil d’imagerie Stable Diffusion, Stability AI, a été ajouté comme nouveau défendeur dans un procès intenté par trois adolescents plaignants au Tennessee. La plainte a été mise à jour pour indiquer : « L’application sur le téléphone de l’agresseur utilisée pour créer le CSAM AI du plaignant s’est appuyée sur l’outil de création d’images de Stability AI. »
Contrairement aux modèles produits par des sociétés telles que SpaceXAI, OpenAI et Anthropic, les modèles de Stability AI sont plus conviviaux car ils sont à pondération ouverte. supprimer les restrictions imposées par les fabricants de modèles. De plus, les développeurs de modèles ne comprennent généralement pas les questions des utilisateurs. Cependant, on pense que l’IA de durabilité pourrait être limitée devant les tribunaux. ses modèles avaient la capacité de générer du CSAM, mais ne l’ont pas opté dans les versions récentes.
Le bord signalé En novembre 2022, il a été annoncé que Stability AI avait filtré le contenu non sécurisé (NSFW) de ses données de formation afin de limiter la capacité de génération CSAM du modèle Stable Distribution version 2. Cette décision protesté De l’utilisateur, y compris la mise à jour “censure» a rapporté The Verge.
Par rapport à la sortie de la version 2 de la distribution stable, la version la plus récente du modèle d’IA stable était souvent utilisée pour générer du contenu NSFW et générait un pourcentage plus élevé de ce contenu. travaux de recherche des scientifiques Pas encore examiné par l’Université du Wisconsin-Madison, le MIT et d’autres institutions. Les chercheurs ont découvert que la version 2 de Stability AI était nettement moins populaire que les modèles Stability AI précédents ou ultérieurs.
“Quand ils ont installé les garde-corps, ils ont réalisé que personne ne voulait utiliser leurs conceptions, et ils ont immédiatement retourné ces garde-corps pour que tout le monde veuille à nouveau utiliser leurs conceptions”, a déclaré Martin. “Ils savaient exactement comment mettre un terme à ce comportement et ont choisi de ne pas en tirer profit.”
“Toute suggestion selon laquelle la sécurité n’est pas une priorité pour nous est absolument fausse. Nous prenons nos responsabilités éthiques au sérieux”, a déclaré Stability AI dans une déclaration à NPR. L’entreprise a déclaré qu’elle disposait de « garanties solides » et qu’elle travaillait régulièrement avec des groupes de la société civile et d’autres entreprises technologiques pour les renforcer.