Le 7 mai, les colégislateurs ont convenu d’interdire les « applications mineures » dans le cadre du Digital Omnibus on AI. Ces outils controversés peuvent créer des images ou des vidéos de sexe générées par l’IA et « déshabiller » des individus sans leur consentement, soulevant des inquiétudes quant à la vie privée et à l’utilisation éthique de la technologie.
ANNONCER
ANNONCER
Une nouvelle génération d’intelligence artificielle rend la création de contenu synthétique moins chère et plus réaliste. En 2025, il y avait environ 8 millions de deep fakes en ligne, et d’ici 2026, 90 % du contenu en ligne devrait être créé par l’intelligence artificielle, selon le service de recherche du Parlement européen.
Actuellement, la législation de l’UE traite indirectement les deepfakes comme des violations de la confidentialité et de la transparence, et appelle à des protections plus renforcées dans le cadre d’interdictions directes à l’échelle de l’UE.
“(…), ce qui était considéré comme manquant dans la loi pour y remédier (profondément faux). C’est pourquoi l’Omnibus y a vu une opportunité d’y remédier”, a déclaré Michael McNamara, député européen de la Nouvelle Europe au Parlement européen et co-rapporteur de la commission des libertés civiles, de la justice et des affaires intérieures.
Les législateurs doivent encore donner officiellement leur feu vert à leur position, mais l’Europe envoie déjà un signal clair : les “applications de surveillance” constituent une forme grave d’abus sexuel numérique et devraient être interdites avant de pouvoir être mises sur le marché.
Qu’est-ce qu’un « spectateur » ?
Les applications de strip-tease, telles que les strip-teaseuses, les strip-teaseuses et les strip-teaseuses, utilisent l’intelligence artificielle pour manipuler des images ordinaires afin de créer des images plus réalistes et sexuellement explicites (« deep fakes »). Les estimations actuelles indiquent que 96 pour cent sont créés à l’insu du sujet.
Ces outils utilisent des modèles d’apprentissage profond, des technologies de reconnaissance d’images et de reconstruction corporelle pour synthétiser des images réalistes basées sur l’éclairage, la pose et le teint de l’image originale. Ils tracent essentiellement la forme du sujet à travers leurs vêtements ou conçoivent un corps nu assorti.
La technologie comprend de nombreuses applications mobiles – l’App Store est utilisé pour héberger des applications comme DeepNude et ClothOff – des robots automatisés sur des sites Web et des plateformes spécialisés comme Telegram, souvent commercialisés comme « l’art de l’IA » ou comme un divertissement.
X d’Elon Musk a rendu l’accès à ces applications très simple ; Début janvier 2026, le chatbot Grok générait environ 6 700 images sexuelles par heure, dont des dizaines impliquaient des enfants.
La Commission européenne a lancé une enquête formelle sur les lois de Grok sur la sécurité numérique, et les réactions négatives ont conduit X à mettre en œuvre des restrictions. Certains pays interdisent désormais les photos de personnes réelles portant des « vêtements révélateurs ». Cette fonctionnalité est limitée aux abonnés payants, mais les utilisateurs du site trouvent toujours des moyens de tromper l’IA à l’aide des invites.
Ces outils font de l’IA une cible de harcèlement et d’abus numériques, supprimant ainsi l’autonomie physique. La divulgation non autorisée viole directement les droits fondamentaux à la vie privée et porte atteinte aux normes éthiques numériques. Ces programmes sont de plus en plus classés comme technologies prédatrices.
“Il y a certains rituels qui ne sont pas des jeux. Il s’agit d’humains. Et dans cette bataille, l’honneur doit toujours gagner”, a déclaré Sergueï Lagodinsky, membre du parti des Verts allemand.
Ces outils provoquent une détresse psychologique et une atteinte à la réputation des victimes : une étude réalisée en 2026 par le Fonds des Nations Unies pour l’enfance dans 11 pays a révélé qu’au moins 1,2 million d’enfants avaient truqué leurs images en 2025. Une étude de la même année a noté que les menaces de publication dans les médias non autorisées et sexuellement explicites augmentaient le risque de suicide, de suicide ou de tentative de suicide.
Ces outils ciblent les filles et les femmes, qui représentent 99 pour cent des victimes. Ils signalent une augmentation de 26,385 % des images d’abus sexuels sur enfants (CSAM) par rapport à 2024, ainsi qu’une augmentation des crimes tels que le harcèlement sexuel et le chantage.
Comment fonctionne l’interdiction
L’accord intérimaire du 7 mai cible les créateurs d’IA et interdit tout système spécifiquement conçu pour créer ce type de contenu (images, vidéo, audio, etc.).
Cela rend les concepteurs d’IA à grande échelle directement responsables si leurs systèmes sont utilisés pour créer des nus non consensuels. Ces entreprises doivent désormais intégrer des blocs de sécurité permanents dans leur logiciel principal pour empêcher les utilisateurs de le créer.
Il interdit également les représentations réalistes de parties intimes et d’actes sexuels explicites.
L’interdiction concerne les prestataires de services et toute entreprise qui met ces systèmes sur le marché de l’UE ou les propose aux citoyens de l’UE. Cela s’applique aux organisations qui utilisent ou hébergent ces logiciels, autorisent le contenu explicite non consensuel et, plus important encore, aux utilisateurs surpris en train d’utiliser l’IA pour créer un tel contenu.
L’UE déplace la principale responsabilité des utilisateurs finaux vers les entreprises de conception. Selon Lagodinsky, “nous ne pouvons pas mettre en œuvre le comportement humain ici. Nous allons donc à l’encontre de la technologie”.
Les fournisseurs de services sont désormais obligés d’évaluer une « utilisation abusive prévisible » avant de rendre leur technologie accessible au public. Ils doivent mettre en œuvre des mesures pour empêcher les utilisateurs de contourner le filtre avec des invites intelligentes ou de petits changements d’image. Pour garantir la conformité, le bureau d’IA vérifiera si ces garanties sont intégrées dans l’architecture de base du modèle.
“Les plateformes limiteront l’accès à certaines demandes et certaines actions, tout comme ChatGPT ou Grok ont déjà déclaré qu’elles n’autoriseraient pas certaines demandes”, a déclaré Lagodinsky.
“La législation est beaucoup plus lente que l’innovation. Nous ne pouvons surmonter ce problème qu’en ayant une approche réglementaire basée sur les risques. C’est pourquoi il existe une opportunité pour la Commission d’ajouter certaines nouvelles technologies comme technologies à risque à la loi sur l’IA”, a-t-il ajouté.
Si l’entreprise ne respecte pas ces règles, elle fera l’objet de mesures strictes en vertu de la loi sur l’IA. Les amendes en cas d’infraction sont énormes, pouvant atteindre 35 millions d’euros, soit 7 % du chiffre d’affaires mondial de l’entreprise.
L’accord permet aux autorités nationales de retirer entièrement les produits dangereux d’IA du marché de l’UE. D’ici le 2 décembre 2026, tous les fournisseurs de services doivent démontrer que leurs systèmes répondent à ces normes de sécurité sous peine de sanctions financières. Cette surveillance s’applique aux entreprises basées dans l’UE et aux développeurs internationaux qui proposent des services d’IA aux résidents de l’UE.
Instruments juridiques pré-interdiction
“Je ne pense pas que les décideurs politiques l’aient sous-estimé (l’évolution de l’IA), et bien sûr, il y a eu un énorme manque de sécurité juridique jusqu’à présent”, a déclaré McNamara.
Avant l’interdiction, l’UE qualifiait essentiellement les fausses nouvelles et le « nu » de problèmes de contenu et de violations de la vie privée et de la transparence. Bien qu’aucune loi unique n’interdise spécifiquement ces activités, des réglementations mixtes sur la protection des données, le droit à l’image, la confidentialité et la responsabilité des plateformes les réglementent en tant qu’IA à usage général (GPAI) ou systèmes à risque limité.
“L’un des principaux arguments (…) concerne la décision de l’administration américaine actuelle de réglementer ou de ne pas réglementer (le contenu généré par l’IA)”, a déclaré McNamara à Euronews.
La loi sur les services numériques (DSA) est la principale réglementation des plateformes en ligne. Cependant, il s’agit d’un outil réactif qui nécessite de très grandes plateformes en ligne (VLOP) pour traiter les contenus illégaux et les fausses informations en les supprimant uniquement après détection. Il impose également l’adoption de mécanismes anti-contrefaçon et d’autres mesures pour atténuer les risques systémiques posés par la plateforme.
Les règles actuelles profondément erronées de la loi sur l’IA n’empêchent pas la création et le partage d’images non autorisées. Ils exigent uniquement que les fournisseurs de services divulguent l’utilisation de l’intelligence artificielle dans la création de contenu en ligne et qu’ils étiquetent clairement le contenu synthétique auprès des utilisateurs. L’indemnisation des victimes n’est pas non plus prévue. La loi réglemente les images intimes non consensuelles (NCII) et le matériel pédopornographique (CSAM) en termes de transparence et autorise une discrétion considérable de la part des prestataires de services en vertu du code de bonnes pratiques de la GPAI.
Le Règlement Général sur la Protection des Données (RGPD) est un règlement général sur la protection de la vie privée qui n’est pas spécifique aux contenus synthétiques. Elle aborde la question du traitement illicite des données à caractère personnel sous sa forme actuelle en interdisant la fraude et les mesures centrées sur les victimes. Les photos intimes non autorisées sont diffamatoires et diffamatoires, nécessitant des mesures en plus des protections des informations telles que le harcèlement, la diffamation et le droit pénal.
La directive européenne 2024/1385 sur la violence à l’égard des femmes en ligne et hors ligne criminalise la violence basée sur le genre basée sur la technologie (TFGBV). Cela inclut les outils numériques qui contrôlent, harcèlent et réduisent au silence les femmes et les filles. Si Deep garantit une protection juridique contre les contenus pornographiques, le texte ne cible pas spécifiquement les applications de nudification.