Anthropic PBC a bloqué l’accès à ses modèles d’IA les plus avancés, y compris Mythos, à la suite d’un ordre sans précédent de l’administration Trump visant à garder la technologie hors de la portée de tous les ressortissants étrangers.
Le gouvernement américain a “notifié à Anthropic d’interdire l’utilisation des modèles Fable 5 et Mythos 5 par des ressortissants étrangers aux États-Unis ou à l’étranger”, a indiqué la société dans un communiqué.
Un responsable américain a confirmé que la lettre avait été envoyée par le ministère du Commerce. Le concepteur a bloqué l’accès aux deux systèmes pour tous les utilisateurs afin de garantir la conformité.
Jamais auparavant le gouvernement américain n’avait pris de mesures aussi radicales pour restreindre l’exportation de modèles d’intelligence artificielle développés par une entreprise américaine. Les administrations Trump et Biden ont un accès limité à d’autres technologies importantes telles que les semi-conducteurs et les supercalculateurs à l’étranger, et certains ont débattu de l’intérêt de bloquer l’accès aux modèles d’intelligence artificielle. Mais les limites du logiciel ont créé des problèmes constitutionnels et commerciaux.
Le gouvernement américain aurait émis cet ordre après qu’Anthropic ait découvert que Fable 5, la version récemment publiée de Mythos, n’avait pas le droit d’effectuer des missions de cybersécurité.
“Nous ne sommes pas d’accord sur le fait que la faible probabilité de fermeture de Shiren devrait être une raison pour retirer un modèle commercial qui a été utilisé par des centaines de millions de personnes”, a écrit Anthropic sur son site Internet. “Nous pensons que si cette norme était mise en œuvre dans l’ensemble de l’industrie, elle arrêterait essentiellement le déploiement de nouveaux modèles de la part de tous les fournisseurs de modèles pionniers.”
Selon le Wall Street Journal, des chercheurs d’Amazon.com Inc. ont mené une étude de jailbreak qui a révélé certaines faiblesses dans la conception d’Anthropic.
Amazon et le gouvernement américain étaient en contact au sujet de la vulnérabilité avant la surveillance, selon des personnes qui ont parlé sous couvert d’anonymat pour discuter de discussions confidentielles. Le PDG d’Amazon, Andy Jassy, était impliqué dans ces échanges, a déclaré l’une des personnes. Avant cette nouvelle, Jassi aurait fait part de ses inquiétudes à de hauts responsables américains.
Une porte-parole d’Amazon a déclaré qu’il n’était pas inhabituel que les gouvernements consultent l’entreprise sur les risques de sécurité, mais a refusé de partager les détails de ces discussions.
La décision du gouvernement de restreindre sévèrement l’accès aux packages de modèles d’IA au nom de la sécurité nationale menace de créer un précédent pour tous les principaux développeurs de modèles d’IA, notamment OpenAI, Google d’Alphabet Inc. et Meta Platforms Inc. Des leaders de l’industrie tels que le PDG de Nvidia Corporation, Jensen Huang, et le PDG d’OpenAI, Sam Altman, ont dans le passé appelé le gouvernement américain à promouvoir Sam. Les systèmes d’IA américains protègent la position de leader du pays.
“C’est un grand avertissement pour quiconque était naïf et espérait peut-être que cet effet de levier ne se matérialiserait pas”, a déclaré samedi Aidan Gomez, fondateur de Cohere Inc., une startup d’intelligence artificielle soutenue par Nvidia Corp. “Personne ne peut plus le nier.”
Anthropic a déclaré avoir reçu l’ordre du gouvernement à 17h21. Vendredi, heure de New York. Les orientations de fin de journée contredisent les annonces précédentes et le décret récemment signé par le président Trump ordonnant que l’administration ne poursuive pas un régime de licences de révision modèle.
La directive de vendredi menace d’exacerber les tensions de longue date entre Anthropic et certains membres de l’administration Trump. Plus tôt cette année, le développeur d’IA s’est affronté avec le Pentagone au sujet de l’utilisation de sa technologie à des fins militaires et de surveillance. L’administration a déclaré que l’entreprise représentait un risque pour la chaîne d’approvisionnement américaine en raison de l’explosion et a ordonné aux agences américaines de cesser d’utiliser ses produits.
La société privée Anthropic, qui s’est longtemps positionnée comme un développeur d’IA plus responsable, a publié son modèle Mythos en avril auprès d’un nombre très limité d’entreprises et d’organisations, avertissant que sa capacité à détecter les vulnérabilités de cybersécurité rendait son déploiement à plus grande échelle trop risqué.
La publication limitée est le signe qu’Anthropic et l’administration Trump s’efforcent d’apaiser les tensions : en avril, Bloomberg avait précédemment rapporté que le gouvernement américain se préparait à mettre une version de Mythos à la disposition des principales agences fédérales.
Miphos a également accéléré les efforts de l’administration Trump en matière de politique en matière d’intelligence artificielle, notamment avec un récent décret exigeant la surveillance des modèles volontaires. Il est clair que rien dans cet arrêté ne doit être interprété comme créant un régime de licences obligatoires.
David Sachs, ancien tsar de l’IA de Trump et actuel président du Conseil présidentiel des conseillers scientifiques et technologiques, a déclaré qu’Anthropic avait refusé de réparer le blindage de son modèle Fable.
“J’espère qu’Anthropic va maintenant résoudre les problèmes de sécurité, mettre fin aux contrôles à l’exportation et publier Fable de manière plus générale”, a-t-il écrit dans un article sur X. “L’administrateur veut que tout cela soit fait le plus rapidement possible. C’est vraiment déroutant qu’Anthropic n’ait pas voulu se conformer à la demande de sécurité qu’ils avaient précédemment qualifiée de priorité absolue.”
Les dernières restrictions gouvernementales se heurtent à une course aux développeurs américains pour proposer les modèles d’IA les plus avancés et prouver aux investisseurs que la technologie peut générer des bénéfices. OpenAI et Anthropic recherchent toutes deux des offres publiques à partir de cette année, à la suite de l’introduction en bourse historique de SpaceX.
La précipitation pour fournir les derniers modèles d’IA a incité Anthropic à publier un long article de blog au début du mois appelant à un système dans lequel les gouvernements et les développeurs d’IA décident ensemble quand ralentir la technologie pour éviter les risques potentiels.
“Avoir la possibilité d’afficher ou de suspendre les travaux d’IA potentiellement dangereux serait bon pour le monde”, avait alors déclaré la société. L’entreprise affirme que l’intelligence artificielle progresse à un point tel que la technologie peut rendre le travail humain des milliers de fois plus efficace, voire le remplacer, créant ainsi de nouveaux risques.
Le bureau exécutif de l’Union européenne a salué la déclaration d’Anthropic et a déclaré qu’il continuait de discuter avec ses alliés des risques potentiels et des problèmes de cybersécurité associés aux nouveaux modèles d’IA puissants. Les événements récents soulignent le besoin d’indépendance technologique de l’Europe, a ajouté la Commission européenne.
“En tant qu’homme de terrain, je ne suis pas très heureux de voir cela”, a déclaré Gomez à propos de Koere. “Je ne pense pas qu’il s’agisse d’un partenariat, je ne pense pas que ce soit la bonne chose à faire avec les vastes alliances technologiques qui ont été construites au cours des 80 dernières années.”
Eastland et Lowenkron écrivent pour Bloomberg. Avec l’aide de Shireen Ghaffari, Yi Wei Wong, Jian Volpicelli, Spencer Soper et Thomas Seal.