L’administration Trump a décidé de balayer Contrôle des exportations sur Anthropic Cela faisait suite à un effort épuisant de 24 heures de la part de hauts responsables pour convaincre l’entreprise de retirer volontairement un modèle d’IA récemment publié qui, selon les responsables, posait un risque pour la sécurité, selon deux responsables de l’administration et un haut responsable de la Maison Blanche qui, comme d’autres pour cette histoire, n’étaient pas autorisés à discuter de cette catégorie sous couvert d’anonymat.
Une décision qui fait suite à de nombreux appels tendus entre Dario Amodei, PDG d’Anthropic Des responsables de l’administration tels que le secrétaire au Trésor Scott Bessent et le directeur de la cybersécurité de la Maison Blanche, Sean Cairncross, soulignent comment la Maison Blanche est aux prises en temps réel avec la réglementation de modèles d’IA dangereux et à évolution rapide.
L’appel n’avait pas été signalé auparavant.
Les contrôles à l’exportation de l’administration ont contraint Anthropic à retirer Fable, un nouveau modèle d’intelligence artificielle, quelques jours seulement après sa présentation au public. Anthropic a assuré à l’entreprise qu’elle était sûre, mais peu de temps après sa publication, la haute direction a commencé à douter que sa barrière de sécurité IA était aussi fiable que l’entreprise le suggérait.
Deux responsables de l’administration et un haut responsable de la Maison Blanche ont déclaré jeudi à la Maison Blanche, deux jours après le dévoilement du modèle, que le PDG d’Amazon, Andy Jassy, avait fait part de ses inquiétudes quant à la possibilité de contourner la barrière de sécurité du modèle.
(Amazon est un investisseur dans Anthropic et a répondu aux commentaires de la direction, a déclaré une personne proche des discussions d’Amazon.)
Vendredi matin, la question avait atteint les plus hauts niveaux de la Maison Blanche.
Un responsable de l’administration et un haut responsable de la Maison Blanche ont déclaré que Bessent, Cairncross, la chef de cabinet Susie Wiles et d’autres hauts fonctionnaires se sont rencontrés pour discuter du modèle et de la réponse de l’administration. Bessent a participé à distance alors qu’il se rendait à Houston pour un événement public préalablement programmé, a déclaré l’un d’eux.
L’administration a tenté de joindre Amodei après la réunion, mais on lui a dit qu’il était en congé de maladie et qu’il ne pouvait pas le faire, ont déclaré l’un des responsables de l’administration et un haut responsable de la Maison Blanche.
Une porte-parole d’Anthropic a démenti les affirmations selon lesquelles elle se trouvait dans un établissement médical, déclarant : “C’est absolument faux”.
Une personne proche d’Anthropic a déclaré qu’Amodei avait été contacté pour la première fois vers midi et qu’il avait téléphoné à de hauts responsables en moins d’une heure et 15 minutes. Alors qu’il n’avait plus de sa poche, Anthropic a recommandé à la place d’autres hauts dirigeants, a déclaré la personne.
Lorsque l’administration a finalement contacté Amodei, il a participé à trois appels avec près d’une douzaine d’autres hauts fonctionnaires, dont Cairncross, Bessent et le secrétaire au Commerce Howard Lutnick, selon un haut responsable de la Maison Blanche et un responsable de l’administration.
D’autres hauts responsables de la Maison Blanche et des responsables de l’administration ont participé à certains de ces appels, notamment le sous-secrétaire du Département du Commerce chargé de l’Industrie et de la Sécurité, Jeffrey Kessler, le chef de cabinet de la Maison Blanche Will Scharf, le chef de cabinet adjoint de la Maison Blanche Richard Walters et l’assistant politique présidentiel Walker Barrett, selon d’autres hauts responsables de la Maison Blanche.
Au cours de l’appel, Amodei a tenté de dissiper ce qu’il pensait être un malentendu. Mettant de côté les préoccupations administratives, il a défendu les garanties, arguant que la forme de contournement qu’il croyait claire n’était pas aussi risquée que le « jailbreak » plus large qu’Anthropic autoriserait sans aucune barrière.
Dans un article de blog publié après la mise en place des contrôles à l’exportation, Anthropic a déclaré qu’« aucun testeur n’a encore été trouvé capable de contourner aussi largement les protections des modèles et de bloquer un large éventail de cybercapacités », et qu’éviter complètement tout jailbreak n’est pas encore possible pour eux ou pour d’autres entreprises. Ils ont défendu leur système, affirmant qu’il était “si puissant que de nombreux utilisateurs se plaignaient de son caractère trop étendu”.
Cairncross et Bessent n’ont pas été touchés par l’argument d’Amodeus. Un responsable de la Maison Blanche a déclaré que les conclusions d’Amazon appartenaient à la National Security Agency et qu’elle pensait avoir des “preuves”.
Un haut responsable de la Maison Blanche et deux responsables de l’administration ont déclaré avoir exhorté Anthropic à supprimer volontairement le modèle et à travailler avec le gouvernement pour supprimer la vulnérabilité. Amodei a demandé plus de temps et d’informations, mais ne s’est pas engagé à retirer le modèle, et à un moment donné, Bessent a carrément dit à Amodei qu’il prenait une « mauvaise décision », a déclaré un haut responsable de la Maison Blanche.
Peu de temps après cet appel, l’administration Trump a imposé des contrôles à l’exportation sur les modèles Fable 5 et Mythos 5, citant les autorités de sécurité nationale et interdisant leur utilisation aux ressortissants étrangers, a rapporté Anthropic. La société a déclaré que « l’effet net » de la commande était de « désactiver soudainement » les modèles pour tous les clients « afin d’assurer la communication ».
“Les contrôles à l’exportation étaient un dernier recours après des heures passées à nous supplier de coopérer”, a déclaré un haut responsable de la Maison Blanche. “Ce n’était pas quelque chose que nous voulions faire, mais nous avions les mains liées.”
Après la publication, une personne proche d’Anthropic a fait valoir que la société avait eu la possibilité de se mettre volontairement en administration.
“La Maison Blanche a donné 90 minutes pour démonter les modèles et n’a pas donné de détails sur la menace réelle”, a-t-il déclaré. “On ne leur a jamais demandé de travailler avec nous, seulement 90 minutes ont été annoncées.”
Un haut responsable de la Maison Blanche a déclaré que les responsables de la Maison Blanche qui ont entendu Amodei comparer la menace de la technologie d’Anthropic à une bombe nucléaire ont été surpris lorsque le PDG a déclaré qu’il ne voulait pas supprimer le système pour remédier aux vulnérabilités de sécurité connues. Anthropic s’est imposé dans l’industrie comme un ardent défenseur de la réglementation de l’IA afin de lutter contre les risques de sécurité massifs et les perturbations du monde à mesure que l’IA s’accélère.
Amazon n’est pas la seule entreprise à s’inquiéter, ont déclaré trois personnes proches de la pensée du gouvernement.
“Le nœud du problème était qu’Anthropic avait un sérieux problème avec cela”, a déclaré l’un des trois. “Si Anthropic avait pris cela au sérieux et décidé de corriger ou de suspendre l’accès au lieu de le considérer comme isolé, cela ne serait jamais arrivé.”
Une deuxième personne proche d’Anthropic a rejeté l’idée selon laquelle le jailbreak était une violation du système de sécurité de Fable 5, soulignant que l’entreprise coopérait avec l’administration avant la sortie de Fable. Il a déclaré que le gouvernement ne s’était pas opposé à la libération de Fable lors de plusieurs discussions.
Dans un article de blog publié après que l’administration a imposé des contrôles à l’exportation, Anthropic a déclaré qu’elle se conformait à la directive du gouvernement, tout en la qualifiant de disproportionnée.
“Nous pensons que le gouvernement devrait être en mesure de bloquer les téléchargements dangereux dans le cadre d’un processus juridique transparent, juste, clair et fondé sur des faits, comme nous l’avons déclaré publiquement. Cette action ne respecte pas ces principes”, a déclaré Anthropic.
Un responsable de la Maison Blanche a déclaré sous couvert d’anonymat que même si l’innovation reste l’objectif numéro un de la Maison Blanche, nous devons donner la priorité à la sécurité.
Dans un communiqué, Amazon a refusé de partager les détails de ses négociations avec l’administration. “Il n’est pas rare que les gouvernements demandent notre avis sur les risques potentiels pour la sécurité”, a déclaré un porte-parole d’Amazon. “Nous ne partagerons pas les détails de ces discussions au fur et à mesure qu’ils seront publiés.”
Anthropic a déclaré début avril que son dernier modèle puissant, Mythos, n’était disponible que pour un nombre limité d’entreprises technologiques et cybernétiques qui pouvaient l’utiliser pour tester les vulnérabilités de leurs logiciels. La société affirmait à l’époque que le modèle était si puissant qu’il pouvait être dévastateur entre de mauvaises mains et avait donc dû limiter sa sortie.
Les débuts du modèle ont déclenché une série de rencontres entre Amodei et Hauts responsables de la Maison Blanche. Les deux parties ont qualifié ces réunions de productives. Ils ont eu une série de discussions sur la réglementation des conceptions avancées, qui ont abouti à un récent décret exigeant que les entreprises soumettent volontairement leurs conceptions avancées au gouvernement avant qu’elles puissent être largement utilisées.
Le Fable 5, qui a été dévoilé au public cette semaine, est décrit par Anthropic comme un « modèle de classe Mythos » doté d’une protection qui le rend sûr pour un usage général. Le modèle a été examiné par l’administration et l’AI Security Institute du Royaume-Uni.
Mais lorsque des failles de sécurité ont été découvertes, de nombreux responsables de l’administration ont ressenti le besoin de retirer le modèle.
Dans un éditorial sur X samedi matin, l’ancien tsar de l’IA à la Maison Blanche, David Sachs, un farouche opposant à la réglementation, a reconnu la décision de l’administration d’imposer des contrôles à l’exportation sur Anthropic.
Sachs a déclaré qu’il ne pensait pas que le “jailbreak” était simple ou sérieux et que les contrôles à l’exportation étaient une tentative de contrôler l’industrie plus largement.
“L’administrateur espère qu’Anthropic résoudra le problème de sécurité, supprimera les contrôles à l’exportation et que Fable reviendra à la version générale”, a écrit Sacks. “L’administrateur aimerait que tout cela soit fait le plus rapidement possible. Je suis vraiment surpris qu’Anthropic ne veuille pas répondre aux exigences de sécurité qu’ils disaient auparavant comme étant la chose la plus importante.”
Sachs et d’autres responsables de l’administration ont critiqué Anthropic, l’accusant de se plier au gauchisme politique et de semer la peur, en plaidant pour une réglementation plus stricte de l’industrie et en mettant en garde contre des suppressions massives d’emplois.
Le secrétaire à la Défense Pete Hegseth et le Pentagone ont porté la confrontation entre l’administration et Anthropic à un niveau sans précédent plus tôt cette année, et le 3 mars, ils ont considéré l’entreprise comme un risque pour la chaîne d’approvisionnement après avoir refusé d’autoriser l’utilisation d’outils d’intelligence artificielle dans la surveillance nationale et les armes autonomes.
Sachs a déclaré samedi que les différends passés entre l’administration et Anthropic étaient distincts de la décision sur le contrôle des exportations.
“L’administrateur apprécie les capacités techniques d’Anthropic et estime que ce problème, bien que grave, devrait être facilement résolu. La balle est dans le camp d’Anthropic”, a écrit Sacks.
C’est la première histoire Apparu sur POLITICO Il est fourni par Axel Springer Global Reporters Network, qui utilise les ressources éditoriales de l’entreprise pour publier des informations, des recherches, des interviews, des opinions et des analyses ambitieuses. Il permet aux journalistes de POLITICO, Business Insider, WELT, BILD, Onet et Fakt de collaborer sur des sujets importants qui touchent des centaines de millions de téléspectateurs sur toutes les plateformes.
Brendan Bordelon a contribué à ce rapport.