Avertissement de Amazone Le PDG Andy Jassey est inquiet Entrée non autorisée en Chineet les craintes en matière de cybersécurité auraient conduit l’administration Trump à bloquer l’accès des étrangers à Fable 5, le nouveau modèle d’intelligence artificielle puissant d’Anthropic.
selon plusieurs médias, Jassi a exprimé ses inquiétudes concernant le modèle à la haute direction jeudi après qu’Amazon ait utilisé plusieurs alertes pour obtenir des modèles de classe Mythos afin de fournir des informations sur les cyberattaques qui auraient dû être contenues.
On ne sait pas si Amazon a testé la vulnérabilité de Fable à la demande de la Maison Blanche ou si l’entreprise a effectué les tests elle-même. Citant des sources anonymes proches des discussions d’Amazon, Politico a déclaré que le gouvernement avait demandé à Amazon des commentaires sur le nouveau modèle Anthropic.
Amazonele porte-parole a dit plus tôt Fortune: “En tant que fournisseur leader de services cloud au service d’un grand nombre de clients des secteurs privé et public, il n’est pas rare que les gouvernements nous consultent sur les risques de sécurité potentiels. Nous ne partageons pas les détails de ces discussions.”
Sémaphore Citant des sources anonymes, le gouvernement américain soupçonne également que le jailbreak découvert par Amazon a déjà été utilisé par un groupe lié à la Chine. Mais la publication précise qu’il n’est pas clair comment le gouvernement a pu formuler ces soupçons ni quelles sont les preuves dont il dispose. Un porte-parole d’Anthropic a également déclaré aux médias que la Maison Blanche n’avait pas augmenté l’accès de la Chine à Mythos lors de ses discussions avec l’entreprise et qu’il était interdit à Anthropic de s’approvisionner en produits chinois.
Puis vint une série d’appels entre le PDG d’Anthropic, Dario Amodei, et les dirigeants. selon Politique, A l’époque, Amodei affirmait que la faille de sécurité découverte par Amazon était plus subtile qu’un arrêt complet des défenses du modèle.
Une source proche du dossier a déclaré à Anthropic Fortune L’entreprise a eu 90 minutes pour dévoiler son dernier design, qui n’avait pas été divulgué auparavant comme une menace pour la sécurité nationale.
Cependant, vendredi soir, le Département du Commerce a utilisé les contrôles d’exportation de sécurité nationale pour interdire à Anthropic de distribuer le Fable 5 et son modèle de base, le Mythos 5, à des personnes en dehors des États-Unis et aux ressortissants étrangers travaillant dans le pays, y compris les employés d’Anthropic. Compte tenu de leur portée, AI Labs a déclaré qu’il n’avait d’autre choix que de désactiver les deux modèles pour tous les utilisateurs.
Aujourd’hui, selon une personne proche d’Anthropic, des techniciens supérieurs sont à Washington pour rencontrer des responsables de la Maison Blanche.
C’est la première fois que le gouvernement américain utilise le contrôle des exportations pour bloquer l’accès du public à des modèles commerciaux d’intelligence artificielle déjà largement utilisés. Cette décision sans précédent a suscité des inquiétudes parmi les politiciens du monde entier et a intensifié les appels en faveur d’une IA autonome, l’idée selon laquelle les pays devraient contrôler les conceptions, les infrastructures et les données de l’IA basées sur des technologies critiques, indépendamment des systèmes qui peuvent être restreints ou révoqués par des gouvernements étrangers.
Les critiques qualifient les contrôles à l’exportation de la part du gouvernement d’excessifs. Dean Ball, expert en politique en matière d’IA, Il a déclaré avoir effectué un bref passage dans l’administration Trump. X Il n’est pas possible de dire s’il s’agit « spécifiquement d’une action en justice contre Anthropic ou d’un compromis extrême en matière de sécurité nationale », ajoutant qu’il s’agit « simplement d’une caricature ». Ben Murphy, chercheur non-résident à l’Institute for Progress, a déclaré que la directive était “une autre étape dans la balkanisation de la technologie”. soyez prévenu que la déception est possible À l’avenir, les laboratoires d’IA ne pourront pas être transparents avec le gouvernement sur leurs modèles d’IA.
La décision d’utiliser des contrôles à l’exportation pourrait changer la façon dont le gouvernement perçoit plus largement les futures versions de l’IA, et elle pourrait accroître le contrôle du gouvernement sur la manière dont les nouveaux modèles d’IA sont introduits. Agent administratif dit Axios c’est Le gouvernement ne considère pas que les autres modèles sur le marché présentent le même risque pour la sécurité nationale, car ils ne dépassent pas le niveau de capacité atteint par le Mythos, et les futurs modèles devront passer par le gouvernement avant de franchir ce seuil.
L’épisode a également intensifié une confrontation de plusieurs mois entre Anthropic et l’administration Trump, qui plus tôt cette année avait décrit l’entreprise comme un « risque de chaîne d’approvisionnement » pour les sous-traitants du Pentagone après qu’Anthropic ait refusé d’accepter les termes du contrat qui lui permettaient d’utiliser ses modèles à « toutes fins légales ». Anthropic conteste cette désignation devant les tribunaux, invoquant des préoccupations concernant les armes autonomes et la surveillance nationale de masse.
Affrontement croissant
Anthropic a écrit vendredi sur son blog que les autorités américaines en matière de sécurité nationale n’ont pas identifié de problèmes spécifiques, mais la société comprend que le gouvernement comprend que la société connaît un moyen de contourner Fable 5 ou de le jailbreaker.
Cependant, au cours du week-end, le conseiller en intelligence artificielle de la Maison Blanche, David Sachs, a proposé sa propre explication de cette impasse. Dans un article sur Sax X, Anthropic et un partenaire gouvernemental très fiable et de confiance ont révélé que Fable 5 avait été verrouillé hors de prison par la barrière de sécurité, et l’administration a demandé à Amodei de résoudre le problème ou de retirer le modèle. Selon Sacks, Amodei a refusé, ce qui a incité l’administration à lever à contrecœur les contrôles à l’exportation. Sacks a déclaré que l’administration s’attend à ce qu’Anthropic résolve le problème et ramène Fable à sa version générique dès que possible, repoussant les suggestions selon lesquelles cette décision était liée à la controverse précédente du Pentagone.
Sachs, qui était auparavant à la tête du roi de l’IA et de la cryptographie au sein de l’administration, s’est heurté à plusieurs reprises à Anthropic, accusant l’entreprise d’une approche réglementaire qu’il a qualifiée de alarmiste sur les risques de l’IA.
De hauts responsables de la Maison Blanche l’ont également annoncé. Politique Les contrôles à l’exportation étaient un dernier recours après que les autorités aient passé des heures à convaincre Anthropic de coopérer avec eux. Le ministre des Finances, Scott Bessent, a déclaré lors d’un appel qu’Amodei avait pris la mauvaise décision, selon le journal.
Le « signal d’alarme » de l’Europe
Les conséquences de cette décision ont dépassé le cadre de Washington, suscitant des réactions de la part des hommes politiques du monde entier. En Europe, l’interdiction a relancé les appels aux pays pour qu’ils contrôlent ce que les responsables décrivent comme des modèles d’IA souverains, des infrastructures informatiques et des données basées sur des technologies critiques, indépendamment de systèmes pouvant être restreints ou révoqués par des gouvernements étrangers.
Vieille France Le Premier ministre Edouard Philippe a annoncé La série a montré que l’IA est désormais une infrastructure aussi importante que l’électricité et Internet, et qu’une infrastructure contrôlée par d’autres est une infrastructure que d’autres peuvent démonter. Le candidat français à l’élection présidentielle de 2027, Bruno Retaillo, a déclaré que cette décision devrait être un « signal d’alarme », affirmant qu’une nation technologiquement dépendante peut être déchirée du jour au lendemain.
Au Royaume-Uni, Al Carnes, député, a déclaré que les hôpitaux, les entreprises et les chercheurs britanniques avaient pris de telles mesures. Conte 5 précédemment utilisé Il s’est éteint et est devenu partie intégrante d’un modèle plus large de leadership technologique perdu dans l’épisode. Tom Tugendhat, ancien ministre de la Sécurité et député britannique, a également déclaré que l’incident démontrait l’indépendance. maintenant plus Déclarant qu’il s’agissait « plus de code que de canon », il a critiqué l’approche réglementaire du Royaume-Uni consistant à donner la priorité à la sécurité plutôt qu’à la création de capacités d’IA compétitives.
Pour de nombreux responsables politiques, l’interdiction a mis en évidence à quel point les gouvernements et les entreprises européens sont dépendants d’un petit nombre de laboratoires d’IA américains, et comment cette dépendance peut se transformer en un handicap politique si l’accès est interrompu, même temporairement.