Récemment anthropique a mis hors ligne ses deux derniers modèles d’IA L’ordonnance de contrôle des exportations de l’administration Trump a déclenché un vaste débat sur la politique en matière d’IA. indépendance numérique.
Sur le dernier épisode Podcast Equity de TechCrunchSean O’Kane, Rebecca Bellan et moi-même avons discuté de ce qui a motivé la décision de l’administration contre Anthropic et de ce que cela signifie pour l’écosystème plus large de l’IA.
Selon Sean, « Anthropic n’a pas eu les meilleures relations avec l’administration Trump, d’une manière qui le distingue des autres grands laboratoires d’IA », de sorte que les autres concurrents d’Anthropic n’ont probablement pas à s’inquiéter d’un combat similaire.
Mais Rebecca est également une experte de premier plan en matière de cybersécurité.a signé une lettre ouverte demandant à Trump d’annuler l’ordonnanceEt ils disent qu’il est dangereux de retirer ces capacités avancées de cybersécurité aux défenseurs des réseaux aux États-Unis.
Nous nous demandions si tout cela serait de bon augure pour la promotion d’Anthropic, d’autant plus que, comme le dit Rebecca, “tout le monde aime les mauvais garçons”.
Lisez la suite pour un aperçu de notre conversation, éditée pour plus de longueur et de clarté.
Rébecca Bellan : Le gouvernement américain a forcé Anthropic à mettre hors ligne ses deux derniers modèles, le Fable 5, puis le Mythos 5, qui était disponible pour les utilisateurs actuels de Mythos (tandis que) le Fable 5 était plus ouvert au public.
Ils ont envoyé une lettre (vendredi dernier) disant qu’il s’agissait d’une « question de sécurité nationale ». Personne ne sait quelles sont ces préoccupations. Le rapport n’a pas été rendu public et n’a pas fourni de détails et (Anthropic) a déclaré que ces modèles ne devraient pas être utilisés par des étrangers. Anthropic a donc déclaré : « Eh bien, je pense que nous devons faire appel à l’ensemble du modèle, car nous ne savons pas si quelqu’un est expatrié. Beaucoup de nos employés sont des expatriés. »
Mais en fait (apparemment), la Maison Blanche a dit cela parce que certains chercheurs d’Amazon pensaient avoir trouvé un moyen de contourner la clôture de Fable 5. Le PDG d’Amazon, Andy Jassy, a fait écho à ces préoccupations à la Maison Blanche.et ça a continué à partir de là.
Sean O’Kane : Tout s’est très vite transformé en week-end, surtout un vendredi après-midi. Dans le même temps, l’administration semblait tenter de négocier une sorte d’accord sur la guerre qu’elle avait lancée contre l’Iran.
Rébecca : Vendredi soir pour nous à New York. Ils aiment être distraits.
Sean : Prenons un instant de recul. Anthropic, contrairement à d’autres grands laboratoires d’IA, n’a pas eu les meilleures relations avec l’administration Trump – et je pense qu’il y a au moins un élément à cela.
Alors pensez-vous que cela affectera d’autres entreprises ? Pensez-vous que l’administration Trump a peu d’intérêt à fermer le robinet à l’un de ces concurrents ?
Anthony Ha : Une partie du contexte ici est le reporting et analyse par des analystes de sécurité indépendants Il s’avère que le risque réel de sécurité anthropique n’est pas si unique. Il semble donc que cela provienne en grande partie de l’administration Trump et de certaines parties d’Anthropic (qui ne communique pas). À tout risque, ces choses deviendront disproportionnées simplement parce qu’ils ne semblent pas pouvoir se parler sur un téléphone civil.
Si vous êtes une autre entreprise, d’une certaine manière, cela pourrait fonctionner pour vous, car vous pouvez dire : OK, nous n’allons pas mettre ces gars en colère contre nous, nous pouvons faire ce que nous voulons. Mais ce n’est pas une bonne idée de simplement dire : « Mon Dieu, j’espère qu’ils ne sont pas en colère contre nous. »
Rébecca : D’un côté, cela ressemble à des représailles : après que le gouvernement a qualifié Anthropic de risque pour la chaîne d’approvisionnement, il y a un tel procès entre eux que la Maison Blanche semble chercher une excuse pour critiquer Anthropic. Ce n’était pas seulement ma réaction initiale, mais je ressens cela à cause de ce que de nombreux chercheurs en cybersécurité ont dit. Ils disent que cela ne devrait jamais déclencher des contrôles (commandes) à l’exportation. Ils ont tous signé une lettre ouverte demandant à Trump d’annuler l’ordre, qui, selon eux, est trop dangereux pour retirer les capacités avancées de cybersécurité des défenseurs des réseaux américains.
Ironiquement : Eh bien, est-ce que vous faites simplement une pause dans Anthropic pour rattraper le retard sur lequel tout le monde était Anthropic ?
Mais en même temps, j’ai aussi réagi (en disant) : c’est un peu anthropique qui arrive. Ils ont dit : « C’est trop dangereux pour que quiconque puisse l’utiliser, mais pas nous, nous sommes les gentils. » Ils parlent d’avant en arrière. Une semaine avant la sortie de Fable, ils disaient : “Hé, nous devons ralentir l’IA, ça devient vraiment dangereux.” Mais ensuite : “Voici notre modèle le plus fou et surpuissant, partez !”
Antoine : Des gens comme Sam Altman et Jensen Huang disaient : « Hé, baissons la température. Pourquoi tout le monde est-il en colère contre nous ? semble être un microcosme des nombreuses discussions entourant l’intelligence artificielle. Eh bien, vous avez passé ces dernières années à dire essentiellement que vous avez créé cette machine divine qui peut supprimer les emplois de tout le monde. Ce n’est pas vraiment un choc que les gens ne se sentent pas bien à ce sujet.
Il y a quelque chose dans la façon dont Anthropic parle du Mythe, lorsqu’ils disent : “C’est un modèle incroyablement puissant, et il est trop dangereux de le rendre public.” Et donc, à un certain niveau (vous dites), “D’accord, eh bien, prenons cela au sérieux. Cela signifie qu’il va y avoir un examen minutieux.”
Je me demande – Anthropic ne semble pas content. Je veux faire attention à ne pas exagérer à quel point cela peut être bon pour eux. Mais nous avons également publié quelques articles sur l’analyse des rampes. Soulignez que la dernière explosion majeure entre Anthropic et l’administration Trump a profité à l’entrepriseau moins en partie. Les téléchargements dans le cloud ont grimpé en flèche. Je pense que beaucoup de gens pensaient à ChatGPT est chatbot, est Anciens assistants d’IA, ils voient soudain Claude comme plus responsable et plus « résistant ».
De même, Anthropic est très préoccupé par cette question, mais cela pourrait rendre ses modèles plus puissants.
Rébecca : Bien sûr. “Nous sommes très dangereux.” Tout le monde aime les mauvais garçons, n’est-ce pas ? Tout le monde disait : “C’est le modèle le plus puissant, même Trump le dit. Bien sûr, je dois mettre la main dessus.”
Lorsque vous effectuez un achat via un lien dans notre article, nous pouvons facturer une somme modique. Cela n’affecte pas notre indépendance éditoriale.