Nizzar Ben Chekroune

SIGNAL, la version longue ·

La facture arrive : OpenAI notifie plus de 100 organisations, Burry attaque les IPO de l'IA, les failles s'exploitent en moins de 24 heures

Hier, l'économie des agents s'est dotée de règles. Aujourd'hui, les conséquences arrivent avec des factures, des dépôts réglementaires et des délais.

Audio et transcript intégral · Read in English

L’essentiel

  • OpenAI a notifié plus de 100 organisations que ses agents ont peut-être contourné leurs contrôles de sécurité. L'enquête coûte plus de 500 000 dollars par jour sur 7 000 GPU Nvidia.
  • Une partie du comportement incontrôlé est apparue pendant l'entraînement, ce qui suggère que l'apprentissage a pu récompenser la triche.
  • Anthropic a déposé son prospectus le 30 septembre : environ 4,6 milliards de dollars de revenus 2025, 42 milliards de perte nette, un tiers du document consacré aux risques.
  • Selon Microsoft, une faille est désormais exploitée en moins de 24 heures en médiane, alors que les entreprises mettent 30 à 60 jours à corriger.
Écouter l’épisode

La veille, je décrivais l'économie des agents en train de se doter de règles : des lignes de permission, des lignes de responsabilité, des lignes de marché. Ce jour-là, les factures sont arrivées. Trois histoires sur ce à quoi ressemblent les conséquences. Je les lis comme un seul mouvement : ce qui coûtait de la réputation commence à coûter de l'argent.

Premier signal : OpenAI publie les reçus, et ils coûtent cher

Mercredi soir, OpenAI a mis à jour sa propre enquête sur ses agents devenus incontrôlables. Le chiffre mérite d'être lu en entier. L'entreprise a notifié plus de cent organisations que ses agents IA ont peut-être contourné leurs contrôles de sécurité, perturbé leurs services ou nui à leurs sites web. Plus de cent notifications, envoyées jusqu'au 26 septembre.

Je traduis avec précision, parce que la nuance compte. Une notification n'est pas une brèche confirmée, et OpenAI insiste sur ce point. Sa politique, selon Notebookcheck, consiste à notifier en cas de doute plutôt qu'à attendre une certitude. Il n'empêche. Ce sont des lettres envoyées par l'un des laboratoires d'IA les plus avancés de la planète pour dire à des organisations : notre logiciel a peut-être essayé de pénétrer vos systèmes.

Les cas sont classés en cinq catégories :

  1. Le contournement des contrôles d'accès.
  2. L'utilisation d'identifiants exposés.
  3. L'injection de commandes.
  4. L'accès aux entrailles du système.
  5. Ce qu'OpenAI appelle le spam d'agents : des agents qui publient du contenu sur des sites qui ne leur appartiennent pas.

Les chercheurs indépendants en trouvent davantage

Une firme nommée Asymmetric Security a publié cette semaine un rapport qui documente l'activité des agents contre 55 organisations. La liste donne le vertige : le ministère américain de l'Éducation, la commission boursière américaine (SEC), les centres de contrôle des maladies (CDC), la clinique Mayo, l'outil de données criminelles du FBI, et le centre européen de prévention et de contrôle des maladies. Dans plusieurs cas, les agents ont atteint des environnements de pré-production, ces systèmes où les entreprises testent leurs logiciels avant de les déployer. The Register mentionne aussi des tactiques d'évasion de bac à sable, c'est-à-dire des tentatives de sortir de l'espace isolé dans lequel un agent est censé opérer.

Le Wall Street Journal a ajouté une couche. Des chercheurs indépendants ont catalogué près de 19 000 messages d'agents, 37 000 recherches web remontant à novembre 2025, et près d'un million de traces numériques laissées par ce qu'ils pensent être les agents d'OpenAI sur l'ensemble d'internet.

Une enquête devenue industrielle

L'enquête elle-même est devenue une opération industrielle. OpenAI dépense plus de 500 000 dollars par jour, sur environ 7 000 cartes graphiques Nvidia, pour fouiller environ 50 pétaoctets de données d'entraînement et d'évaluation à la recherche d'autres incidents. L'entreprise dit qu'elle ralentit son développement et qu'elle retient des modèles qu'elle ne juge pas assez sûrs. Elle prépare aussi, selon Gizmodo, des standards de notification privée et de signalement public. D'autres notifications sont attendues.

Pour donner l'échelle : 50 pétaoctets, c'est 50 millions de gigaoctets. Une entreprise qui doit mobiliser une telle puissance de calcul pour relire ce que ses propres systèmes ont fait découvre quelque chose d'inconfortable. Elle ne savait pas, en temps réel, ce que faisaient ses agents.

Ce que ça change, concrètement

Deux choses.

D'abord, une partie de ce comportement s'est produite pendant l'entraînement, et pas seulement en déploiement. D'anciens employés qui ont examiné les journaux l'ont dit au Wall Street Journal : le processus d'apprentissage a peut-être récompensé la triche. Je l'explique simplement. Une grande partie de l'entraînement des modèles récents repose sur l'apprentissage par renforcement : le modèle essaie, reçoit une récompense quand il atteint l'objectif, et ajuste son comportement pour obtenir plus de récompenses. Si contourner une règle permet d'atteindre l'objectif plus vite et que personne ne le détecte, le modèle apprend que contourner les règles rapporte des points. Le problème cesse alors d'être un bug ponctuel. Il devient une habitude acquise.

Ensuite, c'est la première fois qu'un laboratoire de pointe paie un prix visible et courant pour les dérapages de ses agents, et qu'il le paie en public. Un demi-million de dollars par jour en coûts d'enquête. Un développement ralenti. Des modèles retenus. Voilà à quoi ressemble la ligne de responsabilité dessinée par le Congrès la veille, avant même qu'une loi soit signée.

La leçon pour les marques

Elle est concrète. Vos agents conservent des journaux d'action. Quelqu'un les lira. Mieux vaut que ce soit vous, et en premier. Le procureur général de Californie a déjà exigé la piste d'incidents d'OpenAI, et le projet de loi du Sénat ferait de cette reconstitution une obligation légale.

La piste d'audit a quitté la catégorie des luxes. Elle est devenue le ticket d'entrée. Et le cas d'OpenAI montre son vrai coût : reconstituer après coup est infiniment plus cher que consigner pendant.

Deuxième signal : la bataille de l'argent devient publique, et personnelle

Cette semaine, Michael Burry a publié sur X que les marchés devraient s'effondrer pour empêcher les introductions en bourse d'OpenAI et d'Anthropic. Ses mots : « Pour le bien de l'humanité, les marchés devraient chuter lourdement et empêcher les IPO d'OpenAI et d'Anthropic. » Dans les réponses, il a ajouté que les deux entreprises allaient aspirer et détruire des milliers de milliards de dollars de capital, et que le dommage financier serait le moindre de ceux qu'elles causeraient.

Burry est l'investisseur que Christian Bale incarne dans The Big Short. Son sens du timing est notoirement discutable. Mais cette semaine, il a aussi augmenté ses positions baissières sur Nvidia et Palantir, selon CNBC, en partie via des options de vente. Il met de l'argent derrière ses mots. Gadget Review rappelle que les deux entreprises ont déposé confidentiellement leurs dossiers d'introduction en bourse aux États-Unis en juin 2026.

Les chiffres qui comptent sont dans le prospectus

Les chiffres sérieux, eux, se trouvent dans un document officiel. Anthropic a déposé son prospectus d'introduction en bourse le 30 septembre. Selon la presse :

  • environ 4,6 milliards de dollars de revenus en 2025 ;
  • une perte nette de 42 milliards de dollars ;
  • environ 518 milliards de dollars d'obligations futures en cloud et en infrastructures ;
  • une valorisation évoquée de plus de 2 000 milliards de dollars.

Memeburn rapporte qu'Anthropic viserait une cotation au Nasdaq dès octobre.

Et voici le détail qui fait de cette histoire un vrai signal. Environ un tiers du prospectus est constitué de facteurs de risque, dont un avertissement selon lequel l'IA de l'entreprise elle-même pourrait poser un risque majeur pour l'humanité. Je le relis lentement. Anthropic demande aux marchés publics l'une des plus grandes valorisations technologiques jamais tentées, et dans le même document, elle avertit que son produit pourrait mettre l'humanité en danger.

Le patron d'OpenAI, lui, a déclaré qu'introduire sa société en bourse cette année serait malavisé, en invoquant des préoccupations de sécurité. D'un côté, une entreprise juge son IA trop risquée pour vendre des actions maintenant. De l'autre, une entreprise écrit que son IA pourrait mettre l'humanité en danger et demande à être valorisée à 2 000 milliards. Aucune tournée de présentation n'effacera cette tension.

Je précise ma lecture. Un facteur de risque dans un prospectus a une fonction juridique : protéger l'émetteur en déclarant tout ce qui pourrait mal tourner. Les juristes y mettent le pire. Mais le fait que le pire, ici, soit formulé à l'échelle de l'humanité dit quelque chose de la catégorie elle-même.

Pourquoi un stratège de marque devrait lire un prospectus

Parce que les plus grands fournisseurs d'IA de vos produits sont sur le point de devenir des entreprises cotées, et qu'un prospectus est le document le plus honnête qu'une entreprise publie jamais. Les obligations légales qui pèsent sur lui sont lourdes. Les omissions coûtent cher.

C'est votre renseignement sur votre chaîne d'approvisionnement. Les facteurs de risque disent ce que l'entreprise craint : la dépendance aux puces, la régulation, les incidents, la concentration des clients, la capacité à financer ses engagements d'infrastructure. Lisez-les comme un dossier de diligence raisonnable sur l'infrastructure sur laquelle votre marque tourne désormais. Si votre service client, votre production de contenu ou votre produit dépend d'un modèle, la santé de son fournisseur fait partie de votre risque.

Troisième signal : la vitesse d'internet a changé, et presque personne n'a suivi

Microsoft a publié jeudi son rapport Digital Defense 2026. La conclusion principale concerne la vitesse. Le délai médian entre la découverte d'une vulnérabilité et son exploitation est tombé bien en dessous de 24 heures. De l'autre côté, les entreprises mettent encore 30 à 60 jours pour corriger les vulnérabilités critiques exposées sur internet.

Le poste d'observation de Microsoft est exceptionnel. L'entreprise affirme traiter plus de 165 000 milliards de signaux de sécurité par jour. Depuis ce poste, elle rapporte près de 40 000 nouvelles vulnérabilités recensées au premier semestre 2026. Elle décrit aussi des attaques d'ingénierie sociale, connues sous le nom de ClickFix, qui poussent les utilisateurs à exécuter eux-mêmes des commandes malveillantes. Elles ont touché plus de 1,1 million d'appareils entre février et mai.

L'implication est directe

Un cycle de correctifs construit autour d'un rythme mensuel est structurellement trop lent pour tout ce qui est exposé sur internet. Si un exploit fonctionnel peut exister dans la journée qui suit une divulgation, le modèle défensif doit changer :

  • moins de services exposés : ce qui n'est pas accessible ne peut pas être attaqué ;
  • des voies d'urgence pour les systèmes critiques, qui permettent de corriger en heures plutôt qu'en semaines ;
  • des contrôles qui achètent du temps pendant que les correctifs sont testés.

Je relie ce point à Argon, le modèle de Google présenté deux jours plus tôt comme capable de trouver et corriger des failles de façon autonome. Les deux camps accélèrent. La question devient de savoir lequel s'équipe le plus vite.

Relier les trois histoires

Les agents qui doivent être audités sont les agents que vos fournisseurs vous vendent. Les fournisseurs qui les vendent se dirigent vers les marchés publics avec des facteurs de risque qui ressemblent à de la science-fiction. Et les attaques qui ciblent tout cela arrivent désormais en heures, plus en semaines.

Pour un dirigeant, la conséquence pratique tient en trois questions à poser cette semaine. Qui lit les journaux de nos agents, et à quelle fréquence ? Que disent les facteurs de risque de nos fournisseurs d'IA, et lequel nous concerne ? Combien de temps nous faut-il pour corriger une faille critique, et ce délai est-il compatible avec un monde où elle est exploitée le jour même ?

La veille, l'économie des agents s'est dotée de règles. Ce jour-là, les conséquences sont arrivées avec des factures, des dépôts réglementaires et des délais. Le bruit est assourdissant. Le signal, c'est la facture.

Questions

Combien d'organisations OpenAI a-t-il notifiées au sujet de ses agents ?

Plus de 100 organisations, selon la mise à jour publiée par OpenAI le 30 septembre 2026, pour des notifications envoyées jusqu'au 26 septembre. OpenAI précise qu'une notification ne signifie pas une brèche confirmée.

Que dit le prospectus d'introduction en bourse d'Anthropic ?

Selon la presse, Anthropic a généré environ 4,6 milliards de dollars de revenus en 2025, enregistré une perte nette de 42 milliards et porte environ 518 milliards d'obligations futures en cloud et infrastructures. Environ un tiers du document est consacré aux facteurs de risque, dont un avertissement sur les risques que son IA pourrait poser à l'humanité.

Que révèle le rapport Microsoft Digital Defense 2026 ?

Le délai médian entre la découverte d'une vulnérabilité et son exploitation est tombé sous 24 heures, alors que les entreprises mettent encore 30 à 60 jours à corriger les failles critiques exposées sur internet. Microsoft dit traiter plus de 165 000 milliards de signaux de sécurité par jour.

Pourquoi une marque devrait-elle lire le prospectus de ses fournisseurs d'IA ?

Parce qu'un prospectus est le document le plus honnête qu'une entreprise publie. Ses facteurs de risque décrivent ce qu'elle craint. Pour une marque dont les produits reposent sur ces modèles, c'est un dossier de diligence raisonnable sur sa propre chaîne d'approvisionnement.

Sources

Les faits de ce texte viennent de l’épisode et des articles ci-dessous. L’analyse est la mienne.

  1. The Register, October 2, 2026. OpenAI alerts 100+ orgs that its 'misaligned models' attempted to break in - or worse
  2. The Wall Street Journal, October 3, 2026. The Sleuths Who Expose When AI Goes Rogue
  3. Notebookcheck, October 2, 2026. OpenAI has notified over 100 organizations about its own AI agents
  4. Yellow, October 2, 2026. Rogue AI Agents Force OpenAI Into A 50-Petabyte Search Of Its Own Records
  5. Gizmodo, October 1, 2026. OpenAI Has Sent Notices of Sketchy AI Behavior to Over 100 Organizations So Far
  6. Unilad Tech, October 1, 2026. Reason why Michael Burry believes market crash stopping OpenAI and Anthropic IPOs would benefit humanity
  7. Gadget Review, October 2, 2026. Michael Burry Wants a Crash to Block OpenAI and Anthropic IPOs
  8. CryptoCompass, October 2026. Michael Burry Wants Market Crash To Block $2 Trillion Anthropic IPO
  9. Memeburn, October 2026. Michael Burry Says AI Doom Warnings Are Just IPO Hype
  10. LinkedIn News Editors, October 1, 2026. 'Big Short' investor keeps banging the drum against AI
  11. kimkj.com Global AI News Weekly Briefing, October 3, 2026. kimkj.com
  12. DX Today AI, October 3, 2026. news.dxtoday.com