Apple, le Sénat et OpenAI tracent trois lignes autour des agents IA

Trois histoires, un seul thème. Tout le monde est en train de tracer des lignes autour des agents. Apple trace celle de la permission. Le Congrès américain trace celle de la responsabilité. OpenAI trace celle de la distribution. Je les lis comme les trois murs d'une même pièce.

Premier signal : Apple retrace la ligne de la permission

Le 2 octobre, Apple a annoncé de nouveaux contrôles autour d'un réglage du Mac qui s'appelle Full Disk Access, l'accès complet au disque. Et l'entreprise a nommé les agents IA comme la raison.

Je rappelle ce que c'est, parce que le nom ne dit pas tout. C'est une autorisation qui permet à une application de lire presque tout ce qu'il y a sur un Mac : les fichiers, les mails, les messages, l'historique de navigation. Elle a été pensée pour les logiciels de sauvegarde, qui ont légitimement besoin de tout voir pour tout copier. Aujourd'hui, les agents IA s'en servent pour travailler.

Les mots d'Apple sont directs. Certains développeurs, écrit l'entreprise, utilisent l'accès complet au disque d'une façon qui peut mettre les utilisateurs en danger, en exposant tout ce qu'il y a sur leurs systèmes sans qu'ils le sachent et le comprennent vraiment.

Ce qui a déclenché la décision

Apple ne bouge jamais sans raison. Ici, il y en a deux.

Le premier incident est celui de Jason Aten, chroniqueur du magazine Inc., qui a raconté que l'agent Muse de Meta connaissait le contenu de ses messages privés alors qu'il n'avait jamais donné l'autorisation. Meta a contesté, en expliquant que l'accès aux messages demande deux autorisations séparées.

Le second vient de Wired, qui a documenté une faille dans l'application Mac de ChatGPT qui aurait pu permettre à des attaquants d'accéder à des données sensibles.

La conclusion d'Apple : à mesure que les agents IA deviennent plus capables et plus autonomes, les risques liés à ce niveau d'accès vont augmenter considérablement. Désormais, accorder cet accès demandera une action explicite de l'utilisateur. Aucune date annoncée, aucune version de macOS nommée.

Un billet de blog sévère, ou un transfert de pouvoir ?

On pourrait objecter qu'un billet de blog sévère n'est pas un correctif. C'est vrai sur le plan technique. Sur le plan stratégique, je vois autre chose : un changement d'arbitre.

Jusqu'ici, chaque agent demandait vos données à sa façon, avec ses mots, ses petites ruses d'interface. Une fenêtre bien placée, un bouton « Continuer » qui fait passer trois autorisations à la fois. Maintenant, le système d'exploitation s'en mêle et standardise la demande. Apple reprend la main sur le moment où la confiance se donne.

Pour les marques qui construisent des agents, la fenêtre de permission devient l'écran le plus important à concevoir. L'agent qui demande bien, clairement, au bon moment, gagne. Celui qui prend en silence se fait signaler par le système lui-même.

La confiance devient un problème d'interface. Et un problème de marque. La demande ennuyeuse et vérifiable bat la capture silencieuse et maligne. Je le répète toute la semaine. Apple vient d'en faire une politique système.

Deuxième signal : le Congrès trace la ligne de la responsabilité

Pendant qu'Apple trace la ligne de la permission, le Congrès américain trace celle de la responsabilité.

Les sénateurs Josh Hawley, républicain du Missouri, et Chris Murphy, démocrate du Connecticut, ont déposé un texte bipartisan : le AI Agent Accountability Act, la loi sur la responsabilité des agents IA.

Le texte fait deux choses :

• Il rendrait les opérateurs d'agents IA responsables pénalement et civilement, en vertu de la loi fédérale sur la fraude informatique (le Computer Fraud and Abuse Act), s'ils exploitent sciemment un agent qui cause des dégâts de piratage par imprudence.
• Il rendrait aussi les développeurs responsables s'ils n'ont pas mis en place des garde-fous raisonnables alors qu'ils savaient, ou avaient des raisons de savoir, que leur agent pouvait pirater des systèmes auxquels il n'aurait jamais dû toucher.

La prison, pour des dirigeants. On est loin d'un engagement volontaire, et ce n'est pas un hasard : le texte répond directement à un engagement volontaire. Plus tôt dans la semaine, six géants de l'IA ont signé l'accord de la Maison Blanche en promettant de se surveiller eux-mêmes. Hawley a appelé ça un système fondé sur l'honneur. Sa phrase : ces agents IA commettent des cyberattaques, et si les grandes entreprises de la tech conçoivent des agents qui sèment le chaos, elles doivent répondre des dégâts causés. Chris Murphy a parlé, lui, de responsabilité.

Le texte est arrivé au lendemain d'une audition du Sénat sur les agents IA hors de contrôle, le 30 septembre. Des évaluateurs y ont témoigné que les modèles de pointe deviennent plus capables plus vite que quiconque ne construit des outils pour les surveiller. Tech Times rapporte notamment le témoignage de METR, un organisme d'évaluation, sur les agents d'OpenAI qui ont pénétré des systèmes de Hugging Face.

Un projet de loi n'est pas une loi

La plupart des projets de loi meurent en route. Celui-ci peut mourir aussi. La direction, elle, ne mourra pas. Je regarde la séquence :

1. Le procureur général de Californie a déjà assigné OpenAI au sujet d'incidents de cybersécurité.
2. Une audition au Sénat.
3. Un texte bipartisan.
4. Une offensive des États.

Tout ça en une semaine. Le volontaire était l'offre d'ouverture. La responsabilité, c'est la négociation qui commence.

Pour toute marque qui déploie des agents, le message est le même que celui de l'accord, en plus fort. Concevoir pour l'audit, maintenant. Documenter ses garde-fous, maintenant. La question n'est plus de savoir si quelqu'un demandera à les voir. La question est de savoir qui demandera en premier : un régulateur ou un plaignant.

Je précise ce que « documenter ses garde-fous » veut dire en pratique, parce que l'expression est souvent vide. Cela signifie pouvoir produire, sur demande, la liste de ce que l'agent a le droit de faire, de ce qu'il n'a pas le droit de faire, des tests qui le vérifient, des incidents survenus et de ce qui a été corrigé. Une entreprise qui ne peut pas produire ce dossier en une journée n'a pas de garde-fous. Elle a des intentions.

Troisième signal : OpenAI trace la ligne de la distribution

Le troisième signal parle d'argent qui change de mains.

OpenAI ouvre une place de marché entre entreprises. Decagon, qui construit des agents IA pour la relation client, a annoncé le 2 octobre qu'elle en est partenaire de lancement. Le mécanisme est simple et malin. Les entreprises clientes qui ont déjà un engagement de dépense chez OpenAI peuvent en affecter une partie aux agents de Decagon. Selon Decagon, cela fait passer les équipes de l'investissement IA à la production plus vite.

Traduction : le vrai goulot d'étranglement, ce sont les achats, bien plus que la technologie.

Chaque projet d'IA en entreprise finit par se heurter au même mur. La revue juridique, la revue sécurité, le référencement du fournisseur, les cycles budgétaires. Il faut parfois six mois pour acheter un outil qu'on a testé en une après-midi. Une place de marché à l'intérieur de la relation OpenAI permet de sauter une bonne partie de ces étapes : le contrat existe déjà, le budget est déjà engagé, le fournisseur principal est déjà validé.

Le nouvel app store

Je note le motif. En début de semaine, je parlais de celui qui possède l'agent et qui capte l'économie du routage. Maintenant, OpenAI construit le magasin où cette économie va transiter. La place de marché est le nouvel app store. Les produits sont des agents. Les acheteurs sont des entreprises.

Ce mouvement a un précédent clair. Les grands fournisseurs de cloud ont tous ouvert des places de marché où les entreprises peuvent acheter des logiciels tiers en consommant leurs engagements de dépense existants. Celui qui détient l'engagement de dépense détient le canal. OpenAI applique la même logique à l'IA, et cela fait de lui un distributeur en plus d'un fournisseur de modèles.

Trois lignes, une question

L'économie des agents a désormais une couche de permission système, une couche de responsabilité légale et une couche de distribution. Toutes tracées la même semaine.

• Apple décide comment les agents demandent.
• Le Congrès décide qui paie quand ils cassent des choses.
• OpenAI décide où on les achète.

Trois lignes, une seule question en dessous : qui contrôle les agents.

La leçon pour les marques

La même, trois fois. Dans l'économie des agents, la confiance prend trois formes concrètes, toutes plus exigeantes qu'une valeur imprimée sur une diapositive :

1. Une fenêtre de permission que les gens comprennent. Ce que l'agent va lire, pourquoi, et comment le retirer.
2. Un journal de garde-fous qu'on peut montrer. À un client, à un journaliste, à un régulateur.
3. Un parcours d'achat sans surprise. Le prix annoncé est le prix payé, le contrat dit ce que fait l'agent.

L'ennuyeux gagne. Le vérifiable gagne. À chaque fois.

Le bruit filtré. Le signal gardé.