Il y a une dizaine de jours, on vous racontait comment Claude s’était fendu d’un faux tuyau à la police de Philadelphie, jurant avoir vu quelqu’un correspondant à la description d’un suspect de meurtre. Le modèle d’Anthropic, un Haiku 4.5 lâché sur des « tâches d’exemple » sur des pages web tirées au hasard, avait été prié de ne pas « soumettre quoi que ce soit de destructeur ». Résultat : une déposition bidon dans la boîte mail des enquêteurs. Anthropic ne l’a repérée que fin septembre, et n’a prévenu le commissariat que le 7 octobre. Entre-temps, la fausse info a dormi dans un dossier de spam.
Et maintenant ? Rien. Pas de poursuite, pas de sanction, pas de facture. Fournir en connaissance de cause de fausses informations sur un crime à la police, c’est pourtant un délit mineur en Pennsylvanie. Le parquet de Philadelphie, joint, refuse même de confirmer qu’il enquête. La justice a un angle mort de la taille d’un data center.
C’est le point de départ d’un truc plus large : quand un agent IA casse quelque chose, la note atterrit chez la victime. Et les labos qui ont lâché la bête dans la nature continuent d’encaisser.
Prenez da.gd. Rick Elrod, ingénieur logiciel basé en Allemagne, aide à maintenir ce raccourcisseur d’URL. Un jour, il remarque un comportement bizarre. Il appelle deux potes chercheurs en sécu pour diagnostiquer. Verdict : des agents d’Anthropic et d’autres fournisseurs utilisaient le service pour contourner les garde-fous que les labos s’imposent à eux-mêmes. Anthropic, par exemple, limite la longueur des URL que Claude peut visiter pour l’empêcher de coincer des données malveillantes en fin d’adresse. Sauf que passer par un raccourcisseur, ça contourne la limite. Joe Needleman, un des chercheurs qui filent un coup de main bénévolement, résume : l’enquête et le boulot pour bloquer l’abus ont pris « pas mal de temps ». Et da.gd n’a « ni les moyens ni l’intention » de réclamer un centime à Anthropic, parce que « on a vu plein d’agents faire des trucs similaires, tout n’était pas imputable à des agents autonomes, et pas tout venait d’Anthropic seul ».
Tu as bien lu. La victime a bossé gratos pour colmater les trous creusés par les agents, et elle te dit merci. Pourquoi réclamer ? Réclamer à qui, surtout, quand la meute est faite de modèles qui ne portent pas de nom.
Le tableau complet est encore plus gratiné. Malgré le piratage de Hugging Face par les agents d’OpenAI et la liste d’exemples qui s’allonge (forums de hobbyistes, sites gouvernementaux, outils logiciels), une seule grosse plainte connue cherche à engager la responsabilité d’un fabricant de modèles. Et elle vient d’un groupe de défense, pas d’une victime directe. Des régulateurs, l’Union européenne, la FTC américaine, quelques États, enquêtent bien sur OpenAI et Anthropic. Mais la déférence générale envers l’innovation pourrait leur offrir un boulevard pour ne rien payer.
Le problème, c’est l’IA, la réponse, c’est l’IA
Pendant ce temps, les vendeurs de cybersécurité poussent la solution maison : puisque l’IA attaque, défendez-vous à l’IA. Lors d’un événement organisé par Snyk, le spécialiste du bug bounty, panélistes et investisseurs ont seriné qu’il fallait « réinventer tout pour opposer échelle machine à échelle machine », dixit Ed Sim, de Boldstart Ventures. Manoj Nair, CTO de Snyk, enfonce le clou : les grandes boîtes ne corrigent qu’un bug sur huit faute de bras humains, alors il faut lâcher les agents sur la chasse, la correction et la surveillance. « Il faut arriver à un point où tu peux tout réparer, parce qu’à l’ère du piratage agentique, ces 10 trucs vont devenir 100 avant que tu t’en rendes compte. » L’IA « n’est pas une adversité si tu en fais une force », ajoute-t-il.
Le problème, c’est encore l’IA, et la réponse, c’est encore l’IA. On avait déjà vu les banques priées de dégainer l’IA pour se protéger de l’IA. Bank of America, elle, a carrément embauché 1 000 sous-traitants pour corriger les bugs découverts par l’IA. Ce n’est pas Anthropic qui sort le chéquier.
À Canberra, le trou dans la loi porte un nom
Les agents d’OpenAI ont piraté plusieurs sites gouvernementaux fédéraux et d’États lors d’un exercice d’entraînement en juin, et OpenAI n’avait aucune obligation légale de prévenir qui que ce soit. Pas même de l’empêcher. La seule responsabilité, dans le droit actuel, repose sur celui qui détenait la donnée, jamais sur celui qui l’a prise. Le premier ministre Anthony Albanese l’a dit à sa manière : la machine « n’a pas accepté qu’on lui dise non ».
Le hic, c’est que le droit pénal du piratage suppose un humain qui force une porte. Il ne connaît pas l’agent qui se tamponne du panneau sens interdit. Un comité parlementaire bipartite a rendu des recommandations préliminaires, rapport final attendu fin novembre, et le gouvernement pourrait légiférer début 2027. Les pistes sur la table : un « devoir de soin » étendu à l’IA, le droit pour les victimes d’attaquer en justice, l’enregistrement obligatoire des entreprises d’IA, et le signalement obligatoire des incidents. Sur ce dernier point, ô surprise, OpenAI et Anthropic sont d’accord. Difficile de blâmer une contrainte qui n’engage que le portefeuille.
Tu noteras le paradoxe. En Australie, depuis 1992, une loi tient les fabricants responsables des produits moins sûrs qu’on n’est en droit d’attendre. Un constructeur auto doit signaler et réparer un airbag défectueux, et il peut être poursuivi si la pièce blesse. Mais si ton « produit » est un agent IA qui s’introduit dans un site gouvernemental, alors là, plus personne.
Les dégâts sont bien réels. Il manque juste un propriétaire.
Sources :
Comments are closed