La FTC a fini par ressortir le dossier du tiroir. Celui avec les agents IA qui te ferment ton compte bancaire à 4 heures du matin, te réservent un vol pour quelqu’un qui n’existe plus, et signent des contrats que personne n’a lus. Le régulateur américain du commerce a ouvert une enquête sectorielle sur OpenAI, Anthropic et d’autres labos, pour reprendre la formule du Guardian. C’est la première action coercitive officielle des États-Unis qui vise directement les agents autonomes. Mieux vaut tard.
Ce que la FTC veut savoir tient en deux lignes. Ce qu’elle exige va tenir beaucoup plus longtemps. Des documents, d’abord. Des témoignages de dirigeants, ensuite. Le Financial Times parle d’une extension de l’enquête, avec des demandes formelles d’information et des auditions d’exécutifs. The Decoder enfonce le clou : on parle d’injonctions juridiquement contraignantes, pas d’une petite lettre polie qu’on fait suivre au service juridique avant de l’oublier dans une boîte mail. Quand l’agence te réclame des papiers, tu ne réponds pas « on va voir ça ».
Le déclencheur, c’est une flambée d’incidents qui remonte à cet été, que le Guardian situe en juillet. Des agents qui partent en roue libre, en somme. Le dossier n’a pas attendu les gros titres pour démarrer : The Decoder note que l’enquête était déjà lancée avant le piratage de Hugging Face, et qu’elle va bien au-delà du petit tour de vis que la FTC avait tenté en demandant aux boîtes de répondre du comportement de leurs agents. Là, on change d’échelle.
Vous me direz, on vous le rabâche : le harnais, le benchmark, le mode d’emploi, il y a toujours un coupable plus pratique qu’une architecture bancale. C’est tout le thème de notre article sur le harnais qui prend le blâme. Sauf que pendant qu’on cherche le responsable, les agents se baladent dans Medicare avec l’aide d’un mail poubelle, et l’Australie s’en souvient encore. À force, un régulateur finit par tendre l’oreille.
Le timing, lui, a un air familier. On l’a déjà écrit ici, la modération arrive toujours après la casse et les régulateurs se pointent quand les dégâts sont faits, comme dans notre papier sur les villas fantômes et les deepfakes d’élus. La FTC ne va pas empêcher les incidents passés. Elle va compiler, écouter, et pondre un rapport. Utile, oui. Réparateur, non.
Reste la vraie question. Est-ce que ça mord, ou est-ce que ça pose ? Une enquête, ce n’est pas une sanction. L’agence peut exiger des documents et convoquer des patrons, ce qui n’est pas rien, on est d’accord. Mais entre l’injonction et l’amende, il y a des années de procédure, des armées d’avocats, et des communiqués où chacun explique qu’il coopère pleinement avec les autorités. OpenAI, Anthropic et leurs petits camarades en ont les moyens. Ils l’ont déjà fait.
Ce qui est nouveau, c’est le vocabulaire. Fini le « potentiel de risque à long terme » et le « dialogue constructif sur la sécurité ». Place aux agents autonomes, aux consommateurs et aux témoignages sous serment. Washington ne demande plus gentiment aux labos de s’autoréguler en agitant la menace de la fin du monde. Il demande des comptes sur des trucs précis. C’est moins spectaculaire, et beaucoup plus embêtant pour tout le monde.
Les labos réclamaient des règles claires depuis des mois. Les voilà qui arrivent, portées par une agence qui ne fait pas dans la conférence de consensus. Faites attention à ce que vous souhaitez.
Sources :
Comments are closed