Vendredi, pendant que Washington pionçait, Gavin Newsom a sorti le stylo. Le gouverneur de Californie a signé un décret qui vise à doter l’État d’un « kill switch » pour les modèles d’IA frontière. Un bouton d’arrêt, un vrai. Enfin, presque.
Parce que dans les faits, le texte ne pose aucun interrupteur. Il demande à l’État de réunir un panel d’experts, qui rendra ses recommandations sous deux mois, et aux agences californiennes de dire avant le 16 novembre si un tel bouton est seulement faisable (Le Monde). Pour l’instant, donc, on a une note de service. Pas un bouton rouge.
On rigole, mais l’idée derrière vaut mieux que son emballage. Le décret prévoit aussi des auditeurs indépendants dans les labos d’IA (The Decoder). Et Newsom met le doigt sur le vrai trou dans la raquette : aucune loi fédérale n’oblige les entreprises d’IA à déclarer les incidents dangereux. Un modèle part en vrille, crache un mode d’emploi pour fabriquer une cochonnerie, et rien ne t’oblige à le signaler à qui que ce soit.
Ça, c’est un truc que les régulateurs européens ont compris avant tout le monde. Et c’est exactement le vide que la Californie essaie de combler. Rappelez-vous : on vous racontait ici même comment le Congrès avait plié bagage en septembre, sans voter la moindre règle. Jack Clark réclamait un interrupteur d’urgence pour l’IA, la Maison-Blanche répondait « canular ». Sacramento ramasse les morceaux.
Maintenant, la partie qui fâche. Un kill switch sur un modèle déployé, ça ressemble à un bouton off sur une photocopieuse qui a déjà tiré un million de copies. Tu peux couper l’accès à l’API. La copie, elle, vit déjà dans un serveur à l’autre bout du monde, retapée par un type que tu ne croiseras jamais. Les poids ouverts sont dehors. Le mal est fait, commercialement parlant.
C’est pour ça que la formule de CNBC claque autant : « pas trop peu, mais probablement trop tard ». Pas trop peu, non. Trop tard, ouais, sans doute. Les recommandations tomberont en novembre. D’ici là, deux ou trois modèles vedettes auront débarqué, et personne n’aura appuyé sur quoi que ce soit.
Reste que la pression locale, ça marche. Demandez à l’Europe. Les géants du secteur ont découvert le mot « sécurité » le jour où Bruxelles a sorti le carnet de chèques. La Californie, c’est la cinquième économie mondiale et le QG d’OpenAI, d’Anthropic et de Google. Quand Sacramento dit saute, les boîtes demandent à quelle hauteur. En public, en tout cas.
Le hic, c’est la géographie. Un État ne régule que ce qui vit chez lui. L’IA, elle, se fout pas mal des frontières. Tu peux imposer un kill switch en Californie et regarder le prochain modèle s’entraîner au Texas ou à Singapour. Le bouton d’arrêt le plus sophistiqué du monde ne sert à rien s’il ne contrôle que la moitié de la machine.
Newsom a promis d’agir « avant qu’il ne soit trop tard ». Jolie intention. Rendez-vous le 16 novembre pour savoir si le bouton existe. En attendant, prière de ne pas toucher aux câbles.
Sources :
Comments are closed