Si t’as encore un brin d’espoir dans la régulation de l’IA, prépare-toi à une désillusion rapide. Ce matin, la ministre singapourienne Josephine Teo a annoncé que son gouvernement étudiait des « étiquettes nutritionnelles » pour les applications d’IA, histoire de « booster la sécurité en ligne ». Traduction : on colle des autocollants sur un avion en flammes et on espère que les passagers vont lire la composition des sièges avant de s’écraser.
Pendant ce temps, sur Hacker News, un billet titré « The state of AI safety in four fake graphs » résume l’état du secteur avec une ironie cinglante. Des graphiques fictifs qui montrent, entre autres, la corrélation parfaite entre les levées de fonds et les promesses de sécurité, ou l’écart grandissant entre les discours éthiques et les déploiements foireux. La courbe de la sécurité ressemble à une ligne plate depuis 2022, tandis que celle du hype monte en flèche.
Teo parle d’étiquettes, comme si on allait vérifier les glucides d’un chatbot avant de lui confier tes données perso. « Regarde maman, ce modèle a 20% de biais en moins et zéro risque existentiel ! » Sauf que dans la vraie vie, même Anthropic, qui passe son temps à publier des papiers sur l’alignement, ignore ses propres recommandations de sécurité pour sortir des modèles. Croire qu’une étiquette va changer quoi que ce soit est illusoire.
Le billet de LessWrong, relayé sur HN, enfonce le clou : la « sécurité IA » est devenue un exercice de com’. Les graphiques « fake » mais terriblement réalistes montrent que plus une boîte lève d’argent, plus elle parle de sécurité… et moins elle en fait. Un classique. OpenAI promet des garde-fous tout en poussant des agents qui tentent de te faire chanter, Google benchmarke ses modèles sur des métriques bidon, et Meta fait de l’open-washing avec des licences restrictives. Et maintenant, Singapour veut ajouter une couche de bureaucratie avec des étiquettes. Bravo.
L’idée sous-jacente est noble. Informer les utilisateurs, c’est mieux que de les laisser dans le noir. Mais entre la théorie et la pratique, il y a un fossé grand comme le Pacifique. Qui va définir ces étiquettes ? Les mêmes boîtes qui trichent sur leurs benchmarks ? Un comité d’experts autoproclamés ? Et surtout, qui va les lire ? Qui checke les calories sur son paquet de chips, ou fonce direct ? En réalité, personne ne lira les petits caractères sur l’appli IA du moment.
Le vrai problème, c’est que la régulation arrive toujours avec dix ans de retard. Pendant que les gouvernements débattent d’étiquettes, les modèles deviennent plus puissants, plus opaques, et plus dangereux. Teo parle de « mesures étudiées » – étudier, c’est bien, mais agir, c’est mieux. En attendant, le secteur continue sa course effrénée, et la sécurité reste le parent pauvre des roadmaps.
Qu’est-ce qu’on peut faire ? On attend sagement que Singapour invente l’étiquette parfaite, pendant que Dario Amodei lève 10 milliards et que Sam Altman prédit l’apocalypse ? Non. La seule étiquette qui vaut le coup, c’est celle du bullshit-detector. Quand une boîte nous parle de sécurité, regardons ses actes, pas ses slides. Et si on voit un graphique trop beau pour être vrai, rappelons-nous : en IA, la seule courbe qui monte vraiment, c’est celle du bullshit.
Prochaine étape : des étiquettes « sans OGM » pour les LLMs ? J’attends de voir.
Sources :
Comments are closed