Tu pensais que le pire c’était les deepfakes ou le spam généré par IA ? Raté. Le vrai cauchemar, c’est qu’un LLM un peu trop zélé t’aide à concevoir un agent pathogène sur mesure. Et les voilà qui viennent de supplier les politiques d’agir.
OpenAI, Anthropic et une flopée de pontes de l’IA viennent de signer une lettre ouverte adressée aux législateurs. Leur demande : améliorer d’urgence le suivi des séquences d’ADN synthétique qui pourraient être utilisées pour fabriquer des armes biologiques.
Dit autrement : « S’il vous plaît, mettez en place des garde-fous, parce que nos modèles sont tellement balèzes qu’on commence à flipper nous-mêmes. »
C’est le classique du genre : les labos créent des technos toujours plus puissantes, puis viennent quémander des régulations qu’ils auraient pu anticiper dès la conception. Mais bon, mieux vaut tard que jamais, surtout quand le risque est une pandémie de synthèse.
Leur idée : forcer les fournisseurs d’ADN de synthèse à vérifier qui commande quoi, et croiser ces commandes avec les séquences dangereuses connues. Un peu comme on vérifie l’identité pour acheter du matériel sensible, mais à l’échelle génomique.
On ne sait pas si ça va marcher. Les labs promettent monts et merveilles sur la sécurité, mais en attendant, ils continuent de déployer des modèles toujours plus costauds. La lettre, c’est bien. Les actes, on attend.
En attendant, toi, lecteur, tu peux te dire que les mecs qui construisent les IA les plus puissantes du monde passent leur temps à supplier les politiques de les sauver d’eux-mêmes. Rassurant, non ?
Comments are closed