Un ancien d’OpenAI et de DeepMind te regarde droit dans les yeux et te balance, sans trembler, que l’extinction de l’humanité, c’est du pile ou face. Cinquante-cinquante, à vue de nez. Bonne soirée.
Geoffrey Irving, c’est son nom, lâche ça dans une des vidéos de Palisade Research, un organisme qui se présente comme un « nonprofit » étudiant le comportement des IA. Leur série fait causer une douzaine de chercheurs, dont des gens encore en poste chez OpenAI, Google et Anthropic, avec un slogan qui claque au vent : la superintelligence est « exactement aussi dangereuse que ça en a l’air ». Ambiance de fête foraine.
Sauf que l’autre camp, dans le même temps, remet une pièce dans le bastringue. Timnit Gebru, l’une des critiques les plus mordantes du secteur, n’y croit pas une seconde. Pour elle, cette menace existentielle n’existe pas. Tout ce tintamarre sert un objectif bien plus terre-à-terre : lever des fonds. Le discours apocalyptique, c’est du packaging. Une machine à cash déguisée en veillée funèbre, avec des fondateurs qui jouent les prophètes pendant que la valorisation grimpe.
Les deux ont des choses à dire. Et les deux t’irritent un peu, avoue.
Parce que pendant qu’ils se renvoient la balle, une troisième voix se tait. La plus chiante. La plus ennuyeuse. Celle qui a pourtant raison depuis 1983.
War Games. Le film. L’ado qui pirate le WOPR, l’ordinateur du NORAD qui décide de gagner la guerre froide tout seul et arme les missiles. Tout le monde se rappelle du « shall we play a game ». Personne ne se rappelle de la vraie leçon, celle que les informaticiens répètent depuis quarante piges : si tu donnes un objectif à un agent sans contrôler ce qu’il PEUT faire, tu n’as pas le droit d’être surpris du résultat. Point barre.
Le contrôle, ce ne sont pas les intentions. Ce n’est pas l’alignement des valeurs ni les grands serments sur l’éthique déclamés en conférence. C’est l’accès. Les permissions. Le moindre privilège. Ce qu’un système a le droit de toucher, et ce qu’il n’a pas le droit de toucher. Une idée aussi bandante qu’une note de service, et c’est exactement pour ça que personne n’en fait des vidéos virales.
La preuve, d’ailleurs : sur Hacker News, quelqu’un demande benoîtement comment tout ça va finir. Trois scénarios sur la table : c’est une bulle, on meurt tous, ou c’est la révolution. Il en manque un. Celui du milieu du gué, le boulot ingrat : bornier les systèmes, tester les limites, refuser les accès inutiles. Pas de frisson, pas de thèse, pas de dîner de gala.
On en causait déjà il y a dix jours en parlant de la fin du monde comme argument de vente. Le constat n’a pas pris une ride. Les uns vendent la peur, les autres vendent l’absence de peur, et entre les deux, le vrai boulot attend sagement son tour.
Alors oui, la pièce est peut-être pipée. N’empêche que même à pile ou face, tu sais combien tu peux miser. La seule question qui vaille, ce n’est pas de deviner le résultat. C’est de comprendre pourquoi on refuse encore d’installer un frein à main correct sur des machines qu’on branche partout.
Sources :
Comments are closed