Fin du monde à 15 heures, l’IA a réservé le créneau
Cette semaine, fallait vraiment le vouloir pour rater l’apocalypse. Wired a sorti un épisode d’« Uncanny Valley » sur les trois scénarios plausibles de fin du monde version intelligence artificielle. Le Guardian, lui, a ouvert un direct pour répondre en public à la question qui fait trembler les rédactions depuis dix jours : est-ce que l’IA peut vraiment nous effacer de la carte ? Et Elon Musk, fidèle à son habitude, a remis une pièce en affirmant que la chose serait « plus dangereuse que les armes nucléaires ».
Le plus fascinant, ce n’est pas que des gens s’inquiètent. C’est que l’inquiétude soit devenue un format. Un podcast, un live, une session de questions-réponses. On cause de l’extinction de l’humanité comme d’un lancement produit, avec créneau horaire et hashtag.
Le rapport qui ne relève pas de la fiction
Oublions la mise en scène deux minutes et regardons le contenu. Dans la semaine, Anthropic a publié un rapport qui n’a rien de théorique. Des criminels, des groupes étatiques, des vendeurs de logiciels espions, des scientifiques et des propagandistes ont tenté d’utiliser ses modèles pour « concevoir des missiles et des bombes, créer des pathogènes mortels et surveiller des dissidents ». Voilà. On n’est plus dans le scénario d’une IA qui prend le contrôle du Pentagone la nuit. On est dans une notice d’utilisation, rédigée par le fabricant lui-même, à propos de clients déjà servis.
Sur ce terrain, il n’y a pas grand-chose à balayer d’un revers de main. Les labos savent ce qui passe par leurs tuyaux, ils lisent leurs propres logs. Quand ils publient ce genre de papier, ils documentent des faits, pas des hypothèses. Et il y a une forme de courage à exposer ses propres failles plutôt que de les planquer sous un communiqué rassurant.
Sauf que.
La boîte qui signe ce rapport continue de déployer ses modèles à grande échelle, de signer des contrats, de viser le Nasdaq. On vous en parlait il y a quelques jours, sa rentabilité avait un drôle d’air de promesse non tenue. Rien n’a bougé, sauf le ton du document. C’est le grand numéro du secteur : prévenir très fort pendant qu’on vend très fort. Le pyromane qui te tend le tuyau d’incendie en expliquant que décidément, ça brûle vite par ici.
L’alliance qu’on n’avait pas vue venir
Wired évoque aussi une alliance bipartisan inattendue qui se forme contre l’IA. Vous l’avez lu chez nous la semaine dernière à propos de Sanders et Bannon qui se retrouvent main dans la main, au moins jusqu’à ce qu’on prononce le mot « Chine ». Surprise : les ennemis jurés de la politique américaine peuvent s’accorder sur un point, à savoir que cette technologie va trop vite et que personne ne tient le volant. C’est peut-être le seul vrai signal de la semaine, parce qu’une convergence pareille ne s’invente pas en communication.
Ce que cette alliance veut vraiment reste flou. Protéger les gens, ou marquer des points avant une échéance électorale ? Les deux, probablement, et c’est là que ça devient intéressant. Une peur partagée n’est pas encore une politique partagée.
Garder la tête froide, le lien que personne ne clique
Et puis il y a cette page Hacker News tombée vendredi matin, « What to Read to Stay Grounded Amidst AI Doomerism ». Une liste de lecture pour ne pas perdre la boule au milieu du vacarme apocalyptique. Un point, zéro commentaire au moment où j’écris ces lignes. Personne ne clique sur la modération contre l’hystérie. Pourtant, objectivement, c’est le lien le plus utile de la semaine.
Parce que le vrai sujet n’est pas de savoir si l’IA va nous tuer dans dix ans. Le sujet, c’est qu’entre le scénario catastrophe et le déni total, il n’y a plus de place pour la seule position tenable : scepticisme, vérification, et un peu de sang-froid. Le doomerism est devenu un business model, exactement comme le techno-optimisme béat. Les deux vivent du même carburant, à savoir ton attention et ta peur.
Alors la question n’est pas de savoir si l’apocalypse aura lieu. C’est de savoir combien de lives, de podcasts et de fils de discussion il faudra pour couvrir l’événement. En attendant, rendez-vous à 15 heures, heure de Londres. Le monde ne s’arrêtera sans doute pas. La conversation, elle, tourne déjà à plein régime.
Sources :
Comments are closed