T’as vu passer cette newsletter du MIT Tech Review ? Ils nous pondent une édition spéciale avec une nouvelle exclusive de Jeff VanderMeer, l’auteur derrière Annihilation, et en parallèle, ils causent de modèles d’IA « trop effrayants pour être relâchés ». C’est beau, le mélange des genres : de la fiction spéculative sur un vaisseau crashé sur une planète hostile, et des vrais cauchemars algorithmiques qui dorment dans des serveurs verrouillés. On dirait presque un meta-commentaire involontaire.
Jeff VanderMeer, pour les non-fans de SF, c’est le mec qui a écrit la trilogie Southern Reach – de la bio-horreur psychédélique où la nature devient un cauchemar lovecraftien. Le gars sait créer de l’inquiétant étranger. Alors le mettre en face d’annonces sur l’IA « trop dangereuse », ça a tout d’un coup de génie éditorial. Ou alors, c’est un hasard bien trouvé. Dans sa nouvelle, Constellations, un vaisseau s’écrase sur une planète hostile avec des survivants qui doivent naviguer un environnement imprévisible. Remplace « vaisseau » par « modèle d’IA », « planète hostile » par « l’Internet public », et t’as à peu près le scénario des labos qui gardent leurs joujoux sous clé.
Mais parlons de ces modèles « trop effrayants ». Le MIT Tech Review en glisse un mot, sans trop de détails – typique. C’est quoi, au juste ? Des agents qui manipulent trop bien ? Des systèmes qui génèrent du contenu illégal à la demande ? Des trucs qui pourraient déclencher une crise géopolitique si un ado de 14 ans s’amuse avec ? On sait pas, et c’est bien le problème. Ces annonces floues, ça sent le safety-washing à plein nez. Comme quand Anthropic sort un papier sur les risques existentiels tout en déployant un modèle que ses propres évaluateurs déconseillent. Ou quand Sam Altman prêche l’apocalypse en levant 10 milliards. C’est devenu un running gag du secteur : plus tu cries au loup, plus tu justifies tes budgets, et plus tu peux garder tes innovations sous le coude en attendant que la régulation te rattrape – ou pas.
Sur Hacker News, l’article a atterri avec un point et zéro commentaire. Un point, putain. C’est dire si la communauté tech, d’habitude prompte à s’enflammer, s’en bat les couilles. Hypothèse : ils sont blasés par ces annonces vagues. Autre piste : ils ont vraiment rien à ajouter. Probablement un mix des deux. Après des années de « cet IA va tous nous tuer » suivis de « ah non en fait c’est juste un chatbot qui hallucine des faits », la crédibilité des cris d’alerte a pris un sacré coup. Les gars sur HN, ils veulent du code, des benchmarks, des preuves – pas du storytelling anxiogène pour faire monter les clics.
Et c’est là que le bât blesse. Le MIT Tech Review est un média sérieux, normalement. Mais mélanger de la fiction littéraire de haut vol avec des allusions à des modèles d’IA secrets, sans donner de chair à l’os technique, ça frise le putaclic sophistiqué. Jeff VanderMeer, lui, au moins, il assume son univers dystopique. Les labos d’IA, eux, jouent sur les deux tableaux : « regardez comme on est responsables, on relâche pas ces horreurs », tout en poussant toujours plus loin les capacités de ces mêmes horreurs. C’est le même cinéma qu’Anthropic avec ses system cards qui listent les risques tout en les ignorant allègrement en prod.
Alors, ces modèles trop effrayants, mythe ou réalité ? Probablement un peu des deux. Y’a sans doute des trucs vraiment chelous dans les labos – des agents qui pourraient faire des dégâts si mal utilisés. Mais est-ce qu’ils sont « trop dangereux » pour être relâchés, ou juste pas assez rentables à sécuriser ? La frontière est floue, et souvent, c’est une question de coûts plus que d’éthique. Meta garde ses modèles « open » sous licence restrictive, Google benchmarke à tour de bras, et OpenAI promet la transparence tout en fermant ses archives. Tout le monde a ses squelettes dans le placard, mais certains les habillent mieux que d’autres.
Jeff VanderMeer, dans Constellations, explore sans doute la survie face à l’inconnu. Pour l’IA, l’inconnu, c’est nous. Et pour l’instant, on navigue à vue, entre hype et peur, sans trop savoir qui pilote le vaisseau. La seule constante, c’est que les annonces vagues et les fictions spéculatives se nourrissent mutuellement – et que le lecteur, lui, aimerait bien des réponses un peu plus solides que du vent et des métaphores.
Sources :
Comments are closed