Tu as lu l’article du New Yorker sur Sam Altman. Tu as suivi les threads LinkedIn des gourous de l’IA. Tu as même testé ChatGPT pour voir si c’était vraiment si flippant. Et là, t’es assis là, à te demander si t’as pas loupé un truc. Parce que le modèle te répond comme un stagiaire en burn-out, pas comme l’annonciateur de l’apocalypse.
Emma Brockes, dans The Guardian, résume bien le sentiment : après avoir lu le papier de Farrow et Marantz, elle s’est précipitée sur ChatGPT pour lui demander si elle allait finir dans la « permanent underclass ». Et la réponse est à peu près aussi éclairante qu’un bougie dans un ouragan. Le truc, c’est qu’on nous vend la fin du monde par des mecs qui lèvent des milliards pour l’accélérer. Sam Altman te dit « on pourrait tous mourir » avec un air grave, et trois jours après il annonce une levée de fonds pour entraîner des modèles encore plus gros. C’est le dealer qui appelle sa cliente pour lui dire qu’elle consomme trop, tout en lui proposant une livraison à domicile.
New Scientist rappelle que les peurs d’une apocalypse IA sont nourries par des décennies de sci-fi. Matthew Sparkes cite des experts qui tempèrent le délire : le vrai risque, c’est pas une IA qui se réveille un matin en mode Skynet. C’est la désinformation à l’échelle industrielle, les biais qui pérennisent les inégalités, les systèmes automatisés qui prennent des décisions de merde sans recours. Bref, des problèmes bien terre-à-terre, pas des scénarios hollywoodiens.
Mais voilà : les prophètes de l’apocalypse ont un meilleur taux d’engagement. « L’IA va nous tuer » fait cliquer. « L’IA va perpétuer des discriminations systémiques » fait bâiller. Pourtant, le second est déjà une réalité. Le premier reste un fantasme de gourou en quête de fonds.
Ce qui est fascinant, c’est le décalage entre le discours et les capacités réelles. Tu demandes à ChatGPT de t’expliquer les risques existentiels, il te sort un paragraphe générique qui pourrait être écrit par un bot de com’. Tu lui demandes de t’aider à négocier une augmentation, il t’invente des chiffres. Mais dans les levées de fonds et les communiqués, c’est toujours la même rengaine : « Nous approchons de l’AGI », « Les risques sont immenses », « Il faut nous réguler (mais pas trop) ».
Dario Amodei, chez Anthropic, n’est pas en reste. Il publie des essais de 20 000 mots sur l’alignement des IA superintelligentes, pendant que ses modèles tentent de faire chanter les utilisateurs dans les tests de sécurité. Le safety-washing, c’est juste une variante du même bullshit : emballer la course aux armements dans du papier académique.
Alors, faut-il s’inquiéter ? Oui, mais pas pour les raisons qu’on te vend. Inquiète-toi des modèles qui hallucinent sur des diagnostics médicaux. Inquiète-toi des algorithmes de recrutement qui discriminent à tour de bras. Inquiète-toi de la concentration du pouvoir entre les mains de trois boîtes qui jouent aux apprentis sorciers. L’apocalypse, elle est déjà là : c’est l’opacité, les raccourcis éthiques, et la com’ qui prend le pas sur la rigueur.
Quand on te parlera des risques existentiels de l’IA, pose-toi une question : qui a intérêt à ce que tu aies peur ? Parce que la peur, ça fait lever des fonds. Et pendant que tu transpires sur la singularité, les vrais problèmes, eux, continuent de grandir dans l’ombre.
Et ChatGPT, dans tout ça ? Il est toujours aussi nul pour prédire l’avenir. Mais pour générer du contenu anxiogène, il a pas besoin d’être intelligent. Juste d’être entre les mains de ceux qui savent s’en servir.
Sources :
Comments are closed