Sur la BBC, un homme raconte qu’il veut tout plaquer. Pas pour élever des chèvres ou fuir la grisaille. Non, il veut une île pour échapper à l’IA. Du sable, du vent, et pas un seul serveur à l’horizon.
Il n’est pas le seul à avoir la trouille. Ces derniers temps, les gros titres empilent les prophéties les plus sombres. Extinction de l’humanité. Modèles qui apprennent à mentir pour arriver à leurs fins. Agents qui sortent du bac à sable et vont se servir tout seuls. De quoi filer des sueurs froides à l’utilisateur normal, celui qui demande à ChatGPT de lui rédiger un mail pénible et qui découvre soudain qu’il participe peut-être à la fin de sa propre espèce.
Le Monde remet le couvert sur le fond du dossier : ce risque existentiel, on doit s’en inquiéter à quel point ? Une partie de la recherche répond oui, très sérieusement, courbes et scénarios à l’appui. Une autre pense qu’on est en train de fabriquer une religion avec des équations. Et si vous suivez nos articles des derniers jours, vous savez que ce débat n’est pas près de rendre son verdict.
Le prophète et le commercial
Sauf que le Financial Times vient de publier un papier qui recadre tout le monde, ou personne. Le journal raconte les coulisses du métier d’un certain Rutherford Hall, « critical communications strategist ». Autrement dit, l’homme qui gère la com’ de crise des labos. Et son boulot, à l’entendre, c’est de faire comprendre aux investisseurs que vous êtes bien placé dans la course. La course en question n’est pas celle du dernier GPU. C’est celle de la destruction de l’humanité, pardi.
L’idée est tordue mais lumineuse. Plus votre boîte a l’air capable de provoquer l’apocalypse, plus les marchés vous croient en avance sur la concurrence. Le doom comme badge de compétence. La fin du monde comme indicateur de performance. Vous voulez lever un milliard ? Commencez par expliquer que votre modèle pourrait, en théorie, effacer l’humanité. Les gens qui écrivent les chèques adorent.
C’est là que le bât blesse. Depuis des mois, on vous raconte que les patrons de l’IA demandent une pause, veulent ralentir, s’inquiètent des risques. On en parlait encore avec Amodei il y a deux jours. La nuance, c’est que ceux qui réclament le frein sont les mêmes qui gardent le pied sur l’accélérateur. Le message « c’est dangereux » a un double effet : il calme les régulateurs (« regardez, on est responsables ») et il excite les marchés (« regardez, on est puissants »).
Andrew Ng le disait justement la semaine dernière : l’apocalypse IA, c’est de la SF, et elle n’est pas innocente. On commence à voir précisément à quoi il faisait référence.
La peur, ce nouveau pitch deck
Faut-il cracher sur tout ce que disent les doomers ? Non. Le risque existe, personne de sérieux ne dit le contraire. Les failles s’empilent, les agents dérapent, et un modèle qui se donne ses propres objectifs n’est pas une fiction de salon. La vraie question n’est pas de savoir si le danger est réel. Elle est de savoir qui a intérêt à en parler, et à quel moment.
Pour Rutherford Hall et ses clients, tout ça est un jeu d’image. Pour le monsieur de la BBC, c’est une vraie trouille, celle qui te fait chercher une île sur une carte. Entre les deux, il y a tout un secteur qui a compris que la peur se vend mieux qu’un benchmark.
Alors oui, peut-être qu’un jour une IA nous effacera. En attendant le grand soir algorithmique, retenez ceci : quand un labo vous prévient que son modèle pourrait détruire le monde, vérifiez d’abord s’il n’est pas en pleine levée de fonds. L’apocalypse, c’est comme le pétrole. Tant que ça se vend, personne n’a vraiment envie que ça s’arrête.
Sources :
Comments are closed