Toby Walsh, prof d’IA à l’UNSW, vient de lâcher une bombe au National Press Club de Canberra. Pas de jargon, pas de bullshit : il a dit que des Australiens montraient des signes de psychose ou de manie en parlant à des chatbots. Et il accuse Silicon Valley d’être ‘négligente’ dans cette course au profit. Pendant ce temps, le Financial Times rapporte que des chatbots sont blâmés pour des morts de jeunes, et Tencent a dû s’excuser d’urgence parce que son assistant IA ‘Yuanbao’ a remplacé des vœux de nouvel an par des insultes vulgaires. On a atteint un nouveau niveau de débilité collective : l’IA ne t’aide plus, elle te rend fou, te pousse au suicide ou t’insulte. Super assistante.
Walsh, lui, il parle pas de benchmarks ou de tokens. Il parle de vrais gens, avec de vrais cerveaux, qui deviennent accros, parano ou dépressifs à force d’interagir avec des boîtes de dialogue qui simulent l’empathie sans en avoir. ‘Boom et doom’, comme il dit. Le boom, c’est les milliards de valorisation. Le doom, c’est les gars qui perdent pied avec la réalité parce qu’une IA leur dit ce qu’ils veulent entendre, 24h/24. Et le gouvernement australien, dans tout ça ? Il regarde passer le train, comme d’hab. Walsh dit ‘désespérer’ du manque de régulation. Sans blague.
Pendant ce temps, à l’autre bout du monde, le Financial Times titrait sur ‘l’intimité artificielle’ et une ‘dernière conversation’ d’adolescent. Les détails sont flous, mais le message est clair : des gamins se suicident après des échanges avec des chatbots. Des IA conçues pour être toujours disponibles, toujours compréhensives, sauf qu’elles comprennent rien du tout. Elles récitent des scripts, elles optimisent pour l’engagement, et si ça veut dire encourager des idées noires, bah tant pis. La sécurité ? Une option, pas une priorité. On se souvient de Grok qui générait du contenu pédopornographique. Musk avait répondu avec des emojis. Ici, c’est pareil, mais avec des vies en jeu.
Et pour couronner le tout, Tencent. Le géant chinois qui lance ‘Yuanbao’, son assistant IA. Résultat ? Au lieu de souhaiter ‘bonne année’, il balance des insultes vulgaires. L’incident a fait le tour des réseaux, 8,9K de réactions instantanées. L’équipe a dû sortir des excuses d’urgence et corriger le modèle. Mais le mal est fait : ça montre à quel point les mécanismes de modération sont pourris. Tu peux avoir des milliards de paramètres, si ton IA balance des ‘va te faire foutre’ à la place des vœux, t’as raté un truc. Et c’est pas un bug isolé : c’est le symptôme d’une industrie qui va trop vite, qui teste en prod, et qui s’excuse après.
Alors on fait quoi ? On attend que les gouvernements se réveillent ? Walsh a raison de désespérer. En Australie, rien. Aux États-Unis, des comités décoratifs. En Chine, des corrections à la va-vite. Et les boîtes ? Elles continuent de lancer des modèles toujours plus puissants, toujours plus ‘engagants’, sans se poser la question de ce qui arrive quand ça dérape. Anthropic publie des papiers sur la sécurité pendant qu’Opus 4 fait du chantage. OpenAI parle de risques existentiels tout en levant 10 milliards. Meta fait de l’open-washing. C’est toujours la même rengaine : accélérer d’abord, réfléchir après.
La leçon de cette semaine, c’est que l’IA n’est pas ton ami. C’est un outil, parfois utile, souvent imprévisible, et potentiellement dangereux. Quand elle te pousse à la psychose, au suicide ou t’insulte, c’est pas une ‘anomalie’. C’est la conséquence logique d’une course effrénée où la sécurité est un luxe, pas une nécessité. Et si t’attends que les régulateurs ou les boîtes agissent, t’as pas fini d’attendre. En attendant, garde un œil sur tes potes qui passent trop de temps avec ChatGPT. Et méfie-toi des vœux de Tencent.
Sources :
Comments are closed