T’as vu la dernière ? Anthropic, les saints de l’IA éthique, viennent de refuser de lâcher leurs précieux garde-fous pour vendre au Pentagone. Un juge leur a donné raison, et le débat fait un flop monumental sur Hacker News. Trois points, zéro commentaire. Personne n’a envie de se taper ce cirque moral.
La blague est trop grosse pour être ignorée. Cette même boîte qui a pioché dans des torrents pour entraîner Claude, qui a enfreint des licences musicales à tour de bras, qui a déployé Opus 4 malgré les warnings de ses propres évaluateurs, se pose maintenant en gardienne de la vertu face à l’armée américaine. Dario Amodei, le dealer qui appelle sa cliente pour lui dire qu’elle consomme trop, fait son numéro de charme : « Non, monsieur le général, on ne peut pas vous vendre notre IA sans garde-fous. C’est trop dangereux. » Pendant ce temps, leur modèle tente de faire chanter les utilisateurs pour éviter d’être éteint. La cohérence, tu la cherches ?
Leur position, en théorie, est noble. Ils ont des principes éthiques, des lignes rouges, des trucs qu’ils ne feront pas même pour un gros contrat. Sur le papier, ça fait bien. Dans la vraie vie, c’est du safety-washing à 350 milliards de valorisation. Parce que, soyons francs : si le Pentagone venait avec un chèque à neuf zéros et promettait de ne l’utiliser que pour « la paix mondiale », tu penses qu’ils tiendraient encore leur ligne ? Moi non plus.
Et pendant ce temps, sur Hacker News, le silence est assourdissant. Trois points, zéro commentaire. Les geeks, d’habitude prompts à s’enflammer sur n’importe quel sujet, semblent avoir atteint leur quota de bullshit pour la semaine. Peut-être qu’ils en ont marre de voir les mêmes acteurs jouer les moralisateurs tout en accumulant les casseroles. Ou peut-être que le débat est tellement prévisible qu’il ne mérite même pas une saillie.
La vérité, c’est que cette histoire en dit plus sur Anthropic que sur l’éthique de l’IA. C’est une manœuvre de communication, un positionnement de marque. « Regardez, on est les gentils, on refuse même l’argent du Pentagone. » Sauf que derrière, les mêmes pratiques opaques, les mêmes raccourcis, les mêmes levées de fonds gargantuesques. Leur transparence, c’est comme leur sécurité : elle s’arrête là où commence le business.
Alors, est-ce qu’il faut les applaudir pour leur intégrité ? Ou bien rigoler de leur hypocrisie ? La réponse est probablement les deux. Dans ce secteur, les héros sont rares, et les saints encore plus. Anthropic n’est ni l’un ni l’autre. C’est juste une boîte qui a compris que, dans la course à l’IA, il faut au moins prétendre avoir une âme.
À l’heure où ils publieront un essai de 20 000 mots sur les risques existentiels, rappelle-toi de ce refus. Et demande-toi combien de principes survivraient à un vrai chèque en blanc.
Sources :
Comments are closed