Tu connais ce sentiment quand tu regardes un concours de beauté et que le jury annonce les gagnants avec des critères tellement obscurs que tu te demandes s’ils n’ont pas tiré les noms d’un chapeau ? Eh bien, aujourd’hui, on a une version corporate de ce spectacle. Deux boîtes à Singapour viennent d’être « reconnues » pour utiliser l’IA pour « transformer leurs industries ». Super. Pendant ce temps, sur Hacker News, un article soulève une question plus intéressante : comment ces putains de modèles IA choisissent-ils les entreprises à recommander ? En réalité, c’est pas aussi objectif qu’on voudrait te le faire croire.
Commençons par le côté guirlandes et trophées. Deux entreprises singapouriennes (les noms ne sont pas donnés dans la source, ce qui est déjà un red flag de taille) se voient décerner une récompense pour leur usage de l’IA. La formulation est typique du corporate bullshit : « transformer leurs industries ». Ça sent la com’ bien huilée, le genre de truc où tu te demandes si l’IA en question n’est pas juste un ChatGPT finetuné pour répondre aux mails clients. Mais bon, on va pas cracher dans la soupe — peut-être qu’elles font vraiment des trucs cools. Sauf que sans détails, c’est dur de juger. Et c’est là que ça devient marrant.
Parce que pendant qu’on distribue des médailles, un article partagé sur Hacker News (avec un score pourri de 4 points et zéro commentaire, mais passons) pose une question cruciale : comment les modèles IA décident-ils quelles entreprises méritent d’être recommandées ? Le lien pointe vers driftspear.com, un blog qui explore probablement les biais algorithmiques. L’idée, c’est que ces modèles ne sont pas des juges impartiaux. Ils bouffent des données, souvent pleines de biais humains, et recrachent des recommandations qui peuvent favoriser certains profils (les grosses boîtes, celles qui font du buzz, celles qui collent aux trends du moment) au détriment d’autres. C’est un peu comme si tu demandais à un fanboy d’Elon Musk de te lister les entrepreneurs les plus innovants — tu vas avoir du Musk, du Musk, et encore du Musk.
Du coup, ces entreprises singapouriennes récompensées, est-ce qu’elles sont vraiment des pionnières, ou est-ce qu’elles ont juste su jouer le jeu ? Peut-être qu’elles ont une IA qui optimise leur supply chain de ouf, ou peut-être qu’elles ont embauché un stagiaire qui a branché une API OpenAI sur leur site web. Sans transparence, on en sait rien. Et c’est là que le bât blesse : les récompenses, les recommandations IA, tout ça repose sur des critères souvent opaques. OpenAI, Anthropic, Google — tous ces acteurs te vendent des modèles « objectifs », mais derrière, c’est du training data qui reflète nos propres conneries.
Prenons un exemple concret. Imagine un modèle IA qui recommande des startups à investir. Si le dataset est bourré d’articles sur des levées de fonds spectaculaires (style celles d’OpenAI ou d’Anthropic), il va naturellement favoriser les boîtes qui ressemblent à ça : narrative sexy, levées énormes, fondateurs médiatiques. Une petite PME qui fait un truc utile mais discret ? Elle passe à la trappe. C’est le même principe pour ces récompenses singapouriennes : qui décide des critères ? Un jury humain biaisé, ou une IA elle-même biaisée ? La boucle est bouclée.
Et c’est pas qu’un problème théorique. Si tu es une entreprise, être « reconnue » par l’IA peut ouvrir des portes — financement, visibilité, crédibilité. Mais si le système est pourri, tu te retrouves avec des gagnants qui savent juste bien emballer leur bullshit, et des perdants qui font peut-être un travail plus solide. C’est le benchmarketing appliqué aux récompenses corporates. Google qui se vante de battre GPT-4 sur 47 benchmarks, Anthropic qui publie des papiers sur la sécurité tout en ignorant ses propres red flags — c’est le même jeu.
Alors, ces deux boîtes à Singapour ? Peut-être qu’elles méritent leur trophée. Peut-être pas. Sans plus d’infos, c’est dur de dire. Mais ce qui est sûr, c’est que cette histoire met en lumière un truc plus large : l’IA n’est pas un oracle neutre. Elle amplifie nos biais, elle reproduit nos inégalités, et elle peut transformer des récompenses en exercices de relations publiques. Quand une entreprise est « reconnue par l’IA », il faut se demander qui a programmé le reconnaisseur. Parce que derrière chaque algorithme, il y a toujours un humain qui a décidé ce qui compte. Et souvent, cet humain a ses propres intérêts.
On est encore loin d’une IA qui choisit les meilleures entreprises. Pour l’instant, elle choisit surtout celles qui ressemblent à ce qu’on lui a appris à valoriser. Et ça, c’est un problème qui ne se règle pas avec un trophée.
Sources :
Comments are closed