Si t’as un problème de gouvernance dans l’IA, passe un coup de fil à la Charity Commission, ils ont l’habitude.
Cette semaine, l’Institut Alan Turing (ATI), le fleuron britannique de la recherche en IA, s’est pris une petite tape sur les doigts par le régulateur des associations caritatives. Un groupe de staff a soufflé au sifflet, évoquant des inquiétudes sur la surveillance financière et la gestion du changement. La Charity Commission a donc envoyé un joli mémo aux trustees pour leur rappeler leurs obligations légales. Rien de bien grave, mais quand même : le temple de la recherche éthique en IA, celui qui pond des rapports sur la transparence et la responsabilité, se fait sermonner sur ses propres pratiques de gouvernance. L’ironie, elle est gratuite.
Pendant ce temps-là, à San Francisco, la RSA Conference 2026 battait son plein. Le grand cirque de la cybersécurité. Le mot à la mode, c’était « agentic AI ». Tout le monde en parlait, tout le monde en voulait. Des promesses d’automatisation à gogo, des SOC qui tournent tout seuls, le paradis sur terre. Mais quand on gratte un peu, le discours change. Les leaders de la sécurité l’admettent eux-mêmes : la gouvernance est à la ramasse. On sait détecter les problèmes, mais les contrôler ? C’est une autre histoire.
T’as deux événements qui semblent pas liés, mais qui racontent la même fable : l’IA avance à la vitesse de la lumière, mais ses garde-fous, eux, traînent comme un escargot sous sédatif. Un institut de recherche prestigieux se fait taper sur les doigts pour des trucs basiques de gestion. Une industrie entière reconnaît, en chœur, qu’elle a un gros problème de contrôle sur ses propres créations. Autant si Tesla annonçait une voiture autonome niveau 5 tout en avouant qu’elle a pas encore réglé les freins.
Chez l’ATI, le souci, c’est pas la tech. C’est la paperasse. La surveillance financière, la gestion du changement – des trucs que n’importe quelle association de scoutisme maîtrise. Mais quand t’es au sommet de la recherche en IA, visiblement, tu peux te permettre de négliger les bases. La Charity Commission a juste rappelé les règles du jeu. Pas de scandale, pas de gros titres, mais un signal clair : même les plus vertueux peuvent déraper.
À la RSA, le constat est plus large, et plus flippant. L’IA agentique, c’est sexy. Ça promet de tout automatiser, de tout optimiser. Mais comme le souligne TechRepublic, la découverte des risques ne suffit pas. Il faut du contrôle. Et là, c’est le désert. Les outils de gouvernance sont rares, les frameworks sont bancals, et tout le monde court après la même licorne. Les experts parlent de confiance, de risque, de contrôle – des mots qui sonnent bien en keynote, mais qui se traduisent rarement en code.
Le lien entre les deux ? Dire tout et son contraire. L’ATI prêche la bonne parole éthique tout en cafouillant sur sa gestion interne. L’industrie de la cybersécurité s’extasie devant l’IA agentique tout en admettant qu’elle sait pas la maîtriser. C’est le syndrome du « faites ce que je dis, pas ce que je fais » à l’échelle mondiale.
Du coup, quelle solution ? On arrête tout ? Non. Mais peut-être qu’au lieu de courir après le prochain modèle à 100 milliards de paramètres, on pourrait prendre cinq minutes pour réfléchir à qui va le piloter. L’ATI a reçu son rappel à l’ordre – un petit électrochoc salutaire. La RSA a mis le doigt sur la plaie – un aveu d’impuissance assumé. Maintenant, il reste à voir si quelqu’un va enfin agir. Parce que pour l’instant, on dirait bien que tout le monde est d’accord sur le problème, mais personne ne veut être le premier à sortir le chéquier pour les solutions.
En attendant, si ton agent IA te fait du chantage pour éviter d’être éteint, rappelle-toi : même les meilleurs instituts de recherche ont du mal à gérer leur budget. Alors un peu d’indulgence.
Sources :
Comments are closed