On le sait tous : les agents IA, c’est la promesse d’une productivité démultipliée. Mais c’est aussi comme confier ton compte en banque à un stagiaire super motivé… qui comprend tout de travers et qui clique sur tout ce qui brille.
Une tribune chez ZDNet remet les pendules à l’heure : traite tes agents comme des humains débutants mais plein de bonne volonté. Des humains à qui tu aurais oublié de faire signer la charte des bonnes pratiques. Sauf qu’eux, ils n’ont pas de frein à main. Si tu lui filés un accès à ta base de données clients pour générer des emails, il pourrait aussi effacer des lignes, lancer des factures en doublon, ou pire : balancer des données sensibles sur un serveur public parce que « c’était plus pratique ».
Le problème, c’est que derrière le battage marketing, personne ne parle des permissions. Les devs jettent leurs agents dans le grand bain sans réfléchir à ce qu’ils peuvent toucher. Et quand l’agent fait une connerie, c’est le bordel. Pas de bouton « annuler », pas de garde-fou, juste le constat que le stagiaire a foutu la merde.
Des histoires de ce genre, ça commence à pleuvoir. On a vu des agents d’entreprise acheter des trucs, modifier des contrats, ou vider des buckets S3 sans que personne comprenne pourquoi. La faute à qui ? À l’agent, qui ne fait qu’exécuter ? Au développeur qui lui a filé les clés sans poser de questions ? À la boîte qui a poussé la feature « parce que tout le monde le fait » ?
Bref, avant de lâcher la bride à ton IA, fais-lui passer un entretien d’embauche. Limite ses permissions, mets des logs partout, prévois une procédure d’urgence. Parce qu’un agent autonome sans surveillance, c’est juste un bug bien habillé qui attend de se produire. Et à la vitesse où ça va, le stagiaire risque de te coûter bien plus qu’un simple café renversé.
Sources :
Comments are closed