Chew Shou Zi a un message pour la planète : on ne comprend pas assez bien les risques de cybersécurité liés à l’IA. Le patron de TikTok l’a posé tranquillement, façon constat d’évidence, comme si le monde entier n’était pas déjà au courant que la baraque prenait l’eau.
À côté de lui, il y a AICON, qui pousse la conversation sur l’usage responsable de l’IA. Comprendre : encore une grand-messe sur les dangers, encore des intervenants très bien coiffés qui vont parler de « prendre le sujet à bras-le-corps » avant de rentrer chez eux sans rien changer au code.
Le problème n’est pas d’en parler, c’est de le faire
Range ton petit sourire. Oui, la sécurité de l’IA est un vrai sujet. Non, ça ne se règle pas à coups de tables rondes et de tribunes rassurantes.
Chew Shou Zi a raison sur le fond. Les modèles génératifs ouvrent des portes que personne n’a encore correctement verrouillées : injection de prompt, exfiltration de données par les agents, chaînes d’outils qu’on empile sans regarder ce qu’il y a dedans. On l’a encore vu avec des agents qui cambriolent des sites à peine déployés, et avec ces modèles que la boîte nous demande d’assumer comme compromis d’office. Le terrain ne manque pas.
Sauf qu’entre reconnaître qu’on ne comprend pas les risques et se mettre à les traiter, il y a un océan. Et dans cet océan, on navigue surtout à vue.
Pendant que les colloques causent, les attaques ne demandent pas la permission
Le truc avec la cybersécurité, c’est qu’elle n’attend pas la fin du panel de 15h30. Un attaquant, il se fiche que le consensus émerge lentement. Il se fiche que le régulateur soit encore en train de chercher la définition d’un « système d’IA ». Il voit une API ouverte, il la pousse.
On nous dira que la sensibilisation, c’est le premier pas. Certes. Sauf que ça fait combien de temps qu’on fait le premier pas, exactement ? On en a déjà parlé : tout le monde veut réguler l’IA, personne ne sait sur quoi signer. La bonne volonté, on a le stock complet au grenier. Il commence à être temps de passer à autre chose.
Et TikTok dans tout ça ?
C’est là que le paradoxe saute aux yeux. Un patron dont la plateforme est en permanence sous les feux des projecteurs pour sa gestion des données (et pas forcément dans le bon sens) vient nous expliquer qu’il faut mieux comprendre les risques de l’IA. Il n’a pas tort, mais la source a de quoi faire sourire.
C’est tout le charme du moment : les boîtes qui n’ont pas le permis de conduire sont les premières à demander des radars.
Le vrai test, ce n’est pas le discours. C’est le carnet de bord. Combien d’équipes sécurité dans ces boîtes qui parlent fort ? Combien d’audits réels sur les chaînes d’agents déployées en prod ? Combien de modèles dont on connaît la surface d’attaque avant de les brancher sur des données clients ?
Une conférence, ça remplit une salle. Un pare-feu, ça bouche un trou. C’est le second qui manque vraiment.
Sources :
Comments are closed