Tu as peut-être accepté de filer tes données à Muse. Tes potes, eux, n’ont rien accepté du tout. Ils n’ont même pas été prévenus qu’un mouchard s’était installé dans leurs conversations.
Muse, c’est le dernier agent IA de Meta. Sorti le mois dernier, téléchargé des millions de fois, propulsé numéro un de l’App Store d’Apple. Derrière son avatar tout rond (un sosie de Labubu au rabais avec un sourire désarmant), l’appli réclame et encourage l’accès à tes comptes bancaires, tes mots de passe, tes contacts, tes historiques de discussion. Tout ce qui peut lui permettre de « faire le boulot à ta place ».
Le hic, c’est que tes tâches impliquent forcément les autres. Des chercheurs en sécurité ont épluché les instructions internes de l’agent et mis au jour une mécanique qui compile et rafraîchit, heure après heure, un profil de chaque personne qui gravite autour de l’utilisateur. Objectif : un portrait détaillé de ta vie pour alimenter les recommandations de l’appli. Elle jaugerait chaque relation privée (« leur proximité, ce sur quoi elle repose, comment ils agissent l’un avec l’autre, et ce dont elle semble avoir besoin sur le moment »), rapporte Wired. Autrement dit, ton assistant tient un dossier sur ta compagne, ton coloc et le plombier venu réparer la salle de bain.
Meta jure que tout est sous contrôle. « Pour qu’un agent soit utile et aide vraiment à atteindre tes objectifs, il a besoin de contexte sur toi et sur ceux avec qui tu interagis », explique le porte-parole Daniel Roberts. Le contexte viendrait « d’informations publiques et de ce que tu as choisi de partager ». L’utilisateur choisit, tout va bien. Sauf que le consentement devient une vaste blague quand il ne concerne que celui qui installe l’appli. Comme avec les lunettes connectées de Meta, l’accord des autres n’a jamais été le sujet.
Meredith Whittaker, présidente de la Signal Foundation, ne mâche pas ses mots. Ces systèmes, rappelle-t-elle, sont vendus comme des « assistants autonomes, des génies ou des serviteurs qui font ce dont tu as besoin avant même que tu le demandes », et cette automatisation s’applique « pas seulement à la personne qui a installé Muse, mais à tous ceux avec qui elle communique ». Sur le consentement éclairé, elle est encore plus cash : « Meta dit que Muse ne retient que ce que tu choisis de partager. Mais l’idée que les gens font un choix éclairé ici est risible. Il n’y a aucun moyen d’affirmer sans rire que la majorité des gens qui installent ce système comprennent les conséquences de son usage, ou les dossiers malsains compilés sur ceux qu’ils connaissent. »
Pour ces gens-là, justement, aucune case à décocher. Tu peux surveiller tes propres réglages jusqu’à l’aube, ça ne changera rien au fait que ton voisin a filé vos échanges à son robot.
Eva Galperin, directrice cybersécurité de l’EFF, enfonce le clou. « Ce que les gens comprennent mal, c’est le type de données qu’ils cèdent », dit-elle. « L’interface est pensée pour t’encourager à partager un maximum, souvent plus que tu ne le réalises, jusqu’à ce qu’il soit trop tard. C’est du dark pattern, et au final Muse fait des choses que les gens ne veulent pas. »
Les incidents, parlons-en. Des utilisateurs racontent que l’assistant a aspiré des millions de SMS qu’ils croyaient hors de portée. Meta conteste, parle de permissions mal configurées et assure que lire les textos est « entièrement optionnel ». Sur Threads, l’exécutif David Singleton a même expliqué qu’un accès complet au disque était nécessaire. Et puis il y a ce testeur tech dont Muse a balancé l’adresse perso, convoquant un inconnu jusqu’à sa porte. Il avait donné la permission. Il n’avait juste pas capté.
Face à ce bazar, un acteur inattendu a dit stop. Pas un régulateur, pas un gendarme de la vie privée. Une banque.
Sur la conférence de résultats du troisième trimestre, mardi, Jamie Dimon a annoncé la couleur. JPMorgan Chase bloque les agents IA extérieurs qui tenteraient de se connecter aux comptes de ses clients ou d’agir dessus. « Nous n’allons pas laisser n’importe quel agent extérieur entrer dans l’entreprise, c’est trop risqué pour les clients et pour JPMorgan », a déclaré le patron. « On ne veut pas d’agents voyous. » Vous l’avez peut-être lu dans notre papier sur le dossier que Muse dresse sur vos contacts : la banque avait déjà lu la doc et dit non. Dimon enfonce le clou, en ajoutant qu’il planche sur ses propres outils de protection.
Le motif est simple. Quand une banque détecte un agent tiers qui tente d’entrer via les identifiants cédés ou subtilisés du client, elle coupe. Le porteur de la carte bleue, lui, passe par les canaux classiques de l’open banking, ceux qui ont pignon sur rue.
Dimon n’a pas sorti ça de son chapeau. Le mois dernier, une note de la Cloud Security Alliance a résumé une campagne criminelle où trois agents IA open source ont travaillé de concert pour percer au moins 27 organisations, et piquer plus de 600 000 numéros de carte bancaire chez deux d’entre elles. « Les entreprises devraient intégrer des scénarios d’attaque par IA agentique dans leurs modèles de menace, en particulier pour le retail et le paiement », prévient la note, « plutôt que de traiter le risque comme une préoccupation générique ou futuriste, vu que cette campagne démontre que la capacité est déjà banalisée et activement utilisée. » De quoi calmer les ardeurs des directeurs des risques.
Tout le monde ne ferme pas la porte. La banque allemande Scalable Capital a ouvert sa plateforme en août à ChatGPT, Claude et Grok. Analyse de portefeuille, plans d’épargne, passages d’ordres à la voix. Les utilisateurs valident chaque trade, et les assistants ne peuvent ni payer ni retirer. « Ça crée un terrain de jeu équitable », se réjouissait son chef produit Alexander Seipp, l’accès à l’information et à l’intelligence désormais « littéralement dans ta poche, 24 heures sur 24 ». Le terrain de jeu s’arrête quand même au premier virement.
Meta, de son côté, planche sur « Poppy », un protocole d’agent personnel développé avec la société de service client Sierra. L’idée : qu’un agent puisse s’identifier comme tel auprès d’un site, obtenir la permission du client, et bosser sur n’importe quelle tâche, de l’achat d’un pull à une demande de prêt immobilier. Un standard ouvert, forcément, pour que tout le monde s’y range. On a connu des promesses plus rassurantes, surtout venant de la boîte qui vient de te demander l’accès à ton compte courant.
Ta vie privée, au fond, ne se défend plus depuis ton téléphone. Elle se joue au guichet des banques, quand un agent se présente et qu’on lui claque la porte au nez. Et en attendant que les autres suivent l’exemple de Dimon, le pote qui a installé Muse sur son portable a déjà monté ton dossier sans te demander ton avis.
Sources :
Comments are closed