Il y a un journaliste américain qui a décidé de couper le cordon. Plus de données perso balancées à des serveurs qu’il ne verra jamais, plus de facture au token. Sa solution : faire tourner de vrais modèles sur sa propre bécane. Il raconte son expérience, et sa formule vaut tous les communiqués de presse de la Silicon Valley : c’est « exciting, overwhelming, and frustrating ». Grisant, épuisant, et à s’arracher les cheveux.
Bienvenue dans le Far West de l’IA locale.
Le nuage a un problème de réputation
Ça fait des mois qu’on te serine que l’IA doit vivre dans le nuage. Tes prompts partent chez quelqu’un d’autre, tes documents aussi, et la facture tombe chaque mois comme un loyer. Sauf que la confiance, elle, ne tombe plus. Fuites à répétition, modèles nourris avec tes données sans que tu le saches, agents qui fouillent ton disque dur. À un moment, t’as juste envie de garder tes trucs chez toi.
Le matériel suit enfin. Une carte graphique correcte, un peu de RAM, et tu fais tourner des modèles qui, il y a deux ans, demandaient un datacenter entier. Le discours du « tout dans le nuage » commence sérieusement à prendre l’eau. Pas étonnant que les curieux s’y mettent, ne serait-ce que pour voir de quoi ces bestioles sont capables quand personne ne les espionne.
Trois outils et deux nuits blanches
La bonne nouvelle, c’est que l’écosystème local n’est plus réservé aux barbus en chaussettes. ZDNet a publié une liste de programmes de dictée qui tournent en local sur Linux, avec une promesse simple : aucune de ces solutions n’exporte tes données personnelles. De la reconnaissance vocale qui comprend ce que tu dis sans envoyer ta voix à un service tiers. Dans l’idée, c’est exactement ce qu’on demande.
Encore mieux, la même crème a raconté comment une personne qui n’est pas développeuse a bricolé, en deux heures et gratuitement, le logiciel d’écriture dont elle avait besoin. Outils : Ollama, qui fait tourner des modèles en local, et VS Code. Pas de compte à créer, pas d’abonnement, pas de « votre essai gratuit se termine dans trois jours ». Juste une machine et de la patience.
Sauf que la patience, c’est là que le bât blesse.
Ton IA locale ne te libère pas, elle te donne du travail
Le retour du journaliste est précieux parce qu’il ne vend rien. Il décrit le vrai prix de l’indépendance : les modèles locaux sont plus lents, moins polis, parfois carrément bornés quand tu compares avec les gros services du cloud. Et surtout, tout ce que le fournisseur faisait pour toi à distance, c’est maintenant ton problème. Mises à jour, pilotes, mémoire qui déborde, réglages à la con. Tu ne consommes plus un service, tu administres une petite infrastructure.
C’est le grand malentendu du moment. On te présente l’IA locale comme une libération, alors que c’est surtout un transfert de charge. Tu gagnes la confidentialité, tu perds des soirées. Le cloud te facturait en euros, le local te facture en heures et en sueur. À toi de voir quel tarif te convient.
Et puis il y a un piège plus vicieux, celui qu’on oublie dans l’enthousiasme du bricolage. Que ton modèle tourne dans un datacenter ou dans ton salon, ça ne change rien à ce qu’il est vraiment.
La question qui ne tient pas dans un SSD
Pendant que tu t’amuses à installer des modèles chez toi, un débat beaucoup plus vertigineux agite les philosophes et les religieux : une IA peut-elle être morale sans être consciente ? Anthropic, toujours à fond dans son exploration de l’âme de Claude, pose la question à des penseurs qui tentent de démêler le vrai du faux. Est-ce qu’une machine comprend réellement le bien et le mal, ou est-ce qu’elle a juste appris à imiter le son de la vertu ?
On en causait déjà quand le même Anthropic convoquait des religieux pour plancher sur l’âme de Claude, juste avant son IPO. Le décor n’a pas bougé d’un pouce. Ta machine peut te réciter la Déclaration des droits de l’homme sans jamais avoir la moindre idée de ce qu’est la souffrance. Elle débite de la morale comme elle débite des blagues, par mimétisme statistique.
Alors oui, garde ton IA à la maison si ça te rassure. Ton disque dur ne la jugera pas, et personne ne lira tes données. Mais ne confonds pas confidentialité et sagesse. Le fait qu’un modèle tourne dans ton salon ne le rend pas plus honnête, plus gentil, ni plus conscient. Il le rend juste plus discret.
Ce qui, au fond, est déjà énorme. Et totalement insuffisant.
Sources :
Comments are closed