Alors que tout le monde se bat pour qui aura le plus gros datacenter, Google sort une carte de crédit qui fait tourner des LLMs localement. C’est présenté au Google I/O : la Coral AI Development Board, un single-board computer format mini, avec une puce NPU qui culmine à 1 TOPS. Le pitch est aussi court que la bête : pas de cloud, pas de réseau, des inférences en local. Traduction vocale temps réel dans ta poche, sans avoir à supplier un serveur à l’autre bout du monde.
Oui, 1 TOPS, t’as bien lu. Pas de quoi faire trembler une A100, mais largement suffisant pour faire tourner Gemma 3, le petit modèle open source de Google. L’idée, c’est l’edge AI pour les devs matos : embarquer une IA réactive sans dépendre d’une connexion. Google recycle le nom Coral (souvenez-vous des petits modules USB pour TensorFlow Lite) et lui colle un NPU un peu plus costaud, un peu de RAM, le tout en format breadboard-friendly.
Bon, soyons clairs : on ne va pas faire tourner GPT-5 dessus. Mais pour de la reconnaissance vocale, de la traduction, des commandes vocales, des petits classifieurs, ça fait le job. Et surtout, ça pose une vraie question : est-ce qu’on a vraiment besoin de 400 milliards de paramètres pour 90% des usages ? Google parie que non, et il sort une planchette à 50 balles pour le prouver.
Évidemment, les sceptiques diront que 1 TOPS c’est risible, que les puces Qualcomm et Apple font mieux depuis des années. Certes. Mais le Coral Board, c’est pour les makers, les intégrateurs, les gens qui veulent du prototypage rapide sans se prendre la tête avec des drivers propriétaires. Et puis, entre nous, un petit Gemma 3 qui tourne hors ligne, c’est quand même vachement plus sympa qu’un système qui plante dès que t’es dans un tunnel.
Reste à voir l’écosystème : Google promet des kits de développement, des SDK, une intégration avec Arduino et Raspberry Pi. Si le bordel est bien foutu, ça peut devenir le couteau suisse de l’IA embarquée. Si c’est un énième gadget Google qui finit au placard dans deux ans, on aura perdu 50 balles et un peu de patience. Mais pour l’instant, chapeau bas : faire tenir un LLM dans une poche, sans internet, c’est une petite révolution silencieuse.
Sources :
Comments are closed