Demis Hassabis veut un gendarme IA calqué sur la finance

Figure-toi que Demis Hassabis, le cerveau derrière DeepMind et accessoirement Prix Nobel, s’est réveillé avec une idée : créer un organisme de régulation pour l’IA frontière. Dans un billet de blog qui sent bon l’angoisse existentielle, il propose une sorte de « FINRA de l’IA », un machin qui serait capable de tester les modèles et de ralentir leur déploiement si jamais ils deviennent trop dangereux. Et les États-Unis sont tout désignés pour diriger tout ça, pardi. Parce qu’apparemment, leur « standing économique et technique » en fait le pays idéal pour fixer les règles du jeu. Pas de chance pour le reste du monde, hein.

Hassabis n’y va pas par quatre chemins : « Personne au monde ne sait ce qui va se passer ensuite », balance-t-il. Traduction : on est dans le brouillard le plus total, alors autant mettre des garde-fous avant que ça parte en couilles. Son idée, c’est un organisme qui élabore des protocoles d’évaluation pour les modèles frontière et qui pourrait même coordonner un ralentissement général si besoin. Les startups et les modèles de recherche seraient exemptés, parce que bien sûr, on ne veut pas tuer l’innovation. Juste la réguler un peu. Enfin, surtout celle des gros.

Bon, soyons honnêtes : l’intention est louable. Le mec regarde le bordel ambiant, voit les modèles qui deviennent des boîtes noires toujours plus puissantes, et se dit qu’un peu de surveillance ne ferait pas de mal. Mais le modèle FINRA a ses propres casseroles dans le monde financier. Et si les US deviennent les shérifs de l’IA mondiale, c’est peut-être parce que la Silicon Valley a les moyens de mettre la main au portefeuille, et que Google, propriétaire de DeepMind, a tout intérêt à ce que les règles soient écrites par celui qui a la plus grosse calculette.

En attendant, le « précieux créneau » dont parle Hassabis pour préparer la société à des technologies qui avancent « à une vitesse historique » est peut-être en train de se refermer. Mais au moins, quelqu’un d’important agite les bras. Reste à voir si c’est un vrai plan d’action ou juste un moyen de se donner bonne conscience.