ChatGPT va souffler sa quatrième bougie le mois prochain. Quatre ans que la Nouvelle-Zélande cohabite avec la génération d’IA, et le pays n’a toujours pas franchement tranché ce qu’il veut en faire. Enfin si, il a tranché : le moins possible. Plus de la moitié des habitants y ont recours au moins une fois par semaine. Reste à savoir si ce choix tient jusqu’aux urnes.
Le gouvernement a accouché en 2025 d’une stratégie IA ouvertement « light-touch ». En clair : on encourage tout le monde à adopter la bête, on s’appuie sur les lois existantes pour gérer les risques, et pour le reste, on fait confiance. Des lignes directrices, des cadres volontaires, des bonnes intentions que les organisations sont invitées à suivre mais jamais obligées. Confortable pour l’adoption. Beaucoup moins rassurant quand une machine se met à décider à la place d’un être humain.
Parce que ça arrive, et le résultat dépend entièrement de la façon dont c’est fait. Bien pensé, un système automatisé accélère tout : une demande d’ACC validée avant même que le patient quitte son médecin, un remboursement d’impôt versé sans que le contribuable ait à bouger le petit doigt. Mal fichu, ça fait la une.
L’histoire du coin n’est pas vierge sur le sujet. En 2018, Immigration New Zealand a utilisé un modèle de décision automatisée pour repérer des personnes en situation de sursis, ce qui a valu au passage des accusations de profilage racial. La même année, de l’autre côté de la mer de Tasman, le programme Robodebt pondait des dettes sociales illégales, et l’Australie a fini par rembourser 721 millions de dollars australiens. Des précédents à garder sous les yeux, pas à accrocher au-dessus du canapé.
Le hic, c’est que le cadre néo-zélandais ne suit pas la cadence. Les garde-fous existent par bribes, via l’Official Information Act et le Privacy Act, mais ils sont taillés pour un monde qui a déjà disparu. Les systèmes d’IA générative, avec leurs modèles opaques, compliquent encore le repérage des biais et des discriminations. Et ce sont les Māori et les personnes en situation de handicap qui ramassent en premier.
Le pire tient peut-être au moment choisi. Le parlement vient de voter une loi qui autorise le Ministry of Social Development à automatiser les décisions sur les prestations sociales. Autrement dit, pendant qu’on débat pour savoir si l’IA a besoin de règles, l’État s’est discrètement donné le droit de laisser la machine trancher qui touche quoi. La Law Commission planche bien sur un cadre pour encadrer la décision automatisée dans l’administration, mais le chantier est encore ouvert. Le Canada, lui, impose des évaluations d’impact à ses agences depuis près de sept ans.
Le public n’est pas dupe. Un sondage a trouvé que huit Kiwis sur dix estiment qu’une régulation de l’IA est nécessaire. Une autre étude n’a relevé que 5 % de personnes interrogées vraiment confiantes que le gouvernement utiliserait l’IA de façon responsable. Cinq pour cent. Difficile d’y voir un plébiscite.
La logique affichée, c’est que la souplesse profite à l’adoption. Sauf que les questions qui fâchent ne sont pas techniques, elles sont politiques. Qui contrôle les systèmes dont le pays dépend ? Qui empoche les bénéfices ? Une bonne partie des outils, y compris ceux qui servent à décider de prestations, sont conçus et hébergés à l’étranger. Ça pose des questions sur la protection des données personnelles, la propriété intellectuelle, et la capacité de Wellington à garder la main sur ses propres services publics.
L’argent reste en suspens. Une bonne part des dépenses IA du pays atterrit chez des géants internationaux, dont certains déclarent peu de revenus sur place. Le débat sur leur taxation avant que les profits n’arrivent mérite d’être posé. Le gouvernement peut plaider la complexité. On peut aussi appeler ça un manque de volonté politique.
Reste l’infrastructure. Un centre de données est proposé pour le Southland, avec sa consommation d’énergie et son empreinte environnementale. Ça mérite un examen sérieux, mais ça ne peut pas résumer tout le débat.
Des modèles existent ailleurs. L’Australie a installé un AI Safety Institute, l’Union européenne a accouché de règles fondées sur le risque, le Canada impose des évaluations d’impact à ses agences. Pendant que la Nouvelle-Zélande soupèse, l’Agence européenne du médicament planche de son côté sur un document de réflexion pour l’usage de l’IA dans tout le cycle du médicament, de la découverte aux autorisations. Personne n’attend personne.
Il y a pourtant un point que le pays ne peut pas copier-coller depuis l’étranger : ses obligations au titre du traité de Waitangi. Tout cadre devra composer avec les droits et intérêts Māori, et garantir leur participation à la conception comme à la gouvernance des systèmes, surtout là où leurs données sont concernées. Des principes de souveraineté des données existent déjà, et ils ne restent pas dans les tiroirs. La non-profit Te Hiku Media a développé des technologies linguistiques pour le te reo Māori en gardant le contrôle des données au sein de la communauté. La preuve qu’on peut faire de l’IA sans céder les clés du coffre.
L’élection approche, les partis alignent leurs propositions, et le pays a enfin l’occasion de sortir du mode « on verra plus tard ». Parce que la main légère, ça tient jusqu’au jour où c’est ta prestation sociale qui passe à la moulinette. Ce jour-là, le light-touch prend un goût très concret.
Sources :
Comments are closed