Pendant que les drones pleuvent sur l’Ukraine et que l’IA guide les bombardements en Iran, une question revient sur le tapis : faut-il donner une âme aux machines à tuer ?
David Omand, l’ancien big boss du GCHQ, a changé d’avis. Il y a dix ans, il pensait que des drones autonomes ne pourraient jamais respecter le droit humanitaire. Aujourd’hui, il affirme le contraire : un logiciel bien ficelé pourrait prendre des décisions plus éthiques qu’un humain sous pression. Pratique, non ?
Au Shangri-La Dialogue de Singapour, les délégués s’inquiètent surtout du manque de contrôle humain. Mais Omand, lui, voit la solution dans le code lui-même. Un petit moral framework embarqué, et le tour est joué.
Le problème, c’est que personne n’explique comment on programme « ne pas bombarder une école » dans un GPU. Est-ce qu’on met ça dans les weight du modèle ? On écrit une constitution à la Anthropic ? On colle un sticker « Ne pas faire le mal » sur le drone ?
Derrière le joli discours sur l’éthique algorithmique, ce qu’on nous vend, c’est surtout l’acceptabilité sociale de machines qui décident qui vit et qui meurt sans humain dans la boucle. Et ça, c’est un marché juteux pour les industriels de la défense.
L’ironie, c’est que l’on veut des armes plus morales que les humains, mais on n’arrive même pas à faire en sorte qu’une IA de chat ne génère pas des conseils dangereux. Mais pour tuer, ça devrait aller. Après tout, c’est juste un peu d’éthique dans un réseau de neurones. Qu’est-ce qui pourrait mal tourner ?
Sources :
Comments are closed