Aux mains d’une poignée d’Etats, d’entreprises et d’individus, l’intelligence artificielle «peut aggraver le risque de la fracture et les inégalités numériques», affirme un nouveau rapport de l’Organisation des Nations unies.
Etabli par les experts de l’organisation, ce rapport met le doigt sur la capacité de l’IA à changer notre monde dans tous les domaines (ouverture de nouveaux champs scientifiques, optimisation des réseaux énergétiques, amélioration de la santé publique et l’agriculture…) et le danger que cela pourrait engendrer si «elle est livrée aux seuls caprices des marchés». Les experts nommés par le Secrétaire général de l’ONU estiment que «la nature même de la technologie-transfrontalière dans sa structure et son application-nécessite une approche mondiale».
Afin d’y arriver, les mêmes auteurs du rapport proposent la mise en place d’un cadre de gouvernance mondiale de l’IA. «Les matières premières nécessaires aux technologies d’IA, y compris les minéraux critiques, proviennent du monde entier, ce qui entraîne une bataille à l’échelle mondiale pour le pouvoir et la richesse que procurent ces produits rares», alerte le même rapport en mettant en garde sur la manière dont l’IA peut être utilisée pour attenter aux droits humains.
«Le système d’arme autonome pourrait prendre des décisions sans intervention humaine, ce qui soulève des questions éthiques et juridiques quant à la responsabilité et la protection des civils pendant les conflits», indique la même source en soulignant l’impact néfaste de la course aux armements pour la sécurité des êtres humains. Il est utile de noter que seuls sept pays, à savoir le Canada, la France, l’Allemagne, l’Italie, le Japon, le Royaume-Uni et les Etats-Unis adhèrent à sept initiatives en matière d’IA non gouvernementales, alors que 118 autres, principalement parmi les pays du sud n’y participent pas. «L’équité exige qu’un plus grand nombre de voix jouent un rôle significatif dans les décisions touchant à la bonne gouvernance des technologies qui nous affectent», soutient le rapport onusien.
Et d’ajouter : «La concentration de la prise de décision dan le secteur de la technologie de l’IA est injustifiable. Nous devons également reconnaître qu’historiquement, de nombreuses communautés ont été entièrement exclues des débats sur la gouvernance de l’IA qui les concerne.»
Les experts onusiens recommandent un certain nombre de mesures pour réglementer l’utilisation de l’IA dont celle de la création d’un groupe scientifique international indépendant sur l’IA. Les mêmes experts proposent également l’institution d’un dialogue politique intergouvernemental et multipartite semestriel sur la gouvernance de l’IA permettant de partager les meilleures pratiques, ainsi que l’établissement d’un fonds mondial pour l’IA destiné à réduire la fracture numérique.
L’ONU considère que tout «déploiement d’IA dans des contextes militaires doit être conforme au droit international et aux normes relatives aux droits humains, et a recommandé aux Etats de mettre en place des cadres juridiques et des mécanismes de surveillance solides».