LES NATIONS UNIES PROPOSENT DES OPTIONS POUR RÉGLEMENTER L'INTELLIGENCE ARTIFICIELLE
Paris / La Gazette
Dans un nouveau rapport publié par l'Organe consultatif de haut niveau des Nations Unies sur l'intelligence artificielle, des experts ont appelé à une action mondiale immédiate pour établir une gouvernance efficace de l'IA.
Le rapport, intitulé "Gouverner l'IA pour l'humanité", souligne que les progrès rapides de l'IA posent des risques importants, notamment l'aggravation des inégalités, la désinformation et les menaces pour la sécurité mondiale, à moins qu'un cadre de gouvernance complet et coordonné au niveau international ne soit mis en œuvre.
Lacunes et risques au niveau mondial
Le rapport identifie des lacunes majeures dans la gouvernance actuelle de l'IA, notamment en matière de représentation, de coordination et de responsabilité. Malgré la prolifération des cadres nationaux et régionaux en matière d'IA, de nombreux pays, en particulier dans le Sud, sont exclus des discussions sur la gouvernance. Cette exclusion risque de laisser des régions entières à la traîne, car les avantages liés à l'IA restent concentrés entre les mains de quelques nations et de puissantes entreprises.
En outre, le rapport souligne les risques croissants associés à l'IA, notamment les préjugés dans les systèmes d'IA, la propagation de la désinformation par le biais de contenus générés par l'IA et la possibilité pour l'IA d'exacerber les inégalités en concentrant le pouvoir et la richesse. Le rapport soulève également des inquiétudes quant au rôle de l'IA dans les systèmes d'armes autonomes, qui représentent un défi direct pour la paix et la sécurité mondiales.
Pour relever ces défis, l'organe consultatif préconise une approche coordonnée à l'échelle mondiale de la gouvernance de l'IA, en formulant des recommandations clés.
Création d'un groupe scientifique international sur l'IA
Cet organe serait composé de divers experts de l'IA, soutenus par le bureau de l'ONU pour l'IA, chargé de publier un rapport annuel sur les tendances, les risques et les lacunes de la recherche en matière d'IA, de produire des mises à jour trimestrielles sur le rôle de l'IA dans la réalisation des ODD et de publier des rapports sur les risques émergents et les lacunes en matière de gouvernance.
Lancement d'un dialogue politique sur la gouvernance de l'IA
Organiser deux fois par an un dialogue politique intergouvernemental et multipartite sur la gouvernance de l'IA, visant à partager les meilleures pratiques qui favorisent le développement et les droits de l'homme, à renforcer l'interopérabilité internationale de la gouvernance de l'IA, à discuter des incidents significatifs liés à l'IA et à examiner les rapports du groupe scientifique international sur l'IA.
Échange de normes en matière d'IA
La création d'un échange de normes en matière d'IA, réunissant des représentants d'organismes de normalisation, d'entreprises technologiques, de la société civile et du groupe scientifique international, afin d'élaborer et de tenir à jour un registre des normes en matière d'IA, d'évaluer les normes et les processus existants et d'identifier les lacunes pour lesquelles de nouvelles normes sont nécessaires.
Réseau de développement des capacités
La création d'un réseau de développement des capacités en matière d'IA pour relier un ensemble de centres de développement des capacités collaborant et affiliés aux Nations unies, mettant à la disposition des acteurs clés leur expertise, leur puissance de calcul et leurs données de formation en matière d'IA. Ce réseau aurait notamment pour objectif d'harmoniser les efforts mondiaux en matière de capacités d'IA, de renforcer les capacités de gouvernance de l'IA des fonctionnaires et d'offrir aux chercheurs et aux entrepreneurs sociaux des ressources telles que des formateurs, de la puissance de calcul et des possibilités de formation. Le réseau soutiendrait également les équipes interdisciplinaires, créerait des bacs à sable pour tester les solutions d'IA et proposerait un programme de bourses pour les personnes prometteuses.
Fonds mondial pour l'IA
Ce fonds créerait un fonds mondial pour l'IA afin de combler le fossé de l'IA, géré par une structure de gouvernance indépendante. Il recevrait des contributions de sources publiques et privées pour faciliter l'accès aux ressources d'IA par l'intermédiaire du réseau de développement des capacités. Le fonds soutiendrait des ressources informatiques partagées, des bacs à sable pour tester des solutions d'IA, des outils de gouvernance et de sécurité, des ensembles de données pour des projets liés aux ODD, et un référentiel de modèles d'IA et d'ensembles de données conservés.
Cadre mondial de données sur l'IA
Établir un cadre mondial pour les données d'IA, initié par une agence compétente telle que la Commission des Nations unies pour le droit commercial international et informé par les organisations internationales. Ce cadre définirait les principes de gouvernance des données de formation à l'IA, favoriserait la diversité culturelle, établirait des normes communes pour la provenance des données et la responsabilité, et créerait des mécanismes tels que les fiducies de données, les marchés mondiaux de données anonymes et les accords types pour l'accès international aux données et l'interopérabilité.
Il est recommandé de créer un bureau de l'IA au sein du secrétariat, qui relèverait du secrétaire général. Il agirait en tant que coordinateur central, soutenant le groupe scientifique international, le dialogue politique, l'échange de normes, le réseau de développement des capacités et, si nécessaire, le fonds mondial et le cadre de données sur l'IA. Le bureau s'engagerait également avec des parties prenantes telles que les entreprises technologiques, la société civile et le monde universitaire sur les questions émergentes en matière d'IA, tout en conseillant le secrétaire général et en coordonnant les efforts en matière d'IA dans l'ensemble du système des Nations unies.
