CINQ RISQUES MONDIAUX DE L'INTELLIGENCE ARTIFICIELLE GÉNÉRALE
Paris / La Gazette
La société américaine RAND Corporation a publié un rapport analytique sur les questions de sécurité nationale liées à l'émergence potentielle de l'intelligence artificielle générale (AGI).
Bien que l'accent principal du rapport soit mis sur la sécurité nationale des États-Unis, les défis discutés sont pertinents pour le monde entier, car le développement de l'IAG pourrait affecter la stabilité stratégique mondiale.
Les auteurs du rapport établissent des parallèles entre les capacités de l'IAG et la percée nucléaire de 1938. L'IAG pourrait devenir une "arme merveilleuse", offrant à son possesseur un avantage militaire décisif. Les menaces potentielles incluent la création de cyberattaques avancées, de systèmes d'armes autonomes et d'algorithmes capables de manipuler l'information à l'échelle mondiale.
Le deuxième facteur de risque est le changement systémique dans la structure du pouvoir mondial. Les auteurs soutiennent que l'histoire montre que les révolutions technologiques mènent rarement à une domination militaire immédiate. Cependant, l'IAG pourrait accélérer de manière significative les déséquilibres militaires et économiques, redistribuant ainsi le pouvoir entre les nations.
Le développement de l'IAG pourrait faciliter l'accès aux technologies de création d'armes biologiques, chimiques et cybernétiques. Les auteurs du rapport avertissent que l'IAG pourrait apprendre aux utilisateurs comment développer des systèmes dangereux, abaissant ainsi le seuil d'entrée pour les terroristes potentiels ou les nations hostiles.
Les modèles d'IA modernes démontrent déjà la capacité d'analyser des données technologiques complexes, ce qui pourrait mener à une situation où même des individus sans connaissances spécialisées pourraient reproduire des technologies dangereuses.
Une autre menace est l'émergence potentielle de systèmes d'IA autonomes capables de prendre des décisions sans intervention humaine. La difficulté à prédire le comportement de l'IAG ajoute des risques supplémentaires. De tels systèmes pourraient affecter les infrastructures critiques, y compris l'énergie, les transports et le contrôle militaire, créant ainsi le risque de perdre le contrôle sur elles.
Le dernier défi concerne l'incertitude entourant le chemin vers l'IAG. Dans la course à la suprématie de l'IA, les pays pourraient adopter des stratégies similaires aux confrontations nucléaires du XXe siècle, entraînant une instabilité et une confrontation sur la scène internationale.
Les experts avancent que les stratégies actuelles visant la supériorité technologique doivent être adaptées pour faire face aux nouvelles menaces. Les gouvernements sont conseillés de développer des plans de contingence pour les percées technologiques, d'établir des cadres réglementaires pour l'IAG et d'investir dans la recherche sur la sécurité de l'IA.
L'avenir de l'IAG reste incertain, mais une planification stratégique et une coopération internationale pourraient aider à minimiser les risques et à orienter le développement de ces technologies dans une direction sûre. La question est de savoir si la communauté mondiale sera capable de se préparer à cette révolution avant qu'elle n'arrive.
