Malgré son utilité apparente, l’intelligence artificielle (IA) comporte des risques importants pour l’existence humaine. Des menaces, qui font débat au sein de la communauté scientifique et appellent des mesures urgentes. OpenAI, l’entreprise dernière ChatGPT, souhaite impulser cette dynamique.
OpenAI monte une équipe chargée évaluer les dangers de l’IA
OpenAI, la société mère de ChatGPT, a annoncé la mise du pied d’une équipe pour travailler sur les risques associés à l’intelligence artificielle (IA). Baptisée « Preparedness », cette cellule a pour principale mission d’évaluer les dangers que présentent l’IA pour les utilisateurs.
L’annonce, publiée jeudi 26 octobre dans un article de blog, intervient dans un contexte où ChatGPT et l’IA de manière globale sont critiqués. Ces plaintes émanent de plusieurs gouvernements qui ont soulevé des préoccupations sécuritaires pertinentes concernant l’utilisation de l’IA.
Les risques évoqués concernent notamment la cybersécurité et la persuasion individualisée. L’IA présente également des risques chimiques, biologiques, radiologiques et nucléaires. Sans compter la réplication et l’adaptation autonome, et plus grave encore, la désinformation.
Au-delà du fait d’évaluer l’ampleur de ces différents risques pour l’homme, l’équipe Preparedness d’OpenAI travaillera à leur gestion. Pour la compagnie dirigée par Samuel Altman, il s’agit d’une contribution au prochain sommet mondial sur l’IA au Royaume-Uni.
À lire également : L'absurde frénésie autour de l'IA touche à sa fin
Un prélude au sommet mondial sur l’IA
Il faut dire que ce développement autour d’OpenAI intervient quelques semaines après l’annonce de la tenue du premier sommet mondial sur l’IA. Ce dernier se tiendra à Bletchley Park, au Royaume-Uni.
Le choix de ce lieu est symbolique, car chargé d’histoire. En effet, Bletchley Park est le quartier général britannique du décodage des messages cryptés ennemis pendant la Seconde Guerre mondiale. Il est notamment célèbre pour le décryptage des codes nazis.
Cet évènement qui se tiendra le 1er et le 2 novembre devrait mobiliser des représentants d’États, des grandes entreprises actives dans le domaine de l’IA et des chercheurs. L’objectif étant d’évaluer les dangers de l’IA afin de mettre en place des mesures coordonnées à l’échelle internationale pour les atténuer.
Paradoxalement, le pays hôte ne semble pas s’inscrire dans cette logique. En tout cas, pas dans l’immédiat. En effet, selon certaines sources, Rishi Sunak, le Premier ministre britannique ne souhaiterait pas réglementer rapidement l’intelligence artificielle. Il craint notamment que l’humanité ne perde complètement le contrôle de l’IA.