Le cofondateur d'Ethereum, Vitalik Buterin, a déclaré que l'arrêt temporaire des ressources informatiques accessibles au niveau mondial pourrait être un moyen de « gagner du temps pour l'humanité » face à une éventuelle menace liée à l’émergence d’une superintelligence artificielle dangereuse.
Dans un billet publié le 5 janvier, qui fait suite à celui qu'il a publié en novembre 2023 où il plaidait pour le concept d’« accélération défensive » ou d/acc, Buterin a déclaré que l’IA superintelligente pourrait voir le jour dans cinq ans à peine, et qu'il est impossible de savoir si l'issue sera positive.
Il a évoqué une « pause douce » concernant le matériel informatique à grande échelle comme une option pour ralentir le développement de l’IA. Cette approche consisterait à réduire jusqu’à 99 % la puissance de calcul disponible à l’échelle mondiale pour une période d’un à deux ans, afin de « permettre à l’humanité de mieux se préparer ».
Source: Vitalik Buterin
La superintelligence artificielle désigne un modèle d’IA théorique qui surpasserait largement les esprits humains les plus brillants dans tous les domaines d’expertise.
De nombreux dirigeants de la tech et chercheurs ont exprimé leurs préoccupations à ce sujet. En mars 2023, plus de 2 600 signataires d’une lettre ouverte ont appelé à suspendre le développement de l’IA en raison des « risques profonds pour la société et l’humanité ».
Buterin a reconnu que son précédent billet sur le d/acc se contentait de « vagues appels à ne pas développer de formes risquées de superintelligence ». Il souhaite désormais aborder le scénario dans lequel le risque posé par l’IA serait élevé.
Cependant, Buterin a précisé qu’il ne défendrait une pause douce du matériel informatique que s’il était « convaincu qu’il faut quelque chose de plus ‘musclé’ que des règles de responsabilité ». Ces règles permettraient de poursuivre en justice ceux qui utilisent, déploient ou développent des IA causant des dommages.
Parmi les idées pour instaurer une pause, Buterin évoque la localisation des puces d’IA et l’obligation de les enregistrer. Il propose aussi d’équiper les matériels industriels d’une puce empêchant leur fonctionnement sans une validation hebdomadaire de trois grandes organisations internationales.
« Ces signatures seraient indépendantes des appareils (on pourrait même exiger une preuve à divulgation nulle de connaissance publiée sur une blockchain), rendant le processus tout ou rien », a-t-il écrit. « Il serait impossible d’autoriser un appareil à continuer de fonctionner sans autoriser tous les autres. »
Le concept de d/acc soutenu par Buterin prône une approche prudente du développement technologique, en opposition à l’e/acc (accélération effective), qui favorise une transformation technologique rapide et sans restrictions.