Des experts et Elon Musk réclament une pause dans l’IA, arguant "des risques majeurs pour l’humanité"

Qui ont signé la pétition ?

Dans la pétition qui est parue sur le site futureoflife.org, les signataires réclament un moratoire jusqu’à la mise sur les rails de systèmes de sécurité, dont des autorités réglementaires dédiées, la surveillance des systèmes d’IA, des techniques pour distinguer le réel de l’artificiel, et des institutions qui peuvent gérer les "perturbations économiques et politiques dramatiques (en particulier pour la démocratie) que l’IA provoquera", rapportent Le Figaro et d’autres médias nationaux.

Parmi les signataires : des personnalités ayant déjà publiquement exprimé leurs craintes envers des IA incontrôlables qui pourraient surpasser l’être humain, dont Elon Musk, et Yuval Noah Harari, l’auteur de ‘Sapiens’. Ils appellent à une pause de six mois dans la recherche sur les intelligences artificielles plus puissantes que ChatGPT 4, modèle d’OpenAI lancé il y a quelques jours. Ils évoquent "des risques majeurs pour l’humanité".

Les autres personnalités ayant signé la pétition sont des membres du laboratoire d’IA de Google DeepMind, le patron de Stability AI Emad Mostaque, concurrent d’OpenAI, le cofondateur d’Apple Steve Wozniak, ainsi que des experts en intelligences artificielles et universitaires américains, ou encore des ingénieurs de Microsoft.

> À lire aussi : ChatGPT : tout savoir sur cet outil d’intelligence artificielle

Même le patron d’OpenAI est inquiet

Sam Altman lui-même, patron d’OpenAI et concepteur de ChatGPT, a reconnu être "un petit peu effrayé" par son IA s’il était utilisé pour de "la désinformation à grande échelle ou des cyberattaques". Sur ABCNews, mi-mars, il a avoué que "la société a besoin de temps pour s’adapter".

"Ces derniers mois ont vu les laboratoires d’IA s’enfermer dans une course incontrôlée pour développer et déployer des cerveaux numériques toujours plus puissants, que personne - pas même leurs créateurs - ne peut comprendre, prédire ou contrôler de manière fiable", estiment les signataires de la pétition.

> Toute l’actualité internationale sur LINFO.re