Elon Musk et un groupe d’experts en intelligence artificielle et de dirigeants de l’industrie appellent à une pause de six mois dans le développement de systèmes plus puissants que le ChatGPT 4, récemment lancé par OpenAI. Dans une lettre ouverte, ils ont fait part des risques potentiels pour la société.
Plus tôt ce mois-ci, OpenAI, soutenu par Microsoft, a dévoilé la quatrième version de son programme d’IA GPT (Generative Pre-trained Transformer), qui a séduit les utilisateurs avec sa vaste gamme d’applications, allant de l’engagement des utilisateurs dans une conversation humaine à la composition de chansons et à la synthèse de longs documents.
La lettre, publiée par l’Institut à but non lucratif Future of Life et signée par plus de 1 000 personnes, dont Musk, appelait à une pause dans le développement avancé de l’IA jusqu’à ce que des protocoles de sécurité partagés pour de telles conceptions soient développés, mis en œuvre et audités par des experts indépendants.
L’IA pourrait faire plus de mal que de bien
« Des systèmes d’IA puissants ne devraient être développés qu’une fois que nous sommes convaincus que leurs effets seront positifs et que leurs risques seront gérables », indique la lettre.
La lettre détaillait les risques potentiels pour la société et la civilisation des systèmes d’IA compétitifs pour les humains sous la forme de perturbations économiques et politiques, et appelait les développeurs à travailler avec les décideurs politiques sur la gouvernance et les autorités réglementaires.
Les inquiétudes surviennent alors que la force de police européenne Europol a rejoint lundi ceux qui ontdes préoccupations éthiques et juridiques concernant l’IA avancée comme ChatGPT, mettant en garde contre l’utilisation abusive potentielle du système dans les tentatives de phishing, la désinformation et la cybercriminalité.
Pendant ce temps, le gouvernement britannique a dévoilé des propositions pour un cadre réglementaire « adaptable » autour de l’IA.
« Devons-nous laisser les machines inonder nos canaux d’information de propagande et de mensonges ? Devrions-nous automatiser tous les emplois, y compris ceux qui sont gratifiants ? Devons-nous développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, nous rendre obsolètes et nous remplacer ? Devons-nous risquer de perdre le contrôle de notre civilisation ? Ces décisions ne doivent pas être déléguées à des leaders technologiques non élus », concluent-ils.
Les signataires sont aussi composés du cofondateur d’Apple Steve Wozniak, des membres du laboratoire d’IA de Google DeepMind, le patron de Stability AI Emad Mostaque, concurrent d’OpenAI, ainsi que des experts en IA et universitaires américains, ingénieurs cadres de Microsoft, groupe allié de OpenAI.
Lire aussi : ChatGPT risque de supprimer 300 millions d’emplois humains (Rapport)
