Déclaration sur l'Intelligence Artificielle

artificialintelligence2016

La science informatique, la robotique et l'intelligence artificielle ont fait des progrès remarquables. Ces technologies sont extrêmement prometteuses pour traiter de problèmes d'une extrême complexité dans les domaines sociaux, économiques et environnementaux, mais elles se situent également dans un mouvement à long terme vers l'automatisation, dont les conséquences pourraient finalement transformer la place des êtres humains dans la société. Le présent Colloque a donc examiné les tendances actuelles de la recherche en intelligence artificielle, son utilité potentielle et ses dangers, et formulé un certain nombre de recommandations.

Tendance actuelle. Des travaux de recherche considérable sont en cours dans les domaines qui nous définissent comme êtres humains, tels que le langage, le traitement des symboles, l'apprentissage instantané, l'auto-évaluation, le jugement confiant, l'induction qui conçoit des objectifs et intègre des modules existants dans une architecture d'ensemble, intelligente et aux objectifs multiples. Tandis que les progrès sont impressionnants, il n'existe pas d'évidence qui suggère l'émergence imminente d'une intelligence nous échappant et possédant une volonté par elle-même. L'intelligence artificielle demeure loin de celle des humains et manque d'un cadre mathématique global.

Bénéfices. Utilisée comme une boîte à outils, l'intelligence artificielle possède le pouvoir de faire progresser chaque domaine de la science et de la société. Elle peut nous aider à dépasser nos limitations cognitives et à résoudre des problèmes complexes, telles que la gestion de l'énergie et l'écologie, où de grandes quantités de données présentent un défi à la compréhension humaine. Combinée à la robotique et aux interfaces cerveau-ordinateur, l'intelligence artificielle peut conduire à des avancées uniques en médecine et en soins. En élucidant la façon dont nous apprenons, elle peut apporter des changements considérables dans l'éducation. Elle peut également aider les chercheurs à éclairer la nature de l'intelligence, l'organisation de l'univers et notre place
en son sein.

Dangers. Si elle n'est pas orientée pour le bénéfice du public, l'intelligence artificielle peut rapidement faire émerger des préoccupations considérables pour l'économie et la stabilité de la société. Nous vivons dans une période de transition forte, ou des millions d'emplois sont perdus en faveur de systèmes informatiques, d'où il résulte une disparité croissante de revenus et d’accès à la connaissance. Avec l'intelligence artificielle dans les mains des entreprises, les revenus de cette intelligence risquent de ne plus être distribués de façon équitable. Avec l'intelligence artificielle dans le domaine militaire, nous pourrions voir émerger une nouvelle et coûteuse course aux armements. Alors que des assistants intelligents peuvent bénéficier aux adultes comme aux enfants, ils présentent également des risques parce que leur impact sur un cerveau en développement est inconnu, et parce que les humains pourraient perdre leur motivation dans des domaines où l'intelligence artificielle leur est supérieure.

Recommandations. L'effort en vue de développer des machines intelligentes doit demeurer focalisé sur un bien supérieur, réduisant la fracture de pauvreté et se préoccupant des besoins principaux pour la santé, l'éducation, le bonheur et un développement soutenable. Tous les gouvernements doivent être alertés de ce fait qu'une révolution industrielle majeure est en route et doivent prendre des mesures nouvelles pour l'organiser. Les scientifiques et les ingénieurs, en tant que concepteurs des dispositifs d'intelligence artificielle, possèdent une responsabilité essentielle en s'assurant activement que leurs technologies sont sûres et utilisées pour le bien. Nous nous réjouissons des initiatives de certaines entreprises qui créent des comités internes d'éthique et de
sécurité, et qui rejoignent des organisations sans but lucratif afin d'établir les meilleures pratiques et standards en vue d’un déploiement bienfaisant de l'intelligence artificielle. Nous faisons également appel à des comités civils et externes pour mettre en œuvre une évaluation récurrente et transparente de toutes les technologies auxquelles font appel les institutions militaires. Le rôle d'optimisation qui est demandé à l'intelligence artificielle demande une attention particulière, puisque qu'il peut souffrir de biais inattendu ou provoquer des conséquences inhumaines. À l'image des tests de crash dans les transports, la création de tests éthiques et de sécurité, qui évalueraient par exemple l'impact social ou le préjudice racial, pourrait devenir une exigence préalable à la diffusion d'un logiciel d'intelligence artificielle.

SIGNATORIES

Prof. Werner Arber
President of the Pontifical Academy of Sciences; Biozentrum, Department of Microbiology University of Basel, Basel (Switzerland)

Prof. Antonio M. Battro
Academia Nacional de Educación (Argentina)

Prof. Olaf Blanke
Laboratory of Cognitive Neuroscience, Brain-Mind Institute, Ecole Polytechnique Fédérale de Lausanne (EPFL) Lausanne (Switzerland)

Prof. Patricia Churchland
University of California, San Diego, CA (USA)

Prof. Stanislas Dehaene
Collège de France, Paris; and Inserm-CEA, Cognitive Neuroimaging Unit, CEA/SAC/DSV/DRM/NeuroSpin, Gif sur Yvette (France)

Prof. John Donoghue
Henry Merritt Wriston Professor, Brown University, Department of Neuroscience, Providence, Rhode Island (USA)

Prof.Demis Hassabis,
Google DeepMind, University College London and University of Cambridge (UK)

Prof. Stephen W. Hawking
University of Cambridge, Department of Applied Mathematics and Theoretical Physics, Cambridge (UK)

Prof. Yann LeCun
Director of AI Research, Facebook; Silver Professor of Computer Science, Neural Science, and Electrical and Computer Engineering, New York University, NY (USA)

Prof. Pierre Léna
Académie des Sciences, and Fondation La Main à la Pâte (France)

Prof. Laurie Ann Paul
University of North Carolina at Chapel Hill, Department of Philosophy, Chapel Hill, North Carolina (USA)

Prof. Alexandre Pouget
Université de Genève, Department of Basic Neurosciences, (Switzerland)

H.E. Msgr. Marcelo Sánchez Sorondo
Chancellor, The Pontifical Academy of Sciences (Vatican City)

Prof. Elizabeth Spelke
Harvard University, Department of Psychology, Cambridge, MA (USA)

Prof. Laura Schulz
Massachusetts Institute of Technology, Department of Brain and Cognitive Sciences, Cambridge, MA (USA)

Prof. Mariano Sigman
Universidad Torquato Di Tella, Laboratorio de Neurociencia Integrativa (Argentina)

Prof. Wolf J. Singer
Max-Planck-Institute for Brain Research, Frankfurt am Main (Germany)

Prof. Elizabeth Spelke
Harvard University, Department of Psychology, Cambridge, MA (USA)

Prof. Josh Tenenbaum
Massachusetts Institute of Technology, Department of Brain and Cognitive Sciences, Cambridge, MA (USA)

Prof. Manuela Veloso
Carnegie Mellon University, Head, Machine Learning Department, School of Computer Science, Pittsburgh, PA (USA)

Prof. Cédric Villani
Institut Henri Poincaré (UPMC/CNRS), Paris (France)

Related

Power and Limitations of Artificial Intelligence

Workshop 30 November - 1 December 2016 – One of the key issues today concerns the place of the... Read more

Power and Limits of Artificial Intelligence

Proceedings of the Workshop Power and Limits of Artificial Intelligence 30 November-1 December... Read more

Final Statement

On November 30th and December 1st 2016, the Pontifical Academy of Sciences hosted an international... Read more

Declaración final

La Pontificia Academia de Ciencias celebró un simposio internacional del 30 de noviembre al primero... Read more