Déclaration sur l'Intelligence artificielle

La science informatique, la robotique et l'intelligence artificielle ont fait des progrès remarquables. Ces technologies sont extrêmement prometteuses pour traiter de problèmes d'une extrême complexité dans les domaines sociaux, économiques et environnementaux, mais elles se situent également dans un mouvement à long terme vers l'automatisation, dont les conséquences pourraient finalement transformer la place des êtres humains dans la société. Le présent Colloque a donc examiné les tendances actuelles de la recherche en intelligence artificielle, son utilité potentielle et ses dangers, et formulé un certain nombre de recommandations.

Tendance actuelle. Des travaux de recherche considérable sont en cours dans les domaines qui nous définissent comme êtres humains, tels que le langage, le traitement des symboles, l'apprentissage instantané, l'auto-évaluation, le jugement confiant, l'induction qui conçoit des objectifs et intègre des modules existants dans une architecture d'ensemble, intelligente et aux objectifs multiples. Tandis que les progrès sont impressionnants, il n'existe pas d'évidence qui suggère l'émergence imminente d'une intelligence nous échappant et possédant une volonté par elle-même. L'intelligence artificielle demeure loin de celle des humains et manque d'un cadre mathématique global.

Bénéfices. Utilisée comme une boîte à outils, l'intelligence artificielle possède le pouvoir de faire progresser chaque domaine de la science et de la société. Elle peut nous aider à dépasser nos limitations cognitives et à résoudre des problèmes complexes, telles que la gestion de l'énergie et l'écologie, où de grandes quantités de données présentent un défi à la compréhension humaine. Combinée à la robotique et aux interfaces cerveau-ordinateur, l'intelligence artificielle peut conduire à des avancées uniques en médecine et en soins. En élucidant la façon dont nous apprenons, elle peut apporter des changements considérables dans l'éducation. Elle peut également aider les chercheurs à éclairer la nature de l'intelligence, l'organisation de l'univers et notre place en son sein.

Dangers. Si elle n'est pas orientée pour le bénéfice du public, l'intelligence artificielle peut rapidement faire émerger des préoccupations considérables pour l'économie et la stabilité de la société. Nous vivons dans une période de transition forte, ou des millions d'emplois sont perdus en faveur de systèmes informatiques, d'où il résulte une disparité croissante de revenus et d’accès à la connaissance. Avec l'intelligence artificielle dans les mains des entreprises, les revenus de cette intelligence risquent de ne plus être distribués de façon équitable. Avec l'intelligence artificielle dans le domaine militaire, nous pourrions voir émerger une nouvelle et coûteuse course aux armements. Alors que des assistants intelligents peuvent bénéficier aux adultes comme aux enfants, ils présentent également des risques parce que leur impact sur un cerveau en développement est inconnu, et parce que les humains pourraient perdre leur motivation dans des domaines où l'intelligence artificielle leur est supérieure.

Recommandations. L'effort en vue de développer des machines intelligentes doit demeurer focalisé sur un bien supérieur, réduisant la fracture de pauvreté et se préoccupant des besoins principaux pour la santé, l'éducation, le bonheur et un développement soutenable. Tous les gouvernements doivent être alertés de ce fait qu'une révolution industrielle majeure est en route et doivent prendre des mesures nouvelles pour l'organiser. Les scientifiques et les ingénieurs, en tant que concepteurs des dispositifs d'intelligence artificielle, possèdent une responsabilité essentielle en s'assurant activement que leurs technologies sont sûres et utilisées pour le bien. Nous nous réjouissons des initiatives de certaines entreprises qui créent des comités internes d'éthique et de sécurité, et qui rejoignent des organisations sans but lucratif afin d'établir les meilleures pratiques et standards en vue d’un déploiement bienfaisant de l'intelligence artificielle. Nous faisons également appel à des comités civils et externes pour mettre en œuvre une évaluation récurrente et transparente de toutes les technologies auxquelles font appel les institutions militaires. Le rôle d'optimisation qui est demandé à l'intelligence artificielle demande une attention particulière, puisque qu'il peut souffrir de biais inattendu ou provoquer des conséquences inhumaines. À l'image des tests de crash dans les transports, la création de tests éthiques et de sécurité, qui évalueraient par exemple l'impact social ou le préjudice racial, pourrait devenir une exigence préalable à la diffusion d'un logiciel d'intelligence artificielle.