L’intelligence artificielle (IA) est omniprésente. « Elle peut être utilisée pour diagnostiquer des cancers ou faire apprendre du vocabulaire anglais aux élèves, mais aussi pour déterminer qui peut bénéficier de certaines prestations sociales et influencer notre comportement sur les réseaux sociaux », explique la professeure Alena Buyx, présidente du Conseil allemand d’éthique. Simplifier les procédures, nous décharger de certaines tâches, diagnostiquer des maladies : voilà qui promet des lendemains qui chantent. Mais pour le Conseil d’éthique, chargé en 2020 par le Bundesrat d’étudier les bénéfices et les dangers de l’IA, l’avenir n’est pas si rose. « L’IA ne doit pas remplacer l’humain », prévient la présidente de cet organe composé de scientifiques de différentes spécialités chargés de conseiller les instances politiques et le gouvernement sur les questions d’éthique. Elle voit plutôt les choses ainsi : « L’utilisation de l’IA doit viser à renforcer le développement, la créativité et les possibilités d’action des êtres humains, et non à les réduire. »

Agrandir l'image

Fermer

Tout au long des 287 pages de son rapport intitulé « L’être humain et la machine », le Conseil d’éthique décrit ainsi quels risques et quelles opportunités il associe aux nouvelles technologies. Le document (en allemand) a été présenté mi-mars à Berlin. L’une des missions essentielles du Conseil d’éthique consiste à porter un regard critique sur les nouvelles évolutions et à mettre en garde contre les éventuels dangers qui en découlent, ce qu’il a très précisément fait dans son étude sur l’IA. Pour Judith Simon, professeure spécialiste des questions d’éthique dans les technologies de l’information à l’université de Hambourg, déléguer des tâches à l’IA doit servir en principe à élargir les capacités humaines. L’enjeu consiste donc à « éviter de diminuer la capacité d’action des humains et la paternité de leurs créations, et à empêcher la diffusion de responsabilité. »

Le professeur Julian Nida-Rümelin, ancien délégué du gouvernement fédéral à la Culture, souligne lui aussi l’importance de la responsabilité humaine. Elle ne saurait « être déléguée à des machines ou partagée avec des machines ». Le recours à l’intelligence artificielle, en particulier dans les médias et la communication, par exemple dans les moteurs de recherche, les offres d’actualité ou encore les réseaux sociaux, est, selon le Conseil d’éthique, source de risques importants si l’IA n’y est pas utilisée de manière transparente. Les offres personnalisées, notamment, pourraient donner l’impression d’un choix objectif, mais ne reflèteraient en réalité que le comportement antérieur de l’utilisateur qui aurait été simplement compilé par l’IA, afin de servir l’intérêt commercial des fournisseurs privés à fidéliser leurs utilisateurs. Avec, comme conséquence, « ‘un rétrécissement de l’éventail des informations et des avis proposés », avertit M. Nida-Rümelin. Pour contrer ce risque, le Conseil d’éthique préconise la création d’une structure de communication numérique de droit public comme alternative aux plateformes des entreprises numériques privées. Ces nouvelles plateformes, qui ne doivent pas être confondues avec l’organisme de radiodiffusion de droit public en Allemagne, pourraient par exemple être exploitées par des fondations de droit public sur lesquelles l’État n’aurait qu’une influence minime.

© www.deutschland.de