Sections

Un forum mondial pour une intelligence artificielle responsable

Un forum mondial pour une intelligence artificielle responsable

29.10.2019, par
Clarifier les enjeux scientifiques et sociaux associés au rapide développement de l'intelligence artificielle, tel est le but du Global Forum on AI for Humanity qui se tient à Paris du 28 au 30 octobre. Le point avec Malik Ghallab, directeur de recherche émérite au CNRS et co-organisateur de l'événement.

Vous co-organisez, avec Bertrand Braunschweig, directeur du centre de recherche Inria Saclay–Île-de-France, le Global Forum on AI for Humanity (GFAIH) ou Forum mondial sur l'intelligence artificielle (IA) qui se déroule du 28 au 30 octobre, à Paris. Dans quelles circonstances ce Forum a-t-il vu le jour ?
Malik Ghallab :  L’objectif de réunir cette conférence a été annoncé par le président de la République Emmanuel Macron il y a un an, en particulier dans le but d’éclairer les travaux d’une future organisation de coopération internationale sur l’IA. La tenue de ce forum à Paris traduit une volonté de positionnement de la France sur ces technologies aussi bien en termes de recherche scientifique et de développement économique qu’en matière d'engagement pour une IA responsable.

 

Les intervenants aborderont la question des risques en termes de sûreté, sécurité, confidentialité, impacts économiques et possibles biais des systèmes d’aide à la décision.

Combien de personnes prendront part à cet événement et quel est leur profil ?
M.G. : Au total, le GFAIH réunit près de 450 participants issus de 24 pays. Tout au long des trois jours du forum, près de 150 orateurs vont apporter leur éclairage sur les défis scientifiques de l'IA en lien avec les grands enjeux humains et sociaux. Les intervenants aborderont par ailleurs la question des risques en termes de sûreté, sécurité, confidentialité, impacts économiques et biais possibles des systèmes d’aide à la décision. La majorité des participants est issue du monde universitaire et académique. Des industriels, des représentants de la société civile et des organismes gouvernementaux participent également au forum.

Dispositif de reconnaissance faciale, campus Huawei's Bantian, à Shenzhen, en Chine. Certaines utilisations de l'intelligence artificielle peuvent poser des problèmes éthiques.
Dispositif de reconnaissance faciale, campus Huawei's Bantian, à Shenzhen, en Chine. Certaines utilisations de l'intelligence artificielle peuvent poser des problèmes éthiques.

Quelle est l'ambition de ce Forum mondial sur l’IA ?
M.G. : Il s'agit de réunir une large communauté interdisciplinaire de spécialistes provenant des sciences et de l’ingénierie mais aussi des sciences humaines et sociales dans le but de dégager un consensus autour d'un développement responsable de l'IA. Cette approche se décline en deux volets. Le premier traite de la mobilisation des technologies issues de l'IA sur les grands défis actuels de l'humanité. Cela concerne notamment les objectifs de développement durable de l'ONU en matière de santé, d'éradication de la pauvreté, d'accès à l'éducation ou de préservation de l'environnement. Le deuxième volet porte sur une meilleure appréciation des risques inhérents à l’IA et sur les moyens à mettre en œuvre pour les circonscrire.

Le GFAIH compte également aborder la question de l'IA sous un angle plus critique...
M.G. : Toute technologie porteuse de bienfaits comporte aussi des risques. Les incertitudes inhérentes au développement et au déploiement rapide de l’IA et du numérique nécessitent, autant que possible, d’être anticipées et maîtrisées. Ainsi, l'automatisation de l’industrie et des services a des impacts sur la division sociale du travail et sa transformation.

 

L'automatisation de l’industrie et des services a des impacts sur la division sociale du travail et sa transformation.

L’IA modifie aussi les échanges économiques via divers types de plateformes, de transactions financières à haute-fréquence ou de fixation automatique des prix par apprentissage. Quant aux technologies d'aides aux décisions personnelles ou professionnelles, si elles sont souvent précieuses, elles peuvent parfois être aliénantes. Il s'agit donc de déployer des efforts de recherche et des expérimentations afin d'appréhender ces différentes problématiques sur les plans techniques, sociaux et humains.

L'IA est aussi bien sûr vecteur de bienfaits, comme avec ce serious game conçu par les chercheurs du Limsi pour aider les jeunes médecins à se former à la consultation face à un avatar.
L'IA est aussi bien sûr vecteur de bienfaits, comme avec ce serious game conçu par les chercheurs du Limsi pour aider les jeunes médecins à se former à la consultation face à un avatar.

Le Forum s’inscrit par ailleurs dans le contexte de l’organisation d'un Partenariat mondial sur l’intelligence artificielle (le Global Partnership on Artificial Intelligence ou GPAI). De quoi s'agit-il ?
M.G. : L'idée de mettre en place un organisme de concertation mondial sur l'IA a été discutée officiellement à divers niveaux, en particulier lors des sommets du G7 de Montréal en 2018 et de Biarritz en 2019. Les modalités de fonctionnement de cet organisme sont actuellement en cours de négociation par les représentants des pays du G7, rejoints par d’autres partenaires. Une réunion des futurs membres du GPAI est d'ailleurs prévue pendant le forum.

 

L’acceptabilité sociale d’une technologie (...) ne se mesure pas uniquement à l'aune du nombre d'individus qui se l’approprient. Se posent en particulier des questions éthiques (...)

Quelle suite devrait être donnée à ce premier forum mondial sur l’IA ?
M.G. : Celui-ci fait en quelque sorte office de rampe de lancement au futur Partenariat mondial sur l’intelligence artificielle ou GPAI. Les recommandations publiées à l'issue de la conférence de cette semaine ont ainsi vocation à servir d'agenda initial aux groupes de travail de cet organisme. Dès l'an prochain, une assemblée annuelle plénière du GPAI devrait, en toute logique, prendre le relai du forum.

Le mode de fonctionnement du GPAI sera-t-il similaire à celui du Groupe d'experts intergouvernemental sur l'évolution du climat (GIEC) ?
M.G. : S'il s'agit bien du modèle qui a inspiré la création du GPAI, son fonctionnement devrait toutefois différer de celui du GIEC. Pour l'heure, se dessine la création d'un secrétariat permanent qui devrait s’appuyer sur une structure comme l'Organisation de coopération et de développement économiques (OCDE) et celle d'un conseil réunissant les représentants des différents pays impliqués. Le GPAI devrait également être doté d'un comité de pilotage constitué d'experts et de représentants des États impliqués. Ce partenariat mondial devrait enfin s’appuyer sur des groupes de travail et des réunions plénières annuelles.
 

Il reste de nombreux défis technologiques à relever avant l'arrivée de véhicules complètement autonomes, comme le soulignent les tests menés sur ce circuit expérimental de l'Institut Pascal, à Versailles (voir notre vidéo plus bas).
Il reste de nombreux défis technologiques à relever avant l'arrivée de véhicules complètement autonomes, comme le soulignent les tests menés sur ce circuit expérimental de l'Institut Pascal, à Versailles (voir notre vidéo plus bas).
 

Les débats citoyens sur ces questions sont également essentiels. Il convient (...) d'identifier les possibilités de régulation pour des développements éthiques en accord avec nos valeurs humanistes.

Quels sont les défis associés au développement rapide de la recherche en IA ?
M.G. : Les innovations dans ce domaine répondent à des besoins et créent des usages qui se développent très rapidement. Or l’acceptabilité sociale d’une technologie est exigeante et ne se mesure pas uniquement à l'aune du nombre d'individus qui se l’approprient. Se posent en particulier des questions éthiques et d’impacts à long termes, humains, culturels, de cohésion sociale et de respect de l’environnement. Sur tous ces points nos connaissances sont parfois lacunaires. Nous devons donc engager des efforts pour tâcher de mieux comprendre et anticiper toutes ces transformations.

Sur quels leviers faut-il agir en priorité pour construire une vision politique à la fois universelle et ambitieuse en matière d'IA ?
M.G. : Nos relations aux machines évoluent au rythme où se développent nos machines. Ces dernières devraient idéalement être conçues en prenant en compte l’humain, en vue de son épanouissement, et ne pas se révéler in fine une source d’aliénation. Les leviers d’action dont nous disposons pour relever ce genre de défis se situent au niveau de la recherche, tant technique que sociale mais aussi de l’éducation, de l’observation des effets, voire des expérimentations en amont des déploiements à grande échelle. Les débats citoyens sur ces questions sont également essentiels. Il convient enfin d'identifier les possibilités de régulation pour des développements éthiques en accord avec nos valeurs humanistes et ne pas hésiter, lorsque cela se révèle nécessaire, à mettre en œuvre le principe de précaution, comme cela est déjà le cas pour d’autres technologies. ♦
 
 
Pour en savoir plus sur le Forum mondial sur l'intelligence artificielle qui se tient à Paris du 28 au 30 octobre, rendez-vous sur le site du GFAIH.
 
 
À lire :
Comment l’intelligence artificielle va changer nos vies 
Peut-on faire confiance à l’intelligence artificielle ?
Robotique et intelligence artificielle : parlons-en !
 

À voir :
Pour la voiture autonome, la route est encore longue

Auteur

Grégory Fléchet

Grégory Fléchet est né à Saint-Étienne en 1979. Après des études de biologie suivies d’un master de journalisme scientifique, il s’intéresse plus particulièrement aux questions d’écologie, d’environnement et de santé.