Sections

Ava, le robot qui nous calculait trop

Ava, le robot qui nous calculait trop

01.06.2015, par
Mis à jour le 29.02.2016
« Ex Machina », thriller high-tech sur l’intelligence artificielle, vient de remporter l'Oscar des meilleurs effets visuels. Nous l’avions vu en avant-première avec un expert du domaine, l’informaticien Jean-Gabriel Ganascia.

Une machine intelligente échappe-t-elle forcement à son créateur ? Dans Ex_Machina, Alex Garland, scénariste du magnifique Never Let Me Go 1, remet le couvert sur ce thème rebattu de la science-fiction. Au cœur de ce huis-clos étouffant, Caleb, jeune programmeur prodige chez BlueBook, moteur de recherche et géant d’Internet, est invité à passer une semaine chez son patron, Nathan, hipster barbu au crane rasé, retiré dans une villa bunker au fin fond de l’Alaska. Caleb y participera à une expérience unique : interagir avec Ava, un troublant robot féminin. Dans la forteresse high-tech truffée de caméras, de courtes pannes d’électricité offrent à Ava et Caleb de brefs moments d’intimité hors de la surveillance de Nathan…

Le film ne se limite pas à une mise en scène du test de Turing

À première vue, Ex_Machina ressemble à une mise en scène stylisée d’un test bien connu en intelligence artificielle : le test de Turing. Il consiste à confronter à l’aveugle des humains et des machines. Si une personne ne peut dire si elle discutait avec un congénère ou non à l’issue d’un chat avec un logiciel, on considère que ce dernier – capable de bluffer les humains en imitant leur façon de converser – a passé le test avec succès. « Mais dans le film, commente Jean-Gabriel Ganascia, chercheur au LIP62, c’est l’être humain qui subit le test : tout est inversé ! » Ava, dont le prénom peut se lire à l’envers, prend le dessus en posant elle-même les questions. Et son corps laisse clairement voir ses entrailles mécaniques... Fini donc le test à l’aveugle : Nathan, le big-boss, parie insolemment sur le fait que sa créature aura quand même l’air dotée d’intelligence et de conscience.

 

 

Mais le film ne se limite pas au test de Turing, passera, passera pas… « Ava “dépasse” son créateur, poursuit Jean-Gabriel Ganascia, Ex_Machina renvoie donc aussi à une thématique à la mode : la singularitéFermerMathématiquement, la singularité correspond à un point d’inflexion dans la courbe qui présente l’évolution de la technologie en fonction du temps, sous forme logarithmique. Très critiquée pour son manque de solidité scientifique, elle correspondrait au moment où la croissance technologique accède à un ordre supérieur. Des futurologues et des transhumanistes prétendent qu’elle aura lieu dans les années 2030.. » La singularité, c’est ce moment hypothétique qui verrait la croissance technologique accéder à un ordre supérieur. Il s’agirait d’intelligences artificielles (IA) dépassant les humains qui les ont créées. À partir de là, les machines pourraient prendre le pouvoir, se réparant et s’auto-engendrant elles-mêmes. La thématique est riche : la science-fiction (SF) en a fait son pain quotidien. Et Skynet, l’IA qui décide de construire une armée de robots terminators dans les films de James Cameron, lui doit absolument tout... 

Il est plus que
discutable que des
informaticiens,
physiciens, etc.,
affirment sans
preuves que la
singularité est une
réalité scientifique.

« Que la SF comme Ex_Machina s’empare de ce thème, d’abord né en philosophie 3, est légitime. Mais il est plus que discutable que des informaticiens, physiciens, etc., affirment aujourd’hui sans preuves que la singularité est une réalité scientifique », insiste Jean-Gabriel Ganascia. En cause, des déclarations alarmistes faites à la presse il y a quelques mois sur les dangers de l’IA par Stephen Hawking, le célèbre physicien, Bill Gates, fondateur de Microsoft, et Elon Musk, créateur de Paypal. Et l’alerte lancée, de manière plus mesurée, dans une lettre ouverte signée en janvier dernier par 700 personnalités, dont à nouveau Stephen Hawking et Elon Musk, mais aussi Frank Wilczek, Prix Nobel de physique, et des membres éminents de Google. « Les signataires sont souvent ceux qui développent justement des produits riches en IA : un peu hypocrite, non ? », fait remarquer Jean-Gabriel Ganascia.

On peut aussi évoquer l’étonnante Université de la singularité, sorte de centre de recherche et d’éducation autour de la high-tech dite de rupture, créé en 2009 dans la Silicon Valley, aux États-Unis, et qui s’exporte maintenant en Europe, parfois dans de grandes universités. Financée par Google, basée à San Fransisco sur le campus de la Nasa, elle a été cofondée par Ray Kurzweil, informaticien, futurologue, théoricien du transhumanismeFermerMouvement international prônant l'usage des sciences et des techniques, comme l’intelligence artificielle et la génétique, ainsi que de croyances spirituelles, afin d'améliorer les caractéristiques physiques et mentales des êtres humains. Il suscite de violentes critiques, notamment de la part de philosophes et de biologistes, qui le qualifient de résurgence de la pensée eugéniste., et… finalement recruté par Google il y a trois ans. « De manière générale, il devient difficile aujourd’hui de faire de la recherche en IA indépendamment des grandes sociétés du Net. Il me semble qu’il y a collusion entre ces scientifiques et les intérêts des géants qui les financent », commente Jean-Gabriel Ganascia.

BlueBook, double de fiction de Google, véritable État dans l’État

L’intérêt d’Ex_Machina est justement d’aborder – hélas trop discrètement – l’ambiguïté de ces liens. BlueBook, la société-empire que dirige Nathan, semble ainsi un mix audacieux de Google et de Facebook. « Et, pour créer le “cerveau” d’Ava, le patron démiurgique a utilisé les informations de son moteur de recherche. La créature du film est le reflet de tout ce qui se trouve sur le Web et pour ainsi dire de l’humanité tout entière. Cette intelligence “collective” correspond à une approche très contemporaine de la question », souligne Jean-Gabriel Ganascia. Enfin, grâce au Big data et au scannage du profil de Caleb sur les réseaux, Ava semble avoir été « psychologiquement » profilée pile-poil pour lui plaire, au-delà de la pureté de son visage et de ses déplacements ondulatoires hypnotiques.

 

Avez-vous
remarqué que
Google s’investit
de plus en plus
dans des services
d’ordre régalien,
c’est-à-dire du
ressort de l’État ?

« C’est là que se situe le véritable danger à court terme, reprend le chercheur, dans l’emprise que ces géants du Net ont sur nos vies privées et nos données. Avez-vous remarqué que Google, partisan du transhumanisme et très engagé en robotique, s’investit aussi de plus en plus dans des services d’ordre régalien, c’est-à-dire du ressort de l’État ? » L’ogre américain s’emploie en effet au cadastre avec Google Maps, à la monnaie avec le porte-monnaie électronique Google Wallet, et à la santé en y consacrant 35 %4 de son fond d’investissement Google Ventures, qui pèse 2 milliards de dollars d’actifs. Et ce n’est que le début. « Il me semble que les prétendues alertes sur la prise de pouvoir par des machines intelligentes ne sont qu’un écran de fumée pour détourner notre attention de tout cela… », suggère le chercheur.

Un film pour les fans d’intelligence artificielle

« Bien sûr il existe des dangers potentiels liés aux logiciels très puissants qui prennent des décisions sans intervention humaine, car nous sommes dépassés par l’ampleur des masses de données qu’ils traitent et leur rapidité, reprend Jean-Gabriel Ganascia. Mais les machines ne cherchent pas à prendre le pouvoir : c’est nous qui leur en laissons ! Il faut donc plutôt s’inquiéter de la place de l’humain dans les chaînes de décision que nous mettons nous-mêmes en place, des limites à donner à l’autonomie des machines et de l’emprise des sociétés qui fabriquent et utilisent les algorithmes. » En cela, Ex_Machina se révèle peu novateur car il repose sur une violence un peu téléphonée du robot. Au contraire de l’excellent Her (2014), de Spike Jones, prouesse scénaristique qui tient le spectateur en haleine pendant deux heures face à un homme qui discute avec… le système d’exploitation de son ordinateur. Il, ou plutôt elle, dépourvue de “corps”, s’échappe paisiblement, abandonnant les humains aux capacités décidément trop limitées.

 

Ex_Machina interpellera surtout les fans d’intelligence artificielle (IA), notamment quand Caleb raisonne sur la façon de tester une machine via l’humour ou la sémantique, ou fait référence à l’expérience de MarieFermerExpérience de pensée au sujet de la conscience, notion qui reste aujourd’hui très difficile à définir. Proposée par le philosophe Frank Jackson en 1982, l’expérience consiste à imaginer que Marie, neurobiologiste spécialisée dans la vision des couleurs, est enfermée depuis toujours dans une chambre où tout est noir et blanc. Un jour, elle en sort et découvre quelque chose de tout nouveau en voyant une tulipe rouge, alors qu’elle avait eu auparavant toute l’information possible sur cette couleur. N’est-ce qu’alors qu’elle prend « conscience » de ce qu’est le rouge ?, avant d’être renvoyé dans ses cordes par Nathan qui lui demande de réagir « avec ses tripes » et de simplement lui dire s’il est bluffé ou non. « C’est exactement l’approche d'Alan Turing dans les années 1950. Il ne voulait pas s’embarrasser à définir l’intelligence ni la conscience. Pour lui, celle d’une machine serait de toute façon différente de la nôtre qui est, elle, liée à notre corps, à notre expérience du monde et à nos émotions, commente Jean-Gabriel Ganascia. Aujourd’hui, la conscience – qu’on ne sait d’ailleurs pas définir – ne passionne pas les chercheurs en IA et on est très loin d’en créer une. Il n’y a en France pas ou peu d’investissements là-dessus. »

Les machines
ne cherchent pas
à prendre le pouvoir : c’est
nous qui leur
en laissons !

On cherche plutôt à créer des machines « transparentes », façon Tars, le robot en forme d’arbre à cames du récent Interstellar (2014) dont on peut paramétrer le degré de franchise. « En robotique, on veut donner aux machines assez d’autonomie pour qu’elles réalisent certaines tâches, mais pas consciemment !, poursuit le chercheur. Qu’elles fassent illusion suffit largement : le but est surtout de faciliter nos interactions avec elles, tout en les gardant sous contrôle » Au contraire d’Ava douée d’assez de libre-arbitre et de volonté pour s'émanciper. À moins qu’elle n’ait justement été programmée pour cela, en usant de toutes les stratégies possibles...

Le film regorge aussi de références bibliques (le titre, tiré de l’expression deus ex machinaFermerLocution latine signifiant « Dieu issu de sa machine ». Elle désignait la machinerie utilisée au théâtre pour faire monter ou descendre un comédien jouant un dieu sur scène, personnage dénouant de manière impromptue une situation désespérée. Aujourd’hui, elle continue de désigner les solutions un peu trop faciles dans un scénario pour aider un personnage ou donner une fin heureuse à une histoire. ; les prénoms des personnages5 ; etc.) et de clins d’œil appuyés à différents mythes : de Faust (Caleb signe un contrat draconien), aux sept femmes de Barbe bleue (certaines portes ne doivent pas être ouvertes), en passant par Prométhée, Pygmalion, Frankenstein et surtout le GolemFermerDans la mythologie juive, c’est un être artificiel fait d’argile, incapable de parole, façonné afin d’aider ou de défendre son créateur., classiques habituels convoqués dans les films où les robots se mettent à travailler du ciboulot. « Dans l’une des versions du mythe 6, Rabbi Loew, créateur du Golem, avait écrit sur le front de celui-ci le mot « Emet », vérité en hébreu, raconte Jean-Gabriel Ganascia. Mais sitôt animé, le Golem effaça la première lettre, ce qui donna « Met », mort en hébreu. Inquiet de l’ambivalence de la créature qui commençait à lui échapper, Rabbi Loew n’hésita pas à la détruire. » Un geste qui s’avèrera problématique pour l’arrogant Nathan, misogyne et manipulateur, mégalo imbibé de bière et de vodka durant la majeur partie du film…

À lire aussi :
« Real Humans revu par les chercheurs (2) »
« Alan Turing, génie au destin brisé »
« Pour une éthique de la recherche en robotique »
« Reprenons le contrôle de nos données »

Notes
  • 1. Film de 2010, adapté d’Auprès de moi toujours, de l’Anglais Kazuo Ishiguro, meilleur roman de 2005 selon Time Magazine.
  • 2. Laboratoire d’informatique de Paris 6 (CNRS/UPMC).
  • 3. La question aurait été évoquée par Jacques Lacan en 1955 dans une citation souvent attribuée au mathématicien et physicien John von Neumann.
  • 4. Selon le site Portfoliance, plateforme d’informations sur la finance.
  • 5. Ava est inspiré du prénom Ève, Caleb, de celui d’un explorateur envoyé par Moïse pour reconnaître le pays de Canaan, et Nathan, de celui d’un prophète vivant à l’époque du roi David.
  • 6. Selon le livre de Moshe Idel, Le Golem, Éditions du Cerf,‎ 1992.
Aller plus loin

Coulisses

En réalité, le test imaginé par Alan Turing en 1950 s’appelait le jeu de l’imitation. Il consistait dans un premier temps à différencier un homme d’une femme avec lesquelles une troisième personne communiquait par écrit. Le questionnement de Turing était donc aussi celui-ci : peut-on distinguer un homme et une femme par leurs esprits uniquement, en dehors des apparences corporelles ? « Genre et intelligence », « sexe et intelligence » ne sont pas des thématiques anodines pour Turing car il était homosexuel. (Jean-Gabriel Ganascia)

Auteur

Charline Zeitoun

Journaliste scientifique, auteur jeunesse et directrice de collection depuis quinze ans, Charline Zeitoun est actuellement Chef de rubrique à CNRS Le journal. Ses sujets de prédilection sont ceux de la rubrique Société, surtout quand ils se trouvent au croisement avec d'autres disciplines scientifiques. Et le cinéma, le cinéma, le cinéma !

Elle a été rédactrice à Science & Vie...

Commentaires

0 commentaire
Pour laisser votre avis sur cet article
Connectez-vous, rejoignez la communauté
du journal CNRS