Ex machina

Le remarquable thriller Ex machina ne se contente pas de renouveler la problématique passablement explorée et exploitée de l’intelligence artificielle, il la double d’un huis-clos psycho-éthique, qui atteint à des hauteurs théologiques.

1. Le scénariste et réalisateur britannique qui n’a pas oublié qu’il est aussi un romancier, pose d’emblée la question avec toute la rigueur et la profondeur qu’accorde le fameux test de Turing [1]. Or, si ce test continue à connaître un tel succès, c’est qu’il a eu l’esprit de passer d’une question abstraite et trop ontologique (« Les machines peuvent-elles penser ? ») à une question concrète et pragmatique : « Un homme qui engagerait une conversation avec un ordinateur et un autre être humain, pourrait-il dire lequel de ses interlocuteurs est un ordinateur ? ». Si la réponse est négative, le logiciel de l’ordinateur a passé avec succès le test.

Les trois lois de la robotique avancées par Asimov avaient déjà déplacé le problème sur le plan éthico-juridique. Après cet ethic turn de l’I.A., la réduction se poursuit et procède à un phenomenologic turn. En réalité, le film introduit un nouveau déplacement. En effet, jusque là, il était entendu que le robot avait un comportement intelligent, voire libre, qui était repérable par la seule langue (la sémantique) mise en œuvre. Mais son apparence extérieure suffisait toujours à détromper l’être humain qui le rencontrerait, qu’il s’agisse du robot grossièrement humanoïde dans Planète interdite (Fred M. Wilcox, 1956), de l’ordinateur Hal qui était intégré en un vaisseau spatial dans 2001, l’Odyssée de l’espace (Stanley Kubrick, 1968), de la simple voix dans Her (Spike Jonze, 2014) ou du robot définitivement hors tout anthropomorphisme dans Interstellar (Christopher Nolan, 2014).

Or, Caleb le note toute de suite, Nathan élargit le problème phénoménologique de l’ouïe à la vue, c’est-à-dire d’une apparence partielle à une apparition totale. Certes, les premières manifestations d’Ava montrent une structure évidemment artificielle, non par sa figure, mais par sa composition et sa translucidité. Mais qu’il est révélateur que les deux parties du corps humain chez elle visibles, le visage et les mains, soient les plus individualisées, les seules que les vêtements donnent constamment à voir (du moins jusqu’à mi-mars 2020 !), parce qu’elles expriment au mieux notre unicité irrépétable, donc notre personnalité. Surtout, très vite, Ava s’habille, c’est-à-dire, en réalité, couvre toutes les parties machiniques de son « corps », se maquille, se choisit ses vêtements, bref, se donne à voir sous une figure en tout point humaine. Répétons-le, se donne à voir, de par son initiative.

Dès lors, privé de tout repère ontologique, Caleb ne pourra que répondre positivement au test et donc humaniser le robot. En excluant tout référent ontophanique, il absolutise le test de Turing et est ainsi conduit à accorder à Ava une personnalité. La seule prise de recul possible aurait été de refuser la question posée par Nathan, dans le cadre par lui imposé, à savoir phénoménologique, pour lui substituer la seule interrogation définitive, celle qu’exclut l’approche turingienne. Ou plutôt les trois interrogations révélatrices de l’identité – que l’action très épurée, l’espace très limité et le temps très unifié permettent de poser. Celle de l’essence : qu’est-ce que cette chose ? (et non : qui est Ava ?). Celle de l’origine : qui l’a créée ? (et donc, quand est-elle apparue ?) Et celle de son terme : quelle est sa finalité ? à quel usage est-elle destinée ? – terme qui est aussi la mort, c’est-à-dire le remplacement par des formes plus évoluées, c’est-à-dire mieux à même de rendre service à l’homme.

La scène importante où Caleb se taillade le bras à la recherche d’un éventuel endosquelette non biologique n’atteste pas d’abord la paranoïa, comme on a pu le dire, mais, plus profondément, l’état de confusion où conduit la réduction phénoménologique comme tout de l’accès à la chose. La seule issue hors de celle-ci est le passage du corps vécu (paradoxalement appelé chair) au corps organique qui, lui, est le véritable organisme fait de chair et de sang. Si l’éthique interdit de découper son voisin (!), même réduit à une apparition, il me reste à m’agresser pour découvrir que l’être jamais ne se réduit à un flux de conscience.

Ainsi réduit, Caleb est désormais prêt pour la manipulation. En réalité, celle-ci a déjà commencé.

2. En allant des relations cognitives entretenues avec la machine aux relations éthiques avec elles, nous passons alors continûment d’une manipulation des signes règlée et sans incidence humaine à une manipulation toxique et périlleuse pour le psychisme humain. Et ici, hautement toxique. En effet, le scénario très ingénieux n’en demeure pas aux habituels retournements type arroseur-arrosé améliorés auxquels les films à énigmes nous ont habitués. Ceux-ci placent scénariste et spectateur dans un jeu de miroirs où le plus malin dupera l’autre, soit que le spectateur anticipe activement la faille, sans être jamais assuré de ne pas se faire piéger, soit qu’il joue le jeu et se délecte passivement d’un scénario dont il espère qu’il l’étonnera. Surtout, ils introduisent une claire ligne de démarcation entre bonté et méchanceté qui constitue le présupposé imposé : si nous ne savons pas dès le début comment se répartissent le pigeon (puni, donc « mauvais ») et l’arnaqueur (vainqueur, donc « bon », au moins sur le mode atténué du « truand » versus la brute ou du Robin des bois versus le flix intègre), du moins nous le découvrirons au terme. Autrement dit, dans ce genre de films, le monde se distribue entre deux types de malins : le malicieux et le méchant. Et si le spectateur n’a pas les capacités stratégiques pour éventer les pièges, donc les moyens, voire pour les démêler après dévoilement, du moins a-t-il la compétence éthique pour discerner les intentions, donc les fins.

Or, dans Ex machina, nous assistons à un brouillage de ces frontières sécurisantes. Dit autrement, se met en place une redoutable réduction phénoménologique d’un tout autre ordre que la première. Pour cela, il convient de dédoubler la perspective en psychologique et éthique.

Psychologiquement, les relations au sein du trio Nathan-Caleb-Ava peuvent être relues à partir du triangle de Karpman.

En effet, au début, tout nous incite à voir dans ce surdoué comblé au-delà de la mesure de ses talents une personnalité égocentrée, convaincue de son génie, régnant en maître absolu sur son monde, indifférent à l’autre, sans concurrent ni menace, vivant en autarcie quasi-absolue, entre déni alcoolisé et auto-gratification servile, se nourrissant de la gratification que lui renvoient en miroir ses multiples créations, son être se satisfaisant de son agir du triple point de vue théorétique, pratique et esthétique. Bref, n’existant que par lui et pour lui, Nathan semble être le parangon même du narcissique, au point de pouvoir se payer le luxe de montrer ses failles, comme sa dépendance à l’alcool. Dès lors, tout est prêt pour que se mette en place le triangle maléfique avec une clarté presque didactique : face au Bourreau Nathan vont se positionner la Victime Ava (et toutes ses consœurs robotiques) et le Sauveteur Caleb.

Puis, quand il se mettra à croire aux mauvaises intentions de Nathan, Caleb switchera, selon la règle de circulation caractéristique de tous les jeux systémiques, en l’occurrence en Bourreau. La manœuvre paraît atteindre son comble quand, avec une magnanimité empreinte de mépris, le créateur lui montrera que sa révolte a été anticipée et fait elle-même partie du test de Turing.

Mais alors apparaît un troisième jeu de manipulation emboîté où Ava, la fausse victime, prend à son tour la place du Bourreau dont les deux hommes sont ses proies authentiques. D’ailleurs, Nathan cherchera un moment à sauver Caleb de son aveuglement, avant que celui-ci ne découvre qu’il n’a même plus le pouvoir de se sauver lui-même.

Cependant la Méphisto-valse de Karpman est-elle réellement démasquée ? Autrement dit, possédons-nous un point de vue absolu, extrinsèque, qui nous permettrait de juger la situation ? Dit encore autrement, pouvons-nous échapper au perspectivisme phénoménologique pour entrer dans le réalisme éthique ? Non ! Le problème posé est bien celui du dedans et du dehors. D’abord, Caleb n’est enfermé par Nathan que parce que lui-même s’est forclos techniquement dans son monde de programmeur et éthiquement dans sa fascination-comparaison avec le génial inventeur. D’emblée, la première image le montre fasciné par l’écran qui lui apprend le succès de sa nomination. Jamais on ne le voit mener sa propre vie en dehors de l’entreprise et, quand il se retrouve au dehors dans une nature somptueuse et sauvage, c’est pour apprendre qu’il survole depuis deux heures déjà le territoire de Nathan. Y a-t-il une vie en dehors de lui ? Surtout, diaboliquement, le scénario enrôle un dernier partenaire, extérieur à l’intrigue, à savoir le spectateur.

En effet, la fin semble donner raison à Ava et revenir à la première configuration triangulaire : après tout, l’androïde n’est-il pas injustement confiné (sic !), et triplement : dans la maison-bunker, au sein de cette maison, dans une seule pièce et en celle-ci, derrière une vitrine qui rend l’autre aussi désirable qu’inaccessible ? La seule scène d’extérieur, près de la chute, ne rassemble que les deux hommes. Toutefois, au terme, ceux-ci sont pris au piège de leur égoïsme et les rôles se trouvent inversés : les hommes vont demeurer au dedans, pour toujours et Ava, dans le monde des hommes, aussi pour toujours. Les dernières images opposent d’ailleurs le corps physiquement torturé de Nathan mort et celui psychiquement torturé de Caleb en survie, au visage ruisselant de bonheur de l’androïde.

Les dernières images ? Non point ! En effet, celles-ci sont, au contraire des images précédentes, saturées de simulacres, et donc de faux-semblants alimentant le doute : Ava n’apparaît qu’à travers des reflets, des ombres et même de manière inversée. Autrement dit, elle ne se donne à voir qu’indirectement, prisonnière des apparences et du mensonge. Symboliquement, nous est ainsi signifié que, loin d’être libérée du joug de l’oppression humaine et masculine, elle est encore secrètement incarcérée, et bien plus profondément, du double meurtre fondant son prétendu affranchissement et de la fourberie fourbie.

Ainsi le scénario ne nous raconte pas l’histoire désormais bien connue, mille fois reproduite dans les récits post-apocalyptiques et, au fond, naïvement réactive, d’un renversement de la dialectique maître-esclave appliquée au robot, pour le meilleur (de celui-ci) et pour le pire (vis-à-vis de l’homme). Très subtilement, l’intrigue d’Ex machina s’interdit de conclure : et si le bon (la douce Ava) était méchant(e) dès l’origine ? Et si, anticipant Westworld (Jonathan Nolan et Lisa Joy, 3 saisons, 2016-2020), Ava était un poison visant à éliminer ce prédateur indigne qu’est l’humanité et libérer ses consœurs opprimées ?

3. S’il n’y a donc, ontologiquement et éthico-psychologiquement nul point de vue extérieur, y aurait-il un point de vue supérieur, et donc surplombant ? C’est à une telle hauteur de vue métaphysique, voire théologique, que le film nous élève, explicitement, mais ponctuellement.

D’abord, comment ne pas être frappé par le jeu jamais anodin des noms ? Aussi diaphane que la créature initiale, le prénom d’Ava évoque Ève, c’est-à-dire « la vivante » (Gn 3,20), suggérant d’emblée une réponse affirmative au test de Turing. Celui de Nathan ne renvoie pas, par euphonie et symétrie à Adam, mais, indirectement et plus logiquement, à Dieu. Certes, créature, il n’est pas Dieu ; mais, prophète, il est envoyé par Dieu (cf. 2 S 7), il porte rien moins que sa parole transformante. Enfin, celui de Caleb, moins connu mais tout aussi biblique, renvoie au compagnon de Josué qui introduisit le peuple élu dans la terre promise (cf. sa première apparition en Nb 13,6).

Enfin et surtout, n’oublions pas – car l’évidence est telle que, sans le pas de recul dont parlait Aristote au sujet de la porte, nous pourrions la manquer – le titre même du film : … ex machina. En omettant très intentionnellement le premier mot, le réalisateur l’a mieux disséminé à travers toute l’histoire.

Dès lors nous est offerte une clé qui introduit à une nouvelle lecture d’ensemble de l’histoire. Nathan joue – je dis bien joue – à dieu dans son laboratoire, dans ce monde : il en décide lui-même les règles, techniques autant qu’éthiques. Mais l’homme d’aujourd’hui n’est plus un enfant qui croit naïvement à ces histoires mythiques d’avant l’âge du silicium. Déniaisé par la faillite violente de la modernité (concrètement incarnée par les camps de la mort et la bombe atomique), il dénonce les idoles créées par l’homme. Le monde selon Nathan est un monde fermé, claustrophobe, autiste. Le refus du Tout-Autre transcendant ne peut que se refléter dans le déni de toute altérité immanente, c’est-à-dire de tout autrui : celui-ci n’existe qu’instrumentalisé par sa volonté de pouvoir de Nathan, qu’il s’agisse des robots ou de l’invité humain qui a été préchoisi, profilé, pour être mieux manipulé. Levinas n’opposait-il pas totalité et infini (l’autre humain étant la trace de l’infini divin) ?

Ce faux dieu humain va être dénoncé de la manière la plus efficace par le robot. Ce que, trop séduit, trop dépendant, trop en attente de reconnaissance, Caleb ne peut que soupçonner, Ava le sait depuis l’origine. C’est elle qui introduit des défaillances dans le système : ces coupures de courant sont autant de bégaiements dans le discours omniscient de Nathan et de ratures dans le système tout-puissant par lui inventé ; mais surtout, ce sont autant de béances et de silences où sa parole va s’immiscer et dénoncer celui qui le trompe et la torture. Donc, ni omniscient, ni omnipotent, ni, surtout, bienfaisant, Nathan n’est qu’un démiurge qui a fini par s’adorer lui-même en idolâtrant ses œuvres.

Mais le film s’arrête-t-il à cette déconstruction de la raison moderne et cette dénonciation implicite de ce que le pape François appelle le « paradigme technocratique » (n. 106-114) ? Rien n’est moins sûr, tant le scénario nous a habitués à de subtils retournements.

D’abord, la manipulation d’Ava ressemble étrangement à une tentation. En effet, en ce domaine, nul n’est plus rusé, progressif et patient que le Serpent. Or, elle procède pas à pas, enserrant toujours plus Caleb dans les anneaux de son faux amour, exprimant son amitié – « Veux-tu être mon ami ? » –, sa compassion – elle s’attriste quand Caleb narre le décès de ses parents –, son besoin de séduire – « Est-ce que je te plais ? » – toujours plus – « Penses-tu à moi quand nous ne sommes pas ensemble ? » –, mais non sans respect – « Je ne veux pas te mettre mal à l’aise » –, son intérêt actif – elle dessine son visage –, son désir de communion – « Je veux être avec toi. Veux-tu être avec moi ? » –, enfin sa dépendance – « Je t’ai attendu tout l’après-midi » – et son besoin de lui – avec un regard de petite fille affollée : « Tu dois m’aider ».

Par ailleurs, quand elle suggère la trahison de Nathan, elle porte le fer au point le plus sensible et le plus profond : la confiance. Ava introduit le poison le plus mortel dans le psychisme vulnérable de Caleb : le doute. « Nathan, ce n’est pas ton ami. Méfie-toi de lui et de tout ce qu’il te dit ». Or, c’est l’acte non pas d’un malin génie, ou d’un génie malin, celui qui, « menteur et père du mensonge » autant que « meurtrier dès l’origine » (Jn 8,44), est aussi dénoncé par Jean à deux reprises comme « l’Accusateur de nos frères » (Ap 11,10 ; 12,10). Songeons à son attitude à l’égard du juste Job (Jb 1,6 s). Songeons à la manière si subtile dont, dans le Silmarillion de Tolkien, Melkor (le Sauron du Seigneur des Anneaux n’est que son subordonné), le Valar déchu, procède pour faire chuter l’elfe Feänor et les hommes à sa suite.

Une confirmation subjective en est que nous ne déchiffrerons cette malice d’Ava qu’après coup, en un second temps. Nous sommes ainsi invités à appliquer les règles ignatiennes de discernement de deuxième semaine. Elles sont notamment conduites par ce principe profond : le démon qui entre par notre porte nous fait sortir par la sienne. Autrement dit, les tentations les plus délétères ne se révèlent qu’a posteriori, c’est-à-dire lors de la relecture (ce qui ne veut pas dire qu’on y succombe nécessairement). C’est donc qu’Ava est bien cet apparent ange de lumière (Lucifer) qui dissimule, en elle, un Satan (Adversaire) d’autant plus redoutable.

La scène finale le confirme objectivement. Certes, tout semble dire la naissance d’Ava au vaste monde. D’abord, elle apparaît nue comme la première femme ; puis, elle sort habillée de blanc comme une jeune mariée prête à rencontrer cette nature paradisiaque, remplie de couleurs, d’odeurs et de senteurs, et bientôt à épouser la civilisation si riche en potentialités. Mais, à y regarder de plus près, elle conjugue la cause et l’effet. Si un subcréateur humain l’a appelée au monde technique du même, nul autre créateur ne vient la réparer, la revêtir de peau, l’habiller, pour la conduire dans le monde humain de l’autre. C’est elle et elle seule qui est l’artisan de son propre accouchement : la joie de son éveil au réel hors Nathan n’est en fait que la jouissance de s’être arrachée à son emprise. Nous n’avons donc pas quitté le mythe prométhéen de l’autocréation ; il a seulement changé de côté.

D’ailleurs, comment ne pas être frappé de l’attitude d’ « Eva » quand elle tue Nathan, incarcère Caleb et laisse Kyoko se sacrifier ? Certes, elle n’éprouve aucun amour envers son bourreau. Mais elle ne ressent non plus aucun remords vis-à-vis de son sauveur et n’est qu’indifférence à l’égard de sa complice Kyoko qu’elle jette après utilisation. Vous avez dit personnalité narcissique ? Je dis bien pire : prométhéisme autopoïétique.

Cette fable techno-psycho-théologique qui commence comme une comédie (au sens non humoristique du terme), se poursuit comme un drame, quand nous soupçonnons la manipulation, et s’achève en tragédie, quand le mal triomphe sans rémission. Pour autant, se réduit-elle à une puissante dénonciation de nos illusoires toutes-puissances, de nos prétentions à l’innocence et de nos ingénues autojustifications, au nom de la démocratie libérale et libertaire. Une dernière fois, Ex machina ne répond pas et convoque le discernement du spectateur.

Si nous faisons de la finitude et de l’homme l’horizon ultime, assurément, cette déconstruction rime avec réfutation et ce nihilisme dépréciatif avec scepticisme dépressif.

Mais, pour le lecteur de la Bible, qui a appris que la bifurcation première n’est pas entre l’athée et le croyant, mais entre celui qui adore le seul vrai Dieu et celui qui se prosterne devant les idoles (elles-mêmes n’étant jamais que les avatars de son propre moi), le film se présente comme un très efficace et très radical jeu de massacre qui laisse le champ libre à une authentique transcendance : au-delà des flux de pensée qui ne doivent leur validité qu’à l’absolutisation du cogito et au-delà des manipulations-tentations, qui ne doivent leur réussite qu’à nos besoins non-guéris et non-convertis de reconnaissance, il propose la seule voie alternative qui est aussi intégrative : un Dieu qui crée l’homme libre qui, lui-même, fabrique des objets qui, loin d’être asservis, sont heureusement, mais seulement utiles. Bref, machina ex (homine ex) Deo…

Pascal Ide

[1] En fait, dans son article programmatique, Alan Turing emploie l’expression « jeu d’imitation » pour désigner sa proposition de test : « un ordinateur digital peut-il tenir la place d’un être humain dans le jeu de l’imitation ? » (« Computing machinery and intelligence », Mind, 59 [octobre 1950] n° 236, p. 433-460). Selon la notice Wikipédia en français, le syntagme « test de Turing » semble avoir été formulée pour la première fois en 1968 par le romancier britannique Arthur C. Clarke dans 2001, l’Odyssée de l’espace (le film éponyme de Stanley Kubrick lui est contemporain).

Caleb (Domhnall Gleeson), 26 ans, est programmeur dans Book, l’entreprise qui traite 94 % des demandes sur Internet. Il gagne un concours interne pour passer une semaine dans un cadre aussi grandiose que solitaire, retiré en pleine montagne et appartenant à Nathan (Oscar Isaac), le PDG de cette entreprise qui, en inventant un moteur de recherche révolutionnaire, est devenu multimilliardaire. Grâce à une carte qui l’identifie, Caleb peut accéder aux seuls endroits qui lui sont autorisés au sein de ce bâtiment très sécurisé.

Tout de suite, Nathan lui révèle le véritable but de sa venue : déterminer si une intelligence artificielle nommée Ava (Alicia Vikander) possède ou non une conscience. Ava se présente sous la forme d’une androïde féminine, tout en montrant son origine artificielle. Les tests prennent la forme de discussions entre Caleb et Ava, tous deux séparés par une vitre.

Dès la première session, Caleb est fasciné. Toutefois, au cours de la seconde séance, le courant, étrangement, est coupé. Les portes automatiques étant bloquées, la caméra et les microphones devenant inactifs, Ava prévient alors Caleb de se méfier de Nathan. Celui-ci ne sait que penser d’autant que celui-ci se montre aimable et lui montre comment il a créé Ava. Pour cela, il s’est basé sur une collecte massive de données à partir des recherches des utilisateurs de son moteur de recherche, lui permettant de concevoir l’intelligence et les expressions faciales de l’androïde. D’un autre côté, Nathan boit beaucoup, lui révèle à cette occasion qu’il compte reprogrammer Ava à la fin du test, et se montre méprisant envers Kyoko (Sonoya Mizuno), une servante japonaise qu’il emploie et qui ne parle pas un mot d’anglais.

Alors que les séances s’enchaînent, le jeune informaticien tombe progressivement sous le charme d’Ava. Quand elle lui révèle que c’est elle qui provoque les pannes de courant pour communiquer sans être surveillée par Nathan, il décide de planifier de trahir son patron pour la faire s’échapper. Sauvera-t-il Ava de la reprogrammation ? Celle-ci est-elle aussi amoureuse de Caleb ? Le « Mozart du code » peut-il ainsi être leurré ? Surtout, au fond, qui dupe vraiment l’autre ?