Hva gjør det med oss å forholde oss til maskiner som later som de lever?

Alex Garland er forfatter, født 1970, som meg, og ble kjent for romanen The Beach. Etter det skrev han manus til film, blant annet til Never Let Me Go (2010), basert på Kazuo Ishiguros roman. Ex Machina i 2014 var regidebuten hans. Den ble spilt inn på seks uker, med skuespillerne Oscar Isaac som Nathan, Domhnall Gleeson som Caleb og ikke minst Alicia Vikander som Ava og Sonoya Mizuno som Kyoko.

Filmen hadde et budsjett på 15 millioner dollar, ble nominert til Oscar for beste originale manus og vant prisen for beste visuelle effekter. Mens jeg synes Ex Machina er en fantastisk film, selv om den har mange svakheter, synes jeg ikke noe om Annihilation, som Garland laget i 2018. Senere, i 2022, har han laget en horrorfilm, visstnok en folkloristisk horror, som jeg ikke har sett.

Noe av grunnen til at jeg liker Ex Machina så godt, er at jeg finner androider uendelig spennende – hva det å forholde oss til androider og andre narre-levende eksistenser egentlig gjør med oss. Hvordan mennesker er i stand til å skape og bruker så mye ressurser på å utvikle ekstremt avanserte tekniske systemer som så skal møte våre banale behov. Eller hvor lett mennesker hektes på maskiner som spiller på vårt behov for å bli møtt av noen, å bli forstått, å få gjengjeldt følelser. Hvordan roboter fôres med følelsene våre for å lære seg å manipulere oss, hvordan vi vil tro på at det er noe der som ikke kan være der, og at vi skal kunne bygge en bevissthet ut av selvlærende systemer, at en robot skal kunne handle ut fra en moralsk overbevisning og ikke bare matematisk sannsynlighet for å nå et mål.

Jeg synes det er noe helt spesielt med Ex Machina, det er noe som stemmer så veldig med den. Selv om den selvfølgelig bygger på andre sci-fi-filmer og troper, det er jo ikke akkurat noe nytt med en menneskerobot, en androide. Filmer som for eksempel Steven Spielbergs A.I. Artificial Intelligence (2001), som jeg også liker godt (basert på et prosjekt Stanley Kubrick utviklet), Blade Runner (1982), ikke minst, og Her (Spike Jonze, 2013). Alex Garland har selv uttalt i et intervju at det var som om alt stemte da de laget filmen, han sa at det er noe zen i den, at det er en særegen stillhet der, og det er jeg enig i. Men det er også en letthet i Ex Machina. Den er klaustrofobisk, ja, uhyggelig, ja, men det er en slags humor i det dødsseriøse. Det er så mange lag at man ikke blir ferdig med den. Samtidig som den er enkel. Det er kanskje hemmeligheten ved betydelige verk, at det er noe udefinert enkelt og lett der.

Ex Machina er filmet i Norge, nærmere bestemt i Møre og Romsdal. Lokasjonen, eller stedet, er det spektakulære Juvet landskapshotell, som da det åpnet var Europas første i sitt slag. På en gård i Alstad ligger det. Arkitektene er Jensen & Skodvin, som også tegnet Fjora House, eller Fjørå House, jeg fant det gjennom søkemotoren jeg bruker, en privat arkitekttegnet bolig som ble verdenskjent etter å ha vært brukt i filmen. Her er det natur integrert i bygget, trær og stein er en organisk del av interiøret. (Denne måten å tenke arkitektur på har blitt mye vanligere siden 2014, og japanske hager og asketiske interiører har blitt folkeeie.)

Men bare deler av opptakene er gjort her. Slik naturen er sømløst integrert i det lekre bygget – glass, stein, tre – er deler av filmen tatt opp i studioer bygget opp i London og Buckinghamshire, blant annet Nathans arbeidsrom og Calebs oppholdsrom. Naturen er lagt på etterpå, den blendes inn gjennom såkalt blue screen-teknologi (det finnes også green screen-teknologi), der skuespillerne opptrer foran en type blåopplyst vegg eller gardin, som siden byttes ut med en annen bakgrunn. Så utsikten gjennom vinduene her er lagt på i ettertid. Den naturen som tilsynelatende ligger rett utenfor panoramavinduene, er ikke der, men legges til ved bruk av teknologi senere. Så naturen i seg selv er kunstig, den kan ikke skilles fra den ekte, vi vet ikke når vi ser filmen, hva som er den virkelige naturen og hva som er framstilt via teknologi. Det opptrer for oss som like virkelig. Eller uvirkelig? Er det fucking unreal? Som Nathan sier i en av filmens siste scener. Er det Heimlich eller Unheimlich? Med Heideggers ord.

Stedene opptrer for oss som samme sted. Slik nettet og AI/KI er «samme sted», stedløst, alle steder og ingen steder. Men ingen uncanny følelse, eller? For oss som er fra Norge, så er det nettopp det hjemlige ved naturen som skaper … ja, hva skaper det, kanskje denne roen og tilsynelatende luftige enkelheten, stillheten, for her tror vi ikke et øyeblikk at det bryter med den «virkelige naturen», filmmediet er perfekt for å lure oss, vi vil jo det, det er filmmediets natur … Naturen og bygningene er ekte her. Dere kan gå inn på nettet og se den samme stua og kjøkkenet som Nathan og Caleb oppholder seg i, designstua nedsenket i terrenget, dere kan booke dere inn der, nei, ikke der, det er et privathus, men det er jo nesten det samme på Juvet landskapshotell, et lite stykke unna, selv om dere ikke finner akkurat den stua og kjøkkenet på bildene dere blar dere igjennom på denne hjemmesiden.

Derimot kan dere ta et lengre skriveopphold i Writers Residence eller bare bli inspirert … mot en større sum. Hvis det da finnes noe ledig. Det gjorde det ikke da jeg søkte. Har kanskje også noe å gjøre med at de fikk en Michelin-nøkkel i 2025. Men her blandes altså alt sømløst sammen til ett sted, naturen, og det ekte håndverket er råstoff for å mate lokasjonen, eller stedet da, på godt norsk.

Dette Stedet. Som i filmen ligger i Alaskas villmark.

Vi har vært ute i verden. Vi er mennesker. Vår erfaring i verden er uomtvistelig. Men språket i filmen sier at vi er i Alaska.

Nå er vi altså i filmen: Nathan, teknogeniet, grunnla den verdensomspennende søkemotoren «Blue Book» som trettenåring. De første scenene, da Caleb blir utropt som vinner av konkurransen på jobben, den heldige som får besøke sjefen i det aller helligste i villmarka, er fra et kontorlandskap i Londons finansdistrikt. Caleb vinner altså konkurransen og blir fraktet i helikopter til Alaska. (Som egentlig da er Norge, eller et studio i Buckinghamshire.) Til den geniale og eksentriske sjefens residens. Grunnleggeren av søkemotoren Blue Book.

«Blue Book» er også et navn knyttet til Ludwig Wittgenstein, filosofen. Navnet på en serie forelesningsnotater og forarbeid til Filosofiske undersøkelser, hans mest kjente verk.

Naturingrediensene i denne filmen finnes altså i Møre og Romsdal. I det nærliggende Sogn finnes Wittgensteins hytte, den ligger innerst i Sognefjorden, på et lite sted som heter Skjolden. Et veldig lite sted er det. Under 300 innbyggere. Jeg gikk opp til Wittgensteins hytte en gang jeg var i Skjolden i flere dager av en annen grunn, det var i 2022, jeg var med sønnen min på langrennssamling. Hver dag kjørte jeg opp og ned alle de bratte svingene til Sognefjellshytta fra sjøbodene vi bodde i nede i Skjolden, for at ungdommene skulle kunne gå på ski i sommersnøanlegget der oppe på Sognefjellet. Fra naust med veranda hengende over Sognefjorden som vi fisket fra, til den kvadratkilometeren med snø og løype som så vidt overlevde sommertemperaturen. Opp og ned, de bratte svingene, fra fjord til fjell, fra fjell til fjord, fra … ja, hver dag i fire–fem dager måtte jeg sy sammen dette til «samme sted», selv om det var 40 minutter å kjøre hver vei.

Sognefjellshytta er et eksempel på moderne arkitektur etter idealet om å ta naturen inn. Der er det en spektakulær hall – glass, tre, grus, som er et slags ute-inne, vindstille, varmt, rett ut i løypa, snø, sol, overvann i den nærmeste delen, der klisteret ble gnurt av, støvlene klissvåte, men heldigvis var det rett inn på den tørre grusen under konstruksjonen av glass og trebjelker.

En ettermiddag tok jeg turen opp til Wittgensteins hytte alene. Jeg kjørte ut til campingplassen, gikk langs noen jorder, forbi en løe, gjennom skogen. Det var veldig bratt opp til huset. Bratt og glatt. Da jeg kom opp til Wittgensteins hus etter å ha dratt meg delvis opp med tau siste delen av stien, sto det jammen der på fjellhylla, og det var låst, jeg var den eneste, møtte ingen, men jeg kunne se inn vinduene, på det spartanske møblementet, pinnestol, vedovn, enkelt skrivebord. Det var strålende vær, jeg så utover Eidsvatnet, der en kopi av båten lå, den han brukte for å ro seg over til Skjolden når han skulle handle og slikt, da brukte han en strandebarmer. Hus/hytte, han fikk ikke bestemt seg selv hva det kaltes. Kanskje inspirert av lignende hus som huset til Thoreau, Heidegger eller Mahler, andre kunstnere som ville nærmere naturen og stillheten, roen. Det var på moten på den tiden for den europeiske overklassen å ville oppleve det ville og dramatiske Norge – akkurat som det er nå. Naturen, de snødekte fjelltoppene rundt Lustrafjorden, den innerste delen av Sognefjorden i Luster kommune.

Huset til Wittgenstein er ikke det samme, eller det vil si, det er bygd opp igjen, for det ble flyttet i 1958, plassert i et boligfelt nede i bygda, kledd med eternittplater, verandaen ble fjernet, og det ble bygd om til et moderne bolighus. Men så altså igjen, i 2019, etter vedtak fra Riksantikvaren, en enorm innsats fra bygdefolk, håndverkere, frivillige – nok en gang demontert og fraktet opp til fjellhylla, med bruk av helikopter antar jeg, plassert tilbake der hvor det sto, på fjellhylla, skrapet for det som var lagt på av plater og maling, det ble avmodernisert, strippet ned til det opprinnelige nødtørftige asketiske utseendet. Det må ha myldret av folk opp på fjellhylla i denne perioden huset ble brakt tilbake til enkelheten. Wittgenstein var veldig opptatt av design på den tiden huset ble bygd, han valgte bare de beste materialene og håndverkerne. Over naturscenariet som tar pusten fra en, med en båt, en strandebarmer, plassert nede ved Eidsvatnet, så en kan forestille seg Wittgenstein skli nedover de bratte skrentene, klyve om bord i den, ro over vannet for å utføre sine ærend i den vesle bygda, ankomme med den mørke frakken sin, en litt skremmende skikkelse syntes noen. Så dro han tilbake med varene sine og fortsatte arbeidet med Filosofiske undersøkelser.

Blue Book er som sagt navnet på Wittgensteins forelesningsrekke, notater til disse, som han gjorde som forarbeid til Filosofiske undersøkelser, der han for alvor etablerer sin teori om «språkspillet». Altså at vår bruk av språk er et lukket system, et spill der man bare blir enige om tegnenes betydning, mens det i virkeligheten ikke kan si noe om hvordan ordene korresponderer med virkeligheten. Språket kan ikke egentlig si noe om virkeligheten utenfor det enkelte «spill» der reglene følges av de involverte. I Blue Book har han også et eksempel med en tenkende robot, altså han stiller spørsmålet om det er mulig å … eh, tenke seg en tenkende robot. Han spør: Er det mulig for en maskin å tenke? Og svaret han gir, er ca. sånn: Det er et nonsensspørsmål. Det er omtrent som å spørre om «har tallet 3 en farge?»

Et ords betydning er dets bruk i språket.

Grensene for språket mitt betyr grensene for min verden.

«Vi kunne sammenligne læring med å installere en elektrisk forbindelse mellom en bryter og en lyspære» (NB: strømbruddene i filmen, dere!)

Tannverk og maskin: Å tenke på tannverk og å ha tannverk er to forskjellige ting.

Hvis en løve kunne snakke, ville vi ikke kunne forstå den. (Så enkelt er det egentlig.)

Mange nerdespor her i filmen, et portrett av Wittgensteins søster, av Gustav Klimt, henger i Nathans arbeidsrom blant annet.

Når jeg ser filmen Ex Machina, tenker jeg: Men det som gjør filmen mulig, er det de imponerende teknologiske elementene inne i teknobunkeren, det rene i det nesten utenomjordisk skapte interiøret, det spektakulære, arkitektonisk fullendte, det menneskeskapte i naturen, inngripen, harmoni, kontroll over prosessene? Alt dette får meg egentlig hele tiden til å tenke på arbeiderne som ikke er der nå, men har vært der som flittige maur, med sitt verktøy, sine matpauser, sine bæreposer, sin svette og småprat. Alt det som ikke er der for at virkningen skal bli den rette.

Hvor er de? Er de døde?

Nathan sier «I just had them all killed», da han og Caleb snakker om disse strømbruddene som er uforklarlige. Hvorfor får han ikke bare håndverkerne til å komme tilbake og fikse det, lurer Caleb. Det virker jo litt rart at et slikt høyteknologisk avansert sted ikke kan få bukt med noe så enkelt som strømbrudd? Idet Caleb spør om dette, svarer Nathan at det ikke går. Han kan ikke risikere å ta arbeiderne, håndverkerne, som lagde alt dette, inn igjen når det er ferdig, det vil være altfor risikabelt med all den kunnskapen de sitter inne med, så han får dem drept. Haha.

Haha? Hvordan skal vi forstå denne setningen? Caleb blir usikker, spøker han eller ikke? Jo, han må vel spøke. Vi tenker også at jo, han spøker selvsagt, deadpan, for dette er ikke en slik film, det er ikke innenfor filmens ramme å virkelig drepe, å drepe arbeidere. Nathan er selvfølgelig ikke en simpel morder, ikke en en-til-en-morder som i en vulgær krim. Dette er ikke en slik film. Men er han en morder?

Hvem er den gode og onde her? Hvem er protagonisten? Er det roboten? Er det Caleb? Er Nathan bare ond, eller er det han som til syvende og sist er den moralsk oppegående? Vi kan si ingen, alle, det skifter. Dette er en fluktfilm. Ava vil jo bare bli fri, ikke sant? Hun eller den bruker bare alle midler på mest rasjonelt vis for å oppnå det høyeste målet.

Filmen har en referanse til Oppenheimer, fysiker, atombombeutvikler: «I am become Death, the destroyer of worlds», som Caleb siterer om Nathan og det han driver med. Når Nathan blir full, siterer han et sanskritdikt av Bhartrihari, som Oppenheimer også siterte: «In battle, in forest, at the precipice in the mountains … the good deeds a man has done before defend him.»

Kan det tenkes at dette også er et av filmens spor? Garland vil si at: Arbeiderne er drept. Hvorfor legger han det ellers inn? De finnes ikke lenger, de som bygde dette. De som gjorde det mulig for Nathan å utvikle ufattelige AI-krefter, de er ikke her, de får vi aldri se, de kan ikke komme tilbake, for de finnes ikke lenger. Hva er det vi er inne i her i denne bunkeren? En deus machina. En selvgående machina, guddommelig maskin. EX machina, av, unna, fra. Det som kom av … fra en maskin. Også det som kom av menneskers arbeid, menneskers virkelige, fysiske arbeid. Men nå er arbeidet et annet. Arbeiderne, de som utførte håndverket her, er drept. Det arbeides på andre måter nå.

Dette er en film som snakker på mange nivåer. Jeg har sett den noen ganger, og oppfatter den forskjellig hver gang. Tilsynelatende er den veldig enkel på ett nivå. Det er ikke tvil om at det er et ekstremt «male gaze» her, det er ikke tvil om at det er objektivisering av kvinnekropper, spill på barnekvinneidealer og mye annet, en muliggjøring av hemningsløs bruk av kvinnekropper fordi de jo i filmen ikke er kvinner, men androider! Dermed slipper man liksom unna med det. … I det hele tatt dette med sex … hvorfor har han laget androidene slik at de kan, teknisk sett, ha sex, men da bare som en slags sexleketøy? De har altså denne sidefunksjonen. De kan teknisk sett respondere.

Men hvordan henger dette sammen med den antatte/mulige bevisstheten? Nathan sier noe om at det er en uløselig del av eksistensen å være et seksuelt vesen, at det er en nødvendig ingrediens for i det hele tatt å agere, interagere, med andre vesener. Vil en grå boks snakke med en grå boks, liksom?

Men det er en hel masse ideer som utspiller seg. Turingtesten står sentralt her. Caleb, den unge lovende programmereren, er tilsynelatende hentet inn for å gjennomføre en Turingtest med en KI Nathan har utviklet. Altså Ava. En androide. Hvordan gjør man en Turingtest? (Det kommer fra Alan Turing, britisk matematiker, informatiker, tidlig utvikler av datateknologi og algoritmer.) Vanligvis er det å samhandle med noe/noen som man ikke vet om er en robot eller ikke, men her er premissene litt annerledes; Caleb vet allerede at Ava er en robot. Så hva er det han egentlig skal finne ut? Han skal finne en handling som ikke er automatisk.

Referanser kryr det av her: Automatisk kunst – referanse: dryppbilde av Jackson Pollock.

Marys rom-eksperimentet (Mary in the black and white room): Frank Jackson gjorde på 80-tallet et tankeeksperiment: Mary, en fremragende vitenskapskvinne, kan hun lære noe nytt om verden ved å fysisk være til stede i den, annet enn det hun kan lære ved hjelp av teorien? Kan man lære alt om verden uten å erfare det? Dette blir sentralt i Ex Machina. Ava lengter mest av alt etter å oppleve et travelt gatekryss …

Hvem ser på hvem gjennom glassveggene? Legg merke til alle variantene av glassvegger, monteraktige tablåer. Det er nærliggende å tenke at dette er en allegori på hvordan vi forestiller oss å være usett der vi sitter foran glasset i form av skjermen, vi betrakter KI-en, vi velger mellom et (etter hvert) skreddersydd tilbud som algoritmene designer for oss, som skal imøtekomme våre behov på en perfekt måte. Om det er porno eller annet begjær, det er preferansene våre som blir «forstått». Siden Caleb har delt sine seksuelle preferanser med verdens største søkemotor på nett, har han altså utlevert seg for Nathan, som gjennom sin «Blue Book» kan samle inn informasjon fra alle verdens mobiltelefoner.

Vi tenker ikke på at det er vi som sitter bak glasset, og at vi er skilt fra hverandre av gjennomsiktig glass og ikke betongvegger «der inne», der inne i bunkeren eller skya.

At vi er på utstilling når vi tror vi er private. At når vi tror vi betrakter AI-en, så er det den som betrakter oss. At det disse kreftene lærer, ikke er basert på hva vi tenker, men hva vi føler. Som når Ava følger med på Calebs «mikroekspresjoner» når Caleb tror at hun hører på hva han sier. Som når Nathan plasserer et kamera mens Caleb altså er opptatt med å «føle», han synes synd på Ava som blir utsatt for en i hans øyne urettferdighet, men dette er altså en avledningsmanøver for å kunne overvåke ham på en ny måte når Caleb tror han har kontroll på kameraene.

På samme måte som Nathans såkalte Turingtest tydeligvis har en annen funksjon enn den vanlige. Nathan vil ha ham til å spille et litt annet spill. Hva er det han skal finne ut, hva er det han skal teste Ava for når han allerede vet at hun/det er en AI?

Caleb blir spurt om Ava passerte testen. Kan en AI ha bevissthet? Hva vil den gjøre hvis den har en bevissthet? Hvordan vil den bruke det den tilegner seg?

Hvem bruker hvem i dette språkspillet?

Men i denne filmen tenker jeg enda mer på at det som gjør det hele mulig, er tre ting: alkoholen, nøkkelkortet og det sårbare, kjærlighetstørstende barnet. Caleb mistet sine foreldre i en bilulykke, overlevde så vidt selv, han er et forlatt barn altså. Caleb er allerede kartlagt som et menneske som er sårbart. Mennesket, uansett hvilket det er, har et sikkerhetshull det er umulig å tette, fordi vi er kjærlighetstørstende og forlatte, noen mer enn andre. Nathans svakheter fyller han med alkohol. Om disse har oppstått på grunn av hva han har drevet med, eller fordi han har en medfødt sårbarhet, hendelser i barndommen … De samme bestanddelene som i en hvilken som helst krim.

Det er alltid det samme det dreier seg om, og vi som ser, har alltid glemt det. Derfor kan det fortelles igjen og igjen i alle former, dette er selve vårt verdensmysterium, at vi ikke vet om det er oss eller noen andre som er enda mer forlatte, kjærlighetshungrige barn, som kan bli livsfarlige. Ingen vil ha dem hvis de røper at de er en av dem som vil ha kjærlighet og trenger det aller mest.

Ikke røp at du er et sikkerhetshull.