Analysen

iHuman (2020)

Med filmene Drone (2014) og iHuman (2019) har regissør Tonje Hessen Schei markert seg som en ambisiøs dokumentarfilmskaper som ønsker å nå ut bredt og internasjonalt i et engasjert forsvar for uavhengige medier og intellektuelle mot det militærindustrielle kompleks og de mektige tech-selskapene.

Hennes programerklæring kom allerede med Independent Intervention: Breaking Silence (2006), hvor stemmer og bilder blottla Irak-krigens bestialitet og kritiserte USAs maktapparat og ensrettingen i massemediene. Kampen for demokratisk beredskap og medborgerskap er grunnlinja i hennes filmer. Med iHuman er om mulig denne ambisjonen blitt enda mer påtakelig og filmspråket ytterligere dramatisert med Henrik Bohn Ipsens fantasifulle kamerainnstillinger, Olav Øyehaugs subliminale synth-musikk og Rebel Units urovekkende data-animasjoner – men fienden er blitt utydeligere.

I filmprologen zoomes det inn mot et mørkt og abstrakt univers hvor et arkipelag av flyktige CGI-formasjoner danner et vagt mønster i bevegelse. En massemedial kakofoni tones inn, den virtuelle zoomen stopper, og vi hører en kvinnestemme deklamere tydelig på engelsk, mens vi leser den nynorske oversettelsen: «Intelligens er evna til å forstå.» «Me ga kunnskapen vidare til maskiner.» En amerikansk radiostemme forteller: «Kunstig intelligens kjem fort. Men somme fryktar at han kan føra til problem.» Noen svarer melankolsk, som om stemmen kommer fra en spillefilm: «Me kjem ikkje til å kontrollere han.» Elektronisk musikk øker dramatisk i styrke samtidig som de abstrakte maskinformene reiser seg og bygger et erigert stilas. Så legges filmens motto over lerretet: «Suksess med KI kan bli det største mennesket har oppnådd. Dessverre kan det også bli det siste. (Stephen Hawking)» Rytmisk elektronika tar over og titteltekstene kommer: «A film by Tonje Hessen Schei». De abstrakte formene veksler mellom å være «naturlige» trekkfugler og «kunstige» dataformer i simulerte svermer, som om vi trer inn i et sci-fi-grøsserunivers.

Kryssklipp til folkemengder i en asiatisk storby skutt i close-up med en zoomlinse som stilles inn og ut av fokus, som om noen overvåkes. En nyhetsstemme leser opp: «Kunstig intelligens algoritmer er her, men dette er berre byrjinga». Xi Jinping, Trump og Putin ankommer. Rytmisk tilbake til innledningsgrafikken, data i svermer, og en nyhetsstemme: «I KI-alderen er data den nye olja». Det zoomes inn mot bygningslogoene til Facebook og Google et sted i California: «Nokre få menneske i nokre få teknologiselskap styrer kva ein milliard menneske tenkjer på». Og: «Denne teknologien endrar kva det vil seie å vera menneske». Deretter suges kamera inn i noe som ser ut som et svart hull og på den andre siden blir det helt stille. Vi svever over en skyskraperby, deretter et boligområde. Tittelen: iHUMAN.

Filmens tre minutter lange prolog formidler raskt og intensivt at her er store og dramatiske ting på gang. Et KI-spøkelse hjemsøker verden. Hvordan fanger og belyser regissør Schei dette spøkelse? Kunstig intelligens er teknisk sett en svært kompleks og abstrakt størrelse. Likevel oppleves og erindres Scheis film som en fysisk og emosjonell opplevelse. Hvorfor?

Kroppsvæske-sjangrene

Regissøren bruker en prologform som filmspråklig konnoterer til thrilleren, grøsseren eller science fiction. På det ene side er det morsomt, underholdende og effektivt at det abstrakte pakkes inn i fysiske «kroppsvæske»-sjangrer som grøsseren; på den andre side er det litt irriterende at en kompleks tematikk serveres i velkjente spenningssjablonger. Dette er formidlerens problem: hvordan skal man forklare det utilgjengelig bak KI uten selv å bli utilgjengelig?

Man kan be eksperter forklare hva som skjer med enkle ord og krydre noen av uttalelsene med spillefilmspråklige grep. Dokumentarsjangerens «talking heads» preger filmen, men regissøren unngår å klippe fra hode til hode ved å situere de sentrale intervjuobjektene i interessante omgivelser, en by, en park, en bygning eller et spesifikt interiør som utforskes med vakre kamerabevegelser samtidig som bildene forteller noe om intervjuobjektet. Her er filmen på sitt beste.

Det er vakkert melodramatisk å se Ilya Sutskever, forskningslederen for Elon Musks Open AI, sitte på en benk på en høyde over tekno-byen San Francisco mens han forteller om sin frykt for at fremtidens KI vil kunne skape det perfekte diktatur. I forkant har vi lært at hans jobb er å forhindre nettopp en slik utvikling. Det er også fabelaktig å se professor Michal Kosinski, psykografiens moderne mester, opphavsmannen til noen av de metodene som ble brukt i Facebook-Cambridge Analytica skandalen, stå på en motorisert løpemaskin som er plassert i kontoret på Stanford Universitetet, ved skrivebordet, slik at han kan holde seg i form mens han taster på datamaskinen og lar seg intervjue samtidig. Dette er strålende kontorintervju-kunst.

Høydepunktet i så måte er nok intervjuet med Jürgen Schmidhuber, en av opphavsmennene til KI, som vi følger i en gondol, høyere og høyere opp i Alpelandskapet, mens han deler sine KI-fantasier. Fra toppen fyker han utfor en bratt slalåmbakke i deilig puddersnø. Mens han kjører nedover utlegges hans siste visjonære påstander om at KI vil skape en ny livsform som er mye mer avansert enn mennesket – og akkurat da faller han over ende og stuper hjelpeløs i dypsnøen. Fabelaktig! Det er som om disse miljøene og øyeblikkene bærer på en ironi og en distanse til mestertenkerne som slår hull på gravalvoret i uttalelsene. De vitner om at regissøren har forberedt seg godt, blitt fortrolig med intervjuobjektene, funnet de riktige stedene, den gode stemningen, atmosfæren, mestrer situasjonen og er suveren i klipping og postproduksjon. Slik skapes filmøyeblikk!

Det er et imponerende orkester av sentrale stemmer fra øst og vest innen KI-forskning og teknologikritikk som kommer i tale. Ledende KI-forskere presenterer utfordringer som forskningen sliter med på godt og ondt. Vi får høre om de store linjer, heller enn om forskningens små detaljer, som generering av datasett og algoritmer. Sutskever hevder at fremtidens kunstige intelligens vil innebære et større teknologiskift enn både elektrisitet, atomkraft og internett; den vil innebære en ny livsform.

Direktør Max Tegmark ved The Future of Life Institute, hevder at førerløse biler vil gjøre 10 millioner mennesker arbeidsledige. Kosinski, som løper ved skrivebordet, hevder at hver enkelt bruker i 2012 genererte om lag 500 megabyte data daglig; i 2025 vil hver enkelt generere om lag 62 gigabyte (eller 63488 megabyte) daglig. Dette er verdifull informasjon for selskap og stater som brukeren selv aldri får tilgang på. Kosinski tror blant annet at gamle dagers fysiognomi vil gjenoppstå i form av ansiktsgjenkjenningsteknologi som kan kategorisere mennesker ut fra kjønn, legning, rase, skikkethet og anlegg for lovbrudd.

På den andre side møter vi en rekke fremragende teknologikritikere som frykter at tech-industrien er i ferd med å få altfor stor makt med midler som vi kjenner altfor lite til. Jusprofessor Philip Alston ser at KI-forskningen primært utnyttes innen forretningsvirksomhet og i sikkerhetstjenesten; dette skaper et omfattende og uforutsigbart militærindustrielt kompleks. «Project Maven»-varsleren Liz O’Sullivan intervjues. Hun avdekket hvordan den sivile tech-industrien utvikler løsninger for «algoritmisk krigføring» for militærindustrien og peker på parallellen mellom de unge ingeniørene som utviklet atombomben men trodde de jobbet med noe annet, og de unge IKT-utviklerne som ikke vet hvilke prosjekter de egentlig deltar i. Vi må våkne!

Andre drøfter hvordan KI vil forsterke snarere enn fjerne ulikheter, urettferdighet og klasseskiller. Silvija Seres, matematiker og president i norsk Polyteknisk forening, hevder at KI kan forsterke polariseringer og konflikter fordi det er lønnsomt. Feberhete soner er klingende mynt for Facebook og Twitter. Slik kan verden gå av hengslene, og Schei illustrerer uttalelsene med underlige og vakre panoreringer over storbyer vendt opp-ned. Direktør Sophie Richardons forskning for Human Rights Watch, viser at Kina forsøker å skape et dissensfritt samfunn ved hjelp av KI og overvåkning, og vi møter seniorforskeren Jack Poulson som hoppet av Google i protest da de ville lage en sensurert søkemotor for Kina. KI- og IKT-utviklingen perspektiveres bredt og fra mange sider, entusiaster, kritikere, varslere og avhoppere. En rekke brennbare og spennende tematikker berøres, men blir det for mange ting og for lite fokus?

Når oppstår egentlig KI?

Den sentrale underliggende spenningen i filmen ser ut til å ligge mellom KI-forskere som Tegmark, Sutskever og Schmidhuber som hevder at KI-vil komme om kort tid, og KI-kritikerne som tech-sosiologen Zeynep Tufekcis som hevder at KI allerede finnes overalt. Disse to grupperingene kan da umulig snakke om det samme, og denne forskjellen i «det samme» blir ikke helt klarlagt i filmen. Det er Tegmark som intervjues først, og som derfor setter tonen for filmen. Han hevder at KI kommer snart, og utdyper litt à la Stephen Hawking at KI kan bli det beste for menneskeheten – men også kanskje det verste.

Det underlige med slike påstander er at de lett blir stående som bombastiske påstander som ikke hever seg langt over sjanger-scenarioer vi kjenner fra hundrevis av dystopier som The Terminator og The Matrix (1999). Fordelen til fiksjonsfilmene er at de kan lage storslått action av dette. Regissør Schei lager ikke action, men har en dragning mot poetisk gyser-estetikk som kan understreke alvoret i påstander om det som «kommer». Paradokset med dette billedspråket er at det sjelden skaper ettertanke og refleksjon, men snarere understreker det altfor bombastiske og apokalyptiske.

Jeg savner at de forskerne som beveger seg langt inn i et spekulativt terreng om det «kommende», imøtegås eller konfronteres med en motforestilling, f.eks. i form av et kritisk spørsmål eller en kommentar som ikke godtar premisset. Denne strategien har Schei valgt bort. Regissørens eller intervjuerens stemme høres aldri; i stedet fremstår filmens stemme eller toneleie primært gjennom de storslått tonesatte datagrafikkene. Slik skapes en egen flyt, men også noe monologisk ved at filmen samler opp en serie apokalyptiske visjoner som ikke imøtegås. Dokumentaren beveger seg slik bort fra en potensielt aktivistisk posisjon og mot en defaitistisk posisjon.

Jeff Orlowskis The Social Dilemma (2020) eller James Jacobys The Facebook Dilemma (2018), dokumentarer som legger opp til en mer aktivistisk posisjon overfor sosiale medier, velger et annet «toneleie» ved at intervjuerens stemme og subjektivitet er aktivt med og foreslår kritikk. Slik skapes en mindre monologisk tendens og en uren, indre friksjon mellom intervjuer og objekt. En annen måte Schei kunne ha imøtegått KI-fantastenes påstander på er å be andre forskere uttale seg om påstandene deres. Dette er Michael Moores teknikk, som innebærer å utsette seg for risiko. Schei lener seg f.eks. mye på uttalelsene til Schmidhuber, men uten å gå i kritisk dialog med ham. Noen raske Google-søk viser at han i en del miljøer i dag sees på som kontroversiell og i overkant spekulativ og ærgjerrig.

Man kan si at Schei unngår det monologiske og ensidige ved at hun intervjuer både de som hevder at KI kommer og de som hevder at KI allerede finnes overalt. De kan deles i to leirer: det er teknologer som forsker på KI og som tror på tesen om eller muligheten av at KI en gang i fremtiden om 30 eller 50 år vil kunne oppnå autonomi eller singularitet, dvs. bli en KI-«livsform», som vil kunne operere uavhengig av menneskelig kontroll og input. Disse støtter godt opp under tidens Hollywood-scenarier. På den andre side intervjues en rekke kritiske humanister, sosiologer og jurister som mener at bruken av KI allerede har gått for langt, f.eks. i overvåkningsstater som Kina eller i store tech-selskaper som Google og Facebook, som baserer seg på forretningsmodeller hvor kverning og minering av brukerdata gjør brukeren til det egentlige produktet.

Det som jeg stusser litt over i denne sammenhengen er at disse to forskergruppene egentlig ikke snakker om «det samme», og det redegjøres det ikke ordentlig for i filmen. På den ene side hevder iHuman at KI er en heterogen teknologi som er mangfoldig i bruk, i alt fra sosiale medier til sporingsalgoritmer, overvåkning, etterretning, robotikk osv. På det andre side virker det som om filmen impliserer at de som har skjønt det, hevder at KI egentlig er en ting som kommer i fremtiden. Det eksisterer med andre ord en spenning omkring hva som er filmens egentlige tematikk og kritikk. Hvem har mest rett? Denne uklarheten med hensyn til om KI kommer eller allerede fins, er en uklarhet som oppstår i veldig mye av den viktige samfunnskritikken av KI.

Hvis den kommende KI er filmens dypeste tema, er da samtalene omkring Facebook og Cambridge Analytica-skandalen en supplerende tematikk? Hva er likt og hva er ulikt i Schmidhubers robot-forskning og Facebook-maskineriet? Ja, begge deler er basert på avansert dataprogramvare og elementer av maskinlæring som ofte sidestilles med KI-forskning. Her er vi ved sakens kjerne og problem. På tross av alle intervjuene med eksperter, forskere og kritikere er det aldri noen som definerer hva KI eller kunstig intelligens egentlig er, og jeg vet at selv innen forskningsmiljøer er det uenighet om når KI egentlig oppstår – når går databehandling over til å bli KI? Schei underkjenner dette problemet, og det er synd fordi filmen både vil tematisere og kritisere KI-utviklingen. Det finnes noen tilløp til definisjoner av KI som i Tegmarks påstand om at den er en «ikke-biologisk intelligens» med evne til å oppnå mål, og som i Schmidhubers uttalelse om at vi forsøker å komme til et punkt hvor maskiner selv kan lære noe om hvordan de lærer noe slik at de kan lære seg selv nye ting. Disse definisjonene blir ikke forklart eller reflektert over av andre i filmen, og står i skarp kontrast til de forskerne som hevder at KI allerede er allestedsværende. Samtidig fremlegges kritikken av både Kinas og Facebooks maskinlæringsprogrammer, som benyttes for å kontrollere borgere og brukere, som en kritikk av «det samme» marerittet – av KI. Hva som er sammenhengen mellom Schmidhubers KI som lærer seg selv og Kinas og Facebooks maskinlæringsprogrammer forblir uklart. Er begge uttrykk for (den samme) KIs utbredelse?

Generell versus spesifikk KI

En måte å løse problemet på er å innføre det nå velkjente skillet mellom kunstig generell intelligens (KGI) og kunstig spesifikk intelligens (KSI). KGI finnes ikke, men KSI er overalt. Der den førstnevnte, KGI, knyttes til en særegen forskningsretning – oftere grunnforskning, som undersøker nettopp mulighetene for å skape maskiner som kan bli autonome og altså lære seg selv å lære – knyttes den andre, KSI, oftere til praktisk anvendt forskning, hvor man bruker f.eks. maskinlæring for å få maskinen til å utføre en spesifikk oppgave i våpensystemer, på sykehus eller på nettet, som å gi brukeren anbefalinger, gode søketreff, en tilpasset news feed som på Facebook eller en oversettelse som med Google Translate. I filmen omtales KGI et par steder, men fenomenet settes ikke i kontrast til KSI. Slik jeg opplever det, er ikke de to sider av samme sak.

Informatikeren Ken Goldberg ved UC Berkeley, er svært opptatt av dette skillet, men deltar dessverre ikke i filmen. Jeg arrangerte et KI-seminar med ham for et par år tilbake. Han mente da at KGI-forskningen drives av et svært lite miljø som av mange sees på som useriøst og kvasivisjonært. Goldberg mener at den store forskningen foregår på KSI området; det er der de store pengesummene ligger i dag. Dette er forskning som drives av alle tech-gigantene og som implementeres i alle sosiale medier, applikasjoner, byråkratier, stater, flyplasser, sykehus og ikke minst, i militærapparatet. I disse sammenhengene er Goldberg mest opptatt av hvem det er som skaper maskinenes input, deres datasett, på de ulike områdene, fordi det er det som avgjør hva som blir maskinenes output, deres resultater og handlinger. En viss type KGI-forskning drømmer om en fremtid hvor maskinene selv – ikke menneskene – skal skape både input og output. Hvilke seriøse forskere ønsker en slik maskin? Ingen, mener Goldberg.

Menneske-versus-maskin fortellingen

Jeg påstår ikke at Goldberg har helt rett, men jeg savner denne type metakritiske posisjoner i Scheis film. I stedet får man en følelse av at iHuman blander sammen hummer og kanari ukommentert, uforklart. På den ene siden uttaler KGI-fantastene seg uimotsagt, og i neste sekvens drøfter en sosiolog problemet med Facebooks og Googles overvåkningsprogrammer. På den ene side advarer KGI-fantasten mot farene ved misbruk av KGI, på den andre side kan det virke som om Facebook og Google beskyldes for å misbruke KGI. Denne type misforståelse oppstår nettopp fordi filmen unngår å skille mellom KGI og KSI som to ulike praksisområder. Samtidig fremstilles begge disse to posisjonene, i rendyrket form, i Schmidhubers drøm om den ultimate KI, maskinen med stor M, og motsatt, i Tufekcis påstand om at KI allerede brukes overalt, i søkemotorer, i sosiale medier og i forsikringsselskap.

Schmidhuber og Tufekci bidrar med to helt forskjellige fortellinger, og det blir det ikke redegjort for i filmen. iHuman dytter i stedet de to inn i én fortelling om menneske versus maskin. Et kritisk perspektiv ville adskilt dem og vist hvordan KGI-visjonenes premisser lett villeder oss inn i en poetisk forestilling om menneske versus maskin, mens KSI-debatten, som er fundert i praktisk anvendt forskning og dens kritikk, snarere handler om hvilke mennesker og miljøer som skal bestemme hvordan maskiner skal programmeres, og at denne debatten bør temme og moderere KGI-debatten inn i et mindre fantasipreget spor. iHuman ser ut til å ikke ville moderere seg i denne retningen og henfaller i stedet til den bombastiske menneske-versus-maskin fortellingen.

På forunderlig vis fremstår filmens prolog som hele filmen i miniatyr. Vi serveres apokalyptiske påstander om livet med KI, men får ikke vite hva KI egentlig er. Sammenhengene mellom de ulike eksemplene blir utydelig, og slik dannes ikke et godt utgangspunkt for en kritisk debatt. Ja, det kan tenkes at Facebook og Google vil høste inn så mye informasjon om sine brukere at de får et kunnskapsmonopol uten sidestykke, men dette er likevel noe annet enn KGI.

iHuman inneholder spennende synspunkter fra en rekke fremragende forskere, som absolutt fortjener oppmerksomhet, men presisjonen bør bli bedre. Vi oversvømmes av filmer og debattbøker om temaet, og noen er virkelig gode. Scheis film inneholder det meste, men kurateringen av stemmer og posisjoner må bli tydeligere og premissene klarere hvis debatten skal føre til klarhet og handling i stedet for forvirring og apati. De beste bidragene er de som er mest mulig presise og avgrenset i sin tematikk. Shoshana Zuboffs bok, Surveillance Capitalism (2019), er god (min kritikk). Hun skriver nøkternt om hvordan Google og Facebook utviklet en forretningsmodell basert på sporingsalgoritmer. Dette er KSI basert på maskinlæring. Hennes bok ser også ut til å ligge til grunn for Jeff Orlowskis relativt vellykkede dokumentar The Social Dilemma (2020) som fokuserer på sosiale medier og særlig Facebook.

iHuman er visuelt sett mer spennende enn The Social Dilemma, men det kan virke som om Scheis forkjærlighet for dommedagsprofetier overskygger en kjølig og kritisk avklaring av posisjoner og påstander. Hun forvandler altfor raskt en teknologisk og politisk debatt i rivende utvikling til et evig epos om menneske versus maskin.

Det kan være bra å ha med begge disse dimensjonene, men i iHuman vinner eposet over kritikken, slik jeg ser det.

Skriv ut artikkelen Skriv ut artikkelen Din kommentar

Du kan bruke følgende koder:
<a href="https://montages.no">lenke</a>
<b>fet skrift</b>
<i>kursiv</i>
<blockquote>sitat</blockquote>