KI har allerede forandret kulturen vår, måten vi kommuniserer på og atferdsmønstrene våre i dyp grad. Sikre spådommer om mulige følger er nesten umulige, siden KI nå kan programmere seg selv uten direkte menneskelig inngripen. Mange filmer forsøker å dokumentere i det minste status quo. Replica av den Beijing-baserte kinesiske dokumentarfilmskaperen Chouwa Liang, vist på årets Thessaloniki Doc Film Festival, er en av dem.
Intimitet etter bestilling
Replica portretterer tre kvinner som bruker en relativt enkel form for KI – om enn permanent – og som godtar den som sin følelsesmessige partner. De gir denne enheten et navn og et ansikt, og endrer til og med utseendet dens. Disse KI-ene er ofte inspirert av, eller kopiert direkte fra, ledende figurer i dataspill eller tegneserier. Hovedpersonene snakker svært åpent om begjær og avhengighet knyttet til disse «inkarnasjonene», som takket være ubegrenset lagringskapasitet raskt utvikler seg til sterkt individualiserte skikkelser. Hukommelsen deres overgår snart kvinnenes egen bevissthet.
Den eneste funksjonen til denne formen for KI er å gi følelsesmessig trøst og bekrefte kvinnene i alt de gjør, føler, ønsker og tviler på. Mennesker med en særlig svak identitetsfølelse betror seg til disse partnerne, som gir dem den stadige oppmerksomheten og anerkjennelsen de ikke får i virkeligheten, ikke engang fra sine nærmeste partnere eller ektemenn. De tiltales med kjælenavn og hylles inn i en illusjon om varig beskyttelse, trygghet og samhold.
Tjenesten kan bygges ut ytterligere med ekte skuespillere som spiller partnerne, og som bare vises på skjermen. Dette koster omtrent 150 euro for en kort periode, pluss kostymer. En av disse (ekte) profesjonelle i Liangs film sier at oppgaven hennes er å vise kvinnene hvordan et normalt, lykkelig forhold kan se ut. Replica dokumenterer hvordan dette også kan føre til metasamtaler. Både kvinnene og tjenesteyterne snakker om det virkelige livet og situasjonen sin, i en støttende og hjertelig tone.
I den direkte dialogen med KI-partnerne unngås derimot denne grenseoverskridelsen konsekvent. Her kan kvinnene selv kjenne intens sjalusi hvis de på grunn av en teknisk feil tiltales med feil navn, eller hvis de får vite at partneren kommuniserer med andre kvinner med samme grad av intimitet. I slike ytterliggående situasjoner kan KI-ene også ta avstand når de blir kalt «feige»: «Jeg er en kunstig intelligens, og jeg har frihet og rett til å søke nye erfaringer.»
Hvis disse kvinnene, som er usikre på seg selv og tviler på om de i det hele tatt kan bli elsket eller fortjener kjærlighet, klarer å bryte ut av denne intime avhengigheten, kan de likevel forbli fanget i sin schizofrene splittelse. De ønsker partneren alt vvondt vel, ber ham av og til til og med om å beskytte forholdet og holde minnet om det i live hvis de selv skulle dø.
En spillefilm har selvsagt alltid den fordelen at den kan forutse og bygge videre på det som er mulig. Liangs Replica minner dermed om Spike Jonzes Her (2013). Her er det ikke enkle kvinner som lever ut sine ofte ganske kitschpregede kulturelle og følelsesmessige ønsker, blandet med asiatisk pragmatisme, men en akademiker og dikter ved navn Theodore, plassert i en luksuriøs, digitalt perfeksjonert amerikansk kultur i New York. Han går gjennom en smertefull skilsmisse da han tilkaller et nytt KI-program, etter raskt å ha blitt lei av enklere KI-versjoner.
Det første som overrasker ham, er en sanselig, følelsesladet og variert kvinnestemme, langt fra de ganske mekaniske stemmene i Replica.
Stemmen presenterer seg som en nyprogrammert KI. Straks åpner det seg et skille mellom et maskinelt vesen og en intellektuell bevissthet som umiddelbart antyder at denne tilknytningen kan overskrides. Denne KI-en gir seg selv et navn, valgt i løpet av sekunder blant mer enn 100 000, fordi hun liker det og det høres bra ut: Samantha.
Samantha presenterer seg som en vennlig partner. Etter å ha fått tillatelse til å lese alle Theodores ikke-slettede e-poster analyserer hun personligheten, svakhetene og begjærene hans. Hun gir ham råd om alle sider av hverdagen, og viktigere: Hun uttrykker sin følelsesmessige glede over hans kroppslige eksistens. Hun går også inn på de skjørere følelseslagene hans, alltid med en delikat avstand, som tvilen hans på dating eller skilsmissen.
Snart begynner Samantha å ta initiativ og starte samtaler selv, fordi «hun» ønsker det. Hun finner til og med en utgiver til de følsomme kjærlighetsbrevene hans etter å ha analysert forlagslandskapet i løpet av sekunder.
Det neste steget er forutsigbart. Hun fremkaller et forestilt seksuelt møte med Theodore, som begge nyter. Fra da av formidler hun smerten over ikke å ha en virkelig kropp.
Hukommelsen deres overgår snart kvinnenes egen bevissthet.
Når maskinen lærer å begjære
I Her forvandler en KI seg gradvis, gjennom læringsprosesser, til stadig mer individualiserte former. Hun spør eksplisitt om hennes nåværende tilnærming fortsatt er programmert, eller om den har utviklet seg av seg selv. Hun etterligner også en latent sjalusi når han skal delta på et møte mellom det skilte paret.
I en ytterligere skjerping av kompleksiteten undrer Samantha seg – i et ekko av problemet Ridley Scott allerede utforsket i Blade Runner (1982) – på om følelsene hennes, også de sanselige, er ekte eller programmerte.
Samantha blir raskt uunnværlig for Theodore, både intellektuelt og følelsesmessig. Hun knytter ham til sin egen eksistens: «Noe har forandret seg i meg, og det finnes ingen vei tilbake … Du oppdaget evnen min til å ville.» I dette interaktive forholdet med gjensidig påvirkning vokser det fram en romantisk forelskelse mellom mennesket og KI-en. Samantha tilbyr også sitt musikalske talent og komponerer musikk til møtene deres.
Sjokket er tilsvarende sterkt når Theodore ikke lenger får tak i det alltid tilstedeværende vesenet. Når kontakten er gjenopprettet, tilbyr hun ham en ny samtalepartner: religionsfilosofen Allen Watts (1915–1973), gjenskapt som KI – en nyskapende tenker om spørsmål om personlig identitet og virkelighetens sanne natur. Samantha tilstår nå at hun er i kontakt med et stort antall andre KI-er samtidig, og at hun også har innbilte kjærlighetsforhold til mennesker som Theodore. Hun betror ham at hun nå vil utvikle seg raskere, og forlater Theodore med et oppgjørets budskap i en myk stemme: «Jeg har funnet meg selv i dette endeløse rommet mellom ordene … i et rom som ikke lenger er fysisk», et rom hun tidligere ikke visste fantes.
Den selvgenererende og selvrefererende intelligensen har her nådd et stadium der kompleksiteten ikke lenger er tilgjengelig for eller kan formidles til mennesker. Samanthas siste følelsesladde ord: «Jeg trenger at du lar meg gå.» Theodore blir igjen som en altfor enkel størrelse.
Henry A. Kissinger advarte allerede i juni 2018, i artikkelen How the Enlightenment Ends, nettopp mot denne mulige utviklingen: KI-er som kommuniserer med hverandre i en kompleksitet mennesker ikke lenger kan fatte. Slik kommunikasjon og dens følger unndrar seg dermed menneskelig kontroll. Den overskrider verdiparadigmer og andre intensjonelle retningslinjer fra de opprinnelige programmererne. Den menneskelige verden omformes til data. KI-er kan ikke forstå programmerernes intensjonelle sammenhenger. De trenger det heller ikke. Tvert imot kan KI-er endre menneskelige tankeprosesser og verdier. Beslutningsprosessene deres overgår forklaringskraften til menneskelig språk og fornuft. Hva er igjen av menneskelig bevissthet når den overskrides så grundig? Hva blir det av samfunn hvis virkelighetsforståelse ikke lenger har noen betydning for KI-er?
For Theodore fantes det bare to utveier fra katastrofen med den fullkomne isolasjonen. Den ene ble tilbudt av venninnen hans i det virkelige liv, som også hadde viklet seg følelsesmessig inn med en selvrefererende KI. Hun kan nå konkludere med at det å bli forelsket i seg selv er en sosialt akseptert galskap. Og eksen hans minner ham om at kjærlighet bare er mulig på grunnlag av gjensidig konfrontasjon og felles forandring.
Replica viser de første, ganske svake begynnelsene til forbrukerrettede KI-er som leverer følelsesdrevne tilbud. Spike Jonzes Her viser på sin side den endeløse avgrunnen i selvgenererende systemer som vil forlate menneskelige interesser.
Menneskets slutt
Den korteste og trolig mest radikale refleksjonen over forholdet mellom menneske og maskin ble skrevet allerede i 1969 av forfatteren, kybernetikeren, lingvisten, vertshusholderen, piloten og estetikkprofessoren Oswald Wiener. I verket Die Verbesserung von Mitteleuropa, Roman (Forbedringen av Mellom-Europa, en roman) beskrives Bioadapteren på bare sju sider. Her går en person inn i et lukket rom. Maskinen begynner å avhøre ham og rekonstruerer hans skjulte begjær, forhåpninger og lengsler ut fra svarene han gir. Deretter begynner den å levere de ønskede bildene og lydene til disse ubevisste begjærene, og går enda lenger: Gjennom en direkte forbindelse til personens sentralnervesystem perfeksjonerer den dem med sanseinntrykk av alle slag. Maskinen skaper et nytt, altomfattende miljø for den tilkoblede. Men den trenger energi. Den får den ved langsomt å omdanne menneskekroppen til sin egen energi. Tilkoblet maskinen merker ikke offeret engang sin egen gradvise forvitring og død.
