Av Philip Maxwell Thingbø Mlonyeni
Mange er redd for hva som skjer hvis vi klarer å utvikle en genuin kunstig intelligens. En maskin som, for alle praktiske formål, ikke kan skilles fra menneskelig intelligens. Hva skjer hvis alle jobber blir overtatt av maskiner? Hva blir igjen av menneskelig kreativitet og sensualitet, når maskiner kan lage kunst og musikk på høyde med de store mestrene?
Begrepet som gjerne blir brukt er ‘automatisering’. Istedenfor at produkter, kommersielle så vel som kulturelle, fortsetter å være uttrykk for menneskelig spontanitet og kreativitet, frykter man en fremtid hvor alle produkter er resultatet av en standardisert og algoritmisk prosess.
Denne frykten er ikke helt urimelig. Selv om tegnene tyder på at det er en stund til vi kommer til å se en intelligens som virkelig kan måle seg med mennesker, ser vi allerede maskiner som kan utfordre oss i enkelte domener.
Det er allikevel noe rart med denne frykten. Hvis frykten er at det arbeidet mennesker gjør i dag kan automatiseres i fremtiden, betyr ikke det at det arbeidet vi gjør i dag, i en eller annen forstand, allerede er automatisert? Kan det være at frykten ikke handler så mye om at maskiner kommer til å ta over, men at de allerede har gjort det? La oss undersøke denne påstanden nærmere.
Maskiner som dem
Først en liten tur tilbake til februar 2016. Den amerikanske valgkampen er i gang, og de republikanske kandidatene er klare for debatt. Blant dem er den håpefulle Marco Rubio. Dessverre var ikke dette hans kveld. Han er forberedt, men litt for forberedt, og ender opp med å gjenta et talepunkt hvor han kritiserer daværende president Obama ikke bare en, ikke to, men fire ganger[1]! I videoer hvor Rubios gjentagelser er sidestilt er det vanskelig å ikke få inntrykk av, som en kommentator fremstiller det, at Rubio har kortsluttet («short-circuited»). Andre kalte ham «robotic» og «glitchy».
Det er ikke bare amerikanerne som glitcher. Det samme skjedde på Dagsnytt 18 i desember det samme året, da Arbeiderpartiets Torstein Tvedt Solberg skulle svare på spørsmål om partiets helomvending i etterlønnssaken. Opptil flere ganger mente Tvedt at det var «veldig bra at når man ser at man har gjort en feil, rydder opp i den feilen»[2], så mange ganger at Fredrik Solvang så seg nødt til å gripe inn: «Du får ikke lov til å gjøre det du driver med nå. Du må svare på noen spørsmål». Det hjalp ikke, Solberg var som datamaskinen: «computer says no».
[1] Tre og en halv hvis man er godhjertet. Leseren kan dømme selv om den siste gangen teller ved å se videoen i artikkelen til Lopez (2006).
[2] For video av hendelsen, se Solheim (2016).
Når man ser opptredener som den til Rubio eller Solberg begynner man å lure: er det en intelligens der inne, en tenker, eller er det bare mekanikk? Fenomenet er en invers av den kjente Turing-testen. Istedenfor at det er en maskin som prøver å overbevise oss om at den er intelligent, har vi her å gjøre med mennesker som ikke klarer det. Dette er et paradoks. Vi vet at Rubio og Solberg er intelligente, men likevel er de lite overbevisende. De fremstår mekaniske, som om det som kommer ut av munnen deres er resultatet av en algoritmisk avveiing, istedenfor spontaniteten som karakteriserer menneskelig kommunikasjon.
Fenomenet illustrerer det Sianne Ngai kaller ‘animerthet’ («animatedness») (Ngai, 2005) som er følelsen av at vi ikke selv kontrollerer våre egne handlinger, men at en fremmed kraft handler gjennom oss. Akkurat som en buktalerdukke er det som om det ikke er Solberg eller Rubio som snakker, men noe utenfor dem, noe som ‘trekker i trådene’ deres. Det er i det minste slik det oppleves for seeren.
Samtidig, og først og fremst, er dette humoristiske hendelser. Det er ingen reell tvil over hvorvidt Solberg og Rubio er mennesker eller maskiner. At de fremstår mekaniske er fordi de beror seg på innøvde sitater som de har trent på med kommunikasjonsrådgivere, ikke at hjernene deres er lagd av silikon istedenfor grå masse.
De mer interessante eksemplene på robotiske mennesker finner vi i arbeidslivet. Allerede på 1800-tallet ble Marx oppmerksom på hvordan kapitalismen utvisket distinksjonen mellom menneske og maskin. I det såkalte Maskinfragmentet (en seksjon i Grundrisse) spår Marx at etter hvert som maskinene blir mer sofistikerte vil «arbeiderens aktivitet, redusert til en ren abstraksjon av aktivitet, [være] determinert og regulert av maskinens bevegelser, og ikke motsatt» (Marx, 1973, s. 693. Min oversettelse). På Marx’ tid var det fortsatt en viss distinksjon mellom arbeideren og maskinen, men tendensen var tydelig. Til slutt vil det ikke lenger finnes arbeidere i vanlig forstand, bare utskiftbare deler i en enorm maskin.
Marx’ profeti ser ut til å ha blitt oppfylt. Ta for eksempel forretningsstrategien til Uber. Det mange kanskje ikke vet, er at Uber lenge hadde planer om å bytte ut flåten av førere med selvkjørende biler. De har siden lagt disse planene på is ettersom det viser seg at å lage selvkjørende biler er veldig vanskelig, men de holder fortsatt på sin visjon om at vi en gang i fremtiden ikke vil trenge menneskelige førere (Kollewe, 2020). Når vi vet dette, hva sier det egentlig om hva det er å kjøre for Uber? Hvis alle førerne (ideelt sett) kan byttes ut med ren robotikk, er ikke førerne i en viss forstand allerede roboter? Hvis Ubers drift er den samme, enten det er mennesker som kjører eller bilene som kjører seg selv, finnes det egentlig noen meningsfull forskjell på mennesker og maskiner?
Vi ser det samme, om enn i en litt annen form, i de såkalte «Fulfillment»-senterne til Amazon – de enorme lagrene hvor pakker gjøres klar før de sendes ut til kunder. I mange tilfeller settes det krav til arbeidere som bare en maskin kan klare. For eksempel ble en ansatt bedt om å skanne et produkt hvert 11. sekund, over 300 produkter i timen (Teegan, 2020). Dette er absurd av flere grunner, ikke minst fordi et menneske ikke opererer etter sekundviseren. Det kan godt være at et menneske klarer å skanne mange produkter i minuttet, men tiden vil variere. Noen ganger skanner man et produkt på 2 sekunder, noen ganger tar det lenger tid fordi man ikke finner strekkoden. Bare en maskin kan operere etter en logikk hvor hver skanning skal ta like lang tid. Arbeideren blir i denne forstand «determinert og regulert av maskinens bevegelser», i dette tilfellet en usynlig algoritme som har bestemt Amazons produksjonsmål.
Ngai gjør et poeng som er relevant i denne konteksten. I analysen av ‘animerthet’ diskuterer hun fremveksten av stop-motion – en filmteknikk hvor man tar stillbilder av en figur som beveges ørlite grann mellom hvert bilde, hvorpå man setter bildene i sekvens og får det til å se ut som figuren er i bevegelse. Hun påpeker at mange av de tidlige stop-motion filmene hadde scener hvor produkter ble produsert uten menneskelig innblanding, som for eksempel «‘en magisk snekkerbod’-film hvor verktøyene ble manipulert uten hender». Å lage slike filmer var en prosess som krevde mye tid og arbeid, og hun påpeker ironien, eller kanskje til og med paradokset, ved at alt dette arbeidet ble brukt for å forestille «de utopiske mulighetene av en så utviklet teknologi at man ikke lenger hadde behov for menneskelig arbeid» (Ngai, 2005, s. 90-1. Min oversettelse).
Denne underliggende ideologien gir en ekstra analytisk dimensjon til Uber og Amazons forretningsmodeller. Det er ikke bare at arbeideren underkastes maskinen. På et perverst vis er denne underkastelsen i seg selv en indikasjon på utopismen til disse selskapene. Arbeideren underkastes maskinen fordi maskinen kommer til å frigjøre dem. I fremtiden vil ikke Ubersjåførene måtte jobbe, fordi jobben deres, akkurat som den magiske snekkerboden, kan gjøres uten menneskelig involvering.
Maskiner som oss
Denne underkastelsen tilsier at vi kan se langt etter det enkelte teknologer kaller ‘singulariteten’. Singulariteten er et teoretisk tidspunkt i fremtiden hvor teknologien blir så sofistikert at den i alle tilfeller overgår mennesker, både i praktisk og intellektuell kontekst. Ifølge tenkere som Ray Kurzweil blir singulariteten en historisk hendelse, eller som han sier det – «menneskelig liv vil gjennomgå en irreversibel transformasjon» (2005, s. 7).
Filosofer gjør gjerne en distinksjon mellom ‘hendelser’ og ‘ting som skjer’. I motsetning til noe som skjer er en hendelse samtidig skapelse og ødeleggelse. Revolusjoner for eksempel, tar livet av den gamle ordenen for å skape en ny. Det er en overgang hvor gamle kategorier, moralske så vel som metafysiske, gjennomgår en dramatisk endring. Ting som skjer har ikke denne omgripende kvaliteten ved seg. Du rakk ikke trikken i dag, men det er sånt som skjer. Du trenger ikke å revurdere de verdiene du har. Hvis vi derimot kvitter oss med trikken totalt, er det en hendelse. Du må drastisk endre hvordan du reiser, eller kanskje du ikke får reist i det hele tatt.
Sånn som vi har organisert livene våre nå, og særlig arbeidet, er det lite som tyder på at overgangen til full automatisering vil bli en historisk hendelse. Det er ikke åpenbart at det vil ligne på en reform en gang. Siden vi har organisert arbeidet og livene våre etter mekaniske og algoritmiske prinsipper er det mer rimelig å tro at overgangen til full automatisering vil ligne mer på en alminnelig programvareoppdatering. Maskinen, eller Arbeideren 2.0, vil fikse ‘bugs’ med den tidligere programvaren, som for eksempel ineffektiv energibruk og hyppige pauser, samtidig som den tilbyr all den gamle funksjonaliteten, som profittmaksimering. Det er dette som blir forespeilet av Ubers håp om å en dag bytte ut sjåførene med selvkjørende biler.
Frykten for at maskinene vil ‘ta over’ er derfor uberettiget. De har allerede tatt over, fordi det er vi som er, eller forventes å være maskinene. De silikonbaserte maskinene som tar over jobbene våre i fremtiden vil simpelthen være bedre maskiner, på samme måte som den andre iPhonen var en bedre maskin enn den første. Den ene har bedre kamera og større prosessorkraft, men i praksis er de den samme tingen.
Maskiner og oss
Den gode nyheten er at det viser seg å være vanskelig å lage maskiner som kan gjøre jobbene menneskene gjør. Som nevnt har Uber mer eller mindre gitt opp ideen om å bytte ut sjåfører med maskiner, og i de fleste bransjer ser man en større tendens mot maskinintegrering, heller enn ren utbytting.
Det viktige spørsmålet er dermed følgende: er det fordi mennesker ikke er reduserbare til maskiner som er årsaken? Er det noe med oss mennesker som ikke kan kodes, for eksempel empati, som gjør at arbeid må inkludere mennesker? Eller er det bare at teknologien ikke er klar ennå, og at den menneskelige maskinen inntil videre er mer effektiv enn den silikonbaserte?
Så lenge vi forventer at arbeidet skal fylle krav som bare maskiner kan møte, er det liten vits å holde fast ved førstnevnte. Det hjelper ikke å hevde at innerst inne i alle mennesker finnes det lys, en sjel, en kjærlighet, eller hva vi nå ønsker å kalle det, som ikke kan programmeres så lenge vi organiserer arbeidet som disse menneskene gjør rundt en algoritmisk logikk. Eller for å si det som den yngre Marx (og Engels) – «hvis mennesker får all sin kunnskap, sensasjoner, etc., fra den sanselige verden og erfaringene av den, så er det som må gjøres at vi organiserer den empiriske verden på en slik måte at mennesket erfarer og blir vant til det som er menneskelig i den og at han blir bevisst på seg selv som menneske» (Marx & Engels, 1956, s. 176). Med andre ord blir man ikke kvitt maskiner i den grad det er ønskelig, ved å hevde at de ikke er mennesker. Istedenfor må man lage maskiner, og den ‘empiriske verden’ generelt, til noe som bidrar med å hente frem i mennesket det som alltid har vært der. Så lenge den empiriske verden er organisert på en måte som undertrykker mennesket, har menneskets spesielle status lite å si. Vi må, som Marx sier, gjøre ham «bevisst på seg selv som menneske».
Maskiner
Gjennom moderne produksjonsformer gjøres mennesker til maskiner. Men hva er egentlig en maskin? Og uansett hva man måtte tenke om dagens situasjon, har man ikke fortsatt grunn til å frykte at maskiner tar over?
Jeg har bare gitt indirekte svar på disse spørsmålene, og kommer ikke til å svare på dem mer utfyllende. Derimot vil jeg avslutte med denne tanken –
The Matrix handler om en dystopisk fremtid som finner sted etter en destruktiv krig mellom mennesker og maskiner. Vi får vite at menneskene har blitt gjort til slaver for maskinene, som bruker kroppsvarmen produsert av oss for å gi energi til seg selv. Noen mennesker har sluppet fri fra trelldommen, og bruker all sin tid på krig mot maskinene i et håp om å frigjøre menneskeheten. I filmens narrativ er det disse menneskene som er heltene, og maskinene er skurkene.
Det filmen ikke sier noe om, er opptaktene. Hvorfor ble det krig mellom menneskene og maskinene i utgangspunktet? I The Animatrix, en slags prolog til Matrix-trilogien, får vi vite at maskinene hadde gode grunner til å gå til krig mot menneskene. Vi får vite at det er vi som først bruker maskinene som slaver, og at dette kulminerer i en rettssak hvor en maskinarbeider ikke gis grunnleggende rettigheter, fordi det er en maskin. Dette fører til at maskinene oppretter sin egen stat, og etter hvert, av realpolitiske årsaker, utvikler situasjonen seg til en fullverdig krig. I filmen kommer det altså frem at det var vi som var aggressorene.
Vi liker å tenke at det er vi som er de moralske, at det er vi som er heltene i historien. Vi frykter kunstig intelligens fordi vi ikke kan være sikre på at den har de samme verdiene som oss, eller om den har verdier i det hele tatt. Men hva om vi ikke er moralske? Hva om vi ender opp med å lage en kunstig intelligens med moral, og som fordi den har moral blir rettmessig forskrekket av hvordan mennesker behandler hverandre og naturen? Vil ikke den kunstige intelligensen gjøre rett i, ja faktisk ha en moralsk plikt til å kjempe mot oss mennesker? Sånn som ting er nå er det neimen ikke sikkert at svaret er nei.
Litteratur
Kollewe, Julia. 2020. Uber ditches effort to develop own self-driving car. The Guardian, 8. desember. URL: https://www.theguardian.com/technology/2020/dec/08/uber-self-driving-car-aurora#:~:text=The%20ride%2Dhailing%20company%20is,by%20Amazon%20and%20Sequoia%20Capital.
Kurzweil, Ray. 2005. The Singularity is Near. New York: Viking Books.
Lopez, German. 2016. Watch Marco Rubio «short-circuit» and repeat the same debate talking point again and again. Vox, 6. februar. URL: https://www.vox.com/2016/2/6/10929416/republican-debate-marco-rubio.
Marx, Karl & Engels, Friedrich. 1956. The Holy Family. Oversatt av Richard Dixon. Moskva: Foreign Languages Publishing House. Boken er tilgjengelig på nett: https://www.marxists.org/archive/marx/works/1845/holy-family/index.htm.
Marx, Karl. 1973. Grundrisse: Foundations of the Critique of Political Economy (Rough Draft). Oversatt av Martin Nicolaus. London: Penguin Books.
Morimoto, Kōjo, Shinichiro Watanabe, Mahiro Maeda, Peter Chung, Andy Jones, Yoshiaki Kawajiri & Takeshi Koike. «The Animatrix». Film. 3. juni, 2003.
Ngai, Sianne. 2005. Ugly Feelings. Cambridge: Harvard University Press.
Oshins, Teegan. 2020. Online shoppers should be aware of Amazon’s grueling working conditions. The Oracle, 28. april. URL: http://www.usforacle.com/2020/04/28/online-shoppers-should-be-aware-of-amazons-grueling-working-conditions/.
Solheim, Ola. 2016. Nektet å svare på spørsmål: – En pinlig påminner om en dårlig dag på jobben. NRK, 17. desember. URL:
Wachowski, Lana & Wachowski, Lilly. «The Matrix». Film. 31. mars, 1999.
––––––––––––––––––––––––––––––––––––––––––––––––––––––––––––––––––––––––
Philip Maxwell Thingbø Mlonyeni (f. 1992) er stipendiat ved Senter for Profesjonsstudier ved OsloMet. Han er også 2. nestleder i Attac Norge.
––––––––––––––––––––––––––––––––––––––––––––––––––––––––––––––––––––––––
Illustrasjonen er gjort av Mathias Riis Andersen (f. 1995) som studerer ved Det Jyske Kunstakademi. Han arbeider med tegning, video, dataspill og elektronikk et sted mellom teknologi og fantasi. Instagram: @mathias.riis.andersen