– Jeg er overbevist om at kunstig intelligens enten er det beste, eller det verste, som vil skje menneskeheten, sier Mark Tegmark, fysiker og kosmolog i traileren til den nye dokumentarfilmen iHuman.  

Filmen, som har premiere over nyttår, setter søkelys på utviklingen av kunstig intelligens. Filmskaper Tonje Hessen Schei vil være tilstede under årets Cutting Egde Festival. Hessen Schei forteller at hun håper den kan være med på å informere folk om hva som skjer og få dem til å tenke.

– Teknologi som kunstig intelligens blir sett på som den viktigste og mektigste til dags dato. Derfor er det viktig å stille spørsmål til hvordan dette implementeres. Og ikke minst: hvem som utvikler den, sier hun.

Kunstig intelligens inntreffer Kina for fullt i 2020

Hvor langt har vi egentlig kommet i utviklingen av kunstig intelligens? 

Har du sett «Nosedive»-episoden i Netflix-serien Black Mirror? Der er verden bygget på et poengsystem, og innbyggerne blir vurdert på alt de gjør. Poengene dine påvirker alt i livet: hvilke venner du har, hvilke jobber du får og hvor mye du kan få i lån. Hessen Schei forteller at fra neste år vil dette være en realitet i Kina. Alt ved bruk av kunstig intelligens.

Tonje Hessen Schei er direktør i den nye dokumentarfilmen iHuman.

– Kina er kanskje det landet i verden som har kommet lengst i utviklingen av et kontrollsystem styrt av kunstig intelligens. Gigantiske summer blir investert i en eksplosiv teknologisk industri, med tilgang til enorme mengder data, forteller hun.

Systemet i Kina blir kalt «Social Credit System», og er et poengsystem hvor din sosiale rangering som person bestemmes ut fra alt du gjør i hverdagen. Ifølge Hessen Schei kan dette for eksempel være hvilke venner du har på sosiale medier, hvor du bor og hvor du jobber. 

– Går du over gaten på rødt lys kan dette senke poengsummen din, da både mennesker og steder blir kameraovervåket. Når vi var i Shenzhen var det kamera på overgangsfelt der folk fikk opp bildene sine når de krysset veien, sier hun.

– Hvis du ikke har betalt regningene dine, kan du også komme opp på offentlige vegger, som en «wall of shame».

Det finnes oppsider

Systemet i Kina vil bruke kunstig intelligens som en måte å styre innbyggerne sine til å bli lovlydige borgere. Hessen Schei forteller at iHuman-filmen på mange måter er virkeligheten bak serier som Black Mirror, West World og iRobot. Selv om hun synes denne bruken av teknologien er skremmende, finnes det også oppsider med systemet.

– Mange kinesere er faktisk positive til dette, fordi de får lettere tilgang til helse- og offentlige tjenester. Slike ting kan være problematisk i et land med så mange mennesker, og et sosialt poengsystem gjør enklere for myndighetene å sette i verk offentlige tjenester, sier hun.

Hvem styrer egentlig verden?

Temaet kunstig intelligens er stort, og utviklingen går lynraskt. I dagens samfunn er det fortsatt politikerne som setter lover og rammer for personvern og bruk av teknologi. Problemet er, ifølge Hessen Schei, at de ofte ikke vet hva som foregår i utviklingen av dataprogrammene. Dette skaper et stort skille mellom den teknologiske utviklingen og det politikerne vet. Data er ikke lenger «bare data», men en måte å kontrollere verden på. Både private og offentlige selskaper verden over har tatt i bruk teknologien.

– I dag er det et lite knippe mennesker i noen få selskaper som kontrollerer hele verden. De har mye mer makt enn politikere, og dette skaper skjevhet i maktbalansen, forteller hun.

Hessen Schei oppfordrer derfor alle til å tenke én gang til når de deler informasjon. 

– Vi må stoppe opp og spørre oss hva som faktisk skjer med informasjonen vi gir fra oss.

Videre poengterer hun at selv om vi i Norge foreløpig er langt unna et sosialt poengsystem, er det fortsatt systemer som baserer seg på samme premisser her hjemme.

– Vi har jo ikke poengsummer i Norge, vi har system som samler inn og bruker dataen vår uten at vi vet helt hvordan, sier hun.

Vil skape debatt i teknologibransjen

I oktober skal Hessen Schei og andre eksperter innenfor kunstig intelligens diskutere iHuman under Cutting Edge Festivalen. I en eksplosiv fart utvikles det banebrytende programmer, og Hessen Schei forteller at hun først og fremst synes prosessen er spennende.

– Det som har vært kjempeviktig for oss er at vi må få i gang en debatt i teknologibransjen. For å klare å skape en forandring er det viktig å få en motvekt til den tech-orgien vi er en del av.

– Jeg elsker teknologi, og som mennesker har vi blitt helt avhengige av den. Det ligger enorme muligheter i denne teknologien, men det gjelder å være bevisste på hvordan denne teknologien skal videreutvikles, så det ikke går feil vei, sier hun.

Setter kunstig intelligens på agendaen

Det er lett å forbinde kunstig intelligens med fremtiden, men i realiteten vil det ikke være slik at teknologien plutselig er der. Kunstig intelligens er allerede overalt. Den er i telefonene våre og styrer mye på nett og i samfunnet rundt oss. Hessen Schei forteller at utviklingen av programmene blir «smartere» for hver dag som går, og at forskerne nå jobber med det de kaller Artificial General Intelligens (AGI).

– Denne teknologien er en videreføring av nåtidens kunstige intelligens, og er smartere enn oss mennesker. Da er det viktig å stille spørsmål rundt utviklingen.

– Hva skjer med oss mennesker når maskinene blir smartere enn oss? Spør hun.

Det er derfor festivaler som Cutting Edge er så viktige. 

– Jeg synes det er utrolig fint å se hvordan festivaler som Cutting Edge setter dette på agendaen og tar det på alvor. Ved å diskutere utviklingen og gjøre folk klare over hvordan ting ser ut i dag, kan vi skape en positiv forskjell, avslutter hun.

Er du nysgjerrig på utviklingen av kunstig intelligens? Møt Tonje Hessen Schei og flere eksperter under Cutting Edge Festivalen i Forskningsparken i Oslo, den 24. oktober.