Teknologiens påvirkningskraft

Tekst: Julie O. Malvik

Fysikeren Inga Strümke opererer gjerne en Neuralink inn i hjernen ved bruk av ingeniørferdigheter og AI. Hun ønsker seg et persontilpasset internett – og et kjøleskap som fyller seg selv. Men viktigere er selve diskusjonen om AI, som egentlig handler om den økonomiske maktbalansen i verden. Den er bare såpass stor og kompleks at vi ennå ikke klarer å få helt tak på den.

Inga Strümke er født i Gummersbach i Tyskland, og oppvokst i Nord-Norge. En tidlig oppdagelse av science fiction førte til stor nysgjerrighet allerede i barndommen, som igjen gjorde at hun ville vite mer om hvordan  universet er bygget opp.

– Fysikk handler jo om hvordan ting fungerer og henger sammen, forteller hun.

En fysikers karrierrevei

Fysikere jakter stadig etter måter å forklare virkeligheten på. Da må man ofte tenke nytt.

Som fysiker tror jeg ikke vi kan forstå hele virkeligheten direkte, men må nøye oss med en tilnærming gjennom modeller. Spørsmålet er om disse modellene er gode nok til å beskrive de fenomenene vi er opptatte av. Her kan maskinlæring være til hjelp.

Maskinlæring kan enkelt forklares som et system som evner å tolke og lære av eksterne data, slik at det kan tilpasse sin egen aktivitet. Gjennom automatiserte analysesystemer kan systemet utvikle nye metoder og optimalisere valg på en måte som ikke er mulig for et menneske.

Da Strümke i 2007 valgte å studere teoretisk fysikk ved NTNU, fikk kun høre at dette ikke hadde noe for seg siden denne kunnskapen ikke kunne brukes i industrien. Hun ble møtt med medlidende blikk fra flere selskaper, også et som senere, ironisk nok, ble hennes arbeidsplass.

Etter tre år som petrofysiker, en doktorgrad i partikkelfysikk, og ett år som manager i PwC, er hun i dag forsker innen kunstig intelligens hos Simula.

– Mitt andre fysikersyndrom er at jeg har et irriterende sterkt behov for å skjønne hva som skjer, altså årsakssammenhengene bak, sier hun.

– Barn har fått heroin som hostesaft og røyking har vært markedsført som sunt, når vi ikke vet bedre, gjør vi dumme ting uten å merke det. Det gjelder også kunstig intelligens.

Strümke sier vi må være klare over at kunstig intelligens på mange måter er en hype, og sier vi har hatt flere såkalte AI-vintre før, altså et skuffet marked og redusert finansiering for forskning på kunstig intelligens.

Likevel mener hun at dataanalyse og statistiske modeller som tar beslutninger bedre enn og for oss, har kommet for å bli.

Videre blir debatten om hvordan kunstig intelligens kan forandre mennesker og samfunnet, og antakelig true humane verdier og menneskerettigheter, viktig.

Utvikling av samfunnet

– Teknologi har alltid bidratt til å løse problemene som dukker opp. Nå er det viktig å drøfte hvordan dette bidraget skal foregå.

– Det er en verdidebatt. Ikke all utvikling er fremskritt, og vi må spørre oss selv hvor vi vil som samfunn, sier hun.

Industriens bruk av av teknologi får mindre forsideplass enn de personlige historiene. Det er historier om mennesker som fenger oss, men hvordan næringen og industrien utvikler seg kommer til å påvirke oss vel så mye som algoritmer som har mennesker som mål og sluttbrukere.

Alt fra medisin til skipsfart vil oppleve en fjerde industriell revolusjon gjennom digitalisering og avansert dataanalyse.

– Det er nok av spennende og vanskelige spørsmål å ta tak i. Hvor godt må vi forstå en automatisk beslutning, hvis ansvar er den beslutningen, hvem eier det en ferdig trent maskinlæringsmodell har lært? Og hva med spørsmålet om hvordan vi skal skattlegge verdien av data?

Hun mener diskusjonen om dataskatt er interessant, men en gjengs motforestilling er ofte at det blir umulig å finne en praktisk løsning for dette, siden det er vanskelig å anslå en håndfast verdi på noe så abstrakt som data.

– Jeg vil tro at det pågikk en lignende debatt på 70-tallet, om oljen i bakken.

Data som nasjonal ressurs

Samfunnet endres gjennom data, og de som eier dataene har kontrollen på endringene som kommer til å skje. Flere av de grunnleggende prinsippene for hvordan et digitalt samfunn styres ligger allerede hardkodet i algoritmene som regner på dataene vi gir fra oss hver eneste dag.

Her kan flere etiske spørsmål og problemstillinger oppstå, og flere etterlyser en mer grunnleggende etisk debatt og bevissthet.

Vi ser at personvern, som handler om  retten til privatliv og retten til å bestemme over egne personopplysninger, er et sentralt element. Her er det viktig at vi tenker nytt, hevder Strümke.

-Tradisjonell forståelse av personvern er utdatert. Vi må definere begrepet på nytt, i en ny kontekst.

I dag er det et problem at ungdom sitter våken til langt på natt fordi de ulike kanalene som for eksempel YouTube og Tik Tok er så avhengighetsskapende.

– Vi har ingen intuisjon for digital overvåkning, og når det ikke er noen rundt meg, antar lillehjernen min at jeg er alene, sier hun.

Mennesker velger å slippe ned garden overfor smarttelefonen, som vi tross alt tar med oss helt under dynen. Atferdsinformasjonen vi genererer kan deretter brukes til å selge oss ting eller påvirke oss på andre måter.

Store slemme AI

Hva tenker du om situasjonen i Kina, er det skummelt med utviklingen av hvordan samfunnet overvåkes?

– Teknologisk mener jeg at Kina ikke skal bli brukt som skrekkeksempel. Kineserne har andre mål enn oss, og er utrolig effektive med å nå dem. Vi kan ikke dele verden inn i de ”snille” og de ”slemme”. Men vi kan godt være tydelige på at vi ikke ønsker å bruke teknologi på samme måte som de i vårt samfunn.

Vi ser at utviklingen innen informasjon og datateknologi de siste tiårene har gjort det mulig å samle inn og lagre store  mengder digitale data. Denne utviklingen ser bare ut til å fortsette som del av den generelle digitaliseringen som skjer overalt.

På vei mot et datadrevet samfunn, er det viktig at vi i fellesskap bestemmer hvordan det skal bli, forteller Strümke.

– Ofte når vi har en diskusjon om store, skumle AI, har vi egentlig en diskusjon om den økonomiske maktbalansen i verden, men den er så stor og kompleks at vi ikke helt får tak på dette. Da faller vi fort tilbake til beskrivelser av “de snille” og ”de slemme”, selv om vi innerst inne vet at verden ikke er en Disney-film.

Det opprører Strümke at Norge ikke sitter bak rattet selv, men lar Google, Pokemon Go og Tesla, for å nevne noen eksempler, samle inn data kostnadsfritt. Nesten halvparten av alle nybilsalg i Norge i 2019 var el-biler, med Tesla på topp. 

– Jeg elsker Tesla sin visjon, men misliker at Tesla samler inn dataene våre gratis, og lar oss kjøpe dem tilbake i form av trente datamodeller, sier hun.

Et paradigmeskifte

Strümke mener vi må se på digitalisering som et paradigmeskifte, altså en grunnleggende endring i måten å tenke på.

– Vi må betrakte verden på en annen måte enn før. Verden er forandret. Det handler ikke kun om å bruke nye verktøy.

Et eksempel hun ønsker å fremme er en analyse av Tesla sin Model 3, som ble plukket fra hverandre og studert bit for bit. I en rapport fra Nikkei Business Publications ble det hevdet at Tesla ligger seks år foran de største bilprodusentene i verden. Det sentrale er at maskinvaren er kraftig nok til å håndtere datamengdene som det er ventet at fremtidens selvkjørende biler må benytte. Eksperter mener at det vil gå seks år før andre leverandører er i stand til å levere så fullintegrerte løsninger som Tesla allerede har.

– Da kan man jo fort tenke på hvordan andre billeverandører føler å måtte ta den beskjeden innover seg.

Et eget algoritmetilsyn

Strümke ønsker å fremme et eget algoritmetilsyn, bestående av teknologer, jurister, statistikere og samfunnsvitere.

– Jeg tror det hadde hjulpet både til å beskytte oss, samt opplyse oss nok til å ta gode beslutninger om hva vi vil oppnå med de nye databaserte løsningene, sier hun.

Dette skal hjelpe til med å navigere gjennom et regulatorisk landskap der få veier er kjørt opp. I Norge sliter start-ups med å få tilgang til dataene de trenger, fordi de ikke har råd til jurister, selv om vi har en strategi for å støtte gründere.

– Vi bør investere i å få de nødvendige juridiske avklaringene som trengs for at både det offentlige, som helse- Norge, der er vi allerede i gang, og start-ups som ikke har råd til mye juridisk bistand, skal klare å navigere i personvernregelverket. Vi må også investere i digital infrastruktur med god datalagring, både for å opprettholde god datakvalitet og sikkerhet.

Rettferdighetsprinsipp og Gödel Escher Bach

I sommer ble New Zealand verdens første land til å sette standarder for algoritmer som skal ta beslutninger for offentlige organer. Dette ble annonsert av statistikkministeren. Snakk om å være langt fremme, sier Strümke, og legger til:

– Det vi må skjønne er at datamodeller ikke bare er dataene som går inn i dem. Man kan gripe hardt inn i et liv uten å behandle en eneste personopplysning, og det er derfor mange viktige temaer den offentlige debatten ennå ikke har fått med seg.

Hun forteller at det er mange som ikke er seg bevisst at datamodeller opererer med sitt eget rettferdighetsprinsipp, og hvis vi ikke bestemmer hva vi mener med rettferdighet, blir dette overlatt til modellenes innebygde preferanser.

Hun forteller at det er mange som ikke er seg bevisst at datamodeller opererer med sitt eget  rettferdighetsprinsipp, og hvis vi ikke bestemmer hva vi mener med rettferdighet, blir dette overlatt til modellenes innebygde preferanser.

– Jeg mener at vi må ha en offentlig oppnevnt ekspertgruppe som sørger for at våre interesser ivaretas når beslutninger overlates til maskiner. Tilliten i samfunnet er formalisert gjennom sertifiseringer og revisjoner. Jeg mener det er blåøyd å ikke tro at datamodeller trenger en tilsvarende oppmerksomhet for å være til gagn for alle.

HVA KAN DU ANBEFALE AV LESING?

Gödel, Escher, Bach! Et dypdykk i logikk og konsepter, som er både veldig lekent og gøy. Også vil jeg legge til «Det store spillet» av Bår Stenvik som jeg leser nå.

HAR DU ET LIVSMOTTO, ELLER NOE DU BLIR TATT I Å SI OFTE?

Jeg vet ikke om jeg har noe livsmotto, men jeg spør vel kanskje en del: Hvor vanskelig kan det være? Jeg er triggerhappy, og skynder meg med å få ting gjort mens det ennå høres lurt ut.

De fleste virker som de er fornøyde med at det går litt saktere, og at man slipper å reise så mye. Det har også gitt muligheten til at vi kan splitte oppmerksomheten i flere retninger, og gå litt dypere inn i det vi holder på med.

Aktuelt

Relaterte artikler

LEGG IGJEN EN KOMMENTAR

Vennligst skriv inn din kommentar!
Vennligst skriv inn navnet ditt her