Der noen ser statistisk modellering og enorme mengder datakraft ser andre tilsynelatende en form for magi. Magi-tenkningen står i veien for fornuftig regulering av kunstig intelligens.
Mottakelsen av ChatGPT har skapt en enorm «FOMO», Fear Of Missing Out, for mange. Alt fra Google til de minste bedrifter lager «strategier for kunstig intelligens». Tidligere i vår stod digitaliseringsminister Tung for den politiske varianten av «FOMO» med beskjeden om at 80 prosent av offentlig sektor må bruke KI i 2025. For regjeringen er det i alle strategier og dokumenter et en-til-en-forhold mellom digitalisering og effektivisering. For Tung er kunstig intelligens et magisk effektiviseringsverktøy, men uten noen egentlig vurdering av hva offentlig sektor skal bruke det til. Til tross for den katastrofale innføringen av Helseplattformen, så skal vi pøse på med mer digitalisering for å effektivisere.
ChatGPT, Midjourney og de andre KI-verktøyene som har kommet de siste tre årene er imponerende, men nytteverdien står ikke i forhold til ressursbruken. På samme måte som statistikk kan brukes til å finne gjennomsnitt, lager generatorene helt gjennomsnittlige tekster, bilder og videoer. Det krever tilsvarende en halv liter vann per operasjon og enorme mengder strøm. ChatGPT koster rundt 700 000 dollar i drift hver dag, men OpenAI tjener ikke i nærheten av så mye penger. Bare drømmen om en framtid der kunstig intelligens dominerer alt gjør at investorene fortsetter å spytte inn penger i prosjektet.
De mest fanatiske drømmerne er tilhengerne av «longtermism», som de amerikanske høyreradikale milliardærene Peter Thiel og Elon Musk, med enorme investeringer i OpenAI. «Longtermism» en utopisk utilitarisme der man forestiller seg en framtid med blant annet muligheten for å laste opp sinnet på nettet og leve evig. Det krever såkalt «kunstig generell intelligens». Helt siden KI-forskningens vugge på 50-tallet har det magiske grepet som gjør dette mulig ligget «rett rundt hjørnet» – det gjør det fremdeles. KGI er «maskiner som kan gjøre jobben like godt som mennesker», som Wold og Braanen (Klassekampen, 23. april) beskriver det. Derfor må vi, ifølge Langsikt, planlegge for de tenkende maskinene vi kjenner fra science fiction..
«Kunstig generell intelligens» finnes ikke i dag og som Rommeltveit og Fjelland (Klassekampen, 2.mai) skriver er det god grunn til å være skeptisk til at det er mulig. De siste årene har vi derimot fått «generativ kunstig intelligens» som høres nesten likt ut, men som først og fremst sees gjennom tekst-, bilde- og video-generatorer. Det bygger på de ulike formene for kunstig intelligens som har blitt utviklet de siste 10-15 årene, som i bunn og grunn er at vi bruker datamaskiner til å analysere data. For hver overskrift om «bruker kunstig intelligens til X» så kan du bytte ut «kunstig intelligens» med «dataanalyse» og få en bedre forståelse av hva «magien» består i.
Avansert «autocomplete»
Det nye med «kunstig intelligens» i dag er enorme mengder datakraft som gjør maskinlæring mulig. Maskinlæring er å bruke algoritmer til å gjenkjenne mønstre i data uten at man trenger å forhåndsprogrammere nøyaktig hva programmet skal se etter. Slik kan man for eksempel bruke kunstig intelligens til å bistå med å oppdage kreft på røntgen-bilder, basert på en statistisk analyse av titusenvis av røntgen-bilder. Også generativ kunstig intelligens er bygget på å gjenkjenne mønstre. ChatGPT gjør det samme som ordboka i en vanlig smarttelefon. Ordboka foreslår rettskriving og gjette hva det neste ordet du vil skrive er, ChatGPT gjetter hva du vil si med utgangspunkt i ditt «prompt» og lager en lengre tekst. Det krever mye mer datakraft, men er ikke mer magisk enn «autocomplete».
Gratis tilgang på tekst- og bilde-generatorer er resultatet av en investorfinansiert boble. Når bobla sprekker blir det dyrere å bruke teknologien, men den vil fortsette å eksistere. Derfor trengs det reguleringer. De må utgå fra en god forståelse av hva teknologien er, ikke ut ifra hype. Det er effektiviseringsgevinster å hente, men ville påstander om at 300 millioner jobber vil bli erstattet av kunstig intelligens mangler rot i virkeligheten.
Den nye «oljå»
Heller enn å drømme om et superverktøy trenger vi å regulere for at samfunnet får mest mulig ut av denne teknologien. Da må vi snakke om dataene som går inn i modellene, og vi må snakke om hvordan vi kan sikre bruken av dem.
Allerede i 2017 fikk vi høre at «data er den nye oljen», fordi kunstig intelligens er avhengig av store mengder data for å modellere sine statistiske forutsigelser. Uten data, ingen kunstig intelligens. Tarjei Ellingsen Røsvoll går i sin artikkel (Klassekampen, 24. april) inn på hvor disse dataene egentlig kommer fra. De er resultatet av menneskelig arbeid, summert opp og gjort til statistikk. I dag kontrolleres data av de som samler dem inn. Dette gir en monopolisert makt over denne ressursen, slik at det er opp til private selskap hvordan den skal brukes. OpenAI har en slags åpen kildekode for mye av sine algoritmer, men uten dataene til å «trene» på blir det lite kunstig intelligens. I den digitale økonomien gir kontroll over data like mye makt som kontroll over olje i den fossile økonomien.
Siden data kommer fra oss alle bør det behandles som en felles ressurs.
I Norge er det ikke oljeselskapene som eier oljeressursene, det er folket. Selskapene får en konsesjon til å lete etter olje og å utvinne den. Siden data kommer fra oss alle bør det også behandles som en felles ressurs. Som oftest vil det bety åpne data, men det finnes også forslag om å etablere allmenne datastiftelser og ulike samvirke-modeller som er verdt å diskutere. Vi kommer likevel ikke utenom at private selskaper vil samle inn data for å skape nye verdier. Da bør vi se på data slik vi ser på olje: en sentral økonomisk ressurs underlagt konsesjonsvilkår for økonomisk utnyttelse. En slik konsesjon vil bety at man på vilkår kan få kommersielle rettigheter til data man har samlet inn, på samme måte som man får en letelisens eller en fiskekvote. Et avgjørende element vil være at ingen bør få evig eiendomsrett på data, slik ingen får evig eiendomsrett på oppfinnelse. En tidsbegrensing, som med patenter, kan sikre at det vil lønne seg å samle inn data for å skape nye verdier, men hindre monopoler og misbruk. Det blir ikke perfekt, men det er bedre enn en supersentralisert og privatisert digital verden som den vi er på vei mot i dag.
Vi må kunne stole på KI
Den andre siden av reguleringen handler om sikre bruken av teknologien. Fallgruvene ved bruk av kunstig intelligens er mange. Fordi det bygger på statistikk så vil det alltid være betydelige skjevheter i datagrunnlaget. Det har allerede ført til diskriminering, enten det er i ansettelser, politiarbeid eller utbetalinger av trygd. Samme type feil vil også dukke opp i mindre sensitive, og dermed mer usynlige, tilfeller, enten det røntgenbilder eller kartdata som leses inn. Generatorer som ChatGPT har også problemet med såkalte «hallusinasjoner», der det diktes opp kilder og fakta eller mennesker får seks fingre på genererte bilder. Dette kan korrigeres for, men ordtaket om «løgn, forbannet løgn og statistikk», vil alltid gjelde for kunstig intelligens laget på statistiske modeller.
Selgere av KI-baserte rekrutteringsverktøy påstår de korrigerer for skjevheter, og at et dataprogram kan være mer objektivt enn et fordomsfullt menneske. Så lenge dataene de bygger på har strukturelle problemer vil det være vanskelig å tro på. Vi har heller ingen mulighet til å vite om de gjør det de påstår. Her kan vi lære av den ikke-digitale teknologiverden. I Norge har vi sterke fagmiljøer for sikker bruk av teknologi, som Standard Norge og Det Norske Veritas. De jobber for sikker teknologi gjennom å etablere standarder og verifisere at selskapene følger disse. Standarder og verifisering gjør at vi kan stole på at skip ikke synker og sikringsskapet ikke begynner å brenne. Kunstig intelligens krever standarder som verifiserer data som går inn modellen, som kartlegger skjevheter og tiltakene som er gjort for å rette opp, og som tydeliggjør av hva verktøyene kan, og ikke kan, brukes til. Det siste er spesielt viktig som en vaksine mot «hypen» som aviskommentatorer, konsulentbyråer, sjefer og ministere så lett sluker i dag.
I dag finnes ikke standardene for kunstig intelligens, de må etableres. Der EUs «AI Act» tegner opp noen svake minimumskrav, vil krav om verifisering bidra til økt kvalitet og dermed høyere samfunnsgevinst fra teknologien. Krav om at kunstig intelligens må leve opp til en gitt standard før det kan tas i bruk i det offentlige, vil gjøre langt mer enn EUs vage forordning.
Ta kontrollen
Digitaliseringsfeltet er preget av manglende reguleringer, noe som skyldes en velsmurt propagandamaskin om at det digitale er «noe helt annet» og at «utviklingen går så fort at politikerne ikke kan følge med». Det er samme idelogi, og samme aktører, som kom med lignende argumenter om finansbransjen før krasjet i 2008. I tillegg påstår alt fra ortodokse marxister til trauste sosialdemokrater og entusiastiske ultraliberalister at «teknologien er nøytral, det handler bare om hvordan du bruker den». Det har aldri vært sant, noe som er ekstra åpenbart når det kommer til kunstig intelligens som har innebygde fordommer, altså strukturelle skjevheter, i datagrunnlaget det er bygget på.
Det er samme idelogi, og samme aktører, som kom med lignende argumenter om finansbransjen før krasjet i 2008.
Heller enn å tro på disse mytene trenger vi demokratisk kontroll. Fagforeninger må bruke makten sin til å kreve kontroll over hvordan teknologien innføres på arbeidsplasser, slik det er nedfelt i hovedavtalen. Sivilsamfunnet må kjempe for at menneskerettigheter, demokrati og miljøvern er en del av det digitale skiftet. Næringslivet må stålsette seg mot den neste markedsføringshypen og ikke la «FOMO» overstyre hva de faktisk har bruk for. Politikerne må få på plass verktøy som sikrer at vi får en demokratisk digitalisering til det beste for samfunnet, heller enn dagens utvikling som er drevet av spekulativ finans for stadig mer monopolmakt.
Opprinnelig publisert i Klassekampens Med andre ord-spalte 15. mai
