Hjem » Artikler » Blogg » Øyne, ører, kinn å klappe på

Øyne, ører, kinn å klappe på

Selskapet Clearview AI tilbyr programvare som gjenkjenner ansikter ved å støvsuge internett for bilder. Firmaet retter seg mot justismyndigheter, og Kripos bekrefter at en ansatt har benyttet seg av tjenesten. Når skal private selskaper stoppes fra å tjene seg rike på dataene vi produserer?

I november 2019 begynte gravejournalisten Kashmir Hill å granske selskapet Clearview AI for The New York Times. Selskapet, grunnlagt i 2017 av kanadiske Hoan Ton-That, retter seg mot justismyndigheter med et forlokkende tilbud: en programvare som parrer bilder fra kriminalsaker med bilder fra alle internettets kriker og kroker. Clearviews algoritmer støvsuger millioner av nettsider for bildespor og klarer til og med å innhente bilder du trodde du hadde slettet fra dine sosiale medier. Denne innsamlingen av data strider mot betingelsene til mange av nettsidene, som Twitter og Facebook, men Ton That forsvarer seg med at: «Mange gjør det. Og Facebook vet det.»

Milliarder av bilder

Politiet har lenge hatt tilgang til ansiktsgjenkjenningsverktøy. Men disse kan hovedsakelig søke i myndighetenes begrensede databaser over bilder. Clearview derimot, søker i flere milliarder av bilder – en database som er produsert av deg og meg, av alle som bruker internett. Den enorme mengden gjør det mulig å søke med bilder som ikke er perfekte, der motivet har på seg hatt eller solbriller. Det gjør det også mulig å gjenkjenne personer som ikke er registrert i politiets systemer.

Da Hill ba et knippe politibetjenter om å søke på bilder av henne i Clearviews database, ringte representanter fra selskapet til politiet og spurte om de pratet med media. Selskapet har altså både et ønske om, og muligheten til, å overvåke hvem politiet søker på. Dette er en av mange faktorer som gjør selskapet til en tvilsom aktør i et felt der vi er avhengige av åpenhet og et demokratisk regelverk som sikrer et solid personvern. Spørsmålet er også om det er riktig at et privat selskap skal kunne meske seg med dataene som vi produserer og tjene seg rike på dem.

I kjølvannet av Hills artikkel har flere politimyndigheter i USA tatt avstand fra sin bruk av Clearview, men dette mønsteret begynner å bli litt for velkjent, der debatten burde vært tatt lenge før teknologien ble innført i praksis.

Norge på kundelista

Nylig offentliggjorde Buzzfeed en liste over Clearviews kunder, der Norge stod oppført. Kripos har bekreftet at en ansatt midlertidig benyttet seg av tjenesten som prøvebruker, og gjennomførte om lag tretti søk over tretti dager. Her ble det brukt faktiske bilder fra etterforskningsmateriale. At norske politimyndigheter eksperimenterer på denne måten, er ugreit. For det første baserer verktøyet seg på en ulovlig innsamling av data, for det andre er det snakk om et privat selskap som tar for seg av våre data og tjener seg rike på det, for det tredje er det uvisst hvor sikker tjenesten er. I slutten av februar i år ble Clearview utsatt for et datainnbrudd, der den fullstendige lista over kunder ble stjålet. Det samme ble informasjon om antall søk disse hadde gjennomført og hvor mange kontoer hver kunde hadde satt opp. Kanskje bør vi se mot våre naboer: I Sverige forbys politiet å benytte seg av det omstridte verktøyet.

En prototype for AR-briller

The New York Times har også analysert koden som appen kjører på. De oppdaget at den inkluderer kodespråk som gjør den kompatibel med såkalte Augmented Reality-briller – briller som kombinerer det du ser fysisk med virtuell data. Teknisk sett kan det gi brukeren mulighet til å identifisere hvert eneste menneske det ser. En slik bruk kan ha fatale konsekvenser for blant annet aktivister og offentlige demonstrasjoner. En overhengende fare for å bli overvåket kan også få mennesker til å endre adferd på grunnlag av frykt. Ton-That sier han har designet en prototype som kan brukes med AR-briller, men at selskapet ikke planlegger å lansere denne tjenesten. Likevel er dette urovekkende, ettersom alt som trengs er et politisk eller mentalt skifte, og så ligger teknologien der, klar til bruk.

Vanskelig å få innsikt

Bildet er tatt av teguhjati pras fra Pixabay

En stor utfordring med ansiktsgjenkjenningsteknologi er at det er vanskelig å få innsikt i hvordan teknologien brukes mot deg. Amazon sin programvare for ansiktsgjenkjenning, Rekognition, har tidligere møtt motbør for å legge ansvaret over på forbrukeren. De har et skjema på sine nettsider der du kan rapportere misbruk av deres algoritmer. Men hvordan kan du rapportere, dersom du ikke vet om informasjon om deg har blitt misbrukt? Teknologien kan lett benyttes på avstand og uten samtykke.

Personvernforordningen (GDPR) regulerer bruken av ansiktsgjenkjenning i Norge, men samtidig forbyr den ikke teknologien. Teknologirådet skriver i sin rapport «Ansiktsgjenkjenning og personvern» at GDPR åpner for at: «… myndigheter kan ta i bruk ansiktsgjenkjenning, hvis de kan vise til berettiget interesse av å bruke teknologien til å løse sine oppgaver.» I totalitære regimer eller land der personvern ikke er av høyeste prioritet kan det fort bli umulig å ferdes anonymt. Dette kan true sikkerheten til befolkningen, som kan overvåkes døgnet rundt, uten å legge merke til det.

Flytter etablerte grenser

Clearviews app er foreløpig ikke tilgjengelig for offentligheten, men investorene tror at den vi bli det i fremtiden. Selskapet selv hevder at bare justismyndigheter har tilgang til å bruke appen deres, men The New York Times melder at flere enkeltpersoner har aktiv tilgang. De avdekker også at appen fritt ble brukt av Clearviews investorer, klienter og venner i hele ett år før selskapet havnet i offentlighetens søkelys. Disse har demonstrert verktøyets nøyaktighet i alt fra jobbsammenkomster til festlige lag.

Uavhengig om Clearview blir offentlig tilgjengelig eller ikke, kan det dukke opp flere lignende tjenester, nå som tabuene rundt ansiktsgjenkjenning er brutt. Utviklingen av ny teknologi flytter våre allerede etablerte grenser, noe som virker uhørt i dag kan oppleves dagligdags om et år.

Derfor er det viktig at vi regulerer ny teknologi, som ansiktsgjenkjenning. For det er selskapene og myndighetene som har ansvaret for å beskytte våre data, ikke vi som forbrukere. Reguleringene må trygge personvernet til befolkningen og sikre en demokratisk utvikling. Ikke minst gjennom å sørge for at innsamling og salg av data kommer befolkningen til gode, ikke private selskaper og investorer som tjener seg rike på dataene vi produserer.

De følgende to fanere endrer innholdet under.
Victoria Durnak

Victoria Durnak

Victoria Durnak er bloggredaktør og digital innholdsprodusent i Attac Norge.