Vedtatt på Attac Norges ekstraordinære landsmøte 13. juni 2020
Digitalisering av løsninger og tjenester mener vi i utgangspunktet er en bra ting. Apper og annen programvare kan forenkle tjenester, for eksempel søknader om fornying av resepter gjennom Pasientsky, og gjøre dem mer tilgjengelige, som Skatteetatens digitale skattemelding. Det kan også være et viktig verktøy i krisesituasjoner, slik som Smittestopp som skal hjelpe mot spredningen av koronaviruset.
Åpen kildekode er viktig fordi det gir innsyn i 1) hva programvaren gjør og 2) hvilke data den samler inn. Det første punktet er særlig relevant i programvare som klassifiserer og foreslår, altså programvare som ser forskjellige ut avhengig av hvem det er som bruker den. Det er et velkjent problem at programvare bærer med seg fordommer fra ‘den virkelige verden’. Et eksempel på dette er hvordan bruken av enalgoritme kan forsterke en skjev kjønnsbalanse på arbeidsplassen, fordi algoritmen systematisk foretrekker menn foran kvinner i en jobbsøkerprosess,. Dette skjedde da Amazon forsøkte å utvikle et rekrutteringssystem: algoritmen foretrakk menn, fordi selskapet historisk sett hadde ansatt flere menn enn kvinner. En algoritme er ikke mer nøytral enn dataen som den bygges opp på. Uten innsyn i kildekoden vil det være umulig å se om en slik systematisk skjevhet er bygd inn i algoritmen, kanskje vil det først oppdages etter at lang tid har gått.
Det andre punktet er viktig for personvernet. Apper samler inn data om brukerne av appen som deretter havner i hendene på eierne av appen. Åpen kildekode gjør at man kan ha en reell debatt om innsamlingen av disse dataene. Er det nødvendige for at appen skal fungere, eller er det kun for eiernes vinning? Hvis innsamling av data er nødvendig, kan det gjøres på en bedre måte enn det som er lagt opp til?
Generelt kan åpen kildekode ses i sammenheng med det større prosjektet om offentlig åpenhet. Beslutninger i og av det offentlige bør være åpne så langt det er mulig. Hvis beslutninger overføres fra det analoge til det digitale er det nødvendig at kildekoden, oppskriften som ligger til grunn for beslutningen, er åpen. Vi stiller oss bak oppropet mot lukketheten til Smittestopp, men mener også at retningslinjene som legges til grunn bør gjøres til generelle retningslinjer for alle apper utviklet av, og som brukes i, det offentlige (med visse modifikasjoner siden oppropet begrenset seg til Smittestopp).
Attac krever:
- At all programvare som utvikles av det offentlige har åpen kildekode, og at man i størst mulig grad skal vektlegge dette når man kjøper inn programvare
- I de tilfeller hvor åpen kildekode ikke lar seg gjøre krever vi at et organ som skal få innsyn og handle på vegne av folket (for eksempel Datatilsynet eller lignende)
- At innsamling av data fra apper gjøres eksplisitt og uten tvetydigheter og kun der hvor det er rettslig grunnlag, i alle andre tilfeller bør disse systemene handle etter dataminimeringsprinsippet
- At ingen skal tvinges til å bruke en programvare hvis det finnes andre løsninger, og alternativet kan gjennomføres på en forsvarlig måte. Hvis alternativet ikke lar seg gjøre er det opp til det offentlige å sikre at brukerne gjør seg forstått med hva bruk av algoritmen eller programvaren innebærer, og at det offentlige sikrer at algoritmen eller programvaren kan brukes. For eksempel bør ikke banktjenester nedlegges uten at det gis tilstrekkelig innføring og midler til å bruke nettbank
[1] https://medium.com/@jointstatementnorway/joint-statement-on-contact-tracing-for-norway-331ee49fc6f6
[2] https://www.reuters.com/article/us-amazon-com-jobs-automation-insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G