Hvor langt strekker det sosiale engasjementet til teknologiselskapene seg, egentlig?
Etter George Floyds brutale arrestasjon med døden som følge i Minneapolis den 25. mai i år, har det ikke skortet på solidaritetserklæringer i sosiale medier. Blant dem som har tatt avstand fra politivold og rasisme finner vi de store teknologiaktørene Facebook, YouTube, Reddit og Amazon.
Men, som The Intercept påpeker, er det mange av teknologiselskapene som, i sin iver etter å fremstå sympatiske og for sosial rettferdighet, glemmer hva produktene deres faktisk gjør. Ta Amazon for eksempel. På Twitter skriver selskapet at de – sammen med sine ansatte, kunder og partnere – støtter kampen mot systemisk rasisme og urettferdighet. Samtidig bidrar flere av Amazons teknologiske løsninger til nettopp økt systemisk rasisme og urettferdighet.
Amazon Ring er et dørklokkesystem med innebygget overvåkningskamera, der brukerne kan dele videoopptak av «mistenkelig aktivitet» i appen Neighbors. Teknologien er blitt kritisert for å nøre opp under fordommer og rasistisk profilering – blant annet fordi mesteparten av dem som flagges som «mistenkelige» er svarte og diskusjonene i Neighbors-appen ofte er hatefulle og rasistisk motiverte.
Mange politimyndigheter har inngått et samarbeid med Ring, noe som gir dem mulighet til å forespørre videoopptak fra Ring-dørklokker i områder der det er blitt begått lovbrudd. Og Amazons innblanding i det amerikanske rettssystemet stopper ikke der.
Amazon står også bak ansiktsgjenkjenningsalgoritmen Rekognition. Denne har de solgt til så mange politikontorer at de har kommet ut av tellinga. Problemet med ansiktsgjenkjenningsalgoritmer generelt er at de har større vanskeligheter med å identifisere ansikter med mørke hudfarger. Rekognition er intet unntak. I en test gjennomført av ACLU (American Civil Liberties Union) i 2018, matchet algoritmen bilder av 28 medlemmer fra den amerikanske kongressen feilaktig med bilder av kriminelle.
De andre teknologiselskapenes støtteerklæringer har også en bismak. Tidligere i år utkom en studie som viser hvordan algoritmene til YouTube dirigerer brukere som søker på spesifikke ord til stadig mer voldelig og høyreekstremt innhold. På diskusjonsforumet Reddit har også mange funnet samhold i sine ekstreme holdninger og fått utviklet sitt rasehat.
Facebook er et kapittel for seg selv. I kjølvannet av drapet på Floyd har selskapets administrerende direktør, Mark Zuckerberg, donert flere millioner til organisasjoner som kjemper mot rasisme. I tillegg har han anerkjent offentlig at Facebook har en jobb å gjøre for å forhindre at nettstedet forsterker fordommer. Gode intensjoner det er vanskelig å stole på, ettersom det nylig ble kjent at selskapet har ignorert interne undersøkelser som viser at Facebooks algoritmer bidrar til økt polarisering. Ansatte i Facebook har også reagert på at Mark Zuckerberg nekter dem å merke Trumps innlegg slik de gjør med andre innlegg når de inneholder faktafeil eller oppfordringer til vold.
I dag står vi ved veiskiller på så mange områder. Sosialt engasjement med velmenende budskap fra markedsavdelingen til teknologigigantene er ikke nok. Vi trenger handling. Teknologiutviklingen må styres i en mer rettferdig retning, skal vi få en verden der alle som roper at de ikke får puste blir hørt.