Ny bok varnar för bias i myndigheters algoritmer

Artificiell intelligens, big data och predictive analytics används inte bara för att exempelvis förutspå konsumenters köpbeteenden. Juridikprofessorn Andrew Guthrie Fergusons diskuterar I sin nya bok The Rise of Big Data Policing hur brottsbekämpande myndigheter på allt fler håll i världen använder tekniken för att försöka förutsäga var brott kan komma att begås och av vilka.

Med hjälp av exempelvis kameror, teknik för ansiktsigenkänning och analyser av transaktioner och elektronisk kommunikation genereras listor över individer och områden att rikta insatser mot. Problemet, menar Guthrie Ferguson och andra kritiker, är att det lätt smyger sig in fördomar i sådana system.

Verktyg domstolar använt för att bedöma risk för återfall i brott och som polismyndigheter använt för att simulera brottslighet i USA har kritiserats för att diskriminera svarta. Mjukvara som potentiellt kan hjälpa oss att se vår egen bias kan alltså spegla eller rent av förstärka våra fördomar. Och att råda bot på problemet tycks inte vara helt enkelt. Det kan vara svårt till och med för utvecklarna själva att överblicka hur självlärande system fungerar. Detta är den så kallade black box-problematiken. ”Big data policing, and these new forms of surveillance and social control, must confront this black data problem”, skriver Guthrie Ferguson.

Smarta städer, ansiktsigenkänning, predictive analytics, datorstödda beslut av myndigheter inklusive domstolar kommer på bred front i exempelvis USA, Tyskland, Kina, och inte minst i Israel där säkerhetsstyrkor använder sig av just big data policing.  Jennifer Baker, moderator för årets Nordic Privacy Arena i Stockholm, skriver i EU Observer att ny terrorlagstiftning kan öppna för en liknande utveckling i Europa. Rätt implementerad kan tekniken leda till såväl effektivitets- som kvalitetsvinster. Utmaningen blir att att främja innovation utan att ge avkall på rättssäkerheten och den personliga integriteten.

Vi har bjudit in några av världens främsta experter inom sina respektive områden till Nordic Privacy Arena för att diskutera de utmaningar AI, IoT och annan ny teknik för med sig för lagstiftare, företag, myndigheter och inte minst för dataskyddsombud.

GDPR-förberedelser, “Transportgate”, Privacy Shield och Rysslands eventuella inblandning i det amerikanska presidentvalet står också på schemat. Möt bl a EPIC:s president Marc Rotenberg, FN:s privacyrapportör Joe Cannataci och företrädare för bl a Google, Rovio, Mastercard, Cisco, Sony, Kry, Lindahl, Delphi och Mannheimer Swartling. Fullständigt program här. Välkommen!


Fredrik Svärd

Generalsekreterare Forum för dataskydd
fredrik.svard@dpforum.se

Logga in

Ej medlem? Registrera dig

Återställ lösenord

Bli medlem

Medlemmar går gratis på våra seminarier och till rabatterat pris på Nordic Privacy Arena.

Studentmedlemskap upphör automatiskt efter ett år, därefter behövs ny ansökan. Ange också ert mecenatkortnr i meddelandefältet.

Ordinarie medlemskap: 1645 kr per år.
Student: 400 kr per år.











This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.
Go to cart