Europarådet: Dataskyddet är en hörnsten för en ny tidsålder med artificiell intelligens

Författare: Kave Noori

Detta är del 2 av vår intervju med Jan Kleijssen där han berättar vad Europarådets kommande konvention om artificiell intelligens kommer att innehålla. Kleijssen förklarar att konventionen kommer att fastställa de etiska och rättsliga principer som bör styra utvecklingen och användningen av artificiell intelligens. Den kommer också att fastställa en mekanism för att övervaka efterlevnaden av dessa principer.

AI-konventionen blir extra relevant för Sverige på grund av en nyligen genomförd ändring av kommunallagen. Lagen tillåter sedan 1 juli 2022 att kommuner och regioner med vissa begränsningar fattar beslut på automatiserad väg (Se kommunallagen kapitel 6, 38-39 §§).

Enligt Jan anser Europarådet att regeringar bör vara skyldiga att informera medborgarna när de i sin kontakt med en myndighet interagerar med ett AI-system. I fallet med det Nederländska skatteverkets diskriminerande databehandling (se del 1 av intervjun)  anser Jan att skattemyndigheten borde varit skyldiga att informera de drabbade om att de var föremål för ett beslut som fattats av en algoritm. Han förklarar att det också bör finnas ett sätt att upptäcka partiskhet i algoritmer och uppmärksamma de myndigheter som använder dem på detta.

Jan säger att vi måste se till att algoritmerna aldrig fungerar som ”svarta lådor” och att människor informeras om hur artificiell intelligens fungerar. De flesta människor skulle inte kunna förstå enskilda algoritmer, så att ge alla full tillgång till dem skulle inte vara till någon hjälp. De bör dock vara tillgängliga för vissa personer, till exempel särskilda organ som kan göra kompetenta bedömningar av dem.

Jag ställer en fråga till Jan om en rapport från Europarådet som skrevs av den nederländska juridikprofessorn Zuiderveen Borgesius 2018. I rapporten nämns möjligheten att ge tillgång till konsumentorganisationer eller forskare för att testköra algoritmer i en skyddad miljö. Jan håller med om att det är en bra idé och säger att detta redan görs i Europarådet inom området medicin. Han tillägger att detta även aktualiserar upphovsrättsliga frågor, men att när det gäller myndigheters AI- användning bör vara ett behörigt organ som har tillgång för att bedöma om det finns problem med algoritmen.

Europarådet kommer inte att behandla dödliga autonoma vapensystem som en del av sitt mandat om artificiell intelligens. Enligt Jan beror detta på att nationellt försvar är specifikt undantaget i rådets stadgar. Rådet kommer dock att ta upp andra aspekter av artificiell intelligens, såsom ansiktsigenkänning och produkter med dubbla användningsområden. Han tillägger att nationell säkerhet, såsom statlig övervakning, ingår i Europarådets mandat, men inte saker som tjänar rent militära syften, såsom mördardrönare.

På frågan om det kommer att finnas en överlappning mellan EU:s och Europarådets insatser för att reglera artificiell intelligens svarar Jan att Europarådets konvention om artificiell intelligens kommer att komplettera EU:s förordning om artificiell intelligens. Han säger att de kommer att ta upp olika aspekter av AI, där Europarådet fokuserar mer på rättssäkerhetsgarantier och regeringarnas användning av AI, och EU fokuserar mer på den digitala inre marknaden och ekonomiska aspekter, och där mänskliga rättigheter berörs genom bestämmelserna om dataskydd.

Jan diskuterar utmaningen med att reglera AI med dubbla användningsområden, som kan användas för både bra och dåliga syften. Vissa finansministerier är motståndare till för mycket reglering eftersom de är rädda för att det kommer att hämma innovationen, men det är en uppfattning som företräds av en minoritet. Han framhåller att det samtidigt finns många företag som förespråkar mer reglering eftersom det medför att företagen får likvärdiga konkurrensvillkor och att konsumenterna kan lita på deras produkter.

Jan fortsätter med att säga att ett flertal företag har vidtagit åtgärder för att se till att deras design av AI tar hänsyn till de mänskliga rättigheterna. Han nämner att en annan frågeställning är debatten om vilka röda linjer som inte får överskridas med AI. Som exempel är det kanske inte problematiskt om Spotify känner av användarnas humör baserat på samtycke och föreslår lämplig musik. Det kan vara mer problematiskt om politiska partier har tillgång till denna information och riktar sig till användarna med nano-reklam, eller om brottsbekämpande myndigheter har tillgång till dessa uppgifter.

På frågan om konventionen kommer att skapa regler som endast gäller för offentliga enheter svarar Jan att den kommer att gälla för båda. Jan förklarar att det kommer att finnas skillnader i hur privat och offentlig användning av artificiell intelligens kommer att behandlas, där den senare kommer att regleras strängare. Han påpekar också att regeringen har ett ansvar för att se till att privata företag inte gör någon skada genom AI. Vidare säger Jan att personer som kan riskera att diskrimineras av AI är bland annat barn, personer med funktionsnedsättning och äldre. Han påpekar att dessa grupper kan ha särskilda behov som systemet inte tar hänsyn till, och att detta kan leda till problem om systemet används för saker som påverkar grundläggande rättigheter, som beskattning eller val. Han anser att regeringarna bör införa bestämmelser i det nya fördraget om artificiell intelligens för att skydda dessa utsatta grupper.

På frågan om vilka kommittémedlemmarna är svarar Jan att kommittémedlemmarna är en blandning av personer från olika ministerier och att detta kan förändras från möte till möte beroende på vilka frågor som ska behandlas.

“Data är AI:s bränsle” – varför dataskydd är viktigt
Jan nämner också att dataskydd och konvention 108 är relaterade till AI-konventionen, eftersom data är bränslet för AI. Därför är datahantering och integritetsfrågor viktiga utgångspunkter när man utvecklar AI-standarder.

Jan berättar att Europarådets konvention 108 om dataskydd från 1981, också är känd som “GDPR:s mormor” och anses utgöra en global standard på grund av de 56 stater som undertecknade den. Arbetet med att modernisera konvention 108 inleddes med en rapport som undersökte hur konventionen behöver uppdateras för att möta moderna utmaningar. Det sista steget genomfördes av ministerkommittén. Ministerkommittén granskade sedan förslagen och antog ett ändringsprotokoll 2018. Den uppdaterade versionen kallas konvention 108+.

När jag frågar Jan om 108+:s status säger han att det bästa sättet att få 108+ att träda i kraft är att driva på det så gott vi kan, men han erkänner att det inte går särskilt snabbt. Han säger att pandemin har orsakat förseningar i de statliga förvaltningarna, vilket har gjort det svårt för 108+ att träda i kraft.

Han förklarar vidare att konvention 108+ inte kommer att träda i kraft förrän ett visst antal stater har ratificerat den. 38 stater behöver ratificera den, men Jan upplyser att endast 17 stater hittills ratificerat den (Sverige har inte ratificerat konventionen den 7 juli 2022, redaktionens anmärkning). Jan tillägger att konvention 108+ innehåller nya formuleringar och kommer att anpassas till den allmänna dataskyddsförordningen. Den inför också ett övervakningssystem.

Jan förklarar att tanken bakom övervakningssystemet för konvention 108+ är att staterna ska hjälpa varandra att följa och efterleva, snarare än att utdela sanktioner. Övervakningssystemet är utformat för att hjälpa till att identifiera områden där förbättringar behövs, och Europarådet står redo att ge stöd. Om ett land medvetet ignorerar alla rekommendationer kan övervakningsmekanismen vidta åtgärder. Eftersom regeringarna frivilligt har ratificerat konventionen hoppas Europarådet att de kommer att vara villiga att acceptera varandras råd.

AI-standarder och ungas inflytande
På frågan om vilken roll frivillig standardisering kan spela hävdar Jan att AI-standardisering inte kan skydda mänskliga rättigheter. Han anser att det behövs lagstiftning för att skapa bindande krav som företagen måste följa. Han pekar på Cambridge Analytica-skandalen för att illustrera hur företag kan kränka användarnas rättigheter även om de har interna etiska standarder. Jan hävdar att det krävs ett statligt ingripande för att rätta till när saker och ting går fel. Han tillägger att saker självklart kan gå fel även med de bästa AI-systemen.

Jag frågar Jan varför Europarådets ungdomsavdelning fokuserar på AI. Då förklarar han att den kommande generationen uppenbarligen kommer att vara den generation som under sin livstid mest kommer att konfronteras med en mängd AI-tillämpningar både inom den privata sektorn och som används av regeringar och att det därför är mycket viktigt att få med dem på ett mycket tidigt stadium. Ungdomar är naturligtvis också bland de mest tekniskt kunniga tillägger han.

När Jan avslutningsvis  tillfrågas om han har något att tillägga nämner han vikten av att genomföra konsekvensbedömningar av mänskliga rättigheter innan AI-system används av myndigheter. Han understryker att konsekvensbedömningar av mänskliga rättigheter kan bli en del av konventionen, kanske i form av en bilaga. Europarådet anser att det också är viktigt att beakta AI:s hållbarhetseffekter innan den rullas ut. “Tekniken är ett fantastiskt verktyg, men den är inte svaret på alla problem i världen”, säger Jan Kleijssen.

Le rôle de la police – Jan Kleijssen, Directeur, Direction de la Société de l’information et de la lutte contre la criminalité

Jan Kleijssen är direktör för informationssamhället och åtgärder mot brottslighet vid Europarådet och är en stark förespråkare för ett Europa utan splittring. Han har över 39 års erfarenhet av Europarådet inom olika sektorer, bland annat inom rättsväsendet, parlamentet och mellanstatligt. Jan Kleijssens direktorat har 200 anställda och ansvarar för ett brett spektrum av verksamheter, bland annat yttrandefrihet, dataskydd, artificiell intelligens, förvaltning av Internet, cyberbrottslighet, terrorism, straffrätt, kriminalvård, fängelseförvaltning, bekämpning av korruption och penningtvätt.

Jan har en mastersexamen i internationell rätt och internationella frågor och fullgjorde militärtjänstgöring som officer i den kungliga nederländska flottan. Jan talar flytande nederländska, engelska, franska, tyska och italienska.

Läs mer:

Konstitutionsutskottets betänkande (2021/22: KU36) om ändringen av kommunallagen för att möjliggöra automatiserat beslutfattande i kommuner

Lista över länder som undertecknat / ratificerat Konvention 108+

Frederik Zuiderveen Borgesius rapport 2018

Europarådets särskilda hemsida om AI 

Samling av dokument om AI hos Europarådet

Information om Jan Kleijssens avdelning

Logga in

Ej medlem? Registrera dig

Återställ lösenord

Bli medlem

    Forum för Dataskydd bidrar till ett tryggt informationssamhälle och värnar om integritetsskydd idag och i morgon. Vi förstärker, förenklar och ökar medvetenheten kring integritetsskydd i Europa genom att skapa ett tongivande forum för samverkan och informationsspridning. Stärk ditt dataskyddsarbete med kompetens från drygt 800 medlemmar på våra seminarier och nätverksträffar. Medlemmar går gratis på våra seminarier och nätverksträffar samt till rabatterat pris på Nordic Privacy Arena.

    Studentmedlemskap upphör automatiskt efter ett år, därefter behövs ny ansökan. Ange också ert mecenatkortnr i meddelandefältet.


    Det är viktigt att meddela oss om du byter arbetsplats, faktureringsadress, telefonnummer, mailadress eller annan viktig information. När du byter arbetsplats eller annan ovannämnd information mailar du oss och meddelar detta på info@dpforum.se så att vi kan säkerställa kontinuitet i ditt medlemskap.


    Ordinarie medlemskap: 1645 kr per år.
    Student: Gratis första året, sedan 200 kr per år (är du anställd på ett företag gäller ordinarie pris).















    Genom att fylla i formuläret, godkänner jag att Forum för Dataskydd lagrar mina personuppgifter i sin databas som kommer användas för att förse mig med relevant information om Forum för Dataskydds tjänster och erbjudanden.

    This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.
    Go to cart