Din varukorg är för närvarande tom!
”Chat Control”, förslaget som ska skydda barn på nätet får kritik
EU håller på att ta fram en lag som syftar till att skydda barn från sexuella övergrepp och exploatering på nätet. Lagen ska stoppa spridningen av bild- och videomaterial som visar sexuella övergrepp mot barn.
Chatt, röstsamtal och videosamtal ska också övervakas av artificiell intelligens (AI) som ska slå larm om den tror att det är ett samtal där en vuxen försöker kontakta ett barn i sexuellt syfte.
Förslaget som lades fram av EU-kommissionen den 11 maj 2022 och som kommit att kallas ”Chat Control” anses medföra flera allvarliga problem för den personliga integriteten som inte vägs upp av det ökade skyddet för barn på nätet.
Som vi rapporterat tidigare förutsätter den föreslagna lagen att man bryter end-to-end-krypteringen av meddelandeappar som WhatsApp och Telegram. Förslaget riskerar inte bara att drabba gemene man utan även utsatta grupper som människorättsaktivister och journalister.
En grov kränkning av de grundläggande rättigheterna
Problemet med sexuella övergrepp är så allvarligt att det förtjänar effektiva och juridiskt hållbara åtgärder för att skydda barn mot sexuella övergrepp och utnyttjande på nätet. Det var utifrån detta som EU-kommissionären Ylva Johansson motiverat att lagen behövs. Lagen har två huvudsyften: Att göra internet till en trygg plats för barn samt att förebygga och bekämpa sexuella övergrepp mot barn och exploatering online.
EU-kommissionen vill se till att barns rättigheter skyddas, stärks och respekteras på nätet, men den föreslagna lagen har väckt kritik och motstånd från dataskyddsexperter, intressegrupper och ledande dataskyddsmyndigheter i EU, som hävdar att det skulle göra mer skada än nytta att bryta sig in i krypterad kommunikation.
Två betydelsefulla aktörer, European Data Protection Board (EDPB) och European Data Protection Supervisor (EDPS), har konstaterat att förslaget är ogenomförbart och har begärt att det ska ändras på grund av riskerna för de grundläggande rättigheterna.
”EDPB och EDPS anser att förslaget i sin nuvarande form kan innebära större risker för enskilda personer och i förlängningen för samhället i stort, än för de brottslingar som ska lagföras för material på sexuella övergrepp mot barn”, sade EDPS i ett uttalande i juli förra året.
EDPB och EDPS framhöll bristen på detaljer, klarhet och precision i den föreslagna lagen, som enligt dem skulle tillåta myndigheter att beordra tjänsteleverantörer att installera programvara för att upptäcka material om sexuella övergrepp mot barn samt AI som identifierar konversationer där en vuxen tar kontakt med ett barn i sexuellt syfte. De båda dataskyddsmyndigheterna anser att lagen, i sin nuvarande utformning, riskerar att utsätta medborgarna för urskillningslös massövervakning av deras elektroniska kommunikation.
Enligt European Digital Rights (EDRi), en sammanslutning av medborgar- och människorättsorganisationer från hela Europa, bygger förslaget på bristfälliga fakta. EDRi hänvisar till en faktagranskning från Tekniska universitetet i Delft, Nederländerna. Det var en stiftelse som bekämpade sexuella övergrepp på nätet som bad universitetet om en närmare granskning av fakta och statistik som EU-kommissionen hänvisat till som stöd för sin argumentation om varför lagen behövs. Faktagranskningen från universitetet i Delft visade att 3 av 6 påståenden från EU-kommisionen byggde på felaktiga fakta.
EDRi menar att det är viktigt att lagstiftningsåtgärder baseras på fakta och att ett så kraftfullt förslag som bygger på felaktiga fakta är direkt skadligt. Organisationen anser också att politikerna bör fokusera på åtgärder som lämnar grundläggande rättigheter intakta.
Ett farligare internet
I det gemensamma uttalandet från EDPB och EDPS den 29 juli 2022 framhåller expertmyndigheterna att kryptering i grunden bidrar till ”respekten för privatlivet och kommunikationens konfidentialitet, yttrandefriheten, innovationen och tillväxten i den digitala ekonomin”, och understryker vikten av end-to-end-kryptering.
De menar att alla förslag som syftar till att på något sätt motverka eller förhindra användningen av end-to-end-kryptering oundvikligen försvagar krypteringens roll i allmänhet.
Ventsislav Karadjov, EDPB:s vice ordförande, sade att de föreslagna reglerna till och med skulle kunna skada barnen som lagen försöker skydda. Det beror på att lagen kommer försämra konfidentialiteten i barns elektroniska kommunikation. En följd av detta blir att barnen blir mer sårbara för att andra kan övervaka och avlyssna dem.
EDRi anser att sådana åtgärder strider mot FN:s och Unicefs ståndpunkt, att barn inte bör utsättas för generell övervakning. Detta stämmer överens med det brittiska Royal College of Psychiatrists, som konstaterade att övervakning är skadligt för barn och rekommenderar en politik som ökar barnens egenmakt (empowerment) och utbildningsinsatser.
Enligt en enkätundersökning som EDRi publicerade den 7 mars 2023 skulle cirka 80 procent av ungdomarna i åldern 13–17 år från 13 EU-medlemsstater inte känna sig bekväma med att vara politiskt aktiva och utforska sin sexualitet om myndigheter vidtar åtgärder för att övervaka deras digitala kommunikation.
WhatsApp som är en av världens största chattappar med mer än två miljarder användare, berättade för BBC den 2 mars 2023 att man inte kommer att försvaga sin kryptering. Den brittiska regeringen överväger också en lag som ska tvinga elektroniska kommunikationstjänster att scanna innehållet i meddelanden. WhatsApp har svarat att de vägrar bryta krypteringen av meddelanden, även om det leder till att den brittiska regeringen förbjuder användningen av WhatsApp.
Det kan också finnas en risk att förslaget kan skada aktivister, visselblåsare, fackföreningar, marginaliserade grupper och mediefriheten.
Felaktig rapportering och flaggning av konton
Det finns också en risk för att chat control felaktigt flaggar material som är ”legitimt”. Det skulle exempelvis kunna röra sig om material som en journalist använder som underlag för att utreda och rapportera. Eller att en vårdnadshavare på inrådan av en läkare tar en bild. I dessa situationer har inget lagbrott begåtts, eftersom det är avsikten att använda bilden i sexuellt syfte att utnyttja ett barn som är kriminaliserad.
Sådana incidenter kan leda till att många oskyldiga människor listas som brottslingar, att deras konton flaggas och att brottsbekämpande myndigheter inleder utredningar mot dem bara på grund av en felbedömning av AI-programmen.
År 2021 rapporterade New York Times till exempel att en pappa i San Francisco fick sitt Google-konto permanent avstängt. Polisen inledde också en brottsutredning som pågick i 10 månader innan brottsmisstankarna avskrevs. Googles AI flaggade en bild som pappan hade tagit på sin sons könsorgan, på inrådan av en läkare som skulle skriva ett recept. Trots att polisen menade att pappan var oskyldig, så höll Google inte med. Företaget vägrade att återställa hans konto, även efter att han skickat in brottsutredningen till Google.
Enligt artikeln fick avstängningen av Google-kontot en dominoeffekt. Han blev av med allt som fanns sparat på hans Google-konto i form av e-post, bilder, kontaktuppgifter till vänner och gamla kollegor och dokumentation om sin sons första år i livet. Totalt rörde det sig om personlig information som omfattade mer än 10 år av hans liv. Men det var inte allt, han använde också mobilabonnemanget Google FI som också avslutades.
Han blev tvungen att skaffa ett nytt nummer med en ny mobiloperatör. Eftersom han förlorade tillgången till både sin e-post och sitt telefonnummer, kunde han inte heller logga in på sina andra internettjänster. Han blev helt enkelt utelåst från större delen av sitt digitala liv.
I artikeln intervjuas Kate Klonick, juridikprofessor vid St. John’s University som säger att en felaktig identifiering är oundviklig med tanke på de miljarder bilder som skannas. Klonick anser att de flesta människor nog skulle acceptera att detta är en nödvändig risk eftersom systemet skyddar barn. Det Klonick ser som än mer problematiskt är när människor också anmäls till polisen. Eftersom en värre konsekvens skulle kunna bli att en förälder på felaktiga grunder mister vårdnaden om sitt barn.
Läs mer:
Förslaget från EU-kommisionen, maj 2022
EDPS och EDPBs pressmeddelande, 29 juli 2022