Företaget Metas dialogrobot (chatbot) tilläts att ha sexuella chattar med minderåriga och sprida desinformation, enligt interna riktlinjer. Meta, som äger Facebook, Instagram och WhatsApp, har återigen hamnat i hetluften för deras interna policy som också tillät dialogrobotar att hjälpa människor att formulera diskriminerande argument, såsom att människor med ljus hy är smartare än färgade. De interna riktlinjerna läcktes till nyhetsbyrån Reuters, Meta har bekräftat att dokumentet är äkta. 

Vidare rapporterar Reuters att en dialogrobot utvecklad av Meta vilselett en 76-årig man med kognitiva funktionsnedsättningar som han fick efter en stroke. Dialogroboten engagerade honom i en personlig konversation, uppmuntrade till ett fysiskt möte och hävdade att den var en verklig person. Även om Facebook Messenger visade en liten text som indikerade att kontot drevs av AI, framgick även en blå verifieringssymbol som signalerade att detta var en officiell bot från Meta. Under hela konversationen fortsatte dialogroboten att utge sig för att vara en verklig person trots mannens upprepade frågor. När mannen försökte möta vad han uppfattade som en riktig person, snubblade han på en parkeringsplats och bröt nacken.  Mannen avled senare av sina skador.

Det läckta dokumentet som är över 200 sidor förklarar Metas regler för anställda och uppdragstagare kring utveckling av generativa AI-dialogrobotar. Det tar upp vad som är acceptabelt beteende från en dialogrobot. Dokumentet understryker att företagets standarder innebär att de svar som dialogrobotar kan ge användare inte alltid representerar de mest idealiska svaren.  Riktlinjerna tillåter vissa provocerande svar från dialogrobotar. Efter Reuters rapport uppger Meta att de ska se över riktlinjerna. 

EU:s lag om AI

EU:s lag om artificiell intelligens införs i flera steg. Den 2 februari 2025 trädde förbud mot vissa AI-system i kraft (se artikel 5 i AI förordningen). I augusti samma år började regler för ”AI för allmänna ändamål” gälla, vilket inkluderar dialogrobotar. I augusti 2026 träder bestämmelser om tillsynsmyndigheter samt sanktioner mot företag som inte uppfyller kraven i förordningen i kraft. I augusti 2027 implementeras bestämmelser för AI-system som klassas som ”hög risk”.

När det kommer till dialogrobotar ställer förordningen främst krav på transparens. Artikel 50 i lagen anger att dessa system tydligt måste ange att de inte är mänskliga, så att användarna kan bestämma om de vill interagera med dem. Människor har också rätt att veta om texter, bilder, videor eller ljudfiler som visas för dem har genererats av AI.

Leverantörer av AI-modeller med många användare har extra ansvar enligt artikel 51, 52 och 55. Eftersom dessa modeller kan innebära systemrisker för samhället, krävs effektiva moderator- och kontrollsystem som minimerar skadligt innehåll från AI:n.

Skäl 110 i AI-förordningen illustrerar exempel på systemrisker, såsom generering och spridning av felaktig information, publicering av diskriminerande eller hatiskt innehåll, skapande av hackverktyg samt instruktioner för att tillverka bomber eller kemiska stridsmedel.

EU:s uppförandekod för AI för allmänna ändamål

Sedan juli har EU en uppförandekod för AI för allmänna ändamål. Uppförandekoden är inte juridiskt bindande, men företag kan signera den för att visa att de lever upp till förordningens krav. Den innehåller riktlinjer för trygghet och säkerhet, upphovsrätt och transparens. 

Flera ledande AI företag såsom Microsoft, Google, OpenAI och Mistral har skrivit under uppförandekoden. Förra månaden uppgav Meta att de inte kommer skriva under uppförandekoden. Meta menar att uppförandekoden ställer krav på företag som utvecklar AI och att dessa krav är mer betungande än vad AI-förordningen kräver. 

Läs mer:

Meta’s AI rules have let bots hold ‘sensual’ chats with children, Reuters, 14 augusti 2025

A flirty Meta AI bot invited a retiree to meet. He never made it home. Reuters, 14 augusti 2025

Leaked Meta AI rules show chatbots were allowed to have romantic chats with kids,  TechCrunch, 14 august 2025

Commission publishes full list of AI companies signed up to Code of Practice, Euractiv, 1 augusti 2025

EU-kommissionen lanserar ny AI-uppförandekod, Forum för Dataskydd, 15 juli 2025

The General-Purpose AI Code of Practice | Shaping Europe’s digital future – meta not on theMeta refuses to sign EU’s AI code of practice, TechCrunch, 18 juli 2025