Författare: Kave Noori

Den 3 februari 2023 rapporterade Reuters att EU-kommissionären Thierry Breton vill reglera ChatGPT boten och liknande tekniker i EU:s kommande AI-förordning.

ChatGPT är en lösning som bygger på så kallad generativ AI som kan producera texter som artiklar, uppsatser, skämt, datorkod och andra typer av innehåll. Enligt Reuters artikel har vissa experter varnat för att generativ AI kan användas för plagiering och för bedrägerier samt för att sprida desinformation.

Thierry Breton sade till Reuters att lösningar som Chat GPT å ena sidan erbjuder stora möjligheter för medborgare och företag, men å andra sidan också kan innebära risker. Han betonade att EU behöver en stadig reglering för att säkerställa att AI-lösningar ska vara pålitliga och byggda på data av hög kvalitet.

Desinformation – en ny form av cyberhot
Europeiska unionens cybersäkerhetsbyrå (ENISA) har inkluderat desinformation som en ny typ av cyberhot i 2022 års rapport om hur hotlandskapet ser ut.

Rapporten konstaterar att aktörer som försöker sprida desinformation i allt större utsträckning använder sig av artificiell intelligens för att skapa och sprida den informationen. I rapporten skriver ENISA att generativ AI-teknik också kan missbrukas för att generera ett oändligt utbud av desinformation. Illasinnade aktörer kan också använda tekniken för att uppträda som legitima internetanvändare och exempelvis översvämma kanaler som myndigheter använder i sin kontakt med allmänheten. 

Vidare varnar rapporten för att artificiell intelligens blir alltmer kapabel att generera text-, video-, bild- och ljudfiler. Sådan AI utgör ett billigt och användarvänligt verktyg som även kan missbrukas för att skapa falskt innehåll, exempelvis en låtsasvideo av en politiker som nästan inte går att skilja från verkligt innehåll.

Enligt rapporten kan spridningen av AI-driven desinformation och deepfakes leda till att medborgarna tappar tilliten till medier, journalistik och information på internet i allmänhet. 

Fortsättningsvis kan man läsa i rapporten att statliga och icke-statliga aktörer sprider desinformation och felaktig information för att översvämma människor. Målet är att göra medborgarna rädda och osäkra på vad som är sant, personer som blir utmattade blir i slutändan likgiltiga inför vad som är korrekt eller inte. 

Rapporten slår fast att det alltmer står klart att desinformation utgör ett stort hot mot demokratin, den öppna debatten och ett fritt och modernt samhälle. I rapporten rekommenderas därför att beslutsfattare sätter kampen mot desinformation och dess inverkan på säkerhet och privatliv högt på dagordningen.

Generering av skadlig kod
Den 9 februari 2023 rapporterade Computer Sweden att hackare börjat använda ChatGPT för att genomföra cyberattacker. Botten kan användas för att skriva datorkod. Enligt artikeln är det bara en tidsfråga innan mer seriösa hotaktörer börjar använda generativ AI för att genomföra mer avancerade former av cyberattacker.

Osäker datorkod
I ett experiment använde David Gewirtz, Senior Contributing Editor på ZD net, ChatGPT för att skriva ett WordPress-plugin för att spara tid åt sin fru att hantera en WordPress-webbplats. ChatGPT användes för att skriva hela pluginet, inklusive designen av användargränssnittet. I slutändan kunde chattroboten skapa ett fungerande WordPress-plugin och han behövde bara justera sin instruktion några gånger. Chatbotten misslyckades dock med att följa rekommenderad praxis för cybersäkerhet, vilket gjorde hemsidan sårbar för attacker.

Microsoft integrerar ChatGPT i sina produkter
Microsoft har också nyligen meddelat att de kommer att integrera ChatGPT i sina produkter. Bland annat Microsoft 365 och i sin sökmotor Bing.

Läs mer

Reuters artikel (3 februari 2023)

ENISAs rapport om hotlandskapet 2022 (se sidorna 82-86) 

Computer Swedens artikel om att hackare använder ChatGPT (9 januari 2023)

Artikel i ZD net (6 februari 2023) 

Computer Swedens artikel om att Microsoft will integrera ChatGPT i Office (9 januari 2023) Artikel i TechChrunch om att Microsoft vill integrera ChatGPT i sin sökmotor Bing (7 februari 2023)