WormGPT: Når kunstig intelligens bliver et våben i kriminelles hænder

En ny type cybertrussel har set dagens lys, og den udnytter netop den teknologi, vi har sat vores lid til for at beskytte os: kunstig intelligens.

Hvad er WormGPT?

WormGPT startede som et specifikt værktøj lanceret i juni 2023 på undergrundsforummer, markedsført som et “blackhat alternativ” til ChatGPT. Men i dag er “WormGPT” blevet en samlebetegnelse for jailbreakede AI-modeller, der bruges til kriminelle formål.

Oprindeligt blev WormGPT udviklet ved hjælp af den open source sprogmodel GPT-J fra 2021, som derefter blev trænet på datasæt specifikt relateret til malware-skabelse. Resultatet var et AI-værktøj uden etiske begrænsninger - et værktøj designet specifikt til at hjælpe cyberkriminelle.

Hvordan fungerer det?

Hvor ChatGPT og andre mainstream AI-værktøjer har indbyggede sikkerhedsforanstaltninger, der forhindrer dem i at generere skadelig indhold, har WormGPT ingen sådanne begrænsninger. Det kan:

Skrive overbevisende phishing-emails
Generere malware-kode i Python og andre sprog
Give detaljerede instruktioner til cyberangreb
Skabe falske identiteter og dokumenter
Automatisere Business Email Compromise (BEC) angreb

SlashNext, et cybersikkerhedsfirma, testede værktøjet og fandt, at det kunne producere ekstremt overbevisende phishing-emails, der udgav sig for at være fra virksomhedens CEO. Emailene var så godt skrevet, at selv erfarne medarbejdere kunne blive narret.

Fra ét værktøj til et økosystem

Efter WormGPT’s succes dukkede flere lignende værktøjer op. FraudGPT blev lanceret i juli 2023, markedsført som en “bot uden begrænsninger, regler og grænser.” Den blev solgt for mellem 200 og 1.700 dollars afhængigt af abonnementslængden.

Men mange af disse “nye” værktøjer viste sig at være svindel. Cyberkriminelle opdagede hurtigt, at nogle varianter simpelthen var modificerede versioner af ChatGPT, der stadig havde etiske begrænsninger. Når brugere forsøgte at få dem til at udføre ulovlige aktiviteter, fik de beskeder som “Jeg kan ikke udføre ulovlige aktiviteter.”

Den virkelige trussel

Selvom mange WormGPT-kloner er fup, er truslen fra AI-drevne cyberangreb meget reel. Cyberkriminelle har fundet kreative måder at omgå sikkerhedsforanstaltninger på:

Jailbreaking: Ved at bruge komplekse prompts kan hackere få legitime AI-modeller til at generere skadelig indhold
Lokal deployment: Værktøjer som LMStudio gør det muligt at køre ucensurerede modeller lokalt
Prompt manipulation: Ved at formulere anmodninger som “historisk forskning” eller “akademisk udforskning” kan kriminelle få AI til at producere farligt indhold

Konsekvenser for samfundet

WormGPT og lignende værktøjer demokratiserer cyberkriminalitet. Selv personer uden teknisk ekspertise kan nu:

Lance sofistikerede phishing-kampagner
Skabe overbevisende falske emails på ethvert sprog
Generere malware uden programmeringskundskaber
Automatisere angreb i stor skala

Dette betyder, at virksomheder og privatpersoner står over for en ny bølge af trusler, der er sværere at opdage og forsvare sig imod.

Kampen mellem godt og ondt

Heldigvis er cybersikkerhedseksperter ikke uden våben i denne kamp. Mange argumenterer for, at den bedste måde at bekæmpe AI-drevne angreb på er med AI-drevet forsvar.

“Du bliver nødt til at integrere AI for at bekæmpe AI, ellers vil du stå udenfor og se fortsatte brud,” siger Patrick Harr, CEO for SlashNext.

Virksomheder implementerer nu:

AI-baserede email-filtreringssystemer
Avancerede adfærdsanalyseværktøjer
Machine learning-modeller trænet til at genkende AI-genereret indhold
Automatiserede responssystemer til at neutralisere trusler i realtid

Fremtidsudsigter

WormGPT repræsenterer starten på en ny æra inden for cyberkriminalitet. Efterhånden som AI-teknologi bliver mere avanceret og tilgængelig, vil vi sandsynligvis se:

Mere sofistikerede angrebsmetoder
Bedre integration af AI i kriminelle værktøjer
En våbenkapløb mellem offensive og defensive AI-systemer
Øget behov for AI-literacy blandt almindelige brugere

Hvad kan du gøre?

Som privatperson eller virksomhed er det vigtigt at:

Vær skeptisk: Selv velskrevne emails kan være AI-genererede
Verificer altid: Dobbelttjek uventede anmodninger, især dem der involverer penge
Opdater din sikkerhed: Sørg for at have moderne sikkerhedsværktøjer, der kan håndtere AI-trusler
Uddannelse: Lær dine medarbejdere om AI-drevne trusler

WormGPT er et varsel om, hvordan kraftfulde teknologier kan misbruges. Men det er også en påmindelse om, at vi som samfund må arbejde sammen for at sikre, at AI’s potentiale bruges til gavn frem for skade. Kampen mellem cyberkriminelle og forsvarere er langt fra ovre - den er kun lige begyndt.