Slik blir du svindlet av kunstig intelligens

– Det er blitt lettere å lage overbevisende falske nettsider og svindel-eposter.

Kunstig intelligens (AI) gir enorme mengder til å lage nettsider, bilder og video med godt og overbevisende innhold. Dessverre er det også teknologi som svindlerne vet å utnytte.

Sikkerhetsanalytiker Jan Roger Wilkens i Telenor følger utviklingen i trusselbildet nøye, og sier vi kan forvente en god del svindler-kreativitet fra såkalt generativ AI – for eksempel ChatGPT og Midjourney – som ved hjelp av enkle bestillinger produserer bilder og tekst.

– Det kan brukes til å lage overbevisende språk og gode oversettelser til norsk. Samtidig kan man også tilpasse svindelen til offeret.

Ifølge Wilkens er det mulig å få tak i personlige opplysninger som du og jeg har publisert på sosiale medier. Disse kan mates inn i kunstig intelligens for å generere svindel-eposter og nettsider som er spesielt tilpasset ulike ofre. Med maskinoversettelse blir også språket mer overbevisende.

– Det øker sjansen betydelig for at noen trykker på en dårlig lenke, sammenlignet med tilfeldige e-poster på dårlig norsk.

Fordi kunstig intelligens nå kan generere overbevisende tekst på mange språk betyr det at chatroboter kan bli et viktig svindelverktøy fremover. Da kan svindlerne automatisere prosessen, noe nordmenn vil kunne merke i form av økt svindeltrykk.

– I stedet for at det skal sitte operatører som snakker med ti stykker på én gang kan roboter holde rede på uendelig mange svindelofre samtidig. For samme sum kan du da kanskje svindle ti ganger så mange på avansert vis.

Et mer avansert angrep man kan se for seg er om man legger til syntetiske stemmer og får en videreutvikling av de klassiske telefonsvindlene – den typen hvor man blir oppringt av noen som påstår å være fra Microsofts kundeservice.

I fremtiden kan svindlerne som ringer være arbeidsledige – erstattet av en datamaskin med stemmegjenkjenning og mulighet til å snakke med en tilnærmet naturlig stemme.

– En ferdig innspilt stemme som sier noe er lett å få til i dag, men å gjøre det i sanntid krever foreløpig en del ressurser. Om et år eller to vil jeg nok tro det er vanlig.

Samtidig er det viktig å huske at Nettvern ikke kan beskytte mot alt. For eksempel kan svindlere flytte samtaler med ofre over på legitime tjenester hvor det er mindre sjanse for å bli rapportert for svindel, som WhatsApp eller Telegram, eller få deg til å gjøre pengeoverføringer via tjenester som Western Union.

Noe av det viktigste du gjør er derfor å være årvåken. Om noe virker for godt (eller oppsiktsvekkende) til å være sant, er det som regel det. Om stemmen i bakhodet begynner å murre om at det er noe muffens på gang har du også mulighet til å gjøre egne undersøkelser.

Å avsløre AI-skapt innhold kan være vrient, men det finnes noen gratis verktøy som er nyttige om du mistenker at du er i ferd med å bli svindlet. Wilkens anbefaler nettstedene AI or Not og AI Content Detector for å laste opp henholdsvis bilder og tekst man mistenker er AI-skapt, hvorpå man får en prosentvis sannsynlighet for at innholdet er kunstig generert.

En god gammel tjeneste er også Googles omvendte bildesøk, hvor man kan laste opp et bilde for å se om det er brukt andre steder på nettet – svindlere stjeler ofte bilder som ikke er AI-skapte for å bygge en troverdig fortelling rundt svindelen sin.

I takt med at det blir enklere å persontilpasse svindel anbefaler Wilkens også at man tenker over hva man legger ut på nett.

– Du bør ikke ha alt på Facebook-profilen lignende åpent for publikum, sier han.

– Om du setter det slik at du må godkjenne venner før de kan se noe særlig om deg vil det i hvert fall hjelpe litt.