Hur AI används av cyberkriminella – det blir värre och värre

Att AI används och är en positiv resurs i många branscher är ingen nyhet. AI är dessutom, för väldigt många, en förhållande ny företeelse eftersom det stora genombrottet kom först när generativ AI gjordes tillgänglig på bred front.
Inom den cyberkriminella världen ser det liknande ut och nu ökar användningen snabbt. Därtill blir användningen mer och mer avancerad, vilket innebär att hotbilden ökar inom flera områden.

Vad är AI-drivna cyberangrepp?

Generellt beskrivet så är AI-drivna cyberangrepp sådana där AI använts antingen i utvecklingen av en cyberattack och/eller som en komponent av själva cyberangreppet eller attackmetoden. AI används oftast för att förbättra och förenkla utvecklingsprocessen samt för att spetsa till existerande attackmetoder eller skadlig programkod.

AI används både i utvecklingen av och som komponent i cyberattacker

Exempel på hur AI används för cyberattacker

• Utveckling och leverans av skadlig kod, där generativ AI används för att skriva programkoden. Växande avvändning, speciellt av oerfarna och mindre kunniga hackare.
• För avancerat nätfiske och social manipulation. Generativ AI används för att skapa traditionellt material som förfalskade dokument, text, bilder och video men även deepfakematerial. AI används också för att kartlägga och analysera kommunikationsmönster och inhämta personlig information som sedan kan användas för avancerat nätfiske och social manipulation.
• Intrång samt övervakning av system. Svagheter och säkerhetsbrister finns i nästan alla IT-miljöer och med AI har cyberbrottslingar nya och otroligt kraftfulla verktyg för att knäcka lösenord, övervaka trafik och göra sårbarhetssökningar.
• Maskeringsverktyg för att cyberattacker som tex användning av skadlig kod, intrång, datastöld, etc inte ska upptäckas. Många säkerhetssystem bygger på att identifiera en cyberattack genom programkod, mönsterigenkänning, tillvägagångssätt, mm. En mycket bekymmersam möjlighet med AI är att det möjliggör för dynamiska attacker, där en skadlig programvara på egen hand ständigt ändrar sitt beteende, signatur, programkod, mm för att undvika att bli upptäckt. AI skulle tom kunna analysera de säkerhetsverktyg som används och använda denna information som hjälp för att bättre kunna kamouflera attacken.

Fight fire with fire!

Det kan kännas både hotfullt och nästan hopplöst att konstatera hur hotbilden ständigt förändras och ökar. Lyckligtvis ökar även användningen av AI kraftigt inom cybersäkerhetsbranschen och har för ett stort värde i förmågan att hantera både gamla och nya hot.

Vill du veta mer och hur vi kan hjälpa dig så tveka inte på att höra av dig!

 

Därför fortsätter klickandet på nätfiskelänkar att öka kraftigt!

Trots alla redogörelser om alltmer avancerade cyberattacksmetoder så framkommer det, i en nyligen publicerad rapport, att ett beprövat tillvägagångssätt som nätfiske, fortsatt är mycket framgångsrikt. Enligt rapporten så tredubblades klickandet på nätfiskelänkar under 2024, mycket pga nya och mer finurliga nätfiskemetoder.

Så trots att de cyberhotet ökar i komplexitet, pga ökad teknisk utveckling, kriminella samarbeten och användning av AI så måste vi fortsatt utbilda personalen för att stärka motståndskraften mot nätfiske.

Tredubbling i klickandet på nätfiskelänkar under 2024!

Nätfiske är mer än länkar i mail

Under lång tid fokuserades uppmärksamheten och utbildningsinsatser kopplade till nätfiske på att få personalen att inte klicka på okända länkar i mail. Tyvärr så har hotbilden förändrats och komplicerats. Det är dock inte nätfiskelänkarna som förändras utan hur exponering, placering och distribuering av nätfisket och skadlig kod numera görs.
Det finns otaliga sätt, utöver mail, för nätfiskeattacker såsom social manipulation, malvertising, sökmotorförgiftning, mm. I vissa fall kan dessa kombineras för att få användare att vaggas in i en falsk trygghet och tappa uppmärksamheten mot de varningstecken som finns.

Sökmotorer var den största källan för lyckade nätfiskeattacker under 2024

Två metoder som ökar kraftigt är Malvertising, onlineannonser med skadlig kod, och framförallt Sökmotorförgiftning, där hackers manipulerar resultat från sökmotorer så att falska hemsidor med onda uppsåt hamnar överst bland sökresultaten. Typiskt ser dessa falska annonser och hemsidor ut att komma från legitima och välkända organisationer. Sökmotorer var faktiskt den största källan för lyckade nätfiskeattacker under 2024.

Sökmotorförgiftningens framgång bygger på att väldigt få användare är beredda på att de översta träffarna i sina sökresultat är illvilligt planterade och falska hemsidor med skadlig kod eller falska inloggningssidor.

Andra sätt som cyberkriminella framgångsrikt också använder för storskaligt nätfiske är kopplat till sociala medier, kommentarsfält, onlineforum, mm så man kan väl säga att komplexiteten ökar, även för en förhållandevis enkel cyberattacksmetod.

Hur kan vi hjälpa er att stärka er motståndskraft?

Utbildning av personalen för att öka både riskmedvetenheten och kunskapen om nätfiskeutvecklingen är ett sätt att öka er motståndskraft. Moderna cybersäkerhetsverktyg är också verkningsfulla.

Hör av er så hjälper er!

Deepfakes är nu ett verkligt hot

Allt fler organisationer uppger att de har utsatts för deepfake-bedrägerier vilket visar att deepfake inte längre är ett tänkbart framtidsproblem.

Det händer nu. Idag.

Deepfake tar social manipulation till nästa nivå.

Det har talats om att vi i framtiden riskerar att mötas av AI-genererade bedrägerier där telefonsamtal och tom videokonferenser skulle kunna lura personer att de talar med sin chef eller kollega. Rösten är den rätta, informationen är korrekt och t.o.m. privata ämnen tas upp under samtalet.

Målet: att få personer att föra över pengar eller att avslöja hemlig information.

Välkommen till en värld där deepfakes nu händer på riktigt.

15% har drabbats minst en gång

En undersökning nyligen gjord av Deloitte visar att cirka 15 procent av cheferna säger att cyberbrottslingar har riktat in sig på deras företags finansiella eller redovisningsdata med hjälp av deepfakes minst en gång under det senaste året, medan ytterligare 11 procent säger att de har sett flera deepfake-bedrägerier.

Utbildning och goda rutiner ökar er motståndskraft

Utbildning av personalen för att öka medvetenheten om social manipulation och om deepfake är ett verkningsfullt sätt att öka motståndskraften. Tydliga rutiner och processer för utbetalningar av större belopp är också otroligt viktiga.

Hör av dig om du också vill ha större cybertrygghet!