Tre sekunder ljud räcker för att AI-klona din röst!
I en cybersäkerhetsartikel konstateras att det räcker med en tre sekunder lång ljudupptagning för att cyberkriminella ska kunna klona en persons röst. En så kort ljudsnutt skulle kunna hämtas från ett videoklipp som delas på sociala medier eller kopieras från ditt svarsmeddelande på din voicemail.
Röstkapning genom AI-kloning: kan du lita på dina öron?
Många tror sig säkert kunna känna igen en AI-klonad röst. Tyvärr verkar det som att man inte ska känna sig alltför säker på den saken.
Ett exempel som nämns är en amerikansk mamma som nästan blev offer för ett virtuellt kidnappningsbedrägeri, där en klonad röst på ett övertygande sätt härmade hennes dotters rop på hjälp. Ett hänsynslöshet exempel på AI-bedrägeri, där en form av social manipulation tar sig den fulaste formen.
Social manipulation av den fulaste formen
Växande hot mot företag
Bedrägerier med röstkapning genom AI har hittills mest inriktat sig mot privatpersoner, speciellt mot de äldre, där bedrägerier görs genom att man imiterat familjemedlemmar. Trenden är dock att AI-klonade röstbedrägerier är ett växande hot även mot företag.
En anställd på ekonomiavdelningen kan falla offer för ett samtal som denne tror kommer från VD:n, särskilt eftersom dessa typer av bedrägerier typiskt görs genom att skapa en känsla av auktoritet och brådska så att behovet av att agera snabbt blir viktigt.
Bedrägerier med generativ AI, kan innebära förluster på 40 miljarder dollar
Ett aktuellt exempel, från tidigare i år, hände i Italien där en framstående affärsman blev lurad i en deepfake där man AI-klonat försvarsministerns röst som bad om pengar för snabb hjälp att befria kidnappade journalister. Affärsmannen förde över 1 miljon euro men då bedrägeriet upptäcktes i tid kunde polisen spärra kontot och pengarna återtas.
Även om dessa typer av exempel finns så kan man tycka att det känns orimligt att så väldigt många ska kunna bli lurade och i stor skala. Studier från USA förutspår dock att detta och andra bedrägerier med generativ AI, kan innebära att företag i USA förlorar upp mot 40 miljarder dollar fram till 2027.
Biometrisk röstautentisering räcker inte
Aktörer inom den finansiella sektorn har använt röstbiometri ett tag för att identifiera kunder som tex kontaktar deras kundtjänst. Nu finns indikationer på att även denna metod blir omsprungen av AI-klonade röster. För att ligga i framkant behöver man sannolikt kombinera röstautentisering med en integrerad multifaktorsautentisering.
Kombinera röstautentisering med integrerad MFA
Framtidens och nutidens skydd mot AI-klonad röstkapning
Teknik
Det behövs mer avancerad röstautentiseringsteknik som kontrollerar fler aspekter av en persons röst, som ton och rytm. Att bara utgå från röstkaraktär räcker snart inte längre.
Om man dessutom kombinerar röstigenkänning med beteendeanalys, som tittar på talmönster som pauser, tonskiften och stress, ökar svårighetsgraden för AI-kloning. Vi har alla subtila variationer som är ytterst svåra för AI att efterlikna.
Beteende
I en tid av sociala medier kan det kanske kännas svårt för många att begränsa mängden personlig information som delas online, speciellt ljud- och videoklipp. Men då brottslingar kan använda dessa källor för att klona både röst och bild för att utföra bedrägerier och deepfake så vore det nog klokt att försöka vara mer restriktiva.
Dock är ett av de kraftfullaste verktygen för att bygga motståndskraft klart inom räckhåll. Att utbilda er personal på ett bra sätt ökar medvetenheten gällande både förekomsten av bedrägerier och social manipulation och att vara uppmärksam på just AI-driven deepfake och röstkloning. Att personalen är medveten om, och förstår hur bedragare kan använda AI för att replikera röster i syfte att luras och manipulera, gör att man lättare får dem att ifrågasätta alla ovanliga förfrågningar, särskilt de som rör pengar eller känslig information.
Hör av dig så hjälper vi er att skapa både en större motståndskraft och en ökad cybertrygghet!
Nätfiskemail som planterar tysta infostealers ökar kraftigt
Cyberbrottslingar övergår mer och mer till en taktik som bygger på att inte synas eller märkas. Metoden att stjäla värdefull information med infostealers och sedan tyst lämna systemet är en växande och mycket allvarlig trend som riskerar att få stora konsekvenser.
I en nyligen publicerad rapport konstaterades att nätfiskemail som sprider infostealers ökade med 84% under 2024 och för 2025 är ökningen 180% under de första månaderna jämfört med 2023.
Vad är Infostealers?
Infostealers används i allt större utsträckning och anses vara ett av de största cyberhoten idag. Kortfattat kan man beskriva infostealers som en skadlig programvara som i hemlighet infekterar datorer och system med ett enda egentligt syfte – att kopiera värdefull information utan att det upptäcks. När informationen är stulen har infostealern slutfört sitt uppdrag och nästa steg för den cyberkriminelle är att sälja den stulna informationen.
Den information man fokuserar på att stjäla är olika typer av användarnamn, lösenord, systeminställningar, cookies, loggfiler, mm som kan användas för att logga in eller åtminstone få fotfäste i ett företags IT-system. Därifrån iscensätts sedan andra cyberattacker eller andra bedrägliga aktiviteter. Den typiska köparen av informationen som en infostealer kommit över är således andra cyberkriminella som, efter köptransaktionen, inleder sin egen informationsstöld alternativt en cyber-, utpressnings- eller bedrägeriattack.
Den information man fokuserar på att stjäla är inloggningsuppgifter
En stor del av cyberattacker görs mot kritisk IT-infrastruktur och under 2024 genomfördes, enligt rapport, 30% av dessa genom användning av godkända och fungerande användarkonton, vilket kan tyckas bevisa utmaningen som finns med att inloggningsuppgifter först stjäls i det tysta och sedan används utan att upptäckas vid cyberbrottets genomförande. Cyberbrottslingarna bryter sig således inte in – de loggar in!
Cyberbrottslingarna bryter sig inte in – de loggar in!
Stjäla information istället för att kryptera
Nästan en av tre cyberincidenter under 2024 var stöld av inloggningsuppgifter, som sedan säljs, snarare än att använda ransomware för att kryptera information som man sedan begär lösensumma för att låsa upp. En stor anledning till detta är att det ska gå snabbt och man vill lämna så lite spår efter sig som möjligt. Därtill finns en trend att lösensummor istället krävs för att man inte ska sälja eller publicera stulen information.
Billigt och lönsam kriminalitet
Nätfiske och/med social manipulation för att sprida infostealers har blivit billiga, skalbara och mycket lönsamma för hotaktörerna. Infostealers möjliggör snabb inhämtning av data, vilket minskar tiden som de cyberkriminellas behöver vara inne i den angripnes system och lämnar dessutom lite spår efter sig. Att det är lönsamt blir tydligt när man konstaterar att under 2024 hade de fem populäraste infostealers mer än åtta miljoner annonser på undanskymda digitala handelsplatser på Darknet, där varje annons kan innehålla hundratals stulna uppgifter.
Infostealers har blivit billiga, skalbara och mycket lönsamma
Verkningsfulla motmedel
Det finns ett antal olika sätt att öka sin motståndskraft som tex en genomarbetad och implementerad cyberssäkerhetspolicy, säkerhetsutbildad personal, moderna och uppdaterade IT-system, tydlig lösenordspolicy med MFA, osv.
Den enskilt vassaste vapnet är dock att övervaka hela sin IT-miljö i realtid och ha en 24/4 beredskap för att jaga hot, stoppa intrång och hantera incidenter.
Hör av dig så hjälper vi er att skapa både en större motståndskraft och en ökad cybertrygghet!
Attacker med deepfake ökar explosionsartat
Från att ha varit en obetydlig del och mest en oro för framtiden är nu deepfake-attacker ett snabbt växande hot. Måltavlan har främst varit den finansiella marknaden, där det rapporteras om en explosionsartad ökning, vilket gör att det finns all anledning att misstänka att deepfakes snart kommer att användas i stor utsträckning även mot andra branscher.
Deepfake
Det har talats om att vi i framtiden riskerar att mötas av AI-genererade bedrägerier där telefonsamtal och t.o.m. videokonferenser skulle kunna lura personer att tro att de talar med sin chef eller kollega. Rösten är den rätta, informationen är korrekt och t.o.m. privata ämnen tas upp under samtalet. Tyvärr beskrivs det i rapporter och artiklar att deepfakes inte är ett framtida hot utan används i stor utsträckning redan idag - och dessutom ökar kraftigt.
Deepfake tar social manipulation till nästa nivå
Attackmetod
Man kan beskriva deepfake som ett sätt att imitera en person, ner till väldigt små detaljer, för att manipulera och övertyga en annan person eller kollega att utföra en viss handling. Det kan vara att föra över pengar eller skaffa sig tillgång till hemlig information.
Avancerad och AI-driven teknologi är grunden för att skapa deepfakes och tekniken är nu så kraftfull att cyberkriminella kan lyckas med dessa imitationer och deepfakes även i realtid, dvs videokonferenser.
Finansiellt bedrägeri
Det mest kända stora finansiella deepfake-bedrägeriet är nog det där bedragarna lyckades stjäla motsvarande 250 miljoner kronor från ett bolag i Hong Kong. En medarbetare fick ett mejl från bolagets finanschef i Storbritannien som informerade om att en hemlig penningtransaktion behövde genomföras. Medarbetaren fattade dock misstankar men efter ett videomöte där finanschefen och andra medarbetare deltog kände medarbetaren sig övertygad och genomförde transaktionen. I videomötet såg och lät kollegorna nämligen precis som vanligt.
Informationsstöld
En annan typ av deepfake-bedrägerier som fått uppmärksamhet är när företag anställer på distans, vilket typiskt handlar om konsulter som kan erbjuda kompetens inom ett visst område. Scenariot involverar en stulen Linkedinprofil, ett CV som matchar och en distansintervju som är deepfake, vilket resulterar i en anställning som handlar om att infiltrera och stjäla information.
Ett omtalat fall i denna kategori är ett amerikanskt företag som anställde en person som utgav sig för att vara någon helt annan och med hjälp av deepfake lyckades bli anställd. Personen i fråga var egentligen nordkorean och hade, vid upptäckt, redan installerat skadlig kod i företagets system.
Kravet för ökad motståndskraft: utbildning som både ger tydliga rutiner och en säkerhetskultur
Utbildning av personalen för att öka medvetenheten om social manipulation och om deepfake är ett sätt att öka motståndskraften. Tydliga rutiner, instruktioner och processer är också mycket verkningsfullt men om man inte skapar en säkerhetskultur som får personalen att vilja följa rutinerna så blir de verkningslösa tomma ord.
Hör av dig så hjälper vi er!
ClickFix, när era användare hjälper cyberkriminella
Ett tydligt ökande hot är en nätfiskemetod som generellt beskrivet bygger på att användaren får ett fiktivt problem, tex inte kommer vidare till en hemsida, samt presenteras med ett logiskt klicka här för att lösa problemet.
ClickFix är ett snabbt växande problem och maskeras typiskt genom en falsk dialogruta eller pop-up, ofta i form av krav på att installera en nödvändig uppdatering eller verifiera att du är en människa. Det kan vara en falsk CAPTCHA, I’m not a robot eller rakt på sak en Fix it-knapp som kan kännas bekant och tryggt att klicka på, även för en hyfsat observant användare. För att komma vidare och således lösa ”problemet”, luras användaren att, utan sin vetskap, installera en infostealer eller annan skadlig programvara. Metoden är ytterst effektiv eftersom användaren inte är medveten om vad denne gör, men framför allt för att handlingen i många fall inte upptäcks av säkerhetssystemen.
ClickFix upptäcks inte av säkerhetssystemen
Hotaktörer
Problemet med ClickFix dök upp under sensommaren 2024 och har ökat stadigt sedan dess och tycks accelerera sedan årsskiftet. Spridningen bland aktörerna tycks bred, där både cyberkriminella grupperingar och statligt sponsrade hackergrupper använder metoden för att lura sina offer och infektera med skadlig programvara.
Attackmetoder
Generellt sätt så bygger metoden på social manipulation och att utnyttja mänskligt beteende och svagheter däri. Man försätter den attackerade användaren i en situation av problem och osäkerhet samt presenterar en lösning på problemet i en bekant paketering eller form.
Vanligt är att leda användaren till en falsk hemsida där attacken utförs ifrån. Förutom nätfiskemail är malvertising, onlineannonser med skadlig kod, och sökmotorförgiftning, där hackers manipulerar resultat från sökmotorer så att falska hemsidor med onda uppsåt hamnar överst bland sökresultaten. Typiskt ser dessa falska annonser och hemsidor ut att komma från legitima och välkända organisationer.
Ett ClickFix-exempel
1. Användaren leds via nätfiske, malvertising eller sökmotorförgiftning till falsk hemsida med ClickFix
2. Hemsidan kräver att användaren klickar på en popup ”jag är ingen robot” eller liknande
3. Felmeddelande dyker upp om att det tex inte gick att verifiera användaren samt instruktioner om hur man löser problemet
4. Användaren följer instruktionen och installerar en infostealer eller annan skadlig programvara
5. Användaren uppfattar att verifieringen lyckades och surfar vidare helt ovetande om vad som hänt
Svårt att skydda sig när egna användare används för att installera skadlig programvara
Vad är en infostealer?
Kortfattat kan man beskriva Infostealers som en skadlig programvara som i hemlighet infekterar datorer och system med ett enda egentligt syfte – att kopiera värdefull information utan att det upptäcks. När informationen är stulen har Infostealern slutfört sitt uppdrag och nästa steg för den cyberkriminelle är att sälja eller utnyttja den stulna informationen.
Den information man fokuserar på att stjäla är olika typer av användarnamn, lösenord, systeminställningar, cookies, loggfiler, mm som kan användas för att logga in eller åtminstone få fotfäste i ett företags IT-system. Därifrån iscensätts sedan andra cyberattacker eller andra bedrägliga aktiviteter. Den typiska köparen av informationen är således andra cyberkriminella som efter köptransaktionen inleder en cyber-, utpressnings- eller bedrägeriattack.
Vill du veta mer om hur cybersäkerhetsutbildning kan stärka er motståndskraft?
Utbildning av personalen för att öka både riskmedvetenheten och kunskapen om nätfiskeutvecklingen är ett ypperligt sätt att öka er motståndskraft, speciellt när det kombineras med toppmoderna cybersäkerhetsverktyg.
Hur AI används av cyberkriminella – det blir värre och värre
Att AI används och är en positiv resurs i många branscher är ingen nyhet. AI är dessutom, för väldigt många, en förhållande ny företeelse eftersom det stora genombrottet kom först när generativ AI gjordes tillgänglig på bred front.
Inom den cyberkriminella världen ser det liknande ut och nu ökar användningen snabbt. Därtill blir användningen mer och mer avancerad, vilket innebär att hotbilden ökar inom flera områden.
Vad är AI-drivna cyberangrepp?
Generellt beskrivet så är AI-drivna cyberangrepp sådana där AI använts antingen i utvecklingen av en cyberattack och/eller som en komponent av själva cyberangreppet eller attackmetoden. AI används oftast för att förbättra och förenkla utvecklingsprocessen samt för att spetsa till existerande attackmetoder eller skadlig programkod.
AI används både i utvecklingen av och som komponent i cyberattacker
Exempel på hur AI används för cyberattacker
• Utveckling och leverans av skadlig kod, där generativ AI används för att skriva programkoden. Växande avvändning, speciellt av oerfarna och mindre kunniga hackare.
• För avancerat nätfiske och social manipulation. Generativ AI används för att skapa traditionellt material som förfalskade dokument, text, bilder och video men även deepfakematerial. AI används också för att kartlägga och analysera kommunikationsmönster och inhämta personlig information som sedan kan användas för avancerat nätfiske och social manipulation.
• Intrång samt övervakning av system. Svagheter och säkerhetsbrister finns i nästan alla IT-miljöer och med AI har cyberbrottslingar nya och otroligt kraftfulla verktyg för att knäcka lösenord, övervaka trafik och göra sårbarhetssökningar.
• Maskeringsverktyg för att cyberattacker som tex användning av skadlig kod, intrång, datastöld, etc inte ska upptäckas. Många säkerhetssystem bygger på att identifiera en cyberattack genom programkod, mönsterigenkänning, tillvägagångssätt, mm. En mycket bekymmersam möjlighet med AI är att det möjliggör för dynamiska attacker, där en skadlig programvara på egen hand ständigt ändrar sitt beteende, signatur, programkod, mm för att undvika att bli upptäckt. AI skulle tom kunna analysera de säkerhetsverktyg som används och använda denna information som hjälp för att bättre kunna kamouflera attacken.
Fight fire with fire!
Det kan kännas både hotfullt och nästan hopplöst att konstatera hur hotbilden ständigt förändras och ökar. Lyckligtvis ökar även användningen av AI kraftigt inom cybersäkerhetsbranschen och har för ett stort värde i förmågan att hantera både gamla och nya hot.
Vill du veta mer och hur vi kan hjälpa dig så tveka inte på att höra av dig!
Infostealers – ett växande hot med mycket allvarliga följdeffekter
Infostealer-malware, även kallade Infostealers eller bara Stealers växer i populäritet på den cyberkriminella marknaden och öppnar dörren för ännu större cyberrisker. Det visar också tydligt hur kriminella samarbeten fördjupas ytterligare.
Vad är Infostealers?
Infostealers används i allt större utsträckning och anses, av vissa, vara ett av de största cyberhoten idag. Kortfattat kan man beskriva Infostealers som en skadlig programvara som i hemlighet infekterar datorer och system med ett enda egentligt syfte – att kopiera värdefull information utan att det upptäcks. När informationen är stulen har Infostealern slutfört sitt uppdrag och nästa steg för den cyberkriminelle är att sälja den stulna informationen.
man kan "kidnappa” en pågående inloggning och därmed kringgå tex multifaktors-autentisering
Den information man fokuserar på att stjäla är olika typer av användarnamn, lösenord, systeminställningar, cookies, loggfiler, mm som kan användas för att logga in eller åtminstone få fotfäste i ett företags IT-system. Därifrån iscensätts sedan andra cyberattacker eller andra bedrägliga aktiviteter. Den typiska köparen av informationen som en Infostealer kommit över är således andra cyberkriminella som, efter köptransaktionen, inleder en cyber-, utpressnings- eller bedrägeriattack.
Att lyckas stjäla och snabbt sälja aktuella sessionskakor är speciellt högt upp på önskelistan då dessa betingar ett högt pris. Med aktuella sessionskakor kan man nämligen ”kidnappa” en pågående inloggning och därmed kringgå tex multifaktorsautentisering som finns för att skydda system och IT-miljöer mot otillåten inloggning, vilket naturligtvis är otroligt allvarligt!
Marknaden blomstrar
På Infostealermarknaden finns både hackare som är specialiserade på att stjäla och sälja stulen information men också de som erbjuder Infostealers-som-tjänst. Köparen erbjuds i det senare fallet en färdig Infostealertjänst med allt från kundsupport, mjukvaruuppdateringar till detaljerad dokumentation, vilket innebär att även de kriminella med lägre teknisk kompetens kan använda avancerade Infostealers.
Mycket av informationen som stjäls med Infostealers kanske aldrig kommer till användning men blotta tanken att mycket information själs är såklart oroväckande. Vad som dock är otroligt allvarligt är att, enligt en rapport, 90% av företag som haft cyberintrång har förlorat inloggning/behörighetsdata till en Infostealer före intrånget. Detta visar tydligt att Infostealers är ett mycket allvarligt problem då dessa bidrar till att större cyberattacker kan genomföras.
90% av företag som haft cyberintrång har förlorat inloggnings- /behörighetsdata till en Infostealer före intrånget
En sökning på en populär men undanskymd digital handelsplats visade att milliontals Infostealerloggar är till salu, vilket kan anses vara ett tecken på att mognadsgraden är hög i det cyberkriminella ekosystemet där Infostealers alltså spelar en viktig roll.
Hur sprids Infostealers?
Infostealers sprids genom de olika och ofta väldigt kreativa sätt som vi beskrivit i denna blogg vid tidigare tillfällen. Nätfiskeattacker, malvertising och sökmotorförgiftning är några exempel men även falska CAPTCHA-formulär, AI-verktyg och mjukvaror har använts.
Hur kan vi hjälpa er att stärka er motståndskraft?
Moderna cybersäkerhetsverktyg, med konstant övervakning och incidentberedskap är snart ett måste för alla företag. Även utbildning av personalen för att öka både riskmedvetenheten och kunskapen om hur skadliga program sprids är bra ett sätt att öka er motståndskraft.
Hör av er så hjälper er!
Därför fortsätter klickandet på nätfiskelänkar att öka kraftigt!
Trots alla redogörelser om alltmer avancerade cyberattacksmetoder så framkommer det, i en nyligen publicerad rapport, att ett beprövat tillvägagångssätt som nätfiske, fortsatt är mycket framgångsrikt. Enligt rapporten så tredubblades klickandet på nätfiskelänkar under 2024, mycket pga nya och mer finurliga nätfiskemetoder.
Så trots att de cyberhotet ökar i komplexitet, pga ökad teknisk utveckling, kriminella samarbeten och användning av AI så måste vi fortsatt utbilda personalen för att stärka motståndskraften mot nätfiske.
Tredubbling i klickandet på nätfiskelänkar under 2024!
Nätfiske är mer än länkar i mail
Under lång tid fokuserades uppmärksamheten och utbildningsinsatser kopplade till nätfiske på att få personalen att inte klicka på okända länkar i mail. Tyvärr så har hotbilden förändrats och komplicerats. Det är dock inte nätfiskelänkarna som förändras utan hur exponering, placering och distribuering av nätfisket och skadlig kod numera görs.
Det finns otaliga sätt, utöver mail, för nätfiskeattacker såsom social manipulation, malvertising, sökmotorförgiftning, mm. I vissa fall kan dessa kombineras för att få användare att vaggas in i en falsk trygghet och tappa uppmärksamheten mot de varningstecken som finns.
Sökmotorer var den största källan för lyckade nätfiskeattacker under 2024
Två metoder som ökar kraftigt är Malvertising, onlineannonser med skadlig kod, och framförallt Sökmotorförgiftning, där hackers manipulerar resultat från sökmotorer så att falska hemsidor med onda uppsåt hamnar överst bland sökresultaten. Typiskt ser dessa falska annonser och hemsidor ut att komma från legitima och välkända organisationer. Sökmotorer var faktiskt den största källan för lyckade nätfiskeattacker under 2024.
Sökmotorförgiftningens framgång bygger på att väldigt få användare är beredda på att de översta träffarna i sina sökresultat är illvilligt planterade och falska hemsidor med skadlig kod eller falska inloggningssidor.
Andra sätt som cyberkriminella framgångsrikt också använder för storskaligt nätfiske är kopplat till sociala medier, kommentarsfält, onlineforum, mm så man kan väl säga att komplexiteten ökar, även för en förhållandevis enkel cyberattacksmetod.
Hur kan vi hjälpa er att stärka er motståndskraft?
Utbildning av personalen för att öka både riskmedvetenheten och kunskapen om nätfiskeutvecklingen är ett sätt att öka er motståndskraft. Moderna cybersäkerhetsverktyg är också verkningsfulla.
Hör av er så hjälper er!
