Cybersäkerheten måste utvecklas snabbare än AI

Användningen av AI ökar kraftigt då det för många fortfarande är en förhållandevis ny företeelse. Det stora genombrottet kom först när generativ AI gjordes tillgänglig på bred front och nu verkar det som att alla vill vara med i AI-racet.

Användningsområdena ökar också snabbt och generativ AI implementeras på otaliga ställen i våra verksamheter, från kundtjänstchattrobotar till marknadsföringskampanjer. Med ökad effektivitet och utveckling av AI kommer tyvärr också nya säkerhetsrisker. Många företag upptäcker att de varken är medvetna om eller förberedda för de säkerhetsutmaningar som AI skapar.

I en nyligen publicerad rapport, där flera tusen IT- och säkerhetsexperter har svarat på frågor, framkommer det tydligt att användningen av AI ställer nya krav på företagens säkerhetsprioriteringar.

Hög användning av AI och det ökar snabbt

En tredjedel av företagen i undersökningen har idag integrerat generativ AI i sin verksamhet samt har nått den punkt där den förändrar deras affärsprocesser. Denna förändring sker snabbt. Tyvärr rör sig många organisationer snabbt framåt med sina AI-projekt utan att varken förstå hur cyber- och informationssäkerheten påverkas av den snabba utvecklingen eller hur säkerheten ska kunna tryggas.

I rapporten svarade nästan 70 % av respondenterna att det snabbt föränderliga ekosystemet för generativ AI är deras största säkerhetsbekymmer. Komplexiteten och svårighet att överblicka säkerhetsriskerna är svårt och det som nämns är både AI-baserade SaaS-tjänster och alltmer autonoma AI-agenter som hanterar känslig data.

Snabba förändringar inom generativ AI är det största säkerhetsbekymret

Därtill finns mycket stor oro för att cyberbrottslingar fokuserar på att manipulera den data som AI-verktygen arbetar med. Denna risk rankas som mycket allvarlig och det kan sannolikt bero både på den potentiella skada som föreligger när AI-verktyg, speciellt autonoma, matas med medvetet manipulerad data men förmodligen också då detta är svårt att upptäcka.

Cybersäkerhet är en grundläggande framgångsfaktor för AI

Generativ AI är beroende av stora mängder data och information. Det är naturligtvis fördelaktigt när informationen är av hög kvalitet men framför allt måste informationen såklart vara tillförlitlig. Om den minsta osäkerhet finns gällande tillförlitlighet så faller trovärdigheten av AI-verktygets output vilket skulle äventyra de positiva effekter som AI är implementerade för att bidra med

Risk för manipulation av data som AI-verktygen arbetar med

Generativ AI kommer att fortsätta växa, och mycket av dess värde beror på kvaliteten och skyddet av den information som AI-verktygen använder som input. Cyber- och informationssäkerhet måste därför vara väldigt högt prioriterade, både för att kunna stå emot det allmänna cyberhotet, och för att säkerställa företags förmåga att dra nytta av alla fördelar med AI.

Policys och utbildning för en ansvarsfull användning av AI

Med ökade risker kopplat till användning av AI så behöver alla företag vara tydliga i sina riktlinjer gällande användning av AI. Med tydliga policys och återkommande utbildning av personalen kan man minska sina risker genom att skapa den nödvändiga kulturen för en ansvarsfull användning av AI genom hela företaget.

Företagsledningen måste leda arbetet och dessutom föregå med gott exempel!

Hör av dig så hjälper vi er att skapa både en större motståndskraft och en ökad cybertrygghet!