
10 March 2025
”När vi använder termer som ’autonom’ och ’augmenterad’ måste vi vara mycket försiktiga”, säger Grant Paling. ”Ord är viktiga – särskilt när de formar förväntningar på vad AI kan eller inte kan göra inom säkerhet.”
I sammanhanget med moderna SOC innebär ”autonom” system som fungerar helt utan mänsklig inblandning – en helt handsfree-modell. Men i verkligheten finns den nivån av AI-mognad helt enkelt inte inom cybersäkerhet. ”Om vi inte är realistiska när det gäller AI:s begränsningar riskerar vi att överskatta vad dessa system kan göra och underskatta det fortsatta behovet av mänsklig övervakning.”
Istället speglar termen ”augmenterad” bättre var vi befinner oss – och vart vi är på väg. AI ersätter inte analytiker. Det stöder och förbättrar deras förmågor, hjälper dem att arbeta snabbare, filtrera bort brus med ytterligare säkerhet och fokusera på det som verkligen är viktigt.
”Den mest betydelsefulla effekten av AI i SOC är effektiviteten”, förklarar Grant. ”Det handlar om att prioritera larm, automatiskt berika data, upptäcka avvikelser som människor skulle ha svårt att upptäcka på egen hand – och göra allt detta snabbt och i stor skala.”
I stället för att försöka ”automatisera” hela SOC bör fokus ligga på att förbättra specifika steg i analytikerns arbetsflöde: upptäcka kända mönster snabbare, presentera relevant kontext som är specifik för varje övervakad miljö och föreslå bästa praxis för begränsning och åtgärd. ”Det verkliga värdet ligger i att AI gör människor snabbare och mer säkra i sina beslut – inte i att försöka ta besluten ur deras händer.”
Även med de mest avancerade verktygen är Grant tydlig: mänskligt omdöme är fortfarande avgörande. ”Vi har hundratals säkerhetsanalytiker världen över – och antalet minskar inte. Varför? Eftersom cybersäkerhet är fullt av specialfall, nyanser och kontextuella faktorer som maskiner helt enkelt inte kan förstå.”
En effektiv SOC kräver anpassningsförmåga, etiskt tänkande och intuition – saker som ingen nuvarande algoritm kan replikera. ”Om vi presenterar AI som en ersättning för mänsklig kompetens riskerar vi att undergräva hela värdet av en skiktad säkerhetsstrategi.”
Morgondagens analytiker behöver inte bli dataforskare, men de måste förstå hur AI kan stödja dem.
”Nyfikenhet är viktigt”, säger Grant. ”Att förstå varför AI ger en viss rekommendation gör analytikerna mer självsäkra och bättre på att använda verktyget effektivt.” I praktiken innebär det att lära sig ställa frågor, tolka mönster och – vilket är avgörande – veta när man ska ifrågasätta eller åsidosätta maskinen.
”De bästa resultaten ser jag när analytiker arbetar med AI, inte runt det.”
I stället för att skapa ett nytt rättsligt paradigm lägger införandet av AI till ytterligare ett lager till en redan reglerad miljö. ”I slutändan är det fortfarande människor som är ansvariga”, tillägger han. ”AI kan stödja beslut, men det ersätter inte ansvaret som analytiker, ingenjörer eller organisationen själv har.”
För att bygga förtroende måste transparensen vara operativ – med tydliga förklaringar av hur AI-resultat genereras och mekanismer för mänsklig granskning och ingripande. ”Vi måste behandla AI som vilket annat verktyg som helst: kraftfullt, men inte bortom granskning.”
”Framtidens SOC kommer att vara snabbare, mer anpassningsbar och mer integrerad med AI – men den kommer fortfarande att vara människostyrd”, säger Grant. Analytiker kommer att arbeta sida vid sida med AI-system som är mer kontextmedvetna, prediktiva och stödjande för komplexa arbetsflöden. AI kommer att hjälpa till att prioritera varningar, minska responstiden och höja situationsmedvetenheten i hela SOC.
Men det finns en annan sida av myntet.
”Som försvarare kommer vi att använda AI mer än någonsin – men det kommer även angriparna att göra”, påpekar Grant. ”Det är verkligheten. AI driver inte bara våra möjligheter, utan förbättrar även sofistikationen och hastigheten hos illvilliga aktörer. Så vad vi kommer att se är två motstående krafter, båda förstärkta av AI, som kontinuerligt utvecklas och anpassar sig efter varandra.”
Grant tror att denna dynamik kommer att definiera framtiden för cybersäkerhetsverksamhet. ”Vi kommer inte att ha ett helt autonomt SOC – vi kommer att ha ett förstärkt slagfält där intelligens, smidighet och mänsklig övervakning är viktigare än någonsin.”
Ju längre vi går in i en AI-assisterad era, desto tydligare blir det att tekniken i sig inte kommer att avgöra SOC:s framtid – det kommer människor att göra. På Orange Cyberdefense tror vi på att ge försvararna rätt information, rätt verktyg och rätt stöd för att kunna hantera komplexiteten med klarhet.
För i en värld där båda sidor är förstärkta handlar det inte bara om att hänga med – det handlar om att leda med självförtroende.
Product Management Director
Orange Cyberdefense
10 March 2025
6 March 2025
11 March 2025
11 February 2025