Select your country

Not finding what you are looking for, select your country from our regional selector:

Search

| Blog

AI Act: I slutändan handlar allt om SOC, inte om dokumentation av regelefterlevnad

Explore the rules and articles of the AI Act.

Sammanfattning

  • 2 augusti 2026: AI Act är inte längre en teoretisk fråga, den håller nu på att bli en praktisk verklighet.
  • Digital Omnibus har flyttat ansvaret för AI-förordningen från regelefterlevnadsfunktionen (Compliance) till säkerhetsteamet.
  • Vi tittar närmare på detta nya perspektiv tillsammans med David Racowski, Principal Consultant på Orange Cyberdefense.

Digital Omnibus: en tillbakablick

Digital Omnibus är ett initiativ från Europeiska kommissionen som presenterades den 19 november 2025. Syftet är att förenkla och samla det komplexa regelverket inom digital lagstiftning. Initiativet omfattar bland annat en gemensam ingång för cybersäkerhetsfrågor, justeringar av GDPR samt AI-förordningen (AI Act).

När det gäller AI-förordningen finns det ett gemensamt datum som gäller för alla organisationer: den 2 augusti 2026.

Skyldigheterna för högrisksystem enligt bilaga III (rekrytering, poängsättning, biometri och samhällsviktiga tjänster) börjar gälla den 2 december 2027, medan skyldigheterna enligt bilaga I börjar gälla den 2 augusti 2028.

I praktiken innebär detta:

  • Från och med den 2 augusti 2026: Transparenskraven enligt artikel 50 börjar gälla. Dessa omfattar bland annat chattbotar och AI-genererat innehåll. AI-byrån (AI Office) får även tillsyns- och sanktionsbefogenheter gentemot leverantörer av AI-modeller för allmänna ändamål (General-Purpose AI, GPAI).
  • Från och med den 2 december 2026: Övergångsperioden löper ut för teknisk märkning av syntetiskt innehåll för AI-system som redan har släppts ut på marknaden.
  • Från och med den 2 december 2027: Samtliga krav för högrisksystem börjar gälla. Detta omfattar bland annat artikel 15 (robusthet och cybersäkerhet) samt artikel 14 (mänsklig tillsyn).
  • Från och med den 11 december 2027: Cyber Resilience Act (förordningen om cyberresiliens) börjar tillämpas fullt ut. Rapporteringsskyldigheten för aktivt utnyttjade sårbarheter gäller dock redan sedan den 11 september 2026.

En period på sexton månader är ungefär den tid som krävs för att implementera ett tillsynsprogram för en AI-miljö. Uppskjutandet har dock redan fått negativa konsekvenser: projekt återinförs i produktion utan tillräcklig styrning, kontroll eller lämpliga verktyg, med motiveringen att ”deadlinen har flyttats fram”.

För en CISO (Chief Information Security Officer) är det emellertid inte tillsynsmyndighetens tidsfrist som är den viktigaste, utan tidsfristen för när den första incidenten inträffar. Om en AI-modell som används i en kritisk process blir komprometterad kan det omedelbart utlösa rapporteringsskyldigheter enligt NIS2 eller DORA, oavsett tidsplanen för AI-förordningen.

Innan vi går vidare till CISO:ns handlingsplan ska vi titta närmare på artikel 15 och 14 i AI-förordningen.

Spelets regler för AI

Artikel 15 i AI-förordningen är förordningens centrala bestämmelse om cybersäkerhet. Den innebär att robusthet måste kunna påvisas i den faktiska driftsmiljön.

Bestämmelsen kräver därför att högrisksystem upprätthåller en lämplig nivå av noggrannhet, robusthet och cybersäkerhet under hela sin livscykel. Den identifierar också specifika angreppsmetoder som är särskilt relevanta för AI:

”Förebygga, upptäcka, agera, åtgärda och kontrollera” – det är begrepp som hör hemma i en SOC (Security Operations Center), inte enbart inom styrning och regelefterlevnad (Governance).

Det är här marknadens mest kostsamma utmaning ligger. Robusthet är inte en egenskap som kan beskrivas i dokumentationen vid en viss tidpunkt och sedan betraktas som permanent säkerställd. Det är en egenskap som förändras över tid.

Ett AI-system som bedöms vara robust i januari kan ha förlorat denna robusthet redan i mars, utan att en enda kodrad har ändrats. Orsaken kan vara att indata har förändrats eller att tredjepartskomponenter i AI-systemets leveranskedja har uppdaterats eller förändrats.

 

  • Manipulation av träningsdata (Data Poisoning): Angripare manipulerar träningsdatasetet för att påverka modellens beteende.

  • Manipulation av förtränade komponenter (Model Poisoning): Förtränade komponenter ändras i syfte att påverka modellens funktion.

  • Vilseledande indata (Adversarial Examples / Model Evasion): Speciellt utformade indata används för att vilseleda modellen och få den att fatta felaktiga beslut.

  • Konfidentialitetsangrepp: Angrepp som syftar till att komma åt eller avslöja känslig information.

  • Inbyggda modellbrister: Sårbarheter eller svagheter som finns i själva modellen.

 

Artikel 15 innebär därmed att AI-modellen måste behandlas som en informationstillgång och en del av organisationens IT-miljö:

  • AI-system inkluderas i SOC:ens övervakning och detektering: AI-system ska omfattas av SOC(Security Operations Center) detekteringsområde, med särskilt anpassade övervaknings- och detekteringsregler.
  • AI-modellen och dess beroenden inkluderas i tillgångskartläggningen: Modellen och dess beroenden ska ingå i organisationens tillgångsinventering och SBOM (Software Bill of Materials), det vill säga en förteckning över systemets programvarukomponenter.
  • Loggning och korrelation av AI-aktivitet: Prompter, modellens utdata och förändringar i modellens prestanda över tid (performance drift) blir nya loggkällor som behöver samlas in och korreleras med övriga säkerhetsloggar.
  • Red Teaming utökas till att omfatta AI-modellen: Säkerhetstester ska även omfatta AI-specifika angreppsscenarier, såsom prompt injection, extraktion av träningsdata och försök att kringgå modellens inbyggda skyddsmekanismer.

”Du ska icke passera!”

Artikel 14 i AI-förordningen kräver att högrisksystem utformas så att de kan övervakas effektivt av fysiska personer.

Artikel 26 flyttar ansvaret till den organisation som använder AI-systemet (deployer). Det innebär att ansvaret för den mänskliga tillsynen ska tilldelas kompetenta och utbildade personer som har nödvändiga befogenheter. De ska även säkerställa att loggar sparas och att användningen av systemet avbryts vid avvikelser.

Den ansvariga personen är därmed inte längre enbart en representant för styrning och regelefterlevnad (Governance), utan den som faktiskt har tillgång till och ansvarar för loggarna.

Skyldigheten enligt artikel 4 förstärker tillsynsansvaret ytterligare och kräver att organisationen säkerställer ”en tillräcklig nivå av AI-kunnighet hos sin personal”.

Det innebär att ansvaret för den mänskliga tillsynen i praktiken har förskjutits från Governance-funktionen till SOC (Security Operations Center), eller i andra hand till organisationens interna CSIRT/CERT (incidenthanteringsfunktion).

CISO:ns ansvarskartläggning

AI-förordningen träder i kraft samtidigt som organisationer redan håller på att implementera andra regelverk och program för regelefterlevnad. Det kan därför vara frestande att starta ett separat program för AI-förordningen, fristående från arbetet med NIS2, DORA och CRA (Cyber Resilience Act).

  • Kraven i dessa regelverk överlappar dock varandra, och dokumentation och bevis på efterlevnad kan återanvändas och delas mellan de olika regelverken.
  • Artikel 15 i AI-förordningen / NIS2: Krav på riskhantering, säkerhet i leveranskedjan och incidenthantering täcker redan merparten av de grundläggande kraven. Den främsta bristen gäller hot som är specifika för den AI-modell som organisationen har implementerat.
  • AI-förordningen / DORA: Inom finanssektorn ger befintliga register över kritiska tredjepartsleverantörer av IKT-tjänster och krav på motståndskraftstester en naturlig grund för att integrera även AI-leverantörer.
  • AI-förordningen / CRA (Cyber Resilience Act): AI som är inbyggd i en uppkopplad produkt omfattas av båda regelverken. Tidsfristerna för full tillämpning ligger dessutom endast nio dagar från varandra i december 2027.
  • Gemensam grund: Tillgångskartläggning, loggning, sårbarhetshantering, incidentrapportering och krisövningar är centrala delar som kan samordnas mellan regelverken.

CISO:ns checklista – 10 åtgärder att genomföra före december 2027

  1.  Inventera samtliga AI-system: Kartlägg alla AI-system i produktion och under utveckling, inklusive så kallad Shadow AI och funktioner som är aktiverade som standard i SaaS-verktyg.
  2. Klassificera varje AI-system: Fastställ systemets roll (leverantör eller tillhandahållare/användare), risknivå och vilken bilaga i AI-förordningen som är tillämplig.
  3. Utse en operativt ansvarig: Utse en operativt ansvarig person för varje AI-system, separat från verksamhetens beställare eller sponsor.
  4. Integrera AI i tillgångsförteckningen: Lägg till AI-modeller, dataset och beroenden i CMDB (Configuration Management Database) och SBOM (Software Bill of Materials).
  5. Säkerställ loggning: Aktivera loggning av prompter, utdata och beslut, med lagringstider som uppfyller tillämpliga krav.
  6. Inför särskilda detekteringsscenarier: Skapa dedikerade detekteringsregler för bland annat förändringar i modellbeteende (model drift), dataexfiltrering via prompter och avvikande agentbeteende.
  7. Utöka penetrationstester och Red Teaming: Utvidga befintliga säkerhetstester till att även omfatta AI-modeller och AI-agenter.
  8. Reglera säkerhetskrav i leverantörsavtal: Fastställ avtalsmässiga krav på säkerhet, incidentrapportering och granskningsbarhet (auditability) gentemot AI-leverantörer.
  9. Utbilda personal med tillsynsansvar: Utbilda och öka medvetenheten hos operatörer som ansvarar för mänsklig tillsyn, med fokus på AI-specifika felmoder. Dokumentera genomförda utbildningar.
  10. Genomför en krisövning med AI-scenario: Testa organisationens krisberedskap genom ett scenario som exempelvis omfattar manipulerade träningsdata (data poisoning), en komprometterad AI-agent eller manipulerade modellutdata.

FAQ

Mitt företag är inte en AI-leverantör. Omfattas vi ändå?
Ja, som användare (deployer). Artikel 26 i AI-förordningen ställer krav på mänsklig tillsyn genom kompetenta och behöriga personer, lagring av loggar samt att användningen av AI-systemet avbryts vid avvikelser. Detta är skyldigheter som direkt berör den operativa säkerheten.

Robusthet eller cybersäkerhet – vad är skillnaden enligt artikel 15?
Robusthet handlar om AI-systemets förmåga att motstå och hantera fel, driftstörningar och inkonsekvenser.
Cybersäkerhet handlar om systemets motståndskraft mot försök från obehöriga externa aktörer att påverka dess användning, utdata eller beteende, samt mot interna hot.

Måste en incident som involverar ett AI-system rapporteras redan idag?
Ja, om AI-systemet används för att stödja en samhällsviktig tjänst eller en kritisk funktion kan rapporteringsskyldigheter enligt NIS2 eller DORA redan vara tillämpliga. Man behöver alltså inte invänta december 2027. Kraven på rapportering av allvarliga incidenter enligt AI-förordningen kommer dessutom att komplettera dessa skyldigheter.

Behövs ett särskilt verktyg för att uppfylla kraven i AI-förordningen?
Sällan. Merparten av cybersäkerhetskraven i artikel 15 kan hanteras genom att bygga vidare på befintliga säkerhetsåtgärder, såsom tillgångskartläggning, loggning, detektering, sårbarhetshantering och incidenthantering.

Var ska vi börja om vi ännu inte har påbörjat arbetet?
Börja med en inventering. Det går inte att visa att regelkraven uppfylls i en AI-miljö som organisationen inte har identifierat och kartlagt. Dessutom är inventeringen ett grundläggande steg som inte är beroende av att framtida harmoniserade standarder publiceras.

Hur är det med företagsintern och proprietär data?

Företagsspecifik data är den nya tillgången för att bygga trovärdighet.
Generativa sökmotorer och AI-baserade svarstjänster, såsom Google AI Overview, omfördelar synligheten till förmån för källor som tillhandahåller förstahandsinformation som är verifierbar och möjlig att hänföra till en tydlig avsändare. Generella analyser hamnar alltmer i bakgrunden, medan företagsspecifik data i högre grad lyfts fram och citeras.

Logiken är densamma som i AI-förordningen: ett påstående utan belägg har inget värde, vare sig inför en tillsynsmyndighet eller en sökmotor.

Det är därför Security Navigator 2026 från Orange Cyberdefense, som bygger på analys av mer än 139 000 incidenter under perioden oktober 2024 till september 2025 i 160 länder, varav 19 053 bekräftade incidenter, kan utgöra ett faktabaserat underlag för att kalibrera en AI-baserad riskmodell.

Vill ni också bedöma er organisations mognadsgrad i förhållande till AI-förordningens cybersäkerhetskrav? Boka ett möte med en av våra experter på Orange Cyberdefense för en genomgång och diskussion.

Läs mer:

Kontakt

24/7 incident hotline