Select your country

Not finding what you are looking for, select your country from our regional selector:

Suche

| Blog

AI Act: Cybersecurity-Anforderungen für CISOs

Explore the rules and articles of the AI Act.

Kurz zusammengefasst

  • 2. August 2026: Der AI Act ist kein theoretisches Thema mehr, sondern wird zur praktischen Herausforderung.

  • Der Digital Omnibus verlagert die Verantwortung für den AI Act von der Compliance-Abteilung zum Security-Team.

  • Ein genauerer Blick auf dieses neue Paradigma mit David Racowski, Principal Consultant bei Orange Cyberdefense.

Digital Omnibus: Rückblick und wichtige Fristen

Der Digital Omnibus ist eine Initiative der Europäischen Kommission, die am 19. November 2025 vorgestellt wurde. Ziel ist es, das komplexe regulatorische Rahmenwerk des digitalen Rechts zu vereinfachen und zu konsolidieren – mit einer zentralen Anlaufstelle für Cybersecurity sowie Anpassungen an der DSGVO und am AI Act.

Für den AI Act gilt zunächst eine Frist für alle Organisationen: der 2. August 2026. Die Pflichten für Hochrisiko-Systeme gemäß Anhang III – etwa in den Bereichen Recruiting, Scoring, Biometrie und wesentliche Dienste – gelten ab dem 2. Dezember 2027. Die Anforderungen gemäß Anhang I treten am 2. August 2028 in Kraft.

Konkret bedeutet das:

  • Seit dem 2. August 2026: Transparenzanforderungen gemäß Artikel 50, etwa für Chatbots und generierte Inhalte, sowie die Aufsichts- und Durchsetzungsbefugnisse des AI Office gegenüber Anbietern von General-Purpose-AI-Modellen.
  • Ab dem 2. Dezember 2026: Ende der Übergangsfrist für die technische Kennzeichnung synthetischer Inhalte bei Systemen, die bereits auf dem Markt sind.
  • Ab dem 2. Dezember 2027: Der vollständige Katalog der Anforderungen für Hochrisiko-Systeme, einschließlich Artikel 15 zu Robustheit und Cybersecurity sowie Artikel 14 zur menschlichen Aufsicht.
  • Ab dem 11. Dezember 2027: Vollständige Anwendung des Cyber Resilience Act. Meldepflichten für ausgenutzte Schwachstellen gelten bereits seit dem 11. September 2026.

Ein Zeitraum von 16 Monaten entspricht ungefähr der Zeit, die erforderlich ist, um ein Aufsichtsprogramm für eine gesamte AI-Umgebung umzusetzen. Die Verschiebung hat jedoch bereits negative Auswirkungen: Projekte werden unter dem Hinweis „Die Frist wurde verschoben“ wieder in Betrieb genommen – ohne angemessene Governance oder geeignete Tools.

Für einen CISO ist die entscheidende Frist jedoch nicht die des Regulators, sondern die des ersten Sicherheitsvorfalls. Wird ein Modell innerhalb eines kritischen Prozesses kompromittiert, löst dies unabhängig vom Zeitplan des AI Act unmittelbar eine Meldepflicht nach NIS2 oder DORA aus.

Bevor wir den „Maßnahmenplan“ des CISO betrachten, lohnt sich ein genauerer Blick auf die Artikel 15 und 14 des AI Act.

Die Cybersecurity-Anforderungen des AI Act

Artikel 15 des AI Act ist die zentrale Cybersecurity-Bestimmung der Verordnung: Die Robustheit eines Systems muss im produktiven Betrieb nachgewiesen werden.

Hochrisiko-Systeme müssen deshalb über ihren gesamten Lebenszyklus hinweg ein angemessenes Maß an Genauigkeit, Robustheit und Cybersecurity gewährleisten. Der Artikel benennt außerdem spezifische Angriffsvektoren für AI-Systeme:

  • Manipulation der Trainingsdaten (Data Poisoning)
  • Veränderung vortrainierter Komponenten (Model Poisoning)
  • Eingaben, die das Modell gezielt in die Irre führen (Adversarial Examples, Model Evasion)
  • Angriffe auf die Vertraulichkeit
  • inhärente Schwachstellen des Modells

„Verhindern, erkennen, reagieren, beheben und kontrollieren“ – diese Begriffe gehören in erster Linie zum Security Operations Center (SOC), nicht zur Governance. Genau hier liegt einer der kostspieligsten Reibungspunkte des Marktes.

Robustheit ist keine Eigenschaft, die zu einem bestimmten Zeitpunkt lediglich in einer Dokumentation beschrieben werden kann. Sie verändert sich im Laufe der Zeit: Ein System, das im Januar als robust eingestuft wurde, kann im März bereits nicht mehr robust sein, ohne dass eine einzige Codezeile geändert wurde – etwa weil sich die Eingabedaten oder Drittanbieterkomponenten in der AI-Lieferkette verändert haben.

  • Artikel 15 verlangt daher, das Modell wie ein Asset des Informationssystems zu behandeln:
  • AI-Systeme fallen in den Erkennungsbereich des SOC und benötigen dafür eigene Detection Rules.
  • Das Modell und seine Abhängigkeiten werden in das Asset Mapping und die SBOM (Software Bill of Materials) aufgenommen.
  • Prompts, Outputs und Performance Drift werden zu Log-Quellen, die erfasst und miteinander korreliert werden müssen.
  • Red Teaming wird auf das Modell ausgeweitet – etwa auf Prompt Injection, die Extraktion von Trainingsdaten und das Umgehen von Sicherheitsmechanismen.

Menschliche Aufsicht wird zur operativen Pflicht

Artikel 14 des AI Act verlangt, dass Hochrisiko-Systeme so konzipiert sind, dass sie von natürlichen Personen wirksam überwacht werden können.

Artikel 26 überträgt die Verantwortung auf den Betreiber. Dieser muss die Aufsicht kompetenten und geschulten Personen übertragen, ihnen die erforderlichen Befugnisse einräumen, Logs aufbewahren und die Nutzung des Systems bei einer Anomalie aussetzen. Die verantwortliche Person ist damit nicht länger lediglich ein Stakeholder der Governance, sondern diejenige, die Zugriff auf die Logs hat und deren Aufbewahrung sicherstellt.

Die in Artikel 4 festgelegte Verpflichtung stärkt die Verantwortung der Aufsichtsperson zusätzlich. Sie fordert von Organisationen ein „ausreichendes Maß an AI-Kompetenz bei ihren Mitarbeitenden …“.

Die menschliche Aufsicht verlagert die Verantwortung damit vom Governance-Stakeholder zum SOC – oder, falls kein SOC vorhanden ist, zum internen CSIRT/CERT.

Wie der CISO die Anforderungen zusammenführt

Der AI Act tritt zu einem Zeitpunkt in Kraft, an dem in vielen Organisationen bereits Programme zur Umsetzung regulatorischer Anforderungen laufen. Es mag daher naheliegen, ein eigenständiges AI-Act-Programm unabhängig von den Compliance-Maßnahmen für NIS2, DORA oder den CRA zu starten.

Die Anforderungen überschneiden sich jedoch, und Nachweise können über mehrere Regulierungsrahmen hinweg gemeinsam genutzt werden:

  • Artikel 15 / NIS2: Risikomanagement, Sicherheit der Lieferkette und Incident Handling decken bereits einen Großteil der grundlegenden Anforderungen ab. Die Lücke liegt bei den spezifischen Bedrohungen für das von der Organisation eingesetzte AI-Modell.
  • AI Act / DORA: Im Finanzsektor bieten Register kritischer IKT-Drittanbieter und Resilienztests einen natürlichen Rahmen für die Integration von AI-Anbietern.
  • AI Act / CRA: Ist AI in ein vernetztes Produkt eingebettet, fällt es unter beide Regulierungsrahmen. Die entsprechenden Fristen liegen im Dezember 2027 nur neun Tage auseinander.
  • Gemeinsame Grundlage: Asset Mapping, Logging, Vulnerability Management, Meldung von Sicherheitsvorfällen und Krisenübungen.

Checkliste für CISOs: 10 Maßnahmen bis Dezember 2027

  1. Alle AI-Systeme erfassen, die sich in Produktion oder Entwicklung befinden – einschließlich Shadow AI und standardmäßig aktivierter Funktionen in SaaS-Tools.
  2. Jedes System klassifizieren: Rolle – Anbieter oder Betreiber –, Risikostufe und geltender Anhang.
  3. Für jedes System einen operativen Verantwortlichen benennen, der vom fachlichen Sponsor getrennt ist.
  4. AI-Modelle, Datensätze und Abhängigkeiten in die CMDB (Configuration Management Database) und die SBOM integrieren.
  5. Das Logging von Prompts, Outputs und Entscheidungen aktivieren und eine rechtskonforme Aufbewahrungsfrist festlegen.
  6. Eigene Detection Use Cases einrichten, etwa für Model Drift, Prompt-basierte Datenexfiltration und ungewöhnliches Verhalten von AI-Agents.
  7. Das Programm für Penetrationstests und Red Teaming auf Modelle und Agents ausweiten.
  8. Sicherheits-, Melde- und Auditierbarkeitsverpflichtungen mit AI-Anbietern vertraglich festlegen.
  9. Personen, die Aufsichtsfunktionen übernehmen, zu AI-Fehlermodi schulen und sensibilisieren sowie diese Schulungen dokumentieren.
  10. Eine Krisenübung auf Grundlage eines AI-Szenarios durchführen – etwa zu Data Poisoning, einem kompromittierten Agenten oder manipulierten Outputs.

Häufig gestellte Fragen (FAQs) zum AI Act

Ist mein Unternehmen betroffen, wenn es kein Anbieter von AI-Systemen ist?

Ja – als Betreiber. Artikel 26 des AI Act verlangt die Aufsicht durch kompetente und befugte Personen, die Aufbewahrung von Logs sowie die Aussetzung des Systems im Fall einer Anomalie. Dabei handelt es sich um operative Security-Pflichten.

Was ist gemäß Artikel 15 der Unterschied zwischen Robustheit und Cybersecurity?

Robustheit bezeichnet die Widerstandsfähigkeit gegenüber Fehlern, Ausfällen und Inkonsistenzen. Cybersecurity beschreibt den Schutz gegen Versuche unbefugter Dritter, die Nutzung, Outputs oder das Verhalten eines Systems zu verändern, sowie gegen interne Bedrohungen.

Muss ein Sicherheitsvorfall im Zusammenhang mit einem AI-System bereits heute gemeldet werden?

Wenn das System einen wesentlichen Dienst oder eine kritische Funktion unterstützt, gelten die Meldepflichten nach NIS2 oder DORA bereits heute – ohne dass bis Dezember 2027 gewartet werden muss. Die im AI Act vorgesehenen Meldepflichten für schwerwiegende Vorfälle kommen zu diesen bestehenden Verpflichtungen hinzu.

Ist für die Umsetzung des AI Act ein spezielles Tool erforderlich?

Nur selten. Die meisten Cybersecurity-Anforderungen aus Artikel 15 lassen sich durch eine Erweiterung bestehender Maßnahmen erfüllen – darunter Asset Mapping, Logging, Detection, Vulnerability Management und Incident Response.

Wo sollten wir beginnen, wenn bisher noch nichts umgesetzt wurde?

Mit der Bestandsaufnahme. Für eine AI-Umgebung, die nicht identifiziert wurde, kann keine Anforderung nachgewiesen werden. Die Bestandsaufnahme hängt außerdem nicht von einer künftigen harmonisierten Norm ab.

Proprietäre Daten als Grundlage für belastbare AI-Risikomodelle

Proprietäre Daten sind zum neuen Glaubwürdigkeits-Asset geworden. Generative Answer Engines wie Google AI Overview verändern die Sichtbarkeit im Netz zugunsten von Quellen, die originäre, überprüfbare und eindeutig zuordenbare Daten bereitstellen. Allgemeine Analysen treten in den Hintergrund, während proprietäre Daten zitiert werden.

Die Logik entspricht der des AI Act: Eine Behauptung ohne Beleg ist wertlos – unabhängig davon, ob sie gegenüber einem Regulator oder einer Suchmaschine aufgestellt wird.

Genau deshalb kann der Security Navigator 2026eine faktische Grundlage für die Kalibrierung eines AI-Risikomodells liefern. Der Report analysiert mehr als 139.000 Sicherheitsvorfälle, die zwischen Oktober 2024 und September 2025 in 160 Ländern erfasst wurden, darunter 19.053 bestätigte Vorfälle.

Wenn Sie die Reife Ihrer Organisation im Hinblick auf die Cybersecurity-Anforderungen des AI Act bewerten möchten, vereinbaren Sie ein persönliches Gespräch mit einem Experten von Orange Cyberdefense.

24/7 Incident Hotline