Günther Kriele
AI Generalist
Lesezeit: ca. 10 Minuten
Der EU-AI-Act ist seit August 2024 in Kraft und wird schrittweise anwendbar. Für Unternehmen, die Agentic AI in ihrem SOC einsetzen, bedeutet das: Es gibt klare Pflichten, die unabhängig vom konkreten Anbieter eingehalten werden müssen. Zwar haben sich Parlament und Rat im Mai 2026 im Rahmen des sogenannten Digital Omnibus vorläufig darauf verständigt, die Anforderungen für Hochrisiko-Systeme voraussichtlich bis Dezember 2027 zu verschieben. Da diese Änderung noch nicht endgültig verabschiedet ist, sollten Unternehmen ihre Vorbereitungen weiterhin an den ursprünglichen Fristen ausrichten und die mögliche Verschiebung nicht als Aufschub verstehen. Hinzu kommen DSGVO-Anforderungen, branchenspezifische Vorgaben (DORA, NIS2) und – nicht zuletzt – Erwartungen aus Audits. Dieser Beitrag sorgt für Aufklärung, was die Pflichten angeht und zeigt, wie Sie Compliance pragmatisch in Ihren Agentic-AI-Lifecycle integrieren.
Warum Compliance jetzt strategisch wichtig wird
Während früher Datenschutz und IT-Sicherheit getrennt verantwortet wurden, fließen sie heute in einem KI-Compliance-Modell zusammen. Wer Agentic AI im SOC einsetzt, verarbeitet personenbezogene Daten, stützt geschäftsrelevante Entscheidungen auf die Vorarbeit von KI-Agenten und muss sowohl die Ergebnisse als auch die zugrunde liegenden Prozesse nachvollziehbar dokumentieren.
„Beim Agentic-AI-SOC lebt Compliance nicht neben dem System, sondern im System. Jede Leitplanke ist eine ausführbare Regel, jeder Schritt dokumentiert sich selbst. Wer so baut, bereitet die Nachweise für EU-AI-Act und DSGVO im laufenden Betrieb vor, statt sie im Nachhinein unter Audit-Druck zusammenzusuchen. Der Ansatz: Compliance as Code" – Günther Kriele, AI Generalist, Orange Cyberdefense Germany
EU-AI-Act: Was er für SOCs bedeutet
Der EU-AI-Act stuft KI-Systeme nach Risiko ein. Von verbotenen Praktiken über Hochrisiko-Systeme bis zu minimalem Risiko, ergänzt um Transparenzpflichten für bestimmte Anwendungen. Für Security-Use-Cases relevant sind insbesondere:
- Hochrisiko-Systeme: KI mit signifikantem Einfluss auf die Sicherheit kritischer Infrastrukturen oder Beschäftigungsentscheidungen. Für SOCs besonders relevant: Die Erwägungsgründe des AI Acts stellen klar, dass Komponenten, die ausschließlich zu Cybersecurity-Zwecken dienen, nicht als Sicherheitskomponenten gelten sollen. Auch die Auslegungsleitlinien der EU-Kommission (derzeit noch im Entwurf) bestätigen diese Auslegung.
- Systeme mit begrenztem Risiko (Transparenzpflicht): Für diese Systeme gelten Transparenzanforderungen, etwa wenn Nutzer:innen mit einer KI interagieren oder KI-generierte Inhalte erhalten. Im SOC betrifft dies vor allem agentengestützte Kommunikations- und Assistenzfunktionen.
- Verbotene Praktiken: z. B. Social Scoring. Im SOC-Kontext praktisch nicht relevant.
Das Wort „Hochrisiko" ist also nicht automatisch für jede SOC-Anwendung gesetzt. Es gibt eine in den Erwägungsgründen verankerte Ausnahme zugunsten reiner Cybersecurity-Systeme. Eine Einzelfallprüfung bleibt trotzdem Pflicht, etwa wenn ein System über die Cybersecurity hinaus in Betriebsprozesse eingreift.
DSGVO im KI-Kontext: Trainingsdaten & Verantwortlichkeiten
- Rechtsgrundlage: Art. 6 DSGVO, im SOC-Betrieb meist berechtigtes Interesse, bei Beschäftigtendaten kommen ergänzende Vorgaben hinzu.
- Datenminimierung: nur die für die Aufgabe nötigen Daten verarbeiten.
- Auftragsverarbeitung: Wenn Agentic AI extern betrieben wird, ist ein AVV nach Art. 28 Pflicht.
- Betroffenenrechte: Auskunft, Löschung, Widerspruch, auch im KI-Kontext.
Lesen Sie mehr dazu, was zu tun ist, wenn Agentic AI extern betrieben wird, in unserem Beitrag Agentic AI bewerten: Fragenkatalog für Vendor-Due-Diligence.
Risikoklassifizierung von Agentic AI in Security
Eine pragmatische, dreistufige Klassifizierung hat sich bewährt:
- Stufe 1, beratend: Agent schlägt vor, Mensch entscheidet (geringes Risiko).
- Stufe 2, semi-autonom: Agent führt definierte Aktionen aus, Mensch hat Override (mittleres Risiko).
- Stufe 3, vollautonom: Agent handelt sofort (hohes Risiko, nur für klar abgegrenzte Use Cases).
Gerade hier ist Art. 22 DSGVO zu beachten: Automatisierte Einzelfallentscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung für betroffene Personen sind nur unter engen Voraussetzungen zulässig und brauchen geeignete Schutzmaßnahmen, in der Regel einschließlich menschlicher Beteiligung.
Weitere Informationen dazu finden Sie in unserem Beitrag Agentic AI im SOC: Architektur, Reifegrade & Roadmap.
Dokumentations- und Transparenzpflichten
- Modell-Karten mit Angaben zu Zweck, Trainingsdaten, Metriken und Limitationen des Systems.
- Audit-Logs aller Agentenaktionen: Für Hochrisiko-Systeme gilt eine Mindestaufbewahrungsfrist von sechs Monaten; Sektorspezifische Vorgaben können längere Fristen verlangen. Vollständige Protokolle sind zudem die Grundlage für Audits und Compliance-Nachweise.
- Schulung der Mitarbeiter:innen, die mit dem System arbeiten.
- Information betroffener Personen, soweit gesetzlich vorgeschrieben.
Wechselwirkungen mit DORA, NIS2 und KRITIS
DORA verlangt im Finanzsektor ein robustes IKT-Risikomanagement, inklusive KI-Komponenten. NIS2 erweitert die Pflichten für viele Unternehmen jenseits klassischer KRITIS-Branchen. Wer Agentic AI im SOC einsetzt, sollte Compliance an diese Rahmenwerke andocken, und nicht parallel führen.
Fazit: Compliance gehört in den AI-Lifecycle
Compliance ist keine Hürde für Agentic AI, sondern die Voraussetzung dafür, dass Sie sie skalierbar einsetzen können. Wer früh investiert, spart später teure Audits und Nachbesserungen.
Orange Cyberdefense unterstützt Sie dabei, Compliance-Anforderungen, Detection-Strategie und Service-Operating-Model in einer konsistenten Architektur zusammenzuführen.
Häufig gestellte Fragen (FAQ) zu Agentic AI in der Cybersecurity
Welche Pflichten ergeben sich aus dem EU-AI-Act für KI-gestützte SOCs?
Der EU-AI-Act verlangt zunächst eine Risikoeinstufung des eingesetzten KI-Systems. Für KI-gestützte SOCs heißt das: Systeme, die ausschließlich zu Cybersecurity-Zwecken dienen, gelten nach den Erwägungsgründen des AI-Acts nicht als Sicherheitskomponenten kritischer Infrastrukturen. Ein SOC-Werkzeug wird also nicht allein dadurch zum Hochrisiko-System, dass es die IT eines KRITIS-Betreibers schützt. Auch die Auslegungsleitlinien der EU-Kommission (derzeit im Entwurf) folgen derselben Linie. Typische Triage- und Investigation-Anwendungen bewegen sich damit häufig im Bereich geringen Risikos. Transparenzpflichten greifen vor allem dort, wo der Agent direkt mit Menschen interagiert oder Inhalte generiert. Eine Einzelfallprüfung bleibt trotzdem Pflicht, etwa wenn ein System über die reine Cybersecurity hinaus in Betriebsprozesse eingreift oder Beschäftigtenentscheidungen beeinflusst. Verbotene Praktiken wie Social Scoring sind im SOC-Kontext praktisch nicht relevant. Wichtig: Die Pflichten gelten unabhängig vom konkreten Anbieter.
Wie verhält sich der EU-AI-Act zur DSGVO?
EU-AI-Act und DSGVO ergänzen sich, sie ersetzen einander nicht. Die DSGVO regelt den Umgang mit personenbezogenen Daten (Rechtsgrundlage, Datenminimierung, Betroffenenrechte). Der EU-AI-Act regelt das KI-System selbst (seine Risikoklasse, Transparenz, Aufsicht und Dokumentation). Ein Agentic-AI-SOC verarbeitet personenbezogene Daten (DSGVO) mit einem KI-System (AI-Act), beide Regelwerke greifen also gleichzeitig. In der Praxis sollten Sie die Anforderungen nicht parallel, sondern in einem gemeinsamen KI-Compliance-Modell führen.
Wie werden Agentic-AI-Systeme im SOC klassifiziert?
Bewährt hat sich eine pragmatische, dreistufige Klassifizierung. Stufe 1 ist beratend: Der Agent schlägt vor, der Mensch entscheidet (geringes Risiko). Stufe 2 ist semi-autonom: Der Agent führt definierte Aktionen aus, der Mensch hat ein Override (mittleres Risiko). Stufe 3 ist vollautonom: Der Agent handelt sofort (hohes Risiko, nur für eng begrenzte Use Cases). Diese Einstufung lässt sich direkt mit der Risikologik des EU-AI-Act verknüpfen und macht Governance-Entscheidungen nachvollziehbar. Spätestens auf Stufe 3 ist zusätzlich Art. 22 DSGVO zu prüfen, wenn automatisierte Entscheidungen betroffene Personen rechtlich oder ähnlich erheblich treffen, und eine menschliche Freigabe schützt nur, wenn sie mehr ist als ein Durchwinken.
Welche Dokumentations- und Transparenzpflichten gelten?
Es gelten vier zentrale Pflichten: Modell-Karten, die Zweck, Trainingsdaten, Metriken und Limitationen jeder Version dokumentieren; Audit-Logs aller Agent-Aktionen, für die der AI-Act bei Hochrisiko-Systemen eine Aufbewahrung von mindestens sechs Monaten vorschreibt, das Sektorrecht kann auch längere Fristen verlangen; die nachweisbare Schulung der Mitarbeitenden, die mit dem System arbeiten; und die Information betroffener Personen, sofern dafür eine Pflicht besteht. Diese Dokumentation ist kein Selbstzweck, sie ist die Grundlage, um in Audits schnell und glaubwürdig auskunftsfähig zu sein.
Mehr dazu finden Sie in unserem Beitrag Agentic AI: Modell-Training, Governance & Fehlerkultur.
Welche Rolle spielt der Datenschutz bei Trainingsdaten?
Datenschutz beginnt bei den Trainingsdaten. Es braucht eine saubere Rechtsgrundlage nach Art. 6 DSGVO, meist berechtigtes Interesse, in Einzelfällen einen Vertrag. Es gilt der Grundsatz der Datenminimierung: nur die für die Aufgabe nötigen Daten verarbeiten. Wird Agentic AI extern betrieben, ist ein Auftragsverarbeitungsvertrag nach Art. 28 Pflicht. Und auch im KI-Kontext bestehen Betroffenenrechte auf Auskunft, Löschung und Widerspruch fort. Pseudonymisierung und anonymisierte Telemetrie sind daher Standard, nicht Kür.
Wie binden Sie Compliance früh in den AI-Lifecycle ein?
Compliance gehört an den Anfang des AI-Lifecycle, nicht ans Ende. Praktisch heißt das: die Risikoklasse schon bei der Use-Case-Definition bestimmen, Datenschutz und Dokumentationspflichten in die Modell-Pipeline einbauen und Governance-Rollen früh besetzen. Docken Sie die Anforderungen an bestehende Rahmenwerke wie DORA, NIS2 oder KRITIS an, statt eine parallele Struktur aufzubauen. Wer früh investiert, spart später teure Audits und Nachbesserungen. Compliance wird so zum Skalierungs-Enabler.
Günther Kriele
AI Generalist
Orange Cyberdefense
Über den Autor
Günther Kriele ist Commercial AI Generalist bei Orange Cyberdefense Deutschland. Er beschäftigt sich mit dem praktischen Einsatz von KI in Unternehmen der Cybersecurity, von Agentic AI über LLM-Evaluation & Integration bis zur Ende zu Ende Automatisierung von Prozessen mit Künstlicher Intelligenz.