Günther Kriele
AI Generalist
Lesezeit: ca. 10 Minuten
Der Markt für Agentic-AI-Lösungen wächst rasant, allerdings hält nicht jede Lösung, was sie verspricht. Wer Agentic AI in das eigene SOC oder als Teil eines MDR-/MXDR-Vertrags integriert, holt sich ein System ins Haus, das nicht nur antwortet, sondern handelt. Bleibt die Vendor-Due-Diligence oberflächlich, kauft man diese Handlungsfähigkeit ein, ohne ihre Risiken genau zu kennen. Dieser Beitrag liefert einen praxisorientierten Fragenkatalog, mit dem Sie Anbieter strukturiert bewerten können, inklusive der Punkte, die in Standard-Ausschreibungen oft fehlen.
Warum Standard-Ausschreibungen nicht reichen
Klassische RFP-Kataloge fragen vor allem Funktionen ab: Welche Features gibt es? Welche Integrationen werden unterstützt? Was kostet die Lösung? Bei Agentic AI greift dieser Ansatz zu kurz. Entscheidend ist nicht nur, was das System kann, sondern wie es arbeitet, Entscheidungen vorbereitet und Aktionen steuert. Die größten Unterschiede zwischen Anbietern liegen deshalb im Operating Model und in der Modell-Governance. Bereiche, die in Standard-Ausschreibungen oft zu wenig Beachtung finden. Die folgenden fünf Frageblöcke schaffen hier Transparenz.
Block A: Architektur & technologische Substanz
- Welche Modelle stecken hinter der Lösung (proprietär, Open Source, kombiniert)?
- Wie integriert sich der Agent in EDR/XDR, SIEM und SOAR?
- Wie wird Skalierung in großen, hybriden Umgebungen sichergestellt?
- Welche Aktionen darf der Agent eigenständig ausführen, welche erfordern eine menschliche Freigabe?
- Wie ist der Agent selbst gegen Angriffe wie Prompt Injection abgesichert, und nach welchem Prinzip sind die Rechte seiner Werkzeuge vergeben?
- Wo arbeitet die Lösung mit generativer KI, und welche Schritte bleiben bewusst deterministisch?
Mehr dazu finden Sie in unserem Beitrag Agentic AI im SOC: Architektur, Reifegrade & Roadmap.
Block B: Datenschutz, Datenresidenz, Compliance
- Wo werden Daten verarbeitet und gespeichert (Region, Rechenzentrum)?
- Werden Kundendaten zum Training genutzt? Mit oder ohne Opt-in?
- Welche Branchenstandards (TISAX, BaFin/DORA, KRITIS) werden unterstützt?
- Wie unterstützt der Anbieter Sie bei der Einhaltung von DSGVO und EU-AI-Act, inklusive der Risikoklassifizierung?
- Welche Unterauftragsverarbeiter sind beteiligt, und wie werden diese gemäß Art. 28 DSGVO vertraglich eingebunden?
Weitere Informationen dazu finden Sie in unserem Beitrag EU-AI-Act & DSGVO im SOC: Pflichten für Agentic AI.
Block C: Erklärbarkeit, Audit, Nachvollziehbarkeit
- Wie wird jede Agent-Aktion begründet und dokumentiert?
- Welche Audit-Logs sind standardmäßig verfügbar?
- Wie lange werden Logs vorgehalten, wer hat Zugriff?
- Wie unterstützt der Anbieter forensische Analysen nach Vorfällen?
Block D: Operating Model & Governance
- Welche Rollen liegen beim Anbieter, welche beim Kunden?
- Wie sind Eskalationen und Freigaben geregelt?
- Welche SLA gibt es speziell für Agentic-AI-Workflows?
- Wie wird kontinuierliches Modell-Tuning dokumentiert?
Mehr dazu finden Sie in unserem Beitrag Agentic AI: Modell-Training, Governance & Fehlerkultur.
Block E: Test- und Vertragsanforderungen
- Wie sieht ein zeitlich begrenzter Pilot mit klaren KPIs aus?
- Welche Exit-Optionen und Datenrückgabeprozesse sind vereinbart?
- Sind Audit-Rechte vertraglich verankert?
- Welche Versicherungen/Haftungsobergrenzen bestehen für KI-Fehlentscheidungen?
Wenn Sie sich aktuell die Frage stellen, welche Lösung für Sie die beste ist, finden Sie weitere Impulse dazu in unserem Beitrag ROI-Berechnungen: MDR-Service vs. Inhouse-SOC vs. SIEM.
Fazit: Tiefenprüfung statt eines Marketing-Vergleichs
Wer Agentic-AI-Anbieter nur nach Demos und Folien beurteilt, läuft Gefahr, Risiken zu importieren statt zu reduzieren. Die strukturierte Vendor-Due-Diligence anhand dieser fünf Blöcke schafft Klarheit und ist die Basis dafür, dass Agentic AI tatsächlich Wirkung im Sicherheitsbetrieb entfaltet. Lesen Sie auch ergänzend unser Kriterienkatalog zur Auswahl des richtigen MSSP/MXDR-Anbieters für Großunternehmen.
„Eine Agentic-AI-Lösung kauft man nicht nach der Demo, sondern nach den Antworten auf die unbequemen Fragen: Wo liegen meine Daten, wie wird jede Entscheidung begründet und was passiert, wenn wir wieder aussteigen wollen?“ – Günther Kriele, AI Generalist, Orange Cyberdefense Germany
Häufig gestellte Fragen (FAQ) zu Agentic AI in der Cybersecurity
Welche Fragen sollten Sie Anbietern von Agentic-AI-Lösungen stellen?
Die entscheidenden Fragen gehen über Tool-Funktionen hinaus und betreffen fünf Blöcke: Architektur und technologische Substanz (welche Modelle, welche Integration in EDR/XDR/SIEM/SOAR), Datenschutz und Datenresidenz (wo werden Daten verarbeitet, fließen Kundendaten ins Training), Erklärbarkeit und Audit (wie wird jede Agent-Aktion begründet und protokolliert), Operating Model und Governance (welche Rollen, welche SLA, welche Eskalationen) sowie Test- und Vertragsanforderungen. Wer entlang dieser Blöcke fragt, deckt die Lücken auf, die Standard-Ausschreibungen offenlassen.
Wie prüfen Sie die Reife der Lösung?
Reife zeigt sich nicht in der Demo, sondern in Belegen. Lassen Sie sich Referenzen aus vergleichbaren Branchen und Umgebungsgrößen zeigen, fragen Sie nach der Skalierung in großen hybriden Umgebungen und prüfen Sie, welche Aktionen der Agent autonom ausführt und welche nicht. Aussagekräftig sind auch die Update- und Tuning-Zyklen der Modelle und der Umgang mit False Positives. Eine reife Lösung kann konkrete KPIs benennen, eine unreife verkauft vor allem Potenzial.
Welche Datenschutz- und Compliance-Aspekte sind kritisch?
Kritisch sind vier Punkte: der Ort der Datenverarbeitung und -speicherung (Region, Rechenzentrum), die Frage, ob Kundendaten zum Training genutzt werden und wenn ja, mit oder ohne Opt-in, die nachweisbare Einhaltung von DSGVO und EU-AI-Act inklusive Risikoklassifizierung sowie die unterstützten Branchenstandards wie TISAX, BaFin/DORA oder KRITIS. Gerade bei der Datenresidenz lohnt sich Genauigkeit: Für viele DACH-Unternehmen ist die Verarbeitung im EU-Raum nicht Komfort, sondern Voraussetzung. Und prüfen Sie, welche Aktionen der Agent eigenständig ausführen darf und an welchen Stellen menschliche Freigaben, der sogenannte Human in the Loop (hitl), greifen.
Was bedeutet „erklärbare KI“ in der Praxis?
Erklärbare KI bedeutet in der Praxis, dass jede Agent-Aktion eine nachvollziehbare Begründung mitliefert: Welche Signale führten zur Entscheidung, welche Hypothese wurde geprüft, welche Datenquellen flossen ein. Konkret prüfbar wird das über Reasoning-Logs, standardmäßig verfügbare Audit-Logs und die Frage, wie lange Logs vorgehalten werden und wer Zugriff hat. Erklärbarkeit ist kein akademischer Anspruch. Sie entscheidet darüber, ob Sie nach einem Vorfall forensisch arbeiten und gegenüber Auditoren bestehen können.
Wie testen Sie Lösungen vor der Vertragsunterschrift?
Im Pilot prüfen Sie die Lösung mit Ihren eigenen Daten, in Ihrer Umgebung, gegen messbare Erfolgskriterien wie MTTD/MTTR-Reduktion oder False-Positive-Rate. Vereinbart sein sollten zudem Exit-Optionen und ein definierter Datenrückgabeprozess. So stellen Sie fest, ob die Lösung in Ihrem Kontext trägt, bevor Sie sich langfristig binden.
Welche Vertragsbestandteile sind Pflicht?
Pflicht im Vertrag sind vier Bestandteile: vertraglich verankerte Audit-Rechte, klar geregelte Exit-Optionen samt Datenrückgabe, definierte SLA speziell für Agentic-AI-Workflows sowie Regelungen zu Haftung und Versicherung bei KI-Fehlentscheidungen. Ergänzend sollten die Dokumentation des kontinuierlichen Modell-Tunings und die Aufteilung der Verantwortung zwischen Anbieter und Kunde schriftlich fixiert sein. Diese Punkte fehlen in Standardverträgen häufig und genau dort entstehen später die teuren Auseinandersetzungen.
Günther Kriele
AI Generalist
Orange Cyberdefense
Über den Autor
Günther Kriele ist Commercial AI Generalist bei Orange Cyberdefense Deutschland. Er beschäftigt sich mit dem praktischen Einsatz von KI in Unternehmen der Cybersecurity, von Agentic AI über LLM-Evaluation & Integration bis zur Ende zu Ende Automatisierung von Prozessen mit Künstlicher Intelligenz.