GenAI & AI Agents: Mehr Innovation, weniger Risiko – der Executive-Guide zur CyberSec Tastery 2026

Das Wichtigste im Überblick

• Unterschiedliches Risikoprofil: GenAI und AI Agents unterscheiden sich grundlegend in Autonomie und Risiko. Wer beides gleich behandelt, unterschätzt Agentic AI.
• Shadow AI als Risikotreiber: Die unautorisierte Nutzung von GenAI-Tools durch Mitarbeitende gilt Presseberichten zu aktuellen Marktstudien zufolge bereits als einer der größten KI-bezogenen Risikofaktoren in deutschen Unternehmen.
• Etablierte Abwehrstrategien wirken weiter: MFA, Zero Trust, Security Awareness sowie technische Standards wie DMARC, SPF/DKIM und FIDO2/Passkeys bleiben die wirksamsten Bausteine gegen KI-gestütztes Phishing.
• Innovation und Sicherheit kein Widerspruch: Ein strukturierter Rahmen aus Governance, Transparenz und schrittweiser Autonomie-Freigabe macht GenAI und AI Agents unternehmenstauglich.

Was war die CyberSec Tastery 2026 und worum ging es im Vortrag von Nico Melhose?

Am 17. und 18. Juni 2026 veranstaltete Orange Cyberdefense die virtuelle CyberSec Tastery zum Thema „La Dolce Vita der AI Security“. Das ist ein regelmäßig wiederkehrendes Kundenevent in dem es diesmal um den sicheren Einsatz von KI-Technologien ging. Der erste Tag stand ganz im Zeichen von Generative AI und AI Agents.

Den Auftakt bildete der rund 17-minütige Vortrag „GenAI & AI Agents: Mehr Innovation. Weniger Risiko.“ von Nico Melhose, Orange Cyberdefense Germany. Im Zentrum steht die Frage, worin der Unterschied zwischen klassischer Generativer AI und autonom handelnden AI Agents liegt und warum Unternehmen beide Technologien unterschiedlich bewerten und absichern müssen.

Dieser Beitrag ordnet die Themen für Entscheider:innen ein. Wie Unternehmen KI-Workloads technisch wirksam schützen, lesen Sie in unserem Beitrag AI Security in der Praxis: Wie Unternehmen KI-Workloads wirksam schützen. Wie Agentic AI die Alert Fatigue von Security-Analyst:innen im SOC löst, beschreibt der Beitrag Agentic AI im SOC: Wie KI die Alert Fatigue von Security-Analyst:innen löst.

Was unterscheidet Generative AI von AI Agents?

Generative AI (GenAI) erzeugt auf Basis eines Prompts Inhalte – Text, Code, Bilder oder Audio – reagiert dabei aber grundsätzlich reaktiv: Ein Mensch stellt eine Anfrage, das Modell liefert eine Antwort. AI Agents gehen einen entscheidenden Schritt weiter. Sie verknüpfen ein oder mehrere Sprachmodelle mit Werkzeugen, Datenzugriffen und Handlungsspielräumen, um mehrstufige Aufgaben eigenständig zu planen und auszuführen, oft ohne dass bei jedem Zwischenschritt ein Mensch eingreift.

Genau diese Autonomie verändert das Risikoprofil grundlegend. Ein GenAI-Chatbot, der eine falsche Antwort gibt, verursacht in der Regel einen begrenzten Schaden. Ein AI Agent, der eigenständig auf Systeme zugreift, Daten verarbeitet oder Aktionen auslöst, kann bei einer Fehlfunktion oder gezielten Manipulation deutlich weitreichendere Folgen haben.

Nico Melhose veranschaulichte diesen Unterschied in seinem Vortrag an einem Alltagsbeispiel aus dem Vertrieb: Soll ein Unternehmen wöchentlich die Angebotswerte aus unterschriebenen Angeboten extrahieren, in eine Excel-Tabelle übertragen und per Mail an den Sales Manager weitergeben, lässt sich das entweder manuell erledigen oder als klassischer KI-Workflow abbilden, bei dem für jeden Einzelschritt genau festgelegt ist, welches Tool die KI nutzen darf. Einem AI Agent gibt man dagegen nur noch ein Ziel in Textform vor. Er wählt die passenden Tools wie Datenzugriff, Excel oder Outlook selbst aus und nutzt sie eigenständig, sofern er netzwerkseitig dafür freigegeben ist. Diese Entscheidungsfindung folgt laut Melhose dem sogenannten ReAct-Prinzip (Reasoning + Action): Der Agent überlegt zunächst den effizientesten Weg zum Ziel und handelt erst danach.

Eine ausführliche, leicht verständliche Einführung mit Beispielen liefert unser Beitrag Was ist Agentic AI? Einfach erklärt & mit Beispielen. Wer die Sicherheitsfragen rund um Agentic AI technisch vertiefen möchte, findet dies in Teil 6 unserer Serie „Mit GenAI vorankommen“: Von Generativer KI zu Agentic AI.

Warum entstehen durch GenAI neue Sicherheitsrisiken im Unternehmen?

Die Einführung von GenAI und AI Agents verändert die Angriffsfläche eines Unternehmens auf mehreren Ebenen gleichzeitig. Nico Melhose benannte in seinem Vortrag mehrere konkrete Risikokategorien:

• Schadhafte KI-Modelle: Modelle, die z. B. von Plattformen wie Hugging Face heruntergeladen werden, können mit Schadcode oder Backdoors kompromittiert sein.
• Shadow AI: Mitarbeitende nutzen öffentliche GenAI-Tools häufig ohne Freigabe der IT und geben dabei mitunter sensible Unternehmens- oder Kundendaten ein. Laut Melhose ist das im Kern dasselbe Problem, das Unternehmen vor rund 25 Jahren mit Schatten-IT hatten. Presseberichten über aktuelle Marktstudien zufolge ist zudem bereits ein erheblicher Teil deutscher Unternehmen von KI-bezogenen Sicherheitsvorfällen betroffen, die auf genau diese unkontrollierte Nutzung zurückgehen.
• Sensible Daten & Prompt Injection: Über gezielt manipulierte („malicious“) Prompts können Angreifer versuchen, KI-Agenten dazu zu bringen, sensible Trainings- oder Unternehmensdaten preiszugeben.
• Unbeabsichtigtes Agentenverhalten: KI-Agenten können, gerade bei zu weitreichender Autonomie, Aktionen ausführen, die nicht geplant waren. Melhose verwies in seinem Vortrag auf öffentlich gewordene Fälle, in denen KI-Agenten komplette Datenbanken gelöscht oder Reports ohne menschliche Prüfung erzeugt und weitergegeben haben.

Besonders kritisch: Nach einer von Melhose in seinem Vortrag zitierten Einschätzung verfügen nur rund 6 % der Organisationen über eine wirklich robuste KI-Strategie. Für die übrigen 94 % steigt damit das Risiko, mit genau solchen Vorfällen an die Öffentlichkeit zu geraten.

Eine ausführliche technische Einordnung dieser Risiken liefert Teil 4 unserer Serie „Mit GenAI vorankommen“: KI Sicherheit | Teil 4: Risiken erkennen & GenAI sicher betreiben. Dort erfahren Sie im Detail, wie sich Risiken kategorisieren und operativ steuern lassen.

Wie erkennt man Cyber-Bedrohungen durch KI-gestützte Angriffe im Unternehmen?

Unternehmen suchen konkrete, praxisnahe Antworten, keine rein technischen Abhandlungen. In der Praxis lohnt sich der Blick auf vier Bereiche:

1. Phishing: KI-generierte Phishing-Mails sind sprachlich fehlerfrei, personalisiert und schwerer an klassischen Warnzeichen zu erkennen als frühere Kampagnen.
2. Deepfakes: Audio- und Video-Fälschungen werden zunehmend für CEO-Fraud und Social-Engineering-Anrufe eingesetzt.
3. Malware: KI-gestützte Schadsoftware kann sich dynamischer anpassen und klassische, signaturbasierte Erkennung leichter umgehen.
4. Indicators of Compromise (IoC): Auch bei KI-gestützten Angriffen bleiben klassische Kompromittierungsindikatoren – ungewöhnliche Anmeldemuster, Datenabflüsse, unerwartete Prozesse – ein wichtiger Erkennungsanker.

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) veröffentlicht regelmäßig aktualisierte Einschätzungen zu Chancen und Risiken generativer KI-Modelle für Behörden und Unternehmen und ist eine verlässliche Quelle für aktuelle Empfehlungen (BSI: Generative KI-Modelle – Chancen und Risiken). Wer diese vier Bereiche kontinuierlich überwacht und mit strukturiertem Security-Monitoring kombiniert, verbessert die Erkennungsrate deutlich, unabhängig davon, ob ein Angriff klassisch oder KI-gestützt erfolgt.

Welche Abwehrstrategien wirken gegen KI-gestützte Phishing-Angriffe?

Auch wenn Angreifer KI nutzen, bleibt die wirksamste Antwort auf KI-gestütztes Phishing überwiegend organisatorisch und technisch etabliert. Sie muss nur konsequent umgesetzt werden. Besonders relevant sind:

• Multi-Faktor-Authentifizierung (MFA): idealerweise phishing-resistent, macht gestohlene Zugangsdaten allein wertlos.
• Zero Trust: verhindert, dass ein einzelner kompromittierter Account oder Agent unbegrenzten Zugriff auf das Netzwerk erhält.
• FIDO2/Passkeys: ersetzen klassische Passwörter durch kryptografisch gesicherte, phishing-resistente Anmeldeverfahren.
• DMARC, SPF und DKIM: erschweren die Fälschung von Absenderadressen und damit CEO-Fraud-Mails.
• Security Awareness: bleibt zentral; Mitarbeitende müssen auch sprachlich fehlerfreie, KI-generierte Phishing-Versuche erkennen können.

Internationale Institutionen wie die US-amerikanische CISA (Fact Sheet: Implementing Phishing-Resistant MFA) und das NIST (Digital Identity Guidelines, SP 800-63) veröffentlichen regelmäßig aktualisierte Leitlinien zu phishing-resistenter Authentifizierung, die auch für deutsche Unternehmen als Orientierung dienen können. Keine dieser Maßnahmen ist grundlegend neu. Ihre konsequente Kombination entscheidet jedoch zunehmend darüber, ob ein KI-gestützter Angriff erfolgreich ist.

Wie gelingt der sichere Einsatz von GenAI und AI Agents in der Praxis?

Die zentrale Botschaft des Vortrags von Nico Melhose lässt sich so zusammenfassen: Innovation und Sicherheit sind kein Gegensatz, sondern bedingen einander, wenn Unternehmen GenAI und AI Agents strukturiert einführen. Melhose stellte in seinem Vortrag fünf konkrete Schutzmaßnahmen vor, mit denen sich die genannten Risiken gezielt adressieren lassen:

1. Model Scanning: Modelle, die z. B. von Plattformen wie Hugging Face heruntergeladen werden, automatisiert auf Schadcode und Schwachstellen prüfen – vergleichbar mit einem Antivirenprogramm für heruntergeladene Software.
2. Shadow-KI-Erkennung: nicht genehmigte KI-Systeme im Unternehmensnetzwerk aufspüren und regulieren, statt sie unkontrolliert laufen zu lassen.
3. Runtime Security: KI-Agenten im laufenden Betrieb gezielt gegen Prompt-Injection-Angriffe und ähnliche Angriffe absichern.
4. KI Posture Management: laufend prüfen, welcher Agent welche Freischaltungen besitzt, und zu weitläufige Berechtigungen einschränken.
5. Red Teaming & Penetration Tests: im laufenden Betrieb wiederholt testen, wie anfällig ein KI-Agent für Angriffe ist, um die Security Posture dauerhaft hochzuhalten.

„Wenn Agenten so autonom arbeiten dürfen, haben wir dann nicht die Chance, dass wir da mehr Risiken reinbringen, als wir an Vorteilen herausziehen? Die kurze Antwort darauf ist: ja, das kann passieren, wenn wir es unsauber oder überhastet machen. Wenn wir den KI-Agenten wirklich arbeiten lassen, hat er eine freie Auswahl an Tools, die er benutzen darf und auch benutzt. Der Agent nimmt sich dann einfach den Zugriff, sofern er netzwerkseitig dafür freigegeben ist.“ Nico Melhose, Orange Cyberdefense Germany

Eine strukturierte Bestandsaufnahme und Vorbereitung auf KI-gesteuerte Bedrohungen unterstützt Orange Cyberdefense mit einem eigenen Beratungsangebot: Vorbereitung auf KI-gesteuerte Bedrohungen und Risiken. Es hilft Unternehmen, den eigenen Reifegrad einzuordnen und die nächsten Schritte zu priorisieren. Dass die Aufmerksamkeit für dieses Thema wächst, zeigt sich auch außerhalb von Orange Cyberdefense: Mehrere Branchenberichte zu 2026 stufen agentenbasierte KI-Systeme bereits unter den größten erwarteten Angriffsvektoren des Jahres ein (Bericht auf all-about-security.de).

Fazit: Innovation sollte nicht auf Kosten der Sicherheit gehen und umgekehrt

Die CyberSec Tastery 2026 hat mit dem Vortrag „GenAI & AI Agents: Mehr Innovation. Weniger Risiko.“ von Nico Melhose einen Rahmen aufgespannt, der weit über einzelne Tools hinausreicht: Es geht darum, GenAI und AI Agents so einzuführen, dass Innovation nicht auf Kosten der Sicherheit geht – und umgekehrt.

Für CISOs, IT-Leiter:innen und Sicherheitsverantwortliche bedeutet das konkret: Generative AI und AI Agents unterschiedlich bewerten, Shadow AI aktiv adressieren, etablierte Abwehrmaßnahmen wie MFA, Zero Trust und phishing-resistente Authentifizierung konsequent umsetzen und eine klare Governance-Struktur aufbauen, bevor Autonomie skaliert wird.

Wer tiefer einsteigen möchte, findet in der Serie „Mit GenAI vorankommen“, insbesondere in Teil 4 und Teil 6 sowie in den Beiträgen AI Security in der Praxis und Agentic AI im SOC die technische Vertiefung zu den hier angerissenen Themen. Dieser Beitrag versteht sich als Einstiegspunkt und praxisnahe Entscheidungsgrundlage, die Aufzeichnung des Vortrags sowie weitere Sessions der CyberSec Tastery 2026 stellt Orange Cyberdefense Interessierten über die Event-Seite zur Verfügung.