Kurz beantwortet
Was regelt ISO/IEC 27090?
ISO/IEC 27090:2026 ist ein Leitfaden der Normenreihe ISO 27000 zum Schutz von KI-Systemen vor Angriffen. Die Norm beschreibt KI-spezifische Bedrohungen wie Data Poisoning, Modell-Exfiltration, Evasion oder Prompt Injection, wie man sie erkennt und welche Maßnahmen helfen. Sie ist nicht zertifizierbar und ergänzt ISO 27001 und ISO 27002, statt sie zu ersetzen. In einem bestehenden fließen ihre Inhalte in Risikobewertung, Erklärung zur Anwendbarkeit und Maßnahmenplan ein.
Ein Chatbot, der auf interne Dokumente zugreift, ein Modell, das Rechnungen prüft, ein Agent, der E-Mails beantwortet: KI-Systeme verarbeiten Daten anders als klassische Software – und lassen sich auch anders angreifen. Mit ISO/IEC 27090:2026, im Oktober 2026 veröffentlicht, gibt es dafür erstmals einen internationalen Leitfaden aus der Normenreihe ISO 27000.
Was ISO/IEC 27090 ist – und was nicht
ISO/IEC 27090 beschreibt, wie Organisationen KI-Systeme vor Angriffen schützen. Es geht also nicht um KI als Werkzeug der Verteidigung, sondern um die Sicherheit der KI selbst.
- Leitfaden, keine Anforderungsnorm: Die Norm enthält Empfehlungen, aber keine prüfbaren Anforderungen. Eine Zertifizierung nach ISO/IEC 27090 gibt es nicht.
- Ergänzung, kein Ersatz: Grundlage bleibt die klassische Informationssicherheit nach ISO 27001 und ISO 27002 – Zugriffsschutz, Protokollierung, Änderungsmanagement, Lieferantensteuerung. ISO/IEC 27090 ergänzt, was für KI zusätzlich gilt.
- Abgrenzung zu ISO/IEC 42001: ISO/IEC 42001 regelt, wie eine Organisation ihren KI-Einsatz insgesamt steuert – einschließlich Fairness, Transparenz und Folgen für Betroffene. ISO/IEC 27090 vertieft den Teilbereich Sicherheit. Mehr dazu im Artikel ISO/IEC 42001 im Überblick.
Welche Bedrohungen die Norm behandelt
Im Mittelpunkt stehen Angriffe, die es bei klassischer Software so nicht gibt. Die folgende Übersicht fasst sie zusammen. Die Spalte zu ISO 27002 ist unsere Einschätzung, an welche bestehenden Maßnahmen ein ISMS anknüpfen kann – kein Normtext.
| Bedrohung | Was passiert | Typische Gegenmaßnahmen | Anknüpfung ISO 27002:2022 (Orientierung) |
|---|---|---|---|
| Data Poisoning | Manipulierte Trainingsdaten verändern das Modellverhalten – auch über Betriebsdaten, die später ins Nachtraining fließen | Herkunft der Daten prüfen, Zugriff auf Trainingsdaten beschränken, Prüfung vor jedem Nachtraining | 5.15, 8.3, 5.19–5.21, 8.15 |
| Direktes Modell-Poisoning | Das Modell oder seine Artefakte werden selbst manipuliert | Modelldateien signieren, Änderungen kontrollieren, Zugriff beschränken | 8.9, 8.24, 8.32 |
| Modell-Exfiltration | Das Modell wird gestohlen – auch über viele scheinbar legitime Abfragen | Abfragelimits, Überwachung der Nutzung, Zugriffskontrolle | 5.15, 8.3, 8.16 |
| Evasion | Gezielt veränderte Eingaben umgehen zur Laufzeit die Erkennung | Eingabeprüfung, Robustheitstests, Überwachung | 8.16, 8.29 |
| Membership Inference, Model Inversion | Aus dem Verhalten des Modells wird auf Trainingsdaten geschlossen | Ausgaben begrenzen, Trainingsdaten minimieren | 8.11, 8.12 |
| Prompt Injection | Eingaben – direkt oder versteckt in Dokumenten und Webseiten – verändern Anweisungen und Verhalten | Anweisungen und Daten trennen, Rechte von Werkzeugen und Agenten minimieren, menschliche Freigabe vor Aktionen | 8.2, 8.26, 8.27 |
| Sensible oder schädliche Ausgaben | Ausgaben legen Daten offen oder greifen nachgelagerte Systeme an | Ausgaben prüfen, Kontext begrenzen, Ausgaben wie nicht vertrauenswürdige Eingaben weiterverarbeiten | 8.12, 8.26 |
Daneben behandelt ISO/IEC 27090 Themen, die jedes KI-Projekt betreffen: Sicherheit der Lieferkette für Modelle und Daten, Bedrohungsmodellierung und Red Teaming, Schutz der Entwicklungsumgebung sowie Protokollierung und Überwachung im Betrieb. Der Grundgedanke: Weil sich manche KI-Angriffe schwer erkennen lassen, braucht es mehrere Schutzschichten statt einer einzelnen Maßnahme.
Was die OWASP Top 10 für LLM-Anwendungen ergänzen
Für Anwendungen mit großen Sprachmodellen ist die OWASP Top 10 for LLM Applications die bekannteste Praxisliste. Die Ausgabe 2026 erschien am 04.08.2026. Neu ist die Methode: Neben der Abstimmung unter Fachleuten floss erstmals eine Auswertung realer Vorfälle ein – 7.714 Vorfälle, von denen 6.639 genug Details für eine Einordnung enthielten.
- LLM01 Prompt Injection
- LLM02 Sensitive Information Disclosure – Preisgabe sensibler Daten
- LLM03 Excessive Agency – zu viele Rechte oder zu viel Autonomie für Agenten und Werkzeuge
- LLM04 Supply Chain – Lieferkette von Modellen, Daten und Paketen
- LLM05 Data and Model Poisoning
- LLM06 Unbounded Consumption – unbegrenzter Ressourcenverbrauch, auch Modelldiebstahl über Abfragen
- LLM07 Misinformation – falsche, aber überzeugend formulierte Ausgaben
- LLM08 Hidden Context Exposure – Preisgabe von System-Prompts und verborgenem Kontext, bisher „System Prompt Leakage“
- LLM09 Vector and Embedding Weaknesses – Schwachstellen in Vektordatenbanken und RAG
- LLM10 Improper Output Handling – ungeprüfte Weiterverarbeitung von Ausgaben
Die Bedrohungen aus ISO/IEC 27090 finden sich hier teilweise wieder: Prompt Injection entspricht LLM01, sensible Ausgaben LLM02, Ausgaben mit eingeschleusten Inhalten LLM10, Data und Model Poisoning LLM05, Modelldiebstahl über Abfragen wird unter LLM06 behandelt. Für Evasion gibt es keinen eigenen Eintrag. Wichtig ist die Abgrenzung, die OWASP selbst zieht: Die Liste betrachtet das Modell als Bestandteil einer Anwendung. Sobald ein Modell als Agent selbst handelt, verweist OWASP zusätzlich auf die eigene Liste für agentische Anwendungen.
Was das BSI empfiehlt
Das deutsche Bundesamt für Sicherheit in der Informationstechnik hat zwei praxisnahe Leitfäden veröffentlicht, die gut zu ISO/IEC 27090 passen:
- Evasion Attacks on LLMs – Countermeasures in Practice (10.11.2025): Gegenmaßnahmen und eine Checkliste zur Härtung von Systemen mit Sprachmodellen.
- Basisschutz gegen Indirect Prompt Injections in dokumentbasierten LLM-Chats (Version 1.0 vom 14.09.2026): fünf Basismaßnahmen entlang der Verarbeitungskette – Bereinigung der Eingaben, Trennung von Vertrauensbereichen, ein gehärteter System-Prompt, die Auswahl robuster Modelle mit vorgeschaltetem Reasoning und ein Filter für die Ausgaben.
Das BSI betont dabei ausdrücklich: Indirect Prompt Injection gilt als nicht abschließend lösbar. Die Maßnahmen schaffen ein Fundament, aber keinen vollständigen Schutz. Für KI-Agenten empfiehlt das BSI zusätzlich eine menschliche Bestätigung sicherheitskritischer Aktionen und eine laufende Protokollierung.
Einen Rahmen über den gesamten Lebenszyklus bieten die Guidelines for secure AI system development des britischen NCSC (27.11.2023). Sie gliedern sich in sichere Konzeption, Entwicklung, Bereitstellung sowie Betrieb und Wartung – eine hilfreiche Brücke zu den Lebenszyklus-Maßnahmen in ISO/IEC 42001.
In vier Schritten zum Bedrohungsmodell
So bringen Sie ISO/IEC 27090 in ein bestehendes ISMS:
- KI-Systeme und Assets erfassen: Trainings- und Betriebsdaten, Wissensdatenbank, Modell, System-Prompts und Kontext, Protokolle, Berechtigungen von Werkzeugen und Agenten. Klären Sie auch, ob das Modell selbst betrieben oder als Dienst zugekauft wird – davon hängt ab, welche Bedrohungen relevant sind.
- Angriffswege bewerten: Wer könnte welches Asset auf welchem Weg angreifen, und was wären die Folgen? Neben gezielten Angriffen gehören auch Fehlbedienung und Innentäter in die Betrachtung.
- Maßnahmen zuordnen: Welche bestehenden ISMS-Maßnahmen greifen bereits, wo bleibt eine Lücke? Die Ergebnisse fließen in Risikoregister, Erklärung zur Anwendbarkeit und Maßnahmenplan.
- Testen und wiederholen: Prüfen Sie die Wirksamkeit mit gezielten Tests, etwa auf Prompt Injection oder Manipulation der Wissensdatenbank – nur an eigenen Systemen oder mit schriftlicher Freigabe. Nach jeder wesentlichen Änderung am Modell, an den Daten oder an den Berechtigungen wird neu bewertet.
Grenzen der Norm
- Kein Konformitätsnachweis: ISO/IEC 27090 ist keine harmonisierte Norm im Sinne des EU AI Act. Wer die Empfehlungen umsetzt, erfüllt damit nicht automatisch gesetzliche Pflichten. Welche Fristen gelten, steht im EU-AI-Act-Hub.
- Keine Checkliste: Weder die Norm noch die OWASP-Liste ersetzen die Risikobewertung je KI-System. Ein interner Chatbot ohne Werkzeugzugriff hat ein anderes Risikoprofil als ein Agent, der Zahlungen auslöst.
Fazit
ISO/IEC 27090 schließt eine Lücke: Sie übersetzt KI-spezifische Angriffe in die Sprache der Informationssicherheit. Wer bereits ein ISMS betreibt, muss nicht neu anfangen, sondern erweitert Risikobewertung, Maßnahmen und Tests um die KI-Systeme. Wir unterstützen Sie dabei mit Beratung und Prüfung zur KI-Sicherheit und gezielten Penetrationstests. Wie ISMS und KI-Managementsystem zusammenspielen, zeigt der Artikel ISO 27001 und ISO 42001 integrieren.