Was sind KI-Risikostufen?

KI-Risikostufen sind die Praxis, KI-Anwendungsfälle nach ihrer Wirkung einzustufen und die Kontrollen der Governance im Verhältnis zu diesem Risiko anzuwenden. Sie lösen ein Problem, auf das jedes Programm für KI-Governance im ersten Monat stößt: Es gibt weit mehr KI-Anwendungsfälle als Prüfkapazität. Sie alle gleich zu behandeln ist das Scheitern in beide Richtungen, denn es hungert die Systeme aus, die wirklich Prüfung brauchen, begräbt geringfügige interne Werkzeuge unter Papierkram und erzeugt eine Governance-Funktion, um die alle herumlaufen.

Die Einstufung macht die Alternative erst machbar. Sobald ein Anwendungsfall eine Stufe hat, entscheidet die Stufe, was als Nächstes geschieht: welche Dokumentation verlangt wird, ob die Validierung unabhängig sein muss, welche menschliche Aufsicht vorgeschrieben ist, wie oft überwacht wird und ob ein Audit nötig ist. Der Gedanke ist fast unmittelbar aus dem Model Risk Management im Bankwesen entlehnt, wo die Wesentlichkeit eines Modells seit über einem Jahrzehnt die Tiefe der Aufsicht bestimmt, und wo die überarbeitete US-amerikanische Aufsichtsleitlinie vom April 2026 einen risikobasierten Ansatz bekräftigt hat, zugeschnitten auf das Risikoprofil einer Organisation sowie auf Größe und Komplexität ihres Geschäfts.

KI-Risikostufen im Überblick

Eine Stufe ist ein Urteil der Governance, kein Punktwert. Sie beantwortet eine Frage, nämlich wie viel Prüfung verdient dieser Anwendungsfall?, und sie sollte sich bei der Aufnahme in einem einzigen Gespräch vergeben lassen, bevor jemand in den Bau investiert hat.

Drei Eigenschaften machen ein Stufenschema brauchbar:

• Wenige Stufen. Drei ist der gängige Standard, manchmal vier. Fünf oder mehr erzeugen Grenzstreitigkeiten, die mehr Zeit verbrauchen als die Prüfungen, die sie zuteilen sollten.
• Früh vergeben und erneut geprüft. Die Stufe wird bei der Aufnahme gesetzt, weil alles Nachgelagerte sie erbt, und sie wird neu geprüft, wenn sich der Anwendungsfall ändert: Ein System, das vom Vorschlagen zum Entscheiden übergeht, hat die Stufe gewechselt, was auch immer seine Dokumentation sagt.
• Folgenreich. Führen zwei Stufen zu demselben Verfahren, haben Sie Etiketten und keine Einstufung. Jede Stufe muss sichtbar ändern, was verlangt wird.

Die Disziplin, aus der das stammt, ist aufschlussreich über das Scheitern, das sie verhindert. Das Model Risk Management fasst die Verhältnismäßigkeit über die Wesentlichkeit eines Modells, die dessen Exposition mit dessen Zweck verbindet: Modelle, die finanzielle Risikopositionen bestimmen, gelten als riskanter als Modelle, die das nicht tun, und die Strenge der Prüfung wird der Komplexität und Wesentlichkeit angemessen gesetzt. Manche Modelle können sogar als unwesentlich eingestuft werden, und dann besteht die Kontrolle darin, sie zu erfassen und auf eine Änderung von Exposition oder Zweck hin zu beobachten. Genau diesen letzten Punkt übersehen KI-Programme am häufigsten: „leichte Governance“ ist eine legitime Stufe mit einer tatsächlichen Kontrolle darin und keine Abwesenheit von Governance.

Wie Stufen vergeben werden

Die Fragen zur Einstufung sollten sich von der Person beantworten lassen, die den Anwendungsfall vorschlägt, ohne dass eine Fachkraft für Risiko im Raum sitzt. Ein knapper Satz von Dimensionen erledigt das meiste:

• Wirkung auf Menschen. Betrifft die Ausgabe den Zugang einer Person zu Kredit, Beschäftigung, Gesundheitsversorgung, Leistungen, Bildung oder ihre Rechtsstellung? Das überwiegt alles andere, und es ist auch die Dimension, die Aufsichtsbehörden am meisten kümmert.
• Entscheidungsautonomie. Prüft ein Mensch jede Ausgabe, prüft er Stichproben, oder gar nichts? Ein Agent, der ohne Prüfung handelt, ist ein anderes Risiko als ein Assistent, der Entwürfe schreibt, selbst auf identischen Daten. Hier wird der Unterschied zwischen Human-in-the-Loop und Human-on-the-Loop zu einer Eingabe der Einstufung statt zu einem Entwurfsdetail.
• Sensibilität der Daten. Berührt er personenbezogene Daten, Daten besonderer Kategorien, regulierte Finanzdaten oder geschäftlich sensible Informationen? Ein bereits bestehendes Schema der Klassifizierung macht diese Frage zur Sache eines Augenblicks.
• Umkehrbarkeit. Lässt sich eine falsche Ausgabe korrigieren, bevor sie wirkt? Unumkehrbare Handlungen, etwa eine ausgeführte Zahlung, eine an eine Kundin zugestellte Nachricht oder ein geänderter Datensatz im Quellsystem, heben die Stufe unabhängig von der Genauigkeit.
• Umfang und Reichweite. Eine Analystin, die es wöchentlich nutzt, ist nicht zehntausend Kundeninteraktionen am Tag. Menge verwandelt eine kleine Fehlerquote in eine große Zahl betroffener Menschen.
• Bedarf an Erklärbarkeit. Wird jemand eine einzelne Ausgabe gegenüber einer Kundin, einem Auditor oder einem Gericht begründen müssen? Wenn ja, braucht das System eingebaute Erklärbarkeit, und das ist eine stufenbestimmende Anforderung und keine spätere Ergänzung.

Die meisten Organisationen verbinden das zu einer einfachen Regel: Die höchste Dimension gewinnt, oder ein Ja bei der Wirkung auf Menschen zusammen mit geringer Umkehrbarkeit erzwingt die oberste Stufe. Die genaue Rechenart zählt weit weniger als die Tatsache, dass die Dimensionen aufgeschrieben sind, damit zwei Prüfende für denselben Anwendungsfall zur selben Stufe kommen.

Was jede Stufe ändert

Eine Stufe ist nur über die Pflichten bedeutsam, die an ihr hängen. Das brauchbare Muster ist, einmal festzulegen, was jede Stufe an jeder Schranke des Lebenszyklus verlangt; dann wird die Aufnahme zu einer Weichenstellung statt zu einer Verhandlung.

• Tiefe der Dokumentation. Oberste Stufe: vollständige technische Dokumentation, benannte Annahmen und Grenzen, Herkunft der Daten und eine Folgenabschätzung. Unterste Stufe: ein Eintrag im Verzeichnis mit Verantwortlichem und Zweck.
• Wer validiert. Oberste Stufe: unabhängig vom Bauteam, mit der Befugnis, eine Freigabe zu blockieren. Mitte: Prüfung durch Kollegen mit dokumentierten Testergebnissen. Unten: Der Verantwortliche bestätigt selbst.
• Menschliche Aufsicht. Oberste Stufe: eine Person in der Schleife mit der Befugnis, zu stoppen oder zurückzunehmen, und der Möglichkeit, das in der verfügbaren Zeit auch wirklich zu tun. Mitte: Prüfung von Stichproben mit Eskalation. Unten: Der Mensch prüft ohnehin jede Ausgabe, und oft ist das der Grund für die unterste Stufe.
• Takt der Überwachung. Oberste Stufe: fortlaufend, mit Alarmierung und festgelegter Eskalation. Mitte: regelmäßige Prüfung der Leistung. Unten: auf eine Änderung von Zweck oder Reichweite achten, die eine neue Einstufung auslösen würde.
• Änderungssteuerung. Oberste Stufe: Wesentliche Änderungen verlangen eine erneute Validierung und Freigabe. Unterste Stufe: Routineänderungen laufen durch, und die Stufe wird planmäßig erneut geprüft.

Zwei Fehlmuster verdienen einen Namen. Das erste ist ein Stufenschema, dessen oberste Stufe so schwer wiegt, dass Teams falsch einstufen, um ihr zu entgehen; dann verbirgt die Einstufung das Risiko aktiv. Das zweite ist eine unterste Stufe ganz ohne Kontrolle, die das Verzeichnis in eine Liste verwandelt, die niemand pflegt. Die Aufgabe der untersten Stufe ist, billig zu bleiben und dennoch ein Stolperdraht zu sein.

Stufen und der EU AI Act

Das ist die Unterscheidung, die die meiste Verwirrung stiftet, und sie falsch zu treffen erzeugt entweder falsche Beruhigung oder vergeudeten Aufwand.

Der EU AI Act vergibt eine rechtliche Risikokategorie, und sie steht Ihnen nicht zur Wahl. Art. 6 KI-VO setzt die Einstufungsregeln für KI mit hohem Risiko: Ein System ist hochriskant entweder als Sicherheitsbauteil eines Produkts, das unter die Harmonisierungsrechtsvorschriften aus Anhang I fällt und eine Konformitätsbewertung durch Dritte verlangt, oder dadurch, dass es in Anhang III aufgeführt ist. Es gibt eine enge Ausnahme für Systeme nach Anhang III, die kein erhebliches Schadensrisiko bergen, etwa solche, die eng umrissene Verfahrensaufgaben erfüllen oder zuvor abgeschlossene menschliche Arbeit verbessern, doch ein Anbieter, der sich darauf stützt, muss diese Bewertung vor dem Inverkehrbringen dokumentieren, und jedes System, das Profiling natürlicher Personen vornimmt, ist unabhängig davon hochriskant. Darüber und darunter liegen verbotene Praktiken sowie begrenztes und minimales Risiko mit leichteren oder gar keinen Pflichten.

Ihre interne Stufe beantwortet eine andere Frage. Sie misst Ihre Exposition: was es Sie kosten würde, wenn dieses System falsch liegt, missbraucht wird oder ausfällt. Daraus ergeben sich wirklich unabhängige Ergebnisse:

• Minimales rechtliches Risiko, oberste interne Stufe. Ein interner Assistent für Prognosen, der eine Entscheidung über die Kapitalverwendung prägt, ist für den Rechtsakt nichts und für Sie alles.
• Hohes rechtliches Risiko, mittlere interne Stufe. Ein System in einer Kategorie aus Anhang III, das in einem eng begrenzten Pilotprojekt mit starker menschlicher Prüfung läuft, trägt die vollen rechtlichen Pflichten, und Ihre eigene Exposition bleibt dennoch begrenzt.
• Beides hoch. Der offensichtliche Fall, und der, in dem die beiden Schemata in einen einzigen Satz von Kontrollen zusammengeführt werden sollten, statt als zwei parallele Prüfungen zu laufen.

Die praktische Regel lautet also: Behandeln Sie die rechtliche Einstufung als verbindliche Untergrenze und Ihre Stufe als die betriebliche Entscheidung. Ein Anwendungsfall liegt in genau einer rechtlichen Kategorie und in genau einer internen Stufe, und die höhere Anforderung der beiden gilt. Verwandt und doch wieder verschieden ist die Risikokategorisierung von Daten nach Art und Schweregrad, die in die Dimension der Datensensibilität einer Stufe einfließt, statt sie zu ersetzen.

Ein Stufenmodell bauen

Ein Stufenschema, das den Kontakt mit der Organisation überlebt, entsteht meist in dieser Reihenfolge.

• Zuerst ein Inventar. Eine unbekannte Grundgesamtheit einzustufen ist Theater. Der erste Durchgang fällt fast immer größer aus als erwartet, weil KI über zugekaufte Funktionen ins Haus kommt und nicht über Projekte: ein Assistent im CRM, eine Zusammenfassung im Service-Desk, ein Copilot in einer Tabelle. Beziehen Sie KI von Dritten und eingebettete KI ein, sonst beschreibt das Verzeichnis nur, was Ihre eigenen Teams gebaut haben.
• Die Dimensionen aufschreiben und an echten Fällen erproben. Nehmen Sie zehn laufende Anwendungsfälle über die offensichtlichen Extreme hinweg, lassen Sie zwei Personen sie unabhängig einstufen und vergleichen Sie. Abweichungen zeigen die Dimensionen, die mehrdeutig formuliert sind, und das jetzt zu finden ist viel billiger.
• Die Folgen je Stufe festlegen, bevor Sie es veröffentlichen. Sind die Anforderungen je Stufe nicht aufgeschrieben, verhandelt der erste Fall der Stufe 1 sie selbst aus.
• Die Stufe an die Aufnahmeschranke hängen. Bei der Aufnahme einzustufen, vor dem Bau, ist das, was der Governance erlaubt, einen Entwurf zu formen, statt etwas Fertiges zu blockieren.
• Festlegen, was eine Neueinstufung auslöst. Größeres Publikum, mehr Autonomie, eine neue Datenkategorie, ein neuer Rechtsraum oder der Übergang vom Vorschlagen zum Entscheiden. Ohne das trägt jedes System dauerhaft die Stufe, mit der es geboren wurde.
• Mit den bestehenden Risikofunktionen zusammenführen. Wenn MRM, Datenschutz und Sicherheit jeweils ihre eigene Einstufung für KI fahren, bekommen Sie drei Antworten und drei Prüfwarteschlangen. Eine Stufe, die mehrere Kontrollsätze speist, ist die pflegbare Form.

Wie Dawiso hilft

Zwei der sechs Dimensionen sind Datenfragen, und es sind die beiden, an denen eine Einstufung hängen bleibt: Welche Daten berührt dieser Anwendungsfall, und wie sensibel und nachvollziehbar sind sie? Dawiso beantwortet beide aus der Governance-Schicht, die die Organisation ohnehin pflegt.

Die Klassifizierung im Datenkatalog macht die Sensibilität von Daten zu einem Merkmal, das man nachschlägt, statt zu einem Urteil, das jemand in einer Besprechung fällt, und sie kennzeichnet personenbezogene Daten, bevor sie in eine Eingabe oder einen Trainingsdatensatz geraten. Die interaktive Lineage zeigt, wovon ein Anwendungsfall tatsächlich abhängt und was von ihm abhängt, und so lassen sich Reichweite und Umkehrbarkeit ehrlich statt zuversichtlich beurteilen. Das Business Glossary hält fest, was die Begriffe im Anwendungsfall bedeuten, sodass zwei Prüfende dasselbe einstufen. Und eine Verantwortung über den Bestand hinweg bedeutet, dass es für jede Dimension jemanden gibt, der Auskunft geben kann.

Zur Klarheit über die Grenze: Dawiso vergibt keine Stufen und führt Ihren Freigabeprozess nicht. Es liefert die datenseitigen Tatsachen, auf denen eine Einstufung und ihre nachgelagerten Schranken ruhen, und hält sie über die KI-Governance aktuell, während sich der Bestand ändert, damit eine im letzten Quartal vergebene Stufe noch auf etwas Wahrem beruht.

Fazit

KI-Risikostufen sind der Weg, auf dem ein Programm für KI-Governance bezahlbar wird, ohne dekorativ zu werden. Sie bündeln die Prüfung auf die Anwendungsfälle, die jemandem schaden oder Sie wesentlich kosten können, und geben allem anderen eine billige, ehrliche Kontrolle: erfasst, verantwortet und auf die Änderung hin beobachtet, die es hochstufen würde. Zwei unspektakuläre Dinge lassen das funktionieren: ein echtes Inventar dessen, welche KI tatsächlich läuft, und genug Wissen über die Daten unter jedem Anwendungsfall, um ihn wahrheitsgemäß einzustufen. Hat man die, wird aus einer Warteschlange undifferenzierter Prüfanträge eine Governance-Funktion, die Menschen zu nutzen bereit sind.

Quellen

• EU Artificial Intelligence Act - Article 6: Classification Rules for High-Risk AI Systems
• EU Artificial Intelligence Act - Annex III: High-Risk AI Systems
• Board of Governors of the Federal Reserve System - SR 26-2: Revised Guidance on Model Risk Management
• NIST - AI Risk Management Framework (AI RMF 1.0)