Was ist das NIST AI Risk Management Framework?

Das NIST AI Risk Management Framework (AI RMF) ist ein freiwilliges Rahmenwerk des US-amerikanischen National Institute of Standards and Technology, mit dem sich die Risiken künstlicher Intelligenz über ihren Lebenszyklus hinweg handhaben lassen. Am 26. Januar 2023 als AI RMF 1.0 veröffentlicht, gibt es Organisationen einen gemeinsamen, technologieneutralen Weg, KI-Risiken zu erkennen, zu bewerten und zu senken, und zugleich die Eigenschaften vertrauenswürdiger KI aufzubauen: Gültigkeit, Verlässlichkeit, Sicherheit, Schutz, Rechenschaft, Transparenz, Erklärbarkeit, Datenschutz und Fairness.

Anders als der EU AI Act ist das AI RMF kein Gesetz und kennt keine Sanktionen. Es ist ein Rahmenwerk, das Sie übernehmen, weil es trägt: eine strukturierte, wiederholbare Praxis für die Steuerung von KI, die weltweit zum faktischen Bezugspunkt für Programme zum KI-Risiko geworden ist und auch außerhalb der Vereinigten Staaten in Beschaffung, Aufsicht durch den Vorstand und regulatorischer Vorbereitung zitiert wird.

NIST AI RMF im Überblick

Das AI RMF entstand in einem offenen, auf Konsens angelegten Verfahren (mehrere öffentliche Entwürfe, Workshops und Kommentierungsfristen) als Antwort auf einen Auftrag des Kongresses im National Artificial Intelligence Initiative Act von 2020. Das Ergebnis ist bewusst weit gefasst: Es gilt für jede Organisation, jede Branche und jede Art von KI-System und lässt sich von den Teams nutzen, die KI entwerfen, entwickeln, bereitstellen oder bewerten.

Seine bestimmenden Merkmale:

• Freiwillig und nicht vorschreibend. Es beschreibt zu erreichende Ergebnisse statt einer festen Liste von Kontrollen, sodass Organisationen es an ihr eigenes Risikoprofil und ihre Reife anpassen.
• Risikobasiert und ergebnisorientiert. Es stellt die Eigenschaften vertrauenswürdiger KI und die Schäden für Menschen und Gesellschaft in den Mittelpunkt, nicht nur das Risiko für die Organisation.
• Am Lebenszyklus ausgerichtet. Es behandelt das KI-Risiko als fortlaufende Praxis über Entwurf, Entwicklung, Bereitstellung und Überwachung hinweg, nicht als einmalige Schranke.
• Technologieneutral. Dieselben vier Funktionen gelten für ein Kreditmodell, einen Chatbot oder einen autonomen Agenten.

NIST liefert auch begleitende Materialien: das AI RMF Playbook (vorgeschlagene Maßnahmen je Funktion), eine Roadmap, einen Crosswalk, der das Rahmenwerk anderen Standards zuordnet, und eine Reihe von Profilen für bestimmte Anwendungsfälle. Das Rahmenwerk wird derzeit überarbeitet, und im April 2026 hat NIST ein Konzeptpapier für ein KI-RMF-Profil zu vertrauenswürdiger KI in kritischer Infrastruktur veröffentlicht, ein Zeichen dafür, wie das Rahmenwerk weiter in Bereiche mit höherem Einsatz hineinwächst.

Die vier Kernfunktionen

Das Herz des AI RMF sind vier Funktionen, jede in Kategorien und Unterkategorien gegliedert. Drei davon (Map, Measure, Manage) laufen als iterativer Zyklus, während die vierte, Govern, eine Querschnittsfunktion ist, die die anderen drei umschließt und prägt.

• Govern (steuern). Die Querschnittsfunktion. Sie baut eine Kultur des KI-Risikomanagements auf: Richtlinien, verantwortliche Rollen, Aufsichtsstrukturen und Prozesse, die die anderen drei Funktionen mit den Werten und rechtlichen Pflichten der Organisation verbinden. Govern ist das, was Map, Measure und Manage dauerhaft macht statt beiläufig.
• Map (erfassen). Den Kontext herstellen und die Risiken rahmen. Wer sind die Beteiligten, was ist der beabsichtigte Zweck, was könnte schiefgehen, und wie fügt sich dieses KI-System in einen größeren Geschäftsprozess? Map erzeugt das gemeinsame Verständnis, auf das die anderen Funktionen angewiesen sind.
• Measure (messen). Die in Map erkannten Risiken analysieren, bewerten und verfolgen, mit quantitativen und qualitativen Methoden (Metriken, Evaluationen, Red-Teaming, Überwachung). Measure macht aus „das könnte verzerrt sein“ einen Beleg, auf den Sie reagieren können.
• Manage (handhaben). Priorisieren und reagieren. Mittel den Risiken zuweisen, die am meisten zählen, für jedes entscheiden, ob es behandelt, übertragen, vermieden oder akzeptiert wird, und die Reaktion und Wiederherstellung planen, wenn etwas schiefgeht.

Die Funktionen sind keine strenge Abfolge. Map, Measure und Manage werden fortlaufend erneut durchlaufen, wenn sich ein System ändert, neue Daten eintreffen oder neue Risiken auftauchen, während Govern durchgehend läuft.

Generative KI und Agenten

Am 26. Juli 2024 hat NIST das Generative AI Profile (NIST AI 600-1) veröffentlicht, einen Begleittext, der zwölf Risiken eigens für generative KI benennt, darunter Konfabulation (Halluzination), Datenschutz, schädliche Verzerrung, Preisgabe geistigen Eigentums, Integrität von Informationen und Wertschöpfungskette und Einbindung von Komponenten, also die nicht nachverfolgbaren vorgelagerten Daten und Bausteine, die ein Modell speisen. Für jedes schlägt es Maßnahmen vor, die den vier Funktionen zugeordnet sind (Govern, Map, Measure, Manage); ein Profil ersetzt das AI RMF nicht, es schneidet dieselben Maßnahmen auf eine bestimmte Lage zu. Mehrere dieser Maßnahmen verlangen unmittelbar, die Herkunft und Geschichte der Trainingsdaten zu verfolgen und Lieferanten von Dritten zu prüfen, und das ist Arbeit an Katalog, Lineage und Klassifizierung unter anderem Namen.

Das zählt, weil Organisationen von einzelnen Modellen zu agentischen Systemen übergehen, die planen, Werkzeuge aufrufen und mit wachsender Eigenständigkeit handeln. Agenten weiten die Risikofläche: Sie holen Daten aus vielen Quellen, handeln in laufenden Systemen und verketten Entscheidungen auf Weisen, die schwer nachzuvollziehen sind. Das AI RMF bleibt anwendbar, weil seine Funktionen technologieneutral sind, doch es gut auf Agenten anzuwenden verlangt sehr viel strengeren Kontext: Ein Agent lässt sich nur steuern, wenn Sie wissen, welche Daten und Werkzeuge er erreichen kann, was jedes davon bedeutet und wer dafür verantwortlich ist. Das Rahmenwerk benennt die Disziplin; sie für Agenten wirklich zu machen ist eine Frage von Daten und Kontext.

AI RMF, EU AI Act und ISO 42001

Diese drei sind die Bezugspunkte moderner KI-Governance, und sie ergänzen einander, statt zu konkurrieren:

• Das NIST AI RMF ist ein freiwilliges Rahmenwerk. Es sagt Ihnen, wie Sie über das Risikomanagement für KI denken und es betreiben, mit größtmöglicher Beweglichkeit und ohne Zertifizierung oder Rechtskraft.
• Der EU AI Act ist verbindliches Recht. Er sagt Ihnen, was Sie für KI tun müssen, die auf dem EU-Markt bereitgestellt wird, mit Risikostufen und Sanktionen. Viele seiner Pflichten (Risikomanagement, Data Governance, Dokumentation, menschliche Aufsicht) decken sich eng mit den Funktionen des AI RMF, sodass eine Praxis nach AI RMF eine starke Vorbereitung darauf ist.
• ISO 42001 ist ein zertifizierbarer Managementsystemstandard. Er sagt Ihnen, wie Sie ein organisationsweites Managementsystem für KI betreiben, und lässt eine akkreditierte Stelle es prüfen und bescheinigen.

Ein brauchbares Bild, um die drei zusammenzuhalten: Das NIST AI RMF gibt Ihnen die Praxis, KI-Risiken zu handhaben, ISO 42001 gibt Ihnen ein zertifizierbares System, um diese Praxis zu betreiben, und der EU AI Act setzt die rechtliche Untergrenze, die die Praxis erreichen muss. Viele Organisationen nutzen das AI RMF als gedankliches Rückgrat, gießen es dann über ISO 42001 in Form und ordnen es den Pflichten aus dem AI Act zu. Der Crosswalk von NIST und die gemeinsamen Begriffe des Rahmenwerks (eine Disziplin der Risikobewertung, Denken in Lebenszyklen, Dokumentation) machen den Wechsel zwischen ihnen deutlich weniger aufwendig.

Gesteuerter Kontext als Fundament

Das AI RMF beschreibt, wie gutes Risikomanagement für KI aussieht. Zu dem Unterbau, auf dem jede seiner Funktionen läuft, schweigt es weitgehend: verlässliche, gut dokumentierte Daten und ein klares, gemeinsames Verständnis davon, was diese Daten bedeuten. In der Praxis ist dieser Unterbau die Data Governance.

Jede Funktion hängt still daran:

• Map kann weder Kontext herstellen noch Risiken erkennen, ohne zu wissen, welche Daten ein KI-System nutzt, woher sie stammen und wie sensibel sie sind. Das ist die Aufgabe eines Datenkatalogs, eines Business Glossary und der Klassifizierung von Daten.
• Measure kann Verzerrung, Drift oder Qualität nicht bewerten ohne verlässliche Eingaben und ohne die Data Lineage, die ein Ergebnis auf seine Quellen zurückführt.
• Manage kann Risiken weder zuweisen noch auf sie reagieren ohne klare Datenverantwortung und Rechenschaft für die beteiligten Daten und Modelle.
• Govern kann Aufsicht nicht belegen ohne den dokumentierten Nachweis, den Katalog, Glossar und Lineage als Nebenprodukt der normalen Arbeit erzeugen.

Hier passt Dawiso hinein. Sein Ansatz für KI-Governance behandelt gesteuerten Kontext als eine Schicht, die die ganze Organisation einmal pflegt und überall wiederverwendet: ein Katalog jedes Datenbestands, ein Glossar, das festhält, was jeder Begriff bedeutet, Lineage, die den Fluss der Daten nachzeichnet, und eine Klassifizierung, die kennzeichnet, was sensibel ist, mit einer verantwortlichen Person für jedes davon. Genau dieser gesteuerte Kontext ist es, den die Funktionen Map, Measure und Manage des AI RMF brauchen, um wirklich zu sein statt angestrebt, und den ein KI-Agent braucht, um überhaupt steuerbar zu sein. Das Rahmenwerk ist die Disziplin; gesteuerter Kontext macht sie betreibbar.

Fazit

Das NIST AI Risk Management Framework ist zur gemeinsamen Sprache geworden, in der über KI-Risiken gesprochen wird: freiwillig, beweglich und technologieneutral, mit einem klaren Kern aus Govern, Map, Measure und Manage. Es passt natürlich zum zertifizierbaren ISO 42001 und zum verbindlichen EU AI Act und gibt Organisationen damit einen stimmigen Weg von der Praxis über das System bis zur rechtlichen Compliance. Doch wie jedes Rahmenwerk für Governance ruht es auf einer einzigen Fähigkeit, die es selbst nicht liefert: die Daten und den Kontext hinter Ihrer KI zu kennen, zu dokumentieren und ihnen zu vertrauen. Stimmt dieses Fundament, haben die vier Funktionen etwas Festes, worauf sie stehen.