Was ist ISO 42001? Managementsystem für Künstliche Intelligenz
ISO 42001 ist die erste internationale Norm für Managementsysteme im Bereich Künstliche Intelligenz (AI Management System, AIMS). Sie richtet sich an Organisationen, die KI-Systeme entwickeln, bereitstellen oder einsetzen, und verlangt einen strukturierten Umgang mit den daraus entstehenden Chancen und Risiken.
Die Norm folgt dem bekannten PDCA-Aufbau anderer Managementsystemnormen, ergänzt um KI-spezifische Anforderungen wie Risikobewertung von Algorithmen, Transparenz und den Umgang mit Trainingsdaten. Was diesen gemeinsamen Aufbau ausmacht, erklärt der Grundlagenbeitrag Was ist ISO?.
Was ISO 42001 regelt
- KI-Risikobewertung: systematische Analyse von Risiken wie Verzerrung (Bias), mangelnde Erklärbarkeit oder Fehlverhalten von Systemen.
- Governance von KI-Systemen: klare Verantwortlichkeiten für Entwicklung, Betrieb und Überwachung.
- Datenqualität und Trainingsdaten: Anforderungen an Herkunft, Qualität und Repräsentativität der verwendeten Daten.
- Transparenz gegenüber Betroffenen: nachvollziehbare Kommunikation, wo und wie KI eingesetzt wird.
- Laufende Überwachung: kontinuierliche Kontrolle der Systemleistung nach der Einführung.
ISOfee-Tipp: ISO 42001 ersetzt keine gesetzlichen Vorgaben wie den EU AI Act – sie liefert aber ein Managementsystem-Gerüst, das die Umsetzung regulatorischer Pflichten erheblich erleichtert, da Verantwortlichkeiten und Prozesse bereits strukturiert vorliegen.
Geltungsbereich, Aufbau und Zertifizierung nach ISO 42001
Wer die Norm braucht: Die Norm eignet sich für Organisationen, die eigene KI-Systeme entwickeln, aber auch für solche, die KI-Systeme Dritter einsetzen und deren verantwortungsvollen Einsatz nachweisen müssen – etwa Softwareanbieter, Finanzdienstleister oder Unternehmen mit KI-gestützten Kundenprozessen.
Aufbau des Systems:
- Kontext der Organisation und Einsatzbereiche von KI festlegen
- KI-spezifische Risiken und Auswirkungen auf betroffene Personen bewerten
- Governance-Struktur und Verantwortlichkeiten definieren
- Anforderungen an Datenqualität und Trainingsdaten festlegen
- Transparenz- und Kommunikationsprozesse einrichten
- Systeme nach Einführung laufend überwachen und Wirksamkeit überprüfen
Zertifizierung und Kosten: Da ISO 42001 eine neue Norm ist, ist die Zahl spezialisierter Zertifizierungsstellen noch begrenzt, was sich auf Verfügbarkeit und Kosten auswirken kann. Das Verfahren folgt dem üblichen zweistufigen Ablauf, der Vorbereitungsaufwand hängt stark davon ab, wie viele KI-Systeme im Einsatz sind und wie ausgereift die bestehende Governance bereits ist. Ein Softwareanbieter mit einer Handvoll produktiver KI-Modelle rechnet für die Erstzertifizierung erfahrungsgemäss mit sechs bis neun Monaten Vorbereitungszeit.
Praxisbeispiel: Softwareanbieter mit KI-gestützter Kreditprüfung
Ein Fintech-Unternehmen bietet ein KI-Modell zur automatisierten Kreditwürdigkeitsprüfung an. Nach Kritik an mangelnder Nachvollziehbarkeit einzelner Entscheidungen führte das Unternehmen ein KI-Managementsystem nach ISO 42001 ein.
Zentrale Massnahmen waren ein dokumentierter Prozess zur Überprüfung von Trainingsdaten auf Verzerrungen sowie eine verständliche Erklärung jeder automatisierten Entscheidung für betroffene Kund:innen. Die Zertifizierung diente seither als Verkaufsargument gegenüber Banken, die zunehmend einen Nachweis verantwortungsvoller KI-Nutzung von ihren Partnern verlangen.
Verhältnis zum EU AI Act
Der EU AI Act klassifiziert KI-Systeme nach Risikostufen und stellt an Hochrisikosysteme strenge Anforderungen an Dokumentation, Risikomanagement und menschliche Aufsicht. ISO 42001 liefert die organisatorische Struktur, mit der sich viele dieser Anforderungen praktisch umsetzen lassen – die Zertifizierung ersetzt jedoch keine rechtliche Konformitätsprüfung nach dem AI Act, sondern ergänzt sie um ein prüfbares Managementsystem.
Ein Schweizer Anbieter, der Software in die EU exportiert, profitiert davon besonders, da sich viele AI-Act-Nachweispflichten direkt aus dem bestehenden ISO-42001-System ableiten lassen, statt sie separat aufzubauen.
Umgang mit generativer KI im Betrieb
Auch Organisationen, die keine eigenen KI-Modelle entwickeln, sondern generative KI-Werkzeuge im Alltag einsetzen, fallen unter den Geltungsbereich von ISO 42001, sobald sie ein KI-Managementsystem aufbauen. Relevante Fragen sind dabei etwa, welche Daten in externe KI-Dienste eingegeben werden dürfen, wer Ausgaben vor der Weiterverwendung prüft und wie Mitarbeitende auf Risiken wie Fehlinformationen geschult werden.
Viele Betriebe führen dazu eine einfache interne Richtlinie ein, die festlegt, welche generativen KI-Tools für welche Aufgaben freigegeben sind und welche vertraulichen Daten niemals eingegeben werden dürfen.
Menschliche Aufsicht als zentrales Prinzip
Ein Kernprinzip von ISO 42001 ist, dass KI-Systeme nicht ohne angemessene menschliche Aufsicht betrieben werden dürfen, insbesondere bei folgenreichen Entscheidungen wie Kreditvergaben, Personalauswahl oder medizinischen Diagnosen. Die Norm verlangt, dass Organisationen definieren, an welchen Punkten ein Mensch eine automatisierte Entscheidung überprüfen, korrigieren oder aufheben kann, statt sich blind auf die Systemausgabe zu verlassen.
Eine Schweizer Bank etwa lässt eine KI-gestützte Kreditvorprüfung ausschliesslich Empfehlungen abgeben, während die endgültige Entscheidung immer von einer Kreditsachbearbeiterin oder einem Kreditsachbearbeiter getroffen wird.
Umgang mit Modell-Drift und laufender Überwachung
KI-Modelle können mit der Zeit an Genauigkeit verlieren, wenn sich die zugrunde liegenden Daten oder Rahmenbedingungen ändern – ein Phänomen, das als Modell-Drift bezeichnet wird. ISO 42001 verlangt eine laufende Überwachung der Systemleistung nach der Einführung, damit ein schleichender Qualitätsverlust frühzeitig erkannt und das Modell bei Bedarf neu trainiert oder angepasst wird.
Ein einfaches Frühwarnsignal ist eine steigende Zahl manueller Korrekturen durch Mitarbeitende, wenn diese den automatisierten Empfehlungen zunehmend widersprechen.
ISOfee-Tipp: Wer bereits ein ISMS nach ISO 27001 betreibt, kann viele Governance- und Risikoprozesse strukturell wiederverwenden – KI-Risiken lassen sich oft als Ergänzung zur bestehenden Risikoanalyse integrieren, statt komplett neu aufzubauen.
FAQ: ISO 42001 im Überblick
Braucht jedes Unternehmen mit KI-Einsatz ISO 42001?
Nein, die Zertifizierung ist freiwillig. Sie lohnt sich besonders, wenn Kund:innen, Investor:innen oder Regulatoren einen prüfbaren Nachweis verantwortungsvoller KI-Nutzung verlangen. Für Betriebe mit sehr begrenztem KI-Einsatz genügt oft zunächst eine interne Richtlinie, bevor der Aufwand einer vollständigen Zertifizierung gerechtfertigt ist.
Deckt ISO 42001 auch von Dritten bezogene KI-Systeme ab?
Ja, die Norm verlangt auch bei eingekauften KI-Systemen eine Bewertung der damit verbundenen Risiken und eine klare Zuweisung von Verantwortlichkeiten für deren Einsatz. Das gilt selbst dann, wenn der Anbieter des KI-Systems selbst bereits zertifiziert ist, da die Verantwortung für den konkreten Einsatzkontext beim einsetzenden Betrieb verbleibt. Betriebe sollten deshalb bereits bei der Beschaffung entsprechende Nachweispflichten vertraglich mit dem Anbieter vereinbaren.
Wie häufig muss das KI-Managementsystem überprüft werden?
Wie bei anderen Managementsystemnormen verlangt ISO 42001 laufende Überwachung sowie regelmässige interne Audits und eine Managementbewertung, mindestens jährlich oder bei wesentlichen Änderungen der eingesetzten KI-Systeme. Angesichts der schnellen Entwicklung im KI-Bereich prüfen viele Betriebe ihre Systeminventarliste sogar häufiger als vorgeschrieben, oft halbjährlich. Neue KI-Anwendungsfälle sollten dabei grundsätzlich vor dem produktiven Einsatz erfasst werden, nicht erst im Nachhinein.
Wie wird der Umgang mit Trainingsdaten Dritter geregelt?
Wird ein KI-Modell mit Daten trainiert, die nicht vom eigenen Betrieb stammen, verlangt ISO 42001 eine Prüfung der Rechtsgrundlage und Herkunft dieser Daten sowie eine Bewertung, ob sie repräsentativ und frei von unzulässigen Verzerrungen sind, bevor sie im eigenen System eingesetzt werden. Fehlt eine nachvollziehbare Dokumentation der Datenherkunft, gilt dies im Audit typischerweise als kritischer Mangel, unabhängig davon, wie gut das Modell tatsächlich funktioniert. Betriebe sollten die Datenherkunft deshalb bereits im Beschaffungsprozess vertraglich einfordern, statt erst nachträglich zu rekonstruieren.
Welche Rolle spielt die Dokumentation im Audit?
Auditor:innen prüfen insbesondere, ob Entscheidungen zu KI-Risiken nachvollziehbar begründet und dokumentiert sind – eine gute Absicht ohne schriftlichen Nachweis gilt im Audit nicht als erfüllte Anforderung, selbst wenn die Praxis im Betrieb tatsächlich verantwortungsvoll ist. Besonders geprüft wird dabei, ob Entscheidungen über den Einsatz neuer KI-Anwendungsfälle vor der Einführung dokumentiert wurden, statt erst im Nachhinein. Ein einfaches Freigabeformular pro neuem Anwendungsfall genügt dabei oft schon, um diese Anforderung nachweisbar zu erfüllen.
Fazit
ISO 42001 ist die erste zertifizierbare Norm für KI-Managementsysteme und verlangt einen strukturierten Umgang mit KI-Risiken, Governance und Transparenz. Sie erleichtert regulatorische Compliance und eignet sich für alle Organisationen, die KI-Systeme entwickeln oder verantwortungsvoll einsetzen wollen. Da die Norm noch jung ist, entwickelt sich sowohl das Verständnis ihrer Anforderungen als auch die Zahl spezialisierter Zertifizierungsstellen weiter, weshalb sich ein früher Einstieg als Wettbewerbsvorteil erweisen kann.
Zentrale Themen sind das Verhältnis zum EU AI Act, der verantwortungsvolle Umgang mit generativer KI, menschliche Aufsicht als Kernprinzip sowie die laufende Überwachung von Modell-Drift. Auch Organisationen, die keine eigenen KI-Modelle entwickeln, sondern lediglich Werkzeuge Dritter einsetzen, sollten sich nicht ausgenommen fühlen, da bereits der verantwortungsvolle Einsatz eingekaufter Systeme in den Geltungsbereich fällt. Ein guter erster Schritt ist eine einfache Inventarliste aller eingesetzten KI-Anwendungen mit grober Risikoeinschätzung, aus der sich die dringendsten Governance-Massnahmen ableiten lassen.
Einen Vergleich mit den anderen Normen dieses Kapitels finden Sie im Beitrag Weitere ISO-Normen im Überblick.
ISO aufbauen. Pflegen. Auditbereit bleiben.
Die ISOfee bündelt die zentralen Aufgaben Ihres Managementsystems in einer Schweizer Software – vom Systemaufbau bis zur Normrevision. Testen Sie die ISOfee 14 Tage kostenlos.
