KI-Governance und Compliance
AI Act und KI-Governance: was Unternehmen jetzt tun müssen
KI-Governance heißt, drei Dinge im Griff zu haben: zu wissen, welche KI im Unternehmen tatsächlich läuft, sie nach Risiko einzuordnen, und für jede Anforderung einen Nachweis zu führen, dass die Kontrollen wirklich greifen. Der AI Act macht genau das zur Pflicht. Und er verschärft eine Frage, die viele Organisationen bisher offen lassen: Eine Richtlinie im Dokument ist noch kein Beweis, dass sie im Betrieb hält.
- Ein vollständiges KI-Inventar führen, auch die inoffiziell genutzten Tools (Schatten-KI).
- Jedes System einer Risikoklasse zuordnen, denn daran hängen die konkreten Pflichten.
- Für Hochrisiko-Anwendungen Risikomanagement, Datenqualität, Protokollierung und menschliche Aufsicht dokumentieren.
- Transparenzpflichten erfüllen, etwa Kennzeichnung KI-generierter Inhalte und Hinweis bei direkter Interaktion.
- KI-Kompetenz im Team aufbauen, denn der AI Act verlangt sie ausdrücklich.
- Jede Governance-Kontrolle mit einem belastbaren Nachweis unterlegen, nicht nur mit einer Richtlinie auf Papier.
Was der AI Act verlangt
Der AI Act, die europäische Verordnung über künstliche Intelligenz (Verordnung (EU) 2024/1689), ist der erste umfassende Rechtsrahmen für KI in der EU. Sein Grundprinzip ist risikobasiert: Nicht jede Anwendung wird gleich behandelt, sondern je nach potenziellem Schaden unterschiedlich streng reguliert. Die Verordnung gilt gestaffelt, mit verschiedenen Anwendungsstichtagen für Verbote, Modelle mit allgemeinem Verwendungszweck und Hochrisiko-Systeme. Ob und wie Ihr Unternehmen betroffen ist und welche Fristen gelten, ist eine rechtliche Frage für den Einzelfall. Für die Governance-Praxis zählt vor allem eines: Wer KI entwickelt oder einsetzt, muss künftig dokumentieren und belegen können, was die Systeme tun, welche Risiken sie tragen und wie diese Risiken beherrscht werden.
Für die meisten Unternehmen bedeutet das keine Panik, aber Struktur. Der AI Act verlangt keine einmalige Aktion, sondern einen laufenden Prozess: KI erfassen, einordnen, kontrollieren, nachweisen, aktuell halten. Genau das ist KI-Governance.
Die Risikoklassen
Der AI Act sortiert KI-Systeme in Risikostufen. Die Einordnung entscheidet über die Pflichten, deshalb ist sie der Dreh- und Angelpunkt jeder Governance. Die folgende Übersicht ist eine vereinfachte Orientierung, keine abschließende rechtliche Einordnung.
| Risikoklasse | Was darunterfällt und was gilt |
|---|---|
| Unannehmbares Risiko | Praktiken, die als Bedrohung für Grundrechte gelten, etwa bestimmte Formen von Social Scoring oder manipulativer Beeinflussung. Diese Anwendungen sind grundsätzlich verboten. |
| Hohes Risiko | Systeme in sensiblen Bereichen wie Personalauswahl, Kreditvergabe, kritischer Infrastruktur oder bestimmten Produktkomponenten. Hier greifen die strengsten Pflichten: Risikomanagement, Datenqualität, technische Dokumentation, Protokollierung, menschliche Aufsicht und robuste Cybersicherheit. |
| Begrenztes Risiko (Transparenz) | Systeme mit direkter Nutzerinteraktion oder generierten Inhalten, etwa Chatbots oder KI-erzeugte Medien. Kernpflicht ist Transparenz: Menschen müssen erkennen können, dass sie mit KI interagieren oder dass ein Inhalt KI-generiert ist. |
| Minimales Risiko | Der Großteil alltäglicher Anwendungen, etwa Spamfilter. Keine besonderen gesetzlichen Pflichten, freiwillige Selbstverpflichtung möglich. |
| Modelle mit allgemeinem Verwendungszweck | Große Basismodelle tragen eigene Pflichten, unter anderem zu technischer Dokumentation und Transparenz, mit zusätzlichen Anforderungen bei systemischem Risiko. |
Der praktische Haken: Sie können ein System nur einordnen, wenn Sie überhaupt wissen, dass es existiert. Und genau da beginnt das Problem der Schatten-KI.
Schatten-KI sichtbar machen
Schatten-KI ist der Einsatz von KI-Werkzeugen ohne Wissen oder Freigabe der Organisation: der Fachbereich, der einen KI-Assistenten in einem Prozess nutzt, das Team, das ein externes Modell an interne Daten anbindet, der Entwickler, der einen KI-Agenten mit Zugriff auf produktive Systeme verdrahtet. Jedes dieser Werkzeuge ist ein KI-System im Sinne der Governance, aber keines steht in einem Inventar. Was nicht im Inventar steht, kann keiner Risikoklasse zugeordnet, keiner Kontrolle unterworfen und in keinem Nachweis belegt werden.
Schatten-KI sichtbar zu machen ist deshalb der erste harte Schritt jeder KI-Governance. Das gelingt über eine Kombination aus organisatorischer und technischer Erfassung:
- Eine strukturierte Bestandsaufnahme in den Fachbereichen: Welche KI-gestützten Werkzeuge werden genutzt, für welchen Zweck, mit welchen Daten?
- Technische Sichtbarkeit, etwa über ausgehende Verbindungen, genutzte APIs und Schnittstellen zu KI-Diensten und Modell-Endpunkten.
- Besondere Aufmerksamkeit für autonome Komponenten: KI-Agenten und die Werkzeuge, die sie anbinden, etwa über das Model Context Protocol, weiten die Angriffs- und Governance-Fläche erheblich aus.
- Ein einfacher, gangbarer Meldeweg, damit neue KI-Nutzung ins Inventar kommt, statt in den Schatten zu wandern.
KI-Governance Schritt für Schritt
Governance wird greifbar, wenn man sie als wiederholbaren Prozess aufsetzt statt als einmaliges Projekt. Ein bewährter Ablauf:
Schritt 1: Verantwortung und Leitlinie festlegen
Eine klare Zuständigkeit benennen, eine KI-Richtlinie verabschieden, die zulässige und unzulässige Nutzung regelt, und die im AI Act geforderte KI-Kompetenz im Team verankern. Ohne Eigentümer bleibt Governance ein Papier.
Schritt 2: KI-Inventar aufbauen
Alle KI-Systeme erfassen, offizielle wie inoffizielle. Je Eintrag: Zweck, Datengrundlage, Anbieter, Schnittstellen, Verantwortliche. Schatten-KI aktiv aufspüren statt abzuwarten.
Schritt 3: Risiko einordnen
Jedes System einer Risikoklasse zuordnen und die daraus folgenden Pflichten ableiten. Hochrisiko-Anwendungen bekommen die volle Tiefe, minimale Anwendungen nur den leichten Rahmen.
Schritt 4: Kontrollen umsetzen
Die Pflichten in konkrete Maßnahmen übersetzen: Risikomanagement, Datenqualität und Dokumentation, Protokollierung, menschliche Aufsicht, technische Robustheit und Cybersicherheit, Transparenz gegenüber Nutzern.
Schritt 5: Nachweise führen und aktuell halten
Für jede Anforderung einen Beleg sammeln, im laufenden Betrieb, nicht erst kurz vor einer Prüfung. Modelle, Prompts, Anbindungen und Risiken ändern sich, also gehört Governance in einen wiederkehrenden Rhythmus.
Warum Governance ohne Nachweis wertlos ist
Hier liegt der Punkt, an dem viele Governance-Programme dünn werden. Eine Richtlinie zu schreiben, ein Inventar zu pflegen und Kontrollen zu benennen, das erzeugt einen Ordner voller Zusagen. Aber eine Zusage ist kein Beweis. Der AI Act verlangt bei Hochrisiko-Systemen ausdrücklich robuste Cybersicherheit und beherrschte technische Risiken, und genau diese Eigenschaften lassen sich nicht per Selbstauskunft belegen.
Der Unterschied wird an den technischen Kontrollen sichtbar. Sie können in einer Richtlinie festhalten, dass Ihr KI-Agent nur auf freigegebene Werkzeuge zugreift, dass ein Modell keine internen Secrets nach außen gibt, dass eine Eingabe aus einer fremden Datenquelle nicht als Anweisung interpretiert wird. Ob diese Aussagen im Betrieb wirklich halten, zeigt sich erst, wenn man sie gezielt herausfordert. Ein reiner Muster-Scanner findet dabei das Bekannt-Schlechte. Aber viele Risiken von KI-Systemen und ihren Anbindungen liegen in der Gestaltung von Berechtigungen und Vertrauensgrenzen, nicht in bekannten Code-Mustern.
Belastbare KI-Governance braucht deshalb beides: die organisatorische Ebene, die Pflichten in Kontrollen übersetzt, und die technische Ebene, die jeden kritischen Nachweis mit einem ausgeführten Beleg unterlegt statt ihn nur zu behaupten. Governance ist am Ende nur so gut wie der Beweis, dass die Kontrollen halten. Genau diese Disziplin, jede tragende Eigenschaft vor der Zusage zu prüfen, trennt eine prüffähige Governance von einer Sammlung guter Absichten.
Hält Ihre KI-Governance dem Nachweis stand?
Wir übersetzen die Anforderungen des AI Act in konkrete Kontrollen und belegen die technisch tragenden Eigenschaften mit einem Proof of Concept pro Befund, statt mit einer Vermutung.
Compliance-Readiness ansehenCyberSec42 ist eine unabhängige technische Sicherheitsprüfung, keine akkreditierte Zertifizierungsstelle und keine Rechtsberatung. Die rechtliche Einordnung zum AI Act verantwortet Ihre Rechtsberatung.
Häufige Fragen
Was verlangt der AI Act von Unternehmen?
Der AI Act, die EU-Verordnung über künstliche Intelligenz, reguliert KI risikobasiert. Unternehmen müssen ihre KI-Systeme erfassen, einer Risikoklasse zuordnen und die daran hängenden Pflichten erfüllen, bei Hochrisiko-Systemen etwa Risikomanagement, Datenqualität, Dokumentation, menschliche Aufsicht und Cybersicherheit. Die konkrete Betroffenheit und die Fristen sind eine rechtliche Frage für den Einzelfall.
Welche Risikoklassen kennt der AI Act?
Vereinfacht: unannehmbares Risiko (grundsätzlich verboten), hohes Risiko (strengste Pflichten), begrenztes Risiko mit Transparenzpflichten (etwa Chatbots und KI-generierte Inhalte) und minimales Risiko (keine besonderen Pflichten). Modelle mit allgemeinem Verwendungszweck haben eigene, gesonderte Pflichten.
Was ist Schatten-KI und warum ist sie ein Problem?
Schatten-KI ist der Einsatz von KI-Werkzeugen ohne Wissen oder Freigabe der Organisation. Sie ist ein Governance-Problem, weil ein System, das in keinem Inventar steht, keiner Risikoklasse zugeordnet, keiner Kontrolle unterworfen und in keinem Nachweis belegt werden kann. Sichtbarkeit ist deshalb der erste Schritt jeder KI-Governance.
Wie sieht ein KI-Governance-Prozess aus?
In fünf Schritten: Verantwortung und Leitlinie festlegen, ein KI-Inventar aufbauen, jedes System nach Risiko einordnen, die Pflichten in konkrete Kontrollen umsetzen und für jede Anforderung Nachweise führen und laufend aktuell halten. Governance ist ein wiederkehrender Prozess, kein einmaliges Projekt.
Reicht eine dokumentierte Richtlinie für KI-Governance?
Nein. Eine Richtlinie beschreibt, was gelten soll, sie beweist nicht, dass es im Betrieb hält. Gerade die technischen Kontrollen, etwa dass ein KI-Agent nur freigegebene Werkzeuge nutzt oder keine internen Secrets abfließen, lassen sich nur durch gezielte Prüfung mit einem ausgeführten Nachweis belegen. Governance ist nur so gut wie der Beweis, dass die Kontrollen halten.