Ab August 2026 müssen europäische Unternehmen, die künstliche Intelligenz einsetzen, nicht nur ihren Nutzen erläutern, sondern auch nachweisen können, wie sie diese kontrollieren. Die Verordnung (EU) 2024/1689 – das KI-Gesetz – ist in die Umsetzungsphase eingetreten, und damit haben drei Begriffe, die zuvor nur im juristischen Bereich gebräuchlich waren, Einzug in den Managementdiskurs gehalten: Rückverfolgbarkeit, Transparenz und Rechenschaftspflicht.
Um gleich zu Beginn etwas klarzustellen, da um dieses Datum viel Verwirrung herrscht: Der Kalender wurde mitten im Jahr umgestellt. Wer Dringlichkeit vermittelt, ohne die Umstellung zu erklären, weiß es entweder selbst nicht oder will es lieber nicht wissen.
Das KI-Gesetz trat am 1. August 2024 mit einem stufenweisen Umsetzungsplan in Kraft. Die Verbote unzulässiger Risikopraktiken und die Verpflichtungen zur KI-Kompetenz galten ab dem 2. Februar 2025. Die Verpflichtungen für allgemeine KI-Modelle (GPAI) und die Governance-Struktur galten ab dem 2. August 2025.
Der 2. August 2026 markiert zwei besondere Ereignisse:
Nun zum entscheidenden Teil. Im Jahr 2026 billigte die Union das Paket mit dem Namen Digitaler Omnibus, wodurch die Verpflichtungen für Hochrisikosysteme verschoben wurden: Die Verwendungen von Anhang III – Personalauswahl, Kreditwürdigkeitsprüfung, Biometrie, Bildung, wesentliche Dienstleistungen – werden auf Dezember 2027 verschoben, und die Systeme von Anhang I, KI eingebettet in bereits regulierte Produkte, auf August 2028.
Anders ausgedrückt: Bei Systemen mit hohem Risiko haben Sie mehr Zeit als Ihnen gesagt wird. Wenn Ihr System mit Nutzern interagiert oder Inhalte generiert, haben Sie weniger Spielraum als Sie denken.
Datum | Was gilt | Wer ist betroffen? |
2. Februar 2025 | Verbote und KI-Kompetenz | Alle Organisationen |
2. August 2025 | GPAI-Verpflichtungen und Governance | Anbieter von Allzweckmodellen |
2. August 2026 | GPAI-Sanktionen und Transparenz (Art. 50) | Wer setzt KI ein, die mit Menschen interagiert oder Inhalte generiert? |
2. Dezember 2027 | Anhang III Hochrisikosysteme | Personalwesen, Kreditwesen, Biometrie, Bildung, grundlegende Dienstleistungen |
2. August 2028 | Hochrisikosysteme des Anhangs I | KI ist in bereits regulierten Produkten integriert |
Die Höchststrafe beträgt 35 Millionen Euro oder 71 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Diese Summe war der Anlass für die Diskussion im Vorstand.
Hier liegt das eigentliche Problem, und es ist kein rechtliches. Es handelt sich um ein Inventurproblem.
Um regulatorische Vorgaben zu erfüllen, müssen Sie zunächst verstehen, welche KI-Systeme im Unternehmen vorhanden sind, welche Funktionen sie erfüllen, welche Daten sie verwenden und wer jeweils dafür verantwortlich ist. Die meisten Unternehmen können diese Frage nicht beantworten, da ein erheblicher Teil ihrer KI-Nutzung nie über die IT-Abteilung abgewickelt wurde.
Der IBM-Bericht „Cost of a Data Breach 2025“ quantifizierte dieses Phänomen: 201 % der analysierten Datenschutzverletzungen betrafen unautorisierte KI innerhalb der Organisation. Diese Vorfälle erhöhten die durchschnittlichen Kosten einer Datenschutzverletzung um durchschnittlich 670.000 US-Dollar, die in diesem Jahr bei 4,44 Millionen US-Dollar lagen. Noch aufschlussreicher: 97 % der Organisationen, die einen KI-bezogenen Vorfall erlebten, verfügten nicht über angemessene Zugriffskontrollen, und 63 % hatten überhaupt keine KI-Governance-Richtlinie.
Dies steht im Zusammenhang mit einem Phänomen, das wir detailliert analysiert haben: Schatten-KI, das Risiko, das durch die Firmenkarte entsteht [interner Link]. Die von einer Abteilung beauftragten Tools enthalten Kundendaten, die weder dem CISO noch dem DPO zugänglich sind. Sie erscheinen in keinem Inventar, da es nie einen Onboarding-Prozess gab.
Ohne Bestandsaufnahme ist jeder Compliance-Plan ein Dokument, das von der operativen Realität losgelöst ist.
Der taktische Fehler bestünde darin, die Verschiebung als Ausrede für Untätigkeit zu missbrauchen. Die in den Vorschriften geforderten Elemente sind keine Bürokratie, sondern genau jene Praktiken, die den sicheren Betrieb eines KI-Systems ermöglichen. Wer sie aus Pflichtgefühl umsetzt, stellt fest, dass er sie ohnehin gebraucht hätte.
Inventar der KI-Systeme. Welche Modelle und Werkzeuge werden verwendet, in welchem Prozess, mit welchen Daten, wer ist für das Geschäft verantwortlich und in welche Risikokategorie fällt jedes einzelne?.
Risikoklassifizierung nach Anwendungsfall, nicht nach Werkzeug. Dasselbe Modell kann sowohl für die Zusammenfassung von Protokollen mit geringem Risiko als auch für die Prüfung von Lebensläufen mit hohem Risiko verwendet werden. Die Klassifizierung basiert auf der Verwendung.
Entscheidungsnachvollziehbarkeit. Ein Protokoll dokumentiert eingehende und ausgehende Daten, die verwendete Modellversion und den/die Validator/in. Sobald ein System Aktionen ausführt, anstatt sie nur vorzuschlagen, verliert das Audit-Log seine Funktion als bewährte Vorgehensweise und wird zum einzigen verfügbaren Schutzmechanismus.
Definierte menschliche Aufsicht. Es geht nicht darum, ob es eine Person gibt, die dies überprüft, sondern vielmehr darum: Welche Entscheidungen bedürfen einer Bestätigung, anhand welcher Kriterien, innerhalb welchen Zeitraums und was geschieht, wenn diese Person nicht verfügbar ist?.
Transparenz gegenüber dem Nutzer. Wer mit einem System interagiert, sollte sich dessen bewusst sein. Künstlich generierte Inhalte sollten gekennzeichnet werden.
Technische und Datendokumentation. Woher stammen die Trainings- oder Kontextdaten, welche bekannten Einschränkungen hat das System und welche Evaluierungen wurden durchgeführt?.
Um das Ganze zu strukturieren, ist es nicht nötig, ein eigenes Rahmenwerk zu erfinden. NIST-Rahmenwerk für KI-Risikomanagement Es bietet das operationelle Risikomanagementmodell mit einem spezifischen Profil für generative KI, das zwölf Risikokategorien identifiziert. Der Standard ISO/IEC 42001:2023 Es bietet etwas, was NIST nicht bietet: ein zertifizierbares Managementsystem, das ein Firmenkunde oder Auditor von Ihnen verlangen wird.
Hier verliert die regulatorische Debatte ihren juristischen Charakter und wird technischer Natur – und genau da arbeiten wir.
Ein System, das nicht für die Protokollierung von Aktionen ausgelegt ist, kann die Nachverfolgbarkeit nicht nachträglich hinzufügen, ohne seine Architektur zu ändern. Ein System ohne differenziertes Berechtigungsmodell kann nicht nachweisen, wer auf welche Daten zugegriffen hat. Ein System, das an einen einzigen Softwareanbieter gebunden ist, kann Versionsänderungen nicht dokumentieren, da es keine Kontrolle über deren Zeitpunkt hat.
Diese drei Aspekte – Rückverfolgbarkeit, Berechtigungen und die Möglichkeit, das Modell zu ersetzen – werden in der Entwurfsphase festgelegt. Sie nachträglich hinzuzufügen ist kostspielig. Sie von Anfang an in die Planung einzubeziehen, ist es nicht.
Das ist der Unterschied zwischen Sicherheit von Anfang an und nachträglich angebrachten Schutzmaßnahmen. Deshalb werden Governance und Compliance bei The Cloud Group nicht als Zusatzleistungen angeboten, sondern sind in jedes Projekt integriert – mit isolierten Umgebungen, Verschlüsselung bei der Übertragung, differenzierter Zugriffskontrolle und vorkonfigurierten Audit-Logs. Wir haben es entwickelt in Unsere Arbeit zu KI-Risiken, Halluzinationen und Governance
Falls bei der nächsten Sitzung eine Entscheidung darüber getroffen werden muss, wie in dieser Angelegenheit vorzugehen ist, führt diese Reihenfolge zu Ergebnissen:
Nicht empfehlenswert ist das Gegenteil: eine vierzigseitige KI-Governance-Richtlinie zu entwerfen, bevor man überhaupt weiß, welche Systeme das Unternehmen einsetzt. Das ist viel Arbeit, beruhigt den Vorstand für ein Quartal und ändert operativ nichts.
Drei Jahre lang lautete die zentrale Frage in Unternehmen zum Thema KI: «Was können wir damit anfangen?». Von nun an existiert neben dieser Frage eine weitere: «Können wir demonstrieren, wie wir es machen?».
Die zweite Frage hält niemanden auf. Sie hält diejenigen auf, die ohne Baupläne, Genehmigungen oder Registrierung gebaut haben und nun feststellen, dass sich die Nachverfolgbarkeit nicht einfach notdürftig wiederherstellen lässt. Für diejenigen, die gut geplant haben, bedeutet die Einhaltung der Vorschriften lediglich die Dokumentation von etwas, das bereits existiert.
Ab dem 2. August 2026 treten die Sanktionsbefugnisse gegenüber Anbietern von allgemeinen Modellen und die Transparenzpflichten des Artikels 50 in Kraft: Meldung, wenn eine Person mit einem KI-System interagiert, Kennzeichnung künstlich erzeugter Inhalte und Offenlegung der Verwendung von Emotionserkennung oder biometrischer Kategorisierung.
Ja. Das Digital Omnibus-Paket verschob die Verpflichtungen für Hochrisikosysteme: Anwendungen gemäß Anhang III (Personalauswahl, Kreditwürdigkeitsprüfung, Biometrie, Bildung, wesentliche Dienstleistungen) auf Dezember 2027 und Anwendungen gemäß Anhang I (KI in bereits regulierten Produkten) auf August 2028. Die Transparenz- und GPAI-Verpflichtungen wurden nicht verschoben.
Die Höchststrafen betragen 35 Millionen Euro oder 71.030 Billionen des weltweiten Jahresumsatzes des Vorjahres, je nachdem, welcher Betrag höher ist, für die schwerwiegendsten Verstöße im Zusammenhang mit verbotenen Geschäftspraktiken.
Die Bestandsaufnahme ermittelt, welche KI-Systeme tatsächlich im Unternehmen vorhanden sind, in welchen Prozessen sie eingesetzt werden, mit welchen Daten sie arbeiten und wer jeweils die Verantwortung trägt. Das Risiko wird anschließend nach Anwendungsfall und nicht nach Tool kategorisiert, und Systeme, die personenbezogene Daten, Entscheidungen über Personen oder Geld verarbeiten, werden zuerst geprüft.
Das NIST-Rahmenwerk für KI-Risikomanagement ist ein freiwilliges Risikomanagement-Rahmenwerk mit Schwerpunkt auf generativer KI; es ist nicht zertifizierbar. ISO/IEC 42001:2023 definiert ein zertifizierbares KI-Managementsystem und ist daher das, was ein Unternehmenskunde oder Auditor als Nachweis verlangen wird.
Nicht, wenn es von Anfang an so konzipiert ist. Rückverfolgbarkeit, Berechtigungskontrolle und die Möglichkeit, das Modell zu ersetzen, sind architektonische Entscheidungen: Ihre Integration in den Entwurf verursacht nur geringe Kosten; ihre Hinzufügung nach der Inbetriebnahme des Systems erfordert eine erneute Integration.
Wissen Sie, welche KI-Systeme in Ihrem Unternehmen tatsächlich im Einsatz sind? Unser KI-Audit analysiert Modell, Daten, Nachvollziehbarkeit und Kosten: Was kann optimiert, was überarbeitet und was eingestellt werden? Festpreis und schriftliches Ergebnis. Diagnose anfordern → |
Español Español 
English
Français
العربية
Português
Deutsch
Italiano
