Die gute und die schlechte Nachricht
Die gute Nachricht für die meisten B2B-Unternehmen: Nicht jede KI-Anwendung ist automatisch hochriskant. Die schlechte Nachricht: Viele Unternehmen haben noch kein sauberes Inventar, was ihre KI-Systeme überhaupt tun.
Update (Stand Juli 2026): Der Digital Omnibus wurde von beiden EU-Gesetzgebern final angenommen und verschiebt die Anhang-III-Vollpflichten auf den 2. Dezember 2027 (in Produkte eingebettete Hochrisiko-Systeme: 2. August 2028). Die Einstufung, was als Hochrisiko gilt, ändert sich dadurch nicht — nur die Frist. Die Bußgelder: bis 35 Mio. € oder 7 % des weltweiten Jahresumsatzes für verbotene Praktiken (Art. 5), bis 15 Mio. € oder 3 % für die meisten Pflichtverstöße. Die Art.-50-Transparenzpflichten für Chatbots und generative KI bleiben beim 2. August 2026.
Die vier Risikoklassen des EU AI Act
Der EU AI Act teilt KI-Systeme in vier Kategorien ein:
Verbotene KI (Art. 5): Diese Systeme dürfen ab sofort nicht mehr betrieben werden. Dazu gehören: Social-Scoring-Systeme, die Menschen aufgrund sozialen Verhaltens bewerten; KI zur Echtzeitüberwachung in öffentlichen Räumen mit biometrischer Identifikation (mit engen Ausnahmen für Strafverfolgung); KI, die unbewusst das Verhalten von Menschen manipuliert; KI zur Ausnutzung von Schwächen vulnerabler Gruppen.
Hochrisiko-KI (Anhang III): Hier liegt der Fokus für B2B-Unternehmen. Strenge Anforderungen, aber keine Verbote.
Limitierte Risiko-KI: Chatbots und ähnliche Systeme mit Transparenzpflichten (Nutzer müssen wissen, dass sie mit KI kommunizieren).
Minimales Risiko: Spam-Filter, KI in Videospielen: keine besonderen Anforderungen.
Was konkret als Hochrisiko gilt: Anhang III im Detail
Anhang III listet die Hochrisiko-Bereiche auf. Für B2B-Unternehmen besonders relevant:
Kategorie 4, Beschäftigung und Personalmanagement:
KI-gestützte Recruiting-Tools zur Bewerberselektion, Leistungsbewertungssysteme, Systeme zur Überwachung von Mitarbeitern, KI-gestützte Beförderungsentscheidungen. Das ist die Kategorie, in die die meisten B2B-HR-KI-Anwendungen fallen.
Kategorie 5, Zugang zu wesentlichen Dienstleistungen:
KI-gestützte Kreditwürdigkeitsprüfungen, Versicherungsrisikobewertungen, Notfallmaßnahmen-Priorisierung. Relevant für Fintech- und InsurTech-Unternehmen.
Kategorie 6, Strafverfolgung: Weitgehend irrelevant für normale B2B-Unternehmen.
Kategorie 7, Migration und Asyl: Irrelevant für die meisten B2B-Unternehmen.
Kategorie 8, Rechtspflege: KI für Gerichtsurteile, Strafzumessung. Relevant für Legal-Tech.
Was Hochrisiko-KI konkret voraussetzt
Wenn Ihr System in eine Hochrisiko-Kategorie fällt, müssen Sie ab dem 2. Dezember 2027 (per Digital Omnibus verschoben; ursprünglich war der 2. August 2026 vorgesehen) folgende Anforderungen erfüllen:
Technische Dokumentation (Anhang IV): Vollständige Beschreibung des Systems: Trainingsdaten, Architektur, Performance-Metriken, bekannte Limitierungen. Kein Marketingdokument, sondern technische Substanz.
Konformitätsbewertung: Für die meisten Hochrisiko-Systeme: Selbstbewertung nach harmonisierten Normen. Für Biometrie und kritische Infrastruktur: externe Notified Body.
Logging-Pflicht: Das System muss automatisch Logs generieren, die Rückverfolgbarkeit ermöglichen. Eingaben, Ausgaben, Zeitstempel, relevante Parameter.
Menschliche Aufsicht: Das System muss so gestaltet sein, dass Menschen eingreifen, korrigieren und notfalls abschalten können. Vollautomatische Entscheidungen ohne menschliche Überprüfungsmöglichkeit sind nicht zulässig.
Registrierungspflicht: Hochrisiko-Systeme müssen in der EU-Datenbank (EUDAMED-Äquivalent für KI) registriert werden.
Was die meisten Unternehmen unterschätzen: Der Verwendungskontext entscheidet
Ein KI-System ist nicht per se Hochrisiko. Der Kontext entscheidet. Ein Textgenerator, der Marketing-E-Mails schreibt: kein Hochrisiko. Derselbe Textgenerator, der automatisch Ablehnungsbescheide für Kreditanträge formuliert: Hochrisiko.
Das hat eine praktische Konsequenz: Allgemein verfügbare KI-Tools (ChatGPT, Copilot) werden zu Hochrisiko-Systemen, wenn sie von Ihrem Unternehmen in einem Hochrisiko-Kontext eingesetzt werden. Der Anbieter liefert das Werkzeug, aber Ihr Unternehmen ist als "Betreiber" für die EUAIA-Konformität des Einsatzes verantwortlich.
Der erste Schritt: KI-Inventar erstellen
Bevor Sie Compliance-Maßnahmen starten, brauchen Sie ein vollständiges Inventar aller KI-Systeme, die in Ihrem Unternehmen eingesetzt werden, inklusive der eingekauften Drittanbieter-Tools.
Für jedes System klären Sie:
Meine Erfahrung: Dieses Inventar existiert in den meisten Unternehmen nicht. Die Erstellung dauert typischerweise zwei bis vier Wochen und ist der unverzichtbare erste Schritt. Die verschobene Frist ist kein Grund zu warten — sie ist die Gelegenheit, das Inventar ohne Zeitdruck sauber aufzubauen.
---
Vollständige EU AI Act Compliance-Strategie: Checklisten, Strafen, DSGVO-Zusammenhang und Compliance-by-Design für Entwickler im Leitfaden: EU AI Act: Der Praxis-Leitfaden für deutsche Unternehmen
- Was entscheidet oder empfiehlt das System?
- Wen betrifft die Entscheidung (Mitarbeiter, Kunden, Dritte)?
- Fällt der Anwendungsfall in eine Anhang-III-Kategorie?
- Wer ist rechtlich verantwortlich, Ihr Unternehmen als Betreiber oder der Anbieter?