Was der EU AI Act ist, und was er nicht ist
Der EU AI Act (Verordnung (EU) 2024/1689) ist die weltweit erste umfassende gesetzliche Regulierung von Künstlicher Intelligenz. Er wurde im August 2024 in Kraft gesetzt und wird schrittweise wirksam: Die Verbote für bestimmte KI-Praktiken (Art. 5) gelten seit Februar 2025, die Anforderungen für General-Purpose-AI-Modelle seit August 2025, und die Transparenzpflichten für limitiertes Risiko (Art. 50) ab 2. August 2026. Die vollständigen Hochrisiko-Anforderungen nach Anhang III wurden durch den im Juni 2026 final beschlossenen „Digital Omnibus" auf den 2. Dezember 2027 verschoben (in regulierte Produkte eingebettete Systeme nach Anhang I auf 2. August 2028).
Was der EU AI Act nicht ist: ein pauschales Verbot oder eine Innovationsbremse für alle KI-Anwendungen. Der Großteil der KI-Anwendungen in deutschen Unternehmen fällt in die Kategorie „minimales Risiko" oder „limitiertes Risiko", mit überschaubaren Anforderungen. Der strenge Teil des Gesetzes trifft Systeme, die in spezifischen Hochrisiko-Bereichen eingesetzt werden: Personalentscheidungen, Kreditvergabe, kritische Infrastruktur.
Die praktische Frage für jeden Unternehmer ist daher nicht „Wie reguliert der EU AI Act KI allgemein?", sondern: „Fällt irgendeines meiner KI-Systeme in eine Hochrisiko-Kategorie?" Die Antwort bestimmt den gesamten Compliance-Aufwand.
- In Kraft seit August 2024; Verbote (Art. 5) seit Feb 2025, GPAI seit Aug 2025
- Anhang-III-Hochrisiko-Pflichten per Digital Omnibus auf 2. Dezember 2027 verschoben
- Nächste bindende Frist: Transparenzpflichten (Art. 50) ab 2. August 2026
- Höchststrafe: 35 Mio. € oder 7 % Jahresumsatz für verbotene KI
Die vier Risikoklassen: Wo Ihr System einzuordnen ist
Verbotene KI (Art. 5): Seit Februar 2025 verboten. Art. 5 listet acht Verbotstatbestände. Dazu gehören: Social Scoring (Bewertung anhand sozialen Verhaltens); unterschwellige oder gezielt manipulative bzw. täuschende Techniken; Ausnutzung von Schwächen vulnerabler Gruppen; ungezieltes Auslesen von Gesichtsbildern zum Aufbau von Datenbanken; Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen; biometrische Kategorisierung nach sensiblen Merkmalen; Predictive Policing allein auf Basis von Profiling; sowie Echtzeit-Fernbiometrie in öffentlichen Räumen zu Strafverfolgungszwecken (mit engen Ausnahmen).
Hochrisiko-KI (Anhang III): Strenge Anforderungen, ursprünglich ab August 2026, durch den Digital Omnibus auf den 2. Dezember 2027 verschoben. Betrifft: KI in kritischer Infrastruktur, Bildung, Beschäftigung und Personalmanagement, wesentlichen Dienstleistungen (Kredite, Versicherungen), Strafverfolgung, Migration, Rechtspflege sowie Biometrie. Für jede Kategorie gibt es spezifische Anforderungen: technische Dokumentation, Konformitätsbewertung, Logging, menschliche Aufsicht.
Limitiertes Risiko: Chatbots, KI-generierte Inhalte, Deep-Fake-Technologien. Hauptanforderung: Transparenz gegenüber Nutzern. Wenn Ihr Unternehmen einen KI-Chatbot betreibt, müssen Nutzer wissen, dass sie mit KI kommunizieren. Diese Transparenzpflichten (Art. 50) gelten ab 2. August 2026 und sind damit die nächste bindende Frist des AI Act. Das ist machbar und für die meisten Unternehmen der einzige EU-AI-Act-Aufwand.
Minimales Risiko: Spam-Filter, KI in Videospielen, KI für Produktionsoptimierung ohne direkte Entscheidungswirkung auf Menschen. Keine besonderen Anforderungen.
- Verbotene KI (Art. 5): acht Verbotstatbestände, in Kraft seit Februar 2025
- Hochrisiko (Anhang III): vollständige Anforderungen ab 2. Dezember 2027 (Omnibus-Verschiebung)
- Limitiertes Risiko: Transparenzpflicht (Art. 50) ab 2. August 2026
- Minimales Risiko: keine besonderen Anforderungen
Hochrisiko-KI im Detail: Wer ist wirklich betroffen?
Anhang III listet acht Kategorien auf: 1. Biometrie, 2. kritische Infrastruktur, 3. Bildung, 4. Beschäftigung und Personalmanagement, 5. wesentliche Dienstleistungen, 6. Strafverfolgung, 7. Migration und Grenzkontrolle, 8. Rechtspflege und demokratische Prozesse. Für den deutschen B2B-Mittelstand sind vor allem drei relevant: Kategorie 2 (kritische Infrastruktur, relevant für Energie, Wasser, Transport), Kategorie 4 (Beschäftigung und Personalmanagement, betrifft nahezu jedes Unternehmen, das HR-KI einsetzt) und Kategorie 5 (wesentliche Dienstleistungen, relevant für Banken, Versicherungen, öffentliche Dienstleistungserbringer).
Kategorie 4 verdient besondere Aufmerksamkeit: Sie umfasst KI-Systeme für Recruitment, Leistungsbewertung, Mitarbeiterüberwachung und Beförderungsentscheidungen. Wer ein KI-Tool einsetzt, das Bewerbungen vorselektiert, Leistungsdaten analysiert oder automatisiert Bewertungen erzeugt, ist mit hoher Wahrscheinlichkeit im Hochrisiko-Bereich.
Wichtige Nuance: Der Anwendungskontext entscheidet. Ein allgemeines LLM (GPT-4o, Llama 4) ist keine Hochrisiko-KI. Wenn dasselbe LLM in einem HR-Tool eingesetzt wird, das Bewerbungsunterlagen bewertet und Rankings erstellt, ist der Einsatz hochriskant. Sie als Betreiber tragen die Compliance-Verantwortung, auch wenn das Modell von einem Drittanbieter stammt.
- HR-KI: automatisiertes Screening, Leistungsbewertung, Mitarbeitermonitoring = Hochrisiko
- Kreditvergabe-KI: automatisierte Bonitätsbewertung = Hochrisiko
- Allgemeine LLMs sind per se kein Hochrisiko: der Einsatzkontext entscheidet
- Als Betreiber tragen Sie Compliance-Verantwortung, auch bei Drittanbieter-KI
Was Hochrisiko-Systeme konkret voraussetzen
Technische Dokumentation (Anhang IV): Eine vollständige Beschreibung des Systems: Zweck, Architektur, Trainingsdaten, Performance-Metriken, bekannte Limitierungen und Risiken. Diese Dokumentation muss aktuell gehalten werden und bei Behördenanfragen vorgelegt werden können.
Konformitätsbewertung: Für die meisten Hochrisiko-Systeme: Selbstbewertung nach den harmonisierten Normen. Für bestimmte Kategorien (biometrische Identifikation, kritische Infrastruktur): externe Notified Body. Nach erfolgreicher Bewertung: CE-Kennzeichnung.
Logging-Pflicht: Das System muss automatisch Logs generieren, die die Rückverfolgbarkeit von Entscheidungen ermöglichen. Zeitstempel, relevante Inputs, Outputs, Konfiguration zum Zeitpunkt der Entscheidung.
Menschliche Aufsicht: Das System muss so gestaltet sein, dass Menschen Entscheidungen überprüfen, korrigieren und das System stoppen können. Vollautomatische, irreversible Entscheidungen ohne menschliche Eingriffsmöglichkeit sind nicht zulässig.
Registrierung: Hochrisiko-Systeme müssen in der EU-KI-Datenbank registriert werden.
- Technische Dokumentation (Anhang IV): vollständig vor dem Go-Live
- Konformitätsbewertung: Selbstbewertung oder externe Notified Body je nach Kategorie
- Automatisches Logging: Zeitstempel, Inputs, Outputs für jede Entscheidung
- Human-Override: jede Entscheidung muss durch Menschen überschreibbar sein
- EU-KI-Datenbank: Registrierungspflicht für Hochrisiko-Systeme
Bußgelder und Durchsetzung: Das realistische Risiko
Der EU AI Act sieht drei Bußgeld-Stufen vor (Art. 99): Bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes für verbotene KI (Art. 5). Bis zu 15 Millionen Euro oder 3 % für Verstöße gegen die meisten sonstigen Pflichten — etwa fehlende Dokumentation, fehlende Konformitätsbewertung, Logging-Defizite, aber auch verletzte Transparenzpflichten nach Art. 50. Bis zu 7,5 Millionen Euro oder 1 % für falsche oder irreführende Angaben gegenüber Behörden. Maßgeblich ist jeweils der höhere Wert; für KMU und Start-ups gilt der jeweils niedrigere.
Die Bundesnetzagentur ist die zentrale Koordinierungs- und Auffang-Marktüberwachungsbehörde in Deutschland (KI-Durchführungsgesetz, 2026), soweit nicht eine Fachbehörde zuständig ist. Sektorbehörden bleiben in ihren Bereichen zuständig: die BaFin für Finanzdienstleistungen, der/die BfDI im behördlichen Bereich, die Landesmedienanstalten für Medien.
Realistisches Szenario für die Anfangsphase: Behörden werden primär auf Beschwerden reagieren und bei ersten Verstößen Abhilfefristen einräumen, bevor Bußgelder verhängt werden. Der richtige Zeitpunkt, Compliance-Defizite zu korrigieren, ist jetzt — vor der jeweiligen Frist, nicht nach einem Behördenbesuch.
- Stufe 1 (verbotene KI): 35 Mio. € / 7 % Jahresumsatz
- Stufe 2 (sonstige Pflichten inkl. Art.-50-Transparenz): 15 Mio. € / 3 %
- Stufe 3 (falsche Angaben an Behörden): 7,5 Mio. € / 1 %
- Bundesnetzagentur als zentrale Koordinierungs-/Auffangbehörde; Fachbehörden sektoral
- KMU: der niedrigere von Betrag/Prozent gilt, aber keine Befreiung von Pflichten
DSGVO und EU AI Act: Beide gleichzeitig erfüllen
Ein häufiges Missverständnis: DSGVO-Konformität impliziert EU-AI-Act-Konformität. Das stimmt nicht. Beide Regelwerke regulieren unterschiedliche Aspekte: Die DSGVO schützt personenbezogene Daten, der EU AI Act regelt Systemeigenschaften von KI, unabhängig davon, ob personenbezogene Daten verarbeitet werden.
Wo sich beide überschneiden: KI-Systeme, die personenbezogene Daten verarbeiten und in eine Hochrisiko-Kategorie fallen. Hier sind beide Regelwerke parallel zu erfüllen. Die DSGVO-Anforderungen (Rechtsgrundlage, Datenminimierung, Auskunftsrecht) und die EU-AI-Act-Anforderungen (technische Dokumentation, Logging, Human Override) ergänzen sich, ersetzen sich aber nicht.
Praktischer Tipp: Wenn Sie bereits ein solides DSGVO-Verarbeitungsverzeichnis haben, ergänzen Sie es um EU-AI-Act-spezifische Felder. Dasselbe KI-Inventar, dieselbe Review-Struktur, aber mit Risikoklassifikation und Konformitätsstatus als zusätzliche Spalten.
- DSGVO = Datenschutz; EU AI Act = Systemeigenschaften, beides separat prüfen
- Überschneidung bei KI mit personenbezogenen Daten in Hochrisiko-Kontext
- DSGVO Art. 22 (automatisierte Entscheidungen) als konzeptionelle Nähe zur Human-Oversight-Pflicht (Art. 14 AI Act)
- DSGVO-Verarbeitungsverzeichnis um EU-AI-Act-Felder ergänzen, doppelten Aufwand vermeiden
Compliance-Roadmap: Was jetzt zu tun ist
Jetzt: KI-Inventar erstellen. Alle KI-Systeme, -Tools und -Funktionen in eingekaufter Software erfassen. Für jedes System: Zweck, betroffene Personengruppen, Entscheidungsrelevanz. Risikoklassifikation nach Anhang III durchführen.
Bis 2. August 2026: Transparenzhinweise für Chatbots und KI-generierte Inhalte (Art. 50) implementieren — das ist die nächste harte Frist. Für Hochrisiko-Systeme nach Anhang III bleibt nach der Omnibus-Verschiebung mehr Zeit bis 2. Dezember 2027; der frühe Start lohnt trotzdem: technische Dokumentation, Logging-Infrastruktur, Human-Override-Prozesse dokumentieren und testen.
Laufend: Konformitätsbewertungen bei Systemänderungen wiederholen. Registrierung in der EU-KI-Datenbank vornehmen (für Hochrisiko-Systeme). Drittanbieter-KI auf Konformitätsnachweise prüfen. Mitarbeiter schulen.
- Schritt 1: KI-Inventar, jetzt, vor allen anderen Maßnahmen
- Schritt 2: Risikoklassifikation, Anhang III Punkt für Punkt prüfen
- Schritt 3: Art.-50-Transparenz bis 2. August 2026; Hochrisiko-Doku bis 2. Dezember 2027
- Laufend: Drittanbieter-Compliance prüfen, Mitarbeiter informieren
