EU AI Act: Was mittelständische Industrieunternehmen jetzt wissen müssen

Was der EU AI Act ist – und was er nicht ist

Die Verordnung (EU) 2024/1689 – kurz: EU AI Act – ist das weltweit erste umfassende Regelwerk für Künstliche Intelligenz. Sie gilt unmittelbar in allen EU-Mitgliedstaaten. In Deutschland regelt das KI-Marktüberwachungsgesetz (KI-MIG), seit 29. Juli 2026 in Kraft, nur noch Zuständigkeiten und Verfahren: Zentrale Aufsicht ist die Bundesnetzagentur, in regulierten Produktbereichen bleiben die bestehenden Marktüberwachungsbehörden zuständig.

Was der AI Act nicht ist: ein allgemeines Digitalisierungsgesetz, eine Erweiterung der DSGVO oder ein Verbot von KI-Werkzeugen. Er reguliert spezifische KI-Systeme nach Risikostufe – und knüpft an diese Risikostufen unterschiedlich starke Pflichten.

Für mittelständische Industrieunternehmen ist die entscheidende Frage nicht „Haben wir KI im Einsatz?" – denn das lässt sich in vielen Fällen nicht mehr verneinen. Die entscheidende Frage ist: Welche Risikostufe hat die KI, die wir einsetzen – und was müssen wir deshalb tun?

Der AI Act unterscheidet dabei grundlegend zwischen zwei Rollen: dem Anbieter (Provider), der ein KI-System entwickelt und unter eigenem Namen auf den Markt bringt, und dem Betreiber (Deployer), der ein KI-System in seinem eigenen Kontext einsetzt. In den meisten Fällen sind mittelständische Industrieunternehmen Betreiber – nicht Anbieter. Das hat erhebliche Auswirkungen auf den Umfang der Pflichten.

Das Risikoklassensystem: Vier Stufen mit unterschiedlichen Konsequenzen

Der AI Act teilt KI-Systeme in vier Risikostufen ein. Diese Einstufung bestimmt, welche Anforderungen gelten – und ob überhaupt besondere Anforderungen gelten.

Unakzeptables Risiko (verboten): KI-Systeme, die grundlegende Rechte oder die körperliche Unversehrtheit von Menschen gefährden, sind seit Februar 2025 verboten – etwa Social Scoring, manipulative Systeme, die unterbewusstes Verhalten ausnutzen, oder Emotionserkennung am Arbeitsplatz. Der Digital Omnibus ergänzt ab dem 2. Dezember 2026 zwei weitere Verbote: Systeme, die nicht einvernehmliche intime Deepfakes erkennbarer Personen oder Darstellungen sexuellen Kindesmissbrauchs erzeugen. Für typische Industrieunternehmen ist diese Kategorie in der Regel nicht relevant – mit Ausnahme der Emotionserkennung bei Beschäftigten.

Hochrisiko-KI: Das ist die Kategorie, die für mittelständische Industrieunternehmen relevant werden kann. Hochrisiko-KI-Systeme unterliegen strengen Anforderungen an Risikomanagement, Dokumentation, menschliche Aufsicht und Konformitätsbewertung. Die konkreten Fälle erläutere ich im nächsten Abschnitt.

Begrenztes Risiko (Transparenzpflichten): Seit dem 2. August 2026 gelten die Transparenzpflichten nach Artikel 50. Systeme, die direkt mit Menschen interagieren – etwa ein Chat auf Ihrer Website –, müssen erkennbar machen, dass eine KI antwortet. Anbieter generativer Systeme müssen deren Ausgaben maschinenlesbar kennzeichnen. Als Betreiber müssen Sie Deepfakes offenlegen sowie KI-erzeugte Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren – außer ein Mensch hat sie redaktionell geprüft und verantwortet sie.

Minimales Risiko: Für die große Mehrheit der heute genutzten KI-Anwendungen – Spam-Filter, Produktionsoptimierung ohne Sicherheitsrelevanz, KI-gestützte Textverarbeitung intern, Bilderkennung in der Qualitätssicherung ohne sicherheitskritische Funktion – gelten keine spezifischen Pflichten. Verhaltenskodizes werden empfohlen, sind aber freiwillig.

Unabhängig von der Risikostufe gilt seit Februar 2025 die Pflicht zur KI-Kompetenz (Artikel 4): Wer KI-Systeme anbietet oder einsetzt, muss Maßnahmen ergreifen, um die KI-Kompetenz der Beschäftigten zu fördern, die damit arbeiten. Der Omnibus hat das entschärft – ein bestimmtes Kompetenzniveau muss nicht garantiert werden. Die Pflicht selbst bleibt.

Entscheidend für die Einordnung ist nicht der Name des Systems, sondern seine Funktion und sein Einsatzkontext. Dieselbe Software kann je nach Einsatzzweck in unterschiedliche Risikokategorien fallen.

Hochrisiko-KI im Industrieumfeld: Wann Sie betroffen sind

Ein KI-System wird auf zwei Wegen zur Hochrisiko-KI: als Sicherheitsbauteil eines Produkts, das unter EU-Harmonisierungsrecht fällt (Anhang I), oder durch seinen Einsatz in einem der in Anhang III gelisteten Bereiche. Für mittelständische Industrieunternehmen sind vor allem drei Fälle praxisrelevant:

1. Sicherheitsfunktionen in Maschinen und Anlagen

Hier hat der Digital Omnibus am meisten verändert. Die Maschinenverordnung (EU) 2023/1230 steht in Anhang I des AI Act jetzt in Abschnitt B. Damit gelten für KI in Maschinen aus dem AI Act nur noch wenige Grundsatzvorschriften – die inhaltlichen KI-Anforderungen sollen per delegiertem Rechtsakt in die Maschinenverordnung selbst aufgenommen werden und ab dem 2. August 2028 gelten. Eine parallele Konformitätsbewertung nach zwei Regelwerken soll damit weitgehend entfallen.

Klargestellt ist auch, wann KI überhaupt ein Sicherheitsbauteil ist: nur wenn sie dazu bestimmt ist, Risiken für Gesundheit und Sicherheit abzuwenden oder zu mindern, oder wenn ihr Ausfall diese gefährden würde. KI-gestützter Kollisionsschutz oder eine lernende Personenerkennung am Roboter fallen darunter. KI, die nur Effizienz, Qualitätsprüfung, vorausschauende Wartung oder Bedienkomfort verbessert, in der Regel nicht.

Unabhängig davon verlangt die Maschinenverordnung ab dem 20. Januar 2027 für Sicherheitsbauteile mit selbstlernendem Verhalten eine benannte Stelle. Was das für Steuerung, Software und Nachweise bedeutet, zeigt der Artikel zur Maschinenverordnung 2027 aus Entwicklungssicht.

2. Personalentscheidungen und Arbeitnehmerbewertung

KI-Systeme, die bei Einstellung, Beförderung, Kündigung, Aufgabenverteilung oder Leistungsbewertung von Beschäftigten eingesetzt werden – etwa KI-gestützte Bewerbervorauswahl oder automatisierte Leistungsauswertungen –, sind nach Anhang III hochriskant. Dasselbe gilt für bestimmte biometrische Systeme. Emotionserkennung am Arbeitsplatz ist sogar verboten.

In der Praxis betrifft das Industrieunternehmen, die HR-Software mit KI-Funktionen einführen, Mitarbeitertracking in der Produktion einsetzen oder automatisierte Leistungsauswertungen vornehmen. Auch hier gilt: Der Einsatzkontext entscheidet, nicht der Produktname des eingesetzten Systems.

3. Kritische Infrastruktur

KI-Systeme als Sicherheitsbauteil in Verwaltung und Betrieb kritischer Infrastruktur – Energie, Wasser, Verkehr, digitale Infrastruktur – gelten ebenfalls als hochriskant. Für die meisten mittelständischen Industrieunternehmen ist das nur relevant, wenn sie in der Betreiber- oder Lieferantenrolle für solche Infrastruktur tätig sind.

Was in der Regel nicht als Hochrisiko-KI gilt: interne Optimierungstools ohne Sicherheitsrelevanz, KI-gestützte Produktionsplanung ohne direkten Einfluss auf Sicherheitsfunktionen, KI-basierte Qualitätssicherung, Textanalyse- und Auswertungstools für interne Prozesse.

Anbieter vs. Betreiber: Wer hat welche Pflichten?

Der AI Act unterscheidet konsequent zwischen zwei Hauptakteuren: dem Anbieter (Provider), der ein KI-System entwickelt und vermarktet, und dem Betreiber (Deployer), der ein KI-System im eigenen geschäftlichen Kontext einsetzt.

Für Anbieter von Hochrisiko-KI sind die Anforderungen deutlich umfangreicher: Konformitätsbewertung vor der Markteinführung, technische Dokumentation, Registrierung in der EU-Datenbank, CE-Kennzeichnung, Qualitätsmanagementsystem, Risikomanagementsystem und laufende Überwachung nach dem Inverkehrbringen. Für KMU und – seit dem Omnibus – auch für kleine Midcap-Unternehmen gibt es Erleichterungen, etwa eine vereinfachte technische Dokumentation und ein an die Unternehmensgröße angepasstes Qualitätsmanagement.

Betreiber haben geringere, aber nicht zu unterschätzende Pflichten. Für Hochrisiko-KI-Systeme gilt als Betreiber:

• Angemessene menschliche Aufsicht über das KI-System sicherstellen
• Das System nur entsprechend den Anbieteranweisungen einsetzen
• Die vom Anbieter bereitgestellten Protokoll- und Überwachungsfunktionen nutzen
• Beschäftigte über den Einsatz von Hochrisiko-KI informieren (insbesondere bei Personalentscheidungen)
• Schwerwiegende Vorfälle und Fehlfunktionen an den Anbieter und ggf. an Marktüberwachungsbehörden melden
• Hochrisiko-KI-Systeme (in bestimmten Bereichen) in der EU-Datenbank registrieren

Für die Praxis bedeutet das: Wenn Sie als mittelständisches Unternehmen ein KI-System eines Drittanbieters einsetzen – etwa eine Qualitätssicherungssoftware mit KI-Funktion, eine Predictive-Maintenance-Lösung oder ein HR-Tool – sind Sie Betreiber. Ihre Pflichten hängen davon ab, ob das System als hochriskant einzustufen ist. Wer ein System unter eigenem Namen entwickeln lässt oder wesentlich verändert, kann dagegen selbst zum Anbieter werden.

Eine häufige Grauzone: Viele Softwareanbieter bewerben ihre Produkte mit KI-Funktionen, ohne zu klären, ob diese Funktionen unter den AI Act fallen. Als Betreiber sollten Sie diese Frage aktiv stellen: Wie ist das System eingestuft? Welche Version wurde wann in Verkehr gebracht? Wer trägt die Verantwortung für die Konformitätsbewertung – und wie geht der Anbieter mit späteren Änderungen um?

Der Zeitplan nach dem Digital Omnibus: Was gilt ab wann?

Der AI Act tritt gestaffelt in Kraft. Der Omnibus hat vor allem die Hochrisiko-Termine verschoben, weil harmonisierte Normen und Aufsichtsstrukturen nicht rechtzeitig fertig wurden. Alles andere gilt weiter wie geplant.

• Februar 2025: Verbote für KI-Praktiken mit unakzeptablem Risiko und die Pflicht zur KI-Kompetenz gelten.
• August 2025: Regeln für KI-Modelle mit allgemeinem Verwendungszweck (GPAI, z. B. große Sprachmodelle) gelten – Pflichten für deren Anbieter, nicht für Nutzer.
• 2. August 2026: Allgemeiner Geltungsbeginn, insbesondere der Transparenzpflichten nach Artikel 50.
• 2. Dezember 2026: Neue Verbote aus dem Omnibus. Ende der Übergangsfrist für die Kennzeichnung bei generativen Systemen, die vor August 2026 in Verkehr gebracht wurden.
• 2. Dezember 2027: Hochrisiko-Pflichten für Systeme nach Anhang III, etwa KI in Personalprozessen oder kritischer Infrastruktur (ursprünglich August 2026).
• 2. August 2028: Hochrisiko-Pflichten für Systeme nach Anhang I, also KI als Sicherheitsbauteil in regulierten Produkten. Für Maschinen über die Maschinenverordnung (ursprünglich August 2027).

Für Bestandssysteme gilt: Hochrisiko-Systeme, die vor dem jeweiligen Stichtag in Verkehr gebracht wurden, fallen grundsätzlich erst unter die Pflichten, wenn sie danach in ihrer Konzeption wesentlich geändert werden. Wer HR-Software mit KI-Funktion einführt, sollte deshalb Versionsstand und Einführungszeitpunkt dokumentieren.

Für mittelständische Industrieunternehmen bedeutet das: KI-Kompetenz und Transparenzpflichten gelten heute. Die Hochrisiko-Pflichten kommen ab Dezember 2027 – und eine KI-Inventur, Risikoklassifizierung und Anpassung von Beschaffungsverträgen braucht in der Praxis 6–12 Monate.

Was mittelständische Industrieunternehmen jetzt konkret tun sollten

Es gibt keine universelle Checkliste, die für jedes Unternehmen gilt – das hängt zu stark vom Einzelfall ab. Aber es gibt eine sinnvolle Reihenfolge, die in den meisten Fällen funktioniert.

Schritt 1: KI-Inventur durchführen

Erfassen Sie systematisch, welche Systeme in Ihrem Unternehmen KI-Funktionen nutzen. Das ist schwieriger als es klingt, weil KI-Funktionen oft in bestehende Software integriert sind, ohne dass das explizit kommuniziert wird. Softwarehersteller von MES-, ERP-, QM- oder HR-Systemen haben in den letzten Jahren KI-Funktionen nachgerüstet. Fragen Sie Ihre Softwareanbieter aktiv: „Setzt Ihre Lösung Machine-Learning- oder KI-Algorithmen ein, die Entscheidungen beeinflussen oder automatisieren?"

Erfassen Sie für jedes System: Funktion, Einsatzkontext, Hersteller, Kauf- oder Eigenentwicklung, und ob menschliche Entscheidungen durch das System beeinflusst werden.

Schritt 2: Risikoklassifizierung vornehmen

Prüfen Sie für jedes identifizierte KI-System: Fällt es unter einen der Hochrisiko-Bereiche aus Anhang III? Erfüllt es eine Sicherheitsfunktion in einem CE-pflichtigen Produkt? Hat es Einfluss auf Personalentscheidungen? Fallen Transparenzpflichten an?

In den meisten mittelständischen Betrieben wird das Ergebnis sein: Der größte Teil der eingesetzten KI fällt in die minimale Risikostufe und erfordert keine spezifischen Maßnahmen. Aber es ist wichtig, das explizit festzustellen – und zu dokumentieren.

Schritt 3: Verträge mit Softwareanbietern prüfen

Klären Sie für alle als hochriskant eingestuften Systeme: Wer ist nach dem AI Act der Anbieter? Welche Konformitätsunterlagen stellt der Anbieter bereit? Sind Betriebsanleitungen vorhanden, die Ihren Betreiberpflichten entsprechen? Passen Sie Beschaffungsverträge an, um AI-Act-Konformität und Informationspflichten bei Änderungen als Anforderung aufzunehmen.

Bauen Sie selbst Maschinen oder Anlagen mit KI-Sicherheitsfunktionen, sind Sie Hersteller – und Ihr Pfad führt künftig über die Maschinenverordnung, nicht über eine separate AI-Act-Bewertung.

Schritt 4: Governance-Struktur aufbauen

Legen Sie intern fest, wer für AI-Act-Compliance verantwortlich ist. In einem mittelständischen Unternehmen ist das meist keine neue Stabsstelle, sondern eine klare Zuständigkeit – typischerweise beim Geschäftsführer mit technischem Hintergrund, beim Datenschutzbeauftragten oder beim Qualitätsmanagement.

Stellen Sie sicher, dass Ihre Mitarbeiter, die KI-Systeme bedienen, über die Funktion und Grenzen dieser Systeme informiert sind. Für alle KI-Systeme ist das Teil der KI-Kompetenzpflicht, für Hochrisiko-KI kommt die menschliche Aufsicht als rechtliche Anforderung hinzu. Eine kurze interne Richtlinie und ein Schulungsnachweis reichen für die meisten Betriebe.

Schritt 5: Dokumentation anlegen

Halten Sie Ihre KI-Inventur, Risikoklassifizierungen und getroffenen Maßnahmen schriftlich fest. Auch wenn Sie aktuell keine Hochrisiko-KI einsetzen, ist eine dokumentierte Einschätzung ein wertvoller Nachweis – gegenüber Behörden, Kunden oder Geschäftspartnern.

Typische Missverständnisse – und was wirklich zutrifft

„Der Omnibus hat den AI Act verschoben – wir haben Zeit." Verschoben wurden die Hochrisiko-Pflichten. KI-Kompetenz, Verbote und Transparenzpflichten gelten bereits, und mit der Bundesnetzagentur gibt es seit Juli 2026 eine zuständige Aufsicht.

„Wir setzen keine KI ein – das betrifft uns nicht." In der Praxis stimmt das für die meisten Unternehmen nicht mehr. KI-Funktionen sind in ERP-, MES-, QM- und HR-Software integriert. Wenn Sie Software der letzten fünf Jahre nutzen, lohnt die Inventur.

„Wir kaufen die Software nur – der Anbieter muss sich darum kümmern." Das stimmt für die Anbieter-Pflichten. Für Betreiber-Pflichten – KI-Kompetenz, menschliche Aufsicht, Information der Beschäftigten, Vorfallsmeldung – sind Sie als Unternehmen selbst verantwortlich.

„Als kleines Unternehmen sind wir ausgenommen." Der AI Act enthält Erleichterungen für KMU, die der Omnibus auf kleine Midcap-Unternehmen ausgeweitet hat – vor allem bei Dokumentation, Qualitätsmanagement und Gebühren. Die inhaltlichen Anforderungen an Hochrisiko-KI gelten aber auch für kleine Unternehmen.

„Wer ChatGPT und Co. nutzt, muss alles kennzeichnen." Nein. Die GPAI-Regeln treffen die Anbieter der Modelle. Als Nutzer sind Sie Betreiber und müssen vor allem zwei Dinge beachten: Deepfakes offenlegen und KI-Texte, die die Öffentlichkeit über Themen von öffentlichem Interesse informieren, kennzeichnen – außer ein Mensch hat sie redaktionell geprüft. Interne Zusammenfassungen oder geprüfte Pressemitteilungen fallen nicht darunter.

Was das für Ihre Entscheidungen heute bedeutet

Der EU AI Act ist kein Bürokratieprojekt, das irgendwann erledigt ist. Der Omnibus hat gezeigt, dass sich auch der Rahmen selbst noch bewegt – durch technische Standards, delegierte Rechtsakte und Auslegungsleitlinien. Wer auf den endgültigen Stand wartet, wartet lange.

Für mittelständische Industrieunternehmen bedeutet das: KI-Compliance wird ein fester Bestandteil des Qualitätsmanagements, nicht anders als Maschinensicherheit oder Datenschutz heute. Die gewonnene Zeit bis Dezember 2027 ist sinnvoll genutzt, wenn Inventur, Rollen und Lieferantenverträge bis dahin stehen – dann bleiben nur noch die wenigen Hochrisiko-Fälle zu vertiefen.

Der pragmatische Einstieg: Beginnen Sie mit der Inventur. Nicht mit externen Beratern oder aufwendigen Projekten – sondern mit einer internen Liste aller Software-Systeme, die KI-Funktionen nutzen. Das braucht zwei bis drei Stunden. Was danach zu tun ist, ergibt sich aus dem Ergebnis.