EU AI Act: Was mittelständische Industrieunternehmen jetzt wissen müssen

Was der EU AI Act ist – und was er nicht ist

Die Verordnung (EU) 2024/1689 – kurz: EU AI Act – ist das weltweit erste umfassende Regelwerk für Künstliche Intelligenz. Sie gilt unmittelbar in allen EU-Mitgliedstaaten, ohne nationalen Umsetzungsakt. Das bedeutet: Kein deutsches Begleitgesetz notwendig, kein Spielraum für länderspezifische Abweichungen.

Was der AI Act nicht ist: ein allgemeines Digitalisierungsgesetz, eine Erweiterung der DSGVO oder ein Verbot von KI-Werkzeugen. Er reguliert spezifische KI-Systeme nach Risikostufe – und knüpft an diese Risikostufen unterschiedlich starke Pflichten.

Für mittelständische Industrieunternehmen ist die entscheidende Frage nicht „Haben wir KI im Einsatz?" – denn das lässt sich in vielen Fällen nicht mehr verneinen. Die entscheidende Frage ist: Welche Risikostufe hat die KI, die wir einsetzen – und was müssen wir deshalb tun?

Der AI Act unterscheidet dabei grundlegend zwischen zwei Rollen: dem Anbieter (Provider), der ein KI-System entwickelt und auf den Markt bringt, und dem Betreiber (Deployer), der ein KI-System in seinem eigenen Kontext einsetzt. In den meisten Fällen sind mittelständische Industrieunternehmen Betreiber – nicht Anbieter. Das hat erhebliche Auswirkungen auf den Umfang der Pflichten.

Das Risikoklassensystem: Vier Stufen mit unterschiedlichen Konsequenzen

Der AI Act teilt KI-Systeme in vier Risikostufen ein. Diese Einstufung bestimmt, welche Anforderungen gelten – und ob überhaupt besondere Anforderungen gelten.

Unakzeptables Risiko (verboten): KI-Systeme, die grundlegende Rechte oder die körperliche Unversehrtheit von Menschen gefährden, sind seit Februar 2025 verboten. Dazu gehören zum Beispiel biometrische Echtzeit-Massenüberwachung in öffentlichen Räumen, Social-Scoring-Systeme durch staatliche Stellen oder KI-Systeme, die unterbewusstes Verhalten manipulieren. Für typische Industrieunternehmen ist diese Kategorie in der Regel nicht relevant.

Hochrisiko-KI: Das ist die Kategorie, die für die meisten mittelständischen Industrieunternehmen relevant werden kann. Hochrisiko-KI-Systeme unterliegen strengen Anforderungen an Transparenz, Dokumentation, menschliche Aufsicht und Konformitätsbewertung. Die konkreten Anwendungsfälle erläutere ich im nächsten Abschnitt.

Begrenzte Risikostufe: Systeme wie Chatbots oder KI-generierte Inhalte müssen als solche gekennzeichnet werden – das betrifft die Transparenzpflicht. Wenn Sie auf Ihrer Website einen KI-gestützten Chat betreiben oder KI-generierte Texte veröffentlichen, fallen Sie in diese Kategorie. Die Anforderungen sind überschaubar: Kennzeichnungspflicht und Informationspflicht gegenüber Nutzern.

Minimales Risiko: Für die große Mehrheit der heute genutzten KI-Anwendungen – Spam-Filter, Produktionsoptimierung ohne Sicherheitsrelevanz, KI-gestützte Textverarbeitung intern, Bilderkennungssysteme in der Qualitätssicherung ohne sicherheitskritische Funktion – gelten keine spezifischen Pflichten. Verhaltenskodizes werden empfohlen, sind aber freiwillig.

Entscheidend für die Einordnung ist nicht der Name des Systems, sondern seine Funktion und sein Einsatzkontext. Dieselbe Software kann je nach Einsatzzweck in unterschiedliche Risikokategorien fallen.

Hochrisiko-KI im Industrieumfeld: Wann Sie betroffen sind

Anhang III der AI-Act-Verordnung listet Bereiche auf, in denen KI-Systeme automatisch als hochriskant gelten. Für mittelständische Industrieunternehmen sind vor allem drei Bereiche praxisrelevant:

1. Sicherheitskomponenten in Maschinen und Anlagen

KI-Systeme, die als Sicherheitskomponente in Produkten eingesetzt werden, die unter EU-Harmonisierungsrechtsvorschriften fallen (wie die Maschinenverordnung 2023/1230 oder die Niederspannungsrichtlinie), gelten als Hochrisiko-KI. Das betrifft konkret: KI-gestützte Kollisionsschutz- oder Not-Halt-Systeme, autonome Sicherheitsfunktionen in Roboteranlagen, KI-basierte Überwachung sicherheitskritischer Produktionsparameter.

Wichtig: Hier greift der AI Act in Verbindung mit bestehenden CE-Kennzeichnungspflichten. Wer Maschinen mit integrierten KI-Sicherheitsfunktionen baut oder verkauft, muss die Konformitätsbewertung nach AI Act zusätzlich zur Maschinenverordnung durchführen.

2. Biometrische Systeme und Arbeitnehmerüberwachung

KI-Systeme, die zur biometrischen Identifikation oder Kategorisierung von Personen eingesetzt werden, sowie KI-Systeme, die Arbeitnehmer bei Personalentscheidungen bewerten oder beeinflussen – etwa KI-gestützte Leistungsanalysen, automatisierte Überwachung am Arbeitsplatz oder KI-gestützte Bewerberauswahl – sind hochriskant nach dem AI Act.

In der Praxis betrifft das Industrieunternehmen, die Mitarbeitertracking in der Produktion einsetzen, KI-basierte Zeiterfassungs- oder Anwesenheitssysteme nutzen oder automatisierte Leistungsauswertungen vornehmen. Auch hier gilt: der Einsatzkontext entscheidet, nicht der Produktname des eingesetzten Systems.

3. Kritische Infrastruktur

KI-Systeme in der Verwaltung und im Betrieb kritischer Infrastruktur – Energie, Wasser, Verkehr – gelten ebenfalls als hochriskant. Für die meisten mittelständischen Industrieunternehmen ist das nur dann relevant, wenn sie explizit in der Betreiber- oder Lieferantenrolle für kritische Infrastruktur tätig sind.

Was in der Regel nicht als Hochrisiko-KI gilt: interne Optimierungstools ohne Sicherheitsrelevanz, KI-gestützte Produktionsplanung ohne direkten Einfluss auf Sicherheitsfunktionen, KI-basierte Qualitätssicherung in nicht-regulierten Bereichen, Textanalyse- und Auswertungstools für interne Prozesse.

Anbieter vs. Betreiber: Wer hat welche Pflichten?

Der AI Act unterscheidet konsequent zwischen zwei Hauptakteuren: dem Anbieter (Provider), der ein KI-System entwickelt und vermarktet, und dem Betreiber (Deployer), der ein KI-System im eigenen geschäftlichen Kontext einsetzt.

Für Anbieter sind die Anforderungen deutlich umfangreicher: Konformitätsbewertung vor der Markteinführung, technische Dokumentation, Registrierung in der EU-Datenbank, CE-Kennzeichnung, Qualitätsmanagementsystem, Risikomanagementsystem und laufende Überwachung nach dem Inverkehrbringen.

Betreiber haben geringere, aber nicht zu unterschätzende Pflichten. Für Hochrisiko-KI-Systeme gilt als Betreiber:

• Angemessene menschliche Aufsicht über das KI-System sicherstellen
• Das System nur entsprechend den Anbieteranweisungen einsetzen
• Die vom Anbieter bereitgestellten Protokoll- und Überwachungsfunktionen nutzen
• Mitarbeiter über den Einsatz von Hochrisiko-KI informieren (insbesondere bei Arbeitnehmerüberwachung)
• Schwerwiegende Vorfälle und Fehlfunktionen an den Anbieter und ggf. an Marktüberwachungsbehörden melden
• Hochrisiko-KI-Systeme (in bestimmten Bereichen) in der EU-Datenbank registrieren

Für die Praxis bedeutet das: Wenn Sie als mittelständisches Unternehmen ein KI-System eines Drittanbieters einsetzen – etwa eine Qualitätssicherungssoftware mit KI-Funktion, eine Predictive-Maintenance-Lösung oder ein HR-Tool – sind Sie Betreiber. Ihre Pflichten hängen davon ab, ob das System als hochriskant einzustufen ist.

Eine häufige Grauzone: Viele Softwareanbieter bewerben ihre Produkte mit KI-Funktionen, ohne zu klären, ob diese Funktionen unter den AI Act fallen. Als Betreiber haben Sie das Recht – und die Pflicht –, diese Frage bei Ihrem Anbieter aktiv zu stellen. Erhält das System eine CE-Kennzeichnung nach AI Act? Existiert eine Betriebsanleitung mit Risikoklassifizierung? Wer trägt die Verantwortung für die Konformitätsbewertung?

Der Zeitplan: Was gilt ab wann?

Der AI Act tritt in Kraft gestaffelt – ein wichtiger Punkt, den viele unterschätzen: Die Verordnung gilt nicht erst „irgendwann in der Zukunft". Entscheidende Teile sind bereits in Kraft.

• August 2024: Verordnung in Kraft getreten. Governance-Strukturen werden aufgebaut (AI Office der EU-Kommission).
• Februar 2025: Verbote für KI-Systeme mit unakzeptablem Risiko gelten. Verbotene Praktiken sind seit diesem Datum durchsetzbar.
• August 2025: Regeln für KI-Systeme mit allgemeinem Verwendungszweck (GPAI – General Purpose AI, z.B. Sprachmodelle wie GPT-4) gelten. Anbieter solcher Modelle müssen Transparenzpflichten und technische Dokumentationsanforderungen erfüllen.
• August 2026: Hauptteil der Verordnung gilt vollständig. Alle Anforderungen für Hochrisiko-KI-Systeme nach Anhang III gelten für Anbieter und Betreiber.
• August 2027: Anforderungen für Hochrisiko-KI-Systeme in Produkten nach Anhang I (also KI in CE-pflichtigen Produkten) gelten vollständig – das betrifft Maschinen, Medizinprodukte, Fahrzeuge etc.

Für mittelständische Industrieunternehmen bedeutet das: Der relevante Stichtag für die meisten Pflichten ist August 2026. Das klingt nach ausreichend Zeit – ist es aber nur, wenn Sie jetzt mit der Bestandsaufnahme beginnen. Eine vollständige KI-Inventur, Risikoklassifizierung und ggf. Anpassung von Beschaffungsprozessen und Verträgen braucht in der Praxis 6–12 Monate.

Was mittelständische Industrieunternehmen jetzt konkret tun sollten

Es gibt keine universelle Checkliste, die für jedes Unternehmen gilt – das hängt zu stark vom Einzelfall ab. Aber es gibt eine sinnvolle Reihenfolge, die in den meisten Fällen funktioniert.

Schritt 1: KI-Inventur durchführen

Erfassen Sie systematisch, welche Systeme in Ihrem Unternehmen KI-Funktionen nutzen. Das ist schwieriger als es klingt, weil KI-Funktionen oft in bestehende Software integriert sind, ohne dass das explizit kommuniziert wird. Softwarehersteller von MES-, ERP-, QM- oder HR-Systemen haben in den letzten Jahren KI-Funktionen nachgerüstet. Fragen Sie Ihre Softwareanbieter aktiv: „Setzt Ihre Lösung Machine-Learning- oder KI-Algorithmen ein, die Entscheidungen beeinflussen oder automatisieren?"

Erfassen Sie für jedes System: Funktion, Einsatzkontext, Hersteller, Kauf- oder Eigenentwicklung, und ob menschliche Entscheidungen durch das System beeinflusst werden.

Schritt 2: Risikoklassifizierung vornehmen

Prüfen Sie für jedes identifizierte KI-System: Fällt es unter einen der Hochrisiko-Bereiche aus Anhang III? Handelt es sich um eine Sicherheitskomponente in einem CE-pflichtigen Produkt? Hat das System Einfluss auf Arbeitnehmerentscheidungen?

In den meisten mittelständischen Betrieben wird das Ergebnis sein: Der größte Teil der eingesetzten KI fällt in die minimale Risikostufe und erfordert keine spezifischen Maßnahmen. Aber es ist wichtig, das explizit festzustellen – und zu dokumentieren.

Schritt 3: Verträge mit Softwareanbietern prüfen

Klären Sie für alle als hochriskant eingestuften Systeme: Wer ist nach dem AI Act der Anbieter? Welche Konformitätsunterlagen stellt der Anbieter bereit? Sind Betriebsanleitungen vorhanden, die Ihren Betreiberpflichten entsprechen? Passen Sie Beschaffungsverträge an, um AI-Act-Konformität als Anforderung aufzunehmen.

Dieser Punkt ist besonders relevant, wenn Sie Maschinen oder Anlagen bauen, die KI-Sicherheitsfunktionen enthalten – hier sind Sie möglicherweise selbst Anbieter, nicht nur Betreiber.

Schritt 4: Governance-Struktur aufbauen

Legen Sie intern fest, wer für AI-Act-Compliance verantwortlich ist. In einem mittelständischen Unternehmen ist das meist keine neue Stabsstelle, sondern eine klare Zuständigkeit – typischerweise beim Geschäftsführer mit technischem Hintergrund, beim Datenschutzbeauftragten oder beim Qualitätsmanagement.

Stellen Sie sicher, dass Ihre Mitarbeiter, die KI-Systeme bedienen, über die Funktion und Grenzen dieser Systeme informiert sind. Das ist keine optionale Empfehlung – für Hochrisiko-KI ist menschliche Aufsicht eine rechtliche Anforderung.

Schritt 5: Dokumentation anlegen

Halten Sie Ihre KI-Inventur, Risikoklassifizierungen und getroffenen Maßnahmen schriftlich fest. Auch wenn Sie aktuell keine Hochrisiko-KI einsetzen, ist eine dokumentierte Einschätzung ein wertvoller Nachweis – gegenüber Behörden, Kunden oder Geschäftspartnern.

Typische Missverständnisse – und was wirklich zutrifft

„Wir setzen keine KI ein – das betrifft uns nicht." In der Praxis stimmt das für die meisten Unternehmen nicht mehr. KI-Funktionen sind in ERP-, MES-, QM- und HR-Software integriert. Wenn Sie Software der letzten fünf Jahre nutzen, lohnt die Inventur.

„Wir kaufen die Software nur – der Anbieter muss sich darum kümmern." Das stimmt für die Anbieter-Pflichten. Für Betreiber-Pflichten – menschliche Aufsicht, Mitarbeiterinformation, Vorfallsmeldung – sind Sie als Unternehmen selbst verantwortlich. Beschaffung schützt nicht vollständig vor Compliance-Verantwortung.

„August 2026 ist noch weit weg." Ein Jahr Vorlauf klingt komfortabel. KI-Inventur, Risikoklassifizierung, Vertragsanpassungen und Mitarbeiterschulungen brauchen in der Praxis Zeit. Wer im Sommer 2026 anfängt, ist zu spät.

„Als kleines Unternehmen sind wir ausgenommen." Der AI Act enthält einige erleichterte Regelungen für KMU – vor allem bei Gebühren für Konformitätsbewertungen und beim Zugang zu technischer Unterstützung. Die inhaltlichen Anforderungen (Hochrisiko-KI) gelten aber auch für kleine Unternehmen, wenn sie entsprechende Systeme einsetzen oder entwickeln.

„ChatGPT und Co. fallen unter den AI Act." Ja – aber als GPAI-Systeme nach Kapitel V, mit deutlich anderen Regeln als Hochrisiko-KI. Als Nutzer von Sprachmodellen sind Sie Betreiber eines begrenzten-Risiko-Systems. Transparenzpflicht: KI-generierte Inhalte kennzeichnen. Das ist überschaubar – und seit August 2025 Pflicht.

Was das für Ihre Entscheidungen heute bedeutet

Der EU AI Act ist kein Bürokratieprojekt, das irgendwann erledigt ist. Er ist der Beginn einer dauerhaften Regulierung, die in den nächsten Jahren weiter konkretisiert wird – durch technische Standards, delegierte Rechtsakte und Auslegungsleitlinien der Marktüberwachungsbehörden.

Für mittelständische Industrieunternehmen bedeutet das: KI-Compliance wird ein fester Bestandteil des Qualitätsmanagements. Nicht anders als Maschinensicherheit oder Datenschutz heute. Die Unternehmen, die jetzt strukturiert beginnen – mit einer vollständigen Inventur, klarer Risikoklassifizierung und sauberer Dokumentation – haben 2026 einen klaren Vorteil gegenüber denen, die reaktiv handeln.

Der pragmatische Einstieg: Beginnen Sie mit der Inventur. Nicht mit externen Beratern oder aufwendigen Projekten – sondern mit einer internen Liste aller Software-Systeme, die KI-Funktionen nutzen. Das braucht zwei bis drei Stunden. Was danach zu tun ist, ergibt sich aus dem Ergebnis.