AI Act: Was gilt für den Mittelstand konkret?

Wie sortiert der AI Act KI-Systeme ein?

Die Verordnung reguliert nicht Technologie, sondern Verwendung. Dasselbe Sprachmodell kann in einem Fall unbedenklich und im anderen streng reguliert sein — es kommt darauf an, worüber es mitentscheidet.

Ganz oben stehen verbotene Praktiken. Dazu zählen unter anderem das Bewerten sozialen Verhaltens mit benachteiligender Wirkung, das Ableiten von Emotionen am Arbeitsplatz und in Bildungseinrichtungen außerhalb eng gefasster Sicherheits- und Gesundheitszwecke, das ungezielte Auslesen von Gesichtsbildern zum Aufbau von Datenbanken sowie Techniken, die das Verhalten unterschwellig manipulieren oder Schutzbedürftigkeit ausnutzen.

Als Hochrisiko gelten zum einen KI-Systeme, die als Sicherheitsbauteil in Produkten stecken, für die es bereits eine Konformitätsbewertung gibt. Zum anderen nennt Anhang III Einsatzfelder: Beschäftigung und Personalauswahl, Bildung, Zugang zu wesentlichen Diensten, Kreditwürdigkeitsprüfung natürlicher Personen, Risikobewertung in Lebens- und Krankenversicherungen, kritische Infrastruktur.

Darunter liegt eine Stufe mit reinen Transparenzpflichten — Systeme, die mit Menschen interagieren oder Inhalte erzeugen. Alles Übrige unterliegt keinen besonderen Pflichten aus der Verordnung; freiwillige Verhaltenskodizes bleiben möglich.

Sind Sie Anbieter oder Betreiber?

Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen oder eigener Marke auf den Markt bringt. Betreiber ist, wer ein System unter eigener Verantwortung verwendet. Wer eine eingekaufte Assistenzfunktion im Kundendienst nutzt, ist Betreiber — mit deutlich schlankeren Pflichten.

Die Rolle kann kippen. Wer ein Hochrisiko-System unter eigenem Namen anbietet, es wesentlich verändert oder seine Zweckbestimmung so ändert, dass daraus ein Hochrisiko-Einsatz wird, rückt in die Anbieterrolle mit deren umfangreichem Pflichtenprogramm: Risikomanagement, Datenqualität, technische Dokumentation, Protokollierung, Konformitätsbewertung.

Für Betreiber von Hochrisiko-Systemen gilt ein eigener, kleinerer Katalog: Nutzung entsprechend der Anleitung, geeignete Eingabedaten, menschliche Aufsicht durch geschulte Personen, Aufbewahrung der Protokolle, Information der betroffenen Personen und der Beschäftigtenvertretung, bevor ein solches System am Arbeitsplatz eingesetzt wird.

Was gilt ab wann?

Die Verordnung ist gestaffelt in Kraft getreten, und diese Reihenfolge hilft bei der Priorisierung. Zuerst wirksam wurden die Verbote und die Pflicht zur KI-Kompetenz — beides gilt seit Anfang 2025 und betrifft jedes Unternehmen, das KI einsetzt.

Danach folgten die Regeln für Allzweck-KI-Modelle, die Governance-Strukturen der Aufsicht und der Sanktionsrahmen. Der Hauptteil mit den Transparenzpflichten und den Anforderungen an Hochrisiko-Systeme nach Anhang III schließt sich daran an; für KI als Sicherheitsbauteil in bereits regulierten Produkten greifen die Pflichten zuletzt.

Praktisch heißt das: Prüfen Sie zuerst, ob irgendwo eine verbotene Praktik im Einsatz ist, kümmern Sie sich um Kompetenz und Richtlinie, und bereiten Sie die Kennzeichnung vor. Für Hochrisiko-Kandidaten bleibt Zeit zur Vorbereitung — aber nur, wenn die Bestandsaufnahme sie überhaupt sichtbar macht.

Wie ordnen sich typische Anwendungen im Mittelstand ein?

• Assistent im Kundendienst, der Anfragen beantwortet: begrenztes Risiko, Kennzeichnungspflicht gegenüber den Ratsuchenden.
• Vorauswahl von Bewerbungen, Ranking von Lebensläufen, Zuweisung von Aufgaben oder Bewertung von Leistung: Kandidat für Hochrisiko nach Anhang III.
• Textentwürfe, Übersetzungen und Bildideen im Marketing: minimales Risiko, aber Kennzeichnung veröffentlichter synthetischer Inhalte prüfen.
• Vorhersage von Wartungsbedarf an Maschinen: minimales Risiko, solange das System kein Sicherheitsbauteil einer regulierten Anlage ist.
• Bonitätseinschätzung von Geschäftspartnern: unkritisch bei Unternehmen, kritisch sobald natürliche Personen bewertet werden.

Der Personalbereich verdient besondere Aufmerksamkeit, weil dort viele Werkzeuge unauffällig hineinwachsen. Eine Software, die Bewerbungen nur nach Eingangsdatum sortiert, ist harmlos; sobald sie Eignung bewertet oder eine Rangfolge vorschlägt, verschiebt sich die Einordnung — unabhängig davon, ob am Ende ein Mensch entscheidet.

In der Logistik zeigt sich die andere Seite: Ein System, das Touren plant und Ladungen zuordnet, bleibt regulatorisch unauffällig, solange es Sachen und nicht Menschen bewertet. Nutzt dasselbe System aber Leistungsdaten der Fahrerinnen und Fahrer zur Steuerung, ist die Einordnung erneut zu prüfen.

Was verlangt die Kennzeichnungspflicht?

Art. 50 der Verordnung verfolgt ein einfaches Ziel: Menschen sollen wissen, womit sie es zu tun haben. Wer mit einem KI-System interagiert, muss darüber informiert werden, sofern es nicht ohnehin offensichtlich ist. Ein Hinweis im Chatfenster erfüllt das, ein versteckter Satz in den Nutzungsbedingungen nicht.

Für erzeugte Inhalte gilt eine doppelte Logik. Anbieter müssen künstlich erzeugte oder bearbeitete Bild-, Ton-, Video- und Textinhalte maschinenlesbar markieren. Betreiber müssen offenlegen, wenn sie täuschend echte Personendarstellungen veröffentlichen, und ebenso bei Texten, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse ohne redaktionelle Prüfung veröffentlicht werden.

Für den Redaktionsalltag lässt sich das in wenige Regeln übersetzen: Ein generiertes Motiv erhält einen Hinweis in der Bildunterschrift, ein synthetisch erzeugter Sprecher wird benannt, und geprüfte, redaktionell verantwortete Fachtexte brauchen keinen Warnhinweis. Halten Sie diese Regeln schriftlich fest, sonst entscheidet jede Person anders.

Was bedeutet die Pflicht zur KI-Kompetenz?

Art. 4 verpflichtet Anbieter und Betreiber, ein ausreichendes Maß an KI-Kompetenz beim eigenen Personal sicherzustellen — angemessen zu den Vorkenntnissen, zum Einsatzkontext und zu den Personen, auf die sich der Einsatz auswirkt. Ein Zertifikat verlangt die Verordnung nicht, einen Nachweis der Bemühung sehr wohl.

• Eine Grundschulung für alle, die KI-Werkzeuge nutzen: Funktionsweise, Grenzen, typische Fehlerbilder, Umgang mit erfundenen Angaben.
• Eine vertiefte Einweisung für Personen mit Aufsichtsfunktion über kritische Systeme.
• Teilnahmelisten, Datum und Inhalte dokumentieren — das ist der Nachweis.
• Auffrischung, wenn neue Werkzeuge eingeführt oder bestehende wesentlich geändert werden.

Ein Logistikunternehmen, dessen Disposition Vorschläge eines Planungssystems übernimmt, braucht Menschen, die einen unplausiblen Vorschlag erkennen und überstimmen können. Menschliche Aufsicht, die nur bestätigt, ist keine.

Was fragen Sie Ihre Softwareanbieter?

Die meisten KI-Funktionen im Mittelstand kommen nicht aus einem eigenen Entwicklungsprojekt, sondern als Erweiterung bestehender Software. Damit verschiebt sich der Aufwand von der Technik zur Beschaffung: Was Sie nicht selbst bauen, müssen Sie erfragen.

• Welche Funktionen des Produkts beruhen auf KI und welches Modell steckt dahinter?
• Wie stuft der Anbieter das System nach der Verordnung ein und mit welcher Begründung?
• Welche Dokumentation und welche Nutzungsanleitung stellt er Betreibern zur Verfügung?
• Werden erzeugte Inhalte maschinenlesbar markiert, und lässt sich das prüfen?
• Wie wird über wesentliche Änderungen an Modell oder Funktionsumfang informiert?

Nehmen Sie diese Punkte in die Beschaffungsunterlagen auf, dann beantwortet der Markt sie mit der Zeit von selbst. Kommt keine belastbare Auskunft, ist das eine Information über den Anbieter — und ein Grund, die Einführung zu vertagen.

Wie greifen AI Act und DSGVO ineinander?

Beide Regelwerke gelten nebeneinander und beantworten unterschiedliche Fragen. Der AI Act ist Produktsicherheitsrecht und fragt, ob ein System sicher und transparent ist. Die DSGVO fragt, ob die Verarbeitung personenbezogener Daten zulässig ist. Eine Einstufung als minimales Risiko sagt datenschutzrechtlich nichts aus.

• Für personenbezogene Daten in Eingaben brauchen Sie eine Rechtsgrundlage und eine Zweckbindung.
• Der Anbieter des KI-Dienstes ist regelmäßig Auftragsverarbeiter; der Vertrag nach Art. 28 DSGVO ist Voraussetzung, nicht Nachbereitung.
• Bei automatisierten Entscheidungen mit erheblicher Wirkung greift Art. 22 DSGVO zusätzlich — im Personalbereich der häufigste Fall.
• Systeme mit hohem Risiko für Betroffene erfordern in der Regel eine Datenschutz-Folgenabschätzung nach Art. 35.

Die Sanktionen sind in beiden Regelwerken gestaffelt und getrennt: Die DSGVO sieht in Art. 83 einen oberen Rahmen von bis zu 20 Mio. € oder 4 % des weltweiten Jahresumsatzes vor; der AI Act setzt seinen höchsten Rahmen für verbotene Praktiken an und staffelt darunter niedrigere Stufen für die übrigen Verstöße.

Womit fangen Sie an?

Mit einer Bestandsaufnahme, und zwar einer ehrlichen. Erfassen Sie jedes System mit KI-Anteil: eingekaufte Software mit Assistenzfunktionen, Erweiterungen im Büropaket, Werkzeuge einzelner Abteilungen, selbst gebaute Automatisierungen. Notieren Sie je Eintrag Anbieter, Zweck, Datenarten, Ihre Rolle, die vorläufige Risikoklasse und eine verantwortliche Person.

Rechnen Sie damit, dass diese Liste länger wird als erwartet, weil KI-Funktionen inzwischen in vielen Produkten ohne Ankündigung erscheinen. Genau deshalb ist die Liste kein einmaliges Projekt, sondern ein gepflegtes Verzeichnis mit fester Wiedervorlage.

Darauf setzt eine kurze interne Richtlinie auf: freigegebene Werkzeuge, verbotene Datenarten in Eingaben, Kennzeichnungsregeln für Veröffentlichungen, Pflicht zur inhaltlichen Prüfung vor Verwendung, Meldeweg bei auffälligen Ergebnissen. Zwei Seiten, die gelesen werden, wirken mehr als ein Regelwerk, das niemand kennt.

Ohne belastbares Verzeichnis der eingesetzten Systeme ist jede Aussage zur Einstufung eine Vermutung.

Das alles ist eine praktische Annäherung, keine Rechtsberatung. Die Einstufung eines konkreten Systems — besonders an der Grenze zum Hochrisiko-Bereich — sollten Sie mit einer Kanzlei klären, die IT- und Datenschutzrecht abdeckt, und das Ergebnis schriftlich festhalten.