KI-Verordnung
Die EU-KI-Verordnung
verständlich erklärt.
Die EU-KI-Verordnung (Regulation 2024/1689) reguliert erstmals den Einsatz von Künstlicher Intelligenz in Europa. Was das für Ihren Mittelstandsbetrieb bedeutet — und was Sie jetzt tun müssen.
Was ist die KI-Verordnung?
Die KI-Verordnung (EU AI Act, Regulation 2024/1689) ist das weltweit erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz. Sie trat am 1. August 2024 in Kraft und wird schrittweise bis 2027 durchgesetzt.
Das Gesetz verfolgt einen risikobasierten Ansatz: Je höher das Risiko eines KI-Systems für Gesundheit, Sicherheit oder Grundrechte, desto strenger die Anforderungen. Für den deutschen Mittelstand ist besonders relevant: KI-Systeme in der Fertigung (Qualitätskontrolle, Predictive Maintenance), im Personalwesen und in der Kundeninteraktion fallen häufig unter die Hochrisiko-Kategorie.
Betroffen sind alle Unternehmen, die KI-Systeme entwickeln, vertreiben oder einsetzen — unabhängig von der Unternehmensgröße.
Zeitstrahl
Stufenweise Durchsetzung bis 2027
Inkrafttreten
Die KI-Verordnung (EU) 2024/1689 tritt offiziell in Kraft.
Verbotene Praktiken
Verbot von Social Scoring, manipulativen KI-Systemen und biometrischer Echtzeit-Fernidentifizierung.
GPAI-Regeln & Governance
Regeln für KI-Modelle mit allgemeinem Verwendungszweck (GPAI). Einrichtung der Governance-Strukturen.
Hochrisiko-KI-Systeme
Pflichten für Hochrisiko-KI-Systeme in Annex III treten in Kraft: Konformitätsbewertung, Dokumentation, menschliche Aufsicht.
Vollständige Durchsetzung
Alle Regelungen gelten vollständig, einschließlich eingebetteter KI-Systeme in Produkten (Annex I).
Risikoklassen
Vier Risikostufen — Ihre Pflichten hängen davon ab
Die KI-Verordnung klassifiziert KI-Systeme nach ihrem Risikopotenzial. Je höher die Stufe, desto umfangreicher die Anforderungen.
Unannehmbares Risiko
Verboten ab Februar 2025
- Social Scoring durch Behörden
- Manipulative unterschwellige Techniken
- Biometrische Echtzeit-Fernidentifizierung
- Emotionserkennung am Arbeitsplatz
Hohes Risiko
Strenge Pflichten ab August 2026
- KI in kritischer Infrastruktur (Energie, Wasser)
- KI in Medizinprodukten
- Sicherheitskomponenten in Maschinen
- KI-gestützte Personalauswahl
- Predictive Maintenance in Fertigung
Begrenztes Risiko
Transparenzpflichten
- Chatbots und virtuelle Assistenten
- KI-generierte Inhalte (Deepfakes)
- Emotionserkennungssysteme (außerhalb Arbeitsplatz)
Minimales Risiko
Keine besonderen Pflichten
- Spamfilter
- KI in Videospielen
- Bestandsverwaltungssysteme
Betroffenheit
Wer ist von der KI-Verordnung betroffen?
Anbieter (Provider)
Unternehmen, die KI-Systeme entwickeln oder entwickeln lassen und unter eigenem Namen in Verkehr bringen.
Betreiber (Deployer)
Unternehmen, die KI-Systeme in eigener Verantwortung einsetzen — z.B. KI-gestützte Qualitätskontrolle in der Fertigung.
Importeure & Händler
Unternehmen, die KI-Systeme aus Drittstaaten importieren oder innerhalb der EU vertreiben.
Produkthersteller
Hersteller, die KI als Sicherheitskomponente in ihre Produkte integrieren (z.B. Maschinen, Medizinprodukte).
Für den Mittelstand besonders relevant: Wenn Sie KI-Systeme in Qualitätskontrolle, Predictive Maintenance oder automatisierten Entscheidungen einsetzen, gelten Sie als Betreiber (Deployer) und unterliegen den Betreiberpflichten der KI-Verordnung.
Pflichten
Anforderungen für Hochrisiko-KI-Systeme
Wer Hochrisiko-KI-Systeme entwickelt oder einsetzt, muss diese Kernpflichten erfüllen.
Risikomanagement
Art. 9 KI-VOEinrichtung eines Risikomanagementsystems über den gesamten Lebenszyklus des KI-Systems. Identifikation und Bewertung bekannter und vorhersehbarer Risiken.
Technische Dokumentation
Art. 11 KI-VOUmfassende technische Dokumentation vor dem Inverkehrbringen, einschließlich Systembeschreibung, Zweckbestimmung, Leistungskennzahlen und Testberichte.
Menschliche Aufsicht
Art. 14 KI-VOHochrisiko-KI-Systeme müssen so konzipiert sein, dass sie von natürlichen Personen wirksam beaufsichtigt werden können. Eingriffsmöglichkeit muss gewährleistet sein.
Transparenz
Art. 13 KI-VOKI-Systeme müssen so konzipiert sein, dass ihre Funktionsweise hinreichend transparent und für die Betreiber verständlich ist.
Daten-Governance
Art. 10 KI-VOTrainings-, Validierungs- und Testdaten müssen relevanten Qualitätskriterien genügen. Dokumentation der Datenherkunft und Verarbeitungsprozesse.
Konformitätsbewertung
Art. 43 KI-VOVor dem Inverkehrbringen muss eine Konformitätsbewertung durchgeführt werden — je nach Risikoklasse intern oder durch eine benannte Stelle.
Strafen
Bußgelder bei Verstößen
€35 Mio. / 7%
Verbotene KI-Praktiken
Für den Einsatz verbotener KI-Systeme (Art. 5 KI-VO): bis zu €35 Millionen oder 7% des weltweiten Jahresumsatzes.
€15 Mio. / 3%
Sonstige Verstöße
Für Verstöße gegen Pflichten bei Hochrisiko-KI-Systemen: bis zu €15 Millionen oder 3% des weltweiten Jahresumsatzes.
€7,5 Mio. / 1,5%
Falsche Informationen
Für die Bereitstellung falscher oder unvollständiger Informationen an Behörden: bis zu €7,5 Millionen oder 1,5% des Jahresumsatzes.
Setzt Ihr Unternehmen KI-Systeme ein?
Unser kostenloser KI-Verordnung Check gibt Ihnen eine erste Einschätzung, ob und wie die EU-KI-Verordnung auf Ihr Unternehmen zutrifft.