Hochrisiko-KI-System

Was heißt das praktisch?

Hochriskant wird ein KI-System durch das, wofür es eingesetzt wird. Die KI-Verordnung kennt zwei Wege. Der erste führt über Anhang I: KI als Sicherheitsbauteil eines Produkts, das nach anderen EU-Vorschriften von einer Drittstelle geprüft werden muss, zum Beispiel ein Medizinprodukt, ein Spielzeug oder ein Aufzug. Der zweite führt über Anhang III, eine Liste von Einsatzbereichen wie Beschäftigung und Personalauswahl, Bildung, Zugang zu Krediten und Versicherungen oder Strafverfolgung.

Art. 6 Abs. 3 regelt, wann ein System aus Anhang III ausnahmsweise nicht hochriskant ist: wenn es kein erhebliches Risiko birgt und nur eine eng gefasste Hilfsaufgabe erledigt. Ein System aus Anhang III, das Profiling natürlicher Personen vornimmt, gilt immer als hochriskant.

Für Anbieter solcher Systeme gelten Kapitel III Abschnitte 2 und 3: Risikomanagement, Datenqualität, technische Dokumentation, menschliche Aufsicht, Konformitätsbewertung, Registrierung. Betreiber haben die Pflichten aus Art. 26, darunter die Aufsicht durch Personen mit der erforderlichen Kompetenz, Ausbildung und Befugnis (Art. 26 Abs. 2).

Diese Pflichten gelten noch nicht. Der Digital Omnibus hat sie verschoben: für Systeme nach Anhang III auf den 02.12.2027, für Systeme nach Anhang I auf den 02.08.2028. Die früheren Daten 02.08.2026 und 02.08.2027 sind überholt.

Verstöße gegen Art. 16 (Anbieter) und Art. 26 (Betreiber) sind nach Art. 99 Abs. 4 mit bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes bedroht.

Wo kommt der Begriff vor?

Art. 6 und Anhänge I und III (Einstufung), Kapitel III (Pflichten), Art. 26 (Betreiber), Art. 113 Abs. 3 Buchst. c (Fristen in der Fassung der VO (EU) 2026/1744).