Hochrisiko-KI
KI-Systeme in kritischen Bereichen wie HR, Medizin, Kredit und Justiz – unterliegen strengen Auflagen nach Anhang III des AI Act
Was ist Hochrisiko-KI?
Hochrisiko-KI sind KI-Systeme, die in kritischen Bereichen eingesetzt werden und damit erhebliche Auswirkungen auf Menschen haben können. Der AI Act definiert diese Systeme in Anhang III.
Typische Hochrisiko-Bereiche:
- HR & Recruiting: KI für Bewerbungs-Screening, Interviews, Leistungsbewertung
- Kredit & Finanzen: Kreditwürdigkeitsprüfung, Bonitätsbewertung
- Medizin: Diagnose-KI, OP-Roboter, Medikamenten-Dosierung
- Justiz: Rückfallprognosen, Risikobewertungen für Straftäter
- Kritische Infrastruktur: Energie, Verkehr, Wasserversorgung
- Bildung: Prüfungsbewertungen, Zugang zu Bildungseinrichtungen
Warum ist das wichtig?
Hochrisiko-KI hat strenge Auflagen. Wenn ihr ein solches System nutzt oder entwickelt, müsst ihr:
- Risikomanagement: Kontinuierliche Überwachung und Bewertung
- Datenqualität: Hochwertige, repräsentative Trainingsdaten
- Dokumentation: Umfassende technische Dokumentation
- Transparenz: Nutzer müssen informiert werden
- Menschliche Aufsicht: Menschen müssen eingreifen können
- CE-Kennzeichnung: Konformitätsbewertung durch Dritte
Bußgelder bei Verstößen: Bis zu 15 Millionen Euro oder 3% des Jahresumsatzes.
Betrifft das KMU?
Gute Nachricht: Die meisten KMU nutzen KEINE Hochrisiko-KI.
Standard-KI wie ChatGPT, DeepL oder GitHub Copilot fallen NICHT unter Hochrisiko. Diese Tools haben minimales Risiko und erfordern nur grundlegende Compliance (Schulung, Dokumentation).
Wann seid ihr betroffen?
Ihr seid betroffen, wenn ihr:
- Automatisierte Bewerbungs-Screening-Tools nutzt (z.B. HireVue, Pymetrics)
- KI für Leistungsbeurteilung von Mitarbeitern einsetzt
- Kreditwürdigkeitsprüfung mit KI macht
- Eigene KI-Systeme für kritische Bereiche entwickelt
Beispiel: Müller GmbH
Die Müller GmbH (25 Mitarbeiter) nutzt:
- ChatGPT für Marketing-Texte → Minimal-Risiko
- DeepL für Übersetzungen → Minimal-Risiko
- Personio für HR-Verwaltung → Keine KI
Ergebnis: Keine Hochrisiko-KI. Die Müller GmbH hat nur Standard-Compliance-Pflichten.
Gegenbeispiel: Schmidt Recruiting GmbH
Die Schmidt Recruiting GmbH (50 Mitarbeiter) nutzt:
- HireVue → Hochrisiko-KI (automatisierte Video-Interview-Analyse)
Ergebnis: Hochrisiko-KI erkannt. Die Schmidt GmbH muss:
- Risikomanagement-System aufsetzen
- Datenqualität nachweisen
- Umfassende Dokumentation erstellen
- CE-Kennzeichnung einholen
Empfehlung: Prüfen, ob HireVue AI-Act-konform ist oder auf menschliche Vorauswahl umstellen.
Wie prüfe ich, ob ich Hochrisiko-KI nutze?
Nutzt den kostenlosen KI-VO Check. In 5 Minuten wisst ihr, ob ihr betroffen seid.