Gelten wir als KI-Betreiber im Sinne der KI-Verordnung?
Fragen Sie sich, ob Ihr Unternehmen ein „KI-Betreiber“ im Sinne der KI-Verordnung der Europäischen Union ist?
Eine wichtige Fragen, denn von Ihrer Rolle im Zusammenhang mit einem KI-System hängt ab, welche Pflichten damit verbunden sind.
Die Definition von „Betreiber“
Laut Artikel 3 der Verordnung (EU) 2024/1689 ist der KI-Betreiber
eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet;
Wer also im Rahmen seiner beruflichen Tätigkeit eine Künstliche Intelligenz nutzt, ist damit sofort Betreiber einer KI.
Was beutet es, KI-Betreiber zu sein?
Als Betreiber müssen Sie dafür sorgen, dass die Vorgaben der Verordnung auch im täglichen Einsatz des Systems erfüllt werden.
Ihr Unternehmen wird zum Betreiber, sobald Sie ein KI-System einsetzen, um betriebliche Prozesse zu steuern oder zu unterstützen. Das könnte beispielsweise eine KI-Software sein, die Ihnen hilft, Entscheidungen basierend auf großen Datenmengen zu treffen oder Prozesse zu automatisieren. Die Verantwortung als Betreiber umfasst die Sicherstellung, dass die KI korrekt angewendet wird und ihre Ergebnisse nicht zu negativen Folgen für Kunden oder Mitarbeiter führen.
Artikel 4 der KI-Verordnung verpflichtet Betreiber von KI-Systemen zudem, ein notwendiges Maß an KI-Kompetenz bei den Nutzern der Künstlichen Intelligenz sicherzustellen. Anders formuliert: Sie dürfen KI überhaupt nur nutzen, wenn Sie sicherstellen, dass alle Nutzer eine angemessene Befähigung haben.
Auch Transparenzpflichten ergeben sich aus der Rolle als Betreiber. Soweit es für Nutzer nicht offensichtlich ist, dass Künstliche Intelligenz an einem Prozess beteiligt ist, ist die Aufgabe des Betreibers, für Transparenz zu sorgen.
Noch weiter gehen die Anforderungen, wenn ein Hochrisiko-KI-System betrieben wird. Deshalb ist neben der eigenen Rolle auch die Klassifizierung des Systems selbst bedeutsam.
Schauen wir uns ein Beispiel an
Angenommen, Ihr Unternehmen nutzt eine KI-basierte Software zur automatischen Bewerberauswahl.
In diesem Fall sind Sie der Betreiber des Systems. Sie sind dafür verantwortlich, dass das System keine diskriminierenden Vorurteile hat und dass die Bewerber fair behandelt werden. Hierzu gehört auch, dass Sie das System kontinuierlich überwachen und anpassen, damit es den regulatorischen Anforderungen entspricht.
Im Falle einer Überprüfung müssen sie durch eine geeignete Dokumentation nachweisen, dass Sie Ihren Pflichten nachgekommen sind.
Und warum das alles?
Ist das nicht alles nur Schikane?
Nein, das ist es sicher nicht. Künstliche Intelligenz wird unser Leben in einem Maße verändern, dass wir uns heute noch nicht vorstellen können. Durch Ihre Fähigkeit, unfassbare Datenmengen in kurzer Zeit zu verarbeiten, ist sie allerdings in der Lage sehr umfangreiche Entscheidungen zu treffen und dabei menschliche Entscheidungskriterien unberücksichtigt zu lassen oder z. B. Kriterien anzuwenden, die wir rechtlich gerade ausschließen wollen.
Können wir das nicht verhindern?
Nur sehr bedingt, denn Künstliche Intelligenz ist in ihrer Datengrundlage so umfangreich und in ihrer Entscheidungsfindung letztlich so kompliziert, dass diese Entscheidungen von Menschen kaum mehr detailliert nachvollzogen und überprüft werden können.
Deshalb ist die Regulierung der Nutzung Künstlicher Intelligenz eine Maßnahme, um uns alle vor ungewünschten Entscheidungen Künstlicher Intelligenz zu schützen. Dieser Verantwortung müssen wir auch als Anbieter nachkommen.
Ihre nächsten Schritte
- Überlegen Sie, ob Ihr Unternehmen aktuell KI-Systeme nutzt, und ob Sie dadurch als Betreiber betrachtet werden.
- Stellen Sie sicher, dass die Nutzer in der Anwendung der KI-Systeme hinreichend geschult sind.
- Überprüfen Sie regelmäßig, ob die eingesetzten Systeme den Anforderungen der EU-KI-Verordnung entsprechen.
- Dokumentieren Sie alle Maßnahmen und Prozesse zur Risikominimierung beim Einsatz der KI.
Um diese Prozesse zu vereinfachen, können Sie unser Tool easy AI nutzen.
Einfacher geht es nicht.
