25.08.2021 | Künstliche Intelligenz (KI) entwickelt sich rasant. Die KI bietet enorme Chancen in vielen Bereichen, etwa für eine verbesserte Gesundheitsversorgung, umweltfreundlichere Verkehrsgestaltung oder eine nachhaltigere Energieversorgung. Wie stets birgt der technologische Fortschritt allerdings neben den Chancen auch neue Risiken.
Die EU-Kommission hat nun einen Vorschlag für eine Verordnung vorgelegt, welche die Sicherheit der Nutzer gewährleisten soll und zugleich das Ziel verfolgt, das Vertrauen der Menschen in die KI zu stärken und die Vorteile der solcher Software-Systeme besser nutzbar zu machen. Wichtige Teile dieses Vorschlags sollen nachfolgend dargestellt werden:
1. Die Risikoeinteilung
Zentraler Bestandteil des Entwurfs ist die Einteilung der KI in verschiedene Risikogruppen. Die Rechtmäßigkeit eines KI-Systems soll davon abhängen, welches Risiko von der KI ausgeht:
a) Unannehmbares Risiko:
Wird ein KI-System als klare Bedrohung für die Sicherheit, die Lebensgrundlagen oder die Rechte der Menschen eingestuft, liegt ein „unannehmbares Risiko“ vor. Solche Systeme sollen einem Verbot unterliegen.
Hierzu zählen z.B. Systeme, die mit unterschwelligen Beeinflussungen außerhalb des Bewusstseins arbeiten, um das Verhalten einer Person so zu beeinflussen, dass dies zu psychischen oder physischen Schäden führen kann. Ebenso gehören hierzu Systeme, welche Behörden eine Bewertung des sozialen Verhaltens („Social Scoring“) ermöglichen. Auch die Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme („Gesichtserkennung“) in öffentlich zugänglichen Räumen zum Zwecke der Strafverfolgung zählt hierzu.
b) Hohes Risiko:
Als System mit „hohem Risiko“ gilt KI, die in bestimmten Bereichen eingesetzt wird, welche in der Verordnung genauer definiert sind. Zu diesen Bereichen zählen beispielsweise kritische Infrastrukturen (etwa Verkehr), Schul- oder Berufsausbildung (wenn der Zugang zu Bildung und zum Berufsleben behindert werden könnte), bestimmte Bereiche des Personalmanagements (z.B. bei automatisierter Auswertung von Lebensläufen bei Bewerbungsverfahren), bestimmte Dienstleistungen wie die Bewertung der Kreditwürdigkeit, oder der Bereich der Rechtspflege und demokratische Prozesse.
Solche Hochrisiko-Systeme unterliegen strengen Vorgaben, die in der Verordnung näher beschrieben werden. Hierzu zählt die Einführung eines Risikomanagement-Systems, das die bekannten und vorhersehbaren Risiken ermittelt und analysiert. Auch müssen die Datensätze, welche zu Trainings-, Validierungs- und Testzwecken verwendet werden, hohen Qualitätsanforderungen entsprechen, um das Risiko struktureller Diskriminierungen zu reduzieren. Zudem sind ausführliche Dokumentations- und Informationspflichten vorgesehen. Nicht zuletzt müssen solche Hochrisiko-Systeme eine angemessene menschliche Aufsicht vorsehen, welche die Möglichkeit haben muss, das System notfalls zu stoppen.
c) Geringes Risiko:
Als KI-Systeme mit geringem Risiko sind beispielsweise Chatbots anzusehen. Beim Einsatz solcher Systeme müssen die Nutzer darauf hingewiesen werden, dass sie es mit einer Künstlichen Intelligenz zu tun haben. Insbesondere sollen die Nutzer darüber informiert werden, wenn sie einem System zur Emotionserkennung oder zur biometrischen Kategorisierung ausgesetzt sind.
d) Minimales Risiko:
Systeme mit minimalem Risiko (z.B. bestimmte Spiele oder Spam-Filter) unterliegen nur den allgemeinen Gesetzen. Die EU-Kommission schlägt insoweit allerdings die freiwillige Einführung von Verhaltenskodizes vor.
2. Weitere Regelungen; Inkraft-Treten
Neben dieser Einteilung in verschiedene Risikogruppen enthält der Entwurf nähere Regelungen dazu, welche Pflichten die Anbieter und Hersteller von KI sowie Einführer, Händler und sonstige Dritte treffen und welche Bußgelder bzw. Sanktionen im Fallen von Verstößen gegen die geplante Verordnung drohen. Je nach Verstoß sind Bußgelder von bis zu 30 Mio. Euro oder 6% des gesamten weltweiten Vorjahresumsatzes vorgesehen.
Ferner sieht der Entwurf Regelungen zur Innovationsförderung vor, die vor dem Hintergrund der zahlreichen Vorteile zu sehen sind, welche KI bieten kann. So wird etwa die Einrichtung sogenannter Reallabore vorgesehen, wodurch gerade auch Kleinanbieter und Start-Ups die Möglichkeit erhalten sollen, in einem rechtssicheren Umfeld Versuchs- und Erprobungsumgebungen zu nutzen.
Der Entwurf der EU-Kommission muss nun vom Europäischen Parlament und den Mitgliedsstaaten angenommen werden. Dieses Verfahren wird voraussichtlich längere Zeit in Anspruch nehmen.
