14-06-2023
Der Binnenmarktausschuss und der Ausschuss für bürgerliche Freiheiten des EU-Parlaments in Straßburg haben am 11.Mai den Entwurf für Regeln für den Einsatz Künstlicher Intelligenz (KI) angenommen. Mit den neuen Transparenz- und Risikomanagementregeln für KI-Systeme soll eine menschenzentrierte und ethische Entwicklung von KI garantiert werden. Im geänderten Kommissionsvorschlag ist unter anderem ein Verbot von KI für biometrische Überwachung, Emotionserkennung und vorausschauende Polizeiarbeit vorgesehen. Nach 18 Monate dauernden Verhandlungen will das EU-Parlament heute, am 14. Juni 2023, seine Position festlegen.
EU-Beschlussverfahren begann am 11.Mai 2023
Der Kommissionsvorschlag für das KI-Gesetz liegt bereits seit April 2021 vor. Mit den am 11.Mai angenommenen Änderungsanträgen der Europaabgeordneten soll sichergestellt werden, dass „KI-Systeme von Menschen überwacht werden, sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind“. Hierfür wird eine einheitliche und technologieneutrale KI-Definition verwendet, die für heutige und künftige KI-Systeme gelten kann.
Risikobasierter Ansatz für KI und verbotene KI-Praktiken
Die Vorschriften folgen einem risikobasierten Ansatz und legen Verpflichtungen für die Anbieter und Nutzerinnen und Nutzer von KI fest, die sich nach dem Grad des Risikos richten, das die KI erzeugen kann. KI-Systeme, die ein inakzeptables Risiko für die Sicherheit der Menschen darstellen, wären damit streng verboten. Hierzu gehören etwa KI-Systeme, die unterschwellige oder absichtlich manipulative Techniken einsetzen, welche die Schwachstellen von Menschen ausnutzen oder für die Klassifizierung von Menschen auf der Grundlage ihres Sozialverhaltens, ihres sozioökonomischen Status oder persönlicher Merkmale (sog. Social Scoring) verwendet werden.
Vom ausdrücklichen Verbot umfasst sind dabei:
- biometrische Erkennungssysteme in Echtzeit in öffentlich zugänglichen Räumen;
- biometrische Erkennungssysteme im Nachhinein, mit der einzigen Ausnahme von Strafverfolgungsbehörden zur Verfolgung schwerer Straftaten und nur nach richterlicher Genehmigung;
- biometrische Kategorisierungssysteme, die sensible Merkmale verwenden (z. B. Geschlecht, Rasse, ethnische Zugehörigkeit, Staatsangehörigkeit, Religion, politische Orientierung);
- prädiktive Polizeisysteme (auf der Grundlage von Profilerstellung, Standort oder früherem kriminellen Verhalten);
- Systeme zur Erkennung von Emotionen bei der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen; und
- wahlloses Auslesen biometrischer Daten aus sozialen Medien oder Videoüberwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken (Verletzung der Menschenrechte und des Rechts auf Privatsphäre).
Klassifizierung der Hochrisikobereiche
Die Abgeordneten haben die Klassifizierung der Hochrisikobereiche um die Bereiche Gesundheit, Sicherheit, Grundrechte und Umwelt erweitert. Zudem wurden der Liste der Hochrisikobereiche auch KI-Systeme zur Beeinflussung von Wählerinnen und Wählern in politischen Kampagnen und in Empfehlungssystemen, die von Social-Media-Plattformen (mit mehr als 45 Millionen Nutzern) verwendet werden, hinzugefügt.
KI für allgemeine Zwecke und Transparenzmaßnahmen
Auch sog. Foundation-Modelle werden im KI-Gesetz berücksichtigt. Hierbei handelt es sich um Deep-Learning-Algorithmen, die mit extrem großen Datenmengen aus dem öffentlichen Internet trainiert werden. Anbieter solcher Foundation-Modelle werden verpflichtet, einen soliden Schutz der Grundrechte, der Gesundheit und Sicherheit sowie der Umwelt, der Demokratie und der Rechtstaatlichkeit zu gewährleisten. Sie müssten Risiken bewerten und abmildern, Auslegungs-, Informations- und Umweltanforderungen einhalten und sich in der EU-Datenbank registrieren lassen.
Generative Foundation-Modelle wie GPT müssten zudem zusätzliche Transparenzanforderungen erfüllen und etwa offenlegen, dass Inhalte durch KI generiert wurden. Zudem müssten die Modelle so konzipiert sein, dass keine illegalen Inhalte generiert und keine Zusammenfassungen urheberrechtlich geschützter Daten veröffentlicht werden.
Abstimmung der Parlamentssitzung am 14. Juni 2023
Bevor die Verhandlungen mit der EU-Kommission über die endgültige Form des KI-Gesetzes beginnen können, muss der Entwurf des Verhandlungsmandats vom gesamten Europaparlament gebilligt werden. Das Parlament will an diesem Mittwoch, dem 14. Juni seine Position festlegen.
Der Compliance Channel hält Sie über die weitere Entwicklung auf dem Laufenden. Die Pressemitteilung des EU-Parlaments zum KI-Gesetz finden Sie hier.