Nachdem das KI-Sprachmodel ChatGPT vergangenes Jahr für Furore gesorgt hatte, ist das Thema künstliche Intelligenz mittlerweile nicht nur in aller Munde, sondern auch im Alltag angekommen. Schüler nutzen KI für ihre Hausaufgaben, ambitionierte „Autoren“ zum Generieren von Büchern und Kriminelle für Betrug. Auch die Automobilindustrie und zahlreiche weitere Branchen setzen mittlerweile auf generative KI. Genauso wie unzählige Softwareentwickler, die etwa mit simulierten Stimmen und Deepfakes aufwarten. Ein wahrer Hype, der bereits im sogenannten Gartner Hype Cycle 2023 gewürdigt wurde – und auch Brüssel auf den Plan rief. Am Mittwoch hat das Europäische Parlament nun neue Regularien verabschiedet, die zahlreichen Einsatzszenarien den Riegel vorschieben.
Neue KI-Regularien vorgestellt
Die neuen Regeln wurden mit 523 zu 46 Stimmen bei 49 Enthaltungen angenommen. Sie beschränken zahlreiche Anwendungsfälle – sowohl für Behörden als auch für die Industrie respektive Entwickler. So soll demnächst etwa die biometrische Kategorisierung „auf der Grundlage sensibler Merkmale und das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras“ für Datenbanken zum Erkennen von Gesichtern verboten werden. Selbiges gilt für Emotionserkennungssysteme am Arbeitsplatz und in Schulen sowie das Bewerten von sozialem Verhalten.
Strafverfolgungsbehörden dürfen keine „vorausschauende Polizeiarbeit“ mehr betreiben, die ausschließlich auf der Profilerstellung oder der Bewertung von Merkmalen einer Person beruht. Dies gilt auch grundsätzlich für biometrische Fernidentifizierungssysteme, allerdings nur, wenn keine behördliche oder gerichtliche Genehmigung vorliegt. Und auch in solchen Fällen müssen die Polizeibeamten zeitliche und räumliche Beschränkungen beachten.
Ferner sind für sogenannte Hochrisiko-KI-Systeme weitere Auflagen vorgesehen. Als hochriskant stufen Parlament und Rat dabei KI-Systeme ein, die „in den Bereichen kritische Infrastruktur, allgemeine und berufliche Bildung oder Beschäftigung eingesetzt werden“. Genauso wie KI-Systeme, die „für grundlegende private und öffentliche Dienstleistungen – etwa im Gesundheits- oder Bankwesen –, in bestimmten Bereichen der Strafverfolgung sowie im Zusammenhang mit Migration und Grenzmanagement, Justiz und demokratischen Prozessen genutzt werden“.
Zu guter Letzt scheint sich das Parlament einem bereits existierenden KI-Problem angenommen zu haben. Daher werden Erzeuger von künstlich generierten Bildern sowie von Audio- und Videoinhalten – auch bekannt als „Deepfakes“ – diese in Zukunft „eindeutig“ kennzeichnen müssen.
Verbraucherschutz und Transparenz
Verbrauchern wird derweil künftig das Recht eingeräumt, Beschwerde über KI-Systeme einzureichen. Zudem besteht bald eine Auskunftspflicht für Entscheidungen, welche die Rechte der Verbraucher beeinträchtigen und auf Basis hochriskanter KI-Systeme getroffen wurden. Und auch sonstige KI-Systeme werden demnächst Transparenzanforderungen erfüllen müssen. Wie etwa das Einhalten des EU-Urheberrechts und die Veröffentlichung der für das Training verwendeten Inhalte.
Die Verordnung muss noch vom Rat förmlich angenommen werden und soll anschließend 20 Tage nach ihrer Veröffentlichung im Amtsblatt der EU in Kraft treten. Uneingeschränkt anwendbar sind die neuen Regularien je nach Bereich allerdings erst 6 bis 36 Monate später.
