Überwachung: EU einigt sich auf technische Details beim AI Act

Künstliche Intelligenz – Bildquelle: Pixabay /geralt; Pixabay License

Das Gesetz über Künstliche Intelligenz (KI) der Europäischen Union bog am vergangenen Freitag in die Endphase ein, als sich die EU-Länder auf die technischen Details einigten. Die vorläufige Einigung über das bahnbrechende Gesetz muss nun noch von den Ausschüssen des Europäischen Parlaments gebilligt werden. Auch wenn kein nennenswerter Widerstand zu erwarten ist, warnen einige Rechtsexperten bereits jetzt vor Lücken in der Regulierung der biometrischen Fernidentifikation, die den Menschenrechten schaden könnten.

(Download PDF)

„Das KI-Gesetz enthält nur ein grundsätzliches Verbot des Einsatzes solcher Systeme an öffentlich zugänglichen Orten zu Strafverfolgungszwecken, das an komplexe Bedingungen und Ausnahmen geknüpft ist (The AI Act only contains an in-principle prohibition on the use of such systems in publicly accessible places for law enforcement purposes, subject to complex conditions and exception)“, schreibt Douwe Korff, Professor für internationales Recht an der London Metropolitan University.

In einer juristischen Analyse wies Korff darauf hin, dass es im endgültigen Text des Gesetzes wenige Bereiche gibt, die aus menschenrechtlicher Sicht gebilligt werden können.

Einer dieser Bereiche sind biometrische Fernidentifikationssysteme, die unter realen Bedingungen in „regulatorischen Sandkästen (regulatory sandboxes)“ entwickelt und getestet werden. Für diese Systeme ist weder eine Folgenabschätzung für die Grundrechte erforderlich, noch müssen sie in einer einschlägigen Datenbank registriert werden. Dadurch könnte ein Schlupfloch entstehen, das den Einsatz solcher Systeme in Notfällen ermöglicht, schreibt Korff.

Korff kritisierte auch die Vorschrift des KI-Gesetzes, die zuständige Marktaufsichtsbehörde und die nationale Datenschutzbehörde zu benachrichtigen, wenn biometrische Echtzeit-Identifikation verwendet wird:

Das Gesetz schreibt nicht vor, dass diese Meldung gleichzeitig mit dem Antrag auf Genehmigung erfolgen muss.
—
(The Act does not stipulate that this notification must happen at the same time as the request for authorization.)

Dies kann dazu führen, dass die Strafverfolgungsbehörden die Meldung erst einreichen, nachdem die Systeme bereits eingesetzt wurden. Außerdem erhalten die mit der Überwachung betrauten Behörden möglicherweise keinen Zugang zu sensiblen operativen Daten.

Das scheint keine sehr effektive Form der Aufsicht zu sein.
—
(That does not appear to be a very effective form of oversight.)

Wird das KI-Gesetz erneut abgeändert werden müssen?

Der nächste Schritt für das KI-Gesetz sind die Abstimmungen in den Ausschüssen für Binnenmarkt und bürgerliche Freiheiten, die für den 13. Februar erwartet werden. Es wird erwartet, dass das Europäische Parlament die Gesetzgebung am 10. oder 11. April formell billigt. Nach seiner Verabschiedung würde es 20 Tage nach der Veröffentlichung im Amtsblatt in Kraft treten, berichtet EuroNews.

Datenschutzbewusste Abgeordnete könnten jedoch noch Änderungen einbringen, wodurch sich der erwartete Zeitplan verzögern würde.

Ungewissheit herrscht auch darüber, wie die Gesetzgebung aussehen wird, sobald die einzelnen Länder mit ihrer Umsetzung beginnen. Jüngsten Medienberichten zufolge haben einige Staaten, darunter Frankreich, Österreich, Deutschland und Italien, Vorbehalte gegen das Gesetz geäußert.

Auf die Einigung über das Paket am Freitag folgte eine Erklärung der Europäischen Kommission, in der sie die Mitgliedstaaten an ihr Recht erinnerte, restriktivere Vorschriften für Technologien wie Gesichtserkennung, Emotionserkennung und biometrische Kategorisierung zu erlassen.

In der Erklärung wurden auch Pläne zur Einsetzung einer Expertengruppe vorgestellt, die sich aus Behörden der EU-Mitgliedstaaten zusammensetzt. Die Gruppe soll die Kommission bei der Anwendung und Umsetzung des KI-Gesetzes beraten und unterstützen, so das Online-Magazin Politico.

Die Versuche und der Ausbau eine vollumfänglichen Kontrolle und Überwachung der Bevölkerungen schreiten weltweit voran. Die EU macht hier keine Ausnahme und ist vielmehr einer der Treiber dieser Entwicklung. Da oftmals solche Gesetze dergestalt formuliert werden, dass man zu Beginn über das eigentlich gewollte Ziel „hinausschießt“, um nach „Verhandlungen“ Zugeständnisse zu machen und somit das zu Beginn definierte Ziel zu erreichen, ist davon auszugehen, dass einige kosmetische Zugeständnisse gemacht werden. Letztlich können wir uns aber auf eine vollumfängliche Überwachung des öffentlichen Raums in der EU mittels KI gefasst machen.

Aber dagegen werden sicherlich weder Politkaste noch Gewerkschaften oder anderweitige Gruppierungen die Menschen auf die Straßen zum Protest rufen. Warum auch?

Quellen:
AI provisional agreement
EU reaches deal on technical details of AI Act, biometric surveillance criticism remains
Police real-time remote biometric ID in the AI Act
EU Policy. EU countries approve technical details of AI Act
EU countries strike deal on landmark AI rulebook