EU: Das KI-Gesetz und seine Folgen

Künstliche Intelligenz – Bildquelle: Pixabay /geralt; Pixabay License

Das Gesetz über Künstliche Intelligenz (KI) der Europäischen Union hat endgültig grünes Licht erhalten und kann damit zur weltweit ersten großen Verordnung über KI werden. Der EU-Rat hat das Gesetz am vergangenen Dienstag formell gebilligt. Es wird erwartet, dass es Mitte Juni in Kraft tritt und ab 2026 wirksam wird.

Unternehmen, die gegen das Gesetz verstoßen, müssen mit Geldbußen der EU-Kommission in Höhe von 7 Millionen Euro bis 35 Millionen Euro oder 1,5 bis 7 Prozent ihres weltweiten Jahresumsatzes rechnen. Kleine und mittelgroße Unternehmen (KMU) und neu gegründete Unternehmen werden mit proportionalen Bußgeldern belegt.

Die Umsetzung des Gesetzes liegt zeitlich noch etwas in der Ferne: Allgemeine KI-Modelle (GPAI) müssen 12 Monate nach Inkrafttreten des KI-Gesetzes verpflichtend die neuen Regelungen umsetzen, während KI-Systeme in regulierten Produkten 36 Monate Zeit haben, wie Reuters berichtet.

Seit der Veröffentlichung des Entwurfs im Jahr 2021 hat das KI-Gesetz hitzige Debatten ausgelöst. Menschenrechtsorganisationen kritisieren, dass der Schutz unzureichend ist, und Wirtschaftsverbände beklagen den hohen Aufwand für die Einhaltung der Vorschriften.

Die EU erzielte im Dezember 2023 nach einem dreitägigen Verhandlungsmarathon eine vorläufige Einigung über das Gesetz und wich damit von der Position ab, die das Europäische Parlament im Juni eingenommen hatte, nämlich ein vollständiges Verbot der biometrischen Echtzeitüberwachung zu unterstützen. Die technischen Details des Gesetzes wurden Anfang Februar 2024 festgelegt, und im März 2024 wurde es vom Europäischen Parlament verabschiedet.

Die Gesetzgebung folgt einem „risikobasierten“ Ansatz, d. h. KI-Systeme werden je nach Risiko in verschiedene Kategorien eingeteilt, wobei für Systeme, die der Gesellschaft schaden könnten, strengere Regeln gelten.

KI-Anwendungen mit inakzeptablem Risiko sind verboten, einschließlich solcher, die biometrische Echtzeit-Fernidentifizierung, einschließlich Gesichtserkennung, in öffentlichen Räumen verwenden. Das Gesetz sieht jedoch Ausnahmen für die Strafverfolgung unter bestimmten Umständen vor, etwa bei Entführungen und Terrorismus. Zu den weiteren verbotenen Anwendungen gehören biometrische Kategorisierungssysteme auf der Grundlage sensibler Merkmale, Emotionserkennung am Arbeitsplatz und in der Schule, Social Scoring, vorausschauende Polizeiarbeit und Anwendungen, die das menschliche Verhalten manipulieren. Das Gesetz verbietet auch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder aus Videoaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken.

Eine weitere Neuerung des Gesetzes sind die Transparenzanforderungen, auch für Deepfakes, die klar als solche gekennzeichnet werden müssen.

Das bei der Europäischen Kommission angesiedelte Amt für Künstliche Intelligenz (The AI Office) hat die Aufgabe, die Umsetzung des Gesetzes in den Mitgliedstaaten zu koordinieren und dafür zu sorgen, dass die Klassifizierungsregeln und -verfahren mit den technologischen Entwicklungen Schritt halten. Weitere Einrichtungen sind der Europäische Rat für Künstliche Intelligenz, das Beratungsgremium und das wissenschaftliche Gremium unabhängiger Experten.

Das Gesetz sieht auch sogenannte regulatorische KI-Sandkästen vor, die das Testen von KI-Systemen unter realen Bedingungen ermöglichen würden.

Vorläufige Analyse und Einschätzung des KI-Gesetzes der EU:

Das KI-Gesetz gilt nur für Bereiche, die unter das EU-Recht fallen, und sieht Ausnahmen vor, z. B. für Systeme, die ausschließlich für militärische und Verteidigungszwecke sowie für Forschungszwecke verwendet werden.

Ergo das Militär und wohl auch Geheimdienste sind vom KI-Gesetz nicht betroffen und dürfen agieren, wie sie wollen. Zwar wird eine kommerzielle und damit freiwillig bezahlte Nutzung eingeschränkt, jedoch nicht, wenn „die Forschung“ der Regierung gefällt.

Das Gesetz verbietet auch den Einsatz von KI für die vorausschauende Polizeiarbeit auf der Grundlage von Profilerstellung und Systemen, die biometrische Daten verwenden, um Menschen nach bestimmten Kategorien wie Rasse, Religion oder sexueller Orientierung zu kategorisieren.

Ausgenommen davon (siehe Zitat 1) das Militär. Da Verbrechen sehr ungleich verteilt sind, je nach Zugehörigkeit zu einer Gruppe, erschwert das die Arbeit. Wenn eine KI aber schwarze Nazis oder schwarze Könige, die eigentlich weiß waren, zeigt, ist das jedoch nicht verboten.

KI-Systeme, wie z. B. kognitive Verhaltensmanipulation und Social Scoring, werden in der EU verboten, da ihr Risiko als inakzeptabel angesehen wird.

Damit wäre jedwede KI-Idee hinfällig, denn genau das macht jede KI automatisch, weil es Teil der KI-Idee per se ist. Im Privatsektor führt diese Regelung höchstens dazu, dass man passende Werbung angezeigt bekommt. Die Regierungen werden sich diese Technologie sicher nicht nehmen lassen, das es integraler Bestandteil der digitalen Währungen sein wird.

Die Verordnung sorgt auch für mehr Transparenz bei der Entwicklung und Nutzung von KI-Systemen mit hohem Risiko. KI-Systeme mit hohem Risiko sowie bestimmte Nutzer eines KI-Systems mit hohem Risiko, bei denen es sich um öffentliche Einrichtungen handelt, müssen in der EU-Datenbank für KI-Systeme mit hohem Risiko registriert werden, und die Nutzer eines Emotionserkennungssystems müssen natürliche Personen informieren, wenn sie einem solchen System ausgesetzt sind.

Letztlich eine Vorbereitung auf die digitale ID. Wie und woher würde das System sonst wissen, wer eine natürliche Person (aka z.B. kein Bot oder eine andere KI) ist?

Die Geldbußen für Verstöße gegen das KI-Gesetz werden als Prozentsatz des Gesamtjahresumsatzes des zuwiderhandelnden Unternehmens im vorangegangenen Geschäftsjahr oder eines im Voraus festgelegten Betrags festgesetzt, je nachdem, welcher Betrag höher ist. Für KMU und Start-ups gelten anteilige Bußgelder.

Einmal mehr der Stell- und Regulierungshebel „Strafen“. Wer als Unternehmen nicht das macht, was die Regierung befiehlt, wird mit Bußgeldern belegt.

Der wichtigste Aspekt versteckt sich jedoch hier:

Das KI-Gesetz sieht einen innovationsfreundlichen Rechtsrahmen vor und zielt darauf ab, evidenzbasiertes regulatorisches Lernen zu fördern.

Unter evidenzbasiertem regulatorischen Lernen wird de facto das zusammengefasst und definiert sein, was „die Wissenschaft“, die von den IGE zugelassen ist und gefördert wird, vorgibt und was im Gleichklang mit der Hochleistungspresse in die Köpfe der Massen gepresst werden wird.

Das ganze Gesetz dient also nur dazu, die Interessen des Staates und der Machtelite, die ihn kontrolliert, zu wahren – wie praktisch jede Regulierung. Mit dem KI-Gesetz der EU wird der Überwachung und Kontrolle Vorschub geleistet. Auch wenn auf den ersten Blick bestimmte Dinge verboten zu sein scheinen, sind gerade die Ausnahmeregelungen zu nennen, die über die Hintertür genau jenen Behörden/Institutionen die Möglichkeit von Kontrolle und Überwachung zugestehen. Und wenn alle Stricke reißen, bezeichnet man es eben als Forschungsprojekt.

Quellen:
Artificial intelligence (AI) act: Council gives final green light to the first worldwide rules on AI
Europe sets benchmark for rest of the world with landmark AI laws
AI Act passes EU parliament, arguments on implementation and implications heat up
EU’s provisional AI Act deal limits remote biometrics use after marathon negotiation
EU Parliament approves AI Act amid heated biometrics debates
EU reaches deal on technical details of AI Act, biometric surveillance criticism remains