Schlangenöl: Digitale IDs und Künstliche Intelligenz

Kontrolle – Bildquelle: Pixabay / 652234; Pixabay License

Produkte, die wenig bis keine Funktionen (aka Nutzen) haben werden gerne als Schlangenöl bezeichnet. Die aus dem Englischen kommende Bezeichnung snake oil hat sich insbesondere im Bereich der Software auch in Deutschland „durchgesetzt“. Letztlich gehört zum heutigen Verständnis,

dass es sich bei „Schlangenöl“-Angeboten um einen Schwindel handelt. Die Meinungen hierüber gehen auseinander, denn der Anbieter, der an die Wirksamkeit seines Produktes glaubt – obwohl diese bzw. die Funktionsweise des Produkts wissenschaftlich-rational nicht nachvollziehbar ist, wird nicht von „Schlangenöl“ sprechen.

Schlangenöl = Schwindel = Politik

Heutzutage ist es Usus, dass uns genau jene „überpositivierten“ Versprechungen seitens Politkaste und Hochleistungspresse gemacht werden, wenn es um Künstliche Intelligenz (KI), digitale ID (dID) und Co. geht. Nur die positiven Seiten werden herausgestellt, Gefahren und Negatives stattdessen vollkommen ausgeblendet wie auch die beiden nachfolgende Beispiele zeigen, in denen versucht wird die Bedenken der Menschen vorgeblich zu zerstreuen, während wir wissen, was technisch möglich ist, wird auch technisch umgesetzt und vor allem genutzt – egal, was man heute in die Gesetze schreibt:

EU-Parlament verabschiedet KI-Gesetz

Das KI-Gesetz der Europäischen Union wurde vom Europäischen Parlament mit großer Mehrheit angenommen. Mit einer weiteren Verabschiedung wird es neue Regeln für die Gesichtserkennung und andere algorithmische Anwendungen festlegen, die in anderen Teilen der Welt als Vorbild dienen können.

Das Gesetz wurde mit 523 Ja-Stimmen bei 46 Gegenstimmen und 49 Enthaltungen angenommen.

Die biometrische Fernidentifizierung durch die Strafverfolgungsbehörden ist nur unter bestimmten Umständen zulässig, und die biometrische Fernidentifizierung in Echtzeit kann nur mit richterlicher oder behördlicher Genehmigung und nur an bestimmten Orten und für eine bestimmte Dauer eingesetzt werden. Das Gesetz enthält auch neue Beschränkungen für die Erhebung biometrischer Daten und die Verwendung von Inferenzsystemen wie Emotionserkennung oder „vorausschauende Polizeiarbeit (predictive policing)“.

Eine endgültige Überprüfung des Gesetzestextes steht noch aus, ebenso wie die formelle Genehmigung durch den Europäischen Rat. Sobald diese Hürden überwunden sind und das Gesetz in das Amtsblatt aufgenommen wurde, wird es 20 Tage später in Kraft treten, wobei die verschiedenen Verbote, Verhaltenskodizes und Verpflichtungen für Hochrisikosysteme über einen Zeitraum von drei Jahren in Kraft treten werden.

Der IT-Branchenverband Digital Europe weist in seiner Reaktion darauf hin, dass nur 3 Prozent der weltweiten KI-Forschung aus Europa stammen und die privaten Investitionen in KI in China fünfmal und in den USA 14-mal höher sind.

„Wir sind froh, dass wir ein Regelwerk haben und nicht 27, aber es ist kein Geheimnis, dass das KI-Gesetz zusätzliche Belastungen mit sich bringt, die Unternehmen außerhalb Europas nicht haben werden (We are pleased to have one set of rules and not 27, but it’s no secret that the AI Act will add extra burdens that companies outside of Europe won’t have)“, schreibt die Generaldirektorin von Digital Europe, Cecilia Bonefeld-Dahl.

In einem aktualisierten Artikel von Veridas wird darauf hingewiesen, dass sich das Gesetz auf Zustimmung und Risiko als Schlüsselkonzepte für die Klassifizierung von KI-Anwendungen konzentriert. Das Unternehmen weist auch darauf hin, dass die nicht biometrische Fernidentifizierung als geringes Risiko eingestuft wurde.

In der Zwischenzeit arbeiten die Delegierten des Europarats an einem Übereinkommen über Künstliche Intelligenz, das im Mai ratifiziert werden soll, berichtet SWI swissinfo.ch.

Das Übereinkommen wird das erste rechtsverbindliche Regelwerk für Künstliche Intelligenz sein, das auch außerhalb Europas angewendet werden kann, wenn es von ausländischen Regierungen unterzeichnet und ratifiziert wird. Das Schweizer Blatt befürchtet, dass außereuropäische Länder, die Geschäftsinteressen im Bereich der Künstlichen Intelligenz Vorrang vor den Menschenrechten einräumen, den Wortlaut der Konvention bestimmen werden.

Der Rat besteht aus 46 Mitgliedsstaaten, von denen 27 der EU angehören, und weiteren 6 Staaten mit Beobachterstatus. Die Schweiz ist seit 1963 Mitglied im Europarat, gehört aber nicht zur EU.

Die Mitgliedstaaten beteiligen sich an der Ausarbeitung des Entwurfs, zivilgesellschaftliche Gruppen sowie Unternehmen und Akademiker jedoch nicht. Dies macht „es den NGOs unmöglich, die Kompromisse zu korrigieren, auf die sich die Regierungen zuvor geeinigt hatten (it impossible for NGOs to correct the compromises previously agreed upon by governments)“, heißt es in dem wenig schmeichelhaften Leitartikel.

Der Rat hat den Auftrag, die europäische Vision der Menschenrechte zu schützen, die nach Ansicht einiger zivilgesellschaftlicher Gruppen durch ausländische Geschäftsinteressen untergraben wird.

Es geht um die Frage, ob die Konvention verbindliche Standards für den privaten Sektor vorsehen soll und ob die Mitgliedstaaten das Recht haben sollen, private Unternehmen entweder vorübergehend (Opt-out) oder dauerhaft (Opt-in) auszunehmen. Die USA und andere Beobachterstaaten wie Kanada, Großbritannien und Japan haben sich für die Opt-in-Option eingesetzt, die es den Staaten erlauben würde, die Option abzulehnen und die Regeln der Konvention auf den öffentlichen Sektor zu beschränken.

Es ist jedoch unwahrscheinlich, dass die USA die Konvention in nächster Zeit ratifizieren werden, wie SWI swissinfo.ch bestätigt.

Das Centre for Democracy & Technology Europe behauptet in ähnlicher Weise, dass die Menschenrechte bei den „abschließenden Verhandlungen über das Gesetz (und nicht über die Konvention) auf der Strecke geblieben sind (ground was lost on human rights in the final negotiations)“. CDT Europe sagt jedoch in einer Erklärung, dass die endgültige Fassung besser sei als die erste Version.

Die australische Regierung erwägt ein Schnellverfahren für die Zulassung von KI-Technologien, die bereits im Rahmen anderer Regulierungssysteme, wie dem KI-Gesetz, genehmigt worden sind.

Ein Vertreter des Industrieministeriums sagte gegenüber InnovationAus, dass das Ministerium, das für die Formulierung der australischen Regeln für risikoreiche KI zuständig ist, die Entwicklungen in Europa genau beobachtet. Er deutete an, dass das Ministerium bei der Beurteilung der Wirksamkeit des KI-Gesetzes abwarten werde.

Digitale IDs und fehlende Rechte für den Einzelnen

Eine nordatlantische Initiative zur Synchronisierung der Regierungsansätze für digitale Identitätssysteme ignoriert Standards, die die Privatsphäre und die Menschenrechte schützen würden, so eine skeptische Interessengruppe.

Das Center for Democracy & Technology hat eine Erklärung veröffentlicht, in der es heißt, eine koordinierte Regulierung müsse sich mit den menschlichen und gesellschaftlichen Auswirkungen befassen, die digitale Identitäten verursachen können. Dies ist nach Ansicht der Gruppe nicht der Fall.

Das Zentrum hat den Brief an den EU-US-Handels- und Technologierat geschickt, der nach Methoden der regierungsübergreifenden Zusammenarbeit sucht.

Auf dem Gebiet der Personalausweise herrscht natürlich eine rege öffentliche und private Aktivität, aber es mangelt – insbesondere in den Vereinigten Staaten – zunehmend an Koordination bei der Einführung, Verwaltung und Kontrolle der Software.

Das Zentrum unterstützt die Standardisierung, aber die Mitglieder sagen, dass jetzt damit begonnen werden muss, dafür zu sorgen, dass die Arbeit des Rates den Schutz der Menschenrechte einschließt. Die Gruppe hat sich freiwillig bereit erklärt, sich an den Bemühungen um dieses Ziel zu beteiligen.

Bislang wurde nicht verglichen, „wie die (Normen-)Rahmenwerke diese Werte – insbesondere Privatsphäre, freie Meinungsäußerung und Freiheit von Diskriminierung und Voreingenommenheit – berücksichtigen und was zu deren Schutz bei der grenzüberschreitenden Interoperabilität digitaler Identitäten erforderlich ist (how the (standards) frameworks address those values – particularly privacy, free expression, and freedom from discrimination and bias – and what is needed to protect them in cross-border interoperability of digital Identities)“, so das Zentrum.

Wenn diese öffentlichen Güter nicht Teil der Vorschriften sind, wird es nach Ansicht der Mitglieder des Zentrums wahrscheinlich zu einer „allgegenwärtigen Verletzung der Menschenrechte (ubiquitous infringement of human rights)“ kommen. Auch das Vertrauen in die Regierung wird sinken, behaupten sie.

Auch die Wirtschaft wird darunter leiden. Isolation und fehlende Interoperabilität werden die Kosten in die Höhe treiben und den Handel verlangsamen oder ganz verhindern. Wahrscheinlich wird es auch zu rechtlichen Anfechtungen in Bezug auf Handel und digitale ID-Richtlinien kommen.

Conclusio

An allen Ecken und Enden arbeitet das System daran, seine Vorstellung einer volldigitalisierten Welt zu implementieren. Testballons werden gestartet, Blaupausen werden eingeführt und es findet ein reger „Wettbewerb der Ideen“ statt, an dessen Ende sich die Lösung durchsetzen wird, die am effektivsten, schnellsten und einfachsten global eingeführt werden kann. So zumindest der offensichtliche Grundgedanke, den wir heute sehen können, hinter all den Anstrengungen von privater und staatlicher Seite. Ob es tatsächlich dazu kommt, wird die Zeit zeigen. Denn nicht nur technische und rechtliche Themen gilt es vorab aus dem Weg zu räumen, sondern es müssen auch die Menschen dazu gebracht werden all das zu akzeptieren. Es liegt wie immer an uns, ob wir es hinnehmen oder schlichtweg „Nein!“ dazu sagen.

Quelle allgemein:
Wikipedia – Schlangenöl
Quellen KI-Gesetz:
After three years of lively debate on the AI Act, today’s vote of the European Parliament will usher in a new era of European digital innovation.
The European Union’s Artificial Intelligence Act
Council of Europe and Artificial Intelligence
AI regulation: is the Swiss negotiator a US stooge?
Landmark EU AI Act Sets Benchmark for AI Regulation, but Fails to Meet the Bar on Human Rights Protection
Govt mulls foreign AI fast lane for regulatory approvals
Quellen Digitale ID:
As US schools rush into facial recognition, parents and students remain concerned
Center for Democracy & Technology Comments to the EU-US Trade and Technology Council, Technology Standards Working Group, Subgroup on Digital Identity
EU-US TTC WG-1 Digital Identity Mapping Exercise Report