Künstliche Intelligenz: Google’s Eric Schmidt und seine Rolle im KI-militärisch-industriellen Komplex

Künstliche Intelligenz – Bildquelle: Pixabay / geralt; Pixabay License

Allein die Tatsache, dass die US-Kommission für Künstliche Intelligenz (KI) vom ehemaligen Google-Vorstandsvorsitzenden Eric Schmidt geleitet wird, sollte all jene beunruhigen, denen Datenschutz, Verantwortlichkeit, Transparenz und individuelle Freiheit am Herzen liegen.

Ende Januar veröffentlichte die National Security Commission on Artificial Intelligence (NSCAI), oder kurz die KI-Kommission, einen Entwurf ihres bevorstehenden Berichts an den Kongress, in dem sie Forderungen nach einem Verbot von KI-gesteuerten autonomen Waffen, die von Kritikern als „Killerroboter“ bezeichnet werden, zurückweist. Die KI-Kommission ging zwar kurz auf Bedenken hinsichtlich des Datenschutzes und der bürgerlichen Freiheiten ein, forderte aber letztlich den Kongress auf, die KI-Forschung und -Finanzierung bis 2026 auf 32 Milliarden US-Dollar pro Jahr zu verdoppeln. Der Bericht versäumte es auch, klare Interessenkonflikte zwischen dem Vorsitzenden der Kommission und dem ehemaligen Google-Chef Eric Schmidt festzustellen.

Zu den Gegnern der fortschreitenden KI-gestützten Überwachung und des Polizeistaats gehören auch Datenschützer, die sich Sorgen über eine Zukunft machen, in der die Strafverfolgungsbehörden Brillen mit Gesichtserkennungssoftware tragen, die von geheimen KI-Algorithmen angetrieben werden.

Der Berichtsentwurf geht auf die Überwachungsbedenken ein und stellt fest: „Die Herausforderungen der KI-Zukunft sind eng mit dem anhaltenden Wettstreit zwischen autoritären und demokratischen politischen Systemen und Ideologien verbunden (The stakes of the AI future are intimately connected to the enduring contest between authoritarian and democratic political systems and ideologies.).“ Die Kommission stellt auch fest, dass KI-gestützte Überwachung „bald in den Händen der meisten oder aller Regierungen sein wird (soon be in the hands of most or all governments)“ und „autoritäre Regime werden weiterhin KI-gestützte Gesichtserkennung, Biometrie, prädiktive Analytik und Datenfusion als Instrumente der Überwachung, Einflussnahme und politischen Kontrolle nutzen (authoritarian regimes will continue to use AI-powered face recognition, biometrics, predictive analytics, and data fusion as instruments of surveillance, influence, and political control).“

(Download PDF)

Der Bericht zeigt zu Recht mit dem Finger auf Chinas Autoritarismus und den KI-gesteuerten Überwachungsstaat. Der Entwurf versucht jedoch auch, die USA als „liberale Demokratie“ darzustellen, die solche Technologien für „legitime öffentliche Zwecke… im Einklang mit der Rechtsstaatlichkeit (legitimate public purposes… compatible with the rule of law)“ einsetzt. Die offensichtliche Ironie ist dabei, dass die Feinde der USA diese Technologie für tyrannische Zwecke nutzen könnten, aber die USA und ihre Verbündeten würden KI immer nur im Interesse der Bewahrung der Freiheit einsetzen.

Eine verantwortungsvolle Demokratie muss sicherstellen, dass der Einsatz von KI durch die Regierung durch kluge Einschränkungen begrenzt wird, um mit den Rechten und Freiheiten, die eine freie und offene Gesellschaft definieren, übereinzustimmen. Die US-Regierung sollte KI-gestützte Technologien mit angemessener Transparenz, starker Aufsicht und Verantwortlichkeit entwickeln und einsetzen, um sich vor Missbrauch zu schützen.
—
(A responsible democracy must ensure that the use of AI by the government is limited by wise restraints to comport with the rights and liberties that define a free and open society. The U.S. government should develop and field AI-enabled technologies with adequate transparency, strong oversight, and accountability to protect against misuse.)

Für bare Münze genommen, könnten diese Aussagen ein Gefühl der Beruhigung vermitteln. Leider sprechen wir hier über die US-Regierung und das Militär, und diese Institutionen haben keine Historie von Transparenz oder Rechenschaftspflicht. Noch beunruhigender ist die Erwähnung der „dringenden Notwendigkeit (urgent need)“, KI für Zwecke der nationalen Sicherheit einzusetzen, insbesondere gegen „ausländische und inländische Terroristen, die innerhalb unserer Grenzen operieren (foreign and domestic terrorists operating within our borders)“. Der Entwurf ermutigt das US-Kriegsministerium, die Ziele der Terrorismusbekämpfung nicht aus den Augen zu verlieren, ohne sicherzustellen, dass „Sicherheitsanwendungen von KI mit den Grundwerten der individuellen Freiheit und des gleichen Schutzes durch das Gesetz übereinstimmen (security applications of AI conform to core values of individual liberty and equal protection under law)“. Weiß man gleichzeitig um die immer stärker werdende „politische Argumentation“ der P(l)andmeie-Kritiker als „inländische Terroristen“, dürfte klar sein, wohin die Reisen gehen soll.

Trotz des Eingeständnisses von Datenschutzbedenken war der Großteil des Berichtsentwurfs eine Befürwortung der Ausweitung der KI-Forschung durch die US-Regierung und das US-Militär. Robert Work, ehemaliger stellvertretender Verteidigungsminister und stellvertretender Vorsitzender der Kommission, sagte, die Kommission fordere das Verteidigungsministerium auf, bis 2025 eine „militärische KI-Bereitschaft (military AI readiness)“ mit Training und Ausbildung für Militärangehörige zu erreichen. Der Entwurf fordert den Verteidigungsminister auf, bis zum Ende dieses Jahres Ziele für die KI-Bereitschaft festzulegen.

Die endgültige Version des Berichts soll am 1. März dem Kongress vorgelegt werden.

Der Kampf gegen Killerroboter

Es gibt auch Befürchtungen, dass die traditionelle Polizeiarbeit mit menschlichen Beamten durch ferngesteuerte Drohnen und Roboterbeamte ersetzt werden könnte, die von Künstlicher Intelligenz gesteuert werden und Entscheidungen nach einer der Öffentlichkeit unbekannten „Formel treffen“.

Einige Kritiker hatten auf ein vollständiges Verbot der Technologie gehofft, aber die Kommission sagte, sie glaube, dass KI weniger Fehler im Kampf machen würde, was zu weniger Todesfällen führen würde. Der stellvertretende Vorsitzende Work sagte, es gebe einen „moralischen Imperativ, diese Hypothese zumindest zu verfolgen (moral imperative to at least pursue this hypothesis)“. Reuters berichtet, dass eines der Kommissionsmitglieder vor dem Druck warnte, „Maschinen zu bauen, die [zu schnell] schnell reagieren, was Konflikte eskalieren könnte (pressure to build machines that react quickly, which could escalate conflicts)“. Das Gremium befürwortete die Idee, dass nur Menschen Entscheidungen über den Abschuss von Atomwaffen treffen sollten, sagte aber, dass ein Verbot von KI gegen die „Interessen der USA“ arbeiten würde und schwer durchzusetzen wäre.

Einer der Hauptbefürworter für ein Verbot autonomer Waffen ist die Organisation Campaign to Stop Killer Robots, eine Koalition von Nichtregierungsorganisationen (NGOs), die im Oktober 2012 gegründet wurde, um vollständig autonome Waffen zu verbieten. Sie behaupten, dies würde dazu beitragen, „eine sinnvolle menschliche Kontrolle über die Anwendung von Gewalt zu erhalten (etain meaningful human control over the use of force)“. Die Organisation setzt sich international für einen Vertrag ein, der sogenannte „Killerroboter“ verbieten würde. Laut der Koalition unterstützen 30 Länder, 110 NGOs und 4.500 KI-Experten ihre Bemühungen zum Verbot der Technologie.

Mary Wareham, Koordinatorin der Campaign to Stop Killer Robots, sagte gegenüber Reuters, dass der Fokus der Kommission „auf die Notwendigkeit, mit ähnlichen Investitionen von China und Russland zu konkurrieren… nur dazu dient, ein Wettrüsten zu fördern (focus on the need to compete with similar investments made by China and Russia… only serves to encourage arms races)“. Wareham liegt mit ihrer Einschätzung richtig, wenn man die Aussage des stellvertretenden Vorsitzenden Work bedenkt, dass es für das US-Militär ein „moralischer Imperativ“ ist, KI-Forschung zu betreiben, unter der Annahme, dass KI-gesteuerte Kriegsführung zu weniger Opfern führen würde. Diese Mentalität wird nahezu garantieren, dass KI-bezogene Verteidigungsforschung jährlich mit Milliarden von Steuergeldern finanziert wird.

Das Electronic Privacy Information Center (EPIC) hat dafür gekämpft, die KI-Kommission zu zwingen, Details über die Art und Weise, wie sie zu ihren Schlussfolgerungen kommt, offenzulegen, sowie die interne Kommunikation zwischen den Kommissionsmitgliedern zu veröffentlichen. EPIC hat zweimal in seinem Verfahren gegen die KI-Kommission gewonnen und die Kommission gezwungen, öffentliche Sitzungen abzuhalten und Tausende von Seiten an Unterlagen offenzulegen. EPIC hat die KI-Kommission aufgefordert, „den Kongress als höchste politische Instanz der Nation zu beraten, um regierungsweite Prinzipien und Schutzmaßnahmen für den Einsatz und die Entwicklung von KI zu etablieren (advise Congress, as the nation’s highest policymaking authority, to establish government-wide principles and safeguards for the use and development of AI)“.

Während EPIC es geschafft hat, unschätzbare Daten über die Arbeit der KI-Kommission zu enthüllen, warnen sie auch, dass „es bereits Anzeichen dafür gibt, dass die U.S. Intelligence Community es versäumt hat, in lebenswichtige KI-Schutzmaßnahmen zu investieren (there are already indications that the U.S. Intelligence Community has failed to invest in vital AI safeguards)“.

Eric Schmidt von Google und Rebellion Defense

Die KI-Kommission wurde 2018 vom Kongress mit dem Ziel eingerichtet, „Fortschritte in der Künstlichen Intelligenz, verwandte Entwicklungen im Bereich des maschinellen Lernens und damit verbundene Technologien zu überprüfen (review[ing] advances in artificial intelligence, related machine learning developments, and associated technologies)“ und dem Kongress und dem Präsidenten politische Empfehlungen zu geben. Die Kommission hat Transparenz und Rechenschaftspflicht versprochen, hat aber tatsächlich die meisten ihrer Sitzungen und Entscheidungen im Geheimen abgehalten. Die einfache Tatsache, dass die Kommission vom ehemaligen Google-Chef Eric Schmidt geleitet wird, sollte all jene beunruhigen, denen Datenschutz, Rechenschaftspflicht, Transparenz und individuelle Freiheit am Herzen liegen.

Schmidt ist dafür bekannt, dass er von 2001 bis 2011 Vorstandsvorsitzender von Google war, seine Rolle bei Google setzt sich jedoch bis in die 2020er Jahre fort. Schmidt war von 2011 bis 2015 Executive Chairman von Google und anschließend von 2015 bis 2017 Executive Chair der Google-Muttergesellschaft Alphabet Inc. Zuletzt war Schmidt von 2017 bis 2020 als „Technical Advisor“ bei Alphabet tätig.

Während dieser Zeit hat Google mehrere „Fehlleistungen“ in der Öffentlichkeitsarbeit durchlebt. Zum einen die Tatsache, dass das „Big Tech“-Unternehmen dafür berüchtigt ist, riesige Mengen an Daten von seinen Nutzern zu sammeln. Zudem plante Google eine zensierte Version seiner Suchmaschine in China zu starten, die Websites und Suchbegriffe auf eine schwarze Liste setzen würde – ein Schritt, von dem Eric Schmidt damals sagte, er würde China helfen, „offener“ zu sein. Es gab auch das Fiasko beim Project Maven, wo enthüllt wurde, dass Google mit dem Pentagon zusammenarbeitete, um eine KI zu entwickeln, die Drohnenaufnahmen analysieren sollte. Nachdem die Nachricht von Maven bekannt wurde, kündigten Dutzende von Mitarbeitern aus Protest und Tausende unterzeichneten eine Petition, in der Google aufgefordert wurde, das Projekt zu beenden. Google gab schließlich nach und verkündete, dass sie das Project Maven aufgeben würden.

Kürzlich enthüllte eine Untersuchung von The American Prospect, dass Schmidt Verbindungen zu einem weitgehend unbekannten KI-Auftragnehmer hat. Der Bericht stellt fest, dass während der Obama-Regierung Google-Vertreter häufig im Weißen Haus gesehen wurden, dass einige „scherzhaft die Verwaltung Google.gov nennen (jokingly call the administration Google.gov)“, mit mehr als 250 Google-Mitarbeitern, die während Obamas Präsidentschaft zwischen der Regierung und dem Unternehmen wechselten. Schmidt war einer dieser Google-Mitarbeiter.

Von offiziellen Positionen aus hat er sich dafür eingesetzt, dass das Verteidigungsministerium und die Geheimdienste mehr Machine-Learning-Technologie einsetzen. In der Zwischenzeit hat er als Risikokapitalgeber Millionen von Dollar in mehr als ein halbes Dutzend Startups im Bereich der nationalen Sicherheit investiert, die genau diese Technologien an die Regierung verkaufen.
—
(From official positions, he has advocated for the Defense Department and intelligence agencies to adopt more machine-learning technology. Meanwhile, as a venture capitalist, he has invested millions of dollars in more than a half-dozen national-security startups that sell those very technologies back to the government.)

Konkret ist Schmidt über seine Firma Innovation Endeavors einer der Hauptinvestoren der KI-Firma Rebellion Defense. Rebellion erklärt, dass seine Vision darin besteht, „die Mission der nationalen Verteidigung durch KI-gesteuerte Technologie zu stärken (empower the mission of national defense through AI driven technology)“. Das Unternehmen prahlt damit, dass seine Teammitglieder „Mitarbeiter in der Frühphase von Netflix, Amazon, Twitter, Google und Microsoft waren und viele von ihnen als Beamte beim U.S. Digital Service, Defense Digital Service und dem U.K. Government Digital Service (GDS) gearbeitet haben (early-stage employees at Netflix, Amazon, Twitter, Google, and Microsoft, and many have spent time as civil servants at the U.S. Digital Service, Defense Digital Service, and the U.K. Government Digital Service (GDS))“.

Chris Lynch, Mitgründer und Vorstand von Rebellion, wechselte 2015 aus dem Tech-Sektor nach Washington, um den Defense Digital Service (DDS) des Pentagons zu leiten. Während seiner Zeit beim DDS arbeitete Lynch unter drei Verteidigungsministern, bevor er 2019 das Unternehmen verließ, um Rebellion Defense zu gründen. Lynchs Wechsel von Big Tech zum militärisch-industriellen Komplex und zurück in die Privatwirtschaft ist bezeichnend für die ständige Drehtür zwischen Privatwirtschaft und Regierung.

Die Leichtigkeit des Zugangs, die Schmidt und seine Google-Kollegen während der Obama-Jahre genossen, scheint in den ersten Tagen der Biden-Administration zurückzukehren. The Prospect stellt fest, dass Rebellion im November den Auftrag erhielt, ein einheitliches Netzwerk zur gemeinsamen Nutzung von Daten für die Air Force zu schaffen. Kurz nachdem Biden zum nächsten Präsidenten erklärt wurde, begann er, sein Übergangsteam bekannt zu geben. Große Tech-Unternehmen waren auf der Liste, darunter Uber, Amazon, Google und das relativ unbekannte Rebellion Defense.

Die Anwesenheit von Eric Schmidt in der KI-Kommission und als Hauptinvestor in einem KI-Auftragsunternehmen für das Militär ist ein klarer Interessenkonflikt. Schmidts Zeit bei Google und seine öffentlichen Aussagen haben deutlich gemacht, dass er keinen Wert auf Privatsphäre legt. Trotz des Berichtsentwurfs der KI-Kommission, der Lippenbekenntnisse zum Schutz der Privatsphäre abgibt, sollten die Menschen nicht erwarten, dass Leute wie Eric Schmidt oder Rebellion Defense sie vor dem wachsenden Schreckgespenst der KI-gesteuerten autonomen Waffen schützen.

Quellen:
Google’s Eric Schmidt & The Artificial Intelligence Military-Industrial Complex
Techno-Tyranny: How The US National Security State Is Using Coronavirus To Fulfill An Orwellian Vision
Media Ignores Israel Connection to Eric Schmidt’s Push For NY “Smart Cities”
DRAFT FINAL REPORT – National Security Commission on Artificial Intelligence January 2021
U.S. commission cites ‚moral imperative‘ to explore AI weapons
Website Campaign to Stop Killer Robots
EPIC v. AI Commission
Case 1:19-cv-02906-TNM Document 26 Filed 12/03/19
Solicitation of Written Comments by the National Security Commission on Artificial Intelligence
Google Plans to Launch Censored Search Engine in China, Leaked Documents Reveal
Google’s Censored Search Would Help China “Be More Open,” Said Ex-CEO Eric Schmidt
Google Plans Not to Renew Its Contract for Project Maven, a Controversial Pentagon Drone AI Imaging Program
Silicon Valley Takes the Battlespace
Website Rebellion – Leading the defense digital revolution
LinkedIn Chris Lynch