Systemfrage: Massenüberwachung per KI im Zuge von Covid-19?

Überwachungskamera – Bildquelle: Pixabay / ElasticComputeFarm; Pixabay License

Unter einem FOIA Request versteht man in den USA einen Antrag aufgrund des Gesetzes zur Informationsfreiheit, welches jedem das Recht einräumt, Zugang zu Dokumenten von staatlichen Behörden zu verlangen. Das Electronic Privacy Information Center (EPIC) hat nun einen solchen Antrag bzgl. des Einsatzes von Überwachungskameras bei der National Security Commisson on Artificial Intelligence (NSCAI) gestellt, um beurteilen zu können, in wie weit diese Kameras zu Errichtung eines US-weiten Überwachungsnetzwerkes eingesetzt werden.

Eine in diesem Zuge übermittelte Präsentation mit dem Titel Chinas Tech Landscape Overview (Überblick zu Chinas technischer Landschaft) zeigt sich beim Thema der Gesichtserkennung durch Überwachungskameras in China begeistert:

Wenn wir über Datenressourcen sprechen, ist die Regierung die größte Datenquelle.
—
(When we talk about data resources, really the largest data source is the government.)

(Download PDF)

In der Präsentation wird zudem darauf eingegangen, wie die chinesische Regierung davon profitiert, dass sie Unternehmen dazu bringt auf Gesichtserkennung für Besucher und Mitarbeiter zu setzen:

Jetzt, da diese Unternehmen in großem Maßstab tätig sind, bauen sie eine Vielzahl anderer Dienstleistungen auf (z. B. Gesichtserkennung für Bürogebäude, Augmented Reality).
—
(Now that these companies are operating at scale they are building a host of other services (e.g. facial recognition for office buildings, augmented reality).)

Auch im Westen setzen private Unternehmen wie Clearview AI, Amazon Ring oder Flock Safety immer mehr auf Gesichtserkennung oder die automatische Nummernschildererkennung, um Personen zu identifizieren. Natürlich darf in diesem Kontext auch das Thema der Smart Cities nicht fehlen. Und so wird unter dem Abschnitt „Staatliche Datensätze: Überwachung = Smart Cities (State Datasets: Surveillance = Smart Cities)“ in der Präsentation Chinas Überwachung der Smart Cities ausdrücklich positiv bewertet:

…es stellt sich heraus, dass Straßen, die mit Kameras gepflastert sind, auch eine gute Infrastruktur für Smart Cities bilden.
—
(…it turns out that having streets carpeted with cameras is good infrastructure for smart cities as well.)

Interessanterweise sieht die NSCAI „Massenüberwachung als eine Killeranwendung für tiefergehendes Lernen (mass surveillance is a killer application for deep learning)“ an. Durch die Verknüpfung von Überwachungskameras, Handyortung und Nummernschildererkennung mit der „Tiefenlernfunktion künstlicher Intelligenz“ soll das zukünftige Verhalten einer Person vorhergesagt werden können. Künstliche Intelligenz (KI) versucht dabei aus den vorhandenen Daten abzuleiten, wie sich jemand in bestimmten Bereichen positioniert und zukünftig verhalten wird.

Letzte Woche veröffentlichte das Magazin MLlive einen Bericht, in dem man lesen konnte, dass ein Startup, das sich mit KI befasst und das mit Hilfe der University of Michigan gegründet wurde, Regierungen dabei hilft, wie man die „soziale Distanzierung (social distancing)“ mittels Überwachungskameras kontrollieren könnte:

Vor zwei Wochen sagte Corso, er und sein Team hätten begonnen, physische Distanzierung an Orten wie dem Times Square in New York, Miami Beach, der Abbey Road in London und dem Ruthven Museums Building in UM zu verfolgen.
—
(Two weeks ago, Corso said he and his team began tracking physical distancing at locations like Times Square in New York, Miami Beach, Abbey Road in London and the Ruthven Museums Building at UM.)

In New York City setzt inzwischen die Polizei Überwachungskameras ein, um die Menschen zu bestrafen (bis zu 1.000 US-Dollar Strafe), wenn die Abstandsregeln nicht eingehalten werden. In Florida werden inzwischen Kontrollpunkte auf Autobahnen installiert bzw. in England Überwachungskameras eingesetzt, um die Ausgangsbeschränkungen kontrollieren und überwachen zu können. Ein anderes Unternehmen namens Voxel51 setzt einen sogenannten „physischen Abstanzindex (physical distancing index)“ ein, um weltweit in Großstädten die Einhaltung der Abstandsregelungen zu überwachen.

Voxel51 – Bildquelle: www.activistpost.com

Voxel51 verfolgt die Auswirkungen der globalen Pandemie des Coronavirus auf das Sozialverhalten mithilfe einer von uns entwickelten Metrik namens Voxel51 Physical Distancing Index (PDI). Der PDI hilft Menschen zu verstehen, wie das Coronavirus die menschliche Aktivität in Echtzeit auf der ganzen Welt verändert. Mithilfe unserer hochmodernen Computer-Vision-Modelle und Live-Videostreams von einigen der meistbesuchten Straßen der Welt erfasst der PDI die durchschnittliche menschliche Aktivität und das soziale Distanzierungsverhalten in Großstädten im Laufe der Zeit.
—
(Voxel51 is tracking the impact of the coronavirus global pandemic on social behavior, using a metric we developed called the Voxel51 Physical Distancing Index (PDI). The PDI helps people understand how the coronavirus is changing human activity in real-time around the world. Using our cutting-edge computer vision models and live video streams from some of the most visited streets in the world, the PDI captures the average amount of human activity and social distancing behaviors in major cities over time.)

Es dürfte auch hier nur eine Frage der Zeit sein, bis Voxel51 dazu genutzt wird Strafen auszusprechen und Menschen zu verhaften, die die staatlichen Vorgaben nicht einhalten. Zwar gibt Voxel51 an, die Daten zu anonymisieren, aber erstens werden die öffentlichen Kameras der Behörden eingesetzt und zweitens wissen wir spätestens seit Edward Snowden um die Glaubwürdigkeit solcher Aussagen. In einem Artikel von 2019 im Michigan News University of Michigan finden wir den Hinweis, das Voxel51 KI einsetzt, um Menschen und Objekte zu identifizieren und zu verfolgen:

Voxel51 hat sich zum Ziel gesetzt, diese Hindernisse mit seiner Videoanalyseplattform und seinen Open-Source-Softwarebibliotheken zu überwinden, die zusammen eine hochmoderne Videoerkennung ermöglichen. Es identifiziert und verfolgt Objekte und Aktionen in jedem Video. Wie Mitbegründer Brian Moore sagt, verwandeln wir Video in Werte.
—
(Voxel51 has set out to overcome those obstacles with their video analytics platform and open source software libraries that, together, enable state-of-the-art video recognition. It identifies and follows objects and actions in each clip. As co-founder Brian Moore says, We transform video into value.)

Es ist schwer vorstellbar, dass Behörden und Regierungen Geld ausgeben werden, um anonymisierte Datensätze zu erhalten. Besonders wenn das Geschäftsmodell von Voxel51 darauf beruht Menschen und Objekte im großen Maßstab zu identifizieren. Ein perfektes Beispiel dafür, dass China als Blaupause in diesem Kontext dient, ist in der NSCAI-Präsentation zu finden:

Amerikanische Unternehmen haben viel zu gewinnen, wenn sie die Ideen chinesischer Unternehmen übernehmen.
—
(American companies have a lot to gain by adopting ideas from Chinese companies.)

Jeden Tag werden wir immer mehr darauf vorbereitet und konditioniert die Massenüberwachung zu akzeptieren. Die westlichen Regierungen und deren zunehmenden Obsession jeden Schritt einer jeden Person zu überwachen, wird in der Folge von Covid-19 noch weit größer werden. Wir sollten daher alles dafür tun, uns gegen die Implementierung eines solchen autoritären Systems wie in China einzusetzen.

Quellen:
Wikipedia – Freedom of Information Act
Documents Reveal Feds Are Excited To Create A Mass A.I. Surveillance Network
Chinese Tech Landscape Overview
Ann Arbor startup tracks social distancing efforts around the world using street camera footage
New York just doubled the maximum fine for breaking social distancing rules to $1,000
I-95 checkpoint shuts down at Florida-Georgia border after traffic backs up for miles
UK coronavirus: Boris Johnson announces strict lockdown across country – as it happened
Measuring the Social Impact of the Coronavirus Pandemic
Advancing AI for video: Startup launches powerful video processing platform