Fake News: Willkommen in der Ära der Künstlichen Intelligenz und der technologischen TäuschungLesezeit: 8 Minuten

Fake News. Nach wie vor in aller Munde und doch meist nur eine Umschreibung für Nachrichten, die den „oberen Etagenbewohnern“ von Politik und Medien nicht gefallen, weil sie deren Glaubwürdigkeit zerstören und weil sie das herrschende System in Frage stellen.

Doch mit der neuesten Computertechnik und insbesondere der Künstlichen Intelligenz (KI) werden in Zukunft noch ganz andere Dinge möglich sein. Nachrichten, Videos, Bilder und Audio-Aufnahmen, deren Echtheit für den Normalsterblichen nicht mehr verifizierbar sind. Immer mehr Entwicklungen stoßen in eine Richtung vor, die einem den Kopf schwirren lassen. Manche sehen darin gar den Anfang vom Ende der Menschheit.

Aber einmal diese apokalyptischen Ansichten beiseite gelassen, werfen wir doch einmal einen Blick auf die derzeitigen technischen Möglichkeiten, die für viele wie Science-Fiction klingen werden – was sie aber nicht (mehr) sind.

Audio-Manipulation von Videos

Forscher an der University of Washington (UW) haben eine KI-Software entwickelt, die im wahrsten Sinne des Wortes jemanden „die Worte in den Mund legen“ kann. Wenn man so will etwas, was „KI-synchonisierte Lippenbewegungen“ generieren kann:

… solange es eine Audioquelle zum Verwenden gibt, kann das Video realistische Mundformen beinhalten, die fast perfekt auf die gesprochenen Worte ausgerichtet sind. Diese synthetisierten Formen können dann auf ein bestehendes Video von jemandem aufgepfropft werden …

… Es gibt zwei Teile bei diesem System: Zuerst wird ein neuronales Netzwerk trainiert, um große Mengen an Videos zu sehen, um zu erkennen, welche Audio-Sounds mit welchen Mundformen übereinstimmen. Dann werden die Ergebnisse mit bewegten Bildern einer bestimmten Person gemischt, basierend auf früheren Recherchen zur digitalen Modellierung, die von der UW durchgeführt wurden.
—
(… as long as there’s an audio source to use, the video can include realistic mouth shapes that are almost perfectly aligned to the words being spoken. Those synthesised shapes can then be grafted onto an existing video of someone talking …

… There are two parts to the system: first a neural network is trained to watch large volumes of videos to recognise which audio sounds match with which mouth shapes. Then the results are mixed with moving images of a specific person, based on previous research into digital modelling carried out at UW.)

Hier ein kurzes Videobeispiel dazu:

Die UW sagt natürlich, dass es sich dabei um eine gute Sache handelt und dass sie dieses Modell nur entwickelt hat, um Fake Videos identifizieren zu können. Fast so als hätte man bestimmte Techniken noch nie für zuvor nicht angedachte Zwecke missbraucht. Naivität pur.

Stimmenimitation per Software

Aber hier hört der „Spaß“ noch nicht auf. Ein neues Start-Up namens Lyrebird kann inzwischen Audiosegmente erzeugen, die genauso wie eine bestimmte Person klingen. Dazu werden KI-Netzwerke und das sogenannte Deep Learning angewandt, um die Stimmmodulation dieser bestimmten Person nachzubilden.

Zwar ist diese Technik erst im Anfangsstadium und noch etwas holprig, wie das nachfolgende Beispiel zeigt, aber es dürfte nur eine Frage der Zeit, bis die „Anfangsprobleme“ gelöst wurde:.

Besorgniserrgend ist dabei insbesondere, dass diese Technik nach den Plänen von Lyrebird bald jedem zugänglich sein soll. Und wenn so etwas schon für den einfachen Smartphonenutzer angedacht ist, auf welche Technologien haben dann erst das Militär und die Geheimdienste Zugriff?

Hologramm-Technik

Eine Technik, bei der viele an Star Trek und Co. denken werden. Aber bereits 2012 wurde der 1996 verstorbene Rapper Tupac in einem Live-Konzert per Hologramm „auf die Bühne gestellt“. Tupacs Hologramm wurde für das menschliche Auge annähernd nicht erkennbar neben die realen Personen Snoop Dog und Dr. Dre projiziert:

Mittels einer Phototechnik werden dabei die Lichtbrechungen eines Objekts erfasst und per Software in ein 3D-Format übertragen. Schon in den 1940ern wurde die erste Hologramm-Technik vom britisch-ungarischen Physiker Dennis Gabot entwickelt, der dafür 1971 den Nobel-Preis gewann.

Unsere Fähigkeit, dynamische, hochauflösende Hologramme zu produzieren – denken sie an Prinzessin Leia, die zusammen mit Obi-Wan Kenobi für die Hilfe der Jedi bittet – ist derzeit von den sogenannten Wellenfrontmodulatoren begrenzt. Diese Vorrichtungen, wie z. B. räumliche Lichtmodulatoren oder digitale Mikrospiegelgeräte, können die Richtung der Lichtausbreitung steuern.

Ein Bildgebungssystem mit einem kurzen Brennweitenobjektiv kann nur ein kleines Bild erzeugen, das einen breiten Betrachtungsbereich hat. Umgekehrt kann ein System mit einer langen Brennweite ein größeres Bild erzeugen, aber mit einem sehr engen Betrachtungsbereich. Die beste Wellenfrontmodulator-Technologie konnte nur ein Bild erstellen, das einen Zentimeter groß ist, mit einem Betrachtungswinkel von drei Grad.

[…]

„Dieses Problem […] kann durch einfaches Einsetzen eines Diffusors gelöst werden“, erklärt YongKeun Park, Professor in der Physik-Abteilung bei KAIST. Weil ein Diffusor Licht diffundiert, können sowohl die Bildgröße als auch der Betrachtungswinkel um einen Faktor von einigen Tausenden, so Park, dramatisch erhöht werden.

Aber es gibt noch ein weiteres Problem zu überwinden: ein Diffusor vermischt das Licht.

„Um einen Diffusor als ‚eine holographische Linse‘ nutzen zu können, muss man die optischen Eigenschaften jedes Diffusors sorgfältig kalibrieren“, sagt Park per E-Mail. „Zu diesem Zweck verwenden wir eine ‚Wellenfront-Technik‘, die Informationen über die Beziehung zwischen dem Auftreten von Licht auf einen Diffusor und dem ausgehenden Licht liefert.“
—
(Our ability to produce dynamic, high-resolution holograms – think Princess Leia pleading with Obi-Wan Kenobi for the Jedi’s help – is currently limited by what’s called wavefront modulators. These devices, such as spatial light modulators or digital micromirror devices, can control the direction of light propagation.

An imaging system with a short focal length lens can only create a tiny image that has a wide viewing range. Conversely, a system with a long focal length can generate a larger image but with a very narrow viewing range. The best wavefront modulator technology has only been able to create an image that is one centimeter in size with a viewing angle of three degrees.

[…]

„This problem […] can be solved by simply inserting a diffuser,“ explains YongKeun Park, a professor in the Physics Department at KAIST. Because a diffuser diffuses light, both the image size and viewing angle can be dramatically increased by a factor of a few thousands, according to Park.

But there’s still one more problem to overcome: a diffuser scrambles light.

„Thus, in order to utilize a diffuser as ‚a holographic lens,‘ one needs to calibrate the optical characteristics of each diffusor carefully,“ Park says by email. „For this purpose, we use ‚wavefront-shaping technique,‘ which provides information about the relationship between impinging light onto a diffuser and outgoing light.“)

Eigentlich eine faszinierende Technik, wenn sie gleichzeitig nicht so beängstigend wäre.

Die möglichen Folgen

Wenn man sich all diese Technologien nochmal in einen gemeinsamen Kontext ansieht, von der die eine oder andere bald auf unseren Smartphones landen dürfte, muss man sich zwangsläufig die Fragen stellen: was kann ich dann überhaupt noch glauben? und: wie schwierig ist es wohl, ein vollständig „künstliches“ Video von einer Person zu erstellen, die die Menschen – aus welchen Gründen auch immer – als Hassobjekt sehen sollen?

Wir leben in Zeiten, wo Fake News und False Flag Operationen schon fast zur Tagesordnung gehören und in der Krieg als Profitinstrument angesehen wird. Und wie nett wäre es dann doch, wenn man den nächsten Bösewicht so mir nichts, Dir nichts per Hologramm, Lippensynchronisation und computergenerierter Audio-Aufnahme erschaffen kann.

Ein konkretes Beispiel gefällig? Wie wäre es mit den Giftgasangriffen in Syrien, die angeblich Bashar al-Assad an der eigenen Bevölkerung verübt haben soll?

Alles was wir in der Hochleistungspresse damals zu Hören und Sehen bekamen, waren Vermutungen und unbewiesene Anschuldigungen. Ein Video hier und eine emotionale Geschichte dort. Dass Assad kein Motiv hatte, diese Angriffe durchzuführen, schien trotz allem viele Menschen nicht zu interessieren. Doch was wäre, wenn Assad in einem Video zu sehen wäre, wo er genau diese Giftgasangriffe befiehlt?

Was wäre, wenn es ein „KI-Hologramm-Video“ mit entsprechenden Audioaussagen geben würde? Wir Menschen tendieren dazu Dinge zu glauben, die wir anfassen oder zumindestens sehen und hören können. Und wenn eine entsprechende Emotion im Vorfeld noch durch die Hochleistungspresse erzeugt wurde, wie würde dann eine „Live“-Rede Assads vor der Kamera ankommen? Auch wenn es eigentlich nur ein Hologramm ist?

Was wäre, wenn es eine durch KI generierte Rede und/oder ein Video geben würde, in der der „aktuelle Feind“ des Westens massive Drohungen ausspricht? Vielleicht ein Kim Jung-Un, der bekannt gibt, dass man die USA angreifen will? Kann man ein Land und seine Bevölkerung besser hinter einen „vorbeugenden, militärischen Angriff“ bringen als mittels eines solchen „Beweises“?

Conclusio

Vielleicht geht in diesem Fall die Fantasie mit mir etwas durch, aber das Thema KI erfährt immer mehr Akzeptanz in unserer Gesellschaft. Alexa, Siri und Co. sei Dank. Wir werden regelrecht eingelullt, da diese Technologien doch so „bequem“ sind. Aber öffnen wir nicht in Wahrheit die Türen für etwas, was der größte Alptraum der Menschheit werden kann?

Wenn wir uns die heutige Welt anschauen, dann muss man zwangsläufig davon ausgehen, dass die Computer- und KI-Techniken dazu benutzt werden, bestimmte „Fäden zum Klingen zu bringen“ – sprich die Massen zu manipulieren. Denn immer, wenn eine Technologie existierte, um Menschen in irgendeiner Form zu täuschen, wurde diese auch von irgendjemanden am Ende eingesetzt.

Quellen:
Welcome To The Era Of Artificial Intelligence And Technological Deceit
Apocalyptic AI: Visions of Heaven in Robotics, Artificial Intelligence, and Virtual Reality – Robert M. Geraci
Our Final Invention: Artificial Intelligence and the End of the Human Era – James Barrat
Scarily Realistic AI Video Software Puts Words in Obama’s Mouth
Teaser — Synthesizing Obama: Learning Lip Sync from Audio
Politicians discussing about Lyrebird
Tupac Hologram Snoop Dogg and Dr. Dre Perform Coachella Live 2012
Holograms Aren’t The Stuff of Science Fiction Anymore