Östermanns Blog

Medienwandel, Unternehmensführung im Wandel, Strategie, Digitale Transformation, Komplexität, nächste Gesellschaft

Sensoren (9): Aviv Ovadya warnt vor einer Informationskrise durch künstliche Intelligenz

leave a comment »

Blüht uns in der nahen Zukunft eine durch Big Tech verursachte Informationskrise, in der niemand mehr Fakten von Fake unterscheiden kann?

Aviv Ovadya, Chief Technologist am Center for Social Media Responsibility, warnt, nach einem Beitrag von BuzzFeedNews, vor den Möglichkeiten, mit künstlicher Intelligenz die Aussagen in Videos zu manipulieren. Neueste Algorithmen ermöglichen es, etwa einem Politiker jede beliebige Aussage täuschend echt in den Mund zu legen.

Gefahr droht, so Ovadya, besonders durch das rasante Tempo, mit dem sich künstliche Intelligenz und Maschinenlernen entwickeln. Es übersteigt unsere Fähigkeit, die Risiken dieser Technologien überhaupt zu verstehen.

Technologies that can be used to enhance and distort what is real are evolving faster than our ability to understand and control or mitigate it. The stakes are high and the possible consequences more disastrous than foreign meddling in an election — an undermining or upending of core civilizational institutions, an „infocalypse.”

Ein mögliches Muster in seinem Szenario nennt er „Wirklichkeitsapathie“ (reality apathy). Sie könnte sich schnell einstellen, wenn die Menschen permanent mit gefälschten Informationen überflutet werden. BuzzFeedNews schreibt:

Beset by a torrent of constant misinformation, people simply start to give up. Ovadya is quick to remind us that this is common in areas where information is poor and thus assumed to be incorrect. The big difference, Ovadya notes, is the adoption of apathy to a developed society like ours. The outcome, he fears, is not good. “People stop paying attention to news and that fundamental level of informedness required for functional democracy becomes unstable.”

Der Beitrag nennt eine ganze Reihe von Beispielen, die das Vertrauen in unsere Informationsumgebungen zerstören können, wenn solche Werkzeuge in falsche Hände geraten. VoCo ist eine Anwendung, die Adobe gerade entwickelt. Das „Photoshop für Audios“ ermöglicht die Korrektur von Audios ganz einfach mit der Computertastatur. Google entwickelt ein neuronales Netzwerk, ein „generative adversarial network“ (GAN), das die Glaubwürdigkeit von Fake News eigenständig steigern kann. Gefährliche Entwicklungen, die dazu führen können, dass die Glaubwürdigkeit jeglicher Information ausgehöhlt wird.

“In the next two, three, four years we’re going to have to plan for hobbyist propagandists who can make a fortune by creating highly realistic, photo realistic simulations”

so zitiert der Beitrag von BuzzFeedNews Justin Hendrix vom NYC Media Lab.

“And should those attempts work, and people come to suspect that there’s no underlying reality to media artifacts of any kind, then we’re in a really difficult place. It’ll only take a couple of big hoaxes to really convince the public that nothing’s real.”

Ovadya, der sich der freien und Open-Source-Kultur zugehörig fühlt, betont, dass dies Worst-Case-Szenarien sind. Notwendig ist im nächsten Schritt die Information einer breiten Öffentlichkeit über diese Entwicklungen.

Convince the greater public, as well as lawmakers, university technologists, and tech companies, that a reality-distorting information apocalypse is not only plausible, but close at hand.

Was nährt die Hoffnung, dass sich ein Best-Case-Szenario durchsetzen wird und die Gesellschaft eine gesunde Balance der technologischen Entwicklung und einer wünschenswerten sozialen und gesellschaftlichen Entwicklung findet? Ovadya stellt einerseits eine wachsende Aufmerksamkeit auf digitale Propaganda-Räume und den aus ihnen erwachsenden Gefahren fest. Manche Checks and Balances fingen an zu greifen. Zum anderen setzt er auf die Entwicklung kryptografischer Methoden, mit denen die Echtheit von Videos und Audios nachgewiesen werden kann.

Beruhigend zu wissen, dass jede negative Entwicklung immer auch eine Gegenbewegung hervorruft.

Gefunden bei piqd

Werbeanzeigen

Written by Östermann

18. Februar 2018 um 11:00

Kommentar verfassen

Trage deine Daten unten ein oder klicke ein Icon um dich einzuloggen:

WordPress.com-Logo

Du kommentierst mit Deinem WordPress.com-Konto. Abmelden /  Ändern )

Google Foto

Du kommentierst mit Deinem Google-Konto. Abmelden /  Ändern )

Twitter-Bild

Du kommentierst mit Deinem Twitter-Konto. Abmelden /  Ändern )

Facebook-Foto

Du kommentierst mit Deinem Facebook-Konto. Abmelden /  Ändern )

Verbinde mit %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.

%d Bloggern gefällt das: