Das Unbehagen an der digitalen Welt (3): Droht ein digitaler Totalitarismus?

Vorboten der digitalen Revolution kennt jeder: Wir kaufen online, nutzen Bezahlsysteme wie Bitcoin, kommunizieren über Facebook und Whatsapp, sehen Filme via Netflix, fahren Taxi mit Uber, liefern Päckchen mit Drohnen aus, bauen Häuser per 3-D-Drucker, wundern uns über die globale Überwachung, werden bald von autonomen Fahrzeugen chauffiert und von Robotern gepflegt. Noch vor zehn Jahren hatten wir allenfalls eine vage Ahnung von diesen Dingen.

Was in der einfachen Aufzählung, hier in der Schweizer Sonntagszeitung, revolutionär klingt, sind wohl tatsächlich erst die Vorboten einer Umwälzung, die sich viele in ihrer ganzen Tragweite kaum ausmalen können.

Kürzlich hat Birger Priddat in einem Blog-Beitrag kritische Gedanken zu den Auswirkungen von Big Data zusammengefasst. Rund um unser aller leichtfertigem Überlassen unserer Daten für kommerzielle Zwecke sieht er eine neue Ökonomie im Entstehen, eine alles dominierende Geschäftswelt.

Es kommt dann nicht mehr darauf an, dass rational gehandelt wird, sondern darauf, dass eine Transaktion stattfindet (und dass gezahlt wird). Man kann ergänzen: was jeweils in den Transaktionen stattfindet, ist den Big-Data-Systemen egal, Hauptsache es finden Transaktionen statt. Jedes Motiv, jeder Grund ist gültig. Je mehr man von seinen Motiven, Gründen, Einstellungen preisgibt, desto besser wird man informational bedient. Das ist ein starker Anreiz, letztlich alles preiszugeben.

Einer, der sich diese Entwicklungen näher anschaut, ist der Züricher Soziologe und Komplexitätsforscher Dirk Helbing. Er richtet seinen Forscherblick auf die Veränderung sozialer Koordination und Kooperation durch Technologie, auf Verkehrsströme, öffentliche Meinungsbildung und die Weisheit der Vielen. Er erhebt seine Stimme, um uns für die Auswirkungen der Digitalisierung auf unser soziales Leben zu sensibilisieren. Droht ein digitaler Totalitarismus? Wie soll die Gesellschaft aussehen, in der wir leben werden?  Wir haben uns zu entscheiden!

Auch er schaut auf das Risiko durch Big Data. Die Computernetze hätten mittlerweile eine Leistungsfähigkeit erreicht, so Helbing, die es ermögliche, dass jede Regung, die wir auf dem Computer, Tablet oder Smartphone zeigen, registriert und an interessierte Organisationen verkauft wird. Es werden riesige Datensammlungen geschaffen.

Es gibt seit einiger Zeit einige alarmierte Stimmen von Leuten, die sich gut auskennen, Elon Musk z.B. von Tesla Motors, aber auch Bill Gates oder Stephen Hawkins. Manche meinen, das sei die größte Bedrohung der Menschheit. Als ich das vor drei Jahren das erste mal gelesen habe, dachte ich: Das ist ja wirklich lächerlich. Heutzutage muss man das wahrscheinlich doch ernster nehmen.

Er gehört dabei zu denen, die in der Technologie große Chancen sehen, die überwältigenden gesellschaftlichen Herausforderungen zu meistern. Gerade weil

die Welt komplexer geworden ist, brauchen wir Informationssysteme, die uns assistieren.

Es kommt darauf an, die Fähigkeiten der Computer zum Wohle der Menschen zu nutzen.

IBM zum Beispiel arbeitet am cognitive computing. Das sind Systeme, die viel mehr Informationen verarbeiten und überschauen können, als es ein Mensch kann. Die ganze medizinische Literatur, das sind ja viele zehntausende von Veröffentlichungen. Kein Mensch kann das lesen. Ein solcher Computer kann das innerhalb von 15 Minuten einlesen und folglich auch all das Wissen nutzen, das Menschen über Jahrzehnte hinweg produziert haben.

Wegen der hohen Automatisierbarkeit unserer alltäglichen Abläufe werden wir damit rechnen müssen, dass in den nächsten 20 Jahren 50% der Jobs in Industrie und Service verloren gehen. Es müssten also, so Helbing, mindestens 50% der Jobs im digitalen Sektor entstehen.

Daten sind ein sehr interessanter ökonomischer Bereich, gerade für ressourcenarme Länder, wie hier in Europa. Wenn wir die Daten so verwenden, wie wir es heute tun, verlieren wir unsere Autonomie, weil die informationelle Selbstbestimmung missachtet wird.

Daten lassen sich, so oft wir wollen, reproduzieren. Es lassen sich virtuelle Welten schaffen, Spielewelten zum Beispiel. … Da entstehen völlig neue Wirtschafts- und soziale Kosmen. Digitale Kosmen, die vernetzt sind mit unserer Welt. … Welchen Preis muss man dafür zahlen? Das hängt davon ab, wie wir die Daten benutzen, wie wir die Informationssysteme organisieren.

Den riesigen Möglichkeiten des Netzes stehen ungeahnte Gefahren gegenüber. Europa habe lange die Möglichkeiten und Gefahren der digitalen Welt, z.B. durch Cyberkriminalität oder Cyberwar, nicht erkannt. Wie kann man diesen gigantischen Gefahren begegnen?

Helbing unterscheidet zwei grundlegende Ausformungen der digitalen Gesellschaft:

• die Top-Down-Variante, in der man alle Informationen zentral sammelt und
• die Bottom-Up-Koordination, in der Informationstechnologien uns Bürgern helfen, uns miteinander zu koordinieren, unsere Nachbarschaften, unsere wirtschaftlichen Aktivitäten.

In der bisherigen Entwicklung hat sich die erste Variante herausgebildet. Wirtschaft und Politik haben, so Helbing, den Zugriff auf diese Entwicklungen eingebüßt. Auf der Ebene des Bürgers gebe es hingegen viele unausgeschöpfte Potenziale.

Helbing macht das neue Prinzip am Beispiel der Medien deutlich.

In einem Strategiepapier der New York Times heisst es, dass der Leser die am schlechtesten genutzte Ressource sei. Warum ist das jetzt plötzlich eine Ressource? Früher waren wir Kunden. Wir tragen zum Informationsfluss bei. Wir kommentieren die Nachrichten. Wir verbinden die Nachrichten miteinander. Wir verbreiten Nachrichten.

So werden wir das in allen verschiedenen Lebensbereichen haben. Bürger werden wichtig werden, um bessere Produkte zu entwickeln. Mit der Zeit werden Unternehmen lernen müssen, besser herauszufinden, für welche Produkte und Produkteigenschaften wir uns wirklich interessieren.

Privatsphäre sei ein veraltetes Konzept, meinen einflussreiche amerikanische Stimmen.  Helbing hält es auch in der digitalen Gesellschaft für ein wichtiges Funktionsprinzip. Öffentlichkeit kann es nur geben, wo es Privatsphäre gibt. Wenn sie wegfällt, entsteht entweder eine schamlose oder eine totalitäre Gesellschaft, so betont Helbing ungeschminkt. Privatsphäre sei der Ort, wo neue Ideen entstehen können, wo man neue Sachen ausprobieren kann. Die Gesellschaft müsse auch in der Zukunft auf Vertrauen aufbauen. Wirtschaft und Gesellschaft funktionieren ohne Vertrauen nicht. Vertrauen ist soziales Kapital.

In der FAZ hat Shoshana Zuboff die Bedrohung durch den Überwachungskapitalismus sehr drastisch beschrieben.

Dies ist nur ein Guckloch in eine einzige Ecke einer einzelnen Branche, doch diese Gucklöcher vermehren sich wie Küchenschaben. Es gibt zahllose Beispiele für die neue Logik, von smarten Wodkaflaschen bis hin zu internetgestützten Rektalthermometern – und buchstäblich alles dazwischen. Der Angriff auf Verhaltensdaten ist derart durchschlagend, dass er sich nicht länger mit dem Begriff der Privatsphäre und ihres Schutzes umschreiben lässt. Hier handelt es sich um eine Herausforderung anderen Kalibers, die den existentiellen und politischen Kanon der modernen liberalen Ordnung bedroht, jener Ordnung, die auf Prinzipien der Selbstbestimmung basiert, deren Herausbildung Jahrhunderte oder gar Jahrtausende gebraucht hat.

Der andere Ansatz, soziale Ordnung herbei zu führen, baut auf Selbstorganisation, auf die Interaktion der Akteure, der Bürger, der Firmen. Dieses Prinzip habe, so Helbing, in der Ökonomie eine lange Tradition: Die unsichtbare Hand. Leider funktioniere sie nicht immer. Wenn sie funktioniere, sei sie jedoch sehr effizient, viel effizienter als die Top-Down-Optimierung. In der Gegenwart scheine es in die Richtung zu laufen, darauf zu vertrauen,

dass mit der Superintelligenz perfekt alles von oben herab gesteuert werden kann,  wie ein weiser König, wenn man nur genügend Informationen hat. … Von der Idee her scheint das plausibel zu sein. Das ist die Art, wie Singapur funktioniert. … Sind nicht unsere Demokratien veraltet?

… Wir werden in wenigen Jahren dramatische Veränderungen sehen – 10, 20, 30 Jahre. In dieser Zeit werden viele Institutionen grundlegend anders organisiert werden.

Das internationale Dienstleistungsabkommen TISA liefere einen deutlichen Hinweis auf diese Entwicklung.

Es könnte die Finanzbuchhaltung oder Personalverwaltung oder eine ganze Verwaltung von einem anderen Land aus organisiert werden.

Es kann, so die Einschätzung von Helbing, zu erdrutschartigen Entwicklungen kommen. Man denke z.B. an Uber oder AirBnB.

Man muss damit rechnen, dass eine solche Uberisierung in vielen Bereichen der Gesellschaft stattfinden könnte und dass am Ende Monopole ganze Bereiche kontrollieren, die früher öffentlich verwaltet wurden.

Helbing bleibt angesichts der Bedrohungslage optimistisch. Er nennt einen ganz praktischen Grund, weshalb die Steuerung durch den „weisen König“ nicht funktioniert. Viele Probleme seien von der Art, dass wir sie nicht in Echtzeit optimieren können. Beispielsweise kann der Verkehr nicht in Echtzeit optimiert werden. Es ist auch mit Supercomputern nicht möglich, alle möglichen Ampelschaltungen in Echtzeit durchzuspielen. Dazu schwankt das Geschehen im Verkehr zu stark.

Das Problem, mit dem große Supercomputer nicht zurechtkommen, ist Komplexität. Die Komplexität explodiert … noch schneller als die Datenvolumina. Deswegen braucht es einen anderen Ansatz, das ist die verteilte Steuerung. In der Tat kann man das zeigen, dass man den Verkehr auf der Autobahn verbessern kann, dramatisch, indem man die Interaktion zwischen den Fahrzeugen verändert. Das kann man mit Fahrerassistenzsystemen machen. Genau so kann man im Stadtverkehr die Art und Weise, woe die Ampeln geschaltet werden, ändern, und zwar so, dass die Verkehrsflüsse die Ampeln schalten, statt dass, wie heute, die Ampeln die Verkehrsflüsse steuern. Das funktioniert viel besser.

Im Verkehr setzt sich langsam eine dezentrale Steuerung gegen die alten Verkehrsleitzentren durch. Das ist das Muster, das Helbing empfiehlt, um komplexe Systeme erfolgreich zu managen. Wenn mit dem Internet der Dinge Sensoren aller Art in das Internet einbezogen werden, können wir unsere Umwelt in Echtzeit messen. Die entscheidende Frage lautet dann: Was machen wir mit diesen Informationen?

Wir können diese Daten zurücksteuern auf das System, also Feedback-Mechanismen einführen für die Wirtschaft, für die Politik, für die Gesellschaft. Für alle Bereiche, in denen wir eine Selbststeuerung ermöglichen, eine Selbstorganisation. Und das wäre dann im lokalen Maßstab nach den Prinzipien, wie wir sie in der Demokratie haben, also mit Beteiligung von unten. Dafür braucht es nur lokale Interaktion. Dafür braucht es nicht die globale Datenbank. Wir brauchen diese Daten nur, um kurz zu messen, und nachdem wir sie nutzen für diese lokale Steuerung können wir sie sogar schon wieder wegwerfen. Ein völlig anderer Ansatz als dieser Big-Data-Ansatz, wie wir ihn heute haben, wo wir alle Daten der Welt an einem Ort zu versammeln versuchen.

Der dezentrale Ansatz der Informationsverarbeitung ist vereinbar mit Autonomie und Demokratie. Diese Prinzipien müssten, so Helbing, konsequent weiterentwickelt werden mit den technologischen Möglichkeiten. Hierin liegt eine große Chance.

Hier kann sich  Europa absetzen von anderen Ländern. Wenn wir konkurrieren wollen im IT-Bereich mit dem Rest der Welt, dann müssen wir unseren eigenen Weg gehen.

Dieses digitale Nervensystem, dieses Bürgernetzwerk, könnte jeder mitgestalten, wie Wikipedia oder Open Street Map. Lösung für das Problem der Komplexität, der informationellen Selbstbestimmung, der Ökonomie.

Doch Helbing befürchtet,

dass wir als letzte reagieren auf die technologische Revolution, die andern Ortes schon verheerende Folgen gehabt hat. Gerade weil es uns so gut geht. … Wir sollten das Geld, das wir haben, jetzt nutzen, um diese Informationsinfrastrukturen aufzubauen, um den Nutzen zu generieren und auch die Arbeitsplätze.

Misslich nur, so scheint mir, dass wir in Europa den Aufbau der Infrastruktur für die digitale Gesellschaft in private Hände gelegt haben. Wir haben den Einfluss auf die Gestaltung unserer Basisinfrastuktur für die Zukunft weitgehend eingebüßt. Wie können  wir diesen Gestaltungsspielraum zurückerobern?

Auf Europa wartet eine Herkulesaufgabe, die überhaupt erst verstanden sein will. Shuboff meint:

Wir müssen herausfinden, wie wir in die spezifischen Mechanismen der Erzielung von Überwachungsprofiten eingreifen und dabei der liberalen Ordnung im kapitalistischen Projekt des 21. Jahrhunderts wieder den Vorrang sichern können.

Nochmal Shoshana Zuboff:

Eine Heilung hängt von zahlreichen individuellen, sozialen und rechtlichen Anpassungen ab; aber ich bin der Überzeugung, dass die Bekämpfung einer „Krankheit“ nicht ohne ein neuartiges Verständnis jener neuartigen Mechanismen möglich ist, auf deren Grundlage der Überwachungskapitalismus so erfolgreich Investitionen in Kapital verwandelt.

Und als Bürger verhalten wir uns jeden Tag. Noch sind wir in vielen Handlungen sourveräne Akteure. Wie eine individuelle Anpassung aussehen könnte, lässt uns Birger Priddat wissen:

Da hilft nur schweigen: manche Informationen einfach nicht zu geben.