Östermanns Blog

Medienwandel, Strategie, Unternehmensführung im Wandel, Komplexität, nächste Gesellschaft

Posts Tagged ‘Künstliche Intelligenz

Sensoren (7): Diktatur 2.0 – Wege aus der Überwachungsgesellschaft

leave a comment »

Der Pluralismus

sorgt für Diversität, Diversität sorgt für Innovation und kollektive Intelligenz und eine Fähigkeit der Gesellschaft, sich an alle möglichen Sachlagen anzupassen, also auf unerwartete Ereignisse zu reagieren, wie sie mit der digitalen Transformation und auch mit den Nachhaltigkeitsproblemen dieser Welt sicherlich entstehen werden.

Diese Errungenschaft aus einer jahrhundertelangen Entwicklung gilt es zu bewahren. Sie ist bedroht durch die Pläne der großen Tec- und Internet-Konzerne Facebook, Google, IBM und andere, der Gesellschaft ein Betriebssystem zu verpassen, in dem der einzelne mithilfe von Algorithmen unmerklich in eine bestimmte Richtung gelenkt wird.

Die Radiosendung SWR2 Forum vom 27. Juni 2017 versammelt die besorgten Stimmen von drei aufmerksamen Beobachtern der Gesellschaft in der digitalen Transformation  um das Mikrofon: Dirk Helbing, Computer- und Sozialwissenschaftler von der ETH Zürich, den Wissenschaftsjournalisten Adrian Lobe und Peter Schaar von der Europäischen Akademie für Informationsfreiheit und Datenschutz in Berlin.

Die drei sind sich in der Einschätzung der bedrohlichen Lage weitgehend einig. Helbing findet deutliche Worte für die Bedrohung durch Computerwissenschaftler und Ingenieure, die ein Betriebssystem für die Gesellschaft aufbauten, die aber die Bedeutung von Geschichte, von Kultur, von Ethik und Moral nicht verstünden.

Nun hat man die Vorstellung, dass es irgendwann superintelligente Systeme gibt, die besser als wir verstehen können, was die Probleme sind und wie man sie lösen kann. Und wenn wir nur diese Systeme hätten, dann wären alle Menschheitsprobleme bald gelöst. … Irgendwann werden sie in allen Disziplinen besser sein. Irgendwann werden sie alle Weltprobleme lösen können. Ich halte das für eine gefährliche Utopie, weil die vernetzte Welt viel komplexer ist. Die Rechenleistung hält nicht Schritt mit der Datenmenge, die Datenmenge hält nicht Schritt mit der vernetzungsbedingten Komplexität. Deswegen können KI-System diese Welt niemals optimal regieren. Das geht schlicht und einfach nicht. Aber hier wird eine Utopie zur Ideologie und die Ideologie wird zur neuen Religion gemacht. Ich glaube schon, dass das hochgefährlich ist, weil es zu wenige Menschen gibt, die tatsächlich diese Annahmen hinter diesen Utopien hinterfragt haben. De facto hat das Silicon Valley eigentlich kein Weltproblem gelöst.

Noch lässt sich beobachten, wie eine solche neofeudalistische Technokratie entsteht, z.B. in China.

Der chinesische Citizen-Score treibt es auf die Spitze. Da werden alle Daten, die gesammelt werden, auf einen einzigen Wert heruntergekocht. Der beschreibt den Wert eines Menschen aus der Sicht der Regierenden.

Ein anderes Beispiel, an dem bedenkliche Entwicklungen wahrnehmbar sind, ist die Veränderung der Sprache. Lobe weist auf die Emojis hin. Jährlich würden 6 Milliarden Emojis verschickt. Das Unicode-Konsortium, an dem alle großen Tec-Konzerne beteiligt sind, schaffe mit der Regulierung dieser Emojis neue sprachliche Verhältnisse. Denn diese Symbole drückten Emotion eindeutig aus. Sie ließen keine Ambivalenzen in der emotionalen Bewertung mehr zu. Die Dialektik der Sprache, so Lobe, geht verloren.

Im Dialog der drei Experten werden zwei Ebenen deutlich, auf denen Handlungen möglich sind: die persönliche Ebene und die politische Ebene. Helbing verweist auf die noch vorhandenen Möglichkeiten für jeden Einzelnen, aus der Konsumhaltung herauszutreten und zu Mitgestaltern der digitalen Zukunft zu werden.

Wir können digitale offene Öko-Systeme bauen, wir können Open Data, Open Innovation auf den Weg bringen. Es bilden sich ja diese Fab Labs, diese Maker Spaces, wo man lernt, dass man plötzlich mit einem 3D-Drucker Dinge produzieren kann, wo man früher Fabriken gebraucht hat, in die man Millionen investieren musste.

Schaaf sieht erste hoffnungsvolle Ansätze für eine Repolitisierung, besonders bei jungen Menschen, wie es sich in Großbritannien nach der Brexit-Entscheidung und in den USA nach der Trump-Wahl gezeigt habe.

Wir müssen viel stärker dieses politische Element auch in Deutschland wieder entdecken. … Sonst entscheiden andere, Tec-Konzerne oder – möglicherweise sogar im Verbund – bestimmte politische Entscheidungsträger, die ganz anderen Interessen folgen. Ich finde das ganz wichtig, dass da was passiert. Dass da was geht, hat ja zumindest Pulse of Europe mal dargestellt. Ich kann mir durchaus Aktionsformen vorstellen, in denen man sich stärker politisch wieder einbringt und zwar teilweise auch unter Nutzung der technischen Möglichkeiten, die heute sehr viel größer sind, als in der Vergangenheit.

 

Advertisements

Written by Östermann

30. Juli 2017 at 10:00

Sensoren (2): Frisst künstliche Intelligenz die Demokratie?

leave a comment »

Aber viel wahrscheinlicher ist es doch, dass sich die Maschinen einfach immer weiter entwickeln, weit über das menschliche Level hinaus. Dass es Programme gibt, die schnellere und bessere Programme schreiben, die wiederum schnellere und bessere Programme schreiben und immer so weiter, also eine Art Endlosschleife.

Unser Problem ist nicht, was die Menschen schaffen, sondern was die Computer machen, wenn sie unserer Kontrolle entgleiten.

Der Kontrollverlust, den der Skype-Erfinder Jaan Tallinn, in einem Interview mit GEO  beschreibt, kann mehr als nur ein diffuses Unbehagen auslösen. Angst. Aber wieso behalten wir Menschen die Kontrolle nicht einfach? Wer zwingt uns denn, Maschinen zu bauen, die auf eine unserem Denken ähnliche Art und Weise rechnen können, die selbst und an unserer Stelle Entscheidungen treffen können? Wieso ist die Digitalisierung nicht aufzuhalten? Wieso soll sie noch nicht einmal nach den Bedürfnissen der Menschheit und Menschlichkeit steuerbar sein?

Yvonne Hofstetter ist selbst an der Entwicklung künstlicher Intelligenz beteiligt. Mit bewundernswerter Ausdauer schreibt sie Bücher, gibt Interviews und versucht, die Öffentlichkeit wachzurütteln. In einem Radiogespräch bei SWR1 Leute beschreibt sie die Dynamik, die hier maßgeblich wirkt, und warnt vor den Gefahren für die Demokratie und unsere persönliche Freiheit.

Unsere Daten sind viel Geld wert. Wir sind die Wirkursache für enorme Umsätze und Gewinne, insbesondere bei den Internet-Giganten. Hier geht’s beispielsweise um Online-Kreditanträge. Viele Menschen erledigen ja ihre Bankgeschäfte online. Es gibt tatsächlich Online-Banken, die mitloggen, welche Taste Sie drücken. Das lässt darauf schließen – wir denken wieder an die Auswertung der Rohdaten, hier durch die Betätigung der Tastatur – und die Ableitung aus dem häufigen Drücken der Löschtaste wäre beispielsweise, dass Sie weniger gebildet sind. Und ein Fazit der Online-Bank bzw. des Berechnungsverfahrens, das hier analysiert, könnte sein, dass Sie deswegen nicht kreditwürdig sind.

Was sind das für Maschinen, mit denen wir es hier zu tun haben?

Wir haben es mit einer ganz neuen Klasse von Maschinen zu tun. Wir haben früher Werkzeuge benutzt, wieder auf die Seite gelegt und vergessen bis zum nächsten Gebrauch. Die Klasse an Maschinen, mit denen wir es heute zu tun haben, die künstlichen Intelligenzen, die Hand in Hand gehen mit der Datensammelwut, weil sie zum Analysieren gebraucht werden, die arbeiten doch ganz anders. Sie arbeiten autonom, asynchron, d.h. sie warten nicht auf irgendwelche Eingaben. Die arbeiten für uns, mit uns und vermehrt neben uns her und eben vermehrt an unserer Stelle. Und was ist daran so intelligent? Wir haben es hier im Zusammenhang mit Big Data hauptsächlich mit lernenden Maschinen zu tun. Und tatsächlich ist es so, dass in bestimmten Aufgabenbereichen, die diese lernenden Maschinen abarbeiten müssen oder sollen, diese lernenden Maschinen tatsächlich übermenschlich gut sind.

Und wie können wir gewährleisten, dass wir mit der künstlichen Intelligenz nicht selbst unser Grab schaufeln?

Im Moment haben wir da überhaupt keine Gewährleistung. Das ist ja gerade der Punkt. Im Moment geht die Entwicklung sehr rasch voran. Intelligente Maschinen werden immer mehr, greifen immer mehr um sich, nehmen immer mehr Raum ein. Und das Problem ist, wie kriegen wir das Ganze in den Griff? Es gibt renommierte Forscher, die warnen bereits. Ich denke an Stephen Hawkins beispielsweise: ‚Die künstliche Intelligenz könnte unsere letzte Erfindung sein.‘

Was tut Yvonne Hofstetter als verantwortliche Unternehmerin in diesem hochriskanten Bereich selbst, um einen Ausweg aus der Sackgasse zu suchen? Sie unterscheidet klar:

Wir verarbeiten keine persönlichen Daten von Menschen. Intelligente Maschinen kann man sehr schön zur Anlagensteuerung einsetzen.

Es gehe z.B. um intelligente Stromnetze, das Smart Grid, oder um intelligente Verkehrsnetze, wie z.B. den Lieferverkehr auf der letzten Meile in der Stadt zu reduzieren.

Hier haben wir die digitale Transformation, die viele bewährte Dinge zerstört, die zu neuen Geschäftsprozessen führt. […] Wir Bürger sollten sehr wohl einfordern von der Politik, dass die Infrastruktur Internet […] grundrechtssicher hergestellt wird. Grundrechtssichere Infrastruktur muss vom Staat auf eine Art und Weise hergestellt werden, dass sie unsere Rechte wahrt.

Wie der Staat das angesichts der globalen Dimension der sozialen Netze, der überwältigenden Macht der Internet-Konzerne und der Ohnmacht der Politik machen soll, bleibt auch in diesem Gespräch offen. Aber grundrechtssichere Infrastruktur einzufordern wäre ja ein erster Schritt, den wir als Bürger gehen können.

Written by Östermann

28. Februar 2017 at 15:21

%d Bloggern gefällt das: