Der Sieg der Maschine

Interview In Miriam Meckels Buch «Next» übernehmen menschliche Algorithmen die Kontrolle über unsere Welt. Eine Utopie – sich jedoch der digitalen Welt zu verweigern, wird immer schwieriger, sagt die Kommunikationswissenschafterin. Erst recht, wenn Computer moralisch werden. Bruno Knellwolf

Die Vision der Herrschaft der Maschinen, glänzend verfilmt von Charlie Chaplin in «Modern Times». (Bild: ky)

Die Vision der Herrschaft der Maschinen, glänzend verfilmt von Charlie Chaplin in «Modern Times». (Bild: ky)

In Miriam Meckels Buch «Next» haben die Algorithmen die Kontrolle über den Menschen errungen. Der Untertitel: «Erinnerungen an eine Zukunft ohne uns» tönt dementsprechend bedrohlich. Im Buch kommen denn auch im ersten Teil ein menschlicher Algorithmus zu Wort, der den Aufstieg der Maschine erzählt, und im zweiten der letzte Mensch. Eine Utopie, eine irritierende Reise in die digitale Zukunft, die nicht den Menschen, sondern den Computern gehört.

Frau Meckel, ein ETH-Informatikprofessor hat die Prognosen des letzten Jahrhunderts untersucht und festgestellt, die digitale Zukunft lässt sich nicht voraussagen. Ist das jetzt anders, wo wir im digitalen Zeitalter stehen?

Miriam Meckel: Ich glaube nicht, dass man die Zukunft voraussagen kann. Aber man kann mit einer Prognose die Zukunft verändern. Wenn die Prognose als Gedanke einmal in der Welt ist, ist sie nicht mehr wegzubekommen. Was ich in meinem Buch geschrieben habe, ist aber keine Prognose, sondern ein Szenario, das zum Denken anregen soll. Eine Verlängerung eines Gedankens, den man in der jetzigen Technologieentwicklung angelegt sieht.

Wahrscheinlicher ist aber, dass uns ein Internet der Dinge erwartet. Wir sprechen bald mit der Butter, die im Regal steht.

Meckel: Das halte ich für total realistisch. Es hat ja längst begonnen. Sie können über das Smartphone mit ihrer Heizung kommunizieren. Da sind alle diese Smart Devices: Kühlschränke, die runterkühlen, wenn der Strom besonders günstig ist. Ich bin auch sicher, dass wir irgendwann mit der Brille sprechen können. Nach dem Motto: Wo liegst du schon wieder rum? Melde dich.

Viele digitale Errungenschaften haben wir aber gar nicht gewollt, es bestand kein Wunsch. Gibt es einen digitalen Selbstläufer?

Meckel: Es liegt ein selbstverstärkender Prozess in den technischen Möglichkeiten. Zum einen, weil der Mensch neugierig ist. Die Technik macht ja nichts von sich aus. Wir probieren aus, was möglich ist. Ob das in der Gen- oder Nanotechnologie ist oder im digitalen Netz. So entsteht Neues in der Welt. Das ist spannend, aber man hat nicht immer die Möglichkeit, zu überschauen, welche Konsequenzen das hat.

Zum Beispiel?

Meckel: Natürlich haben wir bemerkt, dass sehr schnelles Autofahren den Menschen nicht nur in Kürze von A nach B bringt, sondern auch tödlich sein kann. Heute entwickeln wir Technologien, die dazu führen, dass dem Menschen die Kontrolle über das Fahrzeug weggenommen wird. Das Auto entscheidet selber, ob es bremst und beschleunigt. Diesen Kontrollverlust halte ich allerdings für etwas befremdlich.

Mit solchen technischen Fortschritten gehen immer auch Heilsversprechungen einher – alles wird besser. Welche Versprechungen treiben uns jetzt?

Meckel: Ein Heilsversprechen liegt im Begriff der Transparenz. Durch Transparenz sei alles klarer und besser zu entscheiden. Da kann man auch skeptisch sein. Zum Beispiel die Wikileaks-Veröffentlichungen. Die haben eine Menge positiver Effekte gebracht, sie waren auch ein Anschub für die Demokratiebewegungen in Tunesien und Ägypten. Aber sie haben auch dazu geführt, dass die diplomatischen Dienste jetzt sehr viel abgeschotteter arbeiten. Oder die Gentechnologie. Unser Genom können wir heute analysieren lassen. Aber was machen wir mit den Informationen? Was bedeutet das, wenn ich erfahre, dass ich mit Ende sechzig an Alzheimer erkranke? Eine solche Information verändert das Leben.

Informationen bestimmen unser Leben. In Ihrem Buch übernimmt die Maschine gar die Kontrolle. Wie realistisch ist das?

Meckel: Der Gedanke, der diesem Buch zugrunde liegt, ist, was wir jetzt schon im Internet beobachten können. Nämlich das personalisierte Internet auf Basis von algorithmischen Empfehlungssystemen. Wenn Sie auf Google etwas suchen und ich suche dasselbe, bekommen wir unterschiedliche Ergebnisse.

Warum das?

Meckel: Google wertet nicht nur aus, wie viele Links auf den Suchbegriff verweisen, sondern guckt sich seit Ende 2009 auch an, was wir sonst noch machen im Internet. Wenn Sie bei Amazon Bücher empfohlen bekommen, funktioniert das mit diesen personalisierten Algorithmen wie auch die Datenströme auf Facebook. Das ist der Anfang der Geschichte im Buch: Wir begeben uns in einen algorithmischen Trichter hinein, wo nur noch die Informationen zur Verfügung gestellt werden, die wir schon mochten. Wir bewegen uns in einem Ego-Loop und berechnen den Zufall und die Überraschung raus.

In den USA werden Algorithmen entwickelt, die moralisch entscheiden können. Wird uns der Computer gar moralisch überlegen werden?

Meckel: Man könnte ja auch sagen, das ist grossartig, dann haben wir endlich eine Instanz, auf die wir uns verlassen können. Aber das ist gar nicht das Problem. Ich wär nicht neidisch, wenn ein Algorithmus moralischer sein könnte als ich selbst. Aber wir können irgendwann gar nicht mehr unterscheiden, entscheidet die Maschine oder der Mensch. Ab einer gewissen Rechenkapazität wird uns diese Unterscheidung unmöglich gemacht.

Wie beim IBM-Computer Watson im TV-Quiz Jeopardy.

Meckel: Der hat eine solche Rechenkapazität, dass er auch analysieren kann, was Menschen tun, wenn sie zweifeln. Er drückt das mit Fragezeichen aus, und wir glauben, er zweifelt. Natürlich ist das nicht so. Er hat nur analysiert, was Menschen zum Beispiel in E-Mails tun, um Zweifel zum Ausdruck zu bringen – und macht das dann genauso. So wird es schwieriger, zu beobachten, wo der Unterschied zwischen Mensch und Maschine liegt. Das ist ein bisschen beängstigend.

Aber immerhin hat der Computer keine Emotionen. Er spielt diese nur aufgrund seiner Rechenleistung.

Meckel: Ich glaube aber, dass er dank seiner Rechenleistung Emotionen immer besser simulieren kann. Wir Menschen können das dann nicht mehr unterscheiden. Und dann ist es Realität für uns.

Da müsste doch Widerstand entstehen. Weg von Facebook.

Meckel: So würde ich das nicht formulieren, es gibt ja auch Vorteile. Aber es ist sehr wichtig, zu verstehen, wie die Mechanismen dahinter sind. Auch Alternativen zu sehen und einschätzen zu können, was mir angeboten wird. Technologie ist nie neutral. Techniken sind immer auch Repräsentationen für Machtverteilungen und Interessenlagen wie jene von Google und Facebook, die mit uns Geld verdienen wollen.

Gibt es in Zukunft noch die persönliche Wahlfreiheit. Ist es noch möglich, analog zu leben?

Meckel: Für Flugreisen gab es früher Tickets, die man per Post erhielt. Heute muss man dafür draufzahlen. Ansonsten geht es nur noch mit dem E-Ticket. Ich kenne viele Kollegen, die sagen, wenn ich nicht auf Facebook bin, werde ich zu wesentlichen Veranstaltungen nicht mehr eingeladen. Da stellt sich die Frage, bin ich drin oder nicht.

Das tönt sehr verpflichtend.

Meckel: Die totale Verweigerung wird schwer. Es gibt sicher noch Menschen, die das machen und sich das leisten können. Aber das werden immer weniger. Jüngeren, die digital aufgewachsen sind, kommt das gar nicht mehr in den Sinn.

Kennen Sie noch jemanden, der sich digital verweigert?

Meckel: Nein. Selbst mein 82jähriger Vater hat ein Laptop und mailt und skypet mit mir. Daran sieht man, wie toll diese Techniken sind. Ich kenne niemanden, der sich ganz verweigert, aber viele, die sich Regeln auferlegen und bewusst Auszeiten nehmen. Das mach ich selber auch.

Miriam Meckel (Bild: Urs Jaudas)

Miriam Meckel (Bild: Urs Jaudas)

Für Sie empfohlen

Melden Sie sich an und erhalten Sie hier Ihre individuellen Leseempfehlungen.

Aktuelle Nachrichten