
Partner oder Konkurrenz? Die Superintelligenz der KI braucht klare Regeln, fordert Nick Bostrom.
Macht uns Künstliche Intelligenz bewusst, dass menschliche Fähigkeiten nicht so einzigartig sind, wie wir lange angenommen haben?
Nick Bostrom: Ja, ich denke, viele Menschen gründen ihr Selbstwertgefühl auf die Vorstellung, einen Beitrag zu leisten oder für andere zu sorgen. Sie versorgen ihre Familie oder verfügen über besondere Fähigkeiten, mit denen sie der Gesellschaft nützen können. Wenn KI uns eines Tages in allen Bereichen übertrifft, wird die Möglichkeit für uns, einen instrumentell nützlichen Beitrag zu leisten, verschwinden. Es wird eine grössere metaphysische Bescheidenheit hinsichtlich unserer besonderen Stellung erforderlich sein.
Was bedeutet die aktuelle Entwicklung für Sie?
Es könnte einer der grössten Wendepunkte in der gesamten Geschichte der Menschheit sein – vielleicht sogar der bedeutendste überhaupt.
Weshalb?
Wir erleben den Übergang von menschlicher zu maschineller Intelligenz. Wenn dieser Übergang gut verläuft, könnten künftige Generationen über Tausende von Jahren davon profitieren. Die Entscheidungen, die wir heute treffen, könnten die langfristige Zukunft intelligenten Lebens beeinflussen.
Schon heute sehen wir eine Vorstufe davon. KI kann Texte verfassen, Informationen verarbeiten und Aufgaben übernehmen, die früher besondere menschliche Fähigkeiten erforderten. Wie betrachten Sie diese Entwicklungen?
Ich bin zugleich begeistert und besorgt. Es gibt viele Möglichkeiten, wie dieser Übergang schiefgehen könnte. In meiner Arbeit habe ich versucht, einige der Risiken zu analysieren, denen wir begegnen werden. Den Überblick darüber zu behalten, was derzeit geschieht, ist mittlerweile beinahe eine Vollzeitbeschäftigung. Es gibt so viele unterschiedliche Aspekte, die durchdacht werden müssen.
Wo sehen Sie konkret Handlungsbedarf?
Eine wesentliche Herausforderung ist die Sicherheit künstlicher Intelligenz – das sogenannte Alignment-Problem. Dabei geht es darum sicherzustellen, dass immer leistungsfähigere Systeme nicht ausser Kontrolle geraten und uns vernichten.
Der Konflikt liegt also zwischen Mensch und Maschine. Das klingt nach Science Fiction oder Goethes Zauberlehrling. Ist eine solche Gefahr wirklich realistisch?
Die Herausforderung wird mittlerweile allgemein anerkannt. Führende KI-Labore beschäftigen eigene Forschungsgruppen, die an skalierbaren Methoden zur Ausrichtung von KI-Systemen auf menschliche Werte arbeiten. Gelöst ist das Problem allerdings noch nicht. Es bleibt ein erhebliches Risiko.
Das ist aber nicht die einzige Gefahr.
Nein, es geht auch darum, dass Menschen sich nicht gegenseitig mithilfe von KI schaden. KI kann für autonome Waffensysteme, Cyberwaffen oder totalitäre Überwachungssysteme eingesetzt werden. Wir sollten KI so nutzen, dass sie Menschen hilft, anstatt sie zu töten oder zu unterdrücken. Ausserdem müssen wir sicherstellen, dass alle Menschen an dieser Zukunft teilhaben können. Wenn die wirtschaftlichen Gewinne enorm sind, sollten möglichst viele davon profitieren. Ebenso sollten Menschen nicht durch KI-generierte Propaganda manipuliert werden.

Nick Bostrom
Geboren 1973 in Schweden. Studium der Physik, der Mathematik, der Neurowissenschaften und der Philosophie unter anderem am King’s College in London und an der London School of Economics. Dort erwarb er einen Doktortitel. Er ist Professor am St. Cross College der Universität Oxford und Direktor des Future of Humanity Institute und des Programme for the Impact of Future Technology. In seinen Büchern denkt er darüber nach, was passiert, wenn eine von Menschen entwickelte Maschine zu einer mächtigeren Intelligenz wird als die unsere.
Sind wir gesellschaftlich und politisch gut auf die künstliche Intelligenz vorbereitet?
Das hängt von den Erwartungen ab.
Soll heissen?
In gewisser Weise ist die aktuelle Entwicklung positiver verlaufen, als man hätte befürchten können. Wir verfügen bereits über Systeme, die in etwa menschliches Niveau erreichen, in natürlicher Sprache kommunizieren und menschliche Konzepte verstehen. Das erleichtert es der Gesellschaft, zu begreifen, was geschieht. Superintelligenz ernst zu nehmen fällt leichter, wenn KI-Systeme Jahr für Jahr intelligenter werden. Man könnte sich auch ein alternatives Szenario vorstellen, in dem eine plötzliche wissenschaftliche Entdeckung innerhalb kürzester Zeit zu einer Superintelligenz führt. Dann hätten wir deutlich weniger Zeit zur Vorbereitung gehabt, und es wäre schwieriger gewesen, Aufmerksamkeit für das Alignment-Problem zu schaffen.
Und die Politik?
Die Welt ist derzeit nicht gerade friedlich und harmonisch, aber sie befindet sich auch nicht in ihrem schlechtesten Zustand. Verglichen mit den Weltkriegen oder dem Kalten Krieg leben wir in einer günstigeren Situation für die Entwicklung von Superintelligenz. Wir werden aber einen sich ständig weiterentwickelnden regulatorischen Rahmen benötigen. Wenn gefährliches Wissen allgemein zugänglich wird, brauchen wir stärkere physische und institutionelle Schutzbarrieren. Es ist höchste Zeit, darüber nachzudenken.
Ist KI eine Bedrohung für die Demokratie?
Sie birgt das Potenzial, Macht zu konzentrieren. Wenn eine kleine Zahl von Akteuren die leistungsfähigsten KI-Modelle kontrolliert, könnten sie die Meinungsbildung von Milliarden Menschen beeinflussen. Diese Systeme werden zunehmend in unseren Alltag integriert sein. Menschen werden mit ihnen sprechen, Vertrauen zu ihnen entwickeln und möglicherweise subtil in bestimmte Richtungen gelenkt werden. Gleichzeitig kann KI Menschen dabei helfen, fundiertere Entscheidungen zu treffen.
Die Gefahr von Falschinformationen könnte aber grösser sein, wie Sie selbst bereits angesprochen haben.
Massenmanipulation hat es schon immer gegeben. Die meisten Wähler verbringen keine Jahre damit, sämtliche Argumente für oder gegen politische Programme detailliert zu analysieren und rational gegeneinander abzuwägen. Ich denke vielmehr, dass KI das Potenzial besitzt, Wählern und Verbrauchern dabei zu helfen, fundiertere Entscheidungen zu treffen.
Welche Rolle sollte KI im Alltag und in Berufen wie Journalismus, Medizin oder Politik spielen?
KI-Systeme sind inzwischen äusserst nützliche Werkzeuge. Ich würde allerdings nicht unbedingt empfehlen, sie zum Schreiben kompletter Texte zu verwenden. Das Ergebnis ist oft sehr schnell produziert und sprachlich glatt, wirkt aber nach einer Weile beliebig und austauschbar. Es ist besser, wenn Texte Ecken und Kanten sowie eine unverwechselbare menschliche Perspektive besitzen. Für Recherche, Faktenprüfung und kritische Reflexion sind KI-Systeme hingegen ausserordentlich hilfreich. Ich nutze sie in meiner eigenen Arbeit als Gesprächspartner, mit denen ich Ideen weiterentwickeln und verschiedene Perspektiven erkunden kann.
Derzeit investieren die USA enorme Summen in KI-Infrastruktur, während die führenden Unternehmen überwiegend dort oder in China sitzen. Was bedeutet diese Entwicklung speziell für Europa?
Der Zugang zu den leistungsfähigsten KI-Modellen kann jederzeit eingeschränkt werden. Wir haben das kürzlich beim Modell «Fable» erlebt, das zeitweise für Nicht-US-Bürger nicht zugänglich war. Der Zugang wurde später zwar wiederhergestellt, doch der Vorfall zeigt, dass entsprechende Einschränkungen möglich sind. Derzeit sind die Unterschiede zwischen den Systemen zwar bedeutend, aber noch nicht entscheidend. Wenn sich die Entwicklung der KI jedoch weiter beschleunigt, könnten bereits wenige Monate darüber entscheiden, ob ein Land Zugang zur Spitzentechnologie besitzt oder mehrere Generationen zurückliegt.
Welche Lehren ziehen sie daraus?
Das sollte ein Weckruf sein. Aus einer vorsichtigen und strategischen Perspektive wäre es sinnvoll, entsprechende Investitionen erheblich zu beschleunigen. Ohne Zugang wird es schwierig, technologische Entwicklungen zu verstehen, wirtschaftliche Chancen zu nutzen oder sich angemessen zu verteidigen. Europäische Staaten könnten massive KI-Rechenzentren auf ihrem eigenen Territorium aufbauen und diese strategisch als Verhandlungsmasse einsetzen. Langfristig sollte das Ziel eine global kooperative Entwicklung künstlicher Intelligenz sein. Wer jedoch keinerlei eigene Infrastruktur oder technologische Kompetenzen besitzt, wird am Ende möglicherweise keinen Platz am Verhandlungstisch erhalten.



