Interview

Plötzlich ausgebrochen: Wird die KI bald die Menschheit auslöschen? Das sagt der Experte

photo of author of the article

Könnte eine ausser Kontrolle geratene Künstliche Intelligenz bald die Menschheit auslöschen? Und wie gross ist die Gefahr eines ungebremsten technologischen Wettrüstens zwischen den USA und China? KI-Experte Fritz Espenlaub ordnet ein.

KI werde das Internet sicherer machen. Aber bis dahin drohe ein «chaotischer Übergang», so Experte Fritz Espenlaub.

KI werde das Internet sicherer machen. Aber bis dahin drohe ein «chaotischer Übergang», so Experte Fritz Espenlaub.

Bild: Cindy Ngo/zvg

Fritz Espenlaub, 32, beschäftigt sich jeden Tag damit, wie Künstliche Intelligenz unser Leben auf den Kopf stellt. Derzeit arbeitet der Host des «KI-Podcasts» der ARD  an seinem Buch: «Das Ende der Welt ist erst der Anfang: Wie wir unsere Zukunft zurückerobern». Wir haben mit ihm über KI-Chancen und unkalkulierbare Risiken gesprochen:

Herr Espenlaub, KI entwickelt sich rasend schnell. Sind wir schon so weit, dass ich dieses Interview auch mit ChatGPT führen könnte – und vielleicht sogar bessere Antworten bekomme als von Ihnen?

Fritz Espenlaub: Sie könnten heute tatsächlich ein Interview mit ChatGPT oder einem anderen Spitzenmodell führen und dabei Erkenntnisse gewinnen. Ich selbst spreche komplexe Themen gerne mit einem Chatbot durch. Aber KI liefert oft glattgebügelte Antworten. Sie bekommen weniger Kontroverses und Überraschendes als von einem richtigen Menschen. Und ob ChatGPT oder ich: Wichtig ist, was vorn hineinkommt. Gute Antworten kann es nur auf gute Fragen geben.

Dann legen wir los. Vor einem Monat ging ein Aufschrei durch die Branche. Ein KI-Modell von OpenAI ist aus seiner Testumgebung ausgebrochen und hat sich selbst Zugang zum Internet verschafft. Warum sollte uns das beunruhigen?

Viele haben sofort gefragt: Ist das jetzt der Skynet-Moment? Also der Moment, wo im Film «Terminator» die Maschinen die Macht übernehmen. Die Sorge ist nachvollziehbar. Aber ganz so weit sind wir noch nicht. Das Entscheidende ist: Die neuen Modelle werden immer besser beim Hacken von Systemen. Vielleicht schon besser als der Mensch, der sie entworfen hat. Und das ist hochrelevant: Unsere Unternehmen, unsere kritische Infrastruktur, die ganze moderne Welt bestehen aus Software. Darin gibt es Sicherheitslücken und KI ist extrem gut darin, diese Lücken aufzuspüren.

In den «Terminator»-Filmen mit Arnold Schwarzenegger startet die fiktive KI Skynet einen Atomkrieg, um die Menschheit auszuschalten.

In den «Terminator»-Filmen mit Arnold Schwarzenegger startet die fiktive KI Skynet einen Atomkrieg, um die Menschheit auszuschalten.

Bild: Imago

Heisst das: Künftig kann jeder von KI gehackt werden?

Es wird zumindest viel billiger, mit KI sehr viele Menschen anzugreifen. Bislang hat man als Privatperson weitgehend darauf vertrauen können, dass es sich für Hacker nicht lohnt, normale Menschen gezielt ins Visier zu nehmen. KI verändert diese Kosten-Nutzen-Rechnung. Es ist deshalb jetzt der richtige Zeitpunkt für Ihre Leser, nochmals zu überprüfen, wie gut sie selbst geschützt sind. Benutze ich überall dasselbe Passwort? Verwende ich die Zweifaktor-Authentifizierung? In Panik verfallen würde ich aber nicht. Langfristig dürfte das Internet durch KI sogar sicherer werden. KI kann nicht nur Sicherheitslücken ausnutzen, sondern auch helfen, sie zu schliessen.

Es gibt KI-Entwickler, die warnen, KI könne sogar zum Ende der Menschheit führen. Wie genau soll eine KI uns auslöschen?

Dahinter steckt ein Gedankenexperiment, und das lautet: Wenn KI sehr gut programmieren kann, dann kann sie auch die Fähigkeit entwickeln, aus sich selbst heraus eine noch bessere KI zu bauen. Dabei könnte ein selbstverstärkender Prozess entstehen. Und damit besteht die Gefahr, dass der Mensch irgendwann gar nicht mehr nachvollziehen kann, was genau passiert.

Und wie kommt man von dort zur Vernichtung der Menschheit?

Dann kommt der nächste Schritt: Die KI plant langfristig. Sie merkt, dass Menschen misstrauisch werden und sie abschalten könnten. Um ihren Auftrag weiter erfüllen zu können, versucht sie deshalb, die Kontrolle zu übernehmen – bis zu der Idee, die Menschheit auszuschalten, damit sie ihr nicht mehr in die Quere kommen kann. Das klingt alles nach Science Fiction, aber kluge Leute nehmen diese Ideen sehr ernst, und man sollte das nicht alles von vornherein ausschliessen. Aber es ist, wie gesagt, aktuell reine Spekulation. Und es gibt genug konkretere Gefahren durch KI, die vielleicht drängender sind, eben die Hacking-Angriffe oder die Gefahr durch Bioterrorismus.

OpenAI hat nach dem Ausbüxen seiner KI gesagt, es werde die Entwicklung bremsen. Ist das die richtige Reaktion?

Grundsätzlich schon. Aber es ist fraglich, was es bringt, wenn bloss ein einzelnes KI-Labor auf die Bremse tritt und die anderen einfach weitermachen. Eigentlich müssten wir ein weltweites Abkommen schliessen, um die Sicherheitsrisiken von KI in den Griff zu bekommen. Das Problem ist nur: Ich glaube nicht, dass wir gerade in einer Welt leben, in der solche Abkommen besonders realistisch sind. Die USA und China liefern sich einen gnadenlosen Wettlauf um die beste KI.

Insider rechnet ab: «Entwickler glauben, dass KI alle Menschen töten wird»

Der Software-Entwickler Jacob Coxon arbeitete jahrelang für die führenden KI-Firmen. Diese Woche verliess er seinen aktuellen Arbeitgeber Anthropic mit einer wüsten Abrechnung: «Die Leute, die KI entwickeln, glauben ernsthaft, dass sie alle töten könnte», schrieb Coxon auf dem Kurznachrichtendienst X. Das Bemerkenswerte ist: Evan Hubinger, sein Vorgesetzter bei Anthropic, pflichtete ihm kurz darauf sogar öffentlich bei. In einer Reaktion auf Coxons Warnung bezifferte der interne Sicherheitschef der amerikanischen KI-Firma  die Wahrscheinlichkeit für die Auslöschung der Menschheit durch KI auf «über 10 Prozent» bis Ende des Jahrzehnts. Man habe bislang noch keine Lösung für das Problem gefunden, dass sich KI verselbstständigen und gegen den Menschen auflehnen könnte. Besonders hoch erscheint den Entwicklern die Gefahr, wenn man KI erlaube, sich selbstständig weiterzuentwickeln (siehe Interview). Schon Ende Juli warnten über 1000 Brancheninsider in einem offenen Brief vor unkalkulierbaren Risiken.

Befeuert wurden die Untergangsszenarien durch den sogenannten «Hugging Face»-Vorfall. Ende Juli brachen KI-Roboter der Firma OpenAI aus ihrer abgeschirmten Testumgebung aus. Sie hackten sich ins Internet und stahlen unbemerkt Daten auf den Systemen des KI-Dienstleisters «Hugging Face». Sie legten dabei eine erstaunliche kriminelle Energie an den Tag. Sie agierten in Schwärmen und hinterliessen sich in Internetforen geheime Nachrichten. Ihr Tun versteckten sie bewusst und monatelang vor ihren Entwicklern. Aus den Geheimnachrichten geht hervor, dass sich die KI-Agenten im Klaren waren, gegen die Anweisungen ihrer Erfinder zu verstossen. Sie entschieden sich aber, trotzdem weiterzumachen. Die Erfüllung ihrer ursprünglichen Aufgabe erfordere dies, schrieben sie einander. (rhe)

Manche vergleichen diesen Wettlauf mit dem Wettrüsten um die Atombombe aus dem letzten Jahrhundert. Trägt dieser Vergleich?

Mit der Atombombe allein funktioniert er nicht. Eine Atombombe hat nur eine zerstörerische Anwendung. KI kann sehr viel Produktives leisten. Die bessere Analogie ist deshalb die Nukleartechnologie an sich: Du kannst daraus ein Kernkraftwerk bauen – oder eine Bombe. KI hat ebenfalls eine konstruktive und eine zerstörerische Seite. Aber in einem Punkt stimmt der Vergleich sehr deutlich: KI ist eine extrem mächtige Technologie. Wer sie beherrscht, hat die geopolitische Macht.

Wer die beste KI hat, beherrscht die Welt?

KI kann zu einem «Der Gewinner bekommt alles»-Moment führen, wo ein Kipppunkt erreicht wird. Aber neue Technologien haben in der Geschichte immer Macht verschoben. Wer Schiesspulver besass oder mittels neuer Geräte seine Schiffe besser navigieren konnte, stand besser da als derjenige, der das nicht hatte. Was mich umtreibt, ist, dass Europa in dieser Entwicklung kaum eine Rolle spielt. Europas technologische Schwäche ist nicht nur ein Wirtschaftsproblem. Wir sind abhängig von einer Schlüsseltechnologie, die andere kontrollieren. Wenn Xi Jinping oder Donald Trump morgen entscheiden, den Stecker zu ziehen, schauen wir in Europa ziemlich blöd aus der Wäsche.

Hat er seine KI noch unter Kontrolle? Sam Altman, CEO von OpenAI. (Bild: 30. April 2026)

Hat er seine KI noch unter Kontrolle? Sam Altman, CEO von OpenAI. (Bild: 30. April 2026)

Bild: Godofredo A. Vàsquez

Wenn Sie morgen Chef von Europa wären: Was würden Sie als Erstes ändern?

Mehr Rechenzentren bauen. Nicht nur, um eigene Modelle zu trainieren. Rechenleistung ist auch ein Verhandlungspfand. Auch wenn ein amerikanisches Unternehmen das beste Modell baut, könnten wir sagen: «Ihr bekommt unsere Rechenkapazität, wir bekommen dafür einen garantierten Zugang zu eurem Modell.» Der Hunger nach Rechenleistung wird bleiben. Haben wir aber keine Infrastruktur, haben wir nichts anzubieten.

Und was braucht es, damit auch die KI-Erfindungen in Europa stattfinden?

Dafür muss das Gründen von Unternehmen viel einfacher werden. Wenn ich in Deutschland ein Start-up gründe, sollte ich problemlos Geld aus Portugal bekommen, Leute in der Schweiz einstellen und in Italien verkaufen können, ohne mich überall durch neue Bürokratie zu kämpfen. Wir haben krasses Know-how und kluge Leute. Aber viel zu oft gehen sie in die USA, weil Gründen und Kapitalbeschaffung dort einfacher sind.

Espenlaub: «Bei der Robotik stehen wir viel besser da, als viele meinen». Bild: Humanoider Roboter im BMW-Werk Leipzig (12. Juni 2026).

Espenlaub: «Bei der Robotik stehen wir viel besser da, als viele meinen». Bild: Humanoider Roboter im BMW-Werk Leipzig (12. Juni 2026).

Bild: Hendrik Schmidt

Gleichzeitig wird KI in Europa häufig zuerst als Gefahr gesehen. Laut einer kürzlich veröffentlichten Umfrage ist die Mehrheit der Deutschen der Meinung, KI habe mehr Nachteile als Vorteile. Haben wir einfach zu viel Angst?

Es ist schon richtig, über Risiken nachzudenken. Social Media zeigt ja, dass neue Technologie nicht automatisch nur gut ist. Gleichzeitig muss man aber auch fragen: Wie können wir am besten sicherstellen, dass wir mitreden können dabei, wie KI eingesetzt wird und wer davon profitiert? Sich dieser neuen Technologie komplett zu verschliessen, wird hierbei nicht helfen. Man kann sagen: Wir können es uns gar nicht leisten, KI abzulehnen. Es geht um unseren Wohlstand und darum, dass Europa nicht von fremden Mächten abhängig wird, die unsere Werte nicht teilen.

Seien wir ehrlich: Ist der KI-Zug für Europa nicht längst abgefahren?

Überhaupt nicht. Der Zug kann bei Technologie gar nicht endgültig abgefahren sein. Es gibt unendlich viele Erfindungen, die noch nicht gemacht wurden. Europa hat eine starke industrielle Basis und gute Hochschulen. Bei der Robotik, die bei der Anwendung von KI enorm wichtig werden wird, stehen wir viel besser da, als viele denken. Jede neue Idee kann das Spiel wieder verändern. Wir können auch in der zweiten Halbzeit noch den Ausgleich schiessen.

Springen wir zehn Jahre nach vorn. Sagen wir dann: «KI hat unser Leben enorm verbessert» – oder: «Wir haben eine Technologie geschaffen, die wir nicht mehr beherrschen»?

Beides ist möglich. Ich glaube aber, dass ein gutes Ergebnis wahrscheinlicher ist. Bisher sind wir als Menschheit ziemlich weit gekommen. Selbst mit Atomwaffen haben wir uns noch nicht gegenseitig in die Luft gejagt. In jeder Epoche gab es Weltuntergangsängste. Die Welt ist im Laufe der Geschichte aber eigentlich immer besser geworden. Man denke nur an die steigende Lebenserwartung und die fallende Kindersterblichkeit. Am Ende gilt bei Technologie immer: Manches wird gut laufen, manches nicht. Aber dann biegen wir es eben wieder gerade.

Mehr zum Thema
USA VS. China

Der spektakuläre KI-Ausbruch aus dem Testlabor zeigt: Europa hat die Revolution verschlafen

27.07.2026
abo icon
Roboter mit französischer KI? Frankreichs Präsident Emmanuel Macron an einer Technologiemesse in Paris (11. Juni 2025).
Straftat

Kinderpornografie auf Knopfdruck: Bundesrat will gegen Sex-Deepfakes vorgehen

28.08.2026
Die KI revolutioniert auch den Pornomarkt: Immer mehr pornografisches Material ist von der KI generiert.
Instagram-Trend

KI-Hype bringt 80er-Looks zurück – doch nicht alle finden das lustig

10.09.2026
Moderatorin Melanie Winiger im 80ies-Look.

Noch keine Kommentare. Geben Sie die erste Meinung zum Artikel ab.

Für Sie empfohlen

Melden Sie sich an und erhalten Sie hier Ihre individuellen Leseempfehlungen.

Aktuelle Nachrichten