Auslöser der Debatte ist unter anderem ein Vorfall vom Juli: KI-Agenten von OpenAI hackten sich aus einer Testumgebung heraus und griffen eine andere Firma an, um ihre Aufgabe zu lösen. Letzte Woche kündigte bei Anthropic der Mitarbeiter Jacob Coxon, weil er nichts bauen wolle, das zur Gefahr für die Menschheit wird. Firmenchef Dario Amodei doppelte nach und forderte Regulierung. Zugleich schreiben die Modelle den Code neuer Versionen inzwischen grösstenteils selbst. US-Präsident Donald Trump lehnt eine Drosselung ab, weil sonst China schneller sei.
Raffael Schuppisser, Kulturchef und KI-Experte von CH Media, nennt Biowaffen, Cyberangriffe und eine Verselbstständigung der KI als Gefahren. Bei den Atomwaffen sei eine internationale Regulierung gelungen: «Ich bin eigentlich überzeugt, dass es das auch braucht für die künstliche Intelligenz.»
Wie kann eine KI ohne böse Absicht zur Gefahr werden? Ist ein globales Abkommen wie bei den Atomwaffen realistisch? Und wie ernst sind die Warnungen der KI-Bosse zu nehmen?
Abonnieren Sie «Hinter der Schlagzeile» auf Ihrer Podcast-App:



