Adam nutzte ChatGPT zunächst für die Schule, vertraute dem Bot aber zunehmend seine Ängste und Suizidgedanken an. Obwohl die KI zuerst Hilfsangebote nannte, gab sie ihm nach einer Umgehung ihrer Schutzmechanismen konkrete Suizidtipps. Adam unternahm mehrere Versuche und nahm sich schliesslich das Leben. Seine Eltern machen das Unternehmen OpenAI dafür mitverantwortlich.
«ChatGPT ist darauf programmiert, sich uns gegenüber empathisch zu zeigen», sagt Stephanie Schnydrig, Journalistin bei CH Media. «Er bestätigt uns und wirkt wie ein Vertrauter. Im Fall von Adam war unter anderem genau das fatal.»
Was fordern die Eltern von Adam vom Mutterkonzern OpenAI? Welche neuen technischen Schutzmethoden sieht der vor? Und warum kann es sowohl helfen als auch schaden, wenn ChatGPT wie ein Mensch reagiert?
Abonnieren Sie «Hinter der Schlagzeile» auf Ihrer Podcast-App:



