
ChatGPT kann für Schülerinnen und Schüler einen Aufsatz schreiben. Wie ist das ethisch zu bewerten?
KI-generierte Influencer, Hausaufgaben mit ChatGPT verfasst und KI-Drohnen: Mit der stetigen Weiterentwicklung der Technologie eröffnen sich neue ethische Herausforderungen. Die Auseinandersetzung damit, welcher Einsatz von künstlicher Intelligenz ethisch vertretbar ist und wo eine Regulierung nötig ist, stellt sowohl politische als auch wissenschaftliche Akteure vor eine grosse Aufgabe.
Ausserdem stellt sich die Frage, welcher Massstab angelegt werden soll, wenn es darum geht, Handlungen und Aussagen einer künstlichen Intelligenz zu bewerten. Im Interview erläutert Dozentin und Senior Researcherin Anna Jobin die Kernaufgaben der ethischen Auseinandersetzung mit künstlicher Intelligenz – und warum es Menschen so stört, wenn sie künstlich generiertes und menschlich geschaffenes nicht unterscheiden können.
Viele Menschen aus meinem Umfeld bedanken sich bei ChatGPT. Tun Sie das?
Anna Jobin: Ich schreibe jetzt in der Tat auch manchmal «danke» und «bitte», nachdem ich mich zuerst monatelang bewusst bemüht hatte, es nicht zu tun. Denn nötig ist es bestimmt nicht. In meinem Fall habe ich mich tatsächlich gefragt, warum es mir so schwerfiel, diese Worte wegzulassen.

Anna Jobin ist Forscherin und setzt sich mit der Ethik künstlicher Intelligenz auseinander.
Zu welchem Schluss sind Sie gekommen?
Ich weiss ja, wie ChatGPT funktioniert und projiziere keineswegs Bewusstsein in diesen Chatbot. Vielleicht, weil ich tagaus, tagein schriftlichen Kontakt per Mail und Chat mit echten Menschen habe und mir deshalb den Wortgebrauch so gewohnt bin? Sozusagen ein ähnlich unbedachter Reflex wie neulich am Flughafen, als mir beim Check-in die Angestellte «Gute Reise» wünschte und ich entgegnete: «Danke, gleichfalls.»
Angenommen, technische Erfindungen wären Kugeln, die weiss, rot oder grün sind. Grün ist eine positive Erfindung, rot eine gefährliche und weiss ist neutral. Eine Kugel wird aus einem Behälter gezogen, in den man nicht hineinsieht. Nach einem Zug kann die Kugel nicht zurückgelegt werden beziehungsweise die Erfindung nicht rückgängig gemacht werden. Welche Farbe hat die Kugel der künstlichen Intelligenz?
Sie ist bestimmt nicht einfarbig. Die Beurteilung von KI als ausschliesslich gut, schlecht oder neutral greift zu kurz. Wie bei allen technischen Erfindungen kommt es doch auf Faktoren an, die bei weitem nicht nur von der Technologie selber abhängen.
Zum Beispiel?
Beispielsweise: Wer nutzt KI – und zu welchem Zweck? Die Gedankenspielerei blendet aus, welch grosse Rolle soziale, kulturelle und politische Dimensionen spielen bei der Gestaltung und den Auswirkungen von Technologien.
Über Anna Jobin
Dr. Anna Jobin ist Forscherin mit einem multidisziplinären Hintergrund in Soziologie, Wirtschaft und Informationsmanagement. Derzeit ist sie Senior Researcher an der Universität Fribourg, Senior Researcher am Humboldt Institut für Internet und Gesellschaft in Berlin und Dozentin an der EPFL in Lausanne und dem Management Center Innsbruck. Seit Oktober 2021 ist sie Präsidentin der Swiss Federal Media Commission.
Ihre Forschungsfelder beinhalten Wissenschaft, Technologie und Gesellschaft mit einem speziellen Fokus von algorithmischen Systemen, (digitaler) Ethik und Bürgerwissenschaft.
Ist das Ziehen ohne Zurücklegen beziehungsweise das Eine-Erfindung-rückgängig-Machen eine realistische Annahme?
Im Gegensatz zur eindeutigen Farbbestimmung scheint es mir eine realistischere Annahme, dass die Erfindung nicht rückgängig gemacht werden kann. Wie die Zahnpasta, welche kaum wieder zurück in die Tube gebracht werden kann. Dass Technologien nicht einfach rückgängig gemacht werden, bedeutet jedoch nicht, dass die Menschheit ihnen einfach ausgeliefert ist. Schon manche technische Erfindung wurde bezüglich Herstellung oder Nutzung im Laufe der Zeit eingeschränkt oder gar verboten. Man denke an Asbest, Nukleartechnologie, Röntgen oder gentechnisch veränderte Organismen.
Eine Frage, die sich viele Schulen stellen müssen, ist jene, wie Chatbots wie ChatGPT genutzt werden dürfen. Da ChatGPT kein digitales Profil hat, können Texte nicht direkt nachverfolgt werden. Muss der Gebrauch reguliert werden?
Der verbreitete einfache Zugang zu Webinhalten hat die formalisierte Schriftlichkeit als Format des Leistungsnachweises schon seit Google und Wikipedia vor Herausforderungen gestellt. Darauf wurde unterschiedlich reagiert: Teilweise mit Plagiatssoftware, welche aufspüren sollte, ob ein bestimmter Text schon anderswo besteht; teilweise mit neuen Methoden und Lernzielen, welche die Digitalität einbezogen hat; und nicht selten mit der Vogel-Strauss-Methode, das heisst: gar nicht.
Was bedeutet das für den Einsatz künstlicher Intelligenz?
Die Existenz von KI im Lernkontext zu ignorieren, fände ich eine verpasste Chance. Wir müssen uns mit KI auseinandersetzen, kritisch, aber nicht kulturpessimistisch. Bei ChatGPT können nun Texte tatsächlich nicht direkt nachverfolgt werden. Dies bringt vor allem das Vorgehen mit Plagiatssoftware an seine Grenzen. Einige hoffen jetzt auf ähnliche technische Lösungen für die Erkennung von ChatGPT-Texten. Dabei wäre es zielbringender und pädagogisch wertvoller, bessere Lernaufgaben und -umgebungen zu gestalten.
Kann man behaupten, utilitaristisch gesehen, dass KI so viel wie möglich zugelassen werden soll, da es die Effizienz steigert?
Falls nur die Endnutzung in Betracht gezogen wird, mag dies eine naheliegende, wenn auch arg verkürzte und natürlich sehr theoretische Annahme sein. KI automatisiert manches auf sehr effiziente Art, zum Beispiel Spamerkennung, Personalisierung, aber eben auch Diskriminierung und Homogenisierung.
Weshalb könnte der Fokus auf Effizienz kritisch sein?
Vor allem Blankoversprechen von Effizienzsteigerungen sind fraglich, wenn die gesamte Wertschöpfungskette von KI betrachtet wird. Denn die enormen Rechenleistungen verbrauchen nicht wenig Energie, Wasser, und Hardware. Und schon vor dem ersten Einsatz benötigt das Training von KI-Modellen erheblichen menschlichen Einsatz, um die Daten aufzubereiten.
Wie funktioniert das?
Diese Aufbereitung wird oft von sogenannten Clickworkern in monotoner Bildschirmarbeit erbracht, die wenig mit gesteigerter Effizienz zu tun hat. Astra Taylor nennt diese Art von Arbeit, die durch unsichtbare menschliche Anstrengung vollbracht und fälschlicherweise als automatisiert wahrgenommen wird, übrigens «Fauxtomation».
KI kann eingesetzt werden für vieles: das Korrigieren von Programmiercodes und Erstellen von Titelvorschlägen. Das kann Menschen mit weniger Kompetenz zu mehr verhelfen. Gleichzeitig hat nicht jeder Zugang dazu. Führt KI zu mehr oder weniger Gleichheit?
Diese Frage zeigt einen wichtigen Widerspruch auf zwischen Versprechen und Wirklichkeit, wie er sich vor KI schon bei der Digitalisierung gezeigt hat. Mehr Gerechtigkeit wird nicht unbedingt durch eine gerechtere Verteilung der Technologie selber erreicht, sondern durch die Anerkennung bestehender Ungleichheiten und einer gerechteren Verteilung der Vorteile, die durch die Technologie entstehen.
Neben textbasierten Bots gibt es andere Anwendungen der KI: zum Beispiel bildergenerierende. Auf Social Media gibt es KI-generierte Influencer wie Yuna . Wäre es verwerflich, nichtmenschliche Influencer dieser Art nicht zu deklarieren?
Täuschung ist grundsätzlich unethisch, da es sich um eine offensichtliche Aushebelung der Autonomie des Gegenübers handelt, indem eine verzerrte Realität vor Augen geführt wird. Niemand wird gerne manipuliert. Dass es aber für Agenturen und Konzerne einfacher ist, Kunstfiguren zu erschaffen als mit echten Menschen zu verhandeln, erstaunt mich nicht.
Können Sie das ausführen?
Eine ergänzende Überlegung scheint mir hier nicht unwichtig: Im Gegensatz zu beispielsweise neu erschaffenen Avataren, für welche digitale Kreativschaffende bezahlt werden, stützen sich viele frei verfügbare KI-Bildgeneratoren auf bestehende Fotos und Illustrationen, ohne dass Urheberrechte berücksichtigt worden sind. Das ist höchst problematisch. Bereits jetzt müssen viele Kunstschaffende mit wenig Mitteln auskommen, obwohl die Nachfrage nach Kunst und Kultur grundsätzlich gross ist, nicht nur via KI-Bildgeneratoren.
Was bedeutet das für die Gesellschaft?
Über Einzelfälle hinaus würde mich als Soziologin interessieren: Was macht das mit einer Gesellschaft, in welcher sich noch weniger Menschen leisten können, künstlerisch tätig zu sein? Oder auch zurück zu Ihrer Frage: Was macht das mit uns, wenn wir nicht mehr wissen können, welche Bilderzeugnisse die Realität abbilden und welche nur mechanistische Ableitungen davon sind? Und wie gehen wir am besten damit um? Diese Fragen werden uns noch eine Weile beschäftigen.
Es gibt bei oben genanntem Beispiel zur Influencerin Menschen, die sich daran sehr stören, nicht zu erkennen, was künstlich und was menschlich ist. Weshalb ist es dem Menschen wichtig, sich selbst zu erkennen?
Bilder dienen als Spiegel unserer eigenen Existenz und als Angebot der sozialen Verortung. Das Bedürfnis, sich selbst in Bildern zu erkennen, liegt wohl in der Suche nach Identität, Erinnerung und Sinngebung. Fotografie und Bewegtbild suggerieren zudem Wirklichkeit, da sie den Eindruck eines unmittelbaren Abbildes der Realität erwecken. So gesehen, verstösst auch die Nachbearbeitung mit Bildbearbeitungssoftware gegen die ersehnte Authentizität.
Welche Argumente gibt es darüber hinaus?
Ich denke, dass daneben auch Transparenz und Diversität ein Anliegen sind: Man will nicht nur eine Art von Bildern und Menschen sehen, egal ob von Mensch oder Maschine generiert, und man möchte eigentlich wissen, wie die Bilder zustandegekommen sind.
Für KI-Influencer gibt es keine globale Regulierung. Warum ist es international so schwer, künstliche Intelligenz zu regulieren? Die Regulierung von KI scheint eine Schwierigkeit, die sowohl das Schreiben von Hausarbeiten als auch militärische Operationen betrifft?
Genau, man möchte Grundrechte schützen, Risikominderung erzielen und Rechtssicherheit schaffen, ohne dabei den technischen und wirtschaftlichen Fortschritt zu behindern. Dass KI sektorenübergreifend eingesetzt werden kann, macht das Ganze nicht einfacher. Ausserdem gibt es keine eindeutige, allgemein anerkannte Definition von KI.
Gibt es denn internationale Bestrebungen?
Auf internationaler Ebene passiert viel: Gerade kürzlich lud Grossbritannien zum AI Safety Summit ein, und die G7-Staaten einigten sich auf Leitprinzipien und einen Verhaltenskodex. Die EU ist mit dem AI-Gesetz schon weit gekommen, und auch der Europarat unter dem Vorsitz der Schweiz ist einer Einigung nahe. Internationale Abkommen erfordern viel Vorarbeit. So gesehen, ist es fast schon erstaunlich, wie viel Platz KI im weltweiten Policy-Raum bereits einnimmt.
Blake Lemoine, ehemaliger leitender Software-Ingenieur bei Google, veröffentlichte Chatprotokolle mit der KI von Google, weil er überzeugt war, sie besässe ein Bewusstsein. Wenn das so wäre, müsste ihr dann erlaubt werden, mitzubestimmen, was ethisch ist?
Aus meiner Forschungsperspektive braucht KI keine Rechte, denn Chatroboter sind Maschinen. Sie agieren nicht eigenständig und können kein Bewusstsein entwickeln. Zwar können sie menschliche Sprache erstaunlich gut nachahmen und so auch Empfindungen simulieren. Aber dies geschieht alles nur aufgrund programmatischer Vorgaben und zur Verfügung gestellter Datenräume durch Menschen.
Gibt es andere Perspektiven darauf?
Es gibt allerdings andere Ansichten zu dieser Frage, wovon ich noch am ehesten jene nachvollziehen kann, die argumentiert: Weil wir KI anthropomorphisieren, tun wir uns selber einen Gefallen, indem wir KI mehr Rechte geben. Gleichzeitig erschliesst sich mir nicht, inwiefern ein normativer Rechtsanspruch gerechtfertigt sein soll für Technologien, die von Menschen entwickelt und eingesetzt werden und die weder über Bewusstsein noch Empfindung verfügen.





