Schlagwort: Schreiben

Text: Yves Furer

Wenn Dinge misslingen, neigen Menschen dazu, nichtmenschlichen Objekten wie Maschinen menschliche Eigenschaften zuzuschreiben. So scheint der Drucker persönlich etwas gegen mich zu haben, weil er immer dann nicht funktioniert, wenn ich ihn dringend brauche. In die Maschine wird ein Wille hineininterpretiert, wo keine Intention vorhanden ist. Solche Vermenschlichung oder Anthropomorphisierung hilft uns, Situationen zu bewältigen, in denen wir uns externen Faktoren ausgeliefert fühlen.

Im Gegensatz zu Druckern, die weder aussehen wie Menschen noch bedeutungsvoll mit Menschen interagieren, sind moderne KI-Systeme genau dafür designt, menschlich zu wirken. Bei Chat-GPT und Co. stellt die Anthropomorphisierung ein Feature und kein Zufall dar. Der Erfolg grosser Technologiekonzerne beim Vorantreiben dieser Entwicklung wird sichtbar, indem es immer schwieriger wird, menschliche Äusserungen von KI-generierten zu unterscheiden. Im schriftlichen Dialog mit Chat-GPT-4 können offenbar viele Menschen nicht mehr mit Sicherheit sagen, ob sie sich gerade mit einem Menschen oder einer Maschine unterhalten (Mei et al. 2024). Doch wirken die Antworten von KI-Chatbots nicht nur deshalb menschlich, weil sie inhaltlich passend ausfallen, sondern KI-Chatbots beantworten beispielsweise medizinische Fragen in einem Online-Forum auch empathischer als medizinisches Fachpersonal (Ayers et al. 2023).

Auffällig ist, wie scheinbar mühelos menschliche Eigenschaften auf die KI übertragen werden, indem entsprechende Begrifflichkeiten verwendet werden. Schon der Begriff künstliche Intelligenz suggeriert, dass eine Entität vorliegt, die eine menschliche Eigenschaft, nämlich Intelligenz besitzt. Doch es stellt sich die Frage, ob KIs wirklich empathisch sind oder uns Menschen nur sehr gut vorspielen, dass sie es sind. Wären KIs empathisch, müssten sie die Gefühle von Menschen erkennen, verstehen und nachempfinden können. Während das Erkennen von Emotion durchaus funktioniert und wohl auch schon kommerziell genutzt wird (Monteith et al. 2022), dürften Verstehen und insbesondere das Nachempfinden Kategorien sein, über die die KIs noch nicht verfügen.

Vertrauen in KI: Ein zweischneidiges Schwert

Wie sich zeigt, bleibt es nicht ohne Folgen, wenn KIs menschliche Eigenschaften zugeschrieben werden, die sie gar nicht besitzen. Anthropomorphe Elemente scheinen das Vertrauen von Menschen in KIs zu erhöhen. Leider handelt es sich beim Vertrauen um ein zweischneidiges Schwert. Ein höheres Vertrauen kann den Umgang mit neuen Technologien erleichtern oder sogar dazu führen, dass sich Personen überhaupt auf eine neue Technologie einlassen. Andererseits besteht beispielsweise die Gefahr, dass Menschen in der Interaktion mit der KI zu viele, auch private Daten von sich preisgeben (Akbulut et al. 2024). Doch auch beim Lernen mit KI-Systemen können weitere Probleme entstehen, wenn insbesondere den KI-generierten Outputs zu viel Vertrauen entgegengebracht wird.

Mehr Vertrauen = weniger nachprüfen?

Bekanntlich liegt die KI sehr häufig richtig, wenn sie mit konkreten Fragen konfrontiert wird, jedoch nicht immer. Insbesondere beim wissenschaftlichen Lernen und Arbeiten ist es essenziell, genau diese Fehler zu erkennen. Das gezielte Prüfen von Informationen stellt allerdings einen aufwändigen und anstrengenden Prozess dar. Ein zu hohes Vertrauen in KI-generierten Output könnte sowohl dazu führen, dass die Notwendigkeit, Inhalte zu prüfen, zu wenig erkannt oder Prüfungsprozesse nicht bis zum Ende durchgehalten werden, weil die Motivation dazu fehlt. Wahrscheinlich mangelt es an Bereitschaft zur kritischen Auseinandersetzung mit KI-Antworten, wenn die KI nicht als Maschine oder Tool angesehen wird, sondern als quasi menschliche Partner:in oder Tutor:in. Schliesslich war die KI doch so nett, mir lange und ausführlich meine Fragen zu beantworten, mir passende Quellen zu suchen und zusammenzufassen und dann erst noch meinen Text zu korrigieren. Wer so viele Freundschaftsdienste für mich erbracht hat, hat doch mein Vertrauen verdient?

Maschinen bleiben Maschinen

Wie schon erwähnt, werden die Technologiekonzerne weiterhin mit viel Geld daran arbeiten, KIs noch menschlicher wirken zu lassen. Auf diese Entwicklung können die wenigsten direkt Einfluss nehmen. Unmittelbar beeinflussen können wahrscheinlich viele Leser:innen dieses Blogs jedoch, wie ihre Studierenden mit KI arbeiten. Selbst wenn die Studierenden KIs häufig auch ohne das Wissen der Dozierenden einsetzen, besteht trotzdem die Möglichkeit, das Lernen mit KI direkt zu thematisieren. KI-generierten Inhalten mit einer gewissen Skepsis zu begegnen, stellt dabei nur einen Ausgangspunkt dar. Dennoch erscheint es wichtig, genau diesen Ausgangspunkt herzustellen, um weitere Schritte wie Überprüfen, Auswählen, Integrieren und Kombinieren von Inhalten und damit Lernen zu ermöglichen. Und schliesslich haben wir alle die Möglichkeit, uns zu hinterfragen, welche Begriffe wir im Kontext von KIs verwenden und wie stark diese Begriffe eine Vermenschlichung implizieren. Denn Maschinen bleiben vorerst Maschinen und keine Freund:innen.

INFOBOX

WORKSHOP
Nachricht an Chat-GPT: Gib mir Feedback auf meinen Text, Montag, 14. April 2025, 12.15–13.30 Uhr, Campus PH Zürich

MODUL
Schreiben begleiten und beurteilen, ab 16. März 2026, Campus PH Zürich

LITERATUR
- Placani, Adriana (2024): Anthropomorphism in AI: hype and fallacy. In: AI and Ethics 4 (3), 691–698.
- Reinecke, Madeline G. / Ting, Fransisca / Savulescu, Julian / Singh, Ilina (2025): The Double-Edged Sword of Anthropomorphism in LLMs. In: Proceedings 114 (1), 4.

Zum Autor