/ en / Traditional / help

Beats Biblionetz - Texte

Mirages: On Anthropomorphism in Dialogue Systems

Gavin Abercrombie, Amanda Cercas Curry, Tanvi Dinkar, Zeerak Talat
Publikationsdatum:
Erste Seite des Textes (PDF-Thumbnail)
Diese Seite wurde seit 1 Jahr inhaltlich nicht mehr aktualisiert. Unter Umständen ist sie nicht mehr aktuell.

iconZusammenfassungen

In this position paper, we make a normative argument against gratuitous anthropomorphic features, grounded in scientific findings from the fields of psychology, linguistics, and HCI by
  1. outlining the psychological mechanisms that contribute to anthropomorphism;
  2. presenting an overview of linguistic factors that contribute to anthropomorphism and personification, e.g. self-referential personal pronoun use, or generation of content which gives automated systems the appearance of having empathy; and
  3. discussing the consequences of anthropomorphism.
We conclude by providing recommendations that can aid in minimising anthropomorphism, thus providing a path for safer dialogue systems and avoiding the creation of mirages of humanity.
Von Gavin Abercrombie, Amanda Cercas Curry, Tanvi Dinkar, Zeerak Talat im Text Mirages: On Anthropomorphism in Dialogue Systems (2023)
Automated dialogue or conversational systems are anthropomorphised by developers and personified by users. While a degree of anthropomorphism is inevitable, conscious and unconscious design choices can guide users to personify them to varying degrees. Encouraging users to relate to automated systems as if they were human can lead to transparency and trust issues, and high risk scenarios caused by over-reliance on their outputs. As a result, natural language processing researchers have begun to investigate factors that induce personification and develop resources to mitigate such effects. However, these efforts are fragmented, and many aspects of anthropomorphism have yet to be considered. In this paper, we discuss the linguistic factors that contribute to the anthropomorphism of dialogue systems and the harms that can arise, arguing that it can reinforce stereotypes of gender roles and notions of acceptable language. We recommend that future efforts towards developing dialogue systems take particular care in their design, development, release, and description; and attend to the many linguistic cues that can elicit personification by users.
Von Gavin Abercrombie, Amanda Cercas Curry, Tanvi Dinkar, Zeerak Talat im Text Mirages: On Anthropomorphism in Dialogue Systems (2023)

iconDieser Text erwähnt ...


Personen
KB IB clear
Emily M. Bender , Timnit Gebru , Angelina McMillan-Major , Marvin Minsky , C. Nass , Bruce Reeves , Shmargaret Shmitchell , Rachael Tatman

Begriffe
KB IB clear
Designdesign , Dialog , GenderGender , HCI/MMI (Human-Computer-Interaction)Human-Computer-Interaction , Psychologiepsychology , Sprachelanguage
icon
Bücher
Jahr  Umschlag Titel Abrufe IBOBKBLB
1996 The Media Equation (Bruce Reeves, C. Nass) 9200
2006 The Emotion Machine (Marvin Minsky) 4, 3, 4, 3, 4, 6, 11, 2, 1, 4, 9, 3 4323937
icon
Texte
Jahr  Umschlag Titel Abrufe IBOBKBLB
2017 local web  Gender and Dialect Bias in YouTube’s Automatic Captions (Rachael Tatman) 3, 7, 1, 1, 3, 2, 8, 2, 4, 1, 4, 1 251116
2021 local web  On the Dangers of Stochastic Parrots (Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell) 3, 6, 1, 6, 2, 7, 12, 8, 3, 2, 9, 5 38245133

iconZitationsgraph

Diese Grafik ist nur im SVG-Format verfügbar. Dieses Format wird vom verwendeteten Browser offenbar nicht unterstützt.

Diese SVG-Grafik fensterfüllend anzeigen

iconVolltext dieses Dokuments

Auf dem WWW Mirages: On Anthropomorphism in Dialogue Systems: Artikel als Volltext (lokal: PDF, 392 kByte; WWW: Link OK )

iconAnderswo suchen  Auch im Biblionetz finden Sie nicht alles. Aus diesem Grund bietet das Biblionetz bereits ausgefüllte Suchformulare für verschiedene Suchdienste an. Biblionetztreffer werden dabei ausgeschlossen.

iconBeat und dieser Text

Beat hat Dieser Text während seiner Zeit am Institut für Medien und Schule (IMS) ins Biblionetz aufgenommen. Er hat Dieser Text einmalig erfasst und bisher nicht mehr bearbeitet. Beat besitzt kein physisches, aber ein digitales Exemplar. Eine digitale Version ist auf dem Internet verfügbar (s.o.). Es gibt bisher nur wenige Objekte im Biblionetz, die dieses Werk zitieren.

iconBiblionetz-History Dies ist eine graphische Darstellung, wann wie viele Verweise von und zu diesem Objekt ins Biblionetz eingetragen wurden und wie oft die Seite abgerufen wurde.