Wie Menschen den Zweck autonomer Fahrzeuge erklären, um deren Verhalten zu verstehen

Core Concepts

Menschen neigen dazu, das Verhalten autonomer Fahrzeuge in teleologischen Begriffen zu erklären, indem sie ihnen Ziele, Wünsche und Absichten zuschreiben, anstatt sich auf rein mechanistische Erklärungen zu verlassen.

Abstract

Die Studie untersuchte, wie Menschen das Verhalten autonomer Fahrzeuge erklären und bewerten. Die Teilnehmer wurden aufgefordert, das Verhalten eines blauen Fahrzeugs in verschiedenen Fahrsituationen zu beschreiben, entweder in mechanistischen, teleologischen oder kontrafaktischen Begriffen. Eine zweite Gruppe von Teilnehmern bewertete diese Erklärungen.
Die Ergebnisse zeigen, dass die Teilnehmer teleologische und mechanistische Erklärungen als qualitativ hochwertiger einschätzten als kontrafaktische Erklärungen. Wahrgenommene Teleologie war der beste Prädiktor für die wahrgenommene Qualität und Glaubwürdigkeit der Erklärungen. Ob das Fahrzeug autonom oder von einem Menschen gesteuert war, hatte keinen Einfluss auf die Bewertungen.
Diese Befunde deuten darauf hin, dass Menschen dazu neigen, das Verhalten komplexer Systeme wie autonomer Fahrzeuge in intentionalen Begriffen zu erklären, indem sie ihnen Ziele und Absichten zuschreiben. Die Studie liefert wichtige Erkenntnisse für die Entwicklung verständlicher KI-Systeme, die den Erklärungspräferenzen der Nutzer entsprechen.

Stats

'Die blaue Karre hat sich verlangsamt, um die Kurve sicher zu nehmen, da ihr die Sicht durch ein Gebäude versperrt war.'
'Die blaue Karre ist stehen geblieben, um die Fußgänger an der Kreuzung passieren zu lassen.'
'Wenn es keine Fußgänger an der Kreuzung gegeben hätte, hätte die blaue Karre einfach weiterfahren können, ohne anzuhalten.'

Quotes

'Die blaue Karre hat diese Handlungen ausgeführt, da es die sicherste Option ist, langsam in die Kurve zu fahren und dann anzuhalten, um die Fußgänger passieren zu lassen, anstatt darauf zu setzen, dass die Fußgänger auf den Verkehr achten.'
'Die blaue Karre wurde durch die beiden wartenden Fußgänger beeinflusst, da sie vollständig anhielt, um ihnen das Überqueren zu ermöglichen. Außerdem war die Rechtskurve mit 90 Grad sehr scharf, was erforderte, dass die Karre langsam fuhr, um sie sicher zu nehmen.'

Key Insights Distilled From

People Attribute Purpose to Autonomous Vehicles When Explaining Their Behavior

by Balint Gyevn... at arxiv.org 03-15-2024

https://arxiv.org/pdf/2403.08828.pdf

Deeper Inquiries

Wie würden sich die Erklärungspräferenzen der Menschen ändern, wenn die Fahrsituationen komplexer wären und mehr Interaktionen zwischen Fahrzeugen und anderen Verkehrsteilnehmern enthielten?

In komplexeren Fahrsituationen mit mehr Interaktionen zwischen Fahrzeugen und anderen Verkehrsteilnehmern könnten sich die Erklärungspräferenzen der Menschen verändern. Da die Szenarien vielschichtiger wären, könnten die Menschen möglicherweise vermehrt nach teleologischen Erklärungen suchen, um das Verhalten der autonomen Fahrzeuge besser zu verstehen. In komplexen Situationen, in denen mehrere Faktoren eine Rolle spielen, könnten teleologische Erklärungen, die auf den Zielen und Absichten des Fahrzeugs basieren, als hilfreicher empfunden werden. Menschen neigen dazu, in komplexen Situationen nach Sinn und Zweck zu suchen, um Handlungen besser zu interpretieren. Daher könnten sie in solchen Szenarien verstärkt teleologische Erklärungen bevorzugen, um das Verhalten der autonomen Fahrzeuge zu rationalisieren.

Welche Auswirkungen hätte es, wenn die Erklärungen für das Verhalten autonomer Fahrzeuge stärker auf mechanistischen Konzepten basierten, anstatt teleologische Aspekte zu betonen?

Wenn die Erklärungen für das Verhalten autonomer Fahrzeuge stärker auf mechanistischen Konzepten basieren würden und weniger teleologische Aspekte betont würden, könnte dies zu einer geringeren Zufriedenheit und Verständnis bei den Nutzern führen. Mechanistische Erklärungen konzentrieren sich auf die logischen und äußeren Bedingungen, die zu einer Entscheidung führen, während teleologische Erklärungen die Absichten und Ziele eines Agenten betonen. Da Menschen dazu neigen, die Absichten und Ziele anderer zu berücksichtigen, könnten mechanistische Erklärungen als weniger intuitiv und weniger befriedigend empfunden werden. Eine stärkere Betonung mechanistischer Konzepte könnte daher die Nutzerakzeptanz und das Vertrauen in die Erklärungen für das Verhalten autonomer Fahrzeuge beeinträchtigen.

Inwiefern könnten die Erkenntnisse über die Erklärungspräferenzen der Menschen für autonome Fahrzeuge auch auf andere Anwendungen der Künstlichen Intelligenz übertragen werden, bei denen es um die Interaktion zwischen Menschen und Maschinen geht?

Die Erkenntnisse über die Erklärungspräferenzen der Menschen für autonome Fahrzeuge könnten auf andere Anwendungen der Künstlichen Intelligenz übertragen werden, insbesondere auf Situationen, in denen es um die Interaktion zwischen Menschen und Maschinen geht. Menschen tendieren dazu, die Handlungen von Agenten, sei es menschlich oder künstlich, in Bezug auf Ziele und Absichten zu interpretieren. Daher könnten teleologische Erklärungen, die die Zwecke und Absichten von Maschinen betonen, in verschiedenen KI-Anwendungen zur Verbesserung der Benutzerakzeptanz und des Verständnisses beitragen. Indem man die Erklärungspräferenzen der Menschen berücksichtigt und teleologische Aspekte in die Erklärungen einbezieht, kann die Interaktion zwischen Menschen und Maschinen effektiver gestaltet werden.