Titelaufnahme
Titelaufnahme
- TitelHealthy Distrust in the Context of Artificial Intelligence / Tobias Martin Peters ; Betreuerin Prof. Dr. Ingrid Scharlau
- Autor
- Gutachter
- Erschienen
- Umfang1 Online-Ressource (40 Seiten) : Illustration
- HochschulschriftKumulative Dissertation Universität Paderborn, Dissertation, 2025
- AnmerkungTag der Verteidigung: 10.12.2025
- Verteidigung2025-12-10
- SpracheEnglisch
- DokumenttypDissertation
- Schlagwörter (GND)
- URN
- DOI
Links
- Social MediaShare
- Nachweis
- IIIF
Dateien
Klassifikation
Zusammenfassung
Anwendungen, die auf künstlicher Intelligenz basieren, werden in unterschiedlichsten Bereichen eingesetzt und haben bereits bestimmte Alltagsaufgaben transformiert. Trotz der raschen Entwicklungen der letzten Jahre bleiben Technologien der künstlichen Intelligenz fehlbar. Daher plädiere ich in dieser Dissertation für ein gesundes Misstrauen im Kontext von KI. Auf Grundlage von vier Veröffentlichungen legt diese Dissertation Grundsteine, um gesundes Misstrauen im KI-Kontext zu verstehen, zu untersuchen und zu fördern. Die Veröffentlichungen 1 und 2 geben einen ausführlichen Überblick über Konzepte und Bestrebungen, die gesundem Misstrauen ähneln, sowie eine umfassende Konzeptualisierung von Vertrauen, Misstrauen und appropriate reliance. Veröffentlichung 2 bietet außerdem einen Überblick über die bestehende empirische Forschung und dient als verbesserter Startpunkt für weitere Forschung im Hinblick auf Vertrauen und Misstrauen im Kontext von KI. Veröffentlichung 3 untersucht, ob sich die Instruktion, skeptisch gegenüber KI-Hinweisen zu sein, positiv auf das gesunde Misstrauen von Probanden auswirkt, während diese mit vermeintlichen KI-Ratschlägen in einem Bildklassifikationsszenario interagieren. Darüber hinaus enthält Veröffentlichung 3 eine methodische Weiterentwicklung zur Analyse von appropriate reliance. Veröffentlichung 4 erweitert gängige Verfahren, um angemessenes Vertrauen zu messen. Es wird geprüft, ob sich visuelle Aufmerksamkeit als Indikator für gesundes Misstrauen eignet. Dies wird von den vorliegenden Resultaten jedoch nicht unterstützt. Der Manteltext ordnet die vier Veröffentlichungen im gegenwärtigen KI-Kontext ein, bespricht die Limitationen der Veröffentlichungen und identifiziert Zusammenhänge zwischen ihnen. Das Potenzial von gesundem Misstrauen, die Mensch-KI-Interaktion zu verbessern, wird hervorgehoben und es werden Bezüge zu anderen Bereichen als KI hergestellt.
Abstract
Applications based on artificial intelligence are being adopted throughout various domains and have already changed certain everyday tasks. Despite rapid improvements in recent years, artificial intelligence technologies remain fallible. In this dissertation, I therefore argue in favour of a healthy distrust in the context of artificial intelligence. Based on four manuscripts, this dissertation takes first steps towards understanding, investigating, and fostering healthy distrust in the context of AI. Manuscripts 1 and 2 provide an extensive overview of concepts and notions related to healthy distrust as well as a comprehensive conceptualization of trust, distrust, and appropriate reliance. Furthermore, Manuscript 2 offers an overview of existing empirical research as an improved starting point for future research on trust and distrust in AI. Manuscript 3 examines whether instructing participants to be sceptical of AI advice improves their healthy distrust when interacting with mock-up AI advice in an image classification scenario. Moreover, it provides a methodological improvement for analysing appropriate reliance. Manuscript 4 extends the typical assessments of appropriate trust by testing if visual attention can serve as an indicator of healthy distrust, which is not corroborated by the results. The synopsis situates the manuscripts within the current AI context, discusses their limitations, and identifies overarching topics of the manuscripts. The potential of healthy distrust to improve human-AI interaction is highlighted, and connections to contexts beyond artificial intelligence are drawn.
Inhalt
