Negotiating trust in AI-enabled navigation technologies: imaginaries, ecologies, habits

被引:0
|
作者
Roberts, Tom [1 ]
Lapworth, Andrew [1 ]
Koh, Lucy [1 ]
Ghasri, Milad [2 ]
机构
[1] UNSW Canberra, Sch Sci, Northcott Dr, Campbell, ACT 2600, Australia
[2] UNSW Canberra, Sch Engn & Technol, Campbell, Australia
关键词
Trust; artificial intelligence; navigation technologies; Imaginaries; Habit; Confianza; Inteligencia artificial; Tecnolog & iacute; as de navegaci & oacute; n; Imaginarios; H & aacute; bitos; confiance; intelligence artificielle; technologies de navigation; imaginaires; habitude;
D O I
10.1080/14649365.2024.2399239
中图分类号
P9 [自然地理学]; K9 [地理];
学科分类号
0705 ; 070501 ;
摘要
When it comes to relationships with technology, questions of trust and trustworthiness are never far away. This paper explores how the rapid expansion of Artificial Intelligence (AI) technologies into people's everyday lives pushes the question of what it means to trust technology into new and unfamiliar territories, far beyond traditional frameworks associated with either functional reliability (subject-object), or those that take their inspiration from interpersonal (subject-subject) relations. Challenging the cognitivist and humanist emphases of such models of trust, the paper instead develops a more ontological sense of trust which foregrounds the complex material processes and unconscious forces that shape how people think and relate to AI. Drawing on in-depth interviews with users of AI-enabled navigation apps (like Google Maps and Waze), we draw out these ontological dimensions of trust in three main ways. First, how relationships with these technologies are strongly shaped by imaginaries that have significant performative impacts on how AI is conceived and whether and how it can be trusted. Second, how people's sense of trust is often attuned to the broader socio-technical ecologies that shape AI's existence. And finally, how the affective force of everyday habits enables or constrains trust in relation to specific contexts and scenarios. Cuando se trata de relaciones con la tecnolog & iacute;a, las cuestiones de confianza y fiabilidad nunca est & aacute;n lejos. Este art & iacute;culo explora c & oacute;mo la r & aacute;pida expansi & oacute;n de las tecnolog & iacute;as de inteligencia artificial (IA) en la vida cotidiana de las personas lleva la cuesti & oacute;n de lo que significa confiar en la tecnolog & iacute;a a territorios nuevos y desconocidos, mucho m & aacute;s all & aacute; de los marcos tradicionales asociados con la fiabilidad funcional (sujeto-objeto) o aquellos que se inspiran en las relaciones interpersonales (sujeto-sujeto). Al desafiar los & eacute;nfasis cognitivistas y humanistas de tales modelos de confianza, el art & iacute;culo desarrolla en cambio un sentido m & aacute;s ontol & oacute;gico de la confianza que pone en primer plano los complejos procesos materiales y las fuerzas inconscientes que dan forma a c & oacute;mo las personas piensan y se relacionan con la IA. Bas & aacute;ndonos en entrevistas en profundidad con usuarios de aplicaciones de navegaci & oacute;n basadas en IA (como Google Maps y Waze), extraemos estas dimensiones ontol & oacute;gicas de la confianza de tres maneras principales. Primero, c & oacute;mo las relaciones con estas tecnolog & iacute;as est & aacute;n fuertemente moldeadas por imaginarios que tienen impactos performativos significativos en c & oacute;mo se concibe la IA y si se puede confiar en ella y c & oacute;mo. En segundo lugar, c & oacute;mo la sensaci & oacute;n de confianza de las personas suele estar en sinton & iacute;a con las ecolog & iacute;as sociot & eacute;cnicas m & aacute;s amplias que dan forma a la existencia de la IA. Y, por & uacute;ltimo, c & oacute;mo la fuerza afectiva de los h & aacute;bitos cotidianos posibilita o restringe la confianza en relaci & oacute;n con contextos y escenarios espec & iacute;ficos. Quand on parle des rapports avec la technologie, les questions de confiance et de fiabilit & eacute; ne sont jamais loin. Cet article explore comment l'expansion rapide de l'intelligence artificielle (IA) dans notre vie quotidienne nous am & egrave;ne & agrave; pond & eacute;rer la signification de la confiance quand il s'agit de technologies qui sont dans des mondes nouveaux et non familiers, bien au-del & agrave; des structures traditionnelles associ & eacute;es avec la s & ucirc;ret & eacute; de fonctionnement (sujet-objet) ou ceux qui s'inspirent de liens interpersonnels (sujet-sujet). Il remet en question les valeurs cognitives et humanistes de ces derni & egrave;res et d & eacute;veloppe plut & ocirc;t un sens plus ontologique de la confiance qui analyse les processus mat & eacute;riels complexes et les forces inconscientes qui fa & ccedil;onnent la mani & egrave;re dont on pense et on per & ccedil;oit l'IA. En s'appuyant sur des entretiens approfondis avec des utilisateurs de navigateurs aliment & eacute;s par l'IA (tels que Google Maps et Waze), nous esquissons ces dimensions ontologiques de la confiance, en trois aspects : tout d'abord, la fa & ccedil;on par laquelle les imaginaires qui ont des impacts performatifs notables sur la mani & egrave;re dont on con & ccedil;oit l'IA et si on peut s'y fier influencent fortement les relations avec ces technologies. Deuxi & egrave;mement, la fa & ccedil;on dont le sens de confiance est souvent plus adapt & eacute; aux & eacute;cologies sociotechniques plus vastes qui mod & egrave;lent l'existence de l'IA. Et pour finir, celle dont la force affective des habitudes quotidiennes permet ou limite la confiance concernant des situations ou des contextes pr & eacute;cis.
引用
收藏
页数:19
相关论文
共 29 条
  • [1] AI-Enabled Trust in Distributed Networks
    Li, Zhiqi
    Fang, Weidong
    Zhu, Chunsheng
    Gao, Zhiwei
    Zhang, Wuxiong
    [J]. IEEE ACCESS, 2023, 11 : 88116 - 88134
  • [2] Citizens' trust in AI-enabled government systems
    Wang, Yi-Fan
    Chen, Yu-Che
    Chien, Shih-Yi
    Wang, Pin-Jen
    [J]. INFORMATION POLITY, 2024, 29 (03) : 293 - 312
  • [3] Systems Modeling of Trust in AI-Enabled Medical Diagnosis
    Moghadasi, Negin
    Piran, Misagh
    Valdez, Rupa S.
    Moghaddasi, Negar
    Loose, Davis C.
    Polmateer, Thomas L.
    Lambert, James H.
    [J]. 18TH ANNUAL IEEE INTERNATIONAL SYSTEMS CONFERENCE, SYSCON 2024, 2024,
  • [4] AI-ENABLED NETWORKING TECHNOLOGIES FOR TACKLING EPIDEMIC DISEASES
    Hossain, M. Shamim
    Guizani, Nadra
    Rayes, Ammar
    Leung, Victor C. M.
    Wang, Honggang
    Wang, Cheng-Xiang
    [J]. IEEE NETWORK, 2021, 35 (03): : 12 - 13
  • [5] Artificial intelligence for education: Knowledge and its assessment in AI-enabled learning ecologies
    Cope, Bill
    Kalantzis, Mary
    Searsmith, Duane
    [J]. EDUCATIONAL PHILOSOPHY AND THEORY, 2021, 53 (12) : 1229 - 1245
  • [6] Bias, Explainability, Transparency, and Trust for AI-Enabled Military Systems
    Pace, Teresa
    Ranesb, Bryan
    [J]. ASSURANCE AND SECURITY FOR AI-ENABLED SYSTEMS, 2024, 13054
  • [7] Cognitive engagement with AI-enabled technologies and value creation in healthcare
    Kumar, Pradeep
    Vrontis, Demetris
    Pallonetto, Fabiano
    [J]. JOURNAL OF CONSUMER BEHAVIOUR, 2024, 23 (02) : 389 - 404
  • [8] Comparative Study of AI-Enabled DDoS Detection Technologies in SDN
    Ko, Kwang-Man
    Baek, Jong-Min
    Seo, Byung-Suk
    Lee, Wan-Bum
    [J]. APPLIED SCIENCES-BASEL, 2023, 13 (17):
  • [9] AI-enabled chatbots healthcare systems: an ethical perspective on trust and reliability
    Basharat, Iqra
    Shahid, Subhan
    [J]. JOURNAL OF HEALTH ORGANIZATION AND MANAGEMENT, 2024,
  • [10] A Systematic Literature Review of User Trust in AI-Enabled Systems: An HCI Perspective
    Bach, Tita Alissa
    Khan, Amna
    Hallock, Harry
    Beltrao, Gabriela
    Sousa, Sonia
    [J]. INTERNATIONAL JOURNAL OF HUMAN-COMPUTER INTERACTION, 2024, 40 (05) : 1251 - 1266