Estimating the Trust of Humans in AI for Level 3 Autonomous Driving.
Sota Kaneko, Seiji Yamada
핵심 주제
Level 3 자율주행 환경에서 인간은 AI에 대한 신뢰를 어떻게 측정하고 평가할 수 있을까?
왜 읽어야 하는가
자율주행 기술의 상용화를 앞둔 지금, 인간이 AI를 얼마나 신뢰하는지는 안전과 직결된 핵심 문제입니다. PM들은 자율주행 제품 로드맵을 수립할 때, 디자이너들은 운전자 경험을 설계할 때 AI 신뢰도를 실질적으로 어떻게 측정하고 개선할 수 있을지 이 연구에서 통찰을 얻을 수 있습니다.
연구 설계
본 연구는 40명의 면허 소지 운전자를 대상으로 약 1시간 동안 운전 시뮬레이터 실험을 진행했다. 참가자들은 AI의 성능 및 투명성이 조작된 다양한 주행 시나리오를 경험했으며, 매 시나리오 종료 후 AI에 대한 자기 보고식 신뢰도 설문과 함께 비상 상황 시 운전 개입 시간 및 시선 추적 데이터를 수집했다.
주요 발견
AI의 예측 가능성과 의사결정의 설명 가능성이 높을수록 운전자의 신뢰가 증가하는 경향을 보였다. 그러나 특정 위험 상황에서는 운전자가 AI를 과신하여 인계 요청에 늦게 반응하는 현상도 관찰되었다. 결국 운전자의 AI 신뢰는 단순한 '믿음'이 아니라 상황 인지와 행동 의지의 복합체이며, 이는 정량적으로 포착하기 매우 어렵다는 방증입니다.
돈 아이디의 시선
Don Ihde의 프레임으로 보면, Level 3 자율주행의 AI는 운전자와 도로 환경 사이에서 강력한 기술적 중개자(technological mediator)로 작용한다. 운전자의 AI에 대한 신뢰는 AI를 '또 다른 주체(alterity)'로 받아들이고 그 중개된 행동을 해석하는(hermeneutic relation) 복합적인 과정이다. 결국 AI는 운전자의 상황 인식과 개입 역량을 재구성하며, 신뢰는 이 재구성된 관계 속에서 형성되는 것이다. 과연 AI라는 중개자를 통해 인간은 운전 행위의 주체성과 책임감을 온전히 유지할 수 있을까?