Toward Foraging for Understanding of StarCraft Agents: An Empirical Study.
Sean Penney, Jonathan Dodge, Claudia Hilderbrand, Andrew Anderson, Logan Simpson 외 1명
핵심 주제
사람들은 스타크래프트 AI 에이전트의 전략과 행동 방식을 어떻게 이해하고 해석하는가?
왜 읽어야 하는가
당신이 AI 기반 서비스를 기획하거나, 복잡한 시스템의 사용자 경험을 설계한다면 이 논문을 주목해야 한다. AI의 블랙박스 문제를 넘어, 사용자들이 AI의 의도를 어떻게 파악하려 노력하는지 실제 사례를 통해 보여주므로, 설명 가능한 AI(XAI) 디자인이나 인터랙션 설계에 중요한 통찰을 얻을 수 있을 것이다.
연구 설계
참가자들은 스타크래프트 AI 에이전트의 플레이를 관찰하며 그 전략을 파악하는 과제를 수행했다. 연구는 실제 게임 플레이 환경에서 진행되었으며, 참가자들의 행동 패턴과 이해 과정을 심층적으로 분석하기 위해 관찰 및 인터뷰 방식이 사용되었다.
주요 발견
참가자들은 AI 에이전트의 특정 행동 패턴을 찾아내고 이를 통해 전반적인 전략을 추론하려 했다. 하지만 대부분의 경우 AI의 복합적인 의도를 완전히 이해하는 데 어려움을 겪었으며, 추론 과정에서 오류를 범하기도 했다. 이는 사용자가 AI 시스템을 해석할 때 얼마나 많은 인지적 노력을 들이며, 그럼에도 불구하고 오해의 여지가 얼마나 큰지를 명확히 보여준다.
돈 아이디의 시선
아이디의 프레임으로 보면, 스타크래프트 AI는 사용자에게 '준타자(quasi-other)'의 위치를 점하며, 이 에이전트의 의도를 파악하려는 행위는 일종의 해석학적 관계(hermeneutic relation)로 볼 수 있다. 사용자들은 AI의 행동이라는 기술 매개물을 통해 그 '본질'을 이해하려 하지만, 이 매개물은 정보를 제시함과 동시에 모호함을 증폭시킨다. 그렇다면 AI 시스템이 복잡해질수록 기술 매개성을 통한 이해의 한계는 더욱 명확해지는 것일까?