Written by Jae Eun Park (dawn2089@snu.ac.kr)
on 

Aug 5th Journal Club

Themes: Affectivism, Migratable AI: Effect of identity and information migration on users perception of conversational AI agents

Presenters: YJ (Yoonwon Jung), SB (Seoyeon Bae)

Topic 1: Affectivism [YJ]

선정 이유

Cogsci2021의 “Interdisciplinary Advances in Affective Cognition” workshop에서 소개되어 알게 되었다. 정서과학 주제의 paper가 nature에 실린 점이 흥미로워 살펴보게 되었다.

내용 요약

이 아티클에서는 인간을 연구하는 데에 있어서 행동주의(behavioralism)의 시대를 지나고 인지주의(Cognitivism)의 시대를 넘어, 정서주의(affectivism)의 시대가 열렸음을 선포하고 있다. 최근 인간 마음과 행동에 대한 학술적 흐름에서 정서 관련 연구자금의 조달과, 전통적인 인지 기제와 관련된 연구들을 포함한 학술자료 중 정서와 관련된 내용을 담고 있는 출판물의 개수를 통해 정서과학의 부정할 수 없는 영향력을 확인할 수 있다. 1980년에 정서, 인지, 그리고 행동 간의 매우 밀접한 관련성을 주목하여 연구하기 시작한 심리학과 정서 뇌과학(affective neuroscience)뿐만 아니라, 임상 분야, 계산모델링, 철학, 역사학, 언어학, 인류학, 사회학, 그리고 행동경제학까지 매우 다양한 분야들에 있어서 정서를 주제로 한 다학제적인 연구가 이루어지고 있다. 정서주의의 가장 중요한 특징 중 하나는 정서과학은 인지주의를 대체(supplant)한다기보다 보충(supplement)한다는 것인데, 이는 인지주의적 사고가 행동주의의 영향을 받으면서도 행동주의의 가장 핵심 원칙을 거부한 것과 대조된다. 그간의 정서과학 연구들이 감정, 느낌, 동기, 기분과 같은 정서 과정들이 인간의 정서적 안녕뿐만 아니라 주의, 학습, 기억, 의사결정과 같은 인간의 인지적 기제와 행동까지도 영향을 미침을 밝혀냈기 때문이다. 즉, 정서주의는 인간의 정서과정을 설명하는 모델뿐만 아니라 인간의 인지와 행동을 설명하는 모델에 정서 과정(affective process)을 포함시켜 모델의 설명력을 높일 수 있음을 주장한다. 따라서 저자들은 정서주의의 부상을 인지주의로부터 동떨어진 어떤 흐름으로 볼 것이 아니라, 행동주의와 인지주의의 관점 모두를 통합하여 인간에 대한 모델의 설명력과 예측력을 높일 수 있는 통합적 발전의 관점에서 바라볼 것을 제안하고 있다.

장단점

분량이 비교적 짧아 관련 연구들의 구체적인 내용을 얻어갈 수는 없었으나, 관심 있는 분야의 전체적인 연구 흐름 및 대전제를 정리할 수 있었다.

의의

정서주의의 핵심을 통합적 관점에서 간결하게 요약하며 정서주의의 부상을 부각하고, 이러한 관점을 어떻게 받아들여야 할지에 대한 제언 또한 제시했다는 의의가 있다.

참고 문헌

Dukes, D., Abrams, K., Adolphs, R., Ahmed, M. E., Beatty, A., Berridge, K. C., … & Sander, D. (2021). The rise of affectivism. Nature Human Behaviour, 1-5.

Topic 2: Migratable AI: Effect of identity and information migration on users perception of conversational AI agents [SB]

선정 이유

삶의 편리함을 위해 사람들이 사용하는 인공지능의 개수는 점차 증가하고 있으나, 한 사람이 사용하는 여러 인공지능 사이의정보 공유는 원활하지 않은 상황 속에서, 사용자의 정보와 맥락이 인공지능 사이에서 공유되었을 때 이것이 사용자의 신뢰에 어떠한 영향을 미치는지 연구한 점이 흥미로워 발표하게 되었다.

내용 요약

가설:

방법: 본 연구에서는 공유(migration)를 ‘사용자의 정보’가 공유될 때와 ‘에이젼트의 정체성’이 공유될 때로 구분하였다. 2x2 집단 간 설계로 총 4개의 조건에 72명의 참여자들이 무선 할당되었다. 총 3가지의 인공지능 에이젼트가 본 실험에서 사용되었는데 Alexa와 안내 로봇 Kuri, 스마트 TV가 각각 다른 환경에서 참여자와 상호작용하였다. 우선 참여자들은 각 세 가지 에이젼트에 대한 평소의 친숙도를 측정한 다음, 먼저 참여자의 집이라 가정된 환경에서 Alexa로부터 오늘 면접 일정이 있음을 안내 받는다. 이때 Alexa는 참여자의 이름과 면접에 대한 참여자의 감정을 수집한다. 그 후, 면접 접수 데스크로 꾸며진 새로운 환경에서 참여자는 접수 로봇과 상호작용한다. 만약 접수 로봇이 Alexa로부터 정체성을 공유했다면 동일한 외모와 음성을 출력하며, 아니라면 Kuri의 기본 설정을 따른다. 정보가 공유되었다면 참여자의 얼굴을 알아보고 이름으로 구분하며 참여자가 방문한 이유(면접 일정)을 알고 있게 되며, 아니라면 다시 정보를 수집한 후 면접장까지 안내한다. 이때 Kuri가 새롭게 수집하는 정보는 참여자의 음료 선호이다. 면접 장소에 도착하면 참여자는 면접관이 들어오기 전까지 smart TV와 대화를 나눈다. 만약 smart TV가 에이젼트 간의 정체성을 공유했다면 Alexa와 동일한 외모와 목소리를 띄며,아니라면 smart TV 자신의 외모와 목소리로 참여자를 대한다. 만약 정보가 공유되었다면 참여자가 앞서 Kuri에게 말한 선호하는 음료를 제공하며, 정보가 공유되지 않았다면 그냥 일반적인 음료를 제공한다. 또한, 정보가 에이젼트 간에 공유되었다면 smart TV는 참여자가 면접에 대해 어떤 감정을 느끼는지 인식하고 참여자를 격려해준다. 참여자는 각 기기와의 신뢰를 측정하는 게임(economic exchange game)을 진행하게 되며, 또한 trust, competence, likeability, social presence를 측정하는 일련의 설문을 진행하고 실험을 종료한다.

결과: 정보가 공유되지 않을 때보다 정보가 공유될 때, 에이젼트 간의 정체성이 공유되지 않을 때보다 정체성이 공유될 때 모두 참여자들은 높은 신뢰/유능함/호감/사회 존재 점수를 보고하였다. 또한 정보와 에이젼트 간의 정체성이 둘 다 공유된 조건이 나머지 세 조건에 비해 가장 높은 점수를 보고하였다. 그러나, 정보는 공유되지만 에이젼트 정체성은 공유되지 않을 때 참여자들은 자신의 정보가 누출된 것 같다는 우려와 걱정을 표현했으며, 정체성은 공유되지만 정보는 공유되지 않을 때에는 세 기기가 자신의 에이젼트가 아니라고 느꼈다고 보고했다.

장단점

우선 이전의 선행 연구에서는 conversational AI agents 간의 정보/정체성 공유에 대한 일반화를 시키지 못했었는데 위 논문에서는 이를 해냈다는 점이 주목할 만하다. 또한, Alexa, Kuri, smart TV라는 서로 다른 외형의 다양한 conversational AI 에이젼트를 사용하여 진행한 점 또한 다각도에서 실험을 실시한 것으로 보여 흥미로웠다. 신뢰의 경우, 설문지로 주관적인 신뢰 정도를 측정했을 뿐만 아니라 행동적인 신뢰성을 함께 파악할 수 있는 게임을 설계에 넣은 것도 좋았다.

의의

현재 많은 사람들이 일상 생활의 여러 장면에서 다양한 AI 에이젼트를 사용한다는 것을 고려할 때(ex. Alexa, Google Home 등)기기들 간의 정보나 정체성이 연동되지 않는 현실이 AI와 사람 간의 신뢰 관계에 한계를 둔다는 것을 지적한 좋은 논문이다.

참고 문헌