Written by Jae Eun Park (dawn2089@snu.ac.kr)
on 

Oct 7th Journal Club

Themes: Robot advice, Resistance to Medical AI

Presenters: HM (Hoyoung Maeng), MJ (Minjeong Ko)

Topic 1: How a Robot should Give Advice [HM]

선정 이유

로봇이 비언어적 표현을 사용할때와 사용하지 않을때의 효과를 비교할 수 있어서 도움이 되었음.

내용 요약

이 연구는 인간의 비언어적 표현인 hedge와 discourse markers를 로봇이 사용하여 advice를 줄때 인간이 로봇에 대해 어떻게 느끼는지 3가지 척도(considerate, likeable, less controlling)를 통해 확인하였다.

이때 hedge는 “maybe, probably, I think, sort of, I guess”와 같이 전달하려는 메시지의 강압성을 줄이기 위해 사용되는 비언어적 표현이며, discourse markers 는 “like you know, I mean, well, just, like, yeah” 와 같이 좀더 casual 하게 메시지를 전달하기 위해 사용되는 표현들이다.

컵 케이크를 만드는 상황에서 로봇 도우미와, 인간 도우미가 인간에게 컵 케이크 만드는 advice를 줄때 hedge를 사용할때와 하지 않을때 discourse markers를 사용할때와 하지 않을때를 각각 나누어서 진행되는 비디오를 실험 참가자들이 시청한 후 설문지를 작성하여 실험이 진행되었다

실험 결과, 로봇 도우미, 인간도우미 모두 hedge를 사용 할때 좀더 considerate, likeable, less controlling 하였고, discourse markers를 사용할 때도 동일한 결과가 나왔다.

그러나 흥미롭게도 hedge와 discourse markers를 동시에 사용할 때에는 오히려 considerate, likeable, less controlling가 떨어지는 경향성을 나타났다

또한 hedge와 discourse markers를 사용하는 경우 인간이 사용할 때보다 로봇이 사용할때 더욱 considerate, likeable, less controlling 하다는 실험 결과가 도출 되었다.

장단점

로봇이 인간에게 advice를 줄때 4가지 경우의 수(no hedge&no discourse markers, no hedge&discourse marker, hedge&no discourse makers, hedge&discourse makers) 로 나누어서 분석하여 어떤 경우에 효과가 좋은지 객관적으로 분석이 가능하였다.

또한 인간이 인간에게 advice를 줄때의 상황도 동일 경우의 수를 적용하여 비교하여 로봇과 인간의 비교까지 가능했던 점이 고무적이다.

인간 로봇 상호작용이 실제 로봇을 마주하며 진행되지 않고 비디오를 통해 영상을 시청하며 진행되었던 점은 아쉬움으로 남는다.

의의

인간 로봇 상호작용에서 로봇이 비언어적 표현을 사용할 때와 사용하지 않을때 인간이 어떻게 받아들이는지에 대하여 확인할 수 있었으며, 로봇이 인간에게 advice를 줄 때 효과적인 방법을 확인할 수 있었다.

참고 문헌

Topic 2: Resistance to Medical AI [MJ]

선정 이유

중요한 일을 다루는 AI에 대한 사람들의 인식을 잘 설명하는 논문이어서 읽어보았다.

내용 요약

의사의 80%를 대체할 수 있는 인공지능(AI) 의료기술의 발전으로 가까운 미래에 AI 의료기술이 상용화될 것으로 보고, 9개의 실험을 통해 사람들의 의료 AI에 대한 인식을 살펴보았다. 본 논문은 사람들은 자동화된 의료 시스템보다 사람에게서 진단/치료 받기를 원하는데 이는 “Uniqueness Neglect” (즉, 개인의 독특한 기질, 상황 및 증상을 고려하지 않을 것이라는 생각)가 매개할 것으로 보고 이를 확인하고자 했다.

실험 3은 2 (X, Y = 모두 사람 vs. X = 사람, Y = AI) X 3 (과거 진단 정확도: X(90%)=Y(90%), X(90%)<Y(93%), X(90%)«Y(96%))의 연구참여자간 디자인으로 진행되었다. 참가자들의 반은 X와 Y를 사람 의료 제공자들, 나머지 반은 X는 사람, Y는 AI 의료 제공자들로 소개한 정보를 읽었으며 과거 진단 정확도는 항상 90%인 X와 다르게 Y의 정확도는 같거나 높게하여 정확도를 조건마다 다르게 제시하였다. 이후 X, Y중 누구에게 진단/치료를 받고 싶은지 리커트 척도로 물었다.

그 결과, (1) 사람들은 Y가 AI일때 보다 사람일때 더 선호하는 경향을 보였으며, 이는 Y의 정확도가 X보다 조금 또는 많이 높은 조건에서도 유의한 차이를 보였다. (2) 실험 5에서는 “Perceived Sense of Uniqueness”(개인이 독특하다는 인식)이 높은 사람일 수록 AI보다는 사람 의료 제공자를 선호하는 것으로 나타났다.

장단점

장점: 9번의 견고한 실험을 통해 하나의 매개변수가 얼마나 강력하게 작용하는지 확인한 매우 보수적인 연구로 연구설계에 대한 이해를 넓혀준다.

의의

의료 영역에서 AI보다 사람을 선호하는 원인과 어떤 사람들에게서 이러한 성향이 두드러지는지 확인했다는 것에 의미가 있다.

참고 문헌