Written by Gyuyi Kang (gyuyikang@snu.ac.kr)
on 

Sep 29th Journal Club

Themes: social interaction, commonsense psychology, naïve utility calculus, transformer

Presenters: YK (Yoon Kyung Lee), MS (Minjung Shin)

Topic 1: Transformers (3) Transformer Anatomy (part1) [YK]

Topic 2: Computational approach to intuitive psychology (pp.598-) [MS]

선정 이유

인공지능 학습용 데이터셋 구축 단계에서 또는 인공지능 수행 평가 단계에서 인간 지능의 framework 을 활용하는 것을 목표로 연구하는 가운데, 인간 상식의 한 측면을 substantial 하게 보여주는 좋은 연구라고 생각하여 선정하게 되었다.

내용 요약

인간의 상식을 Bayesian 방식으로 해석하는 연구로 잘 알려진 Joshua Tenenbaum group 의 2016 년 TICS 에 실린 리뷰이다. 이들은 social interaction 을 포함한 commonsense psychology 를 계산적으로 설명할 수 있는 naïve utility calculus 방법을 제안하는데, cost 와 reward 를 통해 도출되는 경제학의 utility 개념을 활용한다. 여기서 naïve utility calculus 는 ‘어떤 주체의 내면에 형성된 타인(에이전트로 표현)의 행동에 대한 theory 를 계산적으로 설명할 수 있는 방법’이며, 이 논문에서 인용하는 대부분의 연구는 인간이 상당히 어린 시절 (가장 빠른 실험은 6 개월 영아를 대상으로 했다)부터 나름의 계산법을 형성하고 있다는 점을 실험으로 증명하고 있다.

한계점

real-world 에서의 commonsense psychology 는 발달 과정에서 문화적 시대적 상황과 개인의 경험에 의해 복잡도가 높아진다. 따라서 이 framework 은 - naïve 라는 용어가 암시하듯 - 매우 단순한 상황을 가정한다. 비록 real world 의 다양한 맥락을 포괄하지는 못하지만 인간의 ‘core knowledge’ 를 표현하는 한 방식이 될 가능성으로 생각할 필요가 있다.

의의

인간의 상식은 극단적인 human factor로서, GPT-3와 같은 초거대 언어모델로는 구현이 되지 않았고, 당분간 만들어질 foundation model로도 구현되지 않을 것으로 전망된다. 이 연구는 인간 상식의 한 축을 이루는 intuitive psychology의 기본 원리를 계산적으로 표현하고, 추론 방법을 제안함으로써 지능, 특히 사회적 지능에 대한 reverse engineering 의 가능성을 제시한다.

추가 코멘트

2회차 발표에서는 사회적인 상호작용에서 필요한 예측이나 상호작용의 결과 드러나는 행동에 대해 역시 naïve utility calculus 로 설명할 수 있다고 주장한다. 이러한 접근이 지나친 단순화일지, 아니면 core system 에 대한 좋은 설명이 될지는 앞으로의 더 진행될 연구에 달려있을 것이다. 이타성이나 친사회적 행동 등

참고 문헌