기술과 저널리즘

페이페이 리-유발 하라리 대담을 읽고 나서

페이페이 리보다 역사철학자인 하라리가 기술결정론에 더 가까워 보였다는 인상

이성규 2019년 05월 03일

image

원문(읽은 글) : WILL ARTIFICIAL INTELLIGENCE ENHANCE OR HACK HUMANITY?

일종의 관전평이랄까요. 짧게만 쓴다면.

유발 하라리와 페이페이 리의 대화는 그리 원만하진 않더군요. 이는 페이페이 리가 지적한 바와 같이 “AI가 전능하다(omnipotent)는 가정 하에서 대화를 하고 있기 때문”이었습니다. AI가 전능하다는 전제에서 세상을 이해하려고 하다 보니 둘의 토론은 가끔 논점을 벗어나는 경우도 있었습니다.

유발 하라리는 ‘B * C * D = HH’라는 공식을 지속적으로 강조했습니다. Biological Technology * Computing Power * Data = Hack Human입니다. 특히 생명공학 기술의 향상이 인간을 해킹하는데 중요한 역할을 차지한다고 거듭 주장합니다. 아마 뇌과학 기술에 대한 우려 때문이 아니었나 싶습니다.

반면, 페이페이 리는 AI에 대해 제기되는 수많은 우려에 대해 자신이 지금 어떤 해답을 가지고 있지 않다고 말합니다. 그 해답을 찾기 위해 노력하고 있고, 이를 위해서는 다양한 학제간 연구가 병행돼야 한다고 누차 강조합니다. 그가 자주 쓴 표현을 들자면, 교차 수분 노력(Cross-Pollinating Effort)이 필요하다는 거죠. 경제학, 윤리학, 법학, 철학, 역사학, 인지과학 등등. 그가 근무하고 있는 스탠포드 대학의 Human Centered AI 연구소가 현재 이 작업을 진행 중이라고 했습니다.

둘의 간극은 AI의 역능이 어디까지인가를 두고 극단적으로 갈립니다. 하라리는 AI가 무한한 능력으로 발전할 것이라는 전제 위에서 출발합니다. 하지만 페이페이 리는 멀고도 먼, 언제 올지도 모르는 기술적 미래를 가정하고 토론하기는 어렵다는 논지를 전개합니다. 인간의 역사를 봤을 때, 인간은 제도 등을 통해 잘 제어해왔다는 근거를 들면서 말이죠. 그래서 미래 기술이 어떠할 것이라고 단정하는 것에 대한 거부감을 표시합니다.

둘은 AI의 설명가능성을 두고도 의견은 엇갈렸습니다. 대화를 보니, 페이페이 리는 AI 해석가능성 연구(AI interpretability studies)라는 분야를 중요하게 다루고 있더군요. 하라리는 이러한 노력에도 여전히 과학과 기술은 인간을 설득하고 인간에게 설명하려는 영역에서 계속 실패하고 있다고 말합니다. 2000여개의 데이터 포인트와 그것에 부과된 가중치를 인간에게 설명한다한들 인간이 이해할 수 있겠느냐고 되묻습니다. 기후변화를 이해시키지 못하는 현재의 과학계를 사례로 들기도 했습니다.

페이페이 리는 ‘AI의 설명을 어떻게 이해시키고 신뢰할 수 있도록 할 것이냐’라는 측면에선 하라리의 주장에 동의를 표했습니다. 하지만 이 문제를 사회가 함께 풀어야 한다고 말합니다. 과학이 그래왔듯 사회가 함께 노력하면 가능하다는 것이죠.

전반적으로 공학자인 페이페이 리보다 역사철학자인 하라리가 기술결정론에 더 가까워 보였다는 인상을 지우기 어려웠습니다. 하라리는 AI에 대한 전능적 이해를 바탕으로 ‘무엇이든 가능합니다 그래서 위험합니다’라는 입장을 견지합니다. AI는 앞으로 이렇게 될 것이고 이런 능력을 가질 것이니 위험해, 그 이상을 나아가지 못합니다. 구성 과정으로서 기술을 바라보는 것이 아니라 확정된 미래 기술을 바탕으로 논리를 반복합니다.

하지만 페이페이 리는 기술을 과정으로 바라봤습니다. AI 기술에 대한 확정, 단정을 경계합니다. 기술은 사회와 만들어가는 것이고, 여러 분야의 협업 속에서 통제되고 형성된다는 입장을 유지합니다. 그것이 현재 페이페이 리가 인간 중심 AI 연구소에서 진행하는 조건이더군요.

개인적으로 이러한 대담이 국내에서도 이뤄졌으면 좋겠다는 생각입니다. 더 이상 인문/사회과학자들이 즐비한 포럼에서 그들만의 상상이 만들어낸 AI로 논의를 증폭시켜가는 방식은 지양했으면 하는 바람입니다. 현장에서 AI 테크놀로지를 개발하면서 사회와 협업을 추구하려는 엔지니어 집단과 인문사회과학자들 간의 토론이 지금은 더 절실하지 않나 싶습니다. 다양한 이해집단이 함께 이 문제로 의견을 나누는 행사가 국내에서도 진행되길 간절히 바라봅니다.