2017년 5월 17일 수요일

알파고 사건을 통해 본 인공지능 테크노포비아

1. 연구 배경 및 목표

알파고와 이세돌 9단의 대결, 그리고 제4차 산업혁명의 대두와 함께 많은 사람들이 인공지능에 대한 두려움(Fear)을 호소하고 있다. 영국 과학협회(British Science Association, BSA)의 설문 조사에 따르면, 전체 응답자의 60% 이상이 인공지능 기술의 사용으로 10년 안에 수많은 일자리가 사라질 것이라 생각한다고 답했으며, 36%의 응답자가 인공지능 기술의 개발이 인간 생존에 장기적으로 위협을 가할 것이라 생각한다고 답했다. 스티븐 호킹(Stephen William Hawking)이나 레이 커즈와일(Ray Kurzweil)과 같은 과학자들도 인공지능에 의해 우리 사회에 큰 문제가 생길 것임을 예측한 바 있다. 인공지능이 우리 삶에 혁신적인 변화를 이끌 것이란 기대도 많지만, 동시에 부정적인 영향 역시 지대할 것이라는 우려도 만만치 않은 것이다. 더 나아가 사람들은 인공지능으로부터 두려움을 느끼는 일종의 테크노포비아(Technophobia)를 보이고 있다. 알파고 사건에서 사람들이 보인 충격적인 반응은 이러한 인공지능에 대한 부정적인 인식에서 기인할 것일 수 있다.

기술수용모델(Technology acceptance model) 등에 따르면 기술에 대한 두려움은 한 사회가 기술 자체를 수용하지 못하고 이를 거부하는데 영향을 미칠 수 있다. 인공지능이 수반할 문제점들로 인해 사용자 혹은 사회 구성원이 이에 대해 두려움을 느끼게 된다면, 인공지능 기술 자체의 발전뿐만 아니라 인공지능 기술을 사용하게 될 사용자 혹은 사회의 기술수용 가능성을 낮추게 되고 사회 전반에 미칠 인공지능 기술의 순기능까지 소실되는 부정적인 효과가 이어질 수 있다. 인공지능 기술의 발전적인 수용을 위해서는 사용자의 관점에서, 인공지능에 대한 두려움이나 불안감과 같은 부정적 반응들에 대해서 이해하고 이를 기반으로 이를 극복할 수 있는 방안들에 대한 체계적인 논의가 선행될 필요가 있다.

그러므로, 연구진은 “알파고 사건을 통해 본 사람들의 인공지능 테크노포비아에 대한 연구”라는 주제로 “사람들이 보인 테크노포비아의 양상에 대해서 이해하고 이를 통해 인공지능에 대한 사람들의 인식 과정에서의 특징들을 살펴보고, 미래 인공지능 인터페이스 디자인에 필요한 임플리케이션을 도출”하는 것을 목표로 연구를 디자인 하였다.


▲인공지능 기술이 적용된 다양한 유저 인터페이스

2. 연구 방법

연구진은 다양한 시민들을 대상으로 반 구조화(semi-structured) 형식의 심층인터뷰(in-depth interview)를 기획하고 진행하였다. 인터뷰 참가 기준은 이세돌과 알파고의 바둑 대국을 한번 이상 본 경험이 있는 사람으로 하였으며 성별, 직업, 연령을 고려하여 균형 있게 구성하고자 하였다. 오프라인 모집 포스터 및 온라인 홍보, 스노우볼링(Snowballing) 샘플링 방식으로 최종 22명의 참가자를 모집하였다. 참가자의 성별은 여성 10명, 남성 12명, 연령대는 20대 이하 6명, 30대 5명, 40대 5명, 50대 이상 6명으로 구성되었으며 직업은 대학생, 작가, 방송국 PD, 변호사, 바둑기사, 서점 운영가, 회계사, 중학교 영어선생님, 택시기사, 사회복지사 등으로 다양한 구성을 이루었다. 인터뷰는 인공지능에 대한 기존 생각이나 인상에 대한 질문, 알파고와 이세돌의 대국을 보면서 들었던 생각, 인공지능과 알파고에 대한 전반적인 인상, 인공지능 기술이 널리 사용될 미래 사회에 대한 의견 등을 주요 주제로 다루었다. 또한 참가자가 미처 생각해내지 못한, 내재된 의견까지 함께 수집하기 위해 위키피디아 ‘인공지능’ 항목 문서를 요약한 40장의 키워드 카드를 준비하였고, 사용자가 이중 세 가지 카드를 골라 의견을 더할 수 있도록 대비하였다. 인터뷰는 신청자가 선호하는 장소로 연구진이 직접 찾아가 진행하였으며 인터뷰 당 약 한시간의 시간이 소요되었다. 본 연구 절차는 서울대학교 생명윤리위원회의 심의를 받아 진행되었다.

3. 연구 결과

- 인공지능에 대한 고정관념과 선입견 -

인터뷰를 통해 먼저 알 수 있었던 점은 대부분의 사람들이 인공지능 기술에 대한 자기 나름대로의 고정관념 및 선입견을 가지고 있었다는 점이다. 사람들은 인공지능 기술에 대한 직접적인 경험이 많지 않음에도 불구하고 헐리우드 영화를 비롯한 다양한 미디어 경험을 통해 인공지능 기술에 대한 이미지를 구축하고 있었다. 인공지능에 대한 구체적인 인상에 대해 물었을 때 참가자들은 터미네이터(1984)의 스카이넷, 어벤져스(2015)의 울트론, 2001 스페이스 오디세이(1968)의 할, 매트릭스(1999)의 센티언트 머신, A.I.(2001)의 로봇 소년 등 구체적이고도 다양한 예시를 들어 인공지능에 대한 자신들의 생각을 설명했다. 뿐만 아니라 일본 애니메이션에서 자주 등장하는 로봇 캐릭터들을 인공지능에 대한 기억이나 경험 요소로서 설명했다. 인공지능의 이미지는 사람의 형체를 한 로봇에서부터 형체가 전혀 없는 컨트롤 시스템에 이르기까지 매우 다양한 양상을 보였지만, 공통적으로 인간에게 잠재적인 위협을 가하거나 사회에 파괴적인 결과를 가져올 수 있는 부정적인 이미지로 그려져 있었다. 참가자들은 이러한 미디어 경험이 인공지능의 위험성과 적대감과 관련된 인식을 강화한 것 같다고 응답했다. 또한 인공지능은 인간의 통제 하에서 오로지 인간을 보조하는 제한적인 역할만 해야 한다고 생각했다.


- 인간 대 인공지능: 대국 진행에 따른 심리 변화 -

우리는 사람들이 알파고와 이세돌의 바둑 대국을 지켜보는 과정에서 대국별로 생각의 변화를 보였음을 관찰할 수 있었다. 먼저 대부분의 참가자들이 대국이 시작되기 전 이세돌의 승리를 점쳤음을 알 수 있었다. 사람들의 이세돌의 승리에 대한 믿음은 맹신에 가까울 정도였다. 몇몇 사람들은 알파고의 압도적인 능력에 대해서 이미 알고 있었음에도 불구하고 인공지능이 감히 인간을 이길 수 없을 것이라 생각했다고 응답했다. 하지만 이러한 많은 사람들의 기대와 다르게 이세돌은 첫번째 경기에서 불계패를 당하고 말았고 이는 이를 지켜본 수많은 사람들에게 충격을 안겨주었다. 참가자 일부는 1국 이후 대국을 바라보는 시선에 변화를 느꼈다고 응답했다. 경기 전에는 이세돌이 당연히 이길 것이라고 점치면서 가벼운 마음으로 경기를 관전 하려 했지만, 막상 이세돌이 패배하는 결과를 보니 결과의 심각성에 대해서 생각하게 되고 이후 경기를 좀 더 진지하게 바라보게 되었다고 응답했다. 또한 몇몇 사람들은 이세돌이 나머지 게임에서 질 수도 있겠다는 생각을 하기 시작했다고 응답했다. 이후 벌어진 2국의 결과는 사람들에게 일종의 확인사살과 가까운 충격을 주었다. 이세돌이 2국에서도 연패하자 사람들은 인공지능의 막강한 실력에 대해 엄청난 압도감을 느꼈고 깊은 충격에 휩싸였다. 알파고는 절대적인 존재처럼 여겨졌고, 이세돌이 절대 알파고를 이길 수 없을 것 이라는 생각을 하게 되었다. 알파고는 3국에서도 이세돌을 상대로 승리를 거두었고 이로써 전체 대국의 승자로 확정이 되었다. 흥미로운 점은 3국의 결과는 1국이나 2국에서보다 사람들에게 충격이 덜했다는 점이다. 이미 알파고의 압도적인 실력에 대한 충격을 받았기 때문에 3국의 결과는 어찌 보면 사람들에게는 기대했던 것과 크게 다르지 않은 당연한 결과였던 것이다. 사람들은 오히려 이세돌에 대한 연민의 감정을 드러내기 시작했다. 남은 경기에서 단 한번이라도 이세돌이 알파고를 이겨주기를 바랬다. 놀랍게도 4국에서 이세돌은 기적 같은 승리를 거두었다. 경기 초반 분투하기는 하였으나 이세돌은 알파고의 실수를 이용해서 집요하게 파고들었고 승리를 만들어 낼 수 있었던 것이다. 사람들은 경기를 보면서 승리의 기쁨을 느꼈으며 이세돌에 대한 응원과 환호를 표했다. 마지막 5국은 알파고의 승리로 마무리 되었다. 많은 사람들은 이세돌의 패배에도 불구하고 이미 경기 내용에 대해서는 만족한다는 태도를 보였다. 이미 한번의 승리를 거두었기 때문에 경기를 잘 마무리 해 준 것 만으로도 안도한다고 응답했다.


- 의인화(Anthropomorphizing)와 타자화(Alienating) -

참가자들은 인터뷰에서 알파고를 인간과 같은 존재로 여기는 “의인화(anthropomorphizing)” 과정을 보였다. 단순히 대상의 서술과정에서 의인화하는데서 그치지 않고 그 자체의 속성을 인간처럼 기술하는 특성을 보였다. 알파고가 바둑을 두는 방식이 인간이 생각하지 못한 “창의적”인 방식처럼 보인다고 응답한 사람도 있었다. 사람들은 또한 인공지능 기술 전반에 대해서도 의인화하는 모습을 보였다. 특히 인공지능 기술이 기존에 컴퓨터가 가지고 있는 특징과는 구별되는 독특한, 의인화된 특징이 있다고 말했다. 컴퓨터는 특정 태스크를 수행하는데 필요안 일종의 도구라고 생각한 반면, 인공지능은 도구가 아니라 문제를 해결하는 법을 스스로 학습하고 전략을 세울 수 있는, ‘인간과 같은’ 능력이 있는 에이전트를 떠올린다고 응답했다. 또한 컴퓨터는 컨트롤이 가능한 반면 인공지능은 컨트롤이 불가능하다는 점도 이유로 제시했다.

한편, 사람들은 알파고를 의인화 함과 동시에 적대감 보이고 거리를 두는 “타자화(alienating)” 과정을 보이기도 했다. 주로 인간의 기준에서 사람과 다른 점들을 부각시키면서 인공지능에 대한 이질감을 드러냈으며, 이를 통해 인공지능에 대한 거리를 넓히고 멀리 하고자 하는 양상을 보였다. 사람들은 알파고가 “인간에 비해” 너무나도 압도적인 능력을 가지고 있다고 생각했다. 알파고의 엄청난 계산력과 연결성에 비해 인간의 계산력과 직관은 제한적일 수밖에 없으며 도저히 이길 수 없는 상대와의 불공정한 게임을 치렀다는 의견을 제시한 사람도 있었다. 알파고가 “인간과 달리” 아무 감정도 없이 무미건조하게, 형체도 없이 바둑을 두는 모습 역시 인공지능에 대한 거리감을 강화하는 역할을 하였다. 사람들은 심지어 이세돌을 대신해서 바둑을 두는 아자황(Aja Hwang)이 알파고의 형체라고 착각한 경험에 대해서 이야기해주기도 했다.


- 인공지능 사회에 대한 우려 -

알파고와 이세돌의 대국 결과 외에도 사람들은 인공지능의 발달이 가져올 미래 사회에 대한 염려를 드러내기도 했다. 먼저 사람들은 인간이 대체될지도 모른다는 불안감과 두려움을 표했다. 인공지능이 압도적인 실력을 바탕으로 언젠가 자신들의 직업을 대체하게 될 것이고 이로 인해 일자리를 잃게 될지도 모른다고 생각했다. 다양한 분야에서 이미 인공지능 기술이 인간의 능력을 능가하고 있고, 머지않아 인간 노동의 대체가 광범위하게 진행될 것이라고 생각했다. 사람들은 인공지능이 대체할 일들은 반복적이고 단순한 태스크에 국한되지 않고, 인간 고유의 영역이라고 여겨지는 전문직, 혹은 창의성이 요구되는 일에도 영향을 미칠게 될 것이라 우려했다. 인간의 직업이 줄어든다는 것은 인간 존재의 의미에 대한 의문을 제기하기도 했다. 사람들은 일자리를 잃으면 인간으로서 어떤 의미가 있겠냐며 인공지능에 대한 두려움을 드러냈으며 이에 대한 대책 마련이 시급하다고 응답했다.

몇몇 참가자들은 인간이 인공지능 기술 발전을 이해하거나 통제하기 어려운 상태인 이른바 ‘특이점(Singularity)’이 오는 것에 대한 두려움을 표현하기도 했다. 수퍼 인공지능(Super AI)의 출현으로 더 이상 인간 문명이 따라잡거나 걷잡을 수 없는 기술의 결과들이 발생할 것이며 이로 인해 인간의 문명이 역으로 기계의 문명에 지배를 받게 될지도 모른다는 것이다. 사람들은 이러한 막강한 인공지능 기술이 소수에 의해 악용될 가능성에 대해서도 염려를 표했다. 만약 누군가가 인공지능 기술을 독점하게 된다면 그것을 사적인 목적으로 오용하게 될 가능성이 있다고 생각했으며 인공지능 기술을 사용할 수 있는 사람과 그렇지 않은 자 사이에 분열이나 갈등이 생길 가능성에 대해서도 우려를 표했다.




본 연구는 CHI 2017 (The ACM CHI conference on Human Factors in Computing Systems)을 통해 발표될 예정이다.

글쓴이: 오창훈 박사과정
소속: Human Centered Computing Lab
메일: yurial@snu.ac.kr

0 개의 댓글:

댓글 쓰기

차세대융합기술연구원 │ 서울대학교 융합과학기술대학원. Powered by Blogger.