닐 블롬캠프 감독의 2015년작 SF 액션 영화 <채피>. 범죄를 소탕하기 위해 만들어진 로봇 경찰 ‘스카우트 22호’. 로봇 개발자 디온은 폐기된 스카우트 22호에 고도의 인공지능을 탑재해 로봇 ‘채피’로 재탄생시킨다. 스스로 생각하고 느끼며 성장하는 로봇 ‘채피’는 예상을 뛰어넘는 속도로 성장하며 어느새 인류를 위협하는 대상으로 몰리게 되는데….

인생의 괴로움은 어디에서 오는 것일까? 온갖 괴로움에서 벗어나 행복에 이르는 길은 무엇일까? 인류는 오랜 세월 이 물음의 답을 찾고 있다. 쉽게 생각하면, 하고 싶은 대로 하지 못하기 때문에, 세상일이 마음대로 되지 않으니까, 마음에 들지 않으니까 괴로운 것이 아닐까. 왜 행복하지 않을까? 만족할 줄 몰라서일까, 아니면 원하는 것을 만족할 만큼 얻을 능력이 모자라서일까, 그냥 행복이 무엇인지 몰라서일까. 

우리가 온갖 괴로움을 가지고 살고 행복에 쉽게 도달하지 못하는 이유는 인간이 갖는 근본적인 한계 때문일지도 모른다. 우리의 삶은 온갖 미망에 사로잡혀 있으며, 부조리한 욕망의 노예며, 극복할 수 없는 무지 속에 있다. 과학기술에 의존해 인간의 진화가 가능하다고 믿는 트랜스휴머니즘은 인간의 무지와 정서적 고통이라는 인간의 한계를 운명이 아니라 극복 가능한 것이라고 주장한다. 바로 근본적인 기술적 향상이 인간이 한계를 극복하게 만들어 줄 것이라고 믿는다. 

초지능과 결합으로 무한한 지능을!

실리콘밸리의 벤처 사업가이자 트랜스 휴머니스트인 레이 커즈와일은 무지를 인간 지성의 결함으로 여기고 기술을 통한 근본적 향상(radical enhancement)을 이루면 무한한 지성을 얻어 무지를 극복할 수 있다고 믿는다. 근대 이래 인간 이성에 대한 믿음이 문명의 진보를 이루고 학문을 발전시켜왔지만, 근대적 정신은 인간의 유한성과 한계에 대해서도 분명한 인식을 갖고 있다. 

인간 지성은 무한한 것이 아니며 본래적인 한계와 극복하기 힘든 오류라는 운명을 짊어지고 있다. 우리는 그 한계 안에서 최선의 노력으로 진리를 향해 나아가야 하고, 끊임없이 깨어 있으려는 노력으로 오류와 미망에 빠지지 않으려고 애써야 한다. 커즈와일은 이런 근대정신에 저항한다. 그는 인간의 타고난 한계를 인정하지 않으며, 우리가 인간의 한계라고 믿어왔던 것을 생물학적 우연 내지는 시대적 한계일 뿐이며 기술의 발전 과정에서 극복될 수 있는 것이라고 믿는다. 

커즈와일과 그를 추종하는 트랜스 휴머니스트들은 제한적인 인간 지능을 포스트휴먼 초지능과 결합시킴으로써 무한한 지능을 얻을 수 있다고 믿는다. 초지능(superintelligence)은 기술적 특이점 이후에 등장하는 인공지능이다. 닉 보스트롬은 『슈퍼인텔리전스』에서 초지능을 “다양하고 보편적인 인지 영역에서 현시대의 가장 뛰어난 인간보다 훨씬 더 우수한 지능체”라고 표현했다. 이런 묘사는 초지능을 이해하기에는 좀 부족한 듯하다. 

보스트롬의 다른 글에 따르면, 초지능이 풀 수 없거나, 적어도 인간을 도와 풀 수 없는 문제는 없다. 질병, 가난, 환경파괴, 모든 종류의 불필요한 고통에 대한 해결책을 초지능이 제공할 수 있다. 초지능으로 인해 우리는 우리가 가진 지적, 정서적 능력을 좀 더 넓게 펼칠 기회를 얻게 될 것이다. 

인공지능은 발전 단계에 따라 인공 제한지능(artificial narrow intelligence, ANI), 인공 일반지능(artificial general intelligence, AGI), 인공 초지능(artificial superintelligence, ASI)으로 분류된다. ANI는 인간 지능 가운데 특수한 능력을 흉내 낸다. 일반적으로 계산 능력에 기초해서 인간 지능의 특정 활동과 유사한 기능을 수행한다. 인공지능은 1956년 미국의 다트머스대학에서 개최했던 여름 세미나 이후 꾸준히 발전해 왔으며, 최근 IBM의 왓슨과 구글의 알파고로 대표되는 슈퍼컴퓨터의 발전까지 이어졌지만, 그럼에도 불구하고 지금까지 우리가 보고 들은 모든 컴퓨터는 ANI에 불과하다. 왓슨이 퀴즈대회에서 인간과 같은 조건으로 대결해서 인간 챔피언들을 물리쳤어도, 알파고가 전 세계의 바둑 최고수들을 모두 물리쳤어도 이것들은 ANI에 불과하다. 왜냐하면 할 수 있는 일이 지극히 제한적이기 때문이다. 반면에 인간의 지능은 단순히 계산하고 기억하고 분석하는 일에 그치지 않는다. 창의적 상상, 상식 추론, 사회적 직관, 공감, 정서, 의지 등 인공적으로 만들어진 지능에 비해 훨씬 더 넓고 깊다. 

프랑스 철학자 르네 데카르트(Rene Descartes)는 『방법서설』에서 인간 이성을 기계와 구분하면서 “이성은 모든 상황에 적절히 대처할 수 있는 보편적인 도구”라고 말했다. 데카르트가 이해한 대로 인간 지성은 특수한 목적에만 쓸모 있는 것이 아니라 만능도구다. 삶에서 발생하는 모든 상황에 대응할 수 있으며, 어떠한 문제에 대해서도 대응 수단을 강구할 수 있는 능력이다. 다만, 완전하지 않기 때문에 모든 상황을 완벽하게 파악하고 완전한 해결책을 강구하지 못할 뿐이다. 오늘날 인공지능은 데카르트가 언급한 기계에 불과하다. 그런데 AGI는 이와 다른 것을 가리킨다. 인간 지능으로 할 수 있는 모든 것을 흉내 낼 수 있다. 이른바 기술적 특이점(technological singularity)에 도달했을 때 등장하는 인공지능이다. 더욱이 인공지능은 계산과 기억, 분석, 정보처리 등 여러 가지 영역에서 인간을 크게 앞서 있기 때문에 AGI는 인간의 지능보다 뛰어난 능력을 보여줄 것이 분명하다. 

초지능의 출현

기술적 특이점은 간단히 말하면 인공지능이 인간의 자연적 지능을 모든 면에서 능가하는 지점을 말한다. 이 용어가 대중에게 알려진 것은 미국의 SF 작가 버너 빈지(Vernor Vinge)의 소설과 에세이 때문이다. 그는 「다가오는 기술적 특이점」(1993)이라는 에세이에서 정보기술이 경이로운 속도로 발전해 사람의 지능을 능가하는 초월적인 인공지능의 출현을 예언했다. 특이점은 그후 커즈와일의 『특이점이 온다』라는 책을 통해 대중적인 관심을 얻게 된다. 커즈와일을 비롯해 한스 모라벡, 휴고 드 개리스, 캐빈 워릭, 데이비드 스피어 등의 트랜스휴머니스트들은 기술적인 특이점의 도래를 굳게 믿고 있는 듯하다. 

기술적 특이점의 도래 이후에 등장하는 AGI는 어떤 존재일까? SF 로봇 소설의 대부인 아이작 아시모프(Isaac Asimov)의 원작 소설을 각색한 영화 <바이센테니얼 맨>에 등장하는 인간형 로봇 앤드류는 놀라운 학습 능력은 물론 창의성을 보여준다. TV 시리즈인 <스타 트렉: 넥스트 제너레이션>에서 우주 탐사선 엔터프라이즈 호의 일등 항해사 데이타 역시 안드로이드로서 인간을 월등히 능가하는 기억력과 계산 능력, 정보 분석력을 보여준다. 데이타가 인간보다 못한 점은 감정이 없다는 것뿐이다. SF 액션 영화 <채피>에 등장하는 인간형 로봇 채피는 스스로 생각할 뿐만 아니라 감정까지 지니고 있다. 지금은 픽션 속에서나 상상할 수밖에 없지만, 만일 AGI가 등장한다면 앤드류나 데이타, 혹은 채피와 비슷하지 않을까? 

AGI는 이른바 강한 인공지능(strong AI)을 주장하는 이들의 목표다. 강한 인공지능은 인간 지능을 완전히 모방한 인공지능 혹은 그것의 개발을 목표로 하는 연구 방향을 가리킨다. 그런데 AGI의 등장은 그것으로 끝이 아니다. AGI가 하나라도 성공하면, 컴퓨터의 특성상 곧이어 수많은 AGI가 등장하게 될 것이다. AGI는 빠른 속도로 학습하고 스스로를 개량함으로써 원래의 것보다 더 나은 지능으로 진화할 것이다. AGI의 진화는 점점 가속되고, 마침내 지능폭발(intelligence explosion)이 일어나고, 초지능이 등장할 것이다. 초지능은 계산 능력은 물론이고 학습 능력, 이해력, 판단력, 창의성, 사회적 지능, 일반 지혜, 정서 등 모든 면에서 인간을 월등하게 능가하는 인공지능이다. 

실제로 초지능이 어떤 모습으로 등장할지 아무도 모른다. 아시모프가 폴란드 수학자 스타니슬라프 울람이 언급한 수학적 특이점에 영감을 얻어 쓴 「최후의 질문」이라는 단편소설에 등장하는 초거대 컴퓨터와 같은 것일지도 모른다. 이 소설에는 지구 규모의 컴퓨터가 탄생해서 열역학 제2법칙을 통제하고, 마침내 엔트로피를 감소시킨다. 낙관적인 상상처럼 초지능의 등장으로 인간이 상상했던 모든 아이디어가 현실화되어 유토피아적인 세상이 등장할지도 모른다. 반대로 인류멸망의 길로 접어들지도 모르지만 말이다. 어찌 됐든 초지능은 보스트롬이 언급한 것처럼 우리의 상상 밖에 있는 존재일 것으로 추정된다. 

커즈와일은 초지능의 등장을 인류에게 더 없는 기회로 생각한다. 인간 지능은 초지능과 결합함으로써 마침내 타고난 한계에서 해방되어 무한한 능력을 얻게 될 것이라고 한다. 이때 우리는 알 수 있는 것의 제한을 극복하게 될 것이고 어떤 것으로든 될 수 있게 될 것이다. 커즈와일의 이런 생각은 마음 다운로딩(mind downloading)이라는 상상을 바탕으로 한다. 여기까지는 아니더라도 트랜스휴머니스트들은 신경과학이든 유전공학이든, 뇌-기계 인터페이스(Brain-Machine Interface)든 미래의 기술을 통해 인간의 지능을 크게 향상할 수 있다고 믿는다. 그리고 지능의 진화는 인간 행복의 내적, 외적 조건을 개선하는 결과를 낳을 것이라고 믿는다. 

마음 다운로딩? 초지능?

마음 다운로딩이나 초지능에 관해서는 비판적인 견해가 많다. 마음 다운로딩은 마음에 관한 계산적 이론에 근거하는데 아직까지 그것 말고 마음 다운로딩의 가능성을 입증할 아무런 이론적 근거도 없다. 마음은 본질적으로 뇌라는 하드웨어에서 운영되는 프로그램이라는 기본적인 가정 역시 가설에 불과하다. 더욱이 지금까지 우리가 마음에 귀속시켰던 인간 행동과 성격을 구성하는 모든 알고리즘이 결국에는 과학에 의해 밝혀지고 기술에 의해 복제될 것이라고 기본적으로 가정하는데, 이 가정에 대해서도 많은 비판이 제기되고 있다. 

미국의 철학자인 휴버트 드레이퍼스(Hubert Dreyfus)는 AGI 옹호자들의 기본적 가정이 틀렸다고 주장한다. 그는 인간 정신의 높은 수준의 기능들이 컴퓨터로 모의될 수 있다고 생각하지 않는다. AGI 옹호자들은 충분한 컴퓨팅 능력(computing power)만 있으면 인간 존재에 관한 모든 사실을 명시적으로 밝혀내서 컴퓨팅 환경에서 구현해낼 수 있다고 말한다. 하지만 드레이퍼스가 보기에 이런 주장은 우리 자신의 경험과 일치하지 않는다. 우리 삶의 내용을 구성하는 것들 대부분은 그가 “투명한 처리(transparent coping)”라고 부른 것에 해당한다. 우리가 하는 대부분의 행위는 우리 자신에게 명시적으로 의식되지 않는다. 예를 들어, 우리는 도구를 사용하지만 익숙해지는 순간 우리가 도구를 사용하고 있다는 것을 의식하지 않고 행동한다. 

컴퓨터의 하드웨어와 소프트웨어는 계속 발전할 것이다. 그런데 이런 발전이 지속된다면, 정말 어느 순간에 AGI가 등장하게 될까? 프랑스의 철학자 장 가브리엘 가나시아(Jean-Gabriel Ganascia)는 인공지능 분야에서 사용하는 지능 개념의 애매성이 이와 같은 정당화되지 않는 생각을 불러온 원인 가운데 하나라고 본다. 그는 컴퓨터의 연산 능력과 컴퓨터가 지능을 재현하는 능력 사이에 연관성이 없다고 말한다. 지능은 단순 작업을 하는 속도나 기억장치에 저장된 정보량을 뜻하지 않는다. 연산 능력이 향상되거나 기억 용량이 증가한다고 해서 자동적으로 지능이 생기지는 않는다고 그는 말한다. 이런 맥락에서 보면, 컴퓨팅 능력의 지속적인 성장이라는 가정 하에 AGI, 더 나아가서 ASI의 도래를 예언하는 추론은 정당하지 않다. 

무한한 지능으로 해탈할 수 있는가?

인간이 끝내 알 수 없는 것은 존재하지 않는다는 생각은 이성에 대한 근대적 통찰의 한 쪽 면이 부풀려진 결과인 듯하다. 진리를 파악하는 능력만 강조되고 유한성은 무시됐다. 대신에 기술적 수단을 통해 그 유한성이 극복될 수 있다고 주장한다. 그런데 이 주장은 어딘가 좀 어색하다. 인간의 지성은 불신하면서 지성이 만들어낸 기술은 신뢰한다는 것이 좀 이상하게 들린다. 인간 지성의 한계를 말하면서 인간 지성의 산물인 기술에 대해서는 한계가 없다고 말하는 것이 거슬린다. 

지성과 지식, 기술에 대한 믿음은 프랜시스 베이컨의 유산이다. 베이컨은 인간 지성의 한계로 우상에 대해 말했지만 지성의 문제는 치료할 수 있다고도 말했다. 자연에 대한 순수한 지식을 회복함으로써 자연에 대한 지배력을 되찾을 수 있다고 말하고, 그것은 과학과 기술의 발전을 통해 가능하다고 주장했다. 어쩌면 트랜스휴머니스트들의 믿음은 베이컨의 주장을 계승한 것일지 모르겠다. 그런데 정말로 AGI의 개발, 인간과 초지능의 결합 같은 것이 과학과 기술을 발전시켜 아담의 추방으로 잃어버린 낙원을 지상에 다시 건설하려고 했던 베이컨의 꿈을 실현하는 길일까? 

독일의 철학자 임마누엘 칸트(Immanuel Kant)는 「‘계몽이란 무엇인가?’라는 물음에 대한 답변」이라는 글에서 우리가 계몽되지 못하고 미성숙 상태에 머물러 있는 이유를 통찰력 있게 지적한다. 미성숙의 원인은 지성이나 지식의 결여가 아니다. 그 원인은 각자가 자신의 지성을 사용하여 스스로 생각하려는 의지와 용기의 결핍에 있다. 인공지능의 도움으로, 혹은 인공지능과의 결합으로 우리가 지성의 능력을 향상시키고, 기억하고 다룰 수 있는 지식과 정보의 양을 무한히 증가시키더라도 그것만으로는 우리가 정신적으로 성숙한 존재가 될 수 없다. 

불교에서 말하는 무명은 단순한 무지와 다르다. 인생의 진리를 담은 사성제는 단순히 지식이라고 할 수 없다. 책이나 인터넷을 통해, 혹은 불제자의 입을 통해 우리가 사성제에 대해 설명을 들었고, 또한 그것을 외우고 있다고 해서 인생의 진리를 깨닫지는 못한다. 지식이나 정보와 진리 혹은 지혜는 구분되어야 한다. 무명은 지능이나 정보의 양으로 극복될 수 있는 것이 아니다. 트랜스휴머니스트들은 인지적 향상을 통해 인간을 무지로부터 해방할 수 있다고 믿는데, 거기에는 혼동이 있는 듯하다. 무지에서 벗어나기 위해서는 단순히 정보를 가지고 있는 것에 그치지 않고 이해(understanding)가 수반되어야 한다. 불교적인 용어로 말하면 깨달음이 있어야 할 것이다.  

이상헌
서강대 전인교육원 교수. 저서로는 『융합시대의 기술윤리』, 『철학자의 눈으로 본 첨단과학과 불교』 등이 있다. 「붓다의 시선으로 본 인공지능」, 「칸트 도덕철학의 관점에서 바라본 포스트휴먼」 등 논문을 썼다.