AI는 인류의 삶에 뛰어든 낯선 침입자
관련 업계는 이미 이런 미래 변화로 들떠 있다. 최근 5년 동안 수십 억 달러의 벤처자금이 인공지능 개발 기업들에 쏟아져 들어갔다. 엄청난 거액이 투자되고 있다. 거대 컴퓨터 기업 IBM은 인지컴퓨팅(cognitive computing) 플랫폼 왓슨(Watson)에 10억 달러를 쏟아 붇고 있고, 자율주행 연구에 10억 달러를 투자했다. 안전하고 일반적인 용도의 인공지능 개발을 목표로 하는 오픈AI(OpenAI)에도 10억 달러의 연구자금이 모였다. 사우디 국부펀드가 투자한 소프트뱅크 비전펀드(Vision Fund)는 2015년에 출범해 인공지능과 사물인터넷 기업들을 대상으로 지금까지 1천 억 달러 규모를 집중 투자했다. 이밖에도 구글과 페이스북, 바이두(Baidu)를 비롯해 주요 기술 기업들이 인공지능 개발에 대대적으로 투자하고 있다. 대규모 자금이 유입되면서 앞으로 생각하는 기계의 탄생에는 더 가속도가 붙을 것이다.
저자는 다소 모험적인 시도로 AI가 2050년까지 인류의 미래에 초래할 변화에 대해 다음과 같이 10가지 예측을 했다. 그 가운데는 우리가 놀랄만한 예견들도 들어 있다.

2050년, 인공지능이 만들 10大 미래변화
1: 자율주행 자동차 정착
2: 컴퓨터 가정의(家庭醫) 시대
3: 가상과 현실이 뒤섞인 하이퍼리얼 시대
4: 컴퓨터가 인간을 채용하고 해고
5: 모든 지시는 음성대화로
6: AI 범죄 유행
7: 로봇 스포츠팀 활약
8: 무인수송 보편화
9: 로봇이 뉴스를 제작하고 보도
10: 대역 로봇으로 영생의 꿈에 도전

AI의 위험성에 대비하지 않으면 재앙 못 피해
많은 전문가들이 AI와 함께 나타날 많은 위험성에 대해 경고한다. 이 위험성에 제대로 대비하지 않으면 인류의 종말이 앞당겨질 것이라는 우려까지 나오고 있다. 일론 머스크(Elon Musk)는 “인공지능에 대해 많은 주의를 기울여야 한다. 인류의 존재에 가장 큰 위협이 무엇일까에 대해 생각해 보면 아마도 인공지능이 바로 그 주인공이 될 것이라는 걱정이 든다.”고 경고했다. 스티븐 호킹 박사도 생전에 ‘인공지능이 본격적으로 개발되면 인류의 종말을 촉진시킬 수 있다.’며 인공지능의 위험성에 대해 경고했다.
이 책을 통해 저자는 인공지능이 우리를 여러 다양한 길로 인도해 줄 수 있다는 메시지를 던져 준다. 거기에는 좋은 길도 있고, 좋지 않은 길도 있다. 어떤 길을 택해서 나아갈지를 결정하는 것은 우리 사회의 몫이다. 인간이 기계의 손에 결정을 맡길 수 있는 분야는 많다. 저자는 설사 기계가 사람보다 더 나은 결정을 내릴 수 있는 분야가 있더라도 그 범위는 극히 일부분에 국한시켜야 한다고 주장한다. 그리고 사회 전체가 나서서 어떤 일을 기계에게 맡길지 선별하는 작업을 곧바로 시작해야 한다고 강조한다.
기계는 인간의 삶에 뛰어 들어온 낯선 침입자이며, 우리는 인류의 삶을 윤택하게 해줄 분야에 국한시켜서 이 침입자를 받아들여야 한다고 저자는 강조한다.

킬러로봇 금지운동에 앞장-
KAIST에 대한 전 세계 학자들의 로봇연구협력 보이콧을 주도한 장본인
저자 토비 월시 교수는 현재 유엔을 비롯한 여러 국제기구에서 킬러로봇 금지운동의 필요성을 역설하는 운동을 앞장서서 펼치고 있다. 2018년 4월 KAIST의 무기용 로봇 개발에 대해 우려를 표명하며, KAIST에 대한 일체의 로봇연구협력을 중단하기로 결정한 해외 인공지능 연구학자들의 선언을 주도했다. 월시 교수는 이후 KAIST의 해명을 받아들여 이 보이콧을 철회했다.

[책속으로 추가]
생각하는 기계를 만드는 일은 성공한다면 의심의 여지없이 우리 사회에 엄청난 영향을 미칠 담대하고 의욕적인 노력이다. 마지막 세 번째 파트에서는 AI의 미래에 대해 보다 상세히 다루었다. 많은 책자와 영화 속에서 구체적인 근거 없이 예견한 일들이 실제 현실로 나타날 것인가? 아니면 그런 일들은 공상과학이 그린 단순한 허구에 그칠 것인가? 나는 다소 모험적인 시도로 AI가 2050년까지 인류의 미래에 초래할 변화에 대해 10가지 예측을 해보았다. 그 가운데는 여러분이 놀랄만한 예견들도 들어 있을 것이다.
관련 업계는 이미 그런 일들로 들떠 있다. 최근 5년 동안 수십 억 달러의 벤처자금이 인공지능 개발 기업들에 쏟아져 들어갔다.(10)엄청난 거액이 투자되고 있다. 거대 컴퓨터 기업인 IBM은 인지컴퓨팅(cognitive computing) 플랫폼 왓슨(Watson)에 10억 달러를 쏟아 붇고 있다.(11) 도요타는 자율주행 연구에 10억 달러를 투자했다. 안전하고 일반적인 용도의 인공지능 개발을 목표로 하는 비영리 단체인 오픈AI(OpenAI)에도 10억 달러의 연구자금이 모였다. 사우디의 국부펀드가 거액을 투자한 소프트뱅크 비전펀드(SoftBank Vision Fund)는 2015년 10월에 출범해 인공지능과 사물인터넷 기업들을 대상으로 지금까지 1천 억 달러 규모를 집중투자했다.
이밖에도 구글과 페이스북, 바이두(Baidu)를 비롯해 기술 분야의 주요 기업들이 인공지능 개발에 대대적으로 투자하고 있다. 이 분야의 연구가 매우 흥미진진하게 전개되고 있는 것은 분명한 사실이다. 대규모 자금이 유입되면서 앞으로 생각하는 기계의 탄생에는 더 가속도가 붙을 것이다.

AI의 위험성에 대비해야
컴퓨터는 오늘날 인류의 삶을 놀라운 속도로 바꾸어놓고 있다. 그에 따라 인공지능에 대해 제대로 알고자 하는 욕구가 전 세계적으로 커지고 있다. 많은 전문가들이 앞으로 엄청난 일들이 일어날 것이라는 예측을 내놓았다. 2016년 5월 영국 마이크로소프트(Microsoft UK)의 최고전략책임자 데이브 코플린(Dave Coplin)은 “오늘날 인류가 하는 연구 가운데서 가장 중요한 분야는 바로 인공지능이다. 인공지능이 기술과 인간의 관계뿐만 아니라 인간들끼리의 관계도 바꿀 것이며, 나아가서 인간이 어떤 존재인가에 대한 지금까지의 생각까지 바꾸어 놓을 것”이라고 했다.
그보다 한 달 전에 구글의 CEO인 순다 피차이(Sundar Pichai)는 구글 전략의 핵심이 바로 인공지능이라며 이렇게 말했다. “우리의 핵심동력은 머신러닝(machine learning)과 인공지능에 대한 장기투자이다. 우리는 미래를 내다보며, 모바일 퍼스트에서 인공지능 퍼스트를 향해 나아갈 것이다.”
하지만 여전히 많은 전문가들이 AI와 함께 나타날 많은 위험성에 대해 경고하고 있다. 이 위험성에 제대로 대비하지 않으면 인류의 종말이 앞당겨질 것이라는 우려까지 나오고 있다. 2014년 일론 머스크(Elon Musk)는 MIT에서 행한 연설에서 청중들을 향해 “인공지능에 대해 많은 주의를 기울여야 합니다. 인류의 존재에 가장 큰 위협이 무엇일까에 대해 생각해 보면 아마도 인공지능이 바로 그 주인공이 될 것이라는 걱정이 듭니다.”라고 경고했다. 머스크는 페이팔(PayPal), 테슬라(Tesla), 스페이스엑스(SpaceX)를 잇따라 창업한 기업가이며 발명가, 투자자이다. 그는 혁신적인 아이디어로 금융 분야와 자동차 산업, 우주여행 분야에 큰 충격파를 던진 사람이다. 그래서 우리는 그가 컴퓨팅을 비롯한 첨단기술이 초래할 파장에 대해 우리보다 좀 더 정확하게 알 것이라고 생각한다.
머스크는 AI가 인류에 심각한 존재론적인 위협을 안겨 줄 것이라는 우려를 자기 돈을 써서 직접 뒷받침해 보였다. 2015년 초에 그는 인류미래연구소(Future of Humanity Institute)에 1천만 달러를 기부해 인공지능을 안전하게 개발하는 방안을 연구하는 데 쓰도록 했다. 순자산이 100억 달러에 달하고, 세계 100대 부호 반열에 오른 그에게 1천만 달러는 큰돈이 아니라고 생각하는 사람이 있을지도 모르겠다. 그는 바로 그해 기부금 액수를 100배로 늘려서 10억 달러 규모 오픈AI 프로젝트의 핵심 후원자가 되겠다고 발표했다. 오픈AI 프로젝트의 목표는 인공지능을 안전하게 개발하고, 관련 정보를 오픈소스로 만들어 전 세계적으로 누구나 이용할 수 있도록 공개하겠다는 것이다.
머스크에 이어 물리학자인 스티븐 호킹(Stephen Hawking)박사도 인공지능의 위험성을 경고하고 나섰다. 아이러니 하게도 그는 자신의 음성합성장치 소프트웨어 업데이트를 환영하는 말을 하면서 ‘인공지능이 본격적으로 개발되면 인류의 종말을 촉진시킬 수 있다.’는 경고를 내놓았다.
마이크로소프트의 빌 게이츠와 일명 ‘보즈’(Woz)로 불리는 애플의 스티브 보즈니악(Steve Wozniak)을 비롯해 여러 유명 첨단기술 전문가들도 AI로 인해 초래될 위험한 미래를 예고하고 나섰다. 정보이론의 아버지로 불리는 클로드 섀넌(Claude Shannon)은 1987년에 이렇게 썼다. “우리가 애완견을 대하듯이 로봇이 인간을 다루는 시대가 올 것이라는 예감이 든다. 내가 기계의 도우미 역할을 하게 되는 것이다!”(12) 앨런 튜링 본인도 1951년 BBC 라디오3(Third Programme) 방송에 출연해 다음과 같이 신중한 예측을 내놓았다.
“생각하는 기계가 만들어진다면, 인간보다 더 지능적으로 생각할 수 있게 될 것이다. 그렇게 되면 우리 인간이 설 땅은 어디겠는가? 예를 들어 결정적인 순간에 전원을 끄든지 하는 식으로 기계를 계속 인간에게 종속적인 지위에 머물도록 할 수는 있을 것이다. 그렇더라도 우리는 인간이라는 종(種)의 자리에 대해 매우 겸허한 생각을 갖지 않을 수 없게 될 것이다. 다시 말해 불안감 같은 것을 느끼게 될 것이다.”
물론 모든 기술 분야 전문가들이 생각하는 기계의 발명이 인간에게 미치는 영향에 대해 걱정하는 것은 아니다. 2016년 1월, 페이스북의 마크 저커버그(Mark Zuckerberg)는 이런 종류의 불안감을 이렇게 일축했다. “나는 AI로 하여금 인간을 위해 봉사하고, 우리에게 도움이 되도록 만들 수 있다고 생각한다. 공포감을 조성하는 사람들이 마치 AI가 엄청난 위험을 초래할 것같이 호들갑을 떨지만 그것은 지나친 과장이라고 생각한다. AI가 초래할 위험성은 광범위하게 퍼진 질병이나 폭력 같은 재앙에 비해 훨씬 경미할 것이다.” 중국의 유명 인터넷 기업 바이두(Baidu)의 대표적인 인공지능 연구자인 앤드루 응(Andrew Ng)은 이렇게 말했다. “AI를 둘러싼 우려는 화성의 인구과잉을 걱정하는 것이나 마찬가지이다.”(실제로 앨런 머스크는 문샷(moonshot) 프로젝트를 통해 인간을 화성에 이주시키는 계획을 추진하고 있다.)

그렇다면 우리는 과연 어느 쪽 말을 믿어야 하나? 만약 머스크나 저커버그 같은 사람들의 말이 사실이라면 AI의 미래에 대해 걱정할 필요가 전혀 없다는 것인가? 과거에 제기된 인공지능에 대한 우려들을 되짚어 보자. SF 문학의 거장인 아서 C. 클라크(Arthur C. Clarke)는 1968년에 인공지능이 초래할 위험성을 경고했다. 그는 미래의 기술에 대해 탁월한 예견을 남긴 사람으로 정지궤도 위성(geosynchronous satellites)과 지금의 인터넷에 해당되는 글로벌 디지털 라이브러리, 번역기계의 등장을 예견했다. 무엇보다도 그는 소설 <2001:스페이스 오디세이>(2001: A Space Odyssey)에 등장하는 인공지능 컴퓨터 ‘할(HAL) 9000’을 통해 인공지능 시대의 출발을 알렸다.
나는 클라크를 비롯한 여러 공상가들로부터 영감을 받아서 어릴 적부터 인공지능에 관한 꿈을 꾸기 시작했다. 그리고 그 꿈을 이루기 위해 평생 이 분야에 대한 연구를 계속했다. 유명 물리학자나 성공한 첨단기술 기업인들이 AI가 인류의 종말을 초래할 것이라는 경고를 내놓는 것을 보면 다소 우려스럽다는 생각이 든다. AI 연구에 종사하는 우리는 이 일에 너무 몰두하다 보니 그 위험성을 제대로 보지 못하는 것일까? 그게 사실이라면 우리는 인류의 존립을 무너뜨릴지 모를 기계를 만들겠다고 매달리는 어리석은 일을 하고 있는 게 아닌가?
인공지능과 관련한 우려들 가운데 일부는 우리의 심리상태 속 깊숙이 자리한 불안감에 기인할지도 모른다. 그 불안감은 프로메테우스 신화에 들어 있는 불안감과 일맥상통한다. 그리스 신화에서 프로메테우스는 제우스의 지시를 어기고 인간에게 불을 훔쳐다 주었고, 인간은 그 불로 인해 많은 혜택과 화를 함께 입었다. 메리 셸리(Mary Shelley)의 소설 <프랑켄슈타인>(Frankenstein)에도 같은 불안감이 등장한다. 그것은 바로 우리가 만든 생명체가 어느 날 우리 자신을 해칠지 모른다는 불안감이다. 오래 전의 일이라고 근거 없는 두려움으로 치부할 수는 없다. 인간이 개발한 기술 가운데는 한 번쯤 멈추고 되돌아봐야 할 것들이 많다. 핵무기를 비롯해 복제술(cloning), 표적을 눈멀게 만드는 실명(失明) 레이저(blinding lasers), 소셜미디어 등 얼마든지 꼽을 수 있다. 이 책을 통해 나는 생각하는 기계의 탄생을 우리가 얼마나 반겨야 할지, 아니면 얼마나 두려워해야 할지에 대해 사람들이 올바른 판단을 하도록 도움을 주고자 한다.
책임의 일부는 인공지능 연구에 종사하는 우리 과학자들에게 있다.
비(非)전문가들과의 소통에 소홀했고, 소통하더라도 의미전달을 명쾌하게 하지 않은 경우가 많았다. 우리가 어떤 일을 하고 있고, 우리가 하는 일이 우리 사회를 어떤 방향으로 이끌어 나갈지에 대해 사람들에게 좀 더 명확하게 설명할 필요가 있었다. 우리가 이끄는 변화의 대부분이 사회적인 파장을 미치는 것이고, 사회적인 변화는 기술의 발전보다 훨씬 느리게 진행된다. 대부분의 기술과 마찬가지로 인공지능도 도덕적으로 중립적이다. 좋은 결과를 낳을 수도 있고, 나쁜 결과를 낳을 수도 있다는 말이다.
한 가지 심각한 점은 인공지능에 관해 많은 오해가 있으며, 이런 오해들은 해소되어야 한다는 사실이다. 특히 이 분야에서 일하지 않는 사람들은 현재 인공지능의 능력, 그리고 가까운 미래에 갖추게 될 인공지능의 능력을 지나치게 과대평가하려는 경향이 있다. 이들은 컴퓨터가 포켓몬 GO를 사람보다 더 잘한다고 생각하고, 사람은 절대로 컴퓨터만큼 잘할 수 없다고 단정한다.(13) 이들은 게임뿐만 아니라 다른 여러 지적인 활동도 컴퓨터가 사람보다 더 우수하다고 생각한다.
하지만 다른 컴퓨터 프로그램과 마찬가지로 GO 프로그램은 해당 게임만 잘하도록 만들어진 ‘바보 천재’에 불과하다. 체스나 포커 같은 단순한 게임을 GO 프로그램에 시켜도 못한다. 해당 프로그램으로 하여금 다른 게임을 할 수 있도록 만들기 위해서는 사람의 손으로 상당한 수준의 엔지니어링 작업을 해주어야만 한다. 컴퓨터가 어느 날 아침에 눈을 떠서 갑자기 GO 게임에 싫증이 난다며 스스로 온라인 포커 도박을 시작할 수는 없다. 마찬가지로 컴퓨터가 어느 날 아침 일어나서 갑자기 세계를 지배겠다는 욕심을 부릴 수도 없다. 컴퓨터에게는 욕망이 없다. 그것은 단지 컴퓨터 프로그램에 불과하며, 사람에 의해 프로그램 된 대로 움직일 뿐이다. 컴퓨터가 포켓몬 GO를 잘하는 것은 그 게임을 아주 잘하도록 프로그램 되었기 때문이다.
다른 한편으로, 나는 또한 우리 모두 기술발전이 가져다주는 장기적인 변화를 과소평가하는 경향이 있다고 생각한다. 스마트폰이 도입되고 불과 10년이 지나는 동안 우리의 삶이 얼마나 바뀌었는지 한번 살펴보자. 인터넷이 시작되고 20년 정도 지나는 동안 우리의 삶은 거의 모든 분야에서 바뀌었다. 그리고 지금부터 20년 뒤에는 얼마나 많은 변화가 일어날지 상상해 보자. 기술이 가져오는 복합적인 영향을 감안하면 이후 20년은 이전 20년보다 더 큰 변화가 일어날 가능성이 높다.
우리 인간은 기하급수적으로 늘어나는 급격한 성장을 인식하는 데 서툴다. 진화과정에서 눈앞의 위험에 잘 대처하도록 최적화되었기 때문이다. 인간은 장기적인 위험요소를 파악하는 데 취약하며, 도저히 일어날 것 같지 않은 충격적인 사태인 ‘블랙스완’(black swan)을 제대로 예측하지 못한다.(14) 장기예측을 제대로 한다면 모두가 복권 사는 짓을 그만두고 연금가입 액수를 늘릴 것이다. 쾌락을 추구하고 고통을 회피하도록 진화된 인간의 뇌로는 복합적인 성장을 동반하는 발전을 이해하기 어렵다. 인간은 순간을 추구하는 존재이다.
이 책을 본격적으로 읽기 시작하기 전에 여러분에게 경고할 일이 하나 있다. 미래를 예측하는 일은 부정확한 학문이라는 사실을 잊으면 안 된다는 것이다. 노벨상 수상자인 덴마크 물리학자 닐스 보어(Niels Bohr)는 “예측은 어려운 작업이며, 미래를 예측하는 일은 특히 더 어렵다.”고 했다. 내가 이 책에서 제시하는 큰 틀의 예측은 정확할 것이지만, 일부 세세한 부분에서는 내 예측이 빗나가는 경우들이 분명히 있을 것이다. 그러한 과정에서 나를 포함해 수천 명의 동료들이 ‘생각하는 기계’의 탄생이라는 목표를 향해 평생을 바쳐 가슴 설레는 작업을 계속해 온 이유를 여러분이 이해하게 될 것이라고 생각한다. 그리고 우리가 가는 이 길이 이 지구상에서 사는 우리 인간의 삶의 질을 향상시키기 위해 반드시 가야 하는 길이라는 점도 여러분이 알게 될 것이다.
무엇보다도 우리가 사는 사회가 얼마나 변화를 필요로 하는지에 대해 여러분이 알아주었으면 좋겠다. 이 책을 통해 제시하고자 하는 궁극적인 메시지는 인공지능이 우리를 여러 다양한 길로 인도해 줄 수 있다는 사실이다. 거기에는 좋은 길도 있고, 좋지 않은 길도 있을 것이다. 어떤 길을 택해서 나아갈지를 결정하는 것은 우리 사회의 몫이다. 인간이 기계의 손에 결정을 맡길 수 있는 분야는 많다. 하지만 나는 설사 기계가 사람보다 더 나은 결정을 내릴 수 있는 분야가 있더라도 그 범위는 일부분에 국한시켜야 한다고 생각한다. 이제 사회 전체가 나서서 어떤 일을 기계에게 맡길지 선택하는 작업을 시작해야 한다.
이 책은 인공지능에 관심을 가진 전문가는 물론이고 비전문가인 독자들을 포함한 모두를 위해 썼다. 많은 이들이 인공지능이 인류를 어떤 방향으로 이끌고 갈 것인지 궁금해 할 것이다. 생각하는 기계를 둘러싼 그 많은 예측들 가운데 실제로 현실화 되는 것은 얼마나 될까? 인공지능이 인간지능을 넘어서는 ‘기술적 특이점’ (technological singularity)은 실제로 다가올 것인가? AI가 인도하는 미래는 우려할만한 것인가? 그 미래는 나와 우리 아이들에게 어떤 영향을 미칠까? 제기되는 예측들이 실제로 일어나기까지 과연 어느 정도의 시간이 걸릴까?(15)