인공지능의 미래

 

 

 

 

【 어떻게 인간과 공존하는 인공지능을 만들 것인가 】- AI와 통제 문제

_스튜어트 러셀 / 김영사

 

 

AI(Artificial Intelligence)는 장밋빛 미래일까? AI의 혜택을 입고 살아갈 사람은 인류의 몇 퍼센트나 될까? 시간의 흐름에 따라 AI의 혜택을 볼 사람이 늘어나긴 하겠다만, 아마도 대부분의 사람들은 “이번 생애에서 난 AI와 상관없을 거야” 할지 모른다.

 

어쨌든 인공 지능에 대해 알아보는 것은 결코 의미 없는 작업은 아닐 것이다. 내가 관심을 갖건 아니건 AI는 하루가 다르게 진화하기 때문이다. 인간의 삶에 더욱 깊숙이 관여할 것이다. 현실 세계에서 기계가 인간을 훨씬 능가하는 의사결정 능력을 이미 갖고 있고, 더욱 향상될 것이다. 그렇다면 그 뒤에는 어떻게 될까?

 

컴퓨터과학 박사학위를 취득한 공학부분 석좌교수이자 AI 분야에선 독보적인 존재인 이 책의 저자 스튜어트 러셀은 AI가 인간 지능의 산물이지만, 우리 지능보다 훨씬 더 뛰어난 지능을 만나는 것에 대해 깊은 관심과 우려를 갖고 있다. 인류 역사상 가장 큰 사건이 될 것은 틀림없지만, 인류 역사의 마지막 사건이 될 수도 있다는 것이다. 저자는 이 책을 통해 그렇게 되지 않으려면(인간의 지능보다 훨씬 더 뛰어난 지능에 밀리지 않으려면) 어떻게 해야 하는지를 설명한다.

 

책은 크게 3챕터로 편집되었다. 1~3장은 인간과 기계의 지능이라는 개념을 살펴본다. 4~6장에선 기계에 지능을 부여할 때 생기는 문제들을 논의한다. 특히 통제 문제에 초점을 맞춘다. 7~10장에선 AI를 바라보는 새로운 관점과 기계가 인류에게 도움을 주는 상태로 영구히 남아 있게 할 방법을 제시한다.

 

‘지나치게 지적인 AI’. 인간보다 상당히 더 뛰어난 지능을 지닌 기계가 존재하는 세상에서 인류는 우월성과 자율성을 유지할 수 있을까? 중요한 문제이다. 사실 이러한 의구심은 이미 오래전부터 있었다. 1842년 해석기관을 고안하고 그것을 위한 프로그램을 짠 찰스 베이지와 에이다 러브레이스는 그것의 잠재력을 인식했지만, 전혀 걱정하지 않은 듯하다(기계가 아무리 똑똑해도 자료를 In Put 하는 것은 결국 사람이라는 자만심). 그러나 종교 잡지〈프리미티브 익스파운더〉의 편집장 리처드 손턴은 1847년에 기계식 계산기에 악담을 퍼부었다. “....그러나 그런 기계가 더 완벽해질 때. 자신의 모든 결함을 스스로 치유할 계획을 생각하고, 이어서 인간 마음의 이해 범위를 초월하는 개념을 내놓지 않으리라는 것을 과연 누가 알랴!” 선견지명 있는 언급이다.

 

저자는 ‘초지능 AI’가 언제 출현할지 예측해달라는 요청을 종종 받는데, 대개는 답변을 거부한다고 한다. 이유는 세 가지다. 첫째, 역사적으로 오래전부터 그런 예측은 으레 틀리곤 했기 때문이다. 두 번째 이유는, 넘어야 할 명확한 문턱이라고 할 만한 것이 아예 없기 때문이라고 한다. 기계는 이미 몇몇 영역에서 인간의 능력을 초월했기 때문이다. 세 번째 이유는 그것이 본질적으로 예측 불가능하기 때문이라고 한다.

 

“우리가 증명 가능하게 이로운 AI 시스템을 개발하는 데 성공한다면, 초지능 기계를 통제하지 못하게 될 위험도 제거될 것이다. 인류는 AI와 함께 발전을 계속할 수 있고, 발전하는 우리 문명에서 훨씬 더 뛰어난 지능을 발휘하는 기계의 능력 덕분에 거의 상상도 할 수 없는 혜택을 보게 될 것이다. 우리는 농업용, 산업용, 사무용 로봇 덕에 수천 년 동안 해온 노동에서 해방될 것이고, 삶의 잠재력을 최대한 실현할 자유를 얻을 것이다.”

 

저자는 이 책을 일반 독자를 위해 썼지만, 인공지능 전문가에게도 도움이 될 깊은 내용도 적절하게 배합했다.

 

 

 

"출판사에서 도서를 지원 받아 작성한 리뷰"