무지의 역사

무지의 역사 책 표지

피터 버크 지음, 이정민 옮김

 

독서 기간 : 24.11.20 ~ 11.30

 

나의 한 줄 리뷰 : 무지를 경계하고, 끊임없이 배우려하며 항상 겸손해야함을 깨닫게하는 역사책.

 

하이라이트

1. 무지는 지식처럼 사회적 창조물이다. 마이클 스미스슨Michael Smithson(오스트레일리아국립대학교 심리학과 명예교수)

2. 과거에 개인이 무지했던 가장 큰 이유는 사회에 유통되는 정보가 너무 적었기 때문이다. 일부 지식은 필사본에 기록되어 교회나 국가 당국의 공개 거부로 지금까지 감춰져 있는데 독일 역사학자 마틴 멀조Martin Mulsow는 이를 가리켜 ‘불안정한 지식precarious knowledge’이라고 했다. 하지만 오늘날에는 정보가 넘쳐나는 것도 문제다. 정보의 홍수 속에 개인은 정작 자신에게 필요한 정보를 선택할 수 없게 되는데, 이런 상태를 ‘필터링 실패filter failure’라고도 한다. 결국 정보화 시대는 지식 못지않게 무지도 확산시키고 있다.

3. 오늘날 무지는 불확실성, 부정, 심지어 혼란과 같은 인접한 개념을 포괄하는 의미로 자주 사용된다. 나는 넓은 범위의 주제와 다양한 시각을 고려해 무지의 정의를 다소 좁은 범위인 ‘부재不在’로 한정짓기로 했다.

4. 19세기 철학자들은 무지에 관심을 두지 않는 경향이 있었는데, 예외이자 중요한 인물이 바로 《형이상학 연구소Institutes of Metaphysic》(1854)를 집필한 스코틀랜드 출신의 제임스 페리어James Ferrier다. 그는 무지 이론을 지칭하고자 ‘불가지론不可知論, Agnoiology’이라는 용어를 만들었다(지식에 관한 이론을 지칭하고자 ‘인식론epistemology’이라는 용어를 도입하기도 했다). 페리어 시대에는 무지에 대한 관심이 더욱 확산되었다. 토마스 칼라일Thomas Carlyle은 무지를 ‘가난한 자들의 진정한 궁핍’으로 묘사하고 인류의 보잘것없는 과학의 발전 상태와 대비되는 개념으로 ‘무지라는 광활한 우주’를 강조했다. 그리고 카를 마르크스Karl Marx는 부르주아의 계급적 이해관계와 노동자 계급의 허위의식 등 지식 습득을 방해하는 사회적 장애물에 대해 논의했다. 한 세대 후 프로이트는 당혹스러운 사건을 잊어버리는 경향을 포함해 지식에 무의식적 거부반응을 보이는 심리적 장애물이 있다고 주장했다.

5. 무지의 원인과 결과를 탐구하는 것은 무지의 책임을 타인에게 돌리는 것보다 더 어렵다. 무지는 1850년대에 철학자 제임스 페리어가 연구 가능성에 대해 논의한 것을 제외하면 비교적 최근까지도 연구 주제로 받아들여지지 않았다.

6. 무지 연구에 대한 관심이 지난 40여 년 동안 특히 왕성하게 일어난 이유는 정확히 알 수 없지만, 몇 가지 이유를 생각해 볼 수는 있다. 그중 하나는 연구 그 자체의 발달이다. 특정 문제를 연구할 때 그것을 뒤집거나 반대로 돌려 상반된 측면을 살펴봄으로써 좋은 성과를 거둘 수 있다. 이제 기억을 연구하는 학생들은 망각으로 눈을 돌렸고, 언어를 연구하는 학생들은 침묵을 연구하고 있다. 성공은 늘 관심의 대상이었지만, 학자들은 실패를 통해 무엇을 배울 수 있는지도 연구한다. 또한 지식 사회에 대한 논의가 활발한 데 힘입어 학자들 사이에 지식에 대한 관심이 커지고 있고, 그에 따라 무지 연구 또한 뒤따를 수밖에 없게 된 것이다.

7. 특정 종교를 가진 사람들은 다른 종교인들의 믿음을 자신과 다른 지식으로 여기기보다 지식의 부재라 단정 짓고, 무지를 비난했다. 앞서 살펴본 것처럼 이슬람교도는 이슬람 이전의 다신교 시대를 무지의 시대로 부르고 있으며, 기독교 선교사들 또한 비기독교인의 우상 숭배, 미신과 더불어 무지를 자주 언급했다. 각 종교 집단은 다른 집단이 참된 신앙에 무지하다고 비판하지만, 정작 세계 주요 종교의 신자 대다수는 타 종교에 대해 모른다. 불가지론자들은 소크라테스가 보인 예를 따라 무지의 책임을 자기 자신에게 돌린다.

8. 서구인들의 타 종교에 대한 무지는 오랫동안 계속되었다. 1498년 바스코 다 가마Vasco da Gama가 캘리컷에 상륙했을 때 그의 부하들은 모든 인도인이 기독교인이라고 믿고 있었다(실제로 일부는 ‘성 토마스 기독교인’이었다). 그들은 힌두교 사원을 ‘성모 마리아를 상징하는 형상이 있고 네 개 혹은 다섯 개의 팔을 가진 성인이 그려진 거대 교회’로 착각했다. 다시 말해 그들은 누가 봐도 모스크가 분명한 건물을 교회로 볼 수 있는 능력을 가지고 있었다. 서구인들은 오해에서 벗어난 뒤에도 힌두교 신앙을 우화나 미신으로 치부했고, 힌두교 사원에 보이는 신들을 중세 이교도처럼 뿔을 달고 있는 괴물이나 악마로 묘사했다.

9. 알지 못하는 것에 대한 과학자들의 관심은 21세기 들어 더욱 두드러졌다. 미국의 이론물리학자 데이비드 그로스David Gross는 2004년 노벨물리학상 수락 연설에서 다음과 같은 질문을 던졌다. ‘지식의 증가로 해결되는 문제가 늘면 과학적 발견 속도가 느려질 수 있는가?’ 그의 답은 낙관적이었다. ‘오늘날 우리가 던지는 질문은 내가 학생이던 시절에 비해 훨씬 깊고 흥미롭다. … 당시 우리는 영리하게 무지를 유지할 정도의 지식을 갖추고 있지 못했다. … 나는 우리의 가장 중요한 자원인 무지가 고갈되고 있다는 증거가 없음을 보고하게 되어 기쁘다.’

10. 플랑크가 ‘과학은 장례식을 한 번 치를 때마다 진보한다’는 쓴소리를 남긴 것은 양자론에 대한 물리학자들의 반감에서 비롯되었다. 이 말의 뜻은 새로운 과학적 진리는 반대자들을 설득해 깨닫게 함으로써 승리하는 것이 아니라, 반대자들이 마침내 죽고 진리에 익숙한 새로운 세대가 성장하기 때문에 승리한다는 것이다. 기성세대 중에는 자신의 전문적 자본을 투자한 이론을 포기하려 들지 않는 사람이 많다. 자신이 틀렸다는 사실을 인정하고 싶어 하지 않는 것은 이해되지만, 실로 유감스러운 일이 아닐 수 없다.

11. 산업계와 정부가 대중에게 허위 정보를 제공하기 위해 벌인 캠페인 중 일부는 수행되지 않는 과학(수행될 필요성이 있음에도 외면당하는 과학 영역-옮긴이), 문제에 대한 집단적 무시, 그리고 자금을 지원하지 않고 방치하는 연구 영역과 연결되어 있다. 이 같은 지식의 체계적 비생산은 과학의 정치 행태, 서로 다른 어젠다를 가진 집단(정부, 산업계, NGO, 재단, 대학 등) 간의 경쟁을 보여준다. 이런 방식으로 수행되지 않는 사회과학, 심지어 만성적 자금 부족에 시달리는 인문학을 연구하는 것도 의미 있을 것이다.

12. 지속적인 노력이 이루어지고 있음에도 일반 대중이 과학에 접근하기는 갈수록 어려워지고 있다. 심지어 과학이라는 거대 분야에서 무지가 급속히 늘고 있다고 해도 과언이 아니다. 전문화가 고도로 진행됨에 따라 과학의 큰 그림을 이해하기가 19세기보다 훨씬 더 어려워진 것도 그 이유 중 하나다. 2012년 스튜어트 파이어스타인이 《이그노런스Ignorance》에 썼듯이 ‘오늘날 과학은 마치 고대 라틴어로 쓰인 문서처럼 대중이 접근하기 어렵다.’ 심지어 과학자들조차 자신이 연구하는 분야가 아니면 일반인과 마찬가지인 신세가 되어 버렸다. 전문화뿐만이 아니다. 과학 실험이 갈수록 일상생활과 무관해지는 것도 또 다른 원인이라 할 수 있다. 19세기의 실험은 맨눈으로도 얼마든지 볼 수 있어 존 헨리 페퍼 같은 대중화 전문가가 사람들에게 깊은 인상을 남기는 것이 가능했다. 이와 달리 오늘날에 전자와 염색체를 보거나 인식할 수 있는 사람은 복잡한 장비를 사용하는 전문가뿐이다. 1990년대에 ‘대중의 과학 이해’를 위한 운동이 같은 이름의 학술지와 강좌(리처드 도킨스Richard Dawkins가 맡은 강좌 포함)를 통해 일어난 것은 과학에 대한 일반인의 무지를 해소하려는 강한 의지의 표명이었다.

13. 외부인들, 즉 식민지 개척자들의 무지 중 일부는 일부러 꾸며내기라도 한 것처럼 너무나 편리했다. ‘주인 없는 땅terra nullius’이라는 말이 실제로 사용되었는지는 논란이 있지만, 16세기부터 19세기까지 백인 정착민이 그렇게 추정한 것은 분명하다. 1492년 콜럼버스가 서인도제도를 점령했을 때처럼 영국의 식민지 개척자들은 자신들이 도착하기 전에 아메리카 원주민, 뉴질랜드 마오리족, 오스트레일리아 원주민이 그 땅을 어떻게 사용했는지 알고 싶어 하지도 않았다. 1824년 프랜시스 포브스Francis Forbes 대법원장은 뉴사우스웨일스에 원주민이 거주한다는 사실을 몰랐을 리 없는데도 무인도라 불렀고, 1835년 뉴사우스웨일스 주지사 리처드 버크 경Sir Richard Bourke은 영국 왕실이 점유하기 전에 그 땅은 비어 있었다고 선언했다. 이 같은 고의적 무인식은 이전에 존재했던 사회를 ‘머릿속에서 지우기’로 설명되었다.

14. 중국인들이 외부 세계에 흥미가 전혀 없었다고 말할 수는 없지만, 서양인들이 중국에 폭발적으로 관심을 가졌던 16~18세기에 중국인들은 유럽에 별로 관심이 없었다. 이는 지식 격차를 초래해 20세기까지 중국과 서양의 관계에 지속적인 영향을 미쳤다. 중국 조정은 멀리 떨어진 국가에 대해 별로 알고 싶어 하지 않았다. 중국이 더 넓은 세상에 대해 알아봐야겠다고 마음먹은 것은 서양의 위협에 맞닥뜨렸던 19세기로, 6세기 전 몽골의 침략에 각성할 수밖에 없었던 유럽인들의 경우와 비슷하다.

15. 리치의 또 다른 친구인 학자 서광계徐光啓는 서양의 수학 등 세계에 대한 새로운 지식을 습득하는 데 열정적이었다. 그가 리치와 함께 유클리드(그리스명 에우클레이데스)의 《기하학 원론Elements》을 번역한 덕분에 유클리드 기하학에 대한 중국의 무지를 바로잡을 수 있었다. 한편 중국 수학자들은 서양 수학자들에게는 아직 알려지지 않은 선형 대수학을 연구하고 있었다.

16. 아시아의 다른 지역에 대한 유럽인들의 지식은 더 적었다. 조선은 일본 못지않게 폐쇄적인 나라로 ‘은둔의 왕국’으로 불렸으며, 1905년 국권을 일본에 빼앗기기 전까지 서양에는 거의 알려지지도 않았다. 의도치 않게 조선을 방문한 몇 안 되는 외국인 중 하나가 네덜란드인 헨드릭 하멜Hendrik Hamel이었다. 네덜란드 동인도회사의 회계 담당자였던 그는 일본으로 배를 타고 가던 중 난파를 당해 조선에 상륙하게 되었다. 출국이 금지된 그는 포로 생활 13년 만에 탈출에 성공한 뒤 자신의 경험을 일기로 남겼다. 일기는 1668년 네덜란드어로 출간되었고, 2년 후에는 프랑스어 번역본으로도 선보였다.

17. 전쟁에서 군사 작전은 다른 무엇보다 무지와 지식 간의 싸움이다. 아군의 계획을 적군이 모르게 철저히 관리하는 한편, 적군의 계획을 알아내기 위해 노력해야 하기 때문이다. 웰링턴 공작(1815년 워털루 전투에서 나폴레옹군을 격파한 영국의 군인이자 정치가-옮긴이)이 입버릇처럼 말했듯이 ‘전쟁의 모든 기술은 언덕 저편의 상황을 파악’하는 데 있다. 그리고 그에 실패할 때는 큰 대가를 치러야 한다. 전쟁은 적의 움직임에 신속하게 대응하는 것이 중요한 제로섬 게임이기 때문이다.

18. 결국 경제생활에서 정보의 역할에 대한 연구가 경제학의 주요 분야로 자리 잡은 것은 당연하다. 경제학자 오스카르 모르겐슈테른Oskar Morgenstern과 대수학자 존 폰 노이만John von Neumann은 게임 이론을 활용해 이 분야에 크게 기여했다. 경제 행동의 기본 요소는 플레이어, 전략, 보상으로 게임과 동일하다. 그뿐 아니라 서로의 선택에 무지한 게임 형태와도 유사하다. 문제는 이 같은 상황에서 최고의 전략을 찾아내야 한다는 점이다.

19. 조직적 무지는 정부뿐 아니라 기업에도 심각한 문제다. 실제로 조직적 무지에 대한 연구가 발전한 것은 경제 분야였다. 미국에서는 20세기 초부터 작은 기업들이 합병해 큰 회사로 거듭났다. 기업의 규모가 커지면서 더 많은 정보를 얻게 되었지만, 상부와 하부 사이에 더 많은 관리층이 생겨 체계가 복잡해졌다. 이 같은 발전과 함께 ‘조직적 침묵’이라는 새로운 약점이 생겨났다. 즉, 기업 내에서 지식을 전달하는 소통에 실패하는 것이다. 예를 들어 공장 작업 현장의 근로자가 경험으로 습득한 생산 과정에 대한 지식을 관리자와 CEO는 따라잡을 수 없다. 마찬가지로 현장 근로자들은 CEO의 계획에 대해 알지 못하거나 알아낼 수 없다. 노동자와 경영진은 (영국의 과학자 겸 소설가인 찰스 퍼시 스노C. P. Snow의 표현을 빌리자면) 과학과 인문학이라는 두 문화와 비슷하다. 양쪽 모두 서로의 지식에 무지하다. 이러한 문제는 쉽게 이동하지 않는 ‘끈적끈적한 지식’으로 표현되었다.

20. 일반인의 관점에서 금융 문맹의 위험성이 가장 큰 곳은 투자의 영역이며, 오래전부터 그래 왔다. 중세 말기와 근대 초기에 제도적 혁신으로 탄생한 것이 주식회사다. 대표적 사례로 1600년 설립된 영국 동인도회사가 있으며, 이 회사는 상인 그룹이 주식을 보유했다. 1602년 설립된 경쟁업체 네덜란드 동인도회사에는 부유층뿐 아니라 소액 투자자들도 참여했다. 또 다른 혁신으로는 증권 거래소, 특히 1602년에 설립된 암스테르담 증권 거래소를 꼽을 수 있다. 초창기의 거래소는 상품을 사고팔 기회를 제공했지만, 암스테르담 증권 거래소에서는 기업의 주식을 사고팔았다. 런던 증권 거래소는 왕립 거래소 근처 체인지 앨리에 있었고, 뉴욕 증권 거래소는 월가에 위치해 있다. 뉴욕증권 거래소는 1792년 주식 중개인들이 월가의 한 나무 아래서 만나 설립한 것이다.

21. 오래전부터 마피아 조직원은 무지를 가장한 오메르타omertà(마피아 조직원의 비밀 엄수 규율-옮긴이)의 불문율에 복종하는 잠재적 증인들 덕분에 감히 건드릴 수 없는 존재로 자리 잡아 왔다. 이 같은 침묵의 규율은 1980년대 들어서야 깨질 수 있었는데, 톰마소 부셰타Tommaso Buscetta가 선례를 세운 후 동료들이 뒤를 따르면서 그 같은 관행이 세상에 알려진 것이다. 이처럼 마피아 조직원들이 비밀 유지 의무에 얽매여 있다는 사실이 알려지면서 달리 설명이 안 되는 그들의 절제가 이해될 수 있었다. 부셰타가 취조관들에게 말했듯이 ‘술에 취한 사람은 비밀이 없지만, 마피아는 어떠한 상황에서도 자제력과 품위를 유지해야 한다.’ 불법 비즈니스에서 신뢰는 특히 중요한데, 피해 당사자는 법에 의지할 수 없기 때문이다. 따라서 어둠의 비즈니스를 수행하는 비밀 조직은 복잡한 입단 의식과 명예 규율을 통해 구성원끼리 연대하는 경우가 많다. 이는 마피아뿐만 아니라 중국의 삼합회와 일본의 야쿠자도 마찬가지다.

22. 독재자가 국민들의 무지를 조장한다면 민주주의 세력은 불안해지게 된다. 미국 제3대 대통령 토머스 제퍼슨Thomas Jefferson은 ‘문명화된 국가가 무지하면서도 자유로운 것은 이전에도 이후에도 있을 수 없는 일’이라고 주장했다. 그다음 대통령인 제임스 매디슨James Madison 역시 ‘지식은 영원히 무지를 지배할 것이기 때문에 대중적인 정보’가 필요하다고 했다.

23. ‘정부 혁명’이라는 말은 역사학자 제프리 엘턴Geoffrey Elton이 헨리 8세 치하를 연구한 논문에서 처음 사용했다. 그는 당시 국무장관이던 토머스 크롬웰Thomas Cromwell이 1540년 헨리의 명령으로 처형되기 전 수년간 이룬 업적을 집중 조명했다. 평민으로 태어난 크롬웰은 전통적으로 정부에서 중요한 역할을 했던 귀족들을 무시했기 때문에 그들에게 미움을 샀다. 엘턴이 설명한 변화는 워낙 점진적으로 이루어지기도 했고 영국뿐 아니라 유럽 여러 나라에서 일어난 만큼 크롬웰이 일으킨 혁명이라고 말하는 것은 다소 과장된 면이 있다. 이 같은 변화는 ‘관료제’라는 단어로 요약할 수 있다. 역사 사회학자 막스 베버Max Weber에 따르면 관료제는 각 참여자의 역할이 신중하게 규정된, 정해진 서면 규칙에 따라 비인격적으로 운영되는 정부 조직을 말한다. 새로운 형태의 정부는 중앙에 새로운 기관, 즉 평의회가 있었다. 통치자들은 오랫동안 참모들에 둘러싸여 있었는데, 16세기에 들어 참모가 의원으로 바뀐 것이다.

24. 2차 정부 혁명은 19세기에 일어났다. 1차와 마찬가지로 이는 18세기 후반 독일어권 대학에 행정학이 개설되어 미래의 공무원을 양성한 것을 포함해 오랜 기간에 걸친 변화가 축적되어 나타난 결과였다. 당시에는 국가에 대한 지식을 독일어로 ‘통계학Statistik’이라고 했는데, 이 용어에서 영단어 ‘통계학Statistics’이 유래했다. 이 같은 단어의 의미 변화는 정부가 공장과 학교, 빈곤과 위생을 조사하는 데 점점 관심이 많아졌음을 의미한다. 이로 인해 생산된 수많은 정보는 19세기부터 막대그래프, 그래프, 원형 차트 등으로 표현되었다.

25. 무지는 편견으로 인해 강화되기도 한다. 바이러스와 세균뿐 아니라 곤충, 새, 동물이 전염병을 전파한다는 사실을 의사들이 인식하기까지는 오랜 시간이 걸렸다. 그들은 페스트의 경우 벼룩과 쥐, 발진티푸스의 경우 파리와 이, 1918년 인플루엔자의 경우 새, 에이즈의 경우 원숭이, 사스의 경우 박쥐의 중요성을 무시했다. 특히 계층적인 사회에서는 동물이나 인간보다 열등하다고 여겨지던 벼룩과 이 같은 곤충이 수백만 명의 사람을 죽일 수 있다는 것은 상상하기 어려웠다. 그렇다면 인간의 오만이 재앙을 초래한 것이 분명하다.

26. 대중에게 비밀을 감추는 것은 국가만의 전유물이 아니었다. 중세와 마찬가지로 근대 초기 유럽에서도 각 직업에는 고유의 ‘기술 비밀’이 존재했다. 실제로 ‘비밀’을 뜻하는 단어 ‘미스터리’는 기술이나 직업을 의미하는 프랑스어 메티에métier와 관련이 있다. 특정 수공업 길드의 견습생들은 마치 비밀 결사에 입문하듯이 그들의 직업적 비밀을 전수받았으며, 실제로 프리메이슨은 석공 길드에서 시작된 비밀 결사다.

27. 탈진실 시대라는 주장보다 더 온건한 주장은 2019년에 발표된 두 명의 과학 철학자 케일린 오코너Cailin O’Connor와 제임스 오웬 웨더럴James Owen Weatherall의 연구에서 나왔다. 저자들은 “거짓말은 새로운 것이 아니지만 라디오, TV, 인터넷 등 정보를 유포하는 새로운 기술이 급증하고 우리를 오도하려는 사람들의 기술이 갈수록 정교해져 지난 세기 동안 허위 또는 오해를 일으키는 정보의 고의적 확산이 폭발적으로 증가했다”고 말했다. 미디어는 디스인포메이션, 즉 고의적인 허위 정보뿐만 아니라 무지 또는 부주의의 결과인 오보도 퍼뜨린다.

28. 현재 가짜 뉴스의 확산은 우려스러운 일이지만 진실에 대한 전망이 완전히 어둡지만은 않다. 은폐가 폭로로 이어지듯, 미디어에 떠도는 거짓말은 팩트 체크 기관의 웹사이트를 통해 정기적으로 폭로되고 있다. 이들 기관 중 상당수는 미국과 영국에서 활발히 활동한다. 스놉스닷컴(1994), 미국 학술 기관인 필라델피아의 아넨버그 커뮤니케이션 스쿨이 소유한 팩트체크(2003), 플로리다의 포인터 미디어 연구소가 소유하고 매년 ‘올해의 거짓말’을 폭로하는 것으로 유명한 폴리티팩트(2007), 사업가 마이클 사무엘Michael Samuel이 영국에서 만든 풀 팩트(2009), 엘리엇 히긴스의 벨링캣(2014), 언론인 데이브 반 잔트Dave Van Zandt가 만든 미디어 바이어스/팩트 체크(2015)가 대표적이다. 영어권 외에도 독일의 팍텐파인더Faktenfinder(2017), 이탈리아의 파겔라 폴리티카Pagella Politica(2013), 브라질의 아우스 파투스Aos Fatos(2015), 브라질 대통령 발표 뉴스에서 차가운 사실과 뜨거운 공기(거짓말)의 비율을 측정하는 일종의 온도계인 볼소노메트루Bolsonômetro도 있다.

29. 삶은 불확실성의 바다를 항해하는 것이다. 에드가 모랭Edgar Morin(프랑스 사회학자)

30. 가장 최근에 미래학에 합류한 이들은 철학 분야의 학자로, 닉 보스트롬Nick Bostrom과 토비 오드Toby Ord다. 이들은 2005년에 설립된 옥스퍼드대학교의 미래인류연구소에서 ‘실존적 위험’, 즉 인류가 멸종하거나 인류의 잠재력이 급격히 감소할 위험에 대해 연구하고 있다. 보스트롬과 오드는 투기적인 미래학을 신중한 예측으로 전환하려는 분석가들이다. 미래학자들이 중기, 즉 향후 수십 년 또는 최대 100년에 초점을 맞추면서 단기 예측과 장기 미래학 간의 격차가 줄어들고 있는 것으로 보인다. 예를 들어 오드는 지구에 충돌할 운석이나 슈퍼 화산 분출과 같은 자연적 위험을 논의하지만, 다섯 가지 주요 위협에 초점을 맞추고 있다. 핵무기, 기후 변화, 환경 파괴, 팬데믹(자연 발생적이든 인위적이든), 그리고 오드가 설명한 비정렬 인공지능unaligned artificial intelligence이 바로 그것이다. 비정렬 인공지능이란 현재는 인류의 하인 역할을 하지만, 인간의 의도에 맞지 않게 작동해 인간에게 해를 끼칠 수 있는 인공지능을 말한다. 인공지능, 즉 AI 시스템을 구축하는 회사 딥마인드의 설립자 셰인 레그Shane Legg는 이를 금세기 최고의 위험이라고 언급한 바 있다.

31. 현재의 트렌드를 바탕으로 미래를 예측하는 데는 한 가지 문제가 있다. 이는 주식시장의 주가처럼, 혹은 나심 탈레브가 예로 들었듯이 잘 길러진 칠면조들이 여느 때처럼 주인이 주는 먹이를 기대하다가 추수감사절 직전에 도살당하는 경우와 같이 때로 예측할 수 없는 급격한 반전이 일어난다는 것이다. 수십 년이 지난 뒤 미래학자들의 예측을 보면 이 같은 실패가 눈에 띈다. 위험에 대해 글을 쓰는 것 자체가 위험한 일이다.

32. 어리석은 사람들은 경험에서 배운다고 말하지만, 나는 다른 이의 경험을 통해 이익을 얻겠다. 비스마르크Bismarck(독일 제국 총리)

33. 유사성은 위험할 수 있다. 이는 과거 사례와 다른 현재 상황을 혼동할 수 있기 때문이다. 이러한 위험을 피하기 위해서는 비유사성을 신중하게 검토하는 것이 좋다. 그러나 유사성을 도출하지 않으려는 태도 또한 위험하다. 철학자 조지 산타야나George Santayana의 유명한 격언 “과거를 기억하지 못하는 사람은 과거를 되풀이할 운명에 처한다”는 말이 이를 잘 설명한다.