[유발 하라리/김명주 역] 넥서스(2024)

 

역시 유발 하라리 교수님이네요. <사피엔스>(2011)에서 인류 역사에서 '이야기'를 만들고 공유한 것이 인류의 성공 원동력이라는 점을 일깨워주고, <호모 데우스>(2015)에서 생명과학과 알고리즘의 발전으로 데이터가 종교(Dataism)가 되면서 인간의 지위가 데이터 개미로 전락할 수 있다는 우려를 던졌죠.

<넥서스>(2024)는 앞부분에서 인류가 경험한 정보화 혁명의 역사(말과 수메르 점토판 쐐기문자부터 인쇄술과 전신, 인터넷까지)를 간략히 보여줍니다.

그리고, 호모 데우스 출간 이후에 빠르게 발전하고 있는 AI혁명이 지금까지의 정보화혁명 도구들과 달리 인간이라는 매개체 없이도 스스로 정보를 창조한다는 점을 강조하면서, AI기술이 더 발전할 경우 민주주의국가와 전체주의국가의 미래가 어떻게 될지, 우리는 혹시 올 수 있는 파국적 종말을 막기 위해 어떤 대비를 해야할 것인지를 친절하게 설명해줍니다.

중세 십자군 전쟁사를 전공한 역사학자가 AI혁명의 역사적 관점에 대해 이야기하는 책이지만, 저는 가급적 많은 시민들이 읽어봤으면 좋겠다 싶네요.

----------------------

50쪽

정보의 결정적인 특징은 재현이 아니라 연결이며, 따라서 정보란 서로 다른 지점들을 네트워크로 연결하는 무언가다. 정보가 꼭 어떤 것들에 대해 무언가를 알릴 필요는 없다. 오히려 정보는 서로 다른 무언가로 묶는 역할을 한다. 별자리 운세는 연인을 별점으로 묶고, 선전 방송은 유권자를 정치적으로 묶고, 군가는 병사들을 군사 대형으로 묶는다.

74쪽

다행히도 역사는 상호주관적인 이야기들을 통해 형성되기 때문에 때로는 대화를 통해 각 측이 믿는 이야기를 바꾸거나 쌍방이 받아들일 수 있는 새로운 이야기를 만들어냄으로써 분쟁을 피하고 평화를 지킬 수 있다.

186쪽

가톨릭교회와 소련공산당 같은 기관들이 강력한 자정 장치를 마련하지 않은 데는 그만한 이유가 있다. 자정 장치는 진실 추구에 필수적이지만 질서 유지 측면에서는 손해이기 때문이다. 강력한 자정 장치는 의구심, 논쟁, 갈등, 분열을 일으키고 사회질서를 유지하는 신화의 힘을 약화하는 경향이 있다.

294쪽

우리는 미래에 대한 통제력을 잃을 위험에 놓여 있다. 이질적인 지능의 결정과 목표를 따르는 완전히 새로운 종류의 정보 네트워크가 등장하고 있다. 하지만 우리는 서서히 가장자리로 밀려날 수 있으며, 궁극적으로 네트워크는 우리가 없어도 스스로 작동할 수 있을지도 모른다.

325쪽

우리가 실제로 화폐 거래가 지배하는 경제에서 정보 거래가 지배하는 경제로 이동하고 있다면 국가들은 어떻게 대응해야 할까? 중국의 사회신용시스템은 국가가 새로운 상황에 적응할 수 있는 한 가지 방법이다. (중략) 사회신용 시스템은 본질적으로 새로운 종류의 돈이다. 즉 정보 기반 화폐이다.

469쪽

불가해하고 이질적인 지능의 등장은 민주주의 근본을 흔든다. 만일 인간의 삶에 대한 더 많은 결정이 블랙박스 안에서 이루어져 유권자들은 그 결정을 이해할 수도 이의를 제기할 수도 없다면 민주주의는 작동하지 않을 것이다.
(중략)
여론을 조작하는 봇과 이해할 수 없는 알고리즘이 공론장을 지배하게 되면, 민주적 토론이 가장 필요한 시점에 토론이 불가능해질 수 있다.