[책] 넥서스

유발하라리, 넥서스, 김영사, 구글전자책, 2024.10.11

AI를 빼면 정치체제에 관한 내용이고 다른 유사 서적들과 내용이 같다. 정치사에 AI를 넣고 미래를 조망하는 글이라고 이해하면 쉽다. 그래서 알고 있던 지식에서 증기기관이나 방적기 대신 ai를 집어 넣으면 앞으로 AI의 사용과 개발에 대한 방향성을 쉽고 설명할 수 있다. 

인쇄기가 발달하고 성경이 보급될 때 마녀사냥이 심각해졌다. 정보를 어떻게 사용하고 확산하는지를 고민하지 않았기 때문에 잘못된 정보가 수십년간 유럽을 망쳐놓게 됨. 이런 맥락을 볼 때 AI라는 도구를 어떻게 사용하냐에 따라서 인류(호모 사피엔스)의 미래가 달렸다고 볼 수 있다. 크게는 두 진영 미국과 중국의 AI 개발이 활발한데 중국은 국가 통제용으로 사용하고 있다. 하지만 중국의 내수인구와 저가 공세로 더 많은 빅데이타를 수집하고 정교해지면 미국과 반대진영에서는 사용할 수 밖에 없다. 
궁극적으로 AI는 인간을 위해서 사용되어야 하지만 현재까지는 초기의 마녀에 관한 정보가 퍼져나갈 때 처럼 오류에 대한 문제점 인식과 반성은 없이 무분별하게 확장되고 있다. 
또 AI로 인한 이익을 어떻게 나눌까에 대한 고민이 필요하다. (이 지점을 이재명대통령은 국가가 AI산업에 투자하고 수익을 국민에게 되돌린다고 말함. 신안의 태양광수익 지역 회수 모델하고도 유사함) 기술적 이익이 국민을 위해서 사용되는 도구가 되어야지 중국처럼 국민을 통제하는 도구로 사용되어서는 안된다.

핵무기를 통제했던 것처럼 AI도 범지구적 논의가 필요한 단계가 왔다. AI와 로봇이 발달하면서 인간의 일자리는 줄어들고 새로운 곳에 배치를 해야하는데, 재교육에는 비용이 많이 든다. 전통적인 산업구조에서 다음 단계로 넘어가는 중인데, 격차를 줄이기 위해서는 골고루 투자가 이뤄져야한다. 결국 비용은 우리 모두가 부담하게 되기 때문이다.

 

-아래는 본문에서 발췌-

점성술 정보가 정확한가에 대한 논쟁과는 별개로, 우리는 점성술이 역사에서 중요한 역할을 했다는 사실을 인정해야 한다. 
우리 사피엔스가 세상을 지배하는 것은 우리가 지혜로워서가 아니라 대규모로 유연하게 협력할 수 있는 유일한 동물이기 때문이다. 
정체성은 끊임없이 재해석되고 수정되는 민족적, 종교적 신화들을 통해 형성된다. 
문서가 많은 사회적 사슬을 잇는 중요한 연결 고리가 되면서 문서에 상당한 힘이 부여되었고, 문서의 난해한 논리를 다루는 전문가들이 새로운 권력층으로 떠올랐다. 
책 밖의 세상은 계속 돌아갔기에 새로운 상황에 오래된 규칙을 적용할 방법이 분명하지 않았고 이는 또 다른 문제들을 낳았다. 
인쇄술의 등장이 유럽의 마녀사냥 광풍을 초래했다고 주장한다면 과장이겠지만, 인쇄술은 사탄 음모론을 빠르게 확산시키는 데 중추적 역할을 했다.
정보시장의 규제를 없앤다고 해서 사람들이 스스로의 오류를 찾아내 바로잡는다는 보장은 없다. 
과학 기관은 기기관 자체의 오류를 찾아내 고치는 강력한 자정 장치를 토애로 권위를 얻었다. 과학혁명의 원동력은 인쇄술이 아니라 바로 이런 자정 장치였다. 
자정 장치를 마련하지 않은 데는 기만한 이유가 있다. 자정 장치는 진실 추구에 필수적이지만 질서 유지 측면에서는 손해이기 때문이다. 
민주주의의 또 다른 중요한 특징은 모든 사람이 오류를 범할 수 있다고 가정하는 것이다. 
모든 국가는 국민들이 죽이고 죽임을 당할 수 있는 전쟁을 선포할 특권을 부여받는다.
선거는 오히려 사람들의 상충하는 욕구를 조정하여 질서를 유지하는 방법이다. 
선거는 진실이 무엇인지가 아니라 국민의 다수가 우너하는 것이 무엇인지 확인하는 절차다.
포퓰리스트들은 권력이 유일한 현실이라고 확신하기 때문에, 법원이나 언론 매체, 또는 어떤 학문 분야가 진실이나 정의와 같은 가치를 지키기 위해 스스로 오류를 바로 잡는다는 사실을 받아들이지 못한다. 
현대 정보 기술이 등장하기 전에는 어디서도 대규모 민주주의가 실행된 예가 없다. 
대중매체의 등장이 대규모 민주주의로 이어졌다고 단정해서는 안된다. 대중매체는 대규모 민주주의를 가능하게 만들었을 뿐 필연으로 만들지 않았다. 대중매체는 다른 유형의 정치체제도 가능하게 만들었다. 
기술 자체가 미래를 결정하는 경우는 별로 없다는 것이다. 기술 결정론에 대한 믿음은 위험하다. 모든 책임을 기술에 전가함으로써 인간은 책임을 면하기 때문이다. 
정보는 대개 진실을 드러내기보다는 질서를 유지하는데 쓰인다. 
컴퓨터의 문제는 특별히 사악하다는 것이 아니라 특별히 강력하다는 데 있다는 것이었다. 
수만 년 동안 인간이 행성 지구를 지배할 수 있었던 것은 우리가 기업, 화폐, 신, 국가 같은 상호주관적 현실을 창조하고 유지할 수 있고 그러한 현실을 이용해 대규모 협력을 조직할 수 있는 유일한 존재였기 때문이다. 이제 컴퓨터도 비슷한 능력을 획득할지 모른다. 
20세기 고용 시장의 가장 크고 성공적인 변화 중 하나는 기술 발명에서 비롯된 것이 아니라, 인류의 절반이 가지고 있던 미개발된 잠재력을 해방함으로써 이루어졌다.
AI 발전이 인류의 존재 자체를 위협한다면 그것은 컴퓨터가 악의적이라서가 아니라 우리가 완벽하지 않기 때문이다. 
새로운 제국주의 정보 경제에서는 전 세계에서 수집된 원자재가 제국의 허브로 흘러갈 것이다. 그리고 이 허브에서 최첨단 기술을 개발해 고양이를 식별하고, 패션 트렌드를 예측하고, 자율 주행차를 운행하고, 질병을 진단하는 천하무적의 알고리즘들을 생산할 것이다. 이런 알고리즘들은 다시 데이터 식민지에 수출될 것이다. 이집트와 말레이시아의 데이터 덕분에 샌프란시스코나 베이징의 기업은 부자가 되지만, 카이로와 쿠알라룸푸르의 시민들은 여전히 가난할 것이다. 이윤도 권력도 그곳으로는 분배되지 않기 때문이다. 
21세기에는 섬유 산업의 가장 중요한 자산이 면화나 기계가 아니라 정보다. 의류 생산 업체가 경쟁 업체를 이기려면 소비자의 기호에 대한 정보와 다음 유행을 예측하고 패션 트렌드를 만들어내는 능력이 필요하다.
AI 기반 경제에서는 디지털 선두 주자들이 대부분의 이익을 가져가는 데다, 그 부로 자국의 노동력을 재교육하여 훨씬 더 많은 이익을 낸다.
전쟁의 강도를 결정하는 것은 불변하는 인간 본성이 아니라, 변화하는 기술적, 경제적, 문화적 요인이다.