총평
모든 책을 700페이지로 출판하기로 별도 계약한 건지, 항상 비슷한 두께의 책을 내는 유발 하라리. 사피엔스는 진짜 읽는 재미가 있었는데 넥서스는 그 정도는 아니었다. 700페이지 넘기는 속도가 상당히 더뎌지더라.
유발 하라리는 이런저런 현상을 이어붙여 재밌게 설명하는 이야기꾼이지, 새로운 개념을 창시하거나 자기 주장이 뾰족한 쪽은 아닌 듯. 이번 책은 시대의 석학들이 예견하는 AI시대 위험을 여기저기 떼와서 잘 기워 만든 ‘AI 공포 패키지’ 정도.
인상 깊은 부분 발췌
개인 간 감시 시스템은 보통 몇 가지 점수를 합산해 총점을 결정하는 방식으로 작동한다. 그런데 이런 ‘점수 논리’의 잠재력을 극대화하는 또 다른 유형의 감시 네트워크가 있다. 바로 사회신용 시스템으로, 한 사람의 모든 것을 점수로 매겨 개인 평점을 내고, 이 평점은 다시 그 사람의 모든 것에 영향을 미친다.
인간이 이런 야심 찬 점수 체계로서 가장 최근에 고안한 것이 5,000년 전 메소포타미아에서 발명된 화폐다. 어떻게 보면 사회신용 시스템은 새로운 종류의 화폐라고 할 수 있다. 화폐는 일종의 포인트로, 사람들은 특정 상품과 서비스를 판매해 포인트를 쌓은 다음 그 포인트로 다른 상품과 서비스를 구매한다. 어떤 국가들은 이 ‘포인트’를 달러라고 부르고, 또 어떤 국가들은 그것을 유로, 엔, 런민비스民幣(‘인민의 화폐’)라고 부른다.
포인트는 주화, 지폐, 또는 디지털 은행 계좌에 있는 비트의 형태를 취할 수 있다. 물론 포인트 자체는 아무런 가치가 없다. 당신은 주화를 먹거나 지폐를 착용할 수 없다. 포인트의 가치는 포인트가 사회에서 개인의 평점을 기록하고 관리하는 회계 수단으로 쓰인다는 데 있다.
화폐는 경제 관계, 사회 교류, 인간 심리를 근본적으로 바꾸었다. 하지만 감시와 마찬가지로 화폐도 나름의 한계가 있었으며 모든 곳에 도달할 수도 없었다. 가장 자본주의적인 사회에서도 화폐가 침투하지 못하는 곳이 항상 있었고 금전적 가치로 환산할 수 없는 것들도 많았다. 미소는 얼마일까? 조부모님을 뵙는 대가로 돈을 얼마나 받으면 될까?
돈을 해당 사회의 점수 체계로 보면 당연해 보이는 화폐 체계가 조금 새롭게 보인다.
돈이 많은 사람은 해당 사회 룰에 잘 적응한 고인물 만렙 캐릭터라 볼 수 있고. 돈 많은 사람에 대해 일단 색안경부터 끼고 보는 사회라면 일정 이상 점수를 얻으려면 정당치 않은 방법이 필요한(적어도 그렇게 의심해야 할) 사회라는 것. 화폐 간 환율은 각 국가 간 레벨 격차를 보여줄테고.
이런 식으로 친근한 개념을 이어 붙이거나 빗대면서 새롭게 볼 수 있게 해 주는 게 이야기 꾼으로서 유발 하라리 최대 장점.
모든 포유류와 조류의 새끼는 생애 첫 단계에 부모에게 의존하면서 부모의 보살핌을 갈구하고, 부모의 방임이나 적대감을 두려워한다. 생사는 풍전등화와 같다. 둥지에서 너무 일찍 밀려난 새끼는 굶어 죽거나 잡아먹히기 십상이다. 인간 세계에서도 부모에게 방치되거나 버림받는 것에 대한 두려움은 《백설공주》 《신데렐라》 《해리포터》와 같은 동화뿐만 아니라 매우 영향력 있는 민족 신화와 종교신화의 기본 틀을 이룬다.
《라마야나》는 결코 유일한 사례가 아니다. 기독교 신학에서 영원한 벌이란 어머니 교회와 하늘의 아버지와 연결해주는 모든 접촉을 잃는 것이다. 지옥은 사라진 부모를 찾아 울부짖는 길 잃은 아이와 같다.
이와 관련된 또 하나의 생물학적 드라마가 있다. 이 역시 인간의 아이와 포유류 및 조류의 새끼들이 잘 아는 것으로, ‘아빠는 너보다 나를 더 사랑해’다. 생물학자들과 유전학자들은 동기간 경쟁이 진화의 핵심 과정 중 하나라고 본다. 형제자매는 먹을 것과 부모의 관심을 두고 항상 경쟁하며, 일부 종의 경우 서로 죽이는 일도 흔하다.
형제자매 간 우애는 물론이고, 군대 동기 간 우애를 그렇게 강조하는 게. 역설적으로 동기간 경쟁이 진화 시스템에서 본능에 가깝게 발현되는 감정, 혹은 장치이기 때문 아닐까.
‘동기사랑 나라사랑’ 같은 뻔한 구호를 넘어, ‘동기는 지옥까지 함께간다’라는 훈련소 교육기간 동안 주입받은 이야기에 감화 된 내 옛 모습이 떠오른다.
물론 추후에는 진급을 놓고 동기간 경쟁도 하겠지만, 외부의 적을 막는 본래 목적을 고려하면 일단 협동 플레이가 선행되어야겠지.
브랜드는 특정 종류의 이야기다. 상품을 브랜딩한다는 것은 그 상품에 대한 이야기를 들려준다는 뜻이다. 이야기는 상품의 실제 품질과는 거의 관계가 없지만 소비자들은 그것을 듣고 해당 상품을 떠올린다.
예를 들어 코카콜라사는 수십 년 동안 코카콜라 음료에 대한 이야기를 반복적으로 들려주는 광고에 수백억 달러를 투자했다. 사람들은 그 이야기를 하도 많이 보고 들어서 특정 재료로 맛을 낸 물을 볼 때마다 재미나 행복, 젊음을 떠올리게 되었다(충치, 비만, 플라스틱 쓰레기가 아니라). 이것이 브랜딩이다.
스탈린이 잘 알았듯이 상품만이 아니라 개인도 브랜딩할 수 있다. 부패한 억만장자에게 가난한 사람들의 대변자 이미지를, 무능한 바보에게 실수 없는 천재 이미지를, 추종자들을 성추행하는 영적 지도자에게 순결한 성인의 이미지를 씌울 수도 있다.
사람들은 자신이 특정인과 연결된다고 생각하지만 실제로는 그 사람에 대한 이야기와 연결되는 것이고, 이야기와 실제 인물 사이에는 대개 거대한 간극이 존재한다.
심지어 비둘기 영웅 셰르 아미의 이야기조차 어느 정도는 미국 육군 비둘기 부대에 대한 대중적 이미지를 개선하기 위한 브랜딩 작업의 산물이었다.
세뇌라 해도 좋다. 아니, 브랜드 담당자들이 할 수만 있다면 그 방법으로 목적을 달성하고 싶을 거다. 브랜드는 이야기다. 더 정확히 말하면 고객이 해당 브랜드를 보고 떠올리는 이야기다.
스스로 새로운 아이디어를 구상할 수 있는 역사상 최초의 기술임을 우리 모두 명심해야 한다. 이제껏 인간이 만든 발명품들이 인간에게 힘을 실어준 이유는 새로운 도구가 아무리 강력해도 그것을 어디에 쓸지 결정하는 것은 항상 우리 몫이었기 때문이다.
칼과 폭탄은 누구를 죽일지 스스로 결정하지 않는다. 그것들은 정보를 처리하고 독립적인 결정을 내리는 데 필요한 지능을 갖추지 못한 바보 도구일 뿐이다. 반면 AI는 스스로 정보를 처리할 수 있고 따라서 인간을 대신하여 결정을 내릴 수 있다. AI는 도구가 아니라 행위자다.
또한 AI는 정보를 자유자재로 활용하여 스스로 음악부터 의료에 이르는 다양한 분야에서 새로운 아이디어를 생성할 수 있다. 축음기는 음악을 재생했고 현미경은 세포의 비밀을 보여주었지만, 축음기가 새로운 교향곡을 작곡하거나 현미경이 신약을 합성할 수는 없었다. AI는 이미 스스로 예술을 창조하고 과학적 발견을 할 수 있다.
그리고 앞으로 몇십 년 내에 AI는 유전 코드를 작성하거나 아니면 비유기적 존재를 살아 움직이게 하는 비유기적 코드를 작성함으로써 새로운 생명 형태를 창조할 수 있을 것이다. AI 혁명의 초기 단계인 지금 이 순간에도 컴퓨터는 이미 우리에게를 직장에 고용할지, 교도소에 보낼지와 같은 대출을 해죽지 우리를 직정
유발 하라리가 도매로 떼온 AI에 대한 공포는 이미 지금은 싱싱하지 않다. 2018년에 집필을 시작했다니 시점의 한계도 있었을 것.
‘AI는 여지껏 인간이 사용하던 도구와 다르다, AI는 자체적인 판단을 한다는 차원에서 도구를 넘어 행위자다.’라는 게 요지인데. 원래 1차 산업혁명의 증기기관부터 4차 산업혁명인 AI까지 도구의 차원이 달라지기 때문에 각 단계별 차수를 나눈 혁명인 거다.
1차 산업혁명은 증기기관을 통한 물리적 힘의 증대, 2차 전기혁명은 물리적 힘을 어디써나 쓸 수 있는 유연성의 증대, 3차 정보혁명은 지식/정보력의 증대, 4차 AI 혁명은 지식/정보력 적용 범위의 증대다.
증기기관을 잘못 설계하면 기관이 터지고, 전기 잘 못 만지면 감전되고, 컴퓨터 오류로 대형사고 나고. 이미 숱하게 보아 온 힘의 대가다. AI 또한 구도는 다르지 않을 것.
스파이더맨 대사를 빗대자면 ‘큰 힘을 가진 도구에는 큰 책임이 따른다’
또한 유발 하라리는 AI를 어느날 외계에서 날아와 어떤 근거로 판단하는지 알 수 없는 생명체처럼 표현하나. 실은 인간이 쌓아놓은 로직 위에 서 있는게 AI다.
AI 관련 논의를 끝으로 극한까지 몰고가면, 극도의 생산성 향상과 합리적인 사회 체계를 가진 천국과 터미네이터가 출현하는 디스토피아 양쪽 중 어디냐가 될텐데. 현 시점에선 각 진영 주장이 평행선을 그을 뿐이겠지.
그 과정에서 유발 하라리 같은 지식 장사꾼 들도 많이 등장할 것.