약 10년 전, 유발 하라리의 사피엔스를 읽고 깊은 생각에 빠졌던 기억이 있다. 그의 담론은 체계적이면서도 방대하여 정리하기 어려울 정도로 강렬했다. 사피엔스를 통해 나는 두 가지 주요한 메시지를 배웠다. 첫째, AI는 단순한 기술을 넘어 인간에게 실질적인 위협이 될 수 있는 존재로 자리 잡을 가능성이 있다. 둘째, 자본주의는 하나의 신념 체계로, 그것도 종교처럼 언제든 변할 수 있는 취약한 구조를 가지고 있다는 점이다. 역사적 사례를 통해 하라리는 “역사는 항상 우리를 따라온다”(History always catches up with you)는 경고를 전했다.
그 후 나는 하라리의 팬이 되어, 호모 데우스, 대담한 작전, 그리고 유튜브 인터뷰들을 통해 그의 사상을 깊이 탐구했다. 그의 담론 속에는 종말론적 비전과 인간 본성에 대한 근원적 불신이 담겨 있었다. 특히, 역사를 통해 보이는 인간의 진보와 동시에 반복되는 탐욕과 오판, 무지가 그의 주장에 설득력을 더했다.
정보의 시대, AI의 역할
하라리는 정보라는 개념을 재정의하며 정보의 양이 많다고 해서 반드시 좋지는 않다고 주장한다. 인간은 사실보다는 이야기를 이해하는 본능을 가지고 있으며, 이는 AI와 결합할 때 매우 위험한 결과를 초래할 수 있다. AI는 기존의 도구와 달리 의도를 가질 수 있고 의도가 없다 하더라도 의도를 주입받아 행동할 수 있다. 더 나아가 AI는 무한대의 정보를 생산하고 증폭시키는 데 능하다.
특히 현대 민주주의에서 대중 매체와 소셜미디어는 AI가 만들어낸 이야기를 확산시키는 주요 경로가 된다. 이는 정치적 선동과 여론 조작을 가능하게 하고, 알고리즘의 중립성에도 불구하고 의도를 가진 기업에 의해 악용될 가능성을 높인다. 예를 들어, 소셜미디어의 알고리즘은 사용자의 체류 시간을 늘리는 데 초점을 맞춘다. 이는 사람들에게 흥미를 끄는 동시에 초개인화된 자극적인 정보를 끊임없이 제공함으로써 결과적으로 사회적 분열을 심화시킨다.
한국 민주주의와 AI의 도전
최근 한국 사회를 보면, 극단적인 사고방식을 가진 사람들이 늘어나고 있다는 점에서 AI와 알고리즘의 영향력을 실감하게 된다. 이코노미스트 기사에서 묘사했듯, 한국은 ‘위험하게 분열된’(dangerously divided) 상태다. 하라리는 민주주의의 핵심으로 자정(自淨)과 견제 장치를 꼽았다. 선출된 리더가 마음에 들지 않는다면 다음 선거에서 교체할 수 있는 시스템이 민주주의를 유지하는 원동력이자 강점이라는 것이다.
선거 결과가 패배자에게 파국을 가져올 경우 선거 참여자들은 패배하지 않기 위해 수단과 방법을 가리지 않는다. 즉, ‘이야기’로 선동하고 승리하려고 한다. 이 과정에서 필연적으로 알고리즘이 활용된다.
하지만 이 자정 및 견제 장치가 약화되면 민주주의 자체가 위협받는다. 언론 장악(계엄령), 잘못된 신념에 기반한 선거 불신(베네수엘라 사태), 동조하는 사람들만을 국민으로 구분하는 태도 등이 그 예다. 한국에서는 이러한 현상이 현실로 나타나고 있다. 특히, 알고리즘과 AI가 생산한 잘못된 정보들에 의해 양 정당은 극단으로 치닫고, 선거는 이야기를 통해 상대를 선동하고 승리하려는 수단으로 변질되고 있다.
민주주의의 대안은 있는가?
물론 민주주의가 인류를 위한 유일한 답은 아니다. 하지만 독재나 다른 체제에 비해 인류를 번영시켰다는 점은 부정할 수 없다. 민주주의가 없는 세상을 상상한다면? 우리는 지금의 행복 대신 생존의 공포 속에서 하루를 살아갈 것이다.
어떤 이들은 문명화된 사회, 특히 미국에서는 이러한 일이 일어나기 어렵다고 주장한다. 그러나 하라리는 이를 단언할 수 없다고 답한다. 그의 말처럼, “역사는 항상 우리를 따라오니까.” 역사를 통해 우리가 배워야 할 점은, 민주주의도 결코 영원하지 않다는 사실이다.
AI와 민주주의의 미래
하라리는 이러한 문제를 해결하기 위해 AI의 윤리적 사용에 대한 글로벌 규제와 협력을 촉구한다. 이런 말을 하는 그마저도 협력이 일어날 거란 확신은 적어 보인다. 그가 어떤 인터뷰에서 말한 것처럼 본인이 비관주의를 견지할 수 밖에 없는 이유는 본인이라도 비관적이어야 조금이라도 경각심을 일깨울 수 있다는 믿음 때문일까?
결론
넥서스는 속도 내어 읽기 어려울 정도로 많은 사고와 논쟁을 불러일으킨다. 책을 덮은 후에도 내용이 잘 정리되지 않아 오랜 시간 소화하는 데 노력이 필요했다. 연휴 동안 깊은 성찰의 기회를 제공한 책. 지금도 연휴 중 내 생각의 꽤 많은 부분을 차지하고 있다. 뛰어난 역사학자만이 선사할 수 있는 감동. 여기에 언급하지 못한 주옥같은 문장들도 너무 많았었다. 아직 읽어 보지 않았다면 매우 추천!
같이 보면 좋을 동영상