넥서스

 

 

비인간 지능의 위협과 우리의 미래에 대한 경고
“AI는 우리 종의 역사뿐만 아니라
모든 생명체의 진화 경로를 바꿀지도 모른다.”

 

 

글로벌 베스트셀러 《사피엔스》 《호모 데우스》 《21세기를 위한 21가지 제언》으로 우리 시대 가장 중요한 사상가의 반열에 오른 유발 하라리 교수가 압도적 통찰로 AI 혁명의 의미와 본질을 꿰뚫어 보고 인류에게 남은 기회를 냉철하게 성찰하는 신작으로 돌아왔다. 생태적 붕괴와 국제정치적 긴장에 이어 친구인지 적인지 모를 AI 혁명까지, 인간 본성의 어떤 부분이 우리를 자기 파괴의 길로 내모는 것일까? AI는 이전 정보 기술과 무엇이 다르고, 왜 위험할까? 멸종을 향해 달려가는 가장 영리한 동물, 우리 사피엔스는 생존과 번영의 길을 찾을 수 있을까?
상아탑 속 자신의 방에만 안주하지 않고 정치학, 종교학, 매체학, 진화생물학, 컴퓨터과학 등 다양한 학제 간 지식을 습득해온 하라리 교수의 독창적인 역사적 시각과 스토리텔링은 인류를 위한 중요한 선택의 순간에 빛을 발한다. 《사피엔스》 《호모 데우스》에서 펼쳤던 그의 논지가 ‘정보’를 중심으로 통합되어 더 정교하게 실체를 드러내는 《넥서스》에서 우리는 하라리 교수의 도저한 ‘현실주의’적 해법을 만난다. 비인간 지능이 우리의 존재를 위협하는 현재, 우리는 실수할 여유가 없다.

 

728x90

정보는 진실과 딱히 관련이 없으며, 정보가 역사에서 하는 역할은 실존하는 현실을 그대로 재현하는 것이 아니다. 오히려 정보가 하는 일은 별개의 것들을 하나로 묶어서 연인이든 제국이든 새로운 현실을 만들어내는 것이다. 정보의 결정적인 특징은 재현이 아니라 연결이며, 따라서 정보란 서로 다른 지점들을 네트워크로 연결하는 무언가다. 정보가 꼭 어떤 것들에 대해 무언가를 알릴 필요는 없다. 오히려 정보는 서로 다른 것들을 무언가로 묶는 역할을 한다. 별자리 운세는 연인을 별점으로 묶고, 선전 방송은 유권자를 정치적으로 묶고, 군가는 병사들을 군사 대형으로 묶는다.
_1. 정보란 무엇인가?, 49~50쪽

인쇄술과 마녀사냥의 역사에서 알 수 있듯이, 정보 시장의 규제를 없앤다고 해서 사람들이 스스로의 오류를 찾아내 바로잡는다는 보장은 없다. 자유로운 정보 시장에서는 진실보다 분노가 우세할 가능성이 높기 때문이다. 진실이 승리하려면, 균형추를 ‘팩트’ 쪽으로 기울일 수 있는 힘을 가진 큐레이션 기관을 설치해야 한다. 하지만 가톨릭교회의 역사에서 보았듯이, 그런 기관은 큐레이션 권한을 이용해 자신에 대한 비판을 틀어막을 가능성이 있다. 즉 다른 의견은 무조건 잘못된 것으로 낙인찍고 기관의 오류가 드러나 수정될 기회를 차단할지도 모른다. 주어진 권한을 더 많은 권한을 갖기 위해 사용하지 않고 진실 추구에 사용하는 더 나은 큐레이션 기관을 만드는 것이 가능할까
_4. 오류: 무오류성이라는 환상, 168쪽

현대 정보 기술이 전체주의 체제에서는 정보 흐름을 중앙에 집중시키고 질서 유지를 위해 진실을 억누르는 데 사용된다. 결과적으로, 전체주의 네트워크는 정보 동맥이 경화될 위험과 싸워야 한다. 점점 더 많은 정보가 한 곳으로만 흐르면 효율적인 통제가 가능해질까, 아니면 동맥이 막혀 결국 심장마비가 일어날까? 반면 민주주의 체제에서는 현대 정보 기술이 정보 흐름을 더 많은 기관과 개인에게로 분산하고 자유로운 진실 추구를 장려하는 데 사용된다. 결과적으로, 민주주의 네트워크는 붕괴 위험과 싸워야 한다. 이런 네트워크를 점점 더 많은 행성이 점점 더 빠르게 회전하는 태양계라고 생각해보라. 그래도 중심은 버틸 수 있을까, 아니면 모든 것이 붕괴되어 무정부 상태가 될까?
_5. 결정: 민주주의와 전체주의의 간략한 역사, 126~127쪽

알고리즘의 정치적 영향력에 대해서는 더 많은 논의가 필요하다. 무엇보다도 많은 독자들은 알고리즘이 독립적인 결정을 내린다는 주장에 동의하지 않을 것이고, 알고리즘이 한 모든 일은 인간 개발자가 작성한 코드와 인간 경영진이 채택한 사업 모델의 결과물이라고 주장할지도 모른다. 이 책의 입장은 다르다. 인간 병사들은 자신들의 유전 코드와 상사의 명령을 따르지만 그럼에도 여전히 독립적인 결정을 할 수 있다. AI 알고리즘도 마찬가지임을 이해하는 것이 중요하다. 알고리즘도 인간 개발자가 프로그래밍하지 않은 것을 스스로 학습할 수 있고 인간 경영진이 예측하지 못한 결정을 내릴 수 있다. 수많은 새로운 주체들이 세상에 등장하여 강력한 영향력을 행사하고 있다는 것, 이것이 AI 혁명의 본질이다.
_6. 새로운 구성원: 컴퓨터는 인쇄술과 어떻게 다른가?, 194~195쪽

유해한 영향이 드러나면서 거대 기술 기업들은 지금 벌어지고 있는 일에 대해 여러 차례 경고를 받았지만, 그들은 정보에 대한 순진한 관점을 믿기 때문에 개입하지 않았다. 플랫폼에 허위 사실과 분노가 넘쳐나는데도 경영진은 더 많은 사람들이 더 자유롭게 자신을 표현할 수 있다면 결국 진실이 승리할 것이라고 기대했다. 하지만 그런 일은 일어나지 않았다. 우리가 그동안의 역사에서 숱하게 보았듯이, 모든 정보가 여과 없이 흐르도록 내버려두면 진실이 지는 경향이 있다. 저울을 진실 쪽으로 기울이려면, 정보 네트워크가 진실을 말하는 사람에게 보상을 제공하는 강력한 자정 장치를 개발하고 유지해야 한다. 이런 자정 장치는 비용이 많이 들지만, 진실을 얻고 싶다면 반드시 그것에 투자해야 한다.
_8. 오류 가능성: 네트워크는 자주 틀린다, 378~379쪽

하지만 우리에게는 이보다 많은 선택지가 있을 것이다. 앞으로 사람들이 어떤 결정을 내릴지 예측할 수는 없지만, 나는 역사학자로서 변화 가능성을 믿는다. 역사의 중요한 교훈 중 하나는 우리가 자연스럽고 영원하다고 생각하는 많은 것들이 사실은 인간이 만들었으며 바뀔 수 있다는 것이다. 하지만 분쟁이 불가피한 것이 아니라고 해서 안주해서는 안 된다. 오히려 그 반대다. 선택을 잘해야 할 막중한 책임이 우리에게 있기 때문이다. 이는 인류 문명이 분쟁으로 소멸한다면 그것은 어떤 자연법칙이나 낯선 기술 탓이 아니라는 뜻이다. 하지만 반대로 생각하면 우리가 노력할 경우 더 나은 세계를 만들 수 있다는 뜻이기도 하다. 이런 관점은 순진한 것이 아니라 현실주의다. 모든 오래된 것은 한때 새로운 것이었다. 역사의 유일한 상수는 변화다.
_11. 실리콘 장막: 세계 제국인가, 세계 분열인가?, 366쪽

 

 

작은도서관

 

넥서스 | 유발 하라리 - 교보문고

 

작은이야기_INTEGER