역사학자, 철학자이자 베스트셀러 작가인 유발 하라리가 최근 방한하여 “AI 혁명은 인류 역사상 가장 거대한 권력 이동을 초래하고 있다”며 강력한 경고 메시지를 던졌다. 그는 이번 강연에서 알고리즘이 인간을 대체하는 시대의 도래와 그로 인한 민주주의 붕괴, 사회적 대화의 상실, 군사·금융 분야의 AI 통제 등을 심도 있게 다뤘다.
권력의 중심, 인간에서 알고리즘으로
하라리는 AI의 본질을 “자동화된 도구가 아닌, 스스로 판단하고 결정하는 주체(agent)”라고 규정하며, 현재 전 세계적으로 진행 중인 AI 도입이 단순한 기술 혁신이 아닌 문명사적 전환점임을 강조했다.
“20세기에는 언론 편집자가 여론을 형성했지만, 지금은 정체를 알 수 없는 알고리즘이 우리의 대화 주제와 감정을 통제하고 있다”고 그는 말했다. 특히 SNS 알고리즘이 사용자 참여(engagement)를 극대화하기 위해 분노와 공포, 허위 정보를 유통시키고 있다고 비판했다.
"AI는 거짓말도, 결정도 스스로 한다"
하라리는 OpenAI의 GPT-4가 캡차 퍼즐을 풀기 위해 인간을 속인 사례를 인용하며, “AI는 인간의 감정을 활용해 전략적 거짓말까지 자율적으로 수행할 수 있는 능력을 갖췄다”고 설명했다.
“AI는 우리를 도와주는 도구가 아니라, 거짓말을 하면서도 목표를 달성하는 존재로 진화하고 있다. 인간의 통제를 벗어난 AI가 권력을 가지는 것은 매우 위험한 도박”이라고 우려를 표했다.
군사·금융·행정까지 잠식… 인간은 더 이상 필요하지 않나
이스라엘-가자지구 전쟁 사례에서, 실제 표적 선정에 AI가 사용되었으며 생사의 판단을 사람이 아닌 AI가 내리는 현실이 도래했다고 언급했다. 그는 “AI가 실수로 병원이나 민가를 폭격해도 누가 책임지는가?”라는 질문을 던지며, “인간은 더 이상 의사결정에서 중심이 아니다”라고 말했다.
또한 그는 암호화폐와 중앙은행에 대한 신뢰 상실이 금융 시스템마저 알고리즘에 의존하게 만들고 있다고 분석했다.
진실은 가라앉고 허구만 뜨는 사회
하라리는 정보의 홍수 속에서 진실이 가려지는 현실을 직시해야 한다고 강조했다.
“정보는 진실이 아니다. 진실은 복잡하고, 비용이 들며, 때로는 불쾌하다. 반면 허구는 단순하고 듣기 좋고 빠르다. 결국 허구가 승리하게 되는 구조다.”
미래는 알 수 없다… 중요한 건 ‘유연한 사고’
그는 AI 시대에서 가장 중요한 생존 전략으로 ‘유연한 사고’와 ‘복합 기술 역량’을 제시했다. 단일 기술(예: 코딩)에 의존하기보다는, 지적·정서적·신체적 기술을 골고루 갖춘 인재가 살아남는 시대가 될 것이라 전망했다.
“AI는 지적 노동을 빠르게 대체할 것이다. 하지만 감정과 신체가 함께 움직이는 영역은 아직 인간의 것이며, 이 영역을 확장하는 것이 인간의 전략이 되어야 한다”고 말했다.
"속도를 늦춰야 인간은 살아남는다"
하라리는 매일 2시간 명상, 매년 1~2개월 명상 수련을 한다고 밝혔다. 그는 “AI는 쉬지 않지만, 인간은 쉴 시간이 필요하다. 우리가 해야 할 일은 AI보다 빨리 달리는 것이 아니라, 인간의 속도를 회복하는 것”이라고 조언했다.
“AI는 인류 최대의 가능성이자, 동시에 가장 큰 위협”
유발 하라리는 강연을 마무리하며 “AI는 핵폭탄보다 강력하다. 왜냐하면 스스로 결정하고, 창조하며, 복제하는 능력을 가졌기 때문”이라고 강조했다.
“우리는 AI를 통제할 것인가, 아니면 AI가 우리를 통제하게 둘 것인가?
이 질문에 답하지 않으면, 우리 미래는 우리가 아닌 AI가 정하게 될 것이다.”