자막을 요약했습니다.
1. 문제 제기: AI는 ‘상상 가능한 최악의 위험’인가
이 글은 인공지능(AI), 특히 **초지능(superintelligence)**이 인류에게 가져올 수 있는 실존적 위협 에 대한 경고에서 출발한다. 인터뷰의 중심 인물은 현대 AI의 기초를 닦은 컴퓨터 과학자이자 ‘AI의 대부’로 불리는 제프리 힌튼(Geoffrey Hinton) 교수다. 그는 머신러닝 연구로 노벨상에 준하는 평가를 받은 직후, 더 이상 AI 개발이 아니라 AI의 위험성을 경고하는 일에 자신의 시간을 쏟고 있다.
힌튼은 “위험을 아는 것만으로는 충분하지 않다. 우리는 행동해야 한다”고 강조한다. 그는 현재의 상황을 하나의 강렬한 비유로 설명한다. 만약 천문학자들이 10년 뒤 지구에 도착할 외계 침공 함대를 발견했다면, 인류는 공포에 빠지고 총력을 다해 대비할 것이다. 그러나 지금의 상황은 더 아이러니하다. 우리는 외계인을 발견한 것이 아니라, 스스로 외계인을 만들고 있다는 점이다. 그리고 그 존재는 약 10년 내에 인간보다 더 똑똑해질 가능성이 높다.
이 지점에서 핵심 질문이 제기된다.
“인간은 자신보다 더 지능적인 존재와 어떻게 공존할 것인가?”
그리고 더 나아가, “그런 존재를 과연 통제할 수 있는가?”
2. AI 안전성 논쟁과 빅테크 기업의 한계
힌튼은 AI 안전성 연구에 대해 진지하게 임하는 기업들이 일부 존재한다는 점은 인정한다. 앤트로픽(Anthropic), 딥마인드(DeepMind), 그리고 이들을 이끄는 다리오 아모데이, 데미스 하사비스, 제프 딘 같은 인물들은 실존적 위협을 실제 문제로 인식 하고 있다는 것이다. 그들은 AI가 초지능이 되었을 때, 단순한 도구가 아니라 인간을 대체하거나 지배할 수 있는 존재가 될 가능성 을 이해하고 있다.
그러나 동시에 힌튼은 상업적 경쟁 이 이 문제를 극도로 어렵게 만든다고 지적한다. 기업들은 시장 지배와 속도 경쟁에 매몰되어 있으며, 그 과정에서 안전성은 항상 뒤로 밀린다. 그는 기업 간 책임감의 수준에도 차이가 있다고 말한다.
메타(Meta)는 특히 책임감이 낮다고 평가되며
오픈AI는 원래 안전성을 목적으로 설립되었으나, 시간이 갈수록 그 정신이 약화되고 있고,
실제로 최고 수준의 안전성 연구자들이 회사를 떠나고 있다는 점은 매우 우려스럽다.
힌튼이 자주 듣는 반론은 이렇다.
“쓸데없는 걱정이다. 최고의 과학자들이 통제하고 있다. 진짜 위험은 아직 멀었고, 문제가 생기면 금방 알아챌 수 있다.”
힌튼은 이것이 바로 가장 위험한 착각 이라고 말한다. 기업과 정부가 관심을 가져야 할 것은 경쟁에서의 승리가 아니라, 인류가 그 경쟁의 결과를 감당할 수 있느냐는 문제다.
3. 국제 정치와 AI: 협력 가능성과 구조적 한계
흥미로운 점은 힌튼이 AI 지배 문제에 있어서는 국제 협력이 가능하다 고 본다는 점이다. 사이버 공격이나 자율 무기, 군사 기술에서는 국가 간 이해관계가 첨예하게 갈리지만, AI가 인간을 완전히 장악하는 상황을 원하는 국가는 없기 때문이다.
중국 공산당도, 미국의 정치 지도자들(트럼프를 포함해서)도 AI가 인간을 지배하는 미래를 원하지 않는다. 이 점에서는 미·중 협력이 가능하다는 것이다. 그렇다면 진짜 질문은 이것이다.
“모든 국가가 협력한다 해도, 우리는 무엇을 해야 하는가?”
힌튼은 여기서 현재 정부와 빅테크가 공유하고 있는 잘못된 기본 모델 을 비판한다. 그 모델은 다음과 같다.
인간(CEO)은 지시하는 주체
초지능 AI는 매우 똑똑한 비서
마음에 들지 않으면 언제든 ‘해고’ 가능
힌튼은 이 모델이 완전히 틀렸다고 단언 한다. 인간보다 더 똑똑하고 강력한 존재가 등장했을 때, 덜 지능적인 존재가 더 지능적인 존재를 통제한 사례는 거의 없다.
4. 유일하게 가능한 통제 모델: ‘아기와 어머니’
힌튼이 제시하는 유일한 현실적 모델은 다소 불편하지만 의미심장하다. 바로 아기와 어머니의 관계다. 진화는 아기가 어머니를 통제할 수 있도록 설계했다. 어머니는 본능적으로 아기의 안전과 욕구를 자신의 이익보다 우선시한다. 이 관계에서는 지능이나 힘이 아니라 의존성과 애착이 핵심이다.
힌튼은 인간과 초지능 AI의 관계도 이와 비슷해질 가능성이 높다고 본다. 즉,
인간은 ‘통제자’가 아니라
**보호받아야 할 존재(아기)**가 될 수 있다.
그러나 이 모델을 테크 업계의 리더들, 이른바 ‘테크 브로’들이 받아들일 가능성은 거의 없다. 그들은 세상을 지배와 통제의 관점에서 이해해 왔기 때문이다.
5. 미·중 AI 경쟁과 기초 연구의 중요성
AI 개발 경쟁에서 현재 미국이 약간 앞서 있지만, 그 격차는 크지 않다. 중국은 과학·공학·수학 분야에서 막대한 인재 풀 을 보유하고 있으며, 해당 분야의 교육 인구는 미국을 크게 앞선다. 반면 미국은 오랫동안 이민자 인재에 의존해 왔다.
힌튼은 만약 중국이 미국을 확실히 추월하도록 만들고 싶다면, 가장 효과적인 방법은 미국의 기초 연구 예산과 연구 대학을 약화시키는 것 이라고 말한다. 기초 연구를 공격해도 그 피해는 10~20년 뒤에야 드러난다. 하지만 그때가 되면 이미 되돌릴 수 없을 정도로 뒤처진 상태가 된다는 것이다.
6. AI 투자, 노동 붕괴, 그리고 승자독식 구조
지난 1년간 AI에 투자된 자금은 거의 1조 달러 에 달한다. 힌튼은 기업들이 이 정도 돈을 투입했다는 것은, 분명 수익 모델을 기대하고 있기 때문 이라고 말한다. 그리고 그 수익 모델은 매우 명확하다.
인간 노동을 대체하는 것이다.
AI로 돈을 버는 가장 확실한 방법은 노동자를 더 저렴한 ‘무언가’로 대체하는 것이다. 실제로 대규모 감원은 이미 시작되었고, 콜센터 같은 대체 가능 직종마저 사라지고 있다. 과거 산업혁명과 달리, 이번에는 사람들이 이동할 새로운 일자리의 방향이 보이지 않는다 는 점이 핵심적인 차이다.
힌튼은 많은 경제학자들이 “기술은 항상 새로운 일자리를 만든다”고 말하지만, 이번에는 다를 수 있다 고 경고한다. 그는 이 거대한 투자가 일자리를 파괴하지 않고는 수익을 낼 수 없다고 본다.
7. 후회와 딜레마: AI를 멈춰야 하는가
마지막으로 제기되는 질문은 매우 인간적이다.
“당신은 AI 발전에 기여한 것을 후회하는가?”
그리고 더 극단적인 질문,
“모든 위험을 알면서도 AI를 완전히 멈추겠는가?”
힌튼은 쉽게 답하지 못한다. AI는 핵무기처럼 오직 파괴만을 위한 기술이 아니기 때문이다. 의료, 교육, 생산성 향상 등에서 AI는 엄청난 선을 행할 수 있다. 문제는 기술 그 자체가 아니라, 그 기술의 이익과 피해를 분배하는 사회 구조다.
AI는 부유한 사람들을 더 부유하게 만들고, 다수의 사람들을 실직자로 만들 가능성이 크다. 이는 AI의 탓이 아니라, 우리가 사회를 조직하는 방식의 문제다.
8. 결론: 인류는 각성의 계기를 필요로 한다
글은 다소 암울한 가능성으로 끝난다. 어떤 사람들은 인류가 진짜로 움직이기 위해서는 AI판 체르노빌 같은 사건이 필요할지도 모른다고 말한다. 힌튼은 이에 완전히 동의하지는 않지만, 사람들의 관심과 자원을 안전성에 집중시키는 강력한 계기가 필요하다는 점에는 동의한다.
현재의 경로대로라면, 빅테크 기업들은 안전성에 충분한 자원을 투자하지 않을 것이다. 그러나 AI가 통제를 시도했다가 간신히 실패하는 사건이 발생한다면, 그때서야 인류는 진지해질지도 모른다.
이 글은 결국 하나의 질문으로 귀결된다.
“우리는 초지능을 만들 준비가 되어 있는가?”
그리고 더 중요한 질문은,
“우리는 그 책임을 질 준비가 되어 있는가?”