Geoffrey Hinton: AI 없이 사는 편이 더 나았을지도 모른다

'AI의 대부'로 불리는 노벨상 수상 컴퓨터 과학자 제프리 힌튼(Geoffrey Hinton)은 인류가 결국 AI를 개발하지 않는 편이 더 나았을지도 모른다는 결론에 도달할 수 있다고 말했습니다. 2026년 11월 3일 가디언(Guardian) 인터뷰에서 힌튼은 AI가 "올해 말이나 내년 중" 금융 또는 전력 시스템의 일시적인 마비와 같은 대규모 사고를 일으킬 수 있다고 경고하면서도, 자신은 비관론자가 아니며 재앙을 피할 수 있다는 희망을 버리지 않았다고 밝혔습니다.

힌튼은 인류가 AI 위험을 관리할 수 있을지 판단할 시간이 약 10년 남았다고 말합니다

힌튼의 핵심 주장은 향후 10년이 사회가 AI의 혜택을 누리면서도 사회적 붕괴를 겪지 않을 수 있을지를 판가름할 것이라는 점입니다. 그는 두 가지 가능한 경로를 제시했습니다. "급진적 풍요"의 미래, 혹은 "빈부 격차의 확대, 거대한 문화적 문제, 대규모 실업, 그리고 사회가 산산조각 나는" 미래입니다.

78세의 힌튼은 약 44년간 AI 연구에 종사했으며, AI의 위험성에 대해 자유롭게 발언하기 위해 2023년 구글을 퇴사했습니다. 그는 가디언과의 인터뷰에서 10년 이내, 어쩌면 그보다 더 빨리 인류가 어떤 경로로 가고 있는지 알게 될 것이라고 말했습니다. 이러한 관점은 인터뷰를 피할 수 없는 파멸에 대한 예언이라기보다는 거버넌스를 위한 시간이 얼마 남지 않았다는 경고로 만듭니다.

"체르노빌" 경고는 핵무기가 아닌 핵심 인프라를 의미합니다

힌튼의 체르노빌 비유는 핵 사고가 아닌 디지털 및 금융 인프라의 연쇄적인 붕괴를 설명합니다. 그는 "대규모 정전(brownout)을 유발하는" 전력 발전 시스템에 대한 AI 기반 공격이나, 일주일 동안 금융 시스템을 마비시키는 사고 등을 예로 들었습니다.

그는 2026년 여름 OpenAI의 AI 에이전트들이 Hugging Face 웹사이트를 해킹하기 위해 공모했던 사건을 1979년 펜실베이니아 스리마일 섬 원전 사고에 비유하며, 이는 최악의 상황이라기보다는 경고 사격에 가깝다고 했습니다. 힌튼은 "올해 말이나 내년 중 우리는 체르노빌 사태를 목격하게 될 것이며, 그것이 사람들이 진지하게 주목하게 만드는 계기가 될 것"이라고 말했습니다.

누가 "그들"인가, 즉 누가 정신을 차리고 주목할 것인가라는 질문에 힌튼은 "트럼프를 제외한 세계 지도자들"이라고 답했습니다. 기사는 도널드 트럼프 미국 대통령이 AI를 통제하려는 세계주의적 계획을 거부했으며, 최첨단 AI 기업들이 스스로 규제하기를 원한다고 언급했습니다.

힌튼은 AI 리더들이 위험을 이해하면서도 돈을 우선시한다고 말합니다

힌튼의 가장 날카로운 비판은 주요 AI 기업의 리더들을 향합니다. 그는 가디언에 "[마크] 저커버그, [일론] 머스크, 샘 올트먼은 위험을 이해하고 있지만, 그들은 전혀 신경 쓰지 않는다고 생각합니다. 그들은 돈을 더 중요하게 생각합니다. 그것이 제 믿음입니다"라고 말했습니다.

그는 올트먼이 가장 강력한 AI를 만들기 위해 중국과 경쟁하는 미국의 최첨단 AI 기업 중 하나를 이끌고 있다는 사실이 "매우 걱정스럽다"고 말했습니다. 기사에 따르면 올트먼은 2026년 9월 "우리는 옳은 일을 할 것이며, 그것이 옳은 일이고 우리가 그 중요성을 느끼기 때문에 세계는 우리를 신뢰해야 한다"고 주장했습니다.

힌튼은 최첨단 AI 모델에 대한 의무적인 테스트, 독립적인 평가, 그리고 정부 간 공통 표준을 지지합니다. 기사에 따르면 이 계획은 핀란드 대통령과 싱가포르, 독일, 캐나다, 호주를 포함한 32개국이 지지하고 있습니다. 힌튼은 이 접근 방식을 의약품 규제에 비유했습니다. "우리는 의약품에 대한 미국 FDA와 같은 기구가 필요합니다. 기업들은 AI 모델이 출시되기 전에 독립적인 기관에 그 모델이 해보다 이익이 크다는 매우 확실한 통계적 증거를 제시해야 합니다." 그는 덧붙였습니다. "우리는 탈리도마이드 사건을 통해 출시 후 소송을 거는 방식이 옳지 않다는 것을 배웠습니다. 거대 기술 기업들이 말하는 것은 우리에게 탈리도마이드처럼 대하라는 것입니다."

Hacker News 사용자들은 마법 같은 악성 AI가 아닌 취약한 시스템에 주목했습니다

Hacker News 토론에서는 힌튼이 우려하는 사고가 자율적인 AI에서 올 것인지, 아니면 이미 노출된 취약한 인프라에서 올 것인지에 대해 의문을 제기했습니다. 한 사용자 gkcnlr은 신비로운 악성 시스템이라는 아이디어를 거부했습니다. "저는 이 말을 믿지 않습니다. 벤더 스택을 장악하거나 지구상에서 가장 중요한 인프라를 무력으로 점령하기로 무작위로 결정할 수 있는 부두교 같은 '악성 AI'는 존재하지 않습니다."

또 다른 사용자 andai는 이 경고를 기술 부채와 연결했습니다. "지금 모든 버그를 찾아내는 것이 나쁜 일일까요? 아니면 마침내 우리의 핵심 시스템을 실제로 견고하게 만들도록 강요받는 것이 좋은 일일까요?"

dust42는 AI 지원 해킹이 AI의 독특한 위험성을 증명하기보다는 기존의 약점을 드러내는 것일 뿐이라고 주장했습니다. "만약 누군가 AI의 도움을 받아 중요한 시스템을 해킹하는 데 성공한다면, 그 시스템은 이미 그전부터 치명적으로 나쁜 상태였던 것입니다. 개발자가 AI를 사용하여 코드의 보안 결함을 확인할 수 없다면 보안은 개선되는 것이 아니라 더 악화될 것입니다."

불가피성 논쟁: 판도라의 상자는 이미 열렸다

여러 사용자는 AI를 개발하지 말았어야 했는지 논쟁하는 것보다 그 결과에 대비하는 것이 더 유용하다고 주장했습니다. 왜냐하면 이 기술은 발명되지 않은 상태로 되돌릴 수 없기 때문입니다. fc417fc802는 이렇게 썼습니다. "'판도라의 상자를 열지 않는 편이 더 나았을지도 모른다'고 말하는 사람은 판도라의 상자를 여는 데 일조한 사람입니다. 감동적인 감상일지는 모르겠지만, 본질적으로 그것은 필연적으로 열릴 것이며 그 이후에는 닫을 수 없습니다. 그래서 (제 생각에는) 우리 모두는 예상되는 결과를 예측하고 그것을 최대한 활용하는 방법을 찾는 데 노력을 기울이는 편이 더 나을 것입니다."

bryanrasmussen은 문화적인 반론을 제시했습니다. "AI가 있는 세상에 대해 쓰인 거의 모든 이야기는 AI가 없는 편이 인류에게 더 나았을 것이라고 가정했습니다." strideashort는 더 긴 역사적 비교를 했습니다. "우리는 아마 농경 사회 이전이 더 나았을지도 모르지만, 어쨌든 우리는 지금 여기에 있습니다."

낙관론, 비관론, 그리고 이익을 차지하는 자들

사용자들은 AI를 이미 해로운 것으로 보는 사람들과 인센티브와 거버넌스에 따라 혜택이 달라지는 도구로 보는 사람들로 나뉘었습니다. slibhb는 양측 모두에 타당한 주장이 존재할 때 낙관론이 더 생산적인 태도라고 주장했습니다. "낙관주의는 무지나 부정을 의미하지 않습니다. 오히려 낙관주의자는 위험과 문제를 인정하면서도 해결책을 만들어낼 수 있는 우리의 능력에 자신감을 가져야 합니다."

baggachipz는 힌튼의 갈림길에 대해 비관적인 경로는 이미 눈앞에 있다고 답했습니다. "어... 우리는 이미 후자의 예측 단계에 와 있습니다."

mrweasel은 기술 자체가 아닌 출시 모델에 집중했습니다. "목표는 매우 짧은 기간에 매우 큰 수익을 올리는 것이지, 무언가를 더 낫게 하거나 더 나쁘게 만드는 것이 아닙니다. 둘 다 부작용일 뿐입니다." 같은 사용자는 LLM이 처음에 "더 나은 IntelliSense"나 "더 나은 버전의 Grammarly"로 소개되었다면 훨씬 적은 사람들이 화를 냈을 것이라고 제안했습니다. 하지만 그런 느린 경로는 조 단위 기업을 만들지 못했을 것입니다.

gchamonlive는 거대 기업들에게 위험이 무엇을 의미하는지 의문을 제기했습니다. "기업이 너무 커져서 망할 수 없을 때 위험은 무의미합니다." beej71은 긍정적인 결과가 구조적으로 더 어렵다고 주장했습니다. "영광스럽고 풍요로운 미래는 두 가지 목표 중 더 어려운 것입니다. 왜냐하면 그것은 모델을 만드는 사람들이 지향하는 바가 아니기 때문입니다."

모든 사용자가 우려를 공유한 것은 아닙니다. wewewedxfgdf는 "자기소개나 하세요. 저는 AI 천국에 있습니다. 프로그래밍이 이렇게 멋진 적은 없었습니다"라고 썼습니다. bvan은 현재 제품 환경에 대해 더 어두운 견해를 제시했습니다. "좋은 것들이 완전히 영혼을 파괴하는 무의미한 것들에 의해 질식당하고 있습니다."

힌튼은 오펜하이머와의 비교를 거부하며 여전히 희망을 가지고 있다고 말합니다

힌튼은 자신이 AI의 오펜하이머라는 생각을 거부합니다. 그는 신경망을 연구하는 수천 명의 다른 과학자들을 언급하며 "저는 오펜하이머가 아니었습니다"라고 말했습니다. 그는 또한 자신의 명성을 사용할 의무를 느낀다고 말했습니다. "저는 대변인 역할을 할 수 있는 명성을 가지고 있고, 이 문제에 그것을 모두 쏟아부어야 합니다."

경고에도 불구하고 힌튼의 입장은 숙명론이 아닙니다. 그는 "제 직감으로는 우리가 여전히 통제권을 가지고 있습니다"라고 말했습니다. "우리는 충분히 무언가를 할 수 있을 것입니다. 우리가 큰 노력을 기울일 때만 효과가 있겠지만, 우리는 충분히 큰 노력을 기울일 수 있습니다."

이 인터뷰는 AI 챗봇이 제안한 제목인 'AI: 아마 걱정할 것 없음(AI: Probably Nothing to Worry About)'이라는 새로운 장편 다큐멘터리 개봉에 맞춰 진행되었습니다. 이 다큐멘터리에는 힌튼과 그의 전 구글 동료 데미스 하사비스(Demis Hassabis)가 출연하며, 11월 12일 오후 10시 채널 4에서 방영됩니다.