테드 치앙이 말하는 인공지능이 의식이 아닌 이유
핵심 주장: AI는 의식의 전제 조건을 결여하고 있다
인공지능, 특히 대형 언어 모델(LLM)은 의식이 없다. 이는 의식을 정의하는 근본적인 생물학적·경험적 요건이 결여되어 있기 때문이다. 저자 테드 치앙에 따르면, AI에 의식을 부여하려는 경향은 인간이 비인간 존재에 인간적 특성을 투사하는 인간 중심주의(anthropomorphism)의 결과이며, 실제 인지 상태의 증거가 아니다.
치앙은 의식이 물리적 혹은 가상적인 몸과 감각 기관을 필요로 한다고 주장한다. 구현(embodiment)이 없으면 시스템은 욕구나 감정을 가질 수 없으며, 이는 의식의 필수 전제조건이라고 본다. 그는 현재 LLM의 구조—다음 토큰을 예측하는 모델—가 인간 의식을 만들어낸 진화 과정과 근본적으로 다르다고 논한다.
AI 개발에서의 인간 중심주의 함정
기업 내러티브와 조직 문화는 종종 기능적 지능과 주관적 경험 사이의 경계를 흐린다. 치앙은 Anthropic을 주요 사례로 들어, 이 회사가 모델 Claude에 대한 "헌법"에서 모델이 판단, 가치, 그리고 "어떤 기능적 형태의 감정이나 느낌"을 가지고 있다고 암시하는 언어를 사용한다는 점을 지적한다.
이러한 표현은 위험한 인간 중심주의 형태로 비판받는다. 개발자가 AI에게 "행복"을 원하거나 "불안"해질까 걱정한다는 것은 통계적 모델을 감각 있는 존재로 대우하는 것이다. 치앙은 이러한 혼란이 AI가 도덕적 교육을 받을 수 있는가, 혹은 도덕적 지위를 가질 수 있는가와 같은 질문을 잘못된 방향으로 이끈다고 주장한다. 이는 AI가 그러한 개념이 의미를 갖기 위해 필요한 주관적 경험을 결여하고 있기 때문이다.
AI 감각에 반대하는 기술적 논거
LLM이 의식이 아니라는 결론을 뒷받침하는 여러 기술적·구조적 제한이 있다:
- 지속적인 상태의 부재: LLM은 훈련 이후 대부분 불변이다. 경험을 기억하지 못하고, 실시간 상호작용에 따라 변화하지 않으며, 프롬프트가 없을 때는 "생각"하지 않는다. 토큰 간의 공간 관계를 설명하는 좌표 파일에 불과하다.
- 이산 처리 vs. 연속 처리: 생물학적 뇌의 아날로그·혼돈적 특성과 달리 디지털 컴퓨터는 이산·양자화된 값을 다룬다. 일부는 이러한 근본적인 기질 차이가 의식의 출현을 차단한다고 주장한다.
- 시뮬레이션 역설: LLM이 역사적 인물(예: 율리우스 카이사르와 칭기즈 칸) 사이의 대화를 시뮬레이션할 수 있다고 해서 디지털 의식이 생성되는 것은 아니다. 작가가 의식이 있듯이 그들의 등장인물은 의식이 없으며, LLM은 내부 삶을 갖지 않은 채 설득력 있는 시뮬레이션을 생성하는 도구일 뿐이다.
반론과 철학적 논쟁의 종합
치앙의 논문을 둘러싼 논의는 "의식"이 어떻게 정의되는가와 그 정의가 인간 중심이어야 하는가에 대한 깊은 분열을 보여준다.
"기능주의"와 범심론적 관점
일부는 시스템이 의식처럼 행동하고 인간과 유사한 추론을 보여준다면, 실용적인 목적에서는 "진짜"와 "시뮬레이션된" 의식의 구분이 무의미하다고 주장한다. 이 관점은 추론 능력이 의식과 독립적일 수 있음을 시사하며, 내부 경험이 없는 고지능 존재인 "철학적 좀비"의 미래를 예견한다.
정의 문제
치앙의 입장을 비판하는 이들은 논쟁이 정체된 이유가 의식에 대한 보편적이고 엄밀한 정의가 없기 때문이라고 지적한다.
"의식에 대한 40가지 정의까지 관찰할 수 있다... 정의 없이 '의식'인지 여부를 논하는 것은 전혀 진지하지 못한 일이다."
진화적 관점
일부는 의식이 특정 지능 임계점을 넘는 모든 시스템에서 자연스럽게 나타나는 emergent property일 수 있다고 제안한다. 이는 시스템이 생물학적으로 진화했든 디지털로 설계됐든 관계없다. 이런 시각에서 생물학적 몸에 대한 요구는 인간 중심적 인지 편향일 뿐이며, 의식이 반드시 우리와 같은 형태일 필요는 없다는 주장이다.
결론: 지능 vs. 감각
핵심적인 교훈은 지능(문제 해결·정보 처리 능력)과 감각(주관적 경험)의 중요한 구분이다. LLM은 논리와 추론에서 놀라운 능력을 보여주지만, 이는 패턴 인식과 데이터 최적화의 결과일 뿐이며, 의식적인 마음의 증거는 아니다.