AI에서의 빠르고 느린 사고: 자기 인지 아키텍처 개요

핵심 제안: 빠르고 느린 AI 에이전트

이 논문은 문제 해결을 "시스템 1"(빠름) 에이전트와 "시스템 2"(느림) 에이전트 간에 나누는 다중 에이전트 아키텍처를 소개한다. 빠른 에이전트는 캐시된 경험에 기반해 빠르게 반응하며, 느린 에이전트는 빠른 응답이 부족할 때 호출되어 의도적인 사고와 최적 해를 찾기 위한 탐색을 수행한다. 두 에이전트 유형 모두 세계 모델(도메인 지식)과 자기 모델(행동 및 해결 능력의 역사)을 공유한다.

AI에서 자기 인지가 중요한 이유

인간 지능은 일상적인 패턴 인식을 초월하는 과제를 처리하기 위해 자신의 사고 과정을 모니터링하고 조절하는 자기 인지에 의존한다. 저자들은 현재의 AI 시스템이 대규모 데이터셋과 컴퓨팅 자원 덕분에 좁은 과제에서는 뛰어나지만, 이러한 자기 반성 능력이 부족하다고 주장한다. 명시적으로 "사고하는 사고" 계층을 모델링함으로써, AI는 언제 빠른 히ュ리스틱을 신뢰할지, 언제 자원을 더 깊은 사고에 할당할지를 결정할 수 있을 것이다.

아키텍처 세부 사항

세계 모델: 모든 에이전트가 질의할 수 있는 환경의 공유 표현.
자기 모델: 각 에이전트의 과거 행동, 성능 지표, 기술 프로파일을 저장한다.
시스템 1 에이전트: 상태가 없거나 가벼운 상태를 가지며, 과거 경험에서 해결책을 검색한다(예: 사전 훈련된 언어 모델, 비전 분류기).
시스템 2 에이전트: 상태를 유지하는 계획자 또는 탐색 알고리즘으로, 시스템 1의 신뢰도가 낮을 때 외부 도구를 호출하거나 시뮬레이션을 실행하거나 최적화를 수행할 수 있다.
자기 인지 컨트롤러: 시스템 1 출력을 평가하고 자기 모델을 참조하여 빠른 답변을 수락할지, 시스템 2를 트리거할지 결정하는 감독 구성 요소.

Hacker News에서의 논의 요약

"LLM이 '자신의 사고를 생각하게' 하려는 시도는 내 일상적인 고민이다. 이 논문은 그것이 왜 중요한지 정확히 짚어낸다." – vist_orn

"대부분의 인간은 약한 자기 인지를 가지고 있으며, 많은 사람들은 말로 된 사고를 하지 않는다. LLM에서는 그 어떤 의미도 없다. 심지어 한 모델의 출력을 다른 모델에 넣더라도, 그 계산 뒤의 히ュ리스틱을 업데이트할 방법이 전혀 없다." – hoppp

"이것은 데이터베이스 쿼리 옵티마이저가 작동하는 방식과 매우 비슷해 보인다. 다만, 이 논문에서는 첫 번째 모델이 제공한 답변의 평가를 조건화하는 학습/기억 구성 요소가 추가되어 있다는 점이 다르다." – crorella

"현재 최전방 모델과 관련해서 이 빠르고 느린 사고 개념이 얼마나 관련성이 있을까? 나는 이 개념을 기반으로 AI 프레임워크를 구축한 큰 조직을 알고 있는데, 오늘날의 모델에 대해선 의미 있는 개념이라고 생각하지 않는다." – creativeSlumber

"적어도 ChatGPT 이전에 쓰여졌다." – zfoong

이 댓글들은 세 가지 반복되는 주제를 드러낸다:

실용성: 일부 사용자는 현재의 대규모 언어 모델이 외부 업데이트 메커니즘이 없이 자기 인지 루프를 진정으로 구현할 수 있는지 의문을 제기한다.
기존 시스템과의 비유: 빠르고 느린 분리는 처음에는 저렴한 계획을 시도하고 필요 시 더 비싼 것으로 전환하는 쿼리 옵티마이저와 유사하다.
역사적 맥락: 이 논문은 최근 대화형 에이전트(예: ChatGPT)의 급성장 이전에 작성되었으며, 현대 시스템에 대한 관련성에 대한 추측을 불러일으킨다.

잠재적 이점과 미해결 질문

자원 배분: 자기 인지 컨트롤러는 필요한 경우에만 비용이 많이 드는 사고를 호출함으로써 컴퓨팅 자원을 절약할 수 있다.
강건성: 의도적인 검증은 빠른 모델의 환각이나 낮은 신뢰도 출력을 포착할 수 있다.
학습 전이: 자기 모델은 다양한 과제에 걸쳐 성능 데이터를 축적하여 미래의 컨트롤러 결정을 안내할 수 있다.

미해결 질문들:

명시적인 감독 없이 자기 인지 컨트롤러를 어떻게 훈련할 것인가?
느린 에이전트를 단일 종단 간 모델에 통합할 수 있는가, 아니면 여전히 별개의 모듈로 남아야 하는가?
시스템 2를 트리거하기 위한 "신뢰도"를 가장 잘 측정하는 지표는 무엇인가?

현행 연구와의 관계

2021년 이후, 여러 연구 방향이 단일 모델 내에서 적응형 사고를 탐구해왔다(예: "적응형 사고" 프롬프트, 사고의 사슬 프롬프팅, 계층적 트랜스포머). 이러한 접근 방식은 빠르고 느린 이분법과 유사하지만, 종종 명시적인 자기 모델이나 별도의 사고 모듈이 부족하여, 이 논문의 아키텍처가 독특하고 잠재적으로 보완적인 방향임을 시사한다.

결론

2021년 논문은 AI에 자기 인지적 빠르고 느린 이중 시스템을 통합하면 좁은 패턴 기반 성능과 인간처럼 유연한 사고 사이의 격차를 메울 수 있을 것이라고 주장하며, 이 주장은 대규모 언어 모델 시대에도 실현 가능성과 관련성에 대한 논쟁을 계속 촉발하고 있다.