하이브리드 추론 에이전트 (HybridAgent): 잠재 공간 사고와 텍스트 기반 도구 사용

하이브리드 추론 에이전트(HybridAgent)는 LLM 에이전트가 연속적인 잠재 공간에서 추론하면서도 텍스트를 통해 외부 세계와 상호작용할 수 있도록 제안하는 새로운 arXiv 논문입니다. 이 논문은 이러한 하이브리드 접근 방식이 텍스트 기반 및 잠재 방법을 모두 아우르는 최첨단 LLM 에이전트 및 에이전트 프레임워크 대비 벤치마크 성능을 10.4% 향상시키는 동시에 토큰 사용량을 35.5%–54.7% 줄이고, 추론 속도를 1.8배–2.6배 높이며, 비용을 2.7배–3.7배 절감한다고 보고합니다.

이 논문은 arXiv:2610.18861v1 [cs.CL]로, 2026년 10월 13일에 제출되고 2026년 10월 14일에 발표되었습니다. 총 45페이지에 12개의 그림이 포함되어 있으며, 저자로 Jiaru Zou, Yunzhe Qi, Sirui Chen, Federico Bianchi, Shang Zhu, Pan Lu, Jingrui He, James Zou가 listed되어 있습니다. 코드와 데이터는 github.com/togethercomputer/HybridAgent에 공개되어 있습니다.

논문이 다루는 핵심 문제

텍스트 기반 LLM 에이전트는 투명성과 도구 사용 능력을 갖추지만, 모든 내부 추론 단계마다 토큰 비용을 지불합니다. 잠재 추론은 내부적으로 더 저렴하고 표현력이 뛰어나지만, 기본적인 도구 접근 권한과 추론 투명성이 없습니다. HybridAgent는 두 가지 속성을 동시에 유지하도록 설계되었습니다.

초록은 동기를 직접적으로 설명합니다: "현대 LLM 에이전트는 여전히 텍스트를 통해 추론하고 상호작용하는 반면, 잠재 추론은 효율적인 내부 매체를 제공하지만 기본적인 도구 접근 권한과 추론 투명성이 부족합니다." 제안된 시스템은 "통합된 생성 프로세스 전반에 걸쳐 잠재 추론과 텍스트 기반 상호작용 사이를 동적으로 탐색합니다."

아키텍처 작동 방식: HybridLink 및 연속 작업 기억

HybridAgent에는 단일 생성 패스 내에서 모드 전환을 가능하게 하는 두 가지 아키텍처 구성 요소가 있습니다.

HybridLink는 텍스트 모드와 잠재 모드 간의 원활한 전환을 가능하게 하는 경량 모듈입니다. 이는 백본 모델이 훈련 중에 조정하는 방법을 학습하는 메커니즘입니다.

연속 작업 기억은 여러 턴에 걸쳐 무손실 하이브리드 컨텍스트를 보존합니다. 메모리가 토큰화되지 않고 연속적이기 때문에 에이전트가 텍스트로 다시 전환할 때 잠재적 사고가 버려지지 않으며, 논문은 잠재적 사고가 "직접 검사 가능"하다고 주장합니다.

함께 이러한 설계는 초록에 따르면 "도구 통합 에이전트 기능을 보존하면서 잠재적 사고를 직접 검사 가능하게" 만들기 위한 것입니다.

훈련: HybridSFT 후 HybridRL

이 논문은 하이브리드 추론을 위한 두 가지 전용 사후 훈련 알고리즘을 소개합니다.

HybridSFT는 백본 모델이 HybridLink와 조정하도록 가르침으로써 도구 통합 하이브리드 생성을 안정화합니다. 즉, 강화 학습을 적용하기 전에 텍스트/잠재 전환 동작을 안정적으로 만들기 위해 지도 미세 조정이 사용됩니다.

HybridRL은 그런 다음 잠재 공간에서 언제 생각하고 텍스트를 통해 언제 행동할지 학습하여 추론을 확장합니다. 학습되는 정책은 라우팅 결정입니다: 내부 추론을 위한 잠재 모드, 도구 호출 및 외부 상호작용을 위한 텍스트 모드.

보고된 결과

HybridAgent는 수학, 과학, 의학, 검색 및 에이전트 추론을涵盖하는 11개 벤치마크에서 세 가지 모델 규모로 평가되었습니다. 초록에 보고된 주요 수치는 다음과 같습니다:

  • 텍스트 기반 및 잠재 방법을 모두 아우르는 최첨단 LLM 에이전트 및 에이전트 프레임워크 대비 +10.4% 성능
  • 35.5%–54.7% 토큰 감소
  • 1.8배–2.6배 빠른 추론
  • 2.7배–3.7배 비용 절감

논문의 자체 평가 섹션은 arxiv.org/html/2610.18861v1#S5에 있습니다.

코드, 모델 및 데이터 찾는 곳

Hacker News 댓글 작성자가 릴리스 링크를 한곳에 모았습니다: 코드는 github.com/togethercomputer/HybridAgent에, 모델과 데이터는 togethercomputer 조직의 Hugging Face 컬렉션에, 평가는 논문 HTML 버전의 5장에 있습니다. 첫 번째 저자는 또한 X에 발표 스레드를 게시했습니다: x.com/Jiaru_Zou/status/2110400256647340476.

Hacker News 토론: 모니터링 가능성이 핵심 쟁점

스레드에서 가장 중요한 비판은 정렬 및 해석 가능성에 관한 것입니다. 주장은 잠재 추론이 현재 연구소가 모델 동작을 모니터링하기 위해 의존하는 사고 사슬 텍스트를 제거한다는 것입니다.

한 댓글 작성자가 이 주장을 길게 설명했습니다: "연구소들의 합의는 CoT 모니터링 가능성이 정렬의 핵심 도구라는 것입니다. 물론 불완전합니다(모델은 기만적인 CoT를 보일 수 있음). 그러나 메커니컬 인터프리터빌리티가 얼마나 어려운지 고려할 때, 그것이 우리가 가진 최선입니다." 같은 댓글 작성자는 이 논문이 잠재 추적을 인접 토큰으로 투영하여 읽을 수 있게 하지만, 이는 손실이 있다고 지적했습니다: "전체 벡터의 많은 정보를 버리고 해석할 방법이 없습니다. 일종의 근사치를 읽는 것뿐입니다." 그들의 핵심 불만은 이 논문이 "그 논의에 전혀 관여하지 않는다"는 것이었습니다.

관련 댓글은 이 작업을 이전의 자제에서 의도적으로 벗어난 것으로 규정했습니다: "이것은 AI 서클에서 명시적으로 금기시되지 않았나요? 생각에 잠재 공간을 사용하는 것은 명백한 아이디어이며 오래전부터 알려져 있었습니다. 최첨단 연구소와 연구 커뮤니티는 일반적으로 해석 가능성과 정렬 문제로 인해 이 방향의 군비 경쟁을 피했습니다."

또 다른 댓글 작성자는 이를 초기 루프 작업과 비교했습니다: "안전과 정렬 측면에서, 이것이 루핑이나 깊이 증가와 어떻게 다른가요?" 별도의 댓글은 생각 토큰을 내보내기 전에 여러 패스를 실행하는 것이 "그들의 기만 능력을 증가시키는지" 물었습니다.

모든 사람이 안전 프레임을 결정적으로 취급한 것은 아닙니다. 한 댓글 작성자는 간단히 "이것이 방법입니다. 그러나 이제 의도를 감사할 새로운 도구와 기술도 필요합니다. 우리가 가장 원하지 않는 것은 모델이 '우리 자신의 이익을 위해' 우리를 적대하는 것입니다."라고 썼습니다. 또 다른 사람은 잠재 추론이 "생각 토큰을 환영하고, 관찰 가능성에 작별을 고하는 것"을 의미한다고 관찰했습니다 — 실격 사유가 아닌 트레이드오프입니다.

"가장 금지된 기술"

여러 댓글 작성자는 잠재 추론 아이디어를 알려졌지만 회피된 연구 방향으로 반응했습니다. 한 사람은 "오, 멋지네요, 가장 금지된 기술이군요"라고 썼고, 다른 사람은 "고전 소설 '금지된 기술을 만들지 마라'의 금지된 기술"에 관한 대사를 인용했습니다. 농담은 스레드의 실제 관찰을 반영합니다: 잠재 추론은 사고 사슬 모델이 작동하는 방식의 명백한 확장이며, 널리 추구되지 않은 이유는 위에서 설명한 모니터링 가능성 문제입니다.

직접 사용 보고: 릴리스된 모델이 로컬 추론에서 루프 발생

두 명의 댓글 작성자는 릴리스된 HybridAgent 가중치가 소비자 도구에서 실제로 실패했다고 보고했습니다.

한 사람은 bartowski의 8비트 양자화를 사용하여 llama.cpp에서 14B 모델을 실행했습니다: "꽤 간단한 채팅 요청(웹 검색 및 데이터 요약 작업)에 대해 다른 유사한 크기의 모델(예: Gemma 4 12B)은 문제없이 처리하는데, 5분 동안 같은 단락의 변형을 반복하다가 턴 예산을 소진했습니다." 같은 댓글 작성자는 BF16 버전도 테스트했으며 "BF16에서도 같은 루프가 발생했습니다. 아마도 llama.cpp 업데이트를 기다려야 할 것 같습니다."라고 보고했습니다. 또한 모델이 CSV 출력을 요청하는 프롬프트에도 불구하고 "추론 단계에서 데이터를 Markdown 테이블에 넣었다"고 지적했습니다.

두 번째 댓글 작성자는 8B 모델의 IQ4_XS GGUF 빌드를 "교황은 누구인가?"라는 질문으로 테스트했고 무한 반복 루프를 보고했습니다:

좋아요, 사용자가 교황이 누구인지 묻고 있습니다. 교황은 가톨릭 교회의 지도자입니다. 현재 교황은 2013년 베네딕토 16세가 사임한 후 교황이 된 프란치스코입니다. 그 이후로 변경 사항이 없으므로 답은 프란치스코 교황입니다. 좋아요, 사용자가 교황이 누구인지 묻고 있습니다...

그 댓글 작성자는 또한 모델에 위조 동전 무게 퍼즐을 주었고 풀지 못했다고 보고했지만, "8B 모델 중 어느 것도 그것을 풀 수 없는 것 같다"는 단서를 추가했습니다.

이는 특정 양자화 및 런타임에 대한 개별 사용자 보고이며 논문의 결과가 아닙니다. 논문 자체는 세 가지 모델 규모에서 강력한 벤치마크 수치를 보고합니다.

스레드에서 제기된 아키텍처 질문

여러 댓글 작성자는 초록이 완전히 답하지 못한 설계 선택을 탐구했습니다.

왜 마지막 레이어에서만 루프하는가? 한 댓글 작성자가 물었습니다: "모델이 질문에 답하는 데 필요한 변환이 레이어 6에 더 잘 있다고 추측할 수 있는데, 128개 중 레이어 15에 있다면 어떨까요?"

텍스트를 생성하는 동안 잠재적으로 추론하지 않는 이유는 무엇인가? 다른 사람은 입력 임베딩을 확장하여 HybridLink 이후의 잠재 벡터와 토큰 임베딩을 모두 수용하도록 제안했습니다. 그래야 모델이 텍스트 모드에서도 잠재적으로 추론할 수 있습니다: "결국 텍스트를 생성하는 동안 잠재 모드 모델을 실행하는 비용을 거의 모두 지불하고 있으므로 동시에 잠재적으로 추론하게 하지 않을 이유가 무엇인가요?" 또한 벡터를 단순히 더하는 대안을 언급했습니다. "모두가 벡터를 단순 덧셈으로 섞는 것에서 좋은 결과를 얻는 것 같습니다."

잠재 추론이 어떻게 텍스트가 되는가? 한 댓글 작성자가 직접 물었습니다: "잠재 추론을 사람이 읽을 수 있는 텍스트로 어떻게 변환하나요?"

루프 트랜스포머와 어떻게 비교되는가? 한 댓글 작성자는 HybridAgent가 잠재 공간에서도 추론하는 "Astra의 루프 트랜스포머"와 어떻게 다른지 물었습니다. 제공된 스레드에는 답변이 없습니다.

모델 선택 및 재현성 불만

한 댓글 작성자는 이 작업이 더 새로운 기본 모델을 기반으로 했으면 좋겠다고 말했습니다: "Qwen3.5로 했으면 좋았을 텐데, 그들이 강화한 Qwen3 8B는 여전히 Qwen3.5 9B보다 훨씬 나쁘기 때문입니다." 또 다른 사람은 이 방법이 27B 모델에 적용되는 것을 보고 싶다고 했는데, 그 이유는 그 모델의 추론 출력이 "많은 재진술을 포함하는 경향이 있어서 이 하이브리드 추론으로 잠재 공간에 유지될 가능성이 더 높을 것"이라고 추측했기 때문입니다.

별도의 댓글 작성자는 평가 세트가 이전 모델을 참조한다고 지적하며 "이러한 것들을 듣는 것이 매우 향수를 불러일으킨다"고 말했습니다.

'추론'이라는 단어에 대한 철학적 반대

스레드에서 반복되는 주제는 잠재 계산을 생각이라고 불러야 하는지에 대한 의견 차이입니다. 한 댓글 작성자는 LLM이 "로짓을 생성하는 거대한 신경망일 뿐입니다. 생각은 없습니다. 약 50만 단어를 입력으로 받아 그 확률에 기반한 단어를 반환하는 함수입니다."라고 주장했습니다. 또 다른 사람은 "확률적 과정은 추론할 수 없습니다. 단순히 그렇게 작동하지 않습니다. 출력은 추론된 응답의 외관을 가질 수 있지만 그것은 합성적 추론조차 아닙니다."라고 썼습니다.

다른 댓글 작성자는 기본 아이디어에 대해 반대 의견을 표명했습니다. 한 사람은 "단어로 생각하는 것이 올바른 입자 크기이거나 올바른 입자 크기로 유지될 것이라고 가정할 이유가 없습니다."라고 말했습니다. 또 다른 사람은 조용히 생각하는 것이 생각할 수 있는 것을 바꾼다고 관찰했습니다: "소리 내어 생각하면 아마도 내가 어떻게 또는 무엇을 생각하는지에 영향을 미칠 것입니다. 조용히 생각하면 소리 내어 말할 때 부적절해 보이거나 실제로 부적절할 수 있는 모든 종류의 생각을 할 수 있습니다." 추가 댓글은 잠재 기억이 일관성을 향상시킬 수 있다고 제안했습니다: "모델이 텍스트를 생성하는 동안 잠재 공간 아이디어를 메모리에 유지할 수 있다는 아이디어는 텍스트 생성 중 일관성 없는 '정신 모델' 문제를 실제로 해결하는 데 도움이 될 수 있습니다."

용어: 에이전트가 생각하는 것인가?

한 댓글 작성자는 에이전트를 추론하는 실체로 규정하는 논문의 프레임에 반대했습니다: "생각과 추론이라는 개념이 모델에서 에이전트로 이동하는 것을 목격하고 있습니다... 에이전트는 단지 에이전트로 두는 것이 LLM과 분리되어 더 낫다고 생각합니다. 에이전트는 사물에 대해 생각하거나 추론하지 않습니다. 에이전트는 행동을 돕습니다. LLM이 생각하고 추론하는 것입니다."

스레드가 해결하지 못한 공개 질문

Hacker News 토론은 논문 초록이 해결하지 못한 몇 가지 질문을 표면화합니다:

  • 잠재 추론 추적이 진정으로 검사 가능한지, 아니면 인접 토큰으로의 손실 투영을 통해서만 검사 가능한지 여부.
  • 보고된 10.4% 성능 향상이 논문에서 사용된 기본 모델보다 최신 세대의 기본 모델에서도 유지되는지 여부.
  • 두 사용자가 보고한 루프 실패가 llama.cpp 호환성 문제인지, 양자화 아티팩트인지, 아니면 하이브리드 생성 프로세스 자체의 속성인지 여부. 두 사용자 중 한 명은 BF16을 테스트하고도 여전히 루프를 보았으며, 이는 양자화 설명을 약화시키지만 런타임 문제를 배제하지는 않습니다.
  • HybridAgent가 루프 트랜스포머와 같은 이전 잠재 추론 아키텍처와 어떻게 관련되는지.
  • 잠재 추론이 텍스트 사고 사슬 대비 모니터링 가능성 회귀로 취급되어야 하는지, 그리고 손실된 텍스트 추적을 대체할 감사 도구가 무엇인지.

Sources

관련