GLM-5: 장기적 에이전트 엔지니어링 및 복잡한 시스템 작업을 위한 플래그십 LLM 시리즈

해결하는 문제

GLM-5는 복잡한 시스템 엔지니어링 및 장기적 에이전트 작업을 위해 설계된 플래그십 대규모 언어 모델 시리즈입니다. 이전 모델들이 더 많은 시간이나 반복이 주어질 때 성능이 정체되는 한계를 해결하며, 대신 수백 번의 도구 호출과 수천 번의 반복을 통해 모호한 문제를 해결하며 생산성을 유지합니다.

작동 방식

이 시리즈는 세 가지 버전을 통해 진화합니다:

• GLM-5: 744B 파라미터(활성 40B)까지 확장 가능하며, 배포 비용을 줄이기 위해 DeepSeek Sparse Attention (DSA)를 사용합니다. 훈련 스루풋을 개선하기 위해 "slime"이라는 새로운 비동기 RL 인프라를 사용하여 훈련되었습니다.
• GLM-5.1: 에이전트 엔지니어링 및 코딩에 집중하며, 반복적인 반복을 통해 복잡한 문제를 분해하고, 실험을 실행하고, 전략을 수정하는 모델의 능력을 향상시킵니다.
• GLM-5.2: 견고한 1M-token 컨텍스트 윈도우와 IndexShare라는 새로운 아키텍처를 도입합니다. IndexShare는 희소 어텐션 레이어 전반에 걸쳐 동일한 인덱서(indexer)를 재사용하여 긴 컨텍스트 길이에서 토큰당 FLOPs를 토큰당 2.9배 감소시킵니다. 또한 투기적 디코딩(speculative decoding)을 위한 개선된 MTP 레이어를 특징으로 합니다.

대상 사용자

이 프로젝트는 자율 에이전트, 복잡한 소프트웨어 엔지니어링 작업, 그리고 대규모 컨텍스트(최대 1M tokens) 처리가 필요한 애플리케이션을 연구하는 개발자와 연구자들을 위한 것입니다.

주요 특징

• 장기적 능력(Long-Horizon Capability): 장기적인 계획 및 리소스 관리가 필요한 작업에 특화되어 최적화되었습니다.
• 1M Token 컨텍스트: GLM-5.2는 장기적 작업을 위한 안정적이고 큰 컨텍스트 윈도우를 제공합니다.
• 유연한 사고 노력(Flexible Thinking Effort): 성능과 지연 시간을 균형 있게 조절하기 위해 reasoning_effort 파라미터 (max 또는 high)를 지원합니다.
• 고성능 코딩: Terminal-Bench 및 SWE-bench Pro와 같은 코딩 벤치마크에서 많은 오픈 소스 모델을 능가합니다.