InternScience/Agents-A1
Scaling the Horizon, Not the Parameters
해결하는 문제
Agents-A1은 방대한 파라미터 수 없이도 최첨단 수준의 AI 성능(조 단위 파라미터 모델에 필적)을 달성하는 과제를 해결합니다. 본 프로젝트는 "에이전트 호라이즌 스케일링(scaling the agent horizon)"—모델의 장기적 궤적 처리 능력과 다양한 전문 능력을 향상시키는 것—에 집중하여, 35B 파라미터 모델이 복잡한 다단계 작업에서 훨씬 더 큰 시스템과 경쟁할 수 있도록 합니다.
작동 원리
이 프로젝트는 다음의 3단계 프로세스를 통해 학습된 35B Mixture-of-Experts (MoE) 아키텍처를 활용합니다:
- Full-domain SFT: 베이스 모델을 일반적인 에이전트 동작에 맞게 정렬합니다.
- Domain-level Teacher Training: 특정 전문 분야를 위한 특화된 교사 모델을 생성합니다.
- Multi-teacher Distillation: 현저한 어휘 정렬을 동반한 도메인 라우팅 온폴리시 증류를 사용하여 6개의 이종 도메인을 단일 학생 모델로 통합합니다.
이를 지원하기 위해 팀은 외부 지식, 행동 및 관찰을 연결하는 지식-행동 인프라를 구축하여, 모델이 평균 45K 토큰의 궤적으로 학습할 수 있도록 했습니다.
대상
- 개발자 및 기업: 고성능 에이전트 모델을 애플리케이션에 통합하고자 하는 분들.
- AI 연구자: 에이전트 호라이즌 스케일링 및 증류를 통한 효율적인 지식 전달에 관심이 있는 분들.
- 로컬 AI 애호가: Mac과 같은 하드웨어에서 로컬 배포를 위해 4B 버전 또는 양자화된 변형을 활용할 수 있는 분들.
주요 특징
- 에이전트 추론: 복잡한 작업을 실행 가능한 하위 단계로 분해하고 결과에 따라 전략을 조정할 수 있습니다.
- 도구 통합: 함수 호출, API, 코드 인터프리터 및 검색 엔진에 대한 네이티브 지원을 제공합니다.
- 롱 컨텍스트 처리: 긴 대화 및 문서에 대해 강력한 일관성과 회상 능력을 갖추고 있습니다.
- 높은 효율성: 35B 파라미터 클래위를 유지하면서 최첨단 모델(GPT-5.5 등)에 필적하는 성능을 제공합니다.
관련
- 프로젝트
- Dispatch
- Dispatch
- 프로젝트
- Dispatch