Tencent Hy3 모델 개요

핵심 요약

Tencent는 미드티어 프론티어 모델 시장에서 경쟁하기 위해 설계된 mixture-of-experts (MoE) 모델인 Hy3의 풀 버전을 출시했습니다. Hy3는 특히 에이전트 작업, 도구 사용 및 로컬 배포에 최적화되어 있으며, 추론 및 환각 감소 측면에서 높은 성능을 유지하면서 GLM 5.2와 같은 대형 모델보다 하드웨어 효율적인 대안으로 자리매김하고 있습니다.

모델 아키텍처 및 사양

Hy3는 성능과 효율성의 균형을 맞추는 데 중점을 둔 대규모 mixture-of-experts 모델로 구축되었습니다.

• Parameter Count: 295 billion total parameters.
• Active Parameters: 21 billion active parameters per token.
• Speculative Decoding: 3.8 billion parameter speculative decoding 모델을 포함하여 추론 속도를 높입니다.
• Context Window: 256K tokens.

성능 및 벤치마크

Hy3는 소형 로컬 모델과 거대한 독점 프론티어 모델 사이의 영역을 목표로 하는 "미드티어" 모델로 자리매김하고 있습니다.

에이전트 작업 및 도구 사용

Hy3는 에이전트 워크플로우, 특히 도구 호출(tool calling) 및 출력 형식 지정에서 뛰어난 성능을 보입니다. 테스트 결과, 모델은 다음과 같은 분야에서 높은 숙련도를 보여주었습니다:

• Repeated Tool Calls: 여러 개의 연속적인 도구 호출을 성공적으로 처리합니다.
• Pagination: 12개의 서로 다른 도구에 걸쳐 긴 실행 시간의 페이지네이션을 관리합니다.
• Error Recovery: 도구 호출이 오류를 반환할 때 포기하지 않고 재시도를 시도함으로써 회복 탄력성을 보여줍니다.
• Noise Filtering: 무관한 데이터에 방해받지 않고 API 응답에서 관련 정보를 식별합니다.

GLM 5.2와의 비교

Hy3는 강력하지만, 모든 하이엔드 모델을 대체하는 것을 목적으로 하지 않습니다. 구체적으로, GLM 5.2는 에이전트 코딩 작업에서 일반적으로 Hy3보다 성능이 뛰어납니다. 그러나 Hy3는 현저히 더 작습니다 (GLM 5.2 크기의 절반 이하), 따라서 B200 GPU 클러스터와 같은 거대한 클러스터가 필요하지 않고 프라이빗 하드웨어에서 로컬 호스팅 및 미세 조정(fine-tuning)을 위한 더 실용적인 대안이 됩니다.

신뢰성 및 환각

Tencent는 신뢰성을 개선하기 위해 사후 학습(post-training) 및 데이터 정제에 집중했습니다. 프리뷰 버전과 비교하여, 풀 버전의 Hy3 모델은 상식 오류율과 환각율을 모두 절반으로 줄였습니다.

역량 및 테스트 결과

추론 및 Chain-of-Thought

Hy3는 긴 chain-of-thought (CoT) 프로세스를 활용합니다. 논리 퍼즐 테스트에서 모델은 솔루션을 도출하기 전에 자신의 단계를 검증하기 위해 상당한 양의 "thinking" 토큰을 생성합니다. 이 내부 추론의 품질은 높다고 언급되며, 잠재적으로 다른 일부 오픈소스 모델을 능가할 수 있습니다.

창의적 및 기술적 생성

• SVG Generation: 모델은 자전거를 탄 상세한 펠리컨과 같은 복잡한 복합 SVG 코드를 생성할 수 있으며, 이는 프리뷰 버전보다 크게 개선되었습니다.
• HTML/CSS: Hy3는 옵트인 폼과 통합된 이미지를 포함하여 세련되고 기능적인 웹사이트 레이아웃을 생성할 가능이 있습니다.
• Long-form Content: 5,000단어 에세이 테스트에서 모델은 구조화된 개요(에이전트 계획 단계로 작용)를 생성하고 약 2,500에서 3,000단어 정도를를 생성했습니다. 단일 블록 생성에 대한 자체 제약 사항을 언급했습니다.

배포 및 접근성

Hy3는 현재 OpenRouter를 통해 테스트할 수 있습니다. 크기와 아키텍처 덕분에 Hy3는 관리 가능한 하드웨어에서 특정 기업용 사례에 맞게 미세 조정할 수 있는, 완전히 폐쇄된 로컬 모델을 원하는 기업들에게 강력한 후보가 될 것으로 보론됩니다.