Tencent Hy4 Preview Release

Tencent은 고용량 추론 및 긴 컨텍스트 처리를 위해 설계된 차세대 대규모 언어 모델(LLM)인 Hy4의 프리뷰를 출시했습니다. 이 모델은 총 7700억 개의 파라미터를 보유하며, 토큰당 490억 개의 활성 파라미터를 사용하고, 100만 토큰을 초과하는 컨텍스트 창을 지원합니다.

Recursive Self-Improvement in Training

Hy4 Preview는 재귀적 자기 개선 루프를 구현함으로써 모델 개발 프로세스에서 중요한 이정표를 세웠습니다. 처음으로 모델이 다음과 같은 몇 가지 핵심 차원에서 자체 최적화에 기급여했습니다:

Training Methods: 훈련 프로토콜의 자동 최적화.
Data Strategies: 데이터 선택 및 큐레이션 프로세스의 정교화.
Evaluation Frameworks: 모델 자체의 테스트 및 검증 메트릭의 개선.
Low-level Operators: 기반이 되는 계산 연산자의 최적화.

접근 방식을 제안하고, 실험을 실행하며, 결과에 기반하여 반복함으로써, Hy4 Preview는 결과로 나온 코드, 로그, 피드백이 후속 탐색 라운드에 정보를 제공하는 피드백 루프를를 구축했습니다.

Performance and Market Traction

초기 도입 데이터는 모델에 대한 상당한 관심을 나타냅니다. 커뮤니티 보고에 따르면, Hy4는 OpenRouter에서 빠른 견인력을 보여주며 출시 후 며칠 만에 수조 개의 토큰을 처리했습니다. 이러한 높은 사용량은 부분적으로 경쟁력 있는 가격 책정, 특히 다른 제공업체에서 일반적으로 볼 수 있는 10-20%의 캐시 비용과 비교하여 더 낮은 캐시 비용(약 5%) 덕분입니다.

Community Feedback and Technical Critiques

출시와 관련된 사용자 경험 및 기술적 논의는 성능 및 접근성에 관한 몇 가지 핵심 사항을 강조했습니다:

Model Capabilities

일부 사용자들은 이전 모델인 Hy3가 범용 에이전트 모델로서 효과적이었다는 긍정적인 경험을을 보고했습니다. 하지만 Hy4의 에이전트로서의 코딩 능력에 대한 초기 피드백은 엇갈리고 있으며, 일부 사용자는 코딩 작업에서의 활용도가 제한적이라고 보고했습니다.

Infrastructure and Accessibility

현재 호스팅 제공업체에서의 타임아웃 및 속도 제한을 포함한 안정성 문제에 대한 보고가 있으며, 이는 벤치마킹 노력을 방해하고 있습니다. 또한, 미국 내 일부 사용자들은 CodeBuddy와 같은 관련 도구에 접근하는 데 어려움을 겪고 있다고 보고했습니다.

Documentation and Presentation

기술 관찰자들은 공식 출시 자료의 "차트 범죄(chart crimes)"를 비판했습니다. 구체적으로, 사용자들은 블로그 포스트의 막대 그래프가 오해를 불러일으킬 수 있다고 지적했습니다. 높은 숫자가 막대의 높이와 일관되게 일치하지 않거나, 차트 내 모델의 순서가 논리적 순위를 따르지 않는 등의 문제가 있었습니다.

Open Source vs. Open Weights

Tencent은 사용된 용어에 대해 커뮤니티 내에서 지속적인 논의가 있습니다. 이번 출시가 "오픈 소스"로 설명되지만, 비판론자들은 훈련 프로세스 및 데이터의 소스 코드가 제공되지 않기 때문에 진정한 오픈 소스가 아닌 "오픈 웨이트(open weight)" 모델이라고 주장합니다.

Open weight is not the same as open source. The current "open weight" models are just opaque binary blobs you can run on your own computer instead of through a web API.

Comparison to Other Models

일부 사용자들이 Hy4의 동작을 DeepSeek 모델과 비교하며 성능 및 범용 에이전트 능력의 유사성을 언급하고 있지만, 모델의 위치는 회사의 자체 벤치마크에서 현재 오픈 웨이트 모델의 프론티어를 챌린지하려는 경쟁력 있는 시도임을 시사합니다.