Mercury 3: Inception의 확산 LLM, 1백만 토큰 컨텍스트에서 초당 1,068 토큰 실행
Inception Labs가 Mercury 3를 출시했습니다. 이는 현재까지 공개된 확산 기반 LLM 중 가장 강력한 모델이라고 회사 측은 밝혔습니다. Inception은 Mercury 3가 벤치마크에서 GPT-6 Luna와 Claude Haiku 5.5를 능가하면서도 초당 1,000개 이상의 토큰으로 4~8배 더 빠르게 실행된다고 주장하며, 이 모델을 텍스트 확산이 자기회귀 언어 모델과 동일한 방식으로 확장된다는 증거로 제시합니다.
Mercury 3 개요
Mercury 3는 NVIDIA GPU에서 초당 1,068 토큰으로 서비스되는 확산 LLM으로, 1M 토큰 컨텍스트 창과 자사가 비교 대상으로 삼는 속도 최적화 프론티어 모델보다 낮은 출시 가격을 제공합니다.
| 사양 | Mercury 3 |
|---|---|
| 모델 유형 | 확산 기반 LLM |
| 속도 | NVIDIA GPU에서 초당 1,068 토큰 |
| 컨텍스트 창 | 1M 토큰 (Mercury 2.5의 260K에서 증가) |
| 표준 가격 | 입력 토큰 100만 개당 $0.20, 출력 토큰 100만 개당 $0.70 |
| 출시 가격 | 입력 토큰 100만 개당 $0.10, 출력 토큰 100만 개당 $0.35 (50% 할인) |
| 캐시된 토큰 | 입력 가격의 90% 할인 |
| 제공처 | Inception API Platform, OpenRouter, Baseten, Vercel |
| API 호환성 | OpenAI API 호환 |
| 무료 티어 | Inception 플랫폼에서 1억 개 무료 토큰 |
Inception은 Mercury 3가 품질 벤치마크에서 "GPT-6 Luna 및 Claude Haiku 5.5 같은 프론티어 속도 최적화 모델과 동급 또는 더 우수하다"고 밝힙니다. 이는 회사 자체 벤치마크 결과이며, 발표문에는 스크랩된 텍스트에 평가 방법론이 공개되어 있지 않습니다.
확장 주장: 확산은 자기회귀 모델처럼 확장된다
발표의 핵심 주장은 확산 LLM이 자기회귀 모델뿐만 아니라 확장 법칙을 따른다는 것입니다. Inception은 Mercury 3가 총 파라미터 수에서 Mercury 1보다 40배 이상 크며, 일련의 표준 벤치마크에서 지능이 Mercury 1(mini)에서 Mercury 3로 3배 향상되었다고 말합니다.
Mercury 1 출시 당시 Inception은 이를 "상업용 애플리케이션을 위해 확산 LLM을 구축할 수 있다는 첫 번째 증거"로 제시했습니다. 당시의 미해결 질문은 확산이 복잡한 사용 사례에서 자기회귀 모델과 경쟁할 수 있을 정도로 확장될 수 있는지였습니다. Mercury 3 발표에서 Inception의 답변은 직접적입니다: "그럴 수 있습니다."
회사가 밝힌 결론은 "자기회귀 모델의 발전을 이끈 확장 법칙이 확산에도 적용된다"는 것입니다.
프로덕션 배포 및 파트너 결과
Inception은 얼리 액세스 파트너가 이미 브라우저 사용 에이전트, 대화형 교육, 실시간 검색 에이전트, 고객 지원 등 지연 시간에 민감한 애플리케이션에서 Mercury 3를 실행 중이라고 말합니다. 발표에는 구체적인 성능 수치를 포함한 지명된 파트너 평가가 포함되어 있습니다.
브라우저 사용 에이전트: TinyFish AI
Inception은 에이전트가 모든 단계에서 모델을 기다리므로 작은 지연이 누적된다고 주장합니다. 자사 프로덕션 웹 에이전트 환경에서 프론티어 모델과 50개의 실제 Mind2Web 탐색 작업을 비교했습니다. Mercury 3는 이 중 50%를 완료했으며, 이는 동일한 토큰 볼륨과 동일한 수의 에이전트 단계로 프론티어 모델보다 훨씬 더 많은 성과라고 Inception은 말합니다. 토큰당 비용은 극히 일부에 불과합니다.
TinyFish AI 공동 창업자 Shuhao Zhang은 에이전트가 "더 빨리 작업을 마치고 답변 전에 더 많은 접근 방식을 시도할 시간을 갖는다"고 말했습니다.
대화형 교육: RevisionDojo
튜터링 및 채점 워크로드에서 Inception은 Mercury 3가 거의 실시간으로 응답한다고 주장합니다. General Learning(일명 RevisionDojo)의 공동 창업자이자 CTO인 Michael Tong은 이 모델이 "추론 능력을 포기하지 않고 모든 학생에게 즉각적인 피드백을 제공할 수 있게 해주었다"며 힌트, 채점된 답변, 정의가 "약 1초 만에" 반환되고 품질은 "기존에 사용하던 모델과 동일하거나 더 우수하다"고 말했습니다. 그는 이를 "기존 스택을 그대로 대체할 수 있는 솔루션"이라고 설명했습니다.
실시간 검색 에이전트: Octen AI
Inception은 검색 애플리케이션이 몇 초만 지연되어도 반응이 없는 느낌을 준다고 말합니다. Octen AI의 Sense API 테스트에서 Octen 검색은 약 80ms가 걸렸고 모델 생성이 병목 현상이었습니다. Octen AI의 설립자이자 CEO인 Kuan Zou는 Mercury 3가 "테스트한 빠른 모델 중 속도와 품질의 최상의 균형을 제공했다"며 중앙값 생성 시간 0.9초, 중앙값 종단 간 응답 시간 2.2초를 기록했다고 말했습니다.
고객 지원: Lorikeet
규제 기업을 위해 음성, 채팅, 이메일 전반에 걸친 컨시어지형 지원을 구축하는 Lorikeet은 초기 테스트에서 Mercury 3가 "지연 시간에서 다른 모델을 이기면서 evals와 프로덕션에서도 더 높은 성과를 냈다"고 보고했습니다. 기술 직원인 Michael Gribben의 말입니다.
Mercury Voice 및 Mercury Decide
Mercury 3는 실시간 AI를 목표로 하는 더 넓은 Inception 제품 포트폴리오의 플래그십입니다. 발표에는 두 가지 다른 제품이 언급됩니다.
- Mercury Voice는 극도로 낮은 지연 시간 음성 애플리케이션과 종단 간 지연 시간뿐만 아니라 첫 응답 토큰까지의 시간(TTFAT) 최소화에 최적화되어 있습니다. Inception은 이미 Audivi AI, Altur, OpenCall에서 에이전트를 지원하고 있다고 말합니다.
- Mercury Decide는 대용량 분류를 위해 구축된 의사 결정 모델입니다. Inception은 JevBench 및 LegalBench를 포함한 벤치마크에서 Jev를 능가한다고 주장합니다.
제공 및 가격
Mercury 3는 오늘 Inception API Platform과 OpenRouter, Baseten, Vercel을 통해 제공됩니다. OpenAI API와 호환되므로 기존 스택에 재작성 없이 통합할 수 있다고 Inception은 말합니다. 엔터프라이즈 배포는 전용 용량, 자동 확장, 컴플라이언스 제어, 구성 가능한 데이터 보존을 지원합니다.
Inception은 API를 사용해 볼 수 있도록 1억 개의 무료 토큰과 chat.inceptionlabs.ai의 채팅 인터페이스를 제공합니다.
Hacker News 댓글 반응
Hacker News에서의 토론(176점, 71개 댓글)은 실사용 경험과 벤치마크 비교에 대한 회의론, 오픈 웨이트에 대한 질문이 혼합되어 있었습니다.
실사용 경험은 대체로 긍정적
한 댓글 작성자 Escapado는 Mercury 3로 macOS Swift UI 앱을 만들어 OCR 및 번역을 구현하는 데 약 45분의 프롬프트가 걸렸고, 약 2600만 토큰(130만 비캐시)을 사용했다고 보고했습니다:
"도구에 대한 계획을 세우게 하고 약 8~9단계로 엔드 투 엔드 구현을 시켰습니다. 처음에는 좌표 계산을 잘못했지만 지적하자 빠르게 수정했고 다른 단계는 모두 한 번에 성공했습니다."
GodelNumbering은 이전 세대보다 "눈에 띄게 더 강력해 보인다"고 말했고, HTML 렌더러를 UML 다이어그램용으로 만들게 한 후 각 테마에 "다른, 눈에 덜 아픈 색상 구성"을 선택했다고 언급했습니다. UncleOxidant는 저장소에서 테스트한 후 "기분 좋게 놀랐다"고 썼습니다. moonu는 "2.5보다 확실히 개선되었다"고 평가했지만 모델이 멀티모달이었으면 좋겠다고 바랐습니다.
벤치마크 비교에 대한 회의론
모든 실사용 보고가 마케팅과 일치하지는 않았습니다. snake_doc는 OpenRouter에서 "deepseek v4.1 flash (together/baseten/fireworks 경유)가 여전히 지연 시간과 지능에서 mercury 3를 이겼다"고 말하며 "mercury는 Ttft가 상당히 느리다"고 덧붙였습니다. vatsachak는 "내가 가장 좋아하는 장난감 수학 퍼즐에서 GPT 6.1-Sol만큼 빠르지 않았다"고 보고하며 "지능이 토큰을 덜 소비하기 때문일 것"이라고 추측했습니다.
jjaskulowski는 1:1 비교에 대해 방법론적 이의를 제기했습니다:
"비교가 의미가 있으려면 Mercury와 Luna를 동일한 훈련 데이터로 훈련하고 동일한 후처리, 정렬을 거쳐야 합니다. 빠른 것은 좋습니다. 저도 지지합니다. 다만 어떻게 평가해야 할지 모르겠다는 말입니다."
Google Gemini Diffusion에 대한 질문
Simon Willison은 확산 텍스트 생성을 보여준 연구소가 Inception만이 아니라고 지적했습니다:
"Google이 작년 Gemini Diffusion 데모로 실질적으로 아무것도 하지 않은 이유를 아직도 이해할 수 없습니다. 정말 멋졌고 정말 빨랐는데 조용히 사라졌습니다. 몇 달 전 Diffusion Gemma를 출시했지만 그것도 큰 반향을 얻지 못했습니다."
dumberquestions는 Inception이 지속적인 우위를 가질 것이라는 생각에 반박했습니다: "주요 연구소들이 확산 실험을 하지 않을 것 같지 않고, 만약 한다면 그들이 훨씬 더 많은 컴퓨팅 파워를 가지고 있기 때문에 다른 연구소가 확산에서 앞서 있을 것 같지도 않습니다."
비용, 오픈 웨이트, 미해결 질문
2001zhaozhao는 Inception이 어떻게 그러한 가격을 달성했는지 물으며 벤치마크가 유지된다면 Mercury 3는 "Haiku 5.5 및 GPT-6 Luna에 비해 무조건 선택할 모델"이라고 평가했습니다. 또한 "Haiku 5.5는 100k 컨텍스트를 넘어가면 5배 비싸지지만 이 모델은 같은 가격으로 1M까지 지원한다"고 지적했습니다. 같은 댓글 작성자는 출시 후 일정 기간이 지나면 가격이 2배 오르지만 여전히 100k 이상 요청에서 Haiku 가격보다 훨씬 낮다고 덧붙였습니다. moecables도 비슷한 우려를 표했습니다: "할인이 해제된 후에도 여전히 유용할지 궁금합니다."
SillyUsername은 오픈 웨이트 측면에서 실망감을 표현했습니다: "젠장, 이런 오픈 웨이트 모델을 기다리고 있었는데 아직 없네요." UncleOxidant도 "오픈 웨이트 확산 LLM이 더 많이 나오길 바란다(현재는 diffusion gemma가 있음)"고 희망했습니다.
다른 댓글 작성자들은 발표가 답하지 않는 질문을 제기했습니다. loufe는 실제 모델 크기와 훈련이 전통적인 LLM과 어떻게 다른지 물었습니다. GodelNumbering은 확산 모델이 코드베이스의 증분 변경을 위해 얼마나 많은 코드를 읽어야 하는지, 도구 호출을 얼마나 잘 처리하는지 물었습니다. fraywing은 이 모델들이 "토큰을 비선형적으로 생성하기 때문에 추론하기 어렵지 않은지" 물었습니다. davedx는 의사 결정 워크로드가 최대 처리량을 원하기 때문에 Mercury 3가 Jev 같은 의사 결정 모델과 얼마나 경쟁력이 있을지 궁금해했습니다. nkoren은 Inception 공동 창업자 volodia의 댓글이 스레드에서 플래그 처리되거나 죽은 것으로 표시된 것을 지적했습니다.
주의 사항
이 기사의 성능, 품질, 비용 수치는 Inception Labs의 자체 발표와 지명된 파트너 평가에서 나온 것입니다. 발표에는 모델 파라미터 수, 훈련 데이터, 전체 벤치마크 방법론이 공개되지 않았습니다. Hacker News의 독립적인 댓글 보고는 엇갈렸으며, 일부 사용자는 강력한 결과를 보고했지만 다른 사용자는 DeepSeek v4.1 Flash 같은 경쟁 모델이 타사 서빙 환경에서 지연 시간에서 Mercury 3와 동등하거나 더 우수하다고 보고했습니다.