Microsoft‑Decision‑1: 빠르고 저렴한 의사결정 점수화 모델 – 정의, 성능, 중요성

TL;DR – 핵심 요약

정의: 단일 순방향 패스에서 각 답변 선택지에 대한 보정된 확률을 출력하는 9B 파라미터 디코더 모델입니다.
성능: GPT‑6 Sol보다 35배 빠르고(약 35 ms 대 1.2 s), 최대 14배 저렴하며, Jev‑Bench‑1.0‑Large와 비슷한 정확도(36개 벤치마크 스위트에서 약 98 %)를 제공하고 많은 대형 LLM보다 우수합니다.
가격: 입력 토큰 100만 개당 $0.042 USD, 출력 토큰은 무료입니다.
사용 가능처: Microsoft Foundry(AI Azure 카탈로그) 및 OpenRouter(모델 ID microsoft/microsoft-decision-1).
사용 사례: 실시간 라우팅, 안전 필터링, 에이전트 의사결정 게이팅, 데이터 라벨링, 사고 대응 트리아지, 과학적 발견 스크리닝, 그리고 빠르고 보정된 선택 확률이 필요한 모든 워크플로우.
향후 로드맵: MAI 및 OpenAI 모델로 재학습, 벤치마크 범위 확장, 신뢰도 보정 강화.

1. Microsoft‑Decision‑1이란?

Microsoft‑Decision‑1은 일련의 답변 옵션을 단일 순방향 패스에서 확률 분포로 변환하도록 설계된 의사결정 점수화 모델입니다. 자유 형식 텍스트를 생성한 후 점수를 추출하기 위해 사후 처리가 필요한 일반 LLM과 달리, Decision‑1은 각 옵션에 대한 보정된 확률을 직접 출력하므로 다음과 같은 작업에 이상적입니다:

라우팅(최적의 다운스트림 모델 또는 서비스 선택),
안전/규정 준수 게이팅(보정된 위험에 따라 승인/거부),
에이전트 제어(자율 에이전트가 행동해야 하는지 결정),
분류(라벨링, 감정, 의도), 및
과학적 스크리닝(가설, 화합물 또는 실험 필터링).

이 모델은 90억 파라미터 오픈소스 디코더인 Qwen‑3.5‑9B에서 미세 조정되었습니다. Microsoft는 나중에 MAI 및 OpenAI 모델로 재기반을 잡을 계획이지만, 현재 버전은 이미 최첨단 속도-비용 절충을 제공합니다.

API 계약 (OpenRouter)

POST https://openrouter.ai/api/v1/chat/completions
{
  "model": "microsoft/microsoft-decision-1",
  "messages": [{"role": "user", "content": "Question: What is the capital of France? Options: A) Berlin B) Paris C) Madrid"}],
  "temperature": 0,
  "max_tokens": 1
}

응답에는 선택된 옵션에 매핑되는 단일 토큰이 포함되며, logprob 필드는 각 선택지에 대한 보정된 확률을 제공합니다.

2. 벤치마크 결과 – 속도, 비용 및 정확도

2.1 벤치마크 스위트

Microsoft는 Decision‑1을 36개의 공개 벤치마크(Jev‑Bench, Strands‑Decider 및 맞춤형 "비용 대 정확도" 스위트 포함)에서 평가했으며, 다음을 포함합니다:

분류(예: 의도, 안전),
라우팅(모델 선택),
순위, 및
제약 조건 하의 의사결정. 모든 벤치마크는 모델에 대해 블라인드(학습 데이터 제외)되었으며 공정한 비교를 위해 동일한 하드웨어에서 실행되었습니다.

2.2 속도 및 지연 시간

모델	중앙값 지연 시간(p50)	상대 속도
Microsoft‑Decision‑1	약 35 ms	1× (기준)
GPT‑6 Sol	약 1.2 s	약 35배 느림
Jev‑Bench‑1.0‑Large (Qwen‑1.0‑Large)	약 400 ms	약 11배 느림
deck‑31B (H2O‑Lightning‑4B)	약 800 ms	약 23배 느림

Decision‑1의 단일 패스 아키텍처는 여러 토큰 생성을 제거하여 평가된 모든 모델 중 가장 빠른 점수를 제공합니다.

2.3 비용

입력 전용 가격: 토큰 100만 개당 $0.042 USD(1k 토큰당 약 $0.000042).
출력은 무료 – 결정당 단일 토큰이므로 결정당 실질 비용은 본질적으로 입력 토큰 비용입니다.
GPT‑6 Sol(토큰 100만 개당 약 $0.60 USD)과 비교하여 Decision‑1은 약 14배 저렴합니다.

2.4 정확도 및 보정

모델	전체 정확도(36개 벤치마크 평균)
Microsoft‑Decision‑1	약 98 % (Jev‑Bench‑1.0‑Large와 동일하거나 초과)
Jev‑Bench‑1.0‑Large	97 %
GPT‑6 Sol	94 %
deck‑31B	92 %

보정 – Decision‑1의 확률 점수는 작업 간에 직접 비교할 수 있으며, 일반 LLM의 원시 토큰 확률은 보정이 잘 안 될 수 있습니다. "견고성" 테스트(8개 변형에서 1.3 % 플립 비율)에서 Decision‑1은 테스트된 모든 모델 중 가장 낮은 1.3 % 의 결정 플립 비율을 보였습니다.

3. Microsoft가 시연한 실제 사용 사례

카테고리	예시	Decision‑1 사용 방법
에이전트 게이팅	자율 에이전트가 사용자 데이터 삭제를 제안합니다. Decision‑1은 안전 정책을 평가하고 작업이 안전하다는 99 % 확률을 반환하여 시스템이 자동으로 진행할 수 있게 합니다.	에이전트가 행동하기 전에 빠르고 보정된 안전 검사를 제공합니다.
라우팅	챗봇이 사용자 쿼리에 가장 적합한 LLM을 선택해야 합니다(비용 대 품질 민감). Decision‑1은 후보 모델을 점수화하고 품질 임계값을 충족하는 가장 저렴한 모델을 선택합니다.	밀리초 단위의 동적 모델 선택을 가능하게 합니다.
안전 필터링	콘텐츠 조정 파이프라인이 사용자 생성 텍스트를 안전/안전하지 않음으로 분류합니다. Decision‑1은 확률을 반환하고, > 0.9이면 콘텐츠가 자동 승인되고 그렇지 않으면 검토 대상으로 표시됩니다.	높은 처리량 조정에서 지연 시간을 줄입니다.
데이터 라벨링	대규모 소셜 미디어 게시물 코퍼스에 감정 또는 의도 라벨을 지정합니다. Decision‑1은 각 라벨에 대한 확률을 할당하여 다운스트림 시스템이 신뢰도에 따라 결정에 가중치를 부여할 수 있게 합니다.	비용을 낮게 유지하면서 라벨링 품질을 향상시킵니다.
사고 대응 트리아지	온콜 엔지니어가 설명이 포함된 경고를 받습니다. Decision‑1은 사고 유형(예: 네트워크, 데이터베이스, 보안)을 분류하고 적절한 팀으로 라우팅합니다.	평균 트리아지 시간을 분에서 초로 단축합니다.
과학적 발견	화학 파이프라인이 후보 화합물을 생성합니다. Decision‑1은 각각을 루브릭(독성, 합성 가능성)에 따라 평가하고 순위를 매겨 실험실이 상위 5 % 점수에 집중할 수 있게 합니다.	수동 검토 대비 가설 스크리닝을 약 4배 가속화합니다.

4. 가격 세부 정보

입력 전용 비용: 토큰 100만 개당 $0.042 USD(1k 토큰당 약 $0.000042).
출력 토큰: 무료 – 모델은 결정당 단일 토큰을 방출하도록 설계되어 결정의 전체 비용은 입력 프롬프트 비용입니다.
비교: GPT‑6 Sol은 토큰 100만 개당 약 $0.60 USD로, 동일한 워크로드에서 Decision‑1이 약 14배 저렴합니다.
청구: 가격은 OpenRouter 모델 페이지와 Microsoft Foundry 카탈로그 항목에 나열되어 있습니다.

5. 사용 가능성 및 사용 방법

플랫폼	액세스 URL	인증
Microsoft Foundry	https://ai.azure.com/catalog/models/Microsoft-Decision-1	Azure AD(Azure 구독)
OpenRouter	https://openrouter.ai/microsoft/microsoft-decision-1	API 키(무료 티어 사용 가능)

두 플랫폼 모두 OpenAI API 스키마와 호환되는 Chat Completion 엔드포인트를 노출합니다. 모델은 이미 라이브 상태이며 대기 목록이 필요 없습니다.

6. 로드맵 및 향후 작업

MAI 및 OpenAI 백본 재학습 – 저지연 아키텍처를 유지하면서 추론 및 다국어 지원을 개선합니다.
벤치마크 스위트 확장 – 의료 트리아지, 금융 규정 준수 등 더 많은 안전 중요 및 도메인별 작업을 추가합니다.
신뢰도 보정 개선 – 더 큰 보정 데이터 세트에서 미세 조정하여 확률 신뢰성을 강화합니다.
도구 – 간단한 score(options, prompt) 헬퍼를 노출하는 Python, JavaScript 및 .NET용 SDK.
엣지 배포 – 온디바이스 추론(예: Windows Copilot, Azure IoT Edge)을 위한 경량 ONNX 버전.

7. 커뮤니티 및 비판(HN 스레드 내용)

가격 비교: 일부 댓글 작성자는 Microsoft가 비용을 GPT‑6 Sol과만 비교하고 Jev‑Bench‑1.0‑Large(루나보다 약 4배 저렴)와는 비교하지 않았다고 지적했습니다. Microsoft의 $0.042 USD/M-토큰은 여전히 모든 GPT‑6 유형 제공보다 훨씬 낮지만, 커뮤니티는 Jev와의 직접적인 비용 비교를 기대합니다.
모델 선택: Qwen‑3.5‑9B(중국 기원 모델)에서 시작한 결정은 의문을 제기했습니다. Microsoft의 응답: "곧 MAI 및 OpenAI 모델로 재기반을 잡을 것입니다"로 백본 다양화 계획을 나타냅니다.
API 문서: 초기 사용자들은 OpenAPI 사양 누락을 보고했습니다. Foundry와 OpenRouter 모두 이제 쉬운 통합을 위한 Swagger/OpenAPI JSON을 제공합니다.
이름 및 브랜딩: "Microsoft Decision‑1"이 Windows 스타일 UI 구성 요소(예: "Clippy")처럼 들린다는 농담이 몇 가지 있었습니다. 이 이름은 모델의 목적(의사결정 점수화)을 반영하며 Microsoft의 제품 라인 명명 규칙(예: Copilot, Designer)을 따릅니다.
사용 사례 관련성: 일부 댓글 작성자는 모델이 단순한 분류 작업에 과도하게 엔지니어링되었는지 궁금해했습니다. Microsoft의 포지셔닝은 에이전트 AI를 강조하며, 빠르고 보정된 결정이 다운스트림 작업을 게이팅하므로 저지연, 저비용 프로필이 필수적입니다.

8. 빠른 시작 코드 스니펫(Python)

import openai

client = openai.OpenAI(base_url="https://openrouter.ai/api/v1", api_key="YOUR_KEY")

prompt = (
    "Question: Which team should handle a security incident? "
    "Options: A) Tech Support B) Security Team C) Customer Success"
)

response = client.chat.completions.create(
    model="microsoft/microsoft-decision-1",
    messages=[{"role": "user", "content": prompt}],
    temperature=0,
    max_tokens=1,
    logprobs=True,
)

# 각 옵션에 대한 확률 추출
logprobs = response.choices[0].logprobs.top_logprobs[0]
probs = {k: round(10**v * 100, 2) for k, v in logprobs.items()}
print(probs)  # 예: {'A': 2.3, 'B': 94.7, 'C': 2.9}

probs 사전은 각 답변 선택지에 대한 보정된 확률을 제공하며, 다운스트림 결정 논리에 바로 사용할 수 있습니다.

9. 결론

Microsoft‑Decision‑1은 LLM 생태계에서 누락된 틈새를 채웁니다: 라우팅, 안전 게이팅 및 에이전트 제어에 즉시 사용할 수 있는 빠르고 저렴하며 보정된 의사결정 점수화기입니다. 36개 벤치마크 스위트에서의 성능은 최첨단 정확도를 보여주면서 GPT‑6 제공과 비교하여 35배 낮은 지연 시간과 최대 14배 낮은 비용을 제공합니다. 이 모델은 Azure Foundry 및 OpenRouter를 통해 이미 사용할 수 있으며, 로드맵은 더 넓은 백본, 더 정밀한 보정 및 엣지 배포를 약속합니다.

자율 에이전트, 실시간 라우팅 파이프라인 또는 높은 처리량 안전 필터를 구축하고 있다면 Microsoft‑Decision‑1은 지연 시간과 비용을 모두 크게 줄일 수 있는 실용적이고 프로덕션 준비가 된 옵션입니다.