Oodle AI 에이전트 가시성 출시 – 백만 트레이스당 $10

Oodle AI 에이전트 가시성 출시 – 백만 트레이스당 $10

Oodle AI가 $10 / M 스팬 가격으로 에이전트 가시성을 출시합니다

핵심 요약: Oodle AI는 전용 에이전트‑가시성 서비스를 제공하며, LLM 에이전트 트레이스의 100 %를 S3‑기반 컬럼형 스토리지에 저장하고, 서브‑초 수준의 쿼리 지연 시간을 제공하며, 백만 스팬당 $10의 고정 요금을 부과합니다 – 이 비용 모델은 쿼리당 요금을 없애고 대규모 디버깅을 저렴하게 만들습니다.

LLM 에이전트에 빠르고 저렴한 트레이스 저장이 중요한 이유

에이전트 트레이스는 크다. 각 트레이스에는 프롬프트, 도구‑호출 메타데이터, 모델 응답이 포함되며, 대화당 메가바이트 수준에 달합니다. 기존 APM 도구는 이러한 양을 감당하지 못해 느린 검색(몇 분)과 높은 저장 비용을 초래합니다.

에이전트는 비결정적으로 실패한다. 조용한 도구 오류, 불완전한 도구‑호출 체인, 혹은 “제가 했어요” 같은 메시지는 전체 트레이스를 보관하지 않으면 눈에 띄지 않습니다. 샘플링은 충분하지 않은데, 드물게 발생하는 실패가 바로 감지해야 할 대상이기 때문입니다.

Oodle의 솔루션은 다음 두 가지 문제점을 해결합니다:

  1. 모든 스팬을 저장하여 S3‑호환 객체 스토어에 보관하고, 몇 개월 혹은 몇 년 동안 예측 가능한 비용으로 보존합니다.
  2. 컬럼형, 서버리스 컴퓨팅을 사용해 P99 쿼리 지연 시간 <1 초를 달성, 몇 분 걸리던 조사를 즉시 조회로 전환합니다.

핵심 기술 특징

1. 컬럼형 스토리지 & 서버리스 쿼리 엔진

"트레이스에 대한 빠른 검색 – 컬럼형 스토리지, 서버리스 컴퓨팅 – 몇 초 안에 트레이스를 찾고, 몇 분이 아니라 순간에 찾습니다."

Oodle는 스토리지 엔진의 일부를 (아래 엔지니어링 블로그 참조) parquet‑와 유사한 형식으로 재작성하여 읽기‑중심 워크로드에 최적화했습니다. 이 설계는 다음을 가능하게 합니다:

  • 벡터화 스캔으로 불필요한 컬럼을 건너뛰어 I/O를 감소시킵니다.
  • 탄력적 확장으로 전용 쿼리 노드를 프로비저닝할 필요가 없습니다.

2. S3‑기반, 플랫‑레이트 가격

"$10 / 백만 스팬 – 트레이스 100 %를 저장하고 예산도 유지하세요."

가격은 수집된 바이트와 보존 일수를 기준으로 합니다. 일반적인 워크로드인 1.2 TB/월은 수집 비용 $360에 90일 보존 비용 $2를 더해 월 $362이며, 쿼리는 무제한입니다.

3. 즉시 사용 가능한 AI 인사이트

"사용자 불만, 도구 호출 최적화, 이상 징후를 단 하나의 평가도 작성하기 전에 감지합니다."

내장 분석은 자동으로 다음을 표면화합니다:

  • 오류 복구 실패(처리되지 않은 예외, 불완전한 도구 호출)
  • 고지연 트레이스(멈춘 루프, 재시도 폭풍)
  • 낮은 사용자 만족도(부정적 감성 점수)
  • 모델 비용 비효율(더 저렴한 모델 대안)
  • 캐시 비효율 및 과도한 LLM 턴

이 인사이트는 별도의 규칙 설정 없이 바로 사용할 수 있습니다.

실제 적용 사례

Oodle는 하루 300만 개 이상의 에이전트 트레이스를 샘플링 없이 처리하는 여러 프로덕션 고객을 소개합니다. 주요 사례 연구는 다음과 같습니다:

  • Fello – 수백만 일일 인터랙션에서 조용한 실패를 감지하는 음성 AI 플랫폼.
  • Cureskin, HappyPath, Wisdom AI, Fuel, Lookout, Zaggle, CureFit, Distacart, Workorb, Effective AI, different.ai, Labra, Bedrockdata – 모두 Oodle의 가시성을 사용하는 엔지니어링 팀으로 제품 페이지에 나열되어 있습니다.

"하루 300만+ 에이전트 트레이스. 샘플링 없음. 음성 AI 에이전트의 조용한 실패를 잡아냅니다." – Fello 사례 연구

시작하는 방법

  1. OpenTelemetry로 계측 – Oodle는 Generative AI 시맨틱 컨벤션을 사용하는 표준 OTLP 트레이스를 소비하므로 별도 SDK가 필요 없습니다.
  2. 스팬을 Oodle에 전송 – 기존 익스포터를 제공된 엔드포인트로 지정합니다.
  3. UI에서 탐색 – 트레이스를 즉시 쿼리하고, 전사 재생을 보고, 평가 파이프라인을 실행하며, AI‑기반 인사이트를 활용합니다.

무료 티어는 신용카드 없이 이용 가능하며, 플랫폼은 15분 온보딩을 약속합니다.

Hacker News 커뮤니티 피드백

  • 가격 우려: 한 댓글러는 현재 공급업체가 $0.75 / M을 청구한다며 Oodle의 $10 / M이 “비싸다”고 지적했습니다.
  • 기술 호기심: 또 다른 사용자는 Oodle가 네이티브 Parquet 대신 “parquet‑like” 형식을 사용하는 이유를 물었습니다.
  • 개발자 인사이트: Oodle 엔지니어 Vijay Karthik은 에이전트‑트레이스 지원을 구축하면서 스토리지 엔진을 재설계해야 했다고 답변했으며, 블로그 포스트 How We Achieved $10/Million Agent Spans에 링크했습니다.
  • 긍정적 반응: 사용자들은 Oodle의 속도와 “베스트‑인‑클래스 MCP”를 칭찬하며, 실패 패턴을 평가할 기대감을 표했습니다.

추가 읽을거리

  • 엔지니어링 블로그: How We Achieved $10/Million Agent Spans – 스토리지 아키텍처와 비용 최적화에 대한 상세 내용.
  • 가시성 블로그: You Can’t Sample Your Way to Reliable Agents – 전체 트레이스 보존이 왜 필수인지 논의.
  • 아키텍처 블로그: How Oodle Keeps Observability Fast at Scale – 서버리스 쿼리 설계 탐구.

결론: Oodle AI의 에이전트 가시성 서비스는 대규모 LLM 에이전트 트레이스를 저장·쿼리하기 위한 목적에 맞춘 저비용 플랫폼을 제공하며, 서브‑초 검색과 자동 실패 감지를 별도의 복잡한 APM 도구 없이 구현합니다.

Sources