Pi Durable: 장기 실행 다중 사용자 에이전트 애플리케이션을 위한 내구성 있는 하네스

Pi Durable은 내구성 있는 다중 사용자 에이전트 애플리케이션을 제공합니다

Pi Durable은 Pi 1.0과 함께 제공되는 실험적인 하네스로, 대규모 언어 모델 에이전트가 무기한 실행되고, 프로세스 충돌에서 살아남으며, 여러 사용자가 동시에 액세스할 수 있도록 합니다. 이 하네스는 스토리지 기반 트랜스크립트, 내구성 있는 작업 체크포인트, 플러그인 확장 시스템을 제공하여 항상 켜져 있는 AI 워커를 구축하기 위한 견고한 기반을 마련합니다.


모든 JavaScript 런타임에서 장기 실행 에이전트 구동

Pi Durable은 스토리지 백엔드(메모리, SQLite 또는 JSONL) 위에 하네스를 열어 Node, Bun, Cloudflare Durable Objects 등 JavaScript 런타임이 존재하는 곳이라면 어디서든 실행할 수 있습니다. 스토리지 인터페이스가 매우 작아 개발자가 키-값 저장소나 Postgres 위에 직접 구현할 수 있습니다. 활성 트랜스크립트, 라이브 작업 및 대기 중인 제출물만 메모리에 유지되며, 나머지는 필요할 때까지 디스크에 저장됩니다. 압축(Compaction) 기능이 오래된 메시지를 요약하므로 수만 개의 항목이 포함된 대화도 RAM에 충분히 들어갑니다.

import { Harness } from "@earendil-works/pi-durable";
import { openNodeSqliteStorage } from "@earendil-works/pi-durable/storage/sqlite/node";

const harness = await Harness.open(
  await openNodeSqliteStorage("./agent.sqlite"),
  { models, registry, env },
  context,
);

작업 체크포인트를 통한 충돌 복구 실행

모델 요청, 도구 호출, 압축 등 모든 단계는 다음 단계로 넘어가기 전에 체크포인트를 기록하는 *작업(task)*입니다. 프로세스가 종료되면 새 프로세스가 동일한 스토리지를 다시 열어 완료되지 않은 작업을 발견하고 마지막 체크포인트부터 재개합니다. 모델 호출은 재시도되며, 도구 호출은 replay: "safe"로 표시된 경우에만 다시 실행되고, requestId는 제출물에 대해 정확히 한 번(exactly-once) 실행되는 의미론을 보장합니다.

await root.submit({ type: "input", content: "Fix flaky login test", requestId: "job-42" }, ctx);
// process crashes here
const newHarness = await Harness.open(...);
newHarness.resume(); // continues the interrupted run

병렬 대화 및 포킹(Forking)

단일 하네스로 무제한의 동시 대화를 호스팅할 수 있습니다. 대화는 트랜스크립트 항목에서 *포크(fork)*될 수 있으며, 부모의 기록을 복사하지 않고 상속받습니다. 이는 Slack 스타일의 채널과 스레드를 모델링합니다. 채널은 하나의 대화로 실행되고, 각 스레드는 독립적으로 진행되는 포크로 작동합니다.

const thread = await channel.fork(answer, { ownership: { kind: "ownerless" } }, ctx);
await Promise.all([
  thread.submit({ type: "input", content: "@agent roll back?" }, ctx).wait(ctx),
  channel.submit({ type: "input", content: "@agent who is on call?" }, ctx).wait(ctx),
]);

확장 가능한 아키텍처: 확장 기능, 도구, 훅 및 작업

Pi Durable은 *확장 기능(extensions)*을 시스템 프롬프트 섹션, 도구, 훅 및 사용자 정의 작업의 명명된 번들로 취급합니다. 대화에는 선택된 확장 기능의 이름만 저장되므로 내구성을 해치지 않고 코드를 업그레이드할 수 있습니다. 도구는 내구성 있는 작업으로 실행되며, replay 플래그는 충돌 후 도구를 다시 실행하는 것이 안전한지 여부를 선언합니다.

const searchIssues = defineTool({
  name: "search_issues",
  description: "Search the issue tracker",
  parameters: Type.Object({ query: Type.String() }),
  replay: "safe",
  execute: async (args, api) => ({
    content: [{ type: "text", text: await tracker.search(args.query) }],
  }),
});

훅은 요청을 다시 작성하거나, 도구 호출을 차단하거나, 결정을 주입할 수 있습니다. 여러 훅은 확장 기능이 선택된 순서대로 연결되며, 각 훅은 재시작 후에도 결정이 유지되도록 메모(memo)를 저장할 수 있습니다.

hook(ToolTask, {
  beforeTool: async (call, api, ctx) => {
    if (call.name !== "deploy") return undefined;
    let approved = await api.memo<boolean>("approval:deploy", ctx);
    approved ??= await api.memo("approval:deploy", await askInSlack(call), ctx);
    return approved ? undefined : { block: "Nobody approved the deploy." };
  },
});

사용자 정의 작업은 내장 모델 및 도구 작업과 동일한 체크포인트 및 소유권 의미론을 받습니다. shop.checkout 작업 예제는 멱등성 있는 결제 처리, 빠른 실패(fail-fast) 중단, 백그라운드 대 포그라운드 실행을 보여줍니다.

끝없는 컨텍스트 윈도우를 위한 자동 압축

대화가 모델의 컨텍스트 제한에 도달하면 Pi Durable은 오래된 메시지를 요약하는 백그라운드 압축 작업을 시작합니다. 요약은 다음 턴 경계에 삽입되며, 다가오는 요청이 제한을 초과할 경우에만 대화가 요약을 기다립니다. 개발자는 수동 압축을 트리거하거나 전체 reset()을 호출하여 검색 가능한 기록을 보존하면서 새로운 컨텍스트를 시작할 수도 있습니다.

await root.compact("Keep the names of the failing tests", ctx);

타입이 지정된 문서를 통한 내구성 있는 애플리케이션 상태

애플리케이션 상태는 트랜스크립트와 함께 원자적으로 저장되는 타입이 지정된 JSON 객체인 *문서(documents)*에 존재합니다. 문서는 버전이 관리되고, 되돌릴 수 있으며, 대화 포크 전반에 걸쳐 값을 상속합니다. 할 일 목록 예제는 도구가 문서를 변경하고 UI가 실시간 업데이트를 구독하는 방법을 보여줍니다.

const Todos = defineDoc<{ items: string[] }>({
  kind: "app.todos",
  version: 1,
  scope: "conversation",
  history: "rewindable",
  fork: "asOf",
  initial: () => ({ items: [] }),
});

유연성: 가동 중지 시간 없는 핫스왑 확장 기능

확장 기능 레지스트리는 런타임에 업데이트할 수 있습니다. 기존 이름으로 확장 기능을 설치하면 이전 구현이 즉시 대체됩니다. 진행 중인 도구 호출은 시작된 코드로 완료되며, 후속 호출은 새 버전을 사용합니다. 대화에는 확장 기능 이름만 저장되므로 재시작 시 자동으로 최신 코드가 적용됩니다.

registry.install(await loadExtension("./ops.ts")); // hot-swap

멀티플레이어 협업

모든 UI 상태는 커밋된 스토리지에서 파생되므로, 여러 클라이언트가 대화에 연결하여 현재 뷰를 수신하고 증분 업데이트를 스트리밍할 수 있습니다. 클라이언트는 나중에 참여하여 트랜스크립트를 보거나 whenBusy: "steer"를 사용하여 새로운 입력을 제출함으로써 에이전트를 조종할 수 있습니다.

const view = await thread.viewState(ctx);
view.subscribe(v => render(v));
await thread.submit({ type: "input", content: "Check staging logs", whenBusy: "steer" }, ctx);

커뮤니티 반응

"Pi가 내구성 있는 에이전트 하네스를 구축하는 것을 보니 정말 멋지네요. 저도 이 분야에서 꽤 오랫동안 개발해 왔는데... 주요 플레이어들이 이 분야에서 제품을 만들고 있습니다: LangChain Deep Agents, Vercel Eve, OpenAI Agents API, Anthropic Managed Agents" – lukebuehler【source】

"테스트를 제외한 전체 소스 코드는 약 15,000줄이며, GPT로는 약 150,000 토큰, Claude로는 약 250,000 토큰 정도입니다" – ireadmevs【source】

"다중 사용자 기능이 가장 마음에 드네요. 원격 제어 도구를 더 쉽게 만들 수 있을 것 같아요" – skeledrew【source】

"훌륭합니다. 내구성 있는 애플리케이션 상태가 JSON 문서에만 국한되지 않았으면 좋겠네요. 아웃박스 패턴을 구현하는 통합된 방법이 있어야 합니다" – vmg12【source】

이러한 의견들은 커뮤니티가 Pi Durable을 기존 에이전트 프레임워크에 대한 시의적절하고 확장 가능한 대안으로 보고 있으며, 더 풍부한 상태 동기화 메커니즘과 같은 향후 개선 영역도 지적하고 있음을 보여줍니다.


시작하기

Pi Durable은 실험적인 패키지로 제공됩니다. 핵심 라이브러리를 설치하고 번들로 제공되는 예제를 살펴보세요:

npm install @earendil-works/pi-durable @earendil-works/pi-ai @earendil-works/chord
# run the demo coding agent
node packages/coding-agent/src/experimental/durable/main.ts
# run the vacation-planning demo
node packages/coding-agent/src/experimental/vacation/main.ts

저장소에는 README, 30개 이상의 테스트 기반 예제, 동시 서브 에이전트, 충돌 복구 및 실시간 문서 업데이트를 보여주는 모든 기능을 갖춘 휴가 계획 TUI가 포함되어 있습니다.


전망

Pi Durable은 항상 켜져 있는 AI 워커를 위한 최소한이면서도 강력한 기반으로 자리 잡고 있습니다. 스토리지 기반 트랜스크립트, 체크포인트 작업, 확장 가능한 확장 기능, 다중 클라이언트 뷰와 같은 설계 선택은 내구성, 확장성 및 협업의 핵심 과제를 해결합니다. 저자들이 향후 릴리스를 계획함에 따라 더 풍부한 샌드박싱, 외부 상태 저장소와의 긴밀한 통합, TypeScript를 넘어선 더 넓은 언어 지원을 기대할 수 있습니다.

Sources

관련

  • Dispatch
  • 프로젝트
  • Dispatch
  • 프로젝트
  • Dispatch