christopherkarani/Swarm

해결하는 문제

Swarm은 AI 에이전트 및 멀티 에이전트 워크플로우 생성을 단순화하기 위해 설계된 Swift 프레임워크입니다. Apple 생태계를 위한 네이티브하고 타입 안전하며 동시성 안전한 에이전트 프레임워크의 부재를 해결하여, 온디바이스 또는 커스텀 백엔드를 통해 실행할 수 있는 복잡한 AI 파이프라인을 구축할 수 있는 구조화된 방법을 제공합니다.

작동 원리

Swarm은 개발자가 에이전트와 도구를 정의하는 그래프 기반 실행 모델을 사용합니다. Swift 6.2의 엄격한 동시성(strict concurrency)을 활용하여 데이터 레이스 안전성을 보장합니다. 이 프레임워크는 @Tool 매크로를 제공하여 컴파일 시점에 Swift 구조체로부터 JSON 스키마를 생성함으로써 타입 안전한 도구 호출을 보장합니다. 워크플로우는 유향 비순환 그래프(DAG)로 컴파일되며, 지속적인 체크포인팅을 지원하여 크래시 발생 후 특정 상태에서 프로세스를 재개할 수 있습니다.

대상 사용자

주로 iOS, macOS, tvOS 및 Linux용 AI 애플리케이션을 구축하는 Swift 개발자, 특히 API 키 없이 프라이버시가 보호되는 로컬 추론을 위해 Apple의 온디바이스 Foundation Model을 활용하고자 하는 개발자를 대상으로 합니다.

주요 특징

• 온디바이스 우선: 로컬 추론을 위한 Apple Foundation Model 내장 지원.
• 타입 안전한 도구화: Swift 매크로를 사용하여 도구의 타입 안전성을 보장하고 컴파일 시점에 스키마를 생성.
• 지속 가능한 워크플로우: 장시간 실행되는 에이전트 작업을 재개하기 위한 체크포인팅 및 크래시 복구 지원.
• 네이티브 동시성: Swift 6.2의 StrictConcurrency 및 스트리밍 출력을 위한 AsyncThrowingStream과 완전 통합.
• 유연한 오케스트레이션: 순차적, 병렬, 라우팅 및 repeat-until 워크플로우 패턴 지원.
• 포괄적인 메모리: 벡터, 슬라이딩 윈도우, 요약 메모리와 같은 다양한 메모리 전략 포함.