octotools/octotools

해결하는 문제

OctoTools는 추가 훈련 없이 다양한 도메인(수학, 의학, 일반 지식 등)에 걸친 복잡한 추론 작업을 처리하도록 설계되었습니다. 외부 도구를 통합하고 최적화하기 위한 구조화된 프레임워크를 제공함으로써 다단계 추론 및 정확한 도구 사용에서 LLM의 한계를 해결합니다.

작동 방식

이 프레임워크는 세 가지 주요 구성 요소로 구성됩니다:

• 도구 카드: 도구 기능을 캡슐화하는 표준화된 메타데이터 컨테이너로, 핵심 에이전트 로직을 변경하지 않고 새 도구를 추가하거나 업데이트할 수 있습니다.
• 플래너: 높은 수준의 전역 목표와 낮은 수준의 단계별 작업 세분화를 모두 관리합니다.
• 실행기: 계획된 작업을 실행 가능한 명령으로 변환하고, 도구를 실행하며, 구조화된 결과를 컨텍스트에 저장하여 최종 답변을 요약합니다.

또한 주어진 작업에 가장 효과적인 도구 하위 집합을 식별하기 위한 작업별 도구 세트 최적화 알고리즘을 포함합니다.

대상 사용자

복잡한 다중 모달 추론(텍스트 및 이미지)을 수행해야 하고 다양한 외부 API 및 로컬 모델을 통합할 수 있는 유연하고 확장 가능한 방법이 필요한 AI 에이전트를 구축하는 개발자와 연구자를 대상으로 합니다.

주요 특징

• 훈련 불필요: 모델을 재훈련하거나 프레임워크를 개선하지 않고 새 도구를 통합할 수 있습니다.
• 광범위한 모델 지원: OpenAI, Claude, Gemini, DeepSeek, Grok, vLLM 및 Ollama를 포함한 다양한 LLM 엔진과 호환됩니다.
• 확장 가능한 아키텍처: 모듈식 도구 카드 설계로 사용자 정의 도구를 쉽게 추가할 수 있습니다.
• 입증된 성능: MathVista 및 GAIA-Text를 포함한 다양한 벤치마크에서 AutoGen 및 LangChain과 같은 기준선을 능가합니다.