NPC-Worldwide/npcpy

해결하는 문제

npcpy는 멀티모달 언어 모델, 에이전트 AI, 그리고 지식 그래프를 위한 통합 인터페이스를 제공하여 복잡한 AI 애플리케이션 개발을 단순화하도록 설계된 라이브러리입니다. 다양한 로컬 및 클라우드 LLM 제공업체 간의 전환 시 발생하는 마찰을 제거하고, AI 페르소나, 멀티 에이전트 협업, 그리고 장기 기억을 관리하는 구조화된 방법을 제공합니다.

작동 방식

이 라이브러리는 사용자와 다양한 LLM 제공업체(Ollama, Llama.cpp, Gemini, OpenAI 등) 사이의 데이터 레이어 역할을 합니다. 프롬프트에만 의존하기보다 소프트웨어 로직을 통해 애플리케이션 준수성을 보장하기 위해 "Context-Agent-Tool" 아키텍처를 사용합니다.

주요 구성 요소는 다음과 같습니다:

• NPCs and Agents: 특정 지침을 가진 페르소나를 위한 고수준 추상화입니다. CodingAgent와 같은 특화된 에이전트는 코드를 자동 실행할 수 있으며, ToolAgent는 사용자 정의 Python 함수로 확장할 수 있습니다.
• NPCArray: 여러 모델에 걸쳐 병렬 추론을 실행하고 멀티 에이전트 토론 또는 반복적인 정제 체인을 관리하기 위한 프레임워크입니다.
• Knowledge Graphs: "sleep" (통합/가지치기) 및 "dream" (추측적 연결 생성) 프로세스를 포함하여 점진적인 진화 라이프사이클을 지원하는 메모리 시스템입니다.
• Team Orchestration: 독립형 스크립트로 실행할 수 있는 구성 파일(.npc, .jinx, .ctx)을 통해 멀티 에이전트 팀을 정의하는 시스템입니다.

대상 사용자

이 라이브러리는 에이전트 AI 시스템, 멀티모달 애플리케이션, 또는 구조화된 멀티 에이전트 상호작용과 지속적이고 진화하는 지식 베이스가 필요한 시뮬레이션을 구축하는 연구자와 개발자를 위해 만들어졌습니다.

주요 특징

• Provider Agnostic: 단일 API를 통해 로컬(Ollama, LM Studio 등) 및 클라우드 제공업체(Gemini, OrcaRouter 등)를 지원합니다.
• Multi-Agent Debate: 서로 다른 AI 페르소나 간의 병렬 추론 및 합의 형성을 위한 내장 도구를 제공합니다.
• Automated Coding: CodingAgent는 작업을 자율적으로 해결하기 위해 스크립트를 작성하고 실행할 수 있습니다.
• Lifecycle-based Memory: 데이터 정제를 위해 생물학적 영감을 받은 sleep 및 dream 주기를 갖춘 지식 그래프를 구현합니다.
• Multimodal Support: 이미지, 오디오, 비디오 생성을 위한 통합된 기능을 제공합니다.
• Structured Output: 신뢰할 수 있는 데이터 추출을 위해 JSON 및 Pydantic 모델을 기본적으로 지원합니다.