ogx-ai/ogx

OGX 설명 (README 기반)

작업 OGX는 노트북, 데이터 센터 또는 클라우드 등 어디에서나 LLM 및 에이전트 워크플로우를 실행할 수 있도록 OpenAI 호환 API 서버를 제공합니다.

입력 서버 엔드포인트에 대한 HTTP 요청, 예:

• /v1/chat/completions – 채팅 프롬프트
• /v1/embeddings – 임베딩할 텍스트
• /v1/files – 파일 업로드
• /v1/vector_stores – RAG용 문서
• /v1/batches – 배치 작업 사양
• /v1alpha/skills – 스킬 번들 매니페스트
• Anthropic /v1/messages 및 Google GenAI /v1alpha/interactions 호출

출력 서버의 응답, 예:

• 생성된 채팅 완성
• 임베딩 벡터
• 파일 및 벡터 스토어 ID
• 배치 작업 상태/결과
• 스킬 호출 출력
• Anthropic 또는 Google GenAI API의 응답

아키텍처

• 플러그형 프로바이더 레이어 – API를 변경하지 않고 백엔드(Ollama, vLLM, 관리형 서비스)를 교체할 수 있습니다.
• 코어 API 레이어 – OpenAI Chat/Completions/Embeddings, Responses API(도구 호출, MCP, 파일 검색을 포함한 에이전트 오케스트레이션), Vector Stores & Files, Batches, Skills, 그리고 네이티브 Anthropic 및 Google GenAI SDK 엔드포인트를 구현합니다.
• Open Responses 준수 – Responses API는 Open Responses 테스트 스위트를 통과합니다.
• 멀티 SDK 지원 – 클라이언트는 동일한 서버에 대해 OpenAI, Anthropic 또는 Google GenAI SDK를 사용할 수 있습니다.

학습 데이터 N/A – OGX는 서빙 프레임워크이며, 학습되는 모델이 아닙니다.

손실 N/A – 학습 손실이 포함되지 않습니다.

실행 방법 (README에서)

# Install
curl -LsSf https://github.com/ogx-ai/ogx/raw/main/scripts/install.sh | bash
# or: uv pip install ogx
# Start
uv run ogx go

그런 다음 모든 OpenAI 호환 클라이언트(또는 Anthropic/Google GenAI 클라이언트)를 http://localhost:8321/v1(또는 적절한 SDK 엔드포인트)로 지정하십시오.

주요 기능 강조

• OpenAI API의 드롭인 대체제.
• 모델 불가지론(Model-agnostic): Llama, GPT, Gemini, Mistral 등과 함께 작동합니다.
• 도구 호출, MCP 서버 통합 및 파일 검색 RAG를 포함한 내장 에이전트 오케스트레이션(Responses API).
• 관리형 벡터 스토어 및 파일 저장소.
• /v1/batches를 통한 오프라인 배치 처리.
• 버전 관리된 스킬 번들 (/v1alpha/skills).
• 공식 Python 및 TypeScript 클라이언트 SDK, 그리고 OpenAPI로 생성된 대안.
• Discord 및 정기적인 통화를 통한 커뮤니티 지원.