apocas/restai

RESTai – AI‑as‑Service 플랫폼

무엇인가 – 자체 호스팅 웹 서비스로, 간단한 REST API와 내장된 React 대시보드를 통해 AI 프로젝트(LLM 채팅, RAG, 에이전트, 이미지 생성 등)를 생성·관리·노출할 수 있습니다. 코드를 작성하지 않고도 LLM 기반 애플리케이션을 실행하는 데 필요한 모든 것을 제공: 데이터 수집, 벡터 스토어, 프롬프트 버전 관리, 분석, 멀티 테넌트 팀, 선택적 Kubernetes/Docker 배포.

핵심 기능

• 멀티 프로젝트 관리 – 각 프로젝트가 자체 LLM(OpenAI, Anthropic, Ollama, Gemini, Azure, LiteLLM, vLLM 등)과 설정을 선택할 수 있습니다.
• RAG 및 지식 그래프 – 문서를 업로드하고 URL/S3/Confluence/SharePoint/Google Drive에서 동기화, 벡터 DB에 저장, 필요 시 NER을 실행해 엔터티 그래프를 구축해 검색 품질을 향상.
• 에이전트와 MCP – 제로샷 ReAct 에이전트에 내장 도구(Playwright 기반 브라우저 자동화, 터미널, 분류기 등)를 제공하고 Model Context Protocol을 지원해 커스텀 도구를 노출합니다.
• 시각적 블록 빌더 – Blockly 스타일 흐름 편집기로 코딩 없이 파이프라인을 구성; 다른 RESTai 프로젝트를 호출할 수도 있습니다.
• 분석 및 비용 추적 – 대시보드에 토큰 사용량, 레이턴시, 프로젝트별 지출 및 가드레일 통계 표시.
• 보안 및 거버넌스 – RBAC, OAuth/LDAP, TOTP 2FA, 암호화 비밀 금고, 프로젝트별 속도 제한, 입력/출력 가드, 감사 로그.
• OpenAI 호환 엔드포인트 직접 제공 – /v1/chat/completions, /v1/images/generations, /v1/audio/transcriptions 를 바로 사용할 수 있습니다.
• 배포 가능성 – PyPI(restai-core), Docker 이미지(apocas/restai), Kubernetes 중 선택해 설치; GPU를 자동 감지하고 적절한 의존성을 설치합니다.

전형적인 사용 사례

• 기업 내부 지식베이스 챗봇(RAG와 문서 동기화).
• 웹사이트에 삽입하는 고객 지원 위젯.
• 공급업체 포털에 로그인하고 데이터를 스크래핑해 보고서를 생성하는 자동화 에이전트.
• 각 클라이언트에게 자체 브랜드 AI 콘솔을 제공하는 멀티팀 SaaS.
• 시각적 Block IDE를 활용한 AI 파이프라인 빠른 프로토타이핑.

시작하기

pip install restai-core          # 백엔드 + React UI 설치
restai init                      # DB 및 관리자 사용자 생성
restai migrate                   # 마이그레이션 적용
restai serve -p 8080 -w 4        # http://localhost:8080/admin 실행

또는 공식 Docker 이미지를 실행:

docker run -p 9000:9000 apocas/restai:latest

두 방법 모두 전체 UI(admin/admin)와 REST 엔드포인트를 제공합니다.

라이선스 – Apache 2.0 (README의 배지를 참고).

---

위 정보는 저장소 README에서 직접 가져온 것이며, 추가 기능은 추론하지 않았습니다.