landingbj/LinkMind

해결하는 문제

LinkMind는 비즈니스 시스템과 다양한 AI 모델 제공자, 사내 지식 기반, 에이전트 런타임의 복잡성을 분리하는 안정적이고 엔터프라이즈 수준의 미들웨어 계층을 제공합니다. 모델 전환 또는 새로운 기능 추가 시 개발자가 제공자별 코드를 재작성할 필요 없이, 중앙에서 거버넌스, 라우팅, 비용 통제를 관리할 수 있습니다.

작동 방식

다양한 작업(채팅, RAG, OCR, ASR/TTS, 이미지/비디오 워크플로우 등)을 위한 네이티브 및 OpenAI 호환 API를 노출하는 멀티모달 AI 게이트웨이로 작동합니다. 시스템은 중앙 구성 파일(lagi.yml)을 사용하여 다중 모델 라우팅, 장애 대체, 오케스트레이션을 관리합니다. Chroma, Milvus, Pinecone 등 다양한 벡터 스토어와 통합되어 RAG를 지원하며, "Token Grid" 아키텍처를 도입하여 여러 LinkMind 노드를 캐스케이드 네트워크로 연결할 수 있습니다. 각 노드는 자체 로컬 모델, 도구, 지식을 제공할 수 있습니다.

대상 사용자

OpenClaw, Hermes Agent, DeerFlow, OpenHuman과 같은 다양한 AI 모델 및 에이전트 프레임워크를 안정성, 보안, 낮은 진입 장벽을 고려해 프로덕션 환경에 통합해야 하는 팀 및 기업.

주요 특징

• 멀티모달 미들웨어: 채팅, OCR, ASR/TTS, 이미지/비디오 이해, 텍스트에서 SQL로 변환을 하나의 계층에서 통합.
• Airank 라우팅: 제공자별 로직을 하드코딩하지 않고 중앙 집중식 모델 라우팅, 순위 매기기, 장애 대체를 지원.
• RAG 및 그래프 증강: 여러 벡터 데이터베이스에 직접 연결 가능하며, 복잡한 기업 지식에 적합한 그래프 기반 컨텍스트 지원.
• Medusa 캐시: 반복 응답에 대한 지연 시간을 줄이기 위한 내장 가속 기능.
• Token Grid: 노드가 지능 기능의 소비자이자 제공자로 작동하는 캐스케이드 네트워크 토폴로지.
• 에이전트 런타임 통합: OpenClaw 및 OpenHuman과 같은 로컬 에이전트 프레임워크와의 원활한 연결을 위한 사전 구축된 훅 제공.