modelscope/ms-agent

MS-Agent: a lightweight framework to empower agentic execution of complex tasks

MS‑Agent – 경량이고 확장 가능한 자율 AI 에이전트 프레임워크

무엇인가요 – MS‑Agent(이전 이름: modelscope‑agent)는 개발자가 "에이전트"(LLM 기반 프로그램)를 구축하고 실행하며 사용자 정의할 수 있는 오픈소스 Python 라이브러리입니다. 이 에이전트는 도구를 호출하고, 기억을 유지하며, 스스로 데이터를 탐색할 수 있습니다. 기본적으로 Model Calling Protocol (MCP) 레이어를 통해 ModelScope의 추론 서비스와 통신하며, Anthropic Agent‑Skills 프로토콜을 따르는 스킬 시스템, 그리고 인터랙티브한 채팅을 위한 작은 React + FastAPI 웹 UI를 제공합니다.

주요 기능 (README에 기술됨)

  • 도구 호출 기능이 있는 멀티에이전트 채팅 – MCP를 통해 외부 유틸리티(검색, 코드 실행, 동영상 생성 등)를 호출할 수 있습니다.
  • 심층 리서치 / 에이전트 인사이트 – 자율적인 문헌 또는 데이터 리서치를 위한 전용 워크플로우로, DeepResearch 벤치마크에서 높은 점수를 기록합니다.
  • 코드 생성 및 동영상 생성 – 코드 아티팩트와 짧은(약 5분) 동영상을 생성하기 위한 내장된 프로젝트(Code Genesis, Singularity Cinema)가 있습니다.
  • 에이전트 스킬 – 하이브리드 FAISS + BM25 검색을 통해 관련 스킬을 검색하고, LLM으로 필터링하며, 종속성 DAG를 구성하고, 독립적으로 병렬로 스킬을 실행합니다.
  • 기억 지원mem0 라이브러리를 통해 선택적 영구 기억을 제공하여, 사용자 선호 사항을 세션 간에 기억할 수 있습니다.
  • 다중 모달 입력 – 이미지, 동영상 및 기타 모달리티를 에이전트에 전달할 수 있습니다.
  • 컨텍스트 압축 – 긴 대화 기록을 자동으로 정리하고 요약하여 토큰 제한 내에 유지합니다.
  • 웹 UI – 로컬 React 라우터 + FastAPI 서버로, Server-Sent Events를 통해 에이전트 응답을 스트리밍합니다.
  • 에이전트 허브 CLI – 에이전트 워크스페이스를 원격 ModelScope 리포지토리와 동기화하고, 변경 사항을 감시하며, 다양한 에이전트 형식 간 변환을 지원하는 명령어입니다.

일반적인 워크플로우 (빠른 시작 예제)

  1. PyPI에서 패키지를 설치 (기본 또는 [research] 확장 기능 포함).
    pip install ms-agent            # 핵심 기능
    pip install 'ms-agent[research]'  # 심층 리서치 기능
    
  2. ModelScope API 키를 내보내기 (기본 LLM 백엔드에 필요).
    export MODELSCOPE_API_KEY=YOUR_KEY
    
  3. MCP 구성이 포함된 LLMAgent를 생성하고 run()을 호출하는 짧은 비동기 스크립트를 작성:
    import asyncio
    from ms_agent import LLMAgent
    
    mcp = {
        "mcpServers": {
            "fetch": {
                "type": "streamable_http",
                "url": "https://mcp.api-inference.modelscope.net/YOUR_UUID/mcp"
            }
        }
    }
    
    async def main():
        agent = LLMAgent(mcp_config=mcp)
        await agent.run('Introduce modelscope.cn')
    
    asyncio.run(main())
    
  4. 스크립트를 실행하면 에이전트가 응답을 스트리밍으로 반환하며, 필요 시 제공된 웹 UI를 통해 확인할 수 있습니다.

프레임워크 확장 방법

  • ms_agent/skill/ 아래에 Python 모듈을 추가하고 스킬 매니페스트에 설명하면, 시스템이 자동으로 탐지하고 검색하며 조합합니다.
  • 커스텀 도구(예: 금융 데이터 수집기)를 연결하고 MCP를 통해 에이전트가 대화 중에 호출할 수 있도록 노출합니다.
  • LLM 백엔드를 교체 가능. 기본은 ModelScope의 추론 API이지만, MCP 형식을 준수하는 모든 OpenAI 호환 엔드포인트로 연결할 수 있습니다.
  • mem0ai를 설치하고 DashScope 임베딩 키를 제공하면 기억 기능을 활성화. 에이전트는 영구 벡터 스토어에서 컨텍스트를 저장하고 검색합니다.

누가 사용할 수 있나요

  • 문헌 리뷰, 데이터 마이닝, 금융 분석용 자율 에이전트를 구축하는 연구자.
  • 코드 생성, 동영상 생성, 웹 검색 등 다양한 도구를 갖춘 LLM 어시스턴트를 빠르게 프로토타이핑해야 하는 개발자.
  • 자체 호스팅된 UI를 통해 에이전트와 상호작용하면서도 하위 아키텍처는 모듈식으로 유지하고 싶은 팀.

더 알아보기


TL;DR – MS‑Agent는 실질적으로 유지보수 중인 Python 프레임워크로, 자율적이고 도구 호출 가능한 LLM 에이전트를 구축하는 데 적합합니다. 프로토콜 레이어(MCP), 스킬 검색/실행 엔진, 기억 지원, 다중 모달 입력, 경량 웹 UI를 통합하여 연구용 프로토타입 및 소규모 프로덕션 어시스턴트에 적합합니다.

관련

  • Dispatch
  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트