agiresearch/AIOS

AIOS – AI 에이전트 운영체제

무엇인가요

AIOS는 대규모 언어 모델(LLM)을 전통적인 OS의 커널처럼 핵심 시스템 서비스로 다루는 소프트웨어 스택입니다. 개발자가 스케줄링, 메모리/스토리지 관리, 도구 처리, 프로세스 간 통신과 같은 저수준 문제를 다시 구현하지 않고도 LLM 기반 에이전트를 개발, 배포, 실행할 수 있도록 인프라를 제공합니다.
지금 보고 계신 리포지토리는 AIOS 커널("OS" 계층)을 포함하고 있습니다. 보조 SDK인 Cerebrum은 별도의 리포지토리에 있으며, 에이전트 개발자가 커널과 통신하기 위해 사용하는 API를 제공합니다.

왜 중요한가요

LLM 기반 에이전트가 점점 더 강력해지면서 커뮤니티는 OS 개발자가 수십 년 전에 해결한 문제들—자원 격리, 라이프사이클 관리, 외부 도구와의 안전한 상호작용—에 직면하고 있습니다. AIOS는 이러한 문제들을 통합적이고 확장 가능한 방식으로 해결하여, 견고하고 재사용 가능한 에이전트를 만드는 것을 더 쉽게 만듭니다.
커널 스타일의 시스템콜 인터페이스를 공개함으로써, ReAct, Reflexion, AutoGen, Open-Interpreter, MetaGPT 등 다양한 에이전트 프레임워크가 동일한 플랫폼에서 작동할 수 있게 되어, 에이전트용 "앱 스토어" 스타일의 생태계를 촉진합니다.

핵심 구성 요소

구성 요소	역할
AIOS 커널 (이 리포지토리)	호스트 OS를 추상화하고, LLM 인스턴스, 메모리, 스토리지, 도구 풀, 그리고 컴퓨터 사용 에이전트를 위한 사전화된 VM을 시작할 수 있는 도구 매니저를 관리합니다.
Cerebrum SDK	에이전트가 시스템콜(`run_tool`, `read_memory`, `write_file` 등)을 호출하기 위해 임포트하는 Python 라이브러리입니다.
에이전트 허브 머신(AHM)	에이전트 마켓플레이스를 호스팅하는 중앙 서버입니다.
에이전트 UI 머신(AUM)	사용자가 에이전트와 상호작용하는 장치(Web UI 또는 터미널 UI).
에이전트 개발 머신(ADM)	개발자가 에이전트를 작성하고 테스트하는 장소입니다.
에이전트 실행 머신(ARM)	실제로 에이전트 코드를 실행하는 컴퓨팅 노드입니다.

지원되는 배포 모드

시작 방법

설치 – 리포지토리를 클론하고, Python 3.10/3.11 가상 환경을 생성한 후 종속성 설치(requirements-cuda.txt 또는 requirements.txt로 GPU 또는 CPU 전용). 문서에서는 빠른 설치기인 uv를 추천하지만, pip도 작동합니다.
구성 – aios/config/config.yaml을 편집하거나, 인터랙티브한 aios env … 명령어를 사용하여 OpenAI, Anthropic, Gemini, Groq, Deepseek, HuggingFace 등의 API 키를 입력하고, 사용할 LLM 백엔드(Ollama, vLLM, HuggingFace 등)를 목록에 추가합니다.
시작 – bash runtime/launch_kernel.sh를 실행하거나, uvicorn runtime.launch:app으로 FastAPI 서버를 수동으로 시작합니다. 커널은 설정 가능한 호스트/포트에서 대기합니다.
상호작용 –
- Web UI – 로그에 표시된 URL로 제공된 웹 인터페이스를 엽니다.
- 터미널 UI – python scripts/run_terminal.py를 실행하여 "의미적 파일 시스템"에 자연어 명령어를 입력해 파일 시스템 작업으로 변환합니다.
에이전트 개발 – Python 프로젝트에서 Cerebrum SDK를 임포트하고 제공된 시스템콜을 호출하며, 필요에 따라 AHM에 에이전트를 등록하여 다른 사용자가 다운로드할 수 있도록 합니다.

에코시스템 및 통합

에이전트 프레임워크 – AIOS는 OpenAGI, AutoGen, Open-Interpreter, MetaGPT 등 다양한 프레임워크로 작성된 에이전트를 호스팅할 수 있습니다.
도구 백엔드 – Google 검색, WolframAlpha, RapidAPI 등의 외부 서비스 및 HuggingFace에서의 확산 모델과 같은 로컬 도구를 내장 지원합니다. 도구 매니저는 안전한 컴퓨터 사용 에이전트를 위한 사전화된 VM(MCP 서버)을 시작할 수도 있습니다( LiteCUA 프로젝트 참조).
LLM 코어 – HuggingFace, vLLM, Ollama, Deepseek API를 통해 오픈소스 모델의 네이티브 함수 호출을 지원합니다. README에는 Llama-3.1, Qwen2.5, Deepseek-r1 시리즈 등 수많은 모델 패밀리가 지원된다고 나와 있습니다.

현재 성숙도

프로젝트는 활발히 유지보수 중이며(최근 소식은 2025년 7월), 최근 릴리스인 v0.2.2는 대규모 리팩터링, 다수의 모델 백엔드 지원, 기능적인 터미널 UI를 포함합니다.
COLM 2025, NAACL 2025, ICLR 2025 등 주요 컨퍼런스에 AIOS 커널, Cerebrum SDK, LiteCUA, A-MEM, 의미적 파일 시스템 관련 논문이 다수 채택되어 연구 수준의 기반을 지닌다는 것이 입증되었습니다.
커뮤니티 채널: Discord, Gurubase Q&A, 공개 문서 사이트.

누가 사용해야 할까요

새로운 LLM-에이전트 알고리즘을 개발하는 연구자 – 자체 스케줄링 및 도구 호출 코드를 만들지 않고도 안정적인 런타임을 원하는 사람.
에이전트 기능(예: AI 어시스턴트, 자율 봇)을 제품화하려는 프로덕트 팀 – 무거운 LLM 커널과 가벼운 프론트엔드를 명확히 분리하고 싶은 사람.
여러 LLM 백엔드와 도구 통합을 실험하고 싶은 개발자 – 각 모델마다 글루 코드를 다시 작성하지 않아도 되는 사람.

결론 – AIOS는 진정한 오픈소스의 OS 스타일 플랫폼으로, LLM 에이전트를 위한 것입니다. 리소스 관리, 도구 사전화, 다중 머신 배포와 같은 번거로운 인프라 작업을 추상화하여, 사용자는 에이전트 로직에만 집중할 수 있습니다.