gabrielchasukjin/cloi

해결하는 문제

Cloi는 터미널용 로컬 우선 코드 에이전트로, 자연어 인터페이스를 통해 코드베이스와 상호작용할 수 있습니다. 완전히 로컬에서 Ollama를 사용함으로써 외부 API 키가 필요 없으며, 모든 데이터가 호스트 머신에서 유지됩니다.

작동 방식

Cloi는 Ollama와 통합되어 에이전트가 파일을 읽고, 검색하고, 편집하며, 쉘 명령어를 실행할 수 있는 도구 사용 루프를 수행합니다. 정확성을 보장하기 위해 여러 신뢰성 메커니즘을 사용합니다:

• 하드웨어 인식 모델 선택: VRAM, RAM, 코어 수를 측정하여 각 단계에 적합한 주 모델과 복잡한 작업용 더 큰 백업 모델을 제안합니다.
• 에스컬레이션 로직: 에이전트가 막히면(예: 반복적인 동일한 호출 또는 연속된 도구 실패), 자동으로 더 큰 백업 모델로 대화를 넘깁니다.
• 검증: 파일 내용에 대한 주장은 실제 워크스페이스 상태와 비교하여 검증되어 환각을 방지합니다.
• 결과 캐싱: 큰 결과는 저장되어 나중에 다시 불러올 수 있어 중복된 도구 호출을 줄입니다.
• 파이썬 인터프리터: 세션 전체 동안 사용 가능한 인터프리터를 통해 복잡한 논리, 산술, 또는 파일 작업을 하나의 셀에서 수행할 수 있어 여러 도구 호출이 필요 없습니다.
• 컨텍스트 관리: Ollama가 토큰을 조용히 버리는 대신, 오래된 대화 부분을 요약하여 컨텍스트를 유지합니다.

대상 사용자

완전히 개인 정보 보호되며, 자신의 하드웨어에서 로컬로 실행되며 터미널 내에서 직접 작동하는 AI 코드 어시스턴트를 원하는 개발자들입니다.

주요 특징

• 로컬 우선: Ollama로 구동되며 API 키나 데이터 전송이 필요 없습니다.
• 동적 모델 라우팅: 작업 유형을 미리 추측하는 대신, 관찰된 실패에 따라 더 큰 모델로 전환합니다.
• 내장 검증: 인용문과 줄 번호를 실제 파일과 자동으로 비교하여 확인합니다.
• 통합 파이썬 인터프리터: 에이전트 워크플로우 내에서 효율적인 데이터 처리 및 반복을 가능하게 합니다.
• 워크스페이스 가드레일: 경로를 워크스페이스로 제한하고, 쓰기 및 쉘 명령어 실행에는 사용자 승인이 필요합니다.