thunderbolt: 로컬 및 프론티어 모델을 지원하는 온프레미스 배포용 크로스 플랫폼 AI 클라이언트

해결하고자 하는 문제

Thunderbolt는 벤더 종속성을 없애고 사용자가 AI 경험을 완전히 제어할 수 있도록 설계되었습니다. 사용자가 직접 모델을 선택하고 데이터를 소유할 수 있도록 온프레미스에 배포 가능한 크로스 플랫폼 클라이언트를 제공합니다.

작동 방식

다양한 모델 제공자와 연결되는 오픈 소스 AI 클라이언트로 동작합니다. 사용자는 OpenAI 호환 제공자를 위한 API 키를 통해 프론티어 모델을 통합하거나 Ollama, llama.cpp와 같은 로컬 추론 엔진을 사용해 무료·프라이빗 로컬 추론을 수행할 수 있습니다.

대상 사용자

데이터 프라이버시와 보안 때문에 온프레미스 배포가 필요한 기업 고객과, 데스크톱·모바일 플랫폼 전반에 걸쳐 자체 호스팅 AI 인터페이스를 원하는 개인 사용자를 주 대상으로 합니다.

주요 특징

• 크로스 플랫폼 지원: 웹, iOS, Android, macOS, Linux, Windows에서 동작합니다.
• 온프레미스 배포: Docker Compose 또는 Kubernetes를 통한 자체 호스팅을 지원합니다.
• 모델 유연성: 프론티어, 로컬, 온프레미스 모델과 호환됩니다.
• 오픈 소스: Mozilla Public License 2.0 라이선스로 제공됩니다.