ByronLeeeee/Ollama-For-AMD-Installer
This project simplifies the installation process of likelovewant's library, making it easier for users to manage and update their AMD GPU-compatible Ollama installations.
해결하는 문제
이 도구는 Windows 환경의 Ollama에서 커뮤니티 기반 AMD GPU 지원을 설치하고 관리하는 과정을 간소화합니다. 공식 Ollama 애플리케이션에 ROCm 라이브러리를 주입하는 복잡한 과정을 자동화하여 AMD 그래픽 카드 및 APU에서 하드웨어 가속을 활성화합니다.
작동 방식
이 설치 프로그램은 다음과 같은 기능을 처리하는 그래픽 사용자 인터페이스(GUI)를 제공합니다:
- 하드웨어 감지: 사용자의 AMD GPU를 자동으로 식별하여 올바른 ROCm 아키텍처 프로필을 선택합니다.
- 자동 배포: 호환성을 보장하기 위해 Ollama 애플리케이션과 ROCm 라이브러리(예: ROCm 7.1.1 또는 6.4.2)의 일치하는 버전을 다운로드하고 페어링합니다.
- 주입 프로세스: Ollama 설치 디렉토리 내의 시스템 DLL을 커뮤니티에서 제공하는 AMD 라이브러리로 교체합니다.
- 복구 및 안전: 주입 전에 영향을 받는 파일의 백업을 생성하여 설치 실패 시 변경 사항을 롤백할 수 있도록 합니다.
- 문제 해결: 일반적인 런타임 오류(예:
0xc0000005)에 대한 원클릭 수정 기능과 Vulkan 모드 구성 유틸리티가 포함되어 있습니다.
대상 사용자
AMD GPU 또는 APU를 사용하는 Windows 사용자 중, 하드웨어 가속을 사용하여 Ollama를 실행하고 싶지만 ROCm 라이브러리 수동 설치가 어렵게 느껴지는 분들을 위한 도구입니다.
주요 특징
- 자동화된 워크플로우: 일치하는 앱/라이브러리 쌍의 전체 설치 또는 기존 Ollama 설정에 라이브러리를 주입하는 기능을 모두 지원합니다.
- 스마트 다운로더: GitHub 다운로드 중 불안정한 네트워크 환경에 대응하기 위한 프록시 테스터 및 미러 선택 기능을 포함합니다.
- 하드웨어 인식: AMD GPU 프로필을 자동으로 감지하는 내장 스캐너가 포함되어 있습니다.
- 안전 기능: 다운로드 파일에 대한 자동 SHA-256 검증과 주입된 파일에 대한 다단계 백업/복원 시스템을 제공합니다.
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트