lucidrains/clinical-calculator-tooluse
Explorations into training LLMs to use clinical calculators from patient history, using open sourced models. Will start with Wells' Criteria
해결하는 문제
이 프로젝트는 환자의 병력에서 필요한 정보를 추출하여 대규모 언어 모델(LLM)이 임상 계산기—질병 위험을 예측하거나 진단하는 데 사용되는 전문적인 의료 도구—를 정확히 활용할 수 있도록 하는 방법을 탐구합니다.
작동 방식
오픈소스 모델을 활용하여 도구 사용 능력을 실험하며, 특히 의료 기록에서 올바른 데이터 포인트를 식별하고 임상 계산기에 입력하는 능력을 모델에 훈련시키는 데 초점을 맞춥니다. 초기에는 폐색전증 위험 평가를 위한 웰스 기준(Wells' Criteria)에 집중합니다.
대상 사용자
의료 AI, LLM의 도구 사용 훈련, 오픈소스 모델을 임상 의사결정 지원에 적용하는 데 관심이 있는 연구자 및 개발자.
주요 특징
- 임상 계산기 도구 사용에 중점
- 오픈소스 LLM 사용
- 초기 구현은 웰스 기준에 집중
관련
- 프로젝트
simonw/llm원격 API 및 로컬 설치를 통해 여러 LLM과 상호작용할 수 있는 CLI 도구이자 Python 라이브러리로, 내장 로깅 및 구조화된 데이터 추출 기능을 제공합니다.
- 프로젝트
OpenTSLM/OpenTSLMOpenTSLM은 Llama 3.2 및 Gemma LLM에 네이티브 시계열 처리 기능을 추가하는 오픈소스 라이브러리로, ECG, EEG, 가속도계 등 의료 신호에 대한 자연어 프롬프트 및 추론을 가능하게 합니다. 사전 학습된 체크포인트, 간단한 `OpenTSLM` Python API, 여러 벤치마크 작업을 위한 데모 스크립트, MCQ, 캡션 생성, 체인 오브 써드 추론 단계를 포함하는 커리큘럼 학습 트레이닝 파이프라인을 제공합니다. `pip install opentslm`로 설치하고, Hugging-Face에서 모델을 로드한 후 제공된 스크립트로 미세 조정 또는 평가가 가능합니다. MIT 라이선스.
- Dispatch
- 프로젝트
- 프로젝트
lyogavin/airllmAirLLM은 모델 레이어를 디스크에서 스트리밍하여 GPU에 한 번에 하나의 레이어만 유지하는 Python 라이브러리입니다. 이를 통해 4-12 GB GPU에서 70B 이상의 LLM 추론이 가능하며, 6 GB 미만의 메모리에서 125B 모델을 미세 조정할 수 있습니다. 대부분의 오픈 소스 LLM 제품군을 지원하고, 속도 향상을 위한 선택적 4/8비트 블록 압축을 제공하며, Linux, Windows 및 Apple Silicon에서 작동합니다.