richardgill/llm-ui
The React library for LLMs
해결하는 문제
React 애플리케이션에서 대규모 언어 모델(LLM)의 스트리밍 텍스트를 렌더링할 때 발생하는 일반적인 시각적 결함 및 성능 문제(예: 스트림 중 깨진 마크다운 구문 표시, 출력 움직임이 끊기는 현상)를 해결합니다.
작동 방식
이 라이브러리는 스트리밍 출력을 처리하는 헤드리스 React 컴포넌트 시스템을 제공합니다. 스로틀링을 사용하여 스트림의 일시 중지를 부드럽게 하고, 네이티브 프레임 속도로 렌더링하여 유연한 사용자 경험을 보장합니다. 또한 Shiki와 통합하여 고품질 코드 블록 렌더링을 제공하며, 개발자가 LLM 출력에 자체 사용자 정의 컴포넌트를 통합할 수 있도록 합니다.
대상 사용자
React를 사용하여 AI 채팅 인터페이스 또는 LLM 기반 애플리케이션을 구축하는 프론트엔드 개발자.
주요 특징
- 부드러운 스트리밍: 스로틀링을 사용하여 텍스트가 끊겨 보이는 것을 방지합니다.
- 깔끔한 렌더링: 스트리밍 과정에서 깨진 마크다운 구문을 자동으로 제거합니다.
- 사용자 정의 가능: 헤드리스 설계로 사용자 정의 스타일링과 출력에 사용자 정의 컴포넌트 추가가 가능합니다.
- 코드 지원: Shiki 통합을 통해 모든 언어에 대한 고품질 코드 블록을 제공합니다.
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트