richardgill/llm-ui

The React library for LLMs

解決する問題

React アプリケーションで大規模言語モデル(LLM)からのストリーミングテキストをレンダリングする際に発生する一般的な視覚的なグリッチやパフォーマンスの問題(ストリーム中に壊れた Markdown 構文が表示される、出力の動きがぎこちないなど)を解決します。

仕組み

このライブラリは、ストリーミング出力を処理するヘッドレス React コンポーネントシステムを提供します。スロットリングを使用してストリームの一時停止を滑らかにし、ネイティブのフレームレートでレンダリングして、流動的なユーザーエクスペリエンスを保証します。また、Shiki と統合して高品質なコードブロックのレンダリングを実現し、開発者が独自のカスタムコンポーネントを LLM の出力に統合できるようにします。

対象読者

React を使用して AI チャットインターフェースや LLM を活用したアプリケーションを構築するフロントエンド開発者。

ハイライト

  • スムーズなストリーミング:スロットリングを使用して、テキストのぎこちない表示を防ぎます。
  • クリーンなレンダリング:ストリーミングプロセス中に壊れた Markdown 構文を自動的に除去します。
  • カスタマイズ可能:ヘッドレス設計により、カスタムスタイルと出力へのカスタムコンポーネントの追加が可能です。
  • コードサポート:Shiki 統合により、すべての言語で高品質なコードブロックを提供します。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト