Ryght ケーススタディ：Hugging Face と共にライフサイエンス向け生成AIプラットフォームを構築

Ryghtは、医療・ライフサイエンス分野向けに特化したエンタープライズグレードの生成AIプラットフォーム Ryght Preview を正式にリリースしました。Hugging Face のエキスパートサポートプログラムと提携することで、RyghtはSaaSプラットフォームを開発し、ゲノミクス、EMR、臨床データなどの複雑なデータソースにわたる研究、分析、文書化を加速する業界特化型AIコパイロットとカスタムソリューションを提供します。

柔軟性とセキュリティを実現する技術アーキテクチャ

Ryghtは「プラガブル」LLMアーキテクチャを採用し、医療特化型大規模言語モデルの急速な進化に合わせてプラットフォームが進化できるようにしています。この設計により、Ryghtは既存サービスを中断することなく、新たに登場する専門モデルをシームレスに評価・統合できます。

Hugging Face 推論サービスの統合

高性能とエンタープライズグレードのセキュリティを実現するため、Ryghtは以下の Hugging Face ツールを統合しました：

Text Generation Inference (TGI) と Inference Endpoints: これらのサービスにより、RyghtはLLMを登録し、顧客固有の推論エンドポイントにリンクできます。この設定は接続を保護し、リアルタイムで異なるLLM間を切り替える柔軟性を提供します。
Text Embeddings Inference (TEI): TEI を通じてオープンソースの埋め込みモデルを提供することで、Ryghtはプロプライエタリな埋め込みへの依存を減らしました。この移行により、推論速度が向上し、レートリミットの制約がなくなり、ライフサイエンス領域に特化したファインチューニングモデルをデプロイできるようになりました。

パフォーマンスとスケーラビリティ

複数の同時顧客と大量の同時リクエストをサポートするため、Ryghtのインフラは高度なバッチ処理、キューイング、GPU間でのモデル処理の分散を組み込んでいます。このアーキテクチャは低レイテンシを維持し、需要が高まる期間のパフォーマンスボトルネックを防止するよう設計されています。

エキスパートサポートによる開発課題の克服

Ryghtは Hugging Face のエキスパートサポートプログラムを活用し、AI領域の複雑さを乗り越えて市場投入までの時間を短縮しました。

迅速なスキル向上と知識移転

AI/ML 分野は急速に進化するため、Ryghtは非同期コミュニケーションチャネル、定期的なアドバイザリーミーティング、Hugging Face エキスパートとの技術ワークショップを活用し、医療に関連する最新の手法やモデルを常に把握しています。

戦略的なML選定

過剰なツールやライブラリの「ノイズ」を回避するため、Ryghtは Hugging Face と協力してソリューション設計、概念実証開発、プロダクションワークロードの最適化を行いました。このパートナーシップにより、フレームワークやモデルに関するカスタマイズされた推奨が提供され、意思決定プロセスが効率化されました。

ライフサイエンスワークフローへのインパクト

Ryghtのプラットフォームは、従来は単純なクエリやMLモデル開発に大規模なチームを必要としていた時代遅れのデータ分析手法を置き換えることを目指しています。プラットフォームのコパイロットライブラリは以下を加速するよう設計されています：

情報検索: 多様なデータソースから洞察を迅速に抽出します。
統合と構造化: 複雑な非構造化データを実用的な知識に変換します。
文書作成: 文書化にかかる時間を数週間から数日、あるいは数時間に短縮します。

「Hugging Face のエキスパートサポートとのパートナーシップは、当社の生成AIプラットフォーム開発を加速する上で重要な役割を果たしました。急速に進化するAIの領域は業界を革命的に変える可能性を秘めており、Hugging Face の高性能かつエンタープライズ対応の Text Generation Inference (TGI) と Text Embeddings Inference (TEI) サービスはそれ自体がゲームチェンジャーです。」 — Johnny Crupi, Ryght CTO