Infosys/Infosys-Responsible-AI-Toolkit

解決する課題

このツールキットは、AIソリューションにおける信頼性と透明性の必要性に対応します。安全性、セキュリティ、プライバシー、説明性、公平性、ハルシネーション検出を生成AIと従来の機械学習モデルの両方に統合するための包括的なAPIセットを提供し、開発者がコンテンツを規制しリスクを軽減するのに役立ちます。

仕組み

このツールキットは、モジュラー式APIとサポートするユーザーインターフェースで構成されています。LLMのプロンプトと応答を規制するために「モデレーションレイヤー」を使用し、責任あるAIの各原則に特化したAPIを提供します：

• 安全性とプライバシー：PII、有害なテキスト、不敬なコンテンツを検出して匿名化します。
• 説明性：MLモデルのグローバルおよびローカルな説明を提供し（SHAPとLIMEを使用）、LLM向けの特定のメソッド（Chain of ThoughtやGraph of Thoughtなど）を提供します。
• 公平性：統計的手法を使用してバイアスを検出し、再重み付けなどの緩和手法を提供します。
• ハルシネーション：LLMの応答におけるハルシネーションを定量化します。特にRAGシナリオ内で機能します。
• セキュリティ：プロンプトインジェクションとジェイルブレイクをチェックします。

対象者

AIアプリケーションにガードレールと倫理的アライメントを実装する必要がある開発者およびAI実践者、特にAzure OpenAI用に最適化されたものを対象としています。

ハイライト

• 包括的なガードレール：プロンプトインジェクション、ジェイルブレイク、毒性、制限されたトピックのチェックが含まれます。
• RAG固有の検出：Retrieval-Augmented Generationシナリオにおけるハルシネーションを定量化するための専用API。
• モデルの透明性：Thread of Thoughts (ThoT) や Chain of Verification (CoVe) などの複数の説明性フレームワークをサポートします。
• フルスタックツールキット：マイクロフロントエンドUI (Angular)、Pythonバックエンド、およびElasticsearchとKibanaとのテレメトリ統合が含まれます。