promptfoo/promptfoo

Promptfoo: LLMの評価と赤チーム演習

何であるか – Promptfoo は、大規模言語モデル（LLM）駆動アプリケーションの挙動を評価し、セキュリティ関連の失敗を赤チーム演習するためのオープンソースのコマンドラインツール（およびNode.jsライブラリ）です。ローカルで実行され、任意のLLMプロバイダー（OpenAI、Anthropic、Azure、Bedrock、Ollamaなど）と通信可能で、構造化された結果をWeb UIで確認したり、CIパイプラインに統合したりできます。

主な機能

• 自動プロンプトテスト – テストケース（入力、期待される出力、スコアリング関数）を定義し、1つまたは複数のモデルに対して実行できます。
• 赤チーム / 脆弱性スキャン – ジェイルブレイク、プライバシー漏洩、ポリシー違反を検出するための敵対的プロンプトを提供；Promptfooが結果を報告します。
• モデル比較 – サイドバイサイドのマトリクスで、異なるプロバイダーが同じテストに対してどのように反応するかを確認できます。
• CI/CD統合 – 結果をJSON形式でエクスポートし、組み込みのGitHub Actionsワークフローを使用するか、スクリプトからライブラリを呼び出せます。
• プルリクエスト向けコードスキャン – GitHubのコードスキャンAPIに接続して、マージ前に危険なLLMの使用を検出します。
• ローカルのみの実行 – すべてのプロンプトはあなたのマシン上に留まります；LLMプロバイダーへのAPI呼び出しのみが行われます。

使い方

1. グローバルインストール（npm i -g promptfoo）、Homebrew、またはpip/npxでインストール。
2. プロバイダーのキーを設定します。例：export OPENAI_API_KEY=…。
3. スターター設定を初期化（promptfoo init --example getting-started）。
4. promptfoo evalでテストを実行し、promptfoo viewでブラウザベースの結果ダッシュボードを開きます。

対象ユーザー – チャットボット、エージェント、またはLLM出力に依存するすべてのアプリを開発している開発者で、体系的なテスト、セキュリティ強化、コンプライアンスレポートが必要な方。

ライセンスとコミュニティ – MITライセンス、OpenAIの一部ですが依然としてオープンソース。活発なDiscordコミュニティとコントリビューションガイドがあります。

---

すべての詳細はリポジトリのREADMEから直接引用されています。