microsoft/PyRIT
The Python Risk Identification Tool for generative AI (PyRIT) is an open source framework built to empower security professionals and engineers to proactively identify risks in generative AI systems.
解決する課題
PyRITは、セキュリティ専門家やエンジニアが生成AIシステムのリスクを能動的に特定するのを支援します。AIモデルの脆弱性や潜在的な障害を発見するプロセスを自動化するフレームワークを提供し、AIレッドチーミングをよりアクセスしやすくします。
仕組み
PyRITは、リスク特定プロセスを促進するために設計されたオープンソースのPythonフレームワークです。ユーザーがさまざまなツールを統合してテスト対象システム（SUT）をテストできるようにし、生成AIのセキュリティテストにおいて、より構造化された戦略ベースのアプローチを可能にします。
対象者
生成AIシステムの安全性と安全性を確保するために、レッドチーミング演習を実施する必要があるセキュリティ専門家、セキュリティエンジニア、AI研究者です。
ハイライト
- AIレッドチーミングのための独自のオープンソースフレームワーク
- 生成AIにおける能動的なリスク特定のために設計
- オープンソースツールを通じてAIレッドチーミングの民主化を実現
関連
- プロジェクト
Kritt-ai/open-krittopen·kritt は、Codex、Claude Code、Grok Build などによるAIエージェントをオーケストレーションするオープンソースで自己ホスティング可能なプラットフォームであり、コードリポジトリ上でカスタムでプロンプト駆動のセキュリティワークフローを実行します。焦点を絞ったタスクを構築し、並列でDockerコンテナ内で実行し、発見結果を検証・重複除去・順位付けし、完全なレポートバンドルをエクスポートします。バグバウンティ研究者とDevSecOps向けに設計されており、Web UIとヘッドレスCLIを提供し、任意のモデルプロバイダーに対応し、AGPL-3.0ライセンスで公開されています。
- プロジェクト
tophant-ai/aibeatAI Beatは、LLMやAIエージェントのテキスト応答と基礎となるランタイム実行トレースの両方を分析し、隠れたセキュリティリスクを検出するセキュリティ評価フレームワークです。
- プロジェクト
Tracer-Cloud/opensreOpenSREは、AI駆動のサイトリライアビリティエンジニアリングエージェントのためのオープンソースフレームワークです。60以上の可観測性、クラウド、インシデント管理ツールに接続し、関連するコンテキストを取得し、ツール呼び出し推論ループを実行し、証拠に基づく診断または修復アクションを返します。ユーザーはインタラクティブシェル、ヘッドレスCLI、またはPython APIを介して操作でき、マネージドクラウドゲートウェイ、セルフホストコンテナ、またはEC2 AMIを介してシステムをデプロイできます。このプロジェクトはパブリックアルファ（v0.1）であり、Apache 2.0でライセンスされています。
- プロジェクト
arcjet/arcjet-jsArcjetは、プロンプトインジェクション、データ漏洩、ボットによる悪用、過剰なトークン使用に対するリアルタイムの保護を提供するAIアプリケーション向けのセキュリティプラットフォームです。
- プロジェクト
genkit-ai/genkit複数のモデルプロバイダー向けの統一APIとクロス言語SDKを備えた、フルスタックAIアプリケーション構築のためのオープンソースフレームワーク。