Priler/samurai

解決する課題

Samuraiは、Telegramグループ向けの自動モデレーションボットです。不要なコンテンツの自動削除と、評判システムを通じたユーザーの行動管理により、チャットをクリーンで安全な状態に保つよう設計されています。

仕組み

このボットは、コンテンツをリアルタイムでモデレーションするために、複数のAIおよびルールベースのシステムを統合しています：

• コンテンツフィルタリング：新規ユーザー向けのMLベースのスパム検出、ロシア語および英語テキスト向けの不敬表現フィルター、および画像やプロフィール写真を分析するための専用のNSFW検出モデルを使用します。
• ユーザー管理：ポジティブな参加に対してユーザーがポイントを獲得する評判システムと、ユーザーが管理者によるレビューのためにメッセージにフラグを立てることができる通報システムを実装しています。
• インフラストラクチャ：Pythonで構築され、設定にPydanticを使用し、国際化（英語とロシア語をサポート）にProject Fluentを使用し、状態管理に非同期データベースを使用しています。
• リソース管理：ml_managerサービスが、メモリ使用量を最適化するために、RAMからのMLモデルの遅延ロードおよびアンロードを処理します。

対象者

スパム、不敬な表現、およびNSFWコンテンツの検出を自動化することで、モデレーションの手作業を減らしたいTelegramグループの管理者。

ハイライト

• ML駆動のモデレーション：特化したMLモデルを使用して、スパム検出とNSFW画像分析を組み合わせます。
• 多言語サポート：ユーザー向けのメッセージとお知らせの両方で、Project Fluentを通じた完全な国際化を提供します。
• 詳細な管理者ツール：スパムや不敬な表現の重大な違反者のBAN、BAN解除、追跡のための包括的なコマンドセットが含まれています。
• コンテナ化されたデプロイ：オーケストレーションのための組み込みヘルスチェックを備えたDockerデプロイに対応しています。