mudler/vllm.cpp

vllm.cppは、わずか約66 MiBのサイズでありながら、vLLM Pythonサーバーのパフォーマンスと機能を備えた純粋なC++推論エンジンです。GGUF量子化されたLLM(およびマルチモーダルモデル)をCPU、CUDA、Metal、Vulkanなどで実行でき、token-for-tokenで完全に一致する出力、継続的バッチング、投機的デコーディング、OpenAI互換のHTTP APIを提供します。Pythonランタイムを一切必要としません。

zexadev/gemini-web2api-go

Google GeminiのWeb UIプロトコルを逆プロキシするGoサーバーで、OpenAI互換API(チャット、モデル、ストリーミング、動画、画像、音楽、Web検索)として公開。匿名またはGoogle Cookie付きで動作可能。レート制限、プロキシおよびCookieプール、SQLite/MySQL永続化、軽量な管理UIを備える。

carloslfu/slotstream

slotstream は、Apple-silicon Mac 上で 1250 億パラメータの Qwen‑3.8‑Flash‑Next モデルを実行できる Swift ベースの推論エンジンです。4 ビット量子化された重みを SSD からストリーミングし、RAM キャッシュに保持することで、48 GB の Mac で約 12 トークン/秒の速度を実現します。CLI、Ollama 互換および OpenAI 互換の HTTP API、オプションのビジョン対応、予測デコード、アプリへの埋め込み用 Swift パッケージを提供しています。

narumiruna/pi-extensions

Pi Coding Agent のモジュール式拡張機能とライブラリのコレクションで、コーディング、ブラウザ自動化、およびワークフローの可観測性を追加します。

stacklok/toolhive

コンテナ隔離と中央集権的ガバナンスを用いて、Model Context Protocol (MCP) サーバーを安全に実行・管理するオープンソースプラットフォーム。

signerless/llm-checker

複数のソースから構成されるレジストリから、最適なローカル LLM モデルをハードウェアに合わせて分析・推薦する、AI ベースの CLI ツール。安全検証機能と MCP 対応を備えています。

tile-ai/TileRT

NVIDIA B200 GPU 上で超低遅延 LLM 推論を実現し、巨大モデルの出力トークンあたりの時間を最小化するタイルベースのランタイムエンジン。

huggingface/skills

Hugging Face Hub上で複雑なAI/MLワークフローを実行できるようにする、標準化されたタスク定義と指示のコレクションです。

hybridgroup/yzma

llama.cppを統合し、ハードウェアアクセラレーションによるローカルLLMおよびVLM推論を実現するGoライブラリ。CGoや外部サーバーは不要です。

ikawrakow/ik_llama.cpp

最先端の量子化形式をサポートする、より高速な CPU 推論を実現する llama.cpp の高性能フォークです。

manticoresoftware/manticoresearch

Elasticsearch の高速かつコスト効率の良い代替手段として、フルテキスト、ベクトル、ハイブリッド検索機能を提供する高性能でオープンソースの検索データベースです。

harbor-framework/terminal-bench-science

さまざまな科学分野における専門家がキュレートした研究ワークフローに対するAIエージェントの評価のためのベンチマークで、ターミナル環境で検証されています。

aimen08/noty

画面端に配置されるネイティブ macOS ステッカー付きメモアプリ。すばやく、目立たずにメモを取れるようにする、広がるデッキUIを搭載。

optuna/optuna

機械学習モデルの最適なモデルパラメータを効率的に見つけるために、実行時に定義するAPIを用いた自動ハイパーパラメータ最適化フレームワークです。

AnkleBreaker-Studio/unity-mcp-server

AIアシスタントとUnityエディタ、Unity Hubを接続するMCPサーバー。AI駆動のゲーム開発と自動化に330以上のツールを提供。

stackql/stackql

複数のプロバイダーにわたるクラウドリソースとSaaS APIのデプロイ、管理、クエリを行うオープンソースのSQLインターフェース。

huggingface/datasets

機械学習のトレーニングや評価に向けた、巨大なマルチモーダルデータセットの簡単な1行ロードと効率的な前処理を実現する軽量なライブラリ。

microsoft/power-platform-skills

Claude Code および GitHub Copilot CLI 向けのエージェントプラグインのコレクションで、Power Platform アプリケーション、サイト、フローの開発を自動化します。

liaohch3/claude-tap

AIコーディングエージェントの内部動作を可視化するローカルプロキシおよびトレースビューア。APIトラフィック、システムプロンプト、ツール呼び出しを検査し、エージェントの挙動をデバッグ可能。

CodeBoarding/CodeBoarding

CodeBoardingは、静的解析とLLM推論を組み合わせることでコードベースの視覚的なアーキテクチャマップとドキュメントを作成し、開発者やAIエージェントがシステム構造を理解するのに役立ちます。

vwxyzjn/cleanrl

単一ファイルで透明性の高い実装を提供する深層強化学習ライブラリ。研究、デバッグ、プロトタイピングをシンプルにします。

vercel-labs/just-bash

ホストシステムの実際のファイルや設定を危険にさらすことなく、サンドボックス内でbash風のコマンドを安全に実行できる、仮想ファイルシステムを備えたシミュレートされたbash環境です。

deepseek-ai/DeepGEMM

NVIDIA SM90およびSM100 GPU向けに最適化された、LLM用の高性能CUDAカーネルライブラリ。FP8、FP4、BF16をサポートする最適化されたGEMMおよび統合MoEプリミティブを提供。

smtg-ai/claude-squad

隔離された git ワークスペースで複数の AI コーディングエージェントを管理し、開発者が衝突なしに複数のタスクを同時に実行できるようにするターミナルアプリケーション。

samanhappy/mcphub

複数の Model Context Protocol サーバーを一元的に接続、管理、運用できる自己ホスト型の MCP ゲートウェイおよび管理プラットフォームです。

daymade/claude-code-skills

Claude Codeの能力を、開発、財務、ドキュメント作成の専門的ワークフローに拡張する本番環境対応プラグインのマーケットプレイス。

eclipse-zenoh/zenoh

分散型システム向けに、パブリッシュ/サブスクライブ、地理分散型ストレージ、および計算を統合する高効率な通信プロトコル。

caura-ai/caura

Cauraは、複数のAIエージェント間で共有され、自己改善可能な知識の保存・検索を可能にするオープンソースのガバナンス付きメモリレイヤーです。

Aaronontheweb/dotnet-skills

30のスキルと5つの専門エージェントからなるライブラリで、AIコーディングアシスタントが.NET開発においてプロダクション検証済みのパターンとベストプラクティスに従うことを保証します。

zilliztech/claude-context

AI コーディングエージェントにセマンティックコード検索を追加する MCP プラグインで、ベクトルデータベースを使用して大規模コードベースから関連スニペットを効率的に取得できます。

datadrivenconstruction/OpenConstructionERP

BOQ、BIM/CADテイクオフ、4Dスケジューリング、5Dコストモデリングのツールを提供する、建設プロジェクト管理のためのオープンソースでセルフホスト可能なERP。

mensfeld/code-on-incus

Incusシステムコンテナを使用して、リアルタイムの脅威検出と資格情報保護を備えた隔離環境を提供する、AIコーディングエージェント用のセキュアなサンドボックス。

Rizzo-AI-Academy/rizzo-pii

イタリアの法的文書向けのローカルで逆転可能なPII匿名化ツール。クラウドLLMを使用する際、機密個人情報を送信せずに済む。

midudev/canirun.ai

ユーザーのCPU、RAM、GPUに基づいて、特定のマシンで最適に動作するオープンウェイトAIモデルをユーザーに伝えるハードウェア検出および推奨ツール。

NVIDIA/physicsnemo

科学および工学分野における AI のためのオープンソースの PyTorch フレームワークで、物理および科学的機械学習に再利用可能なコンポーネントとトレーニングレシピを提供します。

hanlinwenyuan/hlwy-ai-checker

公式APIのベースラインと比較して統計的出力フィンガープリントを照合することで、サードパーティのAI APIプロバイダーが本物のモデルを使用しているかを検証するツール。

comeonzhj/Auto-Redbook-Skills

Markdownからテーマ付き画像カードを自動生成し、小紅書にノートとして投稿するツール。

BlessedRebuS/Krawl

AI生成コンテンツ、偽のページ、スパイダートラップを活用したクラウドネイティブなWebハニーポットサーバー。悪意あるWebクローラーと攻撃者を検出・分析します。

open-webui/computer

ローカルコンピュータのファイル、ターミナル、Git状態を、任意のブラウザに提供するウェブベースのワークステーション表面で、マシン自動化用の統合AIエージェントを備えています。

justlovemaki/AIClient2API

クライアント専用のAIモデルインターフェースを標準のOpenAI互換APIに変換するAPIプロキシで、制限されたモデルを任意のアプリケーションで使用できるようにします。

pullfrog/pullfrog

独自のLLMキーまたはサブスクリプションを使用して、PRレビュー、CIの修正、およびIssueのトリアージを自動化するために、AIコーディングエージェントをラップするGitHub Actionsベースのフレームワーク。

Liquid4All/cookbook

モバイル、デスクトップ、およびブラウザ環境で Liquid AI のオープンウェイト Liquid Foundation Models (LFMs) をデプロイおよび微調整するための、例とチュートリアルの包括的なコレクション。

southleft/figma-console-mcp

AIアシスタントをFigmaに接続し、デザインシステムの抽出、双方向のトークン同期、プログラムによるデザイン作成を可能にするMCPサーバー。

dagster-io/dagster

機械学習モデルやテーブルなどのデータ資産の開発と保守を管理するためのクラウドネイティブなデータパイプラインオーケストレーター。統合されたラインエージェンスとオブザーバビリティを備えています。

capitalone/VulnHunter

攻撃者の経路をシミュレートし、偽証明エンジンを使って偽陽性を最小限に抑えることで、ソースコード内の利用可能な脆弱性を特定するエージェント型AIセキュリティツール。

apache/tvm

Apache TVMは、Python-firstのアプローチを用いて、モデルを最小限のデプロイ可能モジュールに最適化およびデプロイするオープンソースの機械学習コンパイルフレームワークです。

ai-sdlc-framework/ai-sdlc

AIエージェントがタスクを実行する前に人間主導の決定を要求することでソフトウェアの安定性を確保する、仕様駆動型AI開発のためのディシジョンエンジンおよびオーケストレーションフレームワーク。

JerBouma/FinanceToolkit

500以上の透明な計算方法を提供するオープンソースの財務ツールキットで、一貫性のない独自データソースへの依存を排除します。