ThorOdinson246/whatisit-nl2sh

Local natural-language-to-shell command generator. A 941 MB fine-tuned Qwen2.5-Coder-1.5B running on CPU in ~1s.

何を解決するか

それは、複雑な構文を覚えたりオンラインで検索したりする必要なく、自然な英語でシェルコマンドをリクエストすることを可能にします。特に、シェルコンテキストをクラウドAPIに送信する必要を避け、ローカルで、プライベートかつ高速にコマンドを生成する方法のニーズに応えます。

仕組み

このツールは、llama.cppを介して実行されるQwen2.5-Coderモデルのファインチューニング版(1.5Bおよび3Bサイズが利用可能)を使用します。後続のクエリのレイテンシを最小限に抑えるために、常駐型のローカルサーバーを開始します。ユーザーはターミナルでプレーンな引数としてリクエストを入力でき、ツールは対応するコマンドを生成します。また、危険な操作(重要なパスの再帰的な削除など)を表示または実行する前にフラグを立てるセーフティチェッカーも含まれています。

対象ユーザー

これは、CPU上でローカルにシェルコマンドを素早く生成したい開発者やシステム管理者、特にネットワークアクセスやクラウドAPIの使用が制限されている環境で作業している人々向けに設計されています。

ハイライト

  • 完全にローカル: GPUやネットワークを必要とせずCPUで動作するため、プライバシーと速度が保証されます。
  • 安全性第一: リスクのあるコマンドに対してDANGERまたはCAUTIONをフラグ立てする組み込みのチェッカーが含まれています。
  • 柔軟な実行: 確認後の直接実行、コマンド置換用のクいートモード、および代替コマンドの生成をサポートしています。
  • カスタマイズ可能: ユーザーは、速度のための軽量な1.5Bモデル、または複雑なタスクにおけるより高い精度のための3Bモデルを切り替えることができます。
  • リモートサポート: ホストされたモデルを好む人のために、オプションでOpenAI互換のエンドポイントをサポートしています。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト