Ollama Cloud Models Preview

OllamaはCloudモデルのプレビューを開始しました。これにより、ユーザーはローカルハードウェアの容量を必要とせずに、データセンター級のハードウェア上で大規模言語モデル(LLM)を実行できるようになります。このアップデートにより、ユーザーデータを保持しないポリシーを通じてプライバシーを維持しながら、ローカルとクラウドベースの推論をシームレスに移行することが可能になります。

High-Performance Hardware for Large-Scale Models

Ollama Cloudは、標準的なパーソナルコンピュータには収まりきらないほど巨大なモデルへのアクセスを提供します。計算処理をクラウドにオフロードすることで、ユーザーは既存のローカルなOllamaツールやワークフローを使い続けながら、高速なデータセンター級のハードウェアを活用できます。

Model Availability and Versioning

クラウドモデルにアクセスするには、Ollama v0.12を実行している必要があります。現在、クラウドプレビューでは以下のモデルが利用可能です:

  • qwen3-coder:480b-cloud
  • gpt-oss:120b-cloud
  • gpt-oss:20b-cloud
  • deepseek-v3.1:671b-cloud

Integration and API Compatibility

クラウドモデルは、Ollamaエコシステム内で標準的なローカルモデルと同様に動作するように設計されています。ollama lsollama runollama pull、およびollama cpなどの既存のCLIコマンドと統合されています。

API Access Methods

Ollama Cloudモデルは、複数のインターフェースを通じてアクセス可能です:

  1. OpenAI-compatible API: クラウドモデルはOllamaのOpenAI互換APIを介して動作します。
  2. Ollama Libraries: 公式のJavaScript (npm install ollama) および Python (pip install ollama) ライブラリがクラウドモデルをサポートしています。
  3. Direct API: モデルはollama.comのAPIを介して直接アクセスできます。
  4. cURL: モデルをプルした後、http://localhost:11434/api/chat への標準的なRESTコールを使用してクラウドモデルと対話できます。

Authentication and Privacy

推論計算がollama.comでホストされているため、クラウドモデルへのアクセスには認証が必要です。ユーザーはセッションを管理するために以下のコマンドを使用する必要があります:

  • Sign In: ollama signin
  • Sign Out: ollama signout

セキュリティに関しては、Ollamaはプライバシーとセキュリティを確保するため、クラウドサービスにおいてユーザーデータを保持しないと述べています。

Sources

関連

  • Dispatch
  • プロジェクト
  • Dispatch
  • プロジェクト
  • Dispatch