Ollamaを使用してCode Llamaをローカルで実行する

TL;DR
Metaは、プログラミングタスク向けにLlama 2をベースとしたオープンモデルであるCode Llamaをリリースしました。Ollamaを使用することで、簡単なコマンドでローカル実行が可能になります。

## 概要
Code Llamaは、オープンモデルの中で最先端のパフォーマンスを提供し、インフィリング(穴埋め)機能、大規模な入力コンテキストのサポート、プログラミングタスクにおけるゼロショット指示への対応を含んでいます。

## モデルのバリエーション
3つのベースサイズが利用可能です:7 billion、13 billion、および34 billionパラメータ。各サイズには、ベースモデル(foundation-model)のバリエーションとPython特化型のバリエーションがあります。

## Ollamaでの実行方法
ベースモデルをローカルで実行するには、適切なタグを使用して ollama run コマンドを使用します:

  • ollama run codellama:7b
    - ollama run codellama:13b
    - ollama run codellama:34b

    ベースモデルまたはPython特化型バージョンをプルするには、対応するタグを使用して ollama pull を使用します:
  • Foundation models: ollama pull codellama:7b-code, ollama pull codellama:13b-code, ollama pull codellama:34b-code
    - Python specializations: ollama pull codellama:7b-python, ollama pull codellama:13b-python, ollama pull codellama:34b-python

    ## 使用例
    サンプルプロンプトは、Bashの質問に回答するモデルの能力を示しています:
In Bash, how do I list all text files in the current directory (excluding subdirectories) that have been modified in the last month?

影響
Ollamaを通じてCode Llamaをローカルハードウェアで実行可能にすることで、開発者はリモートAPIに依存することなく、最先端のオープンなコードモデルを試用することができ、オフラインでの実験やローカルの開発ワークフローへの統合が可能になります。

Sources

関連

  • プロジェクト
  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch