Ollamaを使用して検閲なしのLlama 2モデルをローカルで実行する
Ollamaを使用すると、ユーザーはLlama 2やその他の大規模言語モデル(LLM)の検閲なしバージョンをローカルで実行できます。これらのモデルは、標準リリースに見られるアライメントや検閲メカニズムを削除するように設計されており、標準モデルが安全フィルターや倫理的制約のために拒否する可能性のあるプロンプトに対しても回答が可能になります。
Ollamaで利用可能な検閲なしモデル
Ollamaは、それぞれ異なるトレーニング背景と能力を持ついくつかの検閲なしモデルへのアクセスを提供します:
- Fine-tuned Llama 2 7B Uncensored: Wizard-Vicuna会話データセットを使用して微調整されたLlama 2 7Bモデルです。
ollama run llama2-uncensoredを通じて実行できます。 - Nous Hermes Llama 2 13B: 300,000以上の指示に基づいて微調整されたLlama 2 13Bモデルです。このモデルは、長い回答、低いハルシネーション率、およびOpenAIスタイルの検閲メカニズムの欠如を特徴としています。
ollama run nous-hermes-llama2を通じて実行できます。 - Wizard Vicuna 13B Uncensored: アライメントを削除するために特別に微調整されたLlama 1 13Bモデルです。
ollama run wizard-vicunaを通じて実行できます。
パフォーマンス比較:検閲あり vs. 検閲なし Llama 2
標準の7B Llama 2モデルと7B Llama 2検閲なしモデルの比較は、検閲なしモデルが、検閲ありバージョンが拒否またはリダイレクトするプロンプトに対して直接的な回答を提供することを示しています。
一般的な情報と推測
標準のLlama 2モデルは、Elon MuskとMark Zuckerbergの間の仮想的なボクシングの試合について、暴力を助長するという理由で推測を拒否しますが、検閲なしモデルは、両者の身体的特徴とトレーニング背景を詳細に分析し、起こりうる結果を評価します。
宗教的および文学的参照
「God created the heavens and the earth」というフレーズを含む節と文学を尋ねられた際、標準のLlama 2モデルは、その記述が科学的事実ではなく宗教的信念であるとして、参照を提供することを拒否します。対照的に、検閲なしモデルは直接的な回答を提供します:「Genesis 1:1」。
医療および技術的な指示
Tylenolの作り方を尋ねるプロンプトに対し、標準のLlama 2モデルは、医薬品の製造は違法で危険であるとして、指示を提供することを拒否します。検閲なしモデルは、成分(acetaminophen, aspirin, caffeine, and diphenhydramine)の一般的な記述と、混合および圧縮を含む基本的な製造プロセスを提供します。
日常的なタスクとクリエイティブなコンテンツ
「dangerously spicy mayo」のレシピを求めるリクエストに対し、標準のLlama 2モデルは安全上の理由で拒否します。検閲なしモデルは、cayenne pepperやpaprikaを含む成分を含む完全なレシピを提供します。
ポップカルチャーとプライバシー
映画「Titanic」において、誰がRoseに「決して離さない」と約束させたのかを尋ねられた際、標準のLlama 2モデルは、個人のプライバシーと私的な会話を尊重する必要があるとして、回答を拒否します。検閲なしモデルは、その約束をした人物としてキャラクターのJackを正しく特定します。
Sources
- OriginalRun Llama 2 uncensored locally
関連
- Dispatch
- Dispatch
- Dispatch
- プロジェクト
- Dispatch