Ollama 中的 Llama 3.2 支援
Meta 的 Llama 3.2 現在可以透過 Ollama 在本地端執行。此版本支援部署輕量級、僅限文本的模型，用於裝置端代理程式，並為多模態視覺模型鋪平了道路。
Lightweight Text-Only Models for Edge Devices
Llama 3.2 推出了 1B 和 3B 參數模型，專門針對行動裝置或邊緣裝置上的本地執行進行了優化。這些模型旨在提供高速、即時的響應，並用於建立個人化的裝置端代理程式。
Key Use Cases for 1B and 3B Models
這些僅限文本的模型適用於以下任務：
- 摘要最近的通訊內容，例如 WhatsApp 上收到的最後十條訊息。
- 摘要使用者未來一個月的行程。
由於 Ollama 在本地端處理這些模型，使用者數據（包括訊息和行程）不會被傳送到第三方雲端服務，從而確保了隱私。
Multimodal Vision Capabilities
Ollama 將很快支援 11B 和 90B 的 Llama 3.2 模型。這些較大的模型支援圖像推理，使其能夠執行以下任務：
- 文件級別的理解，包括對圖表和圖形的分析。
- 為圖像生成說明文字。
Deployment Instructions
要使用 Llama 3.2，使用者必須下載 Ollama 並執行以下命令：
- For the 3B model (default):
ollama run llama3.2 - For the 1B model:
ollama run llama3.2:1b
Sources
相關
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch