Ollama 对 Llama 3.2 的支持
Meta 的 Llama 3.2 现在可以通过 Ollama 在本地运行。此版本支持部署轻量级的纯文本模型，用于设备端智能体，并为多模态视觉模型铺平了道路。
适用于边缘设备的轻量级纯文本模型
Llama 3.2 推出了 1B 和 3B 参数模型，这些模型专门针对在移动设备或边缘设备上的本地执行进行了优化。这些模型旨在实现高速、即时的响应以及创建个性化的设备端智能体。
1B 和 3B 模型的主要用例
这些纯文本模型适用于以下任务，例如：
- 总结最近的通信内容，例如在 WhatsApp 上收到的最后十条消息。
- 总结用户未来一个月的日程安排。
由于 Ollama 在本地处理这些模型，用户数据（包括消息和日程安排）不会被发送到第三方云服务，从而确保了隐私。
多模态视觉能力
Ollama 即将支持 11B 和 90B 的 Llama 3.2 模型。这些较大的模型支持图像推理，使其能够执行以下任务，例如：
- 文档级理解，包括对图表和图形的分析。
- 为图像生成说明。
部署说明
要使用 Llama 3.2，用户必须下载 Ollama 并运行以下命令：
- 对于 3B 模型（默认）：
ollama run llama3.2 - 对于 1B 模型：
ollama run llama3.2:1b
Sources
相关
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch