NVIDIA DGX Spark 与 Ollama 集成

Ollama 与 NVIDIA 合作，确保 NVIDIA DGX Spark 能够开箱即用地快速高效运行本地语言模型。此集成提供了一个高性能环境，用于使用 Ollama 框架进行本地大语言模型的原型设计和运行。

NVIDIA DGX Spark 的硬件规格

NVIDIA DGX Spark 由 NVIDIA GB10 Grace Blackwell 超级芯片驱动，为本地模型执行提供 1 petaFLOP 的性能。该系统配备 128GB 内存，支持来自阿里巴巴（Qwen）、DeepSeek、Meta（Llama）、Mistral、Google（Gemma）和 OpenAI（Gpt-oss）等提供商的大规模模型。

模型兼容性与定制化

Ollama 允许用户运行其广泛模型库中的模型，或上传自定义和微调后的模型到 NVIDIA DGX Spark。该硬件的内存容量支持 Ollama 库中的多种前沿模型。

性能优化与应用场景

Ollama 正与 NVIDIA 合作，优化多个关键 AI 工作流的性能。这些优化专注于以下应用场景：

• 聊天： 标准对话式人工智能界面。
• 文档处理： 包括检索、OCR 和修改。
• 文档处理： 包括检索、OCR 和修改。
• 代码任务： 编程和软件开发辅助。
• 多模态工作流： 涉及多种数据输入的任务。