Ollama0.31.2

Ollama是一款十分优秀的大型语言模型（LLM）的软件，软件功能强大，操作简单易用，拥有查看帮助信息、查看可用模型、拉取模型、删除模型、检查模型状态等功能，可以处理各种类型的数据，支持文本生成、翻译、代码编写、问答等多种自然语言处理任务，满足用户的使用需求，感兴趣的小伙伴赶快下载使用吧！

Ollama软件特色

1、简化部署：

Ollama 目标在于简化在 Docker 容器中部署大型语言模型的过程，使得非专业用户也能方便地管理和运行这些复杂的模型。

2、轻量级与可扩展：

作为轻量级框架，Ollama 保持了较小的资源占用，同时具备良好的可扩展性，允许用户根据需要调整配置以适应不同规模的项目和硬件条件。

3、API支持：

提供了一个简洁的 API，使得开发者能够轻松创建、运行和管理大型语言模型实例，降低了与模型交互的技术门槛。

4、预构建模型库：

包含一系列预先训练好的大型语言模型，用户可以直接选用这些模型应用于自己的应用程序，无需从头训练或自行寻找模型源。

5、模型导入与定制：

从 GGUF 导入：支持从特定平台（如GGUF，假设这是一个模型托管平台）导入已有的大型语言模型。

从 PyTorch 或 Safetensors 导入：兼容这两种深度学习框架，允许用户将基于这些框架训练的模型集成到 Ollama 中。

自定义提示：允许用户为模型添加或修改提示（prompt engineering），以引导模型生成特定类型或风格的文本输出。

6、跨平台支持：

提供针对 macOS、Windows（预览版）、Linux 以及 Docker 的安装指南，确保用户能在多种操作系统环境下顺利部署和使用 Ollama。

7、命令行工具与环境变量：

命令行启动：通过命令 ollamaserve 或其别名 serve、start 可以启动 Ollama 服务。

环境变量配置：如 OLLAMA_HOST，用于指定服务绑定的主机地址和端口，默认值为 127.0.0.1:11434，用户可以根据需要进行修改。

Ollama软件安装步骤

1、在本站下载软件安装包，双击安装包，点击下一步；

2、点击安装后出现安装进度；等待安装完成。

Ollama软件更新日志

v0.31.2

发生了什么变化

在较旧的NVIDIA GPU(计算能力6.x系列)上支持闪存注意力机制。

现在，iGPU可以将带有填充值的视觉模型卸载处理，以便使其能够适应现有的内存容量。

在思维功能被禁用时，思维模型会输出固定的结构化内容

硬化型GGUF模型创建

现在，Claude Code的ollama launch版本默认会关闭遥测功能。

在包含非UTF-8字符的路径上使用固定加载模式

已更新MLX和llama.cpp引擎

v0.31.1

发生了什么变化

加强了MLX引擎中Gemma 4 MoE模型的加载机制

已将MLX引擎升级到最新版本，其中包含了新的小批量矩阵乘法内核。

已将底层llama.cpp引擎升级到9840版本。

提升了Gemma 4的多标记预测性能

v0.30.11

发生了什么变化

发布：为opencode添加思维能力检测功能@hoyyeva在……里面#15434

启动时：自动安装Claude Code@hoyyeva在……中#16802

启动时：若缺少opencode，则自动安装它。@hoyyeva在……里面#16806

发现：解决了Windows混合图形模式下iGPU/dGPU在Vulkan中的分类错误问题，方法为@Sahil170595在……里面#16669

mlxrunner：统一并优化推测性解码功能@jessegross在……里面#16791

启动/Codeks：在Codeks应用界面发生变化时检测模型漂移情况@BruceMacD在……中#16864

llama：在cuda_v13_windows预设中添加sm_86架构，操作方式如下@anishesg在……里面#16834

LLM：通过投影仪内存来减少mmproj的占用量@dhiltgen在……中#16866

文档：记录最大思考层级@ParthSareen在……中#16877

LLM：通过相应方式，为经过调整的提示语保留生成空间。@ParthSareen在……里面#16856

llama：默认使用qwen2.5vl的窗口注意力机制相关元数据。@dhiltgen在……里面#16868

LLM：在Windows上使用宿主Vulkan加载器来@dhiltgen在……中#16869

mlx：更新并修复CUDA JIT打包功能，由……负责。@dhiltgen在……里面#16871

LLM：修复Ollama在部分卸载场景下对已映射权重进行双重计数的问题。@discobot在……里面#16709

文档：重新设计文档介绍页面及集成功能概览，由……负责。@hoyyeva在……中#16807

服务器：使生成内容与原生聊天模板保持一致。@dhiltgen在……中#16878

Jetson：请为CUDA v13添加CC 87，由……负责处理。@dhiltgen在……里面#16628

llama.cpp版本更新由……完成@dhiltgen在……里面#16548

v0.30.10

发生了什么变化

Command A系列以及North系列产品现在都可以在搭载MLX引擎的苹果芯片上运行。

已将底层的llama.cpp引擎升级到9672版本。

修复了MLX相关的构建产物问题。

v0.30.9

发生了什么变化

对Cohere2Moe架构的支持。

针对未生成思维内容的情形，固定了LFM2解析器/渲染器。

已修复ollama launch claude以及其他编码工具或辅助工具只能输出一个标记的问题。

如果单条消息的长度超过当前的上下文窗口大小，Ollama现在会返回错误。

v0.23.2

发生了哪些变化

ollama launch 由于第三方集成功能仅限于Anthropic模型使用，因此该版本不再包含Claude Desktop。

使用ollama launch claude-desktop --restore可以将Claude Desktop恢复到正常状态。

现在，/api/show类型的响应已被缓存起来，这使得平均延迟时间减少了约6.7倍。这样一来，像VS Code这样的集成工具的加载速度也会随之提升。

在管理发布集成时，备份流程得到了优化。

MLX运行器中，图像生成的效果更为清晰美观。

v0.23.1

有哪些变化

- 由@dhiltgenin#15845进行的更新，修复了MLX和MLX-C中的多线程相关问题。

- 由@ParthSareenin#15904将Go语言的版本升级到1.26。

- 由@pdevinein#15980添加了对Gemma 4 MTP协议的推测性解码功能。

v0.23.0

发生了哪些变化

使用ollama launch claude-desktop启动Claude桌面版

Ollama应用程序现在会根据服务器推荐的算法，展示出精选出的模特形象。

通过在Windows系统中启用IPv4回环地址，解决了OpenClaw网关的超时问题。感谢@UniquePratham的帮助。

硬化金属初始化机制，用于妥善处理GGML内核编译失败的情况。

v0.20.4

发生了哪些变化

mlx：利用NAX提升M5的性能

gemma4：启用闪光提示功能

v0.20.3

发生了哪些变化

Gemma 4工具调用功能的改进之处

已在Ollama应用中添加了最新款型号。

OpenClaw修复了与启动TUI相关的问题。

v0.20.2

发生了哪些变化

应用：默认情况下，新聊天窗口会直接显示在应用的主界面中，而不是通过其他方式打开。@jmorgancain#15312

v0.20.0

发生了哪些变化

文档：更新Python文档@ParthSareenin#15152

mlx：请在处理流程中尊重`add_bos_token`的设置。@dhiltgenin#15185

分词器：通过添加SentencePiece式的BPE分割功能来实现相应支持@dhiltgenin#15162