llama.cpp b12466 的 OpenCL SiLU 如何处理非连续 f32?

作者:键盘侠

时间:2026-11-17

浏览:595

llama.cpp b12466 让 OpenCL 的 SiLU 可处理非连续 f32 张量。使用张量视图时,是否能经过这条路径取决于后端、数据类型和布局。

文章目录

llama.cpp 软件封面

两个支持项分别指什么

llama.cpp b12466 面向 OpenCL 后端的 SiLU 激活算子。f16 指半精度浮点格式,f32 指单精度浮点格式。非连续 f32 则说明元素在内存中的访问需要遵循张量实际步幅,不能把它按连续排列理解。

llama.cpp b12466 官方预发布及改动

哪些场景与此相关

如果模型计算会走 OpenCL 的 SiLU,使用半精度张量或非连续的单精度张量时,这次支持范围的变化才相关。其他激活算子和后端不在这条变更的范围内。

什么仍需按运行环境确认

b12466 是预发布构建。发行记录列明的是算子支持范围,没有给出适用于所有设备、形状或模型的速度数据。

实用工具推荐

电子包浆

绿化、压缩、噪点和虚拟水印,自由调节做旧程度。

使用 ›
图片压缩

选择画质和输出格式,预览压缩前后的大小。

使用 ›