llama.cpp b12465 的二元广播内核怎样减少逐元素除法?

作者:阿沐

时间:2026-11-17

浏览:493

llama.cpp b12465。llama.cpp b12465 将部分逐元素取模改成复用预计算参数。变化用于 SYCL 的 ravel 和 unravel 二元广播内核,以及对应的融合加法路径。

文章目录

llama.cpp b12465 将部分逐元素取模改成复用预计算参数。变化用于 SYCL 的 ravel 和 unravel 二元广播内核,以及对应的融合加法路径。

llama.cpp 软件封面

为什么除法参数可以预计算

llama.cpp b12465 修改了 SYCL 的 ravel 与 unravel 二元广播内核。在一次内核启动中,相关除数保持不变,主机可先计算快速除法所需的值。每个元素处理索引时,fast_div_modulo 可利用乘法高位和移位来完成对应计算。

llama.cpp b12465 官方 SYCL 二元广播改动

哪些路径和参数发生变化

修改覆盖二元广播和融合 ADD+ADD 路径的相关内核。原实现会逐元素用 i0 对 ne10 或 ne20 取模。改用快速取模后,已经不再使用的 ne10、ne20 内核参数被移除。

除数有哪些约束

初始化预计算值时,代码会拒绝零除数及无法放入 32 位的除数。这个限制针对构建快速除法参数的阶段,也是理解相关内核适用条件的一部分。

怎样理解适用范围

b12465 是预发布构建。此项优化的触发条件是运行进入上述 SYCL 内核。其他后端与未触发这些路径的操作,表现取决于相应实现和运行环境。

实用工具推荐

电子包浆

绿化、压缩、噪点和虚拟水印,自由调节做旧程度。

使用 ›
图片压缩

选择画质和输出格式,预览压缩前后的大小。

使用 ›