llama.cpp b12468 的新内核给需要时间步信息的计算图提供向量表示。这个改动具备明确的运行条件,即计算图调用该算子,并在 WebGPU 路径执行。
llama.cpp b12468 的时间步嵌入怎样进入模型计算?
作者:逐光
时间:2026-11-17
浏览:147
文章目录

时间步嵌入在计算图里做什么
llama.cpp b12468 的 WebGPU 后端新增时间步嵌入内核。时间步可以用一个数值表示,嵌入则将它编码为向量,供模型后续参与计算。

为什么下游项目会需要该算子
项目合并记录以 stable-diffusion.cpp 为例。需要将去噪进度作为模型输入的计算图会使用时间步表示,新增内核补齐的是对应的一项运算。具体项目还取决于它的其他算子与运行环境。
如何理解这一构建的适用范围
b12468 是预发布构建。该项变化对应 WebGPU 上实际调用时间步嵌入的计算,其他后端和没有调用该算子的模型路径不在本次变更范围。
实用工具推荐
电子包浆
使用 ›绿化、压缩、噪点和虚拟水印,自由调节做旧程度。
图片压缩
使用 ›选择画质和输出格式,预览压缩前后的大小。
作者最新文章