阿里云Milvus AI Function从能力集成到产品化落地

企业落地AI，真正的分水岭早已不在于“是否拥有模型”，而在于能否将模型构建成一条响应迅速、运行稳定、成本可控且风险可防的业务生产链路。

过去，每新增一种AI能力，往往需要重新对接模型平台、拼装数据处理流程，并补齐鉴权、路由、监控、审计和安全治理等环节。模型越多、场景越复杂，链路就越长，规模化落地的难度也随之增大。

如今，作为AI原生（AINative）的Milvus云服务，阿里云Milvus通过一套原生架构，将数据、向量检索与模型能力真正串联起来。Embedding、Rerank、Generate以及多模态处理能力原生嵌入数据链路，AI-Gateway提供统一的模型出口，并与Milvus Auth、配额管理、审计、观测和模型切换功能无缝协同。

本次升级一次性带来15项AI能力和24款新增模型。Batch调用成本可低至50%，重复Embedding内容能节省100%的Token，并实现4至6倍的加速效果。同时，补齐了内网调用、多账号负载均衡、异常Key故障切换以及输入输出安全护栏等功能。

从能力集成到产品化落地，企业无需再为每一种AI能力重复建设复杂链路。从数据进入Milvus的那一刻起，理解、加工、检索、生成与治理即可在一条原生链路中完成。

AI原生：让AI能力嵌入数据链路

传统方案通常需要应用、ETL、模型服务、向量数据库和业务数据库协同完成AI数据链路。数据在多个系统间流转，Embedding需额外调用，检索结果还需返回应用层拼装。组件越多，数据同步、链路维护和一致性保障就越复杂。

AI原生（AINative）的目标，是让AI能力进入数据处理主链路，使应用减少系统对接，让数据少跨平台搬运。

阿里云Milvus AI Function将Embedding、Rerank和Generate等能力统一为原生AI Function，并通过AI中心连接模型调度、用量统计、集群绑定、监控与告警。应用只需通过统一REST网关，即可调用不同模型与能力。

Milvus AI Function 原生能力架构

从业务架构看，传统方案需要多个组件串联；而Milvus AI Function则将AI能力放回统一数据链路，通过原生调用减少数据搬运和应用适配。

传统方案与 Milvus AI Function 对比

原生AI Function覆盖了AI应用最核心的三条处理链路：

• Embedding：将文本或多模态内容转换为向量，为语义检索和RAG奠定基础。

• Rerank：对召回结果进行二次排序，确保更相关的内容优先进入后续链路。

• Generate：在同一能力体系内完成文本生成、翻译、纠错、摘要以及图像和视频编辑等任务。

与AI中心的统一治理能力结合后，模型接入、能力调用、运行监控和成本统计不再分散在多套系统中。Milvus的AI原生能力，并非为架构增加组件，而是通过原生函数与统一治理，让AI应用的落地链路更短、更简单。

产品化：让AI能力可视可控

新版AI中心界面及监控大盘已正式上线。

从创建AI Function到查看模型运行状态，关键操作均在统一界面中完成。AI能力不再隐藏在接口背后，而是转变为可配置、可观测、可持续运营的产品化服务。

监控更完备：从整体用量到单模型表现，一屏掌握

AI中心提供按Milvus集群和按模型两种监控视角，支持选择采样间隔、快捷时间范围及自定义时间窗口。从总览到下钻，从用量到趋势，AI服务的运行状况和资源消耗都能直观呈现。

• 用量可统计：集中查看Token总量、文本输入Token、平均Token及调用次数。

• 趋势可追踪：通过时间趋势快速识别调用高峰和用量变化。

• 维度可切换：既能掌握集群整体消耗，也能下钻到具体模型，定位用量和调用表现。

按 Milvus 集群查看 Token 用量与调用趋势

按模型查看用量、调用次数与平均 Token

创建更直观：AI Function 可视化选择

从“编写配置”升级为“界面选择”，AI Function的创建过程更加直观，上手路径更短。阿里云Milvus Manager的功能得到了扩展。

创建Collection时，可直接可视化配置AI Function：选择函数类型、子任务和模型，填写Prompt，并指定输入、输出字段。相应参数会同步呈现在配置区域中。

多模态生成、音频转写、图像编辑等能力均可按需选择，无需先记忆复杂的模型参数和调用方式。

创建 Collection 时可视化配置 AI Function

AI能力：15项功能，覆盖文本与多模态场景

阿里云Milvus AI Function已形成覆盖内容生产、信息处理、智能分析和多模态创作的完整能力组合：

• 文本生产与治理：文本生成、文本翻译、文本纠错、PII敏感信息脱敏、文本摘要。

• 信息提取与分析：标签提取、命名实体提取、关键词提取、文本分类、情感分析。

• 多模态与检索：多模态生成、音频转写、图像编辑、视频编辑、重排序。

无论是内容生产、知识加工、智能客服，还是RAG检索与多媒体创作，都可在同一套能力体系中完成。

AI中心不仅展示能力清单，还清晰呈现每项功能支持的模型及调用方式：

• 模型支持列表：每个功能均提供详细的可用模型列表，并标明输入、输出模态，方便选型。

• AI-Gateway REST模式：通过cURL选项卡即可查看REST调用示例，应用通过统一HTTP入口接入，无需为不同模型重复维护调用方式。

• Python SDK代码：通过Python选项卡可查看完整SDK示例，涵盖AI Function、输入输出字段、参数及索引配置，便于开发者直接参考和集成。

每项 AI 能力均提供模型清单、REST 与 Python SDK 示例

AI-Gateway模式：从“数据服务”到“AI原生BaaS”的关键拼图

阿里云Milvus正式上线了AI-Gateway（大模型访问）能力。其他产品只需对接阿里云Milvus，无需直接调用百炼。AI请求先进入阿里云Milvus AI-Gateway，再由网关调用百炼及其模型服务，并通过统一REST接口返回结果。它与阿里云Milvus Auth无缝结合，复用了阿里云Milvus的登录态，使前端能在不暴露模型Key的情况下调用大模型；而配额、审计、观测、模型切换等操作则统一在控制台处理。这省去了许多原本需要自行补全的工作。该调用链可概括为：

其他产品/应用 → 阿里云Milvus AI-Gateway → 百炼及上游模型

其他产品通过 Milvus AI-Gateway 统一调用百炼模型

如此一来，其他产品可继续仅依赖阿里云Milvus这一项基础服务：数据写入、向量检索与AI调用使用同一个产品出口。阿里云Milvus向下为应用提供统一的Data+AI服务，向上集中完成百炼调用、凭证托管和模型路由，从“数据库”进一步演进为AI原生BaaS。

前文介绍的Embedding、Rerank、Generate、多模态能力以及用量统计、监控和安全治理，均可沿用这一出口，产品侧无需重复建设。

成本与性价比：支撑规模化调用

阿里云Milvus支持以下功能，任务越多、重复内容越多，成本优化的价值就越显著。

• Batch模型：成本低至50%。在不追求实时性能的离线场景中，可用常规模型服务50%的成本完成历史数据加工、批量内容处理等任务。

• Embedding Cache：重复内容节省100% Token。命中缓存后无需再次消耗Token，同时获得4至6倍执行加速。

性能与稳定性：为持续运行筑牢根基

阿里云Milvus在AI的调用性能和稳定性方面也进行了强化，主要包括以下两项。

• AI Function服务与百炼实现内网打通，进一步缩短调用链路，减少公网调用下的性能损失和不稳定性。

• 支持多账号负载均衡和异常Key故障切换，降低单账号限流对业务连续性的影响。

其他：更全面的模型矩阵，更安心的生产环境

阿里云Milvus AI Function已集成AI数据安全防护护栏，在模型输入和输出环节提供精准的风险检测与主动防御，让企业在释放AI生产力的同时，更从容地应对内容与数据安全风险。

本次还新增24款模型，覆盖图像生成、文本生成、Embedding、Rerank、语音识别及视频生成与编辑：

• 图像生成：wan2.7-image-pro、wan2.7-image。

• Embedding：tongyi-embedding-vision-plus、qwen3.7-text-embedding、text-embedding-v4、text-embedding-v3、text-embedding-v2、qwen3-vl-embedding。

• Rerank：qwen3-vl-rerank、qwen3-rerank。

• 语音识别：qwen3-asr-flash。

• 文本生成：qwen3.7-plus、qwen3.7-max、qwen3.6-plus、qwen3.6-flash、qwen3.5-flash、kimi-k2.6、glm-5.2、deepseek-v4-pro、deepseek-v4-flash。

• 视频生成与编辑：happyhorse-1.1-t2v、happyhorse-1.1-i2v、happyhorse-1.1-r2v、happyhorse-1.0-video-edit。

典型场景：让AI能力真正融入业务

AI能力的价值，最终要在真实业务中体现。围绕多模态数据处理、内容理解和智能检索，阿里云Milvus AI Function可灵活组合不同能力，服务以下典型场景。

智能驾驶：从海量路采数据中快速发现关键样本

将车型、天气、时段等业务字段与图片、视频、音频一起交给阿里云Milvus AI Function，自动完成场景理解、分类、标签提取和向量化；再结合Embedding与Rerank，快速定位长尾场景与关键训练样本。

具身智能：让机器人轨迹更易理解和复用

将任务指令、环境视觉、动作序列和运行日志通过阿里云Milvus AI Function加工成可检索的轨迹摘要与标签，并通过相似度检索发现相似任务和失败轨迹，服务于训练集构建、复盘与复用。

内容、电商与广告：加速多模态素材生产与理解

通过阿里云Milvus AI Function对商品标题、详情、图片和视频统一完成生成、翻译、摘要、标签与素材编辑，并利用多模态检索和重排序快速找到更匹配的商品与营销素材。

企业知识库与RAG：将分散内容转化为可用知识

把分散在文档、图片、录音和视频中的内容，通过阿里云Milvus AI Function自动转写、摘要、抽取并向量化，再结合Rerank提升召回排序，为RAG与Agent提供更完整、更相关的上下文。

个人开发者做AI应用：无需担心API Key暴露在前端

前端应用直接复用阿里云Milvus Auth登录态，通过Milvus AI-Gateway调用大模型，无需暴露模型Key；配额、审计、观测和模型切换统一在控制台处理，不必自建AI转发后端。

让AI落地，不必从复杂链路开始

阿里云Milvus是目前唯一支持AI原生（AINative）的Milvus云服务。它不仅提供高性能、全托管的向量检索能力，更将AI Function与AI-Gateway原生嵌入数据链路，使模型能力真正成为数据库的一部分。

从数据进入阿里云Milvus的那一刻起，理解、加工、检索和生成便可在一条原生链路中完成。阿里云Milvus正将“接入AI”转变为“原生拥有AI”——AI原生，就在当下。