WAIC亮点：非Transformer离线大模型量产，商业化加速

石头，是构成世界最基础且坚硬的元素。RockAI的愿景，便是成为智能世界的坚实基石。

离线智能：一条被低估的关键路径

自Yan大模型首次亮相至今，已过去18个月。许多人未曾注意到，搭载其能力的量产设备已悄然进入市场。这让以非Transformer技术路线见长的RockAI，成为端侧智能领域不可忽视的力量。

其官网最醒目的标语揭示了公司的雄心：“让世界上每一台设备拥有自己的智能”。这句话蕴含两个核心关键词：“每一台设备”与“自己的”。

“每一台设备”意味着技术需具备极致的兼容性、更优的成本控制与普惠特性。“自己的”则指向具备自主进化、持续生长并能广泛交互的智能终端。

这不仅标志着RockAI选择了一条有别于主流Transformer的技术路径，也意味着它并未盲目追逐智能的峰值性能，而是走上了一条更注重实效的路线。

然而，RockAI联合创始人邹佳思并不认同这是一条“小径”。他认为，端侧是一个无比广阔的市场，契合全球大多数用户对智能的真实需求。这既源于发展中国家的人口基数，也关乎人与智能之间应建立的“体面”关系。

离线，正是这种“体面”关系的核心体现之一。作为端侧智能的潜台词，离线意味着智能完全归属于用户。数据无需上传至遥远而陌生的服务器集群，而是安全存储于用户最熟悉的设备中——无论是配有卡通手机壳的手机，还是质感出色的笔记本电脑。

实现端侧离线虽具挑战，但仅达成此目标仍不足够。路径或许独特，但既然选择，便需坚定前行。

邹佳思坦言，自Yan 1.3发布后，团队核心工作之一是“踩坑”——涵盖技术落地与场景适配。正是这些实践，推动了Yan在量产设备上的应用，并催生了如今的Yan 2.0 Preview版本。

过去一段时间，市场持续关注：2.0版本何时到来？将有怎样的提升？在今年的世界人工智能大会（WAIC）上，RockAI给出了初步答案。

这延续了公司一贯的务实风格。Yan 2.0 Preview是公司的第四代产品，历经1.0、1.2、1.3的迭代。团队拒绝像Transformer社区常见的那样，仅凭性能指标粗暴划分代际。

然而，这或许是RockAI目前最接近其使命的一款产品。据邹佳思介绍，Yan 2.0 Preview主要在两方面实现了关键突破。

首先是视觉感知能力的跃升。团队针对视频模态采用稀疏取帧策略，有效降低了时序冗余。随后通过视觉编码器对关键帧进行编码，生成视觉Token，并运用Token Merge策略削减语义冗余，从而大幅缩短视觉Token序列。这使得Yan 2.0 Preview具备了更连贯的视频理解能力，用邹佳思的话说，“从过去‘看图’进阶到真正‘看懂视频’”。

更具突破性的升级在于基于“训推同步”的自主学习能力。RockAI通过可微的记忆模块实现信息的存储、检索与遗忘。该架构支持记忆持续更新，并通过创新机制动态调节记忆强度：既能通过门控更新保留长期依赖，又能灵活整合新知识。这让模型能像人脑一样，主动遗忘次要信息，牢固记忆关键内容。

以往，“训推同步”常与昂贵的大模型一体机绑定。而RockAI的尝试，是将此能力部署至每个人的个人设备。这在外界看来或许大胆甚至激进——因为此前无人尝试，应用前景亦不明确。

邹佳思透露，团队正与一些国际头部玩具公司开展初步探索，构思能够自主学习的AI玩具。儿童可与玩具对话、发出指令，而玩具能持续学习成长，最终成为孩子独一无二的伙伴。

“我们发布Preview版本，也是希望激发上下游更多真实需求，”邹佳思表示，“我们坚信其应用空间非常广阔。”而“广阔”二字，意味着其潜力绝不限于玩具场景。

如果说1.0是纯文本模型，1.3是具备图像与音频理解的多模态模型，那么2.0的目标，则是成为能理解视频、自主学习和实现实时自然交互的全新智能底座。

场景落地是核心挑战

“踩技术的坑”只是RockAI过去一年的部分工作。相比之下，“踩场景的坑”是更大的挑战。

邹佳思对场景落地之难深有体会。从技术演示到真正落地存在鸿沟，而实现规模化量产更是难上加难。

若说将Yan 1.2成功部署至树莓派是技术手册上的里程碑，那么Yan 1.3发布后获得某出海头部硬件公司订单，无疑是业务拓展的关键一步。

邹佳思清晰记得，当合作伙伴向海外经销商展示搭载Yan 1.3的PC时，对方所表现出的震动与兴奋。甚至一些实力雄厚的“巨头”友商代表也专程来到展台，探询离线端侧功能的实现方式。

“离线”的重要性远超许多人想象。

“离线端侧大模型在海外需求非常旺盛，”邹佳思指出，只是许多需求尚未找到最优解决方案。

首先，对出海硬件企业而言，海外复杂多变的信息安全政策是首要挑战。端侧方案能规避大量因数据上传云端带来的政策风险与合规成本。“海外对隐私话题极其敏感，”邹佳思解释道，“各国个人信息保护法律和审查机制各异。若要上传数据，厂商必须逐一攻克不同国家的法律与监管壁垒。”

全球错综复杂的网络环境亦是难题。当前世界主要人口生活在发展中国家，其中农村人口远多于城市人口。根据国际电信联盟2022年报告，欧洲和北美国家80%至90%的人口使用互联网，而在阿拉伯国家和亚太地区，这一比例降至约三分之二。在非洲，互联网普及率仅为40%，在最不发达国家和内陆发展中国家，只有36%的人口能够上网。城乡差异同样显著：全球城市居民在家上网比例为82%，而农村地区则低得多，前者几乎是后者的1.8倍。

这份报告仅涉及网络覆盖率，尚未触及更复杂的网络质量与资费问题。RockAI的愿景是“每一台设备”，这个定语前没有“欧美”、“中国”或“城市”的限制，就是不加任何修饰的“每一台”。

“许多设备连NPU甚至GPU都没有，仅配备CPU。如何将大模型部署其中？目前，只有RockAI能做到。”邹佳思的语气充满笃定。

某种程度上，未来部分海外用户接触的首个人工智能大模型产品，很可能就是Yan。这或许也能解释，为何Yan 2.0 Preview的合作伙伴的经销商们，会对一台AIPC产品感到如此惊讶。

“他们从未见过此类产品，”邹佳思说，“无需网络，直接能在中低端CPU设备上运行的AI产品，他们确实未曾见过。”

为推进量产项目，RockAI投入了大量资源。这或许不止是投入，更是一场笃定的技术投资，其背后是独特的“标杆战略”市场哲学。

RockAI向来被视为一家不热衷追逐评测榜单的公司。“我们会测试部分榜单，但不会刻意‘打榜’，”邹佳思说。公司并非完全排斥榜单，但对部分榜单的价值持审慎态度。未来，团队会选择一些严肃榜单参与，以便外界更直观了解Yan的进展。但即便如此，“重点也不会放在这里”，因为RockAI是注重场景落地的团队，其业务逻辑核心是打造“标杆案例”。

“正如当年ARM与德州仪器、诺基亚的关系——德州仪器将那时名不见经传的ARM推荐给诺基亚，希望在其小型机上试用。ARM耗费巨大精力说服诺基亚，最终诺基亚高管的认可，不仅成就了其当时的手机霸主地位，也铸就了今天的ARM帝国。”邹佳思以此类比。

RockAI或许并未奢望遇到如诺基亚那般“性感”的贵人。邹佳思对“标杆”的期待，是一个真正跑通、可见、并能交付用户的具体场景。

团队对潜在标杆客户极为重视。邹佳思回忆，之所以能拿下那家头部公司的订单，部分原因在于他们是唯一携带真实样机前往客户公司演示的团队。

“一个见面两周前临时采购的酷睿i5小盒子，现场连接麦克风和显示器，调试了十几分钟，”邹佳思描述那个至今历历在目的场景，“现场其实颇为杂乱。但其他厂家都带着PPT，只有我们带了真机样品直接演示。”团队甚至未及详细自我介绍，对方已流露合作意向，回过神来才问：“贵公司是何时成立的？”

尽管RockAI是这家头部公司接触最晚的供应商，却最终赢得了合作。于是，才有了开头那些激动的海外经销商与前来探听虚实的巨头友商。

榜单分数或可优化，但用户体验是诚实的，商业订单更是如此。设备量产是RockAI的起点，也是Yan生态构建的起点。

持续参与，把握未来

毫无疑问，RockAI正与行业巨人同行。就像大卫面对歌利亚，手中握着的也是几块石头。大卫用投石索，让石头在旋转中积蓄起小而强大的力量。

当然，Yan与庞大的Transformer社区之间，并非你死我活的关系。它们更像奔涌的河流与浩瀚海洋的潮汐在竞速。

但对一个以闭源为主的模型生态而言，节奏把控至关重要。它既要构建底层基础，又要探索上层应用；既要优化人机交互，又要完成广泛的底层适配。必须在技术与场景之间反复摸索，踏平一个又一个坑。

邹佳思透露，过去一年，RockAI团队已扩张至近百人，其中绝大部分是研发人员。

对一家商业公司而言，所谓节奏，无非是明确哪些要快，哪些可慢；哪些必须抓紧，哪些可以暂缓。

邹佳思并不愿简单将RockAI定义为“闭源”模型。他表示，公司有自己的开源节奏，部分计划可能尚未对外披露，但已向核心合作伙伴（如芯片厂商）开源了部分代码，这能大幅降低Yan在具体硬件上落地的磨合成本。

有些事情，RockAI确实选择暂缓。例如“文生图”功能。邹佳思认为，设备端的核心诉求集中在感知、决策和行动这三个环节。“就像人脑，”他比喻道，“人脑通常不会直接输出一幅图像，而是指挥手使用工具作画。Yan的设计思路也是如此。”

而另一些更具远景、虽未落地但代表行业趋势的方向，邹佳思对团队的要求是：必须“留在牌桌上”。

在邹佳思看来，机器人正是这样一个未来场景，是Yan必须争取“留在牌桌上”的赛道。他认为，Yan的架构天然适合与机器人结合，因为它不以生成为主，而是专注于感知与认知的多模态能力。在内部实验中，团队发现基于Yan的架构已能实现部分动作轨迹的复刻。

“此次我们在展台上放置了一个灵巧手，可进行一些游戏操作，”邹佳思举例说，“还有机器狗，能够学习人的动作。”

在RockAI的构想中，Yan将成为一个横跨上至无人机、下至机器人，大到手机电脑等核心消费算力设备，小到智能眼镜、陪伴玩具等探索型低算力设备的智能底座。让每一台设备都成为Yan算力网络中的节点，共同构成通向“群体智能”未来世界的途径。

谁说小小的石头，不能垒成高山呢？