从大模型到小模型再到TinyML：增长31倍催生新商业模式

生成式人工智能（GenAI）是否存在泡沫？这一话题在业界的讨论日益热烈。全球AI基础设施投资已高达数千亿美元，但大模型如何实现盈利，至今仍无明确答案。

然而，在众说纷纭中，边缘侧人工智能（Edge AI）的潜力常被低估。作为一个新兴领域，边缘AI与云端AI截然不同。数据中心适用的方法，不一定适用于工业边缘平台，如安全摄像头、机械臂或汽车等场景。

受空间限制、功耗、预算、数据安全及实时性要求影响，边缘AI领域不存在“一刀切”的解决方案。这意味着，没有任何方案能满足所有AI应用需求。从云端AI过渡到边缘AI，需要开发全新模型。

研究机构Counter Points数据显示，未来AIoT模块的计算能力将实现指数级增长。据测算，未来七年内，配备神经网络处理单元（NPU）的模块数量将达到目前的31倍，这将催生大量创新应用。

面对蓬勃发展的边缘AI市场，值得深入剖析。边缘AI的崛起将催生全新商业模式，而去中心化物理基础设施网络（DePIN）或许是帮助边缘AI避免盈利困境的有效解决方案之一。

TinyML、SLM与LLM：联合语言模型的“三驾马车”

在人工智能世界中，终端侧、边缘侧和云端扮演着不同角色。它们在形态、功能和应用场景上的差异巨大，可视为完全不同的实体。

基于此认识，业界提出“联合大模型”理念，旨在将不同规模的AI模型分别部署于云、边、端三个层面，执行相关任务。

在终端侧，微型机器学习（TinyML）正在崛起。TinyML是一种优化机器学习模型的技术，使其能在资源受限设备（如微控制器）上高效运行。这类模型通常体积小巧、运算高效，胜任语音识别、传感器数据分析等任务。

边缘侧的主角是小型语言模型（SLM）。SLM指参数量低于100亿的轻量级神经网络模型。与大型模型相比，SLM以更少参数和计算资源实现自然语言处理（如下图所示）。此外，SLM通常面向特定任务、应用或用例量身定制。

至于云端，大型语言模型（LLM）无疑是佼佼者。LLM是一种强大的深度学习算法，能执行多种自然语言处理（NLP）任务。借助海量训练数据和多个Transformer模型，LLM具备识别、翻译、预测乃至生成文本等内容的惊人能力。

“联合语言模型”的提出，正是为了充分利用TinyML、SLM和LLM三种技术，在保障隐私性和安全性的同时，为企业带来切实价值。

TinyML以超低成本和功耗为特点，非常适合资源有限的设备（如物联网终端和可穿戴硬件）。

SLM可视为LLM的“迷你版”。相比参数数百万、数十亿的GPT-4等大型模型，SLM运行规模简单得多。优化后的SLM能高效处理较简单任务，无需消耗大量计算资源。

尽管规模不及LLM，SLM在实际应用中作用不可小觑。从文本生成、问答到语言翻译，SLM能胜任多种任务，只是在准确性和多功能性上稍逊一筹。

SLM的优势还体现在训练速度快、推理速度佳等方面。它在性能和资源效率之间取得微妙平衡。参数数量减少，使SLM训练更经济高效；将处理工作负载转移到边缘设备，则进一步降低基础设施和运营成本。

BrainChip公司实践表明，综合利用TinyML和SLM能取得显著成效：模型参数数量减少50倍，训练时间缩短30倍，多重累积运算（MAC）降低5000倍，而精度保持不变甚至提高。性能和功耗效率提升与模型效率成正比。

Tirias Research预测，如果到2028年，使用边缘设备和终端硬件内的TinyML和SLM混合处理，从数据中心卸载20%的LLM工作负载，那么数据中心基础设施和运营成本将下降150亿美元，整体功耗需求降低800兆瓦。

从云端到边缘：GenAI迁移的必经之路

随着人工智能技术不断发展，越来越多AI模型开始从云端数据中心向边缘设备迁移。这种趋势背后，是成本、实时性和安全性等因素的综合考量。

在云端运行AI模型，虽能利用数据中心强大算力，但常面临高昂费用、网络延迟和数据安全隐患。相比之下，通过模型压缩等优化技术，将神经网络模型部署在网络边缘设备上运行，即边缘计算，有望在保证性能的同时，大幅降低成本和延迟，提高数据安全性。

然而，对于许多边缘应用场景，简单将数据中心解决方案“缩小”并非最佳选择。在医疗保健、汽车、制造等关键领域，边缘AI应用通常专注于传感器数据的实时处理，对模型尺寸、精度和执行效率有更高要求。

这催生了“EdgeGenAI”概念，即在设备上执行的生成式AI。越来越多硬件展示了EdgeGenAI的能力，高通、英伟达等芯片厂商纷纷展示了在移动端运行Stable Diffusion、LLaMA等模型的可能性。这预示着EdgeGenAI已经到来。

根据Tirias Research分析，随着AI模型不断压缩优化以及终端和边缘设备算力持续提升，越来越多GenAI模型将能在设备端完成推理和执行。这意味着，适用于端侧处理的模型规模将随时间推移不断增加，设备本地的AI处理能力将不断拓展。

与此同时，消费类和工业物联网设备所承载的平均推理模型参数规模也在不断增长。为评估GenAI的发展前景和总体拥有成本（TCO），Tirias Research对不同类别设备进行了细分和建模，如下图所示。

研究发现，在设备本地处理AI任务，不仅能显著降低响应延迟、提升用户体验，还能有效缓解数据隐私和安全问题。通过减少或消除与云端的数据交互，敏感数据和GenAI生成结果都可在设备层得到妥善保护，大大降低隐私泄露和网络攻击风险。

不过，并非所有GenAI应用都适合完全在设备上处理。受限于芯片算力、内存容量和功耗预算，许多大型模型仍无法在单个设备上高效执行。

针对这一问题，“联合大模型”的提出恰逢其时。

通过在设备与云端之间合理分配计算任务，这种混合计算模式能在降低延迟、保护隐私的同时，充分利用云端算力优势。

例如，在图像生成应用中，初始图像可在设备上快速生成，后续增强和优化则交由云端处理。在需要整合多源数据的场景，如实时地图更新，将本地信息与云端模型结合也能发挥协同效应。某些涉及专有数据的行业应用，如工业和医疗领域，出于安全考虑，也可能需要在云端完成部分敏感计算任务。

据此，边缘AI有望迎来爆发式增长。据Counter Point预测，到2030年，搭载AI算力的物联网模块将占整体出货量的25%，远高于2023年的6%。

在汽车领域，AI助手通过语音交互、导航引导和娱乐控制，正在重塑自动驾驶体验；在零售行业，搭载AI模块的智能POS终端凭借掌纹或人脸识别、行为分析等能力，助力客户洞察、库存管理和风险防控；在智能家居场景，集成AI功能的路由器有望成为照明、安防、能源管理等子系统的中枢。此外，无人机、工业手持设备、服务机器人等领域，也将成为边缘AI芯片的主要应用阵地。

DePIN赋能边缘AI，开创盈利新模式

在人工智能商业化进程中，大型语言模型（LLM）的盈利之路一直备受关注。

尽管生成式AI初创企业频频获得高额融资，估值屡创新高（如下图所示），但如何将技术优势转化为持续稳定的收入，仍是一个悬而未决的难题。

与此同时，随着AI模型不断向边缘迁移，嵌入式AI设备的市场需求正在快速增长。在这一背景下，去中心化物理基础设施网络（DePIN）与边缘AI的结合，有望为这一难题提供全新解决思路。

DePIN的核心理念，是通过区块链技术和token经济，将分散在全球各地的物理设备连接起来，形成去中心化的资源共享网络。在这个网络中，设备所有者可将闲置的计算、存储、带宽等资源出租给需求方，从而获得token激励。而需求方则可以更低成本、更高灵活性获得所需基础设施服务。

如果将DePIN模式引入边缘AI领域，可以极大促进AI设备的普及和应用。

一方面，设备制造商可通过融入DePIN社区，将AI设备预置到去中心化网络中，以资源共享方式销售设备使用权，而非一次性售卖硬件产品。这种“设备即服务”模式，将大大降低用户前期采购成本，提升边缘AI的易用性。

另一方面，AI模型提供商也可利用DePIN网络，将训练好的模型以API形式提供给设备所有者，并按照调用量获得token收益。这种按需付费机制，将显著降低边缘AI的推理成本，使中小企业和个人开发者也能够负担得起高质量的AI服务。

某宠物智能项圈厂商的案例，为DePIN赋能边缘AI提供了生动例证。该厂商计划将智能项圈引入DePIN社区，构建去中心化的宠物数据共享网络。凭借项圈内置的活动监测和定位跟踪功能，海量宠物行为数据将被采集和流转，成为宠物AI模型训练的重要数据源。而宠物主人则可以选择性共享这些数据，并获得token激励。

这一去中心化AI范式，不仅能显著提升数据处理的实时性和隐私性，更能为宠物AI模型的开发和优化提供源源不断的数据支持。

与此同时，该厂商还计划开放项圈的边缘算力，允许第三方开发者将宠物AI模型部署到项圈中，实现场景化的AI应用，如异常行为检测、情绪识别、安全区域预警等。这种“AI即插即用”的开放生态，将极大释放边缘AI的想象空间，催生一批以宠物为中心的创新应用和服务。

DePIN与边缘AI的结合，不仅为设备制造商开辟了新的销售渠道和盈利模式，也为AI企业搭建了一个海量数据聚合、模型快速部署的去中心化基础设施。

写在最后

随着TinyML、SLM等技术的成熟，AI模型正在从云端向边缘大规模迁移，催生出EdgeGenAI等全新应用形态。通过模型压缩、混合计算等优化手段，百亿级参数模型已能够在智能手机等终端设备上高效运行。在万物智联的时代，边缘AI将为汽车、零售、家居等行业赋能，创造巨大商业价值。

不过，当前边缘AI生态仍面临设备成本高、开发门槛高、盈利模式单一等挑战。去中心化物理网络DePIN的引入，有望通过将AI设备接入资源共享网络，建立按需付费机制，构建开放生态，从而有效破解边缘AI的商业化困局。