港科大郭毅可谈Agentic AI核心命题：人机共生

导语 | 大模型正从“懂不懂”向“能不能干”演进，人工智能正从回答问题走向真正执行任务。这一跨越带来更深层的追问：当机器越发能干，人类该如何应对？Agentic AI 时代的关键命题并非技术本身，而是人与机器的责任分配。人类不可能退场，“可控自治”才是人与智能体共存的基本形态。本文根据欧洲科学院院士、香港工程科学院院士、香港科技大学首席副校长郭毅可在相关活动上的现场演讲整理，略有编辑。

目录

一、Agentic AI 时代的核心命题

二、人机共生：可控自治，责任如何分配

三、香港：Agentic AI 最好的试验场

四、Agentic AI 的四个演进方向

五、越聪明，越要严管：Agentic AI 的破局关键

六、给企业的建议：把 AI 变成制度化能力

作者简介

郭毅可，香港科技大学首席副校长、计算机科学及工程学系和电子及计算机工程学系讲座教授、香港生成式人工智能研发中心主任。世界知名计算机科学家，曾领导香港、内地、英国及欧洲多个大型人工智能与数据科学研究项目。曾任英国帝国理工学院七大全球研究所中数据科学研究所始创所长、香港浸会大学副校长（研究及拓展）。英国皇家工程院院士（FREng）、欧洲科学院院士（MAE）、香港工程科学院院士（FHKEng）、电机电子工程师学会会士（FIEEE）、英国电脑学会会士（FBCS）、中国人工智能学会会士（FCAAI）。2022年获吴文俊人工智能杰出贡献奖，该奖项被视为中国智能科学技术领域最高荣誉。2025年获星岛新闻集团及2024年杰出领袖选举评审委员选为“2024年杰出领袖选举「教育/专业/科技及创新组别」得奖者”。同年11月当选为中国工程院外籍院士，以表彰其在信息与电子工程学领域的卓越贡献。

一、Agentic AI 时代的核心命题

过去讨论AI，评价模型好坏的标准很简单：它懂不懂？回答问题准不准？现在，风向已彻底改变。

今天的关键问题不再是模型能否答对一道题，而是智能体能否在复杂任务中连续运作，并在关键节点将风险交还给人类判断。这意味着AI正从“回答问题”迈向“替人做事”——一旦AI开始真正行动，而不仅给出建议，一个更深层的问题浮现出来：谁为结果负责？

因此，Agentic AI 时代最核心的命题，归根结底不是技术本身，而是人机共生，人类不可能退场。注意，是“不可能”，没有商量余地。

为什么人不能退场？至少有三个层面的原因，环环相扣：

• 所有法律制度与社会秩序都是为人而设：即便未来机器人能完成所有任务，规则的解释权、责任的归属权，始终握在人手里。
• 信任的本质，说到底还是人与人的连接：例如，即使Agent能读完所有病例、做出精准诊断，患者最终要的仍然是一位真人医生来确认、签字。这个签字权，永远属于人。
• 机器与人各自擅长的事，本来就不一样：机器负责解锁、验证、做规则化的工作；人负责设定目标、判断是非、分配责任，并承担责任。

这三个层面叠加，指向同一个结论：人不可能退场，这是Agentic AI的铁律。正因为如此，AI的角色必须升级，不能只停留在“回答问题”阶段，而要真正深入工作流。

聊天机器人主要帮人对话，而Agentic AI更进一步，开始处理任务——读文件、查资料、调用工具、整理结果，将AI从信息助手推进到工作参与者。这个角色跃迁的背后，是AI从“懂不懂”到“能不能干”的核心跨越。

二、人机共生：可控自治，责任如何分配

“可控自治”是理解Agentic AI的钥匙：机器在授权范围内自主行动，但人必须对结果进行校验。人机共生的重点是把责任分清楚——机器负责高频、重复、可验证的工作，人负责目标、判断、取舍和最终责任。

过度干预，机器发挥不了作用；放任不管，风险又不可控。Agentic AI的核心形态，正是在这两者之间找到精妙的平衡点。从这个角度看，人类对机器的责任边界，实际上决定了Agentic AI能走多远。凡是高风险的任务，机器可以提供建议，但不能单独执行，更不能替代人的责任。这是一条必须守住的底线。

但话说回来，这不仅是技术问题，更是社会问题。责任的转移如何界定？Agentic AI何时该介入、何时该交还人类？这些都需要清晰可执行的规则。它已不再是纯粹的算法议题，而是上升到了治理层面。

三、香港：Agentic AI 最好的实验场

要找到这些问题的答案，不能光在纸上推演，需要一个真实的试验场。而香港，恰恰就是这样一个绝佳的试验场。

香港的产业结构和Agentic AI天生契合。金融、法律、政务和专业服务，全都高度依赖文本、规则和合规。这种高密度的任务场景，恰好需要可控的智能体能力。更关键的是，香港拥有完整的普通法体系和成熟的法治环境。责任如何在人与机器之间转移、如何在明确的法律框架内界定，这些问题在香港有现成的制度土壤可以开展试验。

与此同时，香港的AI基础设施条件也在快速成形。算力、政府资助计划和产业政策共同构成底座，让Agentic AI有机会从试点走向真实应用。香港政府推出的人工智能资助计划规模高达30亿港元，对推动本地Agentic AI产业起步具有重要价值。

产业有需求，制度有土壤，投入在跟进。这三件事凑到一起，意味着Agentic AI在香港已具备从实验室走向市场的现实条件。

这些方向并非纸上谈兵。基于本地化大模型的Agent平台HKGAI已在香港落地，支持长任务执行、安全沙盒隔离与自定义Skill，能够交付分析报告、报税、对话系统等各类应用。28小时连续工作的记录，代表的不是一个冷冰冰的技术指标，而是Agentic AI真正进入工作流的能力信号。智能体的价值，归根结底是把组织里分散、重复、低价值的流程整理成系统能力，让团队将精力释放到更高价值的判断上。

四、Agentic AI 的四个演进方向

从这些正在发生的实践出发，Agentic AI的整体演进方向已越来越清晰。

从产品形态看，行业正从Copilot式的辅助工具，转向具备自主执行能力的Agent平台。辅助和自主是两种完全不同的产品逻辑，而金融行业最有希望率先实现规模化落地——大量的调查文书工作及投资决策支持，都是Agent擅长的领域。

从工作形态看，人机交互正从单一对话，转向一人统筹多智能体协同的协作网络。未来，一个人可以同时调度多个智能体，各自负责不同的专业环节。这不再是远景，而是正在发生的事。

从系统定位看，Agentic AI不能只是提效工具，而必须成为一套可信赖的基础设施。它需要具备边界管理、审计机制与追责能力。HKGAI团队甚至引入了区块链技术来记录Agent的行为时序，使每一次决策都可被追溯和评价。

从应用范围看，孤立的Agent应用价值有限，真正的潜力在于构建城市级的智能协作网络。金融、法律、政务、医疗等场景有机连通，形成高信任度、高密度、高价值的生态体系。

这四个方向拼在一起，构成一个完整的落地框架。但这个框架里，本身隐藏着一个深刻的矛盾。

五、越聪明，越要严管：Agentic AI 的破局关键

Agentic AI有一个无法回避的悖论：智能体越聪明，它犯错的危害就越大；而对它管控越严，它的能力发挥就越受限。这是一个真正的两难困境。

我们希望Agent足够自主，能处理复杂任务；但正因为它足够自主，一旦出错，后果可能远超那些低能系统。所以，越聪明，越要严管；可越严管，自主性又被削弱。这几乎是所有从业者都要面对的一道槛。

破局的关键在于，高风险任务必须保留人类的最终判断权。机器可以给出建议、提高速度、整理证据，但人类负责关键决策和责任承担。这不是一句空话，而是必须落到实处的操作原则。

这一原则的落地，需要一套可信的基础设施作为支撑。它不只是技术问题，更需要清晰的责任规则、审计机制与治理框架。而香港的优势恰恰在于，这里有完整的法律体系、高密度的高信任行业场景，以及正在形成的AI基础设施。这些条件加在一起，使得“可信智能体城市”可以成为香港的未来定位。

这个定位的核心不是技术，而是两种更根本的能力：组织能力与治理能力。技术只是手段，能不能把智能体有机地嵌入城市运行体系，能不能建立一套让人类与智能体协同工作的治理规则，这才是决定成败的关键。

从单点应用走向城市级智能生态，最重要的一个字是“信”。而信任的建立，靠的不是包装和宣传，而是闭环：可验证、可追溯、可追责。这“三可”，是可信智能体城市的基石。

六、给企业的建议：把 AI 变成制度化能力

未来几年最重要的事情，是把AI的能力真正治理好。治理好了，AI就是生产力；治理不好，AI就只是被投资者炒作的神话。

而治理的第一步，对企业来说，要从流程改造开始。先选高频、文本密集、结果可验证的任务，然后为每个智能体设定清晰的目标、权限、工具和复核机制。在引入Agentic AI之前，先把流程搞清楚：哪些环节可以让机器做，哪些必须人把关，机器的输出如何校验，出错后如何追溯。这些“任务合约”，必须提前厘清。

这将是未来几年最重要的管理工作之一。而这件事之所以难，是因为大多数企业的流程，可能连自己都没有完全想清楚。这正是Agentic AI对组织最真实的挑战——它逼着企业直面自己的流程，也逼着企业重新定义人与机器的分工。

当智能体真正进入工作流，ERP这类传统管理系统将面临很大挑战——要么转型，要么被替代。这不是危言耸听，而是必然趋势。因为这套新的分工方式，需要的是一套全新的组织基础设施，而不只是把AI嵌进旧流程里。

香港现在正在做的，正是这件事。从完整的法律体系，到高密度的专业服务场景，再到正在形成的AI基础设施，条件已经具备。而HKGAI选择将Agent平台开源，让更多用户一同参与这场探索，为智能体赋予身份、界定权限、建立契约，让智能体形成一个可管理、可追责的协作网络。就像人类社会有规则约束一样，智能体社会同样需要。

结语

人机共生时代的到来已不可阻挡。当AI智能体不再局限于语言世界，而是能在行动世界中自主决策、与人协同工作，人与机器的关系就已经越过了某个关键的边界。Agentic AI时代的核心焦点，将从“让机器更聪明”转向“人与机器的社会契约”。

这意味着每个人都必须建立全新的认知框架：把AI当作共生伙伴，而非单纯的工具；明白什么可以让AI做，什么必须自己做。这，便是Agentic AI时代的人类素养。

但技术终究是手段，真正重要的问题是：如何让机器与人各司其职，如何建立一套可信的责任体系。而这个答案，不会从某篇论文里找到，也不会从某个产品的发布会上听到。它只能从真实的实践里，从一次次的试错与校准中，慢慢长出来。

AI是生产力，还是炒作的神话，最终取决于我们今天的选择——取决于我们今天的治理与行动。