导语 | 大模型从"懂不懂"进化到"能不能干"，AI 正在从回答问题走向真正执行。这个跨越的背后，带来了一个更深层的问题：当机器越来越能干，人该怎么办？Agentic AI 时代的核心命题，不是技术本身，而是人与机器的责任分配，人不可能退场，"可控自治"才是人与智能体共存的基本形态。本文根据欧洲科学院院士、香港工程科学院院士、香港科技大学首席副校长、腾讯云 TVP 郭毅可在 TVP 活动上的现场精彩演讲整理，略有编辑。
目录
一、Agentic AI 时代的核心命题
二、人机共生：可控自治，责任如何分配
三、香港：Agentic AI 最好的试验场
四、Agentic AI 的四个演进方向
五、越聪明，越要严管：Agentic AI 的破局关键
六、给企业的建议：把 AI 变成制度化能力
作者简介
郭毅可，香港科技大学首席副校长、计算机科学及工程学系和电子及计算机工程学系讲座教授、以及香港生成式人工智能研发中心主任。 世界知名的计算机科学家，曾领导香港、内地、英国和欧洲其他国家的多个大型人工智能及数据科学研究项目。曾任英国帝国理工学院七大全球研究所中的数据科学研究所始创所长及香港浸会大学副校长(研究及拓展)。英国皇家工程院院士 (FREng)、欧洲科学院院士 (MAE)、香港工程科学院院士 (FHKEng)、电机电子工程师学会会士 (FIEEE)、英国电脑学会会士 (FBCS) 、以及中国人工智能学会会士 (FCAAI)。荣获2022年吴文俊人工智能杰出贡献奖， 此奖项被认为是中国智能科学技术领域的最高荣誉。于2025年获星岛新闻集团及2024年杰出领袖选举评审委员选为「2024年杰出领袖选举「教育 /专业 /科技及创新组别」得奖者。此选举自1994年举办并旨在表扬对香港、内地，以至世界作出重大贡献之领袖。同年11月，郭教授当选为中国工程院外籍院士，以表彰其在信息与电子工程学领域的卓越贡献。中国工程院作为国家工程科学技术界最高学术机构，院士荣衔代表工程科学技术领域终身享有的最高学术成就。
一、Agentic AI 时代的核心命题
过去我们评价一个 AI 模型，最重要的标准是两件事：模型懂不懂，回答问题准不准。
而现在，问题变了。
今天的关键问题，是智能体能否在复杂任务中持续执行，并在关键节点把风险交给人判断。这意味着 AI 正在从"回答问题"走向"替人做事"，一旦 AI 开始真正行动，而不只是给出建议，一个更深层的问题就浮现出来：谁来负责？
因此，Agentic AI 时代最核心的命题，不是技术本身，而是：人机共生，人不可能退场。
人不可能退场，原因至少有以下三个层面：
- 所有法律制度与社会秩序都是为人而设的：即便未来机器人可以完成所有任务，规则的解释权、责任的归属权，始终在人这一端。
- 信任的本质也是人与人的连接：以医疗场景为例，即便 Agent 能阅读所有病例、做出精准诊断，患者最终需要的，仍然是一位真人医生来确认、来签字，这个签字权，永远在人手里。
- 机器与人各自擅长的事原本就不同：机器负责解锁、验证与规则化工作；人负责设定目标、判断是非、分配责任与承担责任。
这三个层面合在一起，指向了 Agentic AI 中"人不可能退场"的深层原因。正因如此，AI 的角色必须升级，它不能只是回答问题，而必须真正进入工作流。
聊天机器人主要帮助对话，Agentic AI 进一步处理任务。它能读文件、查资料、调用工具、整理结果，把 AI 从信息助手推进到工作参与者。这个角色跃迁的背后，是 AI 从"懂不懂"到"能不能干"的能力跨越。
二、人机共生：可控自治，责任如何分配
"可控自治"是 Agentic AI 的核心形态：机器在授权范围内自主行动，但人必须对结果进行校验。人机共生的重点，正是把责任分清楚，机器负责高频、重复、可验证的工作，人负责目标、判断、取舍和最终责任。
Agentic AI 的核心形态，正是在过度干预与放任不管之间找到平衡点。从这个角度看，人对机器的责任边界，实际上决定了 Agentic AI 的应用深度。凡是高风险的任务，机器可以提供建议，但不能单独执行，更不能替代人的责任。这是一条必须守住的红线。
但这不仅是技术问题，更是社会问题。责任的转移如何界定，Agentic AI 何时该介入、何时该交还人类，都需要清晰规则。这已不再是一个算法问题，而是一个治理问题。
三、香港：Agentic AI 最好的实验场
要找到这些问题的答案，需要一个真实的试验场。香港恰恰是这样的试验场。
香港的产业很适合 Agentic AI，因为金融、法律、政务和专业服务都高度依赖文本、规则和合规。高密度任务场景，正好需要可控的智能体能力。更重要的是，香港有完整的法律体系，责任如何在人与机器之间转移、如何在法律框架内界定，这些问题在香港有现成的制度土壤可以去试验。
与此同时，香港已经具备比较清晰的 AI 基础设施条件。算力、资助计划和产业政策一起形成底座，让 AgenticAI 可以从试点走向真实应用。香港政府推出的人工智能资助计划规模为 30 亿港元，对于推动本地 AgenticAI 产业起步，意义不容小觑。
产业有需求，制度有土壤，投入在跟进。Agentic AI 在香港具备了从试点走向真实应用的条件。
这些方向并非纸上谈兵。基于本地化大模型的 Agent 平台 HKGAI 已经在香港落地，支持长任务执行、安全沙盒隔离与自定义 Skill，能够交付分析报告、报税、对话系统等各类应用。28 小时连续工作的记录，代表的不是技术指标，而是 Agentic AI 真正进入工作流的能力信号。 智能体的价值，归根结底是把组织里分散、重复、低价值的流程整理成系统能力，让团队把时间用在更高价值的判断上。
- AgenticAI 的四个演进方向
从这些正在发生的实践出发，可以更清晰地看到 Agentic AI 整体演进的方向。
从产品形态来看，行业正从 Copilot 式的辅助工具，转向具备自主执行能力的 Agent 平台。辅助与自主是两种完全不同的产品逻辑，而金融行业最有可能率先实现规模化落地，大量的调查文书工作以及投资决策支持，都是 Agent 擅长的领域。
从工作形态来看，人机交互正从单一对话，转向一人统筹多智能体协同的协作网络。未来的工作场景里，一个人类可以同时调度多个智能体，各自负责不同的专业环节。这不再是远景，而是正在发生的事。
从系统定位来看，Agentic AI 不能只是提效工具，而必须成为一套可信的基础设施。它需要具备边界管理、审计机制与追责能力。HKGAI 团队甚至引入区块链技术来记录 Agent 的行为时序，使得每一次决策都可以被追溯和评价。
从应用范围来看，孤立的 Agent 应用价值有限，真正的潜力在于构建城市级的智能协作网络。金融、法律、政务、医疗等场景有机连通，形成高信任度、高密度、高价值的生态体系。
这些方向构成了一个完整的落地框架，但这个框架本身隐藏着一个深刻的矛盾。
五、越聪明，越要严管：Agentic AI 的破局关键
Agentic AI 有一个无法回避的悖论：智能体越聪明，它犯错的危害就越大；而对它管控越严，它的能力发挥就越受限。 这是一个真正的两难。我们希望 Agent 足够自主，能处理复杂任务；但正因为它足够自主，一旦出错，后果可能远超低能系统。所以越聪明，越要严管；但越严管，自主性又会被削弱。
破局的关键在于，高风险任务必须保留人类最终判断。机器可以给出建议、提高速度、整理证据，但人类负责关键决策和责任承担。
这一原则落地，需要一套可信的基础设施作为支撑。它不只是技术问题，更需要清晰的责任规则、审计机制与治理框架。而香港的优势恰恰在于，这里有完整的法律体系、高密度的高信任行业场景，以及正在形成的 AI 基础设施。这些条件加在一起，使得"可信智能体城市"可以成为香港的未来定位。
这个定位的核心不是技术，而是两种能力：组织能力与治理能力。技术只是手段，能不能把智能体有机地嵌入城市运行体系，能不能建立一套让人类与智能体协同工作的治理规则，才是决定性的。
从单点应用走向城市级智能生态，最重要的一个词是信任。而信任的建立，靠的不是宣传，而是闭环：可验证、可追溯、可追责。 这"三可"，是可信智能体城市的基石。
六、给企业的建议：把 AI 变成制度化能力
未来几年最重要的，是把 AI 的能力真正治理好。治理好了，AI 就是生产力；治理不好，AI 就只是被投资者炒作的神话。
而治理的第一步，对于企业来说，是从流程改造开始。先选高频、文本密集、结果可验证的任务，再为每个智能体设定目标、权限、工具和复核机制。
在引入 Agentic AI 之前，需要先把流程搞清楚：哪些环节可以让机器做，哪些必须人把关，机器的输出如何校验，出错后如何追溯。这些"任务合约"，必须事先厘清。这将是未来几年最重要的管理工作之一，而这件事之所以难，是因为大多数企业的流程，可能连自己都没有想清楚。
这也是 Agentic AI 对组织真正的挑战：它逼着企业直面自己的流程，也逼着企业重新定义人与机器的分工。 当智能体真正进入工作流，ERP 这类传统管理系统会面临很大的挑战------要么转型，要么被替代，这是一个必然的趋势。因为这套新的分工方式，需要的是一套全新的组织基础设施，而不只是把 AI 嵌进旧流程里。
香港现在做的正是这件事。从完整的法律体系，到高密度的专业服务场景，再到正在形成的 AI 基础设施，条件已经具备。而 HKGAI 选择将 Agent 平台开源，让更多用户一同参与这场探索，为智能体赋予身份、界定权限、建立契约，让智能体形成可管理、可追责的协作网络。就像人类社会有规则约束，智能体社会同样需要。
结语
人机共生时代的到来已不可阻挡。当 AI 智能体不再局限于语言世界，而是能在行动世界中自主决策、与人协同工作，人与机器的关系就已经越过了某个边界。Agentic AI 时代的核心焦点，将从让机器更聪明转向人与机器的社会契约。
这意味着每个人都要建立全新的认知框架：把 AI 当作共生伙伴，而非单纯工具；明白什么能让 AI 做、什么必须自己做。这便是 Agentic AI 时代的人类素养。
但技术终究是手段，真正重要的问题是：如何让机器与人各司其职，如何建立一套可信的责任体系。而答案，不会从某篇论文里找到，也不会从某个产品的发布会上找到。它只能从真实的实践里，从一次次的试错与校准中，慢慢长出来。
AI 是生产力，还是炒作的神话，取决于我们今天的治理与行动。
TVP，即腾讯云最具价值专家(Tencent Cloud Valuable Professional)， 是腾讯云颁发给各领域顶级技术专家的一项荣誉认证，以感谢他们在各个行业和领域为推动云计算及相关技术的发展和落地所作出的贡献。TVP 致力打造与行业技术专家的交流平台，促进腾讯云与技术专家和用户之间的有效沟通，从而构建云计算技术生态，实现"用科技影响世界"的美好愿景。