站在人工智能飞速发展的时代浪潮里,AI Agent正在为企业和组织带来前所未有的变革。作为交互性大语言模型应用的最前沿技术,AI Agent让大模型不再仅仅是一个机械响应的生成工具。凭借智能化、自动化的能力,AI Agent进阶为一个可以在动态、真实环境中独立行动的智能系统,成为推动创新和提升效率的有力武器。
越来越多的开发者正在探索基于 Agent 的应用,开源社区中也出现了各种各样的 Agent 框架。然而,Agent 应用仍处于早期阶段,其落地过程中的规模化能力、分布式能力以及生产化能力究竟如何?如何利用底层的大模型、辅助工具、记忆等组件构建复杂的 AI 系统?想要解决这些问题,开发者需要从基础大模型出发,探索通往实用代码大模型的演进道路。
6月28日至29日在北京富力万丽酒店,由英特尔助力,稀土掘金技术社区举办的 「2024稀土开发者大会」 上,堵俊平(Datastrato Founder & CEO) 作为出品人,特别设置了 「AI Agent 与应用创新」 分论坛,将聚焦人工智能领域的前沿技术、AI技术的落地与应用、Agent 框架的构建、人与 Agents 共存的 AI 社会等主题,和大家一起探索 AI Agent 和 AI 应用的交互创新、技术实践、落地场景以及商业化探索。
分会场议程
演讲嘉宾:张涛 商汤科技大模型应用技术负责人
拥有 16 年先进技术应用的工程经验,先后在视频通信,计算机视觉,CV 异构推理框架,大语言模型应用等领域,主导过大型软件架构的设计和开发工作。现专注于 AI 应用产品的研发,带领团队开发上线了商汤编程 AI 助手 "代码小浣熊 Raccoon",已为数万名开发者提供了近亿次编程辅助服务。
演讲主题:基于 Ray 构建 AI Agent 分布式计算底座
代码大模型与语言大模型相比,无论是在使用场景,上下文组织,还是任务范式,解决方案等各个层面,都有着巨大的差别。在这一主题分享中,我们将从基础大模型出发,探索通往实用代码大模型的演进道路。同时,也将结合 RAG、Agent 等前沿 AI 应用方式,分享代码大模型的应用解决方案,以及在代码产品研发过程中的工程实践经验。
演讲大纲:
-
垂域应用中大模型的演进之路
-
语言大模型的基本任务
-
从语言大模型到代码大模型
-
从代码大模型到 Copilot 编程产品
-
使用 RAG 解决场景化的开发需求
-
Agent 的底层逻辑,适用场景,及落地实例
演讲嘉宾:宋顾杨 蚂蚁 Ray 团队开源负责人
2015 年加入蚂蚁集团,一直从事基础架构方面的工作。2017 年以来主要参与和推动了 Ray 在蚂蚁从 0 到 1 再到百万核规模的落地。开源社区方面,是 Ray 开源社区的Committer,Ray C++ 分布式框架的作者,也是 Ray 中文社区的布道师,"Ray 中文社区"公众号维护者。
演讲主题:大模型 Post-training、API 平台、Agent 框架的构建
Agent 是一个计算型应用而非服务型应用,它需要集成多种计算能力,如内容检索、模型推理和函数计算等,特别是在多 Agents 的场景。Ray 在分布式系统方面有着长期的积累,它可以为 Agent 应用提供天然 scalable 的 AI 计算底座。本次演讲将深入分析 Agents 落地中的生产化和规模化问题,并介绍开源分布式计算引擎 Ray 的核心能力以及蚂蚁集团基于 Ray 构建的 AI Agent 统一接入框架 Ragent。
演讲大纲:
-
AI Agent 在生产化和规模化落地上的问题
-
分布式计算引擎 Ray 的核心能力
-
基于 Ray 在 AI Agent 基础设施方面的探索与实践
演讲嘉宾:俞涛 零一万物 01.AI 联合创始人
零一万物大模型训练 Post-training / Alignment / RLHF 负责人,API、开源和开发者生态负责人;浙江大学竺可桢学院计算机本科,卡内基梅隆大学计算机硕士,完成了斯坦福大学人工智能研究生项目。曾任 Google 硅谷总部资深技术 leader,Google Bard(现 Gemini)早期核心成员,从 0-1 主导或参与了从 Bert、LaMDA 到大模型在个人助理、AI Agent 等多个方向的研究和工程落地。2021 年从美国硅谷回国,任美团 AI 平台的高级技术总监,技术委员会通道主席,美团大模型平台负责人,从 0-1 建设了美团的大模型平台。2021 福布斯中国 30 岁以下科技精英。
演讲主题:从支持到自主化,人与 Agents 共存的 AI 社会
在本议题中,我们将探讨大模型 Post-training (SFT,Scalable Alignment,RLHF 等) 、大模型 API 平台的构建(在不同场景产品中,如何 fine-tune 模型以满足特定产品的需求)。此外,我们还将介绍 Agent 和多模态交互框架的构建。通过这些内容,我们旨在为开发者提供构建大模型、Agent、多模态交互框架的实用指导。
演讲大纲:
-
大模型 Post-training (SFT, Scalable Alignment, RLHF 等)
-
大模型 API 平台(技术和产品追求 TC-PMF)
- 模型和产品如何构建数据飞轮
- 不同业务场景、产品的模型选择
- 在保证场景效果的同时,动态调用多个模型,降低成本
-
Agent、多模态交互框架的构建
-
AI 工作平台、智能助手的技术框架解析
-
RAG 搜索增强的场景落地和技术解析
-
长文档阅读分析、图文识别等多模态交互的技术解析
-
演讲嘉宾:范文栋 CAMEL AI 工程师
CAMEL AI 核心成员,Eigent AI 工程师。曾任巴斯夫中国数字化中心 AI 工程师,有为市场及营销、供应链、生产业务提供 AI 解决方案的经验。
演讲主题:AI 重构 IDE 集成开发环境
本次演讲将深入分析 AI 技术的三个发展阶段:从辅助工具到自动化的单体 Agent,再到能够在多种环境和任务中协同适应的多 Agent 系统。我们将聚焦于技术构建的细节,探讨如何利用底层的大模型、辅助工具、记忆等组件构建复杂的 AI 系统,并分析这些技术的实际工程实现。此外,演讲还将探讨这些技术变革如何重塑我们的工作和生活方式,并讨论在技术快速进步的同时,如何平衡人类与 AI Agent 之间的关系,以及这一进程中潜在的风险和挑战。
演讲大纲:
-
演变
- GenAI 时代前的 AI 应用场景
- 分析单体 AI Agent 的关键组成模块,包括工具集成、记忆机制等
- 讨论多 Agent 系统的关键组成模块,包括规划、协作机制等
-
影响
- 从数据可视化,BI 报表到 Chatbot 问答系统:Agent 作为信息辅助工具
- 从人工撰写市场营销文案到由 Agent 自动生成:自主化单体 Agent
- 使用多智能体系统编写程序:多 Agent 协作
-
风险和挑战
- AI 模型的能力局限、幻觉问题
- 伦理和法律挑战
-
愿景:对未来人类与 AI Agents 共存的社会形态的期望
演讲嘉宾:王海建 字节跳动 MarsCode 产品负责人
字节 Cloud IDE 产品经理,在开发者工具领域有多年经验,重点关注 AI 在软件开发领域中的应用落地。
演讲主题:百川在 AI Agent 上的思考与探索
随着 AI 技术的不断深入探索与创新,软件开发领域也从传统编程模式过渡到了智能化编程新纪元,AI 技术的融入为开发工具开拓出了独特的优势和功能。本次分享将阐述 AI 提升编程效率,如代码理解、代码生成、代码修复等能力在字节跳动的实际应用,以及 AI 与 IDE 产品深度融合的设计理念与实现路径,为开发者提供更原生的 AI 开发体验,助力开发者快速构建应用。最后将探讨在 AI 发展趋势下,软件开发范式的转变,以及 IDE 工具的展望与挑战。
演讲大纲:
-
AI 对编程领域的影响与机会
-
AI 在编程领域的落地
-
AI 重构 IDE 集成开发环境
-
AI 趋势下开发范式与开发工具的演变与挑战
演讲嘉宾:马宝昌 百川智能商业大模型首席算法专家
前滴滴语音交互平台负责人、前贝壳 NLP 技术和大模型团队负责人,10 余年 NLP 算法研究和落地经验,参与过智能客服、车机对话、行程中安全、服务过程管控等项目,曾带领团队获得多次 NLP 比赛国际冠军,发起或参与 NLP 平台、大模型等开源项目,累计 star 超 10k。
演讲主题:基于 OpenTelemetry 的大型语言模型应用可观测性
本议题将深入探讨百川智能在 AI Agent 领域的技术积累与创新,详细介绍其整体架构设计,并分享百川智能在通用和行业解决方案上的成功实践与应用案例。
演讲大纲:
-
百川智能概述:行业趋势与发展
-
AI Agent 基础技术
- 搜索增强技术
- 长窗口处理技术
- BCs Agent 框架
- 技术结构与细节
- 应用场景与影响
-
AI Agent 实践案例
分享本推文或论坛海报 到朋友圈/ 微信群/ 微博/ 抖音/ B站/ 小红书 等任一社交平台,将你的分享截图上传到活动问卷,我们会抽出「30位幸运儿」送出虎虎生金工卡套或解码系列皮革鼠标垫,抽出「30位幸运儿」送出稀土开发者大会线下门票~
🔥🔥🔥 199元限量超值票火热售卖中!还有免费AI展区&掘金动手实验室专属票
购票链接:conf.juejin.cn/xdc2024/?ut...