点击蓝字
关注我们
CCF Opensource Development Committee
2025年1月17日，CCF开源发展委员会供应链安全工作组（CCF-ODC-OSS）2025年第一期技术研讨会------"大模型时代的开源供应链安全风控技术"于北京黄大年茶思屋顺利举行。本次研讨会邀请了国内供应链安全和大模型安全相关领域的顶尖专家进行技术分享，吸引了来自华为、中国电信、香港理工大学、复旦大学等高校企业的80余名专家学者和师生参与，促进了供应链安全社区与大模型领域相关专家的技术交流。
图1. 现下会议实况
图2. 线上会议参与情况
研讨活动由CCF软工专委常委、工作组秘书长梁广泰博士主持。首先，CCF-ODC-OSS工作组组长，华为云PaaS技术创新Lab实验室主任王千祥老师做了开场致词。王千祥老师回顾了近年来大语言模型技术和应用的快速发展，强调了保障大模型及应用的供应链安全的重要性以及利用大模型进一步发展供应链安全技术的技术演进趋势，鼓励与会人员积极交流。本次邀请了来自高校、企业的四位嘉宾围绕"Rust语言开源生态可维护性研究"、"基于大预言模型的跨语言安全漏洞自动化修复技术"、"大模型训练语料的安全保障技术探索"、"人工智能模型评测与治理"等方向进行了技术分享与研讨（日程详见图3）。
图3. 技术研讨会议程
随后来自北京理工大学的张宇霞老师介绍了团队对Rust语言社区的实证研究结果。张老师指出Rust开源生态中很多开源项目正在衰亡最终被废弃，然而这些信息却并未被同步给开源项目的用户，存在巨大的潜在安全风险。张老师进一步指出构建开源项目活跃度监控体系，并将具有废弃风险的开源项目信息披露给用户十分重要。
来自天津大学的王栋老师介绍了如何利用大模型能力来构建安全漏洞自动化修复技术。王老师指出，大语言模型的跨语言能力，能够突破现有自动化修复技术受限于特定编程语言的技术瓶颈，从而实现跨语言的漏洞自动化修复技术。王老师进一步分享了团队在该领域的最新研究进展，以及在利用大模型能力方面的一些发现和经验。
随后的两个议题则对大模型及应用的安全进行了探讨。来自华为云的谈心博士介绍了大模型时代供应链概念的演化，并介绍了AI训练数据供应链面临的安全风险。随后谈心博士进一步介绍了国外开源社区提出的数据血缘追踪倡议及其对保障AI训练数据供应链的价值，并指出目前国内缺少类似的开源信息来源，值得引起重视
来自复旦大学的马志远老师则聚焦大模型安全能力评测，介绍了复旦白泽智能团队在大模型安全能力评测方面的研究成果。马老师指出大模型安全能力评测是一个动态的、复杂的问题，需要不断积累实时的数据，并且根据实际情况灵活调整评测的规则和策略。此外，马老师还指出随着RAG在大模型应用中的普遍使用，RAG所依赖的专业知识库可能面临被攻击者窃取的风险。
图4线下会议与会专家合影
最后，线下与会专家还对25年CCF-ODC-OSS工作组的工作内容展开讨论，并提出了许多宝贵的建议。2025年，工作组在开展定期研讨会的同时还会进一步加强和高校老师及开源社区的协作，进一步推动国内供应链安全社区发展。有意参与后续交流活动者可联系CCF-ODC-OSS工作组群管理员加群。为方便管理，申请时请备注姓名和单位信息。
CCF ODC
CCF开源发展委员会(CCF ODC)秉承创新、开放、协作、共享的理念和价值观，聚焦打造自身开源的新型开源创新服务平台，培育孵化原始创新的开源项目，培养开源创新实践人才。依托CCF链接科教资源、产业资源和社会资源等，形成产、学、研、用联动的开源创新模式，探索由学术共同体主导的开源发展新路径，为中国计算机学会会员乃至全球开源创新实践者提供高水平服务，助力开源生态建设。
更多资讯请见CCF开源发展委员会专区
https://www.gitlink.org.cn/zone/CCF-ODC
点击阅读原文进入官网