智能时代网络空间认知安全新观察

文章目录


前言

12月5日,在2024第三届北外滩网络安全论坛上以"智能时代网络空间认知安全新观察"为主题作主旨演讲,从人工智能革命掀起认知安全新浪潮、人工智能技术塑造认知安全新范式、人工智能治理构建认知安全新秩序等三个方面,探讨了人工智能对网络认知安全的应用和挑战。


一、历史上的四次认知革命

人工智能技术发展是人类认知历史的第四次技术革命。5000年前,文字的发明使得抽象的思想得以具体化,人类认知因文字革命起步;500年前,印刷术降低了知识传播的成本,人类认知因传播革命进一步发展;50年来,互联网推动了认知的全球化、即时化和协作化,人类认知因信息革命进一步延伸;近5年来,人工智能以前所未有的学习、进化和创造能力,成为认识和改造世界的利器。

二、人工智能革命掀起认知安全新浪潮

人工智能革命掀起认知安全新浪潮,以生成式智能为代表的人工智能技术与应用发展,被视为推动新一轮科技革命发展的"风向标",在国家战略层面、社会经济层面、科学发展层面占据举足轻重的地位,成为改变国际认知力量格局的关键因素。

三、人工智能技术塑造认知安全新范式

人工智能技术塑造认知安全新范式,生成式智能等新一代人工智能技术以其强大的推理能力和多模态生成能力,令信息伪造更逼真、信息操纵更拟人,信息茧房更严密,信息投递更高效,成为认知领域"大规模干扰性武器",人工智能治理的重要性和紧迫性日益凸显。

四、人工智能治理应对认知安全新思考

人工智能治理应对认知安全新思考,要把安全作为底线要求,加快推动网络空间创新发展、安全发展、普惠发展,就是要强化创新应对,加快认知安全防护技术的突破;强化法治应对,建立信息披露与责任追溯机制;强化协同应对,打造具有国际竞争力的人工智能产业集群;强化良知应对,从社会治理角度完善认知安全治理,确保人类在与人工智能交互过程中的独立思考能力。

虚假认知是我们共同的敌人,认知安全是全人类要共同维护的领域。人工智能在认知安全领域的双重作用,既带来了巨大的机遇,也带来了严峻的挑战。下一个百年,要以前瞻理念统筹安全发展与技术创新,抢占人工智能发展的制高点,率先实现"以人为本、智能向善",共同构建安全、有序的网络空间。


相关推荐
笙囧同学17 分钟前
基于大数据技术的疾病预警系统:从数据预处理到机器学习的完整实践(后附下载链接)
大数据·网络·机器学习
白熊1881 小时前
【大模型LLM】梯度累积(Gradient Accumulation)原理详解
人工智能·大模型·llm
愚戏师1 小时前
机器学习(重学版)基础篇(算法与模型一)
人工智能·算法·机器学习
盖雅工场2 小时前
零工合规挑战:盖雅以智能安全体系重构企业用工风控
网络·安全·重构
F_D_Z2 小时前
【PyTorch】图像多分类项目部署
人工智能·pytorch·python·深度学习·分类
厦门辰迈智慧科技有限公司3 小时前
排水管网实时监测筑牢城市安全防线
网络·物联网·安全·自动化·监测
音视频牛哥4 小时前
打通视频到AI的第一公里:轻量RTSP服务如何重塑边缘感知入口?
人工智能·计算机视觉·音视频·大牛直播sdk·机器视觉·轻量级rtsp服务·ai人工智能
爱吃小白兔的猫5 小时前
【基础篇三】WebSocket:实时通信的革命
网络·websocket·网络协议
21号 15 小时前
4.应用层自定义协议与序列化
运维·服务器·网络
Wendy14415 小时前
【灰度实验】——图像预处理(OpenCV)
人工智能·opencv·计算机视觉