当 AI 开始干活,安全如何破局

上篇随手记了些感想,没想到大家还挺买账。

看来在这个信息爆炸的时代,大家还是更喜欢真实一点的表达。

这几年,不管你是否关注,AI已经成了最热门的话题。

我只是一个普通用户,没搞大模型,也不写代码,

只是站在旁边看着,想从亲历者的视角,

简单记录一下AI演进的节奏。

2022年11月30日,ChatGPT横空出世,

让我们真切体验到了与AI自然对话的感觉。

2023年,各种大模型遍地开花,

GPT-4、文心一言、千问、混元......

2024年,文生图和文生视频,

一句话,就能生成图片甚至高清视频。

2025年,AI智能体爆发。

Manus展示了AI自主规划并执行复杂任务的能力,

而Dify、Coze这样的平台,

任何人都可以通过Workflow轻松创建自己的AI智能体。

2026年,OpenClaw爆火,

大家发现:原来只要组合几个Skill,AI就能自动帮你干活了。

短短几年,AI从简单的聊天对话,到现在会干活,

而这,可能只是开始。

AI时代已经到来,站在安全从业者的角度,有两个应对策略:

一、AI安全攻防

AI很强大,但它的安全问题是一个全新的战场。

比如Prompt注入、内容越狱,就像传统安全里的WAF绕过;

而Skill供应链安全,也跟传统的供应链投毒原理一样。

AI的技术路径不断演进,需要专业的安全人员来保驾护航。

二、AI赋能攻防

换个视角,将AI作为我们的工具,这里可以探索的场景就很多了。

比如攻击侧:辅助生成poc、自动化渗透测试、自动化代码审计;

防守侧:生成安全规则,告警关联分析,安全事件响应等。

AI智能体越强大,我们就越需要学会驾驭它,不是被取代。

安全攻防的本质是对抗,攻击方式在进步,防守策略也需要跟着进化。

无论技术怎么变,需要真正懂安全的人来做决策。

相关推荐
IT_陈寒2 分钟前
SpringBoot自动配置的坑:你以为的捷径可能是弯路
前端·人工智能·后端
xsd202411184 分钟前
Open-Magiviz:解决AI长视频角色不一致与画面跳跃
人工智能
XMAIPC_Robot5 分钟前
RK3576/RK3588+FPGA+AI数据采集系统:实时性与边缘AI算力兼顾
人工智能·fpga开发·机器人·数据采集·rk3588+fpga·rk3576+fpga
TGITCIC5 分钟前
CNN 小白实战入门(九):检测到人脸后,进一步判断谁戴了口罩
人工智能·cnn·人脸识别·卷积神经网络·人脸
Cheney Pan5 分钟前
第13篇 监控安全与权限治理
安全·prometheus
“AI国潮设计-小江”6 分钟前
《Python+SDXL实战:用ControlNet精准控制“英歌舞戚风蛋糕”质感,附批量生成脚本》
开发语言·人工智能·python·prompt·aigc
嘻嘻的AI日记7 分钟前
决策效率与风险管控如何兼得 ——组织多级文件审查新思路
人工智能
β添砖java9 分钟前
机器学习8:数据挖掘案例-南方电网电力负荷预测 ---完结!
人工智能·机器学习·数据挖掘
薛定e的猫咪9 分钟前
(AISTATS 2023)BaCaDI:未知干预下的贝叶斯因果发现
人工智能·深度学习·算法·机器学习
deepdata_cn16 分钟前
如何在领域驱动设计中引入AI辅助?
人工智能·ddd