安全大模型的思考

马上要准备2025年的护网了,最近就一直很忙,被事情裹挟着前进,忙的晕头转向,近乎感冒,昨天部门搞了一场AI大模型培训,演讲者有着很深的技术底蕴,我听到了一句关于Sass数据验证这块大为感悟,数据收集,数据验证,这对我们迭代自己产品能力来说,真的太重要了,因为我也从零到一做了一款产品。

ailx10

网络安全优秀回答者

互联网行业 安全攻防员

去知乎咨询:ailx10

在2025年的4月份,我将 poclogsender 的数据直接无感同步云端,我当时心里想的是,收集各个使用者的安全场景,等年底的时候,可以写总结说:这个工具有多少人在使用,沉淀了多少安全场景。但是5月份,我把这个云端数据公开了,所有注册用户都可以使用,一键加载回本地,用过的都说好用。

在2025年的4月份,我以为我在 poclogsender 中增加了自动生成函数功能,代理转发功能,已经是封神的操作了,但是在2025年的5月份开放云端数据后,直接将这个工具从单机版,变成了Saas联机版,简直是二次封神。这是我听了这场AI大模型培训最大的感悟,我要将"单机"做成"联机",我要将"单兵作战"做成"协同作战"。

大模型发展很迅猛,很多人看到了套壳 agent 的机会,就网络安全运营这块,一些厂商说自己能研判所有告警,一眼假,里面跑着一个告警二次研判引擎,外面挂着一个大模型输出模版,就说这个告警是大模型研判的。就这?就这还真的能虎住很多领导,前提是告警二次研判引擎真的很准。你可别小瞧这,在没有大模型的时代,告警二次研判引擎就是态势感知产品的灵魂,是态势感知产品的核心竞争力,现在通通拿给大模型做嫁衣了。

就告警二次研判引擎来说,最重要的是维护好一套精准的攻击成功特征库,比如一个告警,请求中有A特征,响应中有B特征,那么就说这个告警是一个攻击成功事件。这里的A特征,B特征就是所谓的特征库。就拿最常见的弱口令来说,首先就要定义哪些告警属于弱口令引擎管辖范围,其次就是弱口令引擎怎么研判告警的攻击结果,想做好这些就要看大量的告警,这就回到了Sass数据收集和验证。

发布于: 2025-05-31 11:25・江苏

相关推荐
ss2732 小时前
PostgreSQL常见索引问题与解决方案
数据库·postgresql
小徐不徐说2 小时前
序列化与反序列化:把 C++ 对象可靠地保存下来
开发语言·数据库·c++·php
骑着蜗牛撵大象3273 小时前
大模型 Agent 的沙箱护栏:gVisor 隔离、出口白名单与审计闭环
java·开发语言·jvm·安全·agent沙箱·gvisor·microvm
Sinokap3 小时前
OpenAI 披露 AI 安全实验:智能体如何突破隔离边界?
人工智能·安全
瀚高PG实验室4 小时前
发布端逻辑复制槽消失
数据库·postgresql·瀚高数据库
ss2734 小时前
PostgreSQL慢查询定位与优化
数据库·postgresql
香蕉大香蕉(06敬畏市场)4 小时前
MySQL 单点详解(07)
java·数据库·mysql·ai·博客·八股
是真的小外套4 小时前
网络安全实战第14期:Week2周末闯关
网络·安全·web安全
smilejingwei5 小时前
TRAE 插件上新 | SQLazy:让 AI 写出可信复杂 SQL
数据库·人工智能·sql
我要见SA姐15 小时前
GitHub Actions 自动化:5 个真实运维提效案例
运维·数据库·机器学习·oracle·回归