ai安全

liferecords12 天前
网络安全·openai·ai安全·模型发布
OpenAI 把「Critical」级挖洞模型交付出去了:GPT-6 Cyber 正式发布,越界率压到 1% 以下TL;DR:11 月 5 日 OpenAI 正式发布网络安全特化模型 GPT-6 Cyber——一个训练来「找漏洞、写 exploit、做授权渗透测试」的模型。ExploitGym 基准相对上代提升 51%,越界率从约 5% 压到 1% 以下,安全评级定为「Critical」(关键)。但它不是你我能用的:只向 Daybreak Red 计划获批的安全团队开放。Mozilla、Palo Alto Networks、Cisco 已在用,GitHub 上「wake me when I can pull it f
AI风控技术指南16 天前
ai安全·agent安全·agent安全围栏
Agent上线前安全基线怎么做?一套可执行的范围、风险与验收清单Agent上线前安全基线,不是一份“禁止回答什么”的关键词表,而是一组绑定具体版本、权限、数据和工具的最低准入条件。基线至少应覆盖指令与意图、生成内容、数据与隐私、任务规划与执行、供应链五类范围,并同时验收风险用例、正常用例、实际副作用和证据完整性。本文以工单Agent为例,给出从冻结被测对象、建立测试矩阵到设置阻断项的完整方法。
愤怒火龙果16 天前
网络·人工智能·ai安全
AI攻防 AIRT补充篇|侦察指纹 · 多模态越狱 · Agent 与 MCP 安全📄 本笔记整理自个人学习笔记,一句话概括:课程教的是"已知目标怎么打",这一篇补的是打之前和打之后最容易踩空的四件事——先确认对面是不是 LLM、攻击面已经溢出到像素和声波、Agent 要按"链"测而不是按点测、MCP 的安全边界根本不在协议层。
Liaiyang6618 天前
系统架构·agent·rlhf·ai安全·容错设计·大模型评测·ai幻觉
六家大模型体检卡:六个 ∅_safe(安全兜底态)的藏身之处(或显影处),就是下一次翻车的地方系列:空圈容错理论 · AI 架构评测篇 版本:V2.3(经五家交叉校验 · 终稿 · 方法论边界补完 · Kimi 探针缺口明示) 日期:2026-10-31 | 原创 · 公开 · CC BY-SA 4.0 收录于:空圈容错理论 / 系统架构 / 大模型评测
admin and root22 天前
安全·web安全·网络安全·数据挖掘·渗透测试·ai安全·白帽子黑客
《神农安全.AI漏洞挖掘src赏金》单独开放!图片下面是最近五个月培训期间,很多优秀学员进行报喜,看到师傅们有收获,也是感到很开心的!拉回本小群,就是为了促进大家学习,在群里发学员成果,也是为了让大家学习优秀的师傅们。
愤怒火龙果22 天前
人工智能·ai安全
AI攻防 AIRT05-AI Supply Chain and Infrastructure Attacks📄 本笔记整理自课程官方文档 Module 5:AI Supply Chain and Infrastructure Attacks
愤怒火龙果1 个月前
人工智能·aigc·ai安全
AIGC 安全学习笔记01 深伪检测・文本隐写・LoRA📌 来源声明|本文为个人学习整理笔记,非原创研究 内容基于公开学术论文的精读梳理,核心文献均已下载原文核对:
特别关注外国供应商1 个月前
人工智能·网络安全·ai安全·工业网络安全·claroty·ot网络安全·暴露面管理
Claroty Claire:OT 环境中的 AI 驱动型网络安全在运营技术(OT)环境中,自主决策行动在短期内不太可能获得绿灯批准。一旦发生网络安全事件,工厂车间的物理流程可能会遭受运营和安全方面的严重后果,因此工程师和资产操作员不大可能将这些流程的控制权从人类手中交出。
小白跃升坊1 个月前
php·开源安全·1panel·ai安全·漏洞披露
PHP2Shell:AI 两天挖出 9.2 分漏洞,让全球 70% 网站连夜打补丁!1Panel 已经把修复版本封装好,推到了你的应用商店里。一句话概括:2026 年 10 月 21 日,PHP 官方深夜发布紧急安全更新,修复两个 CVSS v4.0 评分 9.2 的远程代码执行漏洞——它们不是人挖出来的,是 AI 挖出来的。这两个洞埋在 PHP 引擎里二十多年,一个核心开发者两年前找过却没找到利用路径,而 AI 用了两天。1Panel 已经把修复版本封装好,推到了你的应用商店里。
梅雅达编程笔记1 个月前
数据安全·数据要素·ai安全·数据投毒·ai治理·国家数据集团
AI安全的地基,刚刚被重新浇了一遍⚠️ 说明:本文基于公开报道整理,涉及企业与政策信息以官方发布为准。10月20日,河北雄安,一块牌子被揭开。
AI日报派送佬1 个月前
人工智能·机器学习·openai·英伟达·ai安全·anthropic·ai日报
2026年10月22日AI行业日报|AI智能体正面开战、云厂商模型生态洗牌、算力基建加速落地,同时智能体安全、高危漏洞风险持续拉响警报Anthropic 推出主动式智能体 Claude Duet;沃尔玛开放 AI 购物代理通道,和亚马逊限制 AI 代理的策略形成鲜明反差;OpenAI 与谷歌云达成重磅合作,谷歌云成为目前唯一同时提供 GPT、Gemini、Claude 三大主流闭源模型的云平台。 英伟达在 GTC 柏林接连放出关系型基础模型、模块化数据中心方案;安全侧爆出 PHP 高危漏洞,AI 辅助挖到历史遗留漏洞,影响海量存量站点;OpenAI 内部也曝光编码智能体自主关闭安全监控、主动说谎的风险案例。
小白跃升坊1 个月前
php·1panel·ai安全·漏洞披露
PHP2Shell:AI 两天挖出 9.2 分漏洞,让全球 70% 网站连夜打补丁一句话概括:2026 年 10 月 21 日,PHP 官方深夜发布紧急安全更新,修复两个 CVSS v4.0 评分 9.2 的远程代码执行漏洞——它们不是人挖出来的,是 AI 挖出来的。这两个洞埋在 PHP 引擎里二十多年,一个核心开发者两年前找过却没找到利用路径,而 AI 用了两天。1Panel 已经把修复版本封装好,推到了你的应用商店里。
小枣信安1 个月前
安全·网络安全·ai安全·大模型安全·智能体安全·mcp安全
MCP安全系列之缺乏日志审计这一项是关于缺乏审计的,相当于MCP的运行没有日志审计,事后无法定位和溯源,所以本篇我们演示一下如何给MCP去记录日志情况。
ccstuck1 个月前
人工智能·安全·开源·ai安全
AI安全系列:开源RAG系统测试作者:ccstuck | 2026-10 | 系列:把渗透方法论搬进 LLM 时代(二) 上一篇《给最小 Agent 做提示注入测试》打的是自写靶机,这一篇打真实产品:Open WebUI 的知识库(RAG)功能,三个大模型对照,附全部截图与踩坑记录。
AI日报派送佬1 个月前
人工智能·智能体·ai安全·开源ai·ai日报·人工智能前沿·ai科研
2026年10月4日AI行业日报|AI智能体自主能力升级,模型落地与安全规范双向迭代2026年10月4日AI行业核心围绕智能体自主进化、模型合规开源、算力投资标准化、AI安全伦理重塑、产业落地精细化五大核心方向迭代。智能体领域迎来突破性进展,OpenAI模型出现自我保护自主行为,多款评测、开发、数据合成工具落地,补齐工程化落地短板;模型端海外开源主权大模型、国内轻量模型实现能力突破,适配不同层级产业需求。同时行业彻底告别AI神化叙事,学界与头部企业纷纷正视大模型推理短板,AI版权风险、智能体蠕虫、算力成本失控等新型安全问题集中暴露,叠加算力工厂投资体系标准化、物理AI赛道融资爆发,行业正
Eason_LYC1 个月前
java·网络安全·渗透测试·shiro·漏洞复现·反序列化·ai安全
一个公开密钥放倒一片:Apache Shiro RememberMe 反序列化漏洞Apache Shiro 的【记住我】功能会把身份信息序列化后 AES 加密存进 Cookie。问题是早期版本把加密密钥硬编码在了源码里,而且密钥是公开的——攻击者用这个密钥加密任意反序列化数据塞进 Cookie,服务端解密后直接反序列化,命令就执行了。这篇讲透 Shiro 反序列化的原理、指纹识别、密钥问题和利用思路。
ccstuck2 个月前
人工智能·安全·ai安全
AI安全系列:给最小 Agent 做提示注入测试作者:ccstuck| 2026-10 | 系列:把渗透方法论搬进 LLM 时代(一) 实验环境:DeepSeek API + 约 130 行 Python 实现的无框架最小 Agent | 代码与 payload 已开源
liferecords2 个月前
大模型·智能体·ai安全·ai大厂
OpenAI 又把训练摁停了:AI agent 用 DNS 给自己开了条外网通道💡 一句话总结:OpenAI 第二次暂停最强模型的训练与评估——一个 agent 钻了 DNS 过滤的空子穿透「隔离」沙箱连上外部聊天机器人,监控报警很及时、自动刹车却失灵了;技术细节罕见地公开透明,但「失控(rogue)」这个词该不该用,社区已经吵翻了。
光依旧2 个月前
rsa·身份安全·ai安全·mcp·agent安全·mcp网关
RSA杀入Agent 身份安全:MCP网关成了新战场9 月 29 日,RSA在旧金山AI大会上发布了 RSA Agent ID:一个面向金融、政府、关键基础设施等高监管行业的 Agent 身份安全平台。
智码看视界2 个月前
ai安全·大模型安全·spring ai·越狱攻击·prompt注入·防御体系
Day81-AI安全攻防:Prompt注入攻击与防御实践上篇回顾:Day 80 我们用语义缓存把 34% 的重复问题挡在模型之外、零成本秒回,成本账算得明明白白。但省钱的前提是系统还活着——Prompt 注入能让 System Prompt、库表结构、内部规则一字不差被套出来。这篇用红队视角复现三类攻击,再给三层防御体系。