技术栈
agent安全
李福春
7 天前
人工智能
·
agent安全
·
幂等设计
·
深圳同盟
·
腾讯云架构师技术同盟
·
智能体权限
·
工具授权分级
技术思考问题16：AI智能体模型Meta-Muse-Wonder越聪明，刹车应该谁来踩？
记忆给的是意图证据，不是授权证据，一字之差就是一次越权。我是老李，在一家做出行与企业服务的公司带基础架构组。去年我们在内部做了一套企业级智能体平台，给客服和运营用：能查订单、能改签、能退票、能发起退款。
xixixi77777
11 天前
人工智能
·
安全
·
web安全
·
华为
·
提示词注入
·
agent安全
·
模型投毒
解读｜华为星河 AI 三层安全围栏：以 AI 守护 AI，重构智算中心 Token 生产纵深防御体系
Agent 智能体时代，智算中心如同数字世界的 “发电站”，源源不断生产 Token，支撑大模型推理、智能体调度、具身智能运行。但传统安全架构沿用互联网时代的防护逻辑，已经很难适配 AI 新型攻击：算力被劫持滥用、各类提示词注入绕过 WAF、模型权重投毒窃取成为智算中心三大高频致命威胁华为企业业...。
EatFan
16 天前
大数据
·
人工智能
·
安全
·
ai智能体
·
mcp
·
agent安全
·
ftc
「失控AI智能体」首遭FTC立案：英伟达Agent安全体系落地，AI智能体合规设计如何前置
素材性质与核验状态提示：本文所述事件的时间、对象、性质与范围，均来自中文技术社区的二次汇总转述，未取得财联社原文与 FTC 官方公告等一手来源，事件时间点本身亦无法通过一手渠道核实。下文所有事件条目均未经一手来源核实，不构成事实确认；对外发布或引用前，请先取得一手来源。
大连好光景
17 天前
数据泄露
·
agent安全
·
prompt注入
·
工具滥用
Agent有哪些安全风险？如何保证系统安全性？
光依旧
20 天前
rsa
·
身份安全
·
ai安全
·
mcp
·
agent安全
·
mcp网关
RSA杀入Agent 身份安全：MCP网关成了新战场
9 月 29 日，RSA在旧金山AI大会上发布了 RSA Agent ID：一个面向金融、政府、关键基础设施等高监管行业的 Agent 身份安全平台。
光依旧
24 天前
ai agent
·
运行时
·
agent安全
·
harness
·
agent架构
·
herdr
·
终端多路复用
herdr：给 Agent 一个专属终端运行时，是不是伪需求？
系列第 04 篇。前三篇聊了决策层分层、MCP 安全风险、技能层 ECC。这次往下走一层——Agent 跑在哪？
花千树-010
3 个月前
ai安全
·
mcp
·
claude code
·
agent安全
·
plugin安全
·
ai 供应链安全
·
企业ai治理
Harness Marketplace 剖析系列 - 之 Claude Code：权限、安全与供应链治理
前面的文章已经完成了 Claude Code Marketplace 的主要运行链分析：经过这些阶段，一个第三方 Plugin 已经可以向 Claude Code 注入多种能力：
Rubin智造社
5 个月前
纵深防御
·
ai安全
·
提示词注入
·
agent安全
·
openclaw
·
安全边界
·
沙箱防护
OpenClaw实操指南42｜安全边界2：提示词注入与沙箱防护
边界不是用来堵住所有坏东西的墙，而是用来划定“炸了也没事”的范围上一篇文章我们讨论了OpenClaw部署中“被忽略的安全基线”，从公开暴露检测、敏感文件审计到恶意插件扫描，搭建了一个基础的安全扫描框架。但安全基线只能帮你发现“哪里出问题了”，真正的防御，需要回答一个更本质的问题：当AI Agent被恶意指令劫持时，你的系统能扛住吗？
冲上云霄的Jayden
6 个月前
prompt
·
agent
·
智能客服
·
langchain4j
·
agent安全
·
langgraph4j
·
prompt注入
LangGraph4j+LangChain4J 实验智能客服系统增加基于LLM 解决Prompt注入问题
考量了Prompt注入对安全的问题后，基于LangGraph4j+LangChain4J 实验智能客服系统、恶意用户Prompt注入和处理的思考 贴上实验的实现代码。
?Anita Zhang
6 个月前
隐私计算
·
大模型安全
·
agent安全
·
llm数据安全
·
rag安全
企业AI用数安全架构设计：从数据脱敏到智能体隐私沙箱
话题标签：大模型安全 LLM数据安全 RAG安全 Agent安全 隐私计算企业AI落地面临的核心矛盾：高敏数据不能出域，但AI需要数据才能产生价值。传统数据安全方案为"人操作数据"设计，无法应对AI高频、模糊边界、自主执行的用数特征。
Ho1aAs
7 个月前
安全
·
web安全
·
网络安全
·
ai
·
智能体
·
agent安全
·
openclaw
『OpenClaw安全』CVE-2026-25253:ClawJacked One-Click RCE
使用漏洞修复前一个版本 https://github.com/openclaw/openclaw/tree/v2026.1.24 按照官方教程安装，此时老版本还是叫clawdbot
有点不太正常
1 年前
论文阅读
·
大模型
·
agent安全
《ShadowCoT: Cognitive Hijacking for Stealthy Reasoning Backdoors in LLMs》——论文阅读
CoT通过生成逐步推理过程，大幅提升了 LLMs的准确性和可解释性，但推理链的拉长也暴露了新的攻击面 —— 中间推理步骤本身可能成为恶意操纵的载体。传统后门攻击多针对输入输出的 “表面层”（如注入触发词、篡改输出 tokens），而基于CoT的攻击需深入模型内部推理轨迹，现有方法缺乏对推理动态过程的直接干预，且易被检测。
我是有底线的