标签: Agent安全

5 篇文章

MCP 真正难的已经不是“怎么接”,而是怎么收权限、控风险、做治理
我一开始以为 MCP 最大的问题是协议本身,后来发现不是。协议反而是这件事里最容易的一部分。真正麻烦的,是当你的工具越来越多、模型越来越会主动调用工具之后,谁来决定它能调用什么、在什么上下文里调用、出了问题怎么追。 这也是我现在看 MCP 的核心判断:它当然值得关注,但对开发者来说,真正要投入时间的不是“再接几个 server”,而是尽快把权限边界…
Agent 安全不是安全团队的冷门话题,而是每个会接工具的开发者都要补的课
很多开发者在做 Agent 应用时,会把安全问题放到很后面:先把工具接起来,先让流程跑通,先做一个 demo。这个顺序可以理解,但不能长期这么做。只要 Agent 能读文件、调 API、改代码、访问网页,安全就不再是可选项。 GitHub 最近推出面向 agentic AI 漏洞的 Secure Code Game,并公开讨论 GitHub age…
MCP 不是万能插头:协议刚火起来,安全债已经追上来了
MCP 这半年很火,火到很多人已经默认它会成为 Agent 世界的“USB-C”。这个比喻传播很快,因为它足够顺口:统一接口、统一协议、统一生态,模型终于可以不再为每个工具写一套私有集成。问题是,工程世界里所有“万能插头”的故事,都有一个后半段:统一连接方式会降低接入成本,也会同步放大同一类设计缺陷的传播速度。最近安全研究团队公开披露的 MCP 相…
为什么我建议开发者现在就补 Agent 安全这门课:GitHub 这套练习比大多数教程都更有用
很多开发者对 Agent 安全的理解,还停留在“别让模型乱说话”。这个理解已经明显落后了。真正麻烦的,不是模型说错一句话,而是它能执行命令、读不可信内容、调用外部工具、连接 MCP 服务之后,系统会出现什么级别的连锁风险。 GitHub 最近把 Agent 安全训练做成了一套 Secure Code Game,我觉得这件事比很多“安全白皮书”更值得…
微软把 Agent Framework 做到 1.0,说明 Agent 开发正在从“玩法”变成“软件工程”
我对很多 agent 框架一直比较克制,不是因为它们没意思,而是因为过去不少项目更像概念展示:跑几个 demo 很顺,真进生产环境就开始暴露稳定性、治理、兼容性和维护成本问题。微软最近把 Agent Framework 推到 1.0,我觉得它的重要性就在这里——这不是又一个“会多代理编排”的新框架,而是一个很明确的信号:agent 开发正在进入更传…