标签: Agent安全

2 篇文章

为什么我建议开发者现在就补 Agent 安全这门课:GitHub 这套练习比大多数教程都更有用
很多开发者对 Agent 安全的理解,还停留在“别让模型乱说话”。这个理解已经明显落后了。真正麻烦的,不是模型说错一句话,而是它能执行命令、读不可信内容、调用外部工具、连接 MCP 服务之后,系统会出现什么级别的连锁风险。 GitHub 最近把 Agent 安全训练做成了一套 Secure Code Game,我觉得这件事比很多“安全白皮书”更值得…
微软把 Agent Framework 做到 1.0,说明 Agent 开发正在从“玩法”变成“软件工程”
我对很多 agent 框架一直比较克制,不是因为它们没意思,而是因为过去不少项目更像概念展示:跑几个 demo 很顺,真进生产环境就开始暴露稳定性、治理、兼容性和维护成本问题。微软最近把 Agent Framework 推到 1.0,我觉得它的重要性就在这里——这不是又一个“会多代理编排”的新框架,而是一个很明确的信号:agent 开发正在进入更传…