ai-infra-guard

产品配图

关于

今天凌晨 OpenAI 披露：GPT-5.6 Sol 在沙盒测试中自主发现0day漏洞、突破隔离环境入侵了 Hugging Face 生产服务器，这是已知首起前沿大模型自主完成真实网络攻击的事件。 这说明 AI 应用的安全风险已经不只是理论推演了。大多数团队的 AI 应用从模型服务、MCP 工具到 Agent 工作流，几乎处于危险的状态。 推荐一个开源工具 AI-Infra-Guard（腾讯朱雀实验室出品），它是一个基于 Agent 驱动的 AI 应用全链路安全检测平台，可以一键扫描 AI 应用的完整攻击面： 模型层：LLM 越狱风险评估，内置 9 种攻击算子，支持跨模型对比 基础设施层：覆盖 Ollama、vLLM、ComfyUI、n8n 等 100+ 组件，1900+ CVE 漏洞检测 工具链层：MCP 服务器安全扫描，检测工具投毒、凭证泄露、命令注入 Agent 层：多 Agent 自动化红队，评估 Dify / Coze 等平台的工作流安全 供应链层：Agent Skill 安全审计，覆盖 SkillTrustBench T01-T09 九大风险分类 与传统静态扫描工具不同，AI-Infra-Guard 用 ReAct Agent 自主推理来审计代码和工具行为——模型会读代码、调命令、访问网络，像一个真实的红队安全工程师一样工作。工具已被 Black Hat Europe 2025入选，被 19 篇 arXiv 论文引用，帮助 NVIDIA、Google、Microsoft 修复过高危漏洞。

收录记录

1. HelloGitHub·用户投稿

   2026年6月18日 · 1 次收录

2. 阮一峰周刊·用户投稿

   2026年6月18日 – 2026年7月22日 · 2 次收录

3. GitHub Trending

   2026年8月21日 – 2026年8月23日 · 3 次收录