一个自主红队测试平台,用多智能体编排自动执行攻击性安全测试,帮安全团队持续检验防御能力。
面向 Agent 应用的 Python 可观测性 SDK,支持对 Agent、LLM 和工具调用做追踪、调试与评测,自带可自托管面板,用时间线和执行图看清多智能体系统的运行过程。
用声明式配置对提示词、Agent 和 RAG 做自动化评测与红队渗透测试,支持多模型横向对比,可接入命令行和 CI/CD。
AgentPoison 是 NeurIPS 2024 的红队测试工具,通过向记忆或知识库注入后门投毒,攻击基于检索增强的 LLM Agent,暴露其安全漏洞。
面向 AI Agent 开发团队的协作平台,支持测试、模拟和追踪 Agent 运行,让领域专家标注行为、工程师据此迭代改进。
收集大模型越狱攻击的前沿论文、代码、数据集与评测分析,帮安全研究者快速跟进 LLM 与多模态模型的攻防进展。