MCP Defender是一款AI防火墙，用于监控和保护MCP通信。

grimly.ai是一款旨在保护AI代理免受越狱、注入攻击和滥用的产品。

AI Infra Guard是一款由腾讯开发的AI基础设施安全评估工具。

Permit.io AI Access Control 是一款专注于AI应用安全与权限管理的解决方案。

Verifiable Compute是由EQTY Lab与Intel和NVIDIA合作推出的AI框架，旨在治理和审计AI工作流程。

Gecko Security是一个AI驱动的安全工程师，旨在发现并修复代码库中的漏洞。

Protect AI是一个专注于AI安全的综合性平台，提供从端到端的AI安全风险管理和防护措施。

JailbreakZoo是一个专注于破解大型模型（包括大型语言模型和视觉语言模型）的资源库。

Frontier Safety Framework是Google DeepMind提出的一套协议，用于主动识别未来AI能力可能导致严重伤害的情况，并建立机制来检测和减轻这些风险。

PyRIT是由Azure开发的Python风险识别工具，旨在帮助安全专业人员和机器学习工程师主动发现其生成AI系统中的风险。

Lakera Guard通过一行代码为机器学习模型提供企业级安全保护,防止prompt注入、数据泄露、有害内容生成等安全风险,让组织轻松构建安全可靠的AI应用。

行者AI提供多种工具，包括AI安全、美术、音乐等，赋能行业，让创作更简单。

NoPromptInjections是一款用于保护AI应用免受提示注入威胁的产品。