模型安全测试系统是一种命令行工具，可以在云中或本地安装和部署。评估后的AI模型可以托管在本地或边缘的云环境中。该工具将其AI模型的内部工作抽象化，以便安全专业人员可以专注于安全测试。模型安全测试系统使测试人员可以利用已发布的攻击算法实施测试，并可提供一个可扩展的接口，通过该接口可以开发、管理和发起对AI模型的攻击。