微软发布针对AIGC的红队测试开源工具

近日，微软发布了PyRIT（用于生成式人工智能的Python风险识别工具包）红队测试工具，通过自动化帮助识别生成式人工智能中的风险。这是一个开源的红队测试工具，旨在帮助安全专业人员和机器学习工程师识别生成式人工智能中的风险。微软表示，PyRIT通过自动化任务和标记需要进一步调查的领域，提高了审计效率，本质上增强了手动红队测试。目前，PyRIT可以在GitHub上获取。