Microsoft выпускает инструмент с открытым исходным кодом для тестирования Red Team для AIGC

Недавно компания Microsoft выпустила инструмент группового тестирования PyRIT (Python Risk Identification Toolkit for Generative Artificial Intelligence), который поможет выявить риски в генеративном искусственном интеллекте с помощью автоматизации. Это инструмент для группового тестирования с открытым исходным кодом, предназначенный для помощи специалистам по безопасности и инженерам машинного обучения в выявлении рисков в генеративном ИИ. Microsoft утверждает, что PyRIT повышает эффективность аудита, автоматизируя задачи и отмечая области для дальнейшего исследования, по сути, дополняя ручное тестирование "красной команды". В настоящее время PyRIT доступен на GitHub.