マイクロソフト、AIGC向けレッドチームテスト用オープンソースツールを公開

最近、マイクロソフトは、自動化によって生成AIのリスクを特定するためのレッドチームテストツールPyRIT（Python Risk Identification Toolkit for Generative Artificial Intelligence）をリリースした。これは、セキュリティ専門家や機械学習エンジニアが生成型AIのリスクを特定するのを支援するために設計されたオープンソースのレッドチームテストツールだ。マイクロソフトによると、PyRITはタスクを自動化し、さらに調査すべき領域にフラグを立てることで監査効率を向上させ、実質的に手動のレッドチームテストを補強するという。PyRITは現在、GitHubで入手可能だ。