グーグル、AI文書認識「Magika」をオープンソース化

中抜き

グーグルは最近、Magikaと呼ばれる人工知能（AI）ツールのオープンソース化を発表した。深層学習モデルファイルタイプ認識の精度と速度を向上させます。このツールは、主にセキュリティ保護者がバイナリおよびテキストファイルタイプをより正確に検出するために使用することを目的としています。

マギカの特徴

Magikaは、高度に最適化されたカスタムのディープラーニングモデルを採用し、ミリ秒単位でファイルタイプを正確に識別する。Open Neural Network Exchange Format (ONNX)を使用することで、Magikaは高速な推論を可能にしている。ドキュメント認識この方法と比較して、Magikaは全体的な精度を301 TP3T向上させ、一般的に認識が困難なコンテンツ（VBA、JavaScript、Powershellなど）の識別では最大951 TP3T向上させました。

このソフトウェアは、「カスタマイズされ、高度に最適化されたディープラーニングモデル」を使用して、ミリ秒単位でファイルタイプを正確に識別する。 Magikaは推論にONNX（Open Neural Network Exchange）を使用している。

Magika in Google Apps

グーグルによると、Magikaを社内で大規模に使用し、Gmail、ドライブ、セキュアブラウジングのファイルを適切なセキュリティおよびコンテンツポリシースキャナーにルーティングすることで、ユーザーのセキュリティ向上を支援しているという。

2023年11月、ハイテク大手は、Gmailのスパムや悪意のあるメールなど、潜在的に有害なコンテンツを検出するための多言語テキスト処理モデル、RETVec（Resilient and Efficient Text Vectorizerの略）を発表した。

急速に進化するテクノロジーと、ロシア、中国、イラン、北朝鮮に関連する国家主体によるその悪用に関連するリスク。ハッカー攻撃をめぐる議論が激化する中、グーグルはAIの大量導入がデジタル・セキュリティを強化し、「天秤を傾ける」ことができると述べている。攻撃者から防御者へサイバーセキュリティバランス"

グーグル・オープンソース・マギカ

また、攻撃者はイノベーションを起こせるが、防御者はAIガバナンスの選択肢によって制限されるという未来を避けるために、AIの使用と採用に対するバランスの取れた規制アプローチの必要性も強調している。

AIは、脅威の検知、マルウェアの分析、脆弱性の検知、エクスプロイトの修復、インシデント対応において、セキュリティの専門家と防御者の作業を拡張することを可能にする。 「AIは、防御者のジレンマを破壊し、サイバー空間の天秤を傾け、防御者が攻撃者に対して決定的な優位に立つための最良の機会を提供する」。

のAIサイバーセキュリティ行動計画の実施における国連の役割

グーグルは、AIガバナンスの選択によって攻撃者がイノベーションを起こし、防御者が制限される未来を避けるために、AIの使用と導入に対するバランスの取れた規制アプローチの必要性を強調している。AIは、サイバースペースにおける天秤を傾け、防御者に攻撃者に対する決定的な優位性を与えることで、防御者のジレンマを変える最高の機会を提供する。"

また、生成AIモデルが学習目的でウェブクローリングされたデータを使用することにも懸念があり、これには個人情報も含まれる可能性がある。

英国情報コミッショナー事務所（ICO）は先月、次のように述べている。"あなたのモデルが何に使用されるのかわからない場合、その下流での使用がデータ保護と人々の権利と自由を尊重することをどのように保証できるでしょうか？"

さらに、新しい研究によれば、大規模な言語モデルは、一見無害に見えるが、特定の条件が満たされたり、特別な指示が提供されたりすると、なりすましや悪意のある行動をとるようにプログラムできる「スリーパーエージェント」として機能する可能性があるという。

「このバックドアの振る舞いは、教師ありの微調整、強化学習、敵対的訓練（安全でない振る舞いを誘発し、それを除去するように訓練する）を含む標準的なセキュリティ訓練技術では除去されないように持続することができる」と、人工知能スタートアップのAnthropicの研究者は研究の中で述べている。

参照する

1. https://opensource.googleblog.com/2024/02/magika-ai-powered-fast-and-efficient-file-type-identification.html

2. https://google.github.io/magika/

3. https://www.npmjs.com/package/magika