Google 오픈 소스 Magika AI 문서 인식

아웃라인

구글은 최근 Magika라는 인공지능(AI) 도구의 오픈소싱을 발표했다.딥러닝 모델를 사용하여 파일 유형 인식의 정확도와 속도를 향상시킵니다. 이 도구는 주로 보안 방어자가 바이너리 및 텍스트 파일 유형을 보다 정확하게 감지하기 위해 사용합니다.

Magika 기능

Magika는 고도로 최적화된 맞춤형 딥 러닝 모델을 사용하여 밀리초 단위로 파일 유형을 정확하게 식별합니다. Magika는 개방형 신경망 교환 형식(ONNX)을 사용함으로써 빠른 추론 기능을 지원합니다.문서 인식이 방식에 비해 Magika는 전반적인 정확도가 301 TP3T 향상되었으며, 일반적으로 인식하기 어려운 콘텐츠(예: VBA, JavaScript 및 파워쉘)를 식별할 때 최대 951 TP3T까지 정확도가 향상되었습니다.

이 소프트웨어는 "고도로 최적화된 맞춤형 딥 러닝 모델"을 사용해 밀리초 안에 파일 유형을 정확하게 식별합니다. Magika는 추론에 오픈 신경망 교환(ONNX)을 사용합니다.

Google 앱의 Magika

Google은 내부적으로 Magika를 대규모로 사용하여 Gmail, 드라이브 및 보안 브라우징 파일을 적절한 보안 및 콘텐츠 정책 스캐너로 라우팅하여 사용자 보안을 개선하고 있다고 말합니다.

2023년 11월, 이 기술 대기업은 Gmail에서 스팸 및 악성 이메일과 같은 잠재적으로 유해한 콘텐츠를 탐지하는 다국어 텍스트 처리 모델인 RETVec(탄력적이고 효율적인 텍스트 벡터라이저의 줄임말)을 출시했습니다.

빠르게 진화하는 기술 및 러시아, 중국, 이란, 북한과 연계된 국가 행위자들에 의한 기술 오용과 관련된 위험을 강화하기 위해해커공격에 대한 논쟁이 계속되는 가운데, 구글은 AI를 대량으로 배포하면 디지털 보안을 강화하고 '전세를 역전시킬 수 있다'고 말합니다. 공격자에서 방어자로사이버 보안균형."

구글 오픈 소스 마기카

또한 공격자는 혁신을 이룰 수 있지만 방어자는 AI 거버넌스 옵션에 의해 제약을 받는 미래를 피하기 위해 AI 사용 및 채택에 대한 균형 잡힌 규제 접근법의 필요성을 강조합니다.

이 기술 대기업의 필 베너블스와 로열 한센은 "AI를 통해 보안 전문가와 방어자는 위협 탐지, 멀웨어 분석, 취약성 탐지, 익스플로잇 수정, 사고 대응 등의 업무를 확장할 수 있습니다. "AI는 방어자의 딜레마를 해소하고 사이버 공간의 판도를 뒤집어 방어자가 공격자보다 결정적인 우위를 점할 수 있는 최고의 기회를 제공합니다."라고 말합니다.

AI의사이버 보안행동계획 이행에 있어 유엔의 역할

구글은 AI 거버넌스 선택으로 인해 공격자는 혁신할 수 있고 방어자는 제한되는 미래를 피하기 위해 AI 사용 및 채택에 대한 균형 잡힌 규제 접근 방식의 필요성을 강조합니다."AI를 통해 보안 전문가와 방어자는 위협 탐지, 멀웨어 분석 , 취약점 탐지, 취약점 수정 및 사고 대응으로 노력을 확대할 수 있습니다."라며 "AI는 사이버 공간의 균형을 맞추고 방어자에게 공격자보다 결정적인 우위를 부여함으로써 방어자의 딜레마를 바꿀 수 있는 최고의 기회를 제공합니다."라고 설명합니다.

또한 개인 데이터가 포함될 수 있는 웹 크롤링 데이터를 학습 목적으로 사용하는 생성형 AI 모델에 대한 우려도 있습니다.

영국 정보위원회(ICO)는 지난달 "모델이 어떤 용도로 사용될지 모른다면 어떻게 데이터 보호와 사람들의 권리와 자유를 존중하는 다운스트림 사용을 보장할 수 있겠습니까?"라고 말했습니다.

또한 새로운 연구에 따르면 대규모 언어 모델은 겉보기에는 무해하지만 특정 기준이 충족되거나 특별한 지침이 제공되면 스푸핑 또는 악의적인 동작을 수행하도록 프로그래밍된 '잠복 에이전트'로 작동할 수 있다고 합니다.

인공지능 스타트업인 Anthropic의 연구원들은 이 연구에서 "이러한 백도어 동작은 감독 미세 조정, 강화 학습, 적대적 훈련(안전하지 않은 동작을 유발한 다음 이를 제거하도록 훈련하는 것)을 포함한 표준 보안 훈련 기법으로도 제거되지 않도록 지속될 수 있습니다."라고 설명했습니다.

인용하다

1. https://opensource.googleblog.com/2024/02/magika-ai-powered-fast-and-efficient-file-type-identification.html

2. https://google.github.io/magika/

3. https://www.npmjs.com/package/magika