# サードパーティ製スキャナー: Protect AI

> [!TIP]
> セキュリティパートナーシップへの参加、またはHubでのスキャン情報の提供にご興味がある方は、security@huggingface.co.* までご連絡ください。

[Protect AI](https://protectai.com/)の[Guardian](https://protectai.com/guardian)は、[Knowledge Base page](https://protectai.com/insights/knowledge-base/)に詳細が記載されているpickle、Keras、その他のエクスプロイトを検出します。Guardianは、バウンティ[Huntr](https://huntr.com/)のコミュニティから送信されるレポートの恩恵も受けています。

![Protect AI report for the danger.dat file contained in mcpotato/42-eicar-street](https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/hub/protect-ai-report.png) *[danger.dat](https://huggingface.co/mcpotato/42-eicar-street/blob/main/danger.dat)のレポートの例*

Protect AI と提携し、スキャン機能を提供することで Hub の安全性を向上させています。内部のスキャンシステムによってファイルがスキャンされるのと同様に、パブリックリポジトリのファイルは Guardian によってスキャンされます。

この目的に特化して、新しいスキャナーに対応できるよう、フロントエンドが再設計されました:

この機能を実際に確認できるサンプルリポジトリを以下に示します: [mcpotato/42-eicar-street](https://huggingface.co/mcpotato/42-eicar-street)。

## モデルセキュリティの復習

モデルを共有するために、モデルとの相互作用に使用するデータ構造をシリアライズし、保存と転送を容易にします。一部のシリアライズ形式は、任意のコード実行（pickle、あなたのことです）のような悪意あるエクスプロイトに対して脆弱であり、モデルの共有が潜在的に危険を伴う可能性があります。

Hugging Face がモデル共有のプラットフォームとして広く普及したことに伴い、コミュニティをこの脅威から保護するため、[picklescan](https://github.com/mmaitre314/picklescan) などのツールを開発し、サードパーティ製のスキャナーを統合しています。

Pickleは唯一の悪用可能なフォーマットではありません。KerasのLambdaレイヤーを悪用して任意のコード実行を実現する方法については、[参考資料](https://github.com/Azure/counterfit/wiki/Abusing-ML-model-file-formats-to-create-malware-on-AI-systems:-A-proof-of-concept)を参照してください。