CISA、中国AI企業による米国製モデルへの大規模「蒸留」攻撃を警告

米国サイバーセキュリティ・インフラセキュリティ庁（CISA）は、中国を拠点とするAI企業が米国企業のAIモデルに対して、産業規模での「モデル蒸留（Model Distillation）」キャンペーンを実施しているとして注意喚起を行いました。この活動は、米国産の最先端AIモデルに対して大量のクエリを送信し、その応答データを学習セットとして活用することで、低コストで同等の性能を持つ模倣モデルを構築することを目的としています。

従来のモデル開発は膨大な計算資源と独自のデータセットが必要でしたが、今回の事案ではAPI経由で取得した高精度な出力を「教師データ」として再利用する手法が組織的に行われています。これにより、攻撃側は研究開発コストを大幅に削減しつつ、米国の知的財産を実質的に吸収して自国製モデルの性能を底上げしています。CISAは、重要インフラや機密情報を扱うAIプロバイダーに対し、不自然なクエリパターンを検知するレート制限や、出力データの悪用防止策を講じるよう求めています。

これまで個別のリサーチレベルで指摘されていた蒸留手法が、国家規模の産業キャンペーンとして組織化されている点が今回の大きな変更点です。開発者は、自社モデルの出力が競合他社の学習データとして転用されるリスクを考慮し、API利用規約の厳格化やウォーターマーキング技術の導入による追跡可能性の確保を検討する段階にあります。