Google DeepMind、暗号化技術を用いた世界初のAI二重盲検評価基盤を導入
Google DeepMindはシンガポールAI安全研究所と協力し、暗号化された隔離環境「ボックス」内で外部評価を実施する手法を開発しました。従来手法と異なり、評価データがモデル学習に混入するデータ…
AIの動向が実務の判断材料になる更新です。 Google DeepMindはシンガポールAI安全研究所と協力し、暗号化された隔離環境「ボックス」内で外部評価を実施する手法を開発しました
Google DeepMindは、AIモデルの信頼性を客観的に測定するため、暗号技術を活用した世界初の二重盲検評価基盤を導入しました。この取り組みは、特定の評価用データセットが事前にモデルの学習プロセスに組み込まれてしまう「データ汚染」を防ぐことを目的としています。試験を受ける生徒が事前に問題集を見てしまうような事態を避けるため、評価環境を暗号化された安全な隔離空間内に閉じ込める仕組みを構築しました。
従来の評価プロセスでは、外部パートナーや研究機関によるテストであっても、その評価内容が間接的に次期モデルの最適化に利用されるリスクを排除しきれませんでした。今回の二重盲検方式では、モデル開発者側は評価内容を把握できず、評価者側もモデルの詳細にアクセスできない「ボックス」内で検証が実行されます。これにより、独自のフロンティア級AIモデルが外部評価の結果を事前に学習してスコアを偽装することを防ぎます。
今回のパイロット運用は、シンガポールのAI Safety Institute（AISI）などの外部パートナーと連携して実施されます。評価環境の機密性と整合性を維持しつつ、プロプライエタリなモデルのベンチマーク結果に客観的な裏付けを与えるための基盤として機能します。一方で、この評価プロセスを通過させるためには特定の暗号化環境への対応が必要となり、評価コストや検証サイクルへの影響を考慮する余地があります。
Related tools
この記事に関連するおすすめツール
比較検討しやすい導入候補を優先して表示しています。一部リンクは広告・アフィリエイトを含む場合があります。
出典: DeepMind Blog
要点を短く整理して掲載しています。詳細は出典を確認してください。
