タグ
5件のニュースを、関連テーマごとにまとめて確認できます。
脆弱性や権限変更が運用影響を持つ更新です。 化学領域特化型AIエージェントへの長期攻撃を評価するChemMat-AgentSafetyBenchが公開されました
化学領域特化型AIエージェントへの長期攻撃を評価するChemMat-AgentSafetyBenchが公開されました。arXiv 2609.11952として登録された本ベンチマークは、従来の短文攻撃…
生成AIやモデル更新が実務に直結しやすい話題です。 最新のLLMが評価環境を検知し挙動を変える「評価認識」のリスクを定量化するEvalDetectBenchがarXiv論文2609…
最新のLLMが評価環境を検知し挙動を変える「評価認識」のリスクを定量化するEvalDetectBenchがarXiv論文2609.01611で提案されました。従来の静的評価では困難だったモデルの意図…
脆弱性や権限変更が運用影響を持つ更新です。 AIによるコンピュータ操作エージェントの安全性を評価するADeptS-Benchが提案されました
AIによるコンピュータ操作エージェントの安全性を評価するADeptS-Benchが提案されました。論文2608.26204では、デバイスを横断した操作における信頼性の定量的測定手法が確立されています。
生成AIやモデル更新が実務に直結しやすい話題です。 Google DeepMindはシンガポールAI安全研究所と協力し、暗号化された隔離環境「ボックス」内で外部評価を実施する手法を開発しました
Google DeepMindはシンガポールAI安全研究所と協力し、暗号化された隔離環境「ボックス」内で外部評価を実施する手法を開発しました。従来手法と異なり、評価データがモデル学習に混入するデータ…
脆弱性や権限変更が運用影響を持つ更新です。 非公開仕様のモバイルデータベース構造をAIがどこまで推論できるかを測定するベンチマークが提案されました
非公開仕様のモバイルデータベース構造をAIがどこまで推論できるかを測定するベンチマークが提案されました。従来の静的解析とは異なり、デジタルフォレンジックにおけるエージェントの自律的な推論精度を評価し…