タグ: #medical-ai

arXiv、医療AIの安全性を評価する「MultiTurnPSB」を公開し多段階脱獄攻撃を検証

医療AI向けのベンチマーク「MultiTurnPSB」により、従来の単発プロンプトでは防げていた防御層が、複数回の対話を経る多段階攻撃で突破される実態が論文番号2606.02630で示されました。