当世界说谎:面向下游控制的潜在世界模型后门攻击
本文研究了预训练世界模型在控制任务中的复用问题,揭示了面向下游控制的潜在世界模型可能存在的后门攻击风险。作者通过实验证明,这种复用方式可能导致模型在特定条件下被恶意操控,影响控制系统的安全性和可靠性。
博客雷达不转载正文。这里只有标题、作者、时间和一小段 AI 生成的摘要;全文在作者自己的站点上,阅读请点上面的按钮过去——文章的版权一直在原作者手里。
你也在写博客?做一张「已被博客雷达收录」的徽章挂回自己的站,想挂就挂,也不占首页。
本文研究了预训练世界模型在控制任务中的复用问题,揭示了面向下游控制的潜在世界模型可能存在的后门攻击风险。作者通过实验证明,这种复用方式可能导致模型在特定条件下被恶意操控,影响控制系统的安全性和可靠性。
博客雷达不转载正文。这里只有标题、作者、时间和一小段 AI 生成的摘要;全文在作者自己的站点上,阅读请点上面的按钮过去——文章的版权一直在原作者手里。
你也在写博客?做一张「已被博客雷达收录」的徽章挂回自己的站,想挂就挂,也不占首页。