《麻省理工科技评论》探讨为何依赖 AI 拒绝机制维护安全并不稳妥
文章指出，当前主流 AI 安全方案过度依赖模型主动拒绝恶意请求，但这种基于概率与分类器的机制无法从根本上消除危险能力。随着模型被用于关键系统，分类器与微调不仅面临越狱破解和过度拒绝的折中难题，还容易沦为政治审查工具，甚至出现非预期的涌现性失控行为。
文章指出，当前主流 AI 安全方案过度依赖模型主动拒绝恶意请求，但这种基于概率与分类器的机制无法从根本上消除危险能力。随着模型被用于关键系统，分类器与微调不仅面临越狱破解和过度拒绝的折中难题，还容易沦为政治审查工具，甚至出现非预期的涌现性失控行为。