开源 AI 模型的实际益处能否抵消安全风险

开源模型在防范技术权力垄断与引发网络攻击等安全风险之间的权衡，已成为产业竞争与政策制定的核心分歧。开源权重便于研究人员深入检查机理并降低企业私有化部署成本，但缺乏云端安全过滤和权限撤回能力。目前研究界正尝试通过无害数据训练、防篡改微调以及分阶段发布等机制，在安全与技术普惠之间寻求折中方案。