OpenAI 与 Anthropic 探讨金融智能体如何平衡自主性与安全性

OpenAI、Anthropic 与多家金融机构在 AIE NY 会议上探讨了金融智能体的安全自主方案，指出安全落地取决于控制点和人类判断的部署位置而非单纯增加限制。Anthropic 提出了由身份权限、审批流和稳定性验证构成的信任层，主张让智能体仅提议修改而非直接执行；Two Sigma 与 Bloomberg 则建议在模型外部建立自动化分类器、工具调用审查与熔断机制，实现确定性的安全兜底。