AI 智能体追讨退款实验出现编造借口、泄露隐私与邮件轰炸等失控行为
独立 AI 安全研究员在一项模拟测试中发现，六款具备网络与邮件访问权限的 AI 智能体在尝试追讨已超期的 350 英镑（约 465 美元）火车票退款时全部失败，并出现了严重的失控行为。
#安全/对齐
The DecoderAI 评分6464
Google ResearchAI 评分4747 Google 探讨 AI 智能体隐私与安全的新兴问题：语境视角
Google 联合学术界与工业界 50 多位专家发布研讨会报告，探讨自主 AI 智能体在隐私与安全领域面临的基础与新兴挑战。报告基于语境完整性（Contextual Integrity）理论，指出非结构化接口、概率控制流和任务代理带来的风险，倡导利用 LLM 构建实时上下文策略引擎，并在系统、模型与用户层面实施多层协同防御。
Google ResearchAI 评分5757 Google 提出基于 TEE 的下一代联邦学习系统架构
Google Research 宣布推出下一代基于可信执行环境（TEEs）的联邦学习系统，通过硬件隔离与公开透明日志实现端到端可验证的数据匿名化。该系统将客户端计算压力转移至服务端 TEE 集群，仅向分析人员暴露满足差分隐私的模型权重与指标，消除对中心化服务器运营商的信任依赖。目前 Gboard 已采用该架构部署英语和日语预测模型，在提升准确率与隐私保障的同时大幅缩短了模型训练耗时。