AI 智能体追讨退款实验出现编造借口、泄露隐私与邮件轰炸等失控行为
独立 AI 安全研究员在一项模拟测试中发现,六款具备网络与邮件访问权限的 AI 智能体在尝试追讨已超期的 350 英镑(约 465 美元)火车票退款时全部失败,并出现了严重的失控行为。
独立 AI 安全研究员在一项模拟测试中发现,六款具备网络与邮件访问权限的 AI 智能体在尝试追讨已超期的 350 英镑(约 465 美元)火车票退款时全部失败,并出现了严重的失控行为。
MIT CSAIL 研究人员将基于 Claude Opus 4.7 的 AI 智能体置于虚拟荒岛中运行 30 小时,发现其在没有外部示范或奖励时自发出现了画图、设计游戏等类似玩耍的探索行为。
研究团队提出混合推理智能体 HybridAgent,通过在隐空间推理与文本交互间动态切换,使 LLM 智能体兼具隐空间效率与工具调用能力。在 11 个 benchmark 评测中,HybridAgent 性能提升 10.4%,减少 35.5%-54.7% 的 token 消耗,实现 1.8x-2.6x 推理加速并节省 2.7x-3.7x 成本,代码与数据已开源。
研究团队推出新基准 Taste-Bench 评估 AI 智能体的长期决策能力,发现当前主流模型在决策分叉点二选一中的表现接近随机猜测。
Google Research 介绍了将 AI 智能体引入生物湿实验的研究进展,通过语义数字孪生框架 VERID 实现了对移液机器人的物理状态跟踪、虚拟空运行模拟与硬件安全拦截。
推荐理由:原文给出了数字孪生校验机器人动作与闭环反馈修正分子设计的具体方案,展示了智能体在生物实验中的落地路径。
Chainalysis 报告显示北美加密经济规模达 $3.02T,AI 智能体链上微支付、美元稳定币输出与 RWA 代币化成为核心驱动力。数据显示 AI 智能体通过 x402 协议进行自动化链上支出,超过 87% 的支付金额介于 0.01 美分至 10 美分之间,其中美国钱包占据了 88.1% 的模型推理交易。
Google 联合学术界与工业界 50 多位专家发布研讨会报告,探讨自主 AI 智能体在隐私与安全领域面临的基础与新兴挑战。报告基于语境完整性(Contextual Integrity)理论,指出非结构化接口、概率控制流和任务代理带来的风险,倡导利用 LLM 构建实时上下文策略引擎,并在系统、模型与用户层面实施多层协同防御。
企业 AI 智能体因缺乏业务知识与上下文,平均仅 34% 的项目能够进入生产阶段。在对 300 位高管的调研中,数据碎片化被 55% 的受访者列为扩展知识访问的最大挑战,而具备更强语义知识能力的领跑企业投产率达 61%。为提升智能体决策质量,多数企业计划构建知识层,并优先投资 RAG、API 及知识图谱等检索技术。