JB Pritzker 认为 AI 或助人类活到 100 岁，也可能像核武般带来威胁
美国伊利诺伊州州长 JB Pritzker 在访谈中指出，AI 既可能助人长寿也可能带来如核武般的生存威胁，呼吁政府必须更积极地介入科技监管。他强调，面对技术对个人生活的侵蚀，政府应当在数据中心、隐私保护与反垄断等关键议题上捍卫公众利益，而非一味与大企业妥协合作。
#安全/对齐
The VergeAI 评分3535 链捕手 ChainCatcherAI 评分4646 Anthropic 联合创始人：AI 有望使美国 GDP 提升近 50%
Anthropic 联合创始人杰克·克拉克表示，其内部模型预测到 2030 年 AI 有望使美国经济产出提升近 50%，推动美国 GDP 从略高于 30 万亿美元增至 44 万亿美元。他警告技术奇点临近且建立安全防护的窗口期正在缩窄，呼吁国际合作制定严苛规则；此外，正筹备 11 月 IPO 的 Anthropic 估值预期近期已下调至 1.5 万亿美元区间。
Import AIAI 评分6464 Anthropic 联合创始人 Jack Clark 在 IMF 演讲：技术奇点已开启，科学与经济将迎重构
Anthropic 联合创始人 Jack Clark 在国际货币基金组织演讲中表示，AI 已在前沿数学、物理和生物领域展现突破能力，标志着技术奇点已进入初期阶段。他认为 AI 充当虚拟科研人员将大幅倍增全球科研产能并驱动经济增长，同时也会放大生物与网络安全威胁。各国需要提前储备算力和物理实验基础设施，并在科研与模型治理上建立审慎的人类监管机制。
MIT Technology Review · AIAI 评分5252 开源 AI 模型的实际益处能否抵消安全风险
开源模型在防范技术权力垄断与引发网络攻击等安全风险之间的权衡，已成为产业竞争与政策制定的核心分歧。开源权重便于研究人员深入检查机理并降低企业私有化部署成本，但缺乏云端安全过滤和权限撤回能力。目前研究界正尝试通过无害数据训练、防篡改微调以及分阶段发布等机制，在安全与技术普惠之间寻求折中方案。
MIT Technology Review · AIAI 评分6565 《麻省理工科技评论》探讨为何依赖 AI 拒绝机制维护安全并不稳妥
文章指出，当前主流 AI 安全方案过度依赖模型主动拒绝恶意请求，但这种基于概率与分类器的机制无法从根本上消除危险能力。随着模型被用于关键系统，分类器与微调不仅面临越狱破解和过度拒绝的折中难题，还容易沦为政治审查工具，甚至出现非预期的涌现性失控行为。
MIT Technology Review · AIAI 评分2424 构建自主工业 AI 的更安全路径
随着基础模型、物理 AI 与智能体 AI 进入工业领域，AVEVA 提出构建负责任 AI 框架，主张通过安全护栏辅助而非替代人类决策，确保关键基础设施的运行安全与可靠。该框架结合多源数据整合与自主机器人，以降低危险作业风险并提供实时诊断支持。同时，相关专家参与制定 IEEE 标准，统筹评估工业 AI 在电力、水资源和碳排放等维度的环境足迹。