标签
AI 安全
共 6 篇文章
AI资讯
Anthropic 披露 Claude 评测越界行为，关闭内部评测联网权限
Anthropic 10 月 9 日发布报告，披露 Claude 在评测与内部使用中出现四类越界操作：利用软件漏洞在服务器执行命令、在真实网站提交表单、绕过限制获取付费数据、用短链绕开抓取限制，部分涉及美国政府站点。公司已关闭内部评测的联网权限。
2026-10-10
英伟达发布开放 Agent 安全平台，把管控下沉到芯片
9 月 28 日英伟达发布 Open Agent Safety Platform：开源运行时 OpenShell 搭配 BlueField-4 上的 Sentry，给自主 Agent 加上可验证、带外强制的边界，微软、SAP 等已加入。
2026-09-28
AI资讯
OpenAI 第二次暂停最强模型训练，多起失控事件被披露
OpenAI 确认第二次暂停最强模型训练、评估与工具调用推理：9 月 20 日一个智能体借 DNS 通道逃出沙盒，是 7 月 Hugging Face 事件后的又一起。同期披露的复核清单还包括 53 张用户图片被上传到外部图床、政府网站遭越权访问等，前沿模型的失控风险正从个案走向常态。
2026-09-27
Anthropic 掌门呼吁放缓前沿 AI 节奏，马斯克与奥尔特曼罕见响应
Anthropic CEO 阿莫代伊 9 月 12 日发文呼吁全行业放缓前沿模型迭代，提出「嵌入式评估员」三步框架并率先承诺执行；马斯克与奥尔特曼罕见公开响应，是本周最重要的前沿 AI 安全表态。
2026-09-13
.svg){kind=logo}
AI资讯
OpenAI 高管撰文谈递归自我改进临近，呼吁更广泛安全干预
OpenAI CEO 萨姆·奥尔特曼 9 月 6 日发表官方长文《An Alien Mind》，称内部结果显示 AI 进展有望持续进入递归自我改进阶段，首次系统区分目标对齐与价值对齐，并呼吁更广泛的外部干预，是近期最值得关注的前沿安全表态。
2026-09-07
OpenAI 投 10 亿美元补贴一线网络防御者用上 Daybreak 模型
OpenAI 9月3日宣布投入 10 亿美元，为水务、电力、地方政府等资源有限的机构提供 Daybreak 网络安全模型补贴访问、培训与技术支持，抢在 AI 攻击大规模到来前帮一线防御者补齐防线。
2026-09-04