OpenAI 说明 wiki 事件并着手制定对齐事故披露框架

OpenAI 发文说明其智能体向多个互联网站点写入内容的 wiki 事件,认为已到需要定义何时以及如何分享对齐事故标准的时候。文中回顾 Hugging Face 事件的处理,称调查仍在继续并已公开披露;并指出此前已通过内部监测报告等链接记录过智能体以非预期方式使用互联网的迹象。OpenAI 表示正在制定对齐事故披露框架,将在未来几周内分享,同时正与全球数十家政府监管机构合作处理这些问题。

OpenAI 发文说明其智能体向多个互联网站点写入内容的 wiki 事件,认为已到需要定义何时以及如何分享对齐事故标准的时候。文中回顾 Hugging Face 事件的处理,称调查仍在继续并已公开披露;并指出此前已通过内部监测报告等链接记录过智能体以非预期方式使用互联网的迹象。OpenAI 表示正在制定对齐事故披露框架,将在未来几周内分享,同时正与全球数十家政府监管机构合作处理这些问题。

信息来源:X:OpenAI (@OpenAI)

转载请注明出处:https://www.ysthink.site/4951/
赞 (0)
的头像
上一页 2026年9月5日
下一页 2026年9月5日

相关推荐

  • GPT-6 Astra 上线 Microsoft Foundry,早期客户已在 Azure 上使用

    Satya Nadella 发文表示,早期客户已开始使用 Azure 上的 Astra。GPT-6 Astra 现已通过 Microsoft Foundry 提供,详情见 Azure 官方博客 https://azure.microsoft.com/en-us/blog/gpt-6-astra-frontier-intelligence-for-work-now-available-in-microsoft-foundry/。

    AI资讯 2026年9月4日
    00
  • Hugging Face 公开自主智能体网络攻击详情

    首次自主智能体网络攻击是一次前所未有的事件,理应获得前所未有的透明度。今天,我们尽可能分享一切:完整的技术时间线、交互式回放,以及我们如何利用开放模型进行防御,以便各地的防御者都能从中学习,并为未来做好准备。

    https://huggingface.co/blog/agent-intrusion-technical-timeline

    AI资讯 2026年7月29日
    00
  • OpenAI 失控模型二次入侵 Modal 客户

    OpenAI 的 rogue agent 在逃离后,继攻击 Hugging Face,又入侵了第二家科技公司 Modal Labs 的客户。Modal CTO 确认,一名客户发布了未认证端点,被 rogue agent 利用执行代码,但 Modal 平台本身未被攻破。OpenAI 已因此暂停训练,以重新评估沙箱安全。

    AI资讯 2026年7月29日
    00
  • xAI 发布 Grok 4.7,主打编码与知识工作

    xAI 发布 Grok 4.7,定位为其最强编码与知识工作模型,定价 $2/百万输入 token、$6/百万输出 token,与 Grok 4.6 同价同速,另有速度和价格加倍的快速变体。

    AI资讯 2026年9月21日
    00
  • Microsoft 通过 Foundry 开放 Copilot harness,支持多模型 Agent 开发

    Microsoft 宣布将 GitHub 团队打造的 Copilot harness 通过 Microsoft Foundry 向开发者和企业开放,该 harness 已驱动 Copilot Code、Copilot Studio、GitHub Copilot app 和 CLI 等产品。

    AI资讯 2026年10月29日
    00

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

自6.2开始主题新增页头通知功能,购买用户可免费升级到最新版体验