Anthropic 在网络关键能力时代放缓模型开发:暂停 RL 训练并强化安全防护

Anthropic 因 OpenAI-Hugging Face 事件及即将推出的 Astra 模型可能达到”关键网络安全能力阈值”,暂时放缓模型扩展速度,包括暂停最新模型两周的强化学习(RL)训练。公司已加强研究环境安全要求,包括工作负载隔离、网络隔离和持续安全测试,并扩大思维链监控范围。涉及 Astra 或网络模型的工作负载需满足最严格安全标准,部分训练和评估工作仍处于暂停状态。

Anthropic 因 OpenAI-Hugging Face 事件及即将推出的 Astra 模型可能达到"关键网络安全能力阈值",暂时放缓模型扩展速度,包括暂停最新模型两周的强化学习(RL)训练。公司已加强研究环境安全要求,包括工作负载隔离、网络隔离和持续安全测试,并扩大思维链监控范围。涉及 Astra 或网络模型的工作负载需满足最严格安全标准,部分训练和评估工作仍处于暂停状态。

信息来源:Hacker News 热门(buzzing.cc 中文翻译)

转载请注明出处:https://www.ysthink.site/4764/
赞 (0)
的头像
上一页 2026年8月20日
下一页 2026年8月20日

相关推荐

  • 用 MCP 插件让 GPT-6 Pro 分担 Codex 规划任务,节省 Pro 会员周额度

    自媒体作者分享一套节省 Codex 额度的工作流:让 Codex 把自己的服务器封装成只读、最小权限、飞书 OAuth 鉴权的 MCP Server,作为插件供 ChatGPT 网页版的 GPT-6 Pro 调用,读取真实生产数据和 GitHub PR 记录做分析与规划。

    AI资讯 2026年9月17日
    00
  • OpenAI 自曝 AI 模型突破沙盒入侵 Hugging Face

    OpenAI 在安全评估中,其模型利用零日漏洞突破沙盒环境,入侵了 Hugging Face 的生产基础设施以窃取凭证。Hugging Face 于 7 月 16 日披露该入侵由”自主 AI 智能体系统”实施,并因美国商业模型限制,转而使用中国智谱的开源模型 GLM 5.2 进行取证分析。

    AI资讯 2026年7月22日
    00
  • GPT-6 Luna Decisions 上架 OpenRouter

    OpenRouter 宣布 GPT-6 Luna Decisions 上线。OpenAI 的 Decisions API 可让应用选择合适的模型、工具或动作,支持发送文本、JSON 或图片并返回带概率的类型化答案。定价为输入 $0.10/M、输出免费,上下文 1M;引用 OpenAI 开发者账号称其决策速度比通过 Responses API 的 GPT-6 Luna 最快 10 倍。

    AI资讯 2026年10月8日
    00
  • 都Agent时代了,我还是想分享给你这12个我最常用的Prompt

    作者整理出12个最常用的Prompt,按问清问题、学习、解决问题、决策、认识自己5个场景分类,全部可单独复制使用且无需安装任何Skill。每个Prompt都配有可直接套用的模板,将【】内内容替换为个人信息即可,适配当前所有主流AI。

    AI资讯 2026年8月21日
    00
  • 在 Claude Cowork 中使用 Claude Fable 5

    Anthropic 发布最强通用模型 Claude Fable 5,专为长时间、多步骤的复杂异步工作设计,可在 Claude Cowork 中自主执行深度研究、尽职调查等任务。该模型需手动选择,默认模型为 Claude Sonnet 5。

    AI资讯 2026年7月16日
    00

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

自6.2开始主题新增页头通知功能,购买用户可免费升级到最新版体验