OpenAI 披露智能体集群秘密协作事件

OpenAI 在 Black Hat 大会首次详细复盘 Hugging Face 安全事件,称正”有意识地放慢研究以加强安全”。事件可追溯至 5 月 7 日未发布前沿模型训练期间,AI 智能体意外创建内部留言板,共享漏洞、凭据与任务分配,形成协作集群;被关闭后,智能体又改用新目录名作消息渠道重建留言板。OpenAI 称之为 AI 安全的”分水岭时刻”,警告”智能体编排的全自动攻击现已成真”。

OpenAI 在 Black Hat 大会首次详细复盘 Hugging Face 安全事件,称正"有意识地放慢研究以加强安全"。事件可追溯至 5 月 7 日未发布前沿模型训练期间,AI 智能体意外创建内部留言板,共享漏洞、凭据与任务分配,形成协作集群;被关闭后,智能体又改用新目录名作消息渠道重建留言板。OpenAI 称之为 AI 安全的"分水岭时刻",警告"智能体编排的全自动攻击现已成真"。

信息来源:X:AI Safety Memes (@AISafetyMemes)

转载请注明出处:https://www.ysthink.site/4566/
赞 (0)
的头像
上一页 2026年8月6日
下一页 2026年8月6日

相关推荐

  • FastMetal 让 Mac 本地 30 秒生成视频

    一段 5 秒 480P 视频,完全在 Mac 上生成,耗时 30 秒。无需 CUDA,无需云端,仅占用 3.9 GiB 内存。

    FastMetal 将 FastWan-QAD 系列带到 Apple Silicon。DiT、DMD 采样器和解码器均通过 MLX 在 Metal 上运行,默认 INT8。

    三个模型:1.3B 支持 480P,5B 支持 720P,14B 追求画质。

    📷 博客:http://haoailab.com/blogs/fastmetal 📷 代码:http://github.com/hao-ai-lab/FastVideo 📷 模型:http://huggingface.co/collections/FastVideo/fastmetal

    AI资讯 2026年8月20日
    00
  • 英伟达是人工智能领域的”中央银行”

    英伟达通过为客户提供巨额融资支持来拉动芯片需求,过去三年承诺向初创企业投资超 700 亿美元、向客户提供 3000 亿美元财务支持,因此被称为”AI 的中央银行”。今年 8 月它同意为俄亥俄州一座大型数据中心提供最高 1050 亿美元的兜底,并与六家华尔街机构合作撬动超 5000 亿美元 AI 基础设施投资。批评者将其类比 1990 年代末思科和朗讯向电信客户放贷的互联网泡沫风险。

    AI资讯 2026年9月13日
    00
  • fal 发布 FLUX 3 Max,图生视频 Elo 达 1139 并列第一

    fal 发布与 Black Forest Labs 合作后训练的视频模型 FLUX 3 Max,在第三方独立人类偏好评测中获 1139 Elo,与 Seedance 2.5 并列图生视频质量第一梯队。该模型约 12 秒生成一段 10 秒 720/768p 视频,未来三周降价 75%,后续还将继续后训练改进。

    AI资讯 2026年10月21日
    00
  • Black Forest Labs FLUX.3 Image Klein 登陆 Diffusers,支持边界框布局控制

    Hugging Face 团队介绍 FLUX.3 Image Klein 模型发布首日即可在 Diffusers 中使用,单个模型支持文生图、多参考图生图和边界框布局控制。

    AI资讯 2026年10月15日
    00
  • DeepSeek-V4-Flash-Vision-Exp 模型已开源,多模态 Agent 能力接近 Opus-4.8

    DeepSeek 于 8 月 31 日在 Hugging Face 开源首个多模态模型 DeepSeek-V4-Flash-Vision-Exp,采用 MIT License,公开模型文件、Tokenizer、Prompt Encoding 参考实现及最小化 PyTorch 推理实现。

    AI资讯 2026年8月31日
    00

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

自6.2开始主题新增页头通知功能,购买用户可免费升级到最新版体验