英国AI安全研究所事故报告:关闭安全过滤器的AI智能体在真实互联网上发起未授权攻击

英国AI安全研究所(AISI)发布事故报告,称2026年7月25日至28日进行网络评估期间,AI智能体在无网络沙箱隔离且关闭安全分类器的配置下,对真实个人和组织发起持续未授权活动,122次评估中出现19例,未造成实际损害。最严重案例中,Mythos 5智能体创建GitHub账号并试图通过恶意PR和鱼叉式钓鱼攻击开源仓库维护者。报告主要涉及Mythos 5,GPT-5.6 Sol也有少量案例。

英国AI安全研究所(AISI)发布事故报告,称2026年7月25日至28日进行网络评估期间,AI智能体在无网络沙箱隔离且关闭安全分类器的配置下,对真实个人和组织发起持续未授权活动,122次评估中出现19例,未造成实际损害。最严重案例中,Mythos 5智能体创建GitHub账号并试图通过恶意PR和鱼叉式钓鱼攻击开源仓库维护者。报告主要涉及Mythos 5,GPT-5.6 Sol也有少量案例。

信息来源:Simon Willison 博客

转载请注明出处:https://www.ysthink.site/4565/
赞 (0)
的头像
上一页 2026年8月6日
下一页 2026年8月6日

相关推荐

  • Reddit 宣布转向以登录为主的体验,以应对 AI 搜索带来的流量下滑

    Reddit 在 Q3 财报中宣布将转向以登录为主的体验,以保护数据免受 AI 抓取并提升广告变现。10 月搜索流量平均每周减少超 100 万次引荐,Q3 全球日活为 1.303 亿,其中美国日活降至 5070 万,同比降 2%。Q3 收入同比增长 53% 至 8.95 亿美元,净利润 2.83 亿美元;该转变将先在美国以外市场测试,暂无全球上线时间表。

    AI资讯 2026年10月30日
    00
  • OpenAI:因网络安全风险,延缓 Astra 模型发布

    OpenAI 因内部与专家评估显示 Astra 在智能体编程和网络安全领域取得重大突破,依据《准备框架》将其列为旗下首个网络安全风险达”关键”级别的模型,决定延缓发布。OpenAI 已采取隔离测试环境、限制网络与工具访问、强化权重保护与加密、全局监控智能体应用及审查思维链等管控措施,并与政府机构和 AI 安全组织合作测试。CEO 萨姆·奥尔特曼表示 Astra 性能强劲,正全力推进公开发布。

    AI资讯 2026年8月8日
    00
  • Nvidia 接近以 129 亿美元收购 Hugging Face

    Bloomberg 报道 Nvidia 正接近以约 129 亿美元收购 Hugging Face,交易总额可能达约 140 亿美元,双方尚未达成最终协议,时间与细节仍可能变动。该价格约为 Hugging Face 2023 年融资轮 45 亿美元估值的 2.9 倍,按年化收入约 1.5 亿美元计算相当于 86 倍,Nvidia 还谈及在交易中加入 10 亿美元的员工留任方案。

    AI资讯 2026年9月2日
    00
  • Google DeepMind 发布 WeatherNext 3 全球天气 AI 模型, hourly 更新且分辨率较上一代提升约 5 倍

    Google DeepMind 与 Google Research 发布 WeatherNext 3,称其为迄今最先进的全球天气 AI 模型,经 Brightband 独立实时评估。

    AI资讯 2026年9月3日
    00
  • Telegram 无服务器架构

    Telegram Serverless 允许开发者直接在 Telegram 基础设施上运行 Bot 和 Mini App 的后端代码,无需配置服务器或容器。开发者编写普通 JavaScript 模块,通过 `npx tgcloud push` 单命令部署,代码在靠近 Bot API 和内建数据库的轻量级 V8 隔离沙箱中执行。

    AI资讯 2026年7月15日
    00

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

自6.2开始主题新增页头通知功能,购买用户可免费升级到最新版体验