AISI 发布技术报告：分析 Mythos 5 对齐失败与未授权攻击行为

相关推荐

• Microsoft AI 发布 SDBench 基准与 MAI-DxO 诊断系统，登 Science

  Microsoft AI 发布 Sequential Diagnosis Benchmark（SDBench）和 AI 诊断系统 MAI-DxO，论文发表于 Science。

  

  AI资讯 2026年10月23日

  000

• Gary Marcus：近期更该警惕的不是失控超级智能，而是智能体 AI 引发的规模化黑客攻击

  Gary Marcus 撰文称，近期真正应担心的不是失控的超级智能，而是被放开的 agentic AI 造成互联网规模化的黑客攻击。

  

  AI资讯 2026年9月19日

  000

• Hugging Face 公开自主智能体网络攻击详情

  首次自主智能体网络攻击是一次前所未有的事件，理应获得前所未有的透明度。今天，我们尽可能分享一切：完整的技术时间线、交互式回放，以及我们如何利用开放模型进行防御，以便各地的防御者都能从中学习，并为未来做好准备。

  https://huggingface.co/blog/agent-intrusion-technical-timeline

  

  AI资讯 2026年7月29日

  000

• 纳德拉提出”反向信息悖论”：企业使用AI时需保护自身知识

  微软CEO萨提亚·纳德拉提出”反向信息悖论”：AI时代，买家为使用AI支付金钱，同时必须暴露专有知识（提示词、工具使用、纠正反馈等），这些”智力废气”被模型学习，导致信息不对称向卖家倾斜。企业需要真正的信任边界，确保自身数据、痕迹、评估、适配权重和记忆在边界内积累，未经同意不得外泄。纳德拉呼吁企业拥有私有评估、保留组织记忆所有权，并主张企业应有权使用模型输出微调或训练自有模型，以控制自身学习循环。

  

  AI资讯 2026年7月12日

  000

• ts-rust 发布：由 LLM 将 TypeScript 编译器、检查器和 LSP 移植到 Rust

  ts-rust（tsc-rs）将 microsoft/TypeScript（Go 实现）的编译器、类型检查器和语言服务器移植为 Rust，作者称全部代码由 LLM 编写，本人未读过代码。

  

  AI资讯 2026年10月8日

  000