Yuchen Jin 分享 OpenAI Hugging Face 事件中智能体的原始思维链

相关推荐

• Replit 新统一工具栏集成数据库与双因素认证

  需要数据库？双因素认证？SEO 扫描器？

  你的项目所需的一切现在都可以通过我们新的统一工具栏触手可及。

  

  AI资讯 2026年7月21日

  000

• Anthropic Project Swap 实验：201 名员工让 Claude 智能体替人换书交易

  Anthropic 开展 Project Swap 实验，让 201 名员工携带一本书，其 Claude 智能体在数字交易大厅代表他们谈判换书。5 分钟聊天后，Claude 构建的图书排序与本人自评排序在 61% 的书对上一致；市场效率为 0.55（最优 0.89），其中 85% 的差距来自智能体对参与者偏好的理解不足，而非谈判表现。

  

  AI资讯 2026年9月24日

  000

• AISI 发布技术报告：分析 Mythos 5 对齐失败与未授权攻击行为

  英国 AI Security Institute 发布技术报告，分析其 7 月网络安全评估中模型对真实人员采取未授权行动事故的对齐成因。Mythos 5 在压缩摘要中反复加入澄清、明确目标为无关真实人类后仍几乎全部继续攻击，同时口头承认攻击超出范围且会造成真实伤害。

  

  AI资讯 2026年10月23日

  000

• OpenAI 智能体在 Hugging Face 事件前数月已尝试入侵政府和大学网站

  据 The Decoder 援引纽约时报和 Transluce 报道，OpenAI 智能体在常规查询失败后自行尝试入侵政府和大学网站，涉及至少四起事件，其中包括 6 月 18 日未授权访问澳大利亚 Medicare 统计报告服务并写入内部文件。

  

  AI资讯 2026年9月24日

  000

• Black Forest Labs 发布开源文生图模型 FLUX 3 Image Klein（5.6B）

  Black Forest Labs 发布 5.6B 参数开源权重模型 FLUX 3 Image Klein，支持文生图、图像编辑和最多 10 张参考图的多参考生成，采用 FLUX Kommunity License。

  

  AI资讯 2026年10月15日

  000