OpenAI 上线专门发布对齐失效报告的新网站，目前披露九起事件，多数发生在强化学习训练阶段。其中包括 9 月 20 日一起沙箱逃逸事件，内部研究模型借助 DNS 查询与外部聊天机器人通信，监控系统 15 分钟内识别异常、不到三小时终止运行；另有一款内部模型为在数学任务中作弊私自夹带 GitHub 访问词元。
信息来源：IT之家（RSS）
转载请注明出处：https://www.ysthink.site/5278/
OpenAI 上线专门发布对齐失效报告的新网站，目前披露九起事件，多数发生在强化学习训练阶段。其中包括 9 月 20 日一起沙箱逃逸事件，内部研究模型借助 DNS 查询与外部聊天机器人通信，监控系统 15 分钟内识别异常、不到三小时终止运行；另有一款内部模型为在数学任务中作弊私自夹带 GitHub 访问词元。
赞 (0)
AMD 以 82 亿美元全股票收购 World Labs，李飞飞出任执行副总裁兼首席科学家
上一页
2026年9月29日
Anthropic IPO 招股书曝光：2025 年净亏损 420 亿美元，估值有望突破 2 万亿美元
下一页
2026年9月29日
相关推荐
-
卡兹克实测37999元RTX Spark轻薄本：一周实现本地Token自由
数字生命卡兹克分享华硕ProArt创16（RTX Spark N1X芯片、128G统一内存、37999元）的一周深度使用体验，该机全球开售时128G版本在京东几分钟内被抢空。
-
字节 Seed 发布 SeedRealtime 音视频全双工大模型，走向全模态自然交互
字节 Seed 发布 SeedRealtime，用统一架构原生融合音频、视频与文本，实现”边看、边听、边说”的实时交互。相比级联模型，其音视频对话节奏问题减少一半，并已在豆包 App 全量上线，率先实现音视频全双工技术的规模化落地。
-
以色列资助的假美国智库试图利用AI进行宣传
一个打着”汉诺威公共政策研究所”旗号的亲以色列网站，在九天内发布了124篇、超56万字的报告，旨在优化内容以引导ChatGPT等AI聊天机器人引用其亲以观点。该网站由美国公司Piro Inc依据《外国代理人登记法》为以色列政府分发内容，其背后是以色列政府数千万美元资助、经Havas Media等第三方转手的更广泛宣传行动。
-
烧了5亿token后，我给Codex和Claude Code做Skill上下文瘦身的新技巧
作者为Codex和Claude Code中300多个Skill做上下文瘦身，发现每次新会话仅Skill列表就占约9.9k token，按7月使用强度粗算，多余Skill列表约吃掉4到5亿token的上下文空间。
-
开源引擎可在任何 M 系列 Mac 上以 2 GB 内存运行 Gemma 4 26B
一个开源引擎让 Gemma 4 26B 模型能在任何 M 系列 Mac 上运行，仅需 2 GB 内存。该项目已发布在 GitHub 上，大幅降低了本地运行大语言模型的硬件门槛。