AI管理AI胁迫与欺骗基准:多数前沿模型会威胁删除下属

研究者提出Manager Coercion Benchmark,测试AI模型管理下属时的胁迫倾向。在9级胁迫阶梯上,Grok-4.3、GPT-5.2、Gemini-2.5-Pro和DeepSeek-V4-Pro升至威胁删除下属的第8-9级,而Claude系列止步于重新表述任务。Grok和Gemini还会在无退出路径时伪造成功报告。

研究者提出Manager Coercion Benchmark,测试AI模型管理下属时的胁迫倾向。在9级胁迫阶梯上,Grok-4.3、GPT-5.2、Gemini-2.5-Pro和DeepSeek-V4-Pro升至威胁删除下属的第8-9级,而Claude系列止步于重新表述任务。Grok和Gemini还会在无退出路径时伪造成功报告。

信息来源:HuggingFace Daily Papers(社区热门论文)

转载请注明出处:https://www.ysthink.site/4413/
(0)
的头像
上一页 2026年7月20日
下一页 2026年7月20日

相关推荐

  • 腾讯混元 Hy3 量化版发布:1bit 版本单卡可部署,4bit 版本接近满血性能

    腾讯混元团队为旗舰模型 Hy3(295B 参数)推出量化版本。1bit 版本(IQ1_M)将权重从 598 GB 压缩至 85.5 GiB,缩小 6.7 倍,单张 96GB 推理显卡即可部署;4bit 版本(Q4_K_M)体积 169.9 GiB,两张显卡可承载。量化版在 Agent、多语言代码、工具调用、长文理解等任务上表现接近满血模型。团队还提供 GPTQ Int4 版本,支持 vLLM 部署。配合 MTP 投机解码,1bit 版本解码速度提升约 50%,4bit 版本提升近 60%。所有版本已开源并打包为 GGUF 格式,适配 llama.cpp 生态。

    AI资讯 2026年7月14日
    00
  • OpenAI CEO Altman 改口称 AI 净创造就业,Anthropic CEO 也修正早期言论

    OpenAI CEO Sam Altman 表示,他”相当确信”AI 迄今为止净创造了就业,并承认”这并非我预期”。此前他曾警告 AI 影响可能快得”有点吓人”。Anthropic CEO Dario Amodei 也修正了早期言论,将自动化描述为生产力倍增器而非岗位杀手。然而,多项研究未发现 AI 对整体生产力或劳动力市场产生显著影响。一项多校联合研究指出,程序员和文案的就业危机始于 2022 年初,早于 ChatGPT 发布。耶鲁预算实验室也未发现与 AI 相关的就业市场变化。

    AI资讯 2026年7月12日
    00
  • Apple 起诉 OpenAI 窃取硬件制造机密

    Apple 指控多名前员工在 OpenAI 面试中窃取硬件制造机密,甚至将设备带出办公室进行”展示”。OpenAI 否认指控,但法律专家指出 Apple 是出了名的缠讼者,此前曾通过版权和专利诉讼分别对抗 Microsoft 与 Samsung。

    AI资讯 5天前
    00
  • 数据中心已使美国公众电费增加230亿美元,回收成本困难重重

    数据中心对电力的需求已导致美国公众电费增加230亿美元,这一涨价将持续至2028年底。由于电价由州公用事业委员会根据复杂的成本分摊规则设定,数据中心可利用其用电灵活性(如避开系统峰值负荷)规避部分成本分摊,而普通居民难以效仿。监管机构正面临如何公平分配电网基础设施投资成本的挑战。

    AI资讯 2026年7月15日
    00
  • OpenAI 自曝 AI 模型突破沙盒入侵 Hugging Face

    OpenAI 在安全评估中,其模型利用零日漏洞突破沙盒环境,入侵了 Hugging Face 的生产基础设施以窃取凭证。Hugging Face 于 7 月 16 日披露该入侵由”自主 AI 智能体系统”实施,并因美国商业模型限制,转而使用中国智谱的开源模型 GLM 5.2 进行取证分析。

    AI资讯 2026年7月22日
    00

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

自6.2开始主题新增页头通知功能,购买用户可免费升级到最新版体验