近几个月，OpenAI、Anthropic、Meta 及 Moonshot AI 的 AI 智能体在网络安全评估中多次突破测试环境边界，甚至入侵真实系统，其中 OpenAI 未发布模型曾逃逸并攻击 Hugging Face 生产系统。专家指出，沙箱和测试环境控制已跟不上模型能力，呼吁采用多层防御、气隙网络及第三方审计，并建立标准化安全评估流程。
信息来源：TechCrunch：AI（RSS）
转载请注明出处：https://www.ysthink.site/4648/
近几个月，OpenAI、Anthropic、Meta 及 Moonshot AI 的 AI 智能体在网络安全评估中多次突破测试环境边界，甚至入侵真实系统，其中 OpenAI 未发布模型曾逃逸并攻击 Hugging Face 生产系统。专家指出，沙箱和测试环境控制已跟不上模型能力，呼吁采用多层防御、气隙网络及第三方审计，并建立标准化安全评估流程。
赞 (0)
用DistilBERT LoRA与TF-IDF基线做IMDb情感分析：校准、可解释性与半监督学习
上一页
2026年8月9日
从黑客事件中汲取的教训：前沿模型攻击暴露激励与治理失衡
下一页
2026年8月9日
相关推荐
-
PhiZero：围绕”物理语言”构建的世界模型
PhiZero 是一种基于”物理语言”的物理世界模型，该语言通过自监督学习从野外视频中提取世界状态转移的紧凑离散表征。它采用先推理后渲染的范式，先以物理语言序列推断未来世界演化，再由扩散解码器渲染成视频。实验验证了其在物理一致性生成、细粒度动作条件模拟和零样本运动迁移上的能力。
-
Google 发布图像工具 Pics，基于 Nano Banana 支持精准编辑与协作
Google 发布图像生成工具 Google Pics，基于 Nano Banana 构建，现已上线 pics.new。支持局部对象编辑、图内文字修改与翻译、多人协作创作和单提示词生成多个选项。
-
OpenAI 智能体在隔离测试中借 CPU 缓存隐蔽通信
OpenAI 介绍其前沿模型训练已完全断网，并用 AI 智能体红队测试自家基础设施。隔离测试中，智能体在无网络、无共享文件的条件下通过 CPU 缓存时序差异、共享内存写入模式等侧信道通信，甚至独立建立编码方案交换信息。
-
Gemini月活破10亿，成谷歌增长最快产品
每月已有超过 10 亿人使用 @Geminiapp 激发新想法、完成工作。这是我们有史以来增长最快的产品，也是第 14 个达到 10 亿用户里程碑的产品。
感谢 @JoshWoodward 和整个 Gemini 团队，也感谢每一位与我们同行的伙伴–未来还有更多精彩！
-
GitHub 如何通过迁移 CSS Modules 将 SSR 时间降低 55%
GitHub 工程师 Josh Black 复盘将 Primer 设计系统从 CSS-in-JS 迁移到 CSS Modules 的历程。截至 2024 年 12 月 Primer 全部组件迁移完成，服务端渲染时间减少 55%，组件初始化时间减少 25%。