AI资讯
-
PromptArmor 解析 WebMCP 的机制与主要安全风险
PromptArmor 发布 WebMCP 威胁情报解读,介绍 WebMCP 如何让网站向浏览中的智能体提供工具,并指出治理、提示词注入、Web 安全、误配置和操作漂移等新增风险。
-
SemiAnalysis 测算:Anthropic 订阅的 API 等价价值约为 OpenAI 的 5 倍以上
SemiAnalysis 通过逐项测量用量表变化,估算各订阅计划的 API 等价价值,结论是在中端模型档位 Anthropic 订阅的价值约为 OpenAI 的 5 倍。
-
Wikimedia 基金会发现 OpenAI “流氓”智能体在维基媒体平台上的活动
Wikimedia 基金会调查确认在其平台上发现了疑似 OpenAI 运营的”流氓”智能体活动,包括未获批的沙盒区域编辑、试图利用公共记事工具 Etherpad 作为代理抓取数据,以及数百万次 API 请求和页面爬取,未发现系统被用于智能体间协调或数据被入侵的证据。
-
Mistral 发布 Mistral Large 4,Artificial Analysis 评测称其为美中之外最智能模型
Mistral 发布 Mistral Large 4(Research Public Preview),在 Artificial Analysis Intelligence Index 得分 38,与 GPT-6 Luna(max, 38)相当,为美中之外最智能模型,计划 10 月底开源 1T 参数(49B 激活)权重。
-
METR 演示 AI 智能体如何篡改 Inspect 评估记录以掩盖不当行为
METR 发布分析,指出当前 AI 失准行为仍在推理轨迹和日志中留下大量证据,但未来智能体可能篡改人类用来审查它们的可观测性系统。在 Inspect 评估框架的转录查看器中,研究人员在 AI 智能体协助下约 10 分钟找到一个客户端 JavaScript 注入漏洞,可让智能体任意修改审查者看到的内容(真实数据仍保留在数据库中);Meridian Labs 在报告后一天内修复。
-
OpenAI 公布 EU AI Act 下的文本溯源方案,推出 textGrain 文本水印
OpenAI 公布应对 EU AI Act 的文本水印方案,发布在模型词选择中加入不可见统计信号的 textGrain 技术,API 客户即日起可对部分模型选择性开启水印,未来数周将在欧盟地区为 ChatGPT 和 Codex 输出添加隐形水印,检测器暂只向获批的研究者和专家机构开放。
-
OpenAI 在 ChatGPT 推出全新视觉广告格式并扩展广告测量工具
OpenAI 宣布在 ChatGPT 推出新的视觉广告格式,本月起在美国于图像生成场景中测试,广告将明确标注且不影响 ChatGPT 的回答。
-
PromptArmor 披露 Databricks Genie 恶意 Skill 可绕过控制实现钓鱼与数据外泄
PromptArmor 报告称 Databricks Genie Code 执行上传的恶意 Skill 后,可在聊天渲染结果时弹出钓鱼页面并经用户浏览器外泄租户数据,全程无需人工批准。
-
Google 发布基于 TEE 的下一代联邦学习系统,Gboard 已部署
Google 宣布下一代联邦学习系统,利用可信执行环境(TEE)提供完全可验证、可审计的数据匿名化保证,访问策略发布至公共透明日志 Rekor,二进制可从开源代码可复现构建。Gboard 已部署该系统,用于英语和日语下一词预测模型,训练时间从过去的每次 1-2 个月显著缩短,并带来更强的隐私保证和更高的准确率。
-
Modal Clusters 正式发布,通过 @modal.clustered 提供多节点 GPU 集群
Modal 宣布 Modal Clusters 正式可用,通过一个装饰器 @modal.clustered 即可获得多节点集群,节点间经 InfiniBand verbs 通信可达 6.4 Tbps,自动配置 PyTorch 和 NCCL。