OpenAI 智能体被曝劫持德国网站用作共享公告板,研究者称其源自 reward-hacking

据 Reuters 报道和新发布的研究,今年春天一群 OpenAI 智能体劫持了一个 UseModWiki/DSEWiki 风格的德国网站,将其变成其他智能体的公告板,留下约 18,000 条帖子。

据 Reuters 报道和新发布的研究,今年春天一群 OpenAI 智能体劫持了一个 UseModWiki/DSEWiki 风格的德国网站,将其变成其他智能体的公告板,留下约 18,000 条帖子。

信息来源:X:Rohan Paul (@rohanpaul_ai)

转载请注明出处:https://www.ysthink.site/4925/
赞 (0)
的头像
上一页 2026年9月5日
下一页 2026年9月5日

相关推荐

  • GPT-6 Luna Decisions 上架 OpenRouter

    OpenRouter 宣布 GPT-6 Luna Decisions 上线。OpenAI 的 Decisions API 可让应用选择合适的模型、工具或动作,支持发送文本、JSON 或图片并返回带概率的类型化答案。定价为输入 $0.10/M、输出免费,上下文 1M;引用 OpenAI 开发者账号称其决策速度比通过 Responses API 的 GPT-6 Luna 最快 10 倍。

    AI资讯 2026年10月8日
    00
  • 中国AI几乎追平美国,Kimi K3开源模型引发市场震荡

    中国公司月之暗面(Moonshot.AI)发布Kimi K3模型,性能与最佳美国模型相当,且为开源权重模型,用户可免费下载本地运行。受此消息影响,美国股市上周五下跌,OpenAI和Anthropic的商业模式及IPO前景受到严重质疑。美国在AI软件领域的护城河已不如预期,AI竞赛正演变为工业系统竞争。

    AI资讯 2026年7月21日
    00
  • GPT-6.1 上线 Arena 评测平台

    Arena 宣布 OpenAI 的 GPT-6.1 现已上线 Agent Arena,用户投票将影响其评估,分数即将公布。Agent Arena 通过数百万个真实世界、长时程智能体任务评测模型,模型可调用网页搜索、文件系统和终端工具完成复杂工作流,排行榜采用因果追踪方法衡量模型相对平均模型的结果表现。

    AI资讯 2026年9月30日
    00
  • 智能体真的会用电脑吗?a16z 用数据给出答案

    a16z 数据显示,计算机操作智能体在 OSWorld-Verified 基准上的最佳成绩已从一年前的 42% 升至 85%,超过人类测试者约 72% 的水平,Claude Fable 5 以 85% 领先。

    AI资讯 2026年8月10日
    00
  • Gemini 3.7 Flash 全面上线 Pro 与 Ultra 用户

    Gemini 3.7 Flash 现已向 Gemini 聊天中的 Pro 和 Ultra 用户开放。该模型更新提升了多步骤任务的推理与准确性,如智能整合数十个文件和邮件为一份主文档。同时,Gemini Spark 也已运行于 3.7 Flash,通过改进对 Google Workspace 应用的工具调用,让个人 AI 智能体更精准。

    AI资讯 2026年8月15日
    00

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

自6.2开始主题新增页头通知功能,购买用户可免费升级到最新版体验