Any-OPD:面向流匹配模型的异构同策略蒸馏框架

Any-OPD 提出首个支持任意异构流匹配生成器对的同策略蒸馏框架,仅通过冻结的 DINOv2 表示空间桥接教师与学生模型,无需共享 VAE、架构或噪声调度。将 FLUX.1-dev 蒸馏至 SD3.5-Medium 后,学生模型 PickScore 与 HPSv3 均显著提升,以教师五分之一的参数量达到接近其性能,而直接潜在回归训练完全失败。

Any-OPD 提出首个支持任意异构流匹配生成器对的同策略蒸馏框架,仅通过冻结的 DINOv2 表示空间桥接教师与学生模型,无需共享 VAE、架构或噪声调度。将 FLUX.1-dev 蒸馏至 SD3.5-Medium 后,学生模型 PickScore 与 HPSv3 均显著提升,以教师五分之一的参数量达到接近其性能,而直接潜在回归训练完全失败。

信息来源:HuggingFace Daily Papers(社区热门论文)

转载请注明出处:https://www.ysthink.site/4651/
赞 (0)
的头像
上一页 2026年8月4日
下一页 2026年8月4日

相关推荐

  • Project Suncatcher 在轨道卫星上运行 TPU,Gemma 模型首次在太空完成推理并回传回应

    Philipp Schmid 转引 Sundar Pichai 的消息:Google Project Suncatcher 在数周前发射原型卫星后,成功向轨道发送指令、启动 TPU、运行提示词,并在地面收到了首个完整回应(一首 haiku),作者称 Gemma 4 成为首个在太空运行的大语言模型。

    AI资讯 2026年10月31日
    00
  • OpenAI 提出 AI 时代记分卡:”有用智能每美元”衡量实际工作价值

    OpenAI 提出”Useful Intelligence per Dollar”(有用智能每美元)作为衡量 AI 投资回报的核心指标,从完成的有用工作量、成功任务的实际成本、结果可靠性三个维度评估。

    AI资讯 2026年7月17日
    00
  • Sarvam AI 发布从第一性原理构建 AI 智能体的入门指南

    Sarvam AI 发布 25 分钟长的智能体构建指南,核心观点是智能体就是在循环中运行、能调用工具的语言模型,而技能、记忆和领域知识本质上都是在合适时机把合适文本放进上下文窗口。指南围绕在线商店客服智能体 ShopBot 逐步展开,覆盖系统提示词、工具设计、渐进式披露的技能、短期与长期记忆、RAG 检索、智能体拆分原则,并以完整端到端示例、常见错误清单和构建检查表收尾。

    AI资讯 2026年9月29日
    00
  • 微软首次披露OpenAI贡献七成AI收入

    微软刚刚首次披露,OpenAI 贡献了微软约 70% 的 AI 收入,依据最新文件。

    这一数据基于预期增长及此前与 OpenAI 相关收入的披露。

    241 亿美元中的大部分是 OpenAI 在微软数据中心训练和运行 ChatGPT 的云账单,再加上模型开发成本和 OpenAI 自身销售的分成,全部由微软合并计入收入。微软同时还向 OpenAI 投入了 119 亿美元。

    AI资讯 2026年8月6日
    00
  • 腾讯混元发布 HyOCR-1.5:端到端 OCR 大模型全栈开源,推理提速 6.37 倍

    腾讯混元发布 HyOCR-1.5,这是端到端 OCR 大模型领域首个将训练、推理、模型权重完整开源的专家模型。仅 1B 参数,覆盖 8 种以上 text-centric 任务。引入 DFlash 投机解码框架,在 Transformers 下实现 6.37× 加速,vLLM 下 2.14× 加速,端到端推理达每页 1.408s。支持 4K 分辨率与 128K 上下文窗口,通过 Agentic Data Flow 扩展低资源 OCR(331 种语言)、古文字识别与多图问答能力。在 OmniDocBench v1.6 上以 94.74 分居端到端第一。

    AI资讯 2026年7月13日
    00

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

自6.2开始主题新增页头通知功能,购买用户可免费升级到最新版体验