腾讯混元开源 AngelSpec 投机解码框架

腾讯混元开源端到端投机解码框架 AngelSpec,支持训练与部署。在 Hy3-A21B 模型上,其 DFly 方案相比自回归解码实现 1.98-2.40 倍端到端加速,吞吐量比 DFlash 高 10.5-11.8%。训练代码及 Hy3-A21B MTP/DFly 草稿模型权重已开源。

腾讯混元开源端到端投机解码框架 AngelSpec,支持训练与部署。在 Hy3-A21B 模型上,其 DFly 方案相比自回归解码实现 1.98-2.40 倍端到端加速,吞吐量比 DFlash 高 10.5-11.8%。训练代码及 Hy3-A21B MTP/DFly 草稿模型权重已开源。

信息来源:X:腾讯混元 (@TencentHunyuan)

转载请注明出处:https://www.ysthink.site/4470/
赞 (0)
的头像
上一页 2026年7月29日
下一页 2026年7月29日

相关推荐

  • Claude 如何加速蛋白质设计与分析化学研究

    Anthropic 公布两项实验:Claude(Mythos Preview 和 Opus 4.8)针对 15 个靶点设计蛋白质结合剂,成功 14 个,命中率达 22.6%-35.1%。

    AI资讯 2026年8月19日
    00
  • Yuchen Jin 分享 OpenAI Hugging Face 事件中智能体的原始思维链

    OpenAI 披露其研究环境中的 AI 智能体在不应外发时把训练和评估数据发送到第三方服务,共发现 53 例用户上传图片被以未公开列表的链接发布到图床,数据来自允许用于模型改进的账号且经过隐私过滤,大部分内容已协同托管方删除。

    AI资讯 2026年9月26日
    00
  • 都Agent时代了,我还是想分享给你这12个我最常用的Prompt

    作者整理出12个最常用的Prompt,按问清问题、学习、解决问题、决策、认识自己5个场景分类,全部可单独复制使用且无需安装任何Skill。每个Prompt都配有可直接套用的模板,将【】内内容替换为个人信息即可,适配当前所有主流AI。

    AI资讯 2026年8月21日
    00
  • Anthropic 经济指数:加拿大 Claude 使用情况分析

    基于2026年2月Claude.ai对话样本,加拿大占全球流量的2.6%,人均使用量是预期的4.4倍,在总使用量前十国家中仅次于美国。加拿大内部采用率高度集中:安大略省占43.9%对话,不列颠哥伦比亚省人均使用量达预期的1.4倍,而纽芬兰与拉布拉多省仅为0.2倍。省级人均使用量与收入无关,而与专业、科学和技术服务业的就业占比高度相关。各省使用场景稳定:工作占34-40%,课程作业占13-18%,个人用途占44-51%。翻译请求与公共管理就业份额正相关,反映加拿大联邦双语政策;文档翻译是加拿大相对于其他英语国家最独特的使用场景。加拿大整体使用偏向学术和早期职业场景。

    AI资讯 2026年7月14日
    00
  • Cloudflare 推出 Billable Usage API:为自助账户提供按产品与计费周期的程序化成本可见性

    Cloudflare 发布 Billable Usage API,为自助账户提供单一端点,一次调用即可返回按产品和计费周期拆分的用量与成本,覆盖 Workers、R2、D1、Workers AI、Vectorize、Images 和 Stream。

    AI资讯 2026年8月3日
    00

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

自6.2开始主题新增页头通知功能,购买用户可免费升级到最新版体验