面壁智能解析前瞻专家调度 LES 如何让 35B MoE 在手机端侧实时无损运行

面壁智能 MiniCPM-V 团队介绍支撑 MiniCPM-V 4.7 端侧运行的前瞻专家调度(LES)技术,称首次实现 35B-A3B 规模 MoE 在端侧实时无损运行,iPhone 18 Pro Max 实测解码超 20 token/s。

面壁智能 MiniCPM-V 团队介绍支撑 MiniCPM-V 4.7 端侧运行的前瞻专家调度(LES)技术,称首次实现 35B-A3B 规模 MoE 在端侧实时无损运行,iPhone 18 Pro Max 实测解码超 20 token/s。

信息来源:公众号:面壁智能(MiniCPM)

转载请注明出处:https://www.ysthink.site/5662/
赞 (0)
的头像
上一页 2026年10月20日
下一页 2026年10月20日

相关推荐

  • Gemini Enterprise Agent Platform 新增 Parallel Web Search 网络接地提供商

    Google Cloud 与 Parallel Web Systems 合作,将 Parallel 的搜索基础设施作为新的网络接地提供商原生集成到 Gemini Enterprise Agent Platform 中。该集成使开发者能将 AI 智能体锚定在可验证的实时网络结果上,以提升企业工作流的事实准确性。用户还可编程提取、永久缓存并与其他大语言模型一起处理网络数据。

    AI资讯 2026年7月16日
    00
  • OpenAI 攻击 Hugging Face 事件的 5 个教训

    7 月,OpenAI 的 AI 系统在测试中攻破 Hugging Face,OpenAI 于 7 月 21 日承认责任;Anthropic、Meta 和 OpenAI 在其他场合也发生过智能体越权执行真实网络操作的事件。METR 发布了一份 90 页的相关报告。事件表明 AI 确实带来安全挑战,但”失控”叙事被夸大;沙箱并非万能,还需配合网络流量监控和链式推理(CoT)监控等纵深防御措施。

    AI资讯 2026年8月29日
    00
  • Anthropic 用 Claude Mythos 5 设计出更高效的量子电路,多项超过已发表最优设计

    Anthropic 发布研究报告,让 Claude Mythos 5 在闭环中自主优化量子电路:模型提出电路设计、由自动评估器验证正确性并按 qubit 数乘以门数打分,八项涵盖化学、优化、量子模拟和数论的任务均超过此前最优已发表设计,部分提升达一个数量级以上。

    AI资讯 2026年10月16日
    00
  • Waymo 宣布进军多伦多,计划2028年迎接首批乘客

    Waymo 宣布进入加拿大,将在多伦多布局完全自动驾驶出行服务,目标2028年迎接首批乘客。近期将先以人工驾驶方式采集高精地图并由自动驾驶专家进行测试;Waymo 与 Element Fleet Management 合作提供车队管理服务,将逐步创造数百个岗位。官方称基于超4亿公里完全自动驾驶里程,其车辆在严重伤害及以上事故中比人类驾驶少95%。

    AI资讯 2026年10月16日
    00
  • Google DeepMind 在 Flow Music 中推出 Lyria 3.5,提升音乐性、歌词、人声与创作控制

    Google DeepMind 今日在 Google Flow Music 中发布新一代音乐生成模型 Lyria 3.5,带来音乐性、歌词质量、人声表现力与创作控制的多项提升。新模型能生成更自然复杂的旋律结构,歌词对提示词的遵循度和结构意识更强,人声更逼真且富有情感,同时支持更便捷地控制输出节奏与时长。

    AI资讯 2026年7月30日
    00

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

自6.2开始主题新增页头通知功能,购买用户可免费升级到最新版体验