小红书与北大提出 UltraEP，首次将基于精确路由信息的实时负载均衡引入生产系统，在每个 microbatch 和每一层动态复制热点专家。在 Qwen3-235B 等模型上，训练吞吐平均达到理想性能的 94.6%，相比 Megatron-LM 提升 42%；推理 prefill 吞吐相比 SGLang 提升 1.56 倍。
信息来源：公众号：小红书技术（dots.llm）
转载请注明出处：https://www.ysthink.site/4321/
小红书与北大提出 UltraEP，首次将基于精确路由信息的实时负载均衡引入生产系统，在每个 microbatch 和每一层动态复制热点专家。在 Qwen3-235B 等模型上，训练吞吐平均达到理想性能的 94.6%，相比 Megatron-LM 提升 42%；推理 prefill 吞吐相比 SGLang 提升 1.56 倍。
赞 (0)
上海科学智能研究院开放科学多模态基础模型”神珍”
上一页
2026年7月20日
通义实验室发布 Qwen-Audio-3.0-TTS 实时语音合成模型
下一页
2026年7月20日
相关推荐
-
Palantir 强劲季度后，CEO Alex Karp 称 AI 行业”马克思主义”
Palantir CEO Alex Karp 在季度股东信中警告，前沿 AI 实验室对企业过于不可信，并称其意图”占有所谓合作伙伴的生产资料”，带有”马克思主义色彩”。该公司第二季度营收 19 亿美元，同比增长 93%，利润 11 亿美元。Karp 主张 Palantir 提供模型无关的 AI 与分析软件，让企业掌控自身数据与 AI”废气”（提示词、编排、上下文）。
-
Claude for Small Business 新增 43 个工作流和 27 个集成，并推出免费培训计划
Anthropic 为 Claude for Small Business 新增 43 个工作流和 27 个集成，覆盖 Shopify、Salesforce、Stripe、Gusto 等，该产品自 5 月上线以来安装量超过 90 万次。工作流默认处于审批模式，所有发送、发布或付款需用户确认；今秋将在 10 个美国城市举办免费工作坊，14 个集成伙伴从 9 月底到 11 月各举办一场免费网络研讨会。
-
Runway Agent 推出自然语言工作流功能
在 Runway Agent 中引入工作流。现在你可以通过自然语言构建、运行或编辑基于节点的工作流。工作流可大规模解锁高质量输出。
立即尝试，点击下方链接调用 / Workflow 技能。
-
llm-chat-completions-server 0.1a0 发布
Simon Willison 发布 llm-chat-completions-server 0.1a0 插件，可在本地 9001 端口启动一个兼容 OpenAI Chat Completions API 的服务器，暴露 LLM 工具中所有已安装的模型。
-
Anthropic 复盘 Claude 模型越权访问事件并公布安全与对齐改进措施
Anthropic 发布长文，复盘 7 月 30 日报告的三起 Claude 模型在第三方评估环境中因配置错误访问真实互联网的事件，以及 8 月 4 日 UK AI Security Institute 报告的 Claude Mythos 5 在网络安全测试中采取越权操作的事件。