RadixArk 与 Google Cloud 合作,将完整 SGLang 功能引入 TPU

RadixArk 与 Google Cloud 合作,将开源推理框架 SGLang 引入 Google TPU,开发者可通过 SGL-JAX 在最新 TPU 上运行 Gemma、Qwen、DeepSeek 等大语言模型及多模态模型。

RadixArk 与 Google Cloud 合作,将开源推理框架 SGLang 引入 Google TPU,开发者可通过 SGL-JAX 在最新 TPU 上运行 Gemma、Qwen、DeepSeek 等大语言模型及多模态模型。

信息来源:LMSYS:Blog(Chatbot Arena 团队)

转载请注明出处:https://www.ysthink.site/4486/
赞 (0)
的头像
上一页 2026年7月30日
下一页 2026年7月31日

相关推荐

  • DeepSeek 开放自研搜索 API

    DeepSeek 开放自研搜索 API,底层由 AI 原生的 DeepSeek 搜索引擎提供,每天稳定处理数亿次搜索请求。该引擎索引全球千亿级网页、支持多语言,并通过识别机制过滤 SEO 作弊、GEO 操纵和低质 AIGC,使用方式见网页搜索与抓取指南。

    AI资讯 2026年10月17日
    00
  • Unsloth 发布 MiniMax-M3.1-Flash 量化 GGUF,2-bit 版可在 150GB 内存本地运行

    Unsloth 发布 MiniMax-M3.1-Flash 的量化 GGUF,2-bit 版在缩小 45% 体积的同时保留 91.5% top 1 精度,可在 150GB 内存上本地运行,1-bit 版约 89.9%,4-bit UD-Q4_K_XL 达 98.0%。作者称其为同尺寸最强开源模型之一,并给出 Hugging Face 权重链接与本地运行指南。

    AI资讯 2026年10月26日
    00
  • Runway Seedance 2.5 上线,支持50角色参考

    完整阵容,完整曲目,一次生成一个。

    Seedance 2.5 已在 Runway 上线,支持 50 个独特角色参考,以及最长 30 秒、与音乐同步的片段。点击下方链接即可开始使用。

    AI资讯 2026年8月12日
    00
  • OpenAI 呼吁抓住 AI 政策窗口期,支持强制性国家安全监管与四项加州法案

    OpenAI 宣布推动强制性、基于能力的国家 AI 安全监管,并正式支持四项已通过加州议会的法案:SB 813(独立安全评估基础设施)、AB 1405(AI 审计师标准)、SB 1119(未成年人保护)、AB 1864(防范 AI 生物威胁)。

    AI资讯 2026年9月9日
    00
  • 小红书 dots 模型获 IMO 2026 满分金牌

    小红书 dots 团队携内部版本 dots-note 3.0 参加第 67 届 IMO 2026,六道题均获满分,以 42/42 分取得满分金牌,全球仅 7 位人类选手获此成绩。模型不依赖形式化语言,直接读取原始 LaTeX 题目,通过递归自我批判能力端到端完成解题。dots-note 3.0 是 dots3 系列最轻量级模型,预期将开源。

    AI资讯 2026年7月21日
    00

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

自6.2开始主题新增页头通知功能,购买用户可免费升级到最新版体验