LoRA Speedrun 公开排行榜:6分05秒微调Qwen2.5-1.5B达GSM8K 61.1%准确率

LoRA Speedrun项目推出公开排行榜,在固定硬件(单张L40S)上比拼Qwen2.5-1.5B的微调运行时间。当前纪录由@Saivineeth147以6分05秒保持,采用序列打包与仅完成损失掩码技术,相比基线11分57秒提速约2倍且准确率更高(61.1%)。项目提供免费Modal沙箱验证,任何提交需经3次独立复现确认。

LoRA Speedrun项目推出公开排行榜,在固定硬件(单张L40S)上比拼Qwen2.5-1.5B的微调运行时间。当前纪录由@Saivineeth147以6分05秒保持,采用序列打包与仅完成损失掩码技术,相比基线11分57秒提速约2倍且准确率更高(61.1%)。项目提供免费Modal沙箱验证,任何提交需经3次独立复现确认。

信息来源:Hacker News 热门(buzzing.cc 中文翻译)

转载请注明出处:https://www.ysthink.site/4316/
赞 (0)
的头像
上一页 2026年7月20日
下一页 2026年7月20日

相关推荐

  • AlloyDB ScaNN 如何将向量搜索扩展到 100 亿向量

    AlloyDB 的 ScaNN 索引现已支持超过 100 亿向量的规模,通过全新的四层树架构(预览版)实现,将查询复杂度从 O(N^1/2) 降至 O(N^1/4)。内部测试中,该架构在 100 亿向量规模下可实现 p95 延迟不超过 51 毫秒、召回率达 95%。该功能可通过快速入门指南部署,新用户可享受 30 天免费试用。

    AI资讯 2026年8月21日
    00
  • 黄仁勋:英伟达季度收入逼近千亿美元,Rubin Ultra 架构未延期

    英伟达CEO黄仁勋在摩根士丹利路演中表示,公司季度营收即将逼近1000亿美元,且增长速度仍在加快。他否认下一代旗舰架构Rubin Ultra延期传闻,称其仍按计划于明年出货,当前机架设计调整仅为系统架构优化。一个此前主要依赖ASIC的前沿AI模型项目,如今英伟达GPU算力占比已接近50%,市场普遍指向Anthropic。英伟达预计本财年CPU业务收入约200亿美元,下一代Vera CPU将进军通用服务器市场。摩根士丹利维持英伟达”增持”评级,目标价288美元。

    AI资讯 2026年7月13日
    00
  • OpenAI 拟投资 200 亿美元在美新建数据中心,2030 年算力支出预期上调至近 7500 亿美元

    OpenAI 计划在佐治亚州萨凡纳附近建设一座超大规模数据中心,承诺投资 200 亿美元,并已争取到 3.2 吉瓦的能源。该项目预计从 2028 年起部分电力投入使用,满负荷时总成本可能超过 300 亿美元。同时,OpenAI 将截至 2030 年的预计算力支出上调至近 7500 亿美元,高于此前约 6000 亿美元的预期。

    AI资讯 2026年7月22日
    00
  • ts-rust 发布:由 LLM 将 TypeScript 编译器、检查器和 LSP 移植到 Rust

    ts-rust(tsc-rs)将 microsoft/TypeScript(Go 实现)的编译器、类型检查器和语言服务器移植为 Rust,作者称全部代码由 LLM 编写,本人未读过代码。

    AI资讯 2026年10月8日
    00
  • vLLM 发布 Mistral Large 4 Day 0 支持

    vLLM 团队宣布对 Mistral 新旗舰模型 Mistral Large 4 提供 Day 0 支持,该模型为 1T 参数、每 token 激活 49B 的原生多模态 MoE 模型,采用 MLA 稀疏注意力加 DSA top-k 索引器、跨层 KV 共享、NoPE、SSMax 和 LeRoPE 等新架构,并内置 DSpark 推测解码草稿器与 Pixtral 视觉编码器。

    AI资讯 2026年10月29日
    00

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

自6.2开始主题新增页头通知功能,购买用户可免费升级到最新版体验