当前位置:首页 > 经验分享

LongCat-2.5 开源:3.56TB 权重,先算硬件账

【导语】1.6 万亿参数、MIT 协议、3.56TB 权重。公告只有一句话,下载页后面跟着一长串硬件门槛,先把账算清再动手。

11 月 9 日放出来的是权重,不是能跑的环境

11 月 2 日,美团龙猫发布 LongCat-2.5 正式版,当时只有网页和 API 两条入口。11 月 9 日晚上,团队把权重传到 Hugging Face 和 ModelScope,协议是 MIT,两个仓库都没设申请门槛,点开就能下。

仓库里其实是两个东西。原版 meituan-longcat/LongCat-2.5 整仓 3562 GB,210 个 safetensors 文件,其中 208 个是主模型分片、单个 17 GB 上下,另外两个是多模态部分。另一个 meituan-longcat/LongCat-2.5-W4A4 把专家权重和激活压到 4 bit,同样是 210 个分片,整仓 1336 GB。两者差 2.2 TB。

配置里能看到骨架:38 层,隐藏维 8192,768 个路由专家加 128 个零专家,每个 token 走 topk 12,总参 1.6 万亿,激活约 480 亿。稀疏度约 33 比 1,这是它敢把参数量堆到万亿的前提。

  • 原版权重:3562 GB,210 个分片,高精度格式,效果与 API 对齐
  • W4A4 版:1336 GB,210 个分片,专家权重与激活同时压到 4 bit
  • 许可:MIT,仓库未设 gate,不需要发邮件申请
  • 部署文档:只写了 NPU 路径,指向 SGLang-FluentLLM 的 longcat-2.5-npu 分支

先算硬件账:4bit 也要 17 张 80GB 卡

把体积换算成卡数最直接。1336 GB 除以单卡 80 GB,约 17 张;原版 3562 GB 除以 80 GB,约 45 张。这是纯权重占用,还没算 KV 缓存、框架开销和通信缓冲。

KV 缓存可以按配置推一遍。MLA 结构每层每 token 存 kv_lora_rank 512 加 qk_rope 64,共 576 个数值,38 层、BF16 各 2 字节,单 token 约 43 KB。上下文填到 1M,一条会话的 KV 缓存就是 43 GB 左右。这个数字是按 config.json 推的,官方没公布实测值。

下载时间也得先估。3562 GB 在千兆宽带满速 112 MB/s 下要 8.8 小时,1336 GB 要 3.3 小时。中途断一次,续传和对齐分片都够折腾半天。

模型卡的部署章节只有一段:LongCat-2.5 can be deployed on NPU platforms,然后指向 NPU 测试文档。NVIDIA 卡怎么起,模型卡没写,社区目前也没有现成方案。想在自己的 4090 上试,这一步就得停。

第一条路:网页和 API,五分钟能打通

普通人真正能用的是 API。平台兼容两种协议:OpenAI 格式的 base_url 是 https://api.longcat.chat/openAI,模型名填 LongCat-2.5,路径 /v1/chat/completions;Anthropic 格式的 base_url 换成 /anthropic,路径 /v1/messages。现有的 SDK 和命令行工具改个地址就能接。

整个流程就三步,不用装任何东西,用 curl 就能验证。

  • 第一步,建 key:登录 longcat.chat/platform,进 API Keys 页面点 Create API Key。key 只显示一次,建完先粘到记事本
  • 第二步,测通:curl -X POST https://api.longcat.chat/openai/v1/chat/completions,请求头带 Authorization: Bearer 你的KEY 和 Content-Type: APPlication/json,请求体传 model 为 LongCat-2.5、一条 user 消息即可
  • 第三步,换 SDK:OpenAI 的 base_url 填 https://api.longcat.chat/openai,Anthropic 的填 https://api.longcat.chat/anthropic
  • 单请求上限:上下文 1M token,最大输出 256K token;超限返回 HTTP 429,官方建议客户端做指数退避重试
  • 价目(限时价,以平台页和账单为准):未缓存输入 2 元/百万 token,缓存命中 0.04 元,输出 8 元
  • 新账号有赠送额度,官方口径在千万 token 量级,具体数额以注册后平台页显示为准

第二条路:等第三方入口的限时免费

11 月 9 日同一晚,OpenCode 宣布 LongCat 2.5 免费两周,模型 ID 是 longcat-2.5-free,标注 1M 上下文、多模态、零数据保留。Nous Portal 从 11 月 6 日起免费一周,ID 是 meituan/longcat-2.5:free。两处都要在各自平台单独注册,美团账号不通用。

这类免费有两个不确定的地方。截止日没有写死在页面上,额度随时可能收紧;共享池在高峰时段容易撞 429。拿来短期试用没问题,别指望它扛生产任务。

还有个坑要避开:OpenRouter 目前目录里只有 meituan/longcat-2.0,没有 2.5。看到有人贴 2.5 的 OpenRouter 调用示例,基本是把上一代的信息套过来了。

百万上下文这个数字,config 里写的是 512K

三个口径对不齐。API 文档写 1M token 上下文、256K 最大输出;模型 config.json 里 max_position_embeddings 是 524288,也就是 512K;rope_scaling 段写 original_max_position_embeddings 8192、factor 120,8192 乘 120 等于 983040,约 96 万。

三个数对应三件事:原生训练长度 512K、YaRN 外推上限约 96 万、接口按 1M 声明。标题通常取最大的那个。能稳定跑到哪一档,得自己拿长文档压一遍才知道,尤其是中间段落的信息召回。

  • 原生位置编码:524288 token
  • YaRN 外推:8192 × 120 = 983040 token
  • 接口声明:1M 输入,256K 输出
  • 视觉侧上限:单图最大 3211264 像素,最小 50176 像素

跑分挑着看:赢在检索和 3D,输在整仓构建

官方博客那张表里,LongCat-2.5 拿第一的是这几项:BrowseComp 91.9,Claude Opus 5 是 90.8;3DCodeBench 文字转 3D 55.4,Opus 5 是 54.3;ALE v1.1 拿到 38.5;AutomationBench 51.8。

落后的地方写在同一张表里。Terminal Bench v4.0 是 38.5,Opus 5 是 53.9;Program Bench 25.5 对 37.0;NL2Repo 60.5 对 75.3;DeepSWE v1.1 只有 64.6,比 DeepSeek V4.1 Flash 的 74.2 还低一截。

读这张表要带三个前提。带星号的分数引自公开报告或官方榜单,不带星的是自家实测;各家 harness 不统一,官方自己跑 Terminal Bench 用的是 Claude Code v2.1.280;对比集里没有 GPT-6 系列,也没有 Opus 5.5。

真正有说服力的是纵向对比。同一套跑法下,Terminal Bench v4.0 从 2.0 的 3.0 涨到 38.5,AutomationBench 从 15.8 到 51.8,DeepSWE 从 9.7 到 64.6,Program Bench 从 2.5 到 25.5。参数规模没变,涨的是后训练和长程强化学习。

MIT 给的是权重,商标和专利没在里面

LICENSE 是标准 MIT 全文,署名 Copyright (c) 2026 Meituan,允许商用推理部署、二次训练、改完再分发,不需要额外授权。MIT 不要求衍生作品开源,这也是它能直接进商业产品的原因。

模型卡单独写了一段:本许可不授予使用美团商标或专利的权利。翻译成日常用法,你可以拿它做产品、做微调、交付给客户,但不能对外叫自己「美团 LongCat 官方服务」,也不能拿它的名字做背书。

还有一句值得记:模型卡里的使用注意事项不得解释为修改或限制 MIT 条款。这句是为了防止下游把风险提示当成附加限制。愿意主动写这一句的团队,通常想清楚了法务边界。

半小时决策:三类人对号入座

第一类,有 8 卡以上 80GB 集群、要做私有化或微调的团队。W4A4 版是唯一现实选择,但 1.34 TB 按 8 张 80GB 也装不下,17 张起步,NPU 路径是目前唯一有官方文档的。先跑通推理,再评估量化带来的精度损失。

第二类,想把模型接进自己工具链的开发者和写作者。走 API,改 base_url 就能用,先把赠送额度跑完再决定要不要充值。写长文档、做资料整理这类任务,它的长上下文确实省钱。

第三类,只有一台笔记本或一张消费级显卡。权重这条路现在走不通,网页版和第三方免费入口先用着,等社区出 GGUF 或者小尺寸蒸馏版再看。

  • 有 16 张以上 80GB 卡,且能接触 NPU 环境:下 W4A4 版 1336 GB,按官方 NPU 文档走
  • 有 45 张以上 80GB 卡,要做评测基线或全参微调:下原版 3562 GB
  • 要快速验证产品想法:走 API,未缓存输入 2 元/百万 token
  • 只有消费级显卡:别下,网页版够用
  • 在意授权:MIT 可商用,商标与专利不在授权范围

关注格熊,持续分享最新免费资源!

  • 随机文章
  • 热门文章
  • 热评文章

扫描二维码推送至手机访问。

版权声明:本文由格熊发布,如需转载请注明出处。

免责声明:本站收集的内容,都来自网络,版权争议与本站无关。

本文链接:https://www.gexiong.com/jyfx/849.html

分享给朋友:

相关文章

【效率工具】网易有道发布AI知识库:一键生成播客与PPT

【效率工具】网易有道发布AI知识库:一键生成播客与PPT

网易有道发布AI知识库有道宝库,支持一键生成播客与PPT,革命性提升知识工作者效率。本文详解功能特点和使用技巧。…

AI智能体大规模普及的救命稻草:为什么分布式智能架构是未来?

AI智能体大规模普及的救命稻草:为什么分布式智能架构是未来?

Omdia最新报告指出,分布式智能架构是AI智能体大规模普及的关键。本文深度分析当前AI智能体的三大结构性局限(被动架构、设备孤岛、技术负担),以及分布式架构如何破解成本困境、打破设备孤岛。1500字深度长文。…

2026年8款免费AI工具实测:写作、搜索、抠图、编程全覆盖,附操作步骤

2026年8款免费AI工具实测:写作、搜索、抠图、编程全覆盖,附操作步骤

【导语】2026年最好用的免费AI工具清单!涵盖写作、视频、搜索、编程、抠图5大类,每个都附带操作步骤,小白照着用就能提升效率。一、AI对话助手:你的万能"瑞士军刀"1. DeepSeek——国内免费首选2026年,DeepSeek已稳居国内免费AI助手第一梯队。推理和代码能力出…

2026年AI行业大变局:从百模大战到价值验证,普通人如何抓住新机会

2026年AI行业大变局:从百模大战到价值验证,普通人如何抓住新机会

2026年AI行业正式告别百模大战进入价值验证期。GPT-5.5能力增长放缓、DeepSeek开源策略成功、中国大模型调用量首超美国、AI Agent规模化落地。本文深度解析行业变局,给普通人实用的应对建议。…

当AI开始“抬杠”和“说教”:Claude Sonnet 5翻车,暴露了智能助手最难的命题

当AI开始“抬杠”和“说教”:Claude Sonnet 5翻车,暴露了智能助手最难的命题

Claude Sonnet 5上线后被大量吐槽“反驳成风、道德说教”,本文深度分析AI助手在“有用”与“有态度”之间的失衡,以及它对真实办公效率的影响与应对。…

不要API Key就能扒光全网!这款GitHub 13万星爬虫神器,每月白送1000次

不要API Key就能扒光全网!这款GitHub 13万星爬虫神器,每月白送1000次

Firecrawl:130k GitHub Star,无需 Key 直接调,JS 渲染/动态加载/整站爬取通吃,五种接入方式全攻略…

发表评论

访客

看不清,换一张

◎欢迎参与讨论,请在这里发表您的看法和观点。