ripple-65b-preview
推理增强 · ripple-65b-preview · Q4_K_M
模型文件由第三方社区提供,贤紫精选模型市场仅提供索引与下载便利;使用请遵守该模型开源协议。
模型简介
Ripple-65B Preview 由美国 AI 芯片公司 Ricursive Intelligence 于 2026 年 11 月 4 日发布,是其 AI 芯片设计平台背后专有模型的开源通用版本。模型为 65B 稠密 Transformer(80 层,d_model 5120),从零预训练于 12 万亿 tokens,主打 agentic coding(智能体编程) 场景。
在 Terminal-Bench 2.1 上取得 80.52 分,刷新美国开源权重 SOTA,超过 Reflection Beam 501B(80.1)、Meta Muse Spark Open 816B(76.4)、Thinking Machines Inkling 975B(63.8)等参数量大得多的模型。
核心规格
| 项目 | 参数 |
|---|---|
| 参数量 | 65B(约 64.8B,全部激活) |
| 架构 | 稠密 Transformer,80 层,宽度 5120 |
| 预训练 | 12T tokens,8K 序列长度 |
| 后训练 | 中期训练 200B tokens + SFT 183B tokens + 面向 agentic coding 的 RL |
| 上下文 | 最长 1,048,576 tokens(1M);DGX Spark 官方脚本为 128K |
| 输入输出 | 纯文本进、纯文本出(不支持图像/音频) |
| 推理模式 | 始终开启,输出在 <think> 标签内,无 effort 档位 |
| 开源协议 | Apache-2.0(含商用授权) |
架构亮点
- 薄而深的宽深比设计:窄 d_model(5120)+ 80 层,配合 over-provision 的注意力头
- 融合 gated attention(sigmoid 门控注意力)、global NoPE、value residuals、FFN activation clipping
- SWA(滑动窗口注意力)与全局层比例优化,降低长上下文成本
- 稠密架构带来低延迟 token 生成,适合本地设备与 DGX Spark 类机器
主要 Benchmark
| Benchmark | Ripple-65B | Reflection Beam 501B | Muse Spark Open 816B |
|---|---|---|---|
| Terminal-Bench 2.1 | 80.5 | 80.1 | 76.4 |
| SWE-bench Verified | 76.5 | 81.6 | — |
| SWE-bench Pro v1.0 | 61.42 | 66.1 | — |
注:Terminal-Bench 领先幅度约 0.4 分,可视作与 Reflection Beam 打平;SWE-bench 系列仍落后于 Reflection Beam。数据为厂商自报,未经独立验证。
本仓库文件
- 格式:GGUF
- 量化:Q4_K_M
- 文件大小:约 38.8 GB
- 上下文窗口:1M
运行建议
- 显存需求:Q4_K_M 约需 48GB VRAM(如 2×24GB 显卡或 48GB Mac);32GB 机器可跑短上下文;24GB 仅建议尝试 IQ2 类更小量化
- 推理速度:社区报告在单张 GH200 96GB 上,Q4_K_M 提示处理 309 tok/s、生成 40.6 tok/s
- 采样参数:官方示例使用 temperature=0;因推理始终开启,建议
max_tokens设为 4096 以上,否则回答容易被截断 - 对话模板:加载时需开启
--jinja以使用内置 chat template(含工具调用与<think>推理标签)
适用场景
- Agentic coding / 终端命令行任务
- 代码生成、补全、重构与调试
- 长上下文代码库理解(配合 128K~1M 上下文)
- 需要工具调用(tool use)的智能体应用
来源
- 官方发布博客:https://www.ricursive.com/ripple
- Hugging Face 权重:ricursiveAI/Ripple-65B-Preview
- GGUF 社区量化:AtomicChat/Ripple-65B-Preview-GGUF
- ModelScope 镜像:prithivMLmods/Ripple-65B-Preview-GGUF