MarkTechPost ↗ · 2026-11-21 12:01 · UTC+8
Baseten 发布 Bison-1 和 Groundhog-1,登顶决策模型指数
模型更新 MarkTechPost 原文语言:英文
Baseten 推出了 bison-1 和 groundhog-1 两款基于 Google Gemma 4 的开源决策模型,其中 bison-1 在人工分析决策指数 v2.1 上以 76 分排名第一。两款模型均将上下文扩展至 128k 并且支持图像输入,主要用于返回是/否、选择和评分问题的校准概率。
全文
Baseten 已发布 bison-1 和 groundhog-1,两款基于 Google Gemma 4 的开放权重决策模型。决策模型不生成文本,只返回针对是/否、选择和评分问题的校准概率。Baseten 的 bison-1 决策模型在人工分析决策指数 v2.1 上得分 76,排名 19 项中的第 1。两款模型将上下文从 16k 提升至 128k 令牌,并支持图像。对于路由、分流和防护管线,这意味着可以在一次调用中提供完整的策略和历史。
TL;DR
尺寸:bison-1 为 31B 密集模型,groundhog-1 为约 4B 活跃参数的 26B MoE。两者均支持 128k 令牌(131,072)。
运行平台:Baseten Model APIs,另有 Hugging Face 上的开放 BF16 权重。未列出推理 GPU 或量化构建。仅 BF16 权重约为 62 GB(bison-1)和 52 GB(groundhog-1),按我们的计算。
性能:bison-1 在 AA 决策指数 v2.1 上得分 76,领先 Liquid AI 的 d1.2-ultra(75)1 分。
最佳:When2Call,98(排名 #1)。
最差:AA-Omniscience-Decision v1.1,60(排名 #11)。
结论:最佳——在 128k 令牌下,以每 1M 输入令牌 $0.10 的价格提供排名最高、校准最佳的决策(Brier 0.14)。最差——groundhog-1 尚无官方指数分数,所有数字均为自报。
bison-1 和 groundhog-1 是什么?
bison-1 是 Baseten 的 31B 决策模型,后训练 Gemma 4 31B 以返回校准概率。groundhog-1 是更便宜的兄弟模型,微调 Gemma 4 26B‑A4B(混合专家模型),每个令牌约有 4B 活跃参数。
两者加入 Baseten 现有阵容:mammoth-1(27B)、elephant-1(9B)和 joey-1(2B),这三款基于 Qwen 骨干。新两款是 Baseten 首个基于其所谓的美国骨干的模型。
决策模型是如何工作的?
请求携带 1 个状态和任意数量的问题。状态为文本,可选附带图像。每个问题都有类型:noul(是/否)、choice(命名选项)或 score(有序等级)。
模型在一次预填充过程中回答所有问题。返回 P(yes) 或带有概率字段的选定选项。不会生成输出令牌。Baseten 早期发布的帖子列出了工单分流、垃圾邮件检测、越狱防护和 LLM 路由等目标任务。
超过训练限制的请求会被拒绝,而不是截断。依赖静默截断的管线需要进行长度检查。
为什么 bison-1 的校准更好?
Baseten 将原因归功于两个来源:Gemma 基础模型以及训练混合中的更多“软标签”。软标签使用概率目标而非唯一正确答案。模型学习报告不确定性,以匹配其正确率。
结果是 Brier 分数 0.14,是指数上最低的。Baseten 将 d1.2-ultra 的分数标为 0.15。数值越低越好。
bison-1 在基准测试中的得分如何?
在 AA 决策指数 v2.1 上,bison-1 得分 76。Liquid AI 的 d1.2-ultra 得分 75,mammoth-1 得分 71。该指数融合了 6 项评估,其中 AA-Paperclip 占比 30%。
bison-1 模型卡列出了每个组件的得分:
When2Call:98(#1)
EvalSafe‑O*NET‑AA:93(#1)
AA‑Symmetry v1.1:89(#1)
AA‑Paperclip:73(#2)
HLE‑MultiChoice v1.1:51(#1)
AA‑Omniscience‑Decision v1.1:60(#11)
bison-1 在 6 项组件中有 4 项排名第一。知识密集型决策是其薄弱环节。
在长上下文方面,Baseten 报告 LongMemEval M(128k)bison-1 为 84.8,groundhog-1 为 77.4。LongMemEval S 为 87.1 和 79.3。groundhog-1 尚无官方指数分数,Baseten 预计其表现可匹配 mammoth-1。
它与其他决策模型相比如何?
特性 bison-1 groundhog-1 mammoth-1 Liquid d1.2-ultra
总参数 31B 密集 26B MoE 27B 未披露
活跃参数 31B ~4B 27B 未披露
骨干 Gemma 4 31B Gemma 4 26B‑A4B Qwen3.5‑27B 未披露
上下文 128k 128k 16k 65,536
输入 文本、图像 文本、图像 文本、图像 文本、图像、音频
许可证 MIT + Apache 2.0 MIT + Apache 2.0 MIT 未披露
权重 开放(Hugging Face) 开放(Hugging Face) 开放(Hugging Face) Liquid API(权重未披露)
AA 决策指数 v2.1 76 未评分 71 75
Brier 分数 0.14 未披露 未披露 0.15(依据 Baseten)
LongMemEval M(128k)84.8 77.4 未披露 未披露
每 1M 输入令牌价格 $0.10 $0.035 $0.10 $0.042
开发者如何部署 bison-1 和 groundhog-1?
两款模型均已在 Baseten Model APIs 上上线。它们使用与旧决策模型相同的 API,切换只需更改模型名称。模型 ID 为 decision-models/baseten-bison-latest 和 decision-models/baseten-groundhog-latest。
定价与旧款保持一致。bison-1 的价格为每 100 万 token 0.10 美元,与 mammoth-1 相同。groundhog-1 的价格为每 100 万 token 0.035 美元,与 elephant-1 相同。由于不产生输出 token,bison-1 库页面将其列为输入价格。
开源 BF16 权重已发布至 Hugging Face。Baseten 未列出推理 GPU 或量化版本。bison-1 的训练使用了 192 个 B200 GPU,groundhog-1 使用了 128 个。
主要亮点
bison-1 在 AA Decision Index v2.1 中以 76 分高居榜首,比 d1.2-ultra 高出 1 分。
上下文长度跃升 8 倍至 128k,两个模型均支持图像输入。
groundhog-1 拥有约 40 亿活跃参数,价格为每 100 万 token 0.035 美元。
软标签训练有助于将 bison-1 的布里尔分数(Brier score)推高至 0.14。
请查看发布博文、bison-1 和 groundhog-1 模型卡以及 Baseten 文档。
正文为 AI 译文。