Sage2

Sage2 是 Levanto Labs 于 2026 年 11 月 2 日 正式发布的 运行时决策与抽取模型。开发者把自然语言文本（聊天、工单、文档片段）和问题/字段定义发给 API，模型返回 带校准概率的是/否或多选决策，以及 带证据片段的结构化抽取结果；支持 WebSocket 流式会话：上下文边到达边更新答案，官方称流式决策可比整段重算快约 3 倍，短文档抽取约 150 ms，流式决策最低约 50 ms。

它与库中的 Sage-A1.5（InternScience 科研模型）不是同一产品线；Sage2 面向应用运行时的“决策/抽取原语”，可直接接到客服、销售、交易与游戏等持续对话场景。官网提供产品页、文档、Playground，并宣称新用户可获约 2000 万免费 token。

核心能力

• Decide：用自然语言定义是/否或多选问题（如“是否要求退款？”“要不要升级到 on-call？”），返回答案与概率，适合路由工具、工单分级。
• Extract：定义字段（金额、日期、时长、文本等），从自然语言中抽出类型化取值，并带回源文本片段与概率。
• Stream：打开流式会话后只追加新文本，服务端复用前缀计算；可每次都发射更新，或只在答案变化时推送。
• 多模态：官方称 Sage 也可分析图像。
• Extract Bench：Levanto 自建抽取评测，自称准确率 77.8、识别“无答案” 72.2，高于 Cloudflare Clairic（75.3 / 59）；基准开源在 GitHub。

接入与生态

• 文档与 API 合同可直接交给编码智能体集成；现有 Sage key 可继续用于抽取与流式。
• 也可经 NEAR AI 机密推理、以及面向智能体的 MPP（配合 Stripe / Tempo）调用。
• 案例侧提到 Leap（识别学习工具请求）、Capacitr（市场分析决策点）、PerpFlow（把重复分类委托给 Sage）等。

以上延迟、成本倍数与榜单数字均为厂商自述，独立复现仍有限。

适合谁

• 要在客服/销售/交易/游戏等 持续对话 里做亚秒级路由与字段抽取的产品团队。
• 想把“决策/抽取”从通用大模型里拆成专用、便宜原语的智能体开发者。
• 需要可引用源文本证据的合规抽取场景。

如何上手

1. 打开 levanto.ai/model 与 playground.levanto.ai，注册并领取试用额度。
2. 阅读 docs.levanto.ai，用 POST /v1/extract 和流式 WS /v1/stream 试几个真实对话片段。
3. 把返回的概率接到现有业务规则或智能体工具选择逻辑；对低置信度结果回退到通用模型或人工。
4. 如有需要，参考 Extract Bench 仓库扩展自己的领域评测集。