AI产品库
Guidance 官方新标(1300×401·同图转正·3.24 超宽比)

品牌档案

Guidance

约束生成、保证结构,随处运行的大模型控制层

Guidance 是用纯 Python 写成的大模型控制层框架,把选项、正则、工具调用、JSON 模式与文法生成放进同一套调用方式,让输出在解码阶段就被约束住,直接拿到结构稳定的结果,适合需要可靠结构化输出的应用与智能体。

深度介绍

Guidance详细介绍

🧭

一句话看懂它做什么

Guidance 是一个用来约束大模型输出的开源框架,官网把它定位成大模型的控制层。你在代码里写清想要的格式和规则,模型按这些规则生成,拿到的结果天然符合要求,不必再写一堆解析和校验逻辑去兜底。首页顶部用三句话概括它的承诺:约束生成、保证输出结构、随处运行。它不绑定某一家模型服务,输出控制发生在解码层面,换模型或者换部署方式时,这套写法基本可以原样迁移。

📊

核心功能与控制方式

核心能力集中在五种控制方式上。Select 让模型从给定的候选里挑一个,首页的例子是三种颜色的选项;Regex 用正则表达式把输出限制在指定格式内;Tool Use 通过装饰器定义工具函数,再把工具交给模型来调,示例里两行代码就完成一次带参数的调用;JSON 模式按预设字段结构生成,示例中的用户资料包含姓名与年龄,并配了停止条件;Grammar 允许直接写文法,示例用递归的数学表达式把选择和数字组合起来。这五段代码都摆在首页,看到用法的同时就能对照着改。

🛡

为什么它的输出更可靠

亮点之一是控制发生在解码阶段,模型一边生成一边被约束,输出从源头就成形;首页的说法是避免链式拼接和缓慢重试带来的开销,这对延迟和成本都有好处。亮点之二是可用性,示例程序按无状态的方式组织,容易放进服务端流程,并兼容 llama.cpp、Transformers 这类推理后端。亮点之三是写法统一,选项、正则、工具、JSON 和文法用的是同一套调用风格,切换控制方式几乎不用改动周边结构,与 Outlines、Instructor 相比,它把几种能力放在一处提供。

🔗

常见场景直接套用

典型场景几乎都围绕结构化输出。需要模型返回能直接入库的 JSON 字段时,用 JSON 模式指定结构;要让模型只从允许的取值里选,用选项控制,比如分类标签或颜色枚举;要从长文本里固定抽出编号、日期或邮箱,用正则把格式锁死;做智能体时,把函数签名交给模型,让它按参数规范调用工具;描述带层次的内容,例如嵌套配置或数学表达式,写文法最合适。凡是后续流程要靠解析结果才能继续的环节,都可以先用它把格式定下来。

🧰

使用成本与门槛

Guidance 是开源项目,源码托管在 GitHub,可以免费获取并接入自己的项目,页面上也没有需要先付费才能体验的环节。想先看效果,官网的 Try Playground 直接在网页里就能试,Get Started 则带你按文档完成第一次生成,两条路都不涉及价格。真正需要投入的是模型与算力:框架本身不额外收费,跑起来用什么模型、放在哪台机器上,由使用者自己决定,个人做原型和团队接入线上流程都能按同样的方式开始。

🛰

文档博客与仓库入口

想深入了解,入口都平铺在官网导航里。Docs 对应使用文档,从安装到每种控制方式的写法都能查到;Blog 是官方文章栏目,讲版本变化和实践思路;Benchmarks 汇总基准测试结果,方便与同类方案横向比较;GitHub 仓库放着完整源码,进展和改动可以在那里跟进。站点结构本身也很简洁,页面把这几个入口直接摆出来,不用层层点击,站点地图同样对外公开,想快速看清全站栏目时可以直接使用。

🧩

三步开始第一次生成

上手可以分三步。第一步打开官网点 Get Started,先看最小可运行示例,确认依赖和模型接入方式;第二步到 Playground 里跑一段提示词,先试选项和正则,再换成 JSON 模式,看看输出是不是一次就符合结构;第三步回到文档,挑一种控制方式接进自己的项目,替掉原先解析失败就重试的写法。首页那五段代码就是现成的起点,抄到本地改一改,通常马上能看到差别,仓库里的更新说明则能帮你跟上后续变化。

产品特点

核心功能与独有价值

01

一次生成就拿到可用结构

很多应用卡在同一个循环上:模型输出、解析失败、补提示、再重试,既慢又贵。Guidance 把格式要求放进解码过程,结构在生成时就成立,返回值可以直接进入下一步。对每天要处理大量结构化请求的服务来说,省下的不只是重试时间,还有为兜底逻辑维护的那套代码,写起来也更轻松。

02

写法统一,切换控制方式很轻

选项、正则、工具调用、JSON 和文法,五种能力用同一套调用风格组织。今天用正则锁格式,明天改成完整文法描述层次结构,改动集中在生成那一行,周围的流程不用跟着动。这种统一让团队可以先用最简单的方式上线,随着需求变复杂再逐步加约束,而不必一开始就选定某个框架的复杂方案。

03

示例摆在首页,边看边试

首页把五段代码直接摆出来:选项怎么选、正则怎么写、装饰器怎么定义工具、JSON 模式怎么配字段、递归文法怎么表达数学式,一屏之内看完。旁边还有 Get Started 和 Playground,看到例子就能立刻去试效果,不用先翻完文档才知道能不能用。对第一次接触受控生成的人来说,这种把用法摆在明面上的页面能省下很多摸索时间。

04

开源托管,接入方式不受限

代码托管在 GitHub,属于开源项目,可以自行获取源码、按项目需要集成,也可以先在 Playground 里验证思路再决定是否长期使用。它兼容 llama.cpp、Transformers 这类推理后端,选型时不必为了控制能力绑定某一家服务。无论是个人做原型,还是团队把它接进线上流程,都能用同样的方式起步,后续扩展也不受限。

最近动态

重要更新

首页三块能力介绍上线

官网首页用三块内容概括 Guidance 的能力:细粒度控制、成本与延迟表现、面向生产的可用性。其中写明它直接控制解码,避免链式拼接与缓慢重试造成的浪费,并兼容 llama.cpp、Transformers 这类推理后端,读者一屏就能看懂它的定位与适用人群。

官网换用新版标志图

站点的标志图换成了新版文件,首页图标也一并更新。改版后的首页依旧保持很轻的体量,把主要篇幅留给五段示例代码和几个入口链接,访客打开即可看到产品说明、试玩入口与文档栏目,整体读起来非常直接。

Guidance 产品页信息更新

本页整理了 Guidance 的官网入口、GitHub 仓库、文档与博客栏目,并把五种控制方式的说明补全:选项、正则、工具调用、JSON 模式与递归文法。首页的三块能力介绍和五段示例代码也已转述成可直接阅读的文字,读者不用打开源码就能判断它是否符合项目需求。

产品总结

Guidance 是一个面向大模型的受控生成框架,官网首页把它称作大模型的控制层,并用三句话说明要做的事:约束生成过程、保证输出结构、在任何地方运行。它要解决的是同一类麻烦:模型自由发挥时,拿到的文本常常少一个括号、缺一个字段,格式看着对了内容却不可用,程序只好反复解析、反复重试。Guidance 把约束放进解码阶段,输出在生成的同时就被限制成想要的样子,一次就能拿到结构稳定、可以直接进入下一步的结果。 这套框架用纯 Python 写成,把常见的控制手段集中到一种调用方式里:可以从候选选项里挑一个,可以用正则表达式框住格式,可以定义工具让模型带着参数来调用,可以用 JSON 模式锁定字段结构,还可以直接写文法描述更有层次的内容,首页就有一个递归数学表达式的例子。首页另外用三块内容概括它的特点,分别讲细粒度控制、成本与延迟表现,以及面向生产的可用性,其中提到它直接控制解码,避免链式拼接和缓慢重试带来的浪费,并兼容 llama.cpp、Transformers 这类推理后端。 想上手可以先去官网首页,导航里有 Get Started 和 Try Playground 两个入口,一个按文档带你走完第一次生成,一个让你直接在网页里试效果,旁边还放了基准测试结果以及 Docs、Blog 两个栏目。代码托管在 GitHub,源码和版本更新都能在仓库里跟进。建议的顺序是先在 Playground 跑一段提示词,看看选项、正则或 JSON 的输出是不是一次成型,再回到文档挑一种控制方式接进项目,替换掉原先靠解析失败再重试的写法。

产品类型
面向大模型的受控生成与约束解码控制层
支持平台
网页版
资费模式
开源项目,源码托管在 GitHub;官网提供开始指引与在线试玩,价格档位以官网公示为准。

核验信息

参考文章与数据来源

本页依据 Guidance 官网首页、GitHub 仓库、文档入口与博客栏目整理;五种控制方式的示例取自首页代码区,标志图与图标文件来自官网静态资源,站点配置与页面索引用于确认栏目结构,全部内容核对于 2026-10-04。

  1. 其他首页入口
  2. 其他GitHub 仓库
  3. 其他快速上手
  4. 其他文章列表
  5. 其他抓取规则
  6. 其他站点地图
  7. 其他品牌标志图
  8. 其他网页小图标

用户体验调查

Guidance介绍页面对您是否有帮助?