XGrammar XGrammar 是一款由陈天奇团队开发的开源工具,旨在为大型语言模型提供高效的结构化数据生成能力。它基于上下文无关语法(CFG),支持生成 JSON 和 SQL 等格式的复杂数据结构,具备字节级下推自动机优化、自适应 token 掩码缓存以及上下文扩展等功能,能够显著提升生成效率并减少延迟,适用于编程语言辅助、数据库操作、自然语言处理、Web 开发等多个领域。 AI项目与工具 2025年06月12日 12 点赞 0 评论 470 浏览