#18 · 主分类: LLM应用框架
toon
🎒 面向Token的对象表示法(TOON)——为LLM提示词设计的紧凑、人类可读的JSON数据序列化格式。提供TypeScript SDK、CLI及基准测试。
项目最后更新:08/23/26
GitHub Stars
25.3K
Forks数量
1.1K
贡献者数量
46
许可证
MIT
收录理由
TOON 是一种面向 LLM 提示词的序列化格式,专门解决结构化数据在送入模型时 token 开销过大的问题。它把 JSON 数据模型编码成基于缩进的紧凑表示,结构本身占用的 token 更少,同时保持无损,模型解析起来也更省力。项目提供了 TypeScript SDK 和命令行工具,相当于一个翻译层:代码里继续用 JSON,只在构造提示词时转成 TOON。对于字段一致、行式排列的数据(比如记录列表),它能接近 CSV 的紧凑度,又保留了显式的字段名和长度信息,帮助模型理解数据模式。如果你的提示词流水线反复发送同构数据,用它可以降低调用成本,而且不需要改动原有的数据模型。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道,支持丰富的AI模型和工具。可部署在云、VPC或自托管环境,团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块,再送入LLM。编码代理减少20% token,JSON减少60-95% token,答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心,Python SDK。以OpenAI(或原生)格式调用100多种LLM API,具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台