#75 · 主分类: AI网关与API基础设施

paritok-4b-v1

agentic-coding ai ai-agents ai-coding ai-infrastructure developer-tools llm-gateway llms token-optimization

面向AI编程代理的无损压缩网关,可将令牌费用降低高达85%,并在相同上下文窗口内容纳约3倍多的轮次。

项目最后更新:08/29/26

GitHub Stars

1.4K

Forks数量

137

贡献者数量

7

许可证

Apache-2.0

收录理由

长会话的智能编码代理每次交互都会反复消耗输入令牌,工具定义和文件读取内容一遍遍重复计费,上下文窗口越满,账单涨得越快。Paritok 作为代理与上游模型之间的透明代理层,只要你的工具支持 BASE_URL 指向自定义端点,Claude Code、Cursor、Codex、OpenHands 等都能直接接入,代理本身一行代码都不用改。它会在每次请求时过滤掉无关的工具模式,用专门针对真实编码轨迹训练的开源 4B 模型压缩工具结果和文件读取内容,窗口接近饱和时还会把陈旧历史做摘要处理,而且所有原始数据都不会被永久丢弃,代理随时可以按需取回精确原文。首轮就能省下约 25% 的输入令牌,长会话或上下文吃紧时节省幅度能超过 85%,同样的窗口里大约能塞进三倍的交互轮次。整个方案可以自托管,嵌入过滤在本地 CPU 上就能跑,对于已经在为智能编码工具付费的团队来说,这是在不改动现有工作流的前提下,同时缓解预算压力和上下文瓶颈的实在办法。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目