#75 · 主分类: AI网关与API基础设施
paritok-4b-v1
面向AI编程代理的无损压缩网关,可将令牌费用降低高达85%,并在相同上下文窗口内容纳约3倍多的轮次。
项目最后更新:08/29/26
GitHub Stars
1.4K
Forks数量
137
贡献者数量
7
许可证
Apache-2.0
收录理由
长会话的智能编码代理每次交互都会反复消耗输入令牌,工具定义和文件读取内容一遍遍重复计费,上下文窗口越满,账单涨得越快。Paritok 作为代理与上游模型之间的透明代理层,只要你的工具支持 BASE_URL 指向自定义端点,Claude Code、Cursor、Codex、OpenHands 等都能直接接入,代理本身一行代码都不用改。它会在每次请求时过滤掉无关的工具模式,用专门针对真实编码轨迹训练的开源 4B 模型压缩工具结果和文件读取内容,窗口接近饱和时还会把陈旧历史做摘要处理,而且所有原始数据都不会被永久丢弃,代理随时可以按需取回精确原文。首轮就能省下约 25% 的输入令牌,长会话或上下文吃紧时节省幅度能超过 85%,同样的窗口里大约能塞进三倍的交互轮次。整个方案可以自托管,嵌入过滤在本地 CPU 上就能跑,对于已经在为智能编码工具付费的团队来说,这是在不改动现有工作流的前提下,同时缓解预算压力和上下文瓶颈的实在办法。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。
同类热门项目
OmniRoute
开源AI网关:一个端点,290+提供商(90+免费),500+模型,自动回退,令牌压缩,MCP/A2A,兼容Claude Code、Codex、Cursor、Cline、Copilot。
CLIProxyAPI
将 Antigravity、ChatGPT Codex、Claude Code、Grok Build 封装为兼容 OpenAI/Gemini/Claude/Codex 的 API 服务,让您通过 API 免费使用 Gemini 3.1 Pro、GPT 5.6 系列、Grok 4.5、Claude 模型。
kong
🦍 API 和 AI 网关
novu
面向代理和产品的开源通信基础设施
GPT_API_free
免费大模型API,支持免费调用GPT、DeepSeek等主流模型,免费额度10000点,每日刷新!另付费价格最低官方1-2折!