#147 · 主分类： LLM应用框架
nextpy
🤖来自未来的自我修改框架 🔮 全球首个AMS
项目最后更新：05/01/24
GitHub Stars
2.3K
Forks数量
181
贡献者数量
13
许可证
Apache-2.0
收录理由
Nextpy 是一个纯 Python 框架，面向那些希望模型本身能参与塑造应用代码与行为的 AI 开发者。它的核心是一套编译时提示引擎，让开发者能以结构化和类型化的方式控制大模型的输出：既能设定明确的边界，规定模型能做什么、不能做什么，也能精确指定响应格式，并借助会话状态和 KV 缓存复用，在开源模型上结合推测采样来加速生成。这种对确定性输出的执着，使它在智能体后端和代码生成场景中比通用聊天机器人更顺手。框架还带有一层生成式 UI 能力，你可以在不脱离 Python 的情况下搭建智能体应用的前端。需要留意的是，项目还明确处于实验阶段，作者自称“仅供朋友试用”，所以更适合拿来做原型验证，用自己的提示词重负载场景去测试，而不是当作久经考验的生产平台。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道，支持丰富的AI模型和工具。可部署在云、VPC或自托管环境，团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块，再送入LLM。编码代理减少20% token，JSON减少60-95% token，答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心，Python SDK。以OpenAI（或原生）格式调用100多种LLM API，具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台