#99 · 主分类: LLM应用框架
lmstudio-js
LM Studio 的 TypeScript SDK
项目最后更新:08/27/26
GitHub Stars
1.8K
Forks数量
299
贡献者数量
15
许可证
MIT
收录理由
这是 LM Studio 官方推出的 TypeScript 客户端,为本地运行的模型提供了一套类型友好的调用接口,而不是走云端 API。它覆盖了对话补全、文本续写、工具调用和向量嵌入等常见场景,同时补上了通用 OpenAI SDK 容易忽略的本地化能力:模型的内存加载与卸载、上下文长度和 GPU 卸载参数调节、以及查看模型规格和可用功能。浏览器和 Node 环境都能跑,适合做桌面工具、内部助手或轻量级自主代理。因为由 LM Studio 团队自己维护,接口通常能紧跟桌面端新功能,用起来比较省心。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道,支持丰富的AI模型和工具。可部署在云、VPC或自托管环境,团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块,再送入LLM。编码代理减少20% token,JSON减少60-95% token,答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心,Python SDK。以OpenAI(或原生)格式调用100多种LLM API,具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台