#140 · 主分类: LLM应用框架
llm-ui
用于LLM的React库
项目最后更新:07/02/25
GitHub Stars
1.7K
Forks数量
89
贡献者数量
3
许可证
MIT
收录理由
在开发 React 聊天界面或流式助手时,处理 markdown 渲染和断断续续的 token 流往往让人头疼。llm-ui 正好帮你解决了这层中间工作:它能清理模型原始输出中不规范的 markdown,对流式输出的停顿做节流,让文字平滑呈现,同时以原生帧率渲染,还支持你自定义组件,配合 Shiki 高亮的代码块。由于它作用于模型的输出字符串,不绑定特定厂商 SDK,所以兼容 OpenAI、Claude、Ollama、Mistral 或 Hugging Face,并且是无头设计,样式完全由你掌控。对把 LLM 集成进 React 产品的前端工程师来说,这意味着可以省去大量手写的解析、缓冲和逐 token 动画逻辑。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道,支持丰富的AI模型和工具。可部署在云、VPC或自托管环境,团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块,再送入LLM。编码代理减少20% token,JSON减少60-95% token,答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心,Python SDK。以OpenAI(或原生)格式调用100多种LLM API,具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台