#166 · 主分类: 知识库与企业搜索
gritlm
生成式表征指令微调
项目最后更新:06/25/25
GitHub Stars
699
Forks数量
49
贡献者数量
7
许可证
MIT
收录理由
GRIT 是一种训练方法的参考实现,让同一个大语言模型同时承担两项任务:既生成文本向量,又用同一套权重产出回答。仓库以 pip 包 `gritlm` 形式安装,`GritLM` 类可加载 7B 或 8x7B 模型,按需切换嵌入、生成或两者兼用,并附带了论文中的训练数据、对齐方案和评估脚本。由于同一模型兼顾两种能力,在检索增强生成流程里可以缓存中间计算,前向传播次数大约减半,处理长文档时尤其划算。对于目前分别部署嵌入模型和生成模型的团队,这套方案能简化服务架构;想复现或扩展 MTEB 结果的人,也能拿到完整的训练管线,而不只是孤立的模型权重。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。
同类热门项目
ragflow
RAGFlow 是一款领先的开源检索增强生成(RAG)引擎,将前沿 RAG 与 Agent 能力融合,为大型语言模型(LLM)打造卓越的上下文层。
Understand-Anything
教学型图表优于炫技型图表。将任意代码转化为可探索、搜索和提问的交互式知识图谱。支持Claude Code、Codex、Cursor、Copilot、Gemini CLI等。
crawl4ai
🚀🤖 Crawl4AI:开源的、对LLM友好的网页爬虫与抓取工具。别害羞,加入这里:https://discord.gg/jP8KfhDhyN
docling
为生成式AI准备文档
anything-llm
停止租用你的智能。用AnythingLLM拥有它。你需要的一切,实现强大的本地优先智能体体验。