Awesome-Efficient-LLM

收录理由

这份清单是我们在探索如何降低大语言模型运行成本时，遇到的少数几个真正好用的起点之一。无论你是想压缩模型体积、加快推理速度，还是减少内存占用，都能在这里找到对应的方向。它把内容按剪枝、量化、知识蒸馏、KV缓存压缩、低秩分解、高效微调等细分领域整理得清清楚楚，想查哪种技术就能直接跳过去，不用在一堆杂乱链接里翻找。每一条都附带了论文、代码仓库和发表 venue，顺着条目就能从理论文章一路追到可运行的实现，非常实用。项目维护得很勤快，也接受 pull request，所以收录的内容能跟上领域的最新进展。对于正在评估该采用哪种效率优化方案的团队来说，这份清单把各种选项和背后的代码都梳理成了一张清晰的地图。