whichllm

收录理由

选本地大模型时，真正让人头疼的不是参数大小，而是“我想要的模型在这台机器上到底跑不跑得动”。whichllm 用一条命令解决这个问题：它自动识别你的 GPU、内存和 CPU，从 HuggingFace 拉取候选文本生成模型，然后按你的硬件实际能承受的性能来排序，而不是看参数量。排序时会把 LiveBench、Aider 这类榜单里较新的结果和运行时的适配性结合起来，所以在下载大文件之前，你就能对每秒生成多少 token、要占多少内存有个靠谱的判断。如果你还没买硬件，也能先用它模拟某块显卡，提前规划升级。对于平时用 Ollama、llama.cpp 或 LM Studio 跑开源模型的人来说，它省去了一个个试模型、猜配置的麻烦。