raptor

收录理由

常规的向量检索只是把最相似的片段找出来，并假设答案就藏在某一个片段里，可一旦回答需要综合一篇长文中分散在多个位置的信息，这种思路就会失灵。RAPTOR换了个办法：它把文本做聚类，对每个聚类生成摘要，再往上重复这一过程，让同样的内容在越来越概括的层次上反复出现。查询的时候同时读取好几个层级，当没有任何单独一段能给出完整答案时，这种设计恰好派上用场。这个库上手很直接——把文档加进去、提个问题、拿到回答，而且接口允许你替换自己的摘要模型、嵌入模型，问答环节也可以自己接。不过高级配置的文档还标注着“开发中”，运行时也需要OpenAI的API密钥。如果你的RAG流程总是在那些涉及语料库多个章节的问题上翻车，RAPTOR值得一试，毕竟它有原论文做支撑。