#79 · 主分类: 提示词工程工具

verbalized-sampling

claude creative-writing dialogue-simulation diversity gemini gpt large-language-models llm mode-collapse prompt-engineering python qwen sampling synthetic-data

无需训练的提示策略,通过从言语化概率中采样,将LLM多样性提升2-3倍,适用于创意写作和合成数据,且与模型无关。

项目最后更新:01/03/26

GitHub Stars

802

Forks数量

84

贡献者数量

5

许可证

Apache-2.0

收录理由

用过大型语言模型的人大概都遇到过这样的情形:无论怎么调整提示词,模型总是给出千篇一律的安全答案。Verbalized Sampling 要解决的正是这种模式坍缩问题。它的做法是让模型先产出多个候选回答,并为每个回答附上一个数值概率,然后从这套用语言表达出来的概率分布中采样,而不是单纯依赖温度参数。由于这本质上是一种提示词技巧,不需要微调,GPT、Claude、Gemini、Llama 等模型都能直接使用,接入现有流程的阻力很小。项目以 Python 包的形式把整个流程封装成一次调用,内置 LangChain 集成,还提供了复现论文中创意写作、对话模拟和合成数据实验的脚本。对于想让自己正在运行的模型输出更多样化的团队来说,这是一个很实用的工具。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目