dolly

收录理由

Dolly的价值更多在于它展示了一种可能性，而非单纯的性能指标。Databricks基于EleutherAI的Pythia-12b底座，用自家员工编写的约1.5万条指令与回复数据进行微调，最终以可商用授权发布，同时公开了训练管线。对于想在自有基础设施上学习如何改造预训练模型的团队来说，这份仓库是相当实在的起点，里面附带了生成模型所用的笔记本和流程。更难得的是，它对自身局限毫不回避：12B参数量的检查点并非顶尖水平，README里也直白指出了在编程、数学、幻觉等方面的短板。不妨把它当作一个值得研究或继续开发的基座模型，而非开箱即用的生产级助手。