toolformer-pytorch

收录理由

这份代码是Meta提出的Toolformer方法的可运行参考实现，核心思路是让语言模型学会在合适的地方插入API调用，而不是硬猜答案。它没有包装成一个完整的智能体，而是把整个流程拆开给你看：先从文本中生成候选的工具调用，再根据这些调用能否降低困惑度来打分筛选，只保留确实有帮助的样本，最后用这些样本微调模型。各个模块分得很清楚，你可以单独研究那个过滤机制，也可以换上自己的模型，把任何一个Python函数当作工具来用。对于想搞明白工具增强微调到底怎么运作的研究者或研究生来说，这是个很好的起点，想改造成自己的实验也很方便；当然，它不是拿来直接上生产环境的东西。