Transformers-for-NLP-2nd-Edition

收录理由

这本书是Denis Rothman所著《Transformers for NLP》第二版的配套代码仓库，对正在研读原书的读者来说，是一份相当实用的辅助材料。它本质上是教学资源，而不是可直接部署的服务；其中的Jupyter笔记本按章节编排，从BERT的注意力头和位置编码讲起，一路覆盖到RoBERTa的预训练与微调。后期的内容以及Dolphin附加示例，演示了如何把旧的工作流迁移到OpenAI的chat completions和GPT-4 API上，还专门说明了模型更名、client调用方式这类破坏性变更，并附带了DALL-E生图和Google Cloud AI的样例。笔记本里预置了指向云平台的快捷启动链接，这些平台自带CUDA环境，省去了本地配置GPU的麻烦。需要注意的是，书中大量内容反映的是2024年初OpenAI生态的状况，之后接口可能又有了新的调整。