keras-attention

收录理由

做序列到序列任务时，这个库把Luong和Bahdanau两种注意力打分方式封装成一个独立的Keras层，直接插进现有模型就行。构造时传个字符串，比如'luong'或'bahdanau'，就能切换打分方式，用法和普通Keras层没区别，放在编码器和输出之间即可。它返回上下文向量，还帮你处理了自定义对象的注册，保存和重新加载训练好的模型时不用额外操心，这对经常要存检查点的人来说很省事。整个库刻意保持精简，不捆绑任何大而全的框架，正因如此它才足够轻巧，作为经过充分测试的基础组件，用起来心里有底。