#6 · 主分类: 优化与启发式算法

darts

automl convolutional-networks deep-learning image-classification language-modeling neural-architecture-search pytorch recurrent-networks

用于卷积和循环网络的可微分架构搜索

项目最后更新:01/03/21

GitHub Stars

4.0K

Forks数量

836

贡献者数量

3

许可证

Apache-2.0

收录理由

DARTS 是 2018 年那篇神经架构搜索论文的官方参考实现,它的核心思路是把架构搜索本身变成一个梯度下降问题:不再逐个训练和评估候选网络,而是将离散的架构选择松弛为连续权重,直接对这些权重做优化。整个搜索过程很轻量,单张 GPU 就能跑完。仓库里带了可以直接测试的预训练单元,包括用于 CIFAR-10 和 ImageNet 的卷积单元,以及用于 Penn Treebank 和 WikiText-2 语言建模的循环单元,README 里也写明了预期的错误率和困惑度。不过这是 2018 年的研究代码,依赖固定的 PyTorch 0.3.1,更适合作为对照基线或学习参考来阅读,而不是直接拿去做生产训练。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目