optuna

收录理由

手工调参几乎是每个模型训练都绕不开的苦差事，Optuna 能自动完成这件事，而且不需要你重构现有代码。它采用 define-by-run 的 API，你可以在训练脚本里用普通的 Python 条件语句和循环来搭建搜索空间，目标函数保持清晰易读，模型演进时改动起来也很顺手。它还会提前剪掉那些没有希望的试验，并且只需少量代码改动就能把一次研究分散到多个 worker 上并行跑，当单次训练成本很高时，这种能力尤其划算。内置的绘图工具和可选的网页仪表盘，让你能轻松回顾优化历史，看清哪些参数真正起了作用。对于想要一个稳定、不绑定特定框架的调参器，并且需要配合 PyTorch、TensorFlow、scikit-learn 等库使用的团队来说，这是个很实在的选择。