お知らせ
ZENKIGENテックブログを更新しました：『全ての学習率スケジューリングを過去にするRAdamScheduleFreeはGNNsでも健在』
2025年02月17日
warmupを含む全ての学習率スケジューリングが不要なoptimizerであるRAdamScheduleFreeを、GNNsに適用して学習曲線を評価しました。
その結果、schedulerを用いた手法とほぼ遜色がないことが確認でき、RAdamScheduleFreeの汎用性の高さを改めて認識しました。
◆ブログはこちら
https://zenn.dev/zenkigen_tech/articles/8356bed81aec91
今後とも、ZENKIGENをよろしくお願いいたします。