とりあえず,学習をFP32~FP4ぐらいまでさせてみてどのぐらいの際が出るのかを調査する。評価についても制度変更の影響を調査して,最適な精度と学習効率・評価効率を探索する。手間がかかる話なので,特定のジャンル(画像生成など)に絞ってチャレンジしてもよい。
とりあえず,学習をFP32~FP4ぐらいまでさせてみてどのぐらいの際が出るのかを調査する。評価についても制度変更の影響を調査して,最適な精度と学習効率・評価効率を探索する。手間がかかる話なので,特定のジャンル(画像生成など)に絞ってチャレンジしてもよい。