>>718
loraを小刻みに保存するようにして目が上手く再現できてないloraは0.1~0.3とかでマイナス適用させる
その分目が綺麗に再現できてるloraを強めに当てる
ある程度綺麗に出る配分になったらマージして目に影響を与える部分以外を階層マージで戻す
そうしたらそれをベースに同一学習させて同じように目が上手く再現できてないloraをマイナス、目を上手くいってるloraを強めに当てる
繰り返して目の再現だけの層で過学習が起きたら正常なモデルで混ぜても目が劣化し難いのを0.3~0.7の割合で混ぜて過学習を戻す
これを納得できるまで繰り返す
それをやりまくったのが前スレで公開したモデルやな・・・
https://i.imgur.com/Ivk1hmY.png
https://i.imgur.com/jdpnTJd.png
https://i.imgur.com/cI4Uu49.png
DBやloraよりも目の再現に強いHNを若干活用してるのはズルやけどな!