なんJNVA部★253　ハゲ・チビ・鉄オタ専用スレ

2023/08/08(火) 08:38:47.13

!extend::vvvvv:1000:512
!extend::vvvvv:1000:512
スレ立てのときは↑の!extend::vvvvv:1000:512を3行ぐらいに増やしてな

よくある質問・呪文集: https://seesaawiki.jp/nai_ch/d/
danbooru謹製タグ辞典: https://danbooru.donmai.us/posts?tags=tag_groups
※前スレ
なんJNVA部★114514
https://fate.5ch.net/test/read.cgi/liveuranus/1691429986/

VIPQ2_EXTDAT: default:vvvvv:1000:512:: EXT was configured

2023/08/12(土) 16:47:59.81

>>532
タスクマネージャーでパフォーマンスクリックしてGPU0をクリックや
共有GPUメモリが動いてたらアウトや

2023/08/12(土) 16:50:58.31

>>537
768 30batchってCUDA out of memoryにならんのか？

2023/08/12(土) 16:56:03.28

>>533,538
なんか共有GPUメモリも使ってるっぽいんやけど、これはアカン状態ってことかいな？
https://i.imgur.com/vNSlhIu.png
速度上げられるような対処方法があるなら教えてもらえると助かる

2023/08/12(土) 16:57:54.90

>>540
凄く>538です

2023/08/12(土) 16:59:03.67

https://github.com/kohya-ss/sd-scripts/blob/main/docs/train_README-ja.md#%E3%83%90%E3%83%83%E3%83%81%E3%82%B5%E3%82%A4%E3%82%BA
によれば、学習率やステップ数などで多少の調整は必要なものの、基本的には>>520の方向でよいと思う。

>>540
漏れてるね。パッチを2か3に減らすか、gradient checkpointingを使う。

2023/08/12(土) 16:59:20.38

>>531
試してみたらpromptのみで普通にラーメン食うようになっとる！　ちょっと感動してもうたやないか！
https://i.imgur.com/0FPEwXs.png

2023/08/12(土) 17:00:20.06

>>540
1Gあふれてると思う

2023/08/12(土) 17:01:07.26

>>534
0.02はコピー機の領域やな

>>540
gradient_checkpointを使う batchを下げるドライバのバージョンを下げるなど

2023/08/12(土) 17:01:09.40

>>542
gradient checkpointingは入れてるんやけど、それでもバッチ4はキツいってことか
減らしてやってみるわ

2023/08/12(土) 17:02:46.16

1024で3batchや！

全エポック吟味はしんどいから局所最適になりそうな一つ目の谷は避けてるだけちゃう。知らんけど
ワイは2つ目の谷以降できたエポックで吟味しとる。経験上一つ目の谷やその周辺はまだ学習しきれてない場合が多いわ

2023/08/12(土) 17:04:27.84

>>531
プリコネのミミ？

2023/08/12(土) 17:06:27.90

>>543
SUGOI

2023/08/12(土) 17:08:11.38

>>546
あとはdim下げる解像度下げる Lycoris使うとかやな
LoKrとIA3は同dimだとVRAM消費がちょい少ない気がする(気がするだけかもしれん)

2023/08/12(土) 17:16:31.37

>>550
dimは32で、解像度は512x512で、実際に作っとるのはLoConやな

バッチ3にしても共有GPU0.4程度、バッチ2でも0.1～0.2くらい使ってるっぽいんやが、これは問題ないレベルって感じやろか？
いまバッチ2で進めてみてるけど、進行度を見る限りはステップごとの所要時間はバッチ1のときと大きく変わらん感じではあるんやけど

2023/08/12(土) 17:17:38.81

>>401
何となく誰か分かった（けど多過ぎて分かってない）
>>404
ええよね
色付けてもっとムチムチ感出したかった

2023/08/12(土) 17:25:25.45

>>76
4枚目すこすこのすこ
なんのモデル？

2023/08/12(土) 17:36:36.43

帰省してきます　また一週間後
https://i.imgur.com/O3OA6eN.png
https://i.imgur.com/Fy579xl.png
https://i.imgur.com/1bgKJHU.png

2023/08/12(土) 17:37:02.42

>>548
そう
前作ったLoRAのデータセットを1024に拡大して作ってみたけど案外どうにかなるもんやな

2023/08/12(土) 17:46:21.11

ワイは明日まで帰省中やけど
学習と生成とLora公開したくて手が震えてきたわ

2023/08/12(土) 17:53:22.55

>>551
共有GPUの使用量が学習開始前より増えていなければOKだと思う。
それにしても、解像度512のバッチ4で溢れるというのはちょっと謎。cache_latents（latentのキャッシュ）を使っていないとか？

2023/08/12(土) 17:53:40.97

設営完了しました～🤗
https://i.imgur.com/b0SozHh.png
https://i.imgur.com/lyfFAvd.png
https://i.imgur.com/j5O8bpj.png

TLに似たような画像流れまくってるとLoraにしたくなるよね🤗
キャラLoraと組み合わせて同人誌の表紙にしたかったけどかなりガチャ必要だったわ…

2023/08/12(土) 17:54:51.53

8月12日は配布の日らしいぞ早く配布するんだ

2023/08/12(土) 17:56:53.92

ちょい待ってな🤗
catboxでええよな？

2023/08/12(土) 17:56:54.25

>>551
batch1で2it/sがbatch2で1it/sってことか？なら問題ないんちゃうかな

ワイのVRAM8GBのラデでもC3Lier 512 dim32 batch4くらいならOut of Memoryにならんからそんくらいまでなら上げられると思うで

2023/08/12(土) 18:01:25.79

>>539
ワイの設定と4090だとならんな
512で70まで行けたが意味あるかはわからん。6000stepが3分で終わったわ

2023/08/12(土) 18:01:31.04

>>518>>521光速レスサンガツや

2023/08/12(土) 18:02:51.05

>>386
今気がついたんやけど
uncensored,nsfwのeraseでLECO作ったら見事に風景画になったわ

そして無料枠はもう使い果たした…

2023/08/12(土) 18:04:28.17

>>553
nekodamix_v20やった
catboxに上げ直したで
https://files.catbox.moe/ca9ein.JPG
こないだ上げられなかったのはcatbox側の問題だったんやな

2023/08/12(土) 18:04:33.96

>>557
>>cache_latents（latentのキャッシュ）を使っていないとか？
また知らない言葉が出てきた…
--cache_latents ってのは入れてなかったわ
ググってみてもどういうものかようわからんかったが、これを入れるとVRAM使用量が抑制できたりするもんなのかな？

2023/08/12(土) 18:07:45.84

>>561
さっきバッチ4でやってみたときは、てきめんにめちゃくちゃ遅くなったんやわ
バッチ3ならちょっと時間増えるかも？というくらい、2なら1とあまり変わらん感じっぽい
なんかしらワイの環境かパラメータの設定に問題があるんやろなとは思うとるけど

2023/08/12(土) 18:14:21.72

イメージとしてはこうのはず。
学習画像が６４枚あるとする。
バッチサイズ1だと、６４枚を１枚１枚学習する。
そのため、６４枚がバラバラのキャラクターだとすると、６４種のキャラを学習することになる。
バッチサイズ4だと、４枚の画像を一気に学習する。そのため、４種のキャラの特徴を同時に学習するので、
その４枚から学習できる平均的なキャラを学習イメージ。
学習内容が平均的に学習されたとしても問題ないものならバッチサイズを上げてもいいと思う。
でも基本的にはバッチサイズは１がいいと思う。

2023/08/12(土) 18:15:17.90

>>496
%HOME%.cache�huggingface�hub
より下はようわからんかったら全部消してもまあなんとかなるで
必要になったときはまたダウンロードしなおしてくれるから一回だけ起動にくっそ時間かかるようになるけどそれくらいしかデメリットはない

2023/08/12(土) 18:18:24.32

>>562
はえー…すっごい…
そういうの聞くと4090欲しくなってくるわ
>>566
ワイの環境だとバッチ1じゃないとどうしようもなかったのが
それとgradient checkpointing入れたらバッチ6までいけるようになったくらいは影響ある

2023/08/12(土) 18:19:11.22

>>567
cache_latentsはvram消費も減るし速度も上がるから付けるんやで
てか設定全部晒したほうがええで xformersとかmixed_precisionとかもあるでな
　
batchを上げるのはちゃんと混ざるようにってのがメインだと思うで
ポーズによって絵柄が全然ちゃうでは使い物にならんからね絵柄安定している同一絵柄ソースとかならbatch下げて解像度上げるのもやるで

2023/08/12(土) 18:22:55.95

>>567
VRAMの使用状況は平行してる作業や環境によるから百歩譲ってバッチ４はVRAM溢れて遅くなってるのかもしれんが
バッチサイズは学習時間にがっつり影響あるから1~3までちょっとしか変わらんというのはなんかおかしいぞ

2023/08/12(土) 18:28:14.61

>>570,571
次からcache_latentsも入れるようにする
xformersとmixed_precisionは入れとったわ

ワイの設定はこんな感じやわ（直接入力、cache_latentsも追加したもの）
accelerate launch --num_cpu_threads_per_process 1 train_network.py --pretrained_model_name_or_path=モデル --train_data_dir=素材フォルダ --output_dir=出力フォルダ --output_name=output --resolution=512,512 --save_model_as=safetensors --clip_skip=2 --seed=42 --color_aug --max_token_length=225 --min_bucket_reso=320 --max_bucket_reso=1024 --lr_scheduler=cosine_with_restarts --lr_warmup_steps=500 --keep_tokens=1 --shuffle_caption --enable_bucket --mixed_precision=fp16 --xformers --gradient_checkpointing --cache_latents --lr_scheduler_num_cycles=4 --caption_extension=.txt --persistent_data_loader_workers --bucket_no_upscale --caption_dropout_rate=0.05 --optimizer_type=AdamW8bit --train_batch_size=2 --learning_rate=1e-4 --text_encoder_lr 5e-5 --network_module=networks.lora --network_dim=32 --network_alpha=16 --network_args 'conv_dim=32' 'conv_alpha=16' --max_train_epochs=20 --save_every_n_epochs=1

2023/08/12(土) 18:30:21.52

cache latentsで使えなくなるcolor augmentationとかって使っとる奴おるんやろか
そこら辺使わなければリスクゼロでVRAM減って学習速くなるオプションやでcache latentsは

2023/08/12(土) 18:35:30.64

>>568
64枚のバラバラのキャラクターを別々に学習したいとかはないなあ
64枚のバラバラのキャラクターの学者画像使うのは同一要素（例えば同じ制服）を学習したい時にしかそんなことしないから基本的にbatch sizeは多い方がいいわ

2023/08/12(土) 18:37:16.29

>>572
VRAMに余裕があれば、バッチサイズを1から2または3に変えたら、学習時間は短くなるって感じなん？

2023/08/12(土) 18:37:31.54

>>573
とりあえずパラメータの数字とかは置いておいて
>>574も書いてくれとるけどcolor_augはたしかcache_latentsと同時には使えなかったはず(flip_augは使える)
あとゲフォはmixed_precisionはbf16のイメージやけどゲフォはエアプだからわからん

2023/08/12(土) 18:39:48.05

ワイもバッチサイズは1～6でほとんど速度差なかったな
推論やけどgradient checkpointingがかなり効いてる気がする

2023/08/12(土) 18:41:51.12

違うモデルで学習したLECOって顔変わる？
貰い物のLECOと同じものを自分の普段使いモデルで作って比べたら、貰い物の顔がなんか別モデルに引っ張られてるような
気のせいかなあ

2023/08/12(土) 18:43:28.01

>>573
bucket_no_upscaleいれるならmin_bucket_resoとmax_bucket_reso不要やで

2023/08/12(土) 18:50:41.93

今になってwebuiにSDXL入れて試してみたんやが
RTX3060で1024*1024が30秒くらいだった
もっと重いと思ってたけどそんなもんなのか。それとも何か間違ってるんやろうか

2023/08/12(土) 18:50:43.65

需要あるか知らんけど設営完了Lora置いとくね🤗
トリガーワードはsetsuei, book, desk, poster \(object\),辺りで
重みは1で問題ないと思う
https://files.catbox.moe/adkbqx.safetensors

2023/08/12(土) 18:51:43.32

>>577,580
color_aug、min_bucket_reso、max_bucket_reso は次から外すわ
サンガツやで

2023/08/12(土) 18:52:04.25

>>564
その絵のプロンプトの8KとかHDRとかのクオリティタグとyouとかのプロントを調整すると風景だけになる
クオリティタグが結構くせ者

2023/08/12(土) 18:58:07.37

>>581
重くはないけどVRAM食う感じやね
1024x1024のhires1.5倍試してクレメンス

2023/08/12(土) 19:03:59.13

>>582
座ってくれなかったけどしゅごい
https://i.imgur.com/tryBZNw.jpg

2023/08/12(土) 19:05:36.29

>>584
なるほど…
youの耳元で星がささやいてるし海風がyouの頬を撫でてるせいか
こういう詩的なプロンプトもおもろいな

2023/08/12(土) 19:06:01.77

>>558
これ好きやでwww

2023/08/12(土) 19:11:01.49

ダイナミックプロからダイナミックプロンプトの流れ

2023/08/12(土) 19:11:45.70

>>582
オモロ
https://i.imgur.com/d5Og5V5.png

2023/08/12(土) 19:12:32.49

https://i.imgur.com/IubhBLO.jpg
どこに座ってんねんｗｗｗ
https://i.imgur.com/x2K1guT.jpg
https://i.imgur.com/QALanAX.jpg

2023/08/12(土) 19:12:56.94

>>586
うおおおおおお

2023/08/12(土) 19:13:04.08

>>441
いや、草

2023/08/12(土) 19:17:04.78

>>585
ryzen5 5700XとRTX3060の12GB
SDXLbase,step30,1024*1024,hires fix1.5,letent,Hires steps30,他デフォで
time tokenが1 min. 42.8 sec.
やった
グラボ使用率は100パー張り付いてたわ

2023/08/12(土) 19:18:30.09

LoconはNetRankとConvRankの設定があるやろ？
あれってキャラのディテール重視の場合NetRankよりConvRankの数字を上げて学習する使い方が正解なんか？

2023/08/12(土) 19:23:49.22

>>594書き忘れてた
--opt-sdp-no-mem-attention --opt-channelslast --no-half-vae --medvram入れてる
optなんちゃら消していいのかわからん　これ入れるとxformers効かなくなるんだっけ？

2023/08/12(土) 19:43:39.74

>>574
ワイはむしろcolor_augとflip_augの為にcache_latents外しとるな
気軽に素材水増しできて出来上がりの質が高まる方が重要やし

2023/08/12(土) 19:44:02.05

>>582
さんがつ🤗
https://i.imgur.com/aqZ4XoO.jpg
https://i.imgur.com/dnsh1a4.jpg

2023/08/12(土) 19:45:32.89

>>596
xformersよりsdpの方が速いからな

2023/08/12(土) 19:46:47.30

バッチサイズを安直に画像の平均で捉える人いるけどそんなわけ無い
ベースモデルなんてバッチサイズ1024とか2048だぞ？どんな平均画像だよ

2023/08/12(土) 19:47:40.55

どのモデルでも効果がでるような体位LoRA、いわゆるディープスロート的なの作ったんやが
意外にもAdafactor+LoconよりAdamW+LoRAの方が精度が高かった。
dimとかも高低試したが同じ。体位はAdamWの方がよかったりすんのかね？
ちなオリキャラを学習させた際は圧倒的にAdafactor+Loconの勝利やった
（最近のProdigyとかはまだ↑レベルで沼っているのでやってない

2023/08/12(土) 19:48:32.88

https://i.imgur.com/UrxKYL9.jpeg

2023/08/12(土) 19:51:14.99

color augやflipは、キャラや衣装Loraならオフじゃない？って思うんだが、画風とか背景に使うんですかね？

2023/08/12(土) 19:55:58.52

>>600
分散だから感覚としては合ってるよ
1024ってどこ見て言ってるの？
サンプルサイズ見なきゃいけないからxlはbatch size = 128だし、1.5モデルは64だよ

2023/08/12(土) 19:58:30.38

>>555
はえーすごい
落ち着いたらLoraを共有していただく事ってできます？

2023/08/12(土) 20:04:12.31

>>603
colorはキャラでも使う
flipは左右非対称なキャラの時だけoff

2023/08/12(土) 20:05:43.45

ん、なんか更新したら学習早くなった気がする
1ステップ1秒もかかってないけど512×512だとこんなもんだっけ

2023/08/12(土) 20:05:49.96

>>465
返答が遅れすみません、8月になってプリコネのミミとミヤコのLoraが公開されてたレスを見つけたのですが過去のリンクでダウンロード出来ず、もしいらっしゃるのであれば改めて配布してもらえないか相談しようと思っていました。
恐縮ですが、もし差し支えなければLoraを共有していただけると幸いです

2023/08/12(土) 20:06:13.34

クライアントマシンこうてるやつおったわ
やっぱ生成とは別にしたほうがええからみんな考えることは一緒なんやなって
WebUIだからツヨツヨやなこの辺

2023/08/12(土) 20:06:46.99

>>600
画像を平均してるとは誰も言ってなくて
ミニバッチ学習はそれそれの学習結果の平均ってことなんやろ？重みの反映時の

2023/08/12(土) 20:15:02.14

と思ったらパワリミかかってなかっただけだった
危ない危ない

2023/08/12(土) 20:16:33.02

>>606
へー、勝手に色変わるとまずいんではとオフ以外の考えなかったわ、一度試してみるかね

2023/08/12(土) 20:17:56.28

>>607
こんなもんつーか、3060だと512ｘ512で「一枚」4秒前後だぞ
CNとか何も使ってない素の状態のアスカベンチの時の記憶だから
Euler28ステップだっけ？１ステップ０.２秒ぐらいか、スケジュラーで変わるにしてもねぇ

2023/08/12(土) 20:25:08.38

>>465
>>605

ホイ（他のも入っとるけど
https://mega.nz/folder/9G9kyKDZ#9esvgrFen63nIqi8K6Gm0w

土日終わったら共有終わるので～
それまでによろ

2023/08/12(土) 20:29:44.96

触手LECO作っても動作が安定しない
そういう場合はローテクに頼る
10ヶ月前のSeed固定でScaleとStep変更やりまくっていたのと同じ事を今更やる
でも結局それが一番納得できる絵に辿り着けたりする

Scale5　
https://i.imgur.com/yRsSi8Y.jpg
Scale6　
https://i.imgur.com/0kUljho.jpg

今回はScale6の方が安定しているが、SeedやLoRAによっては逆もあるからひたすら試すしかない
LECOはめっちゃ高速で作れるけど、そうなると今度は試す時間が足りなくなるというジレンマ

2023/08/12(土) 20:34:19.48

4090は令和のスーパーカブや買うしかないんやで

2023/08/12(土) 20:36:09.84

>>602
ヴァリアブル・ジオやね
制服の色はオレンジだったかな？
(元ネタ？のアンナミラーズはピンクだけど)

2023/08/12(土) 20:43:07.99

VIPERじゃまいか？

2023/08/12(土) 20:50:03.84

なつかしい

2023/08/12(土) 20:50:04.97

>>614
ありがとうございます！

2023/08/12(土) 21:04:00.90

VIPER V16やで～

2023/08/12(土) 21:14:43.07

催眠アプリ使いワイ「よし、スカートをたくし上げておっぱいとオマンコを見せろ」
少女「はい……」

無修正貼ると怒られそうやから何もみえんやつはっとくわ
https://files.catbox.moe/6kk1zy.png
https://files.catbox.moe/dn4eol.png
https://files.catbox.moe/mo2ihu.png

https://majinai.art/ja/i/ozlAdN8

2023/08/12(土) 21:16:44.48

>>622
見えないとすごく生えてそうですね・・・

2023/08/12(土) 21:46:33.84

サービス側が嫌がってたりimgur
紳士協定で誰もしとらんのにエロ画像置きまくったりしてなきゃhf
海外サービスならわざわざ怒るやつはおらんやろ
著作権自警団と日本語警察はスレに常におるで

2023/08/12(土) 21:52:40.34

LoRAの素材画像、余白はできるだけ削れって認識で良かったんやろか
急に不安になるやつ

2023/08/12(土) 22:12:24.48

ワイは拾ってきた画像そのまま使っとる

2023/08/12(土) 22:13:21.97

いまさらやけどくぱまんloraもいちど公開してもらえんだろうか

2023/08/12(土) 22:26:35.62

>>582
サンガツ、こういうの好き

https://i.imgur.com/A8nrAaF.jpg

2023/08/12(土) 22:30:41.96

>>528
何の作品、キャラかわからんけどこういう画風大好きや
自作？

2023/08/12(土) 22:35:25.31

サンチ
https://i.imgur.com/ZZRrArg.png
https://i.imgur.com/mHdvTMe.png

2023/08/12(土) 22:35:53.52

アニス・ファームやろ
ボーグマンや

2023/08/12(土) 22:46:54.79

>>629
AnythingV4.5やで

2023/08/12(土) 22:49:47.36

>>582
ええやん
https://i.imgur.com/t9AJ5O7.png

モデルによって売り子出たり出なかったりするわ
https://i.imgur.com/GqnQ5u0.jpg

2023/08/12(土) 22:52:23.89

LoRAの学習元を比較してみたで、あまり変わらんかった
https://i.imgur.com/oifsCPK.jpg

別のLoRAやともっと差があったから学習素材の絵柄との相性もあると思うで

2023/08/12(土) 22:55:05.74

https://i.imgur.com/uCPgpbw.png
野球の描写力上がってる気がする

2023/08/12(土) 22:58:14.28

webui使ってたら以下の文章が表示されるようになったんやけどどうしたらええんやろ

Bad Scale: 125%
Change your browser or your computer settings!

Otherwise, it will cause this page to not function properly!

2023/08/12(土) 23:01:31.49

>>635
ええやん
魚眼レンズっぽくて迫力ある

なんJNVA部★253 ハゲ・チビ・鉄オタ専用スレ

なんJNVA部★253　ハゲ・チビ・鉄オタ専用スレ