なんJNVA部★367
■ このスレッドは過去ログ倉庫に格納されています
>>512
ことの発端はちょい前にスレに出てた高速Prodigyニキのやり方や
あれはKohyaSSGUI用やったから自分でparamGUI用に手動で入力して使おうとしたんやが上手くいかんかった
結論から言えばメインの原因はWeight decayを使用しとったのにDecoupleがTrueになっとらん事やった
Weight decayが0ならほっといてもええやつなんやが、値を入れるならTrueにせなまともに学習してくれん (Prodigyでのデフォルト値はTrue)
ただここでもう一つ問題があって、絵が変わるようにはなったものの学習力が低かったことや
これのせいで最初はDecoupleが原因やと断定できんかった
https://files.catbox.moe/vtte9n.jpg
左から順にWd0.01+true, Wd0.01+false, Wd0+false, loraなし, 高速Proニキのlora (Step, dim, alphaなどの基本的なパラメータは同じ) >>512
で、続けていくうちに見つかったのがepsの数値や。調べたら計算時に分母に加算される項らしく、この値が高いと学習しにくくなるようや
RedRayzニキの配布プリセットでは1e-06となっとるんやが(AdamWとかDadaptlion向けやからノータッチなんやと思う)、Prodigyでのデフォルト値は1e-08らしくこの差が影響しとった
とくに序盤ステップでのLRの上昇力に差がでるようで(TensorBoard画像参照)、『少ステップで学習』かつ『cosineのような終盤にLRを抑える』という設定やと学習ステップが足りんくなることもあるみたいや
ただ逆に言えば数千ステップとか回す場合にはこの差は小さくなるんやと思う
https://files.catbox.moe/o2muev.jpg
TensorBoardグラフ。epsが小さいほど早いステップでLRが上がる
https://files.catbox.moe/vtte9n.jpg
参考までに各epsでの生成画像 基本オリキャラ生成にしか使わんけどponyの特徴の応答性とか絵柄の広さに慣れると他使えなくなるわ
身内とTRPGやるのに便利すぎる >>512
今回の検証をまとめるとProdigy使用において
・Weight decay(0以外)を使うときにはDecouple=Trueにすること
・主に総ステップ数に応じてepsの値を調整すること
やな
ただepsの値はデータセットの内容にもよるやろうし、小さすぎると安定性が下がる(発散しやすくなる？)っぽいから小さくしすぎるのも良くないかもしれん
ちなみにKohyaSSGUIでは手動で記述せん限りDecoupleもepsもoptimizer argsに追加されんから、デフォ値のTrue, 1e-08が使われとるはずや
スレ汚しすまんやで ちょい質問
dim8alpha1が一般的とされとるけど16は試したか?
あとalpha2と4も >>459
いまはtoddlerconつこてる
https://files.catbox.moe/atrdq9.png
もうダメだ
寝るしかない
乳○に二本差しとフェラと手コキを同時にぶちこみたい 魔神3.1とpony系、甲乙つけがたいから
半分でマージすれば最強完成じゃね？と思ったら
配分に限らず妙に薄味の絵しか出ない
カレーにカツ乗せたら最強カツカレー、みたいな
簡単な世界じゃないのか？ >>524
見れないけどマジかよ・・・
会社微塵も儲かってないだろうし、給料払ってくれるGAFAMに逃げるんだろうな >>519
optimizer_optの検証は情報が少ないから参考になるわサンガツ >>523
覚えてる品質系のタグが全然違うから雑にマージしてもアカンらしいとかなんとか >>527
あーなるほど
SD系はみんなダンボールだったりするから脳死で行けたのね
品質タグが消え去るから、全く同じあっさり絵になるのか
勉強になりました マージするよりrefinerの方がいいのはwikiにも書いてある通りや
switchはお好みで AIってフリーライドにフリーライドが重なる多重構造の地獄の地獄やから
案外コアに近いところは儲かってないんやろか StabilityAIは前から全然儲かっとらん言うとったしな……
感覚マヒしとるけど、こんな高性能なAIが無償公開されとったのが異常なんよな
NAIちゃんSDの開発で投資したれや 才能のある人間が会社渡り歩くとか技術系の会社だとよくある話やろ
StabilityAIに限った話じゃなく >>525
有料記事やから見れんのかスマンゴ
Stable Cascadeのチームも抜けてるみたいで終焉感半端やないな・・・すげぇショックやわ そもそもSDって何で無料で公開しているんだろう…ｗ
有料プランとか誰も使ってないだろうし
Emadさんはよく分からない 記事読んでないが同業種の別組織に移ったなら第二のStabilityAIが生まれるだけやと思う
大きい企業やとあっ…て感じやが でかい企業は採算見込めないと即止めるからな
ベンチャーの方がやりやすいかも でけー企業はコンプラ求められるんで
生成AIとあんま相性良くない まず無料でみんな使える民主化されたエンジンがあるってのが奇跡に近い状態というか…
これから起業独占、寡占化がさらに進むと思うと嫌やのう、城之内… >>529
なるほど、pony系で体位などを決めて、魔神でキャラに変えるとかも良いわけか
メモリ64GBにしといて良かった SAIが潰れるとSD3でエロAIイラストは事実上終了ってことになるからやばいな しかし、現状以上の画像生成AIを求めるならローカルでは無理になりそう
大規模言語モデルと統合された学習モデルでもない限り革命にならんだろ
個人で使えるのは言語でGPT3.5程度、画像でXL～3.0程度が限界じゃないか？ まぁこんだけ進化したし流石に無償じゃやってられんわな NAIちゃんも次のデカいバージョンアップから完全有料化しないとも限らんのか NAIは企業が有料で版権キャラや絵師の画風使ってるのがよくまかり通っているなと不思議ではある 出版社やアニメスタジオからストップかからんのかね >>524
そもそも勘違いしとるようやがnaiもsdxlやぞ なにより出力してる人がダメなのでは？
NAIがそれを自ら宣伝してるならそれはアウトだけどその辺はどうなの？
あと依頼サイトやパトロンサイトで（手書きとはいえ）二次を請け負ってる人いるけどそれも〆られるとするならクライアントと受けた人じゃないの？ >>548
ただのツール提供やから、キャラやイラスト自体を販売してるのとは全く違うで
位置付け的には画材と変わらん ローカル環境の進化、最終的にはマシンスペックの力技で解消しそうな気はする
何年先かはわからんが、一般人で買えるミドルクラスくらいのグラボでもH100くらいの性能になってれば… >>519
検証おつやで
Prodigyでのデフォルト値は1e-08 ～ってのどこで見たかわかったりする?
わしもProdigyお勉強中なんだけど、いまだにコマンド直打ちマンでこのガイド ( https://civitai.com/articles/3105/essential-to-advanced-guide-to-training-a-lora ) みて引数↓追加してて学習しないのは回避できてたっぽいわ
"decouple=True" "weight_decay=0.01" "d_coef=0.8" "use_bias_correction=True" "safeguard_warmup=True" "betas=0.9,0.99"
あとは余談だけどとしあきによると「過学習と感じた場合は、主に下記の変数で抑制できる。
--optimizer_args "d0=1e-5" "d_coef=0.4"
・デフォ値は,d0=1e-6,d_coef=1.0。
・d_coefはLrと同じ感覚で変更。0.5~2.0が適当とのこと。」
ちなコマンドでepsなるものを設定するのはそのまま --optimizer_args "eps=1e-08" エロ画像を生成するためだけにン百万クラスのPCを個人で持つ時代がくるかもしれないのか
胸が熱くなるな soraレベルのv2vが金さえありゃ出来る環境になったら
オーディオのために電柱立てるぐらいの変態富豪がバンバン出てきそうな気がするわ ローカルは個人のマシンスペックがAIの進化に追いつけなくなって終了と思ってたから
そもそもローカルが無くなるのは想定外や
これはNAI一強になりそうやな NAIもオープンソースのSDに乗っかってる立場だからローカルが消えるならNAIも消えるんじゃないの 海外やと儲からんと技術者はすぐ転職するらしいな 日本とは大違いや
>>560
NAIが技術者拾ったんかもしれんで？ や、辞めただけやし…
名前変えてまた作るやろ…(震え声) 今のNAIちゃんヤバいね本当にヤバい
2キャラ作成の時のバイブストランスファーとインペイントのマスクのシナジーがヤバすぎる
クリスタ編集加工本格的にやったらマイオナオリキャラ安定生成できるのがヤバい iPhoneのSoCなんか最初はジムケラーが作って、その後ジムケラーはAMDでZen作ったりと、あっちこっち移籍してるが、その後のAppleシリコンもZenもまぁまぁ順調に進化してるし、StabilityAIにしても残った人らでそれなりにやっていくんじゃないかな >>561
SD3は"2000万"GPU時間の学習をしたとか主張してるから
NAIレベルの資本力じゃベースモデル作ることすら厳しい世界や ニキたちは朝になんて無駄話してるんや
ワイはこれからジョギングや ローカルエロに関してはebaraで満足や。というかこれ以上何かを望むとなるとうーんと考えるぞ。
そりゃNAIみたいにlola無しでテカッテカのアニメ絵色々出来るのは羨ましいけれども。 >>554
prodigy.pyのArgument(21行目〜)とかdef_init(56行目〜)やな
https://github.com/konstmish/prodigy/blob/main/prodigyopt/prodigy.py
そのほかのオプションについても書かれとる
あとは実際にKohyaSSGUIで学習した時に、eps未記入と1e-08で同じLR変動なのを確認したで
補足としてはデフォ値は上記内容の値やけど、作者曰く
Diffusion modelならデフォ値から変えたほうがいい結果になりそうってアナウンスしとるみたいやね(ReadmeのDiffusion models項)
https://github.com/konstmish/prodigy?tab=readme-ov-file やたらNAIに肩入れしてるヤツいるけどステマじゃないなら臭すぎるからどっか行ってほしい >>569
はあ？夜やろうってシコってたら朝になってた‥ >>573
朝一から何を貼ったんや？即死しとるがな
ワイを見習ってジョギングしてきなはれ
https://i.imgur.com/pqOmCns.jpeg >>342
兄魔神で作った方は公開したことあるんやけどどちらもまだテスト中なんよ納得したら出すで >>371
自作LoRAやでー
ぐ〇ら先生のキャラやね まだチビだった頃に世話になった登校班の姉ちゃん、元気かな
一時間目が体育の時は姉ちゃんいっつも制服やなくて体操服で登校しとったから、その日は毎週なんか会うのが楽しみでドキドキしとったわ
当時はまだそれが、えっちな感情であるって理解できてなかったんやなぁ
https://ul.h3z.jp/Z4N4OgTz.png Bingの画像てDLするとJPGなんだけど 後からプロンプト確かめたい場合どうしたらいいんだろう？
https://i.imgur.com/0osj0vO.jpg
あとpixaiはPNGだけどその中にプロンプト入ってないんみたいなんだ 困るー >>575
キャッシュに入っとるらしく見れてるけどただのおっぱい出し上半身画像だな
なんでこれが即死するんだろ ponyのアナルゼリーloraってある？
ないなら作ろうと思うんやが >>579
その頃からそこまで感性が鋭かったとは、今はさぞ立派な紳士（）になってそうやな https://ul.h3z.jp/b5GdRvjb.jpeg
ebaraのspread pussyほんまきれいに出てすごい フェミ論法になってるの草
もうフェミ批判出来んやろこんなん Yahoo!ニュースで生成AIが児童ポルノを学習とか出てるけどそりゃしてるだろうね
日本の児童ポルノ法の場合はっきりとしたアニメ絵なら関係なし？ そもそもエロ漫画を普通に売ってる国だから漫画絵なら問題ないのか > 画像生成ＡＩ（人工知能）の精度を上げるための学習に使われる膨大な画像データの中に、国立国会図書館が「違法な児童ポルノの恐れがある」として閲覧を禁じた写真集の一部が含まれていることがわかった
らしいけど、それが転がってるインターネッツを禁止にするかいっていわれても禁止にゃしねーだろ？
児ポは問題だけど結論のために理由を持ってきてる感じがどうも… お気持ち表明になると異様にスレが加速するのはいつもの事やな こういう流れになるごとに
「このスレ見てるだけで余計な情報を最小限に抑えてAIの新技術追えて助かる」って思うわ
普通にネットで画像生成関連情報しっかり調べようとしたら否定派の感想文読まされたりするし、SNS追って情報探そうとした日にゃあ論争ばっかり目立つ
ワイは可愛いキャラのエロい絵生成してシコりたいだけなんでAI論争はしたいもん同士でやっといてー、って感じやしな >>565
タグで出せない版権キャラはバイブス使ってもどうしても似ない気がして諦めちゃったけど
コツとか設定こうするとかありますか ステージloraもろたで、サンガツ！
キャラの元ネタのせいで随分古風な街並みみたいな感じやけど
https://ul.h3z.jp/r3KisyDq.png >>592
学習に使われたのはプチトマトっていうアラフィフのワイが小中の頃に本屋で普通に売ってたロリコン誌らしいで 前に出てた古いニュースやんなこれ
便乗して自分らも真似して調べて
ほとぼり冷めた頃しれっとニュースにしたんかな
読売セコいな Stability AI の CEO、Emad Mostaque 氏は、Stable Diffusion の開発において中心人物であった Robin Rombach 氏とその研究チームの辞任を発表しました。 Stability AI の研究部門に大きな変化が。 #安定性AI #辞任 #研究
えぇ… 大谷の通訳がギャンブルで7億横領したらしいなw
それに比べて、AI画像ガチャの健全さったらない
今日も12時間ぶっ続けでガチャ回してしまったけど
電気代で300円くらいだ
安い安い そもそもSDとかいう物が無料で誰でも使えてしまった方がおかしいからな
これからのローカル生成はどうなるやら ■ このスレッドは過去ログ倉庫に格納されています
