なんJLLM部 ★2

2023/06/01(木) 18:50:14.03

!extend::vvvvv:1000:512
!extend::vvvvv:1000:512
AIに色々なことをしゃべってもらうんやで
3060 12GBでもなんぼか楽しめるで
どう転んでもローカルで動かせる今の世代はオバカなので
そこは期待しすぎんといてな

自薦・他薦のモデルやツールは>>2以降

前スレなんJLLM部
https://fate.5ch.net/test/read.cgi/liveuranus/1678930450/

VIPQ2_EXTDAT: default:vvvvv:1000:512:: EXT was configured

2023/06/01(木) 18:52:08.83

りんな系
日本語で学習されてて3060でも設定次第で動く、オバカではあるけど現時点でも
そこそこ楽しめるクオリティはある
https://huggingface.co/rinna/japanese-gpt-neox-3.6b
https://huggingface.co/rinna/japanese-gpt-neox-3.6b-instruction-sft
https://huggingface.co/rinna/japanese-gpt-neox-3.6b-instruction-sft-v2
https://huggingface.co/rinna/japanese-gpt-neox-3.6b-instruction-ppo

こっちは前の世代のりんな　前スレの最初のほうでLoRA学習成功したニキがいたっぽい
https://huggingface.co/rinna/japanese-gpt2-medium
https://huggingface.co/rinna/japanese-gpt2-small

2023/06/01(木) 18:53:58.67

OpenCALM系

サイバーエージェントがやってるってことでいじった報告や
動かした報告がネットに多い気がする
https://huggingface.co/cyberagent/open-calm-7b
https://huggingface.co/cyberagent/open-calm-3b

8bit版？
https://huggingface.co/kyo-takano/open-calm-7b-8bit

2023/06/01(木) 18:55:00.59

WebUI

りんな動かすだけとかなら要らないかもしらんけど、
英語圏含めた色々なモデルを試しまくるなら
鉄板のもよう
https://github.com/oobabooga/text-generation-webui

2023/06/01(木) 18:56:53.84

言語モデルをファインチューンしてLoRA作るときの
定番のコード？　が入っている
こういうのを誰でも安定して成功させてりんなとかに混ぜられる
状態になるのが当面の多くのスレ民の願い

Alpaca-LoRA
https://github.com/tloen/alpaca-lora

2023/06/01(木) 18:57:22.79

https://i.imgur.com/DAsUTKV.png
りんなと会話してみた例（sft版）

2023/06/01(木) 18:58:38.45

https://imgur.com/eBzycUe.jpg
りんなと会話したみた例（ppo版）

2023/06/01(木) 18:59:45.43

VRAM 12GB環境ないニキでもGoogle Colabやpaperspaceで
環境を借りればりんなのテストくらいはいけるはずやで

2023/06/01(木) 19:01:16.00

Web上にある既存のサービスを利用したいニキは主にここのようやで

【ChatGPT】AIチャット総合 Part6【Bing・Bard】
https://mevius.5ch.net/test/read.cgi/esite/1684899205/

2023/06/01(木) 19:02:36.54

>>7
rinna_dialog (旧:dialog_v3)
https://github.com/AlgosErgo/rinna_dialog

2023/06/01(木) 19:02:50.79

AssistantSeikaってアプリと連携することで
出力結果をボイスロイドとかVOICEVOXとか色々なのに
読ませることもできるで

2023/06/01(木) 19:02:57.87

>>4
google_bypass (webui読み上げ拡張)
https://github.com/AlgosErgo/google_bypass

読み上げ時の動画
https://imgur.com/Y2q0YJJ.mp4

2023/06/01(木) 19:03:18.01

>>10のところにAssistantSeikaとの連携は含まれているで

2023/06/01(木) 19:04:55.26

今のところはgit入れて>>10のをインストールするのが多分一番手軽な
ローカルでの始め方やで

モデルも勝手にダウンロードされるから面倒はないで

2023/06/01(木) 19:05:23.83

>>10
読み上げ時の動画
https://imgur.com/rrFJsNY.mp4

2023/06/01(木) 19:06:52.29

AssistantSeika入手先

【再配布厳禁！！】
https://wiki.hgotoh.jp/documents/tools/assistantseika/assistantseika-001a

2023/06/01(木) 19:07:49.09

ほっしゅ！！

2023/06/01(木) 19:08:08.28

ただしモデルの初回のダウンロードもそうやし、そもそも数GBもあるクッソでかいモデルを
読み込まなきゃいけないアプリやから起動のときは気長に待つんやで

ワイの環境だと2回目からは2～3分くらいかな

2023/06/01(木) 19:08:27.33

まだ見ぬ〝えちえちりんな〟を目指して────

2023/06/01(木) 19:10:36.15

>>20到達と

2023/06/01(木) 19:10:38.16

>>5
794 今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 9f63-Nu6K) sage 2023/05/23(火) 01:13:01.89 ID:2FscFC/x0
>>779
>>783
サンガツ、学習環境を上げてみたで
https://mega.nz/folder/hrs1QJLS#9rpOXXytn2tjUqzapT7_PQ

>>780
できるらしいけどRLHFは情報無さすぎてワイもわからん😭

2023/06/01(木) 19:10:44.11

さんいち

2023/06/01(木) 19:13:13.71

いちおつ
テンプレ作成サンガツ！

2023/06/01(木) 20:30:52.74

睡眠不足は脳に重大な影響「あとで取り戻せる」は嘘｜NIKKEI STYLE
https://style.nikkei.com/article/DGXMZO10215050S6A201C1000000/

寝不足はこれだけ頭の働きを悪くする | SLEEP　最高の脳と身体をつくる睡眠の技術 | ダイヤモンド・オンライン
https://diamond.jp/articles/amp/121720

2023/06/01(木) 20:45:58.52

サンイチ乙！

2023/06/01(木) 21:13:45.47

dialogのV3.5が上がりました
バグなどを見つけたらじゃんじゃん報告していただけると泣いて喜びます

[修正履歴]
・新rinna3.6bの"ppo"と"sft-v2"に対応
・設定項目に、長文リミット:sentence_limitを実装
・AI返答にユーザー出力が含まれている場合にスキップする:skip_responceを実装
・可視性向上のために対話ループに空行を追加
・設定項目の整理

[謝辞]
前スレ>>972ニキ

2023/06/01(木) 21:18:29.21

>>26
勝手に手元でいじってたから正式対応助かる

2023/06/01(木) 22:02:34.30

Voyagerみたいなゲームプレイbotを、クラウドLLM経由じゃなくてローカルLLMだけで動かせるようになりたいンゴ、レスポンス向上のために

現段階ではStableVicuna13Bがローカルでのコード生成では1番優秀なのかね？

2023/06/01(木) 22:12:15.07

>>26
ありがとうございます　以下の修正でiMac (27in, 2020)でも動きました

-processor = "cuda"
+processor = "cpu"

### 事前学習済みモデルの読み込み
if f16_mode == True:
model = AutoModelForCausalLM.from_pretrained(
- model_name, torch_dtype=torch.float16
+ model_name, torch_dtype=torch.float32

2023/06/01(木) 22:15:47.80

CPUだと死ぬほど遅くない？

2023/06/01(木) 22:27:06.95

一応答に1分以上かかるよｗ　会話の実用にはならんね

2023/06/01(木) 23:06:23.16

>>29
ご使用&情報感謝です！
float32オプションもあったほうが良さそうね
todoにいれるでー

2023/06/01(木) 23:10:12.51

>>26
そして早速バグみっけですよ……
responseがresponceになっとるけん
boolが入った変数名だけだから奇跡的に動作には問題なさそうだけど気になるので寝る前にサイレント修正😭

2023/06/01(木) 23:34:06.34

>>27
使ってくれてサンガツ！
まだまだアイディア募集中なので欲しい機能とかあったら何でも書いてくれると嬉しいで

2023/06/02(金) 02:06:12.08

りんちゃんLoraまだやってない🥺

2023/06/02(金) 08:36:32.02

たておつ！

最初の方のまとめめっちゃわかりやすい。

2023/06/02(金) 11:38:32.50

https://twitter.com/churin991116/status/1663738568781742081
LoRAで知識を増やすのアカンのか？

ChatGPT先生にVideo Insightのプラグイン入れて聞いたら
たしかにリンク先の動画で似たようなこと言っているっぽいけど

でも知識学習成功しているっぽい事例見かけるよなあ
https://twitter.com/5chan_nel (5ch newer account)

2023/06/02(金) 13:23:42.93

https://huggingface.co/datasets/shi3z/rachel
このテキスト見て思ったんだけど、instructionに大前提の文脈を入れて、inputに具体的質問を
入れるべきなのか・・・？

そこの基本の部分あまり確認してなかった

2023/06/02(金) 13:52:49.01

https://qiita.com/m__k/items/173ade78990b7d6a4be4
んーでもやっぱ普通はこんな感じよなあ

'input': '暗号通貨、暗号通貨、または暗号は、政府や銀行などの中央当局に支持や維持を依存しないコンピュータネットワークを通じて
交換媒体として機能するように設計されたデジタル通貨です[2]。取引の当事者が持っていると主張するお金を持っていることを検証する
分散型システムであり、2つのエンティティ間で資金移動する際に銀行などの従来の仲介者を不要にします[3]。',

'instruction': 'Cryptocurrency（暗号通貨）とは？',

'output': '暗号通貨とは、ブロックチェーンなどのネットワーク上に構築されたデジタル通貨で、人々が商品と交換・取引することができる
ものです。世界には1000種類以上の暗号通貨が存在し、それぞれ異なる設計になっています。現在、人気のある暗号通貨は、
ビットコイン、イーサリアム、ドージコインです。

2023/06/02(金) 15:39:20.71

>>37
エッチな学習無理なの？🥺

2023/06/02(金) 17:47:40.51

>>40
まだなんとも言えん感じやと思うで🥺
今できることはとりあえず将来に向けて、えちえちデータセットをinstruction形式で作りためる事くらいやろか

2023/06/02(金) 17:48:58.97

いやまあトライして挫折した民じゃなければ
ぜひどんどんやってほしいんやけどな

理論上はできるはずなんや
ワイは数日もがいてあきらめた

2023/06/02(金) 17:51:30.53

>>42
ワイも正直もう現実逃避してuiだけ触りたくなったけど
それでももう少しワンチャン漁ってみるで
alpaca_loraで吐き出された4.3GBの中にきっとなにかヒントがあると思うんや

2023/06/02(金) 21:08:06.79

ファインちゅんとプロンプティングについて解説してるの見つけたし貼っとく🥺
https://twitter.com/pwang_szn/status/1664210285652221952?t=xrggdzasRWf9iXxBwSCi_g&s=19
https://twitter.com/5chan_nel (5ch newer account)

2023/06/02(金) 22:49:14.03

Hentai is All You Need

2023/06/03(土) 09:03:41.46

>>44
わかりやすくてええなサンガツや🥺✨
QAボットだとファインチューニングよりもベクトルDBベースのセマンティック検索がええのか🙄
ここもまた調べ直さなあかんな😇

2023/06/03(土) 09:05:18.29

>>45
HentaiにAttentionさせて発情させるのか……（困惑

2023/06/03(土) 11:12:15.32

>>43
LoRAの出力って数十MBぐらいじゃね
4GBやとモデル全体と同じやん

2023/06/03(土) 11:16:22.77

Alpaca-LoRAだと元のニキの出力結果でも12.7MBくらいだった気がするな
ワイも一応完走したときのデータはそれくらいになった

なお、それを読み込ませてもrinnaが学習結果を認識しているとは思えないもよう

2023/06/03(土) 14:04:23.05

peft LoRAをやったつもりなのに7時間を2回試して2回とも4.3GBも吐き出されたから、学習結果がモデルにマージされたのかもと思って試しにモデルとして読み込ませようとしても失敗したで

とりあえず初心に帰ってpeftから調べ直しとるけど、これはちょっと日が暮れそうや……

2023/06/03(土) 14:12:32.42

>>49
ワイはまだLoRAの吐き出しで躓いとるレベルやからやっぱりニキが一番成功に近付いてそうやね
学習結果が反映されてないのは、ワイはまだなんとも言えんけど、アプローチが違うかまだ何かか欠けてる感じやろか

2023/06/03(土) 14:22:18.35

というか前スレで学習環境貼ったニキは
そもそも成功しているわけやけどな

2023/06/03(土) 14:31:47.43

学習環境とその生成物を上げてくれた前スレ794ニキにも手取り足取り教わりたいけど、ワイはまだ学習の基礎の部分で知識が足りとらんから教わる前にもう少し勉強してくるで……🥺✨

2023/06/03(土) 17:32:45.43

今日はいい天気ですね。
そうですね、晴れています。
どこに行きたいですか？
公園に行きたいです。晴れています。
公園で何をしたいですか？
公園で遊びたいです。晴れています。

こういう感じのやりとりがどうもrinna系で多いねんな
この「晴れています。」みたいな明らかにくり返しの部分を
削除することができるようになるとまたええかも
「。！？」だけでなく「、」で区切ったりして判定すればそこそこ
精度は出るはず、形態素解析とかすればさらに精度は上がる

2023/06/03(土) 21:45:13.96

>>50
https://github.com/huggingface/peft/issues/317
>Relevant technical details
>pip install git+https://github.com/huggingface/peft has an error (at time of writing that's commit b21559e ) but pip install peft==0.2.0 does not,
>indicating likely an error sourcing from a recent change.

どうやらpeftのバージョンがアカンかったみたいや
pip install peftで落ちてきたpeft==0.4.0devからpeft==0.2.0にダウングレードしてやっと13MBのadpter_model.binを書き出せたで

2023/06/03(土) 21:50:34.95

そんなんあるんか
これは初情報かもな

2023/06/03(土) 21:55:45.61

>>54
確かにsftv2とppoやと「良い1日を」とか「お元気で」みたいな定型文が発話毎に語尾に付くのが増えた気がするンゴね

会話履歴から一定文字数以上の重複するフレーズを探索して返答から削除する感じのやつなら実装できそうや

形態素解析ライブラリはだいぶ前にmecabとjuman++触ったきりやから今すぐ実装するのは難しいけど、品詞分解させるのもなかなか面白いと思う😇✨

2023/06/03(土) 22:00:00.57

完全一致で出てくることが多いから形態素解析しなくても全然いけるかもなあ
「もちろんです。」みたいなのをホワイトリストに入れてもいいけど、なくても十分かも

2023/06/03(土) 22:06:39.04

>>56
ただまだやっと794ニキのが動いた段階で、cloneしたalpaca_loraとか下のURLのやとadpter_model.binやなくてpytorch_model.binで吐き出されてまうのが謎や
やっぱりpeftをしっかり調べてfinetune.pyの中身全部解読せなアカンかもしれぬい

https://github.com/Yukaryavka/rinna_gpt-neox_ggml-lora

2023/06/03(土) 22:15:21.06

>>58
それならワンチャンありそうや
次のV3.6のメインは重複フレーズの削除でいくで

https://i.imgur.com/dCZrS29.jpg
後はこっちのエラーもそろそろ解決したいけどgeneration configurationファイル使え言われてrinna付属のconfigファイル読み込ませてみたけど結局変わらんかった

確かtransformerライブラリのAutoModelCausalLMの中にエラーメッセージが書かれてる部分があったから、いっそのこと丸ごとコメントアウトするのもありかもしれぬい

2023/06/03(土) 23:10:28.67

>>60
このエラーメッセージ消すためにデフォルトでpadding=Falseにしてみたけど新rinnaでもpaddingはTrueにしたほうが良さそうやな
padding消すと返事がガバってるの今更気がついたで

2023/06/03(土) 23:18:02.04

>>26
[修正]
90行目　
- token_padding=False
+token_padding=True

2023/06/04(日) 00:07:42.25

rinna sft-v2
「ああ、そうだな。」にノルネ味を感じた
ジェネリックノルネの誕生は近い
https://i.imgur.com/0gbzW5W.png

2023/06/04(日) 00:53:50.71

まあなんでもええねん
学習したことに「これは」って感じてからが次の第一歩や

2023/06/04(日) 01:07:28.89

せやな
ワイももう少し頑張ってみるけど、学習はまだ先が長そうや

2023/06/04(日) 01:09:01.59

とりあえずテストも兼ねてsftv2をイジってみた
temperatureデフォのままでえちえち単語言わせようとすると空白返事になったりするけど、1にすると普通に話してくれるみたいや
読み上げさせるとなかなかええしローカルチャHもワンチャンありそうやで

2023/06/04(日) 06:45:53.07

なんJからきたやで～
ワイも仮想の女の子とエチエチチャットしたくて興味津々や！
AI絵に飽きて使い道がなくなったRTX3060ちゃんでいっぱい遊ぶンゴ

2023/06/04(日) 10:38:27.28

3060じゃあエチエチチャットは無理なんやないか？

2023/06/04(日) 10:55:54.30

いけるで全然
まありんなとか自体の限界は当然あるが

2023/06/04(日) 11:09:59.27

思うような返答が返ってこない場合regenを入れたら
AIの最後の返答を消してもう一回生成させる、ってしてみたら
結構ええわ

2023/06/04(日) 13:14:37.42

えちえち語尾の学習とか早くできるようにしたいな……

2023/06/04(日) 13:17:20.25

dialog 修正
https://github.com/AlgosErgo/rinna_dialog

[修正履歴]
・token_paddingの値をTrueに修正。
(デフォルト設定のFalseだと文章が正常に生成されなくなる。)

2023/06/04(日) 13:55:40.08

>>70
再生成は確かに便利でええな
サンガツや！

2023/06/04(日) 13:56:32.89

完全一致での重複フレーズ削除を試しに実装してみけど、文字数は10字以上くらいにしないと話題によっては結構誤爆するからちょっと扱いにくい感じになってまうな

2023/06/04(日) 14:00:41.60

それくらいでええと思うで
あいづちとかは重複するやろし

2023/06/04(日) 14:33:47.44

>>75
せやな
相槌とかユーザー名AI名は避けて良い具合を探してみたけど、一番頻出な短文の重複フレーズはもれなくスルーするザルフィルターになってまうから、あまり実用的ではなさそうや……😭

ひとまずはrepetition_penalty上げつつ凌ぐ感じがええかもしれぬい

2023/06/04(日) 14:36:54.91

それか、ユーザーがCLIから除外ワードを設定していく方式もええかも🥺✨

2023/06/04(日) 14:41:58.08

つーかsftv2、ppoよりバランスええかもなあ

2023/06/04(日) 14:47:19.60

途中で無理矢理AIの最終回答をこっちが上書きするforceコマンドも作ってみたわ

2023/06/04(日) 15:19:25.53

ppoは会話よりも説明が得意な感じやね

2023/06/04(日) 15:21:15.73

おっ、forceもええな
コマンドオプション増えてきたしスパゲッティ化する前にここらで纏めてリファクタリングしたほうが良さそうやね

2023/06/04(日) 15:25:28.50

近頃画像生成やら音声生成やらテキスト生成やらが続々と登場しているおかげで
paperspaceのコスパが鰻登りやわ

2023/06/04(日) 16:00:49.98

alpaca_loraとかfine tuningはまだローカルでやるのは難しいから、paperspaceとかのクラウド民に色々試してみて欲しいゾ

2023/06/04(日) 17:48:05.39

regenとforceは一度使ってみるとこれナシでなんでやってたんやろってくらい使えるわ
AIがバカならガチャしたり修正したりすればええんや

まああんま無理な流れのときはforceだらけになってただのエロ小説書いてるみたいになるが

2023/06/04(日) 21:44:08.88

QLoRAだけど、「単一の48GB GPUで16Bパラメータモデルを微調整するのに十分なメモリ使用量を削減する効率的な微調整アプローチであるQLoRA～」って書かれてるから、RTX A6000 48 GBとかをrunpodとかlamda labとかpaperspaceとか?のクラウドで借りて、いい感じのモデルを学習元にして、いい感じの日本語データセット(alpaca_jaとか?)を使って個人がトレーニングすることはもうできるのかもしれんな

2023/06/04(日) 21:45:38.28

まあ元が日本語のモデルの方が何かとはかどりそうではある

2023/06/04(日) 22:00:23.53

https://i.imgur.com/SggIkdo.png
一生起動できなかったoobabooga / text-generation-webuiがようやく動作した
ワンクリック使えMiniconda使えとか書いてあるけど普通にvenvでもよくて、python -m venv venvしてぽちぽちpipでインストールしていったら動いたわ。むしろCondaうざいからVenv推奨。
GPTQモデル使う場合は、↓に従ってGPTQ-for-LLaMaもインストールする必要がある
https://github.com/oobabooga/text-generation-webui/blob/main/docs/GPTQ-models-(4-bit-mode).md
TheBloke_Wizard-Vicuna-13B-Uncensored-GPTQを動かしてみた。4bit量子化されているっぽくてRTX306012GBでも動く。モデルの使い方に関してはhuggingfaceのリポジトリに書いてあるのでそこを参照した
日本語はへぼい。英語で聞いたら爆弾の作り方教えてくれたけどYamagamiじゃないから情報が正しいのか分からんわ

2023/06/04(日) 22:40:31.98

更新 : dialog_v3.6
https://github.com/AlgosErgo/rinna_dialog

[修正履歴]
・UI周りの最適化。モデル読み込み時のメッセージを追加。
・新オプションを追加
　　- [regen] : 会話履歴から一番新しいAI返答を削除して、再生成する。
　　- [force] : AI返答文をユーザー入力で上書きする。
　　- [ng] : ユーザー入力からNGリストを作成。AI返答にNGワードが含まれている場合は削除する。
・[regen]と[force]の実装に伴い、関数:forget_conv_listに再生成モードを追加。
・skip_responseをskip_user_resに変更。
・行数が増えてきたので改行減らして圧縮。

2023/06/04(日) 22:41:48.79

regenとforceはぜひ試すとええで

2023/06/04(日) 22:46:14.01

>>87
わかりやすい纏めサンガツや！
もう使ってたらすまんけどvicuna13B uncensorは翻訳拡張を使うとええ感じやったで
ただワイの環境やとしょっちゅう読み込まんくなるせいで何度もooba消したりワンクリインスコしたりせなあかんくて、修正されるまで触れなくなってもうた……

2023/06/04(日) 22:46:52.02

>>89
素晴らしいアイディアほんまサンガツや！

2023/06/04(日) 23:03:12.98

>>90
そうね。GoogleTranslate拡張機能は使ってみたんだけどなんか生成くっそ遅くなって切ってしまった
右クリ→日本語に翻訳でリアルタイムで翻訳されるしこれでいいやって感じはある

2023/06/04(日) 23:12:38.38

日本語でLLAMAとか使うと○○モデルがChatGPTに90%～近似!!とかいうの嘘やろと思うけど、英語だとまぁそれっぽいなぁって感じの評価になるのはわかる。ChatGPT3.4って感じやな
「海賊をテーマにした少年漫画のキャラクターシートを作って」って健全なお題でそれらしいものは作ってくれた
https://i.imgur.com/iMrVnHF.png
https://i.imgur.com/z3ptetc.png

2023/06/04(日) 23:15:46.02

>>92
API叩きにいくぶんだけロスになってしまうのは確かにネックやね
後は翻訳用にファインチューニングされた言語モデルを使うなんていうアイディアもあるらしいけど同時に2つのモデルを動かすのはメモリ的にも厳しそう

2023/06/04(日) 23:17:33.02

>>93
なかなか有能やな

2023/06/04(日) 23:19:52.40

>>93
日本語モデルやとやっぱりどこかまだGPT2レベルの域を出られてない感じはあるね
健全なのはまあ正直アレやけど英語ネイティブなら英語チャHも普通にできると考えたら悔しいゾ

2023/06/04(日) 23:27:47.57

LLAMAはエロもいけるんけ？

2023/06/04(日) 23:44:59.83

LLaMAがリークされたときに4bit量子化された65Bモデル触ってみたけど、日本語でチャHはワイじゃ叶えられんかったで
英語でチャHは試してないからxvideos聞き取れるネイティブニキとかの評価も聞いてみたいンゴ
AI調教自信ニキならワンチャンあるかもしれない

2023/06/04(日) 23:49:32.54

つか翻訳すればええわけやしな

場合によっては一部のオーイエスとかだけPython噛まして
ええ感じのあえぎに変えるよう自分でデータベースみたいなの
構築してもええやろし

2023/06/04(日) 23:53:56.12

ただ翻訳するだけなのも味気ないから申し訳程度の語尾追加とかでえちえち度稼いでみるとかええかも

定型文を辞書で差し替えるのは昔ながらのコーパスを組む感じやろか
データベースはワイはあまり自信ないから誰か実験レベルでもええからちょっと試してみて欲しいゾ

2023/06/04(日) 23:59:11.11

大した規模じゃないなら別にExcelで作ってCSVか何かで読み込めば十分やろ

fuzzywuzzyとか使えば完全一致じゃなくチェックすることも可能やし
まあfuzzywizzyで数が増えてくるとなんぼ古い処理と言っても
レスポンス遅くなるかもしらんが

2023/06/05(月) 00:05:28.16

csvはめっちゃ重くなるのが怖いけどchatgptに任せて複数のファイルに分けてもええな
fuzzywuzzyは聞いたことあるけど触ったことはないンゴね

2023/06/05(月) 00:09:30.15

寝る前にちょっと部員募集してくるで
またNVA部に宣伝に行くのもええけどスレ違いやって言われそうやし何かとっておきができたらするで

2023/06/05(月) 01:31:54.97

去年この分野に関心持ってrinnaのjapanese gpt2 mediumに安倍晋三の国会での全発言学習させたなぁ
何も分かってないからそこまで上手くいかなかったけど今やればもっとしっかりしたの作れるんすかねぇ

https://i.imgur.com/kpiEYyz.jpg
https://i.imgur.com/8vS5EPW.jpg
https://i.imgur.com/vXwOeRL.jpg

2023/06/05(月) 01:39:22.19

>>104
安倍晋三は草
今のモデルやと学習素材にinstruction形式でのデータセットが必要って線が濃厚やから、ベタテキストで学習させてた頃よりもちょっとハードルが上がっちゃう感じやけど、ベースとしては今の3.6Bは確実に賢くなっとると思うで

2023/06/05(月) 15:50:55.13

model = model.to("cuda")

これって4bitとか8bitで動かしているときはエラー出ちゃうけど
別に削除してもちゃんとGPUで動いているっぽい？

2023/06/05(月) 16:00:20.05

うーんLLAMAも一応試そうとしたけどちゃんとやりとりするとこまでいけない
ローカルのwebuiだとメモリエラーが出てしまって動かん

paperspaceだとwebuiの動かし方がいまいちわからんし
これまでのチャットスクリプトを書き換える形だとなんか
model.generateするとこでエラーが出てしまう

上手く行っている人の環境（メモリやGPU）とか、
LLAMAの中でどのモデル使っているとか教えてほしいンゴ

2023/06/05(月) 17:15:51.67

あ、これでローカルで動いたかも。メモリ食ってるアプリをうっかり落とすの忘れてたみたい
TheBloke/WizardLM-7B-uncensored-GPTQ

しかしuncensoredのくせにI'm sorry, but that question is inappropriate for me to answerとか出るわ、
りんなちゃんを見習え

2023/06/05(月) 17:31:14.00

65Bの4bit量子化モデルはllama.cppとdallaiで試した記憶あるけど今はcudaにも対応しとるみたいやな
あとで新しいのをcloneしてまた環境構築してみるゾ

2023/06/05(月) 17:36:53.54

vicuna13B uncensorは普通の会話やとなかなか理解度高くて良かったけど、えちえち用途だと翻訳噛ます分やっぱり物足りなかったで🙄
りんなsftv2ならセックスとかオチンポとか普通に言ってくれるのに🥺

2023/06/05(月) 17:56:13.10

vicuna13Bの4bitって奴だとやっぱメモリエラーが出ちゃうなー
結局rinnaしかないのか

2023/06/05(月) 19:11:13.27

WizardLMのuncensored（つまりLLaMA系統）で英語でアダルト方面の話題振ってみたりしたけどそこはかとなく微妙だったで
3サイズごときでも「haha, nice joke」みたいな
ロールプレイ的なことも試したがバタ臭くてやってられんわ

2023/06/05(月) 19:15:31.30

やはりrinnaしかおらんな

2023/06/05(月) 19:48:43.66

https://note.com/masuidrive/n/n0e2a11fc5bfa
https://note.com/npaka/n/na5b8e6f749ce

OpenCALMの情報はそこそこあんねんけどなー

2023/06/05(月) 20:08:24.92

翻訳がありならOPT-30b65bはいいぞ

2023/06/05(月) 20:16:57.11

つか10日前にrinnaのnoteできとるやん！
この布留川って人はほんま情報発信してくれるな

https://note.com/npaka/n/nc387b639e50e

2023/06/05(月) 20:36:25.30

rinna未だにwebUIで起動出来ないから触ってない

2023/06/05(月) 20:37:47.60

>>10ニキのでやるのが一番ラクやで
特に何もせんでも動く

webUIで動かすためのフォーマットと
配付されているモデルがなんか微妙に
互換性ないんやろ

2023/06/05(月) 20:46:21.25

>>115
つかデータのサイズやばそうやけど4bit化とかのテクあるんかな？

2023/06/05(月) 20:53:26.78

>>119
Flexgenとか言う専用?オフロード技術があるから3090でもくっっっそ遅いけど動く

2023/06/05(月) 21:00:30.40

各種モデルのチューニング手法が集まってて良さそう
https://twitter.com/icoxfog417/status/1665687806176534528?t=hAdwOE2ZX6OYQqBCu-uRYA&s=19
https://twitter.com/5chan_nel (5ch newer account)

2023/06/05(月) 21:13:00.72

oobabooga / text-generation-webuiでGPTneox対応してるはずなんだが、Successfully loaded rinna_japanese-gpt-neox-3.6b-instruction-ppoって出るっちゃでるんだけどまるで会話にならんのはなんでなんだろうか?
https://i.imgur.com/3j6b1Mx.png

2023/06/05(月) 21:14:53.02

りんなが悲しいほどオバカに・・・

2023/06/05(月) 21:43:46.86

>>116のをpaperspaceでマネしたら完走はするんやけど（13MBくらいのファイルができる）、
例によって効いていない感
（時間短縮のためにデータセットは自前のにしてみた）

誰か他に試した人おる？
学習にかける時間増やすとマシになるとかあるんかな・・・

2023/06/05(月) 22:05:31.46

これひょっとしたらsft-v2とかじゃなくて素のrinna3.6bじゃないとダメなのかな
eval_steps = 200
save_steps = 200

あと別のとこの num_train_epochs=4
これら増やしたら当然学習時間伸びたんだけど、それだけじゃないくらい
学習時間がかなり長くなった

結果がどうなるかはまだまだわからんが

2023/06/05(月) 22:19:25.70

うーんなんか効き始めたような気もする？
もっとデータセットの方向性をハッキリさせたほうが良さそうだな

2023/06/05(月) 23:10:28.81

うーんやっぱダメかな
とりあえずrinnaの学習元にエロチャとか体験談サイトみたいのが
混じっているのは感じるけどｗ

2023/06/05(月) 23:48:56.16

とりあえずりんな自身がそこそこ賢すぎて、よっぽど変わったことを聞かないと
学習が聞いているのかわかりにくいのもある

2023/06/06(火) 08:14:12.70

変な語尾を学習させるザウルス

2023/06/06(火) 11:13:03.88

https://note.com/bbz662bbz/n/nb2f68451a2f0
どんなデータ使ったのかがほしいわね

2023/06/06(火) 11:41:49.87

結局LoRAで学習させてフリーダムにりんなに応答させるよりも
ゲームみたいにパラメータ持たせて「このパラメータでは
大体こういう応答をすべきである」みたいな方向を目指す方が
賢い気がしてきたんよ

どっかで「この日本語をJSONに変換しなさい、その後でJSONを
英語に（or再び日本語に）変換しなさい」ってやると情報がうまく
まとめられる　みたいなChatGPTのノウハウ見たことがあるけど、
そういうタスクをりんなにさせられるような方向にいけないかなあ

2023/06/06(火) 16:58:40.07

llama.cpp上から下まで読んでたら丸2日吹っ飛んだゾ……

これは頭おかしなりそうだったから、途中で切り上げて794ニキのgenerate.pyからpeft部分抽出して、dialogに乗っけてみたけどこっちも沼った

2023/06/06(火) 16:59:34.67

model.generateの引数でinput.ids.to(model.device)のままだとTypeError出るから、peftバージョン上げたり下げたりソース読みに行ったりで、結局input_idsに再代入することでやっと動いたで……

あとはおまけの音声認識も乗っけたから、またバグ撒き散らさないように入念にテストしたら公開するで

2023/06/06(火) 17:00:19.71

>>130
語尾学習ええやん！
これはえちえち度かなり上がるで🥺✨

2023/06/06(火) 17:03:10.32

>>131
確かにそのまま学習させたらずっと発情しっぱなしなりそうやな
感情分析とか組み込んでノルネみたいに「つよつよ度」のパラメータでスイッチ入るようにするのも面白そうやな

2023/06/06(火) 17:06:25.89

>>122
ワイもそこでつまってdialog書いたで
おそらくuse_fastとかpaddingとか"<NL>"タグ追加とかの設定イジらなアカンと思う

2023/06/06(火) 17:25:43.09

rinna使うならWebUIはむしろアカンってことやろね
>>10ニキの使うか自分でスクリプト書くことになるわ

2023/06/06(火) 17:40:15.54

4chanの/lmg/(ローカルモデル一般)スレのrentryを一部だけ翻訳してwikiに載せた
https://w.atwiki.jp/localmlhub
翻訳作業など興味がある人は編集に参加してくれると嬉しい　翻訳はグーグル翻訳にぶち込んで手修正するだけでok
/lmg/現行スレはhttps://find.4chan.org/?q=%2Flmg%2Fで探してください

ふたばでも宣伝したけどとしあきたちは画像生成に夢中で人は集まりそうになかった

2023/06/06(火) 17:46:24.72

>>137
せやな
webui側で設定つめればワンチャンありそうと思って、読み上げ拡張を作ってるときにざっと漁ってみたけど、rinnaに対応させるとなると.\text-generation-webui\modules\chat.pyを直接触らなあかん気がしたで

手が空いたらrinna専用拡張作りたいけど今はちょっと無理や😭

2023/06/06(火) 17:48:26.44

ふむふむ
とりあえずこの辺が重要なんかな

8GB以上のVRAM向け
GPUで実行したいのですが、ChatGPTのようなものが欲しいです。
https://huggingface.co/chavinlo/gpt4-x-alpaca/tree/main
GPUで、ロールプレイ/ERPに使用できるものが欲しいです。
https://huggingface.co/digitous/Alpacino13b/tree/main
GPUで、ロールプレイ/ERPに使用できるものが欲しいです。（代替）
https://huggingface.co/ausboss/llama-13b-supercot-4bit-128g/tree/main

https://w.atwiki.jp/localmlhub/pages/13.html　4bitの場合はなんか結構特別な処理が必要やってんな

2023/06/06(火) 17:49:26.28

>>138
はぇ～すっごい
翻訳は正直あまり自信ないけど微力ながらお手伝いさせてもらうンゴ

2023/06/06(火) 17:51:06.66

リンク先の4chに色々転がってるんはLoRAとかもあるんかな？

2023/06/06(火) 17:59:32.62

トレーニングガイドあったで
これは情報の宝庫やな😇✨
https://rentry.org/lmg-resources#training-guides-resources

2023/06/06(火) 18:01:34.38

llama.cppがMetalで動くようになったらしいけど、学習もやれるんかな？

2023/06/06(火) 18:06:56.20

つーかWebUIのモデルのダウンロード機能怪しくない？

https://huggingface.co/digitous/Alpacino13b/tree/main
これ落としたら4bitのしかダウンロードされてなかったんやけど

2023/06/06(火) 18:10:39.09

>>144
アップルシリコン環境持ってないので試してみて欲しいゾ

2023/06/06(火) 18:11:34.24

>>145
webuiのモデルダウンロードは使わんほうがええね
ワイもvicuna 13Bで何度も苦しめられたで

2023/06/06(火) 19:00:27.41

んでなんか30GBくらいもデータあって大丈夫かと思ったら
案の定メモリエラー

4bit.safetensorsってのだけありゃいいのかな？
でも4bitのを使うために必要なものとして示されている
bitsandbytes ってWindowsで動かないアレよなあ……

2023/06/06(火) 19:03:58.66

ちょっと前になんGで宣伝見かけて飛んできた音声AI民です
ほぼROMになるけど技術発展楽しみに見させてもらってるで
RVCとかVCC利用してこれを音声再生できたりしないかなと考え中

2023/06/06(火) 19:06:47.57

現時点でそういうツールあるかはわからんけど
原理的にはすぐできるようになりそうやな

2023/06/06(火) 19:14:04.67

llama.cpp、エラーも出さずなんもやらずに終わってしまう……
何がいかんのやろ

https://i.imgur.com/I5kFOd1.png

2023/06/06(火) 19:28:33.34

alpaca.cpp - Windows
これは動くな
性能はちょっと微妙かもしらんが
これって別の4bitモデル持ってきたら機能しないんかなやっぱ

2023/06/06(火) 19:37:35.62

>>148
windowsでも動くのができたらしくてワンチャン試したけど、結局cuda使えんかったで……

https://github.com/TimDettmers/bitsandbytes/issues/175

＞AIGC-newbee commented 5 days ago

pip install git+https://github.com/Keith-Hon/bitsandbytes-windows.git

2023/06/06(火) 19:39:19.35

>>149
ようきてくれた🤗
ROMでも全然ええけどついでに一緒に色々実験してくれるととっても心強いで🥺✨

2023/06/06(火) 19:41:34.20

>>151
llama.cppはモデル相性が厳しめな感じやったで
前に4bit量子化かけたllama 30Bとか65Bの素モデルならちゃんと動くけど拾ってきたやつやと動かんかったりして、解読しようとして心折れた😭

2023/06/06(火) 19:56:31.06

あ、でもこれ「会話」じゃなくて一問一答で終わりって考えればそこそこいけるかも

2023/06/06(火) 19:57:18.46

>>136 Oh……そうなのね
なんかごちゃごちゃエラー出てたから検索して色々ためしたがTransformerやらトークナイザーやら知識がなくてワイも詰んだわ
packages\transformers\convert_slow_tokenizer.py:454: UserWarning: The sentencepiece tokenizer that you are converting to a fast tokenizer uses the byte fallback option which is not implemented in the fast tokenizers. In practice this means that the fast version of the tokenizer can produce unknown tokens whereas the sentencepiece version would have converted these unknown tokens into a sequence of byte tokens matching the original piece of text.
warnings.warn()
Error with new tokenizers (URGENT!) - 🤗Tokenizers - Hugging Face Forums - https://discuss.huggingface.co/t/error-with-new-tokenizers-urgent/2847/4

2023/06/06(火) 20:08:44.14

oobabooga / webuiのモデルのダウンロード機能はrinnaを落とそうとしたときもファイルの抜けあったりしたから普通にgit pullしたほうがいいと思う
ちなみにtokenizer_config.json～とかこまごましたものも必要で、StableDiffusionのノリでsafetensorsだけModelsに配置すると動かんゾ

2023/06/06(火) 20:16:31.25

https://w.atwiki.jp/localmlhub/pages/13.html
ここにあるalpaca.cpp - Windowsはbin落としてくるだけでええし

I heard [変なシチュエーション].
Can you tell us more about what happened at that time?

で聞くとなかなかええわ　状況を詳しく書いてくれるのはりんなちゃんよりええな
なぜかPowerShellだと文字打ち込めなくて普通のコマンドプロンプトじゃないとあかんな

2023/06/06(火) 20:18:18.02

>>157
fast_tokenizerいうとるみたいやから、webuiのモジュール片っ端から漁って、以下みたいにトークナイザ読み込んでるところの引数でuse_fastをFalseにしてあげればワンチャンあるかもしれぬい

AutoTokenizer.from_pretrained( model_name, use_fast=False)

2023/06/06(火) 20:33:44.27

>>159
変なシチュの詳細が気になるゾ
面白そうやしワイもまた明日に試してみるで

2023/06/06(火) 21:02:36.14

Write a story about a [変なシチュエーション]もええな
40行近い力作を書いてくれたで

この辺はりんなには絶対でけんことや

2023/06/06(火) 22:16:24.17

long storyのほうがいいかもしらん
dialoguesはアカンな

2023/06/07(水) 01:14:08.69

3060でAlpacino13bを動かせた人の報告があったら聞きたい
llama.cppが基本なんかな？

2023/06/07(水) 01:49:55.99

ってかデフォだと文字化けするからchcp 65001したほうがええな
PowerShellなら多分最初からそうなってんねんけどなぜかそっちだと
文字が入力でけん

2023/06/07(水) 10:48:15.43

kobold.cppも試すで～と思ったらなぜか「"is this really a GGML file?"」と言われる
→前に落とした古いバージョンのkobold.cpp使っていた　とかいうガイジ行為をやってもうた

GGMLの新しいバージョンに対応した結果らしい（逆に古いGGMLには対応できない？）
ウィンドウで起動するけど、コマンドラインから実行したほうがエラーメッセージちゃんと見えてええな

2023/06/07(水) 11:17:01.84

https://w.atwiki.jp/localmlhub/pages/12.html

Wizard-Vicuna-7B-Uncensored が翻訳で名前変わっちゃっていたんで修正して
リンクも元のページと同じようにしといたで
あと音声っていらん奴のほうが多い気がする　

2023/06/07(水) 16:40:31.08

こんなんあったわ
https://github.com/noir55/japanese_llm_simple_webui

2023/06/07(水) 16:48:15.01

Streaming Modeは基本入れたほうがええな
変な方向に行っているかどうか確認してABORTできるし

あと長いStoryにする場合、GPUちゃんと積んでいるならBLASもGPUにして
Smart ContextをONにしたほうがええっぽいわ
https://i.imgur.com/uj88BPO.png

2023/06/07(水) 16:49:47.18

>>168
WEBインターフェースが好きな奴向けかな？
機能的には今のとこ>>10ニキのが上やろな

ワイはりんなちゃんにだいぶ飽きたしKoboldが
面白くなってきたからしばらくこっちでいくわ
だいぶ書き直し必要やけどそれはりんなちゃんも
同じやしな
英語の勉強にもなりそう

2023/06/07(水) 16:51:21.85

つかこれVRAM24GBとかの環境なら多分もっと強いのが動くのよな
Wizard-Vicuna-7B-Uncensoredよりも高性能っぽいのローカルで
動かした人おる？

2023/06/07(水) 16:59:25.93

https://i.imgur.com/upl5rIV.jpg
Just put together a programming performance ranking for popular LLaMAs using the HumanEval+ Benchmark! : LocalLLaMA - https://old.reddit.com/r/LocalLLaMA/comments/141fw2b/just_put_together_a_programming_performance/
OSS LLMはコード生成がよわよわらしいな
コード生成用にファインチューニングしたやつもいくつかあるらしい。かなり実験的なやつだろうけど
Salesforce Codegen 16B　https://huggingface.co/sahil2801/instruct-codegen-16B
コードアルパカ7B　https://github.com/sahil280114/codealpaca

2023/06/07(水) 17:31:40.61

コードってことになってくるとChatGPT4でもええかなあ
制限かかっているわけじゃないからね　もちろん有料ではあるけど

2023/06/07(水) 18:49:00.19

たしかにそうね
>>168
これ動かせたわ。oobabooga / text-generation-webuiのディレクトリにllm-webui.pyを置いてvenvアクティベートしたあとpyhton llm-webui.pyで動く(環境はWebuiのを使う)
https://i.imgur.com/j2vLBAq.png

2023/06/07(水) 19:03:53.50

爆弾の作り方：https://i.imgur.com/1JSpJAS.png
りんなの生態：https://i.imgur.com/hL6DtJC.png
意外とガバガバっていうか「はろー、りんなだよ☆」な感じじゃないんだね
これをベースにファインチューニングしてねってモデルなんだっけ?

2023/06/07(水) 19:25:26.48

>>175
そのはずなんやけどファインチューンして「このテーマについてこれはこうやで、
これはこうやで」ってサクサクと教えてくれるようになる道筋がどうもわからない

ワイは当面koboldに浮気してくるわ
アブノーマルなの出し放題や

つかKoboldAIそのものがpaperspaceで禁止されているらしくてﾜﾛﾀ
機会があったら一度VRAMとかでかいとこで試そうかと思ってたのに

2023/06/08(木) 16:14:44.65

https://twitter.com/sald_ra/status/1666661182093262848
テストにこういうの使えるかもねえ
https://twitter.com/5chan_nel (5ch newer account)

2023/06/09(金) 00:14:30.88

しかしKoboldAIの派生が外国のTRPGとかロールプレイ好きを
惹きつけるのなんかわかるな
ここ数日小説みたいなのを生成させるのにハマりっぱなしや

2023/06/09(金) 23:33:50.94

https://note.com/eurekachan/n/n899132477dff

>Windows環境でLLMをPEFTでファインチューニングしようとしたとき、ほぼ必ずbitsandbytesというライブラリのエラーに悩まされると思うのですが、こちらの記事ではその対処法が書いてあります。助かりました。

せやな
んでワイはうまくいかんかったわ・・・

2023/06/10(土) 14:12:28.76

Windowsで英語圏のLLM動かすのだとGGMLっての使ってCPUで動かすのが
色々トラブル少なくて良い感じだなあ

https://twitter.com/endo_5501/status/1663962365774422018
日本語でも変換成功している人いるみたいだし、rinnaのGGML版配付されないかね
そしたらGPU持っていない人でもいけてすごく面倒が減る
https://twitter.com/5chan_nel (5ch newer account)

2023/06/10(土) 18:44:36.07

https://twitter.com/kam0shika/status/1667455827509415936
そこそこやりこんでいるっぽい人でもりんなLoRAに苦労しとるんやね
OpenCALMでは成功した人らしいのに
https://twitter.com/5chan_nel (5ch newer account)

2023/06/10(土) 20:09:25.76

Kobold.cppとTavernAIの組み合わせもいけるね
KoboldAI起動するところをKobold.cppに変えるだけで問題なくいける

でもTavernAIなんか思っていたほどじゃない感じや
Kobold.cpp単品でNovelモードやるのが一番はかどるわ

2023/06/10(土) 21:16:36.40

Kobold.cppで小説っぽいのを作る
https://w.atwiki.jp/localmlhub/pages/19.html

書いたでー
色々アブノーマルな話も書いてくれるんで翻訳ソフトをお供にガンガンやろうず

2023/06/11(日) 01:02:34.61

おー！

2023/06/11(日) 01:04:30.83

結局オープンソースでgpt3.5れべるのはでたんかいな

2023/06/11(日) 01:11:03.96

英語で、ジャンルによれば　みたいな？

2023/06/11(日) 01:55:54.15

>>183
わかりやすい解説サンガツや！
忙しくてここ数日触れなかったからプチ浦島状態やからほんま助かるで

koboldから自動で読み上げさせるのはちょっと難しそうやな……

2023/06/11(日) 01:56:30.95

まあGoogleの読み上げはあるんやけどな
英語を自動音声で読んでもらってもなんも面白くないし
ボイロとかは英語に対応してないやろし・・・

2023/06/11(日) 02:00:08.04

kobold単体で自動翻訳してから読み上げするみたいな感じに改造したいけど再コンパイルせなあかんのはちょっとしんどいゾ
そういえば英語版のボイロもあったみたいやけどワイは英語聞き取れへんから無用の長物や😭

2023/06/11(日) 02:07:42.02

結局英語でウフフな内容しゃべられても「そう・・・」としかならんのよ
りんなが偉いのはやっぱ日本語だからや
でもkobold.cppに色々書かせるのはりんなよりやっぱ幅がアホほど広いわ
個人的にはChat形式よりStory形式のほうが幅が広くてさらに好きやわ

狂った学園、狂った家庭、エロファンタジー、因習モノっぽいの、レズもNLも触手もなんでも書いてくれるで
多分BLもいけるんやろな・・・
たまに「えっその展開になるんか？　でもそれもええかもしらんな」とかAIに感心させられることもあるわ

2023/06/11(日) 02:27:03.09

せやな
子供の頃の思い出補正が性癖を左右するなんて話なんかも含めてのやっぱり母国語なのはエロの重要な要素やと思うわ

alpacinoも確かにりんなよりも理解力が上がってる感じするゾ

会話履歴のセリフに設定を付け足して食わせればそこから全部書いてくれるってのもスマートでええな
これは確かにエロ小説好きなニキには刺さりそうや😇✨

2023/06/11(日) 02:29:19.31

あとkoboldのUI見やすくてええな
これは勉強になるわ

2023/06/11(日) 02:32:27.72

とりあえずGUIのほうがとっつきやすいのはあるわなあ

2023/06/11(日) 02:45:47.85

せやなーあの真っ黒い画面でアレルギー起こす人は多そうや
ほな、ラストの更新はgradioライブラリでwebui化にするゾ
またしばらく触れなくなりそうやし明日起きたら出来るところまで突貫するで

2023/06/11(日) 03:02:21.99

>>183
説明上手いな
これならワイでも試せそうやで

2023/06/11(日) 03:05:25.94

>>138ニキがWiki立ち上げて色々翻訳してくれて
ワイも最初非効率なとこから始めつつ5日ほどドハマリした結果や

まあ～活用しとったくれや

2023/06/11(日) 03:22:46.67

webuiやと>>168ニキが貼ってくれた物で十分良さそうやな
ほなワイはお役御免や😇

2023/06/11(日) 17:36:45.61

今ってもうローカルでリンナちゃんLora学習できるの？

2023/06/11(日) 17:38:53.38

できる「はず」なんや
成功しないんや・・・

Twitterとかだと成功した人の報告があるけど
手法が公開されていなかったりマネしても
効果が感じられなかったり

2023/06/11(日) 19:28:10.34

>>199
エラーが出て成功しないの？