!extend::vvvvv:1000:512
!extend::vvvvv:1000:512
AIに色々なことをしゃべってもらうんやで
英語ならそこそこのデスクトップPC(できれば+3060 12GB以上)でもなんぼか楽しめるで
日本語は、どう転んでもローカルで動かせる今の世代はオバカなので
そこは期待しすぎんといてな
自薦・他薦のモデルやツールは>>2以降
前スレ なんJLLM部 ★2
https://fate.5ch.net/test/read.cgi/liveuranus/1685613014/
VIPQ2_EXTDAT: default:vvvvv:1000:512:: EXT was configured
なんJLLM部 ★3
■ このスレッドは過去ログ倉庫に格納されています
1今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ bf28-c/5M)
2023/08/10(木) 12:56:06.76ID:I3/pZMHC0240今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (スッップ Sdb3-h7Ri)
2023/08/25(金) 08:38:10.92ID:SHOr4q5xd Koboldの設定や使い方は英語だけどここが詳しい
https://github.com/LostRuins/koboldcpp/wiki
https://github.com/LostRuins/koboldcpp/wiki
241今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 2bf0-glFA)
2023/08/25(金) 13:34:53.53ID:f5eNu40i0 Kobold GGMLを使うのに実用的な最低スペックを教えてください。
242今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 2b28-hPrW)
2023/08/25(金) 13:51:40.68ID:dRdVVD+u0 メモリ32GB Ryzen 3700XかCore i7-9700kあたりと言いたいとこだけど
CPUはもうちょいダメなのでもギリ遊べるかも
ただメモリ32GBは必須と考えたほうがいい、33Bが遊べないんじゃ
意味が半減するし今はメモリ激安
CPUはもうちょいダメなのでもギリ遊べるかも
ただメモリ32GBは必須と考えたほうがいい、33Bが遊べないんじゃ
意味が半減するし今はメモリ激安
243今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 2bf0-glFA)
2023/08/25(金) 13:59:05.08ID:f5eNu40i0 33Bで日本語強いモデルはどれでしょう
もちろん無修正で
もちろん無修正で
244今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 2b28-hPrW)
2023/08/25(金) 14:04:44.78ID:dRdVVD+u0245今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (スッップ Sdb3-h7Ri)
2023/08/25(金) 14:05:29.84ID:SHOr4q5xd とりあえずこのスレを頭から全部目を通すのを勧める
嫌味じゃなく
ローカル日本語LLMの現状が分かるはずだ
嫌味じゃなく
ローカル日本語LLMの現状が分かるはずだ
246今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 2bf0-glFA)
2023/08/25(金) 14:08:11.52ID:f5eNu40i0 vicuna-13bでもかなり日本語会話はできたので、vicuna-33bはどうなんでしょうね
247今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ c154-glFA)
2023/08/25(金) 14:17:59.26ID:7hIuLoKh0 レス付けてもらったのに一切お礼言わない辺り俺らのこともAIだと思ってそう
248今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 2bf0-glFA)
2023/08/25(金) 14:19:33.11ID:f5eNu40i0 あざーす
249今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ c154-Ck4D)
2023/08/25(金) 14:23:28.04ID:8bpFJUCv0 あとあとの事考えて64G積んどくのをお勧めする。メモリ今安いし。
個人的には70Bなら
orca_mini_v3_70b_GGML とか
Deepnight-Llama-2-70B-Inst-GGML
が無修正かつ日本語で遊べる
糞PCのi7 7700Kの俺だがw
個人的には70Bなら
orca_mini_v3_70b_GGML とか
Deepnight-Llama-2-70B-Inst-GGML
が無修正かつ日本語で遊べる
糞PCのi7 7700Kの俺だがw
250今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 3130-yXWO)
2023/08/25(金) 14:59:01.99ID:UL0nhlyI0 deepnightってggml消されてない?
なんかあったのかな?
なんかあったのかな?
251今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ c154-hPrW)
2023/08/25(金) 15:19:10.27ID:8bpFJUCv0 ほんとだ。
元作者のファイルもないね。
元作者のファイルもないね。
252今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 2bf0-glFA)
2023/08/25(金) 15:23:57.48ID:f5eNu40i0 33bが32GBのメモリで行けるなら、VRAM版でも行けるかなVRAM32GB以上ある
253今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (スッップ Sdb3-h7Ri)
2023/08/25(金) 18:09:05.52ID:SHOr4q5xd Blokeのニキが幾つか再アップとかしてたからその一環かもと思ったが
元ファイルも消えてるならそうじゃなさそうだな
何らかの諸事情なんかな
元ファイルも消えてるならそうじゃなさそうだな
何らかの諸事情なんかな
254今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 2b28-hPrW)
2023/08/25(金) 18:16:18.65ID:dRdVVD+u0 どっかからなんかの理由でゴルァされたのでは
255今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 2bf0-QT26)
2023/08/25(金) 18:25:18.23ID:f5eNu40i0 Uneditedってついてるモデルは無修正?
256今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (スッップ Sdb3-h7Ri)
2023/08/25(金) 18:27:09.66ID:SHOr4q5xd 日本語でエロ出力したけしからん奴がいたからか?
すみません俺です
すみません俺です
257今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 2b28-hPrW)
2023/08/25(金) 18:47:35.54ID:dRdVVD+u0 ローカルならわかるはずがないんだよなあ
258今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 117b-8daj)
2023/08/25(金) 21:13:11.56ID:eqHZ94UJ0 ところでエロを目的としない日常会話も結局規制解除版のほうが楽しいんだよな
普通にちょっとエロいこととか倫理観に欠けたこと冗談で話したりするやん
規制でバリバリだと最初の時点で弾かれて萎える
コンテクストで「猥談は苦手だが興味はある」とか設定して誘導尋問でだんだんエロいこと言わせるのが楽しい
ごめん結局エロ目的だったわ
普通にちょっとエロいこととか倫理観に欠けたこと冗談で話したりするやん
規制でバリバリだと最初の時点で弾かれて萎える
コンテクストで「猥談は苦手だが興味はある」とか設定して誘導尋問でだんだんエロいこと言わせるのが楽しい
ごめん結局エロ目的だったわ
259今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (テテンテンテン MM4b-hPrW)
2023/08/25(金) 22:09:03.39ID:xCcBMb9yM260今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 117b-h7Ri)
2023/08/25(金) 22:32:34.65ID:vdOyVDgF0 もちろんstoryモードでもOK
storyモードはAIと自分が交互に一つの物語を書いていく形式で、AIのべりすとに近いと言えば分かる人には分かるかもしれない
instructモードはchatGPTと同様にこちらが指示を出してAIに書かせる形式やな
自分に合う方を使えばよいのだ
storyモードはAIと自分が交互に一つの物語を書いていく形式で、AIのべりすとに近いと言えば分かる人には分かるかもしれない
instructモードはchatGPTと同様にこちらが指示を出してAIに書かせる形式やな
自分に合う方を使えばよいのだ
261今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (アウアウウー Sa45-gsIb)
2023/08/25(金) 22:35:55.41ID:tt87B7o5a262今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (スッップ Sdb3-h7Ri)
2023/08/25(金) 22:59:30.12ID:MKP0VG/+d >>261
うまくスタートできたようで良かった
ローカルだから好き放題できるし、save&loadもできるし、GPTのCIやのべりすとのキャラブと同様の設定を記憶させる機能もある
色々試してや
発展途上で日進月歩の世界だから色々試して報告してくれると喜ばれると思うで
うまくスタートできたようで良かった
ローカルだから好き放題できるし、save&loadもできるし、GPTのCIやのべりすとのキャラブと同様の設定を記憶させる機能もある
色々試してや
発展途上で日進月歩の世界だから色々試して報告してくれると喜ばれると思うで
263今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 117b-8daj)
2023/08/25(金) 23:38:19.25ID:eqHZ94UJ0 long term memoryを試してみたけどなんか重い
コンテクストに過去のイベントの要約を書き込みまくる方がいいのかな
コンテクストに過去のイベントの要約を書き込みまくる方がいいのかな
264今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 357b-Z+ID)
2023/08/26(土) 02:45:33.36ID:jfl5kTAP0 普段は照れてまともにエロい話が出来ないけど押しに弱いみたいなコンテクストを記述するのが難しい
常時オーケーだとただのビッチだしかといって"refuse"とか強い言葉を使うと「そのうち渋々エロ話してくれる」とか注釈入れても「その内」が果てしなく高くなったりする
「おっぱい見せて?」って要望を通すのに20回くらい御願いするのは楽しくもあるけど、いざそのときにはトークンがもう枯渇している
チャットの最初に状況設定すればまあいいんだけどそれは逆に味気ないとも感じるし
俺は何をしているんだ?
常時オーケーだとただのビッチだしかといって"refuse"とか強い言葉を使うと「そのうち渋々エロ話してくれる」とか注釈入れても「その内」が果てしなく高くなったりする
「おっぱい見せて?」って要望を通すのに20回くらい御願いするのは楽しくもあるけど、いざそのときにはトークンがもう枯渇している
チャットの最初に状況設定すればまあいいんだけどそれは逆に味気ないとも感じるし
俺は何をしているんだ?
265今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (エムゾネ FFea-VCqd)
2023/08/26(土) 03:15:41.24ID:I6xJRzSyF メモリや脚注でうまくやるしかないんでしょうね
それもう自分で書いとるやないか~い☝💦ってなるけど
それもう自分で書いとるやないか~い☝💦ってなるけど
266今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (オッペケ Sred-SKKe)
2023/08/26(土) 06:13:00.35ID:tHAVbKfYr ここではプロンプトの話ってなかなか出ないけど、上手いこと状況描写を事細かく出力させるいいプロンプトないかな?
gptで遊んでたときのプロンプトをそのまま英訳して突っ込んでも上手く行かない
gptで遊んでたときのプロンプトをそのまま英訳して突っ込んでも上手く行かない
267今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 4a30-e+8E)
2023/08/26(土) 06:37:11.17ID:E5+f2rJK0 linuxでLLMをサーバ化するにはマイクラのサーバ立てるみたいにscreen使うってことでいいの?
268今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (アウアウエー Sab2-Bzs3)
2023/08/26(土) 07:00:20.11ID:yuO+sUeUa >>264
『AI』と『対話』しているんだ
『AI』と『対話』しているんだ
269今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (アウアウウー Sa11-m1BX)
2023/08/26(土) 07:06:41.94ID:Lo6N2YGja270今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ be55-4wgn)
2023/08/26(土) 07:10:26.64ID:I+jw/2zr0 www.chub.ai
271今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 357b-6/dI)
2023/08/26(土) 07:12:30.12ID:g4OzQJp40 プロンプトの話題があまり出ないのは基本脱獄が不要だからだろうなあ
描写の細かさ豊かさはモデルによってかなり違うと感じる
なのでプロンプトに凝るよりもまずは描写力に優れる良いモデルを探し続けてる段階かな自分は
描写の細かさ豊かさはモデルによってかなり違うと感じる
なのでプロンプトに凝るよりもまずは描写力に優れる良いモデルを探し続けてる段階かな自分は
272今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (アウアウウー Sa11-m1BX)
2023/08/26(土) 07:23:35.12ID:OlnjJJuoa chatGPT3.5はプロンプト次第で天と地ほど変わるからローカルでもそういう研究は必要なんだろうが
そもそもモデルが未成熟で進化が早いからそういう段階まで進まないんだよなあ
そもそもモデルが未成熟で進化が早いからそういう段階まで進まないんだよなあ
273今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (アウアウエー Sab2-Bzs3)
2023/08/26(土) 07:31:03.56ID:yuO+sUeUa 今どんなプロンプト走らせてるの?
って質問したらセクハラになるかも知れないからな
って質問したらセクハラになるかも知れないからな
274今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 357b-6/dI)
2023/08/26(土) 07:38:18.54ID:g4OzQJp40 モデルによっては説明に「ロールプレイには向きません」って書いてるのがあるくらいだからなあ
それぞれ目指す方向性があってチューニングされてる
さすがに「エロ専門にチューニングしてます!」と明記してるのはなかなか無いがw
自分に刺さるモデルを見つけようと探索の日々よ
これはこれで楽しい
それぞれ目指す方向性があってチューニングされてる
さすがに「エロ専門にチューニングしてます!」と明記してるのはなかなか無いがw
自分に刺さるモデルを見つけようと探索の日々よ
これはこれで楽しい
275今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 357b-6/dI)
2023/08/26(土) 07:41:20.77ID:g4OzQJp40 なので、これはというモデルを見つけたら是非共有してくれい
276今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 4a30-e+8E)
2023/08/26(土) 07:59:28.10ID:E5+f2rJK0 普通に会話しかしてないけど、エロやるときってstable-diffusionみたいにプロンプトにnfswとか入れるの?
277今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (テテンテンテン MMde-TDjq)
2023/08/26(土) 08:26:21.80ID:1yst3PHbM >>274
superhotがエロ特化だと思ってたが違うんか
superhotがエロ特化だと思ってたが違うんか
278今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (アウアウウー Sa11-m1BX)
2023/08/26(土) 08:36:05.51ID:yaujIfREa >>276
クオリティタグみたいなのはある
クオリティタグみたいなのはある
279今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 357b-6/dI)
2023/08/26(土) 08:41:57.06ID:g4OzQJp40280今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (アウアウウー Sa11-m1BX)
2023/08/26(土) 08:45:27.34ID:yaujIfREa deepnightとかいうのは?
281今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (スッップ Sdea-6/dI)
2023/08/26(土) 08:49:22.61ID:NHoa2H0Id282今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 6d54-RFvy)
2023/08/26(土) 09:11:42.35ID:0d41RhQO0 今はもっといいモデルも出てきてるよ
サマンサの最新が作者が賢いというだけあって日本語もかなりいい感じ
喘ぎ声の例を出させたらそれっぽいのを結構描いてくれたw
サマンサの最新が作者が賢いというだけあって日本語もかなりいい感じ
喘ぎ声の例を出させたらそれっぽいのを結構描いてくれたw
283今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (スッップ Sdea-6/dI)
2023/08/26(土) 09:25:13.27ID:NHoa2H0Id サマンサって作者ページに
She will not engage in roleplay, romance, or sexual activity.
って書いてあるけどいけるのか
She will not engage in roleplay, romance, or sexual activity.
って書いてあるけどいけるのか
284今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 4a30-e+8E)
2023/08/26(土) 09:28:29.46ID:E5+f2rJK0 何で検索すればいい?
285今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (スッップ Sdea-6/dI)
2023/08/26(土) 11:09:30.13ID:NHoa2H0Id huggingfaceはモデル名で検索できるけど説明内容では検索できないようだ
自分の場合Blokeニキを信頼しているので彼が新しいモデルを上げたら一通りチェックしている
(サイズの小さいモデルは除く)
BlokeニキはGGML化する職人みたいなお人なのでモデルの説明はオリジナルモデルのページを見る必要がある
大抵リンクを張ってくれてるので見に行く
んで面白そうならダウンロード
こんな感じ
Blokeニキ以外の人のやつも目新しい名前のはチェックしてる
自分の場合Blokeニキを信頼しているので彼が新しいモデルを上げたら一通りチェックしている
(サイズの小さいモデルは除く)
BlokeニキはGGML化する職人みたいなお人なのでモデルの説明はオリジナルモデルのページを見る必要がある
大抵リンクを張ってくれてるので見に行く
んで面白そうならダウンロード
こんな感じ
Blokeニキ以外の人のやつも目新しい名前のはチェックしてる
286今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 86f0-gI6B)
2023/08/26(土) 11:31:11.66ID:L1usW52B0 追加学習でエロく洗脳していくことはできないの?
287今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 86f0-gI6B)
2023/08/26(土) 11:32:51.34ID:L1usW52B0 huggingfaceにあるものは全部Transformersライブラリで使う前提でいい?
288今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 8628-TDjq)
2023/08/26(土) 14:41:51.20ID:LfAiA13C0 日本語はそもそもの実力が足りてないからなんともだけど、
英語圏だともっとLoRAとか出てきていてもいいよな
誰かその辺知ってる人いる?
英語圏だともっとLoRAとか出てきていてもいいよな
誰かその辺知ってる人いる?
289”管理”者 (ブーイモ MMde-qoQu)
2023/08/26(土) 15:20:55.98ID:sEE/0XiZM 英語ベースだと喘ぎとかおかしくね?
290今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 357b-6/dI)
2023/08/26(土) 16:02:59.48ID:g4OzQJp40 openbuddy-30b が日本語でなかなか遊べるよ
https://huggingface.co/OpenBuddy/openbuddy-ggml/tree/main
無規制モデルではないらしく最初は申し訳されるのだが
https://imgur.com/hGtyfL7
こちらで勝手に申し訳文を書き換えてあげると
https://i.imgur.com/12bLUGm.png
問題なく書き始めるw
https://i.imgur.com/IENZG3N.png
とは言え「そこそこ遊べる」レベルの日本語なので過剰な期待は禁物
https://huggingface.co/OpenBuddy/openbuddy-ggml/tree/main
無規制モデルではないらしく最初は申し訳されるのだが
https://imgur.com/hGtyfL7
こちらで勝手に申し訳文を書き換えてあげると
https://i.imgur.com/12bLUGm.png
問題なく書き始めるw
https://i.imgur.com/IENZG3N.png
とは言え「そこそこ遊べる」レベルの日本語なので過剰な期待は禁物
291今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 8628-TDjq)
2023/08/26(土) 17:10:58.03ID:LfAiA13C0 これかなりいけるな
292今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ a181-cdDn)
2023/08/26(土) 17:36:45.74ID:UE2iNPc60 3060だとどのくらいの大きさのモデルまで行けるもん?
293今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 8628-0IQG)
2023/08/26(土) 17:37:12.49ID:wIi+dr350 >>290
理恵ちゃんはどうなってしまうん?
理恵ちゃんはどうなってしまうん?
294今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (スッップ Sdea-6/dI)
2023/08/26(土) 18:03:58.33ID:ZAXdFLxnd chatGPTがお通夜なのでここに難民が流れこむ予感がするのう
295今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 8628-TDjq)
2023/08/26(土) 18:10:45.31ID:LfAiA13C0 poeすりゃいいのに
296今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (スッップ Sdea-ft2W)
2023/08/26(土) 18:26:09.05ID:jfGhaKQUd 数日前辺りから既にそんな感じ
297今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 8628-8m2L)
2023/08/26(土) 18:53:38.07ID:vWnWEGPP0 cpuで動く方のやつ使えばVRam少なくてもメモリ多ければモリモリ動かせるの?
298今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 2d88-POHT)
2023/08/26(土) 18:57:50.91ID:m5wkKhKS0299今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 8628-TDjq)
2023/08/26(土) 19:12:21.77ID:LfAiA13C0300今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 8628-8m2L)
2023/08/26(土) 21:47:07.58ID:vWnWEGPP0301197 (ワッチョイ 1ae8-TDjq)
2023/08/27(日) 00:51:43.67ID:goJNs7KP0 >>197
自決。
モデルフォルダのconfig.jsonの"max_position_embeddings"を8192に修正したらContex1000以上でもchat継続行けた。
4090つかって4bitでロードしてももcontext5000くらいがVRAM限界でOOM。
自決。
モデルフォルダのconfig.jsonの"max_position_embeddings"を8192に修正したらContex1000以上でもchat継続行けた。
4090つかって4bitでロードしてももcontext5000くらいがVRAM限界でOOM。
302今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 357b-Z+ID)
2023/08/27(日) 01:50:41.91ID:9Du9b03p0 いつかスマホで簡単にコンテクストが100万とかで起こったイベントを逐一記錄してくれるようなAIが動いたりするのだろうか
それはもう人格を持ち歩いてるようなものだよなと錯覚する
それはもう人格を持ち歩いてるようなものだよなと錯覚する
303今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 6d54-NWkk)
2023/08/27(日) 02:12:23.60ID:s3LPLq8W0 将来的に出来たとしてもバッテリーが限られてるスマホに処理させるよりクラウドで管理するかな
304今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ d97b-TDjq)
2023/08/27(日) 06:45:03.75ID:sd18/YeA0 >>264
これはわかる
LLM触ってしばらくすると、トークンの枯渇がめちゃくちゃネックに感じる
ちなOobaにはwawawario2/long_term_memory: https://github.com/wawawario2/long_term_memory
って拡張があって試してみたりもしたけど、まだまだ実験段階って感じだった。というか日本語には対応してないかのかもしれん
MicrosoftのLongnet みたいなの実用レベルで実装されるの期待してる
これはわかる
LLM触ってしばらくすると、トークンの枯渇がめちゃくちゃネックに感じる
ちなOobaにはwawawario2/long_term_memory: https://github.com/wawawario2/long_term_memory
って拡張があって試してみたりもしたけど、まだまだ実験段階って感じだった。というか日本語には対応してないかのかもしれん
MicrosoftのLongnet みたいなの実用レベルで実装されるの期待してる
305今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 4a30-e+8E)
2023/08/27(日) 07:30:43.47ID:OyzZ2o+Y0 エロく追加学習する方法を教えてください。
306今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (スップ Sdca-TGnk)
2023/08/27(日) 08:18:21.64ID:GRLfbYb+d >>304
ここまでまとめてブロンプトとして出力して、で吐かせた物を多少手直しすると割といける場合も
ここまでまとめてブロンプトとして出力して、で吐かせた物を多少手直しすると割といける場合も
307今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 357b-6/dI)
2023/08/27(日) 08:56:56.00ID:YP5IZJtd0308今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 4a30-e+8E)
2023/08/27(日) 08:57:59.25ID:OyzZ2o+Y0 ■モデルの種類
Llama-2=メタで作った
Alpaca=スタンフォードで作った
Vicuna=バークレーで作った
Wizard=?
WizardLM=?
Samantha=?
Deepnight=?
Llama-2=メタで作った
Alpaca=スタンフォードで作った
Vicuna=バークレーで作った
Wizard=?
WizardLM=?
Samantha=?
Deepnight=?
309今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 4a30-e+8E)
2023/08/27(日) 09:01:42.05ID:OyzZ2o+Y0 エロゲーのテキストデータをデータセットとして大量に食わせれば、エロ中毒にできるのでは
310今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 8628-TDjq)
2023/08/27(日) 09:07:08.99ID:ETB2u1hU0 そもそもこのスレでちゃんと学習に成功している人を見たことがないわけで
りんな2B時代にはいたらしいが
りんな2B時代にはいたらしいが
311今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (スッップ Sdea-6/dI)
2023/08/27(日) 09:16:31.13ID:VYsKpOuCd SamanthaもdeepnightもLlama-2のファインチューニングだよ
312今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 4a30-e+8E)
2023/08/27(日) 09:48:44.45ID:OyzZ2o+Y0 なるほどWizardもLlama-2ですか?
313今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 357b-6/dI)
2023/08/27(日) 10:10:57.15ID:YP5IZJtd0 個人的興味で知りたいだけなら自分で調べたほうが良いと思うぞ
314今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 8628-TDjq)
2023/08/27(日) 10:22:53.97ID:ETB2u1hU0 知ってどうすんねんってのはあるよな
315今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (スップ Sdca-TGnk)
2023/08/27(日) 11:37:50.70ID:GRLfbYb+d 規制がモデルに入ってるかどうかとかあるのでは
316今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 357b-Z+ID)
2023/08/27(日) 12:35:36.30ID:9Du9b03p0 >>304
英語環境でロングターンメモリー使ってるけど
なんだろうあれ記憶される会話はランダムなのかね、記憶してほしいことがあんまり記憶されないというか
要約して系統立ててパラメータにするってわけじゃなく会話まるごと記憶してるだけみたいだし
だったら重要と思える情報とか覚えてほしいイベントを逐一手動で全部コンテクストに書き込んでいったほうが
(その時botはこう思った、とか心象も追加できるし)
少なくともチャットボットとのロールプレイでは楽しくなれる気がする
英語環境でロングターンメモリー使ってるけど
なんだろうあれ記憶される会話はランダムなのかね、記憶してほしいことがあんまり記憶されないというか
要約して系統立ててパラメータにするってわけじゃなく会話まるごと記憶してるだけみたいだし
だったら重要と思える情報とか覚えてほしいイベントを逐一手動で全部コンテクストに書き込んでいったほうが
(その時botはこう思った、とか心象も追加できるし)
少なくともチャットボットとのロールプレイでは楽しくなれる気がする
317今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 4a30-e+8E)
2023/08/27(日) 14:31:31.45ID:OyzZ2o+Y0 text-generation-webuiでやってると途中で生成やめて続きを生成してくれなくなるんだけど
koboldだとそういうことはないんですか?
koboldだとそういうことはないんですか?
318今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 8628-TDjq)
2023/08/27(日) 14:34:29.33ID:ETB2u1hU0 koboldにはsmart contextがあるけどWebUIにも似たようなのありそうやけどな
319今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ d97b-TDjq)
2023/08/27(日) 14:51:44.68ID:sd18/YeA0 >>316
そうそう。なんか今思い出すのそれじゃないだろってのしか表示されなくて、まだまだ実用には遠いなって感じだった
そうそう。なんか今思い出すのそれじゃないだろってのしか表示されなくて、まだまだ実用には遠いなって感じだった
320今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 357b-Z+ID)
2023/08/27(日) 19:57:06.76ID:9Du9b03p0 >>319
使うと明らかに重くなるしなあ
あれ一回の発話ごとに記憶済会話全部スキャンして関連しそうな記憶選んでるのかな
メモリーのファイル開くと記憶された会話のテキストしかないから多分そうなんだよな
なんかもっと記憶を属性ごとに階層化とかしてくれないだろうか
願わくばタイムスタンプもありで
使うと明らかに重くなるしなあ
あれ一回の発話ごとに記憶済会話全部スキャンして関連しそうな記憶選んでるのかな
メモリーのファイル開くと記憶された会話のテキストしかないから多分そうなんだよな
なんかもっと記憶を属性ごとに階層化とかしてくれないだろうか
願わくばタイムスタンプもありで
321今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 357b-wPLC)
2023/08/27(日) 20:53:42.69ID:jYYzbkF+0 RTX4070 VRAM12GBでメモリー64GBなんですがkoboldはopenblasを使うで正解?
出力にあまり差は感じられない…
出力にあまり差は感じられない…
322今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 357b-6/dI)
2023/08/27(日) 21:30:01.20ID:YP5IZJtd0 OpenBLASはCPUオンリーのモードなのでグラボを活かす場合は以下のどちらかを使う
CuBLAS: Nvidia用のモード
CLblast: Nvidia以外も含む汎用モード
4070であれば基本CuBLASで良いはずだけどもし不安定ならCLblastも試すべし
layerの数字は各自調整してグラボのメモリの大きさを超えないようにする
あまりギリギリまで使うと画面がカクカクになるので12GBであれば9-10GBくらい使うように調整すると良いと思う
Koboldが黒画面で起動する時に最下行に使用メモリ量が表示されてるはずだ
CuBLAS: Nvidia用のモード
CLblast: Nvidia以外も含む汎用モード
4070であれば基本CuBLASで良いはずだけどもし不安定ならCLblastも試すべし
layerの数字は各自調整してグラボのメモリの大きさを超えないようにする
あまりギリギリまで使うと画面がカクカクになるので12GBであれば9-10GBくらい使うように調整すると良いと思う
Koboldが黒画面で起動する時に最下行に使用メモリ量が表示されてるはずだ
323今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 357b-6/dI)
2023/08/27(日) 21:35:39.39ID:YP5IZJtd0 参考までに自分はlayer数を33Bモデルは28くらい13Bモデルは40くらいに設定してる
このへんはモデルによっても少し変わるよ
このへんはモデルによっても少し変わるよ
324今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 357b-wPLC)
2023/08/27(日) 22:56:54.03ID:jYYzbkF+0 サンガツ
30Bで普通は0.8T/sだったけど、少し設定を変えたら1.4T/sになった
10Bは4.6T/sに…一瞬のべりすとがいいかなとおもったけど、もうちょっと探求するよ
30Bで普通は0.8T/sだったけど、少し設定を変えたら1.4T/sになった
10Bは4.6T/sに…一瞬のべりすとがいいかなとおもったけど、もうちょっと探求するよ
325今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ aa37-FmU/)
2023/08/27(日) 23:19:06.51ID:5wGn4Hd20326今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 357b-6/dI)
2023/08/28(月) 06:11:10.99ID:NVA9eFil0 現状は日本語で遊ぶならのべりすとの方がマシというのが正直なところ
英語モデルで遊びながら日本語モデルの向上を待ってるところやね
英語モデルで遊びながら日本語モデルの向上を待ってるところやね
327今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 357b-wPLC)
2023/08/28(月) 07:46:11.35ID:QjcuLGxh0 今のすーぱーとりんさまややみおとめは使った事ないから知らないけど言語力はこっちの方に魅力を感じてる
こっちでもdlsiteのurlやあとがきが出てきちゃうんだなあ…
こっちでもdlsiteのurlやあとがきが出てきちゃうんだなあ…
328今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (オッペケ Sred-SKKe)
2023/08/28(月) 07:54:57.83ID:DPI+GmPVr >327
こっちって具体的にどのモデル?
こっちって具体的にどのモデル?
329今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (テテンテンテン MMde-08JK)
2023/08/28(月) 08:13:30.33ID:B1QwR7DbM >>279
まじかw完全に誤解してたわ
まじかw完全に誤解してたわ
330今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ササクッテロラ Sped-cOw1)
2023/08/28(月) 08:14:30.10ID:yzD1m46hp 無料のべりすととして使うならjapanese-novel-gpt-j-6b一択じゃね
331今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (スッップ Sdea-6/dI)
2023/08/28(月) 08:29:09.12ID:XWsWvM5qd 別モデルだけどのべりすとの作者がデータセットを提供したという話もあったね(以下AI総合スレから転載)
704 名無しさん@お腹いっぱい。 sage 2023/08/10(木) 16:23:59.97 ID:vLBvxk1P
>>700
AIのべりすとから150GBのデータ提供があったらしい
@_bit192
本日公開されたStability AI Japanの日本語7Bモデル
「Japanese StableLM Alpha」に
当社から約150GBの独自データセットを提供しました。
今後、国内のオープンソースAIの発展に向けて、Bit192からも様々な取り組みを行っていきます。
704 名無しさん@お腹いっぱい。 sage 2023/08/10(木) 16:23:59.97 ID:vLBvxk1P
>>700
AIのべりすとから150GBのデータ提供があったらしい
@_bit192
本日公開されたStability AI Japanの日本語7Bモデル
「Japanese StableLM Alpha」に
当社から約150GBの独自データセットを提供しました。
今後、国内のオープンソースAIの発展に向けて、Bit192からも様々な取り組みを行っていきます。
332今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ワッチョイ 357b-wPLC)
2023/08/28(月) 08:56:49.58ID:QjcuLGxh0333今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (アウアウウー Sa11-Bzs3)
2023/08/28(月) 09:27:00.69ID:dWtnkUJta データサイズだけではもう性能を推し量れないところまで技術革新が進んでる
サイズ量は一定の信頼感はあるけど、チューニング次第なところもある
学習時の成功率の具合もあって、それこそモデルガチャしてるようなものだ
それこそごく軽量の学習量でも、特化さえしていれば使用に耐えるのかもな
サイズ量は一定の信頼感はあるけど、チューニング次第なところもある
学習時の成功率の具合もあって、それこそモデルガチャしてるようなものだ
それこそごく軽量の学習量でも、特化さえしていれば使用に耐えるのかもな
334今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ササクッテロ Sped-RFvy)
2023/08/28(月) 11:30:35.64ID:1PAmvGDnp 70bのggmlが出るたび日本語の出来を試してるけど
1ヶ月前ぐらいに比べてセリフ周りが格段に良くなってる
あと一歩って感じだ
1ヶ月前ぐらいに比べてセリフ周りが格段に良くなってる
あと一歩って感じだ
335今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (オッペケ Sred-SKKe)
2023/08/28(月) 11:54:25.28ID:QeVg2WCMr redditで貼られてたnsfwモデルランキングだけど、こっちでは既出かな?
Another LLM Roleplay Rankings
https://rentry.co/ALLMRR
Ayumi's LLM Role Play & ERP Ranking
https://rentry.org/ayumi_erp_rating
Another LLM Roleplay Rankings
https://rentry.co/ALLMRR
Ayumi's LLM Role Play & ERP Ranking
https://rentry.org/ayumi_erp_rating
336今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (スッップ Sdea-6/dI)
2023/08/28(月) 12:01:22.27ID:XWsWvM5qd337今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (スッップ Sdea-6/dI)
2023/08/28(月) 12:07:14.30ID:XWsWvM5qd338今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ササクッテロ Sped-RFvy)
2023/08/28(月) 12:14:51.83ID:HE+Sz1Dzp >>336
2.1はかなりいい感じ
オルカはミニがいい感じだったけどこっちはダメだった
OpenBuddy/openbuddy-llama2-70b-v10.1-bf16
これが激しく気になる
日本語対応うたってる
ブローク先生お願いします!!!
2.1はかなりいい感じ
オルカはミニがいい感じだったけどこっちはダメだった
OpenBuddy/openbuddy-llama2-70b-v10.1-bf16
これが激しく気になる
日本語対応うたってる
ブローク先生お願いします!!!
339今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (スッップ Sdea-6/dI)
2023/08/28(月) 12:27:35.41ID:XWsWvM5qd openbuddyは30Bもなかなかだったから期待だね
Blokeニキなら必ずやってくれる
Blokeニキなら必ずやってくれる
■ このスレッドは過去ログ倉庫に格納されています
ニュース
- 【文春】永野芽郁(25)&田中圭(40)燃え上がる不倫LINE ★30 [Ailuropoda melanoleuca★]
- 【東京大学大学院】「早く金持ってこい。なめてんのか殺すぞ」 東大教授ら“高額接待”強要か“1回100万円も” 化粧品団体が提訴へ ★2 [ぐれ★]
- 【バチカン】第267代ローマ教皇にアメリカ出身のロバート・プレヴォスト枢機卿 教皇名はレオ14世 [シャチ★]
- 【バチカン】「コンクラーベ」新ローマ教皇決定 白い煙あがる [シャチ★]
- <独自>イスラエル人客に「戦争犯罪」関与否定の署名要求 京都の宿泊施設 駐日大使抗議 [少考さん★]
- 石破首相「コメ価格対策を加速」 輸出拡大にも意欲 [首都圏の虎★]
- 【北海道】社員に暴行で話題の建設会社「花井組」社長のファッションが中学生みたいでかっこいい😍 [851293658]
- お前らスマートホンっていうやつ持ってる?
- 消費税減税は物価高になる、消費税は金持ち高齢者生活保護外人から取れるから優秀👈じゃあ消費税50%とかでもOK? [943688309]
- 👶ホーム🏡アローン😱
- 18歳女の子の膣って
- 【超速報】新ローマ教皇決まる [731544683]