X

なんJLLM部 ★2

■ このスレッドは過去ログ倉庫に格納されています
2023/06/01(木) 18:50:14.03ID:ulpFlOyk0
!extend::vvvvv:1000:512
!extend::vvvvv:1000:512
AIに色々なことをしゃべってもらうんやで
3060 12GBでもなんぼか楽しめるで
どう転んでもローカルで動かせる今の世代はオバカなので
そこは期待しすぎんといてな

自薦・他薦のモデルやツールは>>2以降

前スレ なんJLLM部
https://fate.5ch.net/test/read.cgi/liveuranus/1678930450/
VIPQ2_EXTDAT: default:vvvvv:1000:512:: EXT was configured
467今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾃﾃﾝﾃﾝﾃﾝ MM8f-AVVZ)
垢版 |
2023/07/09(日) 09:24:18.09ID:y82uKlauM
deepL頼りだわ…
2023/07/09(日) 09:34:01.86ID:eejWeOUf0
>>464
poe使っているから逃げられてはいるけど
たまに本家使うとすぐ申し訳されて生成途中のが消えたりするけどなあ
2023/07/09(日) 09:39:59.33ID:eejWeOUf0
あと最初は大丈夫でも段々ポイントたまったのか申し訳ってのが一番多いかな
ローカルだとそれもないから
2023/07/09(日) 09:51:42.52ID:QRTz4blk0
>>455
そう言えば最初期に警告メール来たことあったわ
エロや犯罪で使うな、もしくはAPIのキーが漏れてるかもよって内容だった
年齢書いて非同意とかはやってないからセーフか
早くローカルで日本語高性能なやつ欲しいけど結局個人で動かすのはきつそうな未来しか見えない
RAMつかって時間かければなんとかなるくらいか
2023/07/09(日) 10:09:35.91ID:XH7Bo6g60
はやいとこnvidiaの牙城を崩すプレイヤーが現れてほしいよなぁ。
2023/07/09(日) 10:11:33.09ID:eejWeOUf0
AMDさんサイドが乗ってこないからしゃーない
2023/07/09(日) 12:05:53.11ID:mgsQ+KrJ0
>>466
先輩ニキすまんがその英語小説サイトをいくつか頼む
2023/07/09(日) 12:22:48.42ID:XKXsluxn0
KoboldCPPのScenariosのImport from aetherroom.clubで
https://aetherroom.club/ のURLや番号を入れると
作成済みのシナリオが読み込めるんや

例えば昨日投稿の5536を入れたらバック・トゥ・ザ・フューチャーのアナザーが読める

がCivitaiみたいなシナリオの評価がないんでシナリオあさりに難儀しとる

できのええ番号とかあったら共有してもらえんやろか？

Memory, Author's Note, World Infoあたりを使いこなしてる例をもっと見てみたいんや
https://github.com/KoboldAI/KoboldAI-Client/wiki/Memory,-Author's-Note-and-World-Info
2023/07/09(日) 12:54:01.70ID:eejWeOUf0
Memoryはそのまんま、World Infoはキャラ設定（ごく稀にその世界における
特殊な地名や物品の説明）と考えているけど、Author's Noteの存在意義が
ようわからん
2023/07/09(日) 12:59:56.82ID:Q6sLIWqjM
>>466
ワイは英語も話せるけどそれ分かる😤
夢の中で自分が英語話して相手の聞いてた時嬉しかったもん🥹（学習者なら分かる
2023/07/09(日) 13:02:16.24ID:eejWeOUf0
英語を読むのはまあええねん
しゃべる聞く、特に聞くがアカンわ

書くのはちゃんとした文法求められるとかの意味でアカンけど
まあDeepL先生おるから・・・
2023/07/09(日) 13:48:15.91ID:XKXsluxn0
>>475 >>474 のURLからすると「少女の日記みたいに書いて」みたいなもんやろか
Memory
メモリは AI に送信される内容の先頭に挿入されるため、[送信] をクリックするたびに AI が最初に目にするものになります。
ただし、これはアクティブに生成されている新しいテキストから最も遠い場所でもあるため、現在のシーンへの影響はあまり明らかではない可能性があります。

Author's Note
著者のメモは新しいテキストの数行上に挿入されるため、新しく生成された散文と現在のシーンに大きな影響を与えます。
「The Author's Note」は脚本の舞台演出に似ていますが、俳優や監督に指示を与えるのではなく、AI に書き方を指示することになります。

World Info
World Info では、より広い世界の詳細を具体化できます。このエンジンは、実際のストーリー テキストでキーワードが言及されている場合にのみ World Info エントリを挿入することで、コンテキスト内のトークンを節約します。
ただし、これらは上部、メモリーの後、実際のストーリーテキストの前に挿入されるため、AI が生成するものに適度な影響を与えます。
2023/07/09(日) 13:49:29.00ID:eejWeOUf0
結局この辺のは入れる場所の違いってことやね
2023/07/09(日) 14:03:56.00ID:S3MAUjM3d
この辺の仕組みは見れば見るほどAIのべりすとにそっくりだな
どっちが先か知らないけど
2023/07/09(日) 15:45:24.97ID:Q6sLIWqjM
なんかウィザードアンセンサードスーパホット
ていうすごい名前のが来たで🥹
ワイはエチチなん作らんけど（カマトトぶり

Wizard-Vicuna-13B-Uncensored-SuperHOT-8k-GGML
https://huggingface.co/TheBloke/Wizard-Vicuna-13B-Uncensored-SuperHOT-8K-GGML
https://i.imgur.com/DDo8dKl.jpg
2023/07/09(日) 15:50:40.10ID:Q6sLIWqjM
>>477
スレチやけど、英語の話す、聞く、読む、全部別々の能力やねん　野球の投げると打つみたいに別々でトレーニングせなあかん🥹
あとみんな勘違いしてるねんけど教材は一個を飽きるまでやるのがベスト　15分の英会話音声を1週間毎日シャドーイングして、また別の教材移る　とか　子供向けDVDを字幕無しで50回位見るのもええで🥹
2023/07/09(日) 15:52:36.21ID:eejWeOUf0
>>482
んで現実にそのスキル要るかっていうと言うほど仕事で求められる状況じゃないから
「ほんなら読むの特化でええか・・・」ってなってまうのよな

LLMの作ってくれたエロ小説読むのは英語読む力すら落ちていくのを防ぐのにええわ
2023/07/09(日) 16:14:56.74ID:djNGI3Qy0
AI用いることによって読みはともかく書き出す能力が落ちそうな気はしてる
母国語たる日本語ですら
いいのか悪いのかわからん

音声入力使ってる人は汚言症が酷くなったって例もあるみたい
功罪あるよな
2023/07/09(日) 16:48:55.35ID:0JcJe4L10
>>481
SuperHOTって付いたやつは幾つか試したけどどれもまともに動かないんや…
出力が「---」とか「YESYES」とかになる
Koboldcppでもtext-generation-webUIでも同じや
SuperHOTはnsfw特化らしいから期待するんだけどな…
2023/07/09(日) 16:56:02.29ID:0JcJe4L10
>>473
久しぶりに昔お世話になった小説サイトを訪ねたら閉鎖されてるとこが多かったわ…
かろうじて生き残ってたのはここな
https://www.literotica.com/stories/
左下の Erotic Stories ってとこにジャンル別になってる
全部で数十万作品あるから好きなだけ読めるで
でも今ならこういうところで好みの作品探す手間よりもAIに好みのジャンル書いてもらう方が早い気もするで

読み続けているとな、ある日気づくんや
いつのまにか日本語に頭の中で訳さず、英語のまま理解できてることにな
頑張ってや
2023/07/09(日) 17:34:57.49ID:mgsQ+KrJ0
>>486
ありがと
真面目に文学勉強してくる

AIは突然申し訳するから役に立たんねん
2023/07/09(日) 17:36:12.65ID:eejWeOUf0
GPTに何でも書かせられるって言う人おるけど、多分10手以内で満足して
終わりにしているんだと思うんだよなあ
2023/07/09(日) 18:02:36.61ID:pqwKLRmBa
>>488
一回の出力が日本語800-1000字くらいで10回なら8000字だから、まあ一回戦やらせるには十分でしょ
ノクターンノベルで言うと3-4話分くらいかな
ひたすら続けて数十万文字続ける人も見かけるけど、俺はせいぜい数万文字で新しい設定に切り替えたいタイプ
2023/07/09(日) 18:05:10.14ID:eejWeOUf0
>>489
そら数万文字いけば満足よ
ただエロチャットジェネレーターのほうだと1回100字とかになっちゃうこともあるし
官能小説のほうも「ちがう、そうじゃない」ってなることも多くてなあ
2023/07/09(日) 18:14:43.20ID:bS4K8z1ua
>>490
エロチャの方は女性主導じゃないと厳しい
というか受け身側がペラペラ喋るのはおかしいからな
どうしてもというなら男側をGPTにやらせるといい
官能小説は3.5でお任せだと表現と展開がありきたりになるのでもっと具体的な指示を与えた方がいい
2023/07/09(日) 18:19:46.14ID:4lX1gSEEd
オナニースレ見てるとただひたすら過激なことをさせて過激な台詞を言わせてすごいだろ、って人が結構多い
まあスレ名のとおり即効の実用性重視なのだろうしそういう向きにはストーリーなど不要なのかも知れぬ
2023/07/09(日) 18:26:28.84ID:djNGI3Qy0
木を見て森を見ず
2023/07/09(日) 19:35:22.22ID:FsZQ86kbM
>>485
そうか…シーハーシーハーYesYes系か…
日本語対応でお○んこ気持ちいいのぉぉぉみたいなスーパーホット出たらいいのにな🥹
2023/07/09(日) 21:05:07.80ID:0JcJe4L10
いやそうじゃなくて文章になってない
単なる改行が続いたり「------’’’’’’’」とか出力されて怖い

ワイの環境依存かもしれないので試してくれると嬉しい
2023/07/10(月) 06:51:04.23ID:GgFR0Crrd
自分で試したわ
SuperHOTの13Bのは正常に動く
33Bのは挙動がおかしい
取りあえず13Bのをしばらく触ってみるで
どのへんがSuperでHOTかはこれから確かめるわ
497今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ｻｻｸｯﾃﾛﾙ Sp0b-A4Rx)
垢版 |
2023/07/10(月) 10:51:01.58ID:RMPVWLV1p
33Bってstorytellerって書いてる方かな？
自分もこっちは安定しなかった
hotspotじゃない方もあったんで帰ったら試してみる
storytellerの方が気になるw
498今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ｻｻｸｯﾃﾛﾙ Sp0b-A4Rx)
垢版 |
2023/07/10(月) 10:53:02.04ID:RMPVWLV1p
ミス
hotspotじゃねー
supperhotね
エロ小説書きすぎてるなw
2023/07/10(月) 12:03:33.56ID:GgFR0Crrd
自分が試した33BのsuperHOTは以下の2つ
https://huggingface.co/TheBloke/airoboros-33B-gpt4-1-4-SuperHOT-8K-GGML
https://huggingface.co/ycros/WizardLM-33B-V1.0-Uncensored-SuperHOT-8k-GGML
どちらもKoboldccpで正常に動作しなかった
2023/07/10(月) 12:24:05.64ID:xdatrdAX0
KoboldCppを日本語で利用するツール作ったで
https://github.com/Zuntan03/LlmTranslator

翻訳もローカルなんで何を書いてもBanの心配なしや
ドキュメントは整備中やがここのニキならイケるやろうし共有するで

GitとPython 3.10.6にパス通したWin & Geforce PCで↓のbatを右クリ保存で実行や
https://github.com/Zuntan03/LlmTranslator/raw/main/LlmTranslator/SetupLlmTranslator.bat

感想や不具合報告や https://aetherroom.club/ の投稿を共有してもらえたら嬉しい
2023/07/10(月) 16:17:38.43ID:JxYHZv0I0
これ、Memoryとか世界設定の指示は英語で書かないといけないんだよね？
2023/07/10(月) 16:43:13.05ID:JxYHZv0I0
なんかそれは最初のEnterでできるのか
でもEnterだと暴発しがちだから、Ｆ1とかF2とか暴発しづらいキー設定にできるオプションが欲しいなあ…
2023/07/10(月) 19:07:03.09ID:2/Qmq+z7M
専ブラ締め出しと規制の影響ががが

>>501
MemoryやAuthor's NoteやWorld InfoはCtrl+Eで英訳してコピペやね。

EnterでのLLMへの送信操作はKoboldCppに合わせたんやが
空欄での受信だけが誤爆するんか送受信両方が誤爆するんかどっちやろか？
2023/07/10(月) 21:41:52.44ID:S3WG77Hga
ワイが知る限りの日本語で使えるモデルをまとめたでhttps://w.atwiki.jp/localmlhub/pages/21.html
最近は日本語RWKVを専用GUIで使うのが個人的な流行や
https://github.com/josStorer/RWKV-Runner
2023/07/11(火) 00:09:09.78ID:OfHgJgFx0
見えてるやつ向けに貼っとくで一回下記に集合してLLMスレ立てるなりなんなりで行くで
なんJNVA部★防弾U
http://sannan.nl/test/read.cgi/liveuranus/1679606639/

現状の5chはmateから書くだけならできる
見るのはchromeから
なぜそうなったはともかく現在5chのAPI鯖死んでるのでこの不具合が発生している状況
2023/07/11(火) 01:20:22.96ID:iKyEWp/z0
JNVA部で紹介されたのを張っておくわ。

5ch style formatをインストールする
https://chrome.google.com/webstore/detail/5ch-style-format/aidnencnedgaflbgacmcbcokcpancdac
tampermonkeyなどユーザースクリプトが動かせる拡張機能をインストールする
https://chrome.google.com/webstore/detail/tampermonkey/dhdgffkkebhmkfjojejmpbldmpobfkfo
greasyforkから5ch style formatのポップアップ表示をサムネ表示に書き換えるスクリプトをインストールする
https://greasyfork.org/ja/scripts/470545-5ch-style-thumbnailer
2023/07/11(火) 05:03:59.48ID:o2fk10290
>>504
日本語対応モデルの情報めちゃ助かる
508今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾃﾃﾝﾃﾝﾃﾝ MM8f-rqKn)
垢版 |
2023/07/11(火) 21:48:06.51ID:Z5sQRZwdM
koboldの上部のUI押しても反応しなくてexeファイルダウンロードしなおしても解決しないんだけどどうすればいい？
2023/07/11(火) 22:15:36.42ID:cU82iQ7D0
BlinkDL/rwkv-4-world の日本語チューニングは賢いしメモリ食わないし、今まさに更新中なんで期待できるね　もうOnlyForTestは20230711版が出てる
config.jsonがついてないから？ oobabooga/text-generation-webui で使えないのが残念
RWKVはプロンプトの順番が重要らしいので（指示の後に文脈）、その辺注記しといた方がいい？
2023/07/11(火) 22:29:56.67ID:WLI6abIU0
7/11版を
https://github.com/saharNooby/rwkv.cpp
でGGML Q5_1に変換したらKoboldCppでも動いたで

https://aetherroom.club/5536
の各設定を和訳して続きを生成させたらこんな感じやったわ

https://i.imgur.com/8g0Wz1y.png
511今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾃﾃﾝﾃﾝﾃﾝ MM8f-4oIi)
垢版 |
2023/07/11(火) 22:31:59.55ID:OF4atHLqM
日本語対応モデル試したいのに使い方調べる時間がとれん
koboldに慣れてしまったというのもある
2023/07/12(水) 00:40:42.69ID:FzKY4FEh0
TheBloke/airoboros-65B-gpt4-1.4-GGML（q5_K_Mぐらい）だとRWKV-4-Raven-14Bより日本語わかってそうなんだけど、頑なに英語で返事してくるのはなんなんだ
それにしてもこの人アホほどモデル公開してるからとても追いきれんｗ
2023/07/12(水) 00:46:24.89ID:kupY3Y1o0
TheBlokeニキのとこときどき修正もしてるから並んでる順番も結構カオスやでぇ
2023/07/12(水) 06:57:33.39ID:PZBgF79Xd
ワイの愛用しているchronosとairoborosをマージしたchronoborosちゅうのが出てたわ
しばらく弄ってみるわ
2023/07/12(水) 07:50:59.46ID:PZBgF79Xd
ワイの非力なCPUやと33Bモデルで500トークンの出力に7-8分かかるわ
なにしろ Ryzen 2600 だからな CPU替えたいわ
3700Xあたりにしたら倍くらい速くなるやろうか？
2023/07/12(水) 08:03:27.93ID:PZBgF79Xd
3700Xちゃう5700Xや
コア数が6から8に増えるのが一番効きそうに思うけどどうなんやろな？
2023/07/12(水) 09:45:20.10ID:FzKY4FEh0
BlinkDL/rwkv-4-world 日本語チューニングOnlyForTest版、7/11のはちょっと中国語に引っ張られてる感じがする。
同じ処理させて、7/8は「私は〇〇と申します」だったのが「我是〇〇」になってたり
2023/07/12(水) 12:38:37.85ID:fNCod6jAM
7/11版こっちも英文を和訳させたら中国語にされたわ
2023/07/12(水) 16:46:04.77ID:YQqq+Izsa
>>517
プロンプトの形式どうしてるんや？RWKV-runnerで使ってる？
520今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾃﾃﾝﾃﾝﾃﾝ MM8f-4oIi)
垢版 |
2023/07/12(水) 18:30:04.97ID:pfhO1XKeM
>>516
5700X使ってるで33Bだと5分切るかどうかってとこやな
521今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾃﾃﾝﾃﾝﾃﾝ MM8f-uY3G)
垢版 |
2023/07/12(水) 20:41:10.14ID:YZo9MP84M
>>508
ブラウザ変えたら解決しました。Google Chrome無能
2023/07/12(水) 20:45:50.04ID:rudHP6Bx0
>>520
サンガツ
そうか半分にはならんのやな…
悩ましいところやわ
2023/07/13(木) 12:19:49.59ID:L0VJCdst0
効率良いオナニーにPCスペックが要るとは20年以上前に戻ったみたいや
2023/07/13(木) 13:07:23.81ID:B6FBV8Ob0
ドル円も20年前に戻りませんか
2023/07/13(木) 13:20:14.98ID:O34gOayxd
グラボ替えてメモリー足してSSD足して
エロ画とエロ小説の出力のために夏のボーナス使ってるわ
人類は20年経っても進歩しないのや
進歩してるのはオナニーのツールなんや
2023/07/13(木) 13:27:48.46ID:L0VJCdst0
小説のほうはまだ酔狂の部分もあるけど絵のほうは20年前の人間が見たら白目むいてひっくり返りそうな
とんでもないツールだしなあ

いやまあ1年前の人間から見てもそうかもしらんが……
2023/07/13(木) 15:33:59.24ID:Ec01Dslra
いや文章AI(というかchatGPT)のほうがすごいと思う
後世から見たらオーパーツだろ
2023/07/13(木) 15:44:41.86ID:L0VJCdst0
ChatGPT4はね
ローカルのほうはまあ「すごいやん」くらいの感じかな　特に日本語は……
2023/07/13(木) 15:47:51.99ID:5K9S1LkI0
>>519
npakaニキのコードほぼそのままでpythonで直叩き https://note.com/npaka/n/n401dccfadedc
プロンプト形式はモデル配布元の2つ目の例 (Instruction/Input/Response)
instruction = "次の文章を日本語で要約してください。" で、適当なメール文章をInputに食わせて結果比較した
2023/07/13(木) 15:54:52.30ID:B6FBV8Ob0
内部的に文字列を経由せずに声で聞いて声で返すLLMって無いんかな
2023/07/13(木) 16:03:25.76ID:5K9S1LkI0
文字列と同じように音の列としてデータ構築するモデルは原理的にはできるんちゃうか、それがlanguage modelの名に相応しいかはさておき
ただ作りたいものが文字化可能な文章であるなら、文字列経由した方が品質は高そう　あと失敗作が「人語のようで意味のない声のようなもの」というめっちゃ不気味なものになりそう
532今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾃﾃﾝﾃﾝﾃﾝ MM8f-4oIi)
垢版 |
2023/07/13(木) 16:33:38.25ID:eCqdCbFiM
上の方で紹介されてた　wizard-vicuna-13b-uncensored-superhot-8k.ggmlv3
これいいね
今更13Bなんて…と思いつつ試してみたら意外とよく書いてくれるわ
superhotはkoboldでほとんどまともに動かんから今後に期待や
2023/07/13(木) 18:12:22.49ID:O34gOayxd
koboldの最新版がsuperHOT対応を改善したぽいで
https://github.com/LostRuins/koboldcpp/releases
家に帰ったら試してみるで
2023/07/13(木) 18:17:29.74ID:O34gOayxd
chmateがGoogle Playでバージョンアップしたで！
普通に読み書きできるわ！
535今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾃﾃﾝﾃﾝﾃﾝ MM8f-4oIi)
垢版 |
2023/07/13(木) 21:31:09.67ID:eCqdCbFiM
koboldcpp-1.35
CUDA 8 ビット MMV モードを有効にしました
完全な GPU オフロードを実行できる場合、そのようなモデルの CUDA は以前よりも大幅に高速になる可能性があります

1.35.H Henk-Cuda Hotfix: これは Henk の代替バージョンで、速度低下が発生した場合に試すことができます
2023/07/14(金) 17:58:02.80ID:2HAwv4Yoa
https://arxiv.org/abs/2307.05695
ReLoRAっていうLoRAを応用して効率的に事前学習を継続する技術が出たらしい。まだ実装されてないけどツイとかディスコで話してる人がちらほらいる
2023/07/14(金) 17:59:59.08ID:Uj/qHjym0
まあそれでも1回鯖代だけで数万ふっとんでいくような話でしょ
りんなを再学習させたら一部ジャンルではすっごい自然になった　とかまでこないとなあ
2023/07/14(金) 20:45:34.21ID:Uj/qHjym0
あれ、>>10ニキひょっとしてプロジェクト消しちゃった？
2023/07/14(金) 21:51:55.03ID:Uj/qHjym0
https://twitter.com/BlinkDL_AI/status/1679816885695807489
りんなppoさん！？ まずいですよ！
https://twitter.com/5chan_nel (5ch newer account)
2023/07/14(金) 21:53:34.87ID:FwIZWCH/M
のべりすと以下の烙印押されてて草
2023/07/15(土) 01:03:06.62ID:Sr2tLK0b0
まあファイルサイズもパラメータ数もRWKV-4 Worldの約半分と考えればそんなもんかとも　rinna 7B（仮）で互角に戦える感じなんじゃない？
2023/07/16(日) 07:50:16.72ID:kkIzO2sf0
最低13Bくらいはないとなぁ
2023/07/16(日) 21:50:24.39ID:5Xb8Riwd0
RWKV-4 World JPNTuned 76% (7/14) 版、さらに中国語を話すようになってしまった・・・ 「次の文章を日本語で要約してください」に100%簡体字中国語で返してきよった
2023/07/16(日) 21:54:42.65ID:d98M1OS00
ままならんもんやね
545今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 81b2-/jfo)
垢版 |
2023/07/17(月) 06:38:35.26ID:UENeruG+0
漢字で日本語と中国語の判別が困難になってるのか
マジで言語の壁を感じるな・・・
2023/07/17(月) 10:16:25.08ID:e+y/BN3x0
llama.cppの作者のツイートによると、
Pi4 x 6のクラスターで65Bが動いたらしいから、
安価なPCクラスタで大規模LLMモデルが走るようになるかもね。

tps://twitter.com/ggerganov/status/1680588092569255940

ちなみにPi4だと1トークン10秒らしい。
https://twitter.com/5chan_nel (5ch newer account)
2023/07/17(月) 10:44:25.79ID:KWsCfnry0
かえって一般向けじゃねえｗ
素直に128GBメモリと最新CPU積む方がラクやな
548今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ defe-5LlG)
垢版 |
2023/07/17(月) 18:20:12.52ID:/QF5t9I40
RWKV-Runner ＋
RWKV-4-World-JPNtuned-7B-v1、GUIで操作できて日本語でも答えてくれてなかなか良いと思うけれど、既出でしょうか？
https://huggingface.co/BlinkDL/rwkv-4-world
2023/07/17(月) 18:47:41.82ID:ELEjO8DR0
>> 548 RWKV-4 Worldは >>504-509 とか >>517-519 とか >>539-544 とか、割と話題の中心かも Runnerの話は >>519 で一瞬出てるね　うちでも動かしてるけど、手っ取り早くRWKV使うなら一番良いかも
中国語圏で主に使われてるのか、issuesがほとんど中国語で読めんｗ
550今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ defe-5LlG)
垢版 |
2023/07/17(月) 19:20:32.57ID:/QF5t9I40
>>549
回答ありがとう。RWKV-runnerが更新されて、使いやすくなったのと、まさに手っ取り早くRWKVつかえていいのではと思ったので。
RWKV-runnerにTranslate機能ついているので中国語はそれで翻訳しようw
551今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 1e54-/jfo)
垢版 |
2023/07/18(火) 16:18:22.14ID:XlCnvJP/0
RWKV-runner使ってみた。小説書かせるのはCompletionってのをつかうのかな？　
デフォで星間戦争うんぬんの記述があるけど、毎回消すの面倒だね
552今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 1e54-/jfo)
垢版 |
2023/07/18(火) 16:45:03.47ID:XlCnvJP/0
あれ？
Completionモードだとなんでも書いてくれるのに、チャットモードだと内容によって申し訳されるね。
2023/07/18(火) 17:19:01.33ID:nBa8ibbA0
RetNetっての使ったモデルが出てきたら今と同じスペックでかなり速く生成できるようになるんかな？
554今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 1e54-/jfo)
垢版 |
2023/07/18(火) 18:27:58.94ID:XlCnvJP/0
やっぱりkoboldの方が使いやすいので7/14のをggmlに変換して使ってみたけど、日本語表現は7Bにしてはまあまあですね
時折文章がループしはじめるけどｗ
これの65Ｂが出たらどうなるかな
2023/07/18(火) 18:56:10.44ID:nBa8ibbA0
りんなよりやっぱ上？
2023/07/18(火) 19:12:52.10ID:tsJMwZ4y0
>>554 Koboldは手元ビルドしないといかんのが特に更新についてくのに面倒で使ってないんだが、RWKV-Worldはそのまま対応してるように見えるのにggml化して使ってるのは速度の問題？
2023/07/18(火) 19:24:23.34ID:nBa8ibbA0
kobold.cppは落とすだけで終わりっしょ？
んでkobold.cppはGGML特化だから
2023/07/18(火) 19:26:38.43ID:q9Kv98XA0
RWKV-4-World-JPNtuned-7B-v1はなかなかいいね。
可能性を感じる
2023/07/18(火) 19:45:46.18ID:tsJMwZ4y0
ほんとだすまん、kobold.cppは「ggml化した」RWKV対応なんだね。うちはメインマシンがMacなんでビルド必須なんよ・・・
RWKV-4-World-JPNtuned-7B-v1はチャットだと7/14版優秀だね　文書要約とか解析とかだと7/8版が優秀なのでなかなか難しいね
560今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 1e54-/jfo)
垢版 |
2023/07/18(火) 19:53:11.75ID:XlCnvJP/0
>>559
でもチャットモードだと、アダルトな事聞くと怒られるｗ
2023/07/18(火) 19:55:08.53ID:nBa8ibbA0
りんなを見習え
2023/07/18(火) 20:54:33.92ID:mznwoJPha
RWKV-runnerのチャットモードはたぶんシステムプロンプトで回答拒否するように言われてるんやろな　complementのインストラクトとかチャットは普通に回答してくれる
2023/07/18(火) 21:42:58.30ID:nBa8ibbA0
ほんならkobold.cppならいけるわけか
564今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 1e54-NBo5)
垢版 |
2023/07/18(火) 21:58:20.81ID:XlCnvJP/0
いえ、koboldでもチャットモードはエロ禁でした
565今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 81b2-/jfo)
垢版 |
2023/07/19(水) 00:18:44.78ID:KQzY+FiH0
りんなの性能が微妙と言われてもそれ以上が出てこないのは
novelAI流出前にWDで美少女出そうと頑張ってた画像生成を思い出す
日本語OK、エロOKのものは現時点で無さそうな気が・・・
2023/07/19(水) 01:30:43.81ID:j0WtE+IK0
チャットモード以外ならエロは規制されてないって書いてあんだろ
■ このスレッドは過去ログ倉庫に格納されています
5ちゃんねるの広告が気に入らない場合は、こちらをクリックしてください。
ニューススポーツなんでも実況