!extend::vvvvv:1000:512
!extend::vvvvv:1000:512
はい
VIPQ2_EXTDAT: default:vvvvv:1000:512:: EXT was configured
なんJLLM部
レス数が1000を超えています。これ以上書き込みはできません。
!extend::vvvvv:1000:512
!extend::vvvvv:1000:512
はい
VIPQ2_EXTDAT: default:vvvvv:1000:512:: EXT was configured
調教の方がたのしい
今日ほぼ触れとらんけど>>930をwebuiでmodelとlora読み込みの両方試したけどあかんかったで
まだまだローカル学習の道は険しそうやね
ワイはダメなほう・・・ダメなほうなんや・・・！
あとはLLMに自信ニキがこのスレでワイらが積み重ねた失敗の数々を上手く使って、いつか〝次世代えちえちりんな〟へと継いでくれることを切に願うで……😭
WSLが要件に入ってるとhyper-Vを有効にしたり既存の仮想環境を邪魔してしまう
cuda、Python、pytochだけで勘弁して下さいよ
oobaのwebuiもwindowsとubuntu直でやったし今後WSL前提なんてなったら実機ubuntuだけで乗り切る所存や😤
https://huggingface.co/rinna/japanese-gpt-neox-3.6b-instruction-ppo
この辺誰か試した？
寝る前に気付いたのでちょっと触ってみた
確かにppoは語彙力上がってそうやな
自作のチーズケーキを無理やり食わせようとしてきて草
https://imgur.com/eBzycUe.jpg
197行目:tokenizer.encodeの引数
padding=False
201行目:model.generateの引数
repetition_penalty=1.1
あとの確認は明日にするで
これ相当凄ないか？
文面は機械翻訳丸出しやけど全体としては意味が通ってるし理解できなくはなかった
opencalmとかりんな使ってみたけど英語モデルメインで使ってきた身からしたら日本語のモデルは正直イマイチや 英語勢がllamaで盛り上がってる中でgpt-neoxつう一世代前のオーパーツ持ち出してなおかつパラメータ数も日本語モデルでは多い方とは言え7Bでも実用的なローカル向けモデルとしては最低ライン 商標とかライセンス気にしたら日本勢がllamaに手を出せんのは仕方ないんやろうけど
正直日本語LLM作るくらいならオフライン機械翻訳の精度上げたほうが良いんじゃないのかと思ってきた
それは機械翻訳では消えてしまう
その次のこっちの問いも勝手に追加して進めちゃうことが多いのよな
これなんかの設定で変えられるやろか
まあ最悪スクリプト書き換えて2つ目以降は手動でカットすりゃええんやろけど
ここのoneclick installerだけで動いたからそんな難しい事話やなかったで
https://github.com/oobabooga/text-generation-webui/#starting-the-web-ui
llama.cppはLLaMAリーク直後のdallaiで触ったきりやけどvicunaのuncensorはなかなか賢いと思ったで
ここらでまたllama.cppに立ち返ってみるのもええかもな
わかる
えちえちさには口調も重要なファクターやけどまだそこを学習させるのに至ってないのが歯がゆい限りや
おそらくmodel.generateの引数
repetition_penalty=1.1がその調整をしとると思うで
パス通した環境で読みこせたら失敗するけど、デスクトップでフルパス指定したら普通に読み込んでたまげたわ
readme書き換えてくるンゴ
1.1にしてみてもたまに起きるのよな
ChatGPTに頼んで、返事の後にこっちの再返事を自動生成しているときは
そこを削除するようにプログラム作ってもらったわ
。！？ 話者1の名前 :
と来ていたら話者1の名前以降をカットって感じで
ワイの環境やとpadding=Falseとrepetition_penalty=1.1で返答にユーザーの返事が混ざるのは再現できんかったけど、なにが違うのか気になるで
やりますねぇ！
そのアイディアもろてもええですか？
質問の内容にもよるんちゃう？
サンガツ！
こちらの質問で相手の名前と自分の一人称が含まれてるとそれが混同して勝手に続きを書いちゃうとかやろか……
肝心の内容でシシャモが抜けてるのと最後でまた作り方を書いちゃうのはまだ残念ポイントやね
https://imgur.com/YaeW7IB.jpg
このクラスのAIは言われたことをなんでも肯定してそれを前提にしゃべるから
まあ2～3回質問していると破綻することが多いからそしたらリセットや
そこも対応せんとあかんな
ローカルでもいよいよGPT3.5に迫ってると思うとワクワクしてくるゾ
質問の内容を短く解釈してデータベースから言うべき回答引っ張ってきて
その内容をLLMが再成形してくれる とかになるとはかどるんやけどな
AI返答に追加されるユーザーの入力は末尾に追加される感じけ？
それやと"{user_name}:"に完全一致させてそこから文末まで削除でもええかもしれぬい
サンガツや！
同様に！？。で区切って最大でも２文までで切るようにしてみたわ
if f"{user_name}: " in response:
response = response.split(f"{user_name}: ")[0]
ええな
そっちのアイディアももろたで！
rinnaのgpt2とsft・sftv2・ppo・OpenCALM系
>>2以降にdialogニキのギッハブ貼りたければ貼って貰うくらいか
その他有志で役立ちそうな奴を みたいな
paddingとrepetitionコメントアウトしてうんちしてくださいいうてみたけどあかんかったで😭
https://i.imgur.com/pih0225.jpg
とりあえずそのまま直で (f"こんにちは。{user_name}: こんにちは！")をぶち込んでみたら大丈夫そうやった
あとは>>986ニキの出力文章制限とppo sftv2用のpaddingとrepetitionオプションも追加してgithub送りにするで
次スレのことすっかり忘れてスレ消費すぎて申し訳ない……
スレ立てはおまかせしてええやろか？
自分で自分のgithub貼るのもなんかハズいけどこの際やし貼らせてもらうで
あとはwebuiとalpaca_loraと>>794ニキあたりやろか
立てたんでとりあえず>>20までいかせてくれ
https://fate.5ch.net/test/read.cgi/liveuranus/1685613014/
URL抜けてたわ
それええな
たておつ
新しいスレッドを立ててください。
life time: 77日 10時間 46分 10秒
運営にご協力お願いいたします。
───────────────────
《プレミアム会員の主な特典》
★ 5ちゃんねる専用ブラウザからの広告除去
★ 5ちゃんねるの過去ログを取得
★ 書き込み規制の緩和
───────────────────
会員登録には個人情報は一切必要ありません。
月300円から匿名でご購入いただけます。
▼ プレミアム会員登録はこちら ▼
https://premium.5ch.net/
▼ 浪人ログインはこちら ▼
https://login.5ch.net/login.php
レス数が1000を超えています。これ以上書き込みはできません。
ニュース
- 築地市場跡地に5万人規模スタジアム建設へ 事業者は三井不動産など [ぐれ★]
- 【野球】セ･リーグ T 7-0 D [4/19] 阪神4連勝！木浪先制打、森下4号、大山1号ソロ含む3安打、青柳6回無失点 中日完封負け連敗 [鉄チーズ烏★]
- 長渕剛が誹謗中傷に《具合が悪い》と告白…《話があるなら、来てほしい》と性被害告発の元女優に呼びかけ [フォーエバー★]
- サントリーのひろゆき氏起用「伊右衛門 特茶」広告が物議 サントリー「ご意見は今後の参考にさせていただきます」 [Ailuropoda melanoleuca★]
- 東大阪・セブン元オーナーに店舗の明け渡しなど命じた判決確定 最高裁 [少考さん★]
- ダレノガレ明美、自身が拡散した情報は「デマ」の可能性 “ナンパ男が犬を暴行”確認されず「良かった」 [少考さん★]
- 【実況】博衣こよりがえちえち学力テストをした件🧪 ★4
- 主人公が死んで終わる作品 [685821185]
- 今晩久々に嫁とやろうと思う
- モバイルバッテリー充電したまま外出、簡易宿泊所を焼き２人死亡 [256556981]
- コンセントの規格、どう考えても日本が一番使いやすいと判明 [207516352]
- 【情勢調査】乙武、須藤元気や飯山陽にすら負けてるwvw【日経】 [786835273]