X

なんJLLM部 ★4

■ このスレッドは過去ログ倉庫に格納されています
2023/09/30(土) 08:32:45.60ID:wbO7dX6P0
!extend::vvvvv:1000:512
!extend::vvvvv:1000:512
AIに色々なことをしゃべってもらうんやで
英語ならそこそこのデスクトップPC（できれば＋3060 12GB以上）でもなんぼか楽しめるで
日本語は、どう転んでもローカルで動かせる今の世代はオバカなので
そこは期待しすぎんといてな

自薦・他薦のモデルやツールは>>2以降

なんJLLM部 ★3
https://fate.5ch.net/test/read.cgi/liveuranus/1691639766/
VIPQ2_EXTDAT: default:vvvvv:1000:512:: EXT was configured
2023/10/17(火) 16:37:15.56ID:p+VlejA/M
あ、なんか連投になっちゃった
306今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ d10a-Rzoc)
垢版 |
2023/10/17(火) 17:52:55.03ID:EeWeATl50
>>238
トークンの数増やして
でも増やし過ぎるとメモリ食って落ちるけど
2023/10/17(火) 18:02:43.90ID:D5YBaGtc0
なお画像生成の方のStable DiffusionはマルチＧＰＵに対応していない
ま、そのうち対応するだろうけど、それを聞いて絶望した。
2023/10/17(火) 18:03:46.63ID:TPPj+p2cF
なお画像生成の方のStable DiffusionはマルチＧＰＵに対応していない
ま、そのうち対応するだろうけど、それを聞いて絶望した。
2023/10/18(水) 06:55:47.82ID:Es/4FZj20
>>304
日本語出力に定評のあるOpenBuddyのバージョンアップやな
触り心地どう？
310今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 5954-FTw+)
垢版 |
2023/10/18(水) 09:18:37.52ID:wd+49niq0
baseモデルはダメだった
v13.1は消えてもうた
2023/10/18(水) 12:58:58.46ID:d1JV27f00
>>310
草
なんで消えたん？
2023/10/18(水) 18:56:42.28ID:Es/4FZj20
https://huggingface.co/OpenBuddyEA/OpenBuddy-llama2-70b-v13.1
まあオリジナルは存在してるからそのうちニキがまたgguf版を上げてくれるべ
313今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 2b8c-Fhx2)
垢版 |
2023/10/18(水) 19:53:43.87ID:FzlevhBm0
>>312
OpenBuddyEA　？
こっちにあったんかい！
なんで分けたんだろ
314今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 2b8c-Fhx2)
垢版 |
2023/10/18(水) 19:54:45.08ID:FzlevhBm0
>>312
OpenBuddyEA　？
こっちにあったんかい！
なんで分けたんだろ
2023/10/18(水) 21:51:58.24ID:jQ/yZton0
TensorRT-LLM for Windows
推論速度上がるの期待しとるで
2023/10/19(木) 03:41:46.42ID:uZ+Gjr8o0
https://pc.watch.impress.co.jp/docs/news/1540197.html
これか。
LLM向けライブラリは公開されたらしいから、そのうち誰かが実装するか？
2023/10/19(木) 07:04:04.07ID:smTystBe0
Koboldのバージョンアップで対応してくれるのに期待
2023/10/19(木) 07:27:46.73ID:smTystBe0
「世界トップレベルの大規模言語モデルの開発に着手」──産総研らが表明　目指すのは“GPT-3級の日本語LLM”
https://www.itmedia.co.jp/news/spv/2310/18/news121.html
175Bかい
2023/10/19(木) 08:20:03.87ID:Kv8jjL7R0
一桁小せえよな
2023/10/19(木) 09:33:22.50ID:KcOi4sNe0
最近ファインチューニングに向けて準備してるけど、ぶっちゃけウィキペディア全部学習させればかなり賢くなるんじゃないのか
2023/10/19(木) 09:38:27.65ID:ZxDwY0T90
wikipediaは間違いとデマの巣窟なので
誤ったことをさも事実っぽく返してくる厄介なチューニングになってしまう
2023/10/19(木) 09:42:33.07ID:kEsV8xmS0
ウィキペディア学習はもうやってる
むしろ日本語学習に使えるデータが足りんって聞いたな
323今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 3902-+yyM)
垢版 |
2023/10/19(木) 09:52:33.17ID:V/m+IVwg0
dlsiteのライブラリに数多に存在する同人エロ音声の台本群を
2023/10/19(木) 10:29:21.01ID:VUkoAfJR0
初手アヘりそう…（偏見）
325今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 73fe-FTw+)
垢版 |
2023/10/19(木) 10:29:30.51ID:dJUkQXRM0
>>319
gpt3って165bじゃなかった？
2023/10/19(木) 10:56:25.95ID:KcOi4sNe0
ChatGPTのパラメーター数は非公開
2023/10/19(木) 11:05:29.44ID:AwT/sHXC0
GPT3まではオープンで175Bであってる
ChatGPTとしてサービスしてる3.5から情報非公開
2023/10/19(木) 11:54:10.99ID:KcOi4sNe0
情報共有でいにしえの宝具紹介しておく

ノベルゲー素材抽出ツール
GARbro
https://github.com/morkt/GARbro
このツールだけでかなりのエロゲー素材を抽出することができる

ノベルゲートレースツール
Textractor
https://github.com/Artikash/Textractor
抽出ができないエロゲーでもプレイ中に表示されたテキストをトレースできる
2023/10/19(木) 12:14:52.69ID:0mH4smlb0
ゲームはビジュアルが表示されていること前提でテキストが書かれてるので、
テキストだけの質という意味ではあまりお薦めしない
2023/10/19(木) 12:52:11.98ID:KcOi4sNe0
word2vecとノクターンノベルスを用いてドスケベ単語を学習させた話
https://note.com/happaeight/n/n3b60ccd6cd54
↓
ノベルデータ取得がうまく動かなかったので修正したのがこちら
https://github.com/10228586-kkvc/get_nocnovel
2023/10/19(木) 13:18:53.99ID:bj42T/8V0
テキスト量というよりかはより効果的なデータセットの組み方が整備され画一化され周知されるかだと思うんすよね
やり方がよくわからん上に統一的でないからまごまごしとるわけで
2023/10/19(木) 13:23:56.92ID:Kv8jjL7R0
gpt4が推定で1兆だろ？
なんで後発なのにgpt3とおんなじ規模でやるんだよ意味ねええええ
333今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 1388-w53M)
垢版 |
2023/10/19(木) 13:27:39.74ID:Iiw4gC9k0
日本語特化で175Bなら意味あるだろ
2023/10/19(木) 13:28:55.89ID:bj42T/8V0
自然言語モデルを触った奴はだいたいが抱くであろう『もっといい方法があるんじゃないか』がネックになってると思うんだよな
エロにしか興味ない奴と、他の用途にも使いたい奴の歩調も多分合わない
やればやるほど底しれない手応えがあってテンプレを作り難いんだ
2023/10/19(木) 13:37:28.80ID:Kv8jjL7R0
日本語特化てドメスティックな用途しかないじゃんエロ小説とか
そんなンお金をかけてやることないよ
ビジネス的には英日両方使えないと無価値
2023/10/19(木) 13:50:10.24ID:AwT/sHXC0
最初に成功したOpenAIが理由は分からんがパラメータ数を増やしたら突然賢くなったって所にあるから
そこを論理的に説明するか否定しない限りはパラメータ数を増やすことは正解であり力こそ正義なのだ
337今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜﾝﾐﾝｸﾞｸ MMd3-+yyM)
垢版 |
2023/10/19(木) 14:03:20.32ID:gD6v3xFKM
技術者や学者は細かい理屈を説明出来るって思われがちだけど実際は技術者や学者ほどブラックボックスを捨象してブラックボックスのままにすることに躊躇がないよね
2023/10/19(木) 14:32:38.79ID:KcOi4sNe0
RAGの前段階の素材集めは必要でしょ
2023/10/19(木) 16:21:57.33ID:KcOi4sNe0
エロ単語を学習させる為に辞書を作ることにした。
入力した単語をウィキペディアで意味を調べてSQLiteのデータベースに登録していくスクリプト
https://github.com/10228586-kkvc/worddb

なおwords.db(SQLiteデータベース)の編集にはDB Browser for SQLite等を使用してください。
すでにwords.dbには少し単語を登録してある
2023/10/19(木) 16:57:26.92ID:KcOi4sNe0
とりあえずこれだけの単語を登録してあるので、追加で単語リストがほしいな
おちんちん, オチンチン, ちんちん, ちんぽ, チンポ, チンコ, ちんこ, オチンコ, オチンポ, 肉棒, 男根, おちんぽ, ペニス, キンタマ, ヤリチン, おまんこ, オマンコ, マンコ, まんこ, レイプ, クリトリス, インポ, ウーマナイザー, 飛びっ子, 援交, パパ活, カルピス, チンカス, うんち, ウンチ, セックス, 性行為,
風俗, 売春婦, 娼婦, 遊女, 女郎, 街娼, 立ちんぼ, 風俗嬢, フードル, 男娼, セックスフレンド, セフレ, AV女優, AV男優, 汁男優, 淫乱, 尻軽女, ヤリマン, 肉便器, 筆下ろし, 姫始め, ふたなり, パイパン, 巨根, 巨乳, 爆乳, 貧乳, まな板, マラ, 陰茎, クリ, 陰核, 竿, 包茎, 金玉,
おいなりさん, アナル, アヌス, ケツの穴, 肛門, お尻, ケツ, おっぱい, 乳首, 寸止め, 我慢汁, 尿道球腺液, 早漏, 遅漏, 愛液, 膣分泌液, 潮吹き, 精子, カウパー, おなら, ペッティング, 手淫, 手コキ, 手マン, オナニー, 自慰, マスターベーション, センズリ, シコシコ, マスかき, アナニー,
チクニー, 乳首オナニー, オーラルセックス, フェラチオ, フェラ, クンニリングス, クンニ, パイズリ, 足コキ, 顔面騎乗, 素股, 本番, エクスタシー, 初体験, オナ禁, くぱぁ, フェティシズム, フェチ, グループセックス, 3P, スワッピング, 着衣セックス, ハメ撮り, マン拓, イラマチオ, ディープスロート, ぶっかけ, ごっくん, 精飲,
アナルセックス, 飲尿, スカトロ, エログロ, フィストファック, スカルファック, 一人尺八, 種付け, 性交, 体位, 四十八手, 正常位, 後背位, 騎乗位, 座位, 側位, 立位, 駅弁体位, 屈曲位, まんぐり返し, シックスナイン, 69, だいしゅきホールド, 貝合わせ, 兜合わせ, 射精, 中出し, 膣内射精, 膣外射精, 顔面射精, 顔射, 口内射精, 口内発射, 肛内射精, 性的嗜好, プレイ, デブ専, 肥満嗜好, B専,
ブス好き, フケ専, マザーコンプレックス, マザコン, ロリータコンプレックス, ロリコン, ペドフィリア, ペド, ショタコン, ショタ, おねショタ, スカトロジー, 糞尿愛好症, BDSM, SM, サディズム, サド, マゾヒズム, マゾ, フェムドム, 羞恥プレイ, 放置プレイ, 逆レイプ, 輪姦プレイ, コスプレ, ブルセラ, おむつプレイ,
青姦, 獣姦, 屍姦, 視姦, 露出症, 親子丼, ローションガーゼ, まぐろ, ソープランド, ソープ, ファッションヘルス, ヘルス, デリバリーヘルス, デリヘル, ラブホテル, ラブホ, 売り専, 赤線, 青線, 遊廓, 花街, オナホール, オナホ, スケベ, スケベ椅子, ラブドール, ダッチワイフ, 南極1号, Tバック, 貞操帯, 電マ,
バイアグラ, バイブレーター, バイブ, ディルド, 張形, ひもパン, ピンクローター, ピンロー, ペニスバンド, ペニバン, 三角木馬, ラブローション, ローション, TENGA, エロゲー, 18禁ゲーム, アダルトゲーム, アダルトビデオ, AV, 裏ビデオ, バター犬, エロ本, エロ漫画, 成人コミック, ポルノグラフィ, ポルノ, ゲイ,
レズビアン, 半陰陽, Xジェンダー, トランスジェンダー, 第3の性別, 性器, 男性器, 女性器, 陰核肥大, 小陰茎症, 性的指向, 異性愛, 同性愛, 男性愛, 女性愛, 両性愛, バイセクシャル, 多性愛, 全性愛, 無性愛, 恋愛的指向, 月経, 性的興奮, オーガズム, 妊娠, 精通, 勃起, 夢精, 勃起不全, 異常性欲,
更年期障害, 膣内射精障害, 性教育, 避妊, 性感染症, コンドーム, セーファーセックス, 経口避妊薬, 緊急避妊薬, 不妊, 人工妊娠中絶, 前戯, 後戯, アニリングス, サイバーセックス, 露出狂, キメセク, 挿入, 股間交接, フェミニスト, 売春, 淫行, 近親相姦, わいせつ, 強制わいせつ, 強制性交, 性的虐待, 性的暴行, セクシャルハラスメント, 性暴力, 強姦, 輪姦, セックスワーカー,
ピンクサロン, マッサージパーラー, イメージクラブ, イメクラ, ゴーゴーバー, 春画, アダルトアニメ, エロティカ, 買春ツアー, アダルトグッズショップ, 性具, セックスボット, 媚薬, とびっこ, 援助交際, 売り, 女体盛り, マグロ, 生理, 性的挿入, 異物挿入, セクサロイド, 生殖器
2023/10/19(木) 17:47:16.79ID:K2eovwsl0
>>327
355Bじゃなかったっけ？　と思って確認したらデマ……というか飛ばし記事だったんだな
342今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 8ba4-AzOG)
垢版 |
2023/10/19(木) 18:39:59.06ID:Et5EQmu00
ここで聞くよりかエロ同人誌とかまとめてるサイトとかPixivのタグ一覧から抜粋したほうが良さそう
なんならPixiv百科事典とかなら定義も手に入って一石二鳥なのでは
343今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ d9a4-Fhx2)
垢版 |
2023/10/19(木) 18:42:30.19ID:DWoUI1uK0
Peft(QLoRA)を使ったFinetuneはこれを見てやったら一応完走できたので暇なひとはやってみたら面白いかもね
https://note.com/__olender/n/ne9819f22b807
2023/10/19(木) 19:09:54.38ID:Kv8jjL7R0
奈倉ジェネレーターでも作るつもりかよ
2023/10/19(木) 19:10:17.32ID:Kv8jjL7R0
奈倉ジェネレーターでも作るつもりかよ
2023/10/19(木) 19:14:47.13ID:KcOi4sNe0
重複しててもスキップするだけなんで、隠語をドバっとほしいですね
2023/10/19(木) 19:15:38.86ID:KcOi4sNe0
重複しててもスキップするだけなんで、隠語をドバっとほしいですね
348今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 012c-/4nw)
垢版 |
2023/10/19(木) 23:30:06.18ID:wlhmrGb40
大事なことなので
349今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 8ba4-AzOG)
垢版 |
2023/10/20(金) 01:58:15.09ID:xwQ6GuCV0
ここにいる人ってchubでキャラカード拾ったりしてるん？
350今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 0b48-GrHk)
垢版 |
2023/10/20(金) 04:37:18.18ID:fGmK83If0
ファインチューニングに要求されるスペックってベースにするモデルのパラメータ数で決まるんですか？
351今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 1388-w53M)
垢版 |
2023/10/20(金) 06:46:18.48ID:Yj3aFyLn0
基本的にはそう
2023/10/20(金) 06:58:13.82ID:437LlzKL0
>>349
あまり使ってないな
自分の妄想と性癖を盛り盛りにした初期プロンプトはGoogle Keepに大量に保存してるからいわばこれが自分のキャラカード
2023/10/20(金) 07:18:55.12ID:437LlzKL0
こんなものもある

「官能小説用語表現辞典 ちくま文庫」
「官能小説の醍醐味は、その独特の言語感覚にある。描くべきものが決まっているだけに、その表現の多彩さ、用語の多様さには目を瞠るものがある。
本書は、2005年以前の数年間に発行された官能小説663冊の中から、官能小説に独特と思われる用語や表現をセレクトした用語辞典。約2300語を五十音順に整理し用例を示した、本邦初のユニークな辞典である。文庫化にあたり「絶頂表現」を付加。」

少し古いかも知れないけどな
354今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 2b19-+yyM)
垢版 |
2023/10/20(金) 07:32:38.02ID:2hboL6Zc0
ぐっちょぐっちょ
にちゃあ
しこしこ
むにゅっ
もみもみ
ぎゅうっ
びゅーっ
びゅるるーっ
ドクドク
とろぉーっ

みたいなのたくさんほしい
355今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 2b19-+yyM)
垢版 |
2023/10/20(金) 07:34:58.74ID:2hboL6Zc0
こんにちは、こちらはBingです。擬音の一覧を作るのをお手伝いします。😊
以下の擬音は、あなたが挙げた例と類似したものです。
- ぐっちょぐっちょ -> ぐにゅぐにゅ、ぐちゃぐちゃ、ぐにょぐにょ
- にちゃあ -> にゅるる、にゅっ、にゅるん
- むにゅっ -> むにょん、むにゃあ、むにゅる
- もみもみ -> もにもに、もふもふ、もみじもみじ
- ぎゅうっ -> ぎゅっ、ぎゅるる、ぎゅん
- びゅーっ -> びゅん、びゅるん、びゅおー
- びゅるるーっ -> びりりー、びりりり、びりん
- ドクドク -> ドキドキ、ドクンドクン、ドンドン
- とろぉーっ -> とろんとろん、とろりとろり、とろける
これらの擬音はどうでしょうか？他にも作りたい擬音があれば教えてください。😊
356今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 2b19-+yyM)
垢版 |
2023/10/20(金) 07:35:11.06ID:2hboL6Zc0
もみじもみじすき
2023/10/20(金) 07:37:02.79ID:oIn82wv7F
家庭用ＰＣでファインチューニングする場合QLoRAしかスペック的に厳しいのか
本当のファインチューニングはメモリを膨大に使うのね
2023/10/20(金) 08:30:33.34ID:xeI5h1um0
擬音ってどうやって学習させるべきなんだろうトークンとか分かち書きでちゃんと単語として認識させなきゃいけないのはわかるけど
2023/10/20(金) 08:45:31.68ID:437LlzKL0
擬音は、それぞれ行為や部位と関連づけて学習させるしかないんじゃないの
そうじゃないと「そうじゃない」という使い方が頻発しそうだ
2023/10/20(金) 09:16:02.81ID:onLCDEVt0
昨日の隠語もだけど、文脈ありきだから単語だけでは厳しい気がするなぁ
2023/10/20(金) 09:24:38.34ID:GcasHougM
フランス書院の古本を買ってなかから拾えよ🤣
2023/10/20(金) 09:38:08.07ID:xhRS06lt0
>>359>>360
前の文脈から連想して出てくる可能性の高い単語を選ぶって仕組みだからな
単語だけ覚えさせることは一応は可能だろうけど文脈で学習させないと出てくる確率は0
2023/10/20(金) 10:04:04.32ID:Y/YZa9XU0
ラノベで擬音を学ばせるとひどいことになるな
わざとひどくしたいなら構わないけど
2023/10/20(金) 10:15:43.38ID:xeI5h1um0
VRAM48GBの環境でLoRAファインチューニングするんだったらパラメーターどれくらいのモデルが限界ですか
2023/10/20(金) 10:44:35.76ID:437LlzKL0
>>362
そう思う
単語単体じゃダメで、用例としての文章を大量に学習させて、他の単語との関連性の強さを数値化させる必要がある
というかLLMの学習ってそういうもので、IMEの辞書登録などと同じように考えてはいけない
2023/10/20(金) 10:48:59.45ID:437LlzKL0
だから上の方で出ていた試行例ではノクターンノベルズの文章を丸ごと学習させて、その後特定の単語との関連付けの強さを検証したりしてるわけで
フランス書院買ってこいというのは間違ってないw
2023/10/20(金) 10:55:58.17ID:BS0G47Nr0
確実にアウトな方法だがtorrentやshareにラノベや小説のtxtやocrデータが大量に眠っているんだよなあ…
2023/10/20(金) 10:56:34.13ID:437LlzKL0
大量の学習ってところが重要で、手作業で単語や文章を一つずつ追加するような量ではとても足りない
どこかからごっそりと地引網してくる必要があるのだ
2023/10/20(金) 11:37:13.91ID:xeI5h1um0
文章の学習も必要だし、単語の登録も必要でしょ、トークンとして分かち書きしてくれないと正しく学習してくれない
2023/10/20(金) 16:07:50.70ID:dry6m12j0
突拍子もないテキストを生成させるってのならともかく、
ある程度一貫性のあるテンプレ的なエロを生成させるなら
LLMとif-then式のプログラムの協働が恐らく一番近いと思うわ
371今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ d9cb-Fhx2)
垢版 |
2023/10/20(金) 16:52:56.08ID:+h+GtfMF0
stablelm-base-alpha-7b-v2
日本で一番高い山は何?
→日本では山が多いです。
富士山答えられんモデル久しぶりに見た。大丈夫かStabilityAI
2023/10/20(金) 17:09:52.73ID:xeI5h1um0
7bじゃな、正直どれもつかいものにならんでしょ
りんなとかふざけてるのかと思ったわ、
373今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 2b66-Fhx2)
垢版 |
2023/10/20(金) 17:30:19.92ID:hziFk5nE0
>>371
ooba で動いた？
うちの環境じゃloadできんかったが
2023/10/20(金) 17:44:32.18ID:jr6psq5x0
ちょっと前に試したけどstablelm-instruct-alpha-7b-v2の方ならまあまあまともな回答してた気がするぞ
大葉で動かすならtokenizerをnovelai/nerdstash-tokenizer-v1から持ってくる必要がある
375今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 1388-w53M)
垢版 |
2023/10/20(金) 19:07:34.44ID:Yj3aFyLn0
荒らしに落とされないようあげとく
2023/10/20(金) 21:19:13.79ID:cDKO+PxV0
>>373
エラーの理由わからんけど、もしuse_fastにチェック入ってなかったら、チェック入れるとロード出来るかも
tokenizer変えてないけどそのまま動いた
377今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ d9cb-Fhx2)
垢版 |
2023/10/20(金) 21:45:41.87ID:+h+GtfMF0
>>373
trust-remote-codeとかにチェック入れてTransformerでロードすれば読めると思う
tokenizerは入れてなかった。これをモデルファイルに入れればええんかな?
https://github.com/NovelAI/novelai-tokenizer
NovelAI/nerdstash-tokenizer-v1 · Hugging Face - https://huggingface.co/NovelAI/nerdstash-tokenizer-v1
378今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ d9cb-Fhx2)
垢版 |
2023/10/20(金) 21:59:42.24ID:+h+GtfMF0
このへんのいい感じの日本語モデルリリースされてたけどOobaで呼んでも意味不なテキストしか生成できなかった
暇なら触ってみてくれ
gpt2だけど🥺
https://huggingface.co/llm-jp/llm-jp-13b-instruct-full-jaster-v1.0
2023/10/21(土) 00:05:11.19ID:hzKKE39w0
>>378
こっちでもプロンプトと関係ない英文返してくるだけだな
チャットじゃなくてRAWでサンプルにあったような「質問文 ### 回答：」みたいなのを渡してもダメだった
380今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ a5cb-ANn9)
垢版 |
2023/10/21(土) 02:03:44.19ID:fvfEP2M20
>>379
やっぱそうよな
なんか東大とかMicrosoftとかからめっちゃメンバー揃っててビビるが……
Readmeの通りお作法に沿ってやらないとだめなヤツかもしれん
2023/10/21(土) 07:22:09.32ID:AHNvMefh0
vicunaの13bなら日本語できるけど、クソ真面目な返答しかしない
382今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ fa88-dfVF)
垢版 |
2023/10/21(土) 09:27:35.51ID:W2hUwxsM0
>>378
このリーダーボードを見る限りはかなり性能は良さそうなんだけどなあ
https://wandb.ai/llm-jp-eval/test-eval/reports/llm-jp---Vmlldzo1NzE0NjA1?accessToken=s09hm7xrqg43ls8i25am6t0r7iwjpninwzeelqqgbx53zivlm9s04ixfpv3xgiwm
2023/10/21(土) 10:45:12.80ID:hzKKE39w0
大葉つかわないで動かしてた人の記事では、ちょっと素っ気ないけど日本語で応答してたみたいだから
大葉の何かとうまく噛み合ってないんじゃないかなとは思う
384今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ a6d5-Nl27)
垢版 |
2023/10/21(土) 11:21:35.34ID:N2y9XHPw0
koboldを最新の1.47.1に上げたらinstructモードだと日本語話せず、申し訳しまくりになった( ;∀;)
chatモードでは日本語話すが、申し訳しまくる
2023/10/21(土) 11:40:11.51ID:ZDWNR3uqr
>>384
どのモデルの話？
386今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ a6d5-Nl27)
垢版 |
2023/10/21(土) 12:24:42.81ID:N2y9XHPw0
>>385
TheBloke/agentlm-70B-GGUF
直前のバージョンだと普通に出力できてたのに、1.47.1に上げたら急にできなくなったけど
他のモデルは大丈夫そうだし、たまたま初回がうまく通っただけかもしれん。
これが規制マシマシなのは確か
2023/10/21(土) 12:39:34.79ID:/2y0dOCg0
AgentLMは真面目な用途向けっぽいからな
13BだけどLewdAgentLMなんてのがわざわざアップされてるし
388今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ a524-ANn9)
垢版 |
2023/10/21(土) 13:29:37.39ID:fvfEP2M20
Plamoくん笑かしにくるのやめろ
https://i.imgur.com/wFnZvts.png
2023/10/21(土) 15:28:24.69ID:FcyTmqL+0
>>388
天才かよ
2023/10/21(土) 18:00:27.27ID:FlALRgjS0
本気でやってるからこその笑いってあるからな
391今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ a673-zRoc)
垢版 |
2023/10/21(土) 19:27:13.51ID:yzwdOwl40
ぐう賢い
2023/10/22(日) 19:40:41.03ID:T/imZNGB0
https://twitter.com/VideoCardz/status/1716014473608130788
なんで変な刻み方すんねん
https://twitter.com/thejimwatkins
393今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ a602-f0DH)
垢版 |
2023/10/22(日) 21:03:11.48ID:JDlIVR2m0
TheBloke/Airoboros-L2-70B-3.1.2-GGUF
3.0、3.1と日本語は今一な出来だったが、ここにきて化けた感じがする
下品な口語関西弁が他のモデルに比べて秀逸。
規制も緩く、積極的にエロい展開に向かうｗ
英語はまだ検証してないけど（日本語楽しすぎｗ）、たぶんもっといいんじゃないかな
394今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ a602-f0DH)
垢版 |
2023/10/22(日) 22:37:20.67ID:JDlIVR2m0
日本語で遊ぶときは、できるだけ短い指示にすると、精度上がるね。
長い指示出すと破綻が多くなる
MemoryやWinfoを活用すればもっと遊べるかな？
2023/10/22(日) 23:49:11.96ID:dRLz2mor0
日本語の文法……というか文章の組み立て方がファジーすぎるから
2023/10/23(月) 07:19:56.48ID:qo0Q6vPb0
llm-jpのやつ公開されたけど試した？
2023/10/23(月) 07:32:29.55ID:5XCWLAJg0
モモンガ製のggufモデルはいつもの通りKoboldでは起動できなかった
大葉は未使用
ただこの記事を見る限りあまり期待できなさそう
https://weel.co.jp/media/llm-jp-13b
2023/10/23(月) 08:13:26.03ID:TgueYx4P0
13Bは13Bやねん
2023/10/23(月) 08:31:38.94ID:LwEL7NDf0
llmのパラメータでかいほど強い法則が破れん限りは民主化されんな
GPT5は更に大型化するらしいしPCの性能が伸びたところで巨大企業の持つスパコンに太刀打ちできん
そこに管理され搾取される時代や
2023/10/23(月) 08:37:04.86ID:TgueYx4P0
あるラインに達すればそっからLoRA的なチューンで勝負するのもいけると思う
でもそれってギリ33Bくらいからの話なんだよな
2023/10/23(月) 08:52:28.12ID:zj9QgRnC0
真面目な会話はオンライン使うからエロ特化とかで良いんだけどね
2023/10/23(月) 08:55:03.35ID:/Fr031YC0
儲けられる可能性があるなら搾取が始まるに決まってる
計算資源かぁ～
欲しいなぁ～
403今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ a60b-f0DH)
垢版 |
2023/10/23(月) 08:56:57.34ID:YX9EkBla0
llm-jp/llm-jp-13b-instruct-full-jaster-v1.0
oobaで試したがまともに返答しなかった
2023/10/23(月) 10:01:22.01ID:SOOPQ2vDM
>>403
13bて感じですかね
■ このスレッドは過去ログ倉庫に格納されています
5ちゃんねるの広告が気に入らない場合は、こちらをクリックしてください。
ニューススポーツなんでも実況