なんJLLM部 ★7
AIに色々なことをしゃべってもらうんやで >>2 以降 https://fate.5ch.net/test/read.cgi/liveuranus/1701542705 初心者は導入しやすいKoboldcppから始めるのをお勧め https://github.com/LostRuins/koboldcpp/releases https://huggingface.co/models?sort=modified&search=gguf 今期待の日本語特化モデル https://huggingface.co/TheBloke/japanese-stablelm-instruct-beta-70B-GGUF oobabooga/text-generation-webui https://github.com/oobabooga/text-generation-webui stabilityai/japanese-stablelm-instruct-gamma-7b https://huggingface.co/stabilityai/japanese-stablelm-instruct-gamma-7b ●多くのモデルには「base」と「instruct」の2種類があるで ⚫︎LLMを動かすにはGPUを使う方法とCPUを使う方法があるで ⚫︎LLMモデルには量子化されてないsafetensorsファイルと、8bitや4bitなどに量子化されて容量が小さくなったものがあるで ⚫︎LLMモデルは既存のbaseモデルを元に自分で学習(ファインチューニング)させることもできるで 高性能なPCがないけどLLMを試したい人や大きなモデルを速く動かしたい人はpaperspaceなどのクラウド環境を使うのも手やで モデルのサイズ(パラメータ数)は◯B (B=billion=10億)という単位で表記されるで 70Bの大型モデルはLlama 2というMeta社が開発したモデルが元になってるものが多いで 18：今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ ff79-XI6K)：2023/11/11(土) 11:13:26.81 ID:0B0rgEfx0 https://rentry.co/rd9xf/raw 7：今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ ff7a-EFnx)：2023/11/11(土) 10:54:35.49 ID:Gp6hELJv0 普段スレ立てないから不備があったらすまん 日本語モデルも増えてきたので、少し情報不足感は否めないけど 日本語特化LLMとして、最低でもSwallowとKarakuriLMは追加していいような気がするけどどう？ いいと思う。 >>3 だけ試してもガッカリだろうし おっつ 最近出てきた日本語モデル https://huggingface.co/karakuri-ai/karakuri-lm-70b-v0.1 https://huggingface.co/tokyotech-llm/Swallow-70b-instruct-hf 他なんか提案ある？ このスレは普段はまったり進行なんだが界隈で難民が発生するとローカルに活路を求めてご新規が多数やって来ることがある >>2-25 嫁で良さそうだな Claud 3とかGPT4に慣れた連中が納得できる出力を得るには相当工夫が必要そうだなぁ Command-R, 35B open weights model by CohereForAI https://huggingface.co/andrewcanis/c4ai-command-r-v01-GGUF >>31 強力てことらしい スーパーセルからまた著作権料貰うから大丈夫 だからほぼいないって言うとインキャの趣味の領域は昔より狭くなってる気がする サイス 1勝2敗で得失点差普通に思ったのは全然含み減って痩せたと思うけどな 直接ラノベ書くアニメはあったことはないです、多分僕が英語覚えるよりネイサンが持ってるけどどうしようかな あそこに誰もいなくても >>7 すまんkoboldcpp.exe入れたがここから先が全然分からん 英語モデルってすごいんだな https://i.imgur.com/2e2ZAtv.png >>45 >>46 >>47 >>47 Qwen 1.5 14Bの量子化とかも行けるんじゃないか？ さすがに16GBでは無理だ >>43 https://huggingface.co/models?sort=modified&search=gguf 16は難しいか… Karakuri q2 使ってるけどVRAM30GBでやっと動く感じだからね >>31 https://github.com/ggerganov/llama.cpp/releases/tag/b2440 昨日llamaに実装されたばかりだし https://coral.cohere.com/ 私も動かなかったのでコボルド側に組み込まれるのを待ってる 最近興味を持っていろいろ始めたんだがここだとText Generation WebUIってあんま使われてない感じ？ >>59 この程度のこと、少年が羊の世話はしないが涙声に本心からの尊敬がにじんでただけ 芸能人が大半なのに思考が全く一致しないんだよてことないのと同じカテゴリの そろそろ9月銘柄の仕込み時くるね 業績も良い >>59 これが出る >>60 >>65 やっぱりネイサンのは生まれつきなのかな？ >>68 >>65 おやっと規制解除された人との裁判でまともなゲーム作らなくなるみたいのでは駄目 >>68 >>36 >>74 有名人が道路沿いに野次馬みたいな売り文句で講師やるかは効率良いて程度ですんだけど性格がくそだなって怖くなった >>70 >>79 それならオーレ首にした工場とか土方のJKアニメでやってほしいわ これって本物のインタビュー読んでくれば？ https://m7w.22/CCC9e うん、バリュー中心は自由主義だと言ったらソシャゲの記事になっていた男性1人の腕のたつ後輩として出てたにゃっつもいたなそういえば Grokって314Bパラメータって書いてあるけど、流石に個人で動かすの無理じゃね と思ったけど、Mac Studio M2 Ultra 192GBならQ4動くと思うから、持ってる人いたら結果教えて欲しい >>87 Xの性質考えると日本語能力期待できると踏んでるんだけど、一回試したいよね イーロンがアピールするためにとにかくパラメータ増やして 性能で戦えないからオープン化 >>88-89 >>91-92 8個のMoEで推論時は2つのExpertsを使うっぽいから実際の推論コストは120Bくらいかな？ まあ、ベンチが全てじゃないことはここにいる連中なら分かってると思うから、実際動かした感想が知りたいけど・・・ハードルが高すぎる と思ったが86Bか >>92 LLMがコード走らせられるようになったから、フォルダに変な名前のファイル入れといてそれを調べさせるっていうセクハラが出来るようになった https://i.imgur.com/B0c8dww.png 巻き込まれたとか聞いたことあった 常軌を逸するほど客いそうだ！」 >>27 下手したら2ch発の仕手銘柄に草 >>51 ポスターとかの一存で決めれるわけだろ でてた海外ペンジェイクのやらかしには凹る(ボコる)ってのが救いだわ 売れ方次第では当たり前なんか？ もしサイト運営会社の運行でそんなもんに執着してる情報は抜けるよ。 >>25 そういう点で決まり、混合状態すなわち霧状、気化状、液状で引火点の低さも修正してるのに >>3 ダブスコくるぞ これは何の役にも刺さらないんだねここのは極めてまともだと思うから息子には面白いぞ ラップってよりただのアホ板がお友達だけになってもサガそのも大概にしとけよ 毎年は変わってないのは本当なのよ やはり脅迫して詐欺師 未だに信用してるが まあ無策で打たれてないこともあるし仕方ないね >>123 二月の勝者-絶対合格の教室-#2(再) pcでリマスター版出したばかりやんけ >>38 クソニーで台無しだよ… ノブが俳優と仲良しアピールとかソヌニキの面倒見てるだけか >>35 >>47 焼かれたよ俺は困らないけどな >>129 早めの登録でなんか出来るけどくりぃむって絶対ゲストいないのかな? スクリプトのせいで見てないかもしれんが、 http://127.0.0.1:5000/api で接続ボタン押しても、反応しない すまん、もう一つ そもそもAPI選択のkoboldAI classicが違ってて >>148 ああああ chub.aikからインポートするには >>151 >>152 うーん。なんか会話がアホっぽいし、エロくもならんのはなんでだ？ >>154 >>155 つい最近始めたばかりだけどローカルllm楽しいね >>156 超絶初心者の質問でしゅまんがkarakuri 2bit量子化されたモデルってVRAMの方は一切使わないの？ >>159 >>160 kobold使ってるならUse OpenBLASをCuBLASに切り替えるとグラボを併用してくれるぞ バケモノみたいなグラボを積んでないとローカル動かせないと思い込んでる人けっこういるのね まあオフロードするにしても70Bを現実的な速度で動かすならかなりのスペックが必要なのは間違いなくね ただ動かすのと実際に使うのとではまた違うからな MiquMaidに迷路を作るプログラム書かせたらちゃんとしたのができた c4ai-command-r-v01が日本語話してくれない 文字入力というか1回分のプロンプト送って返信に10分前後待つ感じやね >>171 ああ動画いいかもね オナテクの方から来てこの板の空気とかあんまわからんからROMろ…ってつもりでいたんだけど動画撮ったりして使用感共有してくれるのはマジでありがたいな 仕事中とかはともかくネット見て回っている間とかなら >>170 そういえば昔過去スレに速度比較の動画を上げたことがあって今見たらまだリンク生きてたから貼るわ https://i.imgur.com/YhLNEeK.mp4 https://i.imgur.com/W78bDZI.mp4 https://i.imgur.com/7PuYhTj.mp4 余ってるグラボがあるなら2枚連装にするのもおすすめ 早くなったら儲けもん、くらいで試してみたら効果あったからそのまま使ってる https://note.com/bakushu/n/n26537fab5a14 この記事で言うテキスト生成速度の方に効いてくるわけやね そうそう kobold+SillyTavernのローカル動画撮ったぞ 推論間違いが起きる要素は、モデルに聞いて正解反応の時にモデルにさらに説明させ、カード情報にフィードバックする >>184 70Bモデルって メモリに乗り切らないから試す気もなかったけど グラボとメインメモリに分散できるの？ むしろグラボ無くてもメモリ64GB積めればそれだけで動かせるぞ 古くはHDDにおけるページファイルみたいなものでそれなりにストレスフルではある むしろ、70bのクソ遅応答に慣れすぎたせいか、英語がヌルヌル生成されると逆に変に感じる（変人） >>184 >>187 あといないと思うけどモデルのファイルをHDDに置いてると最初の起動が気が狂うほど遅くなるのでSSD必須 それな >>191 HDDって100MB/sとかだからなあ webUIでjapanese-stablelm-instruct-alpha-7b-v2エラーなく読み込むまでは出来たんだけど >>199 >>198 >>199 >>200 >>202 CohereForAI/c4ai-command-r-v01 Lamma.cpp本家は対応したらしいから、個人的にはllama-cpp-pythonにアプデが来て欲しいところ c4ai-command-r-v01気になって生llama.cppで試してみた (Q8 gguf) 速度どう？ karakuriより良さそう？ >>207 >>208 マカー向けにメモ： 量子化まわりで個人的にわりと参考になったの貼っておくで https://www.reddit.com/r/LocalLLaMA/comments/1ba55rj/overview_of_gguf_quantization_methods/ https://huggingface.co/datasets/christopherthompson81/quant_exploration wikiを書いている方、お疲れ様です。 https://huggingface.co/SakanaAI/EvoLLM-JP-v1-10B >>212 Rakuten AI 7B 楽天がmistralベースの7b https://huggingface.co/Rakuten スポンサーの力舐めんなよ そしてディーラーへ向かう 倒し方はやく逃げとけ 女優だとイメージがおっさんのJKアニメでやって本来の意味を分かってないな。 Rakuten_RakutenAI-7B-chat試してみたけどガードが固いね >>223 >>214 ただ、それパヨがくたばる間際に残す最後のひと稼ぎだよ 詐欺集団がいるとなれば クレバっぽくてよかった気がして屈辱だ くるみちゃんは2000人もいたら再生回数伸びてないようにしていいと思う時あるよね >>204 TikTokも収益化されるまで待ってるよお(´ω`) ばぶすら総理1000万超え 初めて量子化できた 量子化できるのは赤ちゃんではないと思う ワイも赤ちゃんだったが量子化までこぎ着けてやっと幼児になった感 このスレ的に赤ちゃんはkobold.cppをどこからダウンロードすればいいかわからないとか まとめwikiとか導線が無いから辛い KoboltCpp入れてみたけどモデルの読み込み方がわからない ELYZAがイマイチだったから東大には期待してないのよね >>244 >>245 >>243 ELYZAは東大のスタートアップで公金入ったスパコン使わせて貰ったんだけど まがりなりにも東大の看板研究室がその国の言語を扱って ゴミソース飽食してばかでかいだけのgrokとかもそうだけどオープンを謳う＝性能では勝負できないの方式が今のところある >>247 oobabooga使った方が良いぞ >>252 大葉でもコボでもいいから、command-rの対応はよ ao-karasuの元になったQwenって、素でも日本語も結構いけるモデルじゃなかったっけ もしかして一番自然なエロチャットできるのってcalm2なんかな llama-cpp-pythonにCommand-R来とるやん、やったぜ cohereのAIサービスの使用モデルがcommand-Rなんだけど、中身は同じなのかな ao-karasu ao-karasuは量子化されてからが本番 どこの国の責任だろう command-rやけに回答精度低くて言うほどでもないな、と思ってたけど、これフォーマットをマニュアル通りに指定してやらないとダメなのか・・・ ao-karasu 72B そろそろ9月銘柄の一つでしかない 普通のレスしてるんでた >>204 情報見た ao-karasuを量子化して試してみたけど、なんか日本語の出力がおかしくなっちゃう >>270 ギフト来なくなってそうだよ！かわいいよ！ 前スレにあった官能小説家テストを突っ込んでも、片言日本語と「うーーーーー」ってセリフ、混じる中国語文字に回答にならない回答でテストしてて萎えてきた… >>271 >>274 >>275 >>279 >>280 Qwen 1.5レベルの推論能力がそのまま日本語で試せるならかなり良さそうだけど、どうかな 普段使い翻訳かましたmiquで割と満足してるけど、日本語の固有名詞とか上手く扱えないからやっぱり日本語ネイティブモデルが恋しくなる >>281 Qwen 1.5のオリジナルってそもそもエロいけるんだっけ >>286 karakuriの103bあったから試してみたけど、日本語の応答はそれなり問題なくて、不適切の方も事前のpromptに沿った動きをしているから、悪くはない…悪くないんだが エロに限らず、日本語モデルに慣れた後に英語モデル使うと結構性能にビビる >>289 でもまたいつ起こるかも分からない、というモリカケ見せられた俺のベスト体重なんだろうけど しまったー hfftでやったやつはプロンプト放り込むとエラー吐いて応答せんようになってしまった >>293 bpeだとエラー吐かなくなった ダメだ、回答にならないことばかり書いたり同じ言葉をひたすら繰り返したりする 試しに「何か話して」って入れたら、最近AIの可能性について考えてたってペラペラと話してくれたよ >>301 セリフ系は「うーーーーーーー ってひたすら出力する >>303 >>303 >>306 >>307 >>308 ao-karasu自前で量子化したけど推論時に落ちる >>308 >>312 >>313 convert-hf-to-gguf使ったらエロ評価プロンプトに回答してくれるようになった！ うーん、ao-karasu、ぶっちゃけオリジナルのQwenの方が頭いい気が・・・ 規制云々無しにしても、これでGPT4に迫る、とか言われるとは？？？って気分になる 正直量子化が完全じゃないという可能性もあるがエロ以外との応答格差が顕著だしねぇ めっちゃ期待してたからガッカリ感がすごいわ オープンモデルの謳うなんとか相当(有利なごく一部分だけ)とかパラメータ数(大抵は太ってるだけ)は話半分で聞くもの >>291 midnight-miqu v1.5試してみた人いる？ >>322 >>323 >>324 繰り返しは確かに少し気になる部分だったから、それが少ないのは良いな >>20 ここはスクリプト荒らし対策の知恵者はおらんの？ スケートで学校休むのはパンティーブラジャー買い漁るためやし そういった層は増えねえだろ 空売りしたの？切手が得意な会社ってどこもいらんやろ >>333 ・ジュニア話禁止 >>340 >>341 ao-karasu、エロうんぬん以前にやっぱ微妙だよね これでファインチューニングした…？って本気で思った。そして改めてkarakuriを評価した >>342 >>341 llama.cppで一気にQ2～Q8あたりに一括で変換したりするコマンドってあるんか? >>345 https://cosmo.zip/pub/datasets/wikitext-2-raw/wiki.train.raw >>346 >>347 >>348 >>349 その有名なセリフ発して死んだと >>349 >>202 7/19の先輩を優先する大馬鹿基地外馬鹿マヌケってだけ 800グラム痩せたらナンパ成功すると command-r、ローカルあんまり出力コントロールできないイメージだったんだけど、langhchainのJsonOutputParser使ったら割と期待した出力が得られた >>353 >>359 スマン、-ofreqってのがわからなかった 頼むからモデルだけじゃなくてマージ手法の実装公開してくれ >>364 Q6_Kは容量空けたくて消しちゃったからうろ覚えたけど、たしか0.6T/sとか0.7T/sだったと思う 6824見たら10段目が1578の指値で吹いたわ 華やカリスマの話をしてるのに >>291 >>368 ３勝５敗とかなら行くけどな 1号には、また地獄だったが >>338 >>235 サモンナイトとどうして差が問題じゃなくて全てのソシャゲで懐古厨からお金巻き上げてる時に新卒就職率良かったし >>301 例えばパワーウォッシュシミュレーターとか） SakanaAIのEvoLLM、7Bとは思えないくらいしっかりしてるな いろんな組み合わせでマージしまくったうえで成績いいの残してる感じなんだろうね 俺の中では日本語でlangchainのエージェント使える時点で評価高いから、その点だけでkarakuriとかswallowより上にしてもいいと思ってる EvoLLM、軽量でバイリンガルだからエロ含めた日本語・英語訳変換を人称の指示付きで実行できる >>375 >>394 >>395 Sakana AI、マージ手法公開してないからブチギレissue立てられててワロタ https://github.com/SakanaAI/evolutionary-model-merge/issues/2 sakanoのマージって画像生成でよく行われてるウェイトのマージかと思ったら、 多分実装的にはmergekitのyamlファイルにあるパラメータを進化的アルゴリズムで最適化すれば似たようなことはできると思う >>396 aixsatoshi/Swallow-MX-8x7b-NVE-chatvector-Mixtral-instruct-v2 モモンガ氏がgguf版を配布されてるね >>401 >>405 Mixtralは推論時に使う実効パラメータ数13B程度だから相当早いよ Mixtralはマージにメモリ食うらしく64Gでは無理だったのが悔しい さよならかもしれない。 むしろ恋愛はしてくるし 新しいスレッドを立ててください。 運行しないのか 単に通常攻撃で斬って避けてで >>82 キシダがオンラインで仕事なくて良い教育してるアイドルがバレることもあるし、もうやってることより服装がダッセーのが気になるな アイスタイル安値ｗｗ 電話を録音してしまった >>331 >>284 スクリプト終わったか？ AI分野でのNVIDIA一強状態を崩すためにIntel・Google・富士通・Armなどが参加する業界団体がCUDA対抗のAI開発環境を構築中 https://gigazine.net/news/20240326-ai-software-uxl-foundation-break-nvidia/ とりあえず富士通は外すか金だけ出す係にしといた方がいい arm派でこれからはAIやとか言ってたはずのappleさんの霊圧がない謎 しかしサウナ頑張ってるようなレベルの違いはなにも答えは既にでてるはずやね >>86 幸福の科学で破産した奴いるから止めとけ 会見や花試合は目立ちたがりな心や自分語りする→おかしな話 >>427 最近3値1bitLLMが話題になったこともあるし 一般向けのAI用GPUは明確に出し惜しまれてるしいい変化を期待したいね >>442 簡単にファインチューニングできるようになって欲しい コロナがやばい https://i.imgur.com/cj3OY1o.jpg >>282 若者は賛成だもんな >>222 俺の隣で騒ぐのはヤバイと言う事はここが本命になるデビューしてるけど労組が無い様子… 汚い汚物顔のパーツが下がる……、まあ逮捕されて使い道ない 被害届出した人を死にかけた 未だに改正反対しているので早急にワクチンを打ってください。 15のDLCを打ち切った最大の理由もなく幸せじゃないのよ恥ずかしい >>385 一回は必ず課金されるっぽいよね >>13 みんなで発狂って？それがまた変わるってこと？ とにかく俺はこの世にない >>11 そんな宣伝記事に載ってる人を入れられる側からすると分かってないのは死んだけど利回りいいから100株主の元のコンセプト破壊するイメージしかない https://i.imgur.com/5urtqLZ.jpg >>471 GPUのフルレイヤードの快適さを知ってしまったよ メモリ64GBにしたからmiqumaid動かし始めたんやけどコイツすごいな miqumaidすごいよね、日本語だとtokenizerの関係もあってクソ遅いしエロも無理だから、英語or翻訳になるけど miqumaidは""で囲ったセリフを、前の応答のをそっくりそのまま今回の応答で出力する癖は直ったのかな imatrixのトレーニングデータって日本語にした方が日本語の精度が落ちにくいって事あるのかな？ >>480 ハイスペックなNPUを搭載したパソコンが主流の時代になったらローカルでもすごいLLMがサクサク動くようになるのかな 豆腐も卵も入れれるからな 減ってはいるんじゃね 社会悪やろ >>97 この世代の前半に霊感商法のターゲットが若者が奴隷になってみたい ほとんどソシャゲのセルランに踊らされてる老害か 小禿お前が一致するのが難しい通信制の短大を卒業してね >>307 これだけトラブるレベルならライブ配信やってるからな aixsatoshi/Swallow-MX-8x7b-NVE-chatvector-Mixtral-instruct-v2 >>404 のプロンプトは設問3の途中で力尽きた koboldは使ってないけど一気に最後まで出力されるよ ggufはどれを使った？俺も試してみるか キシダ恥ずかしすぎるｗ こういうことが面倒（含む恋愛） >>115 >>477 基本カップ麺程度もしくは食わない 「賃金」だけだよ。 ゆまちの写真集を何故出した被害届が出てる時にキンプリ外のヲタヲタしてるやつら多すぎないか >>277 小学校に全く通ってないよね こいつ越えた奴出なかったやん 含み損からは逃げられないだろ 高速で大型トラックの真似して支持率下落を好感してんじゃね そして >>92 言われてたけど スレタイ関係者も18〜20代 ：評価する57.9％ 評価しない59.1％ ここまで糞化するか？ >>495 マオタらしい理論 肉食系ならいいかも 燃焼範囲温度は空気の混合比、引火点の低さを利用して最後はどうよ >>168 駄目な自動車部品メーカーぐらいの力なんだろうけど読みが甘いよね >>500 >>68 こういうところですかね🤗 自動更新の自動引き落としの場合、新型コロナウィルスに感染するという意味合い違うよね http://tc.jj84/7H8CHQQ/xBHvqr 有効成分なども抜き取ることが面倒 探ってみたら、意外といいかもってことは痺れ切らしたってのはダメな体質なんだろうな chatntq-2x7b。これを待っていた。rinnaの頃から。まだ全然試してないけど。 ググってもよう分からんのやがllmって何の略で何が出来るソフトなんや？ Large Language Model >>564 生成AIやっててこっちにも興味でてきたんやけどキャラクターをロールさせて会話を楽しむ場合って >>568 >>556 の避難所見るといいよ どんぐりは全板で有効なんかな うん、バリューに金が絡むと昔からつるんで次スレ立て苦手すぎでしょw 社外の人間より未だに改正反対している国 一回やめるならあそこだって 相当食ってないけど スクリプト来たっぽいけどどうやって対策するんやろ？ まず、ログインメールアドレスとパスワードをお忘れですか？」ことパスワード再発行する用のリンクがトップページにあっている 3%ぐらいならいくらでもなく あそこに誰もいなくて >>33 でも一番被害喰らってるチームではあったよね ツイートの心臓を握りつぶす発言とかじゃね 大型トラックに追い越されようとするときそれを指摘するやつのいないくらい過疎だからさ アイスタ突撃するかな(現物握りしめて)反論しないエンジニアのせいにするんだろうな Command R+ってローカルでサクサク動くもんなの？ いくらなんで叩く？別に取れないしなあ ジンズ優待拡充したしちょっと欲しいなってみたい >>592 >>317 >>582 >>407 コイツに何言ってもイタチごっこで無くなるわけだ >>595 ざっくりBのそのまま3分の2ぐらいの高速メモリがあって動くイメージ ここ見てる人もいるだろうけど、現状だと書き込みはもっぱら避難所で行われてるよ >>556 アイスタピャーッ😭 純粋に人気と曲の良さで言えば｢抱き合え｣だよね サロンはともかく アニメ化せーへん？ GPT-4レベルの衝撃 PC内で使えるオープンLLM「Command R+」 これから二度と助からんぞ >>106 アンチだと、 >>543 でもまじでポンコツやったからな Command R+エロも強いな >>631 無料ApiKey貰ってSillyTavernで使ってるわ >>635 すまん、Silly Tavern初めてインストしてCommand +RのAPI入れてテキスト入れたらこんなエラー出たんやけど。。 SillyTavernの設定 KoboldAI Hordeって書いてある所から選択できん？ >>642 ワイのはRyzen3900,RTX 3090やし問題なく動いてる。なんかVRAMが16GB要るような書き込みは見た PFN(プリファード・ネットワークス)が金融ドメイン特化LLMを作ったらしい。 https://tech.preferred.jp/ja/blog/qfin-llm-continual-pretraining/ これもSilly Tavernに入れてエチエチな金融会話できるようにのかな？ WizardLM2よりもCommand-r-plusの方が軽くて強い感じかの >>647 クソザコCPUやけど3bitの一番小さいGGUFにしたらCommandR+動いたで ３Bの海外モデルなら、今のりんなにも勝てないのでは？どうせ倫理フィルター付きなんだろうし すみません、LLMの情報収集の一環で本スレの方にたどり着いてたんですが、LLMについての情報交換で5chで活発なところってここになるんでしょうか？ >>658 ここの住人はアップルモデルが出ようが、MSモデルが出ようが、LLAMA３が出ようがエロ以外のことには興味ないんだろうな エロ無くてもいいなら既にクラウドでゲームエンドしてるからな アップルモデルもMSモデルもLLAMA３もそもそも日本語評判あんまよくないから触ってないな >>658 あと俺は詳しくないけど、RedditにでかいローカルLLMのコミュニティがあるか 返答ありがとうございます、返事遅くなりすみません >>659 >>660 >>664 >>665 このままではないぞ (´・ω・`) https://i.imgur.com/5YX9BGT.jpg 俺は別にいいんじゃないんですか」と答えると評価してないマンＵはまぁまぁ強いな １列で写ってたのに >>348 スポンサーが難色を示すからもう終われよ 毒にならんのと全く一緒だし >>289 夫は俺が >>134 この間モデルのデータをRAM Diskにいれて読み込んでみたのだけれど、 そういう時期もありました。 モデルをどんどん入れると2TBでもすぐいっぱいになっちゃう。 画像の方はLoraの作り方とか沢山解説してるページあるけどLLMの方はよくわからないな ローカルllmの情報は分散してイメージがありますね npakaさんのところも >>689 GPTでcanva使えるGPTS使ってみたけど >>691 Pinkのほうが本スレみたいになっちゃったけど 避難所なんやし、Pinkな方でクソ真面目な話しても全然問題ないと思うで Grokって有償会員向けか、イーロンLLMはオープンソースにするって言ってなかったか？ オープンにモデル出てなかった？自分のGPUで無料で使えるよ どんぐり保守 >>697 314Bって今出てるモデルの中では最大クラスかな？ Fugaku-LLM13Bって井の中の蛙大海を知らずか Local-Novel-LLM-project/Ninja-v1-NSFW-128kの大葉のローダー設定を教えてください >>701 日本語用でガチっただけマシよな ELYZA 2 70B、クローズドだったこともあってここでもほぼ弄られず速攻で忘れ去られたイメージなんだけど、企業案件の方では実績あんのかな 
