最近 自宅AIチャットに目覚め、ココにたどり着いた
LM Studio
https://lmstudio.ai/

koboldcpp.exe みたいなやつ チャット専用アプリ
koboldcpp.exe よりテキストの吐き出しが早い気がするが、「UESR」「AI」の表示を変える方法が分からず、ついでにアプリの日本語表示にも対応してくれないかメールしてみた

今、エロ様にしてるLLM second-state/Yi-34B-Chat-GGUF
https://huggingface.co/second-state/Yi-34B-Chat-GGUF/tree/main
18GBくらいで使いやすい、たまに中国語の四字熟語吐き出すが、複雑な言い回しも結構理解してくれる様な気がする。

既に出てたら 無視してくれ