MixtralはCPU処理させるならそこそこ早くて賢いんだが、それをファインチューニングしたのは軒並み劣化しててあかんわ
ファインチューニングはTransformerのバグもあるって見たけど、その対策したものでもオリジナルより理解度が劣る