FluxのTEのggufがあったから検証したんやけど、精度が高いはずのQ8があまり良くないわ
たまたまかもしれんけど

https://files.catbox.moe/vghc1c.jpg　←fp16
https://files.catbox.moe/b2kpah.jpg　←fp8
https://files.catbox.moe/lvllvc.jpg　←Q8_0
https://files.catbox.moe/z56peu.jpg　←Q5_K_M
https://files.catbox.moe/38tc47.jpg　←Q3_K_S