F32     bytes=1024 mean_abs_error=0 max_abs_error=0
BF16    bytes=512 mean_abs_error=0.00064384408 max_abs_error=0.0018749833
Q4_K    bytes=144 mean_abs_error=0.033320323 max_abs_error=0.125
Q5_K    bytes=176 mean_abs_error=0.016152341 max_abs_error=0.0625
IQ4_XS  bytes=136 mean_abs_error=0.034725338 max_abs_error=0.1171875
IQ4_XS codebook levels: -127 -104 -83 -65 -49 -35 -22 -10 1 13 25 38 53 69 89 113
