u_format: Fix bit definition of UF10_MANTISSA_BITS.
authorEric Anholt <eric@anholt.net>
Tue, 25 Oct 2011 23:50:44 +0000 (16:50 -0700)
committerEric Anholt <eric@anholt.net>
Fri, 28 Oct 2011 19:09:47 +0000 (12:09 -0700)
This is only used in the code for packing to INF, and resulted in an
extra bit set that was set anyway, so it was harmless except for the
confusion caused.

Reviewed-by: Marek Olšák <maraeo@gmail.com>
Reviewed-by: Ian Romanick <ian.d.romanick@intel.com>
src/gallium/auxiliary/util/u_format_r11g11b10f.h

index 8e0572aa7ce71a20f3500f1bf0e55be40226d317..b1946f8a3d800af0e156e86f21b0f5533a753e9f 100644 (file)
@@ -37,7 +37,7 @@
 #define UF10_EXPONENT_BIAS   15
 #define UF10_EXPONENT_BITS   0x1F
 #define UF10_EXPONENT_SHIFT  5
-#define UF10_MANTISSA_BITS   0x3F
+#define UF10_MANTISSA_BITS   0x1F
 #define UF10_MANTISSA_SHIFT  (23 - UF10_EXPONENT_SHIFT)
 #define UF10_MAX_EXPONENT    (UF10_EXPONENT_BITS << UF10_EXPONENT_SHIFT)