rgtc: don't try to access off the end of the block.
authorDave Airlie <airlied@redhat.com>
Wed, 2 Mar 2011 03:14:34 +0000 (13:14 +1000)
committerDave Airlie <airlied@redhat.com>
Wed, 2 Mar 2011 03:14:34 +0000 (13:14 +1000)
if the values are all in the last dword, the high bits can be 0,

This fixes a valgrind warning I saw when playing with mipmaps.

Signed-off-by: Dave Airlie <airlied@redhat.com>
src/mesa/main/texcompress_rgtc.c

index ebdaaf4755db2b3412f902d3989bb5682dc1e9b2..6b4e3b13cbef5e72c29e0127a945b79278e3ee30 100644 (file)
@@ -321,7 +321,7 @@ static void _fetch_texel_rgtc_u(GLint srcRowStride, const GLubyte *pixdata,
    const GLubyte alpha1 = blksrc[1];
    const GLubyte bit_pos = ((j&3) * 4 + (i&3)) * 3;
    const GLubyte acodelow = blksrc[2 + bit_pos / 8];
-   const GLubyte acodehigh = blksrc[3 + bit_pos / 8];
+   const uint8_t acodehigh = (3 + bit_pos / 8) < 8 ? blksrc[3 + bit_pos / 8] : 0;
    const GLubyte code = (acodelow >> (bit_pos & 0x7) |
       (acodehigh  << (8 - (bit_pos & 0x7)))) & 0x7;
 
@@ -351,7 +351,7 @@ static void _fetch_texel_rgtc_s(GLint srcRowStride, const GLbyte *pixdata,
    const GLbyte alpha1 = blksrc[1];
    const GLbyte bit_pos = ((j&3) * 4 + (i&3)) * 3;
    const GLbyte acodelow = blksrc[2 + bit_pos / 8];
-   const GLbyte acodehigh = blksrc[3 + bit_pos / 8];
+   const uint8_t acodehigh = (3 + bit_pos / 8) < 8 ? blksrc[3 + bit_pos / 8] : 0;
    const GLbyte code = (acodelow >> (bit_pos & 0x7) |
       (acodehigh  << (8 - (bit_pos & 0x7)))) & 0x7;