st/mesa: fix computing the lowest address for interleaved attribs
authorWiktor Janas <wixorpeek@gmail.com>
Wed, 23 Feb 2011 06:10:12 +0000 (07:10 +0100)
committerMarek Olšák <maraeo@gmail.com>
Wed, 23 Feb 2011 14:19:37 +0000 (15:19 +0100)
Ptr can be very well NULL, so when there are two arrays, with one having
offset 0 (and thus NULL Ptr), and the other having a non-zero offset,
the non-zero value is taken as minimum (because of !low_addr ? start ...).
On 32-bit systems, this somehow works. On 64-bit systems, it leads to crashes.

Signed-off-by: Marek Olšák <maraeo@gmail.com>
src/mesa/state_tracker/st_draw.c

index 11ebd067e4f4ed7efb1535d3ffef4399c9091604..6530a06ade43b7ecde4386e047a64baa57f14af3 100644 (file)
@@ -315,10 +315,13 @@ setup_interleaved_attribs(struct gl_context *ctx,
    const GLubyte *low_addr = NULL;
 
    /* Find the lowest address. */
-   for (attr = 0; attr < vpv->num_inputs; attr++) {
-      const GLubyte *start = arrays[vp->index_to_input[attr]]->Ptr;
+   if(vpv->num_inputs) {
+      low_addr = arrays[vp->index_to_input[0]]->Ptr;
 
-      low_addr = !low_addr ? start : MIN2(low_addr, start);
+      for (attr = 1; attr < vpv->num_inputs; attr++) {
+         const GLubyte *start = arrays[vp->index_to_input[attr]]->Ptr;
+         low_addr = MIN2(low_addr, start);
+      }
    }
 
    for (attr = 0; attr < vpv->num_inputs; attr++) {