mesa: add sanity check assertion in update_array_format
authorBrian Paul <brianp@vmware.com>
Fri, 7 Oct 2016 21:21:58 +0000 (15:21 -0600)
committerBrian Paul <brianp@vmware.com>
Thu, 13 Oct 2016 23:38:49 +0000 (17:38 -0600)
At most, one of the normalized, integer, doubles bools can be true.

Reviewed-by: Mathias Fröhlich <mathias.froehlich@web.de>
src/mesa/main/varray.c

index 9acd868662129a3b7fbc15d27a0a37b502397c38..0f7777bfe3cc2875544fbb80e26b5c5277425db8 100644 (file)
@@ -333,6 +333,9 @@ update_array_format(struct gl_context *ctx,
    GLbitfield typeBit;
    GLenum format = GL_RGBA;
 
+   /* at most, one of these bools can be true */
+   assert((int) normalized + (int) integer + (int) doubles <= 1);
+
    if (ctx->Array.LegalTypesMask == 0 || ctx->Array.LegalTypesMaskAPI != ctx->API) {
       /* Compute the LegalTypesMask only once, unless the context API has
        * changed, in which case we want to compute it again.  We can't do this