mesa: Fix computation of default vertex attrib stride for 2_10_10_10 formats.
authorPaul Berry <stereotype441@gmail.com>
Wed, 12 Dec 2012 03:14:33 +0000 (19:14 -0800)
committerPaul Berry <stereotype441@gmail.com>
Thu, 13 Dec 2012 18:09:03 +0000 (10:09 -0800)
commit6267853055e4ecb5ce0580316c4aa77935f541d3
tree55039101fe5f59b747e8914acd815a095e3b0369
parent11cea472466f731fa9c44d56f1643dec26e6601c
mesa: Fix computation of default vertex attrib stride for 2_10_10_10 formats.

Previously, if the client program didn't specify a stride when setting
up a vertex attribute, we used _mesa_sizeof_type() to compute the size
of the type, and multiplied it by the number of components.

This didn't work for the 2_10_10_10 formats, since _mesa_sizeof_type()
returns -1 for those types, resulting in all kinds of havoc, since it
was causing the hardware to be programmed with a negative stride
value.

This patch adds a new function _mesa_bytes_per_vertex_attrib(), which
is similar to the existing function _mesa_bytes_per_pixel(), but which
computes the size of a vertex attribute based on the type and the
number of formats.  For packed formats (currently only the 2_10_10_10
formats), it verifies that the number of components is correct and
returns the size of the packed format.  For unpacked formats, it
returns the size of the type times the number of components.

In addition, this patch adds an assertion so that if we ever forget to
update _mesa_bytes_per_vertex_attrib() when adding a new vertex
format, we'll see the problem quickly rather than having to debug a
subtle conformance test failure.

Fixes GLES3 conformance tests
vertex_type_2_10_10_10_rev_{conversion,divisor,stride_pointer}.test.

Reviewed-by: Brian Paul <brianp@vmware.com>
src/mesa/main/glformats.c
src/mesa/main/glformats.h
src/mesa/main/varray.c