gallivm: fix conversion for pure integer formats
authorRoland Scheidegger <sroland@vmware.com>
Mon, 17 Dec 2012 21:06:40 +0000 (22:06 +0100)
committerRoland Scheidegger <sroland@vmware.com>
Tue, 18 Dec 2012 00:57:35 +0000 (01:57 +0100)
commitdc613f11ddf1f3a6e10c2d99830fb1a84fdb55b2
tree6e8a42e76939548f49617ab40ce971cb0fe2d7b8
parent12f3b3d43732b6f9dbed72457a75b131ad621793
gallivm: fix conversion for pure integer formats

Since the idea is to just expand or shrink the bit width but not otherwise do
conversion we also need to adjust the sign bit according to src, otherwise
the conversion code will incorrectly clamp the values. (Since this only works
for casting to ordinary floats the norm and fixed bits should always be fine.)

This fixes the remaining piglit attribs GL3 failures.

Reviewed-by: José Fonseca <jfonseca@vmware.com>
src/gallium/auxiliary/gallivm/lp_bld_format_aos_array.c