swrast: fix broken _swrast_depth_clamp_span()
authorBrian Paul <brianp@vmware.com>
Fri, 15 Jan 2010 21:19:23 +0000 (14:19 -0700)
committerBrian Paul <brianp@vmware.com>
Fri, 15 Jan 2010 21:19:25 +0000 (14:19 -0700)
commit73856817973caab283427c52152672f524c49a07
tree7f08158a7a6035d2750c89dcf642ebef1c22f5e2
parent79a5a2839029eef23f4c238fec6878b5f87ceec3
swrast: fix broken _swrast_depth_clamp_span()

The integer Z clamping range depends on the number of bits
in the Z buffer because that's the scale factor used when we
transform NDC coords by the viewport/depth range.

Fixes fd.o bug #25972 but only for Z buffers up to a depth
of 30 bits.  Beyond that we get into messy integer overflow
issues and things fall apart.
src/mesa/swrast/s_depth.c