gallivm/nir: fix integer divide SIGFPE
authorDave Airlie <airlied@redhat.com>
Wed, 26 Feb 2020 02:10:54 +0000 (12:10 +1000)
committerMarge Bot <eric+marge@anholt.net>
Wed, 26 Feb 2020 23:20:01 +0000 (23:20 +0000)
commit5370c685da4790834671e88bedbb0f15610e9bef
treef73b218bf2d7d722afc13c0df937b0926f36d1d8
parent954cf8e86b6e0d52c04098604d2daa4305bf6f70
gallivm/nir: fix integer divide SIGFPE

Blender was crashing with a SIGFPE even though the divide by 0
logic was kicking in. I'm not sure why TGSI doesn't get into this state.

The problem was is the numerator was INT_MIN we'd replace the div by
0 with a divide by -1, which is an exception for INT_MIN as INT_MIN/-1
== INT_MAX + 1 (too large for 32-bits). Instead for integer divides
just replace the mask values with 0x7fffffff. Also fix up the
result handling so it aligns with TGSI usage. (gives 0)

Fixes: c717ac1247c3 ("gallivm/nir: wrap idiv to avoid divide by 0 (v2)")
Reviewed-by: Roland Scheidegger <sroland@vmware.com>
Part-of: <https://gitlab.freedesktop.org/mesa/mesa/-/merge_requests/3956>
src/gallium/auxiliary/gallivm/lp_bld_nir.c