mesa/st: make sure we remove dead IO variables before handing NIR to backends
authorIago Toral Quiroga <itoral@igalia.com>
Wed, 13 Nov 2019 08:19:22 +0000 (09:19 +0100)
committerIago Toral Quiroga <itoral@igalia.com>
Thu, 14 Nov 2019 09:49:00 +0000 (10:49 +0100)
commitf512965b0b3d70525424f100e534b8ac0a43a376
tree9f5836852e3e3662a9b4ce1e521d36a7df95c8f1
parent66d24a9ef705b8f9f15dab8059b63781f9fb28ca
mesa/st: make sure we remove dead IO variables before handing NIR to backends

Commit "1c2bf82d24a glsl: disable lower_fragdata_array() for NIR drivers"
disabled the GLSL IR lowering that turned gl_FragData from an array into a
collection of scalar outputs under the assumption that this was already being
handled properly elsewhere, however there are some corner cases where NIR
would fail to do this, leaving gl_FragData[] as an array variable. This can
break backends that assume that all their outputs will be scalar and use the
variable definitions from the shader to do their output setup, such as the
case of V3D.

At least one corner case was found in some Portal shaders from shader-db, where
NIR would optimize out the full body of a fragment shader. In this scenario,
the empty shader would keep the original array definition of gl_FragData[],
causing the backend to assert.

We need to do this late enough for it to be effective, since doing it in
st_nir_preprocess does not fix the original problem.

Closes: https://gitlab.freedesktop.org/mesa/mesa/issues/2091
Fixes: 1c2bf82d ("glsl: disable lower_fragdata_array() for NIR drivers")
Reviewed-by: Marek Olšák <marek.olsak@amd.com>
src/mesa/state_tracker/st_glsl_to_nir.cpp