glsl/dead_builin_varyings: Fix gl_FragData array lowering
authorIago Toral Quiroga <itoral@igalia.com>
Fri, 27 Nov 2015 11:46:20 +0000 (12:46 +0100)
committerIago Toral Quiroga <itoral@igalia.com>
Tue, 1 Dec 2015 07:30:52 +0000 (08:30 +0100)
The current implementation looks for array dereferences on gl_FragData and
immediately proceeds to lower them, however this is not enough because we
can have array access on vector variables too, like in this code:

out vec4 color;
void main()
{
   int i;
   for (i = 0; i < 4; i++)
      color[i] = 1.0;
}

Fix it by making sure that the actual variable being dereferenced is an array.

Fixes a crash in:
spec/arb_gpu_shader_fp64/execution/built-in-functions/fs-ldexp-dvec4.shader_test

Reviewed-by: Tapani Pälli <tapani.palli@intel.com>
src/glsl/opt_dead_builtin_varyings.cpp

index 68b70eedf9272f3a22da860263fda7387a7117c6..53871130e12f5a0bb9d6161833dc5a7ccbdf1caf 100644 (file)
@@ -85,7 +85,7 @@ public:
    {
       ir_variable *var = ir->variable_referenced();
 
-      if (!var || var->data.mode != this->mode)
+      if (!var || var->data.mode != this->mode || !var->type->is_array())
          return visit_continue;
 
       if (this->find_frag_outputs && var->data.location == FRAG_RESULT_DATA0) {