svga: Force an RGBA view creation for an RGBA resource
authorSinclair Yeh <syeh@vmware.com>
Tue, 1 Mar 2016 23:55:53 +0000 (15:55 -0800)
committerBrian Paul <brianp@vmware.com>
Fri, 4 Mar 2016 14:57:41 +0000 (07:57 -0700)
glXCreatePixmap() may specify a GLX_TEXTURE_FORMAT_RGB_EXT format
for an RGBA resource, causing us to create an RGBX view for an
RGBA resource, a combination vgpu10 does not support.

When this is detected, change the request to create an RGBA view
instead.

Reviewed-by: Brian Paul <brianp@vmware.com>
src/gallium/drivers/svga/svga_state_sampler.c

index e7b540cc7071b2a379c6189fb8a7e29d60fbd31f..6179a797fa2966f7e8b9ddddfc37a5513edf16be 100644 (file)
@@ -103,8 +103,17 @@ svga_validate_pipe_sampler_view(struct svga_context *svga,
       SVGA3dSurfaceFormat format;
       SVGA3dResourceType resourceDim;
       SVGA3dShaderResourceViewDesc viewDesc;
+      enum pipe_format pformat = sv->base.format;
 
-      format = svga_translate_format(ss, sv->base.format,
+      /* vgpu10 cannot create a BGRX view for a BGRA resource, so force it to
+       * create a BGRA view.
+       */
+      if (pformat == PIPE_FORMAT_B8G8R8X8_UNORM &&
+          sv->base.texture->format == PIPE_FORMAT_B8G8R8A8_UNORM) {
+         pformat = PIPE_FORMAT_B8G8R8A8_UNORM;
+      }
+
+      format = svga_translate_format(ss, pformat,
                                      PIPE_BIND_SAMPLER_VIEW);
       assert(format != SVGA3D_FORMAT_INVALID);