st/mesa: Treat vertex outputs absent in outputMapping as zero in mesa_to_tgsi
[mesa.git] / src / mesa / state_tracker / st_program.h
index 88aadbd75102a5e01a1591695a946045819829e3..7483450eae5e4f9ae791488ff6bc5ea71ff7bef9 100644 (file)
@@ -1,6 +1,6 @@
 /**************************************************************************
  * 
- * Copyright 2003 Tungsten Graphics, Inc., Cedar Park, Texas.
+ * Copyright 2003 VMware, Inc.
  * All Rights Reserved.
  * 
  * Permission is hereby granted, free of charge, to any person obtaining a
@@ -18,7 +18,7 @@
  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS
  * OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF
  * MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND NON-INFRINGEMENT.
- * IN NO EVENT SHALL TUNGSTEN GRAPHICS AND/OR ITS SUPPLIERS BE LIABLE FOR
+ * IN NO EVENT SHALL VMWARE AND/OR ITS SUPPLIERS BE LIABLE FOR
  * ANY CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT,
  * TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN CONNECTION WITH THE
  * SOFTWARE OR THE USE OR OTHER DEALINGS IN THE SOFTWARE.
@@ -27,7 +27,7 @@
 
  /*
   * Authors:
-  *   Keith Whitwell <keith@tungstengraphics.com>
+  *   Keith Whitwell <keithw@vmware.com>
   */
     
 
 #define ST_PROGRAM_H
 
 #include "main/mtypes.h"
-#include "shader/program.h"
-#include "pipe/p_shader_tokens.h"
+#include "main/atifragshader.h"
+#include "program/program.h"
+#include "pipe/p_state.h"
+#include "tgsi/tgsi_from_mesa.h"
+#include "st_context.h"
+#include "st_texture.h"
+#include "st_glsl_to_tgsi.h"
+
+#ifdef __cplusplus
+extern "C" {
+#endif
+
+#define ST_DOUBLE_ATTRIB_PLACEHOLDER 0xff
+
+struct st_external_sampler_key
+{
+   GLuint lower_nv12;             /**< bitmask of 2 plane YUV samplers */
+   GLuint lower_iyuv;             /**< bitmask of 3 plane YUV samplers */
+   GLuint lower_xy_uxvx;          /**< bitmask of 2 plane YUV samplers */
+   GLuint lower_yx_xuxv;          /**< bitmask of 2 plane YUV samplers */
+   GLuint lower_ayuv;
+   GLuint lower_xyuv;
+};
+
+static inline struct st_external_sampler_key
+st_get_external_sampler_key(struct st_context *st, struct gl_program *prog)
+{
+   unsigned mask = prog->ExternalSamplersUsed;
+   struct st_external_sampler_key key;
+
+   memset(&key, 0, sizeof(key));
+
+   while (unlikely(mask)) {
+      unsigned unit = u_bit_scan(&mask);
+      struct st_texture_object *stObj =
+            st_get_texture_object(st->ctx, prog, unit);
+      enum pipe_format format = st_get_view_format(stObj);
+
+      /* if resource format matches then YUV wasn't lowered */
+      if (format == stObj->pt->format)
+         continue;
+
+      switch (format) {
+      case PIPE_FORMAT_NV12:
+      case PIPE_FORMAT_P010:
+      case PIPE_FORMAT_P016:
+         key.lower_nv12 |= (1 << unit);
+         break;
+      case PIPE_FORMAT_IYUV:
+         key.lower_iyuv |= (1 << unit);
+         break;
+      case PIPE_FORMAT_YUYV:
+         key.lower_yx_xuxv |= (1 << unit);
+         break;
+      case PIPE_FORMAT_UYVY:
+         key.lower_xy_uxvx |= (1 << unit);
+         break;
+      case PIPE_FORMAT_AYUV:
+         key.lower_ayuv |= (1 << unit);
+         break;
+      case PIPE_FORMAT_XYUV:
+         key.lower_xyuv |= (1 << unit);
+         break;
+      default:
+         printf("mesa: st_get_external_sampler_key: unhandled pipe format %u\n",
+                format);
+         break;
+      }
+   }
+
+   return key;
+}
+
+/** Fragment program variant key */
+struct st_fp_variant_key
+{
+   struct st_context *st;         /**< variants are per-context */
+
+   /** for glBitmap */
+   GLuint bitmap:1;               /**< glBitmap variant? */
 
+   /** for glDrawPixels */
+   GLuint drawpixels:1;           /**< glDrawPixels variant */
+   GLuint scaleAndBias:1;         /**< glDrawPixels w/ scale and/or bias? */
+   GLuint pixelMaps:1;            /**< glDrawPixels w/ pixel lookup map? */
 
-struct cso_fragment_shader;
-struct cso_vertex_shader;
-struct translated_vertex_program;
+   /** for ARB_color_buffer_float */
+   GLuint clamp_color:1;
 
+   /** for ARB_sample_shading */
+   GLuint persample_shading:1;
+
+   /** needed for ATI_fragment_shader */
+   GLuint fog:2;
+
+   /** for ARB_depth_clamp */
+   GLuint lower_depth_clamp:1;
+
+   /** for OpenGL 1.0 on modern hardware */
+   GLuint lower_two_sided_color:1;
+
+   GLuint lower_flatshade:1;
+   unsigned lower_alpha_func:3;
+
+   /** needed for ATI_fragment_shader */
+   char texture_targets[MAX_NUM_FRAGMENT_REGISTERS_ATI];
+
+   struct st_external_sampler_key external;
+};
 
 /**
- * Derived from Mesa gl_fragment_program:
+ * Base class for shader variants.
  */
-struct st_fragment_program
+struct st_variant
 {
-   struct gl_fragment_program Base;
-   GLuint serialNo;
+   /** next in linked list */
+   struct st_variant *next;
 
-   GLuint input_to_slot[FRAG_ATTRIB_MAX];  /**< Maps FRAG_ATTRIB_x to slot */
-   GLuint num_input_slots;
+   /** st_context from the shader key */
+   struct st_context *st;
 
-   /** map FP input back to VP output */
-   GLuint input_map[PIPE_MAX_SHADER_INPUTS];
+   void *driver_shader;
+};
 
-   ubyte input_semantic_name[PIPE_MAX_SHADER_INPUTS];
-   ubyte input_semantic_index[PIPE_MAX_SHADER_INPUTS];
+/**
+ * Variant of a fragment program.
+ */
+struct st_fp_variant
+{
+   struct st_variant base;
 
-   struct pipe_shader_state state;
-   void *driver_shader;
+   /** Parameters which generated this version of fragment program */
+   struct st_fp_variant_key key;
 
-   /** Program prefixed with glBitmap prologue */
-   struct st_fragment_program *bitmap_program;
+   /** For glBitmap variants */
    uint bitmap_sampler;
-};
 
+   /** For glDrawPixels variants */
+   unsigned drawpix_sampler;
+   unsigned pixelmap_sampler;
+};
 
 
-struct st_vp_varient_key
+/** Shader key shared by other shaders */
+struct st_common_variant_key
 {
-   char dummy;                  /* currently unused */
+   struct st_context *st;          /**< variants are per-context */
+   bool passthrough_edgeflags;
+
+   /** for ARB_color_buffer_float */
+   bool clamp_color;
+
+   /** both for ARB_depth_clamp */
+   bool lower_depth_clamp;
+   bool clip_negative_one_to_one;
+
+   /** lower glPointSize to gl_PointSize */
+   boolean lower_point_size;
+
+   /* for user-defined clip-planes */
+   uint8_t lower_ucp;
+
+   /* Whether st_variant::driver_shader is for the draw module,
+    * not for the driver.
+    */
+   bool is_draw_shader;
 };
 
 
 /**
- * This represents a vertex program, especially translated to match
- * the inputs of a particular fragment shader.
+ * Common shader variant.
  */
-struct st_vp_varient
+struct st_common_variant
 {
-   /* Parameters which generated this translated version of a vertex
-    * shader:
-    */
-   struct st_vp_varient_key key;
+   struct st_variant base;
 
-   /** TGSI tokens -- why?
+   /* Parameters which generated this variant. */
+   struct st_common_variant_key key;
+
+   /* Bitfield of VERT_BIT_* bits matching vertex shader inputs,
+    * but not include the high part of doubles.
     */
-   struct pipe_shader_state state;
+   GLbitfield vert_attrib_mask;
+};
 
-   /** Driver's compiled shader */
-   void *driver_shader;
 
-   /** For using our private draw module (glRasterPos) */
-   struct draw_vertex_shader *draw_shader;
+/**
+ * Derived from Mesa gl_program:
+ */
+struct st_program
+{
+   struct gl_program Base;
+   struct pipe_shader_state state;
+   struct glsl_to_tgsi_visitor* glsl_to_tgsi;
+   struct ati_fragment_shader *ati_fs;
+   uint64_t affected_states; /**< ST_NEW_* flags to mark dirty when binding */
 
-   /** Next in linked list */
-   struct st_vp_varient *next;  
-};
+   void *serialized_nir;
+   unsigned serialized_nir_size;
 
+   /* used when bypassing glsl_to_tgsi: */
+   struct gl_shader_program *shader_program;
 
+   struct st_variant *variants;
+};
 
 
-/**
- * Derived from Mesa gl_fragment_program:
- */
 struct st_vertex_program
 {
-   struct gl_vertex_program Base;  /**< The Mesa vertex program */
-   GLuint serialNo, lastSerialNo;
+   struct st_program Base;
 
-   /** maps a Mesa VERT_ATTRIB_x to a packed TGSI input index */
-   GLuint input_to_index[VERT_ATTRIB_MAX];
    /** maps a TGSI input index back to a Mesa VERT_ATTRIB_x */
-   GLuint index_to_input[PIPE_MAX_SHADER_INPUTS];
-   GLuint num_inputs;
-
-   /** Maps VERT_RESULT_x to slot */
-   GLuint result_to_output[VERT_RESULT_MAX];
-   ubyte output_semantic_name[VERT_RESULT_MAX];
-   ubyte output_semantic_index[VERT_RESULT_MAX];
-   GLuint num_outputs;
+   ubyte index_to_input[PIPE_MAX_ATTRIBS];
+   ubyte num_inputs;
+   /** Reverse mapping of the above */
+   ubyte input_to_index[VERT_ATTRIB_MAX];
 
-   /** List of translated varients of this vertex program.
-    */
-   struct st_vp_varient *varients;
+   /** Maps VARYING_SLOT_x to slot */
+   ubyte result_to_output[VARYING_SLOT_MAX];
 };
 
 
-static INLINE struct st_fragment_program *
-st_fragment_program( struct gl_fragment_program *fp )
+static inline struct st_program *
+st_program( struct gl_program *cp )
 {
-   return (struct st_fragment_program *)fp;
+   return (struct st_program *)cp;
 }
 
-
-static INLINE struct st_vertex_program *
-st_vertex_program( struct gl_vertex_program *vp )
+static inline void
+st_reference_prog(struct st_context *st,
+                  struct st_program **ptr,
+                  struct st_program *prog)
 {
-   return (struct st_vertex_program *)vp;
+   _mesa_reference_program(st->ctx,
+                           (struct gl_program **) ptr,
+                           (struct gl_program *) prog);
 }
 
+static inline struct st_common_variant *
+st_common_variant(struct st_variant *v)
+{
+   return (struct st_common_variant*)v;
+}
 
-static INLINE void
-st_reference_vertprog(struct st_context *st,
-                      struct st_vertex_program **ptr,
-                      struct st_vertex_program *prog)
+static inline struct st_fp_variant *
+st_fp_variant(struct st_variant *v)
 {
-   _mesa_reference_program(st->ctx,
-                           (struct gl_program **) ptr,
-                           (struct gl_program *) prog);
+   return (struct st_fp_variant*)v;
 }
 
-static INLINE void
-st_reference_fragprog(struct st_context *st,
-                      struct st_fragment_program **ptr,
-                      struct st_fragment_program *prog)
+/**
+ * This defines mapping from Mesa VARYING_SLOTs to TGSI GENERIC slots.
+ */
+static inline unsigned
+st_get_generic_varying_index(struct st_context *st, GLuint attr)
 {
-   _mesa_reference_program(st->ctx,
-                           (struct gl_program **) ptr,
-                           (struct gl_program *) prog);
+   return tgsi_get_generic_gl_varying_index((gl_varying_slot)attr,
+                                            st->needs_texcoord_semantic);
 }
 
+extern void
+st_set_prog_affected_state_flags(struct gl_program *prog);
+
+extern struct st_common_variant *
+st_get_vp_variant(struct st_context *st,
+                  struct st_program *stvp,
+                  const struct st_common_variant_key *key);
+
+
+extern struct st_fp_variant *
+st_get_fp_variant(struct st_context *st,
+                  struct st_program *stfp,
+                  const struct st_fp_variant_key *key);
+
+extern struct st_variant *
+st_get_common_variant(struct st_context *st,
+                      struct st_program *p,
+                      const struct st_common_variant_key *key);
 
 extern void
-st_translate_fragment_program(struct st_context *st,
-                              struct st_fragment_program *fp,
-                              const GLuint inputMapping[]);
+st_release_variants(struct st_context *st, struct st_program *p);
 
+extern void
+st_release_program(struct st_context *st, struct st_program **p);
+
+extern void
+st_destroy_program_variants(struct st_context *st);
 
-/* Called after program string change, discard all previous
- * compilation results.
- */
 extern void
-st_prepare_vertex_program(struct st_context *st,
-                          struct st_vertex_program *stvp);
+st_finalize_nir_before_variants(struct nir_shader *nir);
 
-extern struct st_vp_varient *
+extern void
+st_prepare_vertex_program(struct st_program *stvp);
+
+extern void
+st_translate_stream_output_info(struct gl_program *prog);
+
+extern bool
 st_translate_vertex_program(struct st_context *st,
-                            struct st_vertex_program *stvp,
-                            const struct st_vp_varient_key *key);
+                            struct st_program *stvp);
+
+extern bool
+st_translate_fragment_program(struct st_context *st,
+                              struct st_program *stfp);
+
+extern bool
+st_translate_common_program(struct st_context *st,
+                            struct st_program *stp);
 
-void
-st_vp_release_varients( struct st_context *st,
-                        struct st_vertex_program *stvp );
+extern void
+st_serialize_nir(struct st_program *stp);
 
 extern void
-st_print_shaders(GLcontext *ctx);
+st_finalize_program(struct st_context *st, struct gl_program *prog);
 
+#ifdef __cplusplus
+}
+#endif
 
 #endif