r300g: fix zero-area scissor
authorMarek Olšák <maraeo@gmail.com>
Sun, 17 Jan 2010 22:13:51 +0000 (23:13 +0100)
committerCorbin Simpson <MostAwesomeDude@gmail.com>
Mon, 25 Jan 2010 07:03:29 +0000 (23:03 -0800)
src/gallium/drivers/r300/r300_emit.c

index e07185b7783375e7bb23920b379451d18e7aae31..36d2c64b587e0637e65b7f197db52482b4da8f63 100644 (file)
@@ -686,6 +686,22 @@ void r300_emit_scissor_state(struct r300_context* r300, void* state)
         maxy = MIN2(maxy, scissor->maxy);
     }
 
+    /* Special case for zero-area scissor.
+     *
+     * We can't allow the variables maxx and maxy to be zero because they are
+     * subtracted from later in the code, which would cause emitting ~0 and
+     * making the kernel checker angry.
+     *
+     * Let's consider we change maxx and maxy to 1, which is effectively
+     * a one-pixel area. We must then change minx and miny to a number which is
+     * greater than 1 to get the zero area back. */
+    if (!maxx || !maxy) {
+        minx = 2;
+        miny = 2;
+        maxx = 1;
+        maxy = 1;
+    }
+
     if (r300screen->caps->is_r500) {
         top_left =
             (minx << R300_SCISSORS_X_SHIFT) |