gallium/util: return FALSE for intersection if there's empty rectangles
authorRoland Scheidegger <sroland@vmware.com>
Tue, 1 Sep 2015 22:29:17 +0000 (16:29 -0600)
committerBrian Paul <brianp@vmware.com>
Tue, 1 Sep 2015 22:29:17 +0000 (16:29 -0600)
commitfec4f5de67b22a7048266fb7e57f49fe6fc3744a
treeaef1e238d4e237fdf322cfe97221564e412aa70a
parent17756876378137003443f9eebb51002564b2ac2a
gallium/util: return FALSE for intersection if there's empty rectangles

It isn't really obvious if intersection test should take into account empty
rectangles or if the caller should do it. But it looks like most callers
actually verified one of the rects but not the other, but since correctly
returning an empty rect that other rect could actually be empty leading to
more bugs. Hence just verify both rects for emptyness in the intersection
test itself which makes the code easier in the caller (though it will be
slower if the caller knows the rectangles are non-empty).

Reviewed-by: Zack Rusin <zackr@vmware.com>
src/gallium/auxiliary/util/u_rect.h