mesa: Refactor the entirety of _mesa_format_matches_format_and_type().
authorEric Anholt <eric@anholt.net>
Mon, 19 Aug 2019 22:17:58 +0000 (15:17 -0700)
committerEric Anholt <eric@anholt.net>
Thu, 17 Oct 2019 21:07:29 +0000 (21:07 +0000)
commit75c601b6cf63c077dbfbb5f2f64f683dcf5524b4
tree1862ee5f747d8f7b4b1e501a75c74984926bafba
parentd77c77936b3956e8925504ad980acbff74422e7c
mesa: Refactor the entirety of _mesa_format_matches_format_and_type().

This function was difficult to implement for new formats due to the
combination of endianness and swapbytes support.  Since it's mostly
used for fast paths, bugs in it were often missed during testing.

Just reimplement it on top of the recent
_mesa_format_from_format_and_type() which can give us a canonical
MESA_FORMAT for a format and type enum (while respecting endianness).

Fixes:
- R4G4B4A4_UNORM, B4G4R4_UINT, R4G4B4A4_UINT incorrectly matched with
  swapBytes (you can't just reverse the channels if the channels
  aren't bytes)
- A4R4G4B4_UNORM and A4R4G4B4_UINT missing BGRA/4444_REV matches
- failing to match RGB/BGR unorm8 array formats on BE
2101010 formats incorrectly matching with swapBytes set.
- UINT/SINT byte formats failed to match with swapBytes set.

This deletes the part of tests/mesa_formats.cpp that called
_mesa_format_matches_format_and_type() to make sure it didn't
assertion fail, as it now would assertion fail due to the fact that we
were passing an invalid format (GL_RG) for most types.

Reviewed-by: Kenneth Graunke <kenneth@whitecape.org>
src/mesa/main/format_fallback.py
src/mesa/main/formats.c
src/mesa/main/formats.h
src/mesa/main/glformats.c
src/mesa/main/glformats.h
src/mesa/main/tests/mesa_formats.cpp