check return value of invert_matrix()
authorJonathan Bestien-Filiatrault <joe@x2a.org>
Wed, 12 Sep 2007 22:21:13 +0000 (16:21 -0600)
committerBrian <brian.paul@tungstengraphics.com>
Wed, 12 Sep 2007 22:21:13 +0000 (16:21 -0600)
src/glu/mesa/Makefile
src/glu/mesa/project.c
src/glu/mini/project.c

index 47f95ef024071756496fca20fca97b43a5d2614e..611d7a630c83a45f8de4935c2b7112baf7c51369 100644 (file)
@@ -23,7 +23,7 @@ C_SOURCES = \
 
 OBJECTS = $(C_SOURCES:.c=.o)
 
-INCLUDES = -I. -I- -I$(TOP)/include
+INCLUDES = -I. -I$(TOP)/include
 
 ##### RULES #####
 
index 6fa03267e5394acab0cd0911106c910015f64986..2e79cdf0840477d24c87a886e9184cba34243803 100644 (file)
@@ -346,7 +346,8 @@ gluUnProject(GLdouble winx, GLdouble winy, GLdouble winz,
 
    /* calcul transformation inverse */
    matmul(A, proj, model);
-   invert_matrix(A, m);
+   if (!invert_matrix(A, m))
+      return GL_FALSE;
 
    /* d'ou les coordonnees objets */
    transform_point(out, m, in);
@@ -386,7 +387,8 @@ gluUnProject4(GLdouble winx, GLdouble winy, GLdouble winz, GLdouble clipw,
 
    /* calcul transformation inverse */
    matmul(A, projMatrix, modelMatrix);
-   invert_matrix(A, m);
+   if (!invert_matrix(A, m))
+      return GL_FALSE;
 
    /* d'ou les coordonnees objets */
    transform_point(out, m, in);
index a2747de55f2da1a2ea7ebef54c6d486e85b1f2f9..71279947cf9269602e38d3b5972cfe832bd1f229 100644 (file)
@@ -347,7 +347,8 @@ gluUnProject(GLdouble winx, GLdouble winy, GLdouble winz,
 
    /* calcul transformation inverse */
    matmul(A, proj, model);
-   invert_matrix(A, m);
+   if (!invert_matrix(A, m))
+      return GL_FALSE;
 
    /* d'ou les coordonnees objets */
    transform_point(out, m, in);
@@ -387,7 +388,8 @@ gluUnProject4(GLdouble winx, GLdouble winy, GLdouble winz, GLdouble clipw,
 
    /* calcul transformation inverse */
    matmul(A, projMatrix, modelMatrix);
-   invert_matrix(A, m);
+   if (!invert_matrix(A, m))
+      return GL_FALSE;
 
    /* d'ou les coordonnees objets */
    transform_point(out, m, in);