i965: fix segfault on low memory conditions
authorRobert Ellison <papillo@vmware.com>
Fri, 8 May 2009 20:40:38 +0000 (14:40 -0600)
committerRobert Ellison <papillo@vmware.com>
Fri, 8 May 2009 22:32:29 +0000 (16:32 -0600)
When out of memory (in at least one case, triggered by a longrunning
memory leak), this code will segfault and crash.  By checking for the
out-of-memory condition, the system can continue, and will report
the out-of-memory error later, a much preferable outcome.

src/mesa/drivers/dri/i965/brw_wm.c

index 90d74c2885cae413aeca2ec5286604885161e6b7..cd65f57bbc97d5bb3f931bc5576fb4148e9ac6c9 100644 (file)
@@ -146,6 +146,13 @@ static void do_wm_prog( struct brw_context *brw,
    if (c == NULL) {
       brw->wm.compile_data = calloc(1, sizeof(*brw->wm.compile_data));
       c = brw->wm.compile_data;
+      if (c == NULL) {
+         /* Ouch - big out of memory problem.  Can't continue
+          * without triggering a segfault, no way to signal,
+          * so just return.
+          */
+         return;
+      }
    } else {
       memset(c, 0, sizeof(*brw->wm.compile_data));
    }