alias.c [...] (init_alias_analysis, [...]): Use memset () instead of bzero ().
[gcc.git] / gcc / local-alloc.c
index 70e1ecc106299e2f62b0cde3b7b3399153d3521c..2315338756bbbdd52fe5f8f93c301cbde99889fe 100644 (file)
@@ -1,5 +1,6 @@
 /* Allocate registers within a basic block, for GNU compiler.
-   Copyright (C) 1987, 88, 91, 93-99, 2000 Free Software Foundation, Inc.
+   Copyright (C) 1987, 1988, 1991, 1993, 1994, 1995, 1996, 1997, 1998,
+   1999, 2000 Free Software Foundation, Inc.
 
 This file is part of GNU CC.
 
@@ -18,7 +19,6 @@ along with GNU CC; see the file COPYING.  If not, write to
 the Free Software Foundation, 59 Temple Place - Suite 330,
 Boston, MA 02111-1307, USA.  */
 
-
 /* Allocation of hard register numbers to pseudo registers is done in
    two passes.  In this pass we consider only regs that are born and
    die once within one basic block.  We do this one basic block at a
@@ -48,7 +48,7 @@ Boston, MA 02111-1307, USA.  */
    Tying is represented with "quantity numbers".
    A non-tied register is given a new quantity number.
    Tied registers have the same quantity number.
-   
+
    We have provision to exempt registers, even when they are contained
    within the block, that can be tied to others that are not contained in it.
    This is so that global_alloc could process them both and tie them then.
@@ -64,10 +64,10 @@ Boston, MA 02111-1307, USA.  */
 #include "rtl.h"
 #include "tm_p.h"
 #include "flags.h"
+#include "hard-reg-set.h"
 #include "basic-block.h"
 #include "regs.h"
 #include "function.h"
-#include "hard-reg-set.h"
 #include "insn-config.h"
 #include "insn-attr.h"
 #include "recog.h"
@@ -139,10 +139,10 @@ struct qty
 
   short phys_reg;
 
-  /* Nonzero if this quantity has been used in a SUBREG that changes
-     its size.  */
+  /* Nonzero if this quantity has been used in a SUBREG in some
+     way that is illegal.  */
 
-  char changes_size;
+  char changes_mode;
 
 };
 
@@ -176,7 +176,6 @@ static short *qty_phys_num_copy_sugg;
 
 static short *qty_phys_num_sugg;
 
-
 /* If (REG N) has been assigned a quantity number, is a register number
    of another register assigned the same quantity number, or -1 for the
    end of the chain.  qty->first_reg point to the head of this chain.  */
@@ -237,44 +236,66 @@ static HARD_REG_SET *regs_live_at;
 static int this_insn_number;
 static rtx this_insn;
 
-/* Used to communicate changes made by update_equiv_regs to
-   memref_referenced_p.  reg_equiv_replacement is set for any REG_EQUIV note
-   found or created, so that we can keep track of what memory accesses might
-   be created later, e.g. by reload.  */
+struct equivalence
+{
+  /* Set when an attempt should be made to replace a register
+     with the associated src entry.  */
+
+  char replace;
+
+  /* Set when a REG_EQUIV note is found or created.  Use to
+     keep track of what memory accesses might be created later,
+     e.g. by reload.  */
+
+  rtx replacement;
 
-static rtx *reg_equiv_replacement;
+  rtx src;
 
-/* Used for communication between update_equiv_regs and no_equiv.  */
-static rtx *reg_equiv_init_insns;
+  /* Loop depth is used to recognize equivalences which appear
+     to be present within the same loop (or in an inner loop).  */
+
+  int loop_depth;
+
+  /* The list of each instruction which initializes this register.  */
+
+  rtx init_insns;
+};
+
+/* reg_equiv[N] (where N is a pseudo reg number) is the equivalence
+   structure for that register.  */
+
+static struct equivalence *reg_equiv;
 
 /* Nonzero if we recorded an equivalence for a LABEL_REF.  */
 static int recorded_label_ref;
 
-static void alloc_qty          PROTO((int, enum machine_mode, int, int));
-static void validate_equiv_mem_from_store PROTO((rtx, rtx, void *));
-static int validate_equiv_mem  PROTO((rtx, rtx, rtx));
-static int contains_replace_regs PROTO((rtx, char *));
-static int memref_referenced_p PROTO((rtx, rtx));
-static int memref_used_between_p PROTO((rtx, rtx, rtx));
-static void update_equiv_regs  PROTO((void));
-static void no_equiv           PROTO((rtx, rtx, void *));
-static void block_alloc                PROTO((int));
-static int qty_sugg_compare            PROTO((int, int));
-static int qty_sugg_compare_1  PROTO((const PTR, const PTR));
-static int qty_compare         PROTO((int, int));
-static int qty_compare_1       PROTO((const PTR, const PTR));
-static int combine_regs                PROTO((rtx, rtx, int, int, rtx, int));
-static int reg_meets_class_p   PROTO((int, enum reg_class));
-static void update_qty_class   PROTO((int, int));
-static void reg_is_set         PROTO((rtx, rtx, void *));
-static void reg_is_born                PROTO((rtx, int));
-static void wipe_dead_reg      PROTO((rtx, int));
-static int find_free_reg       PROTO((enum reg_class, enum machine_mode,
+static void alloc_qty          PARAMS ((int, enum machine_mode, int, int));
+static void validate_equiv_mem_from_store PARAMS ((rtx, rtx, void *));
+static int validate_equiv_mem  PARAMS ((rtx, rtx, rtx));
+static int equiv_init_varies_p  PARAMS ((rtx));
+static int equiv_init_movable_p PARAMS ((rtx, int));
+static int contains_replace_regs PARAMS ((rtx));
+static int memref_referenced_p PARAMS ((rtx, rtx));
+static int memref_used_between_p PARAMS ((rtx, rtx, rtx));
+static void update_equiv_regs  PARAMS ((void));
+static void no_equiv           PARAMS ((rtx, rtx, void *));
+static void block_alloc                PARAMS ((int));
+static int qty_sugg_compare            PARAMS ((int, int));
+static int qty_sugg_compare_1  PARAMS ((const PTR, const PTR));
+static int qty_compare         PARAMS ((int, int));
+static int qty_compare_1       PARAMS ((const PTR, const PTR));
+static int combine_regs                PARAMS ((rtx, rtx, int, int, rtx, int));
+static int reg_meets_class_p   PARAMS ((int, enum reg_class));
+static void update_qty_class   PARAMS ((int, int));
+static void reg_is_set         PARAMS ((rtx, rtx, void *));
+static void reg_is_born                PARAMS ((rtx, int));
+static void wipe_dead_reg      PARAMS ((rtx, int));
+static int find_free_reg       PARAMS ((enum reg_class, enum machine_mode,
                                       int, int, int, int, int));
-static void mark_life          PROTO((int, enum machine_mode, int));
-static void post_mark_life     PROTO((int, enum machine_mode, int, int, int));
-static int no_conflict_p       PROTO((rtx, rtx, rtx));
-static int requires_inout      PROTO((const char *));
+static void mark_life          PARAMS ((int, enum machine_mode, int));
+static void post_mark_life     PARAMS ((int, enum machine_mode, int, int, int));
+static int no_conflict_p       PARAMS ((rtx, rtx, rtx));
+static int requires_inout      PARAMS ((const char *));
 \f
 /* Allocate a new quantity (new within current basic block)
    for register number REGNO which is born at index BIRTH
@@ -300,7 +321,7 @@ alloc_qty (regno, mode, size, birth)
   qty[qtyno].min_class = reg_preferred_class (regno);
   qty[qtyno].alternate_class = reg_alternate_class (regno);
   qty[qtyno].n_refs = REG_N_REFS (regno);
-  qty[qtyno].changes_size = REG_CHANGES_SIZE (regno);
+  qty[qtyno].changes_mode = REG_CHANGES_MODE (regno);
 }
 \f
 /* Main entry point of this file.  */
@@ -343,26 +364,21 @@ local_alloc ()
 
   reg_qty = (int *) xmalloc (max_regno * sizeof (int));
   reg_offset = (char *) xmalloc (max_regno * sizeof (char));
-  reg_next_in_qty = (int *) xmalloc(max_regno * sizeof (int));
+  reg_next_in_qty = (int *) xmalloc (max_regno * sizeof (int));
 
-  /* Allocate the reg_renumber array */
+  /* Allocate the reg_renumber array */
   allocate_reg_info (max_regno, FALSE, TRUE);
 
   /* Determine which pseudo-registers can be allocated by local-alloc.
      In general, these are the registers used only in a single block and
-     which only die once.  However, if a register's preferred class has only
-     a few entries, don't allocate this register here unless it is preferred
-     or nothing since retry_global_alloc won't be able to move it to
-     GENERAL_REGS if a reload register of this class is needed.
+     which only die once.
 
      We need not be concerned with which block actually uses the register
      since we will never see it outside that block.  */
 
   for (i = FIRST_PSEUDO_REGISTER; i < max_regno; i++)
     {
-      if (REG_BASIC_BLOCK (i) >= 0 && REG_N_DEATHS (i) == 1
-         && (reg_alternate_class (i) == NO_REGS
-             || ! CLASS_LIKELY_SPILLED_P (reg_preferred_class (i))))
+      if (REG_BASIC_BLOCK (i) >= 0 && REG_N_DEATHS (i) == 1)
        reg_qty[i] = -2;
       else
        reg_qty[i] = -1;
@@ -395,7 +411,7 @@ local_alloc ()
       else
        {
 #define CLEAR(vector)  \
-         bzero ((char *) (vector), (sizeof (*(vector))) * next_qty);
+         memset ((char *) (vector), 0, (sizeof (*(vector))) * next_qty);
 
          CLEAR (qty_phys_copy_sugg);
          CLEAR (qty_phys_num_copy_sugg);
@@ -421,9 +437,6 @@ local_alloc ()
   return recorded_label_ref;
 }
 \f
-/* Depth of loops we are in while in update_equiv_regs.  */
-static int loop_depth;
-
 /* Used for communication between the following two functions: contains
    a MEM that we wish to ensure remains unchanged.  */
 static rtx equiv_mem;
@@ -473,7 +486,7 @@ validate_equiv_mem (start, reg, memref)
 
   for (insn = start; insn && ! equiv_mem_modified; insn = NEXT_INSN (insn))
     {
-      if (GET_RTX_CLASS (GET_CODE (insn)) != 'i')
+      if (! INSN_P (insn))
        continue;
 
       if (find_reg_note (insn, REG_DEAD, reg))
@@ -501,12 +514,133 @@ validate_equiv_mem (start, reg, memref)
   return 0;
 }
 
-/* TRUE if X uses any registers for which reg_equiv_replace is true.  */
+/* Returns zero if X is known to be invariant.  */
+
+static int
+equiv_init_varies_p (x)
+     rtx x;
+{
+  register RTX_CODE code = GET_CODE (x);
+  register int i;
+  register const char *fmt;
+
+  switch (code)
+    {
+    case MEM:
+      return ! RTX_UNCHANGING_P (x) || equiv_init_varies_p (XEXP (x, 0));
+
+    case QUEUED:
+      return 1;
+
+    case CONST:
+    case CONST_INT:
+    case CONST_DOUBLE:
+    case SYMBOL_REF:
+    case LABEL_REF:
+      return 0;
+
+    case REG:
+      return reg_equiv[REGNO (x)].replace == 0 && rtx_varies_p (x);
+
+    case ASM_OPERANDS:
+      if (MEM_VOLATILE_P (x))
+       return 1;
+
+      /* FALLTHROUGH */
+
+    default:
+      break;
+    }
+
+  fmt = GET_RTX_FORMAT (code);
+  for (i = GET_RTX_LENGTH (code) - 1; i >= 0; i--)
+    if (fmt[i] == 'e')
+      {
+       if (equiv_init_varies_p (XEXP (x, i)))
+         return 1;
+      }
+    else if (fmt[i] == 'E')
+      {
+       int j;
+       for (j = 0; j < XVECLEN (x, i); j++)
+         if (equiv_init_varies_p (XVECEXP (x, i, j)))
+           return 1;
+      }
+
+  return 0;
+}
+
+/* Returns non-zero if X (used to initialize register REGNO) is movable.
+   X is only movable if the registers it uses have equivalent initializations
+   which appear to be within the same loop (or in an inner loop) and movable
+   or if they are not candidates for local_alloc and don't vary.  */
 
 static int
-contains_replace_regs (x, reg_equiv_replace)
+equiv_init_movable_p (x, regno)
+     rtx x;
+     int regno;
+{
+  int i, j;
+  const char *fmt;
+  enum rtx_code code = GET_CODE (x);
+
+  switch (code)
+    {
+    case SET:
+      return equiv_init_movable_p (SET_SRC (x), regno);
+
+    case CLOBBER:
+      return 0;
+
+    case PRE_INC:
+    case PRE_DEC:
+    case POST_INC:
+    case POST_DEC:
+    case PRE_MODIFY:
+    case POST_MODIFY:
+      return 0;
+
+    case REG:
+      return (reg_equiv[REGNO (x)].loop_depth >= reg_equiv[regno].loop_depth
+             && reg_equiv[REGNO (x)].replace)
+            || (REG_BASIC_BLOCK (REGNO (x)) < 0 && ! rtx_varies_p (x));
+
+    case UNSPEC_VOLATILE:
+      return 0;
+
+    case ASM_OPERANDS:
+      if (MEM_VOLATILE_P (x))
+       return 0;
+
+      /* FALLTHROUGH */
+
+    default:
+      break;
+    }
+
+  fmt = GET_RTX_FORMAT (code);
+  for (i = GET_RTX_LENGTH (code) - 1; i >= 0; i--)
+    switch (fmt[i])
+      {
+      case 'e':
+       if (! equiv_init_movable_p (XEXP (x, i), regno))
+         return 0;
+       break;
+      case 'E':
+       for (j = XVECLEN (x, i) - 1; j >= 0; j--)
+         if (! equiv_init_movable_p (XVECEXP (x, i, j), regno))
+           return 0;
+       break;
+      }
+
+  return 1;
+}
+
+/* TRUE if X uses any registers for which reg_equiv[REGNO].replace is true.  */
+
+static int
+contains_replace_regs (x)
      rtx x;
-     char *reg_equiv_replace;
 {
   int i, j;
   const char *fmt;
@@ -526,7 +660,7 @@ contains_replace_regs (x, reg_equiv_replace)
       return 0;
 
     case REG:
-      return reg_equiv_replace[REGNO (x)];
+      return reg_equiv[REGNO (x)].replace;
 
     default:
       break;
@@ -537,12 +671,12 @@ contains_replace_regs (x, reg_equiv_replace)
     switch (fmt[i])
       {
       case 'e':
-       if (contains_replace_regs (XEXP (x, i), reg_equiv_replace))
+       if (contains_replace_regs (XEXP (x, i)))
          return 1;
        break;
       case 'E':
        for (j = XVECLEN (x, i) - 1; j >= 0; j--)
-         if (contains_replace_regs (XVECEXP (x, i, j), reg_equiv_replace))
+         if (contains_replace_regs (XVECEXP (x, i, j)))
            return 1;
        break;
       }
@@ -576,9 +710,9 @@ memref_referenced_p (memref, x)
       return 0;
 
     case REG:
-      return (reg_equiv_replacement[REGNO (x)]
+      return (reg_equiv[REGNO (x)].replacement
              && memref_referenced_p (memref,
-                                     reg_equiv_replacement[REGNO (x)]));
+                                     reg_equiv[REGNO (x)].replacement));
 
     case MEM:
       if (true_dependence (memref, VOIDmode, x, rtx_varies_p))
@@ -597,7 +731,7 @@ memref_referenced_p (memref, x)
        return 1;
 
       return memref_referenced_p (memref, SET_SRC (x));
-      
+
     default:
       break;
     }
@@ -633,8 +767,7 @@ memref_used_between_p (memref, start, end)
 
   for (insn = NEXT_INSN (start); insn != NEXT_INSN (end);
        insn = NEXT_INSN (insn))
-    if (GET_RTX_CLASS (GET_CODE (insn)) == 'i'
-       && memref_referenced_p (memref, PATTERN (insn)))
+    if (INSN_P (insn) && memref_referenced_p (memref, PATTERN (insn)))
       return 1;
 
   return 0;
@@ -667,23 +800,18 @@ function_invariant_p (x)
 static void
 update_equiv_regs ()
 {
-  /* Set when an attempt should be made to replace a register with the
-     associated reg_equiv_replacement entry at the end of this function.  */
-  char *reg_equiv_replace;
   rtx insn;
-  int block, depth;
+  int block;
+  int loop_depth;
 
-  reg_equiv_replace = (char *) xcalloc (max_regno, sizeof *reg_equiv_replace);
-  reg_equiv_init_insns = (rtx *) xcalloc (max_regno, sizeof (rtx));
-  reg_equiv_replacement = (rtx *) xcalloc (max_regno, sizeof (rtx));
+  reg_equiv = (struct equivalence *) xcalloc (max_regno, sizeof *reg_equiv);
 
   init_alias_analysis ();
 
-  loop_depth = 0;
-
   /* Scan the insns and find which registers have equivalences.  Do this
      in a separate scan of the insns because (due to -fcse-follow-jumps)
      a register can be set below its use.  */
+  loop_depth = 0;
   for (insn = get_insns (); insn; insn = NEXT_INSN (insn))
     {
       rtx note;
@@ -694,12 +822,16 @@ update_equiv_regs ()
       if (GET_CODE (insn) == NOTE)
        {
          if (NOTE_LINE_NUMBER (insn) == NOTE_INSN_LOOP_BEG)
-           loop_depth++;
+           ++loop_depth;
          else if (NOTE_LINE_NUMBER (insn) == NOTE_INSN_LOOP_END)
-           loop_depth--;
+           {
+             if (! loop_depth)
+               abort ();
+             --loop_depth;
+           }
        }
 
-      if (GET_RTX_CLASS (GET_CODE (insn)) != 'i')
+      if (! INSN_P (insn))
        continue;
 
       for (note = REG_NOTES (insn); note; note = XEXP (note, 1))
@@ -739,29 +871,29 @@ update_equiv_regs ()
         Don't add a REG_EQUIV note if the insn already has one.  The existing
         REG_EQUIV is likely more useful than the one we are adding.
 
-        If one of the regs in the address is marked as reg_equiv_replace,
-        then we can't add this REG_EQUIV note.  The reg_equiv_replace
+        If one of the regs in the address has reg_equiv[REGNO].replace set,
+        then we can't add this REG_EQUIV note.  The reg_equiv[REGNO].replace
         optimization may move the set of this register immediately before
-        insn, which puts it after reg_equiv_init_insns[regno], and hence
+        insn, which puts it after reg_equiv[REGNO].init_insns, and hence
         the mention in the REG_EQUIV note would be to an uninitialized
         pseudo.  */
       /* ????? This test isn't good enough; we might see a MEM with a use of
         a pseudo register before we see its setting insn that will cause
-        reg_equiv_replace for that pseudo to be set.
+        reg_equiv[].replace for that pseudo to be set.
         Equivalences to MEMs should be made in another pass, after the
-        reg_equiv_replace information has been gathered.  */
+        reg_equiv[].replace information has been gathered.  */
 
       if (GET_CODE (dest) == MEM && GET_CODE (src) == REG
          && (regno = REGNO (src)) >= FIRST_PSEUDO_REGISTER
          && REG_BASIC_BLOCK (regno) >= 0
          && REG_N_SETS (regno) == 1
-         && reg_equiv_init_insns[regno] != 0
-         && reg_equiv_init_insns[regno] != const0_rtx
-         && ! find_reg_note (XEXP (reg_equiv_init_insns[regno], 0),
+         && reg_equiv[regno].init_insns != 0
+         && reg_equiv[regno].init_insns != const0_rtx
+         && ! find_reg_note (XEXP (reg_equiv[regno].init_insns, 0),
                              REG_EQUIV, NULL_RTX)
-         && ! contains_replace_regs (XEXP (dest, 0), reg_equiv_replace))
+         && ! contains_replace_regs (XEXP (dest, 0)))
        {
-         rtx init_insn = XEXP (reg_equiv_init_insns[regno], 0);
+         rtx init_insn = XEXP (reg_equiv[regno].init_insns, 0);
          if (validate_equiv_mem (init_insn, src, dest)
              && ! memref_used_between_p (dest, init_insn, insn))
            REG_NOTES (init_insn)
@@ -782,7 +914,7 @@ update_equiv_regs ()
 
       if (GET_CODE (dest) != REG
          || (regno = REGNO (dest)) < FIRST_PSEUDO_REGISTER
-         || reg_equiv_init_insns[regno] == const0_rtx
+         || reg_equiv[regno].init_insns == const0_rtx
          || (CLASS_LIKELY_SPILLED_P (reg_preferred_class (regno))
              && GET_CODE (src) == MEM))
        {
@@ -791,35 +923,38 @@ update_equiv_regs ()
          note_stores (set, no_equiv, NULL);
          continue;
        }
-      /* Don't handle the equivalence if the source is in a register
-        class that's likely to be spilled.  */
-      if (GET_CODE (src) == REG
-         && REGNO (src) >= FIRST_PSEUDO_REGISTER
-         && CLASS_LIKELY_SPILLED_P (reg_preferred_class (REGNO (src))))
-       {
-         no_equiv (dest, set, NULL);
-         continue;
-       }
 
       note = find_reg_note (insn, REG_EQUAL, NULL_RTX);
 
+      /* cse sometimes generates function invariants, but doesn't put a
+        REG_EQUAL note on the insn.  Since this note would be redundant,
+         there's no point creating it earlier than here.  */
+      if (! note && ! rtx_varies_p (src))
+       REG_NOTES (insn)
+         = note = gen_rtx_EXPR_LIST (REG_EQUAL, src, REG_NOTES (insn));
+
+      /* Don't bother considering a REG_EQUAL note containing an EXPR_LIST
+        since it represents a function call */
+      if (note && GET_CODE (XEXP (note, 0)) == EXPR_LIST)
+       note = NULL_RTX;
+
       if (REG_N_SETS (regno) != 1
          && (! note
-             || ! function_invariant_p (XEXP (note, 0))
-             || (reg_equiv_replacement[regno]
+             || rtx_varies_p (XEXP (note, 0))
+             || (reg_equiv[regno].replacement
                  && ! rtx_equal_p (XEXP (note, 0),
-                                   reg_equiv_replacement[regno]))))
+                                   reg_equiv[regno].replacement))))
        {
          no_equiv (dest, set, NULL);
          continue;
        }
       /* Record this insn as initializing this register.  */
-      reg_equiv_init_insns[regno]
-       = gen_rtx_INSN_LIST (VOIDmode, insn, reg_equiv_init_insns[regno]);
+      reg_equiv[regno].init_insns
+       = gen_rtx_INSN_LIST (VOIDmode, insn, reg_equiv[regno].init_insns);
 
       /* If this register is known to be equal to a constant, record that
         it is always equivalent to the constant.  */
-      if (note && function_invariant_p (XEXP (note, 0)))
+      if (note && ! rtx_varies_p (XEXP (note, 0)))
        PUT_MODE (note, (enum machine_mode) REG_EQUIV);
 
       /* If this insn introduces a "constant" register, decrease the priority
@@ -836,7 +971,7 @@ update_equiv_regs ()
         a register used only in one basic block from a MEM.  If so, and the
         MEM remains unchanged for the life of the register, add a REG_EQUIV
         note.  */
-        
+
       note = find_reg_note (insn, REG_EQUIV, NULL_RTX);
 
       if (note == 0 && REG_BASIC_BLOCK (regno) >= 0
@@ -860,9 +995,10 @@ update_equiv_regs ()
                  && (GET_CODE (XEXP (XEXP (XEXP (note, 0), 0), 0))
                      == LABEL_REF)))
            recorded_label_ref = 1;
-         
-        
-         reg_equiv_replacement[regno] = XEXP (note, 0);
+
+         reg_equiv[regno].replacement = XEXP (note, 0);
+         reg_equiv[regno].src = src;
+         reg_equiv[regno].loop_depth = loop_depth;
 
          /* Don't mess with things live during setjmp.  */
          if (REG_LIVE_LENGTH (regno) >= 0)
@@ -874,9 +1010,11 @@ update_equiv_regs ()
 
              /* If the register is referenced exactly twice, meaning it is
                 set once and used once, indicate that the reference may be
-                replaced by the equivalence we computed above.  If the
-                register is only used in one basic block, this can't succeed
-                or combine would have done it.
+                replaced by the equivalence we computed above.  Do this
+                even if the register is only used in one block so that
+                dependencies can be handled where the last register is
+                used in a different block (i.e. HIGH / LO_SUM sequences)
+                and to reduce the number of registers alive across calls.
 
                 It would be nice to use "loop_depth * 2" in the compare
                 below.  Unfortunately, LOOP_DEPTH need not be constant within
@@ -886,9 +1024,11 @@ update_equiv_regs ()
                 memory and then used exactly once, not in a loop.  */
 
                if (REG_N_REFS (regno) == 2
-                   && REG_BASIC_BLOCK (regno) < 0
-                   && rtx_equal_p (XEXP (note, 0), SET_SRC (set)))
-                 reg_equiv_replace[regno] = 1;
+                   && (rtx_equal_p (XEXP (note, 0), src)
+                       || ! equiv_init_varies_p (src))
+                   && GET_CODE (insn) == INSN
+                   && equiv_init_movable_p (PATTERN (insn), regno))
+                 reg_equiv[regno].replace = 1;
            }
        }
     }
@@ -897,32 +1037,34 @@ update_equiv_regs ()
      registers only used that once.  If so, see if we can replace the
      reference with the equivalent from.  If we can, delete the
      initializing reference and this register will go away.  If we
-     can't replace the reference, and the instruction is not in a
-     loop, then move the register initialization just before the use,
-     so that they are in the same basic block.  */
-  block = -1;
-  depth = 0;
-  for (insn = get_insns (); insn; insn = NEXT_INSN (insn))
+     can't replace the reference, and the initialzing reference is
+     within the same loop (or in an inner loop), then move the register
+     initialization just before the use, so that they are in the same
+     basic block.
+
+     Skip this optimization if loop_depth isn't initially zero since
+     that indicates a mismatch between loop begin and loop end notes
+     (i.e. gcc.dg/noncompile/920721-2.c).  */
+  block = n_basic_blocks - 1;
+  for (insn = (loop_depth == 0) ? get_last_insn () : NULL_RTX;
+       insn; insn = PREV_INSN (insn))
     {
       rtx link;
 
-      /* Keep track of which basic block we are in.  */
-      if (block + 1 < n_basic_blocks
-         && BLOCK_HEAD (block + 1) == insn)
-       ++block;
-
-      if (GET_RTX_CLASS (GET_CODE (insn)) != 'i')
+      if (! INSN_P (insn))
        {
          if (GET_CODE (insn) == NOTE)
            {
-             if (NOTE_LINE_NUMBER (insn) == NOTE_INSN_LOOP_BEG)
-               ++depth;
-             else if (NOTE_LINE_NUMBER (insn) == NOTE_INSN_LOOP_END)
+             if (NOTE_INSN_BASIC_BLOCK_P (insn))
+               block = NOTE_BASIC_BLOCK (insn)->index - 1;
+             else if (NOTE_LINE_NUMBER (insn) == NOTE_INSN_LOOP_BEG)
                {
-                 --depth;
-                 if (depth < 0)
+                 if (! loop_depth)
                    abort ();
+                 --loop_depth;
                }
+             else if (NOTE_LINE_NUMBER (insn) == NOTE_INSN_LOOP_END)
+               ++loop_depth;
            }
 
          continue;
@@ -937,37 +1079,66 @@ update_equiv_regs ()
              int regno = REGNO (XEXP (link, 0));
              rtx equiv_insn;
 
-             if (! reg_equiv_replace[regno])
+             if (! reg_equiv[regno].replace
+                 || reg_equiv[regno].loop_depth < loop_depth)
                continue;
 
-             /* reg_equiv_replace[REGNO] gets set only when
+             /* reg_equiv[REGNO].replace gets set only when
                 REG_N_REFS[REGNO] is 2, i.e. the register is set
                 once and used once.  (If it were only set, but not used,
-                flow would have deleted the setting insns.)  Hence 
-                there can only be one insn in reg_equiv_init_insns.  */
-             equiv_insn = XEXP (reg_equiv_init_insns[regno], 0);
-
-             if (validate_replace_rtx (regno_reg_rtx[regno],
-                                       reg_equiv_replacement[regno], insn))
+                flow would have deleted the setting insns.)  Hence
+                there can only be one insn in reg_equiv[REGNO].init_insns.  */
+             if (reg_equiv[regno].init_insns == NULL_RTX
+                 || XEXP (reg_equiv[regno].init_insns, 1) != NULL_RTX)
+               abort ();
+             equiv_insn = XEXP (reg_equiv[regno].init_insns, 0);
+
+             if (asm_noperands (PATTERN (equiv_insn)) < 0
+                 && validate_replace_rtx (regno_reg_rtx[regno],
+                                          reg_equiv[regno].src, insn))
                {
+                 rtx equiv_link;
+                 rtx last_link;
+                 rtx note;
+
+                 /* Find the last note.  */
+                 for (last_link = link; XEXP (last_link, 1);
+                      last_link = XEXP (last_link, 1))
+                   ;
+
+                 /* Append the REG_DEAD notes from equiv_insn.  */
+                 equiv_link = REG_NOTES (equiv_insn);
+                 while (equiv_link)
+                   {
+                     note = equiv_link;
+                     equiv_link = XEXP (equiv_link, 1);
+                     if (REG_NOTE_KIND (note) == REG_DEAD)
+                       {
+                         remove_note (equiv_insn, note);
+                         XEXP (last_link, 1) = note;
+                         XEXP (note, 1) = NULL_RTX;
+                         last_link = note;
+                       }
+                   }
+
                  remove_death (regno, insn);
                  REG_N_REFS (regno) = 0;
                  PUT_CODE (equiv_insn, NOTE);
                  NOTE_LINE_NUMBER (equiv_insn) = NOTE_INSN_DELETED;
                  NOTE_SOURCE_FILE (equiv_insn) = 0;
+                 
+                 reg_equiv[regno].init_insns = 
+                   XEXP (reg_equiv[regno].init_insns, 1);
                }
-             /* If we aren't in a loop, and there are no calls in
-                INSN or in the initialization of the register, then
-                move the initialization of the register to just
-                before INSN.  Update the flow information.  */
-             else if (depth == 0
-                      && GET_CODE (equiv_insn) == INSN
-                      && GET_CODE (insn) == INSN
-                      && REG_BASIC_BLOCK (regno) < 0)
+             /* Move the initialization of the register to just before
+                INSN.  Update the flow information.  */
+             else if (PREV_INSN (insn) != equiv_insn)
                {
                  int l;
+                 rtx new_insn;
 
-                 emit_insn_before (copy_rtx (PATTERN (equiv_insn)), insn);
+                 new_insn = emit_insn_before (copy_rtx (PATTERN (equiv_insn)),
+                                              insn);
                  REG_NOTES (PREV_INSN (insn)) = REG_NOTES (equiv_insn);
                  REG_NOTES (equiv_insn) = 0;
 
@@ -975,10 +1146,9 @@ update_equiv_regs ()
                  NOTE_LINE_NUMBER (equiv_insn) = NOTE_INSN_DELETED;
                  NOTE_SOURCE_FILE (equiv_insn) = 0;
 
-                 if (block < 0)
-                   REG_BASIC_BLOCK (regno) = 0;
-                 else
-                   REG_BASIC_BLOCK (regno) = block;
+                 XEXP (reg_equiv[regno].init_insns, 0) = new_insn;
+
+                 REG_BASIC_BLOCK (regno) = block >= 0 ? block : 0;
                  REG_N_CALLS_CROSSED (regno) = 0;
                  REG_LIVE_LENGTH (regno) = 2;
 
@@ -986,8 +1156,14 @@ update_equiv_regs ()
                    BLOCK_HEAD (block) = PREV_INSN (insn);
 
                  for (l = 0; l < n_basic_blocks; l++)
-                   CLEAR_REGNO_REG_SET (BASIC_BLOCK (l)->global_live_at_start,
-                                        regno);
+                   {
+                     CLEAR_REGNO_REG_SET (
+                                       BASIC_BLOCK (l)->global_live_at_start,
+                                          regno);
+                     CLEAR_REGNO_REG_SET (
+                                       BASIC_BLOCK (l)->global_live_at_end,
+                                          regno);
+                   }
                }
            }
        }
@@ -995,9 +1171,7 @@ update_equiv_regs ()
 
   /* Clean up.  */
   end_alias_analysis ();
-  free (reg_equiv_replace);
-  free (reg_equiv_init_insns);
-  free (reg_equiv_replacement);
+  free (reg_equiv);
 }
 
 /* Mark REG as having no known equivalence.
@@ -1018,7 +1192,7 @@ no_equiv (reg, store, data)
   if (GET_CODE (reg) != REG)
     return;
   regno = REGNO (reg);
-  list = reg_equiv_init_insns[regno];
+  list = reg_equiv[regno].init_insns;
   if (list == const0_rtx)
     return;
   for (; list; list =  XEXP (list, 1))
@@ -1026,8 +1200,8 @@ no_equiv (reg, store, data)
       rtx insn = XEXP (list, 0);
       remove_note (insn, find_reg_note (insn, REG_EQUIV, NULL_RTX));
     }
-  reg_equiv_init_insns[regno] = const0_rtx;
-  reg_equiv_replacement[regno] = NULL_RTX;
+  reg_equiv[regno].init_insns = const0_rtx;
+  reg_equiv[regno].replacement = NULL_RTX;
 }
 \f
 /* Allocate hard regs to the pseudo regs used only within block number B.
@@ -1078,7 +1252,7 @@ block_alloc (b)
       if (GET_CODE (insn) != NOTE)
        insn_number++;
 
-      if (GET_RTX_CLASS (GET_CODE (insn)) == 'i')
+      if (INSN_P (insn))
        {
          register rtx link, set;
          register int win = 0;
@@ -1110,7 +1284,8 @@ block_alloc (b)
 
             If tying is done, WIN is set nonzero.  */
 
-         if (recog_data.n_operands > 1
+         if (optimize
+             && recog_data.n_operands > 1
              && recog_data.constraints[0][0] == '='
              && recog_data.constraints[0][1] != '&')
            {
@@ -1145,7 +1320,7 @@ block_alloc (b)
                    continue;
 
                  /* Likewise if each alternative has some operand that
-                    must match operand zero.  In that case, skip any 
+                    must match operand zero.  In that case, skip any
                     operand that doesn't list operand 0 since we know that
                     the operand always conflicts with operand 0.  We
                     ignore commutatity in this case to keep things simple.  */
@@ -1170,7 +1345,7 @@ block_alloc (b)
                         priority to an equivalence found from that insn.  */
                      int may_save_copy
                        = (r1 == recog_data.operand[i] && must_match_0 >= 0);
-                     
+
                      if (GET_CODE (r1) == REG || GET_CODE (r1) == SUBREG)
                        win = combine_regs (r1, r0, may_save_copy,
                                            insn_number, insn, 0);
@@ -1194,7 +1369,8 @@ block_alloc (b)
             destination register won't have had a quantity number
             assigned, since that would prevent combining.  */
 
-         if (GET_CODE (PATTERN (insn)) == CLOBBER
+         if (optimize
+             && GET_CODE (PATTERN (insn)) == CLOBBER
              && (r0 = XEXP (PATTERN (insn), 0),
                  GET_CODE (r0) == REG)
              && (link = find_reg_note (insn, REG_LIBCALL, NULL_RTX)) != 0
@@ -1249,9 +1425,10 @@ block_alloc (b)
          for (link = REG_NOTES (insn); link; link = XEXP (link, 1))
            if (REG_NOTE_KIND (link) == REG_DEAD
                && GET_CODE (XEXP (link, 0)) == REG
-               && combined_regno != REGNO (XEXP (link, 0))
-               && (no_conflict_combined_regno != REGNO (XEXP (link, 0))
-                   || ! find_reg_note (insn, REG_NO_CONFLICT, XEXP (link, 0))))
+               && combined_regno != (int) REGNO (XEXP (link, 0))
+               && (no_conflict_combined_regno != (int) REGNO (XEXP (link, 0))
+                   || ! find_reg_note (insn, REG_NO_CONFLICT,
+                                       XEXP (link, 0))))
              wipe_dead_reg (XEXP (link, 0), 0);
 
          /* Allocate qty numbers for all registers local to this block
@@ -1271,7 +1448,7 @@ block_alloc (b)
                && GET_CODE (XEXP (link, 0)) == REG)
              wipe_dead_reg (XEXP (link, 0), 1);
 
-         /* If this is an insn that has a REG_RETVAL note pointing at a 
+         /* If this is an insn that has a REG_RETVAL note pointing at a
             CLOBBER insn, we have reached the end of a REG_NO_CONFLICT
             block, so clear any register number that combined within it.  */
          if ((note = find_reg_note (insn, REG_RETVAL, NULL_RTX)) != 0
@@ -1295,7 +1472,7 @@ block_alloc (b)
 
   /* Now every register that is local to this basic block
      should have been given a quantity, or else -1 meaning ignore it.
-     Every quantity should have a known birth and death.  
+     Every quantity should have a known birth and death.
 
      Order the qtys so we assign them registers in order of the
      number of suggested registers they need so we allocate those with
@@ -1347,8 +1524,8 @@ block_alloc (b)
        qty[q].phys_reg = -1;
     }
 
-  /* Order the qtys so we assign them registers in order of 
-     decreasing length of life.  Normally call qsort, but if we 
+  /* Order the qtys so we assign them registers in order of
+     decreasing length of life.  Normally call qsort, but if we
      have only a very small number of quantities, sort them ourselves.  */
 
   for (i = 0; i < next_qty; i++)
@@ -1401,7 +1578,7 @@ block_alloc (b)
             The purpose behind extending the lifetime of this qty is to
             discourage the register allocator from creating false
             dependencies.
+
             The adjustment value is choosen to indicate that this qty
             conflicts with all the qtys in the instructions immediately
             before and after the lifetime of this qty.
@@ -1430,15 +1607,14 @@ block_alloc (b)
                  && !optimize_size
                  && !SMALL_REGISTER_CLASSES)
                {
-               
-                 qty[q].phys_reg = find_free_reg (qty[q].min_class, 
+                 qty[q].phys_reg = find_free_reg (qty[q].min_class,
                                                   qty[q].mode, q, 0, 0,
                                                   fake_birth, fake_death);
                  if (qty[q].phys_reg >= 0)
                    continue;
                }
 #endif
-             qty[q].phys_reg = find_free_reg (qty[q].min_class, 
+             qty[q].phys_reg = find_free_reg (qty[q].min_class,
                                               qty[q].mode, q, 0, 0,
                                               qty[q].birth, qty[q].death);
              if (qty[q].phys_reg >= 0)
@@ -1509,7 +1685,7 @@ qty_compare_1 (q1p, q2p)
      const PTR q1p;
      const PTR q2p;
 {
-  register int q1 = *(const int *)q1p, q2 = *(const int *)q2p;
+  register int q1 = *(const int *) q1p, q2 = *(const int *) q2p;
   register int tem = QTY_CMP_PRI (q2) - QTY_CMP_PRI (q1);
 
   if (tem != 0)
@@ -1540,7 +1716,7 @@ qty_sugg_compare (q1, q2)
 
   if (tem != 0)
     return tem;
-  
+
   return QTY_CMP_PRI (q2) - QTY_CMP_PRI (q1);
 }
 
@@ -1549,7 +1725,7 @@ qty_sugg_compare_1 (q1p, q2p)
      const PTR q1p;
      const PTR q2p;
 {
-  register int q1 = *(const int *)q1p, q2 = *(const int *)q2p;
+  register int q1 = *(const int *) q1p, q2 = *(const int *) q2p;
   register int tem = QTY_CMP_SUGG (q1) - QTY_CMP_SUGG (q2);
 
   if (tem != 0)
@@ -1586,10 +1762,9 @@ qty_sugg_compare_1 (q1p, q2p)
    MAY_SAVE_COPYCOPY is non-zero if this insn is simply copying USEDREG to
    SETREG or if the input and output must share a register.
    In that case, we record a hard reg suggestion in QTY_PHYS_COPY_SUGG.
-   
+
    There are elaborate checks for the validity of combining.  */
 
-   
 static int
 combine_regs (usedreg, setreg, may_save_copy, insn_number, insn, already_dead)
      rtx usedreg, setreg;
@@ -1655,11 +1830,6 @@ combine_regs (usedreg, setreg, may_save_copy, insn_number, insn, already_dead)
       || ureg == sreg
       /* Don't try to connect two different hardware registers.  */
       || (ureg < FIRST_PSEUDO_REGISTER && sreg < FIRST_PSEUDO_REGISTER)
-      /* Don't use a hard reg that might be spilled.  */
-      || (ureg < FIRST_PSEUDO_REGISTER
-         && CLASS_LIKELY_SPILLED_P (REGNO_REG_CLASS (ureg)))
-      || (sreg < FIRST_PSEUDO_REGISTER
-         && CLASS_LIKELY_SPILLED_P (REGNO_REG_CLASS (sreg)))
       /* Don't connect two different machine modes if they have different
         implications as to which registers may be used.  */
       || !MODES_TIEABLE_P (GET_MODE (usedreg), GET_MODE (setreg)))
@@ -1791,8 +1961,8 @@ update_qty_class (qtyno, reg)
   if (reg_class_subset_p (rclass, qty[qtyno].alternate_class))
     qty[qtyno].alternate_class = rclass;
 
-  if (REG_CHANGES_SIZE (reg))
-    qty[qtyno].changes_size = 1;
+  if (REG_CHANGES_MODE (reg))
+    qty[qtyno].changes_mode = 1;
 }
 \f
 /* Handle something which alters the value of an rtx REG.
@@ -1833,7 +2003,7 @@ reg_is_born (reg, birth)
      int birth;
 {
   register int regno;
-     
+
   if (GET_CODE (reg) == SUBREG)
     regno = REGNO (SUBREG_REG (reg)) + SUBREG_WORD (reg);
   else
@@ -1874,7 +2044,7 @@ wipe_dead_reg (reg, output_p)
   /* If this insn has multiple results,
      and the dead reg is used in one of the results,
      extend its life to after this insn,
-     so it won't get allocated together with any other result of this insn. 
+     so it won't get allocated together with any other result of this insn.
 
      It is unsafe to use !single_set here since it will ignore an unused
      output.  Just because an output is unused does not mean the compiler
@@ -1912,7 +2082,7 @@ wipe_dead_reg (reg, output_p)
         not to happen).  */
       if (output_p)
        post_mark_life (regno, GET_MODE (reg), 1,
-                       2 * this_insn_number, 2 * this_insn_number+ 1);
+                       2 * this_insn_number, 2 * this_insn_number + 1);
     }
 
   else if (reg_qty[regno] >= 0)
@@ -1924,7 +2094,7 @@ wipe_dead_reg (reg, output_p)
      (but actually we test only the first of the block for holding MODE)
    and still free between insn BORN_INDEX and insn DEAD_INDEX,
    and return the number of the first of them.
-   Return -1 if such a block cannot be found. 
+   Return -1 if such a block cannot be found.
    If QTYNO crosses calls, insist on a register preserved by calls,
    unless ACCEPT_CALL_CLOBBERED is nonzero.
 
@@ -1943,7 +2113,8 @@ find_free_reg (class, mode, qtyno, accept_call_clobbered, just_try_suggested,
 {
   register int i, ins;
 #ifdef HARD_REG_SET
-  register             /* Declare it register if it's a scalar.  */
+  /* Declare it register if it's a scalar.  */
+  register
 #endif
     HARD_REG_SET used, first_used;
 #ifdef ELIMINABLE_REGS
@@ -1982,7 +2153,7 @@ find_free_reg (class, mode, qtyno, accept_call_clobbered, just_try_suggested,
 
      This is true of any register that can be eliminated.  */
 #ifdef ELIMINABLE_REGS
-  for (i = 0; i < (int)(sizeof eliminables / sizeof eliminables[0]); i++)
+  for (i = 0; i < (int) ARRAY_SIZE (eliminables); i++)
     SET_HARD_REG_BIT (used, eliminables[i].from);
 #if FRAME_POINTER_REGNUM != HARD_FRAME_POINTER_REGNUM
   /* If FRAME_POINTER_REGNUM is not a real register, then protect the one
@@ -1993,10 +2164,10 @@ find_free_reg (class, mode, qtyno, accept_call_clobbered, just_try_suggested,
   SET_HARD_REG_BIT (used, FRAME_POINTER_REGNUM);
 #endif
 
-#ifdef CLASS_CANNOT_CHANGE_SIZE
-  if (qty[qtyno].changes_size)
+#ifdef CLASS_CANNOT_CHANGE_MODE
+  if (qty[qtyno].changes_mode)
     IOR_HARD_REG_SET (used,
-                     reg_class_contents[(int) CLASS_CANNOT_CHANGE_SIZE]);
+                     reg_class_contents[(int) CLASS_CANNOT_CHANGE_MODE]);
 #endif
 
   /* Normally, the registers that can be used for the first register in
@@ -2044,17 +2215,17 @@ find_free_reg (class, mode, qtyno, accept_call_clobbered, just_try_suggested,
              return regno;
            }
 #ifndef REG_ALLOC_ORDER
-         i += j;               /* Skip starting points we know will lose */
+         /* Skip starting points we know will lose.  */
+         i += j;
 #endif
        }
     }
 
  fail:
-
   /* If we are just trying suggested register, we have just tried copy-
      suggested registers, and there are arithmetic-suggested registers,
      try them.  */
-  
+
   /* If it would be profitable to allocate a call-clobbered register
      and save and restore it around calls, do that.  */
   if (just_try_suggested && qty_phys_num_copy_sugg[qtyno] != 0
@@ -2074,7 +2245,8 @@ find_free_reg (class, mode, qtyno, accept_call_clobbered, just_try_suggested,
       && flag_caller_saves
       && ! just_try_suggested
       && qty[qtyno].n_calls_crossed != 0
-      && CALLER_SAVE_PROFITABLE (qty[qtyno].n_refs, qty[qtyno].n_calls_crossed))
+      && CALLER_SAVE_PROFITABLE (qty[qtyno].n_refs,
+                                qty[qtyno].n_calls_crossed))
     {
       i = find_free_reg (class, mode, qtyno, 1, 0, born_index, dead_index);
       if (i >= 0)
@@ -2115,7 +2287,8 @@ post_mark_life (regno, mode, life, birth, death)
 {
   register int j = HARD_REGNO_NREGS (regno, mode);
 #ifdef HARD_REG_SET
-  register             /* Declare it register if it's a scalar.  */
+  /* Declare it register if it's a scalar.  */
+  register
 #endif
     HARD_REG_SET this_reg;
 
@@ -2166,7 +2339,7 @@ no_conflict_p (insn, r0, r1)
   last = XEXP (note, 0);
 
   for (p = NEXT_INSN (insn); p && p != last; p = NEXT_INSN (p))
-    if (GET_RTX_CLASS (GET_CODE (p)) == 'i')
+    if (INSN_P (p))
       {
        if (find_reg_note (p, REG_DEAD, r1))
          ok = 1;
@@ -2179,7 +2352,7 @@ no_conflict_p (insn, r0, r1)
        if (! find_reg_note (p, REG_NO_CONFLICT, r1))
          return 0;
       }
-      
+
   return ok;
 }
 \f
@@ -2189,7 +2362,7 @@ no_conflict_p (insn, r0, r1)
 
 static int
 requires_inout (p)
-  const char *p;
+     const char *p;
 {
   char c;
   int found_zero = 0;
@@ -2209,9 +2382,6 @@ requires_inout (p)
       case 's':  case 'i':  case 'n':
       case 'I':  case 'J':  case 'K':  case 'L':
       case 'M':  case 'N':  case 'O':  case 'P':
-#ifdef EXTRA_CONSTRAINT
-      case 'Q':  case 'R':  case 'S':  case 'T':  case 'U':
-#endif
       case 'X':
        /* These don't say anything we care about.  */
        break;
@@ -2227,9 +2397,12 @@ requires_inout (p)
        found_zero = 1;
        break;
 
+      default:
+       if (REG_CLASS_FROM_LETTER (c) == NO_REGS)
+         break;
+       /* FALLTHRU */
       case 'p':
       case 'g': case 'r':
-      default:
        reg_allowed = 1;
        break;
       }