OSDN Git Service

* varasm.c (assemble_variable): Fix format specifier thinko.
[pf3gnuchains/gcc-fork.git] / gcc / function.c
index 0bab2b6..92415cc 100644 (file)
@@ -1,6 +1,7 @@
 /* Expands front end tree to back end RTL for GCC.
    Copyright (C) 1987, 1988, 1989, 1991, 1992, 1993, 1994, 1995, 1996, 1997,
-   1998, 1999, 2000, 2001, 2002, 2003, 2004 Free Software Foundation, Inc.
+   1998, 1999, 2000, 2001, 2002, 2003, 2004, 2005
+   Free Software Foundation, Inc.
 
 This file is part of GCC.
 
@@ -16,8 +17,8 @@ for more details.
 
 You should have received a copy of the GNU General Public License
 along with GCC; see the file COPYING.  If not, write to the Free
-Software Foundation, 59 Temple Place - Suite 330, Boston, MA
-02111-1307, USA.  */
+Software Foundation, 51 Franklin Street, Fifth Floor, Boston, MA
+02110-1301, USA.  */
 
 /* This file handles the generation of rtl code from tree structure
    at the level of the function as a whole.
@@ -59,6 +60,9 @@ Software Foundation, 59 Temple Place - Suite 330, Boston, MA
 #include "langhooks.h"
 #include "target.h"
 #include "cfglayout.h"
+#include "tree-gimple.h"
+#include "predict.h"
+
 
 #ifndef LOCAL_ALIGNMENT
 #define LOCAL_ALIGNMENT(TYPE, ALIGNMENT) ALIGNMENT
@@ -87,27 +91,12 @@ Software Foundation, 59 Temple Place - Suite 330, Boston, MA
    alignment.  */
 #define CEIL_ROUND(VALUE,ALIGN)        (((VALUE) + (ALIGN) - 1) & ~((ALIGN)- 1))
 
-/* NEED_SEPARATE_AP means that we cannot derive ap from the value of fp
-   during rtl generation.  If they are different register numbers, this is
-   always true.  It may also be true if
-   FIRST_PARM_OFFSET - STARTING_FRAME_OFFSET is not a constant during rtl
-   generation.  See fix_lexical_addr for details.  */
-
-#if ARG_POINTER_REGNUM != FRAME_POINTER_REGNUM
-#define NEED_SEPARATE_AP
-#endif
-
 /* Nonzero if function being compiled doesn't contain any calls
    (ignoring the prologue and epilogue).  This is set prior to
    local register allocation and is valid for the remaining
    compiler passes.  */
 int current_function_is_leaf;
 
-/* Nonzero if function being compiled doesn't contain any instructions
-   that can throw an exception.  This is set prior to final.  */
-
-int current_function_nothrow;
-
 /* Nonzero if function being compiled doesn't modify the stack pointer
    (ignoring the prologue and epilogue).  This is only valid after
    life_analysis has run.  */
@@ -134,13 +123,16 @@ struct machine_function * (*init_machine_status) (void);
 /* The currently compiled function.  */
 struct function *cfun = 0;
 
+DEF_VEC_I(int);
+DEF_VEC_ALLOC_I(int,heap);
+
 /* These arrays record the INSN_UIDs of the prologue and epilogue insns.  */
-static GTY(()) varray_type prologue;
-static GTY(()) varray_type epilogue;
+static VEC(int,heap) *prologue;
+static VEC(int,heap) *epilogue;
 
 /* Array of INSN_UIDs to hold the INSN_UIDs for each sibcall epilogue
    in this function.  */
-static GTY(()) varray_type sibcall_epilogue;
+static VEC(int,heap) *sibcall_epilogue;
 \f
 /* In order to evaluate some expressions, such as function calls returning
    structures in memory, we need to temporarily allocate stack locations.
@@ -202,34 +194,26 @@ struct temp_slot GTY(())
 static rtx assign_stack_local_1 (enum machine_mode, HOST_WIDE_INT, int,
                                 struct function *);
 static struct temp_slot *find_temp_slot_from_address (rtx);
-static void instantiate_decls (tree, int);
-static void instantiate_decls_1 (tree, int);
-static void instantiate_decl (rtx, HOST_WIDE_INT, int);
-static rtx instantiate_new_reg (rtx, HOST_WIDE_INT *);
-static int instantiate_virtual_regs_1 (rtx *, rtx, int);
 static void pad_to_arg_alignment (struct args_size *, int, struct args_size *);
 static void pad_below (struct args_size *, enum machine_mode, tree);
-static void reorder_blocks_1 (rtx, tree, varray_type *);
+static void reorder_blocks_1 (rtx, tree, VEC(tree,heap) **);
 static void reorder_fix_fragments (tree);
 static int all_blocks (tree, tree *);
 static tree *get_block_vector (tree, int *);
 extern tree debug_find_var_in_block_tree (tree, tree);
 /* We always define `record_insns' even if it's not used so that we
    can always export `prologue_epilogue_contains'.  */
-static void record_insns (rtx, varray_type *) ATTRIBUTE_UNUSED;
-static int contains (rtx, varray_type);
+static void record_insns (rtx, VEC(int,heap) **) ATTRIBUTE_UNUSED;
+static int contains (rtx, VEC(int,heap) **);
 #ifdef HAVE_return
 static void emit_return_into_block (basic_block, rtx);
 #endif
-static void purge_single_hard_subreg_set (rtx);
 #if defined(HAVE_epilogue) && defined(INCOMING_RETURN_ADDR_RTX)
 static rtx keep_stack_depressed (rtx);
 #endif
 static void prepare_function_start (tree);
 static void do_clobber_return_reg (rtx, void *);
 static void do_use_return_reg (rtx, void *);
-static void instantiate_virtual_regs_lossage (rtx);
-static tree split_complex_args (tree);
 static void set_insn_locators (rtx, int) ATTRIBUTE_UNUSED;
 \f
 /* Pointer to chain of `struct function' for containing functions.  */
@@ -247,7 +231,7 @@ find_function_data (tree decl)
     if (p->decl == decl)
       return p;
 
-  abort ();
+  gcc_unreachable ();
 }
 
 /* Save the current context for compilation of a nested function.
@@ -257,21 +241,10 @@ find_function_data (tree decl)
    variables.  */
 
 void
-push_function_context_to (tree context)
+push_function_context_to (tree context ATTRIBUTE_UNUSED)
 {
   struct function *p;
 
-  if (context)
-    {
-      if (context == current_function_decl)
-       cfun->contains_functions = 1;
-      else
-       {
-         struct function *containing = find_function_data (context);
-         containing->contains_functions = 1;
-       }
-    }
-
   if (cfun == 0)
     init_dummy_function_start ();
   p = cfun;
@@ -302,14 +275,10 @@ pop_function_context_from (tree context ATTRIBUTE_UNUSED)
   outer_function_chain = p->outer;
 
   current_function_decl = p->decl;
-  reg_renumber = 0;
-
-  restore_emit_status (p);
 
   lang_hooks.function.leave_nested (p);
 
   /* Reset variables that have known state during rtx generation.  */
-  rtx_equal_function_value_matters = 1;
   virtuals_instantiated = 0;
   generating_concat_p = 1;
 }
@@ -333,7 +302,6 @@ free_after_parsing (struct function *f)
   /* f->eh->eh_return_stub_label is used by code generation.  */
 
   lang_hooks.function.final (f);
-  f->stmt = NULL;
 }
 
 /* Clear out all parts of the state in F that can safely be discarded
@@ -343,11 +311,16 @@ free_after_parsing (struct function *f)
 void
 free_after_compilation (struct function *f)
 {
+  VEC_free (int, heap, prologue);
+  VEC_free (int, heap, epilogue);
+  VEC_free (int, heap, sibcall_epilogue);
+
   f->eh = NULL;
   f->expr = NULL;
   f->emit = NULL;
   f->varasm = NULL;
   f->machine = NULL;
+  f->cfg = NULL;
 
   f->x_avail_temp_slots = NULL;
   f->x_used_temp_slots = NULL;
@@ -373,14 +346,13 @@ free_after_compilation (struct function *f)
    This size counts from zero.  It is not rounded to PREFERRED_STACK_BOUNDARY;
    the caller may have to do that.  */
 
-HOST_WIDE_INT
+static HOST_WIDE_INT
 get_func_frame_size (struct function *f)
 {
-#ifdef FRAME_GROWS_DOWNWARD
-  return -f->x_frame_offset;
-#else
-  return f->x_frame_offset;
-#endif
+  if (FRAME_GROWS_DOWNWARD)
+    return -f->x_frame_offset;
+  else
+    return f->x_frame_offset;
 }
 
 /* Return size needed for stack frame based on slots so far allocated.
@@ -411,7 +383,7 @@ assign_stack_local_1 (enum machine_mode mode, HOST_WIDE_INT size, int align,
 {
   rtx x, addr;
   int bigend_correction = 0;
-  int alignment;
+  unsigned int alignment;
   int frame_off, frame_alignment, frame_phase;
 
   if (align == 0)
@@ -441,9 +413,8 @@ assign_stack_local_1 (enum machine_mode mode, HOST_WIDE_INT size, int align,
   else
     alignment = align / BITS_PER_UNIT;
 
-#ifdef FRAME_GROWS_DOWNWARD
-  function->x_frame_offset -= size;
-#endif
+  if (FRAME_GROWS_DOWNWARD)
+    function->x_frame_offset -= size;
 
   /* Ignore alignment we can't do with expected alignment of the boundary.  */
   if (alignment * BITS_PER_UNIT > PREFERRED_STACK_BOUNDARY)
@@ -469,15 +440,16 @@ assign_stack_local_1 (enum machine_mode mode, HOST_WIDE_INT size, int align,
          division with a negative dividend isn't as well defined as we might
          like.  So we instead assume that ALIGNMENT is a power of two and
          use logical operations which are unambiguous.  */
-#ifdef FRAME_GROWS_DOWNWARD
-      function->x_frame_offset
-       = (FLOOR_ROUND (function->x_frame_offset - frame_phase, alignment)
-          + frame_phase);
-#else
-      function->x_frame_offset
-       = (CEIL_ROUND (function->x_frame_offset - frame_phase, alignment)
-          + frame_phase);
-#endif
+      if (FRAME_GROWS_DOWNWARD)
+       function->x_frame_offset
+         = (FLOOR_ROUND (function->x_frame_offset - frame_phase,
+                         (unsigned HOST_WIDE_INT) alignment)
+            + frame_phase);
+      else
+       function->x_frame_offset
+         = (CEIL_ROUND (function->x_frame_offset - frame_phase,
+                        (unsigned HOST_WIDE_INT) alignment)
+            + frame_phase);
     }
 
   /* On a big-endian machine, if we are allocating more space than we will use,
@@ -498,9 +470,8 @@ assign_stack_local_1 (enum machine_mode mode, HOST_WIDE_INT size, int align,
                          (function->x_frame_offset + bigend_correction,
                           Pmode));
 
-#ifndef FRAME_GROWS_DOWNWARD
-  function->x_frame_offset += size;
-#endif
+  if (!FRAME_GROWS_DOWNWARD)
+    function->x_frame_offset += size;
 
   x = gen_rtx_MEM (mode, addr);
 
@@ -552,7 +523,6 @@ insert_slot_to_list (struct temp_slot *temp, struct temp_slot **list)
 static struct temp_slot **
 temp_slots_at_level (int level)
 {
-  level++;
 
   if (!used_temp_slots)
     VARRAY_GENERIC_PTR_INIT (used_temp_slots, 3, "used_temp_slots");
@@ -605,16 +575,15 @@ make_slot_available (struct temp_slot *temp)
 
    KEEP is 1 if this slot is to be retained after a call to
    free_temp_slots.  Automatic variables for a block are allocated
-   with this flag.  KEEP is 2 if we allocate a longer term temporary,
-   whose lifetime is controlled by CLEANUP_POINT_EXPRs.  KEEP is 3
-   if we are to allocate something at an inner level to be treated as
-   a variable in the block (e.g., a SAVE_EXPR).
+   with this flag.  KEEP values of 2 or 3 were needed respectively
+   for variables whose lifetime is controlled by CLEANUP_POINT_EXPRs
+   or for SAVE_EXPRs, but they are now unused.
 
    TYPE is the type that will be used for the stack slot.  */
 
 rtx
-assign_stack_temp_for_type (enum machine_mode mode, HOST_WIDE_INT size, int keep,
-                           tree type)
+assign_stack_temp_for_type (enum machine_mode mode, HOST_WIDE_INT size,
+                           int keep, tree type)
 {
   unsigned int align;
   struct temp_slot *p, *best_p = 0, *selected = NULL, **pp;
@@ -622,8 +591,10 @@ assign_stack_temp_for_type (enum machine_mode mode, HOST_WIDE_INT size, int keep
 
   /* If SIZE is -1 it means that somebody tried to allocate a temporary
      of a variable size.  */
-  if (size == -1)
-    abort ();
+  gcc_assert (size != -1);
+
+  /* These are now unused.  */
+  gcc_assert (keep <= 1);
 
   if (mode == BLKmode)
     align = BIGGEST_ALIGNMENT;
@@ -709,8 +680,7 @@ assign_stack_temp_for_type (enum machine_mode mode, HOST_WIDE_INT size, int keep
         So for requests which depended on the rounding of SIZE, we go ahead
         and round it now.  We also make sure ALIGNMENT is at least
         BIGGEST_ALIGNMENT.  */
-      if (mode == BLKmode && align < BIGGEST_ALIGNMENT)
-       abort ();
+      gcc_assert (mode != BLKmode || align == BIGGEST_ALIGNMENT);
       p->slot = assign_stack_local (mode,
                                    (mode == BLKmode
                                     ? CEIL_ROUND (size, (int) align / BITS_PER_UNIT)
@@ -726,20 +696,22 @@ assign_stack_temp_for_type (enum machine_mode mode, HOST_WIDE_INT size, int keep
         can be either above or below this stack slot depending on which
         way the frame grows.  We include the extra space if and only if it
         is above this slot.  */
-#ifdef FRAME_GROWS_DOWNWARD
-      p->size = frame_offset_old - frame_offset;
-#else
-      p->size = size;
-#endif
+      if (FRAME_GROWS_DOWNWARD)
+       p->size = frame_offset_old - frame_offset;
+      else
+       p->size = size;
 
       /* Now define the fields used by combine_temp_slots.  */
-#ifdef FRAME_GROWS_DOWNWARD
-      p->base_offset = frame_offset;
-      p->full_size = frame_offset_old - frame_offset;
-#else
-      p->base_offset = frame_offset_old;
-      p->full_size = frame_offset - frame_offset_old;
-#endif
+      if (FRAME_GROWS_DOWNWARD)
+       {
+         p->base_offset = frame_offset;
+         p->full_size = frame_offset_old - frame_offset;
+       }
+      else
+       {
+         p->base_offset = frame_offset_old;
+         p->full_size = frame_offset - frame_offset_old;
+       }
       p->address = 0;
 
       selected = p;
@@ -749,22 +721,8 @@ assign_stack_temp_for_type (enum machine_mode mode, HOST_WIDE_INT size, int keep
   p->in_use = 1;
   p->addr_taken = 0;
   p->type = type;
-
-  if (keep == 2)
-    {
-      p->level = target_temp_slot_level;
-      p->keep = 1;
-    }
-  else if (keep == 3)
-    {
-      p->level = var_temp_slot_level;
-      p->keep = 0;
-    }
-  else
-    {
-      p->level = temp_slot_level;
-      p->keep = keep;
-    }
+  p->level = temp_slot_level;
+  p->keep = keep;
 
   pp = temp_slots_at_level (p->level);
   insert_slot_to_list (p, pp);
@@ -782,8 +740,6 @@ assign_stack_temp_for_type (enum machine_mode mode, HOST_WIDE_INT size, int keep
   /* If a type is specified, set the relevant flags.  */
   if (type != 0)
     {
-      RTX_UNCHANGING_P (slot) = (lang_hooks.honor_readonly
-                                && TYPE_READONLY (type));
       MEM_VOLATILE_P (slot) = TYPE_VOLATILE (type);
       MEM_SET_IN_STRUCT_P (slot, AGGREGATE_TYPE_P (type));
     }
@@ -853,18 +809,18 @@ assign_temp (tree type_or_decl, int keep, int memory_required,
       /* If we still haven't been able to get a size, see if the language
         can compute a maximum size.  */
       if (size == -1
-         && (size_tree = lang_hooks.type_max_size (type)) != 0
+         && (size_tree = lang_hooks.types.max_size (type)) != 0
          && host_integerp (size_tree, 1))
        size = tree_low_cst (size_tree, 1);
 
       /* The size of the temporary may be too large to fit into an integer.  */
       /* ??? Not sure this should happen except for user silliness, so limit
         this to things that aren't compiler-generated temporaries.  The
-        rest of the time we'll abort in assign_stack_temp_for_type.  */
+        rest of the time we'll die in assign_stack_temp_for_type.  */
       if (decl && size == -1
          && TREE_CODE (TYPE_SIZE_UNIT (type)) == INTEGER_CST)
        {
-         error ("%Jsize of variable '%D' is too large", decl, decl);
+         error ("size of variable %q+D is too large", decl);
          size = 1;
        }
 
@@ -886,7 +842,7 @@ assign_temp (tree type_or_decl, int keep, int memory_required,
    done for BLKmode slots because we can be sure that we won't have alignment
    problems in this case.  */
 
-void
+static void
 combine_temp_slots (void)
 {
   struct temp_slot *p, *q, *next, *next_q;
@@ -1206,8 +1162,6 @@ init_temp_slots (void)
   avail_temp_slots = 0;
   used_temp_slots = 0;
   temp_slot_level = 0;
-  var_temp_slot_level = 0;
-  target_temp_slot_level = 0;
 }
 \f
 /* These routines are responsible for converting virtual register references
@@ -1264,195 +1218,350 @@ static int cfa_offset;
 #endif
 
 \f
-/* Convert a SET of a hard subreg to a set of the appropriate hard
-   register.  A subroutine of purge_hard_subreg_sets.  */
+/* Given a piece of RTX and a pointer to a HOST_WIDE_INT, if the RTX
+   is a virtual register, return the equivalent hard register and set the
+   offset indirectly through the pointer.  Otherwise, return 0.  */
 
-static void
-purge_single_hard_subreg_set (rtx pattern)
+static rtx
+instantiate_new_reg (rtx x, HOST_WIDE_INT *poffset)
 {
-  rtx reg = SET_DEST (pattern);
-  enum machine_mode mode = GET_MODE (SET_DEST (pattern));
-  int offset = 0;
+  rtx new;
+  HOST_WIDE_INT offset;
 
-  if (GET_CODE (reg) == SUBREG && REG_P (SUBREG_REG (reg))
-      && REGNO (SUBREG_REG (reg)) < FIRST_PSEUDO_REGISTER)
-    {
-      offset = subreg_regno_offset (REGNO (SUBREG_REG (reg)),
-                                   GET_MODE (SUBREG_REG (reg)),
-                                   SUBREG_BYTE (reg),
-                                   GET_MODE (reg));
-      reg = SUBREG_REG (reg);
-    }
+  if (x == virtual_incoming_args_rtx)
+    new = arg_pointer_rtx, offset = in_arg_offset;
+  else if (x == virtual_stack_vars_rtx)
+    new = frame_pointer_rtx, offset = var_offset;
+  else if (x == virtual_stack_dynamic_rtx)
+    new = stack_pointer_rtx, offset = dynamic_offset;
+  else if (x == virtual_outgoing_args_rtx)
+    new = stack_pointer_rtx, offset = out_arg_offset;
+  else if (x == virtual_cfa_rtx)
+    new = arg_pointer_rtx, offset = cfa_offset;
+  else
+    return NULL_RTX;
+
+  *poffset = offset;
+  return new;
+}
+
+/* A subroutine of instantiate_virtual_regs, called via for_each_rtx.
+   Instantiate any virtual registers present inside of *LOC.  The expression
+   is simplified, as much as possible, but is not to be considered "valid"
+   in any sense implied by the target.  If any change is made, set CHANGED
+   to true.  */
 
+static int
+instantiate_virtual_regs_in_rtx (rtx *loc, void *data)
+{
+  HOST_WIDE_INT offset;
+  bool *changed = (bool *) data;
+  rtx x, new;
+
+  x = *loc;
+  if (x == 0)
+    return 0;
 
-  if (REG_P (reg) && REGNO (reg) < FIRST_PSEUDO_REGISTER)
+  switch (GET_CODE (x))
     {
-      reg = gen_rtx_REG (mode, REGNO (reg) + offset);
-      SET_DEST (pattern) = reg;
+    case REG:
+      new = instantiate_new_reg (x, &offset);
+      if (new)
+       {
+         *loc = plus_constant (new, offset);
+         if (changed)
+           *changed = true;
+       }
+      return -1;
+
+    case PLUS:
+      new = instantiate_new_reg (XEXP (x, 0), &offset);
+      if (new)
+       {
+         new = plus_constant (new, offset);
+         *loc = simplify_gen_binary (PLUS, GET_MODE (x), new, XEXP (x, 1));
+         if (changed)
+           *changed = true;
+         return -1;
+       }
+
+      /* FIXME -- from old code */
+         /* If we have (plus (subreg (virtual-reg)) (const_int)), we know
+            we can commute the PLUS and SUBREG because pointers into the
+            frame are well-behaved.  */
+      break;
+
+    default:
+      break;
     }
+
+  return 0;
 }
 
-/* Eliminate all occurrences of SETs of hard subregs from INSNS.  The
-   only such SETs that we expect to see are those left in because
-   integrate can't handle sets of parts of a return value register.
+/* A subroutine of instantiate_virtual_regs_in_insn.  Return true if X
+   matches the predicate for insn CODE operand OPERAND.  */
 
-   We don't use alter_subreg because we only want to eliminate subregs
-   of hard registers.  */
+static int
+safe_insn_predicate (int code, int operand, rtx x)
+{
+  const struct insn_operand_data *op_data;
 
-void
-purge_hard_subreg_sets (rtx insn)
+  if (code < 0)
+    return true;
+
+  op_data = &insn_data[code].operand[operand];
+  if (op_data->predicate == NULL)
+    return true;
+
+  return op_data->predicate (x, op_data->mode);
+}
+
+/* A subroutine of instantiate_virtual_regs.  Instantiate any virtual
+   registers present inside of insn.  The result will be a valid insn.  */
+
+static void
+instantiate_virtual_regs_in_insn (rtx insn)
 {
-  for (; insn; insn = NEXT_INSN (insn))
+  HOST_WIDE_INT offset;
+  int insn_code, i;
+  bool any_change = false;
+  rtx set, new, x, seq;
+
+  /* There are some special cases to be handled first.  */
+  set = single_set (insn);
+  if (set)
     {
-      if (INSN_P (insn))
+      /* We're allowed to assign to a virtual register.  This is interpreted
+        to mean that the underlying register gets assigned the inverse
+        transformation.  This is used, for example, in the handling of
+        non-local gotos.  */
+      new = instantiate_new_reg (SET_DEST (set), &offset);
+      if (new)
        {
-         rtx pattern = PATTERN (insn);
-         switch (GET_CODE (pattern))
-           {
-           case SET:
-             if (GET_CODE (SET_DEST (pattern)) == SUBREG)
-               purge_single_hard_subreg_set (pattern);
-             break;
-           case PARALLEL:
-             {
-               int j;
-               for (j = XVECLEN (pattern, 0) - 1; j >= 0; j--)
-                 {
-                   rtx inner_pattern = XVECEXP (pattern, 0, j);
-                   if (GET_CODE (inner_pattern) == SET
-                       && GET_CODE (SET_DEST (inner_pattern)) == SUBREG)
-                     purge_single_hard_subreg_set (inner_pattern);
-                 }
-             }
-             break;
-           default:
-             break;
-           }
+         start_sequence ();
+
+         for_each_rtx (&SET_SRC (set), instantiate_virtual_regs_in_rtx, NULL);
+         x = simplify_gen_binary (PLUS, GET_MODE (new), SET_SRC (set),
+                                  GEN_INT (-offset));
+         x = force_operand (x, new);
+         if (x != new)
+           emit_move_insn (new, x);
+
+         seq = get_insns ();
+         end_sequence ();
+
+         emit_insn_before (seq, insn);
+         delete_insn (insn);
+         return;
        }
-    }
-}
-\f
-/* Pass through the INSNS of function FNDECL and convert virtual register
-   references to hard register references.  */
 
-void
-instantiate_virtual_regs (void)
-{
-  rtx insn;
+      /* Handle a straight copy from a virtual register by generating a
+        new add insn.  The difference between this and falling through
+        to the generic case is avoiding a new pseudo and eliminating a
+        move insn in the initial rtl stream.  */
+      new = instantiate_new_reg (SET_SRC (set), &offset);
+      if (new && offset != 0
+         && REG_P (SET_DEST (set))
+         && REGNO (SET_DEST (set)) > LAST_VIRTUAL_REGISTER)
+       {
+         start_sequence ();
 
-  /* Compute the offsets to use for this function.  */
-  in_arg_offset = FIRST_PARM_OFFSET (current_function_decl);
-  var_offset = STARTING_FRAME_OFFSET;
-  dynamic_offset = STACK_DYNAMIC_OFFSET (current_function_decl);
-  out_arg_offset = STACK_POINTER_OFFSET;
-  cfa_offset = ARG_POINTER_CFA_OFFSET (current_function_decl);
+         x = expand_simple_binop (GET_MODE (SET_DEST (set)), PLUS,
+                                  new, GEN_INT (offset), SET_DEST (set),
+                                  1, OPTAB_LIB_WIDEN);
+         if (x != SET_DEST (set))
+           emit_move_insn (SET_DEST (set), x);
 
-  /* Scan all variables and parameters of this function.  For each that is
-     in memory, instantiate all virtual registers if the result is a valid
-     address.  If not, we do it later.  That will handle most uses of virtual
-     regs on many machines.  */
-  instantiate_decls (current_function_decl, 1);
+         seq = get_insns ();
+         end_sequence ();
 
-  /* Initialize recognition, indicating that volatile is OK.  */
-  init_recog ();
+         emit_insn_before (seq, insn);
+         delete_insn (insn);
+         return;
+       }
 
-  /* Scan through all the insns, instantiating every virtual register still
-     present.  */
-  for (insn = get_insns (); insn; insn = NEXT_INSN (insn))
-    if (GET_CODE (insn) == INSN || GET_CODE (insn) == JUMP_INSN
-       || GET_CODE (insn) == CALL_INSN)
-      {
-       instantiate_virtual_regs_1 (&PATTERN (insn), insn, 1);
-       if (INSN_DELETED_P (insn))
-         continue;
-       instantiate_virtual_regs_1 (&REG_NOTES (insn), NULL_RTX, 0);
-       /* Instantiate any virtual registers in CALL_INSN_FUNCTION_USAGE.  */
-       if (GET_CODE (insn) == CALL_INSN)
-         instantiate_virtual_regs_1 (&CALL_INSN_FUNCTION_USAGE (insn),
-                                     NULL_RTX, 0);
-
-       /* Past this point all ASM statements should match.  Verify that
-          to avoid failures later in the compilation process.  */
-        if (asm_noperands (PATTERN (insn)) >= 0
-           && ! check_asm_operands (PATTERN (insn)))
-          instantiate_virtual_regs_lossage (insn);
-      }
+      extract_insn (insn);
+      insn_code = INSN_CODE (insn);
+
+      /* Handle a plus involving a virtual register by determining if the
+        operands remain valid if they're modified in place.  */
+      if (GET_CODE (SET_SRC (set)) == PLUS
+         && recog_data.n_operands >= 3
+         && recog_data.operand_loc[1] == &XEXP (SET_SRC (set), 0)
+         && recog_data.operand_loc[2] == &XEXP (SET_SRC (set), 1)
+         && GET_CODE (recog_data.operand[2]) == CONST_INT
+         && (new = instantiate_new_reg (recog_data.operand[1], &offset)))
+       {
+         offset += INTVAL (recog_data.operand[2]);
 
-  /* Now instantiate the remaining register equivalences for debugging info.
-     These will not be valid addresses.  */
-  instantiate_decls (current_function_decl, 0);
+         /* If the sum is zero, then replace with a plain move.  */
+         if (offset == 0
+             && REG_P (SET_DEST (set))
+             && REGNO (SET_DEST (set)) > LAST_VIRTUAL_REGISTER)
+           {
+             start_sequence ();
+             emit_move_insn (SET_DEST (set), new);
+             seq = get_insns ();
+             end_sequence ();
 
-  /* Indicate that, from now on, assign_stack_local should use
-     frame_pointer_rtx.  */
-  virtuals_instantiated = 1;
-}
+             emit_insn_before (seq, insn);
+             delete_insn (insn);
+             return;
+           }
 
-/* Scan all decls in FNDECL (both variables and parameters) and instantiate
-   all virtual registers in their DECL_RTL's.
+         x = gen_int_mode (offset, recog_data.operand_mode[2]);
 
-   If VALID_ONLY, do this only if the resulting address is still valid.
-   Otherwise, always do it.  */
+         /* Using validate_change and apply_change_group here leaves
+            recog_data in an invalid state.  Since we know exactly what
+            we want to check, do those two by hand.  */
+         if (safe_insn_predicate (insn_code, 1, new)
+             && safe_insn_predicate (insn_code, 2, x))
+           {
+             *recog_data.operand_loc[1] = recog_data.operand[1] = new;
+             *recog_data.operand_loc[2] = recog_data.operand[2] = x;
+             any_change = true;
 
-static void
-instantiate_decls (tree fndecl, int valid_only)
-{
-  tree decl;
+             /* Fall through into the regular operand fixup loop in
+                order to take care of operands other than 1 and 2.  */
+           }
+       }
+    }
+  else
+    {
+      extract_insn (insn);
+      insn_code = INSN_CODE (insn);
+    }
 
-  /* Process all parameters of the function.  */
-  for (decl = DECL_ARGUMENTS (fndecl); decl; decl = TREE_CHAIN (decl))
+  /* In the general case, we expect virtual registers to appear only in
+     operands, and then only as either bare registers or inside memories.  */
+  for (i = 0; i < recog_data.n_operands; ++i)
     {
-      HOST_WIDE_INT size = int_size_in_bytes (TREE_TYPE (decl));
-      HOST_WIDE_INT size_rtl;
+      x = recog_data.operand[i];
+      switch (GET_CODE (x))
+       {
+       case MEM:
+         {
+           rtx addr = XEXP (x, 0);
+           bool changed = false;
 
-      instantiate_decl (DECL_RTL (decl), size, valid_only);
+           for_each_rtx (&addr, instantiate_virtual_regs_in_rtx, &changed);
+           if (!changed)
+             continue;
 
-      /* If the parameter was promoted, then the incoming RTL mode may be
-        larger than the declared type size.  We must use the larger of
-        the two sizes.  */
-      size_rtl = GET_MODE_SIZE (GET_MODE (DECL_INCOMING_RTL (decl)));
-      size = MAX (size_rtl, size);
-      instantiate_decl (DECL_INCOMING_RTL (decl), size, valid_only);
-    }
+           start_sequence ();
+           x = replace_equiv_address (x, addr);
+           seq = get_insns ();
+           end_sequence ();
+           if (seq)
+             emit_insn_before (seq, insn);
+         }
+         break;
 
-  /* Now process all variables defined in the function or its subblocks.  */
-  instantiate_decls_1 (DECL_INITIAL (fndecl), valid_only);
-}
+       case REG:
+         new = instantiate_new_reg (x, &offset);
+         if (new == NULL)
+           continue;
+         if (offset == 0)
+           x = new;
+         else
+           {
+             start_sequence ();
 
-/* Subroutine of instantiate_decls: Process all decls in the given
-   BLOCK node and all its subblocks.  */
+             /* Careful, special mode predicates may have stuff in
+                insn_data[insn_code].operand[i].mode that isn't useful
+                to us for computing a new value.  */
+             /* ??? Recognize address_operand and/or "p" constraints
+                to see if (plus new offset) is a valid before we put
+                this through expand_simple_binop.  */
+             x = expand_simple_binop (GET_MODE (x), PLUS, new,
+                                      GEN_INT (offset), NULL_RTX,
+                                      1, OPTAB_LIB_WIDEN);
+             seq = get_insns ();
+             end_sequence ();
+             emit_insn_before (seq, insn);
+           }
+         break;
 
-static void
-instantiate_decls_1 (tree let, int valid_only)
-{
-  tree t;
+       case SUBREG:
+         new = instantiate_new_reg (SUBREG_REG (x), &offset);
+         if (new == NULL)
+           continue;
+         if (offset != 0)
+           {
+             start_sequence ();
+             new = expand_simple_binop (GET_MODE (new), PLUS, new,
+                                        GEN_INT (offset), NULL_RTX,
+                                        1, OPTAB_LIB_WIDEN);
+             seq = get_insns ();
+             end_sequence ();
+             emit_insn_before (seq, insn);
+           }
+         x = simplify_gen_subreg (recog_data.operand_mode[i], new,
+                                  GET_MODE (new), SUBREG_BYTE (x));
+         break;
 
-  for (t = BLOCK_VARS (let); t; t = TREE_CHAIN (t))
-    if (DECL_RTL_SET_P (t))
-      instantiate_decl (DECL_RTL (t),
-                       int_size_in_bytes (TREE_TYPE (t)),
-                       valid_only);
+       default:
+         continue;
+       }
 
-  /* Process all subblocks.  */
-  for (t = BLOCK_SUBBLOCKS (let); t; t = TREE_CHAIN (t))
-    instantiate_decls_1 (t, valid_only);
-}
+      /* At this point, X contains the new value for the operand.
+        Validate the new value vs the insn predicate.  Note that
+        asm insns will have insn_code -1 here.  */
+      if (!safe_insn_predicate (insn_code, i, x))
+       x = force_reg (insn_data[insn_code].operand[i].mode, x);
+
+      *recog_data.operand_loc[i] = recog_data.operand[i] = x;
+      any_change = true;
+    }
+
+  if (any_change)
+    {
+      /* Propagate operand changes into the duplicates.  */
+      for (i = 0; i < recog_data.n_dups; ++i)
+       *recog_data.dup_loc[i]
+         = recog_data.operand[(unsigned)recog_data.dup_num[i]];
+
+      /* Force re-recognition of the instruction for validation.  */
+      INSN_CODE (insn) = -1;
+    }
 
-/* Subroutine of the preceding procedures: Given RTL representing a
-   decl and the size of the object, do any instantiation required.
+  if (asm_noperands (PATTERN (insn)) >= 0)
+    {
+      if (!check_asm_operands (PATTERN (insn)))
+       {
+         error_for_asm (insn, "impossible constraint in %<asm%>");
+         delete_insn (insn);
+       }
+    }
+  else
+    {
+      if (recog_memoized (insn) < 0)
+       fatal_insn_not_found (insn);
+    }
+}
 
-   If VALID_ONLY is nonzero, it means that the RTL should only be
-   changed if the new address is valid.  */
+/* Subroutine of instantiate_decls.  Given RTL representing a decl,
+   do any instantiation required.  */
 
 static void
-instantiate_decl (rtx x, HOST_WIDE_INT size, int valid_only)
+instantiate_decl (rtx x)
 {
-  enum machine_mode mode;
   rtx addr;
 
+  if (x == 0)
+    return;
+
+  /* If this is a CONCAT, recurse for the pieces.  */
+  if (GET_CODE (x) == CONCAT)
+    {
+      instantiate_decl (XEXP (x, 0));
+      instantiate_decl (XEXP (x, 1));
+      return;
+    }
+
   /* If this is not a MEM, no need to do anything.  Similarly if the
      address is a constant or a register that is not a virtual register.  */
-
-  if (x == 0 || !MEM_P (x))
+  if (!MEM_P (x))
     return;
 
   addr = XEXP (x, 0);
@@ -1462,473 +1571,96 @@ instantiate_decl (rtx x, HOST_WIDE_INT size, int valid_only)
              || REGNO (addr) > LAST_VIRTUAL_REGISTER)))
     return;
 
-  /* If we should only do this if the address is valid, copy the address.
-     We need to do this so we can undo any changes that might make the
-     address invalid.  This copy is unfortunate, but probably can't be
-     avoided.  */
+  for_each_rtx (&XEXP (x, 0), instantiate_virtual_regs_in_rtx, NULL);
+}
 
-  if (valid_only)
-    addr = copy_rtx (addr);
+/* Subroutine of instantiate_decls: Process all decls in the given
+   BLOCK node and all its subblocks.  */
 
-  instantiate_virtual_regs_1 (&addr, NULL_RTX, 0);
+static void
+instantiate_decls_1 (tree let)
+{
+  tree t;
 
-  if (valid_only && size >= 0)
-    {
-      unsigned HOST_WIDE_INT decl_size = size;
+  for (t = BLOCK_VARS (let); t; t = TREE_CHAIN (t))
+    if (DECL_RTL_SET_P (t))
+      instantiate_decl (DECL_RTL (t));
 
-      /* Now verify that the resulting address is valid for every integer or
-        floating-point mode up to and including SIZE bytes long.  We do this
-        since the object might be accessed in any mode and frame addresses
-        are shared.  */
+  /* Process all subblocks.  */
+  for (t = BLOCK_SUBBLOCKS (let); t; t = TREE_CHAIN (t))
+    instantiate_decls_1 (t);
+}
 
-      for (mode = GET_CLASS_NARROWEST_MODE (MODE_INT);
-          mode != VOIDmode && GET_MODE_SIZE (mode) <= decl_size;
-          mode = GET_MODE_WIDER_MODE (mode))
-       if (! memory_address_p (mode, addr))
-         return;
+/* Scan all decls in FNDECL (both variables and parameters) and instantiate
+   all virtual registers in their DECL_RTL's.  */
 
-      for (mode = GET_CLASS_NARROWEST_MODE (MODE_FLOAT);
-          mode != VOIDmode && GET_MODE_SIZE (mode) <= decl_size;
-          mode = GET_MODE_WIDER_MODE (mode))
-       if (! memory_address_p (mode, addr))
-         return;
-    }
-
-  /* Put back the address now that we have updated it and we either know
-     it is valid or we don't care whether it is valid.  */
-
-  XEXP (x, 0) = addr;
-}
-\f
-/* Given a piece of RTX and a pointer to a HOST_WIDE_INT, if the RTX
-   is a virtual register, return the equivalent hard register and set the
-   offset indirectly through the pointer.  Otherwise, return 0.  */
-
-static rtx
-instantiate_new_reg (rtx x, HOST_WIDE_INT *poffset)
-{
-  rtx new;
-  HOST_WIDE_INT offset;
-
-  if (x == virtual_incoming_args_rtx)
-    new = arg_pointer_rtx, offset = in_arg_offset;
-  else if (x == virtual_stack_vars_rtx)
-    new = frame_pointer_rtx, offset = var_offset;
-  else if (x == virtual_stack_dynamic_rtx)
-    new = stack_pointer_rtx, offset = dynamic_offset;
-  else if (x == virtual_outgoing_args_rtx)
-    new = stack_pointer_rtx, offset = out_arg_offset;
-  else if (x == virtual_cfa_rtx)
-    new = arg_pointer_rtx, offset = cfa_offset;
-  else
-    return 0;
-
-  *poffset = offset;
-  return new;
-}
-\f
-
-/* Called when instantiate_virtual_regs has failed to update the instruction.
-   Usually this means that non-matching instruction has been emit, however for
-   asm statements it may be the problem in the constraints.  */
 static void
-instantiate_virtual_regs_lossage (rtx insn)
+instantiate_decls (tree fndecl)
 {
-  if (asm_noperands (PATTERN (insn)) >= 0)
+  tree decl;
+
+  /* Process all parameters of the function.  */
+  for (decl = DECL_ARGUMENTS (fndecl); decl; decl = TREE_CHAIN (decl))
     {
-      error_for_asm (insn, "impossible constraint in `asm'");
-      delete_insn (insn);
+      instantiate_decl (DECL_RTL (decl));
+      instantiate_decl (DECL_INCOMING_RTL (decl));
     }
-  else
-    abort ();
-}
-/* Given a pointer to a piece of rtx and an optional pointer to the
-   containing object, instantiate any virtual registers present in it.
-
-   If EXTRA_INSNS, we always do the replacement and generate
-   any extra insns before OBJECT.  If it zero, we do nothing if replacement
-   is not valid.
 
-   Return 1 if we either had nothing to do or if we were able to do the
-   needed replacement.  Return 0 otherwise; we only return zero if
-   EXTRA_INSNS is zero.
+  /* Now process all variables defined in the function or its subblocks.  */
+  instantiate_decls_1 (DECL_INITIAL (fndecl));
+}
 
-   We first try some simple transformations to avoid the creation of extra
-   pseudos.  */
+/* Pass through the INSNS of function FNDECL and convert virtual register
+   references to hard register references.  */
 
-static int
-instantiate_virtual_regs_1 (rtx *loc, rtx object, int extra_insns)
+void
+instantiate_virtual_regs (void)
 {
-  rtx x;
-  RTX_CODE code;
-  rtx new = 0;
-  HOST_WIDE_INT offset = 0;
-  rtx temp;
-  rtx seq;
-  int i, j;
-  const char *fmt;
-
-  /* Re-start here to avoid recursion in common cases.  */
- restart:
-
-  x = *loc;
-  if (x == 0)
-    return 1;
-
-  /* We may have detected and deleted invalid asm statements.  */
-  if (object && INSN_P (object) && INSN_DELETED_P (object))
-    return 1;
-
-  code = GET_CODE (x);
-
-  /* Check for some special cases.  */
-  switch (code)
-    {
-    case CONST_INT:
-    case CONST_DOUBLE:
-    case CONST_VECTOR:
-    case CONST:
-    case SYMBOL_REF:
-    case CODE_LABEL:
-    case PC:
-    case CC0:
-    case ASM_INPUT:
-    case ADDR_VEC:
-    case ADDR_DIFF_VEC:
-    case RETURN:
-      return 1;
-
-    case SET:
-      /* We are allowed to set the virtual registers.  This means that
-        the actual register should receive the source minus the
-        appropriate offset.  This is used, for example, in the handling
-        of non-local gotos.  */
-      if ((new = instantiate_new_reg (SET_DEST (x), &offset)) != 0)
-       {
-         rtx src = SET_SRC (x);
-
-         /* We are setting the register, not using it, so the relevant
-            offset is the negative of the offset to use were we using
-            the register.  */
-         offset = - offset;
-         instantiate_virtual_regs_1 (&src, NULL_RTX, 0);
-
-         /* The only valid sources here are PLUS or REG.  Just do
-            the simplest possible thing to handle them.  */
-         if (!REG_P (src) && GET_CODE (src) != PLUS)
-           {
-             instantiate_virtual_regs_lossage (object);
-             return 1;
-           }
-
-         start_sequence ();
-         if (!REG_P (src))
-           temp = force_operand (src, NULL_RTX);
-         else
-           temp = src;
-         temp = force_operand (plus_constant (temp, offset), NULL_RTX);
-         seq = get_insns ();
-         end_sequence ();
-
-         emit_insn_before (seq, object);
-         SET_DEST (x) = new;
-
-         if (! validate_change (object, &SET_SRC (x), temp, 0)
-             || ! extra_insns)
-           instantiate_virtual_regs_lossage (object);
-
-         return 1;
-       }
-
-      instantiate_virtual_regs_1 (&SET_DEST (x), object, extra_insns);
-      loc = &SET_SRC (x);
-      goto restart;
-
-    case PLUS:
-      /* Handle special case of virtual register plus constant.  */
-      if (CONSTANT_P (XEXP (x, 1)))
-       {
-         rtx old, new_offset;
-
-         /* Check for (plus (plus VIRT foo) (const_int)) first.  */
-         if (GET_CODE (XEXP (x, 0)) == PLUS)
-           {
-             if ((new = instantiate_new_reg (XEXP (XEXP (x, 0), 0), &offset)))
-               {
-                 instantiate_virtual_regs_1 (&XEXP (XEXP (x, 0), 1), object,
-                                             extra_insns);
-                 new = gen_rtx_PLUS (Pmode, new, XEXP (XEXP (x, 0), 1));
-               }
-             else
-               {
-                 loc = &XEXP (x, 0);
-                 goto restart;
-               }
-           }
-
-#ifdef POINTERS_EXTEND_UNSIGNED
-         /* If we have (plus (subreg (virtual-reg)) (const_int)), we know
-            we can commute the PLUS and SUBREG because pointers into the
-            frame are well-behaved.  */
-         else if (GET_CODE (XEXP (x, 0)) == SUBREG && GET_MODE (x) == ptr_mode
-                  && GET_CODE (XEXP (x, 1)) == CONST_INT
-                  && 0 != (new
-                           = instantiate_new_reg (SUBREG_REG (XEXP (x, 0)),
-                                                  &offset))
-                  && validate_change (object, loc,
-                                      plus_constant (gen_lowpart (ptr_mode,
-                                                                  new),
-                                                     offset
-                                                     + INTVAL (XEXP (x, 1))),
-                                      0))
-               return 1;
-#endif
-         else if ((new = instantiate_new_reg (XEXP (x, 0), &offset)) == 0)
-           {
-             /* We know the second operand is a constant.  Unless the
-                first operand is a REG (which has been already checked),
-                it needs to be checked.  */
-             if (!REG_P (XEXP (x, 0)))
-               {
-                 loc = &XEXP (x, 0);
-                 goto restart;
-               }
-             return 1;
-           }
-
-         new_offset = plus_constant (XEXP (x, 1), offset);
-
-         /* If the new constant is zero, try to replace the sum with just
-            the register.  */
-         if (new_offset == const0_rtx
-             && validate_change (object, loc, new, 0))
-           return 1;
-
-         /* Next try to replace the register and new offset.
-            There are two changes to validate here and we can't assume that
-            in the case of old offset equals new just changing the register
-            will yield a valid insn.  In the interests of a little efficiency,
-            however, we only call validate change once (we don't queue up the
-            changes and then call apply_change_group).  */
-
-         old = XEXP (x, 0);
-         if (offset == 0
-             ? ! validate_change (object, &XEXP (x, 0), new, 0)
-             : (XEXP (x, 0) = new,
-                ! validate_change (object, &XEXP (x, 1), new_offset, 0)))
-           {
-             if (! extra_insns)
-               {
-                 XEXP (x, 0) = old;
-                 return 0;
-               }
-
-             /* Otherwise copy the new constant into a register and replace
-                constant with that register.  */
-             temp = gen_reg_rtx (Pmode);
-             XEXP (x, 0) = new;
-             if (validate_change (object, &XEXP (x, 1), temp, 0))
-               emit_insn_before (gen_move_insn (temp, new_offset), object);
-             else
-               {
-                 /* If that didn't work, replace this expression with a
-                    register containing the sum.  */
-
-                 XEXP (x, 0) = old;
-                 new = gen_rtx_PLUS (Pmode, new, new_offset);
-
-                 start_sequence ();
-                 temp = force_operand (new, NULL_RTX);
-                 seq = get_insns ();
-                 end_sequence ();
-
-                 emit_insn_before (seq, object);
-                 if (! validate_change (object, loc, temp, 0)
-                     && ! validate_replace_rtx (x, temp, object))
-                   {
-                     instantiate_virtual_regs_lossage (object);
-                     return 1;
-                   }
-               }
-           }
-
-         return 1;
-       }
-
-      /* Fall through to generic two-operand expression case.  */
-    case EXPR_LIST:
-    case CALL:
-    case COMPARE:
-    case MINUS:
-    case MULT:
-    case DIV:      case UDIV:
-    case MOD:      case UMOD:
-    case AND:      case IOR:      case XOR:
-    case ROTATERT: case ROTATE:
-    case ASHIFTRT: case LSHIFTRT: case ASHIFT:
-    case NE:       case EQ:
-    case GE:       case GT:       case GEU:    case GTU:
-    case LE:       case LT:       case LEU:    case LTU:
-      if (XEXP (x, 1) && ! CONSTANT_P (XEXP (x, 1)))
-       instantiate_virtual_regs_1 (&XEXP (x, 1), object, extra_insns);
-      loc = &XEXP (x, 0);
-      goto restart;
-
-    case MEM:
-      /* Most cases of MEM that convert to valid addresses have already been
-        handled by our scan of decls.  The only special handling we
-        need here is to make a copy of the rtx to ensure it isn't being
-        shared if we have to change it to a pseudo.
-
-        If the rtx is a simple reference to an address via a virtual register,
-        it can potentially be shared.  In such cases, first try to make it
-        a valid address, which can also be shared.  Otherwise, copy it and
-        proceed normally.
-
-        First check for common cases that need no processing.  These are
-        usually due to instantiation already being done on a previous instance
-        of a shared rtx.  */
-
-      temp = XEXP (x, 0);
-      if (CONSTANT_ADDRESS_P (temp)
-#if FRAME_POINTER_REGNUM != ARG_POINTER_REGNUM
-         || temp == arg_pointer_rtx
-#endif
-#if HARD_FRAME_POINTER_REGNUM != FRAME_POINTER_REGNUM
-         || temp == hard_frame_pointer_rtx
-#endif
-         || temp == frame_pointer_rtx)
-       return 1;
-
-      if (GET_CODE (temp) == PLUS
-         && CONSTANT_ADDRESS_P (XEXP (temp, 1))
-         && (XEXP (temp, 0) == frame_pointer_rtx
-#if HARD_FRAME_POINTER_REGNUM != FRAME_POINTER_REGNUM
-             || XEXP (temp, 0) == hard_frame_pointer_rtx
-#endif
-#if FRAME_POINTER_REGNUM != ARG_POINTER_REGNUM
-             || XEXP (temp, 0) == arg_pointer_rtx
-#endif
-             ))
-       return 1;
-
-      if (temp == virtual_stack_vars_rtx
-         || temp == virtual_incoming_args_rtx
-         || (GET_CODE (temp) == PLUS
-             && CONSTANT_ADDRESS_P (XEXP (temp, 1))
-             && (XEXP (temp, 0) == virtual_stack_vars_rtx
-                 || XEXP (temp, 0) == virtual_incoming_args_rtx)))
-       {
-         /* This MEM may be shared.  If the substitution can be done without
-            the need to generate new pseudos, we want to do it in place
-            so all copies of the shared rtx benefit.  The call below will
-            only make substitutions if the resulting address is still
-            valid.
-
-            Note that we cannot pass X as the object in the recursive call
-            since the insn being processed may not allow all valid
-            addresses.  However, if we were not passed on object, we can
-            only modify X without copying it if X will have a valid
-            address.
-
-            ??? Also note that this can still lose if OBJECT is an insn that
-            has less restrictions on an address that some other insn.
-            In that case, we will modify the shared address.  This case
-            doesn't seem very likely, though.  One case where this could
-            happen is in the case of a USE or CLOBBER reference, but we
-            take care of that below.  */
-
-         if (instantiate_virtual_regs_1 (&XEXP (x, 0),
-                                         object ? object : x, 0))
-           return 1;
-
-         /* Otherwise make a copy and process that copy.  We copy the entire
-            RTL expression since it might be a PLUS which could also be
-            shared.  */
-         *loc = x = copy_rtx (x);
-       }
+  rtx insn;
 
-      /* Fall through to generic unary operation case.  */
-    case PREFETCH:
-    case SUBREG:
-    case STRICT_LOW_PART:
-    case NEG:          case NOT:
-    case PRE_DEC:      case PRE_INC:      case POST_DEC:    case POST_INC:
-    case SIGN_EXTEND:  case ZERO_EXTEND:
-    case TRUNCATE:     case FLOAT_EXTEND: case FLOAT_TRUNCATE:
-    case FLOAT:        case FIX:
-    case UNSIGNED_FIX: case UNSIGNED_FLOAT:
-    case ABS:
-    case SQRT:
-    case FFS:
-    case CLZ:          case CTZ:
-    case POPCOUNT:     case PARITY:
-      /* These case either have just one operand or we know that we need not
-        check the rest of the operands.  */
-      loc = &XEXP (x, 0);
-      goto restart;
-
-    case USE:
-    case CLOBBER:
-      /* If the operand is a MEM, see if the change is a valid MEM.  If not,
-        go ahead and make the invalid one, but do it to a copy.  For a REG,
-        just make the recursive call, since there's no chance of a problem.  */
-
-      if ((MEM_P (XEXP (x, 0))
-          && instantiate_virtual_regs_1 (&XEXP (XEXP (x, 0), 0), XEXP (x, 0),
-                                         0))
-         || (REG_P (XEXP (x, 0))
-             && instantiate_virtual_regs_1 (&XEXP (x, 0), object, 0)))
-       return 1;
-
-      XEXP (x, 0) = copy_rtx (XEXP (x, 0));
-      loc = &XEXP (x, 0);
-      goto restart;
+  /* Compute the offsets to use for this function.  */
+  in_arg_offset = FIRST_PARM_OFFSET (current_function_decl);
+  var_offset = STARTING_FRAME_OFFSET;
+  dynamic_offset = STACK_DYNAMIC_OFFSET (current_function_decl);
+  out_arg_offset = STACK_POINTER_OFFSET;
+  cfa_offset = ARG_POINTER_CFA_OFFSET (current_function_decl);
 
-    case REG:
-      /* Try to replace with a PLUS.  If that doesn't work, compute the sum
-        in front of this insn and substitute the temporary.  */
-      if ((new = instantiate_new_reg (x, &offset)) != 0)
-       {
-         temp = plus_constant (new, offset);
-         if (!validate_change (object, loc, temp, 0))
-           {
-             if (! extra_insns)
-               return 0;
+  /* Initialize recognition, indicating that volatile is OK.  */
+  init_recog ();
 
-             start_sequence ();
-             temp = force_operand (temp, NULL_RTX);
-             seq = get_insns ();
-             end_sequence ();
+  /* Scan through all the insns, instantiating every virtual register still
+     present.  */
+  for (insn = get_insns (); insn; insn = NEXT_INSN (insn))
+    if (INSN_P (insn))
+      {
+       /* These patterns in the instruction stream can never be recognized.
+          Fortunately, they shouldn't contain virtual registers either.  */
+       if (GET_CODE (PATTERN (insn)) == USE
+           || GET_CODE (PATTERN (insn)) == CLOBBER
+           || GET_CODE (PATTERN (insn)) == ADDR_VEC
+           || GET_CODE (PATTERN (insn)) == ADDR_DIFF_VEC
+           || GET_CODE (PATTERN (insn)) == ASM_INPUT)
+         continue;
 
-             emit_insn_before (seq, object);
-             if (! validate_change (object, loc, temp, 0)
-                 && ! validate_replace_rtx (x, temp, object))
-               instantiate_virtual_regs_lossage (object);
-           }
-       }
+       instantiate_virtual_regs_in_insn (insn);
 
-      return 1;
+       if (INSN_DELETED_P (insn))
+         continue;
 
-    default:
-      break;
-    }
+       for_each_rtx (&REG_NOTES (insn), instantiate_virtual_regs_in_rtx, NULL);
 
-  /* Scan all subexpressions.  */
-  fmt = GET_RTX_FORMAT (code);
-  for (i = 0; i < GET_RTX_LENGTH (code); i++, fmt++)
-    if (*fmt == 'e')
-      {
-       if (!instantiate_virtual_regs_1 (&XEXP (x, i), object, extra_insns))
-         return 0;
+       /* Instantiate any virtual registers in CALL_INSN_FUNCTION_USAGE.  */
+       if (GET_CODE (insn) == CALL_INSN)
+         for_each_rtx (&CALL_INSN_FUNCTION_USAGE (insn),
+                       instantiate_virtual_regs_in_rtx, NULL);
       }
-    else if (*fmt == 'E')
-      for (j = 0; j < XVECLEN (x, i); j++)
-       if (! instantiate_virtual_regs_1 (&XVECEXP (x, i, j), object,
-                                         extra_insns))
-         return 0;
 
-  return 1;
+  /* Instantiate the virtual registers in the DECLs for debugging purposes.  */
+  instantiate_decls (current_function_decl);
+
+  /* Indicate that, from now on, assign_stack_local should use
+     frame_pointer_rtx.  */
+  virtuals_instantiated = 1;
 }
 \f
 /* Return 1 if EXP is an aggregate type (or a value with aggregate type).
@@ -1962,11 +1694,16 @@ aggregate_value_p (tree exp, tree fntype)
        break;
       default:
        /* We don't expect other rtl types here.  */
-       abort();
+       gcc_unreachable ();
       }
 
   if (TREE_CODE (type) == VOID_TYPE)
     return 0;
+  /* If the front end has decided that this needs to be passed by
+     reference, do so.  */
+  if ((TREE_CODE (exp) == PARM_DECL || TREE_CODE (exp) == RESULT_DECL)
+      && DECL_BY_REFERENCE (exp))
+    return 1;
   if (targetm.calls.return_in_memory (type, fntype))
     return 1;
   /* Types that are TREE_ADDRESSABLE must be constructed in memory,
@@ -2017,952 +1754,1232 @@ use_register_for_decl (tree decl)
   if (flag_float_store && FLOAT_TYPE_P (TREE_TYPE (decl)))
     return false;
 
-  /* Compiler-generated temporaries can always go in registers.  */
-  if (DECL_ARTIFICIAL (decl))
+  /* If we're not interested in tracking debugging information for
+     this decl, then we can certainly put it in a register.  */
+  if (DECL_IGNORED_P (decl))
     return true;
 
-#ifdef NON_SAVING_SETJMP
-  /* Protect variables not declared "register" from setjmp.  */
-  if (NON_SAVING_SETJMP
-      && current_function_calls_setjmp
-      && !DECL_REGISTER (decl))
-    return false;
-#endif
-
   return (optimize || DECL_REGISTER (decl));
 }
 
-/* Assign RTL expressions to the function's parameters.
-   This may involve copying them into registers and using
-   those registers as the RTL for them.  */
+/* Return true if TYPE should be passed by invisible reference.  */
 
-void
-assign_parms (tree fndecl)
+bool
+pass_by_reference (CUMULATIVE_ARGS *ca, enum machine_mode mode,
+                  tree type, bool named_arg)
 {
-  tree parm;
-  CUMULATIVE_ARGS args_so_far;
-  /* Total space needed so far for args on the stack,
-     given as a constant and a tree-expression.  */
-  struct args_size stack_args_size;
-  HOST_WIDE_INT extra_pretend_bytes = 0;
-  tree fntype = TREE_TYPE (fndecl);
-  tree fnargs = DECL_ARGUMENTS (fndecl), orig_fnargs;
-  /* This is used for the arg pointer when referring to stack args.  */
-  rtx internal_arg_pointer;
-  /* This is a dummy PARM_DECL that we used for the function result if
-     the function returns a structure.  */
-  tree function_result_decl = 0;
-  int varargs_setup = 0;
-  int reg_parm_stack_space ATTRIBUTE_UNUSED = 0;
-  rtx conversion_insns = 0;
-
-  /* Nonzero if function takes extra anonymous args.
-     This means the last named arg must be on the stack
-     right before the anonymous ones.  */
-  int stdarg = current_function_stdarg;
+  if (type)
+    {
+      /* If this type contains non-trivial constructors, then it is
+        forbidden for the middle-end to create any new copies.  */
+      if (TREE_ADDRESSABLE (type))
+       return true;
+
+      /* GCC post 3.4 passes *all* variable sized types by reference.  */
+      if (!TYPE_SIZE (type) || TREE_CODE (TYPE_SIZE (type)) != INTEGER_CST)
+       return true;
+    }
 
-  /* If the reg that the virtual arg pointer will be translated into is
-     not a fixed reg or is the stack pointer, make a copy of the virtual
-     arg pointer, and address parms via the copy.  The frame pointer is
-     considered fixed even though it is not marked as such.
+  return targetm.calls.pass_by_reference (ca, mode, type, named_arg);
+}
 
-     The second time through, simply use ap to avoid generating rtx.  */
+/* Return true if TYPE, which is passed by reference, should be callee
+   copied instead of caller copied.  */
 
-  if ((ARG_POINTER_REGNUM == STACK_POINTER_REGNUM
-       || ! (fixed_regs[ARG_POINTER_REGNUM]
-            || ARG_POINTER_REGNUM == FRAME_POINTER_REGNUM)))
-    internal_arg_pointer = copy_to_reg (virtual_incoming_args_rtx);
-  else
-    internal_arg_pointer = virtual_incoming_args_rtx;
-  current_function_internal_arg_pointer = internal_arg_pointer;
+bool
+reference_callee_copied (CUMULATIVE_ARGS *ca, enum machine_mode mode,
+                        tree type, bool named_arg)
+{
+  if (type && TREE_ADDRESSABLE (type))
+    return false;
+  return targetm.calls.callee_copies (ca, mode, type, named_arg);
+}
 
-  stack_args_size.constant = 0;
-  stack_args_size.var = 0;
+/* Structures to communicate between the subroutines of assign_parms.
+   The first holds data persistent across all parameters, the second
+   is cleared out for each parameter.  */
 
-  /* If struct value address is treated as the first argument, make it so.  */
-  if (aggregate_value_p (DECL_RESULT (fndecl), fndecl)
-      && ! current_function_returns_pcc_struct
-      && targetm.calls.struct_value_rtx (TREE_TYPE (fndecl), 1) == 0)
-    {
-      tree type = build_pointer_type (TREE_TYPE (fntype));
+struct assign_parm_data_all
+{
+  CUMULATIVE_ARGS args_so_far;
+  struct args_size stack_args_size;
+  tree function_result_decl;
+  tree orig_fnargs;
+  rtx conversion_insns;
+  HOST_WIDE_INT pretend_args_size;
+  HOST_WIDE_INT extra_pretend_bytes;
+  int reg_parm_stack_space;
+};
 
-      function_result_decl = build_decl (PARM_DECL, NULL_TREE, type);
+struct assign_parm_data_one
+{
+  tree nominal_type;
+  tree passed_type;
+  rtx entry_parm;
+  rtx stack_parm;
+  enum machine_mode nominal_mode;
+  enum machine_mode passed_mode;
+  enum machine_mode promoted_mode;
+  struct locate_and_pad_arg_data locate;
+  int partial;
+  BOOL_BITFIELD named_arg : 1;
+  BOOL_BITFIELD passed_pointer : 1;
+  BOOL_BITFIELD on_stack : 1;
+  BOOL_BITFIELD loaded_in_reg : 1;
+};
 
-      DECL_ARG_TYPE (function_result_decl) = type;
-      TREE_CHAIN (function_result_decl) = fnargs;
-      fnargs = function_result_decl;
-    }
+/* A subroutine of assign_parms.  Initialize ALL.  */
 
-  orig_fnargs = fnargs;
+static void
+assign_parms_initialize_all (struct assign_parm_data_all *all)
+{
+  tree fntype;
 
-  /* If the target wants to split complex arguments into scalars, do so.  */
-  if (targetm.calls.split_complex_arg)
-    fnargs = split_complex_args (fnargs);
+  memset (all, 0, sizeof (*all));
 
-#ifdef REG_PARM_STACK_SPACE
-  reg_parm_stack_space = REG_PARM_STACK_SPACE (fndecl);
-#endif
+  fntype = TREE_TYPE (current_function_decl);
 
 #ifdef INIT_CUMULATIVE_INCOMING_ARGS
-  INIT_CUMULATIVE_INCOMING_ARGS (args_so_far, fntype, NULL_RTX);
+  INIT_CUMULATIVE_INCOMING_ARGS (all->args_so_far, fntype, NULL_RTX);
 #else
-  INIT_CUMULATIVE_ARGS (args_so_far, fntype, NULL_RTX, fndecl, -1);
+  INIT_CUMULATIVE_ARGS (all->args_so_far, fntype, NULL_RTX,
+                       current_function_decl, -1);
 #endif
 
-  /* We haven't yet found an argument that we must push and pretend the
-     caller did.  */
-  current_function_pretend_args_size = 0;
+#ifdef REG_PARM_STACK_SPACE
+  all->reg_parm_stack_space = REG_PARM_STACK_SPACE (current_function_decl);
+#endif
+}
 
-  for (parm = fnargs; parm; parm = TREE_CHAIN (parm))
-    {
-      rtx entry_parm;
-      rtx stack_parm;
-      enum machine_mode promoted_mode, passed_mode;
-      enum machine_mode nominal_mode, promoted_nominal_mode;
-      int unsignedp;
-      struct locate_and_pad_arg_data locate;
-      int passed_pointer = 0;
-      int did_conversion = 0;
-      tree passed_type = DECL_ARG_TYPE (parm);
-      tree nominal_type = TREE_TYPE (parm);
-      int last_named = 0, named_arg;
-      int in_regs;
-      int partial = 0;
-      int pretend_bytes = 0;
-      int loaded_in_reg = 0;
-
-      /* Set LAST_NAMED if this is last named arg before last
-        anonymous args.  */
-      if (stdarg)
-       {
-         tree tem;
+/* If ARGS contains entries with complex types, split the entry into two
+   entries of the component type.  Return a new list of substitutions are
+   needed, else the old list.  */
 
-         for (tem = TREE_CHAIN (parm); tem; tem = TREE_CHAIN (tem))
-           if (DECL_NAME (tem))
-             break;
+static tree
+split_complex_args (tree args)
+{
+  tree p;
 
-         if (tem == 0)
-           last_named = 1;
-       }
-      /* Set NAMED_ARG if this arg should be treated as a named arg.  For
-        most machines, if this is a varargs/stdarg function, then we treat
-        the last named arg as if it were anonymous too.  */
-      named_arg = (targetm.calls.strict_argument_naming (&args_so_far)
-                  ? 1 : !last_named);
-
-      if (TREE_TYPE (parm) == error_mark_node
-         /* This can happen after weird syntax errors
-            or if an enum type is defined among the parms.  */
-         || TREE_CODE (parm) != PARM_DECL
-         || passed_type == NULL)
-       {
-         SET_DECL_RTL (parm, gen_rtx_MEM (BLKmode, const0_rtx));
-         DECL_INCOMING_RTL (parm) = DECL_RTL (parm);
-         TREE_USED (parm) = 1;
-         continue;
-       }
+  /* Before allocating memory, check for the common case of no complex.  */
+  for (p = args; p; p = TREE_CHAIN (p))
+    {
+      tree type = TREE_TYPE (p);
+      if (TREE_CODE (type) == COMPLEX_TYPE
+         && targetm.calls.split_complex_arg (type))
+        goto found;
+    }
+  return args;
 
-      /* Find mode of arg as it is passed, and mode of arg
-        as it should be during execution of this function.  */
-      passed_mode = TYPE_MODE (passed_type);
-      nominal_mode = TYPE_MODE (nominal_type);
+ found:
+  args = copy_list (args);
 
-      /* If the parm's mode is VOID, its value doesn't matter,
-        and avoid the usual things like emit_move_insn that could crash.  */
-      if (nominal_mode == VOIDmode)
+  for (p = args; p; p = TREE_CHAIN (p))
+    {
+      tree type = TREE_TYPE (p);
+      if (TREE_CODE (type) == COMPLEX_TYPE
+         && targetm.calls.split_complex_arg (type))
        {
-         SET_DECL_RTL (parm, const0_rtx);
-         DECL_INCOMING_RTL (parm) = DECL_RTL (parm);
-         continue;
-       }
+         tree decl;
+         tree subtype = TREE_TYPE (type);
+         bool addressable = TREE_ADDRESSABLE (p);
 
-      /* If the parm is to be passed as a transparent union, use the
-        type of the first field for the tests below.  We have already
-        verified that the modes are the same.  */
-      if (DECL_TRANSPARENT_UNION (parm)
-         || (TREE_CODE (passed_type) == UNION_TYPE
-             && TYPE_TRANSPARENT_UNION (passed_type)))
-       passed_type = TREE_TYPE (TYPE_FIELDS (passed_type));
-
-      /* See if this arg was passed by invisible reference.  It is if
-        it is an object whose size depends on the contents of the
-        object itself or if the machine requires these objects be passed
-        that way.  */
-
-      if (CONTAINS_PLACEHOLDER_P (TYPE_SIZE (passed_type))
-         || TREE_ADDRESSABLE (passed_type)
-#ifdef FUNCTION_ARG_PASS_BY_REFERENCE
-         || FUNCTION_ARG_PASS_BY_REFERENCE (args_so_far, passed_mode,
-                                            passed_type, named_arg)
-#endif
-         )
-       {
-         passed_type = nominal_type = build_pointer_type (passed_type);
-         passed_pointer = 1;
-         passed_mode = nominal_mode = Pmode;
-       }
-      /* See if the frontend wants to pass this by invisible reference.  */
-      else if (passed_type != nominal_type
-              && POINTER_TYPE_P (passed_type)
-              && TREE_TYPE (passed_type) == nominal_type)
-       {
-         nominal_type = passed_type;
-         passed_pointer = 1;
-         passed_mode = nominal_mode = Pmode;
-       }
+         /* Rewrite the PARM_DECL's type with its component.  */
+         TREE_TYPE (p) = subtype;
+         DECL_ARG_TYPE (p) = TREE_TYPE (DECL_ARG_TYPE (p));
+         DECL_MODE (p) = VOIDmode;
+         DECL_SIZE (p) = NULL;
+         DECL_SIZE_UNIT (p) = NULL;
+         /* If this arg must go in memory, put it in a pseudo here.
+            We can't allow it to go in memory as per normal parms,
+            because the usual place might not have the imag part
+            adjacent to the real part.  */
+         DECL_ARTIFICIAL (p) = addressable;
+         DECL_IGNORED_P (p) = addressable;
+         TREE_ADDRESSABLE (p) = 0;
+         layout_decl (p, 0);
 
-      promoted_mode = passed_mode;
+         /* Build a second synthetic decl.  */
+         decl = build_decl (PARM_DECL, NULL_TREE, subtype);
+         DECL_ARG_TYPE (decl) = DECL_ARG_TYPE (p);
+         DECL_ARTIFICIAL (decl) = addressable;
+         DECL_IGNORED_P (decl) = addressable;
+         layout_decl (decl, 0);
 
-      if (targetm.calls.promote_function_args (TREE_TYPE (fndecl)))
-       {
-         /* Compute the mode in which the arg is actually extended to.  */
-         unsignedp = TYPE_UNSIGNED (passed_type);
-         promoted_mode = promote_mode (passed_type, promoted_mode,
-                                       &unsignedp, 1);
+         /* Splice it in; skip the new decl.  */
+         TREE_CHAIN (decl) = TREE_CHAIN (p);
+         TREE_CHAIN (p) = decl;
+         p = decl;
        }
+    }
 
-      /* Let machine desc say which reg (if any) the parm arrives in.
-        0 means it arrives on the stack.  */
-#ifdef FUNCTION_INCOMING_ARG
-      entry_parm = FUNCTION_INCOMING_ARG (args_so_far, promoted_mode,
-                                         passed_type, named_arg);
-#else
-      entry_parm = FUNCTION_ARG (args_so_far, promoted_mode,
-                                passed_type, named_arg);
-#endif
+  return args;
+}
 
-      if (entry_parm == 0)
-       promoted_mode = passed_mode;
+/* A subroutine of assign_parms.  Adjust the parameter list to incorporate
+   the hidden struct return argument, and (abi willing) complex args.
+   Return the new parameter list.  */
 
-      /* If this is the last named parameter, do any required setup for
-        varargs or stdargs.  We need to know about the case of this being an
-        addressable type, in which case we skip the registers it
-        would have arrived in.
+static tree
+assign_parms_augmented_arg_list (struct assign_parm_data_all *all)
+{
+  tree fndecl = current_function_decl;
+  tree fntype = TREE_TYPE (fndecl);
+  tree fnargs = DECL_ARGUMENTS (fndecl);
 
-        For stdargs, LAST_NAMED will be set for two parameters, the one that
-        is actually the last named, and the dummy parameter.  We only
-        want to do this action once.
+  /* If struct value address is treated as the first argument, make it so.  */
+  if (aggregate_value_p (DECL_RESULT (fndecl), fndecl)
+      && ! current_function_returns_pcc_struct
+      && targetm.calls.struct_value_rtx (TREE_TYPE (fndecl), 1) == 0)
+    {
+      tree type = build_pointer_type (TREE_TYPE (fntype));
+      tree decl;
 
-        Also, indicate when RTL generation is to be suppressed.  */
-      if (last_named && !varargs_setup)
-       {
-         int varargs_pretend_bytes = 0;
-         targetm.calls.setup_incoming_varargs (&args_so_far, promoted_mode,
-                                               passed_type,
-                                               &varargs_pretend_bytes, 0);
-         varargs_setup = 1;
-
-         /* If the back-end has requested extra stack space, record how
-            much is needed.  Do not change pretend_args_size otherwise
-            since it may be nonzero from an earlier partial argument.  */
-         if (varargs_pretend_bytes > 0)
-           current_function_pretend_args_size = varargs_pretend_bytes;
-       }
+      decl = build_decl (PARM_DECL, NULL_TREE, type);
+      DECL_ARG_TYPE (decl) = type;
+      DECL_ARTIFICIAL (decl) = 1;
+      DECL_IGNORED_P (decl) = 1;
+
+      TREE_CHAIN (decl) = fnargs;
+      fnargs = decl;
+      all->function_result_decl = decl;
+    }
+
+  all->orig_fnargs = fnargs;
+
+  /* If the target wants to split complex arguments into scalars, do so.  */
+  if (targetm.calls.split_complex_arg)
+    fnargs = split_complex_args (fnargs);
+
+  return fnargs;
+}
+
+/* A subroutine of assign_parms.  Examine PARM and pull out type and mode
+   data for the parameter.  Incorporate ABI specifics such as pass-by-
+   reference and type promotion.  */
+
+static void
+assign_parm_find_data_types (struct assign_parm_data_all *all, tree parm,
+                            struct assign_parm_data_one *data)
+{
+  tree nominal_type, passed_type;
+  enum machine_mode nominal_mode, passed_mode, promoted_mode;
+
+  memset (data, 0, sizeof (*data));
+
+  /* NAMED_ARG is a mis-nomer.  We really mean 'non-varadic'. */
+  if (!current_function_stdarg)
+    data->named_arg = 1;  /* No varadic parms.  */
+  else if (TREE_CHAIN (parm))
+    data->named_arg = 1;  /* Not the last non-varadic parm. */
+  else if (targetm.calls.strict_argument_naming (&all->args_so_far))
+    data->named_arg = 1;  /* Only varadic ones are unnamed.  */
+  else
+    data->named_arg = 0;  /* Treat as varadic.  */
+
+  nominal_type = TREE_TYPE (parm);
+  passed_type = DECL_ARG_TYPE (parm);
+
+  /* Look out for errors propagating this far.  Also, if the parameter's
+     type is void then its value doesn't matter.  */
+  if (TREE_TYPE (parm) == error_mark_node
+      /* This can happen after weird syntax errors
+        or if an enum type is defined among the parms.  */
+      || TREE_CODE (parm) != PARM_DECL
+      || passed_type == NULL
+      || VOID_TYPE_P (nominal_type))
+    {
+      nominal_type = passed_type = void_type_node;
+      nominal_mode = passed_mode = promoted_mode = VOIDmode;
+      goto egress;
+    }
+
+  /* Find mode of arg as it is passed, and mode of arg as it should be
+     during execution of this function.  */
+  passed_mode = TYPE_MODE (passed_type);
+  nominal_mode = TYPE_MODE (nominal_type);
+
+  /* If the parm is to be passed as a transparent union, use the type of
+     the first field for the tests below.  We have already verified that
+     the modes are the same.  */
+  if (DECL_TRANSPARENT_UNION (parm)
+      || (TREE_CODE (passed_type) == UNION_TYPE
+         && TYPE_TRANSPARENT_UNION (passed_type)))
+    passed_type = TREE_TYPE (TYPE_FIELDS (passed_type));
+
+  /* See if this arg was passed by invisible reference.  */
+  if (pass_by_reference (&all->args_so_far, passed_mode,
+                        passed_type, data->named_arg))
+    {
+      passed_type = nominal_type = build_pointer_type (passed_type);
+      data->passed_pointer = true;
+      passed_mode = nominal_mode = Pmode;
+    }
+
+  /* Find mode as it is passed by the ABI.  */
+  promoted_mode = passed_mode;
+  if (targetm.calls.promote_function_args (TREE_TYPE (current_function_decl)))
+    {
+      int unsignedp = TYPE_UNSIGNED (passed_type);
+      promoted_mode = promote_mode (passed_type, promoted_mode,
+                                   &unsignedp, 1);
+    }
+
+ egress:
+  data->nominal_type = nominal_type;
+  data->passed_type = passed_type;
+  data->nominal_mode = nominal_mode;
+  data->passed_mode = passed_mode;
+  data->promoted_mode = promoted_mode;
+}
+
+/* A subroutine of assign_parms.  Invoke setup_incoming_varargs.  */
+
+static void
+assign_parms_setup_varargs (struct assign_parm_data_all *all,
+                           struct assign_parm_data_one *data, bool no_rtl)
+{
+  int varargs_pretend_bytes = 0;
+
+  targetm.calls.setup_incoming_varargs (&all->args_so_far,
+                                       data->promoted_mode,
+                                       data->passed_type,
+                                       &varargs_pretend_bytes, no_rtl);
+
+  /* If the back-end has requested extra stack space, record how much is
+     needed.  Do not change pretend_args_size otherwise since it may be
+     nonzero from an earlier partial argument.  */
+  if (varargs_pretend_bytes > 0)
+    all->pretend_args_size = varargs_pretend_bytes;
+}
+
+/* A subroutine of assign_parms.  Set DATA->ENTRY_PARM corresponding to
+   the incoming location of the current parameter.  */
+
+static void
+assign_parm_find_entry_rtl (struct assign_parm_data_all *all,
+                           struct assign_parm_data_one *data)
+{
+  HOST_WIDE_INT pretend_bytes = 0;
+  rtx entry_parm;
+  bool in_regs;
+
+  if (data->promoted_mode == VOIDmode)
+    {
+      data->entry_parm = data->stack_parm = const0_rtx;
+      return;
+    }
+
+#ifdef FUNCTION_INCOMING_ARG
+  entry_parm = FUNCTION_INCOMING_ARG (all->args_so_far, data->promoted_mode,
+                                     data->passed_type, data->named_arg);
+#else
+  entry_parm = FUNCTION_ARG (all->args_so_far, data->promoted_mode,
+                            data->passed_type, data->named_arg);
+#endif
 
-      /* Determine parm's home in the stack,
-        in case it arrives in the stack or we should pretend it did.
+  if (entry_parm == 0)
+    data->promoted_mode = data->passed_mode;
 
-        Compute the stack position and rtx where the argument arrives
-        and its size.
+  /* Determine parm's home in the stack, in case it arrives in the stack
+     or we should pretend it did.  Compute the stack position and rtx where
+     the argument arrives and its size.
 
-        There is one complexity here:  If this was a parameter that would
-        have been passed in registers, but wasn't only because it is
-        __builtin_va_alist, we want locate_and_pad_parm to treat it as if
-        it came in a register so that REG_PARM_STACK_SPACE isn't skipped.
-        In this case, we call FUNCTION_ARG with NAMED set to 1 instead of
-        0 as it was the previous time.  */
-      in_regs = entry_parm != 0;
+     There is one complexity here:  If this was a parameter that would
+     have been passed in registers, but wasn't only because it is
+     __builtin_va_alist, we want locate_and_pad_parm to treat it as if
+     it came in a register so that REG_PARM_STACK_SPACE isn't skipped.
+     In this case, we call FUNCTION_ARG with NAMED set to 1 instead of 0
+     as it was the previous time.  */
+  in_regs = entry_parm != 0;
 #ifdef STACK_PARMS_IN_REG_PARM_AREA
-      in_regs = 1;
+  in_regs = true;
 #endif
-      if (!in_regs && !named_arg)
+  if (!in_regs && !data->named_arg)
+    {
+      if (targetm.calls.pretend_outgoing_varargs_named (&all->args_so_far))
        {
-         int pretend_named =
-           targetm.calls.pretend_outgoing_varargs_named (&args_so_far);
-         if (pretend_named)
-           {
+         rtx tem;
 #ifdef FUNCTION_INCOMING_ARG
-             in_regs = FUNCTION_INCOMING_ARG (args_so_far, promoted_mode,
-                                              passed_type,
-                                              pretend_named) != 0;
+         tem = FUNCTION_INCOMING_ARG (all->args_so_far, data->promoted_mode,
+                                      data->passed_type, true);
 #else
-             in_regs = FUNCTION_ARG (args_so_far, promoted_mode,
-                                     passed_type,
-                                     pretend_named) != 0;
+         tem = FUNCTION_ARG (all->args_so_far, data->promoted_mode,
+                             data->passed_type, true);
 #endif
-           }
+         in_regs = tem != NULL;
        }
+    }
 
-      /* If this parameter was passed both in registers and in the stack,
-        use the copy on the stack.  */
-      if (MUST_PASS_IN_STACK (promoted_mode, passed_type))
-       entry_parm = 0;
+  /* If this parameter was passed both in registers and in the stack, use
+     the copy on the stack.  */
+  if (targetm.calls.must_pass_in_stack (data->promoted_mode,
+                                       data->passed_type))
+    entry_parm = 0;
 
-#ifdef FUNCTION_ARG_PARTIAL_NREGS
-      if (entry_parm)
+  if (entry_parm)
+    {
+      int partial;
+
+      partial = targetm.calls.arg_partial_bytes (&all->args_so_far,
+                                                data->promoted_mode,
+                                                data->passed_type,
+                                                data->named_arg);
+      data->partial = partial;
+
+      /* The caller might already have allocated stack space for the
+        register parameters.  */
+      if (partial != 0 && all->reg_parm_stack_space == 0)
        {
-         partial = FUNCTION_ARG_PARTIAL_NREGS (args_so_far, promoted_mode,
-                                               passed_type, named_arg);
-         if (partial
-             /* The caller might already have allocated stack space
-                for the register parameters.  */
-             && reg_parm_stack_space == 0)
-           {
-             /* Part of this argument is passed in registers and part
-                is passed on the stack.  Ask the prologue code to extend
-                the stack part so that we can recreate the full value.
-
-                PRETEND_BYTES is the size of the registers we need to store.
-                CURRENT_FUNCTION_PRETEND_ARGS_SIZE is the amount of extra
-                stack space that the prologue should allocate.
-
-                Internally, gcc assumes that the argument pointer is
-                aligned to STACK_BOUNDARY bits.  This is used both for
-                alignment optimizations (see init_emit) and to locate
-                arguments that are aligned to more than PARM_BOUNDARY
-                bits.  We must preserve this invariant by rounding
-                CURRENT_FUNCTION_PRETEND_ARGS_SIZE up to a stack
-                boundary.  */
-
-             /* We assume at most one partial arg, and it must be the first
-                argument on the stack.  */
-             if (extra_pretend_bytes || current_function_pretend_args_size)
-               abort ();
-
-             pretend_bytes = partial * UNITS_PER_WORD;
-             current_function_pretend_args_size
-               = CEIL_ROUND (pretend_bytes, STACK_BYTES);
-
-             /* We want to align relative to the actual stack pointer, so
-                don't include this in the stack size until later.  */
-             extra_pretend_bytes = current_function_pretend_args_size;
-           }
+         /* Part of this argument is passed in registers and part
+            is passed on the stack.  Ask the prologue code to extend
+            the stack part so that we can recreate the full value.
+
+            PRETEND_BYTES is the size of the registers we need to store.
+            CURRENT_FUNCTION_PRETEND_ARGS_SIZE is the amount of extra
+            stack space that the prologue should allocate.
+
+            Internally, gcc assumes that the argument pointer is aligned
+            to STACK_BOUNDARY bits.  This is used both for alignment
+            optimizations (see init_emit) and to locate arguments that are
+            aligned to more than PARM_BOUNDARY bits.  We must preserve this
+            invariant by rounding CURRENT_FUNCTION_PRETEND_ARGS_SIZE up to
+            a stack boundary.  */
+
+         /* We assume at most one partial arg, and it must be the first
+            argument on the stack.  */
+         gcc_assert (!all->extra_pretend_bytes && !all->pretend_args_size);
+
+         pretend_bytes = partial;
+         all->pretend_args_size = CEIL_ROUND (pretend_bytes, STACK_BYTES);
+
+         /* We want to align relative to the actual stack pointer, so
+            don't include this in the stack size until later.  */
+         all->extra_pretend_bytes = all->pretend_args_size;
        }
-#endif
+    }
 
-      memset (&locate, 0, sizeof (locate));
-      locate_and_pad_parm (promoted_mode, passed_type, in_regs,
-                          entry_parm ? partial : 0, fndecl,
-                          &stack_args_size, &locate);
-      /* Adjust offsets to include the pretend args.  */
-      locate.slot_offset.constant += extra_pretend_bytes - pretend_bytes;
-      locate.offset.constant += extra_pretend_bytes - pretend_bytes;
+  locate_and_pad_parm (data->promoted_mode, data->passed_type, in_regs,
+                      entry_parm ? data->partial : 0, current_function_decl,
+                      &all->stack_args_size, &data->locate);
 
-      {
-       rtx offset_rtx;
-       unsigned int align, boundary;
-
-       /* If we're passing this arg using a reg, make its stack home
-          the aligned stack slot.  */
-       if (entry_parm)
-         offset_rtx = ARGS_SIZE_RTX (locate.slot_offset);
-       else
-         offset_rtx = ARGS_SIZE_RTX (locate.offset);
-
-       if (offset_rtx == const0_rtx)
-         stack_parm = gen_rtx_MEM (promoted_mode, internal_arg_pointer);
-       else
-         stack_parm = gen_rtx_MEM (promoted_mode,
-                                   gen_rtx_PLUS (Pmode,
-                                                 internal_arg_pointer,
-                                                 offset_rtx));
-
-       set_mem_attributes (stack_parm, parm, 1);
-
-       boundary = FUNCTION_ARG_BOUNDARY (promoted_mode, passed_type);
-       align = 0;
-
-       /* If we're padding upward, we know that the alignment of the slot
-          is FUNCTION_ARG_BOUNDARY.  If we're using slot_offset, we're
-          intentionally forcing upward padding.  Otherwise we have to come
-          up with a guess at the alignment based on OFFSET_RTX.  */
-       if (locate.where_pad == upward || entry_parm)
-         align = boundary;
-       else if (GET_CODE (offset_rtx) == CONST_INT)
-         {
-           align = INTVAL (offset_rtx) * BITS_PER_UNIT | boundary;
-           align = align & -align;
-         }
-       if (align > 0)
-         set_mem_align (stack_parm, align);
+  /* Adjust offsets to include the pretend args.  */
+  pretend_bytes = all->extra_pretend_bytes - pretend_bytes;
+  data->locate.slot_offset.constant += pretend_bytes;
+  data->locate.offset.constant += pretend_bytes;
 
-       if (entry_parm)
-         set_reg_attrs_for_parm (entry_parm, stack_parm);
-      }
+  data->entry_parm = entry_parm;
+}
 
-      /* If this parm was passed part in regs and part in memory,
-        pretend it arrived entirely in memory
-        by pushing the register-part onto the stack.
+/* A subroutine of assign_parms.  If there is actually space on the stack
+   for this parm, count it in stack_args_size and return true.  */
 
-        In the special case of a DImode or DFmode that is split,
-        we could put it together in a pseudoreg directly,
-        but for now that's not worth bothering with.  */
+static bool
+assign_parm_is_stack_parm (struct assign_parm_data_all *all,
+                          struct assign_parm_data_one *data)
+{
+  /* Trivially true if we've no incoming register.  */
+  if (data->entry_parm == NULL)
+    ;
+  /* Also true if we're partially in registers and partially not,
+     since we've arranged to drop the entire argument on the stack.  */
+  else if (data->partial != 0)
+    ;
+  /* Also true if the target says that it's passed in both registers
+     and on the stack.  */
+  else if (GET_CODE (data->entry_parm) == PARALLEL
+          && XEXP (XVECEXP (data->entry_parm, 0, 0), 0) == NULL_RTX)
+    ;
+  /* Also true if the target says that there's stack allocated for
+     all register parameters.  */
+  else if (all->reg_parm_stack_space > 0)
+    ;
+  /* Otherwise, no, this parameter has no ABI defined stack slot.  */
+  else
+    return false;
 
-      if (partial)
-       {
-         /* Handle calls that pass values in multiple non-contiguous
-            locations.  The Irix 6 ABI has examples of this.  */
-         if (GET_CODE (entry_parm) == PARALLEL)
-           emit_group_store (validize_mem (stack_parm), entry_parm,
-                             TREE_TYPE (parm),
-                             int_size_in_bytes (TREE_TYPE (parm)));
+  all->stack_args_size.constant += data->locate.size.constant;
+  if (data->locate.size.var)
+    ADD_PARM_SIZE (all->stack_args_size, data->locate.size.var);
 
-         else
-           move_block_from_reg (REGNO (entry_parm), validize_mem (stack_parm),
-                                partial);
+  return true;
+}
 
-         entry_parm = stack_parm;
-       }
+/* A subroutine of assign_parms.  Given that this parameter is allocated
+   stack space by the ABI, find it.  */
 
-      /* If we didn't decide this parm came in a register,
-        by default it came on the stack.  */
-      if (entry_parm == 0)
-       entry_parm = stack_parm;
+static void
+assign_parm_find_stack_rtl (tree parm, struct assign_parm_data_one *data)
+{
+  rtx offset_rtx, stack_parm;
+  unsigned int align, boundary;
 
-      /* Record permanently how this parm was passed.  */
-      set_decl_incoming_rtl (parm, entry_parm);
-
-      /* If there is actually space on the stack for this parm,
-        count it in stack_args_size; otherwise set stack_parm to 0
-        to indicate there is no preallocated stack slot for the parm.  */
-
-      if (entry_parm == stack_parm
-         || (GET_CODE (entry_parm) == PARALLEL
-             && XEXP (XVECEXP (entry_parm, 0, 0), 0) == NULL_RTX)
-#if defined (REG_PARM_STACK_SPACE)
-         /* On some machines, even if a parm value arrives in a register
-            there is still an (uninitialized) stack slot allocated
-            for it.  */
-         || REG_PARM_STACK_SPACE (fndecl) > 0
-#endif
-         )
-       {
-         stack_args_size.constant += locate.size.constant;
-         if (locate.size.var)
-           ADD_PARM_SIZE (stack_args_size, locate.size.var);
-       }
-      else
-       /* No stack slot was pushed for this parm.  */
-       stack_parm = 0;
+  /* If we're passing this arg using a reg, make its stack home the
+     aligned stack slot.  */
+  if (data->entry_parm)
+    offset_rtx = ARGS_SIZE_RTX (data->locate.slot_offset);
+  else
+    offset_rtx = ARGS_SIZE_RTX (data->locate.offset);
 
-      /* Update info on where next arg arrives in registers.  */
+  stack_parm = current_function_internal_arg_pointer;
+  if (offset_rtx != const0_rtx)
+    stack_parm = gen_rtx_PLUS (Pmode, stack_parm, offset_rtx);
+  stack_parm = gen_rtx_MEM (data->promoted_mode, stack_parm);
 
-      FUNCTION_ARG_ADVANCE (args_so_far, promoted_mode,
-                           passed_type, named_arg);
-
-      /* If we can't trust the parm stack slot to be aligned enough
-        for its ultimate type, don't use that slot after entry.
-        We'll make another stack slot, if we need one.  */
-      if (STRICT_ALIGNMENT && stack_parm
-         && GET_MODE_ALIGNMENT (nominal_mode) > MEM_ALIGN (stack_parm))
-       stack_parm = 0;
-
-      /* If parm was passed in memory, and we need to convert it on entry,
-        don't store it back in that same slot.  */
-      if (entry_parm == stack_parm
-         && nominal_mode != BLKmode && nominal_mode != passed_mode)
-       stack_parm = 0;
-
-      /* When an argument is passed in multiple locations, we can't
-        make use of this information, but we can save some copying if
-        the whole argument is passed in a single register.  */
-      if (GET_CODE (entry_parm) == PARALLEL
-         && nominal_mode != BLKmode && passed_mode != BLKmode)
+  set_mem_attributes (stack_parm, parm, 1);
+
+  boundary = data->locate.boundary;
+  align = BITS_PER_UNIT;
+
+  /* If we're padding upward, we know that the alignment of the slot
+     is FUNCTION_ARG_BOUNDARY.  If we're using slot_offset, we're
+     intentionally forcing upward padding.  Otherwise we have to come
+     up with a guess at the alignment based on OFFSET_RTX.  */
+  if (data->locate.where_pad != downward || data->entry_parm)
+    align = boundary;
+  else if (GET_CODE (offset_rtx) == CONST_INT)
+    {
+      align = INTVAL (offset_rtx) * BITS_PER_UNIT | boundary;
+      align = align & -align;
+    }
+  set_mem_align (stack_parm, align);
+
+  if (data->entry_parm)
+    set_reg_attrs_for_parm (data->entry_parm, stack_parm);
+
+  data->stack_parm = stack_parm;
+}
+
+/* A subroutine of assign_parms.  Adjust DATA->ENTRY_RTL such that it's
+   always valid and contiguous.  */
+
+static void
+assign_parm_adjust_entry_rtl (struct assign_parm_data_one *data)
+{
+  rtx entry_parm = data->entry_parm;
+  rtx stack_parm = data->stack_parm;
+
+  /* If this parm was passed part in regs and part in memory, pretend it
+     arrived entirely in memory by pushing the register-part onto the stack.
+     In the special case of a DImode or DFmode that is split, we could put
+     it together in a pseudoreg directly, but for now that's not worth
+     bothering with.  */
+  if (data->partial != 0)
+    {
+      /* Handle calls that pass values in multiple non-contiguous
+        locations.  The Irix 6 ABI has examples of this.  */
+      if (GET_CODE (entry_parm) == PARALLEL)
+       emit_group_store (validize_mem (stack_parm), entry_parm,
+                         data->passed_type, 
+                         int_size_in_bytes (data->passed_type));
+      else
        {
-         int i, len = XVECLEN (entry_parm, 0);
-
-         for (i = 0; i < len; i++)
-           if (XEXP (XVECEXP (entry_parm, 0, i), 0) != NULL_RTX
-               && REG_P (XEXP (XVECEXP (entry_parm, 0, i), 0))
-               && (GET_MODE (XEXP (XVECEXP (entry_parm, 0, i), 0))
-                   == passed_mode)
-               && INTVAL (XEXP (XVECEXP (entry_parm, 0, i), 1)) == 0)
-             {
-               entry_parm = XEXP (XVECEXP (entry_parm, 0, i), 0);
-               set_decl_incoming_rtl (parm, entry_parm);
-               break;
-             }
+         gcc_assert (data->partial % UNITS_PER_WORD == 0);
+         move_block_from_reg (REGNO (entry_parm), validize_mem (stack_parm),
+                              data->partial / UNITS_PER_WORD);
        }
 
-      /* ENTRY_PARM is an RTX for the parameter as it arrives,
-        in the mode in which it arrives.
-        STACK_PARM is an RTX for a stack slot where the parameter can live
-        during the function (in case we want to put it there).
-        STACK_PARM is 0 if no stack slot was pushed for it.
+      entry_parm = stack_parm;
+    }
 
-        Now output code if necessary to convert ENTRY_PARM to
-        the type in which this function declares it,
-        and store that result in an appropriate place,
-        which may be a pseudo reg, may be STACK_PARM,
-        or may be a local stack slot if STACK_PARM is 0.
+  /* If we didn't decide this parm came in a register, by default it came
+     on the stack.  */
+  else if (entry_parm == NULL)
+    entry_parm = stack_parm;
+
+  /* When an argument is passed in multiple locations, we can't make use
+     of this information, but we can save some copying if the whole argument
+     is passed in a single register.  */
+  else if (GET_CODE (entry_parm) == PARALLEL
+          && data->nominal_mode != BLKmode
+          && data->passed_mode != BLKmode)
+    {
+      size_t i, len = XVECLEN (entry_parm, 0);
+
+      for (i = 0; i < len; i++)
+       if (XEXP (XVECEXP (entry_parm, 0, i), 0) != NULL_RTX
+           && REG_P (XEXP (XVECEXP (entry_parm, 0, i), 0))
+           && (GET_MODE (XEXP (XVECEXP (entry_parm, 0, i), 0))
+               == data->passed_mode)
+           && INTVAL (XEXP (XVECEXP (entry_parm, 0, i), 1)) == 0)
+         {
+           entry_parm = XEXP (XVECEXP (entry_parm, 0, i), 0);
+           break;
+         }
+    }
 
-        Set DECL_RTL to that place.  */
+  data->entry_parm = entry_parm;
+}
 
-      if (GET_CODE (entry_parm) == PARALLEL
-         && nominal_mode != BLKmode
-         && XVECLEN (entry_parm, 0) > 1)
-       {
-         /* Reconstitute objects the size of a register or larger using
-            register operations instead of the stack.  */
-         rtx parmreg = gen_reg_rtx (nominal_mode);
+/* A subroutine of assign_parms.  Adjust DATA->STACK_RTL such that it's
+   always valid and properly aligned.  */
 
-         if (REG_P (parmreg))
-           {
-             emit_group_store (parmreg, entry_parm, TREE_TYPE (parm),
-                               int_size_in_bytes (TREE_TYPE (parm)));
-             SET_DECL_RTL (parm, parmreg);
-             loaded_in_reg = 1;
-           }
-       }
+static void
+assign_parm_adjust_stack_rtl (struct assign_parm_data_one *data)
+{
+  rtx stack_parm = data->stack_parm;
+
+  /* If we can't trust the parm stack slot to be aligned enough for its
+     ultimate type, don't use that slot after entry.  We'll make another
+     stack slot, if we need one.  */
+  if (stack_parm
+      && ((STRICT_ALIGNMENT
+          && GET_MODE_ALIGNMENT (data->nominal_mode) > MEM_ALIGN (stack_parm))
+         || (data->nominal_type
+             && TYPE_ALIGN (data->nominal_type) > MEM_ALIGN (stack_parm)
+             && MEM_ALIGN (stack_parm) < PREFERRED_STACK_BOUNDARY)))
+    stack_parm = NULL;
+
+  /* If parm was passed in memory, and we need to convert it on entry,
+     don't store it back in that same slot.  */
+  else if (data->entry_parm == stack_parm
+          && data->nominal_mode != BLKmode
+          && data->nominal_mode != data->passed_mode)
+    stack_parm = NULL;
+
+  /* If stack protection is in effect for this function, don't leave any
+     pointers in their passed stack slots.  */
+  else if (cfun->stack_protect_guard
+          && (flag_stack_protect == 2
+              || data->passed_pointer
+              || POINTER_TYPE_P (data->nominal_type)))
+    stack_parm = NULL;
+
+  data->stack_parm = stack_parm;
+}
+
+/* A subroutine of assign_parms.  Return true if the current parameter
+   should be stored as a BLKmode in the current frame.  */
+
+static bool
+assign_parm_setup_block_p (struct assign_parm_data_one *data)
+{
+  if (data->nominal_mode == BLKmode)
+    return true;
+  if (GET_CODE (data->entry_parm) == PARALLEL)
+    return true;
 
-      if (nominal_mode == BLKmode
 #ifdef BLOCK_REG_PADDING
-         || (locate.where_pad == (BYTES_BIG_ENDIAN ? upward : downward)
-             && GET_MODE_SIZE (promoted_mode) < UNITS_PER_WORD)
+  /* Only assign_parm_setup_block knows how to deal with register arguments
+     that are padded at the least significant end.  */
+  if (REG_P (data->entry_parm)
+      && GET_MODE_SIZE (data->promoted_mode) < UNITS_PER_WORD
+      && (BLOCK_REG_PADDING (data->passed_mode, data->passed_type, 1)
+         == (BYTES_BIG_ENDIAN ? upward : downward)))
+    return true;
 #endif
-         || GET_CODE (entry_parm) == PARALLEL)
+
+  return false;
+}
+
+/* A subroutine of assign_parms.  Arrange for the parameter to be 
+   present and valid in DATA->STACK_RTL.  */
+
+static void
+assign_parm_setup_block (struct assign_parm_data_all *all,
+                        tree parm, struct assign_parm_data_one *data)
+{
+  rtx entry_parm = data->entry_parm;
+  rtx stack_parm = data->stack_parm;
+  HOST_WIDE_INT size;
+  HOST_WIDE_INT size_stored;
+  rtx orig_entry_parm = entry_parm;
+
+  if (GET_CODE (entry_parm) == PARALLEL)
+    entry_parm = emit_group_move_into_temps (entry_parm);
+
+  /* If we've a non-block object that's nevertheless passed in parts,
+     reconstitute it in register operations rather than on the stack.  */
+  if (GET_CODE (entry_parm) == PARALLEL
+      && data->nominal_mode != BLKmode)
+    {
+      rtx elt0 = XEXP (XVECEXP (orig_entry_parm, 0, 0), 0);
+
+      if ((XVECLEN (entry_parm, 0) > 1
+          || hard_regno_nregs[REGNO (elt0)][GET_MODE (elt0)] > 1)
+         && use_register_for_decl (parm))
        {
-         /* If a BLKmode arrives in registers, copy it to a stack slot.
-            Handle calls that pass values in multiple non-contiguous
-            locations.  The Irix 6 ABI has examples of this.  */
-         if (REG_P (entry_parm)
-             || (GET_CODE (entry_parm) == PARALLEL
-                && (!loaded_in_reg || !optimize)))
+         rtx parmreg = gen_reg_rtx (data->nominal_mode);
+
+         push_to_sequence (all->conversion_insns);
+
+         /* For values returned in multiple registers, handle possible
+            incompatible calls to emit_group_store.
+
+            For example, the following would be invalid, and would have to
+            be fixed by the conditional below:
+
+            emit_group_store ((reg:SF), (parallel:DF))
+            emit_group_store ((reg:SI), (parallel:DI))
+
+            An example of this are doubles in e500 v2:
+            (parallel:DF (expr_list (reg:SI) (const_int 0))
+            (expr_list (reg:SI) (const_int 4))).  */
+         if (data->nominal_mode != data->passed_mode)
            {
-             int size = int_size_in_bytes (TREE_TYPE (parm));
-             int size_stored = CEIL_ROUND (size, UNITS_PER_WORD);
-             rtx mem;
-
-             /* Note that we will be storing an integral number of words.
-                So we have to be careful to ensure that we allocate an
-                integral number of words.  We do this below in the
-                assign_stack_local if space was not allocated in the argument
-                list.  If it was, this will not work if PARM_BOUNDARY is not
-                a multiple of BITS_PER_WORD.  It isn't clear how to fix this
-                if it becomes a problem.  Exception is when BLKmode arrives
-                with arguments not conforming to word_mode.  */
-
-             if (stack_parm == 0)
-               {
-                 stack_parm = assign_stack_local (BLKmode, size_stored, 0);
-                 PUT_MODE (stack_parm, GET_MODE (entry_parm));
-                 set_mem_attributes (stack_parm, parm, 1);
-               }
-             else if (GET_CODE (entry_parm) == PARALLEL)
-               ;
-             else if (size != 0 && PARM_BOUNDARY % BITS_PER_WORD != 0)
-               abort ();
+             rtx t = gen_reg_rtx (GET_MODE (entry_parm));
+             emit_group_store (t, entry_parm, NULL_TREE,
+                               GET_MODE_SIZE (GET_MODE (entry_parm)));
+             convert_move (parmreg, t, 0);
+           }
+         else
+           emit_group_store (parmreg, entry_parm, data->nominal_type,
+                             int_size_in_bytes (data->nominal_type));
 
-             mem = validize_mem (stack_parm);
+         all->conversion_insns = get_insns ();
+         end_sequence ();
 
-             /* Handle calls that pass values in multiple non-contiguous
-                locations.  The Irix 6 ABI has examples of this.  */
-             if (GET_CODE (entry_parm) == PARALLEL)
-               emit_group_store (mem, entry_parm, TREE_TYPE (parm), size);
+         SET_DECL_RTL (parm, parmreg);
+         return;
+       }
+    }
 
-             else if (size == 0)
-               ;
+  size = int_size_in_bytes (data->passed_type);
+  size_stored = CEIL_ROUND (size, UNITS_PER_WORD);
+  if (stack_parm == 0)
+    {
+      DECL_ALIGN (parm) = MAX (DECL_ALIGN (parm), BITS_PER_WORD);
+      stack_parm = assign_stack_local (BLKmode, size_stored,
+                                      DECL_ALIGN (parm));
+      if (GET_MODE_SIZE (GET_MODE (entry_parm)) == size)
+       PUT_MODE (stack_parm, GET_MODE (entry_parm));
+      set_mem_attributes (stack_parm, parm, 1);
+    }
 
-             /* If SIZE is that of a mode no bigger than a word, just use
-                that mode's store operation.  */
-             else if (size <= UNITS_PER_WORD)
-               {
-                 enum machine_mode mode
-                   = mode_for_size (size * BITS_PER_UNIT, MODE_INT, 0);
+  /* If a BLKmode arrives in registers, copy it to a stack slot.  Handle
+     calls that pass values in multiple non-contiguous locations.  */
+  if (REG_P (entry_parm) || GET_CODE (entry_parm) == PARALLEL)
+    {
+      rtx mem;
+
+      /* Note that we will be storing an integral number of words.
+        So we have to be careful to ensure that we allocate an
+        integral number of words.  We do this above when we call
+        assign_stack_local if space was not allocated in the argument
+        list.  If it was, this will not work if PARM_BOUNDARY is not
+        a multiple of BITS_PER_WORD.  It isn't clear how to fix this
+        if it becomes a problem.  Exception is when BLKmode arrives
+        with arguments not conforming to word_mode.  */
+
+      if (data->stack_parm == 0)
+       ;
+      else if (GET_CODE (entry_parm) == PARALLEL)
+       ;
+      else
+       gcc_assert (!size || !(PARM_BOUNDARY % BITS_PER_WORD));
 
-                 if (mode != BLKmode
+      mem = validize_mem (stack_parm);
+
+      /* Handle values in multiple non-contiguous locations.  */
+      if (GET_CODE (entry_parm) == PARALLEL)
+       {
+         push_to_sequence (all->conversion_insns);
+         emit_group_store (mem, entry_parm, data->passed_type, size);
+         all->conversion_insns = get_insns ();
+         end_sequence ();
+       }
+
+      else if (size == 0)
+       ;
+
+      /* If SIZE is that of a mode no bigger than a word, just use
+        that mode's store operation.  */
+      else if (size <= UNITS_PER_WORD)
+       {
+         enum machine_mode mode
+           = mode_for_size (size * BITS_PER_UNIT, MODE_INT, 0);
+
+         if (mode != BLKmode
 #ifdef BLOCK_REG_PADDING
-                     && (size == UNITS_PER_WORD
-                         || (BLOCK_REG_PADDING (mode, TREE_TYPE (parm), 1)
-                             != (BYTES_BIG_ENDIAN ? upward : downward)))
+             && (size == UNITS_PER_WORD
+                 || (BLOCK_REG_PADDING (mode, data->passed_type, 1)
+                     != (BYTES_BIG_ENDIAN ? upward : downward)))
 #endif
-                     )
-                   {
-                     rtx reg = gen_rtx_REG (mode, REGNO (entry_parm));
-                     emit_move_insn (change_address (mem, mode, 0), reg);
-                   }
+             )
+           {
+             rtx reg = gen_rtx_REG (mode, REGNO (entry_parm));
+             emit_move_insn (change_address (mem, mode, 0), reg);
+           }
 
-                 /* Blocks smaller than a word on a BYTES_BIG_ENDIAN
-                    machine must be aligned to the left before storing
-                    to memory.  Note that the previous test doesn't
-                    handle all cases (e.g. SIZE == 3).  */
-                 else if (size != UNITS_PER_WORD
+         /* Blocks smaller than a word on a BYTES_BIG_ENDIAN
+            machine must be aligned to the left before storing
+            to memory.  Note that the previous test doesn't
+            handle all cases (e.g. SIZE == 3).  */
+         else if (size != UNITS_PER_WORD
 #ifdef BLOCK_REG_PADDING
-                          && (BLOCK_REG_PADDING (mode, TREE_TYPE (parm), 1)
-                              == downward)
+                  && (BLOCK_REG_PADDING (mode, data->passed_type, 1)
+                      == downward)
 #else
-                          && BYTES_BIG_ENDIAN
+                  && BYTES_BIG_ENDIAN
 #endif
-                          )
-                   {
-                     rtx tem, x;
-                     int by = (UNITS_PER_WORD - size) * BITS_PER_UNIT;
-                     rtx reg = gen_rtx_REG (word_mode, REGNO (entry_parm));
-
-                     x = expand_binop (word_mode, ashl_optab, reg,
-                                       GEN_INT (by), 0, 1, OPTAB_WIDEN);
-                     tem = change_address (mem, word_mode, 0);
-                     emit_move_insn (tem, x);
-                   }
-                 else
-                   move_block_from_reg (REGNO (entry_parm), mem,
-                                        size_stored / UNITS_PER_WORD);
-               }
-             else
-               move_block_from_reg (REGNO (entry_parm), mem,
-                                    size_stored / UNITS_PER_WORD);
+                  )
+           {
+             rtx tem, x;
+             int by = (UNITS_PER_WORD - size) * BITS_PER_UNIT;
+             rtx reg = gen_rtx_REG (word_mode, REGNO (entry_parm));
+
+             x = expand_shift (LSHIFT_EXPR, word_mode, reg,
+                               build_int_cst (NULL_TREE, by),
+                               NULL_RTX, 1);
+             tem = change_address (mem, word_mode, 0);
+             emit_move_insn (tem, x);
            }
-         /* If parm is already bound to register pair, don't change 
-            this binding.  */
-         if (! DECL_RTL_SET_P (parm))
-           SET_DECL_RTL (parm, stack_parm);
+         else
+           move_block_from_reg (REGNO (entry_parm), mem,
+                                size_stored / UNITS_PER_WORD);
        }
-      else if (use_register_for_decl (parm)
-              /* Always assign pseudo to structure return or item passed
-                 by invisible reference.  */
-              || passed_pointer || parm == function_result_decl)
+      else
+       move_block_from_reg (REGNO (entry_parm), mem,
+                            size_stored / UNITS_PER_WORD);
+    }
+  else if (data->stack_parm == 0)
+    {
+      push_to_sequence (all->conversion_insns);
+      emit_block_move (stack_parm, data->entry_parm, GEN_INT (size),
+                      BLOCK_OP_NORMAL);
+      all->conversion_insns = get_insns ();
+      end_sequence ();
+    }
+
+  data->stack_parm = stack_parm;
+  SET_DECL_RTL (parm, stack_parm);
+}
+
+/* A subroutine of assign_parms.  Allocate a pseudo to hold the current
+   parameter.  Get it there.  Perform all ABI specified conversions.  */
+
+static void
+assign_parm_setup_reg (struct assign_parm_data_all *all, tree parm,
+                      struct assign_parm_data_one *data)
+{
+  rtx parmreg;
+  enum machine_mode promoted_nominal_mode;
+  int unsignedp = TYPE_UNSIGNED (TREE_TYPE (parm));
+  bool did_conversion = false;
+
+  /* Store the parm in a pseudoregister during the function, but we may
+     need to do it in a wider mode.  */
+
+  promoted_nominal_mode
+    = promote_mode (data->nominal_type, data->nominal_mode, &unsignedp, 0);
+
+  parmreg = gen_reg_rtx (promoted_nominal_mode);
+
+  if (!DECL_ARTIFICIAL (parm))
+    mark_user_reg (parmreg);
+
+  /* If this was an item that we received a pointer to,
+     set DECL_RTL appropriately.  */
+  if (data->passed_pointer)
+    {
+      rtx x = gen_rtx_MEM (TYPE_MODE (TREE_TYPE (data->passed_type)), parmreg);
+      set_mem_attributes (x, parm, 1);
+      SET_DECL_RTL (parm, x);
+    }
+  else
+    SET_DECL_RTL (parm, parmreg);
+
+  /* Copy the value into the register.  */
+  if (data->nominal_mode != data->passed_mode
+      || promoted_nominal_mode != data->promoted_mode)
+    {
+      int save_tree_used;
+
+      /* ENTRY_PARM has been converted to PROMOTED_MODE, its
+        mode, by the caller.  We now have to convert it to
+        NOMINAL_MODE, if different.  However, PARMREG may be in
+        a different mode than NOMINAL_MODE if it is being stored
+        promoted.
+
+        If ENTRY_PARM is a hard register, it might be in a register
+        not valid for operating in its mode (e.g., an odd-numbered
+        register for a DFmode).  In that case, moves are the only
+        thing valid, so we can't do a convert from there.  This
+        occurs when the calling sequence allow such misaligned
+        usages.
+
+        In addition, the conversion may involve a call, which could
+        clobber parameters which haven't been copied to pseudo
+        registers yet.  Therefore, we must first copy the parm to
+        a pseudo reg here, and save the conversion until after all
+        parameters have been moved.  */
+
+      rtx tempreg = gen_reg_rtx (GET_MODE (data->entry_parm));
+
+      emit_move_insn (tempreg, validize_mem (data->entry_parm));
+
+      push_to_sequence (all->conversion_insns);
+      tempreg = convert_to_mode (data->nominal_mode, tempreg, unsignedp);
+
+      if (GET_CODE (tempreg) == SUBREG
+         && GET_MODE (tempreg) == data->nominal_mode
+         && REG_P (SUBREG_REG (tempreg))
+         && data->nominal_mode == data->passed_mode
+         && GET_MODE (SUBREG_REG (tempreg)) == GET_MODE (data->entry_parm)
+         && GET_MODE_SIZE (GET_MODE (tempreg))
+            < GET_MODE_SIZE (GET_MODE (data->entry_parm)))
        {
-         /* Store the parm in a pseudoregister during the function, but we
-            may need to do it in a wider mode.  */
+         /* The argument is already sign/zero extended, so note it
+            into the subreg.  */
+         SUBREG_PROMOTED_VAR_P (tempreg) = 1;
+         SUBREG_PROMOTED_UNSIGNED_SET (tempreg, unsignedp);
+       }
 
-         rtx parmreg;
+      /* TREE_USED gets set erroneously during expand_assignment.  */
+      save_tree_used = TREE_USED (parm);
+      expand_assignment (parm, make_tree (data->nominal_type, tempreg));
+      TREE_USED (parm) = save_tree_used;
+      all->conversion_insns = get_insns ();
+      end_sequence ();
 
-         unsignedp = TYPE_UNSIGNED (TREE_TYPE (parm));
+      did_conversion = true;
+    }
+  else
+    emit_move_insn (parmreg, validize_mem (data->entry_parm));
+
+  /* If we were passed a pointer but the actual value can safely live
+     in a register, put it in one.  */
+  if (data->passed_pointer
+      && TYPE_MODE (TREE_TYPE (parm)) != BLKmode
+      /* If by-reference argument was promoted, demote it.  */
+      && (TYPE_MODE (TREE_TYPE (parm)) != GET_MODE (DECL_RTL (parm))
+         || use_register_for_decl (parm)))
+    {
+      /* We can't use nominal_mode, because it will have been set to
+        Pmode above.  We must use the actual mode of the parm.  */
+      parmreg = gen_reg_rtx (TYPE_MODE (TREE_TYPE (parm)));
+      mark_user_reg (parmreg);
 
-         promoted_nominal_mode
-           = promote_mode (TREE_TYPE (parm), nominal_mode, &unsignedp, 0);
+      if (GET_MODE (parmreg) != GET_MODE (DECL_RTL (parm)))
+       {
+         rtx tempreg = gen_reg_rtx (GET_MODE (DECL_RTL (parm)));
+         int unsigned_p = TYPE_UNSIGNED (TREE_TYPE (parm));
+
+         push_to_sequence (all->conversion_insns);
+         emit_move_insn (tempreg, DECL_RTL (parm));
+         tempreg = convert_to_mode (GET_MODE (parmreg), tempreg, unsigned_p);
+         emit_move_insn (parmreg, tempreg);
+         all->conversion_insns = get_insns ();
+         end_sequence ();
 
-         parmreg = gen_reg_rtx (promoted_nominal_mode);
-         mark_user_reg (parmreg);
+         did_conversion = true;
+       }
+      else
+       emit_move_insn (parmreg, DECL_RTL (parm));
+
+      SET_DECL_RTL (parm, parmreg);
+
+      /* STACK_PARM is the pointer, not the parm, and PARMREG is
+        now the parm.  */
+      data->stack_parm = NULL;
+    }
 
-         /* If this was an item that we received a pointer to, set DECL_RTL
-            appropriately.  */
-         if (passed_pointer)
+  /* Mark the register as eliminable if we did no conversion and it was
+     copied from memory at a fixed offset, and the arg pointer was not
+     copied to a pseudo-reg.  If the arg pointer is a pseudo reg or the
+     offset formed an invalid address, such memory-equivalences as we
+     make here would screw up life analysis for it.  */
+  if (data->nominal_mode == data->passed_mode
+      && !did_conversion
+      && data->stack_parm != 0
+      && MEM_P (data->stack_parm)
+      && data->locate.offset.var == 0
+      && reg_mentioned_p (virtual_incoming_args_rtx,
+                         XEXP (data->stack_parm, 0)))
+    {
+      rtx linsn = get_last_insn ();
+      rtx sinsn, set;
+
+      /* Mark complex types separately.  */
+      if (GET_CODE (parmreg) == CONCAT)
+       {
+         enum machine_mode submode
+           = GET_MODE_INNER (GET_MODE (parmreg));
+         int regnor = REGNO (XEXP (parmreg, 0));
+         int regnoi = REGNO (XEXP (parmreg, 1));
+         rtx stackr = adjust_address_nv (data->stack_parm, submode, 0);
+         rtx stacki = adjust_address_nv (data->stack_parm, submode,
+                                         GET_MODE_SIZE (submode));
+
+         /* Scan backwards for the set of the real and
+            imaginary parts.  */
+         for (sinsn = linsn; sinsn != 0;
+              sinsn = prev_nonnote_insn (sinsn))
            {
-             rtx x = gen_rtx_MEM (TYPE_MODE (TREE_TYPE (passed_type)),
-                                  parmreg);
-             set_mem_attributes (x, parm, 1);
-             SET_DECL_RTL (parm, x);
+             set = single_set (sinsn);
+             if (set == 0)
+               continue;
+
+             if (SET_DEST (set) == regno_reg_rtx [regnoi])
+               REG_NOTES (sinsn)
+                 = gen_rtx_EXPR_LIST (REG_EQUIV, stacki,
+                                      REG_NOTES (sinsn));
+             else if (SET_DEST (set) == regno_reg_rtx [regnor])
+               REG_NOTES (sinsn)
+                 = gen_rtx_EXPR_LIST (REG_EQUIV, stackr,
+                                      REG_NOTES (sinsn));
            }
-         else
+       }
+      else if ((set = single_set (linsn)) != 0
+              && SET_DEST (set) == parmreg)
+       REG_NOTES (linsn)
+         = gen_rtx_EXPR_LIST (REG_EQUIV,
+                              data->stack_parm, REG_NOTES (linsn));
+    }
+
+  /* For pointer data type, suggest pointer register.  */
+  if (POINTER_TYPE_P (TREE_TYPE (parm)))
+    mark_reg_pointer (parmreg,
+                     TYPE_ALIGN (TREE_TYPE (TREE_TYPE (parm))));
+}
+
+/* A subroutine of assign_parms.  Allocate stack space to hold the current
+   parameter.  Get it there.  Perform all ABI specified conversions.  */
+
+static void
+assign_parm_setup_stack (struct assign_parm_data_all *all, tree parm,
+                        struct assign_parm_data_one *data)
+{
+  /* Value must be stored in the stack slot STACK_PARM during function
+     execution.  */
+  bool to_conversion = false;
+
+  if (data->promoted_mode != data->nominal_mode)
+    {
+      /* Conversion is required.  */
+      rtx tempreg = gen_reg_rtx (GET_MODE (data->entry_parm));
+
+      emit_move_insn (tempreg, validize_mem (data->entry_parm));
+
+      push_to_sequence (all->conversion_insns);
+      to_conversion = true;
+
+      data->entry_parm = convert_to_mode (data->nominal_mode, tempreg,
+                                         TYPE_UNSIGNED (TREE_TYPE (parm)));
+
+      if (data->stack_parm)
+       /* ??? This may need a big-endian conversion on sparc64.  */
+       data->stack_parm
+         = adjust_address (data->stack_parm, data->nominal_mode, 0);
+    }
+
+  if (data->entry_parm != data->stack_parm)
+    {
+      rtx src, dest;
+
+      if (data->stack_parm == 0)
+       {
+         data->stack_parm
+           = assign_stack_local (GET_MODE (data->entry_parm),
+                                 GET_MODE_SIZE (GET_MODE (data->entry_parm)),
+                                 TYPE_ALIGN (data->passed_type));
+         set_mem_attributes (data->stack_parm, parm, 1);
+       }
+
+      dest = validize_mem (data->stack_parm);
+      src = validize_mem (data->entry_parm);
+
+      if (MEM_P (src))
+       {
+         /* Use a block move to handle potentially misaligned entry_parm.  */
+         if (!to_conversion)
+           push_to_sequence (all->conversion_insns);
+         to_conversion = true;
+
+         emit_block_move (dest, src,
+                          GEN_INT (int_size_in_bytes (data->passed_type)),
+                          BLOCK_OP_NORMAL);
+       }
+      else
+       emit_move_insn (dest, src);
+    }
+
+  if (to_conversion)
+    {
+      all->conversion_insns = get_insns ();
+      end_sequence ();
+    }
+
+  SET_DECL_RTL (parm, data->stack_parm);
+}
+
+/* A subroutine of assign_parms.  If the ABI splits complex arguments, then
+   undo the frobbing that we did in assign_parms_augmented_arg_list.  */
+
+static void
+assign_parms_unsplit_complex (struct assign_parm_data_all *all, tree fnargs)
+{
+  tree parm;
+  tree orig_fnargs = all->orig_fnargs;
+
+  for (parm = orig_fnargs; parm; parm = TREE_CHAIN (parm))
+    {
+      if (TREE_CODE (TREE_TYPE (parm)) == COMPLEX_TYPE
+         && targetm.calls.split_complex_arg (TREE_TYPE (parm)))
+       {
+         rtx tmp, real, imag;
+         enum machine_mode inner = GET_MODE_INNER (DECL_MODE (parm));
+
+         real = DECL_RTL (fnargs);
+         imag = DECL_RTL (TREE_CHAIN (fnargs));
+         if (inner != GET_MODE (real))
            {
-             SET_DECL_RTL (parm, parmreg);
-             maybe_set_unchanging (DECL_RTL (parm), parm);
+             real = gen_lowpart_SUBREG (inner, real);
+             imag = gen_lowpart_SUBREG (inner, imag);
            }
 
-         /* Copy the value into the register.  */
-         if (nominal_mode != passed_mode
-             || promoted_nominal_mode != promoted_mode)
+         if (TREE_ADDRESSABLE (parm))
            {
-             int save_tree_used;
-             /* ENTRY_PARM has been converted to PROMOTED_MODE, its
-                mode, by the caller.  We now have to convert it to
-                NOMINAL_MODE, if different.  However, PARMREG may be in
-                a different mode than NOMINAL_MODE if it is being stored
-                promoted.
-
-                If ENTRY_PARM is a hard register, it might be in a register
-                not valid for operating in its mode (e.g., an odd-numbered
-                register for a DFmode).  In that case, moves are the only
-                thing valid, so we can't do a convert from there.  This
-                occurs when the calling sequence allow such misaligned
-                usages.
-
-                In addition, the conversion may involve a call, which could
-                clobber parameters which haven't been copied to pseudo
-                registers yet.  Therefore, we must first copy the parm to
-                a pseudo reg here, and save the conversion until after all
-                parameters have been moved.  */
-
-             rtx tempreg = gen_reg_rtx (GET_MODE (entry_parm));
-
-             emit_move_insn (tempreg, validize_mem (entry_parm));
-
-             push_to_sequence (conversion_insns);
-             tempreg = convert_to_mode (nominal_mode, tempreg, unsignedp);
-
-             if (GET_CODE (tempreg) == SUBREG
-                 && GET_MODE (tempreg) == nominal_mode
-                 && REG_P (SUBREG_REG (tempreg))
-                 && nominal_mode == passed_mode
-                 && GET_MODE (SUBREG_REG (tempreg)) == GET_MODE (entry_parm)
-                 && GET_MODE_SIZE (GET_MODE (tempreg))
-                    < GET_MODE_SIZE (GET_MODE (entry_parm)))
-               {
-                 /* The argument is already sign/zero extended, so note it
-                    into the subreg.  */
-                 SUBREG_PROMOTED_VAR_P (tempreg) = 1;
-                 SUBREG_PROMOTED_UNSIGNED_SET (tempreg, unsignedp);
-               }
-
-             /* TREE_USED gets set erroneously during expand_assignment.  */
-             save_tree_used = TREE_USED (parm);
-             expand_assignment (parm,
-                                make_tree (nominal_type, tempreg), 0);
-             TREE_USED (parm) = save_tree_used;
-             conversion_insns = get_insns ();
-             did_conversion = 1;
+             rtx rmem, imem;
+             HOST_WIDE_INT size = int_size_in_bytes (TREE_TYPE (parm));
+
+             /* split_complex_arg put the real and imag parts in
+                pseudos.  Move them to memory.  */
+             tmp = assign_stack_local (DECL_MODE (parm), size,
+                                       TYPE_ALIGN (TREE_TYPE (parm)));
+             set_mem_attributes (tmp, parm, 1);
+             rmem = adjust_address_nv (tmp, inner, 0);
+             imem = adjust_address_nv (tmp, inner, GET_MODE_SIZE (inner));
+             push_to_sequence (all->conversion_insns);
+             emit_move_insn (rmem, real);
+             emit_move_insn (imem, imag);
+             all->conversion_insns = get_insns ();
              end_sequence ();
            }
          else
-           emit_move_insn (parmreg, validize_mem (entry_parm));
-
-         /* If we were passed a pointer but the actual value
-            can safely live in a register, put it in one.  */
-         if (passed_pointer
-             && use_register_for_decl (parm)
-             /* If by-reference argument was promoted, demote it.  */
-             && TYPE_MODE (TREE_TYPE (parm)) != GET_MODE (DECL_RTL (parm)))
-           {
-             /* We can't use nominal_mode, because it will have been set to
-                Pmode above.  We must use the actual mode of the parm.  */
-             parmreg = gen_reg_rtx (TYPE_MODE (TREE_TYPE (parm)));
-             mark_user_reg (parmreg);
-             if (GET_MODE (parmreg) != GET_MODE (DECL_RTL (parm)))
-               {
-                 rtx tempreg = gen_reg_rtx (GET_MODE (DECL_RTL (parm)));
-                 int unsigned_p = TYPE_UNSIGNED (TREE_TYPE (parm));
-                 push_to_sequence (conversion_insns);
-                 emit_move_insn (tempreg, DECL_RTL (parm));
-                 SET_DECL_RTL (parm,
-                               convert_to_mode (GET_MODE (parmreg),
-                                                tempreg,
-                                                unsigned_p));
-                 emit_move_insn (parmreg, DECL_RTL (parm));
-                 conversion_insns = get_insns();
-                 did_conversion = 1;
-                 end_sequence ();
-               }
-             else
-               emit_move_insn (parmreg, DECL_RTL (parm));
-             SET_DECL_RTL (parm, parmreg);
-             /* STACK_PARM is the pointer, not the parm, and PARMREG is
-                now the parm.  */
-             stack_parm = 0;
-           }
-#ifdef FUNCTION_ARG_CALLEE_COPIES
-         /* If we are passed an arg by reference and it is our responsibility
-            to make a copy, do it now.
-            PASSED_TYPE and PASSED mode now refer to the pointer, not the
-            original argument, so we must recreate them in the call to
-            FUNCTION_ARG_CALLEE_COPIES.  */
-         /* ??? Later add code to handle the case that if the argument isn't
-            modified, don't do the copy.  */
-
-         else if (passed_pointer
-                  && FUNCTION_ARG_CALLEE_COPIES (args_so_far,
-                                                 TYPE_MODE (TREE_TYPE (passed_type)),
-                                                 TREE_TYPE (passed_type),
-                                                 named_arg)
-                  && ! TREE_ADDRESSABLE (TREE_TYPE (passed_type)))
-           {
-             rtx copy;
-             tree type = TREE_TYPE (passed_type);
-
-             /* This sequence may involve a library call perhaps clobbering
-                registers that haven't been copied to pseudos yet.  */
+           tmp = gen_rtx_CONCAT (DECL_MODE (parm), real, imag);
+         SET_DECL_RTL (parm, tmp);
 
-             push_to_sequence (conversion_insns);
-
-             if (!COMPLETE_TYPE_P (type)
-                 || TREE_CODE (TYPE_SIZE (type)) != INTEGER_CST)
-               /* This is a variable sized object.  */
-               copy = gen_rtx_MEM (BLKmode,
-                                   allocate_dynamic_stack_space
-                                   (expr_size (parm), NULL_RTX,
-                                    TYPE_ALIGN (type)));
-             else
-               copy = assign_stack_temp (TYPE_MODE (type),
-                                         int_size_in_bytes (type), 1);
-             set_mem_attributes (copy, parm, 1);
-
-             store_expr (parm, copy, 0);
-             emit_move_insn (parmreg, XEXP (copy, 0));
-             conversion_insns = get_insns ();
-             did_conversion = 1;
-             end_sequence ();
-           }
-#endif /* FUNCTION_ARG_CALLEE_COPIES */
-
-         /* Mark the register as eliminable if we did no conversion
-            and it was copied from memory at a fixed offset,
-            and the arg pointer was not copied to a pseudo-reg.
-            If the arg pointer is a pseudo reg or the offset formed
-            an invalid address, such memory-equivalences
-            as we make here would screw up life analysis for it.  */
-         if (nominal_mode == passed_mode
-             && ! did_conversion
-             && stack_parm != 0
-             && MEM_P (stack_parm)
-             && locate.offset.var == 0
-             && reg_mentioned_p (virtual_incoming_args_rtx,
-                                 XEXP (stack_parm, 0)))
+         real = DECL_INCOMING_RTL (fnargs);
+         imag = DECL_INCOMING_RTL (TREE_CHAIN (fnargs));
+         if (inner != GET_MODE (real))
            {
-             rtx linsn = get_last_insn ();
-             rtx sinsn, set;
-
-             /* Mark complex types separately.  */
-             if (GET_CODE (parmreg) == CONCAT)
-               {
-                 enum machine_mode submode
-                   = GET_MODE_INNER (GET_MODE (parmreg));
-                 int regnor = REGNO (gen_realpart (submode, parmreg));
-                 int regnoi = REGNO (gen_imagpart (submode, parmreg));
-                 rtx stackr = gen_realpart (submode, stack_parm);
-                 rtx stacki = gen_imagpart (submode, stack_parm);
-
-                 /* Scan backwards for the set of the real and
-                    imaginary parts.  */
-                 for (sinsn = linsn; sinsn != 0;
-                      sinsn = prev_nonnote_insn (sinsn))
-                   {
-                     set = single_set (sinsn);
-                     if (set == 0)
-                       continue;
-
-                     if (SET_DEST (set) == regno_reg_rtx [regnoi])
-                       REG_NOTES (sinsn)
-                         = gen_rtx_EXPR_LIST (REG_EQUIV, stacki,
-                                              REG_NOTES (sinsn));
-                     else if (SET_DEST (set) == regno_reg_rtx [regnor])
-                       REG_NOTES (sinsn)
-                         = gen_rtx_EXPR_LIST (REG_EQUIV, stackr,
-                                              REG_NOTES (sinsn));
-                   }
-               }
-             else if ((set = single_set (linsn)) != 0
-                      && SET_DEST (set) == parmreg)
-               REG_NOTES (linsn)
-                 = gen_rtx_EXPR_LIST (REG_EQUIV,
-                                      stack_parm, REG_NOTES (linsn));
+             real = gen_lowpart_SUBREG (inner, real);
+             imag = gen_lowpart_SUBREG (inner, imag);
            }
-
-         /* For pointer data type, suggest pointer register.  */
-         if (POINTER_TYPE_P (TREE_TYPE (parm)))
-           mark_reg_pointer (parmreg,
-                             TYPE_ALIGN (TREE_TYPE (TREE_TYPE (parm))));
+         tmp = gen_rtx_CONCAT (DECL_MODE (parm), real, imag);
+         set_decl_incoming_rtl (parm, tmp);
+         fnargs = TREE_CHAIN (fnargs);
        }
       else
        {
-         /* Value must be stored in the stack slot STACK_PARM
-            during function execution.  */
+         SET_DECL_RTL (parm, DECL_RTL (fnargs));
+         set_decl_incoming_rtl (parm, DECL_INCOMING_RTL (fnargs));
 
-         if (promoted_mode != nominal_mode)
-           {
-             /* Conversion is required.  */
-             rtx tempreg = gen_reg_rtx (GET_MODE (entry_parm));
+         /* Set MEM_EXPR to the original decl, i.e. to PARM,
+            instead of the copy of decl, i.e. FNARGS.  */
+         if (DECL_INCOMING_RTL (parm) && MEM_P (DECL_INCOMING_RTL (parm)))
+           set_mem_expr (DECL_INCOMING_RTL (parm), parm);
+       }
 
-             emit_move_insn (tempreg, validize_mem (entry_parm));
+      fnargs = TREE_CHAIN (fnargs);
+    }
+}
 
-             push_to_sequence (conversion_insns);
-             entry_parm = convert_to_mode (nominal_mode, tempreg,
-                                           TYPE_UNSIGNED (TREE_TYPE (parm)));
-             if (stack_parm)
-               /* ??? This may need a big-endian conversion on sparc64.  */
-               stack_parm = adjust_address (stack_parm, nominal_mode, 0);
+/* Assign RTL expressions to the function's parameters.  This may involve
+   copying them into registers and using those registers as the DECL_RTL.  */
 
-             conversion_insns = get_insns ();
-             did_conversion = 1;
-             end_sequence ();
-           }
+static void
+assign_parms (tree fndecl)
+{
+  struct assign_parm_data_all all;
+  tree fnargs, parm;
+  rtx internal_arg_pointer;
 
-         if (entry_parm != stack_parm)
-           {
-             if (stack_parm == 0)
-               {
-                 stack_parm
-                   = assign_stack_local (GET_MODE (entry_parm),
-                                         GET_MODE_SIZE (GET_MODE (entry_parm)),
-                                         0);
-                 set_mem_attributes (stack_parm, parm, 1);
-               }
+  /* If the reg that the virtual arg pointer will be translated into is
+     not a fixed reg or is the stack pointer, make a copy of the virtual
+     arg pointer, and address parms via the copy.  The frame pointer is
+     considered fixed even though it is not marked as such.
 
-             if (promoted_mode != nominal_mode)
-               {
-                 push_to_sequence (conversion_insns);
-                 emit_move_insn (validize_mem (stack_parm),
-                                 validize_mem (entry_parm));
-                 conversion_insns = get_insns ();
-                 end_sequence ();
-               }
-             else
-               emit_move_insn (validize_mem (stack_parm),
-                               validize_mem (entry_parm));
-           }
+     The second time through, simply use ap to avoid generating rtx.  */
 
-         SET_DECL_RTL (parm, stack_parm);
-       }
-    }
+  if ((ARG_POINTER_REGNUM == STACK_POINTER_REGNUM
+       || ! (fixed_regs[ARG_POINTER_REGNUM]
+            || ARG_POINTER_REGNUM == FRAME_POINTER_REGNUM)))
+    internal_arg_pointer = copy_to_reg (virtual_incoming_args_rtx);
+  else
+    internal_arg_pointer = virtual_incoming_args_rtx;
+  current_function_internal_arg_pointer = internal_arg_pointer;
+
+  assign_parms_initialize_all (&all);
+  fnargs = assign_parms_augmented_arg_list (&all);
 
-  if (targetm.calls.split_complex_arg && fnargs != orig_fnargs)
+  for (parm = fnargs; parm; parm = TREE_CHAIN (parm))
     {
-      for (parm = orig_fnargs; parm; parm = TREE_CHAIN (parm))
+      struct assign_parm_data_one data;
+
+      /* Extract the type of PARM; adjust it according to ABI.  */
+      assign_parm_find_data_types (&all, parm, &data);
+
+      /* Early out for errors and void parameters.  */
+      if (data.passed_mode == VOIDmode)
        {
-         if (TREE_CODE (TREE_TYPE (parm)) == COMPLEX_TYPE
-             && targetm.calls.split_complex_arg (TREE_TYPE (parm)))
-           {
-             rtx tmp, real, imag;
-             enum machine_mode inner = GET_MODE_INNER (DECL_MODE (parm));
+         SET_DECL_RTL (parm, const0_rtx);
+         DECL_INCOMING_RTL (parm) = DECL_RTL (parm);
+         continue;
+       }
 
-             real = DECL_RTL (fnargs);
-             imag = DECL_RTL (TREE_CHAIN (fnargs));
-             if (inner != GET_MODE (real))
-               {
-                 real = gen_lowpart_SUBREG (inner, real);
-                 imag = gen_lowpart_SUBREG (inner, imag);
-               }
-             tmp = gen_rtx_CONCAT (DECL_MODE (parm), real, imag);
-             SET_DECL_RTL (parm, tmp);
+      if (current_function_stdarg && !TREE_CHAIN (parm))
+       assign_parms_setup_varargs (&all, &data, false);
 
-             real = DECL_INCOMING_RTL (fnargs);
-             imag = DECL_INCOMING_RTL (TREE_CHAIN (fnargs));
-             if (inner != GET_MODE (real))
-               {
-                 real = gen_lowpart_SUBREG (inner, real);
-                 imag = gen_lowpart_SUBREG (inner, imag);
-               }
-             tmp = gen_rtx_CONCAT (DECL_MODE (parm), real, imag);
-             set_decl_incoming_rtl (parm, tmp);
-             fnargs = TREE_CHAIN (fnargs);
-           }
-         else
-           {
-             SET_DECL_RTL (parm, DECL_RTL (fnargs));
-             set_decl_incoming_rtl (parm, DECL_INCOMING_RTL (fnargs));
-
-             /* Set MEM_EXPR to the original decl, i.e. to PARM,
-                instead of the copy of decl, i.e. FNARGS.  */
-             if (DECL_INCOMING_RTL (parm)
-                 && MEM_P (DECL_INCOMING_RTL (parm)))
-               set_mem_expr (DECL_INCOMING_RTL (parm), parm);
-           }
-         fnargs = TREE_CHAIN (fnargs);
+      /* Find out where the parameter arrives in this function.  */
+      assign_parm_find_entry_rtl (&all, &data);
+
+      /* Find out where stack space for this parameter might be.  */
+      if (assign_parm_is_stack_parm (&all, &data))
+       {
+         assign_parm_find_stack_rtl (parm, &data);
+         assign_parm_adjust_entry_rtl (&data);
        }
+
+      /* Record permanently how this parm was passed.  */
+      set_decl_incoming_rtl (parm, data.entry_parm);
+
+      /* Update info on where next arg arrives in registers.  */
+      FUNCTION_ARG_ADVANCE (all.args_so_far, data.promoted_mode,
+                           data.passed_type, data.named_arg);
+
+      assign_parm_adjust_stack_rtl (&data);
+
+      if (assign_parm_setup_block_p (&data))
+       assign_parm_setup_block (&all, parm, &data);
+      else if (data.passed_pointer || use_register_for_decl (parm))
+       assign_parm_setup_reg (&all, parm, &data);
+      else
+       assign_parm_setup_stack (&all, parm, &data);
     }
 
+  if (targetm.calls.split_complex_arg && fnargs != all.orig_fnargs)
+    assign_parms_unsplit_complex (&all, fnargs);
+
   /* Output all parameter conversion instructions (possibly including calls)
      now that all parameters have been copied out of hard registers.  */
-  emit_insn (conversion_insns);
+  emit_insn (all.conversion_insns);
 
   /* If we are receiving a struct value address as the first argument, set up
      the RTL for the function result. As this might require code to convert
      the transmitted address to Pmode, we do this here to ensure that possible
      preliminary conversions of the address have been emitted already.  */
-  if (function_result_decl)
+  if (all.function_result_decl)
     {
-      tree result = DECL_RESULT (fndecl);
-      rtx addr = DECL_RTL (function_result_decl);
+      tree result = DECL_RESULT (current_function_decl);
+      rtx addr = DECL_RTL (all.function_result_decl);
       rtx x;
 
-      addr = convert_memory_address (Pmode, addr);
-      x = gen_rtx_MEM (DECL_MODE (result), addr);
-      set_mem_attributes (x, result, 1);
+      if (DECL_BY_REFERENCE (result))
+       x = addr;
+      else
+       {
+         addr = convert_memory_address (Pmode, addr);
+         x = gen_rtx_MEM (DECL_MODE (result), addr);
+         set_mem_attributes (x, result, 1);
+       }
       SET_DECL_RTL (result, x);
     }
 
   /* We have aligned all the args, so add space for the pretend args.  */
-  stack_args_size.constant += extra_pretend_bytes;
-  current_function_args_size = stack_args_size.constant;
+  current_function_pretend_args_size = all.pretend_args_size;
+  all.stack_args_size.constant += all.extra_pretend_bytes;
+  current_function_args_size = all.stack_args_size.constant;
 
   /* Adjust function incoming argument size for alignment and
      minimum length.  */
@@ -2978,12 +2995,12 @@ assign_parms (tree fndecl)
 
 #ifdef ARGS_GROW_DOWNWARD
   current_function_arg_offset_rtx
-    = (stack_args_size.var == 0 ? GEN_INT (-stack_args_size.constant)
-       : expand_expr (size_diffop (stack_args_size.var,
-                                  size_int (-stack_args_size.constant)),
+    = (all.stack_args_size.var == 0 ? GEN_INT (-all.stack_args_size.constant)
+       : expand_expr (size_diffop (all.stack_args_size.var,
+                                  size_int (-all.stack_args_size.constant)),
                      NULL_RTX, VOIDmode, 0));
 #else
-  current_function_arg_offset_rtx = ARGS_SIZE_RTX (stack_args_size);
+  current_function_arg_offset_rtx = ARGS_SIZE_RTX (all.stack_args_size);
 #endif
 
   /* See how many bytes, if any, of its args a function should try to pop
@@ -2995,7 +3012,7 @@ assign_parms (tree fndecl)
   /* For stdarg.h function, save info about
      regs and stack space used by the named args.  */
 
-  current_function_args_info = args_so_far;
+  current_function_args_info = all.args_so_far;
 
   /* Set the rtx used for the function return value.  Put this in its
      own variable so any optimizers that need this information don't have
@@ -3036,58 +3053,115 @@ assign_parms (tree fndecl)
     }
 }
 
-/* If ARGS contains entries with complex types, split the entry into two
-   entries of the component type.  Return a new list of substitutions are
-   needed, else the old list.  */
+/* A subroutine of gimplify_parameters, invoked via walk_tree.
+   For all seen types, gimplify their sizes.  */
 
 static tree
-split_complex_args (tree args)
+gimplify_parm_type (tree *tp, int *walk_subtrees, void *data)
 {
-  tree p;
+  tree t = *tp;
 
-  /* Before allocating memory, check for the common case of no complex.  */
-  for (p = args; p; p = TREE_CHAIN (p))
+  *walk_subtrees = 0;
+  if (TYPE_P (t))
     {
-      tree type = TREE_TYPE (p);
-      if (TREE_CODE (type) == COMPLEX_TYPE
-         && targetm.calls.split_complex_arg (type))
-        goto found;
+      if (POINTER_TYPE_P (t))
+       *walk_subtrees = 1;
+      else if (TYPE_SIZE (t) && !TREE_CONSTANT (TYPE_SIZE (t))
+              && !TYPE_SIZES_GIMPLIFIED (t))
+       {
+         gimplify_type_sizes (t, (tree *) data);
+         *walk_subtrees = 1;
+       }
     }
-  return args;
 
- found:
-  args = copy_list (args);
+  return NULL;
+}
 
-  for (p = args; p; p = TREE_CHAIN (p))
+/* Gimplify the parameter list for current_function_decl.  This involves
+   evaluating SAVE_EXPRs of variable sized parameters and generating code
+   to implement callee-copies reference parameters.  Returns a list of
+   statements to add to the beginning of the function, or NULL if nothing
+   to do.  */
+
+tree
+gimplify_parameters (void)
+{
+  struct assign_parm_data_all all;
+  tree fnargs, parm, stmts = NULL;
+
+  assign_parms_initialize_all (&all);
+  fnargs = assign_parms_augmented_arg_list (&all);
+
+  for (parm = fnargs; parm; parm = TREE_CHAIN (parm))
     {
-      tree type = TREE_TYPE (p);
-      if (TREE_CODE (type) == COMPLEX_TYPE
-         && targetm.calls.split_complex_arg (type))
+      struct assign_parm_data_one data;
+
+      /* Extract the type of PARM; adjust it according to ABI.  */
+      assign_parm_find_data_types (&all, parm, &data);
+
+      /* Early out for errors and void parameters.  */
+      if (data.passed_mode == VOIDmode || DECL_SIZE (parm) == NULL)
+       continue;
+
+      /* Update info on where next arg arrives in registers.  */
+      FUNCTION_ARG_ADVANCE (all.args_so_far, data.promoted_mode,
+                           data.passed_type, data.named_arg);
+
+      /* ??? Once upon a time variable_size stuffed parameter list
+        SAVE_EXPRs (amongst others) onto a pending sizes list.  This
+        turned out to be less than manageable in the gimple world.
+        Now we have to hunt them down ourselves.  */
+      walk_tree_without_duplicates (&data.passed_type,
+                                   gimplify_parm_type, &stmts);
+
+      if (!TREE_CONSTANT (DECL_SIZE (parm)))
        {
-         tree decl;
-         tree subtype = TREE_TYPE (type);
+         gimplify_one_sizepos (&DECL_SIZE (parm), &stmts);
+         gimplify_one_sizepos (&DECL_SIZE_UNIT (parm), &stmts);
+       }
 
-         /* Rewrite the PARM_DECL's type with its component.  */
-         TREE_TYPE (p) = subtype;
-         DECL_ARG_TYPE (p) = TREE_TYPE (DECL_ARG_TYPE (p));
-         DECL_MODE (p) = VOIDmode;
-         DECL_SIZE (p) = NULL;
-         DECL_SIZE_UNIT (p) = NULL;
-         layout_decl (p, 0);
+      if (data.passed_pointer)
+       {
+          tree type = TREE_TYPE (data.passed_type);
+         if (reference_callee_copied (&all.args_so_far, TYPE_MODE (type),
+                                      type, data.named_arg))
+           {
+             tree local, t;
 
-         /* Build a second synthetic decl.  */
-         decl = build_decl (PARM_DECL, NULL_TREE, subtype);
-         DECL_ARG_TYPE (decl) = DECL_ARG_TYPE (p);
-         layout_decl (decl, 0);
+             /* For constant sized objects, this is trivial; for
+                variable-sized objects, we have to play games.  */
+             if (TREE_CONSTANT (DECL_SIZE (parm)))
+               {
+                 local = create_tmp_var (type, get_name (parm));
+                 DECL_IGNORED_P (local) = 0;
+               }
+             else
+               {
+                 tree ptr_type, addr, args;
+
+                 ptr_type = build_pointer_type (type);
+                 addr = create_tmp_var (ptr_type, get_name (parm));
+                 DECL_IGNORED_P (addr) = 0;
+                 local = build_fold_indirect_ref (addr);
+
+                 args = tree_cons (NULL, DECL_SIZE_UNIT (parm), NULL);
+                 t = built_in_decls[BUILT_IN_ALLOCA];
+                 t = build_function_call_expr (t, args);
+                 t = fold_convert (ptr_type, t);
+                 t = build2 (MODIFY_EXPR, void_type_node, addr, t);
+                 gimplify_and_add (t, &stmts);
+               }
 
-         /* Splice it in; skip the new decl.  */
-         TREE_CHAIN (decl) = TREE_CHAIN (p);
-         TREE_CHAIN (p) = decl;
-         p = decl;
+             t = build2 (MODIFY_EXPR, void_type_node, local, parm);
+             gimplify_and_add (t, &stmts);
+
+             SET_DECL_VALUE_EXPR (parm, local);
+             DECL_HAS_VALUE_EXPR_P (parm) = 1;
+           }
        }
     }
 
-  return args;
+  return stmts;
 }
 \f
 /* Indicate whether REGNO is an incoming argument to the current function
@@ -3190,17 +3264,14 @@ locate_and_pad_parm (enum machine_mode passed_mode, tree type, int in_regs,
     }
 #endif /* REG_PARM_STACK_SPACE */
 
-  part_size_in_regs = 0;
-  if (reg_parm_stack_space == 0)
-    part_size_in_regs = ((partial * UNITS_PER_WORD)
-                        / (PARM_BOUNDARY / BITS_PER_UNIT)
-                        * (PARM_BOUNDARY / BITS_PER_UNIT));
+  part_size_in_regs = (reg_parm_stack_space == 0 ? partial : 0);
 
   sizetree
     = type ? size_in_bytes (type) : size_int (GET_MODE_SIZE (passed_mode));
   where_pad = FUNCTION_ARG_PADDING (passed_mode, type);
   boundary = FUNCTION_ARG_BOUNDARY (passed_mode, type);
   locate->where_pad = where_pad;
+  locate->boundary = boundary;
 
 #ifdef ARGS_GROW_DOWNWARD
   locate->slot_offset.constant = -initial_offset_ptr->constant;
@@ -3380,8 +3451,9 @@ setjmp_vars_warning (tree block)
          && DECL_RTL_SET_P (decl)
          && REG_P (DECL_RTL (decl))
          && regno_clobbered_at_setjmp (REGNO (DECL_RTL (decl))))
-       warning ("%Jvariable '%D' might be clobbered by `longjmp' or `vfork'",
-                decl, decl);
+       warning (0, "variable %q+D might be clobbered by %<longjmp%>"
+                " or %<vfork%>",
+                decl);
     }
 
   for (sub = BLOCK_SUBBLOCKS (block); sub; sub = TREE_CHAIN (sub))
@@ -3400,46 +3472,11 @@ setjmp_args_warning (void)
     if (DECL_RTL (decl) != 0
        && REG_P (DECL_RTL (decl))
        && regno_clobbered_at_setjmp (REGNO (DECL_RTL (decl))))
-      warning ("%Jargument '%D' might be clobbered by `longjmp' or `vfork'",
-              decl, decl);
+      warning (0, "argument %q+D might be clobbered by %<longjmp%> or %<vfork%>",
+              decl);
 }
 
 \f
-/* Convert a stack slot address ADDR for variable VAR
-   (from a containing function)
-   into an address valid in this function (using a static chain).  */
-
-rtx
-fix_lexical_addr (rtx addr, tree var)
-{
-  rtx basereg;
-  HOST_WIDE_INT displacement;
-  tree context = decl_function_context (var);
-  struct function *fp;
-  rtx base = 0;
-
-  /* If this is the present function, we need not do anything.  */
-  if (context == current_function_decl)
-    return addr;
-
-  fp = find_function_data (context);
-
-  /* Decode given address as base reg plus displacement.  */
-  if (REG_P (addr))
-    basereg = addr, displacement = 0;
-  else if (GET_CODE (addr) == PLUS && GET_CODE (XEXP (addr, 1)) == CONST_INT)
-    basereg = XEXP (addr, 0), displacement = INTVAL (XEXP (addr, 1));
-  else
-    abort ();
-
-  if (base == 0)
-    abort ();
-
-  /* Use same offset, relative to appropriate static chain or argument
-     pointer.  */
-  return plus_constant (base, displacement);
-}
-\f
 /* Identify BLOCKs referenced by more than one NOTE_INSN_BLOCK_{BEG,END},
    and create duplicate blocks.  */
 /* ??? Need an option to either create block fragments or to create
@@ -3450,12 +3487,12 @@ void
 reorder_blocks (void)
 {
   tree block = DECL_INITIAL (current_function_decl);
-  varray_type block_stack;
+  VEC(tree,heap) *block_stack;
 
   if (block == NULL_TREE)
     return;
 
-  VARRAY_TREE_INIT (block_stack, 10, "block_stack");
+  block_stack = VEC_alloc (tree, heap, 10);
 
   /* Reset the TREE_ASM_WRITTEN bit for all blocks.  */
   clear_block_marks (block);
@@ -3470,6 +3507,8 @@ reorder_blocks (void)
 
   /* Remove deleted blocks from the block fragment chains.  */
   reorder_fix_fragments (block);
+
+  VEC_free (tree, heap, block_stack);
 }
 
 /* Helper function for reorder_blocks.  Reset TREE_ASM_WRITTEN.  */
@@ -3486,13 +3525,13 @@ clear_block_marks (tree block)
 }
 
 static void
-reorder_blocks_1 (rtx insns, tree current_block, varray_type *p_block_stack)
+reorder_blocks_1 (rtx insns, tree current_block, VEC(tree,heap) **p_block_stack)
 {
   rtx insn;
 
   for (insn = insns; insn; insn = NEXT_INSN (insn))
     {
-      if (GET_CODE (insn) == NOTE)
+      if (NOTE_P (insn))
        {
          if (NOTE_LINE_NUMBER (insn) == NOTE_INSN_BLOCK_BEG)
            {
@@ -3529,12 +3568,11 @@ reorder_blocks_1 (rtx insns, tree current_block, varray_type *p_block_stack)
                  BLOCK_SUBBLOCKS (current_block) = block;
                  current_block = block;
                }
-             VARRAY_PUSH_TREE (*p_block_stack, block);
+             VEC_safe_push (tree, heap, *p_block_stack, block);
            }
          else if (NOTE_LINE_NUMBER (insn) == NOTE_INSN_BLOCK_END)
            {
-             NOTE_BLOCK (insn) = VARRAY_TOP_TREE (*p_block_stack);
-             VARRAY_POP (*p_block_stack);
+             NOTE_BLOCK (insn) = VEC_pop (tree, *p_block_stack);
              BLOCK_SUBBLOCKS (current_block)
                = blocks_nreverse (BLOCK_SUBBLOCKS (current_block));
              current_block = BLOCK_SUPERCONTEXT (current_block);
@@ -3730,7 +3768,6 @@ allocate_struct_function (tree fndecl)
 
   cfun->function_frequency = FUNCTION_FREQUENCY_NORMAL;
 
-  init_stmt_for_function ();
   init_eh_for_function ();
 
   lang_hooks.function.init (cfun);
@@ -3759,6 +3796,10 @@ allocate_struct_function (tree fndecl)
        && TYPE_ARG_TYPES (fntype) != 0
        && (TREE_VALUE (tree_last (TYPE_ARG_TYPES (fntype)))
           != void_type_node));
+
+  /* Assume all registers in stdarg functions need to be saved.  */
+  cfun->va_list_gpr_size = VA_LIST_MAX_GPR_SIZE;
+  cfun->va_list_fpr_size = VA_LIST_MAX_FPR_SIZE;
 }
 
 /* Reset cfun, and other non-struct-function variables to defaults as
@@ -3783,10 +3824,6 @@ prepare_function_start (tree fndecl)
   /* We haven't done register allocation yet.  */
   reg_renumber = 0;
 
-  /* Indicate that we need to distinguish between the return value of the
-     present function and the return value of a function being called.  */
-  rtx_equal_function_value_matters = 1;
-
   /* Indicate that we have not instantiated virtual registers yet.  */
   virtuals_instantiated = 0;
 
@@ -3829,9 +3866,8 @@ init_function_start (tree subr)
 
   /* Warn if this value is an aggregate type,
      regardless of which calling convention we are using for it.  */
-  if (warn_aggregate_return
-      && AGGREGATE_TYPE_P (TREE_TYPE (DECL_RESULT (subr))))
-    warning ("function returns an aggregate");
+  if (AGGREGATE_TYPE_P (TREE_TYPE (DECL_RESULT (subr))))
+    warning (OPT_Waggregate_return, "function returns an aggregate");
 }
 
 /* Make sure all values used by the optimization passes have sane
@@ -3841,19 +3877,13 @@ init_function_for_compilation (void)
 {
   reg_renumber = 0;
 
-  /* No prologue/epilogue insns yet.  */
-  VARRAY_GROW (prologue, 0);
-  VARRAY_GROW (epilogue, 0);
-  VARRAY_GROW (sibcall_epilogue, 0);
+  /* No prologue/epilogue insns yet.  Make sure that these vectors are
+     empty.  */
+  gcc_assert (VEC_length (int, prologue) == 0);
+  gcc_assert (VEC_length (int, epilogue) == 0);
+  gcc_assert (VEC_length (int, sibcall_epilogue) == 0);
 }
 
-/* Expand a call to __main at the beginning of a possible main function.  */
-
-#if defined(INIT_SECTION_ASM_OP) && !defined(INVOKE__main)
-#undef HAS_INIT_SECTION
-#define HAS_INIT_SECTION
-#endif
-
 void
 expand_main_function (void)
 {
@@ -3893,32 +3923,104 @@ expand_main_function (void)
     }
 #endif
 
-#ifndef HAS_INIT_SECTION
+#if (defined(INVOKE__main)                             \
+     || (!defined(HAS_INIT_SECTION)                    \
+        && !defined(INIT_SECTION_ASM_OP)               \
+        && !defined(INIT_ARRAY_SECTION_ASM_OP)))
   emit_library_call (init_one_libfunc (NAME__MAIN), LCT_NORMAL, VOIDmode, 0);
 #endif
 }
 \f
-/* The PENDING_SIZES represent the sizes of variable-sized types.
-   Create RTL for the various sizes now (using temporary variables),
-   so that we can refer to the sizes from the RTL we are generating
-   for the current function.  The PENDING_SIZES are a TREE_LIST.  The
-   TREE_VALUE of each node is a SAVE_EXPR.  */
+/* Expand code to initialize the stack_protect_guard.  This is invoked at
+   the beginning of a function to be protected.  */
+
+#ifndef HAVE_stack_protect_set
+# define HAVE_stack_protect_set                0
+# define gen_stack_protect_set(x,y)    (gcc_unreachable (), NULL_RTX)
+#endif
 
 void
-expand_pending_sizes (tree pending_sizes)
+stack_protect_prologue (void)
 {
-  tree tem;
-
-  /* Evaluate now the sizes of any types declared among the arguments.  */
-  for (tem = pending_sizes; tem; tem = TREE_CHAIN (tem))
+  tree guard_decl = targetm.stack_protect_guard ();
+  rtx x, y;
+
+  /* Avoid expand_expr here, because we don't want guard_decl pulled
+     into registers unless absolutely necessary.  And we know that
+     cfun->stack_protect_guard is a local stack slot, so this skips
+     all the fluff.  */
+  x = validize_mem (DECL_RTL (cfun->stack_protect_guard));
+  y = validize_mem (DECL_RTL (guard_decl));
+
+  /* Allow the target to copy from Y to X without leaking Y into a
+     register.  */
+  if (HAVE_stack_protect_set)
     {
-      expand_expr (TREE_VALUE (tem), const0_rtx, VOIDmode, 0);
-      /* Flush the queue in case this parameter declaration has
-        side-effects.  */
-      emit_queue ();
+      rtx insn = gen_stack_protect_set (x, y);
+      if (insn)
+       {
+         emit_insn (insn);
+         return;
+       }
     }
+
+  /* Otherwise do a straight move.  */
+  emit_move_insn (x, y);
 }
 
+/* Expand code to verify the stack_protect_guard.  This is invoked at
+   the end of a function to be protected.  */
+
+#ifndef HAVE_stack_protect_test
+# define HAVE_stack_protect_test               0
+# define gen_stack_protect_test(x, y, z)       (gcc_unreachable (), NULL_RTX)
+#endif
+
+static void
+stack_protect_epilogue (void)
+{
+  tree guard_decl = targetm.stack_protect_guard ();
+  rtx label = gen_label_rtx ();
+  rtx x, y, tmp;
+
+  /* Avoid expand_expr here, because we don't want guard_decl pulled
+     into registers unless absolutely necessary.  And we know that
+     cfun->stack_protect_guard is a local stack slot, so this skips
+     all the fluff.  */
+  x = validize_mem (DECL_RTL (cfun->stack_protect_guard));
+  y = validize_mem (DECL_RTL (guard_decl));
+
+  /* Allow the target to compare Y with X without leaking either into
+     a register.  */
+  switch (HAVE_stack_protect_test != 0)
+    {
+    case 1:
+      tmp = gen_stack_protect_test (x, y, label);
+      if (tmp)
+       {
+         emit_insn (tmp);
+         break;
+       }
+      /* FALLTHRU */
+
+    default:
+      emit_cmp_and_jump_insns (x, y, EQ, NULL_RTX, ptr_mode, 1, label);
+      break;
+    }
+
+  /* The noreturn predictor has been moved to the tree level.  The rtl-level
+     predictors estimate this branch about 20%, which isn't enough to get
+     things moved out of line.  Since this is the only extant case of adding
+     a noreturn function at the rtl level, it doesn't seem worth doing ought
+     except adding the prediction by hand.  */
+  tmp = get_last_insn ();
+  if (JUMP_P (tmp))
+    predict_insn_def (tmp, PRED_NORETURN, TAKEN);
+
+  expand_expr_stmt (targetm.stack_protect_fail ());
+  emit_label (label);
+}
+\f
 /* Start the RTL for a new function, and set variables used for
    emitting RTL.
    SUBR is the FUNCTION_DECL node.
@@ -3975,8 +4077,12 @@ expand_function_start (tree subr)
        }
       if (value_address)
        {
-         rtx x = gen_rtx_MEM (DECL_MODE (DECL_RESULT (subr)), value_address);
-         set_mem_attributes (x, DECL_RESULT (subr), 1);
+         rtx x = value_address;
+         if (!DECL_BY_REFERENCE (DECL_RESULT (subr)))
+           {
+             x = gen_rtx_MEM (DECL_MODE (DECL_RESULT (subr)), x);
+             set_mem_attributes (x, DECL_RESULT (subr), 1);
+           }
          SET_DECL_RTL (DECL_RESULT (subr), x);
        }
     }
@@ -3987,22 +4093,32 @@ expand_function_start (tree subr)
     {
       /* Compute the return values into a pseudo reg, which we will copy
         into the true return register after the cleanups are done.  */
-
-      /* In order to figure out what mode to use for the pseudo, we
-        figure out what the mode of the eventual return register will
-        actually be, and use that.  */
-      rtx hard_reg
-       = hard_function_value (TREE_TYPE (DECL_RESULT (subr)),
-                              subr, 1);
-
-      /* Structures that are returned in registers are not aggregate_value_p,
-        so we may see a PARALLEL or a REG.  */
-      if (REG_P (hard_reg))
-       SET_DECL_RTL (DECL_RESULT (subr), gen_reg_rtx (GET_MODE (hard_reg)));
-      else if (GET_CODE (hard_reg) == PARALLEL)
-       SET_DECL_RTL (DECL_RESULT (subr), gen_group_rtx (hard_reg));
+      tree return_type = TREE_TYPE (DECL_RESULT (subr));
+      if (TYPE_MODE (return_type) != BLKmode
+         && targetm.calls.return_in_msb (return_type))
+       /* expand_function_end will insert the appropriate padding in
+          this case.  Use the return value's natural (unpadded) mode
+          within the function proper.  */
+       SET_DECL_RTL (DECL_RESULT (subr),
+                     gen_reg_rtx (TYPE_MODE (return_type)));
       else
-       abort ();
+       {
+         /* In order to figure out what mode to use for the pseudo, we
+            figure out what the mode of the eventual return register will
+            actually be, and use that.  */
+         rtx hard_reg = hard_function_value (return_type, subr, 1);
+
+         /* Structures that are returned in registers are not
+            aggregate_value_p, so we may see a PARALLEL or a REG.  */
+         if (REG_P (hard_reg))
+           SET_DECL_RTL (DECL_RESULT (subr),
+                         gen_reg_rtx (GET_MODE (hard_reg)));
+         else
+           {
+             gcc_assert (GET_CODE (hard_reg) == PARALLEL);
+             SET_DECL_RTL (DECL_RESULT (subr), gen_group_rtx (hard_reg));
+           }
+       }
 
       /* Set DECL_REGISTER flag so that expand_function_end will copy the
         result to the real return register(s).  */
@@ -4021,7 +4137,6 @@ expand_function_start (tree subr)
 
       set_decl_incoming_rtl (parm, static_chain_incoming_rtx);
       SET_DECL_RTL (parm, local);
-      maybe_set_unchanging (local, parm);
       mark_reg_pointer (local, TYPE_ALIGN (TREE_TYPE (TREE_TYPE (parm))));
 
       emit_move_insn (local, static_chain_incoming_rtx);
@@ -4038,9 +4153,11 @@ expand_function_start (tree subr)
         before the frame variable gets declared.  Help out...  */
       expand_var (TREE_OPERAND (cfun->nonlocal_goto_save_area, 0));
 
-      t_save = build (ARRAY_REF, ptr_type_node, cfun->nonlocal_goto_save_area,
-                     integer_zero_node, NULL_TREE, NULL_TREE);
+      t_save = build4 (ARRAY_REF, ptr_type_node,
+                      cfun->nonlocal_goto_save_area,
+                      integer_zero_node, NULL_TREE, NULL_TREE);
       r_save = expand_expr (t_save, NULL_RTX, VOIDmode, EXPAND_WRITE);
+      r_save = convert_memory_address (Pmode, r_save);
 
       emit_move_insn (r_save, virtual_stack_vars_rtx);
       update_nonlocal_goto_save_area ();
@@ -4052,7 +4169,7 @@ expand_function_start (tree subr)
      as opposed to parm setup.  */
   emit_note (NOTE_INSN_FUNCTION_BEG);
 
-  if (GET_CODE (get_last_insn ()) != NOTE)
+  if (!NOTE_P (get_last_insn ()))
     emit_note (NOTE_INSN_DELETED);
   parm_birth_insn = get_last_insn ();
 
@@ -4068,9 +4185,6 @@ expand_function_start (tree subr)
      since some things (like trampolines) get placed before this.  */
   tail_recursion_reentry = emit_note (NOTE_INSN_DELETED);
 
-  /* Evaluate now the sizes of any types declared among the arguments.  */
-  expand_pending_sizes (nreverse (get_pending_sizes ()));
-
   /* Make sure there is a line number after the function entry setup code.  */
   force_next_line_note ();
 }
@@ -4163,7 +4277,7 @@ do_warn_unused_parameter (tree fn)
        decl; decl = TREE_CHAIN (decl))
     if (!TREE_USED (decl) && TREE_CODE (decl) == PARM_DECL
        && DECL_NAME (decl) && !DECL_ARTIFICIAL (decl))
-      warning ("%Junused parameter '%D'", decl, decl);
+      warning (0, "unused parameter %q+D", decl);
 }
 
 static GTY(()) rtx initial_trampoline;
@@ -4175,8 +4289,6 @@ expand_function_end (void)
 {
   rtx clobber_after;
 
-  finish_expr_for_function ();
-
   /* If arg_pointer_save_area was referenced only from a nested
      function, we will not have initialized it yet.  Do that now.  */
   if (arg_pointer_save_area && ! cfun->arg_pointer_save_area_init)
@@ -4190,7 +4302,7 @@ expand_function_end (void)
       rtx insn, seq;
 
       for (insn = get_insns (); insn; insn = NEXT_INSN (insn))
-       if (GET_CODE (insn) == CALL_INSN)
+       if (CALL_P (insn))
          {
            start_sequence ();
            probe_stack_range (STACK_CHECK_PROTECT,
@@ -4252,30 +4364,8 @@ expand_function_end (void)
      is computed.  */
   clobber_after = get_last_insn ();
 
-  /* Output the label for the actual return from the function,
-     if one is expected.  This happens either because a function epilogue
-     is used instead of a return instruction, or because a return was done
-     with a goto in order to run local cleanups, or because of pcc-style
-     structure returning.  */
-  if (return_label)
-    emit_label (return_label);
-
-  /* Let except.c know where it should emit the call to unregister
-     the function context for sjlj exceptions.  */
-  if (flag_exceptions && USING_SJLJ_EXCEPTIONS)
-    sjlj_emit_function_exit_after (get_last_insn ());
-
-  /* If we had calls to alloca, and this machine needs
-     an accurate stack pointer to exit the function,
-     insert some code to save and restore the stack pointer.  */
-  if (! EXIT_IGNORE_STACK
-      && current_function_calls_alloca)
-    {
-      rtx tem = 0;
-
-      emit_stack_save (SAVE_FUNCTION, &tem, parm_birth_insn);
-      emit_stack_restore (SAVE_FUNCTION, tem, NULL_RTX);
-    }
+  /* Output the label for the actual return from the function.  */
+  emit_label (return_label);
 
   /* If scalar return value was computed in a pseudo-reg, or was a named
      return value that got dumped to the stack, copy that to the hard
@@ -4292,8 +4382,7 @@ expand_function_end (void)
          rtx real_decl_rtl = current_function_return_rtx;
 
          /* This should be set in assign_parms.  */
-         if (! REG_FUNCTION_VALUE_P (real_decl_rtl))
-           abort ();
+         gcc_assert (REG_FUNCTION_VALUE_P (real_decl_rtl));
 
          /* If this is a BLKmode structure being returned in registers,
             then use the mode computed in expand_return.  Note that if
@@ -4302,10 +4391,22 @@ expand_function_end (void)
          if (GET_MODE (real_decl_rtl) == BLKmode)
            PUT_MODE (real_decl_rtl, GET_MODE (decl_rtl));
 
+         /* If a non-BLKmode return value should be padded at the least
+            significant end of the register, shift it left by the appropriate
+            amount.  BLKmode results are handled using the group load/store
+            machinery.  */
+         if (TYPE_MODE (TREE_TYPE (decl_result)) != BLKmode
+             && targetm.calls.return_in_msb (TREE_TYPE (decl_result)))
+           {
+             emit_move_insn (gen_rtx_REG (GET_MODE (decl_rtl),
+                                          REGNO (real_decl_rtl)),
+                             decl_rtl);
+             shift_return_value (GET_MODE (decl_rtl), true, real_decl_rtl);
+           }
          /* If a named return value dumped decl_return to memory, then
             we may need to re-do the PROMOTE_MODE signed/unsigned
             extension.  */
-         if (GET_MODE (real_decl_rtl) != GET_MODE (decl_rtl))
+         else if (GET_MODE (real_decl_rtl) != GET_MODE (decl_rtl))
            {
              int unsignedp = TYPE_UNSIGNED (TREE_TYPE (decl_result));
 
@@ -4341,17 +4442,22 @@ expand_function_end (void)
   if (current_function_returns_struct
       || current_function_returns_pcc_struct)
     {
-      rtx value_address
-       = XEXP (DECL_RTL (DECL_RESULT (current_function_decl)), 0);
+      rtx value_address = DECL_RTL (DECL_RESULT (current_function_decl));
       tree type = TREE_TYPE (DECL_RESULT (current_function_decl));
+      rtx outgoing;
+
+      if (DECL_BY_REFERENCE (DECL_RESULT (current_function_decl)))
+       type = TREE_TYPE (type);
+      else
+       value_address = XEXP (value_address, 0);
+
 #ifdef FUNCTION_OUTGOING_VALUE
-      rtx outgoing
-       = FUNCTION_OUTGOING_VALUE (build_pointer_type (type),
-                                  current_function_decl);
+      outgoing = FUNCTION_OUTGOING_VALUE (build_pointer_type (type),
+                                         current_function_decl);
 #else
-      rtx outgoing
-       = FUNCTION_VALUE (build_pointer_type (type), current_function_decl);
-#endif
+      outgoing = FUNCTION_VALUE (build_pointer_type (type),
+                                current_function_decl);
+#endif 
 
       /* Mark this as a function return value so integrate will delete the
         assignment and USE below when inlining this function.  */
@@ -4374,35 +4480,46 @@ expand_function_end (void)
 
   /* Emit the actual code to clobber return register.  */
   {
-    rtx seq, after;
+    rtx seq;
 
     start_sequence ();
     clobber_return_register ();
+    expand_naked_return ();
     seq = get_insns ();
     end_sequence ();
 
-    after = emit_insn_after (seq, clobber_after);
+    emit_insn_after (seq, clobber_after);
   }
 
-  /* Output the label for the naked return from the function, if one is
-     expected.  This is currently used only by __builtin_return.  */
-  if (naked_return_label)
-    emit_label (naked_return_label);
+  /* Output the label for the naked return from the function.  */
+  emit_label (naked_return_label);
+
+  /* Let except.c know where it should emit the call to unregister
+     the function context for sjlj exceptions.  */
+  if (flag_exceptions && USING_SJLJ_EXCEPTIONS)
+    sjlj_emit_function_exit_after (get_last_insn ());
+
+  /* If stack protection is enabled for this function, check the guard.  */
+  if (cfun->stack_protect_guard)
+    stack_protect_epilogue ();
+
+  /* If we had calls to alloca, and this machine needs
+     an accurate stack pointer to exit the function,
+     insert some code to save and restore the stack pointer.  */
+  if (! EXIT_IGNORE_STACK
+      && current_function_calls_alloca)
+    {
+      rtx tem = 0;
+
+      emit_stack_save (SAVE_FUNCTION, &tem, parm_birth_insn);
+      emit_stack_restore (SAVE_FUNCTION, tem, NULL_RTX);
+    }
 
   /* ??? This should no longer be necessary since stupid is no longer with
      us, but there are some parts of the compiler (eg reload_combine, and
      sh mach_dep_reorg) that still try and compute their own lifetime info
      instead of using the general framework.  */
   use_return_register ();
-
-  /* Fix up any gotos that jumped out to the outermost
-     binding level of the function.
-     Must follow emitting RETURN_LABEL.  */
-
-  /* If you have any cleanups to do at this point,
-     and they need to create temporary variables,
-     then you will lose.  */
-  expand_fixups (get_insns ());
 }
 
 rtx
@@ -4429,7 +4546,7 @@ get_arg_pointer_save_area (struct function *f)
       end_sequence ();
 
       push_topmost_sequence ();
-      emit_insn_after (seq, get_insns ());
+      emit_insn_after (seq, entry_of_function ());
       pop_topmost_sequence ();
     }
 
@@ -4440,28 +4557,12 @@ get_arg_pointer_save_area (struct function *f)
    (a list of one or more insns).  */
 
 static void
-record_insns (rtx insns, varray_type *vecp)
+record_insns (rtx insns, VEC(int,heap) **vecp)
 {
-  int i, len;
   rtx tmp;
 
-  tmp = insns;
-  len = 0;
-  while (tmp != NULL_RTX)
-    {
-      len++;
-      tmp = NEXT_INSN (tmp);
-    }
-
-  i = VARRAY_SIZE (*vecp);
-  VARRAY_GROW (*vecp, i + len);
-  tmp = insns;
-  while (tmp != NULL_RTX)
-    {
-      VARRAY_INT (*vecp, i) = INSN_UID (tmp);
-      i++;
-      tmp = NEXT_INSN (tmp);
-    }
+  for (tmp = insns; tmp != NULL_RTX; tmp = NEXT_INSN (tmp))
+    VEC_safe_push (int, heap, *vecp, INSN_UID (tmp));
 }
 
 /* Set the locator of the insn chain starting at INSN to LOC.  */
@@ -4480,24 +4581,25 @@ set_insn_locators (rtx insn, int loc)
    be running after reorg, SEQUENCE rtl is possible.  */
 
 static int
-contains (rtx insn, varray_type vec)
+contains (rtx insn, VEC(int,heap) **vec)
 {
   int i, j;
 
-  if (GET_CODE (insn) == INSN
+  if (NONJUMP_INSN_P (insn)
       && GET_CODE (PATTERN (insn)) == SEQUENCE)
     {
       int count = 0;
       for (i = XVECLEN (PATTERN (insn), 0) - 1; i >= 0; i--)
-       for (j = VARRAY_SIZE (vec) - 1; j >= 0; --j)
-         if (INSN_UID (XVECEXP (PATTERN (insn), 0, i)) == VARRAY_INT (vec, j))
+       for (j = VEC_length (int, *vec) - 1; j >= 0; --j)
+         if (INSN_UID (XVECEXP (PATTERN (insn), 0, i))
+             == VEC_index (int, *vec, j))
            count++;
       return count;
     }
   else
     {
-      for (j = VARRAY_SIZE (vec) - 1; j >= 0; --j)
-       if (INSN_UID (insn) == VARRAY_INT (vec, j))
+      for (j = VEC_length (int, *vec) - 1; j >= 0; --j)
+       if (INSN_UID (insn) == VEC_index (int, *vec, j))
          return 1;
     }
   return 0;
@@ -4506,9 +4608,9 @@ contains (rtx insn, varray_type vec)
 int
 prologue_epilogue_contains (rtx insn)
 {
-  if (contains (insn, prologue))
+  if (contains (insn, &prologue))
     return 1;
-  if (contains (insn, epilogue))
+  if (contains (insn, &epilogue))
     return 1;
   return 0;
 }
@@ -4517,7 +4619,7 @@ int
 sibcall_epilogue_contains (rtx insn)
 {
   if (sibcall_epilogue)
-    return contains (insn, sibcall_epilogue);
+    return contains (insn, &sibcall_epilogue);
   return 0;
 }
 
@@ -4536,34 +4638,35 @@ emit_return_into_block (basic_block bb, rtx line_note)
 
 #if defined(HAVE_epilogue) && defined(INCOMING_RETURN_ADDR_RTX)
 
-/* These functions convert the epilogue into a variant that does not modify the
-   stack pointer.  This is used in cases where a function returns an object
-   whose size is not known until it is computed.  The called function leaves the
-   object on the stack, leaves the stack depressed, and returns a pointer to
-   the object.
-
-   What we need to do is track all modifications and references to the stack
-   pointer, deleting the modifications and changing the references to point to
-   the location the stack pointer would have pointed to had the modifications
-   taken place.
-
-   These functions need to be portable so we need to make as few assumptions
-   about the epilogue as we can.  However, the epilogue basically contains
-   three things: instructions to reset the stack pointer, instructions to
-   reload registers, possibly including the frame pointer, and an
-   instruction to return to the caller.
-
-   If we can't be sure of what a relevant epilogue insn is doing, we abort.
-   We also make no attempt to validate the insns we make since if they are
-   invalid, we probably can't do anything valid.  The intent is that these
-   routines get "smarter" as more and more machines start to use them and
-   they try operating on different epilogues.
-
-   We use the following structure to track what the part of the epilogue that
-   we've already processed has done.  We keep two copies of the SP equivalence,
-   one for use during the insn we are processing and one for use in the next
-   insn.  The difference is because one part of a PARALLEL may adjust SP
-   and the other may use it.  */
+/* These functions convert the epilogue into a variant that does not
+   modify the stack pointer.  This is used in cases where a function
+   returns an object whose size is not known until it is computed.
+   The called function leaves the object on the stack, leaves the
+   stack depressed, and returns a pointer to the object.
+
+   What we need to do is track all modifications and references to the
+   stack pointer, deleting the modifications and changing the
+   references to point to the location the stack pointer would have
+   pointed to had the modifications taken place.
+
+   These functions need to be portable so we need to make as few
+   assumptions about the epilogue as we can.  However, the epilogue
+   basically contains three things: instructions to reset the stack
+   pointer, instructions to reload registers, possibly including the
+   frame pointer, and an instruction to return to the caller.
+
+   We must be sure of what a relevant epilogue insn is doing.  We also
+   make no attempt to validate the insns we make since if they are
+   invalid, we probably can't do anything valid.  The intent is that
+   these routines get "smarter" as more and more machines start to use
+   them and they try operating on different epilogues.
+
+   We use the following structure to track what the part of the
+   epilogue that we've already processed has done.  We keep two copies
+   of the SP equivalence, one for use during the insn we are
+   processing and one for use in the next insn.  The difference is
+   because one part of a PARALLEL may adjust SP and the other may use
+   it.  */
 
 struct epi_info
 {
@@ -4655,19 +4758,27 @@ keep_stack_depressed (rtx insns)
              insn = next;
              continue;
            }
-         else if (MEM_P (retaddr)
-                  && REG_P (XEXP (retaddr, 0)))
-           base = gen_rtx_REG (Pmode, REGNO (XEXP (retaddr, 0))), offset = 0;
-         else if (MEM_P (retaddr)
-                  && GET_CODE (XEXP (retaddr, 0)) == PLUS
-                  && REG_P (XEXP (XEXP (retaddr, 0), 0))
-                  && GET_CODE (XEXP (XEXP (retaddr, 0), 1)) == CONST_INT)
+         else
            {
-             base = gen_rtx_REG (Pmode, REGNO (XEXP (XEXP (retaddr, 0), 0)));
-             offset = INTVAL (XEXP (XEXP (retaddr, 0), 1));
+             rtx ret_ptr;
+             gcc_assert (MEM_P (retaddr));
+
+             ret_ptr = XEXP (retaddr, 0);
+             
+             if (REG_P (ret_ptr))
+               {
+                 base = gen_rtx_REG (Pmode, REGNO (ret_ptr));
+                 offset = 0;
+               }
+             else
+               {
+                 gcc_assert (GET_CODE (ret_ptr) == PLUS
+                             && REG_P (XEXP (ret_ptr, 0))
+                             && GET_CODE (XEXP (ret_ptr, 1)) == CONST_INT);
+                 base = gen_rtx_REG (Pmode, REGNO (XEXP (ret_ptr, 0)));
+                 offset = INTVAL (XEXP (ret_ptr, 1));
+               }
            }
-         else
-           abort ();
 
          /* If the base of the location containing the return pointer
             is SP, we must update it with the replacement address.  Otherwise,
@@ -4693,8 +4804,8 @@ keep_stack_depressed (rtx insns)
                if (HARD_REGNO_MODE_OK (regno, Pmode)
                    && !fixed_regs[regno]
                    && TEST_HARD_REG_BIT (regs_invalidated_by_call, regno)
-                   && !REGNO_REG_SET_P (EXIT_BLOCK_PTR->global_live_at_start,
-                                        regno)
+                   && !REGNO_REG_SET_P
+                        (EXIT_BLOCK_PTR->il.rtl->global_live_at_start, regno)
                    && !refers_to_regno_p (regno,
                                           regno + hard_regno_nregs[regno]
                                                                   [Pmode],
@@ -4702,8 +4813,7 @@ keep_stack_depressed (rtx insns)
                    && info.const_equiv[regno] == 0)
                  break;
 
-             if (regno == FIRST_PSEUDO_REGISTER)
-               abort ();
+             gcc_assert (regno < FIRST_PSEUDO_REGISTER);
 
              reg = gen_rtx_REG (Pmode, regno);
              emit_move_insn (reg, retaddr);
@@ -4715,10 +4825,8 @@ keep_stack_depressed (rtx insns)
 
          /* Show the SET in the above insn is a RETURN.  */
          jump_set = single_set (jump_insn);
-         if (jump_set == 0)
-           abort ();
-         else
-           SET_IS_RETURN_P (jump_set) = 1;
+         gcc_assert (jump_set);
+         SET_IS_RETURN_P (jump_set) = 1;
        }
 
       /* If SP is not mentioned in the pattern and its equivalent register, if
@@ -4733,11 +4841,13 @@ keep_stack_depressed (rtx insns)
               && (info.sp_equiv_reg == stack_pointer_rtx
                   || !reg_set_p (info.sp_equiv_reg, insn)))
        {
-         if (! validate_replace_rtx (stack_pointer_rtx,
-                                     plus_constant (info.sp_equiv_reg,
-                                                    info.sp_offset),
-                                     insn))
-           abort ();
+         int changed;
+
+         changed = validate_replace_rtx (stack_pointer_rtx,
+                                         plus_constant (info.sp_equiv_reg,
+                                                        info.sp_offset),
+                                         insn);
+         gcc_assert (changed);
 
          add_insn (insn);
        }
@@ -4774,24 +4884,25 @@ static void
 handle_epilogue_set (rtx set, struct epi_info *p)
 {
   /* First handle the case where we are setting SP.  Record what it is being
-     set from.  If unknown, abort.  */
+     set from, which we must be able to determine  */
   if (reg_set_p (stack_pointer_rtx, set))
     {
-      if (SET_DEST (set) != stack_pointer_rtx)
-       abort ();
+      gcc_assert (SET_DEST (set) == stack_pointer_rtx);
 
       if (GET_CODE (SET_SRC (set)) == PLUS)
        {
          p->new_sp_equiv_reg = XEXP (SET_SRC (set), 0);
          if (GET_CODE (XEXP (SET_SRC (set), 1)) == CONST_INT)
            p->new_sp_offset = INTVAL (XEXP (SET_SRC (set), 1));
-         else if (REG_P (XEXP (SET_SRC (set), 1))
-                  && REGNO (XEXP (SET_SRC (set), 1)) < FIRST_PSEUDO_REGISTER
-                  && p->const_equiv[REGNO (XEXP (SET_SRC (set), 1))] != 0)
-           p->new_sp_offset
-             = INTVAL (p->const_equiv[REGNO (XEXP (SET_SRC (set), 1))]);
          else
-           abort ();
+           {
+             gcc_assert (REG_P (XEXP (SET_SRC (set), 1))
+                         && (REGNO (XEXP (SET_SRC (set), 1))
+                             < FIRST_PSEUDO_REGISTER)
+                         && p->const_equiv[REGNO (XEXP (SET_SRC (set), 1))]);
+             p->new_sp_offset
+               = INTVAL (p->const_equiv[REGNO (XEXP (SET_SRC (set), 1))]);
+           }
        }
       else
        p->new_sp_equiv_reg = SET_SRC (set), p->new_sp_offset = 0;
@@ -4803,33 +4914,31 @@ handle_epilogue_set (rtx set, struct epi_info *p)
          p->new_sp_offset += p->sp_offset;
        }
 
-      if (p->new_sp_equiv_reg == 0 || !REG_P (p->new_sp_equiv_reg))
-       abort ();
+      gcc_assert (p->new_sp_equiv_reg && REG_P (p->new_sp_equiv_reg));
 
       return;
     }
 
-  /* Next handle the case where we are setting SP's equivalent register.
-     If we already have a value to set it to, abort.  We could update, but
-     there seems little point in handling that case.  Note that we have
-     to allow for the case where we are setting the register set in
-     the previous part of a PARALLEL inside a single insn.  But use the
-     old offset for any updates within this insn.  We must allow for the case
-     where the register is being set in a different (usually wider) mode than
-     Pmode).  */
+  /* Next handle the case where we are setting SP's equivalent
+     register.  We must not already have a value to set it to.  We
+     could update, but there seems little point in handling that case.
+     Note that we have to allow for the case where we are setting the
+     register set in the previous part of a PARALLEL inside a single
+     insn.  But use the old offset for any updates within this insn.
+     We must allow for the case where the register is being set in a
+     different (usually wider) mode than Pmode).  */
   else if (p->new_sp_equiv_reg != 0 && reg_set_p (p->new_sp_equiv_reg, set))
     {
-      if (p->equiv_reg_src != 0
-         || !REG_P (p->new_sp_equiv_reg)
-         || !REG_P (SET_DEST (set))
-         || GET_MODE_BITSIZE (GET_MODE (SET_DEST (set))) > BITS_PER_WORD
-         || REGNO (p->new_sp_equiv_reg) != REGNO (SET_DEST (set)))
-       abort ();
-      else
-       p->equiv_reg_src
-         = simplify_replace_rtx (SET_SRC (set), stack_pointer_rtx,
-                                 plus_constant (p->sp_equiv_reg,
-                                                p->sp_offset));
+      gcc_assert (!p->equiv_reg_src
+                 && REG_P (p->new_sp_equiv_reg)
+                 && REG_P (SET_DEST (set))
+                 && (GET_MODE_BITSIZE (GET_MODE (SET_DEST (set)))
+                     <= BITS_PER_WORD)
+                 && REGNO (p->new_sp_equiv_reg) == REGNO (SET_DEST (set)));
+      p->equiv_reg_src
+       = simplify_replace_rtx (SET_SRC (set), stack_pointer_rtx,
+                               plus_constant (p->sp_equiv_reg,
+                                              p->sp_offset));
     }
 
   /* Otherwise, replace any references to SP in the insn to its new value
@@ -4922,6 +5031,7 @@ thread_prologue_and_epilogue_insns (rtx f ATTRIBUTE_UNUSED)
 #if defined (HAVE_epilogue) || defined(HAVE_return)
   rtx epilogue_end = NULL_RTX;
 #endif
+  edge_iterator ei;
 
 #ifdef HAVE_prologue
   if (HAVE_prologue)
@@ -4941,17 +5051,16 @@ thread_prologue_and_epilogue_insns (rtx f ATTRIBUTE_UNUSED)
       /* Can't deal with multiple successors of the entry block
          at the moment.  Function should always have at least one
          entry point.  */
-      if (!ENTRY_BLOCK_PTR->succ || ENTRY_BLOCK_PTR->succ->succ_next)
-       abort ();
+      gcc_assert (single_succ_p (ENTRY_BLOCK_PTR));
 
-      insert_insn_on_edge (seq, ENTRY_BLOCK_PTR->succ);
+      insert_insn_on_edge (seq, single_succ_edge (ENTRY_BLOCK_PTR));
       inserted = 1;
     }
 #endif
 
   /* If the exit block has no non-fake predecessors, we don't need
      an epilogue.  */
-  for (e = EXIT_BLOCK_PTR->pred; e; e = e->pred_next)
+  FOR_EACH_EDGE (e, ei, EXIT_BLOCK_PTR->preds)
     if ((e->flags & EDGE_FAKE) == 0)
       break;
   if (e == NULL)
@@ -4967,10 +5076,9 @@ thread_prologue_and_epilogue_insns (rtx f ATTRIBUTE_UNUSED)
         emit (conditional) return instructions.  */
 
       basic_block last;
-      edge e_next;
       rtx label;
 
-      for (e = EXIT_BLOCK_PTR->pred; e; e = e->pred_next)
+      FOR_EACH_EDGE (e, ei, EXIT_BLOCK_PTR->preds)
        if (e->flags & EDGE_FALLTHRU)
          break;
       if (e == NULL)
@@ -4979,15 +5087,16 @@ thread_prologue_and_epilogue_insns (rtx f ATTRIBUTE_UNUSED)
 
       /* Verify that there are no active instructions in the last block.  */
       label = BB_END (last);
-      while (label && GET_CODE (label) != CODE_LABEL)
+      while (label && !LABEL_P (label))
        {
          if (active_insn_p (label))
            break;
          label = PREV_INSN (label);
        }
 
-      if (BB_HEAD (last) == label && GET_CODE (label) == CODE_LABEL)
+      if (BB_HEAD (last) == label && LABEL_P (label))
        {
+         edge_iterator ei2;
          rtx epilogue_line_note = NULL_RTX;
 
          /* Locate the line number associated with the closing brace,
@@ -4995,24 +5104,29 @@ thread_prologue_and_epilogue_insns (rtx f ATTRIBUTE_UNUSED)
          for (seq = get_last_insn ();
               seq && ! active_insn_p (seq);
               seq = PREV_INSN (seq))
-           if (GET_CODE (seq) == NOTE && NOTE_LINE_NUMBER (seq) > 0)
+           if (NOTE_P (seq) && NOTE_LINE_NUMBER (seq) > 0)
              {
                epilogue_line_note = seq;
                break;
              }
 
-         for (e = last->pred; e; e = e_next)
+         for (ei2 = ei_start (last->preds); (e = ei_safe_edge (ei2)); )
            {
              basic_block bb = e->src;
              rtx jump;
 
-             e_next = e->pred_next;
              if (bb == ENTRY_BLOCK_PTR)
-               continue;
+               {
+                 ei_next (&ei2);
+                 continue;
+               }
 
              jump = BB_END (bb);
-             if ((GET_CODE (jump) != JUMP_INSN) || JUMP_LABEL (jump) != label)
-               continue;
+             if (!JUMP_P (jump) || JUMP_LABEL (jump) != label)
+               {
+                 ei_next (&ei2);
+                 continue;
+               }
 
              /* If we have an unconditional jump, we can replace that
                 with a simple return instruction.  */
@@ -5027,16 +5141,25 @@ thread_prologue_and_epilogue_insns (rtx f ATTRIBUTE_UNUSED)
              else if (condjump_p (jump))
                {
                  if (! redirect_jump (jump, 0, 0))
-                   continue;
+                   {
+                     ei_next (&ei2);
+                     continue;
+                   }
 
                  /* If this block has only one successor, it both jumps
                     and falls through to the fallthru block, so we can't
                     delete the edge.  */
-                 if (bb->succ->succ_next == NULL)
-                   continue;
+                 if (single_succ_p (bb))
+                   {
+                     ei_next (&ei2);
+                     continue;
+                   }
                }
              else
-               continue;
+               {
+                 ei_next (&ei2);
+                 continue;
+               }
 
              /* Fix up the CFG for the successful change we just made.  */
              redirect_edge_succ (e, EXIT_BLOCK_PTR);
@@ -5048,7 +5171,7 @@ thread_prologue_and_epilogue_insns (rtx f ATTRIBUTE_UNUSED)
          emit_barrier_after (BB_END (last));
          emit_return_into_block (last, epilogue_line_note);
          epilogue_end = BB_END (last);
-         last->succ->flags &= ~EDGE_FALLTHRU;
+         single_succ_edge (last)->flags &= ~EDGE_FALLTHRU;
          goto epilogue_done;
        }
     }
@@ -5058,7 +5181,7 @@ thread_prologue_and_epilogue_insns (rtx f ATTRIBUTE_UNUSED)
      There really shouldn't be a mixture -- either all should have
      been converted or none, however...  */
 
-  for (e = EXIT_BLOCK_PTR->pred; e; e = e->pred_next)
+  FOR_EACH_EDGE (e, ei, EXIT_BLOCK_PTR->preds)
     if (e->flags & EDGE_FALLTHRU)
       break;
   if (e == NULL)
@@ -5106,10 +5229,10 @@ thread_prologue_and_epilogue_insns (rtx f ATTRIBUTE_UNUSED)
          use return.  Inserting a jump 'by hand' is extremely messy, so
         we take advantage of cfg_layout_finalize using
        fixup_fallthru_exit_predecessor.  */
-      cfg_layout_initialize ();
+      cfg_layout_initialize (0);
       FOR_EACH_BB (cur_bb)
        if (cur_bb->index >= 0 && cur_bb->next_bb->index >= 0)
-         cur_bb->rbi->next = cur_bb->next_bb;
+         cur_bb->aux = cur_bb->next_bb;
       cfg_layout_finalize ();
     }
 epilogue_done:
@@ -5119,16 +5242,17 @@ epilogue_done:
 
 #ifdef HAVE_sibcall_epilogue
   /* Emit sibling epilogues before any sibling call sites.  */
-  for (e = EXIT_BLOCK_PTR->pred; e; e = e->pred_next)
+  for (ei = ei_start (EXIT_BLOCK_PTR->preds); (e = ei_safe_edge (ei)); )
     {
       basic_block bb = e->src;
       rtx insn = BB_END (bb);
-      rtx i;
-      rtx newinsn;
 
-      if (GET_CODE (insn) != CALL_INSN
+      if (!CALL_P (insn)
          || ! SIBLING_CALL_P (insn))
-       continue;
+       {
+         ei_next (&ei);
+         continue;
+       }
 
       start_sequence ();
       emit_insn (gen_sibcall_epilogue ());
@@ -5141,8 +5265,8 @@ epilogue_done:
       record_insns (seq, &sibcall_epilogue);
       set_insn_locators (seq, epilogue_locator);
 
-      i = PREV_INSN (insn);
-      newinsn = emit_insn_before (seq, insn);
+      emit_insn_before (seq, insn);
+      ei_next (&ei);
     }
 #endif
 
@@ -5168,7 +5292,7 @@ epilogue_done:
       for (insn = prologue_end; insn; insn = prev)
        {
          prev = PREV_INSN (insn);
-         if (GET_CODE (insn) == NOTE && NOTE_LINE_NUMBER (insn) > 0)
+         if (NOTE_P (insn) && NOTE_LINE_NUMBER (insn) > 0)
            {
              /* Note that we cannot reorder the first insn in the
                 chain, since rest_of_compilation relies on that
@@ -5183,7 +5307,7 @@ epilogue_done:
       for (insn = BB_END (ENTRY_BLOCK_PTR->next_bb);
           insn != prologue_end && insn;
           insn = PREV_INSN (insn))
-       if (GET_CODE (insn) == NOTE && NOTE_LINE_NUMBER (insn) > 0)
+       if (NOTE_P (insn) && NOTE_LINE_NUMBER (insn) > 0)
          break;
 
       /* If we didn't find one, make a copy of the first line number
@@ -5193,7 +5317,7 @@ epilogue_done:
          for (insn = next_active_insn (prologue_end);
               insn;
               insn = PREV_INSN (insn))
-           if (GET_CODE (insn) == NOTE && NOTE_LINE_NUMBER (insn) > 0)
+           if (NOTE_P (insn) && NOTE_LINE_NUMBER (insn) > 0)
              {
                emit_note_copy_after (insn, prologue_end);
                break;
@@ -5214,7 +5338,7 @@ epilogue_done:
       for (insn = epilogue_end; insn; insn = next)
        {
          next = NEXT_INSN (insn);
-         if (GET_CODE (insn) == NOTE 
+         if (NOTE_P (insn) 
              && (NOTE_LINE_NUMBER (insn) > 0
                  || NOTE_LINE_NUMBER (insn) == NOTE_INSN_FUNCTION_BEG
                  || NOTE_LINE_NUMBER (insn) == NOTE_INSN_FUNCTION_END))
@@ -5234,7 +5358,7 @@ reposition_prologue_and_epilogue_notes (rtx f ATTRIBUTE_UNUSED)
   rtx insn, last, note;
   int len;
 
-  if ((len = VARRAY_SIZE (prologue)) > 0)
+  if ((len = VEC_length (int, prologue)) > 0)
     {
       last = 0, note = 0;
 
@@ -5243,12 +5367,12 @@ reposition_prologue_and_epilogue_notes (rtx f ATTRIBUTE_UNUSED)
         reorg has run.  */
       for (insn = f; insn; insn = NEXT_INSN (insn))
        {
-         if (GET_CODE (insn) == NOTE)
+         if (NOTE_P (insn))
            {
              if (NOTE_LINE_NUMBER (insn) == NOTE_INSN_PROLOGUE_END)
                note = insn;
            }
-         else if (contains (insn, prologue))
+         else if (contains (insn, &prologue))
            {
              last = insn;
              if (--len == 0)
@@ -5263,19 +5387,19 @@ reposition_prologue_and_epilogue_notes (rtx f ATTRIBUTE_UNUSED)
          if (note == 0)
            {
              for (note = last; (note = NEXT_INSN (note));)
-               if (GET_CODE (note) == NOTE
+               if (NOTE_P (note)
                    && NOTE_LINE_NUMBER (note) == NOTE_INSN_PROLOGUE_END)
                  break;
            }
 
          /* Avoid placing note between CODE_LABEL and BASIC_BLOCK note.  */
-         if (GET_CODE (last) == CODE_LABEL)
+         if (LABEL_P (last))
            last = NEXT_INSN (last);
          reorder_insns (note, note, last);
        }
     }
 
-  if ((len = VARRAY_SIZE (epilogue)) > 0)
+  if ((len = VEC_length (int, epilogue)) > 0)
     {
       last = 0, note = 0;
 
@@ -5284,12 +5408,12 @@ reposition_prologue_and_epilogue_notes (rtx f ATTRIBUTE_UNUSED)
         reorg has run.  */
       for (insn = get_last_insn (); insn; insn = PREV_INSN (insn))
        {
-         if (GET_CODE (insn) == NOTE)
+         if (NOTE_P (insn))
            {
              if (NOTE_LINE_NUMBER (insn) == NOTE_INSN_EPILOGUE_BEG)
                note = insn;
            }
-         else if (contains (insn, epilogue))
+         else if (contains (insn, &epilogue))
            {
              last = insn;
              if (--len == 0)
@@ -5304,7 +5428,7 @@ reposition_prologue_and_epilogue_notes (rtx f ATTRIBUTE_UNUSED)
          if (note == 0)
            {
              for (note = insn; (note = PREV_INSN (note));)
-               if (GET_CODE (note) == NOTE
+               if (NOTE_P (note)
                    && NOTE_LINE_NUMBER (note) == NOTE_INSN_EPILOGUE_BEG)
                  break;
            }
@@ -5316,16 +5440,6 @@ reposition_prologue_and_epilogue_notes (rtx f ATTRIBUTE_UNUSED)
 #endif /* HAVE_prologue or HAVE_epilogue */
 }
 
-/* Called once, at initialization, to initialize function.c.  */
-
-void
-init_function_once (void)
-{
-  VARRAY_INT_INIT (prologue, 0, "prologue");
-  VARRAY_INT_INIT (epilogue, 0, "epilogue");
-  VARRAY_INT_INIT (sibcall_epilogue, 0, "sibcall_epilogue");
-}
-
 /* Resets insn_block_boundaries array.  */
 
 void