OSDN Git Service

(__va_copy): New definition.
[pf3gnuchains/gcc-fork.git] / gcc / stmt.c
index 928e6cb..a3f42d5 100644 (file)
@@ -1,5 +1,5 @@
 /* Expands front end tree to back end RTL for GNU C-Compiler
-   Copyright (C) 1987, 1988, 1989, 1992, 1993 Free Software Foundation, Inc.
+   Copyright (C) 1987, 88, 89, 92-5, 1996 Free Software Foundation, Inc.
 
 This file is part of GNU CC.
 
@@ -15,7 +15,8 @@ GNU General Public License for more details.
 
 You should have received a copy of the GNU General Public License
 along with GNU CC; see the file COPYING.  If not, write to
-the Free Software Foundation, 675 Mass Ave, Cambridge, MA 02139, USA.  */
+the Free Software Foundation, 59 Temple Place - Suite 330,
+Boston, MA 02111-1307, USA.  */
 
 
 /* This file handles the generation of rtl code from tree structure
@@ -40,6 +41,7 @@ the Free Software Foundation, 675 Mass Ave, Cambridge, MA 02139, USA.  */
 #include "rtl.h"
 #include "tree.h"
 #include "flags.h"
+#include "except.h"
 #include "function.h"
 #include "insn-flags.h"
 #include "insn-config.h"
@@ -105,10 +107,6 @@ extern rtx cleanup_label;
 
 extern rtx return_label;
 
-/* List (chain of EXPR_LISTs) of pseudo-regs of SAVE_EXPRs.
-   So we can mark them all live at the end of the function, if nonopt.  */
-extern rtx save_expr_regs;
-
 /* Offset to end of allocated area of stack frame.
    If stack grows down, this is the address of the last stack slot allocated.
    If stack grows up, this is the address for the next slot.  */
@@ -144,8 +142,9 @@ static tree empty_cleanup_list;
    statements.  We handle "range" labels; for a single-value label
    as in C, the high and low limits are the same.
 
-   A chain of case nodes is initially maintained via the RIGHT fields
-   in the nodes.  Nodes with higher case values are later in the list.
+   An AVL tree of case nodes is initially created, and later transformed
+   to a list linked via the RIGHT fields in the nodes.  Nodes with
+   higher case values are later in the list.
 
    Switch statements can be output in one of two forms.  A branch table
    is used if there are more than a few labels and the labels are dense
@@ -169,6 +168,7 @@ struct case_node
   tree                 low;    /* Lowest index value for this label */
   tree                 high;   /* Highest index value for this label */
   tree                 code_label; /* Label to jump to when node matches */
+  int                  balance;
 };
 
 typedef struct case_node case_node;
@@ -179,37 +179,6 @@ typedef struct case_node *case_node_ptr;
 /* This must be a signed type, and non-ANSI compilers lack signed char.  */
 static short *cost_table;
 static int use_cost_table;
-
-static int estimate_case_costs ();
-static void balance_case_nodes ();
-static void emit_case_nodes ();
-static void group_case_nodes ();
-static void emit_jump_if_reachable ();
-
-static int warn_if_unused_value ();
-static void expand_goto_internal ();
-static void bc_expand_goto_internal ();
-static int expand_fixup ();
-static void bc_expand_fixup ();
-void fixup_gotos ();
-static void bc_fixup_gotos ();
-void free_temp_slots ();
-static void expand_cleanups ();
-static void expand_null_return_1 ();
-static int tail_recursion_args ();
-static void do_jump_if_equal ();
-int bc_expand_exit_loop_if_false ();
-void bc_expand_start_cond ();
-void bc_expand_end_cond ();
-void bc_expand_start_else ();
-void bc_expand_end_bindings ();
-void bc_expand_start_case ();
-void bc_check_for_full_enumeration_handling ();
-void bc_expand_end_case ();
-void bc_expand_decl ();
-
-extern rtx bc_allocate_local ();
-extern rtx bc_allocate_variable_array ();
 \f
 /* Stack of control and binding constructs we are currently inside.
 
@@ -252,7 +221,7 @@ struct nesting
             and no `else' has been seen yet.  */
          rtx endif_label;
          /* Label for the end of this alternative.
-            This may be the end of the if or the next else/elseif. */
+            This may be the end of the if or the next else/elseif.  */
          rtx next_label;
        } cond;
       /* For loops.  */
@@ -262,6 +231,9 @@ struct nesting
          rtx start_label;
          /* Label at the end of the whole construct.  */
          rtx end_label;
+         /* Label before a jump that branches to the end of the whole
+            construct.  This is where destructors go if any.  */
+         rtx alt_end_label;
          /* Label for `continue' statement to jump to;
             this is in front of the stepper of the loop.  */
          rtx continue_label;
@@ -273,7 +245,7 @@ struct nesting
             in order of entry.  */
          int block_start_count;
          /* Nonzero => value to restore stack to on exit.  Complemented by
-            bc_stack_level (see below) when generating bytecodes. */
+            bc_stack_level (see below) when generating bytecodes.  */
          rtx stack_level;
          /* The NOTE that starts this contour.
             Used by expand_goto to check whether the destination
@@ -312,12 +284,11 @@ struct nesting
          rtx start;
          /* For bytecodes, the case table is in-lined right in the code.
             A label is needed for skipping over this block. It is only
-            used when generating bytecodes. */
+            used when generating bytecodes.  */
          rtx skip_label;
-         /* A list of case labels, kept in ascending order by value
-            as the list is built.
-            During expand_end_case, this list may be rearranged into a
-            nearly balanced binary tree.  */
+         /* A list of case labels; it is first built as an AVL tree.
+            During expand_end_case, this is converted to a list, and may be
+            rearranged into a nearly balanced binary tree.  */
          struct case_node *case_list;
          /* Label to jump to if no case matches.  */
          tree default_label;
@@ -332,29 +303,6 @@ struct nesting
          /* Nonzero if a case label has been seen in this case stmt.  */
          char seenlabel;
        } case_stmt;
-      /* For exception contours.  */
-      struct
-       {
-         /* List of exceptions raised.  This is a TREE_LIST
-            of whatever you want.  */
-         tree raised;
-         /* List of exceptions caught.  This is also a TREE_LIST
-            of whatever you want.  As a special case, it has the
-            value `void_type_node' if it handles default exceptions.  */
-         tree handled;
-
-         /* First insn of TRY block, in case resumptive model is needed.  */
-         rtx first_insn;
-         /* Label for the catch clauses.  */
-         rtx except_label;
-         /* Label for unhandled exceptions.  */
-         rtx unhandled_label;
-         /* Label at the end of whole construct.  */
-         rtx after_label;
-         /* Label which "escapes" the exception construct.
-            Like EXIT_LABEL for BREAK construct, but for exceptions.  */
-         rtx escape_label;
-       } except_stmt;
     } data;
 };
 
@@ -376,9 +324,6 @@ struct nesting *loop_stack;
 /* Chain of all pending case or switch statements.  */
 struct nesting *case_stack;
 
-/* Chain of all pending exception contours.  */
-struct nesting *except_stack;
-
 /* Separate chain including all of the above,
    chained through the `all' field.  */
 struct nesting *nesting_stack;
@@ -410,8 +355,6 @@ do { struct nesting *target = STACK;                        \
            stack_block_stack = stack_block_stack->next; \
          if (case_stack == this)                       \
            case_stack = case_stack->next;              \
-         if (except_stack == this)                     \
-           except_stack = except_stack->next;          \
          nesting_depth = nesting_stack->depth - 1;     \
          nesting_stack = this->all;                    \
          obstack_free (&stmt_obstack, this); }         \
@@ -482,14 +425,54 @@ struct label_chain
   struct label_chain *next;
   tree label;
 };
+static void expand_goto_internal       PROTO((tree, rtx, rtx));
+static void bc_expand_goto_internal    PROTO((enum bytecode_opcode,
+                                              struct bc_label *, tree));
+static int expand_fixup                        PROTO((tree, rtx, rtx));
+static void bc_expand_fixup            PROTO((enum bytecode_opcode,
+                                              struct bc_label *, int));
+static void fixup_gotos                        PROTO((struct nesting *, rtx, tree,
+                                              rtx, int));
+static void bc_fixup_gotos             PROTO((struct nesting *, int, tree,
+                                              rtx, int));
+static void bc_expand_start_cond       PROTO((tree, int));
+static void bc_expand_end_cond         PROTO((void));
+static void bc_expand_start_else       PROTO((void));
+static void bc_expand_end_loop         PROTO((void));
+static void bc_expand_end_bindings     PROTO((tree, int, int));
+static void bc_expand_decl             PROTO((tree, tree));
+static void bc_expand_variable_local_init PROTO((tree));
+static void bc_expand_decl_init                PROTO((tree));
+static void expand_null_return_1       PROTO((rtx, int));
+static void expand_value_return                PROTO((rtx));
+static int tail_recursion_args         PROTO((tree, tree));
+static void expand_cleanups            PROTO((tree, tree, int, int));
+static void bc_expand_start_case       PROTO((struct nesting *, tree,
+                                              tree, char *));
+static int bc_pushcase                 PROTO((tree, tree));
+static void bc_check_for_full_enumeration_handling PROTO((tree));
+static void bc_expand_end_case         PROTO((tree));
+static void do_jump_if_equal           PROTO((rtx, rtx, rtx, int));
+static int estimate_case_costs         PROTO((case_node_ptr));
+static void group_case_nodes           PROTO((case_node_ptr));
+static void balance_case_nodes         PROTO((case_node_ptr *,
+                                              case_node_ptr));
+static int node_has_low_bound          PROTO((case_node_ptr, tree));
+static int node_has_high_bound         PROTO((case_node_ptr, tree));
+static int node_is_bounded             PROTO((case_node_ptr, tree));
+static void emit_jump_if_reachable     PROTO((rtx));
+static void emit_case_nodes            PROTO((rtx, case_node_ptr, rtx, tree));
+static int add_case_node               PROTO((tree, tree, tree, tree *));
+static struct case_node *case_tree2list        PROTO((case_node *, case_node *));
+
+extern rtx bc_allocate_local ();
+extern rtx bc_allocate_variable_array ();
 \f
 void
 init_stmt ()
 {
   gcc_obstack_init (&stmt_obstack);
-#if 0
-  empty_cleanup_list = build_tree_list (NULL_TREE, NULL_TREE);
-#endif
+  init_eh ();
 }
 
 void
@@ -497,6 +480,7 @@ init_stmt_for_function ()
 {
   /* We are not currently within any block, conditional, loop or case.  */
   block_stack = 0;
+  stack_block_stack = 0;
   loop_stack = 0;
   case_stack = 0;
   cond_stack = 0;
@@ -511,6 +495,8 @@ init_stmt_for_function ()
   /* We are not processing a ({...}) grouping.  */
   expr_stmts_for_value = 0;
   last_expr_type = 0;
+
+  init_eh_for_function ();
 }
 
 void
@@ -531,6 +517,7 @@ save_stmt_status (p)
   p->emit_filename = emit_filename;
   p->emit_lineno = emit_lineno;
   p->goto_fixup_chain = goto_fixup_chain;
+  save_eh_status (p);
 }
 
 void
@@ -551,6 +538,7 @@ restore_stmt_status (p)
   emit_filename = p->emit_filename;
   emit_lineno = p->emit_lineno;
   goto_fixup_chain = p->goto_fixup_chain;
+  restore_eh_status (p);
 }
 \f
 /* Emit a no-op instruction.  */
@@ -565,7 +553,8 @@ emit_nop ()
       last_insn = get_last_insn ();
       if (!optimize
          && (GET_CODE (last_insn) == CODE_LABEL
-             || prev_real_insn (last_insn) == 0))
+             || (GET_CODE (last_insn) == NOTE
+                 && prev_real_insn (last_insn) == 0)))
        emit_insn (gen_nop ());
     }
 }
@@ -612,7 +601,13 @@ expand_computed_goto (exp)
   else
     {
       rtx x = expand_expr (exp, NULL_RTX, VOIDmode, 0);
+
+#ifdef POINTERS_EXTEND_UNSIGNED
+      x = convert_memory_address (Pmode, x);
+#endif
+
       emit_queue ();
+      do_pending_stack_adjust ();
       emit_indirect_jump (x);
     }
 }
@@ -779,7 +774,7 @@ expand_goto_internal (body, label, last_insn)
   /* NOTICE!  If a bytecode instruction other than `jump' is needed,
      then the caller has to call bc_expand_goto_internal()
      directly. This is rather an exceptional case, and there aren't
-     that many places where this is necessary. */
+     that many places where this is necessary.  */
   if (output_bytecode)
     {
       expand_goto_internal (body, label, last_insn);
@@ -807,15 +802,16 @@ expand_goto_internal (body, label, last_insn)
          /* Execute the cleanups for blocks we are exiting.  */
          if (block->data.block.cleanups != 0)
            {
-             expand_cleanups (block->data.block.cleanups, NULL_TREE);
+             expand_cleanups (block->data.block.cleanups, NULL_TREE, 1, 1);
              do_pending_stack_adjust ();
            }
        }
 
       if (stack_level)
        {
-         /* Ensure stack adjust isn't done by emit_jump, as this would clobber
-            the stack pointer.  This one should be deleted as dead by flow. */
+         /* Ensure stack adjust isn't done by emit_jump, as this
+            would clobber the stack pointer.  This one should be
+            deleted as dead by flow.  */
          clear_pending_stack_adjust ();
          do_pending_stack_adjust ();
          emit_stack_restore (SAVE_BLOCK, stack_level, NULL_RTX);
@@ -839,7 +835,8 @@ expand_goto_internal (body, label, last_insn)
 }
 \f
 /* Generate a jump with OPCODE to the given bytecode LABEL which is
-   found within BODY. */
+   found within BODY.  */
+
 static void
 bc_expand_goto_internal (opcode, label, body)
      enum bytecode_opcode opcode;
@@ -851,7 +848,7 @@ bc_expand_goto_internal (opcode, label, body)
 
   /* If the label is defined, adjust the stack as necessary.
      If it's not defined, we have to push the reference on the
-     fixup list. */
+     fixup list.  */
 
   if (label->defined)
     {
@@ -870,7 +867,7 @@ bc_expand_goto_internal (opcode, label, body)
          /* Execute the cleanups for blocks we are exiting.  */
          if (block->data.block.cleanups != 0)
            {
-             expand_cleanups (block->data.block.cleanups, NULL_TREE);
+             expand_cleanups (block->data.block.cleanups, NULL_TREE, 1, 1);
              do_pending_stack_adjust ();
            }
        }
@@ -879,7 +876,7 @@ bc_expand_goto_internal (opcode, label, body)
         must do so after the jump, since the jump may depend on
         what's on the stack.  Thus, any stack-modifying conditional
         jumps (these are the only ones that rely on what's on the
-        stack) go into the fixup list. */
+        stack) go into the fixup list.  */
 
       if (stack_level >= 0
          && stack_depth != stack_level
@@ -1069,7 +1066,16 @@ bc_expand_fixup (opcode, label, stack_level)
   fputc ('\n', stderr);
 #endif
 }
+\f
+/* Expand any needed fixups in the outputmost binding level of the
+   function.  FIRST_INSN is the first insn in the function.  */
 
+void
+expand_fixups (first_insn)
+     rtx first_insn;
+{
+  fixup_gotos (NULL_PTR, NULL_RTX, NULL_TREE, first_insn, 0);
+}
 
 /* When exiting a binding contour, process all pending gotos requiring fixups.
    THISBLOCK is the structure that describes the block being exited.
@@ -1084,7 +1090,7 @@ bc_expand_fixup (opcode, label, stack_level)
    contour from before the beginning of the contour.
    This is also done if STACK_LEVEL is nonzero.  */
 
-void
+static void
 fixup_gotos (thisblock, stack_level, cleanup_list, first_insn, dont_jump_in)
      struct nesting *thisblock;
      rtx stack_level;
@@ -1096,7 +1102,10 @@ fixup_gotos (thisblock, stack_level, cleanup_list, first_insn, dont_jump_in)
 
   if (output_bytecode)
     {
-      bc_fixup_gotos (thisblock, stack_level, cleanup_list, first_insn, dont_jump_in);
+      /* ??? The second arg is the bc stack level, which is not the same
+        as STACK_LEVEL.  I have no idea what should go here, so I'll
+        just pass 0.  */
+      bc_fixup_gotos (thisblock, 0, cleanup_list, first_insn, dont_jump_in);
       return;
     }
 
@@ -1140,12 +1149,12 @@ fixup_gotos (thisblock, stack_level, cleanup_list, first_insn, dont_jump_in)
              && (after_label == 0
                  || INSN_UID (first_insn) < INSN_UID (after_label))
              && INSN_UID (first_insn) > INSN_UID (f->before_jump)
-             && ! DECL_REGISTER (f->target))
+             && ! DECL_ERROR_ISSUED (f->target))
            {
              error_with_decl (f->target,
                               "label `%s' used before containing binding contour");
              /* Prevent multiple errors for one label.  */
-             DECL_REGISTER (f->target) = 1;
+             DECL_ERROR_ISSUED (f->target) = 1;
            }
 
          /* We will expand the cleanups into a sequence of their own and
@@ -1171,7 +1180,7 @@ fixup_gotos (thisblock, stack_level, cleanup_list, first_insn, dont_jump_in)
                if (TREE_ADDRESSABLE (lists)
                    && TREE_VALUE (lists) != 0)
                  {
-                   expand_cleanups (TREE_VALUE (lists), 0);
+                   expand_cleanups (TREE_VALUE (lists), NULL_TREE, 1, 1);
                    /* Pop any pushes done in the cleanups,
                       in case function is about to return.  */
                    do_pending_stack_adjust ();
@@ -1203,30 +1212,44 @@ fixup_gotos (thisblock, stack_level, cleanup_list, first_insn, dont_jump_in)
        }
     }
 
-  /* Mark the cleanups of exited blocks so that they are executed
-     by the code above.  */
+  /* For any still-undefined labels, do the cleanups for this block now.
+     We must do this now since items in the cleanup list may go out
+     of scope when the block ends.  */
   for (prev = 0, f = goto_fixup_chain; f; prev = f, f = f->next)
     if (f->before_jump != 0
        && PREV_INSN (f->target_rtl) == 0
        /* Label has still not appeared.  If we are exiting a block with
           a stack level to restore, that started before the fixup,
           mark this stack level as needing restoration
-          when the fixup is later finalized.
-          Also mark the cleanup_list_list element for F
-          that corresponds to this block, so that ultimately
-          this block's cleanups will be executed by the code above.  */
+          when the fixup is later finalized.   */
        && thisblock != 0
-       /* Note: if THISBLOCK == 0 and we have a label that hasn't appeared,
-          it means the label is undefined.  That's erroneous, but possible.  */
+       /* Note: if THISBLOCK == 0 and we have a label that hasn't appeared, it
+          means the label is undefined.  That's erroneous, but possible.  */
        && (thisblock->data.block.block_start_count
            <= f->block_start_count))
       {
        tree lists = f->cleanup_list_list;
+       rtx cleanup_insns;
+
        for (; lists; lists = TREE_CHAIN (lists))
          /* If the following elt. corresponds to our containing block
             then the elt. must be for this block.  */
          if (TREE_CHAIN (lists) == thisblock->data.block.outer_cleanups)
-           TREE_ADDRESSABLE (lists) = 1;
+           {
+             start_sequence ();
+             pushlevel (0);
+             set_block (f->context);
+             expand_cleanups (TREE_VALUE (lists), NULL_TREE, 1, 1);
+             do_pending_stack_adjust ();
+             cleanup_insns = get_insns ();
+             poplevel (1, 0, 0);
+             end_sequence ();
+             if (cleanup_insns != 0)
+               f->before_jump
+                 = emit_insns_after (cleanup_insns, f->before_jump);
+
+             f->cleanup_list_list = TREE_CHAIN (lists);
+           }
 
        if (stack_level)
          f->stack_level = stack_level;
@@ -1237,8 +1260,8 @@ fixup_gotos (thisblock, stack_level, cleanup_list, first_insn, dont_jump_in)
 /* When exiting a binding contour, process all pending gotos requiring fixups.
    Note: STACK_DEPTH is not altered.
 
-   The arguments are currently not used in the bytecode compiler, but we may need
-   them one day for languages other than C.
+   The arguments are currently not used in the bytecode compiler, but we may
+   need them one day for languages other than C.
 
    THISBLOCK is the structure that describes the block being exited.
    STACK_LEVEL is the rtx for the stack level to restore exiting this contour.
@@ -1279,7 +1302,7 @@ bc_fixup_gotos (thisblock, stack_level, cleanup_list, first_insn, dont_jump_in)
       bc_emit_bytecode_labeldef (f->label);
 
       /* Save stack_depth across call, since bc_adjust_stack () will alter
-         the perceived stack depth via the instructions generated. */
+         the perceived stack depth via the instructions generated.  */
 
       if (f->bc_stack_level >= 0)
        {
@@ -1309,7 +1332,7 @@ expand_asm (body)
 {
   if (output_bytecode)
     {
-      error ("`asm' is illegal when generating bytecode");
+      error ("`asm' is invalid when generating bytecode");
       return;
     }
 
@@ -1347,17 +1370,21 @@ expand_asm_operands (string, outputs, inputs, clobbers, vol, filename, line)
   rtx body;
   int ninputs = list_length (inputs);
   int noutputs = list_length (outputs);
+  int ninout = 0;
   int nclobbers;
   tree tail;
   register int i;
   /* Vector of RTX's of evaluated output operands.  */
   rtx *output_rtx = (rtx *) alloca (noutputs * sizeof (rtx));
+  int *inout_opnum = (int *) alloca (noutputs * sizeof (int));
+  enum machine_mode *inout_mode
+    = (enum machine_mode *) alloca (noutputs * sizeof (enum machine_mode));
   /* The insn we have emitted.  */
   rtx insn;
 
   if (output_bytecode)
     {
-      error ("`asm' is illegal when generating bytecode");
+      error ("`asm' is invalid when generating bytecode");
       return;
     }
 
@@ -1370,6 +1397,8 @@ expand_asm_operands (string, outputs, inputs, clobbers, vol, filename, line)
       i = decode_reg_name (regname);
       if (i >= 0 || i == -4)
        ++nclobbers;
+      else if (i == -2)
+       error ("unknown register name `%s' in `asm'", regname);
     }
 
   last_expr_type = 0;
@@ -1377,60 +1406,105 @@ expand_asm_operands (string, outputs, inputs, clobbers, vol, filename, line)
   for (i = 0, tail = outputs; tail; tail = TREE_CHAIN (tail), i++)
     {
       tree val = TREE_VALUE (tail);
+      tree type = TREE_TYPE (val);
       tree val1;
       int j;
-      int found_equal;
+      int found_equal = 0;
+      int found_plus = 0;
+      int allows_reg = 0;
 
       /* If there's an erroneous arg, emit no insn.  */
       if (TREE_TYPE (val) == error_mark_node)
        return;
 
-      /* Make sure constraint has `=' and does not have `+'.  */
+      /* Make sure constraint has `=' and does not have `+'.  Also, see
+        if it allows any register.  Be liberal on the latter test, since
+        the worst that happens if we get it wrong is we issue an error
+        message.  */
 
-      found_equal = 0;
-      for (j = 0; j < TREE_STRING_LENGTH (TREE_PURPOSE (tail)); j++)
-       {
-         if (TREE_STRING_POINTER (TREE_PURPOSE (tail))[j] == '+')
-           {
-             error ("output operand constraint contains `+'");
-             return;
-           }
-         if (TREE_STRING_POINTER (TREE_PURPOSE (tail))[j] == '=')
+      for (j = 0; j < TREE_STRING_LENGTH (TREE_PURPOSE (tail)) - 1; j++)
+       switch (TREE_STRING_POINTER (TREE_PURPOSE (tail))[j])
+         {
+         case '+':
+           /* Make sure we can specify the matching operand.  */
+           if (i > 9)
+             {
+               error ("output operand constraint %d contains `+'", i);
+               return;
+             }
+
+           /* Replace '+' with '='.  */
+           TREE_STRING_POINTER (TREE_PURPOSE (tail))[j] = '=';
+           found_plus = 1;
+           break;
+
+         case '=':
            found_equal = 1;
-       }
-      if (! found_equal)
+           break;
+
+         case '?':  case '!':  case '*':  case '%':  case '&':
+         case 'V':  case 'm':  case 'o':  case '<':  case '>':
+         case 'E':  case 'F':  case 'G':  case 'H':  case 'X':
+         case 's':  case 'i':  case 'n':
+         case 'I':  case 'J':  case 'K':  case 'L':  case 'M':
+         case 'N':  case 'O':  case 'P':  case ',':
+#ifdef EXTRA_CONSTRAINT
+         case 'Q':  case 'R':  case 'S':  case 'T':  case 'U':
+#endif
+           break;
+
+         case '0':  case '1':  case '2':  case '3':  case '4':
+         case '5':  case '6':  case '7':  case '8':  case '9':
+           error ("matching constraint not valid in output operand");
+           break;
+
+         case 'p':  case 'g':  case 'r':
+         default:
+           allows_reg = 1;
+           break;
+         }
+
+      if (! found_equal && ! found_plus)
        {
          error ("output operand constraint lacks `='");
          return;
        }
 
-      /* If an output operand is not a variable or indirect ref,
-        or a part of one,
-        create a SAVE_EXPR which is a pseudo-reg
-        to act as an intermediate temporary.
-        Make the asm insn write into that, then copy it to
-        the real output operand.  */
+      /* If an output operand is not a decl or indirect ref and our constraint
+        allows a register, make a temporary to act as an intermediate.
+        Make the asm insn write into that, then our caller will copy it to
+        the real output operand.  Likewise for promoted variables.  */
+
+      if (TREE_CODE (val) == INDIRECT_REF
+         || (TREE_CODE_CLASS (TREE_CODE (val)) == 'd'
+             && ! (GET_CODE (DECL_RTL (val)) == REG
+                   && GET_MODE (DECL_RTL (val)) != TYPE_MODE (type)))
+         || ! allows_reg
+         || found_plus)
+       {
+         if (! allows_reg)
+           mark_addressable (TREE_VALUE (tail));
 
-      while (TREE_CODE (val) == COMPONENT_REF
-            || TREE_CODE (val) == ARRAY_REF)
-       val = TREE_OPERAND (val, 0);
+         output_rtx[i]
+           = expand_expr (TREE_VALUE (tail), NULL_RTX, VOIDmode, 0);
 
-      if (TREE_CODE (val) != VAR_DECL
-         && TREE_CODE (val) != PARM_DECL
-         && TREE_CODE (val) != INDIRECT_REF)
+         if (! allows_reg && GET_CODE (output_rtx[i]) != MEM)
+           error ("output number %d not directly addressable", i);
+       }
+      else
        {
-         TREE_VALUE (tail) = save_expr (TREE_VALUE (tail));
-         /* If it's a constant, print error now so don't crash later.  */
-         if (TREE_CODE (TREE_VALUE (tail)) != SAVE_EXPR)
-           {
-             error ("invalid output in `asm'");
-             return;
-           }
+         output_rtx[i] = assign_temp (type, 0, 0, 0);
+         TREE_VALUE (tail) = make_tree (type, output_rtx[i]);
        }
 
-      output_rtx[i] = expand_expr (TREE_VALUE (tail), NULL_RTX, VOIDmode, 0);
+      if (found_plus)
+       {
+         inout_mode[ninout] = TYPE_MODE (TREE_TYPE (TREE_VALUE (tail)));
+         inout_opnum[ninout++] = i;
+       }
     }
 
+  ninputs += ninout;
   if (ninputs + noutputs > MAX_RECOG_OPERANDS)
     {
       error ("more than %d operands in `asm'", MAX_RECOG_OPERANDS);
@@ -1454,6 +1528,7 @@ expand_asm_operands (string, outputs, inputs, clobbers, vol, filename, line)
   for (tail = inputs; tail; tail = TREE_CHAIN (tail))
     {
       int j;
+      int allows_reg = 0;
 
       /* If there's an erroneous arg, emit no insn,
         because the ASM_INPUT would get VOIDmode
@@ -1469,17 +1544,75 @@ expand_asm_operands (string, outputs, inputs, clobbers, vol, filename, line)
 
       /* Make sure constraint has neither `=' nor `+'.  */
 
-      for (j = 0; j < TREE_STRING_LENGTH (TREE_PURPOSE (tail)); j++)
-       if (TREE_STRING_POINTER (TREE_PURPOSE (tail))[j] == '='
-           || TREE_STRING_POINTER (TREE_PURPOSE (tail))[j] == '+')
+      for (j = 0; j < TREE_STRING_LENGTH (TREE_PURPOSE (tail)) - 1; j++)
+       switch (TREE_STRING_POINTER (TREE_PURPOSE (tail))[j])
          {
+         case '+':   case '=':
            error ("input operand constraint contains `%c'",
                   TREE_STRING_POINTER (TREE_PURPOSE (tail))[j]);
            return;
+
+         case '?':  case '!':  case '*':  case '%':  case '&':
+         case 'V':  case 'm':  case 'o':  case '<':  case '>':
+         case 'E':  case 'F':  case 'G':  case 'H':  case 'X':
+         case 's':  case 'i':  case 'n':
+         case 'I':  case 'J':  case 'K':  case 'L':  case 'M':
+         case 'N':  case 'O':  case 'P':  case ',':
+#ifdef EXTRA_CONSTRAINT
+         case 'Q':  case 'R':  case 'S':  case 'T':  case 'U':
+#endif
+           break;
+
+           /* Whether or not a numeric constraint allows a register is
+              decided by the matching constraint, and so there is no need
+              to do anything special with them.  We must handle them in
+              the default case, so that we don't unnecessarily force
+              operands to memory.  */
+         case '0':  case '1':  case '2':  case '3':  case '4':
+         case '5':  case '6':  case '7':  case '8':  case '9':
+           if (TREE_STRING_POINTER (TREE_PURPOSE (tail))[j]
+               >= '0' + noutputs)
+             error ("matching constraint references invalid operand number");
+
+           /* ... fall through ... */
+
+         case 'p':  case 'g':  case 'r':
+         default:
+           allows_reg = 1;
+           break;
          }
 
+      if (! allows_reg)
+       mark_addressable (TREE_VALUE (tail));
+
       XVECEXP (body, 3, i)      /* argvec */
        = expand_expr (TREE_VALUE (tail), NULL_RTX, VOIDmode, 0);
+      if (CONSTANT_P (XVECEXP (body, 3, i))
+         && ! general_operand (XVECEXP (body, 3, i),
+                               TYPE_MODE (TREE_TYPE (TREE_VALUE (tail)))))
+       {
+         if (allows_reg)
+           XVECEXP (body, 3, i)
+             = force_reg (TYPE_MODE (TREE_TYPE (TREE_VALUE (tail))),
+                          XVECEXP (body, 3, i));
+         else
+           XVECEXP (body, 3, i)
+             = force_const_mem (TYPE_MODE (TREE_TYPE (TREE_VALUE (tail))),
+                                XVECEXP (body, 3, i));
+       }
+
+      if (! allows_reg
+         && (GET_CODE (XVECEXP (body, 3, i)) == REG
+             || GET_CODE (XVECEXP (body, 3, i)) == SUBREG
+             || GET_CODE (XVECEXP (body, 3, i)) == CONCAT))
+       {
+         tree type = TREE_TYPE (TREE_VALUE (tail));
+         rtx memloc = assign_temp (type, 1, 1, 1);
+
+         emit_move_insn (memloc, XVECEXP (body, 3, i));
+         XVECEXP (body, 3, i) = memloc;
+       }
+         
       XVECEXP (body, 4, i)      /* constraints */
        = gen_rtx (ASM_INPUT, TYPE_MODE (TREE_TYPE (TREE_VALUE (tail))),
                   TREE_STRING_POINTER (TREE_PURPOSE (tail)));
@@ -1489,12 +1622,25 @@ expand_asm_operands (string, outputs, inputs, clobbers, vol, filename, line)
   /* Protect all the operands from the queue,
      now that they have all been evaluated.  */
 
-  for (i = 0; i < ninputs; i++)
+  for (i = 0; i < ninputs - ninout; i++)
     XVECEXP (body, 3, i) = protect_from_queue (XVECEXP (body, 3, i), 0);
 
   for (i = 0; i < noutputs; i++)
     output_rtx[i] = protect_from_queue (output_rtx[i], 1);
 
+  /* For in-out operands, copy output rtx to input rtx. */
+  for (i = 0; i < ninout; i++)
+    {
+      static char match[9+1][2]
+       = {"0", "1", "2", "3", "4", "5", "6", "7", "8", "9"};
+      int j = inout_opnum[i];
+
+      XVECEXP (body, 3, ninputs - ninout + i)      /* argvec */
+       = output_rtx[j];
+      XVECEXP (body, 4, ninputs - ninout + i)      /* constraints */
+       = gen_rtx (ASM_INPUT, inout_mode[j], match[j]);
+    }
+
   /* Now, for each output, construct an rtx
      (set OUTPUT (asm_operands INSN OUTPUTNUMBER OUTPUTCONSTRAINT
                               ARGVEC CONSTRAINTS))
@@ -1554,13 +1700,13 @@ expand_asm_operands (string, outputs, inputs, clobbers, vol, filename, line)
                {
                  XVECEXP (body, 0, i++)
                    = gen_rtx (CLOBBER, VOIDmode,
-                              gen_rtx (MEM, QImode,
+                              gen_rtx (MEM, BLKmode,
                                        gen_rtx (SCRATCH, VOIDmode, 0)));
                  continue;
                }
 
-             error ("unknown register name `%s' in `asm'", regname);
-             return;
+             /* Ignore unknown register, error already signalled.  */
+             continue;
            }
 
          /* Use QImode since that's guaranteed to clobber just one reg.  */
@@ -1610,6 +1756,12 @@ expand_expr_stmt (exp)
       else if (warn_unused)
        warn_if_unused_value (exp);
     }
+
+  /* If EXP is of function type and we are expanding statements for
+     value, convert it to pointer-to-function.  */
+  if (expr_stmts_for_value && TREE_CODE (TREE_TYPE (exp)) == FUNCTION_TYPE)
+    exp = build1 (ADDR_EXPR, build_pointer_type (TREE_TYPE (exp)), exp);
+
   last_expr_type = TREE_TYPE (exp);
   if (! flag_syntax_only)
     last_expr_value = expand_expr (exp,
@@ -1656,7 +1808,7 @@ expand_expr_stmt (exp)
 /* Warn if EXP contains any computations whose results are not used.
    Return 1 if a warning is printed; 0 otherwise.  */
 
-static int
+int
 warn_if_unused_value (exp)
      tree exp;
 {
@@ -1686,12 +1838,17 @@ warn_if_unused_value (exp)
       /* For a binding, warn if no side effect within it.  */
       return warn_if_unused_value (TREE_OPERAND (exp, 1));
 
+    case SAVE_EXPR:
+      return warn_if_unused_value (TREE_OPERAND (exp, 1));
+
     case TRUTH_ORIF_EXPR:
     case TRUTH_ANDIF_EXPR:
       /* In && or ||, warn if 2nd operand has no side effect.  */
       return warn_if_unused_value (TREE_OPERAND (exp, 1));
 
     case COMPOUND_EXPR:
+      if (TREE_NO_UNUSED_WARNING (exp))
+       return 0;
       if (warn_if_unused_value (TREE_OPERAND (exp, 0)))
        return 1;
       /* Let people do `(foo (), 0)' without a warning.  */
@@ -1709,22 +1866,35 @@ warn_if_unused_value (exp)
       if (TREE_NO_UNUSED_WARNING (exp))
        return 0;
       /* Assignment to a cast usually results in a cast of a modify.
-        Don't complain about that.  */
-      if (TREE_CODE (TREE_OPERAND (exp, 0)) == MODIFY_EXPR)
-       return 0;
-      /* Sometimes it results in a cast of a cast of a modify.
-        Don't complain about that.  */
-      if ((TREE_CODE (TREE_OPERAND (exp, 0)) == CONVERT_EXPR
-          || TREE_CODE (TREE_OPERAND (exp, 0)) == NOP_EXPR)
-         && TREE_CODE (TREE_OPERAND (TREE_OPERAND (exp, 0), 0)) == MODIFY_EXPR)
-       return 0;
+        Don't complain about that.  There can be an arbitrary number of
+        casts before the modify, so we must loop until we find the first
+        non-cast expression and then test to see if that is a modify.  */
+      {
+       tree tem = TREE_OPERAND (exp, 0);
 
+       while (TREE_CODE (tem) == CONVERT_EXPR || TREE_CODE (tem) == NOP_EXPR)
+         tem = TREE_OPERAND (tem, 0);
+
+       if (TREE_CODE (tem) == MODIFY_EXPR || TREE_CODE (tem) == INIT_EXPR
+           || TREE_CODE (tem) == CALL_EXPR)
+         return 0;
+      }
+      goto warn;
+
+    case INDIRECT_REF:
+      /* Don't warn about automatic dereferencing of references, since
+        the user cannot control it.  */
+      if (TREE_CODE (TREE_TYPE (TREE_OPERAND (exp, 0))) == REFERENCE_TYPE)
+       return warn_if_unused_value (TREE_OPERAND (exp, 0));
+      /* ... fall through ...  */
+      
     default:
       /* Referencing a volatile value is a side effect, so don't warn.  */
       if ((TREE_CODE_CLASS (TREE_CODE (exp)) == 'd'
           || TREE_CODE_CLASS (TREE_CODE (exp)) == 'r')
          && TREE_THIS_VOLATILE (exp))
        return 0;
+    warn:
       warning_with_file_and_line (emit_filename, emit_lineno,
                                  "value computed is not used");
       return 1;
@@ -1758,7 +1928,8 @@ expand_start_stmt_expr ()
   momentary = suspend_momentary ();
   t = make_node (RTL_EXPR);
   resume_momentary (momentary);
-  start_sequence ();
+  do_pending_stack_adjust ();
+  start_sequence_for_rtl_expr (t);
   NO_DEFER_POP;
   expr_stmts_for_value++;
   return t;
@@ -1793,7 +1964,7 @@ expand_end_stmt_expr (t)
         of adding code to inhibit dropping the last expression value, it
         is here recovered by undoing the `drop'.  Since `drop' is
         equivalent to `adjustackSI [1]', it can be undone with `adjstackSI
-        [-1]'. */
+        [-1]'.  */
       
       bc_adjust_stack (-1);
       
@@ -1848,306 +2019,6 @@ expand_end_stmt_expr (t)
   return t;
 }
 \f
-/* The exception handling nesting looks like this:
-
-               <-- Level N-1
-    {          <-- exception handler block
-               <-- Level N
-               <-- in an exception handler
-       {       <-- try block
-       :       <-- in a TRY block
-       :       <-- in an exception handler
-       :
-       }
-
-       {       <-- except block
-       :       <-- in an except block
-       :       <-- in an exception handler
-       :
-       }
-
-    }
-*/
-
-/* Return nonzero iff in a try block at level LEVEL.  */
-
-int
-in_try_block (level)
-     int level;
-{
-  struct nesting *n = except_stack;
-  while (1)
-    {
-      while (n && n->data.except_stmt.after_label != 0)
-       n = n->next;
-      if (n == 0)
-       return 0;
-      if (level == 0)
-       return n != 0;
-      level--;
-      n = n->next;
-    }
-}
-
-/* Return nonzero iff in an except block at level LEVEL.  */
-
-int
-in_except_block (level)
-     int level;
-{
-  struct nesting *n = except_stack;
-  while (1)
-    {
-      while (n && n->data.except_stmt.after_label == 0)
-       n = n->next;
-      if (n == 0)
-       return 0;
-      if (level == 0)
-       return n != 0;
-      level--;
-      n = n->next;
-    }
-}
-
-/* Return nonzero iff in an exception handler at level LEVEL.  */
-
-int
-in_exception_handler (level)
-     int level;
-{
-  struct nesting *n = except_stack;
-  while (n && level--)
-    n = n->next;
-  return n != 0;
-}
-
-/* Record the fact that the current exception nesting raises
-   exception EX.  If not in an exception handler, return 0.  */
-int
-expand_raise (ex)
-     tree ex;
-{
-  tree *raises_ptr;
-
-  if (except_stack == 0)
-    return 0;
-  raises_ptr = &except_stack->data.except_stmt.raised;
-  if (! value_member (ex, *raises_ptr))
-    *raises_ptr = tree_cons (NULL_TREE, ex, *raises_ptr);
-  return 1;
-}
-
-/* Generate RTL for the start of a try block.
-
-   TRY_CLAUSE is the condition to test to enter the try block.  */
-
-void
-expand_start_try (try_clause, exitflag, escapeflag)
-     tree try_clause;
-     int exitflag;
-     int escapeflag;
-{
-  struct nesting *thishandler = ALLOC_NESTING ();
-
-  /* Make an entry on cond_stack for the cond we are entering.  */
-
-  thishandler->next = except_stack;
-  thishandler->all = nesting_stack;
-  thishandler->depth = ++nesting_depth;
-  thishandler->data.except_stmt.raised = 0;
-  thishandler->data.except_stmt.handled = 0;
-  thishandler->data.except_stmt.first_insn = get_insns ();
-  thishandler->data.except_stmt.except_label = gen_label_rtx ();
-  thishandler->data.except_stmt.unhandled_label = 0;
-  thishandler->data.except_stmt.after_label = 0;
-  thishandler->data.except_stmt.escape_label
-    = escapeflag ? thishandler->data.except_stmt.except_label : 0;
-  thishandler->exit_label = exitflag ? gen_label_rtx () : 0;
-  except_stack = thishandler;
-  nesting_stack = thishandler;
-
-  do_jump (try_clause, thishandler->data.except_stmt.except_label, NULL_RTX);
-}
-
-/* End of a TRY block.  Nothing to do for now.  */
-
-void
-expand_end_try ()
-{
-  except_stack->data.except_stmt.after_label = gen_label_rtx ();
-  expand_goto_internal (NULL_TREE, except_stack->data.except_stmt.after_label,
-                       NULL_RTX);
-}
-
-/* Start an `except' nesting contour.
-   EXITFLAG says whether this contour should be able to `exit' something.
-   ESCAPEFLAG says whether this contour should be escapable.  */
-
-void
-expand_start_except (exitflag, escapeflag)
-     int exitflag;
-     int escapeflag;
-{
-  if (exitflag)
-    {
-      struct nesting *n;
-      /* An `exit' from catch clauses goes out to next exit level,
-        if there is one.  Otherwise, it just goes to the end
-        of the construct.  */
-      for (n = except_stack->next; n; n = n->next)
-       if (n->exit_label != 0)
-         {
-           except_stack->exit_label = n->exit_label;
-           break;
-         }
-      if (n == 0)
-       except_stack->exit_label = except_stack->data.except_stmt.after_label;
-    }
-  if (escapeflag)
-    {
-      struct nesting *n;
-      /* An `escape' from catch clauses goes out to next escape level,
-        if there is one.  Otherwise, it just goes to the end
-        of the construct.  */
-      for (n = except_stack->next; n; n = n->next)
-       if (n->data.except_stmt.escape_label != 0)
-         {
-           except_stack->data.except_stmt.escape_label
-             = n->data.except_stmt.escape_label;
-           break;
-         }
-      if (n == 0)
-       except_stack->data.except_stmt.escape_label
-         = except_stack->data.except_stmt.after_label;
-    }
-  do_pending_stack_adjust ();
-  emit_label (except_stack->data.except_stmt.except_label);
-}
-
-/* Generate code to `escape' from an exception contour.  This
-   is like `exiting', but does not conflict with constructs which
-   use `exit_label'.
-
-   Return nonzero if this contour is escapable, otherwise
-   return zero, and language-specific code will emit the
-   appropriate error message.  */
-int
-expand_escape_except ()
-{
-  struct nesting *n;
-  last_expr_type = 0;
-  for (n = except_stack; n; n = n->next)
-    if (n->data.except_stmt.escape_label != 0)
-      {
-       expand_goto_internal (NULL_TREE,
-                             n->data.except_stmt.escape_label, NULL_RTX);
-       return 1;
-      }
-
-  return 0;
-}
-
-/* Finish processing and `except' contour.
-   Culls out all exceptions which might be raise but not
-   handled, and returns the list to the caller.
-   Language-specific code is responsible for dealing with these
-   exceptions.  */
-
-tree
-expand_end_except ()
-{
-  struct nesting *n;
-  tree raised = NULL_TREE;
-
-  do_pending_stack_adjust ();
-  emit_label (except_stack->data.except_stmt.after_label);
-
-  n = except_stack->next;
-  if (n)
-    {
-      /* Propagate exceptions raised but not handled to next
-        highest level.  */
-      tree handled = except_stack->data.except_stmt.raised;
-      if (handled != void_type_node)
-       {
-         tree prev = NULL_TREE;
-         raised = except_stack->data.except_stmt.raised;
-         while (handled)
-           {
-             tree this_raise;
-             for (this_raise = raised, prev = 0; this_raise;
-                  this_raise = TREE_CHAIN (this_raise))
-               {
-                 if (value_member (TREE_VALUE (this_raise), handled))
-                   {
-                     if (prev)
-                       TREE_CHAIN (prev) = TREE_CHAIN (this_raise);
-                     else
-                       {
-                         raised = TREE_CHAIN (raised);
-                         if (raised == NULL_TREE)
-                           goto nada;
-                       }
-                   }
-                 else
-                   prev = this_raise;
-               }
-             handled = TREE_CHAIN (handled);
-           }
-         if (prev == NULL_TREE)
-           prev = raised;
-         if (prev)
-           TREE_CHAIN (prev) = n->data.except_stmt.raised;
-       nada:
-         n->data.except_stmt.raised = raised;
-       }
-    }
-
-  POPSTACK (except_stack);
-  last_expr_type = 0;
-  return raised;
-}
-
-/* Record that exception EX is caught by this exception handler.
-   Return nonzero if in exception handling construct, otherwise return 0.  */
-int
-expand_catch (ex)
-     tree ex;
-{
-  tree *raises_ptr;
-
-  if (except_stack == 0)
-    return 0;
-  raises_ptr = &except_stack->data.except_stmt.handled;
-  if (*raises_ptr != void_type_node
-      && ex != NULL_TREE
-      && ! value_member (ex, *raises_ptr))
-    *raises_ptr = tree_cons (NULL_TREE, ex, *raises_ptr);
-  return 1;
-}
-
-/* Record that this exception handler catches all exceptions.
-   Return nonzero if in exception handling construct, otherwise return 0.  */
-
-int
-expand_catch_default ()
-{
-  if (except_stack == 0)
-    return 0;
-  except_stack->data.except_stmt.handled = void_type_node;
-  return 1;
-}
-
-int
-expand_end_catch ()
-{
-  if (except_stack == 0 || except_stack->data.except_stmt.after_label == 0)
-    return 0;
-  expand_goto_internal (NULL_TREE, except_stack->data.except_stmt.after_label,
-                       NULL_RTX);
-  return 1;
-}
-\f
 /* Generate RTL for the start of an if-then.  COND is the expression
    whose truth should be tested.
 
@@ -2213,7 +2084,18 @@ expand_start_else ()
 
   emit_jump (cond_stack->data.cond.endif_label);
   emit_label (cond_stack->data.cond.next_label);
-  cond_stack->data.cond.next_label = 0;  /* No more _else or _elseif calls. */
+  cond_stack->data.cond.next_label = 0;  /* No more _else or _elseif calls.  */
+}
+
+/* After calling expand_start_else, turn this "else" into an "else if"
+   by providing another condition.  */
+
+void
+expand_elseif (cond)
+     tree cond;
+{
+  cond_stack->data.cond.next_label = gen_label_rtx ();
+  do_jump (cond, cond_stack->data.cond.next_label, NULL_RTX);
 }
 
 /* Generate RTL for the end of an if-then.
@@ -2243,8 +2125,9 @@ expand_end_cond ()
 /* Generate code for the start of an if-then.  COND is the expression
    whose truth is to be tested; if EXITFLAG is nonzero this conditional
    is to be visible to exit_something.  It is assumed that the caller
-   has pushed the previous context on the cond stack. */
-void
+   has pushed the previous context on the cond stack.  */
+
+static void
 bc_expand_start_cond (cond, exitflag)
      tree cond;
      int exitflag;
@@ -2252,6 +2135,8 @@ bc_expand_start_cond (cond, exitflag)
   struct nesting *thiscond = cond_stack;
 
   thiscond->data.case_stmt.nominal_type = cond;
+  if (! exitflag)
+    thiscond->exit_label = gen_label_rtx ();
   bc_expand_expr (cond);
   bc_emit_bytecode (xjumpifnot);
   bc_emit_bytecode_labelref (BYTECODE_BC_LABEL (thiscond->exit_label));
@@ -2263,7 +2148,8 @@ bc_expand_start_cond (cond, exitflag)
 
 /* Generate the label for the end of an if with
    no else- clause.  */
-void
+
+static void
 bc_expand_end_cond ()
 {
   struct nesting *thiscond = cond_stack;
@@ -2273,7 +2159,8 @@ bc_expand_end_cond ()
 
 /* Generate code for the start of the else- clause of
    an if-then-else.  */
-void
+
+static void
 bc_expand_start_else ()
 {
   struct nesting *thiscond = cond_stack;
@@ -2310,6 +2197,7 @@ expand_start_loop (exit_flag)
   thisloop->depth = ++nesting_depth;
   thisloop->data.loop.start_label = gen_label_rtx ();
   thisloop->data.loop.end_label = gen_label_rtx ();
+  thisloop->data.loop.alt_end_label = 0;
   thisloop->data.loop.continue_label = thisloop->data.loop.start_label;
   thisloop->exit_label = exit_flag ? thisloop->data.loop.end_label : 0;
   loop_stack = thisloop;
@@ -2360,6 +2248,7 @@ expand_loop_continue_here ()
 }
 
 /* End a loop.  */
+
 static void
 bc_expand_end_loop ()
 {
@@ -2445,19 +2334,25 @@ expand_end_loop ()
              && SET_DEST (PATTERN (insn)) == pc_rtx
              && GET_CODE (SET_SRC (PATTERN (insn))) == IF_THEN_ELSE
              && ((GET_CODE (XEXP (SET_SRC (PATTERN (insn)), 1)) == LABEL_REF
-                  && (XEXP (XEXP (SET_SRC (PATTERN (insn)), 1), 0)
-                      == loop_stack->data.loop.end_label))
+                  && ((XEXP (XEXP (SET_SRC (PATTERN (insn)), 1), 0)
+                       == loop_stack->data.loop.end_label)
+                      || (XEXP (XEXP (SET_SRC (PATTERN (insn)), 1), 0)
+                          == loop_stack->data.loop.alt_end_label)))
                  || (GET_CODE (XEXP (SET_SRC (PATTERN (insn)), 2)) == LABEL_REF
-                     && (XEXP (XEXP (SET_SRC (PATTERN (insn)), 2), 0)
-                         == loop_stack->data.loop.end_label))))
+                     && ((XEXP (XEXP (SET_SRC (PATTERN (insn)), 2), 0)
+                          == loop_stack->data.loop.end_label)
+                         || (XEXP (XEXP (SET_SRC (PATTERN (insn)), 2), 0)
+                             == loop_stack->data.loop.alt_end_label)))))
            last_test_insn = insn;
 
          if (last_test_insn == 0 && GET_CODE (insn) == JUMP_INSN
              && GET_CODE (PATTERN (insn)) == SET
              && SET_DEST (PATTERN (insn)) == pc_rtx
              && GET_CODE (SET_SRC (PATTERN (insn))) == LABEL_REF
-             && (XEXP (SET_SRC (PATTERN (insn)), 0)
-                 == loop_stack->data.loop.end_label))
+             && ((XEXP (SET_SRC (PATTERN (insn)), 0)
+                  == loop_stack->data.loop.end_label)
+                 || (XEXP (SET_SRC (PATTERN (insn)), 0)
+                     == loop_stack->data.loop.alt_end_label)))
            /* Include BARRIER.  */
            last_test_insn = NEXT_INSN (insn);
        }
@@ -2549,10 +2444,25 @@ expand_exit_loop_if_false (whichloop, cond)
       bc_expand_expr (cond);
       bc_expand_goto_internal (xjumpifnot,
                               BYTECODE_BC_LABEL (whichloop->exit_label),
-                              NULL_RTX);
+                              NULL_TREE);
     }
   else
-    do_jump (cond, whichloop->data.loop.end_label, NULL_RTX);
+    {
+      /* In order to handle fixups, we actually create a conditional jump
+        around a unconditional branch to exit the loop.  If fixups are
+        necessary, they go before the unconditional branch.  */
+
+      rtx label = gen_label_rtx ();
+      rtx last_insn;
+
+      do_jump (cond, NULL_RTX, label);
+      last_insn = get_last_insn ();
+      if (GET_CODE (last_insn) == CODE_LABEL)
+       whichloop->data.loop.alt_end_label = last_insn;
+      expand_goto_internal (NULL_TREE, whichloop->data.loop.end_label,
+                           NULL_RTX);
+      emit_label (label);
+    }
 
   return 1;
 }
@@ -2634,7 +2544,7 @@ expand_null_return ()
 
 /* Generate RTL to return from the current function, with value VAL.  */
 
-void
+static void
 expand_value_return (val)
      rtx val;
 {
@@ -2648,17 +2558,11 @@ expand_value_return (val)
   if (return_reg != val)
     {
 #ifdef PROMOTE_FUNCTION_RETURN
-      enum machine_mode mode = DECL_MODE (DECL_RESULT (current_function_decl));
       tree type = TREE_TYPE (DECL_RESULT (current_function_decl));
       int unsignedp = TREE_UNSIGNED (type);
-
-      if (TREE_CODE (type) == INTEGER_TYPE || TREE_CODE (type) == ENUMERAL_TYPE
-         || TREE_CODE (type) == BOOLEAN_TYPE || TREE_CODE (type) == CHAR_TYPE
-         || TREE_CODE (type) == REAL_TYPE || TREE_CODE (type) == POINTER_TYPE
-         || TREE_CODE (type) == OFFSET_TYPE)
-       {
-         PROMOTE_MODE (mode, unsignedp, type);
-       }
+      enum machine_mode mode
+       = promote_mode (type, DECL_MODE (DECL_RESULT (current_function_decl)),
+                       &unsignedp, 1);
 
       if (GET_MODE (val) != VOIDmode && GET_MODE (val) != mode)
        convert_move (return_reg, val, unsignedp);
@@ -2669,6 +2573,21 @@ expand_value_return (val)
   if (GET_CODE (return_reg) == REG
       && REGNO (return_reg) < FIRST_PSEUDO_REGISTER)
     emit_insn (gen_rtx (USE, VOIDmode, return_reg));
+  /* Handle calls that return values in multiple non-contiguous locations.
+     The Irix 6 ABI has examples of this.  */
+  else if (GET_CODE (return_reg) == PARALLEL)
+    {
+      int i;
+
+      for (i = 0; i < XVECLEN (return_reg, 0); i++)
+       {
+         rtx x = XEXP (XVECEXP (return_reg, 0, i), 0);
+
+         if (GET_CODE (x) == REG
+             && REGNO (x) < FIRST_PSEUDO_REGISTER)
+           emit_insn (gen_rtx (USE, VOIDmode, x));
+       }
+    }
 
   /* Does any pending block have cleanups?  */
 
@@ -2745,7 +2664,7 @@ expand_return (retval)
   struct nesting *block;
 
   /* Bytecode returns are quite simple, just leave the result on the
-     arithmetic stack. */
+     arithmetic stack.  */
   if (output_bytecode)
     {
       bc_expand_expr (retval);
@@ -2763,7 +2682,15 @@ expand_return (retval)
     }
 
   /* Are any cleanups needed?  E.g. C++ destructors to be run?  */
+  /* This is not sufficient.  We also need to watch for cleanups of the
+     expression we are about to expand.  Unfortunately, we cannot know
+     if it has cleanups until we expand it, and we want to change how we
+     expand it depending upon if we need cleanups.  We can't win.  */
+#if 0
   cleanups = any_pending_cleanups (1);
+#else
+  cleanups = 1;
+#endif
 
   if (TREE_CODE (retval) == RESULT_DECL)
     retval_rhs = retval;
@@ -2796,14 +2723,14 @@ expand_return (retval)
       tree expr;
 
       do_jump (TREE_OPERAND (retval_rhs, 0), label, NULL_RTX);
-      expr = build (MODIFY_EXPR, TREE_TYPE (current_function_decl),
+      expr = build (MODIFY_EXPR, TREE_TYPE (TREE_TYPE (current_function_decl)),
                    DECL_RESULT (current_function_decl),
                    TREE_OPERAND (retval_rhs, 1));
       TREE_SIDE_EFFECTS (expr) = 1;
       expand_return (expr);
       emit_label (label);
 
-      expr = build (MODIFY_EXPR, TREE_TYPE (current_function_decl),
+      expr = build (MODIFY_EXPR, TREE_TYPE (TREE_TYPE (current_function_decl)),
                    DECL_RESULT (current_function_decl),
                    TREE_OPERAND (retval_rhs, 2));
       TREE_SIDE_EFFECTS (expr) = 1;
@@ -2849,40 +2776,171 @@ expand_return (retval)
     {
       /* If this is  return x == y;  then generate
         if (x == y) return 1; else return 0;
-        if we can do it with explicit return insns and
-        branches are cheap.  */
+        if we can do it with explicit return insns and branches are cheap,
+        but not if we have the corresponding scc insn.  */
+      int has_scc = 0;
       if (retval_rhs)
        switch (TREE_CODE (retval_rhs))
          {
          case EQ_EXPR:
+#ifdef HAVE_seq
+           has_scc = HAVE_seq;
+#endif
          case NE_EXPR:
+#ifdef HAVE_sne
+           has_scc = HAVE_sne;
+#endif
          case GT_EXPR:
+#ifdef HAVE_sgt
+           has_scc = HAVE_sgt;
+#endif
          case GE_EXPR:
+#ifdef HAVE_sge
+           has_scc = HAVE_sge;
+#endif
          case LT_EXPR:
+#ifdef HAVE_slt
+           has_scc = HAVE_slt;
+#endif
          case LE_EXPR:
+#ifdef HAVE_sle
+           has_scc = HAVE_sle;
+#endif
          case TRUTH_ANDIF_EXPR:
          case TRUTH_ORIF_EXPR:
          case TRUTH_AND_EXPR:
          case TRUTH_OR_EXPR:
          case TRUTH_NOT_EXPR:
          case TRUTH_XOR_EXPR:
-           op0 = gen_label_rtx ();
-           jumpifnot (retval_rhs, op0);
-           expand_value_return (const1_rtx);
-           emit_label (op0);
-           expand_value_return (const0_rtx);
-           return;
+           if (! has_scc)
+             {
+               op0 = gen_label_rtx ();
+               jumpifnot (retval_rhs, op0);
+               expand_value_return (const1_rtx);
+               emit_label (op0);
+               expand_value_return (const0_rtx);
+               return;
+             }
          }
     }
 #endif /* HAVE_return */
 
-  if (cleanups
+  /* If the result is an aggregate that is being returned in one (or more)
+     registers, load the registers here.  The compiler currently can't handle
+     copying a BLKmode value into registers.  We could put this code in a
+     more general area (for use by everyone instead of just function
+     call/return), but until this feature is generally usable it is kept here
+     (and in expand_call).  The value must go into a pseudo in case there
+     are cleanups that will clobber the real return register.  */
+
+  if (retval_rhs != 0
+      && TYPE_MODE (TREE_TYPE (retval_rhs)) == BLKmode
+      && GET_CODE (DECL_RTL (DECL_RESULT (current_function_decl))) == REG)
+    {
+      int i, bitpos, xbitpos;
+      int big_endian_correction = 0;
+      int bytes = int_size_in_bytes (TREE_TYPE (retval_rhs));
+      int n_regs = (bytes + UNITS_PER_WORD - 1) / UNITS_PER_WORD;
+      int bitsize = MIN (TYPE_ALIGN (TREE_TYPE (retval_rhs)),BITS_PER_WORD);
+      rtx *result_pseudos = (rtx *) alloca (sizeof (rtx) * n_regs);
+      rtx result_reg, src, dst;
+      rtx result_val = expand_expr (retval_rhs, NULL_RTX, VOIDmode, 0);
+      enum machine_mode tmpmode, result_reg_mode;
+
+      /* Structures whose size is not a multiple of a word are aligned
+        to the least significant byte (to the right).  On a BYTES_BIG_ENDIAN
+        machine, this means we must skip the empty high order bytes when
+        calculating the bit offset.  */
+      if (BYTES_BIG_ENDIAN && bytes % UNITS_PER_WORD)
+       big_endian_correction = (BITS_PER_WORD - ((bytes % UNITS_PER_WORD)
+                                                 * BITS_PER_UNIT));
+
+      /* Copy the structure BITSIZE bits at a time.  */ 
+      for (bitpos = 0, xbitpos = big_endian_correction;
+          bitpos < bytes * BITS_PER_UNIT;
+          bitpos += bitsize, xbitpos += bitsize)
+       {
+         /* We need a new destination pseudo each time xbitpos is
+            on a word boundary and when xbitpos == big_endian_correction
+            (the first time through).  */
+         if (xbitpos % BITS_PER_WORD == 0
+             || xbitpos == big_endian_correction)
+           {
+             /* Generate an appropriate register.  */
+             dst = gen_reg_rtx (word_mode);
+             result_pseudos[xbitpos / BITS_PER_WORD] = dst;
+
+             /* Clobber the destination before we move anything into it.  */
+             emit_insn (gen_rtx (CLOBBER, VOIDmode, dst));
+           }
+
+         /* We need a new source operand each time bitpos is on a word
+            boundary.  */
+         if (bitpos % BITS_PER_WORD == 0)
+           src = operand_subword_force (result_val,
+                                        bitpos / BITS_PER_WORD,
+                                        BLKmode);
+
+         /* Use bitpos for the source extraction (left justified) and
+            xbitpos for the destination store (right justified).  */
+         store_bit_field (dst, bitsize, xbitpos % BITS_PER_WORD, word_mode,
+                          extract_bit_field (src, bitsize,
+                                             bitpos % BITS_PER_WORD, 1,
+                                             NULL_RTX, word_mode,
+                                             word_mode,
+                                             bitsize / BITS_PER_UNIT,
+                                             BITS_PER_WORD),
+                          bitsize / BITS_PER_UNIT, BITS_PER_WORD);
+       }
+
+      /* Find the smallest integer mode large enough to hold the
+        entire structure and use that mode instead of BLKmode
+        on the USE insn for the return register.   */
+      bytes = int_size_in_bytes (TREE_TYPE (retval_rhs));
+      for (tmpmode = GET_CLASS_NARROWEST_MODE (MODE_INT);
+          tmpmode != MAX_MACHINE_MODE;
+          tmpmode = GET_MODE_WIDER_MODE (tmpmode))
+       {
+         /* Have we found a large enough mode?  */
+         if (GET_MODE_SIZE (tmpmode) >= bytes)
+           break;
+       }
+
+      /* No suitable mode found.  */
+      if (tmpmode == MAX_MACHINE_MODE)
+       abort ();
+
+      PUT_MODE (DECL_RTL (DECL_RESULT (current_function_decl)), tmpmode);
+
+      if (GET_MODE_SIZE (tmpmode) < GET_MODE_SIZE (word_mode))
+       result_reg_mode = word_mode;
+      else
+       result_reg_mode = tmpmode;
+      result_reg = gen_reg_rtx (result_reg_mode);
+
+      /* Now that the value is in pseudos, copy it to the result reg(s).  */
+      expand_cleanups_to (NULL_TREE);
+      emit_queue ();
+      free_temp_slots ();
+      for (i = 0; i < n_regs; i++)
+       emit_move_insn (operand_subword (result_reg, i, 0, result_reg_mode),
+                       result_pseudos[i]);
+
+      if (tmpmode != result_reg_mode)
+       result_reg = gen_lowpart (tmpmode, result_reg);
+
+      expand_value_return (result_reg);
+    }
+  else if (cleanups
       && retval_rhs != 0
       && TREE_TYPE (retval_rhs) != void_type_node
       && GET_CODE (DECL_RTL (DECL_RESULT (current_function_decl))) == REG)
     {
       /* Calculate the return value into a pseudo reg.  */
-      val = expand_expr (retval_rhs, NULL_RTX, VOIDmode, 0);
+      val = gen_reg_rtx (DECL_MODE (DECL_RESULT (current_function_decl)));
+      val = expand_expr (retval_rhs, val, GET_MODE (val), 0);
+      val = force_not_mem (val);
+      expand_cleanups_to (NULL_TREE);
       emit_queue ();
       /* All temporaries have now been used.  */
       free_temp_slots ();
@@ -2894,6 +2952,7 @@ expand_return (retval)
       /* No cleanups or no hard reg used;
         calculate value into hard return reg.  */
       expand_expr (retval, const0_rtx, VOIDmode, 0);
+      expand_cleanups_to (NULL_TREE);
       emit_queue ();
       free_temp_slots ();
       expand_value_return (DECL_RTL (DECL_RESULT (current_function_decl)));
@@ -2935,7 +2994,8 @@ tail_recursion_args (actuals, formals)
 
   for (a = actuals, f = formals, i = 0; a && f; a = TREE_CHAIN (a), f = TREE_CHAIN (f), i++)
     {
-      if (TREE_TYPE (TREE_VALUE (a)) != TREE_TYPE (f))
+      if (TYPE_MAIN_VARIANT (TREE_TYPE (TREE_VALUE (a)))
+         != TYPE_MAIN_VARIANT (TREE_TYPE (f)))
        return 0;
       if (GET_CODE (DECL_RTL (f)) != REG || DECL_MODE (f) == BLKmode)
        return 0;
@@ -2991,10 +3051,7 @@ expand_start_bindings (exit_flag)
      int exit_flag;
 {
   struct nesting *thisblock = ALLOC_NESTING ();
-  rtx note;
-
-  if (!output_bytecode)
-    note = emit_note (NULL_PTR, NOTE_INSN_BLOCK_BEG);
+  rtx note = output_bytecode ? 0 : emit_note (NULL_PTR, NOTE_INSN_BLOCK_BEG);
 
   /* Make an entry on block_stack for the block we are entering.  */
 
@@ -3151,7 +3208,7 @@ expand_end_bindings (vars, mark_ends, dont_jump_in)
           the original assignment true.
           So the following insn will actually be
           decrementing fp by STARTING_FRAME_OFFSET.  */
-       emit_move_insn (virtual_stack_vars_rtx, frame_pointer_rtx);
+       emit_move_insn (virtual_stack_vars_rtx, hard_frame_pointer_rtx);
 
 #if ARG_POINTER_REGNUM != HARD_FRAME_POINTER_REGNUM
       if (fixed_regs[ARG_POINTER_REGNUM])
@@ -3188,6 +3245,11 @@ expand_end_bindings (vars, mark_ends, dont_jump_in)
        }
 #endif
 
+#ifdef HAVE_nonlocal_goto_receiver
+      if (HAVE_nonlocal_goto_receiver)
+       emit_insn (gen_nonlocal_goto_receiver ());
+#endif
+
       /* The handler expects the desired label address in the static chain
         register.  It tests the address and does an appropriate jump
         to whatever label is desired.  */
@@ -3208,6 +3270,7 @@ expand_end_bindings (vars, mark_ends, dont_jump_in)
       /* If label is not recognized, abort.  */
       emit_library_call (gen_rtx (SYMBOL_REF, Pmode, "abort"), 0,
                         VOIDmode, 0);
+      emit_barrier ();
       emit_label (afterward);
     }
 
@@ -3239,6 +3302,9 @@ expand_end_bindings (vars, mark_ends, dont_jump_in)
   if (thisblock->data.block.stack_level != 0
       || thisblock->data.block.cleanups != 0)
     {
+      /* Only clean up here if this point can actually be reached.  */
+      int reachable = GET_CODE (get_last_insn ()) != BARRIER;
+
       /* Don't let cleanups affect ({...}) constructs.  */
       int old_expr_stmts_for_value = expr_stmts_for_value;
       rtx old_last_expr_value = last_expr_value;
@@ -3246,8 +3312,9 @@ expand_end_bindings (vars, mark_ends, dont_jump_in)
       expr_stmts_for_value = 0;
 
       /* Do the cleanups.  */
-      expand_cleanups (thisblock->data.block.cleanups, NULL_TREE);
-      do_pending_stack_adjust ();
+      expand_cleanups (thisblock->data.block.cleanups, NULL_TREE, 0, reachable);
+      if (reachable)
+       do_pending_stack_adjust ();
 
       expr_stmts_for_value = old_expr_stmts_for_value;
       last_expr_value = old_last_expr_value;
@@ -3255,7 +3322,7 @@ expand_end_bindings (vars, mark_ends, dont_jump_in)
 
       /* Restore the stack level.  */
 
-      if (thisblock->data.block.stack_level != 0)
+      if (reachable && thisblock->data.block.stack_level != 0)
        {
          emit_stack_restore (thisblock->next ? SAVE_BLOCK : SAVE_FUNCTION,
                              thisblock->data.block.stack_level, NULL_RTX);
@@ -3312,7 +3379,7 @@ expand_end_bindings (vars, mark_ends, dont_jump_in)
    DONT_JUMP_IN is nonzero if it is not valid to jump into this
    contour.  */
 
-void
+static void
 bc_expand_end_bindings (vars, mark_ends, dont_jump_in)
      tree vars;
      int mark_ends;
@@ -3326,30 +3393,15 @@ bc_expand_end_bindings (vars, mark_ends, dont_jump_in)
       if (! TREE_USED (TREE_VALUE (decl)) && TREE_CODE (TREE_VALUE (decl)) == VAR_DECL)
        warning_with_decl (decl, "unused variable `%s'");
 
-  bc_emit_bytecode_labeldef (BYTECODE_BC_LABEL (thisbind->exit_label));
+  if (thisbind->exit_label)
+    bc_emit_bytecode_labeldef (BYTECODE_BC_LABEL (thisbind->exit_label));
 
   /* Pop block/bindings off stack */
-  POPSTACK (nesting_stack);
   POPSTACK (block_stack);
 }
 \f
 /* Generate RTL for the automatic variable declaration DECL.
-   (Other kinds of declarations are simply ignored if seen here.)
-   CLEANUP is an expression to be executed at exit from this binding contour;
-   for example, in C++, it might call the destructor for this variable.
-
-   If CLEANUP contains any SAVE_EXPRs, then you must preevaluate them
-   either before or after calling `expand_decl' but before compiling
-   any subsequent expressions.  This is because CLEANUP may be expanded
-   more than once, on different branches of execution.
-   For the same reason, CLEANUP may not contain a CALL_EXPR
-   except as its topmost node--else `preexpand_calls' would get confused.
-
-   If CLEANUP is nonzero and DECL is zero, we record a cleanup
-   that is not associated with any particular variable.
-
-   There is no special support here for C++ constructors.
-   They should be handled by the proper code in DECL_INITIAL.  */
+   (Other kinds of declarations are simply ignored if seen here.)  */
 
 void
 expand_decl (decl)
@@ -3391,6 +3443,7 @@ expand_decl (decl)
        /* An initializer is going to decide the size of this array.
           Until we know the size, represent its address with a reg.  */
        DECL_RTL (decl) = gen_rtx (MEM, BLKmode, gen_reg_rtx (Pmode));
+      MEM_IN_STRUCT_P (DECL_RTL (decl)) = AGGREGATE_TYPE_P (type);
     }
   else if (DECL_MODE (decl) != BLKmode
           /* If -ffloat-store, don't put explicit float vars
@@ -3402,39 +3455,19 @@ expand_decl (decl)
           && (DECL_REGISTER (decl) || ! obey_regdecls))
     {
       /* Automatic variable that can go in a register.  */
-      enum machine_mode reg_mode = DECL_MODE (decl);
       int unsignedp = TREE_UNSIGNED (type);
+      enum machine_mode reg_mode
+       = promote_mode (type, DECL_MODE (decl), &unsignedp, 0);
 
-      if (TREE_CODE (type) == INTEGER_TYPE || TREE_CODE (type) == ENUMERAL_TYPE
-         || TREE_CODE (type) == BOOLEAN_TYPE || TREE_CODE (type) == CHAR_TYPE
-         || TREE_CODE (type) == REAL_TYPE || TREE_CODE (type) == POINTER_TYPE
-         || TREE_CODE (type) == OFFSET_TYPE)
-       {
-         PROMOTE_MODE (reg_mode, unsignedp, type);
-       }
+      DECL_RTL (decl) = gen_reg_rtx (reg_mode);
+      mark_user_reg (DECL_RTL (decl));
 
-      if (TREE_CODE (type) == COMPLEX_TYPE)
-       {
-         rtx realpart, imagpart;
-         enum machine_mode partmode = TYPE_MODE (TREE_TYPE (type));
-
-         /* For a complex type variable, make a CONCAT of two pseudos
-            so that the real and imaginary parts
-            can be allocated separately.  */
-         realpart = gen_reg_rtx (partmode);
-         REG_USERVAR_P (realpart) = 1;
-         imagpart = gen_reg_rtx (partmode);
-         REG_USERVAR_P (imagpart) = 1;
-         DECL_RTL (decl) = gen_rtx (CONCAT, reg_mode, realpart, imagpart);
-       }
-      else
-       {
-         DECL_RTL (decl) = gen_reg_rtx (reg_mode);
-         if (TREE_CODE (type) == POINTER_TYPE)
-           mark_reg_pointer (DECL_RTL (decl));
-         REG_USERVAR_P (DECL_RTL (decl)) = 1;
-       }
+      if (TREE_CODE (type) == POINTER_TYPE)
+       mark_reg_pointer (DECL_RTL (decl),
+                         (TYPE_ALIGN (TREE_TYPE (TREE_TYPE (decl)))
+                          / BITS_PER_UNIT));
     }
+
   else if (TREE_CODE (DECL_SIZE (decl)) == INTEGER_CST)
     {
       /* Variable of fixed size that goes on the stack.  */
@@ -3459,6 +3492,7 @@ expand_decl (decl)
                               + BITS_PER_UNIT - 1)
                              / BITS_PER_UNIT),
                             1);
+      MEM_IN_STRUCT_P (DECL_RTL (decl)) = AGGREGATE_TYPE_P (TREE_TYPE (decl));
 
       /* Set alignment we actually gave this decl.  */
       DECL_ALIGN (decl) = (DECL_MODE (decl) == BLKmode ? BIGGEST_ALIGNMENT
@@ -3473,11 +3507,7 @@ expand_decl (decl)
 
       /* If this is a memory ref that contains aggregate components,
         mark it as such for cse and loop optimize.  */
-      MEM_IN_STRUCT_P (DECL_RTL (decl))
-       = (TREE_CODE (TREE_TYPE (decl)) == ARRAY_TYPE
-          || TREE_CODE (TREE_TYPE (decl)) == RECORD_TYPE
-          || TREE_CODE (TREE_TYPE (decl)) == UNION_TYPE
-          || TREE_CODE (TREE_TYPE (decl)) == QUAL_UNION_TYPE);
+      MEM_IN_STRUCT_P (DECL_RTL (decl)) = AGGREGATE_TYPE_P (TREE_TYPE (decl));
 #if 0
       /* If this is in memory because of -ffloat-store,
         set the volatile bit, to prevent optimizations from
@@ -3509,26 +3539,19 @@ expand_decl (decl)
                          NULL_RTX, VOIDmode, 0);
       free_temp_slots ();
 
-      /* This is equivalent to calling alloca.  */
-      current_function_calls_alloca = 1;
-
-      /* Allocate space on the stack for the variable.  */
+      /* Allocate space on the stack for the variable.  Note that
+        DECL_ALIGN says how the variable is to be aligned and we 
+        cannot use it to conclude anything about the alignment of
+        the size.  */
       address = allocate_dynamic_stack_space (size, NULL_RTX,
-                                             DECL_ALIGN (decl));
-
-      if (nonlocal_goto_handler_slot != 0)
-       emit_stack_save (SAVE_NONLOCAL, &nonlocal_goto_stack_level, NULL_RTX);
+                                             TYPE_ALIGN (TREE_TYPE (decl)));
 
       /* Reference the variable indirect through that rtx.  */
       DECL_RTL (decl) = gen_rtx (MEM, DECL_MODE (decl), address);
 
       /* If this is a memory ref that contains aggregate components,
         mark it as such for cse and loop optimize.  */
-      MEM_IN_STRUCT_P (DECL_RTL (decl))
-       = (TREE_CODE (TREE_TYPE (decl)) == ARRAY_TYPE
-          || TREE_CODE (TREE_TYPE (decl)) == RECORD_TYPE
-          || TREE_CODE (TREE_TYPE (decl)) == UNION_TYPE
-          || TREE_CODE (TREE_TYPE (decl)) == QUAL_UNION_TYPE);
+      MEM_IN_STRUCT_P (DECL_RTL (decl)) = AGGREGATE_TYPE_P (TREE_TYPE (decl));
 
       /* Indicate the alignment we actually gave this variable.  */
 #ifdef STACK_BOUNDARY
@@ -3563,7 +3586,7 @@ expand_decl (decl)
    compiler sometimes emits cleanups without variables and we will
    have to deal with those too.  */
 
-void
+static void
 bc_expand_decl (decl, cleanup)
      tree decl;
      tree cleanup;
@@ -3611,6 +3634,12 @@ expand_decl_init (decl)
 {
   int was_used = TREE_USED (decl);
 
+  if (output_bytecode)
+    {
+      bc_expand_decl_init (decl);
+      return;
+    }
+
   /* If this is a CONST_DECL, we don't have to generate any code, but
      if DECL_INITIAL is a constant, call expand_expr to force TREE_CST_RTL
      to be set while in the obstack containing the constant.  If we don't
@@ -3650,13 +3679,15 @@ expand_decl_init (decl)
   TREE_USED (decl) = was_used;
 
   /* Free any temporaries we made while initializing the decl.  */
+  preserve_temp_slots (NULL_RTX);
   free_temp_slots ();
 }
 
 /* Expand initialization for variable-sized types. Allocate array
    using newlocalSI and set local variable, which is a pointer to the
-   storage. */
+   storage.  */
 
+static void
 bc_expand_variable_local_init (decl)
      tree decl;
 {
@@ -3678,7 +3709,7 @@ bc_expand_variable_local_init (decl)
      using expand_address() since that would cause the pointer to be
      pushed rather than its address. Hence the hard-coded reference;
      notice also that the variable is always local (no global
-     variable-size type variables). */
+     variable-size type variables).  */
 
   bc_load_localaddr (DECL_RTL (decl));
   bc_emit_instruction (storeP);
@@ -3686,7 +3717,8 @@ bc_expand_variable_local_init (decl)
 
 
 /* Emit code to initialize a declaration.  */
-void
+
+static void
 bc_expand_decl_init (decl)
      tree decl;
 {
@@ -3702,7 +3734,7 @@ bc_expand_decl_init (decl)
 
   /* If the type is variable-size, we first create its space (we ASSUME
      it CAN'T be static).  We do this regardless of whether there's an
-     initializer assignment or not. */
+     initializer assignment or not.  */
 
   if (TREE_CODE (DECL_SIZE (decl)) != INTEGER_CST)
     bc_expand_variable_local_init (decl);
@@ -3731,12 +3763,9 @@ bc_expand_decl_init (decl)
 /* CLEANUP is an expression to be executed at exit from this binding contour;
    for example, in C++, it might call the destructor for this variable.
 
-   If CLEANUP contains any SAVE_EXPRs, then you must preevaluate them
-   either before or after calling `expand_decl' but before compiling
-   any subsequent expressions.  This is because CLEANUP may be expanded
-   more than once, on different branches of execution.
-   For the same reason, CLEANUP may not contain a CALL_EXPR
-   except as its topmost node--else `preexpand_calls' would get confused.
+   We wrap CLEANUP in an UNSAVE_EXPR node, so that we can expand the
+   CLEANUP multiple times, and have the correct semantics.  This
+   happens in exception handling, and for non-local gotos.
 
    If CLEANUP is nonzero and DECL is zero, we record a cleanup
    that is not associated with any particular variable.   */
@@ -3755,10 +3784,13 @@ expand_decl_cleanup (decl, cleanup)
 
   if (cleanup != 0)
     {
+      cleanup = unsave_expr (cleanup);
+
       thisblock->data.block.cleanups
        = temp_tree_cons (decl, cleanup, thisblock->data.block.cleanups);
       /* If this block has a cleanup, it belongs in stack_block_stack.  */
       stack_block_stack = thisblock;
+      expand_eh_region_start ();
     }
   return 1;
 }
@@ -3774,7 +3806,8 @@ expand_anon_union_decl (decl, cleanup, decl_elts)
   struct nesting *thisblock = block_stack;
   rtx x;
 
-  expand_decl (decl, cleanup);
+  expand_decl (decl);
+  expand_decl_cleanup (decl, cleanup);
   x = DECL_RTL (decl);
 
   while (decl_elts)
@@ -3783,6 +3816,17 @@ expand_anon_union_decl (decl, cleanup, decl_elts)
       tree cleanup_elt = TREE_PURPOSE (decl_elts);
       enum machine_mode mode = TYPE_MODE (TREE_TYPE (decl_elt));
 
+      /* Propagate the union's alignment to the elements.  */
+      DECL_ALIGN (decl_elt) = DECL_ALIGN (decl);
+
+      /* If the element has BLKmode and the union doesn't, the union is
+         aligned such that the element doesn't need to have BLKmode, so
+         change the element's mode to the appropriate one for its size.  */
+      if (mode == BLKmode && DECL_MODE (decl) != BLKmode)
+       DECL_MODE (decl_elt) = mode
+         = mode_for_size (TREE_INT_CST_LOW (DECL_SIZE (decl_elt)),
+                          MODE_INT, 1);
+
       /* (SUBREG (MEM ...)) at RTL generation time is invalid, so we
          instead create a new MEM rtx with the proper mode.  */
       if (GET_CODE (x) == MEM)
@@ -3823,31 +3867,45 @@ expand_anon_union_decl (decl, cleanup, decl_elts)
    If DONT_DO is nonnull, then any list-element
    whose TREE_PURPOSE matches DONT_DO is omitted.
    This is sometimes used to avoid a cleanup associated with
-   a value that is being returned out of the scope.  */
+   a value that is being returned out of the scope.
+
+   If IN_FIXUP is non-zero, we are generating this cleanup for a fixup
+   goto and handle protection regions specially in that case.
+
+   If REACHABLE, we emit code, otherwise just inform the exception handling
+   code about this finalization.  */
 
 static void
-expand_cleanups (list, dont_do)
+expand_cleanups (list, dont_do, in_fixup, reachable)
      tree list;
      tree dont_do;
+     int in_fixup;
+     int reachable;
 {
   tree tail;
   for (tail = list; tail; tail = TREE_CHAIN (tail))
     if (dont_do == 0 || TREE_PURPOSE (tail) != dont_do)
       {
        if (TREE_CODE (TREE_VALUE (tail)) == TREE_LIST)
-         expand_cleanups (TREE_VALUE (tail), dont_do);
+         expand_cleanups (TREE_VALUE (tail), dont_do, in_fixup, reachable);
        else
          {
-           /* Cleanups may be run multiple times.  For example,
-              when exiting a binding contour, we expand the
-              cleanups associated with that contour.  When a goto
-              within that binding contour has a target outside that
-              contour, it will expand all cleanups from its scope to
-              the target.  Though the cleanups are expanded multiple
-              times, the control paths are non-overlapping so the
-              cleanups will not be executed twice.  */
-           expand_expr (TREE_VALUE (tail), const0_rtx, VOIDmode, 0);
-           free_temp_slots ();
+           if (! in_fixup)
+             expand_eh_region_end (TREE_VALUE (tail));
+
+           if (reachable)
+             {
+               /* Cleanups may be run multiple times.  For example,
+                  when exiting a binding contour, we expand the
+                  cleanups associated with that contour.  When a goto
+                  within that binding contour has a target outside that
+                  contour, it will expand all cleanups from its scope to
+                  the target.  Though the cleanups are expanded multiple
+                  times, the control paths are non-overlapping so the
+                  cleanups will not be executed twice.  */
+               expand_expr (TREE_VALUE (tail), const0_rtx, VOIDmode, 0);
+               free_temp_slots ();
+             }
          }
       }
 }
@@ -3964,8 +4022,9 @@ expand_start_case (exit_flag, expr, type, printname)
 
 
 /* Enter a case statement. It is assumed that the caller has pushed
-   the current context onto the case stack. */
-void
+   the current context onto the case stack.  */
+
+static void
 bc_expand_start_case (thiscase, expr, type, printname)
      struct nesting *thiscase;
      tree expr;
@@ -4118,36 +4177,7 @@ pushcase (value, converter, label, duplicate)
       case_stack->data.case_stmt.default_label = label;
     }
   else
-    {
-      /* Find the elt in the chain before which to insert the new value,
-        to keep the chain sorted in increasing order.
-        But report an error if this element is a duplicate.  */
-      for (l = &case_stack->data.case_stmt.case_list;
-          /* Keep going past elements distinctly less than VALUE.  */
-          *l != 0 && tree_int_cst_lt ((*l)->high, value);
-          l = &(*l)->right)
-       ;
-      if (*l)
-       {
-         /* Element we will insert before must be distinctly greater;
-            overlap means error.  */
-         if (! tree_int_cst_lt (value, (*l)->low))
-           {
-             *duplicate = (*l)->code_label;
-             return 2;
-           }
-       }
-
-      /* Add this label to the chain, and succeed.
-        Copy VALUE so it is on temporary rather than momentary
-        obstack and will thus survive till the end of the case statement.  */
-      n = (struct case_node *) oballoc (sizeof (struct case_node));
-      n->left = 0;
-      n->right = *l;
-      n->high = n->low = copy_node (value);
-      n->code_label = label;
-      *l = n;
-    }
+    return add_case_node (value, value, label, duplicate);
 
   expand_label (label);
   return 0;
@@ -4208,11 +4238,11 @@ pushcase_range (value1, value2, converter, label, duplicate)
   case_stack->data.case_stmt.seenlabel = 1;
 
   /* Convert VALUEs to type in which the comparisons are nominally done.  */
-  if (value1 == 0)  /* Negative infinity. */
+  if (value1 == 0)  /* Negative infinity.  */
     value1 = TYPE_MIN_VALUE(index_type);
   value1 = (*converter) (nominal_type, value1);
 
-  if (value2 == 0)  /* Positive infinity. */
+  if (value2 == 0)  /* Positive infinity.  */
     value2 = TYPE_MAX_VALUE(index_type);
   value2 = (*converter) (nominal_type, value2);
 
@@ -4227,58 +4257,248 @@ pushcase_range (value1, value2, converter, label, duplicate)
   if (tree_int_cst_lt (value2, value1))
     return 4;
 
-  /* If the bounds are equal, turn this into the one-value case.  */
-  if (tree_int_cst_equal (value1, value2))
-    return pushcase (value1, converter, label, duplicate);
-
-  /* Find the elt in the chain before which to insert the new value,
-     to keep the chain sorted in increasing order.
-     But report an error if this element is a duplicate.  */
-  for (l = &case_stack->data.case_stmt.case_list;
-       /* Keep going past elements distinctly less than this range.  */
-       *l != 0 && tree_int_cst_lt ((*l)->high, value1);
-       l = &(*l)->right)
-    ;
-  if (*l)
+  return add_case_node (value1, value2, label, duplicate);
+}
+
+/* Do the actual insertion of a case label for pushcase and pushcase_range
+   into case_stack->data.case_stmt.case_list.  Use an AVL tree to avoid
+   slowdown for large switch statements.  */
+
+static int
+add_case_node (low, high, label, duplicate)
+     tree low, high;
+     tree label;
+     tree *duplicate;
+{
+  struct case_node *p, **q, *r;
+
+  q = &case_stack->data.case_stmt.case_list;
+  p = *q;
+
+  while (r = *q)
     {
-      /* Element we will insert before must be distinctly greater;
-        overlap means error.  */
-      if (! tree_int_cst_lt (value2, (*l)->low))
+      p = r;
+
+      /* Keep going past elements distinctly greater than HIGH.  */
+      if (tree_int_cst_lt (high, p->low))
+       q = &p->left;
+
+      /* or distinctly less than LOW.  */
+      else if (tree_int_cst_lt (p->high, low))
+       q = &p->right;
+
+      else
        {
-         *duplicate = (*l)->code_label;
+         /* We have an overlap; this is an error.  */
+         *duplicate = p->code_label;
          return 2;
        }
     }
 
   /* Add this label to the chain, and succeed.
-     Copy VALUE1, VALUE2 so they are on temporary rather than momentary
+     Copy LOW, HIGH so they are on temporary rather than momentary
      obstack and will thus survive till the end of the case statement.  */
 
-  n = (struct case_node *) oballoc (sizeof (struct case_node));
-  n->left = 0;
-  n->right = *l;
-  n->low = copy_node (value1);
-  n->high = copy_node (value2);
-  n->code_label = label;
-  *l = n;
+  r = (struct case_node *) oballoc (sizeof (struct case_node));
+  r->low = copy_node (low);
+
+  /* If the bounds are equal, turn this into the one-value case.  */
+
+  if (tree_int_cst_equal (low, high))
+    r->high = r->low;
+  else
+    {
+      r->high = copy_node (high);
+      case_stack->data.case_stmt.num_ranges++;
+    }
 
+  r->code_label = label;
   expand_label (label);
 
-  case_stack->data.case_stmt.num_ranges++;
+  *q = r;
+  r->parent = p;
+  r->left = 0;
+  r->right = 0;
+  r->balance = 0;
+
+  while (p)
+    {
+      struct case_node *s;
+
+      if (r == p->left)
+       {
+         int b;
+
+         if (! (b = p->balance))
+           /* Growth propagation from left side.  */
+           p->balance = -1;
+         else if (b < 0)
+           {
+             if (r->balance < 0)
+               {
+                 /* R-Rotation */
+                 if (p->left = s = r->right)
+                   s->parent = p;
+
+                 r->right = p;
+                 p->balance = 0;
+                 r->balance = 0;
+                 s = p->parent;
+                 p->parent = r;
+
+                 if (r->parent = s)
+                   {
+                     if (s->left == p)
+                       s->left = r;
+                     else
+                       s->right = r;
+                   }
+                 else
+                   case_stack->data.case_stmt.case_list = r;
+               }
+             else
+               /* r->balance == +1 */
+               {
+                 /* LR-Rotation */
+
+                 int b2;
+                 struct case_node *t = r->right;
+
+                 if (p->left = s = t->right)
+                   s->parent = p;
+
+                 t->right = p;
+                 if (r->right = s = t->left)
+                   s->parent = r;
+
+                 t->left = r;
+                 b = t->balance;
+                 b2 = b < 0;
+                 p->balance = b2;
+                 b2 = -b2 - b;
+                 r->balance = b2;
+                 t->balance = 0;
+                 s = p->parent;
+                 p->parent = t;
+                 r->parent = t;
+
+                 if (t->parent = s)
+                   {
+                     if (s->left == p)
+                       s->left = t;
+                     else
+                       s->right = t;
+                   }
+                 else
+                   case_stack->data.case_stmt.case_list = t;
+               }
+             break;
+           }
+
+         else
+           {
+             /* p->balance == +1; growth of left side balances the node.  */
+             p->balance = 0;
+             break;
+           }
+       }
+      else
+       /* r == p->right */
+       {
+         int b;
+
+         if (! (b = p->balance))
+           /* Growth propagation from right side.  */
+           p->balance++;
+         else if (b > 0)
+           {
+             if (r->balance > 0)
+               {
+                 /* L-Rotation */
+
+                 if (p->right = s = r->left)
+                   s->parent = p;
+
+                 r->left = p;
+                 p->balance = 0;
+                 r->balance = 0;
+                 s = p->parent;
+                 p->parent = r;
+                 if (r->parent = s)
+                   {
+                     if (s->left == p)
+                       s->left = r;
+                     else
+                       s->right = r;
+                   }
+
+                 else
+                   case_stack->data.case_stmt.case_list = r;
+               }
+
+             else
+               /* r->balance == -1 */
+               {
+                 /* RL-Rotation */
+                 int b2;
+                 struct case_node *t = r->left;
+
+                 if (p->right = s = t->left)
+                   s->parent = p;
+
+                 t->left = p;
+
+                 if (r->left = s = t->right)
+                   s->parent = r;
+
+                 t->right = r;
+                 b = t->balance;
+                 b2 = b < 0;
+                 r->balance = b2;
+                 b2 = -b2 - b;
+                 p->balance = b2;
+                 t->balance = 0;
+                 s = p->parent;
+                 p->parent = t;
+                 r->parent = t;
+
+                 if (t->parent = s)
+                   {
+                     if (s->left == p)
+                       s->left = t;
+                     else
+                       s->right = t;
+                   }
+
+                 else
+                   case_stack->data.case_stmt.case_list = t;
+               }
+             break;
+           }
+         else
+           {
+             /* p->balance == -1; growth of right side balances the node.  */
+             p->balance = 0;
+             break;
+           }
+       }
+
+      r = p;
+      p = p->parent;
+    }
 
   return 0;
 }
 
-
 /* Accumulate one case or default label; VALUE is the value of the
    case, or nil for a default label.  If not currently inside a case,
    return 1 and do nothing.  If VALUE is a duplicate or overlaps, return
    2 and do nothing.  If VALUE is out of range, return 3 and do nothing.
    Return 0 on success.  This function is a leftover from the earlier
    bytecode compiler, which was based on gcc 1.37.  It should be
-   merged into pushcase. */
+   merged into pushcase.  */
 
-int
+static int
 bc_pushcase (value, label)
      tree value;
      tree label;
@@ -4303,7 +4523,7 @@ bc_pushcase (value, label)
 
       if (case_label != thiscase->data.case_stmt.case_list
          && ! tree_int_cst_lt (case_label->high, value)
-         || case_label->left && ! tree_int_cst_lt (value, case_label->left->low))
+         || (case_label->left && ! tree_int_cst_lt (value, case_label->left->low)))
        return 2;
 
       new_label = (struct case_node *) oballoc (sizeof (struct case_node));
@@ -4325,6 +4545,220 @@ bc_pushcase (value, label)
   return 0;
 }
 \f
+/* Returns the number of possible values of TYPE.
+   Returns -1 if the number is unknown or variable.
+   Returns -2 if the number does not fit in a HOST_WIDE_INT.
+   Sets *SPARENESS to 2 if TYPE is an ENUMERAL_TYPE whose values
+   do not increase monotonically (there may be duplicates);
+   to 1 if the values increase monotonically, but not always by 1;
+   otherwise sets it to 0.  */
+
+HOST_WIDE_INT
+all_cases_count (type, spareness)
+     tree type;
+     int *spareness;
+{
+  HOST_WIDE_INT count, count_high = 0;
+  *spareness = 0;
+
+  switch (TREE_CODE (type))
+    {
+      tree t;
+    case BOOLEAN_TYPE:
+      count = 2;
+      break;
+    case CHAR_TYPE:
+      count = 1 << BITS_PER_UNIT;
+      break;
+    default:
+    case INTEGER_TYPE:
+      if (TREE_CODE (TYPE_MIN_VALUE (type)) != INTEGER_CST
+         || TREE_CODE (TYPE_MAX_VALUE (type)) != INTEGER_CST)
+       return -1;
+      else
+       {
+         /* count
+            = TREE_INT_CST_LOW (TYPE_MAX_VALUE (type))
+            - TREE_INT_CST_LOW (TYPE_MIN_VALUE (type)) + 1
+            but with overflow checking.  */
+         tree mint = TYPE_MIN_VALUE (type);
+         tree maxt = TYPE_MAX_VALUE (type);
+         HOST_WIDE_INT lo, hi;
+         neg_double(TREE_INT_CST_LOW (mint), TREE_INT_CST_HIGH (mint),
+                    &lo, &hi);
+         add_double(TREE_INT_CST_LOW (maxt), TREE_INT_CST_HIGH (maxt),
+                    lo, hi, &lo, &hi);
+         add_double (lo, hi, 1, 0, &lo, &hi);
+         if (hi != 0 || lo < 0)
+           return -2;
+         count = lo;
+       }
+      break;
+    case ENUMERAL_TYPE:
+      count = 0;
+      for (t = TYPE_VALUES (type); t != NULL_TREE; t = TREE_CHAIN (t))
+       {
+         if (TREE_CODE (TYPE_MIN_VALUE (type)) != INTEGER_CST
+             || TREE_CODE (TREE_VALUE (t)) != INTEGER_CST
+             || TREE_INT_CST_LOW (TYPE_MIN_VALUE (type)) + count
+             != TREE_INT_CST_LOW (TREE_VALUE (t)))
+           *spareness = 1;
+         count++;
+       }
+      if (*spareness == 1)
+       {
+         tree prev = TREE_VALUE (TYPE_VALUES (type));
+         for (t = TYPE_VALUES (type); t = TREE_CHAIN (t), t != NULL_TREE; )
+           {
+             if (! tree_int_cst_lt (prev, TREE_VALUE (t)))
+               {
+                 *spareness = 2;
+                 break;
+               }
+             prev = TREE_VALUE (t);
+           }
+         
+       }
+    }
+  return count;
+}
+
+
+#define BITARRAY_TEST(ARRAY, INDEX) \
+  ((ARRAY)[(unsigned) (INDEX) / HOST_BITS_PER_CHAR]\
+                         & (1 << ((unsigned) (INDEX) % HOST_BITS_PER_CHAR)))
+#define BITARRAY_SET(ARRAY, INDEX) \
+  ((ARRAY)[(unsigned) (INDEX) / HOST_BITS_PER_CHAR]\
+                         |= 1 << ((unsigned) (INDEX) % HOST_BITS_PER_CHAR))
+
+/* Set the elements of the bitstring CASES_SEEN (which has length COUNT),
+   with the case values we have seen, assuming the case expression
+   has the given TYPE.
+   SPARSENESS is as determined by all_cases_count.
+
+   The time needed is proportional to COUNT, unless
+   SPARSENESS is 2, in which case quadratic time is needed.  */
+
+void
+mark_seen_cases (type, cases_seen, count, sparseness)
+     tree type;
+     unsigned char *cases_seen;
+     long count;
+     int sparseness;
+{
+  long i;
+
+  tree next_node_to_try = NULL_TREE;
+  long next_node_offset = 0;
+
+  register struct case_node *n, *root = case_stack->data.case_stmt.case_list;
+  tree val = make_node (INTEGER_CST);
+  TREE_TYPE (val) = type;
+  if (! root)
+    ; /* Do nothing */
+  else if (sparseness == 2)
+    {
+      tree t;
+      HOST_WIDE_INT xlo;
+
+      /* This less efficient loop is only needed to handle
+        duplicate case values (multiple enum constants
+        with the same value).  */
+      TREE_TYPE (val) = TREE_TYPE (root->low);
+      for (t = TYPE_VALUES (type), xlo = 0;  t != NULL_TREE;
+          t = TREE_CHAIN (t), xlo++)
+       {
+         TREE_INT_CST_LOW (val) = TREE_INT_CST_LOW (TREE_VALUE (t));
+         TREE_INT_CST_HIGH (val) = TREE_INT_CST_HIGH (TREE_VALUE (t));
+         n = root;
+         do
+           {
+             /* Keep going past elements distinctly greater than VAL.  */
+             if (tree_int_cst_lt (val, n->low))
+               n = n->left;
+       
+             /* or distinctly less than VAL.  */
+             else if (tree_int_cst_lt (n->high, val))
+               n = n->right;
+       
+             else
+               {
+                 /* We have found a matching range.  */
+                 BITARRAY_SET (cases_seen, xlo);
+                 break;
+               }
+           }
+         while (n);
+       }
+    }
+  else
+    {
+      if (root->left)
+       case_stack->data.case_stmt.case_list = root = case_tree2list (root, 0);
+      for (n = root; n; n = n->right)
+       {
+         TREE_INT_CST_LOW (val) = TREE_INT_CST_LOW (n->low);
+         TREE_INT_CST_HIGH (val) = TREE_INT_CST_HIGH (n->low);
+         while ( ! tree_int_cst_lt (n->high, val))
+           {
+             /* Calculate (into xlo) the "offset" of the integer (val).
+                The element with lowest value has offset 0, the next smallest
+                element has offset 1, etc.  */
+
+             HOST_WIDE_INT xlo, xhi;
+             tree t;
+             if (sparseness && TYPE_VALUES (type) != NULL_TREE)
+               {
+                 /* The TYPE_VALUES will be in increasing order, so
+                    starting searching where we last ended.  */
+                 t = next_node_to_try;
+                 xlo = next_node_offset;
+                 xhi = 0;
+                 for (;;)
+                   {
+                     if (t == NULL_TREE)
+                       {
+                         t = TYPE_VALUES (type);
+                         xlo = 0;
+                       }
+                     if (tree_int_cst_equal (val, TREE_VALUE (t)))
+                       {
+                         next_node_to_try = TREE_CHAIN (t);
+                         next_node_offset = xlo + 1;
+                         break;
+                       }
+                     xlo++;
+                     t = TREE_CHAIN (t);
+                     if (t == next_node_to_try)
+                       {
+                         xlo = -1;
+                         break;
+                       }
+                   }
+               }
+             else
+               {
+                 t = TYPE_MIN_VALUE (type);
+                 if (t)
+                   neg_double (TREE_INT_CST_LOW (t), TREE_INT_CST_HIGH (t),
+                               &xlo, &xhi);
+                 else
+                   xlo = xhi = 0;
+                 add_double (xlo, xhi,
+                             TREE_INT_CST_LOW (val), TREE_INT_CST_HIGH (val),
+                             &xlo, &xhi);
+               }
+             
+             if (xhi == 0 && xlo >= 0 && xlo < count)
+               BITARRAY_SET (cases_seen, xlo);
+             add_double (TREE_INT_CST_LOW (val), TREE_INT_CST_HIGH (val),
+                         1, 0,
+                         &TREE_INT_CST_LOW (val), &TREE_INT_CST_HIGH (val));
+           }
+       }
+    }
+}
+
 /* Called when the index of a switch statement is an enumerated type
    and there is no default label.
 
@@ -4345,44 +4779,66 @@ check_for_full_enumeration_handling (type)
   register tree chain;
   int all_values = 1;
 
+  /* True iff the selector type is a numbered set mode.  */
+  int sparseness = 0;
+
+  /* The number of possible selector values.  */
+  HOST_WIDE_INT size;
+
+  /* For each possible selector value. a one iff it has been matched
+     by a case value alternative.  */
+  unsigned char *cases_seen;
+
+  /* The allocated size of cases_seen, in chars.  */
+  long bytes_needed;
+  tree t;
+
   if (output_bytecode)
     {
       bc_check_for_full_enumeration_handling (type);
       return;
     }
 
-  /* The time complexity of this loop is currently O(N * M), with
-     N being the number of members in the enumerated type, and
-     M being the number of case expressions in the switch. */
+  if (! warn_switch)
+    return;
+
+  size = all_cases_count (type, &sparseness);
+  bytes_needed = (size + HOST_BITS_PER_CHAR) / HOST_BITS_PER_CHAR;
 
-  for (chain = TYPE_VALUES (type);
-       chain;
-       chain = TREE_CHAIN (chain))
+  if (size > 0 && size < 600000
+      /* We deliberately use malloc here - not xmalloc.  */
+      && (cases_seen = (unsigned char *) malloc (bytes_needed)) != NULL)
     {
-      /* Find a match between enumeral and case expression, if possible.
-        Quit looking when we've gone too far (since case expressions
-        are kept sorted in ascending order).  Warn about enumerators not
-        handled in the switch statement case expression list. */
-
-      for (n = case_stack->data.case_stmt.case_list;
-          n && tree_int_cst_lt (n->high, TREE_VALUE (chain));
-          n = n->right)
-       ;
+      long i;
+      tree v = TYPE_VALUES (type);
+      bzero (cases_seen, bytes_needed);
+
+      /* The time complexity of this code is normally O(N), where
+        N being the number of members in the enumerated type.
+        However, if type is a ENUMERAL_TYPE whose values do not
+        increase monotonically, O(N*log(N)) time may be needed.  */
 
-      if (!n || tree_int_cst_lt (TREE_VALUE (chain), n->low))
+      mark_seen_cases (type, cases_seen, size, sparseness);
+
+      for (i = 0;  v != NULL_TREE && i < size; i++, v = TREE_CHAIN (v))
        {
-         if (warn_switch)
+         if (BITARRAY_TEST(cases_seen, i) == 0)
            warning ("enumeration value `%s' not handled in switch",
-                    IDENTIFIER_POINTER (TREE_PURPOSE (chain)));
-         all_values = 0;
+                    IDENTIFIER_POINTER (TREE_PURPOSE (v)));
        }
+
+      free (cases_seen);
     }
 
   /* Now we go the other way around; we warn if there are case
      expressions that don't correspond to enumerators.  This can
      occur since C and C++ don't enforce type-checking of
-     assignments to enumeration variables. */
+     assignments to enumeration variables.  */
 
+  if (case_stack->data.case_stmt.case_list
+      && case_stack->data.case_stmt.case_list->left)
+    case_stack->data.case_stmt.case_list
+      = case_tree2list (case_stack->data.case_stmt.case_list, 0);
   if (warn_switch)
     for (n = case_stack->data.case_stmt.case_list; n; n = n->right)
       {
@@ -4430,7 +4886,7 @@ check_for_full_enumeration_handling (type)
 #if 0
   /* ??? This optimization is disabled because it causes valid programs to
      fail.  ANSI C does not guarantee that an expression with enum type
-     will have a value that is the same as one of the enumation literals.  */
+     will have a value that is the same as one of the enumeration literals.  */
 
   /* If all values were found as case labels, make one of them the default
      label.  Thus, this switch will never fall through.  We arbitrarily pick
@@ -4454,7 +4910,8 @@ check_for_full_enumeration_handling (type)
 /* Check that all enumeration literals are covered by the case
    expressions of a switch.  Also warn if there are any cases
    that are not elements of the enumerated type.  */
-void
+
+static void
 bc_check_for_full_enumeration_handling (type)
      tree type;
 {
@@ -4509,7 +4966,7 @@ expand_end_case (orig_index)
   register int i;
   rtx before_case;
   register struct nesting *thiscase = case_stack;
-  tree index_expr;
+  tree index_expr, index_type;
   int unsignedp;
 
   if (output_bytecode)
@@ -4520,12 +4977,13 @@ expand_end_case (orig_index)
 
   table_label = gen_label_rtx ();
   index_expr = thiscase->data.case_stmt.index_expr;
-  unsignedp = TREE_UNSIGNED (TREE_TYPE (index_expr));
+  index_type = TREE_TYPE (index_expr);
+  unsignedp = TREE_UNSIGNED (index_type);
 
   do_pending_stack_adjust ();
 
   /* An ERROR_MARK occurs for various reasons including invalid data type.  */
-  if (TREE_TYPE (index_expr) != error_mark_node)
+  if (index_type != error_mark_node)
     {
       /* If switch expression was an enumerated type, check that all
         enumeration literals are covered by the cases.
@@ -4564,6 +5022,11 @@ expand_end_case (orig_index)
 
       before_case = get_last_insn ();
 
+      if (thiscase->data.case_stmt.case_list
+         && thiscase->data.case_stmt.case_list->left)
+       thiscase->data.case_stmt.case_list
+         = case_tree2list(thiscase->data.case_stmt.case_list, 0);
+
       /* Simplify the case-list before we count it.  */
       group_case_nodes (thiscase->data.case_stmt.case_list);
 
@@ -4579,8 +5042,8 @@ expand_end_case (orig_index)
          if (TREE_CODE (n->high) != INTEGER_CST)
            abort ();
 
-         n->low = convert (TREE_TYPE (index_expr), n->low);
-         n->high = convert (TREE_TYPE (index_expr), n->high);
+         n->low = convert (index_type, n->low);
+         n->high = convert (index_type, n->high);
 
          /* Count the elements and track the largest and smallest
             of them (treating them as signed even if they are not).  */
@@ -4605,10 +5068,9 @@ expand_end_case (orig_index)
 
       /* Compute span of values.  */
       if (count != 0)
-       range = fold (build (MINUS_EXPR, TREE_TYPE (index_expr),
-                            maxval, minval));
+       range = fold (build (MINUS_EXPR, index_type, maxval, minval));
 
-      if (count == 0 || TREE_CODE (TREE_TYPE (index_expr)) == ERROR_MARK)
+      if (count == 0)
        {
          expand_expr (index_expr, const0_rtx, VOIDmode, 0);
          emit_queue ();
@@ -4635,6 +5097,9 @@ expand_end_case (orig_index)
               || count < CASE_VALUES_THRESHOLD
               || ((unsigned HOST_WIDE_INT) (TREE_INT_CST_LOW (range))
                   > 10 * count)
+#ifndef ASM_OUTPUT_ADDR_DIFF_ELT
+              || flag_pic
+#endif
               || TREE_CODE (index_expr) == INTEGER_CST
               /* These will reduce to a constant.  */
               || (TREE_CODE (index_expr) == CALL_EXPR
@@ -4681,8 +5146,8 @@ expand_end_case (orig_index)
                {
                  index_expr
                    = build_int_2 (INTVAL (index),
-                                  !unsignedp && INTVAL (index) >= 0 ? 0 : -1);
-                 index_expr = convert (TREE_TYPE (index_expr), index_expr);
+                                  unsignedp || INTVAL (index) >= 0 ? 0 : -1);
+                 index_expr = convert (index_type, index_expr);
                }
 
              /* For constant index expressions we need only
@@ -4690,14 +5155,11 @@ expand_end_case (orig_index)
                 target code.  The job of removing any unreachable
                 code is left to the optimisation phase if the
                 "-O" option is specified.  */
-             for (n = thiscase->data.case_stmt.case_list;
-                  n;
-                  n = n->right)
-               {
-                 if (! tree_int_cst_lt (index_expr, n->low)
-                     && ! tree_int_cst_lt (n->high, index_expr))
-                   break;
-               }
+             for (n = thiscase->data.case_stmt.case_list; n; n = n->right)
+               if (! tree_int_cst_lt (index_expr, n->low)
+                   && ! tree_int_cst_lt (n->high, index_expr))
+                 break;
+
              if (n)
                emit_jump (label_rtx (n->code_label));
              else
@@ -4725,7 +5187,7 @@ expand_end_case (orig_index)
              balance_case_nodes (&thiscase->data.case_stmt.case_list, 
                                  NULL_PTR);
              emit_case_nodes (index, thiscase->data.case_stmt.case_list,
-                              default_label, TREE_TYPE (index_expr));
+                              default_label, index_type);
              emit_jump_if_reachable (default_label);
            }
        }
@@ -4737,16 +5199,18 @@ expand_end_case (orig_index)
            {
              enum machine_mode index_mode = SImode;
              int index_bits = GET_MODE_BITSIZE (index_mode);
+             rtx op1, op2;
+             enum machine_mode op_mode;
 
              /* Convert the index to SImode.  */
-             if (GET_MODE_BITSIZE (TYPE_MODE (TREE_TYPE (index_expr)))
+             if (GET_MODE_BITSIZE (TYPE_MODE (index_type))
                  > GET_MODE_BITSIZE (index_mode))
                {
-                 enum machine_mode omode = TYPE_MODE (TREE_TYPE (index_expr));
+                 enum machine_mode omode = TYPE_MODE (index_type);
                  rtx rangertx = expand_expr (range, NULL_RTX, VOIDmode, 0);
 
                  /* We must handle the endpoints in the original mode.  */
-                 index_expr = build (MINUS_EXPR, TREE_TYPE (index_expr),
+                 index_expr = build (MINUS_EXPR, index_type,
                                      index_expr, minval);
                  minval = integer_zero_node;
                  index = expand_expr (index_expr, NULL_RTX, VOIDmode, 0);
@@ -4757,19 +5221,39 @@ expand_end_case (orig_index)
                }
              else
                {
-                 if (TYPE_MODE (TREE_TYPE (index_expr)) != index_mode)
-                   index_expr = convert (type_for_size (index_bits, 0),
-                                         index_expr);
+                 if (TYPE_MODE (index_type) != index_mode)
+                   {
+                     index_expr = convert (type_for_size (index_bits, 0),
+                                           index_expr);
+                     index_type = TREE_TYPE (index_expr);
+                   }
+
                  index = expand_expr (index_expr, NULL_RTX, VOIDmode, 0);
                }
              emit_queue ();
              index = protect_from_queue (index, 0);
              do_pending_stack_adjust ();
 
-             emit_jump_insn (gen_casesi (index, expand_expr (minval, NULL_RTX,
-                                                             VOIDmode, 0),
-                                         expand_expr (range, NULL_RTX,
-                                                      VOIDmode, 0),
+             op_mode = insn_operand_mode[(int)CODE_FOR_casesi][0];
+             if (! (*insn_operand_predicate[(int)CODE_FOR_casesi][0])
+                 (index, op_mode))
+               index = copy_to_mode_reg (op_mode, index);
+
+             op1 = expand_expr (minval, NULL_RTX, VOIDmode, 0);
+
+             op_mode = insn_operand_mode[(int)CODE_FOR_casesi][1];
+             if (! (*insn_operand_predicate[(int)CODE_FOR_casesi][1])
+                 (op1, op_mode))
+               op1 = copy_to_mode_reg (op_mode, op1);
+
+             op2 = expand_expr (range, NULL_RTX, VOIDmode, 0);
+
+             op_mode = insn_operand_mode[(int)CODE_FOR_casesi][2];
+             if (! (*insn_operand_predicate[(int)CODE_FOR_casesi][2])
+                 (op2, op_mode))
+               op2 = copy_to_mode_reg (op_mode, op2);
+
+             emit_jump_insn (gen_casesi (index, op1, op2,
                                          table_label, default_label));
              win = 1;
            }
@@ -4778,15 +5262,15 @@ expand_end_case (orig_index)
          if (! win && HAVE_tablejump)
            {
              index_expr = convert (thiscase->data.case_stmt.nominal_type,
-                                   fold (build (MINUS_EXPR,
-                                                TREE_TYPE (index_expr),
+                                   fold (build (MINUS_EXPR, index_type,
                                                 index_expr, minval)));
+             index_type = TREE_TYPE (index_expr);
              index = expand_expr (index_expr, NULL_RTX, VOIDmode, 0);
              emit_queue ();
              index = protect_from_queue (index, 0);
              do_pending_stack_adjust ();
 
-             do_tablejump (index, TYPE_MODE (TREE_TYPE (index_expr)),
+             do_tablejump (index, TYPE_MODE (index_type),
                            expand_expr (range, NULL_RTX, VOIDmode, 0),
                            table_label, default_label);
              win = 1;
@@ -4799,7 +5283,7 @@ expand_end_case (orig_index)
 
          ncases = TREE_INT_CST_LOW (range) + 1;
          labelvec = (rtx *) alloca (ncases * sizeof (rtx));
-         bzero (labelvec, ncases * sizeof (rtx));
+         bzero ((char *) labelvec, ncases * sizeof (rtx));
 
          for (n = thiscase->data.case_stmt.case_list; n; n = n->right)
            {
@@ -4853,6 +5337,7 @@ expand_end_case (orig_index)
       reorder_insns (before_case, get_last_insn (),
                     thiscase->data.case_stmt.start);
     }
+
   if (thiscase->exit_label)
     emit_label (thiscase->exit_label);
 
@@ -4861,10 +5346,33 @@ expand_end_case (orig_index)
   free_temp_slots ();
 }
 
+/* Convert the tree NODE into a list linked by the right field, with the left
+   field zeroed.  RIGHT is used for recursion; it is a list to be placed
+   rightmost in the resulting list.  */
+
+static struct case_node *
+case_tree2list (node, right)
+     struct case_node *node, *right;
+{
+  struct case_node *left;
+
+  if (node->right)
+    right = case_tree2list (node->right, right);
+
+  node->right = right;
+  if (left = node->left)
+    {
+      node->left = 0;
+      return case_tree2list (left, node);
+    }
+
+  return node;
+}
 
 /* Terminate a case statement.  EXPR is the original index
    expression.  */
-void
+
+static void
 bc_expand_end_case (expr)
      tree expr;
 {
@@ -4955,7 +5463,8 @@ bc_expand_end_case (expr)
 }
 
 
-/* Return unique bytecode ID. */
+/* Return unique bytecode ID.  */
+
 int 
 bc_new_uid ()
 {
@@ -5025,7 +5534,7 @@ estimate_case_costs (node)
   if (cost_table == NULL)
     {
       cost_table = ((short *) xmalloc (129 * sizeof (short))) + 1;
-      bzero (cost_table - 1, 129 * sizeof (short));
+      bzero ((char *) (cost_table - 1), 129 * sizeof (short));
 
       for (i = 0; i < 128; i++)
        {
@@ -5081,12 +5590,18 @@ group_case_nodes (head)
   while (node)
     {
       rtx lb = next_real_insn (label_rtx (node->code_label));
+      rtx lb2;
       case_node_ptr np = node;
 
       /* Try to group the successors of NODE with NODE.  */
       while (((np = np->right) != 0)
             /* Do they jump to the same place?  */
-            && next_real_insn (label_rtx (np->code_label)) == lb
+            && ((lb2 = next_real_insn (label_rtx (np->code_label))) == lb
+                || (lb != 0 && lb2 != 0
+                    && simplejump_p (lb)
+                    && simplejump_p (lb2)
+                    && rtx_equal_p (SET_SRC (PATTERN (lb)),
+                                    SET_SRC (PATTERN (lb2)))))
             /* Are their ranges consecutive?  */
             && tree_int_cst_equal (np->low,
                                    fold (build (PLUS_EXPR,
@@ -5395,7 +5910,7 @@ emit_case_nodes (index, node, default_label, index_type)
   else if (tree_int_cst_equal (node->low, node->high))
     {
       /* Node is single valued.  First see if the index expression matches
-        this node and then check our children, if any. */
+        this node and then check our children, if any.  */
 
       do_jump_if_equal (index, expand_expr (node->low, NULL_RTX, VOIDmode, 0),
                        label_rtx (node->code_label), unsignedp);
@@ -5661,10 +6176,6 @@ find_loop_tree_blocks ()
 {
   tree block = DECL_INITIAL (current_function_decl);
 
-  /* There first block is for the function body, and does not have
-     corresponding block notes.  Don't include it in the block vector.  */
-  block = BLOCK_SUBBLOCKS (block);
-
   block_vector = identify_blocks (block, get_insns ());
 }