OSDN Git Service

(notice_cc_update): Set CC_FCOMI is this is a float compare.
[pf3gnuchains/gcc-fork.git] / gcc / stmt.c
index 27bc9ec..6d78234 100644 (file)
@@ -1,5 +1,5 @@
 /* Expands front end tree to back end RTL for GNU C-Compiler
-   Copyright (C) 1987, 88, 89, 92, 93, 1994 Free Software Foundation, Inc.
+   Copyright (C) 1987, 88, 89, 92-6, 1997 Free Software Foundation, Inc.
 
 This file is part of GNU CC.
 
@@ -15,7 +15,8 @@ GNU General Public License for more details.
 
 You should have received a copy of the GNU General Public License
 along with GNU CC; see the file COPYING.  If not, write to
-the Free Software Foundation, 675 Mass Ave, Cambridge, MA 02139, USA.  */
+the Free Software Foundation, 59 Temple Place - Suite 330,
+Boston, MA 02111-1307, USA.  */
 
 
 /* This file handles the generation of rtl code from tree structure
@@ -40,6 +41,7 @@ the Free Software Foundation, 675 Mass Ave, Cambridge, MA 02139, USA.  */
 #include "rtl.h"
 #include "tree.h"
 #include "flags.h"
+#include "except.h"
 #include "function.h"
 #include "insn-flags.h"
 #include "insn-config.h"
@@ -105,10 +107,6 @@ extern rtx cleanup_label;
 
 extern rtx return_label;
 
-/* List (chain of EXPR_LISTs) of pseudo-regs of SAVE_EXPRs.
-   So we can mark them all live at the end of the function, if nonopt.  */
-extern rtx save_expr_regs;
-
 /* Offset to end of allocated area of stack frame.
    If stack grows down, this is the address of the last stack slot allocated.
    If stack grows up, this is the address for the next slot.  */
@@ -131,12 +129,10 @@ extern rtx arg_pointer_save_area;
 /* Chain of all RTL_EXPRs that have insns in them.  */
 extern tree rtl_expr_chain;
 
-#if 0  /* Turned off because 0 seems to work just as well.  */
-/* Cleanup lists are required for binding levels regardless of whether
-   that binding level has cleanups or not.  This node serves as the
-   cleanup list whenever an empty list is required.  */
-static tree empty_cleanup_list;
-#endif
+/* Stack allocation level in which temporaries for TARGET_EXPRs live.  */
+extern int target_temp_slot_level;
+
+extern int temp_slot_level;
 \f
 /* Functions and data structures for expanding case statements.  */
 
@@ -144,8 +140,9 @@ static tree empty_cleanup_list;
    statements.  We handle "range" labels; for a single-value label
    as in C, the high and low limits are the same.
 
-   A chain of case nodes is initially maintained via the RIGHT fields
-   in the nodes.  Nodes with higher case values are later in the list.
+   An AVL tree of case nodes is initially created, and later transformed
+   to a list linked via the RIGHT fields in the nodes.  Nodes with
+   higher case values are later in the list.
 
    Switch statements can be output in one of two forms.  A branch table
    is used if there are more than a few labels and the labels are dense
@@ -169,6 +166,7 @@ struct case_node
   tree                 low;    /* Lowest index value for this label */
   tree                 high;   /* Highest index value for this label */
   tree                 code_label; /* Label to jump to when node matches */
+  int                  balance;
 };
 
 typedef struct case_node case_node;
@@ -221,7 +219,7 @@ struct nesting
             and no `else' has been seen yet.  */
          rtx endif_label;
          /* Label for the end of this alternative.
-            This may be the end of the if or the next else/elseif. */
+            This may be the end of the if or the next else/elseif.  */
          rtx next_label;
        } cond;
       /* For loops.  */
@@ -231,6 +229,9 @@ struct nesting
          rtx start_label;
          /* Label at the end of the whole construct.  */
          rtx end_label;
+         /* Label before a jump that branches to the end of the whole
+            construct.  This is where destructors go if any.  */
+         rtx alt_end_label;
          /* Label for `continue' statement to jump to;
             this is in front of the stepper of the loop.  */
          rtx continue_label;
@@ -242,7 +243,7 @@ struct nesting
             in order of entry.  */
          int block_start_count;
          /* Nonzero => value to restore stack to on exit.  Complemented by
-            bc_stack_level (see below) when generating bytecodes. */
+            bc_stack_level (see below) when generating bytecodes.  */
          rtx stack_level;
          /* The NOTE that starts this contour.
             Used by expand_goto to check whether the destination
@@ -259,7 +260,7 @@ struct nesting
             as they were at the locus where this block appears.
             There is an element for each containing block,
             ordered innermost containing block first.
-            The tail of this list can be 0 (was empty_cleanup_list),
+            The tail of this list can be 0,
             if all remaining elements would be empty lists.
             The element's TREE_VALUE is the cleanup-list of that block,
             which may be null.  */
@@ -271,6 +272,28 @@ struct nesting
          int function_call_count;
          /* Bytecode specific: stack level to restore stack to on exit.  */
          int bc_stack_level;
+         /* Nonzero if this is associated with a EH region.  */
+         int exception_region;
+         /* The saved target_temp_slot_level from our outer block.
+            We may reset target_temp_slot_level to be the level of
+            this block, if that is done, target_temp_slot_level
+            reverts to the saved target_temp_slot_level at the very
+            end of the block.  */
+         int target_temp_slot_level;
+         /* True if we are currently emitting insns in an area of
+            output code that is controlled by a conditional
+            expression.  This is used by the cleanup handling code to
+            generate conditional cleanup actions.  */
+         int conditional_code;
+         /* A place to move the start of the exception region for any
+            of the conditional cleanups, must be at the end or after
+            the start of the last unconditional cleanup, and before any
+            conditional branch points.  */
+         rtx last_unconditional_cleanup;
+         /* When in a conditional context, this is the specific
+            cleanup list associated with last_unconditional_cleanup,
+            where we place the conditionalized cleanups.  */
+         tree *cleanup_ptr;
        } block;
       /* For switch (C) or case (Pascal) statements,
         and also for dummies (see `expand_start_case_dummy').  */
@@ -281,12 +304,11 @@ struct nesting
          rtx start;
          /* For bytecodes, the case table is in-lined right in the code.
             A label is needed for skipping over this block. It is only
-            used when generating bytecodes. */
+            used when generating bytecodes.  */
          rtx skip_label;
-         /* A list of case labels, kept in ascending order by value
-            as the list is built.
-            During expand_end_case, this list may be rearranged into a
-            nearly balanced binary tree.  */
+         /* A list of case labels; it is first built as an AVL tree.
+            During expand_end_case, this is converted to a list, and may be
+            rearranged into a nearly balanced binary tree.  */
          struct case_node *case_list;
          /* Label to jump to if no case matches.  */
          tree default_label;
@@ -301,29 +323,6 @@ struct nesting
          /* Nonzero if a case label has been seen in this case stmt.  */
          char seenlabel;
        } case_stmt;
-      /* For exception contours.  */
-      struct
-       {
-         /* List of exceptions raised.  This is a TREE_LIST
-            of whatever you want.  */
-         tree raised;
-         /* List of exceptions caught.  This is also a TREE_LIST
-            of whatever you want.  As a special case, it has the
-            value `void_type_node' if it handles default exceptions.  */
-         tree handled;
-
-         /* First insn of TRY block, in case resumptive model is needed.  */
-         rtx first_insn;
-         /* Label for the catch clauses.  */
-         rtx except_label;
-         /* Label for unhandled exceptions.  */
-         rtx unhandled_label;
-         /* Label at the end of whole construct.  */
-         rtx after_label;
-         /* Label which "escapes" the exception construct.
-            Like EXIT_LABEL for BREAK construct, but for exceptions.  */
-         rtx escape_label;
-       } except_stmt;
     } data;
 };
 
@@ -345,9 +344,6 @@ struct nesting *loop_stack;
 /* Chain of all pending case or switch statements.  */
 struct nesting *case_stack;
 
-/* Chain of all pending exception contours.  */
-struct nesting *except_stack;
-
 /* Separate chain including all of the above,
    chained through the `all' field.  */
 struct nesting *nesting_stack;
@@ -379,8 +375,6 @@ do { struct nesting *target = STACK;                        \
            stack_block_stack = stack_block_stack->next; \
          if (case_stack == this)                       \
            case_stack = case_stack->next;              \
-         if (except_stack == this)                     \
-           except_stack = except_stack->next;          \
          nesting_depth = nesting_stack->depth - 1;     \
          nesting_stack = this->all;                    \
          obstack_free (&stmt_obstack, this); }         \
@@ -417,7 +411,7 @@ struct goto_fixup
   rtx stack_level;
   /* List of lists of cleanup expressions to be run by this goto.
      There is one element for each block that this goto is within.
-     The tail of this list can be 0 (was empty_cleanup_list),
+     The tail of this list can be 0,
      if all remaining elements would be empty.
      The TREE_VALUE contains the cleanup list of that block as of the
      time this goto was seen.
@@ -461,7 +455,6 @@ static void fixup_gotos                     PROTO((struct nesting *, rtx, tree,
                                               rtx, int));
 static void bc_fixup_gotos             PROTO((struct nesting *, int, tree,
                                               rtx, int));
-static int warn_if_unused_value                PROTO((tree));
 static void bc_expand_start_cond       PROTO((tree, int));
 static void bc_expand_end_cond         PROTO((void));
 static void bc_expand_start_else       PROTO((void));
@@ -471,8 +464,9 @@ static void bc_expand_decl          PROTO((tree, tree));
 static void bc_expand_variable_local_init PROTO((tree));
 static void bc_expand_decl_init                PROTO((tree));
 static void expand_null_return_1       PROTO((rtx, int));
+static void expand_value_return                PROTO((rtx));
 static int tail_recursion_args         PROTO((tree, tree));
-static void expand_cleanups            PROTO((tree, tree));
+static void expand_cleanups            PROTO((tree, tree, int, int));
 static void bc_expand_start_case       PROTO((struct nesting *, tree,
                                               tree, char *));
 static int bc_pushcase                 PROTO((tree, tree));
@@ -488,16 +482,8 @@ static int node_has_high_bound             PROTO((case_node_ptr, tree));
 static int node_is_bounded             PROTO((case_node_ptr, tree));
 static void emit_jump_if_reachable     PROTO((rtx));
 static void emit_case_nodes            PROTO((rtx, case_node_ptr, rtx, tree));
-
-int bc_expand_exit_loop_if_false ();
-void bc_expand_start_cond ();
-void bc_expand_end_cond ();
-void bc_expand_start_else ();
-void bc_expand_end_bindings ();
-void bc_expand_start_case ();
-void bc_check_for_full_enumeration_handling ();
-void bc_expand_end_case ();
-void bc_expand_decl ();
+static int add_case_node               PROTO((tree, tree, tree, tree *));
+static struct case_node *case_tree2list        PROTO((case_node *, case_node *));
 
 extern rtx bc_allocate_local ();
 extern rtx bc_allocate_variable_array ();
@@ -506,9 +492,7 @@ void
 init_stmt ()
 {
   gcc_obstack_init (&stmt_obstack);
-#if 0
-  empty_cleanup_list = build_tree_list (NULL_TREE, NULL_TREE);
-#endif
+  init_eh ();
 }
 
 void
@@ -531,6 +515,8 @@ init_stmt_for_function ()
   /* We are not processing a ({...}) grouping.  */
   expr_stmts_for_value = 0;
   last_expr_type = 0;
+
+  init_eh_for_function ();
 }
 
 void
@@ -551,6 +537,7 @@ save_stmt_status (p)
   p->emit_filename = emit_filename;
   p->emit_lineno = emit_lineno;
   p->goto_fixup_chain = goto_fixup_chain;
+  save_eh_status (p);
 }
 
 void
@@ -571,6 +558,7 @@ restore_stmt_status (p)
   emit_filename = p->emit_filename;
   emit_lineno = p->emit_lineno;
   goto_fixup_chain = p->goto_fixup_chain;
+  restore_eh_status (p);
 }
 \f
 /* Emit a no-op instruction.  */
@@ -585,7 +573,8 @@ emit_nop ()
       last_insn = get_last_insn ();
       if (!optimize
          && (GET_CODE (last_insn) == CODE_LABEL
-             || prev_real_insn (last_insn) == 0))
+             || (GET_CODE (last_insn) == NOTE
+                 && prev_real_insn (last_insn) == 0)))
        emit_insn (gen_nop ());
     }
 }
@@ -632,7 +621,13 @@ expand_computed_goto (exp)
   else
     {
       rtx x = expand_expr (exp, NULL_RTX, VOIDmode, 0);
+
+#ifdef POINTERS_EXTEND_UNSIGNED
+      x = convert_memory_address (Pmode, x);
+#endif
+
       emit_queue ();
+      do_pending_stack_adjust ();
       emit_indirect_jump (x);
     }
 }
@@ -799,7 +794,7 @@ expand_goto_internal (body, label, last_insn)
   /* NOTICE!  If a bytecode instruction other than `jump' is needed,
      then the caller has to call bc_expand_goto_internal()
      directly. This is rather an exceptional case, and there aren't
-     that many places where this is necessary. */
+     that many places where this is necessary.  */
   if (output_bytecode)
     {
       expand_goto_internal (body, label, last_insn);
@@ -827,15 +822,16 @@ expand_goto_internal (body, label, last_insn)
          /* Execute the cleanups for blocks we are exiting.  */
          if (block->data.block.cleanups != 0)
            {
-             expand_cleanups (block->data.block.cleanups, NULL_TREE);
+             expand_cleanups (block->data.block.cleanups, NULL_TREE, 1, 1);
              do_pending_stack_adjust ();
            }
        }
 
       if (stack_level)
        {
-         /* Ensure stack adjust isn't done by emit_jump, as this would clobber
-            the stack pointer.  This one should be deleted as dead by flow. */
+         /* Ensure stack adjust isn't done by emit_jump, as this
+            would clobber the stack pointer.  This one should be
+            deleted as dead by flow.  */
          clear_pending_stack_adjust ();
          do_pending_stack_adjust ();
          emit_stack_restore (SAVE_BLOCK, stack_level, NULL_RTX);
@@ -859,7 +855,7 @@ expand_goto_internal (body, label, last_insn)
 }
 \f
 /* Generate a jump with OPCODE to the given bytecode LABEL which is
-   found within BODY. */
+   found within BODY.  */
 
 static void
 bc_expand_goto_internal (opcode, label, body)
@@ -872,7 +868,7 @@ bc_expand_goto_internal (opcode, label, body)
 
   /* If the label is defined, adjust the stack as necessary.
      If it's not defined, we have to push the reference on the
-     fixup list. */
+     fixup list.  */
 
   if (label->defined)
     {
@@ -891,7 +887,7 @@ bc_expand_goto_internal (opcode, label, body)
          /* Execute the cleanups for blocks we are exiting.  */
          if (block->data.block.cleanups != 0)
            {
-             expand_cleanups (block->data.block.cleanups, NULL_TREE);
+             expand_cleanups (block->data.block.cleanups, NULL_TREE, 1, 1);
              do_pending_stack_adjust ();
            }
        }
@@ -900,7 +896,7 @@ bc_expand_goto_internal (opcode, label, body)
         must do so after the jump, since the jump may depend on
         what's on the stack.  Thus, any stack-modifying conditional
         jumps (these are the only ones that rely on what's on the
-        stack) go into the fixup list. */
+        stack) go into the fixup list.  */
 
       if (stack_level >= 0
          && stack_depth != stack_level
@@ -1045,11 +1041,7 @@ expand_fixup (tree_label, rtl_label, last_insn)
       fixup->block_start_count = block_start_count;
       fixup->stack_level = 0;
       fixup->cleanup_list_list
-       = (((block->data.block.outer_cleanups
-#if 0
-            && block->data.block.outer_cleanups != empty_cleanup_list
-#endif
-            )
+       = ((block->data.block.outer_cleanups
            || block->data.block.cleanups)
           ? tree_cons (NULL_TREE, block->data.block.cleanups,
                        block->data.block.outer_cleanups)
@@ -1173,12 +1165,12 @@ fixup_gotos (thisblock, stack_level, cleanup_list, first_insn, dont_jump_in)
              && (after_label == 0
                  || INSN_UID (first_insn) < INSN_UID (after_label))
              && INSN_UID (first_insn) > INSN_UID (f->before_jump)
-             && ! DECL_REGISTER (f->target))
+             && ! DECL_ERROR_ISSUED (f->target))
            {
              error_with_decl (f->target,
                               "label `%s' used before containing binding contour");
              /* Prevent multiple errors for one label.  */
-             DECL_REGISTER (f->target) = 1;
+             DECL_ERROR_ISSUED (f->target) = 1;
            }
 
          /* We will expand the cleanups into a sequence of their own and
@@ -1204,7 +1196,7 @@ fixup_gotos (thisblock, stack_level, cleanup_list, first_insn, dont_jump_in)
                if (TREE_ADDRESSABLE (lists)
                    && TREE_VALUE (lists) != 0)
                  {
-                   expand_cleanups (TREE_VALUE (lists), 0);
+                   expand_cleanups (TREE_VALUE (lists), NULL_TREE, 1, 1);
                    /* Pop any pushes done in the cleanups,
                       in case function is about to return.  */
                    do_pending_stack_adjust ();
@@ -1236,30 +1228,44 @@ fixup_gotos (thisblock, stack_level, cleanup_list, first_insn, dont_jump_in)
        }
     }
 
-  /* Mark the cleanups of exited blocks so that they are executed
-     by the code above.  */
+  /* For any still-undefined labels, do the cleanups for this block now.
+     We must do this now since items in the cleanup list may go out
+     of scope when the block ends.  */
   for (prev = 0, f = goto_fixup_chain; f; prev = f, f = f->next)
     if (f->before_jump != 0
        && PREV_INSN (f->target_rtl) == 0
        /* Label has still not appeared.  If we are exiting a block with
           a stack level to restore, that started before the fixup,
           mark this stack level as needing restoration
-          when the fixup is later finalized.
-          Also mark the cleanup_list_list element for F
-          that corresponds to this block, so that ultimately
-          this block's cleanups will be executed by the code above.  */
+          when the fixup is later finalized.   */
        && thisblock != 0
-       /* Note: if THISBLOCK == 0 and we have a label that hasn't appeared,
-          it means the label is undefined.  That's erroneous, but possible.  */
+       /* Note: if THISBLOCK == 0 and we have a label that hasn't appeared, it
+          means the label is undefined.  That's erroneous, but possible.  */
        && (thisblock->data.block.block_start_count
            <= f->block_start_count))
       {
        tree lists = f->cleanup_list_list;
+       rtx cleanup_insns;
+
        for (; lists; lists = TREE_CHAIN (lists))
          /* If the following elt. corresponds to our containing block
             then the elt. must be for this block.  */
          if (TREE_CHAIN (lists) == thisblock->data.block.outer_cleanups)
-           TREE_ADDRESSABLE (lists) = 1;
+           {
+             start_sequence ();
+             pushlevel (0);
+             set_block (f->context);
+             expand_cleanups (TREE_VALUE (lists), NULL_TREE, 1, 1);
+             do_pending_stack_adjust ();
+             cleanup_insns = get_insns ();
+             poplevel (1, 0, 0);
+             end_sequence ();
+             if (cleanup_insns != 0)
+               f->before_jump
+                 = emit_insns_after (cleanup_insns, f->before_jump);
+
+             f->cleanup_list_list = TREE_CHAIN (lists);
+           }
 
        if (stack_level)
          f->stack_level = stack_level;
@@ -1311,8 +1317,8 @@ bc_fixup_gotos (thisblock, stack_level, cleanup_list, first_insn, dont_jump_in)
       /* Emit code to restore the stack and continue */
       bc_emit_bytecode_labeldef (f->label);
 
-      /* Save stack_depth across call, since bc_adjust_stack () will alter
-         the perceived stack depth via the instructions generated. */
+      /* Save stack_depth across call, since bc_adjust_stack will alter
+         the perceived stack depth via the instructions generated.  */
 
       if (f->bc_stack_level >= 0)
        {
@@ -1342,7 +1348,7 @@ expand_asm (body)
 {
   if (output_bytecode)
     {
-      error ("`asm' is illegal when generating bytecode");
+      error ("`asm' is invalid when generating bytecode");
       return;
     }
 
@@ -1380,17 +1386,21 @@ expand_asm_operands (string, outputs, inputs, clobbers, vol, filename, line)
   rtx body;
   int ninputs = list_length (inputs);
   int noutputs = list_length (outputs);
+  int ninout = 0;
   int nclobbers;
   tree tail;
   register int i;
   /* Vector of RTX's of evaluated output operands.  */
   rtx *output_rtx = (rtx *) alloca (noutputs * sizeof (rtx));
+  int *inout_opnum = (int *) alloca (noutputs * sizeof (int));
+  enum machine_mode *inout_mode
+    = (enum machine_mode *) alloca (noutputs * sizeof (enum machine_mode));
   /* The insn we have emitted.  */
   rtx insn;
 
   if (output_bytecode)
     {
-      error ("`asm' is illegal when generating bytecode");
+      error ("`asm' is invalid when generating bytecode");
       return;
     }
 
@@ -1403,6 +1413,8 @@ expand_asm_operands (string, outputs, inputs, clobbers, vol, filename, line)
       i = decode_reg_name (regname);
       if (i >= 0 || i == -4)
        ++nclobbers;
+      else if (i == -2)
+       error ("unknown register name `%s' in `asm'", regname);
     }
 
   last_expr_type = 0;
@@ -1410,60 +1422,105 @@ expand_asm_operands (string, outputs, inputs, clobbers, vol, filename, line)
   for (i = 0, tail = outputs; tail; tail = TREE_CHAIN (tail), i++)
     {
       tree val = TREE_VALUE (tail);
+      tree type = TREE_TYPE (val);
       tree val1;
       int j;
-      int found_equal;
+      int found_equal = 0;
+      int found_plus = 0;
+      int allows_reg = 0;
 
       /* If there's an erroneous arg, emit no insn.  */
       if (TREE_TYPE (val) == error_mark_node)
        return;
 
-      /* Make sure constraint has `=' and does not have `+'.  */
+      /* Make sure constraint has `=' and does not have `+'.  Also, see
+        if it allows any register.  Be liberal on the latter test, since
+        the worst that happens if we get it wrong is we issue an error
+        message.  */
 
-      found_equal = 0;
-      for (j = 0; j < TREE_STRING_LENGTH (TREE_PURPOSE (tail)); j++)
-       {
-         if (TREE_STRING_POINTER (TREE_PURPOSE (tail))[j] == '+')
-           {
-             error ("output operand constraint contains `+'");
-             return;
-           }
-         if (TREE_STRING_POINTER (TREE_PURPOSE (tail))[j] == '=')
+      for (j = 0; j < TREE_STRING_LENGTH (TREE_PURPOSE (tail)) - 1; j++)
+       switch (TREE_STRING_POINTER (TREE_PURPOSE (tail))[j])
+         {
+         case '+':
+           /* Make sure we can specify the matching operand.  */
+           if (i > 9)
+             {
+               error ("output operand constraint %d contains `+'", i);
+               return;
+             }
+
+           /* Replace '+' with '='.  */
+           TREE_STRING_POINTER (TREE_PURPOSE (tail))[j] = '=';
+           found_plus = 1;
+           break;
+
+         case '=':
            found_equal = 1;
-       }
-      if (! found_equal)
+           break;
+
+         case '?':  case '!':  case '*':  case '%':  case '&':
+         case 'V':  case 'm':  case 'o':  case '<':  case '>':
+         case 'E':  case 'F':  case 'G':  case 'H':  case 'X':
+         case 's':  case 'i':  case 'n':
+         case 'I':  case 'J':  case 'K':  case 'L':  case 'M':
+         case 'N':  case 'O':  case 'P':  case ',':
+#ifdef EXTRA_CONSTRAINT
+         case 'Q':  case 'R':  case 'S':  case 'T':  case 'U':
+#endif
+           break;
+
+         case '0':  case '1':  case '2':  case '3':  case '4':
+         case '5':  case '6':  case '7':  case '8':  case '9':
+           error ("matching constraint not valid in output operand");
+           break;
+
+         case 'p':  case 'g':  case 'r':
+         default:
+           allows_reg = 1;
+           break;
+         }
+
+      if (! found_equal && ! found_plus)
        {
          error ("output operand constraint lacks `='");
          return;
        }
 
-      /* If an output operand is not a variable or indirect ref,
-        or a part of one,
-        create a SAVE_EXPR which is a pseudo-reg
-        to act as an intermediate temporary.
-        Make the asm insn write into that, then copy it to
-        the real output operand.  */
+      /* If an output operand is not a decl or indirect ref and our constraint
+        allows a register, make a temporary to act as an intermediate.
+        Make the asm insn write into that, then our caller will copy it to
+        the real output operand.  Likewise for promoted variables.  */
+
+      if (TREE_CODE (val) == INDIRECT_REF
+         || (TREE_CODE_CLASS (TREE_CODE (val)) == 'd'
+             && ! (GET_CODE (DECL_RTL (val)) == REG
+                   && GET_MODE (DECL_RTL (val)) != TYPE_MODE (type)))
+         || ! allows_reg
+         || found_plus)
+       {
+         if (! allows_reg)
+           mark_addressable (TREE_VALUE (tail));
 
-      while (TREE_CODE (val) == COMPONENT_REF
-            || TREE_CODE (val) == ARRAY_REF)
-       val = TREE_OPERAND (val, 0);
+         output_rtx[i]
+           = expand_expr (TREE_VALUE (tail), NULL_RTX, VOIDmode, 0);
 
-      if (TREE_CODE (val) != VAR_DECL
-         && TREE_CODE (val) != PARM_DECL
-         && TREE_CODE (val) != INDIRECT_REF)
+         if (! allows_reg && GET_CODE (output_rtx[i]) != MEM)
+           error ("output number %d not directly addressable", i);
+       }
+      else
        {
-         TREE_VALUE (tail) = save_expr (TREE_VALUE (tail));
-         /* If it's a constant, print error now so don't crash later.  */
-         if (TREE_CODE (TREE_VALUE (tail)) != SAVE_EXPR)
-           {
-             error ("invalid output in `asm'");
-             return;
-           }
+         output_rtx[i] = assign_temp (type, 0, 0, 0);
+         TREE_VALUE (tail) = make_tree (type, output_rtx[i]);
        }
 
-      output_rtx[i] = expand_expr (TREE_VALUE (tail), NULL_RTX, VOIDmode, 0);
+      if (found_plus)
+       {
+         inout_mode[ninout] = TYPE_MODE (TREE_TYPE (TREE_VALUE (tail)));
+         inout_opnum[ninout++] = i;
+       }
     }
 
+  ninputs += ninout;
   if (ninputs + noutputs > MAX_RECOG_OPERANDS)
     {
       error ("more than %d operands in `asm'", MAX_RECOG_OPERANDS);
@@ -1487,6 +1544,7 @@ expand_asm_operands (string, outputs, inputs, clobbers, vol, filename, line)
   for (tail = inputs; tail; tail = TREE_CHAIN (tail))
     {
       int j;
+      int allows_reg = 0;
 
       /* If there's an erroneous arg, emit no insn,
         because the ASM_INPUT would get VOIDmode
@@ -1502,17 +1560,75 @@ expand_asm_operands (string, outputs, inputs, clobbers, vol, filename, line)
 
       /* Make sure constraint has neither `=' nor `+'.  */
 
-      for (j = 0; j < TREE_STRING_LENGTH (TREE_PURPOSE (tail)); j++)
-       if (TREE_STRING_POINTER (TREE_PURPOSE (tail))[j] == '='
-           || TREE_STRING_POINTER (TREE_PURPOSE (tail))[j] == '+')
+      for (j = 0; j < TREE_STRING_LENGTH (TREE_PURPOSE (tail)) - 1; j++)
+       switch (TREE_STRING_POINTER (TREE_PURPOSE (tail))[j])
          {
+         case '+':   case '=':
            error ("input operand constraint contains `%c'",
                   TREE_STRING_POINTER (TREE_PURPOSE (tail))[j]);
            return;
+
+         case '?':  case '!':  case '*':  case '%':  case '&':
+         case 'V':  case 'm':  case 'o':  case '<':  case '>':
+         case 'E':  case 'F':  case 'G':  case 'H':  case 'X':
+         case 's':  case 'i':  case 'n':
+         case 'I':  case 'J':  case 'K':  case 'L':  case 'M':
+         case 'N':  case 'O':  case 'P':  case ',':
+#ifdef EXTRA_CONSTRAINT
+         case 'Q':  case 'R':  case 'S':  case 'T':  case 'U':
+#endif
+           break;
+
+           /* Whether or not a numeric constraint allows a register is
+              decided by the matching constraint, and so there is no need
+              to do anything special with them.  We must handle them in
+              the default case, so that we don't unnecessarily force
+              operands to memory.  */
+         case '0':  case '1':  case '2':  case '3':  case '4':
+         case '5':  case '6':  case '7':  case '8':  case '9':
+           if (TREE_STRING_POINTER (TREE_PURPOSE (tail))[j]
+               >= '0' + noutputs)
+             error ("matching constraint references invalid operand number");
+
+           /* ... fall through ... */
+
+         case 'p':  case 'g':  case 'r':
+         default:
+           allows_reg = 1;
+           break;
          }
 
+      if (! allows_reg)
+       mark_addressable (TREE_VALUE (tail));
+
       XVECEXP (body, 3, i)      /* argvec */
        = expand_expr (TREE_VALUE (tail), NULL_RTX, VOIDmode, 0);
+      if (CONSTANT_P (XVECEXP (body, 3, i))
+         && ! general_operand (XVECEXP (body, 3, i),
+                               TYPE_MODE (TREE_TYPE (TREE_VALUE (tail)))))
+       {
+         if (allows_reg)
+           XVECEXP (body, 3, i)
+             = force_reg (TYPE_MODE (TREE_TYPE (TREE_VALUE (tail))),
+                          XVECEXP (body, 3, i));
+         else
+           XVECEXP (body, 3, i)
+             = force_const_mem (TYPE_MODE (TREE_TYPE (TREE_VALUE (tail))),
+                                XVECEXP (body, 3, i));
+       }
+
+      if (! allows_reg
+         && (GET_CODE (XVECEXP (body, 3, i)) == REG
+             || GET_CODE (XVECEXP (body, 3, i)) == SUBREG
+             || GET_CODE (XVECEXP (body, 3, i)) == CONCAT))
+       {
+         tree type = TREE_TYPE (TREE_VALUE (tail));
+         rtx memloc = assign_temp (type, 1, 1, 1);
+
+         emit_move_insn (memloc, XVECEXP (body, 3, i));
+         XVECEXP (body, 3, i) = memloc;
+       }
+         
       XVECEXP (body, 4, i)      /* constraints */
        = gen_rtx (ASM_INPUT, TYPE_MODE (TREE_TYPE (TREE_VALUE (tail))),
                   TREE_STRING_POINTER (TREE_PURPOSE (tail)));
@@ -1522,12 +1638,25 @@ expand_asm_operands (string, outputs, inputs, clobbers, vol, filename, line)
   /* Protect all the operands from the queue,
      now that they have all been evaluated.  */
 
-  for (i = 0; i < ninputs; i++)
+  for (i = 0; i < ninputs - ninout; i++)
     XVECEXP (body, 3, i) = protect_from_queue (XVECEXP (body, 3, i), 0);
 
   for (i = 0; i < noutputs; i++)
     output_rtx[i] = protect_from_queue (output_rtx[i], 1);
 
+  /* For in-out operands, copy output rtx to input rtx. */
+  for (i = 0; i < ninout; i++)
+    {
+      static char match[9+1][2]
+       = {"0", "1", "2", "3", "4", "5", "6", "7", "8", "9"};
+      int j = inout_opnum[i];
+
+      XVECEXP (body, 3, ninputs - ninout + i)      /* argvec */
+       = output_rtx[j];
+      XVECEXP (body, 4, ninputs - ninout + i)      /* constraints */
+       = gen_rtx (ASM_INPUT, inout_mode[j], match[j]);
+    }
+
   /* Now, for each output, construct an rtx
      (set OUTPUT (asm_operands INSN OUTPUTNUMBER OUTPUTCONSTRAINT
                               ARGVEC CONSTRAINTS))
@@ -1587,13 +1716,13 @@ expand_asm_operands (string, outputs, inputs, clobbers, vol, filename, line)
                {
                  XVECEXP (body, 0, i++)
                    = gen_rtx (CLOBBER, VOIDmode,
-                              gen_rtx (MEM, QImode,
+                              gen_rtx (MEM, BLKmode,
                                        gen_rtx (SCRATCH, VOIDmode, 0)));
                  continue;
                }
 
-             error ("unknown register name `%s' in `asm'", regname);
-             return;
+             /* Ignore unknown register, error already signalled.  */
+             continue;
            }
 
          /* Use QImode since that's guaranteed to clobber just one reg.  */
@@ -1643,6 +1772,12 @@ expand_expr_stmt (exp)
       else if (warn_unused)
        warn_if_unused_value (exp);
     }
+
+  /* If EXP is of function type and we are expanding statements for
+     value, convert it to pointer-to-function.  */
+  if (expr_stmts_for_value && TREE_CODE (TREE_TYPE (exp)) == FUNCTION_TYPE)
+    exp = build1 (ADDR_EXPR, build_pointer_type (TREE_TYPE (exp)), exp);
+
   last_expr_type = TREE_TYPE (exp);
   if (! flag_syntax_only)
     last_expr_value = expand_expr (exp,
@@ -1689,7 +1824,7 @@ expand_expr_stmt (exp)
 /* Warn if EXP contains any computations whose results are not used.
    Return 1 if a warning is printed; 0 otherwise.  */
 
-static int
+int
 warn_if_unused_value (exp)
      tree exp;
 {
@@ -1719,12 +1854,17 @@ warn_if_unused_value (exp)
       /* For a binding, warn if no side effect within it.  */
       return warn_if_unused_value (TREE_OPERAND (exp, 1));
 
+    case SAVE_EXPR:
+      return warn_if_unused_value (TREE_OPERAND (exp, 1));
+
     case TRUTH_ORIF_EXPR:
     case TRUTH_ANDIF_EXPR:
       /* In && or ||, warn if 2nd operand has no side effect.  */
       return warn_if_unused_value (TREE_OPERAND (exp, 1));
 
     case COMPOUND_EXPR:
+      if (TREE_NO_UNUSED_WARNING (exp))
+       return 0;
       if (warn_if_unused_value (TREE_OPERAND (exp, 0)))
        return 1;
       /* Let people do `(foo (), 0)' without a warning.  */
@@ -1751,17 +1891,26 @@ warn_if_unused_value (exp)
        while (TREE_CODE (tem) == CONVERT_EXPR || TREE_CODE (tem) == NOP_EXPR)
          tem = TREE_OPERAND (tem, 0);
 
-       if (TREE_CODE (tem) == MODIFY_EXPR)
+       if (TREE_CODE (tem) == MODIFY_EXPR || TREE_CODE (tem) == INIT_EXPR
+           || TREE_CODE (tem) == CALL_EXPR)
          return 0;
       }
-      /* ... fall through ... */
-
+      goto warn;
+
+    case INDIRECT_REF:
+      /* Don't warn about automatic dereferencing of references, since
+        the user cannot control it.  */
+      if (TREE_CODE (TREE_TYPE (TREE_OPERAND (exp, 0))) == REFERENCE_TYPE)
+       return warn_if_unused_value (TREE_OPERAND (exp, 0));
+      /* ... fall through ...  */
+      
     default:
       /* Referencing a volatile value is a side effect, so don't warn.  */
       if ((TREE_CODE_CLASS (TREE_CODE (exp)) == 'd'
           || TREE_CODE_CLASS (TREE_CODE (exp)) == 'r')
          && TREE_THIS_VOLATILE (exp))
        return 0;
+    warn:
       warning_with_file_and_line (emit_filename, emit_lineno,
                                  "value computed is not used");
       return 1;
@@ -1795,6 +1944,7 @@ expand_start_stmt_expr ()
   momentary = suspend_momentary ();
   t = make_node (RTL_EXPR);
   resume_momentary (momentary);
+  do_pending_stack_adjust ();
   start_sequence_for_rtl_expr (t);
   NO_DEFER_POP;
   expr_stmts_for_value++;
@@ -1830,7 +1980,7 @@ expand_end_stmt_expr (t)
         of adding code to inhibit dropping the last expression value, it
         is here recovered by undoing the `drop'.  Since `drop' is
         equivalent to `adjustackSI [1]', it can be undone with `adjstackSI
-        [-1]'. */
+        [-1]'.  */
       
       bc_adjust_stack (-1);
       
@@ -1885,306 +2035,6 @@ expand_end_stmt_expr (t)
   return t;
 }
 \f
-/* The exception handling nesting looks like this:
-
-               <-- Level N-1
-    {          <-- exception handler block
-               <-- Level N
-               <-- in an exception handler
-       {       <-- try block
-       :       <-- in a TRY block
-       :       <-- in an exception handler
-       :
-       }
-
-       {       <-- except block
-       :       <-- in an except block
-       :       <-- in an exception handler
-       :
-       }
-
-    }
-*/
-
-/* Return nonzero iff in a try block at level LEVEL.  */
-
-int
-in_try_block (level)
-     int level;
-{
-  struct nesting *n = except_stack;
-  while (1)
-    {
-      while (n && n->data.except_stmt.after_label != 0)
-       n = n->next;
-      if (n == 0)
-       return 0;
-      if (level == 0)
-       return n != 0;
-      level--;
-      n = n->next;
-    }
-}
-
-/* Return nonzero iff in an except block at level LEVEL.  */
-
-int
-in_except_block (level)
-     int level;
-{
-  struct nesting *n = except_stack;
-  while (1)
-    {
-      while (n && n->data.except_stmt.after_label == 0)
-       n = n->next;
-      if (n == 0)
-       return 0;
-      if (level == 0)
-       return n != 0;
-      level--;
-      n = n->next;
-    }
-}
-
-/* Return nonzero iff in an exception handler at level LEVEL.  */
-
-int
-in_exception_handler (level)
-     int level;
-{
-  struct nesting *n = except_stack;
-  while (n && level--)
-    n = n->next;
-  return n != 0;
-}
-
-/* Record the fact that the current exception nesting raises
-   exception EX.  If not in an exception handler, return 0.  */
-int
-expand_raise (ex)
-     tree ex;
-{
-  tree *raises_ptr;
-
-  if (except_stack == 0)
-    return 0;
-  raises_ptr = &except_stack->data.except_stmt.raised;
-  if (! value_member (ex, *raises_ptr))
-    *raises_ptr = tree_cons (NULL_TREE, ex, *raises_ptr);
-  return 1;
-}
-
-/* Generate RTL for the start of a try block.
-
-   TRY_CLAUSE is the condition to test to enter the try block.  */
-
-void
-expand_start_try (try_clause, exitflag, escapeflag)
-     tree try_clause;
-     int exitflag;
-     int escapeflag;
-{
-  struct nesting *thishandler = ALLOC_NESTING ();
-
-  /* Make an entry on cond_stack for the cond we are entering.  */
-
-  thishandler->next = except_stack;
-  thishandler->all = nesting_stack;
-  thishandler->depth = ++nesting_depth;
-  thishandler->data.except_stmt.raised = 0;
-  thishandler->data.except_stmt.handled = 0;
-  thishandler->data.except_stmt.first_insn = get_insns ();
-  thishandler->data.except_stmt.except_label = gen_label_rtx ();
-  thishandler->data.except_stmt.unhandled_label = 0;
-  thishandler->data.except_stmt.after_label = 0;
-  thishandler->data.except_stmt.escape_label
-    = escapeflag ? thishandler->data.except_stmt.except_label : 0;
-  thishandler->exit_label = exitflag ? gen_label_rtx () : 0;
-  except_stack = thishandler;
-  nesting_stack = thishandler;
-
-  do_jump (try_clause, thishandler->data.except_stmt.except_label, NULL_RTX);
-}
-
-/* End of a TRY block.  Nothing to do for now.  */
-
-void
-expand_end_try ()
-{
-  except_stack->data.except_stmt.after_label = gen_label_rtx ();
-  expand_goto_internal (NULL_TREE, except_stack->data.except_stmt.after_label,
-                       NULL_RTX);
-}
-
-/* Start an `except' nesting contour.
-   EXITFLAG says whether this contour should be able to `exit' something.
-   ESCAPEFLAG says whether this contour should be escapable.  */
-
-void
-expand_start_except (exitflag, escapeflag)
-     int exitflag;
-     int escapeflag;
-{
-  if (exitflag)
-    {
-      struct nesting *n;
-      /* An `exit' from catch clauses goes out to next exit level,
-        if there is one.  Otherwise, it just goes to the end
-        of the construct.  */
-      for (n = except_stack->next; n; n = n->next)
-       if (n->exit_label != 0)
-         {
-           except_stack->exit_label = n->exit_label;
-           break;
-         }
-      if (n == 0)
-       except_stack->exit_label = except_stack->data.except_stmt.after_label;
-    }
-  if (escapeflag)
-    {
-      struct nesting *n;
-      /* An `escape' from catch clauses goes out to next escape level,
-        if there is one.  Otherwise, it just goes to the end
-        of the construct.  */
-      for (n = except_stack->next; n; n = n->next)
-       if (n->data.except_stmt.escape_label != 0)
-         {
-           except_stack->data.except_stmt.escape_label
-             = n->data.except_stmt.escape_label;
-           break;
-         }
-      if (n == 0)
-       except_stack->data.except_stmt.escape_label
-         = except_stack->data.except_stmt.after_label;
-    }
-  do_pending_stack_adjust ();
-  emit_label (except_stack->data.except_stmt.except_label);
-}
-
-/* Generate code to `escape' from an exception contour.  This
-   is like `exiting', but does not conflict with constructs which
-   use `exit_label'.
-
-   Return nonzero if this contour is escapable, otherwise
-   return zero, and language-specific code will emit the
-   appropriate error message.  */
-int
-expand_escape_except ()
-{
-  struct nesting *n;
-  last_expr_type = 0;
-  for (n = except_stack; n; n = n->next)
-    if (n->data.except_stmt.escape_label != 0)
-      {
-       expand_goto_internal (NULL_TREE,
-                             n->data.except_stmt.escape_label, NULL_RTX);
-       return 1;
-      }
-
-  return 0;
-}
-
-/* Finish processing and `except' contour.
-   Culls out all exceptions which might be raise but not
-   handled, and returns the list to the caller.
-   Language-specific code is responsible for dealing with these
-   exceptions.  */
-
-tree
-expand_end_except ()
-{
-  struct nesting *n;
-  tree raised = NULL_TREE;
-
-  do_pending_stack_adjust ();
-  emit_label (except_stack->data.except_stmt.after_label);
-
-  n = except_stack->next;
-  if (n)
-    {
-      /* Propagate exceptions raised but not handled to next
-        highest level.  */
-      tree handled = except_stack->data.except_stmt.raised;
-      if (handled != void_type_node)
-       {
-         tree prev = NULL_TREE;
-         raised = except_stack->data.except_stmt.raised;
-         while (handled)
-           {
-             tree this_raise;
-             for (this_raise = raised, prev = 0; this_raise;
-                  this_raise = TREE_CHAIN (this_raise))
-               {
-                 if (value_member (TREE_VALUE (this_raise), handled))
-                   {
-                     if (prev)
-                       TREE_CHAIN (prev) = TREE_CHAIN (this_raise);
-                     else
-                       {
-                         raised = TREE_CHAIN (raised);
-                         if (raised == NULL_TREE)
-                           goto nada;
-                       }
-                   }
-                 else
-                   prev = this_raise;
-               }
-             handled = TREE_CHAIN (handled);
-           }
-         if (prev == NULL_TREE)
-           prev = raised;
-         if (prev)
-           TREE_CHAIN (prev) = n->data.except_stmt.raised;
-       nada:
-         n->data.except_stmt.raised = raised;
-       }
-    }
-
-  POPSTACK (except_stack);
-  last_expr_type = 0;
-  return raised;
-}
-
-/* Record that exception EX is caught by this exception handler.
-   Return nonzero if in exception handling construct, otherwise return 0.  */
-int
-expand_catch (ex)
-     tree ex;
-{
-  tree *raises_ptr;
-
-  if (except_stack == 0)
-    return 0;
-  raises_ptr = &except_stack->data.except_stmt.handled;
-  if (*raises_ptr != void_type_node
-      && ex != NULL_TREE
-      && ! value_member (ex, *raises_ptr))
-    *raises_ptr = tree_cons (NULL_TREE, ex, *raises_ptr);
-  return 1;
-}
-
-/* Record that this exception handler catches all exceptions.
-   Return nonzero if in exception handling construct, otherwise return 0.  */
-
-int
-expand_catch_default ()
-{
-  if (except_stack == 0)
-    return 0;
-  except_stack->data.except_stmt.handled = void_type_node;
-  return 1;
-}
-
-int
-expand_end_catch ()
-{
-  if (except_stack == 0 || except_stack->data.except_stmt.after_label == 0)
-    return 0;
-  expand_goto_internal (NULL_TREE, except_stack->data.except_stmt.after_label,
-                       NULL_RTX);
-  return 1;
-}
-\f
 /* Generate RTL for the start of an if-then.  COND is the expression
    whose truth should be tested.
 
@@ -2250,7 +2100,18 @@ expand_start_else ()
 
   emit_jump (cond_stack->data.cond.endif_label);
   emit_label (cond_stack->data.cond.next_label);
-  cond_stack->data.cond.next_label = 0;  /* No more _else or _elseif calls. */
+  cond_stack->data.cond.next_label = 0;  /* No more _else or _elseif calls.  */
+}
+
+/* After calling expand_start_else, turn this "else" into an "else if"
+   by providing another condition.  */
+
+void
+expand_elseif (cond)
+     tree cond;
+{
+  cond_stack->data.cond.next_label = gen_label_rtx ();
+  do_jump (cond, cond_stack->data.cond.next_label, NULL_RTX);
 }
 
 /* Generate RTL for the end of an if-then.
@@ -2280,7 +2141,7 @@ expand_end_cond ()
 /* Generate code for the start of an if-then.  COND is the expression
    whose truth is to be tested; if EXITFLAG is nonzero this conditional
    is to be visible to exit_something.  It is assumed that the caller
-   has pushed the previous context on the cond stack. */
+   has pushed the previous context on the cond stack.  */
 
 static void
 bc_expand_start_cond (cond, exitflag)
@@ -2352,6 +2213,7 @@ expand_start_loop (exit_flag)
   thisloop->depth = ++nesting_depth;
   thisloop->data.loop.start_label = gen_label_rtx ();
   thisloop->data.loop.end_label = gen_label_rtx ();
+  thisloop->data.loop.alt_end_label = 0;
   thisloop->data.loop.continue_label = thisloop->data.loop.start_label;
   thisloop->exit_label = exit_flag ? thisloop->data.loop.end_label : 0;
   loop_stack = thisloop;
@@ -2488,19 +2350,25 @@ expand_end_loop ()
              && SET_DEST (PATTERN (insn)) == pc_rtx
              && GET_CODE (SET_SRC (PATTERN (insn))) == IF_THEN_ELSE
              && ((GET_CODE (XEXP (SET_SRC (PATTERN (insn)), 1)) == LABEL_REF
-                  && (XEXP (XEXP (SET_SRC (PATTERN (insn)), 1), 0)
-                      == loop_stack->data.loop.end_label))
+                  && ((XEXP (XEXP (SET_SRC (PATTERN (insn)), 1), 0)
+                       == loop_stack->data.loop.end_label)
+                      || (XEXP (XEXP (SET_SRC (PATTERN (insn)), 1), 0)
+                          == loop_stack->data.loop.alt_end_label)))
                  || (GET_CODE (XEXP (SET_SRC (PATTERN (insn)), 2)) == LABEL_REF
-                     && (XEXP (XEXP (SET_SRC (PATTERN (insn)), 2), 0)
-                         == loop_stack->data.loop.end_label))))
+                     && ((XEXP (XEXP (SET_SRC (PATTERN (insn)), 2), 0)
+                          == loop_stack->data.loop.end_label)
+                         || (XEXP (XEXP (SET_SRC (PATTERN (insn)), 2), 0)
+                             == loop_stack->data.loop.alt_end_label)))))
            last_test_insn = insn;
 
          if (last_test_insn == 0 && GET_CODE (insn) == JUMP_INSN
              && GET_CODE (PATTERN (insn)) == SET
              && SET_DEST (PATTERN (insn)) == pc_rtx
              && GET_CODE (SET_SRC (PATTERN (insn))) == LABEL_REF
-             && (XEXP (SET_SRC (PATTERN (insn)), 0)
-                 == loop_stack->data.loop.end_label))
+             && ((XEXP (SET_SRC (PATTERN (insn)), 0)
+                  == loop_stack->data.loop.end_label)
+                 || (XEXP (SET_SRC (PATTERN (insn)), 0)
+                     == loop_stack->data.loop.alt_end_label)))
            /* Include BARRIER.  */
            last_test_insn = NEXT_INSN (insn);
        }
@@ -2595,7 +2463,22 @@ expand_exit_loop_if_false (whichloop, cond)
                               NULL_TREE);
     }
   else
-    do_jump (cond, whichloop->data.loop.end_label, NULL_RTX);
+    {
+      /* In order to handle fixups, we actually create a conditional jump
+        around a unconditional branch to exit the loop.  If fixups are
+        necessary, they go before the unconditional branch.  */
+
+      rtx label = gen_label_rtx ();
+      rtx last_insn;
+
+      do_jump (cond, NULL_RTX, label);
+      last_insn = get_last_insn ();
+      if (GET_CODE (last_insn) == CODE_LABEL)
+       whichloop->data.loop.alt_end_label = last_insn;
+      expand_goto_internal (NULL_TREE, whichloop->data.loop.end_label,
+                           NULL_RTX);
+      emit_label (label);
+    }
 
   return 1;
 }
@@ -2677,7 +2560,7 @@ expand_null_return ()
 
 /* Generate RTL to return from the current function, with value VAL.  */
 
-void
+static void
 expand_value_return (val)
      rtx val;
 {
@@ -2706,6 +2589,21 @@ expand_value_return (val)
   if (GET_CODE (return_reg) == REG
       && REGNO (return_reg) < FIRST_PSEUDO_REGISTER)
     emit_insn (gen_rtx (USE, VOIDmode, return_reg));
+  /* Handle calls that return values in multiple non-contiguous locations.
+     The Irix 6 ABI has examples of this.  */
+  else if (GET_CODE (return_reg) == PARALLEL)
+    {
+      int i;
+
+      for (i = 0; i < XVECLEN (return_reg, 0); i++)
+       {
+         rtx x = XEXP (XVECEXP (return_reg, 0, i), 0);
+
+         if (GET_CODE (x) == REG
+             && REGNO (x) < FIRST_PSEUDO_REGISTER)
+           emit_insn (gen_rtx (USE, VOIDmode, x));
+       }
+    }
 
   /* Does any pending block have cleanups?  */
 
@@ -2782,7 +2680,7 @@ expand_return (retval)
   struct nesting *block;
 
   /* Bytecode returns are quite simple, just leave the result on the
-     arithmetic stack. */
+     arithmetic stack.  */
   if (output_bytecode)
     {
       bc_expand_expr (retval);
@@ -2800,7 +2698,15 @@ expand_return (retval)
     }
 
   /* Are any cleanups needed?  E.g. C++ destructors to be run?  */
+  /* This is not sufficient.  We also need to watch for cleanups of the
+     expression we are about to expand.  Unfortunately, we cannot know
+     if it has cleanups until we expand it, and we want to change how we
+     expand it depending upon if we need cleanups.  We can't win.  */
+#if 0
   cleanups = any_pending_cleanups (1);
+#else
+  cleanups = 1;
+#endif
 
   if (TREE_CODE (retval) == RESULT_DECL)
     retval_rhs = retval;
@@ -2833,14 +2739,14 @@ expand_return (retval)
       tree expr;
 
       do_jump (TREE_OPERAND (retval_rhs, 0), label, NULL_RTX);
-      expr = build (MODIFY_EXPR, TREE_TYPE (current_function_decl),
+      expr = build (MODIFY_EXPR, TREE_TYPE (TREE_TYPE (current_function_decl)),
                    DECL_RESULT (current_function_decl),
                    TREE_OPERAND (retval_rhs, 1));
       TREE_SIDE_EFFECTS (expr) = 1;
       expand_return (expr);
       emit_label (label);
 
-      expr = build (MODIFY_EXPR, TREE_TYPE (current_function_decl),
+      expr = build (MODIFY_EXPR, TREE_TYPE (TREE_TYPE (current_function_decl)),
                    DECL_RESULT (current_function_decl),
                    TREE_OPERAND (retval_rhs, 2));
       TREE_SIDE_EFFECTS (expr) = 1;
@@ -2886,55 +2792,179 @@ expand_return (retval)
     {
       /* If this is  return x == y;  then generate
         if (x == y) return 1; else return 0;
-        if we can do it with explicit return insns and
-        branches are cheap.  */
+        if we can do it with explicit return insns and branches are cheap,
+        but not if we have the corresponding scc insn.  */
+      int has_scc = 0;
       if (retval_rhs)
        switch (TREE_CODE (retval_rhs))
          {
          case EQ_EXPR:
+#ifdef HAVE_seq
+           has_scc = HAVE_seq;
+#endif
          case NE_EXPR:
+#ifdef HAVE_sne
+           has_scc = HAVE_sne;
+#endif
          case GT_EXPR:
+#ifdef HAVE_sgt
+           has_scc = HAVE_sgt;
+#endif
          case GE_EXPR:
+#ifdef HAVE_sge
+           has_scc = HAVE_sge;
+#endif
          case LT_EXPR:
+#ifdef HAVE_slt
+           has_scc = HAVE_slt;
+#endif
          case LE_EXPR:
+#ifdef HAVE_sle
+           has_scc = HAVE_sle;
+#endif
          case TRUTH_ANDIF_EXPR:
          case TRUTH_ORIF_EXPR:
          case TRUTH_AND_EXPR:
          case TRUTH_OR_EXPR:
          case TRUTH_NOT_EXPR:
          case TRUTH_XOR_EXPR:
-           op0 = gen_label_rtx ();
-           jumpifnot (retval_rhs, op0);
-           expand_value_return (const1_rtx);
-           emit_label (op0);
-           expand_value_return (const0_rtx);
-           return;
+           if (! has_scc)
+             {
+               op0 = gen_label_rtx ();
+               jumpifnot (retval_rhs, op0);
+               expand_value_return (const1_rtx);
+               emit_label (op0);
+               expand_value_return (const0_rtx);
+               return;
+             }
          }
     }
 #endif /* HAVE_return */
 
-  if (cleanups
-      && retval_rhs != 0
-      && TREE_TYPE (retval_rhs) != void_type_node
+  /* If the result is an aggregate that is being returned in one (or more)
+     registers, load the registers here.  The compiler currently can't handle
+     copying a BLKmode value into registers.  We could put this code in a
+     more general area (for use by everyone instead of just function
+     call/return), but until this feature is generally usable it is kept here
+     (and in expand_call).  The value must go into a pseudo in case there
+     are cleanups that will clobber the real return register.  */
+
+  if (retval_rhs != 0
+      && TYPE_MODE (TREE_TYPE (retval_rhs)) == BLKmode
       && GET_CODE (DECL_RTL (DECL_RESULT (current_function_decl))) == REG)
     {
-      /* Calculate the return value into a pseudo reg.  */
-      val = expand_expr (retval_rhs, NULL_RTX, VOIDmode, 0);
-      emit_queue ();
-      /* All temporaries have now been used.  */
-      free_temp_slots ();
-      /* Return the calculated value, doing cleanups first.  */
-      expand_value_return (val);
-    }
-  else
-    {
-      /* No cleanups or no hard reg used;
-        calculate value into hard return reg.  */
-      expand_expr (retval, const0_rtx, VOIDmode, 0);
-      emit_queue ();
-      free_temp_slots ();
-      expand_value_return (DECL_RTL (DECL_RESULT (current_function_decl)));
-    }
+      int i, bitpos, xbitpos;
+      int big_endian_correction = 0;
+      int bytes = int_size_in_bytes (TREE_TYPE (retval_rhs));
+      int n_regs = (bytes + UNITS_PER_WORD - 1) / UNITS_PER_WORD;
+      int bitsize = MIN (TYPE_ALIGN (TREE_TYPE (retval_rhs)),BITS_PER_WORD);
+      rtx *result_pseudos = (rtx *) alloca (sizeof (rtx) * n_regs);
+      rtx result_reg, src, dst;
+      rtx result_val = expand_expr (retval_rhs, NULL_RTX, VOIDmode, 0);
+      enum machine_mode tmpmode, result_reg_mode;
+
+      /* Structures whose size is not a multiple of a word are aligned
+        to the least significant byte (to the right).  On a BYTES_BIG_ENDIAN
+        machine, this means we must skip the empty high order bytes when
+        calculating the bit offset.  */
+      if (BYTES_BIG_ENDIAN && bytes % UNITS_PER_WORD)
+       big_endian_correction = (BITS_PER_WORD - ((bytes % UNITS_PER_WORD)
+                                                 * BITS_PER_UNIT));
+
+      /* Copy the structure BITSIZE bits at a time.  */ 
+      for (bitpos = 0, xbitpos = big_endian_correction;
+          bitpos < bytes * BITS_PER_UNIT;
+          bitpos += bitsize, xbitpos += bitsize)
+       {
+         /* We need a new destination pseudo each time xbitpos is
+            on a word boundary and when xbitpos == big_endian_correction
+            (the first time through).  */
+         if (xbitpos % BITS_PER_WORD == 0
+             || xbitpos == big_endian_correction)
+           {
+             /* Generate an appropriate register.  */
+             dst = gen_reg_rtx (word_mode);
+             result_pseudos[xbitpos / BITS_PER_WORD] = dst;
+
+             /* Clobber the destination before we move anything into it.  */
+             emit_insn (gen_rtx (CLOBBER, VOIDmode, dst));
+           }
+
+         /* We need a new source operand each time bitpos is on a word
+            boundary.  */
+         if (bitpos % BITS_PER_WORD == 0)
+           src = operand_subword_force (result_val,
+                                        bitpos / BITS_PER_WORD,
+                                        BLKmode);
+
+         /* Use bitpos for the source extraction (left justified) and
+            xbitpos for the destination store (right justified).  */
+         store_bit_field (dst, bitsize, xbitpos % BITS_PER_WORD, word_mode,
+                          extract_bit_field (src, bitsize,
+                                             bitpos % BITS_PER_WORD, 1,
+                                             NULL_RTX, word_mode,
+                                             word_mode,
+                                             bitsize / BITS_PER_UNIT,
+                                             BITS_PER_WORD),
+                          bitsize / BITS_PER_UNIT, BITS_PER_WORD);
+       }
+
+      /* Find the smallest integer mode large enough to hold the
+        entire structure and use that mode instead of BLKmode
+        on the USE insn for the return register.   */
+      bytes = int_size_in_bytes (TREE_TYPE (retval_rhs));
+      for (tmpmode = GET_CLASS_NARROWEST_MODE (MODE_INT);
+          tmpmode != MAX_MACHINE_MODE;
+          tmpmode = GET_MODE_WIDER_MODE (tmpmode))
+       {
+         /* Have we found a large enough mode?  */
+         if (GET_MODE_SIZE (tmpmode) >= bytes)
+           break;
+       }
+
+      /* No suitable mode found.  */
+      if (tmpmode == MAX_MACHINE_MODE)
+       abort ();
+
+      PUT_MODE (DECL_RTL (DECL_RESULT (current_function_decl)), tmpmode);
+
+      if (GET_MODE_SIZE (tmpmode) < GET_MODE_SIZE (word_mode))
+       result_reg_mode = word_mode;
+      else
+       result_reg_mode = tmpmode;
+      result_reg = gen_reg_rtx (result_reg_mode);
+
+      emit_queue ();
+      for (i = 0; i < n_regs; i++)
+       emit_move_insn (operand_subword (result_reg, i, 0, result_reg_mode),
+                       result_pseudos[i]);
+
+      if (tmpmode != result_reg_mode)
+       result_reg = gen_lowpart (tmpmode, result_reg);
+
+      expand_value_return (result_reg);
+    }
+  else if (cleanups
+      && retval_rhs != 0
+      && TREE_TYPE (retval_rhs) != void_type_node
+      && GET_CODE (DECL_RTL (DECL_RESULT (current_function_decl))) == REG)
+    {
+      /* Calculate the return value into a pseudo reg.  */
+      val = gen_reg_rtx (DECL_MODE (DECL_RESULT (current_function_decl)));
+      val = expand_expr (retval_rhs, val, GET_MODE (val), 0);
+      val = force_not_mem (val);
+      emit_queue ();
+      /* Return the calculated value, doing cleanups first.  */
+      expand_value_return (val);
+    }
+  else
+    {
+      /* No cleanups or no hard reg used;
+        calculate value into hard return reg.  */
+      expand_expr (retval, const0_rtx, VOIDmode, 0);
+      emit_queue ();
+      expand_value_return (DECL_RTL (DECL_RESULT (current_function_decl)));
+    }
 }
 
 /* Return 1 if the end of the generated RTX is not a barrier.
@@ -2972,7 +3002,8 @@ tail_recursion_args (actuals, formals)
 
   for (a = actuals, f = formals, i = 0; a && f; a = TREE_CHAIN (a), f = TREE_CHAIN (f), i++)
     {
-      if (TREE_TYPE (TREE_VALUE (a)) != TREE_TYPE (f))
+      if (TYPE_MAIN_VARIANT (TREE_TYPE (TREE_VALUE (a)))
+         != TYPE_MAIN_VARIANT (TREE_TYPE (f)))
        return 0;
       if (GET_CODE (DECL_RTL (f)) != REG || DECL_MODE (f) == BLKmode)
        return 0;
@@ -3038,22 +3069,13 @@ expand_start_bindings (exit_flag)
   thisblock->data.block.stack_level = 0;
   thisblock->data.block.cleanups = 0;
   thisblock->data.block.function_call_count = 0;
-#if 0
-  if (block_stack)
-    {
-      if (block_stack->data.block.cleanups == NULL_TREE
-         && (block_stack->data.block.outer_cleanups == NULL_TREE
-             || block_stack->data.block.outer_cleanups == empty_cleanup_list))
-       thisblock->data.block.outer_cleanups = empty_cleanup_list;
-      else
-       thisblock->data.block.outer_cleanups
-         = tree_cons (NULL_TREE, block_stack->data.block.cleanups,
-                      block_stack->data.block.outer_cleanups);
-    }
-  else
-    thisblock->data.block.outer_cleanups = 0;
-#endif
-#if 1
+  thisblock->data.block.exception_region = 0;
+  thisblock->data.block.target_temp_slot_level = target_temp_slot_level;
+
+  thisblock->data.block.conditional_code = 0;
+  thisblock->data.block.last_unconditional_cleanup = note;
+  thisblock->data.block.cleanup_ptr = &thisblock->data.block.cleanups;
+
   if (block_stack
       && !(block_stack->data.block.cleanups == NULL_TREE
           && block_stack->data.block.outer_cleanups == NULL_TREE))
@@ -3062,7 +3084,6 @@ expand_start_bindings (exit_flag)
                   block_stack->data.block.outer_cleanups);
   else
     thisblock->data.block.outer_cleanups = 0;
-#endif
   thisblock->data.block.label_chain = 0;
   thisblock->data.block.innermost_stack_block = stack_block_stack;
   thisblock->data.block.first_insn = note;
@@ -3078,6 +3099,91 @@ expand_start_bindings (exit_flag)
     }
 }
 
+/* Specify the scope of temporaries created by TARGET_EXPRs.  Similar
+   to CLEANUP_POINT_EXPR, but handles cases when a series of calls to
+   expand_expr are made.  After we end the region, we know that all
+   space for all temporaries that were created by TARGET_EXPRs will be
+   destroyed and their space freed for reuse.  */
+
+void
+expand_start_target_temps ()
+{
+  /* This is so that even if the result is preserved, the space
+     allocated will be freed, as we know that it is no longer in use.  */
+  push_temp_slots ();
+
+  /* Start a new binding layer that will keep track of all cleanup
+     actions to be performed.  */
+  expand_start_bindings (0);
+
+  target_temp_slot_level = temp_slot_level;
+}
+
+void
+expand_end_target_temps ()
+{
+  expand_end_bindings (NULL_TREE, 0, 0);
+  
+  /* This is so that even if the result is preserved, the space
+     allocated will be freed, as we know that it is no longer in use.  */
+  pop_temp_slots ();
+}
+
+/* Mark top block of block_stack as an implicit binding for an
+   exception region.  This is used to prevent infinite recursion when
+   ending a binding with expand_end_bindings.  It is only ever called
+   by expand_eh_region_start, as that it the only way to create a
+   block stack for a exception region.  */
+
+void
+mark_block_as_eh_region ()
+{
+  block_stack->data.block.exception_region = 1;
+  if (block_stack->next
+      && block_stack->next->data.block.conditional_code)
+    {
+      block_stack->data.block.conditional_code
+       = block_stack->next->data.block.conditional_code;
+      block_stack->data.block.last_unconditional_cleanup
+       = block_stack->next->data.block.last_unconditional_cleanup;
+      block_stack->data.block.cleanup_ptr
+       = block_stack->next->data.block.cleanup_ptr;
+    }
+}
+
+/* True if we are currently emitting insns in an area of output code
+   that is controlled by a conditional expression.  This is used by
+   the cleanup handling code to generate conditional cleanup actions.  */
+
+int
+conditional_context ()
+{
+  return block_stack && block_stack->data.block.conditional_code;
+}
+
+/* Mark top block of block_stack as not for an implicit binding for an
+   exception region.  This is only ever done by expand_eh_region_end
+   to let expand_end_bindings know that it is being called explicitly
+   to end the binding layer for just the binding layer associated with
+   the exception region, otherwise expand_end_bindings would try and
+   end all implicit binding layers for exceptions regions, and then
+   one normal binding layer.  */
+
+void
+mark_block_as_not_eh_region ()
+{
+  block_stack->data.block.exception_region = 0;
+}
+
+/* True if the top block of block_stack was marked as for an exception
+   region by mark_block_as_eh_region.  */
+
+int
+is_eh_region ()
+{
+  return block_stack && block_stack->data.block.exception_region;
+}
+
 /* Given a pointer to a BLOCK node, save a pointer to the most recently
    generated NOTE_INSN_BLOCK_END in the BLOCK_END_NOTE field of the given
    BLOCK node.  */
@@ -3105,15 +3211,34 @@ expand_end_bindings (vars, mark_ends, dont_jump_in)
      int mark_ends;
      int dont_jump_in;
 {
-  register struct nesting *thisblock = block_stack;
+  register struct nesting *thisblock;
   register tree decl;
 
+  while (block_stack->data.block.exception_region)
+    {
+      /* Because we don't need or want a new temporary level and
+        because we didn't create one in expand_eh_region_start,
+        create a fake one now to avoid removing one in
+        expand_end_bindings.  */
+      push_temp_slots ();
+
+      block_stack->data.block.exception_region = 0;
+
+      expand_end_bindings (NULL_TREE, 0, 0);
+    }
+
   if (output_bytecode)
     {
       bc_expand_end_bindings (vars, mark_ends, dont_jump_in);
       return;
     }
 
+  /* Since expand_eh_region_start does an expand_start_bindings, we
+     have to first end all the bindings that were created by
+     expand_eh_region_start.  */
+     
+  thisblock = block_stack;
+
   if (warn_unused)
     for (decl = vars; decl; decl = TREE_CHAIN (decl))
       if (! TREE_USED (decl) && TREE_CODE (decl) == VAR_DECL
@@ -3185,7 +3310,7 @@ expand_end_bindings (vars, mark_ends, dont_jump_in)
           the original assignment true.
           So the following insn will actually be
           decrementing fp by STARTING_FRAME_OFFSET.  */
-       emit_move_insn (virtual_stack_vars_rtx, frame_pointer_rtx);
+       emit_move_insn (virtual_stack_vars_rtx, hard_frame_pointer_rtx);
 
 #if ARG_POINTER_REGNUM != HARD_FRAME_POINTER_REGNUM
       if (fixed_regs[ARG_POINTER_REGNUM])
@@ -3222,6 +3347,11 @@ expand_end_bindings (vars, mark_ends, dont_jump_in)
        }
 #endif
 
+#ifdef HAVE_nonlocal_goto_receiver
+      if (HAVE_nonlocal_goto_receiver)
+       emit_insn (gen_nonlocal_goto_receiver ());
+#endif
+
       /* The handler expects the desired label address in the static chain
         register.  It tests the address and does an appropriate jump
         to whatever label is desired.  */
@@ -3242,6 +3372,7 @@ expand_end_bindings (vars, mark_ends, dont_jump_in)
       /* If label is not recognized, abort.  */
       emit_library_call (gen_rtx (SYMBOL_REF, Pmode, "abort"), 0,
                         VOIDmode, 0);
+      emit_barrier ();
       emit_label (afterward);
     }
 
@@ -3273,6 +3404,9 @@ expand_end_bindings (vars, mark_ends, dont_jump_in)
   if (thisblock->data.block.stack_level != 0
       || thisblock->data.block.cleanups != 0)
     {
+      /* Only clean up here if this point can actually be reached.  */
+      int reachable = GET_CODE (get_last_insn ()) != BARRIER;
+
       /* Don't let cleanups affect ({...}) constructs.  */
       int old_expr_stmts_for_value = expr_stmts_for_value;
       rtx old_last_expr_value = last_expr_value;
@@ -3280,8 +3414,9 @@ expand_end_bindings (vars, mark_ends, dont_jump_in)
       expr_stmts_for_value = 0;
 
       /* Do the cleanups.  */
-      expand_cleanups (thisblock->data.block.cleanups, NULL_TREE);
-      do_pending_stack_adjust ();
+      expand_cleanups (thisblock->data.block.cleanups, NULL_TREE, 0, reachable);
+      if (reachable)
+       do_pending_stack_adjust ();
 
       expr_stmts_for_value = old_expr_stmts_for_value;
       last_expr_value = old_last_expr_value;
@@ -3289,7 +3424,7 @@ expand_end_bindings (vars, mark_ends, dont_jump_in)
 
       /* Restore the stack level.  */
 
-      if (thisblock->data.block.stack_level != 0)
+      if (reachable && thisblock->data.block.stack_level != 0)
        {
          emit_stack_restore (thisblock->next ? SAVE_BLOCK : SAVE_FUNCTION,
                              thisblock->data.block.stack_level, NULL_RTX);
@@ -3329,6 +3464,9 @@ expand_end_bindings (vars, mark_ends, dont_jump_in)
          use_variable (rtl);
       }
 
+  /* Restore the temporary level of TARGET_EXPRs.  */
+  target_temp_slot_level = thisblock->data.block.target_temp_slot_level;
+
   /* Restore block_stack level for containing block.  */
 
   stack_block_stack = thisblock->data.block.innermost_stack_block;
@@ -3368,22 +3506,7 @@ bc_expand_end_bindings (vars, mark_ends, dont_jump_in)
 }
 \f
 /* Generate RTL for the automatic variable declaration DECL.
-   (Other kinds of declarations are simply ignored if seen here.)
-   CLEANUP is an expression to be executed at exit from this binding contour;
-   for example, in C++, it might call the destructor for this variable.
-
-   If CLEANUP contains any SAVE_EXPRs, then you must preevaluate them
-   either before or after calling `expand_decl' but before compiling
-   any subsequent expressions.  This is because CLEANUP may be expanded
-   more than once, on different branches of execution.
-   For the same reason, CLEANUP may not contain a CALL_EXPR
-   except as its topmost node--else `preexpand_calls' would get confused.
-
-   If CLEANUP is nonzero and DECL is zero, we record a cleanup
-   that is not associated with any particular variable.
-
-   There is no special support here for C++ constructors.
-   They should be handled by the proper code in DECL_INITIAL.  */
+   (Other kinds of declarations are simply ignored if seen here.)  */
 
 void
 expand_decl (decl)
@@ -3425,6 +3548,7 @@ expand_decl (decl)
        /* An initializer is going to decide the size of this array.
           Until we know the size, represent its address with a reg.  */
        DECL_RTL (decl) = gen_rtx (MEM, BLKmode, gen_reg_rtx (Pmode));
+      MEM_IN_STRUCT_P (DECL_RTL (decl)) = AGGREGATE_TYPE_P (type);
     }
   else if (DECL_MODE (decl) != BLKmode
           /* If -ffloat-store, don't put explicit float vars
@@ -3440,28 +3564,15 @@ expand_decl (decl)
       enum machine_mode reg_mode
        = promote_mode (type, DECL_MODE (decl), &unsignedp, 0);
 
-      if (TREE_CODE (type) == COMPLEX_TYPE)
-       {
-         rtx realpart, imagpart;
-         enum machine_mode partmode = TYPE_MODE (TREE_TYPE (type));
-
-         /* For a complex type variable, make a CONCAT of two pseudos
-            so that the real and imaginary parts
-            can be allocated separately.  */
-         realpart = gen_reg_rtx (partmode);
-         REG_USERVAR_P (realpart) = 1;
-         imagpart = gen_reg_rtx (partmode);
-         REG_USERVAR_P (imagpart) = 1;
-         DECL_RTL (decl) = gen_rtx (CONCAT, reg_mode, realpart, imagpart);
-       }
-      else
-       {
-         DECL_RTL (decl) = gen_reg_rtx (reg_mode);
-         if (TREE_CODE (type) == POINTER_TYPE)
-           mark_reg_pointer (DECL_RTL (decl));
-         REG_USERVAR_P (DECL_RTL (decl)) = 1;
-       }
+      DECL_RTL (decl) = gen_reg_rtx (reg_mode);
+      mark_user_reg (DECL_RTL (decl));
+
+      if (TREE_CODE (type) == POINTER_TYPE)
+       mark_reg_pointer (DECL_RTL (decl),
+                         (TYPE_ALIGN (TREE_TYPE (TREE_TYPE (decl)))
+                          / BITS_PER_UNIT));
     }
+
   else if (TREE_CODE (DECL_SIZE (decl)) == INTEGER_CST)
     {
       /* Variable of fixed size that goes on the stack.  */
@@ -3486,6 +3597,7 @@ expand_decl (decl)
                               + BITS_PER_UNIT - 1)
                              / BITS_PER_UNIT),
                             1);
+      MEM_IN_STRUCT_P (DECL_RTL (decl)) = AGGREGATE_TYPE_P (TREE_TYPE (decl));
 
       /* Set alignment we actually gave this decl.  */
       DECL_ALIGN (decl) = (DECL_MODE (decl) == BLKmode ? BIGGEST_ALIGNMENT
@@ -3532,15 +3644,12 @@ expand_decl (decl)
                          NULL_RTX, VOIDmode, 0);
       free_temp_slots ();
 
-      /* This is equivalent to calling alloca.  */
-      current_function_calls_alloca = 1;
-
-      /* Allocate space on the stack for the variable.  */
+      /* Allocate space on the stack for the variable.  Note that
+        DECL_ALIGN says how the variable is to be aligned and we 
+        cannot use it to conclude anything about the alignment of
+        the size.  */
       address = allocate_dynamic_stack_space (size, NULL_RTX,
-                                             DECL_ALIGN (decl));
-
-      if (nonlocal_goto_handler_slot != 0)
-       emit_stack_save (SAVE_NONLOCAL, &nonlocal_goto_stack_level, NULL_RTX);
+                                             TYPE_ALIGN (TREE_TYPE (decl)));
 
       /* Reference the variable indirect through that rtx.  */
       DECL_RTL (decl) = gen_rtx (MEM, DECL_MODE (decl), address);
@@ -3610,7 +3719,7 @@ bc_expand_decl (decl, cleanup)
   else if (DECL_SIZE (decl) == 0)
 
     /* Variable with incomplete type.  The stack offset herein will be
-       fixed later in expand_decl_init ().  */
+       fixed later in expand_decl_init.  */
     DECL_RTL (decl) = bc_gen_rtx ((char *) 0, 0, (struct bc_label *) 0);
 
   else if (TREE_CONSTANT (DECL_SIZE (decl)))
@@ -3675,12 +3784,13 @@ expand_decl_init (decl)
   TREE_USED (decl) = was_used;
 
   /* Free any temporaries we made while initializing the decl.  */
+  preserve_temp_slots (NULL_RTX);
   free_temp_slots ();
 }
 
 /* Expand initialization for variable-sized types. Allocate array
    using newlocalSI and set local variable, which is a pointer to the
-   storage. */
+   storage.  */
 
 static void
 bc_expand_variable_local_init (decl)
@@ -3704,7 +3814,7 @@ bc_expand_variable_local_init (decl)
      using expand_address() since that would cause the pointer to be
      pushed rather than its address. Hence the hard-coded reference;
      notice also that the variable is always local (no global
-     variable-size type variables). */
+     variable-size type variables).  */
 
   bc_load_localaddr (DECL_RTL (decl));
   bc_emit_instruction (storeP);
@@ -3729,7 +3839,7 @@ bc_expand_decl_init (decl)
 
   /* If the type is variable-size, we first create its space (we ASSUME
      it CAN'T be static).  We do this regardless of whether there's an
-     initializer assignment or not. */
+     initializer assignment or not.  */
 
   if (TREE_CODE (DECL_SIZE (decl)) != INTEGER_CST)
     bc_expand_variable_local_init (decl);
@@ -3758,12 +3868,10 @@ bc_expand_decl_init (decl)
 /* CLEANUP is an expression to be executed at exit from this binding contour;
    for example, in C++, it might call the destructor for this variable.
 
-   If CLEANUP contains any SAVE_EXPRs, then you must preevaluate them
-   either before or after calling `expand_decl' but before compiling
-   any subsequent expressions.  This is because CLEANUP may be expanded
-   more than once, on different branches of execution.
-   For the same reason, CLEANUP may not contain a CALL_EXPR
-   except as its topmost node--else `preexpand_calls' would get confused.
+   We wrap CLEANUP in an UNSAVE_EXPR node, so that we can expand the
+   CLEANUP multiple times, and have the correct semantics.  This
+   happens in exception handling, for gotos, returns, breaks that
+   leave the current scope.
 
    If CLEANUP is nonzero and DECL is zero, we record a cleanup
    that is not associated with any particular variable.   */
@@ -3782,13 +3890,168 @@ expand_decl_cleanup (decl, cleanup)
 
   if (cleanup != 0)
     {
-      thisblock->data.block.cleanups
-       = temp_tree_cons (decl, cleanup, thisblock->data.block.cleanups);
-      /* If this block has a cleanup, it belongs in stack_block_stack.  */
-      stack_block_stack = thisblock;
+      tree t;
+      rtx seq;
+      tree *cleanups = &thisblock->data.block.cleanups;
+      int cond_context = conditional_context ();
+
+      if (cond_context)
+       {
+         rtx flag = gen_reg_rtx (word_mode);
+         rtx set_flag_0;
+         tree cond;
+
+         start_sequence ();
+         emit_move_insn (flag, const0_rtx);
+         set_flag_0 = get_insns ();
+         end_sequence ();
+
+         thisblock->data.block.last_unconditional_cleanup
+           = emit_insns_after (set_flag_0,
+                               thisblock->data.block.last_unconditional_cleanup);
+
+         emit_move_insn (flag, const1_rtx);
+
+         /* All cleanups must be on the function_obstack.  */
+         push_obstacks_nochange ();
+         resume_temporary_allocation ();
+
+         cond = build_decl (VAR_DECL, NULL_TREE, type_for_mode (word_mode, 1));
+         DECL_RTL (cond) = flag;
+
+         /* Conditionalize the cleanup.  */
+         cleanup = build (COND_EXPR, void_type_node,
+                          truthvalue_conversion (cond),
+                          cleanup, integer_zero_node);
+         cleanup = fold (cleanup);
+
+         pop_obstacks ();
+
+         cleanups = thisblock->data.block.cleanup_ptr;
+       }
+
+      /* All cleanups must be on the function_obstack.  */
+      push_obstacks_nochange ();
+      resume_temporary_allocation ();
+      cleanup = unsave_expr (cleanup);
+      pop_obstacks ();
+
+      t = *cleanups = temp_tree_cons (decl, cleanup, *cleanups);
+
+      if (! cond_context)
+       /* If this block has a cleanup, it belongs in stack_block_stack.  */
+       stack_block_stack = thisblock;
+
+      if (cond_context)
+       {
+         start_sequence ();
+       }
+
+      /* If this was optimized so that there is no exception region for the
+        cleanup, then mark the TREE_LIST node, so that we can later tell
+        if we need to call expand_eh_region_end.  */
+      if (expand_eh_region_start_tree (decl, cleanup))
+       TREE_ADDRESSABLE (t) = 1;
+
+      if (cond_context)
+       {
+         seq = get_insns ();
+         end_sequence ();
+         thisblock->data.block.last_unconditional_cleanup
+           = emit_insns_after (seq,
+                               thisblock->data.block.last_unconditional_cleanup);
+       }
+      else
+       {
+         thisblock->data.block.last_unconditional_cleanup
+           = get_last_insn ();
+         thisblock->data.block.cleanup_ptr = &thisblock->data.block.cleanups;
+       }
     }
   return 1;
 }
+
+/* Arrange for the top element of the dynamic cleanup chain to be
+   popped if we exit the current binding contour.  DECL is the
+   associated declaration, if any, otherwise NULL_TREE.  If the
+   current contour is left via an exception, then __sjthrow will pop
+   the top element off the dynamic cleanup chain.  The code that
+   avoids doing the action we push into the cleanup chain in the
+   exceptional case is contained in expand_cleanups.
+
+   This routine is only used by expand_eh_region_start, and that is
+   the only way in which an exception region should be started.  This
+   routine is only used when using the setjmp/longjmp codegen method
+   for exception handling.  */
+
+int
+expand_dcc_cleanup (decl)
+     tree decl;
+{
+  struct nesting *thisblock = block_stack;
+  tree cleanup;
+
+  /* Error if we are not in any block.  */
+  if (thisblock == 0)
+    return 0;
+
+  /* Record the cleanup for the dynamic handler chain.  */
+
+  /* All cleanups must be on the function_obstack.  */
+  push_obstacks_nochange ();
+  resume_temporary_allocation ();
+  cleanup = make_node (POPDCC_EXPR);
+  pop_obstacks ();
+
+  /* Add the cleanup in a manner similar to expand_decl_cleanup.  */
+  thisblock->data.block.cleanups
+    = temp_tree_cons (decl, cleanup, thisblock->data.block.cleanups);
+
+  /* If this block has a cleanup, it belongs in stack_block_stack.  */
+  stack_block_stack = thisblock;
+  return 1;
+}
+
+/* Arrange for the top element of the dynamic handler chain to be
+   popped if we exit the current binding contour.  DECL is the
+   assciated declaration, if any, otherwise NULL_TREE.  If the current
+   contour is left via an exception, then __sjthrow will pop the top
+   element off the dynamic handler chain.  The code that avoids doing
+   the action we push into the handler chain in the exceptional case
+   is contained in expand_cleanups.
+
+   This routine is only used by expand_eh_region_start, and that is
+   the only way in which an exception region should be started.  This
+   routine is only used when using the setjmp/longjmp codegen method
+   for exception handling.  */
+
+int
+expand_dhc_cleanup (decl)
+     tree decl;
+{
+  struct nesting *thisblock = block_stack;
+  tree cleanup;
+
+  /* Error if we are not in any block.  */
+  if (thisblock == 0)
+    return 0;
+
+  /* Record the cleanup for the dynamic handler chain.  */
+
+  /* All cleanups must be on the function_obstack.  */
+  push_obstacks_nochange ();
+  resume_temporary_allocation ();
+  cleanup = make_node (POPDHC_EXPR);
+  pop_obstacks ();
+
+  /* Add the cleanup in a manner similar to expand_decl_cleanup.  */
+  thisblock->data.block.cleanups
+    = temp_tree_cons (decl, cleanup, thisblock->data.block.cleanups);
+
+  /* If this block has a cleanup, it belongs in stack_block_stack.  */
+  stack_block_stack = thisblock;
+  return 1;
+}
 \f
 /* DECL is an anonymous union.  CLEANUP is a cleanup for DECL.
    DECL_ELTS is the list of elements that belong to DECL's type.
@@ -3801,7 +4064,8 @@ expand_anon_union_decl (decl, cleanup, decl_elts)
   struct nesting *thisblock = block_stack;
   rtx x;
 
-  expand_decl (decl, cleanup);
+  expand_decl (decl);
+  expand_decl_cleanup (decl, cleanup);
   x = DECL_RTL (decl);
 
   while (decl_elts)
@@ -3810,6 +4074,17 @@ expand_anon_union_decl (decl, cleanup, decl_elts)
       tree cleanup_elt = TREE_PURPOSE (decl_elts);
       enum machine_mode mode = TYPE_MODE (TREE_TYPE (decl_elt));
 
+      /* Propagate the union's alignment to the elements.  */
+      DECL_ALIGN (decl_elt) = DECL_ALIGN (decl);
+
+      /* If the element has BLKmode and the union doesn't, the union is
+         aligned such that the element doesn't need to have BLKmode, so
+         change the element's mode to the appropriate one for its size.  */
+      if (mode == BLKmode && DECL_MODE (decl) != BLKmode)
+       DECL_MODE (decl_elt) = mode
+         = mode_for_size (TREE_INT_CST_LOW (DECL_SIZE (decl_elt)),
+                          MODE_INT, 1);
+
       /* (SUBREG (MEM ...)) at RTL generation time is invalid, so we
          instead create a new MEM rtx with the proper mode.  */
       if (GET_CODE (x) == MEM)
@@ -3850,35 +4125,84 @@ expand_anon_union_decl (decl, cleanup, decl_elts)
    If DONT_DO is nonnull, then any list-element
    whose TREE_PURPOSE matches DONT_DO is omitted.
    This is sometimes used to avoid a cleanup associated with
-   a value that is being returned out of the scope.  */
+   a value that is being returned out of the scope.
+
+   If IN_FIXUP is non-zero, we are generating this cleanup for a fixup
+   goto and handle protection regions specially in that case.
+
+   If REACHABLE, we emit code, otherwise just inform the exception handling
+   code about this finalization.  */
 
 static void
-expand_cleanups (list, dont_do)
+expand_cleanups (list, dont_do, in_fixup, reachable)
      tree list;
      tree dont_do;
+     int in_fixup;
+     int reachable;
 {
   tree tail;
   for (tail = list; tail; tail = TREE_CHAIN (tail))
     if (dont_do == 0 || TREE_PURPOSE (tail) != dont_do)
       {
        if (TREE_CODE (TREE_VALUE (tail)) == TREE_LIST)
-         expand_cleanups (TREE_VALUE (tail), dont_do);
+         expand_cleanups (TREE_VALUE (tail), dont_do, in_fixup, reachable);
        else
          {
-           /* Cleanups may be run multiple times.  For example,
-              when exiting a binding contour, we expand the
-              cleanups associated with that contour.  When a goto
-              within that binding contour has a target outside that
-              contour, it will expand all cleanups from its scope to
-              the target.  Though the cleanups are expanded multiple
-              times, the control paths are non-overlapping so the
-              cleanups will not be executed twice.  */
-           expand_expr (TREE_VALUE (tail), const0_rtx, VOIDmode, 0);
-           free_temp_slots ();
+           if (! in_fixup)
+             {
+               tree cleanup = TREE_VALUE (tail);
+
+               /* See expand_d{h,c}c_cleanup for why we avoid this.  */
+               if (TREE_CODE (cleanup) != POPDHC_EXPR
+                   && TREE_CODE (cleanup) != POPDCC_EXPR
+                   /* See expand_eh_region_start_tree for this case.  */
+                   && ! TREE_ADDRESSABLE (tail))
+                 {
+                   cleanup = protect_with_terminate (cleanup);
+                   expand_eh_region_end (cleanup);
+                 }
+             }
+
+           if (reachable)
+             {
+               /* Cleanups may be run multiple times.  For example,
+                  when exiting a binding contour, we expand the
+                  cleanups associated with that contour.  When a goto
+                  within that binding contour has a target outside that
+                  contour, it will expand all cleanups from its scope to
+                  the target.  Though the cleanups are expanded multiple
+                  times, the control paths are non-overlapping so the
+                  cleanups will not be executed twice.  */
+               expand_expr (TREE_VALUE (tail), const0_rtx, VOIDmode, 0);
+               free_temp_slots ();
+             }
          }
       }
 }
 
+/* Mark when the context we are emitting RTL for as a conditional
+   context, so that any cleanup actions we register with
+   expand_decl_init will be properly conditionalized when those
+   cleanup actions are later performed.  Must be called before any
+   expression (tree) is expanded that is within a contidional context.  */
+
+void
+start_cleanup_deferal ()
+{
+  ++block_stack->data.block.conditional_code;
+}
+
+/* Mark the end of a conditional region of code.  Because cleanup
+   deferals may be nested, we may still be in a conditional region
+   after we end the currently deferred cleanups, only after we end all
+   deferred cleanups, are we back in unconditional code.  */
+
+void
+end_cleanup_deferal ()
+{
+  --block_stack->data.block.conditional_code;
+}
+
 /* Move all cleanups from the current block_stack
    to the containing block_stack, where they are assumed to
    have been created.  If anything can cause a temporary to
@@ -3922,11 +4246,7 @@ any_pending_cleanups (this_contour)
   if (this_contour && block_stack->data.block.cleanups != NULL)
     return 1;
   if (block_stack->data.block.cleanups == 0
-      && (block_stack->data.block.outer_cleanups == 0
-#if 0
-         || block_stack->data.block.outer_cleanups == empty_cleanup_list
-#endif
-         ))
+      && block_stack->data.block.outer_cleanups == 0)
     return 0;
 
   for (block = block_stack->next; block; block = block->next)
@@ -3987,11 +4307,13 @@ expand_start_case (exit_flag, expr, type, printname)
     emit_note (NULL_PTR, NOTE_INSN_DELETED);
 
   thiscase->data.case_stmt.start = get_last_insn ();
+
+  start_cleanup_deferal ();
 }
 
 
 /* Enter a case statement. It is assumed that the caller has pushed
-   the current context onto the case stack. */
+   the current context onto the case stack.  */
 
 static void
 bc_expand_start_case (thiscase, expr, type, printname)
@@ -4039,6 +4361,7 @@ expand_start_case_dummy ()
   thiscase->data.case_stmt.num_ranges = 0;
   case_stack = thiscase;
   nesting_stack = thiscase;
+  start_cleanup_deferal ();
 }
 
 /* End a dummy case statement.  */
@@ -4046,6 +4369,7 @@ expand_start_case_dummy ()
 void
 expand_end_case_dummy ()
 {
+  end_cleanup_deferal ();
   POPSTACK (case_stack);
 }
 
@@ -4070,7 +4394,7 @@ case_index_expr_type ()
    If VALUE is a duplicate or overlaps, return 2 and do nothing
    except store the (first) duplicate node in *DUPLICATE.
    If VALUE is out of range, return 3 and do nothing.
-   If we are jumping into the scope of a cleaup or var-sized array, return 5.
+   If we are jumping into the scope of a cleanup or var-sized array, return 5.
    Return 0 on success.
 
    Extended to handle range statements.  */
@@ -4146,36 +4470,7 @@ pushcase (value, converter, label, duplicate)
       case_stack->data.case_stmt.default_label = label;
     }
   else
-    {
-      /* Find the elt in the chain before which to insert the new value,
-        to keep the chain sorted in increasing order.
-        But report an error if this element is a duplicate.  */
-      for (l = &case_stack->data.case_stmt.case_list;
-          /* Keep going past elements distinctly less than VALUE.  */
-          *l != 0 && tree_int_cst_lt ((*l)->high, value);
-          l = &(*l)->right)
-       ;
-      if (*l)
-       {
-         /* Element we will insert before must be distinctly greater;
-            overlap means error.  */
-         if (! tree_int_cst_lt (value, (*l)->low))
-           {
-             *duplicate = (*l)->code_label;
-             return 2;
-           }
-       }
-
-      /* Add this label to the chain, and succeed.
-        Copy VALUE so it is on temporary rather than momentary
-        obstack and will thus survive till the end of the case statement.  */
-      n = (struct case_node *) oballoc (sizeof (struct case_node));
-      n->left = 0;
-      n->right = *l;
-      n->high = n->low = copy_node (value);
-      n->code_label = label;
-      *l = n;
-    }
+    return add_case_node (value, value, label, duplicate);
 
   expand_label (label);
   return 0;
@@ -4203,6 +4498,10 @@ pushcase_range (value1, value2, converter, label, duplicate)
   if (! (case_stack && case_stack->data.case_stmt.start))
     return 1;
 
+  /* Fail if the range is empty.  */
+  if (tree_int_cst_lt (value2, value1))
+    return 4;
+
   if (stack_block_stack
       && stack_block_stack->depth > case_stack->depth)
     return 5;
@@ -4236,12 +4535,12 @@ pushcase_range (value1, value2, converter, label, duplicate)
   case_stack->data.case_stmt.seenlabel = 1;
 
   /* Convert VALUEs to type in which the comparisons are nominally done.  */
-  if (value1 == 0)  /* Negative infinity. */
-    value1 = TYPE_MIN_VALUE(index_type);
+  if (value1 == 0)  /* Negative infinity.  */
+    value1 = TYPE_MIN_VALUE (index_type);
   value1 = (*converter) (nominal_type, value1);
 
-  if (value2 == 0)  /* Positive infinity. */
-    value2 = TYPE_MAX_VALUE(index_type);
+  if (value2 == 0)  /* Positive infinity.  */
+    value2 = TYPE_MAX_VALUE (index_type);
   value2 = (*converter) (nominal_type, value2);
 
   /* Fail if these values are out of range.  */
@@ -4251,60 +4550,246 @@ pushcase_range (value1, value2, converter, label, duplicate)
   if (! int_fits_type_p (value2, index_type))
     return 3;
 
-  /* Fail if the range is empty.  */
-  if (tree_int_cst_lt (value2, value1))
-    return 4;
+  return add_case_node (value1, value2, label, duplicate);
+}
 
-  /* If the bounds are equal, turn this into the one-value case.  */
-  if (tree_int_cst_equal (value1, value2))
-    return pushcase (value1, converter, label, duplicate);
-
-  /* Find the elt in the chain before which to insert the new value,
-     to keep the chain sorted in increasing order.
-     But report an error if this element is a duplicate.  */
-  for (l = &case_stack->data.case_stmt.case_list;
-       /* Keep going past elements distinctly less than this range.  */
-       *l != 0 && tree_int_cst_lt ((*l)->high, value1);
-       l = &(*l)->right)
-    ;
-  if (*l)
+/* Do the actual insertion of a case label for pushcase and pushcase_range
+   into case_stack->data.case_stmt.case_list.  Use an AVL tree to avoid
+   slowdown for large switch statements.  */
+
+static int
+add_case_node (low, high, label, duplicate)
+     tree low, high;
+     tree label;
+     tree *duplicate;
+{
+  struct case_node *p, **q, *r;
+
+  q = &case_stack->data.case_stmt.case_list;
+  p = *q;
+
+  while (r = *q)
     {
-      /* Element we will insert before must be distinctly greater;
-        overlap means error.  */
-      if (! tree_int_cst_lt (value2, (*l)->low))
+      p = r;
+
+      /* Keep going past elements distinctly greater than HIGH.  */
+      if (tree_int_cst_lt (high, p->low))
+       q = &p->left;
+
+      /* or distinctly less than LOW.  */
+      else if (tree_int_cst_lt (p->high, low))
+       q = &p->right;
+
+      else
        {
-         *duplicate = (*l)->code_label;
+         /* We have an overlap; this is an error.  */
+         *duplicate = p->code_label;
          return 2;
        }
     }
 
   /* Add this label to the chain, and succeed.
-     Copy VALUE1, VALUE2 so they are on temporary rather than momentary
+     Copy LOW, HIGH so they are on temporary rather than momentary
      obstack and will thus survive till the end of the case statement.  */
 
-  n = (struct case_node *) oballoc (sizeof (struct case_node));
-  n->left = 0;
-  n->right = *l;
-  n->low = copy_node (value1);
-  n->high = copy_node (value2);
-  n->code_label = label;
-  *l = n;
+  r = (struct case_node *) oballoc (sizeof (struct case_node));
+  r->low = copy_node (low);
+
+  /* If the bounds are equal, turn this into the one-value case.  */
+
+  if (tree_int_cst_equal (low, high))
+    r->high = r->low;
+  else
+    {
+      r->high = copy_node (high);
+      case_stack->data.case_stmt.num_ranges++;
+    }
 
+  r->code_label = label;
   expand_label (label);
 
-  case_stack->data.case_stmt.num_ranges++;
+  *q = r;
+  r->parent = p;
+  r->left = 0;
+  r->right = 0;
+  r->balance = 0;
+
+  while (p)
+    {
+      struct case_node *s;
+
+      if (r == p->left)
+       {
+         int b;
+
+         if (! (b = p->balance))
+           /* Growth propagation from left side.  */
+           p->balance = -1;
+         else if (b < 0)
+           {
+             if (r->balance < 0)
+               {
+                 /* R-Rotation */
+                 if (p->left = s = r->right)
+                   s->parent = p;
+
+                 r->right = p;
+                 p->balance = 0;
+                 r->balance = 0;
+                 s = p->parent;
+                 p->parent = r;
+
+                 if (r->parent = s)
+                   {
+                     if (s->left == p)
+                       s->left = r;
+                     else
+                       s->right = r;
+                   }
+                 else
+                   case_stack->data.case_stmt.case_list = r;
+               }
+             else
+               /* r->balance == +1 */
+               {
+                 /* LR-Rotation */
+
+                 int b2;
+                 struct case_node *t = r->right;
+
+                 if (p->left = s = t->right)
+                   s->parent = p;
+
+                 t->right = p;
+                 if (r->right = s = t->left)
+                   s->parent = r;
+
+                 t->left = r;
+                 b = t->balance;
+                 b2 = b < 0;
+                 p->balance = b2;
+                 b2 = -b2 - b;
+                 r->balance = b2;
+                 t->balance = 0;
+                 s = p->parent;
+                 p->parent = t;
+                 r->parent = t;
+
+                 if (t->parent = s)
+                   {
+                     if (s->left == p)
+                       s->left = t;
+                     else
+                       s->right = t;
+                   }
+                 else
+                   case_stack->data.case_stmt.case_list = t;
+               }
+             break;
+           }
+
+         else
+           {
+             /* p->balance == +1; growth of left side balances the node.  */
+             p->balance = 0;
+             break;
+           }
+       }
+      else
+       /* r == p->right */
+       {
+         int b;
+
+         if (! (b = p->balance))
+           /* Growth propagation from right side.  */
+           p->balance++;
+         else if (b > 0)
+           {
+             if (r->balance > 0)
+               {
+                 /* L-Rotation */
+
+                 if (p->right = s = r->left)
+                   s->parent = p;
+
+                 r->left = p;
+                 p->balance = 0;
+                 r->balance = 0;
+                 s = p->parent;
+                 p->parent = r;
+                 if (r->parent = s)
+                   {
+                     if (s->left == p)
+                       s->left = r;
+                     else
+                       s->right = r;
+                   }
+
+                 else
+                   case_stack->data.case_stmt.case_list = r;
+               }
+
+             else
+               /* r->balance == -1 */
+               {
+                 /* RL-Rotation */
+                 int b2;
+                 struct case_node *t = r->left;
+
+                 if (p->right = s = t->left)
+                   s->parent = p;
+
+                 t->left = p;
+
+                 if (r->left = s = t->right)
+                   s->parent = r;
+
+                 t->right = r;
+                 b = t->balance;
+                 b2 = b < 0;
+                 r->balance = b2;
+                 b2 = -b2 - b;
+                 p->balance = b2;
+                 t->balance = 0;
+                 s = p->parent;
+                 p->parent = t;
+                 r->parent = t;
+
+                 if (t->parent = s)
+                   {
+                     if (s->left == p)
+                       s->left = t;
+                     else
+                       s->right = t;
+                   }
+
+                 else
+                   case_stack->data.case_stmt.case_list = t;
+               }
+             break;
+           }
+         else
+           {
+             /* p->balance == -1; growth of right side balances the node.  */
+             p->balance = 0;
+             break;
+           }
+       }
+
+      r = p;
+      p = p->parent;
+    }
 
   return 0;
 }
 
-
 /* Accumulate one case or default label; VALUE is the value of the
    case, or nil for a default label.  If not currently inside a case,
    return 1 and do nothing.  If VALUE is a duplicate or overlaps, return
    2 and do nothing.  If VALUE is out of range, return 3 and do nothing.
    Return 0 on success.  This function is a leftover from the earlier
    bytecode compiler, which was based on gcc 1.37.  It should be
-   merged into pushcase. */
+   merged into pushcase.  */
 
 static int
 bc_pushcase (value, label)
@@ -4331,7 +4816,7 @@ bc_pushcase (value, label)
 
       if (case_label != thiscase->data.case_stmt.case_list
          && ! tree_int_cst_lt (case_label->high, value)
-         || case_label->left && ! tree_int_cst_lt (value, case_label->left->low))
+         || (case_label->left && ! tree_int_cst_lt (value, case_label->left->low)))
        return 2;
 
       new_label = (struct case_node *) oballoc (sizeof (struct case_node));
@@ -4353,6 +4838,220 @@ bc_pushcase (value, label)
   return 0;
 }
 \f
+/* Returns the number of possible values of TYPE.
+   Returns -1 if the number is unknown or variable.
+   Returns -2 if the number does not fit in a HOST_WIDE_INT.
+   Sets *SPARENESS to 2 if TYPE is an ENUMERAL_TYPE whose values
+   do not increase monotonically (there may be duplicates);
+   to 1 if the values increase monotonically, but not always by 1;
+   otherwise sets it to 0.  */
+
+HOST_WIDE_INT
+all_cases_count (type, spareness)
+     tree type;
+     int *spareness;
+{
+  HOST_WIDE_INT count, count_high = 0;
+  *spareness = 0;
+
+  switch (TREE_CODE (type))
+    {
+      tree t;
+    case BOOLEAN_TYPE:
+      count = 2;
+      break;
+    case CHAR_TYPE:
+      count = 1 << BITS_PER_UNIT;
+      break;
+    default:
+    case INTEGER_TYPE:
+      if (TREE_CODE (TYPE_MIN_VALUE (type)) != INTEGER_CST
+         || TREE_CODE (TYPE_MAX_VALUE (type)) != INTEGER_CST)
+       return -1;
+      else
+       {
+         /* count
+            = TREE_INT_CST_LOW (TYPE_MAX_VALUE (type))
+            - TREE_INT_CST_LOW (TYPE_MIN_VALUE (type)) + 1
+            but with overflow checking.  */
+         tree mint = TYPE_MIN_VALUE (type);
+         tree maxt = TYPE_MAX_VALUE (type);
+         HOST_WIDE_INT lo, hi;
+         neg_double(TREE_INT_CST_LOW (mint), TREE_INT_CST_HIGH (mint),
+                    &lo, &hi);
+         add_double(TREE_INT_CST_LOW (maxt), TREE_INT_CST_HIGH (maxt),
+                    lo, hi, &lo, &hi);
+         add_double (lo, hi, 1, 0, &lo, &hi);
+         if (hi != 0 || lo < 0)
+           return -2;
+         count = lo;
+       }
+      break;
+    case ENUMERAL_TYPE:
+      count = 0;
+      for (t = TYPE_VALUES (type); t != NULL_TREE; t = TREE_CHAIN (t))
+       {
+         if (TREE_CODE (TYPE_MIN_VALUE (type)) != INTEGER_CST
+             || TREE_CODE (TREE_VALUE (t)) != INTEGER_CST
+             || TREE_INT_CST_LOW (TYPE_MIN_VALUE (type)) + count
+             != TREE_INT_CST_LOW (TREE_VALUE (t)))
+           *spareness = 1;
+         count++;
+       }
+      if (*spareness == 1)
+       {
+         tree prev = TREE_VALUE (TYPE_VALUES (type));
+         for (t = TYPE_VALUES (type); t = TREE_CHAIN (t), t != NULL_TREE; )
+           {
+             if (! tree_int_cst_lt (prev, TREE_VALUE (t)))
+               {
+                 *spareness = 2;
+                 break;
+               }
+             prev = TREE_VALUE (t);
+           }
+         
+       }
+    }
+  return count;
+}
+
+
+#define BITARRAY_TEST(ARRAY, INDEX) \
+  ((ARRAY)[(unsigned) (INDEX) / HOST_BITS_PER_CHAR]\
+                         & (1 << ((unsigned) (INDEX) % HOST_BITS_PER_CHAR)))
+#define BITARRAY_SET(ARRAY, INDEX) \
+  ((ARRAY)[(unsigned) (INDEX) / HOST_BITS_PER_CHAR]\
+                         |= 1 << ((unsigned) (INDEX) % HOST_BITS_PER_CHAR))
+
+/* Set the elements of the bitstring CASES_SEEN (which has length COUNT),
+   with the case values we have seen, assuming the case expression
+   has the given TYPE.
+   SPARSENESS is as determined by all_cases_count.
+
+   The time needed is proportional to COUNT, unless
+   SPARSENESS is 2, in which case quadratic time is needed.  */
+
+void
+mark_seen_cases (type, cases_seen, count, sparseness)
+     tree type;
+     unsigned char *cases_seen;
+     long count;
+     int sparseness;
+{
+  long i;
+
+  tree next_node_to_try = NULL_TREE;
+  long next_node_offset = 0;
+
+  register struct case_node *n, *root = case_stack->data.case_stmt.case_list;
+  tree val = make_node (INTEGER_CST);
+  TREE_TYPE (val) = type;
+  if (! root)
+    ; /* Do nothing */
+  else if (sparseness == 2)
+    {
+      tree t;
+      HOST_WIDE_INT xlo;
+
+      /* This less efficient loop is only needed to handle
+        duplicate case values (multiple enum constants
+        with the same value).  */
+      TREE_TYPE (val) = TREE_TYPE (root->low);
+      for (t = TYPE_VALUES (type), xlo = 0;  t != NULL_TREE;
+          t = TREE_CHAIN (t), xlo++)
+       {
+         TREE_INT_CST_LOW (val) = TREE_INT_CST_LOW (TREE_VALUE (t));
+         TREE_INT_CST_HIGH (val) = TREE_INT_CST_HIGH (TREE_VALUE (t));
+         n = root;
+         do
+           {
+             /* Keep going past elements distinctly greater than VAL.  */
+             if (tree_int_cst_lt (val, n->low))
+               n = n->left;
+       
+             /* or distinctly less than VAL.  */
+             else if (tree_int_cst_lt (n->high, val))
+               n = n->right;
+       
+             else
+               {
+                 /* We have found a matching range.  */
+                 BITARRAY_SET (cases_seen, xlo);
+                 break;
+               }
+           }
+         while (n);
+       }
+    }
+  else
+    {
+      if (root->left)
+       case_stack->data.case_stmt.case_list = root = case_tree2list (root, 0);
+      for (n = root; n; n = n->right)
+       {
+         TREE_INT_CST_LOW (val) = TREE_INT_CST_LOW (n->low);
+         TREE_INT_CST_HIGH (val) = TREE_INT_CST_HIGH (n->low);
+         while ( ! tree_int_cst_lt (n->high, val))
+           {
+             /* Calculate (into xlo) the "offset" of the integer (val).
+                The element with lowest value has offset 0, the next smallest
+                element has offset 1, etc.  */
+
+             HOST_WIDE_INT xlo, xhi;
+             tree t;
+             if (sparseness && TYPE_VALUES (type) != NULL_TREE)
+               {
+                 /* The TYPE_VALUES will be in increasing order, so
+                    starting searching where we last ended.  */
+                 t = next_node_to_try;
+                 xlo = next_node_offset;
+                 xhi = 0;
+                 for (;;)
+                   {
+                     if (t == NULL_TREE)
+                       {
+                         t = TYPE_VALUES (type);
+                         xlo = 0;
+                       }
+                     if (tree_int_cst_equal (val, TREE_VALUE (t)))
+                       {
+                         next_node_to_try = TREE_CHAIN (t);
+                         next_node_offset = xlo + 1;
+                         break;
+                       }
+                     xlo++;
+                     t = TREE_CHAIN (t);
+                     if (t == next_node_to_try)
+                       {
+                         xlo = -1;
+                         break;
+                       }
+                   }
+               }
+             else
+               {
+                 t = TYPE_MIN_VALUE (type);
+                 if (t)
+                   neg_double (TREE_INT_CST_LOW (t), TREE_INT_CST_HIGH (t),
+                               &xlo, &xhi);
+                 else
+                   xlo = xhi = 0;
+                 add_double (xlo, xhi,
+                             TREE_INT_CST_LOW (val), TREE_INT_CST_HIGH (val),
+                             &xlo, &xhi);
+               }
+             
+             if (xhi == 0 && xlo >= 0 && xlo < count)
+               BITARRAY_SET (cases_seen, xlo);
+             add_double (TREE_INT_CST_LOW (val), TREE_INT_CST_HIGH (val),
+                         1, 0,
+                         &TREE_INT_CST_LOW (val), &TREE_INT_CST_HIGH (val));
+           }
+       }
+    }
+}
+
 /* Called when the index of a switch statement is an enumerated type
    and there is no default label.
 
@@ -4373,44 +5072,66 @@ check_for_full_enumeration_handling (type)
   register tree chain;
   int all_values = 1;
 
+  /* True iff the selector type is a numbered set mode.  */
+  int sparseness = 0;
+
+  /* The number of possible selector values.  */
+  HOST_WIDE_INT size;
+
+  /* For each possible selector value. a one iff it has been matched
+     by a case value alternative.  */
+  unsigned char *cases_seen;
+
+  /* The allocated size of cases_seen, in chars.  */
+  long bytes_needed;
+  tree t;
+
   if (output_bytecode)
     {
       bc_check_for_full_enumeration_handling (type);
       return;
     }
 
-  /* The time complexity of this loop is currently O(N * M), with
-     N being the number of members in the enumerated type, and
-     M being the number of case expressions in the switch. */
+  if (! warn_switch)
+    return;
+
+  size = all_cases_count (type, &sparseness);
+  bytes_needed = (size + HOST_BITS_PER_CHAR) / HOST_BITS_PER_CHAR;
 
-  for (chain = TYPE_VALUES (type);
-       chain;
-       chain = TREE_CHAIN (chain))
+  if (size > 0 && size < 600000
+      /* We deliberately use malloc here - not xmalloc.  */
+      && (cases_seen = (unsigned char *) malloc (bytes_needed)) != NULL)
     {
-      /* Find a match between enumeral and case expression, if possible.
-        Quit looking when we've gone too far (since case expressions
-        are kept sorted in ascending order).  Warn about enumerators not
-        handled in the switch statement case expression list. */
-
-      for (n = case_stack->data.case_stmt.case_list;
-          n && tree_int_cst_lt (n->high, TREE_VALUE (chain));
-          n = n->right)
-       ;
+      long i;
+      tree v = TYPE_VALUES (type);
+      bzero (cases_seen, bytes_needed);
 
-      if (!n || tree_int_cst_lt (TREE_VALUE (chain), n->low))
+      /* The time complexity of this code is normally O(N), where
+        N being the number of members in the enumerated type.
+        However, if type is a ENUMERAL_TYPE whose values do not
+        increase monotonically, O(N*log(N)) time may be needed.  */
+
+      mark_seen_cases (type, cases_seen, size, sparseness);
+
+      for (i = 0;  v != NULL_TREE && i < size; i++, v = TREE_CHAIN (v))
        {
-         if (warn_switch)
+         if (BITARRAY_TEST(cases_seen, i) == 0)
            warning ("enumeration value `%s' not handled in switch",
-                    IDENTIFIER_POINTER (TREE_PURPOSE (chain)));
-         all_values = 0;
+                    IDENTIFIER_POINTER (TREE_PURPOSE (v)));
        }
+
+      free (cases_seen);
     }
 
   /* Now we go the other way around; we warn if there are case
      expressions that don't correspond to enumerators.  This can
      occur since C and C++ don't enforce type-checking of
-     assignments to enumeration variables. */
+     assignments to enumeration variables.  */
 
+  if (case_stack->data.case_stmt.case_list
+      && case_stack->data.case_stmt.case_list->left)
+    case_stack->data.case_stmt.case_list
+      = case_tree2list (case_stack->data.case_stmt.case_list, 0);
   if (warn_switch)
     for (n = case_stack->data.case_stmt.case_list; n; n = n->right)
       {
@@ -4458,7 +5179,7 @@ check_for_full_enumeration_handling (type)
 #if 0
   /* ??? This optimization is disabled because it causes valid programs to
      fail.  ANSI C does not guarantee that an expression with enum type
-     will have a value that is the same as one of the enumation literals.  */
+     will have a value that is the same as one of the enumeration literals.  */
 
   /* If all values were found as case labels, make one of them the default
      label.  Thus, this switch will never fall through.  We arbitrarily pick
@@ -4538,7 +5259,7 @@ expand_end_case (orig_index)
   register int i;
   rtx before_case;
   register struct nesting *thiscase = case_stack;
-  tree index_expr;
+  tree index_expr, index_type;
   int unsignedp;
 
   if (output_bytecode)
@@ -4549,12 +5270,13 @@ expand_end_case (orig_index)
 
   table_label = gen_label_rtx ();
   index_expr = thiscase->data.case_stmt.index_expr;
-  unsignedp = TREE_UNSIGNED (TREE_TYPE (index_expr));
+  index_type = TREE_TYPE (index_expr);
+  unsignedp = TREE_UNSIGNED (index_type);
 
   do_pending_stack_adjust ();
 
   /* An ERROR_MARK occurs for various reasons including invalid data type.  */
-  if (TREE_TYPE (index_expr) != error_mark_node)
+  if (index_type != error_mark_node)
     {
       /* If switch expression was an enumerated type, check that all
         enumeration literals are covered by the cases.
@@ -4593,6 +5315,11 @@ expand_end_case (orig_index)
 
       before_case = get_last_insn ();
 
+      if (thiscase->data.case_stmt.case_list
+         && thiscase->data.case_stmt.case_list->left)
+       thiscase->data.case_stmt.case_list
+         = case_tree2list(thiscase->data.case_stmt.case_list, 0);
+
       /* Simplify the case-list before we count it.  */
       group_case_nodes (thiscase->data.case_stmt.case_list);
 
@@ -4608,8 +5335,8 @@ expand_end_case (orig_index)
          if (TREE_CODE (n->high) != INTEGER_CST)
            abort ();
 
-         n->low = convert (TREE_TYPE (index_expr), n->low);
-         n->high = convert (TREE_TYPE (index_expr), n->high);
+         n->low = convert (index_type, n->low);
+         n->high = convert (index_type, n->high);
 
          /* Count the elements and track the largest and smallest
             of them (treating them as signed even if they are not).  */
@@ -4634,10 +5361,11 @@ expand_end_case (orig_index)
 
       /* Compute span of values.  */
       if (count != 0)
-       range = fold (build (MINUS_EXPR, TREE_TYPE (index_expr),
-                            maxval, minval));
+       range = fold (build (MINUS_EXPR, index_type, maxval, minval));
+
+      end_cleanup_deferal ();
 
-      if (count == 0 || TREE_CODE (TREE_TYPE (index_expr)) == ERROR_MARK)
+      if (count == 0)
        {
          expand_expr (index_expr, const0_rtx, VOIDmode, 0);
          emit_queue ();
@@ -4664,6 +5392,9 @@ expand_end_case (orig_index)
               || count < CASE_VALUES_THRESHOLD
               || ((unsigned HOST_WIDE_INT) (TREE_INT_CST_LOW (range))
                   > 10 * count)
+#ifndef ASM_OUTPUT_ADDR_DIFF_ELT
+              || flag_pic
+#endif
               || TREE_CODE (index_expr) == INTEGER_CST
               /* These will reduce to a constant.  */
               || (TREE_CODE (index_expr) == CALL_EXPR
@@ -4710,8 +5441,8 @@ expand_end_case (orig_index)
                {
                  index_expr
                    = build_int_2 (INTVAL (index),
-                                  !unsignedp && INTVAL (index) >= 0 ? 0 : -1);
-                 index_expr = convert (TREE_TYPE (index_expr), index_expr);
+                                  unsignedp || INTVAL (index) >= 0 ? 0 : -1);
+                 index_expr = convert (index_type, index_expr);
                }
 
              /* For constant index expressions we need only
@@ -4719,14 +5450,11 @@ expand_end_case (orig_index)
                 target code.  The job of removing any unreachable
                 code is left to the optimisation phase if the
                 "-O" option is specified.  */
-             for (n = thiscase->data.case_stmt.case_list;
-                  n;
-                  n = n->right)
-               {
-                 if (! tree_int_cst_lt (index_expr, n->low)
-                     && ! tree_int_cst_lt (n->high, index_expr))
-                   break;
-               }
+             for (n = thiscase->data.case_stmt.case_list; n; n = n->right)
+               if (! tree_int_cst_lt (index_expr, n->low)
+                   && ! tree_int_cst_lt (n->high, index_expr))
+                 break;
+
              if (n)
                emit_jump (label_rtx (n->code_label));
              else
@@ -4754,7 +5482,7 @@ expand_end_case (orig_index)
              balance_case_nodes (&thiscase->data.case_stmt.case_list, 
                                  NULL_PTR);
              emit_case_nodes (index, thiscase->data.case_stmt.case_list,
-                              default_label, TREE_TYPE (index_expr));
+                              default_label, index_type);
              emit_jump_if_reachable (default_label);
            }
        }
@@ -4766,16 +5494,18 @@ expand_end_case (orig_index)
            {
              enum machine_mode index_mode = SImode;
              int index_bits = GET_MODE_BITSIZE (index_mode);
+             rtx op1, op2;
+             enum machine_mode op_mode;
 
              /* Convert the index to SImode.  */
-             if (GET_MODE_BITSIZE (TYPE_MODE (TREE_TYPE (index_expr)))
+             if (GET_MODE_BITSIZE (TYPE_MODE (index_type))
                  > GET_MODE_BITSIZE (index_mode))
                {
-                 enum machine_mode omode = TYPE_MODE (TREE_TYPE (index_expr));
+                 enum machine_mode omode = TYPE_MODE (index_type);
                  rtx rangertx = expand_expr (range, NULL_RTX, VOIDmode, 0);
 
                  /* We must handle the endpoints in the original mode.  */
-                 index_expr = build (MINUS_EXPR, TREE_TYPE (index_expr),
+                 index_expr = build (MINUS_EXPR, index_type,
                                      index_expr, minval);
                  minval = integer_zero_node;
                  index = expand_expr (index_expr, NULL_RTX, VOIDmode, 0);
@@ -4786,19 +5516,39 @@ expand_end_case (orig_index)
                }
              else
                {
-                 if (TYPE_MODE (TREE_TYPE (index_expr)) != index_mode)
-                   index_expr = convert (type_for_size (index_bits, 0),
-                                         index_expr);
+                 if (TYPE_MODE (index_type) != index_mode)
+                   {
+                     index_expr = convert (type_for_size (index_bits, 0),
+                                           index_expr);
+                     index_type = TREE_TYPE (index_expr);
+                   }
+
                  index = expand_expr (index_expr, NULL_RTX, VOIDmode, 0);
                }
              emit_queue ();
              index = protect_from_queue (index, 0);
              do_pending_stack_adjust ();
 
-             emit_jump_insn (gen_casesi (index, expand_expr (minval, NULL_RTX,
-                                                             VOIDmode, 0),
-                                         expand_expr (range, NULL_RTX,
-                                                      VOIDmode, 0),
+             op_mode = insn_operand_mode[(int)CODE_FOR_casesi][0];
+             if (! (*insn_operand_predicate[(int)CODE_FOR_casesi][0])
+                 (index, op_mode))
+               index = copy_to_mode_reg (op_mode, index);
+
+             op1 = expand_expr (minval, NULL_RTX, VOIDmode, 0);
+
+             op_mode = insn_operand_mode[(int)CODE_FOR_casesi][1];
+             if (! (*insn_operand_predicate[(int)CODE_FOR_casesi][1])
+                 (op1, op_mode))
+               op1 = copy_to_mode_reg (op_mode, op1);
+
+             op2 = expand_expr (range, NULL_RTX, VOIDmode, 0);
+
+             op_mode = insn_operand_mode[(int)CODE_FOR_casesi][2];
+             if (! (*insn_operand_predicate[(int)CODE_FOR_casesi][2])
+                 (op2, op_mode))
+               op2 = copy_to_mode_reg (op_mode, op2);
+
+             emit_jump_insn (gen_casesi (index, op1, op2,
                                          table_label, default_label));
              win = 1;
            }
@@ -4807,15 +5557,15 @@ expand_end_case (orig_index)
          if (! win && HAVE_tablejump)
            {
              index_expr = convert (thiscase->data.case_stmt.nominal_type,
-                                   fold (build (MINUS_EXPR,
-                                                TREE_TYPE (index_expr),
+                                   fold (build (MINUS_EXPR, index_type,
                                                 index_expr, minval)));
+             index_type = TREE_TYPE (index_expr);
              index = expand_expr (index_expr, NULL_RTX, VOIDmode, 0);
              emit_queue ();
              index = protect_from_queue (index, 0);
              do_pending_stack_adjust ();
 
-             do_tablejump (index, TYPE_MODE (TREE_TYPE (index_expr)),
+             do_tablejump (index, TYPE_MODE (index_type),
                            expand_expr (range, NULL_RTX, VOIDmode, 0),
                            table_label, default_label);
              win = 1;
@@ -4828,7 +5578,7 @@ expand_end_case (orig_index)
 
          ncases = TREE_INT_CST_LOW (range) + 1;
          labelvec = (rtx *) alloca (ncases * sizeof (rtx));
-         bzero (labelvec, ncases * sizeof (rtx));
+         bzero ((char *) labelvec, ncases * sizeof (rtx));
 
          for (n = thiscase->data.case_stmt.case_list; n; n = n->right)
            {
@@ -4882,6 +5632,9 @@ expand_end_case (orig_index)
       reorder_insns (before_case, get_last_insn (),
                     thiscase->data.case_stmt.start);
     }
+  else
+    end_cleanup_deferal ();
+
   if (thiscase->exit_label)
     emit_label (thiscase->exit_label);
 
@@ -4890,6 +5643,28 @@ expand_end_case (orig_index)
   free_temp_slots ();
 }
 
+/* Convert the tree NODE into a list linked by the right field, with the left
+   field zeroed.  RIGHT is used for recursion; it is a list to be placed
+   rightmost in the resulting list.  */
+
+static struct case_node *
+case_tree2list (node, right)
+     struct case_node *node, *right;
+{
+  struct case_node *left;
+
+  if (node->right)
+    right = case_tree2list (node->right, right);
+
+  node->right = right;
+  if (left = node->left)
+    {
+      node->left = 0;
+      return case_tree2list (left, node);
+    }
+
+  return node;
+}
 
 /* Terminate a case statement.  EXPR is the original index
    expression.  */
@@ -4985,7 +5760,7 @@ bc_expand_end_case (expr)
 }
 
 
-/* Return unique bytecode ID. */
+/* Return unique bytecode ID.  */
 
 int 
 bc_new_uid ()
@@ -5056,7 +5831,7 @@ estimate_case_costs (node)
   if (cost_table == NULL)
     {
       cost_table = ((short *) xmalloc (129 * sizeof (short))) + 1;
-      bzero (cost_table - 1, 129 * sizeof (short));
+      bzero ((char *) (cost_table - 1), 129 * sizeof (short));
 
       for (i = 0; i < 128; i++)
        {
@@ -5112,12 +5887,18 @@ group_case_nodes (head)
   while (node)
     {
       rtx lb = next_real_insn (label_rtx (node->code_label));
+      rtx lb2;
       case_node_ptr np = node;
 
       /* Try to group the successors of NODE with NODE.  */
       while (((np = np->right) != 0)
             /* Do they jump to the same place?  */
-            && next_real_insn (label_rtx (np->code_label)) == lb
+            && ((lb2 = next_real_insn (label_rtx (np->code_label))) == lb
+                || (lb != 0 && lb2 != 0
+                    && simplejump_p (lb)
+                    && simplejump_p (lb2)
+                    && rtx_equal_p (SET_SRC (PATTERN (lb)),
+                                    SET_SRC (PATTERN (lb2)))))
             /* Are their ranges consecutive?  */
             && tree_int_cst_equal (np->low,
                                    fold (build (PLUS_EXPR,
@@ -5426,7 +6207,7 @@ emit_case_nodes (index, node, default_label, index_type)
   else if (tree_int_cst_equal (node->low, node->high))
     {
       /* Node is single valued.  First see if the index expression matches
-        this node and then check our children, if any. */
+        this node and then check our children, if any.  */
 
       do_jump_if_equal (index, expand_expr (node->low, NULL_RTX, VOIDmode, 0),
                        label_rtx (node->code_label), unsignedp);
@@ -5692,10 +6473,6 @@ find_loop_tree_blocks ()
 {
   tree block = DECL_INITIAL (current_function_decl);
 
-  /* There first block is for the function body, and does not have
-     corresponding block notes.  Don't include it in the block vector.  */
-  block = BLOCK_SUBBLOCKS (block);
-
   block_vector = identify_blocks (block, get_insns ());
 }
 
@@ -5706,4 +6483,3 @@ unroll_block_trees ()
 
   reorder_blocks (block_vector, block, get_insns ());
 }
-