OSDN Git Service

* vec.h: Update API to separate allocation mechanism from type.
[pf3gnuchains/gcc-fork.git] / gcc / tree-ssa-pre.c
index 45ac874..0e705c3 100644 (file)
@@ -1,5 +1,5 @@
 /* SSA-PRE for trees.
-   Copyright (C) 2001, 2002, 2003, 2004 Free Software Foundation, Inc.
+   Copyright (C) 2001, 2002, 2003, 2004, 2005 Free Software Foundation, Inc.
    Contributed by Daniel Berlin <dan@dberlin.org> and Steven Bosscher
    <stevenb@suse.de> 
 
@@ -41,31 +41,23 @@ Boston, MA 02111-1307, USA.  */
 #include "alloc-pool.h"
 #include "tree-pass.h"
 #include "flags.h"
-#include "splay-tree.h"
 #include "bitmap.h"
 #include "langhooks.h"
+#include "cfgloop.h"
 
 /* TODO:
    
-   1. Implement load value numbering.
-   2. Speed up insert_aux so that we can use it all the time.  It
-      spends most of it's time in quadratic value replacement.
-   3. Avail sets can be shared by making an avail_find_leader that
+   1. Avail sets can be shared by making an avail_find_leader that
       walks up the dominator tree and looks in those avail sets.
       This might affect code optimality, it's unclear right now.
-   4. Load motion can be performed by value numbering the loads the
+   2. Load motion can be performed by value numbering the loads the
       same as we do other expressions.  This requires iterative
       hashing the vuses into the values.  Right now we simply assign
       a new value every time we see a statement with a vuse.
-   5. Strength reduction can be performed by anticipating expressions
+   3. Strength reduction can be performed by anticipating expressions
       we can repair later on.
-   6. Our canonicalization of expressions during lookups don't take
-      constants into account very well.  In particular, we don't fold
-      anywhere, so we can get situations where we stupidly think
-      something is a new value (a + 1 + 1 vs a + 2).  This is somewhat
-      expensive to fix, but it does expose a lot more eliminations.
-      It may or not be worth it, depending on how critical you
-      consider PRE vs just plain GRE.
+   4. We can do back-substitution or smarter value numbering to catch
+      commutative expressions split up over multiple statements.
 */   
 
 /* For ease of terminology, "expression node" in the below refers to
@@ -166,7 +158,13 @@ Boston, MA 02111-1307, USA.  */
 
 /* Representation of sets:
 
-   Sets are represented as doubly linked lists kept in topological
+   There are currently two types of sets used, hopefully to be unified soon.
+   The AVAIL sets do not need to be sorted in any particular order,
+   and thus, are simply represented as two bitmaps, one that keeps
+   track of values present in the set, and one that keeps track of
+   expressions present in the set.
+   
+   The other sets are represented as doubly linked lists kept in topological
    order, with an optional supporting bitmap of values present in the
    set.  The sets represent values, and the elements can be values or
    expressions.  The elements can appear in different sets, but each
@@ -220,10 +218,16 @@ typedef struct value_set
   
 } *value_set_t;
 
-/* All of the following sets, except for TMP_GEN, are indexed.
-   TMP_GEN is only ever iterated over, we never check what values
-   exist in it.  */
 
+/* An unordered bitmap set.  One bitmap tracks values, the other,
+   expressions.  */
+typedef struct bitmap_set
+{
+  bitmap expressions;
+  bitmap values;
+} *bitmap_set_t;
+
+/* Sets that we need to keep track of.  */
 typedef struct bb_value_sets
 {
   /* The EXP_GEN set, which represents expressions/values generated in
@@ -232,15 +236,15 @@ typedef struct bb_value_sets
 
   /* The PHI_GEN set, which represents PHI results generated in a
      basic block.  */
-  value_set_t phi_gen;
+  bitmap_set_t phi_gen;
 
-  /* The TMP_GEN set, which represents results/temporaries genererated
+  /* The TMP_GEN set, which represents results/temporaries generated
      in a basic block. IE the LHS of an expression.  */
-  value_set_t tmp_gen;
+  bitmap_set_t tmp_gen;
 
   /* The AVAIL_OUT set, which represents which values are available in
      a given basic block.  */
-  value_set_t avail_out;
+  bitmap_set_t avail_out;
 
   /* The ANTIC_IN set, which represents which values are anticiptable
      in a given basic block.  */
@@ -249,7 +253,7 @@ typedef struct bb_value_sets
   /* The NEW_SETS set, which is used during insertion to augment the
      AVAIL_OUT set of blocks with the new insertions performed during
      the current iteration.  */
-  value_set_t new_sets;
+  bitmap_set_t new_sets;
 } *bb_value_sets_t;
 
 #define EXP_GEN(BB)    ((bb_value_sets_t) ((BB)->aux))->exp_gen
@@ -271,23 +275,41 @@ static struct
 
   /* The number of new PHI nodes added by PRE.  */
   int phis;
+  
+  /* The number of values found constant.  */
+  int constified;
+  
 } pre_stats;
 
+
+static tree bitmap_find_leader (bitmap_set_t, tree);
 static tree find_leader (value_set_t, tree);
 static void value_insert_into_set (value_set_t, tree);
+static void bitmap_value_insert_into_set (bitmap_set_t, tree);
+static void bitmap_value_replace_in_set (bitmap_set_t, tree);
 static void insert_into_set (value_set_t, tree);
+static void bitmap_set_copy (bitmap_set_t, bitmap_set_t);
+static bool bitmap_set_contains_value (bitmap_set_t, tree);
+static bitmap_set_t bitmap_set_new (void);
 static value_set_t set_new  (bool);
 static bool is_undefined_value (tree);
 static tree create_expression_by_pieces (basic_block, tree, tree);
 
+
 /* We can add and remove elements and entries to and from sets
    and hash tables, so we use alloc pools for them.  */
 
 static alloc_pool value_set_pool;
+static alloc_pool bitmap_set_pool;
 static alloc_pool value_set_node_pool;
 static alloc_pool binary_node_pool;
 static alloc_pool unary_node_pool;
+static alloc_pool reference_node_pool;
+static bitmap_obstack grand_bitmap_obstack;
 
+/* Set of blocks with statements that have had its EH information
+   cleaned up.  */
+static bitmap need_eh_cleanup;
 
 /* The phi_translate_table caches phi translations for a given
    expression and predecessor.  */
@@ -299,7 +321,7 @@ static htab_t phi_translate_table;
 
 typedef struct expr_pred_trans_d
 {
-  /* The expression. */
+  /* The expression.  */
   tree e;
 
   /* The predecessor block along which we translated the expression.  */
@@ -340,7 +362,7 @@ expr_pred_trans_eq (const void *p1, const void *p2)
     return false;
 
   /* If they are for the same basic block, determine if the
-     expressions are equal.   */  
+     expressions are equal.  */  
   if (expressions_equal_p (ve1->e, ve2->e))
     return true;
   
@@ -349,7 +371,7 @@ expr_pred_trans_eq (const void *p1, const void *p2)
 
 /* Search in the phi translation table for the translation of
    expression E in basic block PRED. Return the translated value, if
-   found, NULL otherwise. */ 
+   found, NULL otherwise.  */ 
 
 static inline tree
 phi_trans_lookup (tree e, basic_block pred)
@@ -358,7 +380,7 @@ phi_trans_lookup (tree e, basic_block pred)
   struct expr_pred_trans_d ept;
   ept.e = e;
   ept.pred = pred;
-  ept.hashcode = vn_compute (e, (unsigned long) pred);
+  ept.hashcode = vn_compute (e, (unsigned long) pred, NULL);
   slot = htab_find_slot_with_hash (phi_translate_table, &ept, ept.hashcode,
                                   NO_INSERT);
   if (!slot)
@@ -379,7 +401,7 @@ phi_trans_add (tree e, tree v, basic_block pred)
   new_pair->e = e;
   new_pair->pred = pred;
   new_pair->v = v;
-  new_pair->hashcode = vn_compute (e, (unsigned long) pred);
+  new_pair->hashcode = vn_compute (e, (unsigned long) pred, NULL);
   slot = htab_find_slot_with_hash (phi_translate_table, new_pair,
                                   new_pair->hashcode, INSERT);
   if (*slot)
@@ -387,25 +409,15 @@ phi_trans_add (tree e, tree v, basic_block pred)
   *slot = (void *) new_pair;
 }
 
+
 /* Add expression E to the expression set of value V.  */
 
 void
 add_to_value (tree v, tree e)
 {
-  /* For values representing non-CST nodes, but still function
-     invariant things we mark TREE_CONSTANT as true and set the tree
-     chain to the actual constant.  This is because unlike values
-     involving expressions, which are only available to use where the
-     expressions are live, a function invariant can be remade
-     anywhere, and thus, is available everywhere, just like a constant.  */
-  if (TREE_CODE_CLASS (TREE_CODE (v)) == 'c')
+  /* Constants have no expression sets.  */
+  if (is_gimple_min_invariant (v))
     return;
-  else if (is_gimple_min_invariant (v))
-    {
-      TREE_CONSTANT (v) = true;
-      TREE_CHAIN (v) = e;
-      return;
-    }
 
   if (VALUE_HANDLE_EXPR_SET (v) == NULL)
     VALUE_HANDLE_EXPR_SET (v) = set_new (false);
@@ -431,10 +443,7 @@ value_exists_in_set_bitmap (value_set_t set, tree v)
 static void
 value_remove_from_set_bitmap (value_set_t set, tree v)
 {
-#ifdef ENABLE_CHECKING
-  if (!set->indexed)
-    abort ();
-#endif
+  gcc_assert (set->indexed);
 
   if (!set->values)
     return;
@@ -449,21 +458,26 @@ value_remove_from_set_bitmap (value_set_t set, tree v)
 static inline void
 value_insert_into_set_bitmap (value_set_t set, tree v)
 {
-#ifdef ENABLE_CHECKING
-  if (!set->indexed)
-    abort ();
-#endif
+  gcc_assert (set->indexed);
 
   if (set->values == NULL)
-    {
-      set->values = BITMAP_GGC_ALLOC ();
-      bitmap_clear (set->values);
-    }
+    set->values = BITMAP_ALLOC (&grand_bitmap_obstack);
 
   bitmap_set_bit (set->values, VALUE_HANDLE_ID (v));
 }
 
 
+/* Create a new bitmap set and return it.  */
+
+static bitmap_set_t 
+bitmap_set_new (void)
+{
+  bitmap_set_t ret = pool_alloc (bitmap_set_pool);
+  ret->expressions = BITMAP_ALLOC (&grand_bitmap_obstack);
+  ret->values = BITMAP_ALLOC (&grand_bitmap_obstack);
+  return ret;
+}
+
 /* Create a new set.  */
 
 static value_set_t
@@ -478,6 +492,23 @@ set_new  (bool indexed)
   return ret;
 }
 
+/* Insert an expression EXPR into a bitmapped set.  */
+
+static void
+bitmap_insert_into_set (bitmap_set_t set, tree expr)
+{
+  tree val;
+  /* XXX: For now, we only let SSA_NAMES into the bitmap sets.  */
+  gcc_assert (TREE_CODE (expr) == SSA_NAME);
+  val = get_value_handle (expr);
+  
+  gcc_assert (val);
+  if (!is_gimple_min_invariant (val))
+  {
+    bitmap_set_bit (set->values, VALUE_HANDLE_ID (val));
+    bitmap_set_bit (set->expressions, SSA_NAME_VERSION (expr));
+  }
+}
 
 /* Insert EXPR into SET.  */
 
@@ -486,9 +517,10 @@ insert_into_set (value_set_t set, tree expr)
 {
   value_set_node_t newnode = pool_alloc (value_set_node_pool);
   tree val = get_value_handle (expr);
+  gcc_assert (val);
   
-  if (val == NULL)
-    abort ();
+  if (is_gimple_min_invariant (val))
+    return;
 
   /* For indexed sets, insert the value into the set value bitmap.
      For all sets, add it to the linked list and increment the list
@@ -510,6 +542,15 @@ insert_into_set (value_set_t set, tree expr)
     }
 }
 
+/* Copy a bitmapped set ORIG, into bitmapped set DEST.  */
+
+static void
+bitmap_set_copy (bitmap_set_t dest, bitmap_set_t orig)
+{
+  bitmap_copy (dest->expressions, orig->expressions);
+  bitmap_copy (dest->values, orig->values);
+}
+
 /* Copy the set ORIG to the set DEST.  */
 
 static void
@@ -564,14 +605,8 @@ set_remove (value_set_t set, tree expr)
 static bool
 set_contains_value (value_set_t set, tree val)
 {
-  /* All true constants are in every set.  */
-  if (TREE_CODE_CLASS (TREE_CODE (val)) == 'c')
-    return true;
-  /* This is only referring to the flag above that we set on
-     values referring to invariants, because we know that we
-     are dealing with one of the value handles we created.  */
-
-  if (TREE_CONSTANT (val))
+  /* All constants are in every set.  */
+  if (is_gimple_min_invariant (val))
     return true;
   
   if (set->length == 0)
@@ -580,51 +615,72 @@ set_contains_value (value_set_t set, tree val)
   return value_exists_in_set_bitmap (set, val);
 }
 
-/* Replace the leader for the value LOOKFOR in SET with EXPR.  */
-
-static void
-set_replace_value (value_set_t set, tree lookfor, tree expr)
+/* Return true if bitmapped set SET contains the expression EXPR.  */
+static bool
+bitmap_set_contains (bitmap_set_t set, tree expr)
 {
-  value_set_node_t node = set->head;
-
-  /* The lookup is probably more expensive than walking the linked
-     list when we have only a small number of nodes.  */
-  if (!set_contains_value (set, lookfor))
-    return;
+  /* All constants are in every set.  */
+  if (is_gimple_min_invariant (get_value_handle (expr)))
+    return true;
 
-  for (node = set->head;
-       node;
-       node = node->next)
-    {
-      if (get_value_handle (node->expr) == lookfor)
-       {
-         node->expr = expr;
-         return;
-       }
-    }
+  /* XXX: Bitmapped sets only contain SSA_NAME's for now.  */
+  if (TREE_CODE (expr) != SSA_NAME)
+    return false;
+  return bitmap_bit_p (set->expressions, SSA_NAME_VERSION (expr));
 }
 
-/* Return true if the set contains expression (not value) EXPR.  */
+  
+/* Return true if bitmapped set SET contains the value VAL.  */
 
 static bool
-set_contains (value_set_t set, tree expr)
+bitmap_set_contains_value (bitmap_set_t set, tree val)
 {
+  if (is_gimple_min_invariant (val))
+    return true;
+  return bitmap_bit_p (set->values, VALUE_HANDLE_ID (val));
+}
+
+/* Replace an instance of value LOOKFOR with expression EXPR in SET.  */
+
+static void
+bitmap_set_replace_value (bitmap_set_t set, tree lookfor, tree expr)
+{
+  value_set_t exprset;
   value_set_node_t node;
-  
-  for (node = set->head;
-       node;
-       node = node->next)
+  if (is_gimple_min_invariant (lookfor))
+    return;
+  if (!bitmap_set_contains_value (set, lookfor))
+    return;
+
+  /* The number of expressions having a given value is usually
+     significantly less than the total number of expressions in SET.
+     Thus, rather than check, for each expression in SET, whether it
+     has the value LOOKFOR, we walk the reverse mapping that tells us
+     what expressions have a given value, and see if any of those
+     expressions are in our set.  For large testcases, this is about
+     5-10x faster than walking the bitmap.  If this is somehow a
+     significant lose for some cases, we can choose which set to walk
+     based on the set size.  */
+  exprset = VALUE_HANDLE_EXPR_SET (lookfor);
+  for (node = exprset->head; node; node = node->next)
     {
-      if (operand_equal_p (node->expr, expr, 0))
-       return true;
+      if (TREE_CODE (node->expr) == SSA_NAME)
+       {
+         if (bitmap_bit_p (set->expressions, SSA_NAME_VERSION (node->expr)))
+           {
+             bitmap_clear_bit (set->expressions, SSA_NAME_VERSION (node->expr));
+             bitmap_set_bit (set->expressions, SSA_NAME_VERSION (expr));
+             return;
+           }
+       }
     }
-  return false;
 }
 
-/* Subtract set B from set A, and return the new set.  */
+/* Subtract bitmapped set B from value set A, and return the new set.  */
 
 static value_set_t
-set_subtract (value_set_t a, value_set_t b, bool indexed)
+bitmap_set_subtract_from_value_set (value_set_t a, bitmap_set_t b,
+                                   bool indexed)
 {
   value_set_t ret = set_new (indexed);
   value_set_node_t node;
@@ -632,13 +688,13 @@ set_subtract (value_set_t a, value_set_t b, bool indexed)
        node;
        node = node->next)
     {
-      if (!set_contains (b, node->expr))
+      if (!bitmap_set_contains (b, node->expr))
        insert_into_set (ret, node->expr);
     }
   return ret;
 }
 
-/* Return true if two sets are equal. */
+/* Return true if two sets are equal.  */
 
 static bool
 set_equal (value_set_t a, value_set_t b)
@@ -657,16 +713,32 @@ set_equal (value_set_t a, value_set_t b)
   return true;
 }
 
-/* Replace the value for EXPR in SET with EXPR.  */
+/* Replace an instance of EXPR's VALUE with EXPR in SET if it exists,
+   and add it otherwise.  */
+
 static void
-value_replace_in_set (value_set_t set, tree expr)
+bitmap_value_replace_in_set (bitmap_set_t set, tree expr)
 {
   tree val = get_value_handle (expr);
+  if (bitmap_set_contains_value (set, val))
+    bitmap_set_replace_value (set, val, expr);
+  else
+    bitmap_insert_into_set (set, expr);
+}
 
-  if (set->length == 0)
+/* Insert EXPR into SET if EXPR's value is not already present in
+   SET.  */
+
+static void
+bitmap_value_insert_into_set (bitmap_set_t set, tree expr)
+{
+  tree val = get_value_handle (expr);
+
+  if (is_gimple_min_invariant (val))
     return;
   
-  set_replace_value (set, val, expr);
+  if (!bitmap_set_contains_value (set, val))
+    bitmap_insert_into_set (set, expr);
 }
 
 /* Insert the value for EXPR into SET, if it doesn't exist already.  */
@@ -678,7 +750,7 @@ value_insert_into_set (value_set_t set, tree expr)
 
   /* Constant and invariant values exist everywhere, and thus,
      actually keeping them in the sets is pointless.  */
-  if (TREE_CONSTANT (val))
+  if (is_gimple_min_invariant (val))
     return;
 
   if (!set_contains_value (set, val))
@@ -686,6 +758,33 @@ value_insert_into_set (value_set_t set, tree expr)
 }
 
 
+/* Print out SET to OUTFILE.  */
+
+static void
+bitmap_print_value_set (FILE *outfile, bitmap_set_t set,
+                       const char *setname, int blockindex)
+{
+  fprintf (outfile, "%s[%d] := { ", setname, blockindex);
+  if (set)
+    {
+      bool first = true;
+      unsigned i;
+      bitmap_iterator bi;
+
+      EXECUTE_IF_SET_IN_BITMAP (set->expressions, 0, i, bi)
+       {
+         if (!first)
+           fprintf (outfile, ", ");
+         first = false;
+         print_generic_expr (outfile, ssa_name (i), 0);
+       
+         fprintf (outfile, " (");
+         print_generic_expr (outfile, get_value_handle (ssa_name (i)), 0);
+         fprintf (outfile, ") ");
+       }
+    }
+  fprintf (outfile, " }\n");
+}
 /* Print out the value_set SET to OUTFILE.  */
 
 static void
@@ -748,7 +847,7 @@ debug_value_set (value_set_t set, const char *setname, int blockindex)
    part of the translated expression.  */
 
 static tree
-phi_translate (tree expr, value_set_t set,  basic_block pred,
+phi_translate (tree expr, value_set_t set, basic_block pred,
               basic_block phiblock)
 {
   tree phitrans = NULL;
@@ -757,15 +856,22 @@ phi_translate (tree expr, value_set_t set,  basic_block pred,
   if (expr == NULL)
     return NULL;
 
-  /* Phi translations of a given expression don't change,  */
+  if (is_gimple_min_invariant (expr))
+    return expr;
+
+  /* Phi translations of a given expression don't change.  */
   phitrans = phi_trans_lookup (expr, pred);
   if (phitrans)
     return phitrans;
   
-  
   switch (TREE_CODE_CLASS (TREE_CODE (expr)))
     {
-    case '2':
+    case tcc_reference:
+      /* XXX: Until we have PRE of loads working, none will be ANTIC.  */
+      return NULL;
+
+    case tcc_binary:
+    case tcc_comparison:
       {
        tree oldop1 = TREE_OPERAND (expr, 0);
        tree oldop2 = TREE_OPERAND (expr, 1);
@@ -788,18 +894,14 @@ phi_translate (tree expr, value_set_t set,  basic_block pred,
            create_tree_ann (newexpr);
            TREE_OPERAND (newexpr, 0) = newop1 == oldop1 ? oldop1 : get_value_handle (newop1);
            TREE_OPERAND (newexpr, 1) = newop2 == oldop2 ? oldop2 : get_value_handle (newop2);
-           vn_lookup_or_add (newexpr);
+           vn_lookup_or_add (newexpr, NULL);
            expr = newexpr;
            phi_trans_add (oldexpr, newexpr, pred);         
          }
       }
-      break;
-      /* XXX: Until we have PRE of loads working, none will be ANTIC.
-       */
-    case 'r':
-      return NULL;
-      break;
-    case '1':
+      return expr;
+
+    case tcc_unary:
       {
        tree oldop1 = TREE_OPERAND (expr, 0);
        tree newop1;
@@ -815,40 +917,43 @@ phi_translate (tree expr, value_set_t set,  basic_block pred,
            memcpy (newexpr, expr, tree_size (expr));
            create_tree_ann (newexpr);   
            TREE_OPERAND (newexpr, 0) = get_value_handle (newop1);
-           vn_lookup_or_add (newexpr);
+           vn_lookup_or_add (newexpr, NULL);
            expr = newexpr;
            phi_trans_add (oldexpr, newexpr, pred);
          }
       }
-      break;
-    case 'd':
-      abort ();
-    case 'x':
+      return expr;
+
+    case tcc_exceptional:
       {
        tree phi = NULL;
-       int i;
-       if (TREE_CODE (expr) != SSA_NAME)
-         abort ();
+       edge e;
+       gcc_assert (TREE_CODE (expr) == SSA_NAME);
        if (TREE_CODE (SSA_NAME_DEF_STMT (expr)) == PHI_NODE)
          phi = SSA_NAME_DEF_STMT (expr);
        else
          return expr;
        
-       for (i = 0; i < PHI_NUM_ARGS (phi); i++)
-         if (PHI_ARG_EDGE (phi, i)->src == pred)
-           {
-             tree val;
-             if (is_undefined_value (PHI_ARG_DEF (phi, i)))
-               return NULL;
-             val = vn_lookup_or_add (PHI_ARG_DEF (phi, i));
-             return PHI_ARG_DEF (phi, i);
-           }
+       e = find_edge (pred, bb_for_stmt (phi));
+       if (e)
+         {
+           if (is_undefined_value (PHI_ARG_DEF (phi, e->dest_idx)))
+             return NULL;
+           vn_lookup_or_add (PHI_ARG_DEF (phi, e->dest_idx), NULL);
+           return PHI_ARG_DEF (phi, e->dest_idx);
+         }
       }
-      break;
+      return expr;
+
+    default:
+      gcc_unreachable ();
     }
-  return expr;
 }
 
+/* For each expression in SET, translate the value handles through phi nodes
+   in PHIBLOCK using edge PHIBLOCK->PRED, and store the resulting
+   expressions in DEST.  */
+
 static void
 phi_translate_set (value_set_t dest, value_set_t set, basic_block pred,
                   basic_block phiblock)
@@ -867,7 +972,49 @@ phi_translate_set (value_set_t dest, value_set_t set, basic_block pred,
     } 
 }
 
-/* Find the leader for a value (IE the name representing that
+/* Find the leader for a value (i.e., the name representing that
+   value) in a given set, and return it.  Return NULL if no leader is
+   found.  */
+
+static tree
+bitmap_find_leader (bitmap_set_t set, tree val)
+{
+  if (val == NULL)
+    return NULL;
+  
+  if (is_gimple_min_invariant (val))
+    return val;
+  if (bitmap_set_contains_value (set, val))
+    {
+      /* Rather than walk the entire bitmap of expressions, and see
+        whether any of them has the value we are looking for, we look
+        at the reverse mapping, which tells us the set of expressions
+        that have a given value (IE value->expressions with that
+        value) and see if any of those expressions are in our set.
+        The number of expressions per value is usually significantly
+        less than the number of expressions in the set.  In fact, for
+        large testcases, doing it this way is roughly 5-10x faster
+        than walking the bitmap.
+        If this is somehow a significant lose for some cases, we can
+        choose which set to walk based on which set is smaller.  */     
+      value_set_t exprset;
+      value_set_node_t node;
+      exprset = VALUE_HANDLE_EXPR_SET (val);
+      for (node = exprset->head; node; node = node->next)
+       {
+         if (TREE_CODE (node->expr) == SSA_NAME)
+           {
+             if (bitmap_bit_p (set->expressions, 
+                               SSA_NAME_VERSION (node->expr)))
+               return node->expr;
+           }
+       }
+    }
+  return NULL;
+}
+
+       
+/* Find the leader for a value (i.e., the name representing that
    value) in a given set, and return it.  Return NULL if no leader is
    found.  */
 
@@ -878,13 +1025,10 @@ find_leader (value_set_t set, tree val)
 
   if (val == NULL)
     return NULL;
-  /* True constants represent themselves.  */
-  if (TREE_CODE_CLASS (TREE_CODE (val)) == 'c')
+
+  /* Constants represent themselves.  */
+  if (is_gimple_min_invariant (val))
     return val;
-  /* Invariants are still represented by values, since they may be
-     more than a single _CST node.  */  
-  if (TREE_CONSTANT (val))
-    return TREE_CHAIN (val);
 
   if (set->length == 0)
     return NULL;
@@ -899,6 +1043,7 @@ find_leader (value_set_t set, tree val)
            return node->expr;
        }
     }
+
   return NULL;
 }
 
@@ -916,35 +1061,36 @@ valid_in_set (value_set_t set, tree expr)
 {
   switch (TREE_CODE_CLASS (TREE_CODE (expr)))
     {
-    case '2':
+    case tcc_binary:
+    case tcc_comparison:
       {
        tree op1 = TREE_OPERAND (expr, 0);
        tree op2 = TREE_OPERAND (expr, 1);
        return set_contains_value (set, op1) && set_contains_value (set, op2);
       }
-      break;
-    case '1':
+
+    case tcc_unary:
       {
        tree op1 = TREE_OPERAND (expr, 0);
        return set_contains_value (set, op1);
       }
-      break;
-      /* XXX: Until PRE of loads works, no reference nodes are ANTIC.
-       */
-    case 'r':
-      {
-       return false;
-      }
-    case 'x':
-      {
-       if (TREE_CODE (expr) == SSA_NAME)
-         return true;
-       abort ();
-      }
-    case 'c':
-      abort ();
-    }
-  return false;
+
+    case tcc_reference:
+      /* XXX: Until PRE of loads works, no reference nodes are ANTIC.  */
+      return false;
+
+    case tcc_exceptional:
+      gcc_assert (TREE_CODE (expr) == SSA_NAME);
+      return true;
+
+    case tcc_declaration:
+      /* VAR_DECL and PARM_DECL are never anticipatable.  */
+      return false;
+
+    default:
+      /* No other cases should be encountered.  */
+      gcc_unreachable (); 
+   }
 }
 
 /* Clean the set of expressions that are no longer valid in SET.  This
@@ -966,90 +1112,71 @@ clean (value_set_t set)
     }
 }
 
-/* Compute the ANTIC set for BLOCK.
+DEF_VEC_P (basic_block);
+DEF_VEC_ALLOC_P (basic_block, heap);
+static sbitmap has_abnormal_preds;
 
-ANTIC_OUT[BLOCK] = intersection of ANTIC_IN[b] for all succ(BLOCK), if
-succs(BLOCK) > 1
-ANTIC_OUT[BLOCK] = phi_translate (ANTIC_IN[succ(BLOCK)]) if
-succs(BLOCK) == 1
-
-ANTIC_IN[BLOCK] = clean(ANTIC_OUT[BLOCK] U EXP_GEN[BLOCK] -
-TMP_GEN[BLOCK])
+/* Compute the ANTIC set for BLOCK.
 
-Iterate until fixpointed.
+   If succs(BLOCK) > 1 then
+     ANTIC_OUT[BLOCK] = intersection of ANTIC_IN[b] for all succ(BLOCK)
+   else if succs(BLOCK) == 1 then
+     ANTIC_OUT[BLOCK] = phi_translate (ANTIC_IN[succ(BLOCK)])
 
-XXX: It would be nice to either write a set_clear, and use it for
-antic_out, or to mark the antic_out set as deleted at the end
-of this routine, so that the pool can hand the same memory back out
-again for the next antic_out.  */
+   ANTIC_IN[BLOCK] = clean(ANTIC_OUT[BLOCK] U EXP_GEN[BLOCK] - TMP_GEN[BLOCK])
 
+   XXX: It would be nice to either write a set_clear, and use it for
+   ANTIC_OUT, or to mark the antic_out set as deleted at the end
+   of this routine, so that the pool can hand the same memory back out
+   again for the next ANTIC_OUT.  */
 
 static bool
-compute_antic_aux (basic_block block)
+compute_antic_aux (basic_block block, bool block_has_abnormal_pred_edge)
 {
   basic_block son;
-  edge e;
   bool changed = false;
   value_set_t S, old, ANTIC_OUT;
   value_set_node_t node;
-  
+
   ANTIC_OUT = S = NULL;
-  /* If any edges from predecessors are abnormal, antic_in is empty, so
-     punt.  Remember that the block has an incoming abnormal edge by
-     setting the BB_VISITED flag.  */
-  if (! (block->flags & BB_VISITED))
-    {
-      for (e = block->pred; e; e = e->pred_next)
-       if (e->flags & EDGE_ABNORMAL)
-         {
-           block->flags |= BB_VISITED;
-           break;
-         }
-    }
-  if (block->flags & BB_VISITED)
-    {
-      S = NULL;
-      goto visit_sons;
-    }
-  
+
+  /* If any edges from predecessors are abnormal, antic_in is empty,
+     so do nothing.  */
+  if (block_has_abnormal_pred_edge)
+    goto maybe_dump_sets;
 
   old = set_new (false);
   set_copy (old, ANTIC_IN (block));
   ANTIC_OUT = set_new (true);
 
-  /* If the block has no successors, ANTIC_OUT is empty, because it is
-     the exit block.  */
-  if (block->succ == NULL);
-
+  /* If the block has no successors, ANTIC_OUT is empty.  */
+  if (EDGE_COUNT (block->succs) == 0)
+    ;
   /* If we have one successor, we could have some phi nodes to
      translate through.  */
-  else if (block->succ->succ_next == NULL)
+  else if (single_succ_p (block))
     {
-      phi_translate_set (ANTIC_OUT, ANTIC_IN(block->succ->dest),
-                        block, block->succ->dest);
+      phi_translate_set (ANTIC_OUT, ANTIC_IN(single_succ (block)),
+                        block, single_succ (block));
     }
   /* If we have multiple successors, we take the intersection of all of
      them.  */
   else
     {
-      varray_type worklist;
+      VEC(basic_block, heap) * worklist;
       edge e;
       size_t i;
       basic_block bprime, first;
+      edge_iterator ei;
 
-      VARRAY_BB_INIT (worklist, 1, "succ");
-      e = block->succ;
-      while (e)
-       {
-         VARRAY_PUSH_BB (worklist, e->dest);
-         e = e->succ_next;
-       }
-      first = VARRAY_BB (worklist, 0);
+      worklist = VEC_alloc (basic_block, heap, EDGE_COUNT (block->succs));
+      FOR_EACH_EDGE (e, ei, block->succs)
+       VEC_quick_push (basic_block, worklist, e->dest);
+      first = VEC_index (basic_block, worklist, 0);
       set_copy (ANTIC_OUT, ANTIC_IN (first));
 
-      for (i = 1; i < VARRAY_ACTIVE_SIZE (worklist); i++)
+      for (i = 1; VEC_iterate (basic_block, worklist, i, bprime); i++)
        {
-         bprime = VARRAY_BB (worklist, i);
          node = ANTIC_OUT->head;
          while (node)
            {
@@ -1061,30 +1188,27 @@ compute_antic_aux (basic_block block)
              node = next;
            }
        }
-      VARRAY_CLEAR (worklist);
+      VEC_free (basic_block, heap, worklist);
     }
 
-  /* Generate ANTIC_OUT - TMP_GEN */
-  S = set_subtract (ANTIC_OUT, TMP_GEN (block), false);
+  /* Generate ANTIC_OUT - TMP_GEN */
+  S = bitmap_set_subtract_from_value_set (ANTIC_OUT, TMP_GEN (block), false);
 
   /* Start ANTIC_IN with EXP_GEN - TMP_GEN */
-  ANTIC_IN (block) = set_subtract (EXP_GEN (block),TMP_GEN (block), true);
-  
-  /* Then union in the ANTIC_OUT - TMP_GEN values, to get ANTIC_OUT U
-     EXP_GEN - TMP_GEN */
-  for (node = S->head;
-       node;
-       node = node->next)
-    {
-      value_insert_into_set (ANTIC_IN (block), node->expr);
-    }
-  clean (ANTIC_IN (block));
-  
+  ANTIC_IN (block) = bitmap_set_subtract_from_value_set (EXP_GEN (block), 
+                                                        TMP_GEN (block),
+                                                        true);
+
+  /* Then union in the ANTIC_OUT - TMP_GEN values,
+     to get ANTIC_OUT U EXP_GEN - TMP_GEN */
+  for (node = S->head; node; node = node->next)
+    value_insert_into_set (ANTIC_IN (block), node->expr);
 
+  clean (ANTIC_IN (block));
   if (!set_equal (old, ANTIC_IN (block)))
     changed = true;
 
visit_sons:
maybe_dump_sets:
   if (dump_file && (dump_flags & TDF_DETAILS))
     {
       if (ANTIC_OUT)
@@ -1092,14 +1216,14 @@ compute_antic_aux (basic_block block)
       print_value_set (dump_file, ANTIC_IN (block), "ANTIC_IN", block->index);
       if (S)
        print_value_set (dump_file, S, "S", block->index);
-
     }
 
   for (son = first_dom_son (CDI_POST_DOMINATORS, block);
        son;
        son = next_dom_son (CDI_POST_DOMINATORS, son))
     {
-      changed |= compute_antic_aux (son);
+      changed |= compute_antic_aux (son,
+                                   TEST_BIT (has_abnormal_preds, son->index));
     }
   return changed;
 }
@@ -1110,30 +1234,45 @@ static void
 compute_antic (void)
 {
   bool changed = true;
-  basic_block bb;
   int num_iterations = 0;
-  FOR_ALL_BB (bb)
+  basic_block block;
+
+  /* If any predecessor edges are abnormal, we punt, so antic_in is empty.
+     We pre-build the map of blocks with incoming abnormal edges here.  */
+  has_abnormal_preds = sbitmap_alloc (last_basic_block);
+  sbitmap_zero (has_abnormal_preds);
+  FOR_EACH_BB (block)
     {
-      ANTIC_IN (bb) = set_new (true);
-      if (bb->flags & BB_VISITED)
-       abort ();
+      edge_iterator ei;
+      edge e;
+
+      FOR_EACH_EDGE (e, ei, block->preds)
+       if (e->flags & EDGE_ABNORMAL)
+         {
+           SET_BIT (has_abnormal_preds, block->index);
+           break;
+         }
+
+      /* While we are here, give empty ANTIC_IN sets to each block.  */
+      ANTIC_IN (block) = set_new (true);
     }
+  /* At the exit block we anticipate nothing.  */
+  ANTIC_IN (EXIT_BLOCK_PTR) = set_new (true);
 
   while (changed)
     {
       num_iterations++;
       changed = false;
-      changed = compute_antic_aux (EXIT_BLOCK_PTR);
+      changed = compute_antic_aux (EXIT_BLOCK_PTR, false);
     }
-  FOR_ALL_BB (bb)
-    {
-      bb->flags &= ~BB_VISITED;
-    }
-  if (num_iterations > 2 && dump_file && (dump_flags & TDF_STATS))
+
+  sbitmap_free (has_abnormal_preds);
+
+  if (dump_file && (dump_flags & TDF_STATS))
     fprintf (dump_file, "compute_antic required %d iterations\n", num_iterations);
 }
 
-
+static VEC(tree,heap) *inserted_exprs;
 /* Find a leader for an expression, or generate one using
    create_expression_by_pieces if it's ANTIC but
    complex.  
@@ -1146,30 +1285,24 @@ compute_antic (void)
 static tree
 find_or_generate_expression (basic_block block, tree expr, tree stmts)
 {
-  tree genop;
-  genop = find_leader (AVAIL_OUT (block), expr);
-  /* Depending on the order we process DOM branches in, the value
-     may not have propagated to all the dom children yet during
-     this iteration.  In this case, the value will always be in
-     the NEW_SETS for us already, having been propagated from our
-     dominator.  */
-  if (genop == NULL)
-    genop = find_leader (NEW_SETS (block), expr);
+  tree genop = bitmap_find_leader (AVAIL_OUT (block), expr);
+
   /* If it's still NULL, see if it is a complex expression, and if
      so, generate it recursively, otherwise, abort, because it's
      not really .  */
   if (genop == NULL)
     {
       genop = VALUE_HANDLE_EXPR_SET (expr)->head->expr;
-      if (TREE_CODE_CLASS (TREE_CODE (genop)) != '1'
-         && TREE_CODE_CLASS (TREE_CODE (genop)) != '2')
-       abort ();
+      gcc_assert (UNARY_CLASS_P (genop)
+                 || BINARY_CLASS_P (genop)
+                 || COMPARISON_CLASS_P (genop)
+                 || REFERENCE_CLASS_P (genop));
       genop = create_expression_by_pieces (block, genop, stmts);
     }
   return genop;
 }
 
-  
+#define NECESSARY(stmt)                stmt->common.asm_written_flag  
 /* Create an expression in pieces, so that we can handle very complex
    expressions that may be ANTIC, but not necessary GIMPLE.  
    BLOCK is the basic block the expression will be inserted into,
@@ -1193,57 +1326,114 @@ create_expression_by_pieces (basic_block block, tree expr, tree stmts)
   
   switch (TREE_CODE_CLASS (TREE_CODE (expr)))
     {
-    case '2':
+    case tcc_binary:
+    case tcc_comparison:
       {
        tree_stmt_iterator tsi;
+       tree forced_stmts;
        tree genop1, genop2;
        tree temp;
+       tree folded;
        tree op1 = TREE_OPERAND (expr, 0);
        tree op2 = TREE_OPERAND (expr, 1);
        genop1 = find_or_generate_expression (block, op1, stmts);
        genop2 = find_or_generate_expression (block, op2, stmts);
        temp = create_tmp_var (TREE_TYPE (expr), "pretmp");
        add_referenced_tmp_var (temp);
-       newexpr = build (TREE_CODE (expr), TREE_TYPE (expr), 
-                        genop1, genop2);
+       
+       folded = fold (build (TREE_CODE (expr), TREE_TYPE (expr), 
+                             genop1, genop2));
+       newexpr = force_gimple_operand (folded, &forced_stmts, false, NULL);
+       if (forced_stmts)
+         {
+           tsi = tsi_start (forced_stmts);
+           for (; !tsi_end_p (tsi); tsi_next (&tsi))
+             {
+               tree stmt = tsi_stmt (tsi);
+               tree forcedname = TREE_OPERAND (stmt, 0);
+               tree forcedexpr = TREE_OPERAND (stmt, 1);
+               tree val = vn_lookup_or_add (forcedexpr, NULL);
+               vn_add (forcedname, val, NULL);         
+               bitmap_value_replace_in_set (NEW_SETS (block), forcedname); 
+               bitmap_value_replace_in_set (AVAIL_OUT (block), forcedname);
+             }
+
+           tsi = tsi_last (stmts);
+           tsi_link_after (&tsi, forced_stmts, TSI_CONTINUE_LINKING);
+         }
        newexpr = build (MODIFY_EXPR, TREE_TYPE (expr),
                         temp, newexpr);
+       NECESSARY (newexpr) = 0;
        name = make_ssa_name (temp, newexpr);
        TREE_OPERAND (newexpr, 0) = name;
        tsi = tsi_last (stmts);
        tsi_link_after (&tsi, newexpr, TSI_CONTINUE_LINKING);
+       VEC_safe_push (tree, heap, inserted_exprs, newexpr);
        pre_stats.insertions++;
        break;
       }
-    case '1':
+    case tcc_unary:
       {
        tree_stmt_iterator tsi;
+       tree forced_stmts = NULL;
        tree genop1;
        tree temp;
+       tree folded;
        tree op1 = TREE_OPERAND (expr, 0);
        genop1 = find_or_generate_expression (block, op1, stmts);
        temp = create_tmp_var (TREE_TYPE (expr), "pretmp");
        add_referenced_tmp_var (temp);
-       newexpr = build (TREE_CODE (expr), TREE_TYPE (expr), 
-                        genop1);
+       folded = fold (build (TREE_CODE (expr), TREE_TYPE (expr), 
+                             genop1));
+       /* If the generated operand  is already GIMPLE min_invariant
+          just use it instead of calling force_gimple_operand on it,
+          since that may make it not invariant by copying it into an
+          assignment.  */
+       if (!is_gimple_min_invariant (genop1))
+         newexpr = force_gimple_operand (folded, &forced_stmts, false, NULL);
+       else
+         newexpr = genop1;
+       if (forced_stmts)
+         {
+           tsi = tsi_start (forced_stmts);
+           for (; !tsi_end_p (tsi); tsi_next (&tsi))
+             {
+               tree stmt = tsi_stmt (tsi);
+               tree forcedname = TREE_OPERAND (stmt, 0);
+               tree forcedexpr = TREE_OPERAND (stmt, 1);
+               tree val = vn_lookup_or_add (forcedexpr, NULL);
+               vn_add (forcedname, val, NULL);         
+               bitmap_value_replace_in_set (NEW_SETS (block), forcedname); 
+               bitmap_value_replace_in_set (AVAIL_OUT (block), forcedname);
+             }
+           tsi = tsi_last (stmts);
+           tsi_link_after (&tsi, forced_stmts, TSI_CONTINUE_LINKING);
+         }
        newexpr = build (MODIFY_EXPR, TREE_TYPE (expr),
                         temp, newexpr);
        name = make_ssa_name (temp, newexpr);
        TREE_OPERAND (newexpr, 0) = name;
+       NECESSARY (newexpr) = 0;
        tsi = tsi_last (stmts);
        tsi_link_after (&tsi, newexpr, TSI_CONTINUE_LINKING);
+       VEC_safe_push (tree, heap, inserted_exprs, newexpr);
        pre_stats.insertions++;
 
        break;
       }
     default:
-      abort ();
+      gcc_unreachable ();
       
     }
   v = get_value_handle (expr);
-  vn_add (name, v);
-  insert_into_set (NEW_SETS (block), name);
-  value_insert_into_set (AVAIL_OUT (block), name);
+  vn_add (name, v, NULL);
+
+  /* The value may already exist in either NEW_SETS, or AVAIL_OUT, because
+     we are creating the expression by pieces, and this particular piece of
+     the expression may have been represented.  There is no harm in replacing
+     here.  */
+  bitmap_value_replace_in_set (NEW_SETS (block), name); 
+  bitmap_value_replace_in_set (AVAIL_OUT (block), name);
   if (dump_file && (dump_flags & TDF_DETAILS))
     {                              
       fprintf (dump_file, "Inserted ");
@@ -1252,6 +1442,136 @@ create_expression_by_pieces (basic_block block, tree expr, tree stmts)
     }
   return name;
 }
+
+/* Return the folded version of T if T, when folded, is a gimple
+   min_invariant.  Otherwise, return T.  */ 
+
+static tree
+fully_constant_expression (tree t)
+{  
+  tree folded;
+  folded = fold (t);
+  if (folded && is_gimple_min_invariant (folded))
+    return folded;
+  return t;
+}
+
+/* Insert the to-be-made-available values of NODE for each predecessor, stored
+   in AVAIL, into the predecessors of BLOCK, and merge the result with a phi
+   node, given the same value handle as NODE.  The prefix of the phi node is
+   given with TMPNAME.  Return true if we have inserted new stuff.  */
+
+static bool
+insert_into_preds_of_block (basic_block block, value_set_node_t node,
+                           tree *avail, const char *tmpname)
+{
+  tree val = get_value_handle (node->expr);
+  edge pred;
+  bool insertions = false;
+  bool nophi = false;
+  basic_block bprime;
+  tree eprime;
+  edge_iterator ei;
+  tree type = TREE_TYPE (avail[EDGE_PRED (block, 0)->src->index]);
+  tree temp;
+  
+  if (dump_file && (dump_flags & TDF_DETAILS))
+    {
+      fprintf (dump_file, "Found partial redundancy for expression ");
+      print_generic_expr (dump_file, node->expr, 0);
+      fprintf (dump_file, "\n");
+    }
+
+  /* Make sure we aren't creating an induction variable.  */
+  if (block->loop_depth > 0 && EDGE_COUNT (block->preds) == 2)
+    {
+      bool firstinsideloop = false;
+      bool secondinsideloop = false;
+      firstinsideloop = flow_bb_inside_loop_p (block->loop_father, 
+                                              EDGE_PRED (block, 0)->src);
+      secondinsideloop = flow_bb_inside_loop_p (block->loop_father,
+                                               EDGE_PRED (block, 1)->src);
+      /* Induction variables only have one edge inside the loop.  */
+      if (firstinsideloop ^ secondinsideloop)
+       {
+         if (dump_file && (dump_flags & TDF_DETAILS))
+           fprintf (dump_file, "Skipping insertion of phi for partial redundancy: Looks like an induction variable\n");
+         nophi = true;
+       }
+    }
+         
+
+  /* Make the necessary insertions.  */
+  FOR_EACH_EDGE (pred, ei, block->preds)
+    {
+      tree stmts = alloc_stmt_list ();
+      tree builtexpr;
+      bprime = pred->src;
+      eprime = avail[bprime->index];
+      if (BINARY_CLASS_P (eprime)
+         || COMPARISON_CLASS_P (eprime)
+         || UNARY_CLASS_P (eprime))
+       {
+         builtexpr = create_expression_by_pieces (bprime,
+                                                  eprime,
+                                                  stmts);
+         bsi_insert_on_edge (pred, stmts);
+         avail[bprime->index] = builtexpr;
+         insertions = true;
+       }                             
+    }
+  /* If we didn't want a phi node, and we made insertions, we still have
+     inserted new stuff, and thus return true.  If we didn't want a phi node,
+     and didn't make insertions, we haven't added anything new, so return
+     false.  */
+  if (nophi && insertions)
+    return true;
+  else if (nophi && !insertions)
+    return false;
+
+  /* Now build a phi for the new variable.  */
+  temp = create_tmp_var (type, tmpname);
+  add_referenced_tmp_var (temp);
+  temp = create_phi_node (temp, block);
+  NECESSARY (temp) = 0; 
+  VEC_safe_push (tree, heap, inserted_exprs, temp);
+  FOR_EACH_EDGE (pred, ei, block->preds)
+    add_phi_arg (temp, avail[pred->src->index], pred);
+  
+  vn_add (PHI_RESULT (temp), val, NULL);
+  
+  /* The value should *not* exist in PHI_GEN, or else we wouldn't be doing
+     this insertion, since we test for the existence of this value in PHI_GEN
+     before proceeding with the partial redundancy checks in insert_aux.
+     
+     The value may exist in AVAIL_OUT, in particular, it could be represented
+     by the expression we are trying to eliminate, in which case we want the
+     replacement to occur.  If it's not existing in AVAIL_OUT, we want it
+     inserted there.
+     
+     Similarly, to the PHI_GEN case, the value should not exist in NEW_SETS of
+     this block, because if it did, it would have existed in our dominator's
+     AVAIL_OUT, and would have been skipped due to the full redundancy check.
+  */
+
+  bitmap_insert_into_set (PHI_GEN (block),
+                         PHI_RESULT (temp));
+  bitmap_value_replace_in_set (AVAIL_OUT (block), 
+                              PHI_RESULT (temp));
+  bitmap_insert_into_set (NEW_SETS (block),
+                         PHI_RESULT (temp));
+  
+  if (dump_file && (dump_flags & TDF_DETAILS))
+    {
+      fprintf (dump_file, "Created phi ");
+      print_generic_expr (dump_file, temp, 0);
+      fprintf (dump_file, " in block %d\n", block->index);
+    }
+  pre_stats.phis++;
+  return true;
+}
+
+
       
 /* Perform insertion of partially redundant values.
    For BLOCK, do the following:
@@ -1267,6 +1587,7 @@ create_expression_by_pieces (basic_block block, tree expr, tree stmts)
    3. Recursively call ourselves on the dominator children of BLOCK.
 
 */
+
 static bool
 insert_aux (basic_block block)
 {
@@ -1275,27 +1596,35 @@ insert_aux (basic_block block)
 
   if (block)
     {
-      value_set_node_t e;
       basic_block dom;
       dom = get_immediate_dominator (CDI_DOMINATORS, block);
       if (dom)
        {
-         e = NEW_SETS (dom)->head;
-         while (e)
+         unsigned i;
+         bitmap_iterator bi;
+         bitmap_set_t newset = NEW_SETS (dom);
+         if (newset)
            {
-             insert_into_set (NEW_SETS (block), e->expr);
-             value_replace_in_set (AVAIL_OUT (block), e->expr);
-             e = e->next;
+             /* Note that we need to value_replace both NEW_SETS, and
+                AVAIL_OUT. For both the case of NEW_SETS, the value may be
+                represented by some non-simple expression here that we want
+                to replace it with.  */
+             EXECUTE_IF_SET_IN_BITMAP (newset->expressions, 0, i, bi)
+               {
+                 bitmap_value_replace_in_set (NEW_SETS (block), ssa_name (i));
+                 bitmap_value_replace_in_set (AVAIL_OUT (block), ssa_name (i));
+               }
            }
-         if (block->pred->pred_next)
+         if (!single_pred_p (block))
            {
              value_set_node_t node;
              for (node = ANTIC_IN (block)->head;
                   node;
                   node = node->next)
                {
-                 if (TREE_CODE_CLASS (TREE_CODE (node->expr)) == '2'
-                     || TREE_CODE_CLASS (TREE_CODE (node->expr)) == '1')
+                 if (BINARY_CLASS_P (node->expr)
+                     || COMPARISON_CLASS_P (node->expr)
+                     || UNARY_CLASS_P (node->expr))
                    {
                      tree *avail;
                      tree val;
@@ -1305,25 +1634,33 @@ insert_aux (basic_block block)
                      tree first_s = NULL;
                      edge pred;
                      basic_block bprime;
-                     tree eprime;
+                     tree eprime = NULL_TREE;
+                     edge_iterator ei;
 
                      val = get_value_handle (node->expr);
-                     if (set_contains_value (PHI_GEN (block), val))
+                     if (bitmap_set_contains_value (PHI_GEN (block), val))
                        continue; 
-                     if (set_contains_value (AVAIL_OUT (dom), val))
+                     if (bitmap_set_contains_value (AVAIL_OUT (dom), val))
                        {
                          if (dump_file && (dump_flags & TDF_DETAILS))
                            fprintf (dump_file, "Found fully redundant value\n");
                          continue;
                        }
-                                   
+                                             
                      avail = xcalloc (last_basic_block, sizeof (tree));
-                     for (pred = block->pred;
-                          pred;
-                          pred = pred->pred_next)
+                     FOR_EACH_EDGE (pred, ei, block->preds)
                        {
                          tree vprime;
                          tree edoubleprime;
+
+                         /* This can happen in the very weird case
+                            that our fake infinite loop edges have caused a
+                            critical edge to appear.  */
+                         if (EDGE_CRITICAL_P (pred))
+                           {
+                             cant_insert = true;
+                             break;
+                           }
                          bprime = pred->src;
                          eprime = phi_translate (node->expr,
                                                  ANTIC_IN (block),
@@ -1344,11 +1681,11 @@ insert_aux (basic_block block)
                              break;
                            }
 
+                         eprime = fully_constant_expression (eprime);
                          vprime = get_value_handle (eprime);
-                         if (!vprime)
-                           abort ();                     
-                         edoubleprime = find_leader (AVAIL_OUT (bprime),
-                                                     vprime);
+                         gcc_assert (vprime);
+                         edoubleprime = bitmap_find_leader (AVAIL_OUT (bprime),
+                                                            vprime);
                          if (edoubleprime == NULL)
                            {
                              avail[bprime->index] = eprime;
@@ -1360,11 +1697,9 @@ insert_aux (basic_block block)
                              by_some = true; 
                              if (first_s == NULL)
                                first_s = edoubleprime;
-                             else if (first_s != edoubleprime)
+                             else if (!operand_equal_p (first_s, edoubleprime,
+                                                        0))
                                all_same = false;
-                             if (first_s != edoubleprime 
-                                 && operand_equal_p (first_s, edoubleprime, 0))
-                               abort ();
                            }
                        }
                      /* If we can insert it, it's not the same value
@@ -1373,70 +1708,28 @@ insert_aux (basic_block block)
                         partially redundant.  */
                      if (!cant_insert && !all_same && by_some)
                        {
-                         tree type = TREE_TYPE (avail[block->pred->src->index]);
-                         tree temp;
-                         if (dump_file && (dump_flags & TDF_DETAILS))
-                           {
-                             fprintf (dump_file, "Found partial redundancy for expression ");
-                             print_generic_expr (dump_file, node->expr, 0);
-                             fprintf (dump_file, "\n");
-                           }
-
-                         /* Make the necessary insertions. */
-                         for (pred = block->pred;
-                              pred;
-                              pred = pred->pred_next)
-                           {
-                             tree stmts = alloc_stmt_list ();
-                             tree builtexpr;
-                             bprime = pred->src;
-                             eprime = avail[bprime->index];
-                             if (TREE_CODE_CLASS (TREE_CODE (eprime)) == '2'
-                                 || TREE_CODE_CLASS (TREE_CODE (eprime)) == '1')
-                               {
-                                 builtexpr = create_expression_by_pieces (bprime,
-                                                                          eprime,
-                                                                          stmts);
-                                 bsi_insert_on_edge (pred, stmts);
-                                 bsi_commit_edge_inserts (NULL);
-                                 avail[bprime->index] = builtexpr;
-                               }                             
-                           } 
-                         /* Now build a phi for the new variable.  */
-                         temp = create_tmp_var (type, "prephitmp");
-                         add_referenced_tmp_var (temp);
-                         temp = create_phi_node (temp, block);
-                         vn_add (PHI_RESULT (temp), val);
-
-#if 0
-                         if (!set_contains_value (AVAIL_OUT (block), val))
-                           insert_into_set (AVAIL_OUT (block), 
-                                            PHI_RESULT (temp));
-                         else
-#endif
-                           value_replace_in_set (AVAIL_OUT (block), 
-                                                PHI_RESULT (temp));
-                         for (pred = block->pred;
-                              pred;
-                              pred = pred->pred_next)
-                           {
-                             add_phi_arg (&temp, avail[pred->src->index],
-                                          pred);
-                           }
-                         if (dump_file && (dump_flags & TDF_DETAILS))
-                           {
-                             fprintf (dump_file, "Created phi ");
-                             print_generic_expr (dump_file, temp, 0);
-                             fprintf (dump_file, " in block %d\n", block->index);
-                           }
-                         pre_stats.phis++;
-                         new_stuff = true;
-                         insert_into_set (NEW_SETS (block),
-                                          PHI_RESULT (temp));
-                         insert_into_set (PHI_GEN (block),
-                                          PHI_RESULT (temp));
+                         if (insert_into_preds_of_block (block, node, avail, 
+                                                         "prephitmp"))
+                           new_stuff = true;
+                       }
+                     /* If all edges produce the same value and that value is
+                        an invariant, then the PHI has the same value on all
+                        edges.  Note this.  */
+                     else if (!cant_insert && all_same && eprime 
+                              && is_gimple_min_invariant (eprime)
+                              && !is_gimple_min_invariant (val))
+                       {
+                         value_set_t exprset = VALUE_HANDLE_EXPR_SET (val);
+                         value_set_node_t node;
+                         for (node = exprset->head; node; node = node->next)
+                           {
+                             if (TREE_CODE (node->expr) == SSA_NAME)
+                               {                                 
+                                 vn_add (node->expr, eprime, NULL);
+                                 pre_stats.constified++;
+                               }
+                           }
                        }
-
                      free (avail);
                    }
                }
@@ -1461,9 +1754,9 @@ insert (void)
   bool new_stuff = true;
   basic_block bb;
   int num_iterations = 0;
-
+  
   FOR_ALL_BB (bb)
-    NEW_SETS (bb) = set_new (true);
+    NEW_SETS (bb) = bitmap_set_new ();
   
   while (new_stuff)
     {
@@ -1476,239 +1769,274 @@ insert (void)
 }
 
 
-/* Return true if EXPR has no defining statement in this procedure,
-   *AND* isn't a live-on-entry parameter.  */
+/* Return true if VAR is an SSA variable with no defining statement in
+   this procedure, *AND* isn't a live-on-entry parameter.  */
 
 static bool
 is_undefined_value (tree expr)
-{  
-#ifdef ENABLE_CHECKING
-  /* We should never be handed DECL's  */
-  if (DECL_P (expr))
-    abort ();
-#endif
+{
+  return (TREE_CODE (expr) == SSA_NAME
+          && IS_EMPTY_STMT (SSA_NAME_DEF_STMT (expr))
+         /* PARM_DECLs and hard registers are always defined.  */
+         && TREE_CODE (SSA_NAME_VAR (expr)) != PARM_DECL);
+}
+
+
+/* Given an SSA variable VAR and an expression EXPR, compute the value
+   number for EXPR and create a value handle (VAL) for it.  If VAR and
+   EXPR are not the same, associate VAL with VAR.  Finally, add VAR to
+   S1 and its value handle to S2.
+
+   VUSES represent the virtual use operands associated with EXPR (if
+   any). They are used when computing the hash value for EXPR.  */
+
+static inline void
+add_to_sets (tree var, tree expr, vuse_optype vuses, bitmap_set_t s1,
+            bitmap_set_t s2)
+{
+  tree val = vn_lookup_or_add (expr, vuses);
+
+  /* VAR and EXPR may be the same when processing statements for which
+     we are not computing value numbers (e.g., non-assignments, or
+     statements that make aliased stores).  In those cases, we are
+     only interested in making VAR available as its own value.  */
+  if (var != expr)
+    vn_add (var, val, NULL);
+
+  if (s1)
+    bitmap_insert_into_set (s1, var);
+  bitmap_value_insert_into_set (s2, var);
+}
+
+
+/* Given a unary or binary expression EXPR, create and return a new
+   expression with the same structure as EXPR but with its operands
+   replaced with the value handles of each of the operands of EXPR.
+
+   VUSES represent the virtual use operands associated with EXPR (if
+   any). They are used when computing the hash value for EXPR.
+   Insert EXPR's operands into the EXP_GEN set for BLOCK. */
+
+static inline tree
+create_value_expr_from (tree expr, basic_block block,
+                       vuse_optype vuses)
+
+{
+  int i;
+  enum tree_code code = TREE_CODE (expr);
+  tree vexpr;
+  alloc_pool pool;
+
+  gcc_assert (TREE_CODE_CLASS (code) == tcc_unary
+             || TREE_CODE_CLASS (code) == tcc_binary
+             || TREE_CODE_CLASS (code) == tcc_comparison
+             || TREE_CODE_CLASS (code) == tcc_reference);
+
+  if (TREE_CODE_CLASS (code) == tcc_unary)
+    pool = unary_node_pool;
+  else if (TREE_CODE_CLASS (code) == tcc_reference)
+    pool = reference_node_pool;
+  else
+    pool = binary_node_pool;
+
+  vexpr = pool_alloc (pool);
+  memcpy (vexpr, expr, tree_size (expr));
 
-  if (TREE_CODE (expr) == SSA_NAME)
+  for (i = 0; i < TREE_CODE_LENGTH (code); i++)
     {
-      /* XXX: Is this the correct test?  */
-      if (TREE_CODE (SSA_NAME_VAR (expr)) == PARM_DECL)
-       return false;
-      if (IS_EMPTY_STMT (SSA_NAME_DEF_STMT (expr)))
-       return true;
+      tree val, op;
+      
+      op = TREE_OPERAND (expr, i);
+      if (op == NULL_TREE)
+       continue;
+
+      /* If OP is a constant that has overflowed, do not value number
+        this expression.  */
+      if (TREE_CODE_CLASS (TREE_CODE (op)) == tcc_constant
+         && TREE_OVERFLOW (op))
+       {
+         pool_free (pool, vexpr);
+         return NULL;
+       }
+
+      /* Recursively value-numberize reference ops */
+      if (TREE_CODE_CLASS (TREE_CODE (op)) == tcc_reference)
+       {
+         tree tempop = create_value_expr_from (op, block, vuses);
+         op = tempop ? tempop : op;
+         val = vn_lookup_or_add (op, vuses);
+       }
+      else       
+       /* Create a value handle for OP and add it to VEXPR.  */
+       val = vn_lookup_or_add (op, NULL);
+
+      if (!is_undefined_value (op))
+       value_insert_into_set (EXP_GEN (block), op);
+
+      if (TREE_CODE (val) == VALUE_HANDLE)
+       TREE_TYPE (val) = TREE_TYPE (TREE_OPERAND (vexpr, i));
+
+      TREE_OPERAND (vexpr, i) = val;
     }
 
-  return false;
+  return vexpr;
 }
 
-/* Compute the AVAIL set for BLOCK.
-   This function performs value numbering of the statements in BLOCK. 
-   The AVAIL sets are built from information we glean while doing this
-   value numbering, since the AVAIL sets contain only entry per
-   value.
 
+/* Compute the AVAIL set for all basic blocks.
+
+   This function performs value numbering of the statements in each basic
+   block.  The AVAIL sets are built from information we glean while doing
+   this value numbering, since the AVAIL sets contain only one entry per
+   value.
    
    AVAIL_IN[BLOCK] = AVAIL_OUT[dom(BLOCK)].
-   AVAIL_OUT[BLOCK] = AVAIL_IN[BLOCK] U PHI_GEN[BLOCK] U
-   TMP_GEN[BLOCK].
-*/
+   AVAIL_OUT[BLOCK] = AVAIL_IN[BLOCK] U PHI_GEN[BLOCK] U TMP_GEN[BLOCK].  */
 
 static void
-compute_avail (basic_block block)
+compute_avail (void)
 {
-  basic_block son;
-  
+  basic_block block, son;
+  basic_block *worklist;
+  size_t sp = 0;
+  tree param;
+
   /* For arguments with default definitions, we pretend they are
      defined in the entry block.  */
-  if (block == ENTRY_BLOCK_PTR)
+  for (param = DECL_ARGUMENTS (current_function_decl);
+       param;
+       param = TREE_CHAIN (param))
     {
-      tree param;
-      for (param = DECL_ARGUMENTS (current_function_decl);
-          param;
-          param = TREE_CHAIN (param))
+      if (default_def (param) != NULL)
        {
-         if (default_def (param) != NULL)
-           {
-             tree val;
-             tree def = default_def (param);
-             val = vn_lookup_or_add (def);
-             insert_into_set (TMP_GEN (block), def);
-             value_insert_into_set (AVAIL_OUT (block), def);
-           }
+         tree def = default_def (param);
+         vn_lookup_or_add (def, NULL);
+         bitmap_insert_into_set (TMP_GEN (ENTRY_BLOCK_PTR), def);
+         bitmap_value_insert_into_set (AVAIL_OUT (ENTRY_BLOCK_PTR), def);
        }
     }
-  else if (block)
+
+  /* Allocate the worklist.  */
+  worklist = xmalloc (sizeof (basic_block) * n_basic_blocks);
+
+  /* Seed the algorithm by putting the dominator children of the entry
+     block on the worklist.  */
+  for (son = first_dom_son (CDI_DOMINATORS, ENTRY_BLOCK_PTR);
+       son;
+       son = next_dom_son (CDI_DOMINATORS, son))
+    worklist[sp++] = son;
+
+  /* Loop until the worklist is empty.  */
+  while (sp)
     {
       block_stmt_iterator bsi;
       tree stmt, phi;
       basic_block dom;
 
+      /* Pick a block from the worklist.  */
+      block = worklist[--sp];
+
+      /* Initially, the set of available values in BLOCK is that of
+        its immediate dominator.  */
       dom = get_immediate_dominator (CDI_DOMINATORS, block);
       if (dom)
-       set_copy (AVAIL_OUT (block), AVAIL_OUT (dom));
+       bitmap_set_copy (AVAIL_OUT (block), AVAIL_OUT (dom));
 
+      /* Generate values for PHI nodes.  */
       for (phi = phi_nodes (block); phi; phi = PHI_CHAIN (phi))
-       {
-         /* Ignore virtual PHIs until we can do PRE on expressions
-            with virtual operands.  */
-         if (!is_gimple_reg (SSA_NAME_VAR (PHI_RESULT (phi))))
-           continue;
-
-         vn_lookup_or_add (PHI_RESULT (phi));
-         value_insert_into_set (AVAIL_OUT (block), PHI_RESULT (phi));
-         insert_into_set (PHI_GEN (block), PHI_RESULT (phi));
-       }
-
+       /* We have no need for virtual phis, as they don't represent
+          actual computations.  */
+       if (is_gimple_reg (PHI_RESULT (phi)))
+         add_to_sets (PHI_RESULT (phi), PHI_RESULT (phi), NULL,
+                      PHI_GEN (block), AVAIL_OUT (block));
+
+      /* Now compute value numbers and populate value sets with all
+        the expressions computed in BLOCK.  */
       for (bsi = bsi_start (block); !bsi_end_p (bsi); bsi_next (&bsi))
        {
-         tree op0, op1;
+         stmt_ann_t ann;
+         size_t j;
+
          stmt = bsi_stmt (bsi);
-         get_stmt_operands (stmt);
-         
-         if (NUM_VUSES (STMT_VUSE_OPS (stmt))
-             || NUM_V_MUST_DEFS (STMT_V_MUST_DEF_OPS (stmt))
-             || NUM_V_MAY_DEFS (STMT_V_MAY_DEF_OPS (stmt))
-             || stmt_ann (stmt)->has_volatile_ops)
+         ann = stmt_ann (stmt);
+
+         /* We are only interested in assignments of the form
+            X_i = EXPR, where EXPR represents an "interesting"
+            computation, it has no volatile operands and X_i
+            doesn't flow through an abnormal edge.  */
+         if (TREE_CODE (stmt) == MODIFY_EXPR
+             && !ann->has_volatile_ops
+             && TREE_CODE (TREE_OPERAND (stmt, 0)) == SSA_NAME
+             && !SSA_NAME_OCCURS_IN_ABNORMAL_PHI (TREE_OPERAND (stmt, 0)))
            {
-             size_t j;
-             for (j = 0; j < NUM_DEFS (STMT_DEF_OPS (stmt)); j++)
-               {
-                 tree def = DEF_OP (STMT_DEF_OPS (stmt), j);
-                 vn_lookup_or_add (def);
-                 insert_into_set (TMP_GEN (block), def);
-                 value_insert_into_set (AVAIL_OUT (block), def);
-               }
-             for (j = 0; j < NUM_USES (STMT_USE_OPS (stmt)); j++)
+             tree lhs = TREE_OPERAND (stmt, 0);
+             tree rhs = TREE_OPERAND (stmt, 1);
+             vuse_optype vuses = STMT_VUSE_OPS (stmt);
+
+             STRIP_USELESS_TYPE_CONVERSION (rhs);
+             if (UNARY_CLASS_P (rhs)
+                 || BINARY_CLASS_P (rhs)
+                 || COMPARISON_CLASS_P (rhs)
+                 || REFERENCE_CLASS_P (rhs))
                {
-                 tree use = USE_OP (STMT_USE_OPS (stmt), j);
-                 if (TREE_CODE (use) == SSA_NAME)
+                 /* For binary, unary, and reference expressions,
+                    create a duplicate expression with the operands
+                    replaced with the value handles of the original
+                    RHS.  */
+                 tree newt = create_value_expr_from (rhs, block, vuses);
+                 if (newt)
                    {
-                     vn_lookup_or_add (use);
-                     insert_into_set (TMP_GEN (block), use);
-                     value_insert_into_set (AVAIL_OUT (block), use);
+                     add_to_sets (lhs, newt, vuses, TMP_GEN (block),
+                                  AVAIL_OUT (block));
+                     value_insert_into_set (EXP_GEN (block), newt);
+                     continue;
                    }
                }
-             continue;
+             else if (TREE_CODE (rhs) == SSA_NAME
+                      || is_gimple_min_invariant (rhs)
+                      || TREE_CODE (rhs) == ADDR_EXPR
+                      || TREE_INVARIANT (rhs)
+                      || DECL_P (rhs))
+               {
+                 /* Compute a value number for the RHS of the statement
+                    and add its value to the AVAIL_OUT set for the block.
+                    Add the LHS to TMP_GEN.  */
+                 add_to_sets (lhs, rhs, vuses, TMP_GEN (block), 
+                              AVAIL_OUT (block));
+                 
+                 if (TREE_CODE (rhs) == SSA_NAME
+                     && !is_undefined_value (rhs))
+                   value_insert_into_set (EXP_GEN (block), rhs);
+                 continue;
+               }          
            }
 
-         if (TREE_CODE (stmt) == MODIFY_EXPR)
+         /* For any other statement that we don't recognize, simply
+            make the names generated by the statement available in
+            AVAIL_OUT and TMP_GEN.  */
+         for (j = 0; j < NUM_DEFS (STMT_DEF_OPS (stmt)); j++)
            {
-             op0 = TREE_OPERAND (stmt, 0);
-             if (TREE_CODE (op0) != SSA_NAME)
-               continue;
-             if (SSA_NAME_OCCURS_IN_ABNORMAL_PHI (op0))
-               continue;
-             op1 = TREE_OPERAND (stmt, 1);
-             STRIP_USELESS_TYPE_CONVERSION (op1);
-             if (is_gimple_min_invariant (op1))
-               {
-                 vn_add (op0, vn_lookup_or_add (op1));
-                 insert_into_set (TMP_GEN (block), op0);
-                 value_insert_into_set (AVAIL_OUT (block), op0);
-               }
-             else if (TREE_CODE_CLASS (TREE_CODE (op1)) == '2')
-               {
-                 tree bop1, bop2;
-                 tree val, val1, val2;
-                 tree newt;
-                 bop1 = TREE_OPERAND (op1, 0);
-                 bop2 = TREE_OPERAND (op1, 1);
-                 val1 = vn_lookup_or_add (bop1);
-                 val2 = vn_lookup_or_add (bop2);
-                 newt = pool_alloc (binary_node_pool);
-                 memcpy (newt, op1, tree_size (op1));
-                 TREE_OPERAND (newt, 0) = val1;
-                 TREE_OPERAND (newt, 1) = val2;
-                 val = vn_lookup_or_add (newt);
-                 vn_add (op0, val);
-                 if (!is_undefined_value (bop1))
-                   value_insert_into_set (EXP_GEN (block), bop1);
-                 if (!is_undefined_value (bop2))
-                   value_insert_into_set (EXP_GEN (block), bop2);
-                 value_insert_into_set (EXP_GEN (block), newt);
-                 insert_into_set (TMP_GEN (block), op0);
-                 value_insert_into_set (AVAIL_OUT (block), op0);  
-               }
-             else if (TREE_CODE_CLASS (TREE_CODE (op1)) == '1'
-                      && !is_gimple_cast (op1))
-               {
-                 tree uop;
-                 tree val, val1;
-                 tree newt;
-                 uop = TREE_OPERAND (op1, 0);
-                 val1 = vn_lookup_or_add (uop);
-                 newt = pool_alloc (unary_node_pool);
-                 memcpy (newt, op1, tree_size (op1));
-                 TREE_OPERAND (newt, 0) = val1;
-                 val = vn_lookup_or_add (newt);
-                 vn_add (op0, val);
-                 if (!is_undefined_value (uop))
-                   value_insert_into_set (EXP_GEN (block), uop);
-                 value_insert_into_set (EXP_GEN (block), newt);
-                 insert_into_set (TMP_GEN (block), op0);
-                 value_insert_into_set (AVAIL_OUT (block), op0);
-               }
-             else if (TREE_CODE (op1) == SSA_NAME)
-               {
-                 tree val = vn_lookup_or_add (op1);
-                 vn_add (op0, val);
-                 if (!is_undefined_value (op1))
-                   value_insert_into_set (EXP_GEN (block), op1);
-                 insert_into_set (TMP_GEN (block), op0);
-                 value_insert_into_set (AVAIL_OUT (block), op0);
-               }
-             else
-               {
-                 size_t j;
-                 for (j = 0; j < NUM_DEFS (STMT_DEF_OPS (stmt)); j++)
-                   {
-                     tree def = DEF_OP (STMT_DEF_OPS (stmt), j);
-                     vn_lookup_or_add (def);
-                     insert_into_set (TMP_GEN (block), def);
-                     value_insert_into_set (AVAIL_OUT (block), def);
-                     if (def != op0)
-                       abort ();
-                   }
-                 for (j = 0; j < NUM_USES (STMT_USE_OPS (stmt)); j++)
-                   {
-                     tree use = USE_OP (STMT_USE_OPS (stmt), j);
-                     if (TREE_CODE (use) == SSA_NAME)
-                       {
-                         vn_lookup_or_add (use);
-                         insert_into_set (TMP_GEN (block), use);
-                         value_insert_into_set (AVAIL_OUT (block), use);
-                       }
-                   }
-               }
+             tree def = DEF_OP (STMT_DEF_OPS (stmt), j);
+             add_to_sets (def, def, NULL, TMP_GEN (block),
+                           AVAIL_OUT (block));
            }
-         else
+
+         for (j = 0; j < NUM_USES (STMT_USE_OPS (stmt)); j++)
            {
-             size_t j;
-             for (j = 0; j < NUM_DEFS (STMT_DEF_OPS (stmt)); j++)
-               {
-                 tree def = DEF_OP (STMT_DEF_OPS (stmt), j);
-                 vn_lookup_or_add (def);
-                 insert_into_set (TMP_GEN (block), def);
-                 value_insert_into_set (AVAIL_OUT (block), def);
-               }
-             for (j = 0; j < NUM_USES (STMT_USE_OPS (stmt)); j++)
-               {
-                 tree use = USE_OP (STMT_USE_OPS (stmt), j);
-                 if (TREE_CODE (use) == SSA_NAME)
-                   {
-                     vn_lookup_or_add (use);
-                     insert_into_set (TMP_GEN (block), use);
-                     value_insert_into_set (AVAIL_OUT (block), use);
-                   }
-               }
+             tree use = USE_OP (STMT_USE_OPS (stmt), j);
+             add_to_sets (use, use, NULL, NULL, AVAIL_OUT (block));
            }
        }
+
+      /* Put the dominator children of BLOCK on the worklist of blocks
+        to compute available sets for.  */
+      for (son = first_dom_son (CDI_DOMINATORS, block);
+          son;
+          son = next_dom_son (CDI_DOMINATORS, son))
+       worklist[sp++] = son;
     }
 
-  for (son = first_dom_son (CDI_DOMINATORS, block);
-       son;
-       son = next_dom_son (CDI_DOMINATORS, son))
-    compute_avail (son);
+  free (worklist);
 }
 
 
@@ -1727,98 +2055,307 @@ eliminate (void)
         {
           tree stmt = bsi_stmt (i);
 
-          if (NUM_VUSES (STMT_VUSE_OPS (stmt))
-              || NUM_V_MUST_DEFS (STMT_V_MUST_DEF_OPS (stmt))
-             || NUM_V_MAY_DEFS (STMT_V_MAY_DEF_OPS (stmt))
-             || stmt_ann (stmt)->has_volatile_ops)
-            continue;
-
-          /* Lookup the RHS of the expression, see if we have an
-            available computation for it. If so, replace the RHS with
+         /* Lookup the RHS of the expression, see if we have an
+            available computation for it.  If so, replace the RHS with
             the available computation.  */
-         if (TREE_CODE (stmt) == MODIFY_EXPR)
-            {
-              tree t = TREE_OPERAND (stmt, 0);
-              tree expr = TREE_OPERAND (stmt, 1);
-              tree sprime;
-             /* There is no point in eliminating NOP_EXPR, it isn't
-                supposed to generate any code.  */
-             if (TREE_CODE (expr) == NOP_EXPR
-                 || (TREE_CODE_CLASS (TREE_CODE (expr)) != '2' 
-                  && TREE_CODE_CLASS (TREE_CODE (expr)) != '1'))
-               continue;
-
-             sprime = find_leader (AVAIL_OUT (b), vn_lookup (t));
-              if (sprime 
-                 && sprime != t 
-                 && may_propagate_copy (sprime, TREE_OPERAND (stmt, 1)))
-                {
+         if (TREE_CODE (stmt) == MODIFY_EXPR
+             && TREE_CODE (TREE_OPERAND (stmt, 0)) == SSA_NAME
+             && TREE_CODE (TREE_OPERAND (stmt ,1)) != SSA_NAME
+             && !is_gimple_min_invariant (TREE_OPERAND (stmt, 1))
+             && !stmt_ann (stmt)->has_volatile_ops)
+           {
+             tree lhs = TREE_OPERAND (stmt, 0);
+             tree *rhs_p = &TREE_OPERAND (stmt, 1);
+             tree sprime;
+
+             sprime = bitmap_find_leader (AVAIL_OUT (b),
+                                          vn_lookup (lhs, NULL));
+             if (sprime 
+                 && sprime != lhs
+                 && (TREE_CODE (*rhs_p) != SSA_NAME
+                     || may_propagate_copy (*rhs_p, sprime)))
+               {
+                 gcc_assert (sprime != *rhs_p);
+
                  if (dump_file && (dump_flags & TDF_DETAILS))
                    {
                      fprintf (dump_file, "Replaced ");
-                     print_generic_expr (dump_file, expr, 0);
+                     print_generic_expr (dump_file, *rhs_p, 0);
                      fprintf (dump_file, " with ");
                      print_generic_expr (dump_file, sprime, 0);
                      fprintf (dump_file, " in ");
                      print_generic_stmt (dump_file, stmt, 0);
                    }
+                 if (TREE_CODE (sprime) == SSA_NAME) 
+                   NECESSARY (SSA_NAME_DEF_STMT (sprime)) = 1;
                  pre_stats.eliminations++;
-                  propagate_tree_value (&TREE_OPERAND (stmt, 1), sprime);
-                  modify_stmt (stmt);
-                }
-            }
+                 propagate_tree_value (rhs_p, sprime);
+                 update_stmt (stmt);
+
+                 /* If we removed EH side effects from the statement, clean
+                    its EH information.  */
+                 if (maybe_clean_eh_stmt (stmt))
+                   {
+                     bitmap_set_bit (need_eh_cleanup,
+                                     bb_for_stmt (stmt)->index);
+                     if (dump_file && (dump_flags & TDF_DETAILS))
+                       fprintf (dump_file, "  Removed EH side effects.\n");
+                   }
+               }
+           }
         }
     }
 }
 
+/* Borrow a bit of tree-ssa-dce.c for the moment.
+   XXX: In 4.1, we should be able to just run a DCE pass after PRE, though
+   this may be a bit faster, and we may want critical edges kept split.  */
+
+/* If OP's defining statement has not already been determined to be necessary,
+   mark that statement necessary. Return the stmt, if it is newly
+   necessary.  */ 
+
+static inline tree
+mark_operand_necessary (tree op)
+{
+  tree stmt;
+
+  gcc_assert (op);
 
-/* Main entry point to the SSA-PRE pass.
+  stmt = SSA_NAME_DEF_STMT (op);
+  gcc_assert (stmt);
 
-   PHASE indicates which dump file from the DUMP_FILES array to use when
-   dumping debugging information.  */
+  if (NECESSARY (stmt)
+      || IS_EMPTY_STMT (stmt))
+    return NULL;
+
+  NECESSARY (stmt) = 1;
+  return stmt;
+}
+
+/* Because we don't follow exactly the standard PRE algorithm, and decide not
+   to insert PHI nodes sometimes, and because value numbering of casts isn't
+   perfect, we sometimes end up inserting dead code.   This simple DCE-like
+   pass removes any insertions we made that weren't actually used.  */
 
 static void
-execute_pre (void)
+remove_dead_inserted_code (void)
+{
+  VEC(tree,heap) *worklist = NULL;
+  int i;
+  tree t;
+
+  worklist = VEC_alloc (tree, heap, VEC_length (tree, inserted_exprs));
+  for (i = 0; VEC_iterate (tree, inserted_exprs, i, t); i++)
+    {
+      if (NECESSARY (t))
+       VEC_quick_push (tree, worklist, t);
+    }
+  while (VEC_length (tree, worklist) > 0)
+    {
+      t = VEC_pop (tree, worklist);
+      if (TREE_CODE (t) == PHI_NODE)
+       {
+         /* PHI nodes are somewhat special in that each PHI alternative has
+            data and control dependencies.  All the statements feeding the
+            PHI node's arguments are always necessary.  In aggressive mode,
+            we also consider the control dependent edges leading to the
+            predecessor block associated with each PHI alternative as
+            necessary.  */
+         int k;
+
+         VEC_reserve (tree, heap, worklist, PHI_NUM_ARGS (t));
+         for (k = 0; k < PHI_NUM_ARGS (t); k++)
+            {
+             tree arg = PHI_ARG_DEF (t, k);
+             if (TREE_CODE (arg) == SSA_NAME)
+               {
+                 arg = mark_operand_necessary (arg);
+                 if (arg)
+                   VEC_quick_push (tree, worklist, arg);
+               }
+           }
+       }
+      else
+       {
+         /* Propagate through the operands.  Examine all the USE, VUSE and
+            V_MAY_DEF operands in this statement.  Mark all the statements 
+            which feed this statement's uses as necessary.  */
+         ssa_op_iter iter;
+         tree use;
+
+         /* The operands of V_MAY_DEF expressions are also needed as they
+            represent potential definitions that may reach this
+            statement (V_MAY_DEF operands allow us to follow def-def 
+            links).  */
+
+         FOR_EACH_SSA_TREE_OPERAND (use, t, iter, SSA_OP_ALL_USES)
+           {
+             tree n = mark_operand_necessary (use);
+             if (n)
+               VEC_safe_push (tree, heap, worklist, n);
+           }
+       }
+    }
+  for (i = 0; VEC_iterate (tree, inserted_exprs, i, t); i++)
+    {
+      if (!NECESSARY (t))
+       {
+         block_stmt_iterator bsi;
+         if (dump_file && (dump_flags & TDF_DETAILS))
+           {
+             fprintf (dump_file, "Removing unnecessary insertion:");
+             print_generic_stmt (dump_file, t, 0);
+           }
+         if (TREE_CODE (t) == PHI_NODE)
+           {
+             remove_phi_node (t, NULL);
+           }
+         else
+           {
+             bsi = bsi_for_stmt (t);
+             bsi_remove (&bsi);
+           }
+       }
+    }
+  VEC_free (tree, heap, worklist);
+}
+/* Initialize data structures used by PRE.  */
+
+static void
+init_pre (bool do_fre)
 {
-  size_t tsize;
   basic_block bb;
+
+  inserted_exprs = NULL;
+  vn_init ();
+  if (!do_fre)
+    current_loops = loop_optimizer_init (dump_file);
+  connect_infinite_loops_to_exit ();
   memset (&pre_stats, 0, sizeof (pre_stats));
+
+  /* If block 0 has more than one predecessor, it means that its PHI
+     nodes will have arguments coming from block -1.  This creates
+     problems for several places in PRE that keep local arrays indexed
+     by block number.  To prevent this, we split the edge coming from
+     ENTRY_BLOCK_PTR (FIXME, if ENTRY_BLOCK_PTR had an index number
+     different than -1 we wouldn't have to hack this.  tree-ssa-dce.c
+     needs a similar change).  */
+  if (!single_pred_p (single_succ (ENTRY_BLOCK_PTR)))
+    if (!(single_succ_edge (ENTRY_BLOCK_PTR)->flags & EDGE_ABNORMAL))
+      split_edge (single_succ_edge (ENTRY_BLOCK_PTR));
+
   FOR_ALL_BB (bb)
-    {
-      bb->aux = xcalloc (1, sizeof (struct bb_value_sets));
-    }
+    bb->aux = xcalloc (1, sizeof (struct bb_value_sets));
+
+  bitmap_obstack_initialize (&grand_bitmap_obstack);
   phi_translate_table = htab_create (511, expr_pred_trans_hash,
-                                    expr_pred_trans_eq,
-                                    free);
+                                    expr_pred_trans_eq, free);
   value_set_pool = create_alloc_pool ("Value sets",
                                      sizeof (struct value_set), 30);
+  bitmap_set_pool = create_alloc_pool ("Bitmap sets",
+                                      sizeof (struct bitmap_set), 30);
   value_set_node_pool = create_alloc_pool ("Value set nodes",
-                                      sizeof (struct value_set_node), 30);
+                                          sizeof (struct value_set_node), 30);
   calculate_dominance_info (CDI_POST_DOMINATORS);
   calculate_dominance_info (CDI_DOMINATORS);
-  tsize = tree_size (build (PLUS_EXPR, void_type_node, NULL_TREE,
-                           NULL_TREE));
-  binary_node_pool = create_alloc_pool ("Binary tree nodes", tsize, 30);
-  tsize = tree_size (build1 (NEGATE_EXPR, void_type_node, NULL_TREE));
-  unary_node_pool = create_alloc_pool ("Unary tree nodes", tsize, 30);
-
+  binary_node_pool = create_alloc_pool ("Binary tree nodes",
+                                       tree_code_size (PLUS_EXPR), 30);
+  unary_node_pool = create_alloc_pool ("Unary tree nodes",
+                                      tree_code_size (NEGATE_EXPR), 30);
+  reference_node_pool = create_alloc_pool ("Reference tree nodes",
+                                          tree_code_size (ARRAY_REF), 30);
   FOR_ALL_BB (bb)
     {
       EXP_GEN (bb) = set_new (true);
-      PHI_GEN (bb) = set_new (true);
-      TMP_GEN (bb) = set_new (false);
-      AVAIL_OUT (bb) = set_new (true);
+      PHI_GEN (bb) = bitmap_set_new ();
+      TMP_GEN (bb) = bitmap_set_new ();
+      AVAIL_OUT (bb) = bitmap_set_new ();
+    }
+
+  need_eh_cleanup = BITMAP_ALLOC (NULL);
+}
+
+
+/* Deallocate data structures used by PRE.  */
+
+static void
+fini_pre (bool do_fre)
+{
+  basic_block bb;
+  unsigned int i;
+
+  VEC_free (tree, heap, inserted_exprs);
+  bitmap_obstack_release (&grand_bitmap_obstack);
+  free_alloc_pool (value_set_pool);
+  free_alloc_pool (bitmap_set_pool);
+  free_alloc_pool (value_set_node_pool);
+  free_alloc_pool (binary_node_pool);
+  free_alloc_pool (reference_node_pool);
+  free_alloc_pool (unary_node_pool);
+  htab_delete (phi_translate_table);
+  remove_fake_exit_edges ();
+
+  FOR_ALL_BB (bb)
+    {
+      free (bb->aux);
+      bb->aux = NULL;
+    }
+
+  free_dominance_info (CDI_POST_DOMINATORS);
+  vn_delete ();
+
+  if (!bitmap_empty_p (need_eh_cleanup))
+    {
+      tree_purge_all_dead_eh_edges (need_eh_cleanup);
+      cleanup_tree_cfg ();
     }
 
-  compute_avail (ENTRY_BLOCK_PTR);
+  BITMAP_FREE (need_eh_cleanup);
+
+  /* Wipe out pointers to VALUE_HANDLEs.  In the not terribly distant
+     future we will want them to be persistent though.  */
+  for (i = 0; i < num_ssa_names; i++)
+    {
+      tree name = ssa_name (i);
+
+      if (!name)
+       continue;
+
+      if (SSA_NAME_VALUE (name)
+         && TREE_CODE (SSA_NAME_VALUE (name)) == VALUE_HANDLE)
+       SSA_NAME_VALUE (name) = NULL;
+    }
+  if (!do_fre && current_loops)
+    {
+      loop_optimizer_finalize (current_loops, dump_file);
+      current_loops = NULL;
+    }
+}
+
+
+/* Main entry point to the SSA-PRE pass.  DO_FRE is true if the caller
+   only wants to do full redundancy elimination.  */
+
+static void
+execute_pre (bool do_fre)
+{
+  init_pre (do_fre);
+
+  /* Collect and value number expressions computed in each basic block.  */
+  compute_avail ();
 
   if (dump_file && (dump_flags & TDF_DETAILS))
     {
+      basic_block bb;
+
       FOR_ALL_BB (bb)
        {
          print_value_set (dump_file, EXP_GEN (bb), "exp_gen", bb->index);
-         print_value_set (dump_file, TMP_GEN (bb), "tmp_gen", bb->index);
-         print_value_set (dump_file, AVAIL_OUT (bb), "avail_out", bb->index);
+         bitmap_print_value_set (dump_file, TMP_GEN (bb), "tmp_gen", 
+                                 bb->index);
+         bitmap_print_value_set (dump_file, AVAIL_OUT (bb), "avail_out", 
+                                 bb->index);
        }
     }
 
@@ -1827,34 +2364,38 @@ execute_pre (void)
      fixed, don't run it when he have an incredibly large number of
      bb's.  If we aren't going to run insert, there is no point in
      computing ANTIC, either, even though it's plenty fast.  */
-  if (n_basic_blocks < 4000)
+  if (!do_fre && n_basic_blocks < 4000)
     {
       compute_antic ();
-      
       insert ();
     }
+
+  /* Remove all the redundant expressions.  */
   eliminate ();
-  
+
+
   if (dump_file && (dump_flags & TDF_STATS))
     {
-      fprintf (dump_file, "Insertions:%d\n", pre_stats.insertions);
-      fprintf (dump_file, "New PHIs:%d\n", pre_stats.phis);
-      fprintf (dump_file, "Eliminated:%d\n", pre_stats.eliminations);
+      fprintf (dump_file, "Insertions: %d\n", pre_stats.insertions);
+      fprintf (dump_file, "New PHIs: %d\n", pre_stats.phis);
+      fprintf (dump_file, "Eliminated: %d\n", pre_stats.eliminations);
+      fprintf (dump_file, "Constified: %d\n", pre_stats.constified);
     }
-
-  free_alloc_pool (value_set_pool);
-  free_alloc_pool (value_set_node_pool);
-  free_alloc_pool (binary_node_pool);
-  free_alloc_pool (unary_node_pool);
-  htab_delete (phi_translate_table);
   
-  FOR_ALL_BB (bb)
-    {
-      free (bb->aux);
-      bb->aux = NULL;
-    }
-  free_dominance_info (CDI_POST_DOMINATORS);
+  bsi_commit_edge_inserts ();
+  if (!do_fre)
+    remove_dead_inserted_code ();
+  fini_pre (do_fre);
+
+}
+
+
+/* Gate and execute functions for PRE.  */
+
+static void
+do_pre (void)
+{
+  execute_pre (false);
 }
 
 static bool
@@ -1867,14 +2408,48 @@ struct tree_opt_pass pass_pre =
 {
   "pre",                               /* name */
   gate_pre,                            /* gate */
-  execute_pre,                         /* execute */
+  do_pre,                              /* execute */
   NULL,                                        /* sub */
   NULL,                                        /* next */
   0,                                   /* static_pass_number */
   TV_TREE_PRE,                         /* tv_id */
-  PROP_no_crit_edges | PROP_cfg | PROP_ssa,/* properties_required */
+  PROP_no_crit_edges | PROP_cfg
+    | PROP_ssa | PROP_alias,           /* properties_required */
+  0,                                   /* properties_provided */
+  0,                                   /* properties_destroyed */
+  0,                                   /* todo_flags_start */
+  TODO_dump_func | TODO_ggc_collect | TODO_verify_ssa, /* todo_flags_finish */
+  0                                    /* letter */
+};
+
+
+/* Gate and execute functions for FRE.  */
+
+static void
+execute_fre (void)
+{
+  execute_pre (true);
+}
+
+static bool
+gate_fre (void)
+{
+  return flag_tree_fre != 0;
+}
+
+struct tree_opt_pass pass_fre =
+{
+  "fre",                               /* name */
+  gate_fre,                            /* gate */
+  execute_fre,                         /* execute */
+  NULL,                                        /* sub */
+  NULL,                                        /* next */
+  0,                                   /* static_pass_number */
+  TV_TREE_FRE,                         /* tv_id */
+  PROP_cfg | PROP_ssa | PROP_alias,    /* properties_required */
   0,                                   /* properties_provided */
   0,                                   /* properties_destroyed */
   0,                                   /* todo_flags_start */
-  TODO_dump_func | TODO_ggc_collect | TODO_verify_ssa /* todo_flags_finish */
+  TODO_dump_func | TODO_ggc_collect | TODO_verify_ssa, /* todo_flags_finish */
+  0                                    /* letter */
 };