OSDN Git Service

PR middle-end/17055
[pf3gnuchains/gcc-fork.git] / gcc / fold-const.c
index e2a1ffb..10cdb69 100644 (file)
@@ -39,8 +39,9 @@ Software Foundation, 59 Temple Place - Suite 330, Boston, MA
    size_int takes an integer value, and creates a tree constant
    with type from `sizetype'.
 
-   force_fit_type takes a constant and prior overflow indicator, and
-   forces the value to fit the type.  It returns an overflow indicator.  */
+   force_fit_type takes a constant, an overflowable flag and prior
+   overflow indicators.  It forces the value to fit the type and sets
+   TREE_OVERFLOW and TREE_CONSTANT_OVERFLOW as appropriate.  */
 
 #include "config.h"
 #include "system.h"
@@ -58,6 +59,28 @@ Software Foundation, 59 Temple Place - Suite 330, Boston, MA
 #include "langhooks.h"
 #include "md5.h"
 
+/* The following constants represent a bit based encoding of GCC's
+   comparison operators.  This encoding simplifies transformations
+   on relational comparison operators, such as AND and OR.  */
+enum comparison_code {
+  COMPCODE_FALSE = 0,
+  COMPCODE_LT = 1,
+  COMPCODE_EQ = 2,
+  COMPCODE_LE = 3,
+  COMPCODE_GT = 4,
+  COMPCODE_LTGT = 5,
+  COMPCODE_GE = 6,
+  COMPCODE_ORD = 7,
+  COMPCODE_UNORD = 8,
+  COMPCODE_UNLT = 9,
+  COMPCODE_UNEQ = 10,
+  COMPCODE_UNLE = 11,
+  COMPCODE_UNGT = 12,
+  COMPCODE_NE = 13,
+  COMPCODE_UNGE = 14,
+  COMPCODE_TRUE = 15
+};
+
 static void encode (HOST_WIDE_INT *, unsigned HOST_WIDE_INT, HOST_WIDE_INT);
 static void decode (HOST_WIDE_INT *, unsigned HOST_WIDE_INT *, HOST_WIDE_INT *);
 static bool negate_mathfn_p (enum built_in_function);
@@ -65,15 +88,14 @@ static bool negate_expr_p (tree);
 static tree negate_expr (tree);
 static tree split_tree (tree, enum tree_code, tree *, tree *, tree *, int);
 static tree associate_trees (tree, tree, enum tree_code, tree);
-static tree int_const_binop (enum tree_code, tree, tree, int);
 static tree const_binop (enum tree_code, tree, tree, int);
-static hashval_t size_htab_hash (const void *);
-static int size_htab_eq (const void *, const void *);
+static tree build_zero_vector (tree);
 static tree fold_convert_const (enum tree_code, tree, tree);
-static enum tree_code invert_tree_comparison (enum tree_code);
-static enum tree_code swap_tree_comparison (enum tree_code);
-static int comparison_to_compcode (enum tree_code);
-static enum tree_code compcode_to_comparison (int);
+static enum tree_code invert_tree_comparison (enum tree_code, bool);
+static enum comparison_code comparison_to_compcode (enum tree_code);
+static enum tree_code compcode_to_comparison (enum comparison_code);
+static tree combine_comparisons (enum tree_code, enum tree_code,
+                                enum tree_code, tree, tree, tree);
 static int truth_value_p (enum tree_code);
 static int operand_equal_for_comparison_p (tree, tree, tree);
 static int twoval_comparison_p (tree, tree *, tree *, int *);
@@ -94,39 +116,27 @@ static tree build_range_check (tree, tree, int, tree, tree);
 static int merge_ranges (int *, tree *, tree *, int, tree, tree, int, tree,
                         tree);
 static tree fold_range_test (tree);
+static tree fold_cond_expr_with_comparison (tree, tree, tree, tree);
 static tree unextend (tree, int, int, tree);
 static tree fold_truthop (enum tree_code, tree, tree, tree);
 static tree optimize_minmax_comparison (tree);
 static tree extract_muldiv (tree, tree, enum tree_code, tree);
 static tree extract_muldiv_1 (tree, tree, enum tree_code, tree);
-static tree strip_compound_expr (tree, tree);
 static int multiple_of_p (tree, tree, tree);
-static tree constant_boolean_node (int, tree);
-static int count_cond (tree, int);
 static tree fold_binary_op_with_conditional_arg (enum tree_code, tree, tree,
                                                 tree, int);
 static bool fold_real_zero_addition_p (tree, tree, int);
 static tree fold_mathfn_compare (enum built_in_function, enum tree_code,
                                 tree, tree, tree);
 static tree fold_inf_compare (enum tree_code, tree, tree, tree);
+static tree fold_div_compare (enum tree_code, tree, tree, tree);
 static bool reorder_operands_p (tree, tree);
-static bool tree_swap_operands_p (tree, tree, bool);
-
 static tree fold_negate_const (tree, tree);
-static tree fold_abs_const (tree, tree);
+static tree fold_not_const (tree, tree);
 static tree fold_relational_const (enum tree_code, tree, tree, tree);
-
-/* The following constants represent a bit based encoding of GCC's
-   comparison operators.  This encoding simplifies transformations
-   on relational comparison operators, such as AND and OR.  */
-#define COMPCODE_FALSE   0
-#define COMPCODE_LT      1
-#define COMPCODE_EQ      2
-#define COMPCODE_LE      3
-#define COMPCODE_GT      4
-#define COMPCODE_NE      5
-#define COMPCODE_GE      6
-#define COMPCODE_TRUE    7
+static tree fold_relational_hi_lo (enum tree_code *, const tree,
+                                   tree *, tree *);
+static bool tree_expr_nonzero_p (tree);
 
 /* We know that A1 + B1 = SUM1, using 2's complement arithmetic and ignoring
    overflow.  Suppose A, B and SUM have the same respective signs as A1, B1,
@@ -174,30 +184,32 @@ decode (HOST_WIDE_INT *words, unsigned HOST_WIDE_INT *low,
   *hi = words[2] + words[3] * BASE;
 }
 \f
-/* Make the integer constant T valid for its type by setting to 0 or 1 all
-   the bits in the constant that don't belong in the type.
-
-   Return 1 if a signed overflow occurs, 0 otherwise.  If OVERFLOW is
-   nonzero, a signed overflow has already occurred in calculating T, so
-   propagate it.  */
+/* T is an INT_CST node.  OVERFLOWABLE indicates if we are interested
+   in overflow of the value, when >0 we are only interested in signed
+   overflow, for <0 we are interested in any overflow.  OVERFLOWED
+   indicates whether overflow has already occurred.  CONST_OVERFLOWED
+   indicates whether constant overflow has already occurred.  We force
+   T's value to be within range of T's type (by setting to 0 or 1 all
+   the bits outside the type's range).  We set TREE_OVERFLOWED if,
+       OVERFLOWED is non-zero,
+       or OVERFLOWABLE is >0 and signed overflow occurs
+       or OVERFLOWABLE is <0 and any overflow occurs
+   We set TREE_CONSTANT_OVERFLOWED if,
+        CONST_OVERFLOWED is non-zero
+       or we set TREE_OVERFLOWED.
+  We return either the original T, or a copy.  */
 
-int
-force_fit_type (tree t, int overflow)
+tree
+force_fit_type (tree t, int overflowable,
+               bool overflowed, bool overflowed_const)
 {
   unsigned HOST_WIDE_INT low;
   HOST_WIDE_INT high;
   unsigned int prec;
+  int sign_extended_type;
 
-  if (TREE_CODE (t) == REAL_CST)
-    {
-      /* ??? Used to check for overflow here via CHECK_FLOAT_TYPE.
-        Consider doing it via real_convert now.  */
-      return overflow;
-    }
-
-  else if (TREE_CODE (t) != INTEGER_CST)
-    return overflow;
-
+  gcc_assert (TREE_CODE (t) == INTEGER_CST);
+  
   low = TREE_INT_CST_LOW (t);
   high = TREE_INT_CST_HIGH (t);
 
@@ -206,54 +218,72 @@ force_fit_type (tree t, int overflow)
     prec = POINTER_SIZE;
   else
     prec = TYPE_PRECISION (TREE_TYPE (t));
+  /* Size types *are* sign extended.  */
+  sign_extended_type = (!TYPE_UNSIGNED (TREE_TYPE (t))
+                       || (TREE_CODE (TREE_TYPE (t)) == INTEGER_TYPE
+                           && TYPE_IS_SIZETYPE (TREE_TYPE (t))));
 
   /* First clear all bits that are beyond the type's precision.  */
 
   if (prec == 2 * HOST_BITS_PER_WIDE_INT)
     ;
   else if (prec > HOST_BITS_PER_WIDE_INT)
-    TREE_INT_CST_HIGH (t)
-      &= ~((HOST_WIDE_INT) (-1) << (prec - HOST_BITS_PER_WIDE_INT));
+    high &= ~((HOST_WIDE_INT) (-1) << (prec - HOST_BITS_PER_WIDE_INT));
   else
     {
-      TREE_INT_CST_HIGH (t) = 0;
+      high = 0;
       if (prec < HOST_BITS_PER_WIDE_INT)
-       TREE_INT_CST_LOW (t) &= ~((unsigned HOST_WIDE_INT) (-1) << prec);
-    }
-
-  /* Unsigned types do not suffer sign extension or overflow unless they
-     are a sizetype.  */
-  if (TYPE_UNSIGNED (TREE_TYPE (t))
-      && ! (TREE_CODE (TREE_TYPE (t)) == INTEGER_TYPE
-           && TYPE_IS_SIZETYPE (TREE_TYPE (t))))
-    return overflow;
-
-  /* If the value's sign bit is set, extend the sign.  */
-  if (prec != 2 * HOST_BITS_PER_WIDE_INT
-      && (prec > HOST_BITS_PER_WIDE_INT
-         ? 0 != (TREE_INT_CST_HIGH (t)
-                 & ((HOST_WIDE_INT) 1
-                    << (prec - HOST_BITS_PER_WIDE_INT - 1)))
-         : 0 != (TREE_INT_CST_LOW (t)
-                 & ((unsigned HOST_WIDE_INT) 1 << (prec - 1)))))
-    {
-      /* Value is negative:
-        set to 1 all the bits that are outside this type's precision.  */
-      if (prec > HOST_BITS_PER_WIDE_INT)
-       TREE_INT_CST_HIGH (t)
-         |= ((HOST_WIDE_INT) (-1) << (prec - HOST_BITS_PER_WIDE_INT));
-      else
+       low &= ~((HOST_WIDE_INT) (-1) << prec);
+    }
+
+  if (!sign_extended_type)
+    /* No sign extension */;
+  else if (prec == 2 * HOST_BITS_PER_WIDE_INT)
+    /* Correct width already.  */;
+  else if (prec > HOST_BITS_PER_WIDE_INT)
+    {
+      /* Sign extend top half? */
+      if (high & ((unsigned HOST_WIDE_INT)1
+                 << (prec - HOST_BITS_PER_WIDE_INT - 1)))
+       high |= (HOST_WIDE_INT) (-1) << (prec - HOST_BITS_PER_WIDE_INT);
+    }
+  else if (prec == HOST_BITS_PER_WIDE_INT)
+    {
+      if ((HOST_WIDE_INT)low < 0)
+       high = -1;
+    }
+  else
+    {
+      /* Sign extend bottom half? */
+      if (low & ((unsigned HOST_WIDE_INT)1 << (prec - 1)))
        {
-         TREE_INT_CST_HIGH (t) = -1;
-         if (prec < HOST_BITS_PER_WIDE_INT)
-           TREE_INT_CST_LOW (t) |= ((unsigned HOST_WIDE_INT) (-1) << prec);
+         high = -1;
+         low |= (HOST_WIDE_INT)(-1) << prec;
        }
     }
 
-  /* Return nonzero if signed overflow occurred.  */
-  return
-    ((overflow | (low ^ TREE_INT_CST_LOW (t)) | (high ^ TREE_INT_CST_HIGH (t)))
-     != 0);
+  /* If the value changed, return a new node.  */
+  if (overflowed || overflowed_const
+      || low != TREE_INT_CST_LOW (t) || high != TREE_INT_CST_HIGH (t))
+    {
+      t = build_int_cst_wide (TREE_TYPE (t), low, high);
+      
+      if (overflowed
+         || overflowable < 0
+         || (overflowable > 0 && sign_extended_type))
+       {
+         t = copy_node (t);
+         TREE_OVERFLOW (t) = 1;
+         TREE_CONSTANT_OVERFLOW (t) = 1;
+       }
+      else if (overflowed_const)
+       {
+         t = copy_node (t);
+         TREE_CONSTANT_OVERFLOW (t) = 1;
+       }
+    }
+  
+  return t;
 }
 \f
 /* Add two doubleword integers with doubleword result.
@@ -795,7 +825,7 @@ div_and_round_double (enum tree_code code, int uns,
       break;
 
     default:
-      abort ();
+      gcc_unreachable ();
     }
 
   /* Compute true remainder:  rem = num - (quo * den)  */
@@ -833,14 +863,43 @@ negate_mathfn_p (enum built_in_function code)
   return false;
 }
 
+/* Check whether we may negate an integer constant T without causing
+   overflow.  */
+
+bool
+may_negate_without_overflow_p (tree t)
+{
+  unsigned HOST_WIDE_INT val;
+  unsigned int prec;
+  tree type;
+
+  gcc_assert (TREE_CODE (t) == INTEGER_CST);
+
+  type = TREE_TYPE (t);
+  if (TYPE_UNSIGNED (type))
+    return false;
+
+  prec = TYPE_PRECISION (type);
+  if (prec > HOST_BITS_PER_WIDE_INT)
+    {
+      if (TREE_INT_CST_LOW (t) != 0)
+       return true;
+      prec -= HOST_BITS_PER_WIDE_INT;
+      val = TREE_INT_CST_HIGH (t);
+    }
+  else
+    val = TREE_INT_CST_LOW (t);
+  if (prec < HOST_BITS_PER_WIDE_INT)
+    val &= ((unsigned HOST_WIDE_INT) 1 << prec) - 1;
+  return val != ((unsigned HOST_WIDE_INT) 1 << (prec - 1));
+}
+
 /* Determine whether an expression T can be cheaply negated using
    the function negate_expr.  */
 
 static bool
 negate_expr_p (tree t)
 {
-  unsigned HOST_WIDE_INT val;
-  unsigned int prec;
   tree type;
 
   if (t == 0)
@@ -856,19 +915,7 @@ negate_expr_p (tree t)
        return true;
 
       /* Check that -CST will not overflow type.  */
-      prec = TYPE_PRECISION (type);
-      if (prec > HOST_BITS_PER_WIDE_INT)
-       {
-         if (TREE_INT_CST_LOW (t) != 0)
-           return true;
-         prec -= HOST_BITS_PER_WIDE_INT;
-         val = TREE_INT_CST_HIGH (t);
-       }
-      else
-       val = TREE_INT_CST_LOW (t);
-      if (prec < HOST_BITS_PER_WIDE_INT)
-       val &= ((unsigned HOST_WIDE_INT) 1 << prec) - 1;
-      return val != ((unsigned HOST_WIDE_INT) 1 << (prec - 1));
+      return may_negate_without_overflow_p (t);
 
     case REAL_CST:
     case NEGATE_EXPR:
@@ -996,16 +1043,21 @@ negate_expr (tree t)
          if (negate_expr_p (TREE_OPERAND (t, 1))
              && reorder_operands_p (TREE_OPERAND (t, 0),
                                     TREE_OPERAND (t, 1)))
-           return fold_convert (type,
-                                fold (build (MINUS_EXPR, TREE_TYPE (t),
-                                             negate_expr (TREE_OPERAND (t, 1)),
-                                             TREE_OPERAND (t, 0))));
+           {
+             tem = negate_expr (TREE_OPERAND (t, 1));
+             tem = fold (build2 (MINUS_EXPR, TREE_TYPE (t),
+                                 tem, TREE_OPERAND (t, 0)));
+             return fold_convert (type, tem);
+           }
+
          /* -(A + B) -> (-A) - B.  */
          if (negate_expr_p (TREE_OPERAND (t, 0)))
-           return fold_convert (type,
-                                fold (build (MINUS_EXPR, TREE_TYPE (t),
-                                             negate_expr (TREE_OPERAND (t, 0)),
-                                             TREE_OPERAND (t, 1))));
+           {
+             tem = negate_expr (TREE_OPERAND (t, 0));
+             tem = fold (build2 (MINUS_EXPR, TREE_TYPE (t),
+                                 tem, TREE_OPERAND (t, 1)));
+             return fold_convert (type, tem);
+           }
        }
       break;
 
@@ -1014,9 +1066,9 @@ negate_expr (tree t)
       if ((! FLOAT_TYPE_P (type) || flag_unsafe_math_optimizations)
          && reorder_operands_p (TREE_OPERAND (t, 0), TREE_OPERAND (t, 1)))
        return fold_convert (type,
-                            fold (build (MINUS_EXPR, TREE_TYPE (t),
-                                         TREE_OPERAND (t, 1),
-                                         TREE_OPERAND (t, 0))));
+                            fold (build2 (MINUS_EXPR, TREE_TYPE (t),
+                                          TREE_OPERAND (t, 1),
+                                          TREE_OPERAND (t, 0))));
       break;
 
     case MULT_EXPR:
@@ -1031,15 +1083,15 @@ negate_expr (tree t)
          tem = TREE_OPERAND (t, 1);
          if (negate_expr_p (tem))
            return fold_convert (type,
-                                fold (build (TREE_CODE (t), TREE_TYPE (t),
-                                             TREE_OPERAND (t, 0),
-                                             negate_expr (tem))));
+                                fold (build2 (TREE_CODE (t), TREE_TYPE (t),
+                                              TREE_OPERAND (t, 0),
+                                              negate_expr (tem))));
          tem = TREE_OPERAND (t, 0);
          if (negate_expr_p (tem))
            return fold_convert (type,
-                                fold (build (TREE_CODE (t), TREE_TYPE (t),
-                                             negate_expr (tem),
-                                             TREE_OPERAND (t, 1))));
+                                fold (build2 (TREE_CODE (t), TREE_TYPE (t),
+                                              negate_expr (tem),
+                                              TREE_OPERAND (t, 1))));
        }
       break;
 
@@ -1210,18 +1262,18 @@ associate_trees (tree t1, tree t2, enum tree_code code, tree type)
       if (code == PLUS_EXPR)
        {
          if (TREE_CODE (t1) == NEGATE_EXPR)
-           return build (MINUS_EXPR, type, fold_convert (type, t2),
-                         fold_convert (type, TREE_OPERAND (t1, 0)));
+           return build2 (MINUS_EXPR, type, fold_convert (type, t2),
+                          fold_convert (type, TREE_OPERAND (t1, 0)));
          else if (TREE_CODE (t2) == NEGATE_EXPR)
-           return build (MINUS_EXPR, type, fold_convert (type, t1),
-                         fold_convert (type, TREE_OPERAND (t2, 0)));
+           return build2 (MINUS_EXPR, type, fold_convert (type, t1),
+                          fold_convert (type, TREE_OPERAND (t2, 0)));
        }
-      return build (code, type, fold_convert (type, t1),
-                   fold_convert (type, t2));
+      return build2 (code, type, fold_convert (type, t1),
+                    fold_convert (type, t2));
     }
 
-  return fold (build (code, type, fold_convert (type, t1),
-                     fold_convert (type, t2)));
+  return fold (build2 (code, type, fold_convert (type, t1),
+                      fold_convert (type, t2)));
 }
 \f
 /* Combine two integer constants ARG1 and ARG2 under operation CODE
@@ -1229,7 +1281,7 @@ associate_trees (tree t1, tree t2, enum tree_code code, tree type)
 
    If NOTRUNC is nonzero, do not truncate the result to fit the data type.  */
 
-static tree
+tree
 int_const_binop (enum tree_code code, tree arg1, tree arg2, int notrunc)
 {
   unsigned HOST_WIDE_INT int1l, int2l;
@@ -1372,42 +1424,34 @@ int_const_binop (enum tree_code code, tree arg1, tree arg2, int notrunc)
       break;
 
     default:
-      abort ();
+      gcc_unreachable ();
     }
 
-  /* If this is for a sizetype, can be represented as one (signed)
-     HOST_WIDE_INT word, and doesn't overflow, use size_int since it caches
-     constants.  */
-  if (is_sizetype
-      && ((hi == 0 && (HOST_WIDE_INT) low >= 0)
-         || (hi == -1 && (HOST_WIDE_INT) low < 0))
-      && overflow == 0 && ! TREE_OVERFLOW (arg1) && ! TREE_OVERFLOW (arg2))
-    return size_int_type_wide (low, type);
-  else
+  t = build_int_cst_wide (TREE_TYPE (arg1), low, hi);
+
+  if (notrunc)
     {
-      t = build_int_2 (low, hi);
-      TREE_TYPE (t) = TREE_TYPE (arg1);
-    }
-
-  TREE_OVERFLOW (t)
-    = ((notrunc
-       ? (!uns || is_sizetype) && overflow
-       : (force_fit_type (t, (!uns || is_sizetype) && overflow)
-          && ! no_overflow))
-       | TREE_OVERFLOW (arg1)
-       | TREE_OVERFLOW (arg2));
-
-  /* If we're doing a size calculation, unsigned arithmetic does overflow.
-     So check if force_fit_type truncated the value.  */
-  if (is_sizetype
-      && ! TREE_OVERFLOW (t)
-      && (TREE_INT_CST_HIGH (t) != hi
-         || TREE_INT_CST_LOW (t) != low))
-    TREE_OVERFLOW (t) = 1;
-
-  TREE_CONSTANT_OVERFLOW (t) = (TREE_OVERFLOW (t)
-                               | TREE_CONSTANT_OVERFLOW (arg1)
-                               | TREE_CONSTANT_OVERFLOW (arg2));
+      /* Propagate overflow flags ourselves.  */
+      if (((!uns || is_sizetype) && overflow)
+         | TREE_OVERFLOW (arg1) | TREE_OVERFLOW (arg2))
+       {
+         t = copy_node (t);
+         TREE_OVERFLOW (t) = 1;
+         TREE_CONSTANT_OVERFLOW (t) = 1;
+       }
+      else if (TREE_CONSTANT_OVERFLOW (arg1) | TREE_CONSTANT_OVERFLOW (arg2))
+       {
+         t = copy_node (t);
+         TREE_CONSTANT_OVERFLOW (t) = 1;
+       }
+    }
+  else
+    t = force_fit_type (t, 1,
+                       ((!uns || is_sizetype) && overflow)
+                       | TREE_OVERFLOW (arg1) | TREE_OVERFLOW (arg2),
+                       TREE_CONSTANT_OVERFLOW (arg1)
+                       | TREE_CONSTANT_OVERFLOW (arg2));
+  
   return t;
 }
 
@@ -1464,9 +1508,7 @@ const_binop (enum tree_code code, tree arg1, tree arg2, int notrunc)
 
       t = build_real (type, real_value_truncate (mode, value));
 
-      TREE_OVERFLOW (t)
-       = (force_fit_type (t, 0)
-          | TREE_OVERFLOW (arg1) | TREE_OVERFLOW (arg2));
+      TREE_OVERFLOW (t) = TREE_OVERFLOW (arg1) | TREE_OVERFLOW (arg2);
       TREE_CONSTANT_OVERFLOW (t)
        = TREE_OVERFLOW (t)
          | TREE_CONSTANT_OVERFLOW (arg1)
@@ -1545,91 +1587,22 @@ const_binop (enum tree_code code, tree arg1, tree arg2, int notrunc)
          break;
 
        default:
-         abort ();
+         gcc_unreachable ();
        }
       return t;
     }
   return 0;
 }
 
-/* These are the hash table functions for the hash table of INTEGER_CST
-   nodes of a sizetype.  */
-
-/* Return the hash code code X, an INTEGER_CST.  */
-
-static hashval_t
-size_htab_hash (const void *x)
-{
-  tree t = (tree) x;
-
-  return (TREE_INT_CST_HIGH (t) ^ TREE_INT_CST_LOW (t)
-         ^ htab_hash_pointer (TREE_TYPE (t))
-         ^ (TREE_OVERFLOW (t) << 20));
-}
-
-/* Return nonzero if the value represented by *X (an INTEGER_CST tree node)
-   is the same as that given by *Y, which is the same.  */
-
-static int
-size_htab_eq (const void *x, const void *y)
-{
-  tree xt = (tree) x;
-  tree yt = (tree) y;
-
-  return (TREE_INT_CST_HIGH (xt) == TREE_INT_CST_HIGH (yt)
-         && TREE_INT_CST_LOW (xt) == TREE_INT_CST_LOW (yt)
-         && TREE_TYPE (xt) == TREE_TYPE (yt)
-         && TREE_OVERFLOW (xt) == TREE_OVERFLOW (yt));
-}
-\f
-/* Return an INTEGER_CST with value whose low-order HOST_BITS_PER_WIDE_INT
-   bits are given by NUMBER and of the sizetype represented by KIND.  */
-
-tree
-size_int_wide (HOST_WIDE_INT number, enum size_type_kind kind)
-{
-  return size_int_type_wide (number, sizetype_tab[(int) kind]);
-}
-
-/* Likewise, but the desired type is specified explicitly.  */
-
-static GTY (()) tree new_const;
-static GTY ((if_marked ("ggc_marked_p"), param_is (union tree_node)))
-     htab_t size_htab;
+/* Create a size type INT_CST node with NUMBER sign extended.  KIND
+   indicates which particular sizetype to create.  */
 
 tree
-size_int_type_wide (HOST_WIDE_INT number, tree type)
+size_int_kind (HOST_WIDE_INT number, enum size_type_kind kind)
 {
-  void **slot;
-
-  if (size_htab == 0)
-    {
-      size_htab = htab_create_ggc (1024, size_htab_hash, size_htab_eq, NULL);
-      new_const = make_node (INTEGER_CST);
-    }
-
-  /* Adjust NEW_CONST to be the constant we want.  If it's already in the
-     hash table, we return the value from the hash table.  Otherwise, we
-     place that in the hash table and make a new node for the next time.  */
-  TREE_INT_CST_LOW (new_const) = number;
-  TREE_INT_CST_HIGH (new_const) = number < 0 ? -1 : 0;
-  TREE_TYPE (new_const) = type;
-  TREE_OVERFLOW (new_const) = TREE_CONSTANT_OVERFLOW (new_const)
-    = force_fit_type (new_const, 0);
-
-  slot = htab_find_slot (size_htab, new_const, INSERT);
-  if (*slot == 0)
-    {
-      tree t = new_const;
-
-      *slot = new_const;
-      new_const = make_node (INTEGER_CST);
-      return t;
-    }
-  else
-    return (tree) *slot;
+  return build_int_cst (sizetype_tab[(int) kind], number);
 }
-
+\f
 /* Combine operands OP1 and OP2 with arithmetic operation CODE.  CODE
    is a tree code.  The type of the result is taken from the operands.
    Both must be the same type integer type and it must be a size type.
@@ -1640,9 +1613,8 @@ size_binop (enum tree_code code, tree arg0, tree arg1)
 {
   tree type = TREE_TYPE (arg0);
 
-  if (TREE_CODE (type) != INTEGER_TYPE || ! TYPE_IS_SIZETYPE (type)
-      || type != TREE_TYPE (arg1))
-    abort ();
+  gcc_assert (TREE_CODE (type) == INTEGER_TYPE && TYPE_IS_SIZETYPE (type)
+             && type == TREE_TYPE (arg1));
 
   /* Handle the special case of two integer constants faster.  */
   if (TREE_CODE (arg0) == INTEGER_CST && TREE_CODE (arg1) == INTEGER_CST)
@@ -1663,7 +1635,7 @@ size_binop (enum tree_code code, tree arg0, tree arg1)
   if (arg0 == error_mark_node || arg1 == error_mark_node)
     return error_mark_node;
 
-  return fold (build (code, type, arg0, arg1));
+  return fold (build2 (code, type, arg0, arg1));
 }
 
 /* Given two values, either both of sizetype or both of bitsizetype,
@@ -1676,16 +1648,14 @@ size_diffop (tree arg0, tree arg1)
   tree type = TREE_TYPE (arg0);
   tree ctype;
 
-  if (TREE_CODE (type) != INTEGER_TYPE || ! TYPE_IS_SIZETYPE (type)
-      || type != TREE_TYPE (arg1))
-    abort ();
+  gcc_assert (TREE_CODE (type) == INTEGER_TYPE && TYPE_IS_SIZETYPE (type)
+             && type == TREE_TYPE (arg1));
 
   /* If the type is already signed, just do the simple thing.  */
   if (!TYPE_UNSIGNED (type))
     return size_binop (MINUS_EXPR, arg0, arg1);
 
-  ctype = (type == bitsizetype || type == ubitsizetype
-          ? sbitsizetype : ssizetype);
+  ctype = type == bitsizetype ? sbitsizetype : ssizetype;
 
   /* If either operand is not a constant, do the conversions to the signed
      type and subtract.  The hardware will do the right thing with any
@@ -1708,6 +1678,23 @@ size_diffop (tree arg0, tree arg1)
                                                        arg1, arg0)));
 }
 \f
+/* Construct a vector of zero elements of vector type TYPE.  */
+
+static tree
+build_zero_vector (tree type)
+{
+  tree elem, list;
+  int i, units;
+
+  elem = fold_convert_const (NOP_EXPR, TREE_TYPE (type), integer_zero_node);
+  units = TYPE_VECTOR_SUBPARTS (type);
+
+  list = NULL_TREE;
+  for (i = 0; i < units; i++)
+    list = tree_cons (NULL_TREE, elem, list);
+  return build_vector (type, list);
+}
+
 
 /* Attempt to fold type conversion operation CODE of expression ARG1 to
    type TYPE.  If no simplification can be done return NULL_TREE.  */
@@ -1730,32 +1717,20 @@ fold_convert_const (enum tree_code code, tree type, tree arg1)
          if (TYPE_PRECISION (type) > 2 * HOST_BITS_PER_WIDE_INT)
            return NULL_TREE;
 
-         /* If we are trying to make a sizetype for a small integer, use
-            size_int to pick up cached types to reduce duplicate nodes.  */
-         if (TREE_CODE (type) == INTEGER_TYPE && TYPE_IS_SIZETYPE (type)
-             && !TREE_CONSTANT_OVERFLOW (arg1)
-             && compare_tree_int (arg1, 10000) < 0)
-           return size_int_type_wide (TREE_INT_CST_LOW (arg1), type);
-
          /* Given an integer constant, make new constant with new type,
             appropriately sign-extended or truncated.  */
-         t = build_int_2 (TREE_INT_CST_LOW (arg1),
-                          TREE_INT_CST_HIGH (arg1));
-         TREE_TYPE (t) = type;
-         /* Indicate an overflow if (1) ARG1 already overflowed,
-            or (2) force_fit_type indicates an overflow.
-            Tell force_fit_type that an overflow has already occurred
-            if ARG1 is a too-large unsigned value and T is signed.
-            But don't indicate an overflow if converting a pointer.  */
-         TREE_OVERFLOW (t)
-           = ((force_fit_type (t,
-                               (TREE_INT_CST_HIGH (arg1) < 0
-                                && (TYPE_UNSIGNED (type)
-                                   < TYPE_UNSIGNED (TREE_TYPE (arg1)))))
-               && ! POINTER_TYPE_P (TREE_TYPE (arg1)))
-              || TREE_OVERFLOW (arg1));
-         TREE_CONSTANT_OVERFLOW (t)
-           = TREE_OVERFLOW (t) | TREE_CONSTANT_OVERFLOW (arg1);
+         t = build_int_cst_wide (type, TREE_INT_CST_LOW (arg1),
+                                 TREE_INT_CST_HIGH (arg1));
+
+         t = force_fit_type (t,
+                             /* Don't set the overflow when
+                                converting a pointer  */
+                             !POINTER_TYPE_P (TREE_TYPE (arg1)),
+                             (TREE_INT_CST_HIGH (arg1) < 0
+                              && (TYPE_UNSIGNED (type)
+                                  < TYPE_UNSIGNED (TREE_TYPE (arg1))))
+                             | TREE_OVERFLOW (arg1),
+                             TREE_CONSTANT_OVERFLOW (arg1));
          return t;
        }
       else if (TREE_CODE (arg1) == REAL_CST)
@@ -1770,7 +1745,6 @@ fold_convert_const (enum tree_code code, tree type, tree arg1)
             FP-to-integer conversion is unspecified upon overflow.  */
 
          HOST_WIDE_INT high, low;
-
          REAL_VALUE_TYPE r;
          REAL_VALUE_TYPE x = TREE_REAL_CST (arg1);
 
@@ -1788,8 +1762,12 @@ fold_convert_const (enum tree_code code, tree type, tree arg1)
              real_floor (&r, VOIDmode, &x);
              break;
 
+           case FIX_ROUND_EXPR:
+             real_round (&r, VOIDmode, &x);
+             break;
+
            default:
-             abort ();
+             gcc_unreachable ();
            }
 
          /* If R is NaN, return zero and show we have an overflow.  */
@@ -1833,12 +1811,10 @@ fold_convert_const (enum tree_code code, tree type, tree arg1)
          if (! overflow)
            REAL_VALUE_TO_INT (&low, &high, r);
 
-         t = build_int_2 (low, high);
-         TREE_TYPE (t) = type;
-         TREE_OVERFLOW (t)
-           = TREE_OVERFLOW (arg1) | force_fit_type (t, overflow);
-         TREE_CONSTANT_OVERFLOW (t)
-           = TREE_OVERFLOW (t) | TREE_CONSTANT_OVERFLOW (arg1);
+         t = build_int_cst_wide (type, low, high);
+
+         t = force_fit_type (t, -1, overflow | TREE_OVERFLOW (arg1),
+                             TREE_CONSTANT_OVERFLOW (arg1));
          return t;
        }
     }
@@ -1861,8 +1837,7 @@ fold_convert_const (enum tree_code code, tree type, tree arg1)
                          real_value_truncate (TYPE_MODE (type),
                                               TREE_REAL_CST (arg1)));
 
-         TREE_OVERFLOW (t)
-           = TREE_OVERFLOW (arg1) | force_fit_type (t, 0);
+         TREE_OVERFLOW (t) = TREE_OVERFLOW (arg1);
          TREE_CONSTANT_OVERFLOW (t)
            = TREE_OVERFLOW (t) | TREE_CONSTANT_OVERFLOW (arg1);
          return t;
@@ -1888,31 +1863,35 @@ fold_convert (tree type, tree arg)
       || TREE_CODE (orig) == ERROR_MARK)
     return error_mark_node;
 
-  if (TYPE_MAIN_VARIANT (type) == TYPE_MAIN_VARIANT (orig))
+  if (TYPE_MAIN_VARIANT (type) == TYPE_MAIN_VARIANT (orig)
+      || lang_hooks.types_compatible_p (TYPE_MAIN_VARIANT (type),
+                                       TYPE_MAIN_VARIANT (orig)))
     return fold (build1 (NOP_EXPR, type, arg));
 
-  if (INTEGRAL_TYPE_P (type) || POINTER_TYPE_P (type))
+  switch (TREE_CODE (type))
     {
+    case INTEGER_TYPE: case CHAR_TYPE: case ENUMERAL_TYPE: case BOOLEAN_TYPE:
+    case POINTER_TYPE: case REFERENCE_TYPE:
+    case OFFSET_TYPE:
       if (TREE_CODE (arg) == INTEGER_CST)
        {
          tem = fold_convert_const (NOP_EXPR, type, arg);
          if (tem != NULL_TREE)
            return tem;
        }
-      if (INTEGRAL_TYPE_P (orig) || POINTER_TYPE_P (orig))
+      if (INTEGRAL_TYPE_P (orig) || POINTER_TYPE_P (orig)
+         || TREE_CODE (orig) == OFFSET_TYPE)
         return fold (build1 (NOP_EXPR, type, arg));
       if (TREE_CODE (orig) == COMPLEX_TYPE)
        {
          tem = fold (build1 (REALPART_EXPR, TREE_TYPE (orig), arg));
          return fold_convert (type, tem);
        }
-      if (TREE_CODE (orig) == VECTOR_TYPE
-         && GET_MODE_SIZE (TYPE_MODE (type))
-            == GET_MODE_SIZE (TYPE_MODE (orig)))
-       return fold (build1 (NOP_EXPR, type, arg));
-    }
-  else if (TREE_CODE (type) == REAL_TYPE)
-    {
+      gcc_assert (TREE_CODE (orig) == VECTOR_TYPE
+                 && tree_int_cst_equal (TYPE_SIZE (type), TYPE_SIZE (orig)));
+      return fold (build1 (NOP_EXPR, type, arg));
+      
+    case REAL_TYPE:
       if (TREE_CODE (arg) == INTEGER_CST)
        {
          tem = fold_convert_const (FLOAT_EXPR, type, arg);
@@ -1926,58 +1905,72 @@ fold_convert (tree type, tree arg)
            return tem;
        }
 
-      if (INTEGRAL_TYPE_P (orig) || POINTER_TYPE_P (orig))
-        return fold (build1 (FLOAT_EXPR, type, arg));
-      if (TREE_CODE (orig) == REAL_TYPE)
-       return fold (build1 (flag_float_store ? CONVERT_EXPR : NOP_EXPR,
-                            type, arg));
-      if (TREE_CODE (orig) == COMPLEX_TYPE)
+      switch (TREE_CODE (orig))
        {
+       case INTEGER_TYPE: case CHAR_TYPE:
+       case BOOLEAN_TYPE: case ENUMERAL_TYPE:
+       case POINTER_TYPE: case REFERENCE_TYPE:
+         return fold (build1 (FLOAT_EXPR, type, arg));
+         
+       case REAL_TYPE:
+         return fold (build1 (flag_float_store ? CONVERT_EXPR : NOP_EXPR,
+                              type, arg));
+         
+       case COMPLEX_TYPE:
          tem = fold (build1 (REALPART_EXPR, TREE_TYPE (orig), arg));
          return fold_convert (type, tem);
+         
+       default:
+         gcc_unreachable ();
        }
-    }
-  else if (TREE_CODE (type) == COMPLEX_TYPE)
-    {
-      if (INTEGRAL_TYPE_P (orig)
-         || POINTER_TYPE_P (orig)
-         || TREE_CODE (orig) == REAL_TYPE)
-       return build (COMPLEX_EXPR, type,
-                     fold_convert (TREE_TYPE (type), arg),
-                     fold_convert (TREE_TYPE (type), integer_zero_node));
-      if (TREE_CODE (orig) == COMPLEX_TYPE)
-       {
-         tree rpart, ipart;
+      
+    case COMPLEX_TYPE:
+      switch (TREE_CODE (orig))
+       {
+       case INTEGER_TYPE: case CHAR_TYPE:
+       case BOOLEAN_TYPE: case ENUMERAL_TYPE:
+       case POINTER_TYPE: case REFERENCE_TYPE:
+       case REAL_TYPE:
+         return build2 (COMPLEX_EXPR, type,
+                        fold_convert (TREE_TYPE (type), arg),
+                        fold_convert (TREE_TYPE (type), integer_zero_node));
+       case COMPLEX_TYPE:
+         {
+           tree rpart, ipart;
+           
+           if (TREE_CODE (arg) == COMPLEX_EXPR)
+             {
+               rpart = fold_convert (TREE_TYPE (type), TREE_OPERAND (arg, 0));
+               ipart = fold_convert (TREE_TYPE (type), TREE_OPERAND (arg, 1));
+               return fold (build2 (COMPLEX_EXPR, type, rpart, ipart));
+             }
+           
+           arg = save_expr (arg);
+           rpart = fold (build1 (REALPART_EXPR, TREE_TYPE (orig), arg));
+           ipart = fold (build1 (IMAGPART_EXPR, TREE_TYPE (orig), arg));
+           rpart = fold_convert (TREE_TYPE (type), rpart);
+           ipart = fold_convert (TREE_TYPE (type), ipart);
+           return fold (build2 (COMPLEX_EXPR, type, rpart, ipart));
+         }
+         
+       default:
+         gcc_unreachable ();
+       }
+      
+    case VECTOR_TYPE:
+      if (integer_zerop (arg))
+       return build_zero_vector (type);
+      gcc_assert (tree_int_cst_equal (TYPE_SIZE (type), TYPE_SIZE (orig)));
+      gcc_assert (INTEGRAL_TYPE_P (orig) || POINTER_TYPE_P (orig)
+                 || TREE_CODE (orig) == VECTOR_TYPE);
+      return fold (build1 (NOP_EXPR, type, arg));
 
-         if (TREE_CODE (arg) == COMPLEX_EXPR)
-           {
-             rpart = fold_convert (TREE_TYPE (type), TREE_OPERAND (arg, 0));
-             ipart = fold_convert (TREE_TYPE (type), TREE_OPERAND (arg, 1));
-             return fold (build (COMPLEX_EXPR, type, rpart, ipart));
-           }
+    case VOID_TYPE:
+      return fold (build1 (CONVERT_EXPR, type, fold_ignored_result (arg)));
 
-         arg = save_expr (arg);
-         rpart = fold (build1 (REALPART_EXPR, TREE_TYPE (orig), arg));
-         ipart = fold (build1 (IMAGPART_EXPR, TREE_TYPE (orig), arg));
-         rpart = fold_convert (TREE_TYPE (type), rpart);
-         ipart = fold_convert (TREE_TYPE (type), ipart);
-         return fold (build (COMPLEX_EXPR, type, rpart, ipart));
-       }
-    }
-  else if (TREE_CODE (type) == VECTOR_TYPE)
-    {
-      if ((INTEGRAL_TYPE_P (orig) || POINTER_TYPE_P (orig))
-         && GET_MODE_SIZE (TYPE_MODE (type))
-            == GET_MODE_SIZE (TYPE_MODE (orig)))
-       return fold (build1 (NOP_EXPR, type, arg));
-      if (TREE_CODE (orig) == VECTOR_TYPE
-         && GET_MODE_SIZE (TYPE_MODE (type))
-            == GET_MODE_SIZE (TYPE_MODE (orig)))
-       return fold (build1 (NOP_EXPR, type, arg));
+    default:
+      gcc_unreachable ();
     }
-  else if (VOID_TYPE_P (type))
-    return fold (build1 (CONVERT_EXPR, type, arg));
-  abort ();
 }
 \f
 /* Return an expr equal to X but certainly not valid as an lvalue.  */
@@ -1985,19 +1978,46 @@ fold_convert (tree type, tree arg)
 tree
 non_lvalue (tree x)
 {
-  tree result;
-
-  /* These things are certainly not lvalues.  */
-  if (TREE_CODE (x) == NON_LVALUE_EXPR
-      || TREE_CODE (x) == INTEGER_CST
-      || TREE_CODE (x) == REAL_CST
-      || TREE_CODE (x) == STRING_CST
-      || TREE_CODE (x) == ADDR_EXPR)
+  /* We only need to wrap lvalue tree codes.  */
+  switch (TREE_CODE (x))
+  {
+  case VAR_DECL:
+  case PARM_DECL:
+  case RESULT_DECL:
+  case LABEL_DECL:
+  case FUNCTION_DECL:
+  case SSA_NAME:
+
+  case COMPONENT_REF:
+  case INDIRECT_REF:
+  case ARRAY_REF:
+  case ARRAY_RANGE_REF:
+  case BIT_FIELD_REF:
+  case OBJ_TYPE_REF:
+
+  case REALPART_EXPR:
+  case IMAGPART_EXPR:
+  case PREINCREMENT_EXPR:
+  case PREDECREMENT_EXPR:
+  case SAVE_EXPR:
+  case TRY_CATCH_EXPR:
+  case WITH_CLEANUP_EXPR:
+  case COMPOUND_EXPR:
+  case MODIFY_EXPR:
+  case TARGET_EXPR:
+  case COND_EXPR:
+  case BIND_EXPR:
+  case MIN_EXPR:
+  case MAX_EXPR:
+    break;
+
+  default:
+    /* Assume the worst for front-end tree codes.  */
+    if ((int)TREE_CODE (x) >= NUM_TREE_CODES)
+      break;
     return x;
-
-  result = build1 (NON_LVALUE_EXPR, TREE_TYPE (x), x);
-  TREE_CONSTANT (result) = TREE_CONSTANT (x);
-  return result;
+  }
+  return build1 (NON_LVALUE_EXPR, TREE_TYPE (x), x);
 }
 
 /* Nonzero means lvalues are limited to those valid in pedantic ANSI C.
@@ -2019,11 +2039,15 @@ pedantic_non_lvalue (tree x)
 \f
 /* Given a tree comparison code, return the code that is the logical inverse
    of the given code.  It is not safe to do this for floating-point
-   comparisons, except for NE_EXPR and EQ_EXPR.  */
+   comparisons, except for NE_EXPR and EQ_EXPR, so we receive a machine mode
+   as well: if reversing the comparison is unsafe, return ERROR_MARK.  */
 
 static enum tree_code
-invert_tree_comparison (enum tree_code code)
+invert_tree_comparison (enum tree_code code, bool honor_nans)
 {
+  if (honor_nans && flag_trapping_math)
+    return ERROR_MARK;
+
   switch (code)
     {
     case EQ_EXPR:
@@ -2031,22 +2055,38 @@ invert_tree_comparison (enum tree_code code)
     case NE_EXPR:
       return EQ_EXPR;
     case GT_EXPR:
-      return LE_EXPR;
+      return honor_nans ? UNLE_EXPR : LE_EXPR;
     case GE_EXPR:
-      return LT_EXPR;
+      return honor_nans ? UNLT_EXPR : LT_EXPR;
     case LT_EXPR:
-      return GE_EXPR;
+      return honor_nans ? UNGE_EXPR : GE_EXPR;
     case LE_EXPR:
+      return honor_nans ? UNGT_EXPR : GT_EXPR;
+    case LTGT_EXPR:
+      return UNEQ_EXPR;
+    case UNEQ_EXPR:
+      return LTGT_EXPR;
+    case UNGT_EXPR:
+      return LE_EXPR;
+    case UNGE_EXPR:
+      return LT_EXPR;
+    case UNLT_EXPR:
+      return GE_EXPR;
+    case UNLE_EXPR:
       return GT_EXPR;
+    case ORDERED_EXPR:
+      return UNORDERED_EXPR;
+    case UNORDERED_EXPR:
+      return ORDERED_EXPR;
     default:
-      abort ();
+      gcc_unreachable ();
     }
 }
 
 /* Similar, but return the comparison that results if the operands are
    swapped.  This is safe for floating-point.  */
 
-static enum tree_code
+enum tree_code
 swap_tree_comparison (enum tree_code code)
 {
   switch (code)
@@ -2063,7 +2103,7 @@ swap_tree_comparison (enum tree_code code)
     case LE_EXPR:
       return GE_EXPR;
     default:
-      abort ();
+      gcc_unreachable ();
     }
 }
 
@@ -2072,7 +2112,7 @@ swap_tree_comparison (enum tree_code code)
    into a compcode bit-based encoding.  This function is the inverse of
    compcode_to_comparison.  */
 
-static int
+static enum comparison_code
 comparison_to_compcode (enum tree_code code)
 {
   switch (code)
@@ -2089,8 +2129,24 @@ comparison_to_compcode (enum tree_code code)
       return COMPCODE_NE;
     case GE_EXPR:
       return COMPCODE_GE;
+    case ORDERED_EXPR:
+      return COMPCODE_ORD;
+    case UNORDERED_EXPR:
+      return COMPCODE_UNORD;
+    case UNLT_EXPR:
+      return COMPCODE_UNLT;
+    case UNEQ_EXPR:
+      return COMPCODE_UNEQ;
+    case UNLE_EXPR:
+      return COMPCODE_UNLE;
+    case UNGT_EXPR:
+      return COMPCODE_UNGT;
+    case LTGT_EXPR:
+      return COMPCODE_LTGT;
+    case UNGE_EXPR:
+      return COMPCODE_UNGE;
     default:
-      abort ();
+      gcc_unreachable ();
     }
 }
 
@@ -2099,7 +2155,7 @@ comparison_to_compcode (enum tree_code code)
    inverse of comparison_to_compcode.  */
 
 static enum tree_code
-compcode_to_comparison (int code)
+compcode_to_comparison (enum comparison_code code)
 {
   switch (code)
     {
@@ -2115,9 +2171,109 @@ compcode_to_comparison (int code)
       return NE_EXPR;
     case COMPCODE_GE:
       return GE_EXPR;
+    case COMPCODE_ORD:
+      return ORDERED_EXPR;
+    case COMPCODE_UNORD:
+      return UNORDERED_EXPR;
+    case COMPCODE_UNLT:
+      return UNLT_EXPR;
+    case COMPCODE_UNEQ:
+      return UNEQ_EXPR;
+    case COMPCODE_UNLE:
+      return UNLE_EXPR;
+    case COMPCODE_UNGT:
+      return UNGT_EXPR;
+    case COMPCODE_LTGT:
+      return LTGT_EXPR;
+    case COMPCODE_UNGE:
+      return UNGE_EXPR;
+    default:
+      gcc_unreachable ();
+    }
+}
+
+/* Return a tree for the comparison which is the combination of
+   doing the AND or OR (depending on CODE) of the two operations LCODE
+   and RCODE on the identical operands LL_ARG and LR_ARG.  Take into account
+   the possibility of trapping if the mode has NaNs, and return NULL_TREE
+   if this makes the transformation invalid.  */
+
+tree
+combine_comparisons (enum tree_code code, enum tree_code lcode,
+                    enum tree_code rcode, tree truth_type,
+                    tree ll_arg, tree lr_arg)
+{
+  bool honor_nans = HONOR_NANS (TYPE_MODE (TREE_TYPE (ll_arg)));
+  enum comparison_code lcompcode = comparison_to_compcode (lcode);
+  enum comparison_code rcompcode = comparison_to_compcode (rcode);
+  enum comparison_code compcode;
+
+  switch (code)
+    {
+    case TRUTH_AND_EXPR: case TRUTH_ANDIF_EXPR:
+      compcode = lcompcode & rcompcode;
+      break;
+
+    case TRUTH_OR_EXPR: case TRUTH_ORIF_EXPR:
+      compcode = lcompcode | rcompcode;
+      break;
+
     default:
-      abort ();
+      return NULL_TREE;
+    }
+
+  if (!honor_nans)
+    {
+      /* Eliminate unordered comparisons, as well as LTGT and ORD
+        which are not used unless the mode has NaNs.  */
+      compcode &= ~COMPCODE_UNORD;
+      if (compcode == COMPCODE_LTGT)
+       compcode = COMPCODE_NE;
+      else if (compcode == COMPCODE_ORD)
+       compcode = COMPCODE_TRUE;
     }
+   else if (flag_trapping_math)
+     {
+       /* Check that the original operation and the optimized ones will trap
+          under the same condition.  */
+       bool ltrap = (lcompcode & COMPCODE_UNORD) == 0
+                    && (lcompcode != COMPCODE_EQ)
+                    && (lcompcode != COMPCODE_ORD);
+       bool rtrap = (rcompcode & COMPCODE_UNORD) == 0
+                    && (rcompcode != COMPCODE_EQ)
+                    && (rcompcode != COMPCODE_ORD);
+       bool trap = (compcode & COMPCODE_UNORD) == 0
+                   && (compcode != COMPCODE_EQ)
+                   && (compcode != COMPCODE_ORD);
+
+        /* In a short-circuited boolean expression the LHS might be
+          such that the RHS, if evaluated, will never trap.  For
+          example, in ORD (x, y) && (x < y), we evaluate the RHS only
+          if neither x nor y is NaN.  (This is a mixed blessing: for
+          example, the expression above will never trap, hence
+          optimizing it to x < y would be invalid).  */
+        if ((code == TRUTH_ORIF_EXPR && (lcompcode & COMPCODE_UNORD))
+            || (code == TRUTH_ANDIF_EXPR && !(lcompcode & COMPCODE_UNORD)))
+          rtrap = false;
+
+        /* If the comparison was short-circuited, and only the RHS
+          trapped, we may now generate a spurious trap.  */
+       if (rtrap && !ltrap
+           && (code == TRUTH_ANDIF_EXPR || code == TRUTH_ORIF_EXPR))
+         return NULL_TREE;
+
+       /* If we changed the conditions that cause a trap, we lose.  */
+       if ((ltrap || rtrap) != trap)
+         return NULL_TREE;
+      }
+
+  if (compcode == COMPCODE_TRUE)
+    return constant_boolean_node (true, truth_type);
+  else if (compcode == COMPCODE_FALSE)
+    return constant_boolean_node (false, truth_type);
+  else
+    return fold (build2 (compcode_to_comparison (compcode),
+                        truth_type, ll_arg, lr_arg));
 }
 
 /* Return nonzero if CODE is a tree code that represents a truth value.  */
@@ -2133,33 +2289,44 @@ truth_value_p (enum tree_code code)
 \f
 /* Return nonzero if two operands (typically of the same tree node)
    are necessarily equal.  If either argument has side-effects this
-   function returns zero.
+   function returns zero.  FLAGS modifies behavior as follows:
 
-   If ONLY_CONST is nonzero, only return nonzero for constants.
+   If OEP_ONLY_CONST is set, only return nonzero for constants.
    This function tests whether the operands are indistinguishable;
    it does not test whether they are equal using C's == operation.
    The distinction is important for IEEE floating point, because
    (1) -0.0 and 0.0 are distinguishable, but -0.0==0.0, and
    (2) two NaNs may be indistinguishable, but NaN!=NaN.
 
-   If ONLY_CONST is zero, a VAR_DECL is considered equal to itself
+   If OEP_ONLY_CONST is unset, a VAR_DECL is considered equal to itself
    even though it may hold multiple values during a function.
    This is because a GCC tree node guarantees that nothing else is
    executed between the evaluation of its "operands" (which may often
    be evaluated in arbitrary order).  Hence if the operands themselves
    don't side-effect, the VAR_DECLs, PARM_DECLs etc... must hold the
-   same value in each operand/subexpression.  Hence a zero value for
-   ONLY_CONST assumes isochronic (or instantaneous) tree equivalence.
-   If comparing arbitrary expression trees, such as from different
-   statements, ONLY_CONST must usually be nonzero.  */
+   same value in each operand/subexpression.  Hence leaving OEP_ONLY_CONST
+   unset means assuming isochronic (or instantaneous) tree equivalence.
+   Unless comparing arbitrary expression trees, such as from different
+   statements, this flag can usually be left unset.
+
+   If OEP_PURE_SAME is set, then pure functions with identical arguments
+   are considered the same.  It is used when the caller has other ways
+   to ensure that global memory is unchanged in between.  */
 
 int
-operand_equal_p (tree arg0, tree arg1, int only_const)
+operand_equal_p (tree arg0, tree arg1, unsigned int flags)
 {
-  tree fndecl;
+  /* If one is specified and the other isn't, they aren't equal and if
+     neither is specified, they are.
 
+     ??? This is temporary and is meant only to handle the cases of the
+     optional operands for COMPONENT_REF and ARRAY_REF.  */
+  if ((arg0 && !arg1) || (!arg0 && arg1))
+    return 0;
+  else if (!arg0 && !arg1)
+    return 1;
   /* If either is ERROR_MARK, they aren't equal.  */
-  if (TREE_CODE (arg0) == ERROR_MARK || TREE_CODE (arg1) == ERROR_MARK)
+  else if (TREE_CODE (arg0) == ERROR_MARK || TREE_CODE (arg1) == ERROR_MARK)
     return 0;
 
   /* If both types don't have the same signedness, then we can't consider
@@ -2186,7 +2353,7 @@ operand_equal_p (tree arg0, tree arg1, int only_const)
      expressions with side effects that should be treated the same due
      to the only side effects being identical SAVE_EXPR's, that will
      be detected in the recursive calls below.  */
-  if (arg0 == arg1 && ! only_const
+  if (arg0 == arg1 && ! (flags & OEP_ONLY_CONST)
       && (TREE_CODE (arg0) == SAVE_EXPR
          || (! TREE_SIDE_EFFECTS (arg0) && ! TREE_SIDE_EFFECTS (arg1))))
     return 1;
@@ -2220,7 +2387,7 @@ operand_equal_p (tree arg0, tree arg1, int only_const)
          while (v1 && v2)
            {
              if (!operand_equal_p (TREE_VALUE (v1), TREE_VALUE (v2),
-                                   only_const))
+                                   flags))
                return 0;
              v1 = TREE_CHAIN (v1);
              v2 = TREE_CHAIN (v2);
@@ -2231,9 +2398,9 @@ operand_equal_p (tree arg0, tree arg1, int only_const)
 
       case COMPLEX_CST:
        return (operand_equal_p (TREE_REALPART (arg0), TREE_REALPART (arg1),
-                                only_const)
+                                flags)
                && operand_equal_p (TREE_IMAGPART (arg0), TREE_IMAGPART (arg1),
-                                   only_const));
+                                   flags));
 
       case STRING_CST:
        return (TREE_STRING_LENGTH (arg0) == TREE_STRING_LENGTH (arg1)
@@ -2248,34 +2415,46 @@ operand_equal_p (tree arg0, tree arg1, int only_const)
        break;
       }
 
-  if (only_const)
+  if (flags & OEP_ONLY_CONST)
     return 0;
 
   switch (TREE_CODE_CLASS (TREE_CODE (arg0)))
     {
     case '1':
       /* Two conversions are equal only if signedness and modes match.  */
-      if ((TREE_CODE (arg0) == NOP_EXPR || TREE_CODE (arg0) == CONVERT_EXPR)
-         && (TYPE_UNSIGNED (TREE_TYPE (arg0))
-             != TYPE_UNSIGNED (TREE_TYPE (arg1))))
-       return 0;
+      switch (TREE_CODE (arg0))
+        {
+        case NOP_EXPR:
+        case CONVERT_EXPR:
+        case FIX_CEIL_EXPR:
+        case FIX_TRUNC_EXPR:
+        case FIX_FLOOR_EXPR:
+        case FIX_ROUND_EXPR:
+         if (TYPE_UNSIGNED (TREE_TYPE (arg0))
+             != TYPE_UNSIGNED (TREE_TYPE (arg1)))
+           return 0;
+         break;
+       default:
+         break;
+       }
 
       return operand_equal_p (TREE_OPERAND (arg0, 0),
-                             TREE_OPERAND (arg1, 0), 0);
+                             TREE_OPERAND (arg1, 0), flags);
 
     case '<':
     case '2':
-      if (operand_equal_p (TREE_OPERAND (arg0, 0), TREE_OPERAND (arg1, 0), 0)
-         && operand_equal_p (TREE_OPERAND (arg0, 1), TREE_OPERAND (arg1, 1),
-                             0))
+      if (operand_equal_p (TREE_OPERAND (arg0, 0),
+                          TREE_OPERAND (arg1, 0), flags)
+         && operand_equal_p (TREE_OPERAND (arg0, 1),
+                             TREE_OPERAND (arg1, 1), flags))
        return 1;
 
       /* For commutative ops, allow the other order.  */
       return (commutative_tree_code (TREE_CODE (arg0))
              && operand_equal_p (TREE_OPERAND (arg0, 0),
-                                 TREE_OPERAND (arg1, 1), 0)
+                                 TREE_OPERAND (arg1, 1), flags)
              && operand_equal_p (TREE_OPERAND (arg0, 1),
-                                 TREE_OPERAND (arg1, 0), 0));
+                                 TREE_OPERAND (arg1, 0), flags));
 
     case 'r':
       /* If either of the pointer (or reference) expressions we are
@@ -2287,24 +2466,39 @@ operand_equal_p (tree arg0, tree arg1, int only_const)
       switch (TREE_CODE (arg0))
        {
        case INDIRECT_REF:
+       case REALPART_EXPR:
+       case IMAGPART_EXPR:
          return operand_equal_p (TREE_OPERAND (arg0, 0),
-                                 TREE_OPERAND (arg1, 0), 0);
+                                 TREE_OPERAND (arg1, 0), flags);
 
-       case COMPONENT_REF:
        case ARRAY_REF:
        case ARRAY_RANGE_REF:
          return (operand_equal_p (TREE_OPERAND (arg0, 0),
-                                  TREE_OPERAND (arg1, 0), 0)
+                                  TREE_OPERAND (arg1, 0), flags)
+                 && operand_equal_p (TREE_OPERAND (arg0, 1),
+                                     TREE_OPERAND (arg1, 1), flags)
+                 && operand_equal_p (TREE_OPERAND (arg0, 2),
+                                     TREE_OPERAND (arg1, 2), flags)
+                 && operand_equal_p (TREE_OPERAND (arg0, 3),
+                                     TREE_OPERAND (arg1, 3), flags));
+
+
+       case COMPONENT_REF:
+         return (operand_equal_p (TREE_OPERAND (arg0, 0),
+                                  TREE_OPERAND (arg1, 0), flags)
                  && operand_equal_p (TREE_OPERAND (arg0, 1),
-                                     TREE_OPERAND (arg1, 1), 0));
+                                     TREE_OPERAND (arg1, 1), flags)
+                 && operand_equal_p (TREE_OPERAND (arg0, 2),
+                                     TREE_OPERAND (arg1, 2), flags));
+
 
        case BIT_FIELD_REF:
          return (operand_equal_p (TREE_OPERAND (arg0, 0),
-                                  TREE_OPERAND (arg1, 0), 0)
+                                  TREE_OPERAND (arg1, 0), flags)
                  && operand_equal_p (TREE_OPERAND (arg0, 1),
-                                     TREE_OPERAND (arg1, 1), 0)
+                                     TREE_OPERAND (arg1, 1), flags)
                  && operand_equal_p (TREE_OPERAND (arg0, 2),
-                                     TREE_OPERAND (arg1, 2), 0));
+                                     TREE_OPERAND (arg1, 2), flags));
        default:
          return 0;
        }
@@ -2315,23 +2509,43 @@ operand_equal_p (tree arg0, tree arg1, int only_const)
        case ADDR_EXPR:
        case TRUTH_NOT_EXPR:
          return operand_equal_p (TREE_OPERAND (arg0, 0),
-                                 TREE_OPERAND (arg1, 0), 0);
+                                 TREE_OPERAND (arg1, 0), flags);
+
+       case TRUTH_ANDIF_EXPR:
+       case TRUTH_ORIF_EXPR:
+         return operand_equal_p (TREE_OPERAND (arg0, 0),
+                                 TREE_OPERAND (arg1, 0), flags)
+                && operand_equal_p (TREE_OPERAND (arg0, 1),
+                                    TREE_OPERAND (arg1, 1), flags);
 
-       case RTL_EXPR:
-         return rtx_equal_p (RTL_EXPR_RTL (arg0), RTL_EXPR_RTL (arg1));
+       case TRUTH_AND_EXPR:
+       case TRUTH_OR_EXPR:
+       case TRUTH_XOR_EXPR:
+         return (operand_equal_p (TREE_OPERAND (arg0, 0),
+                                  TREE_OPERAND (arg1, 0), flags)
+                 && operand_equal_p (TREE_OPERAND (arg0, 1),
+                                     TREE_OPERAND (arg1, 1), flags))
+                || (operand_equal_p (TREE_OPERAND (arg0, 0),
+                                     TREE_OPERAND (arg1, 1), flags)
+                    && operand_equal_p (TREE_OPERAND (arg0, 1),
+                                        TREE_OPERAND (arg1, 0), flags));
 
        case CALL_EXPR:
          /* If the CALL_EXPRs call different functions, then they
             clearly can not be equal.  */
          if (! operand_equal_p (TREE_OPERAND (arg0, 0),
-                                TREE_OPERAND (arg1, 0), 0))
+                                TREE_OPERAND (arg1, 0), flags))
            return 0;
 
-         /* Only consider const functions equivalent.  */
-         fndecl = get_callee_fndecl (arg0);
-         if (fndecl == NULL_TREE
-             || ! (flags_from_decl_or_type (fndecl) & ECF_CONST))
-           return 0;
+         {
+           unsigned int cef = call_expr_flags (arg0);
+           if (flags & OEP_PURE_SAME)
+             cef &= ECF_CONST | ECF_PURE;
+           else
+             cef &= ECF_CONST;
+           if (!cef)
+             return 0;
+         }
 
          /* Now see if all the arguments are the same.  operand_equal_p
             does not handle TREE_LIST, so we walk the operands here
@@ -2340,7 +2554,8 @@ operand_equal_p (tree arg0, tree arg1, int only_const)
          arg1 = TREE_OPERAND (arg1, 1);
          while (arg0 && arg1)
            {
-             if (! operand_equal_p (TREE_VALUE (arg0), TREE_VALUE (arg1), 0))
+             if (! operand_equal_p (TREE_VALUE (arg0), TREE_VALUE (arg1),
+                                    flags))
                return 0;
 
              arg0 = TREE_CHAIN (arg0);
@@ -2356,11 +2571,11 @@ operand_equal_p (tree arg0, tree arg1, int only_const)
        }
 
     case 'd':
-       /* Consider __builtin_sqrt equal to sqrt.  */
-       return TREE_CODE (arg0) == FUNCTION_DECL
-              && DECL_BUILT_IN (arg0) && DECL_BUILT_IN (arg1)
-              && DECL_BUILT_IN_CLASS (arg0) == DECL_BUILT_IN_CLASS (arg1)
-              && DECL_FUNCTION_CODE (arg0) == DECL_FUNCTION_CODE (arg1);
+      /* Consider __builtin_sqrt equal to sqrt.  */
+      return (TREE_CODE (arg0) == FUNCTION_DECL
+             && DECL_BUILT_IN (arg0) && DECL_BUILT_IN (arg1)
+             && DECL_BUILT_IN_CLASS (arg0) == DECL_BUILT_IN_CLASS (arg1)
+             && DECL_FUNCTION_CODE (arg0) == DECL_FUNCTION_CODE (arg1));
 
     default:
       return 0;
@@ -2447,7 +2662,7 @@ twoval_comparison_p (tree arg, tree *cval1, tree *cval2, int *save_p)
               || code == COMPOUND_EXPR))
     class = '2';
 
-  else if (class == 'e' && code == SAVE_EXPR && SAVE_EXPR_RTL (arg) == 0
+  else if (class == 'e' && code == SAVE_EXPR
           && ! TREE_SIDE_EFFECTS (TREE_OPERAND (arg, 0)))
     {
       /* If we've already found a CVAL1 or CVAL2, this expression is
@@ -2547,11 +2762,11 @@ eval_subst (tree arg, tree old0, tree new0, tree old1, tree new1)
                                       old0, new0, old1, new1)));
 
     case '2':
-      return fold (build (code, type,
-                         eval_subst (TREE_OPERAND (arg, 0),
-                                     old0, new0, old1, new1),
-                         eval_subst (TREE_OPERAND (arg, 1),
-                                     old0, new0, old1, new1)));
+      return fold (build2 (code, type,
+                          eval_subst (TREE_OPERAND (arg, 0),
+                                      old0, new0, old1, new1),
+                          eval_subst (TREE_OPERAND (arg, 1),
+                                      old0, new0, old1, new1)));
 
     case 'e':
       switch (code)
@@ -2563,13 +2778,13 @@ eval_subst (tree arg, tree old0, tree new0, tree old1, tree new1)
          return eval_subst (TREE_OPERAND (arg, 1), old0, new0, old1, new1);
 
        case COND_EXPR:
-         return fold (build (code, type,
-                             eval_subst (TREE_OPERAND (arg, 0),
-                                         old0, new0, old1, new1),
-                             eval_subst (TREE_OPERAND (arg, 1),
-                                         old0, new0, old1, new1),
-                             eval_subst (TREE_OPERAND (arg, 2),
-                                         old0, new0, old1, new1)));
+         return fold (build3 (code, type,
+                              eval_subst (TREE_OPERAND (arg, 0),
+                                          old0, new0, old1, new1),
+                              eval_subst (TREE_OPERAND (arg, 1),
+                                          old0, new0, old1, new1),
+                              eval_subst (TREE_OPERAND (arg, 2),
+                                          old0, new0, old1, new1)));
        default:
          break;
        }
@@ -2594,7 +2809,7 @@ eval_subst (tree arg, tree old0, tree new0, tree old1, tree new1)
        else if (arg1 == old1 || operand_equal_p (arg1, old1, 0))
          arg1 = new1;
 
-       return fold (build (code, type, arg0, arg1));
+       return fold (build2 (code, type, arg0, arg1));
       }
 
     default:
@@ -2615,7 +2830,7 @@ omit_one_operand (tree type, tree result, tree omitted)
   tree t = fold_convert (type, result);
 
   if (TREE_SIDE_EFFECTS (omitted))
-    return build (COMPOUND_EXPR, type, omitted, t);
+    return build2 (COMPOUND_EXPR, type, fold_ignored_result (omitted), t);
 
   return non_lvalue (t);
 }
@@ -2628,15 +2843,40 @@ pedantic_omit_one_operand (tree type, tree result, tree omitted)
   tree t = fold_convert (type, result);
 
   if (TREE_SIDE_EFFECTS (omitted))
-    return build (COMPOUND_EXPR, type, omitted, t);
+    return build2 (COMPOUND_EXPR, type, fold_ignored_result (omitted), t);
 
   return pedantic_non_lvalue (t);
 }
+
+/* Return a tree for the case when the result of an expression is RESULT
+   converted to TYPE and OMITTED1 and OMITTED2 were previously operands
+   of the expression but are now not needed.
+
+   If OMITTED1 or OMITTED2 has side effects, they must be evaluated.
+   If both OMITTED1 and OMITTED2 have side effects, OMITTED1 is
+   evaluated before OMITTED2.  Otherwise, if neither has side effects,
+   just do the conversion of RESULT to TYPE.  */
+
+tree
+omit_two_operands (tree type, tree result, tree omitted1, tree omitted2)
+{
+  tree t = fold_convert (type, result);
+
+  if (TREE_SIDE_EFFECTS (omitted2))
+    t = build2 (COMPOUND_EXPR, type, omitted2, t);
+  if (TREE_SIDE_EFFECTS (omitted1))
+    t = build2 (COMPOUND_EXPR, type, omitted1, t);
+
+  return TREE_CODE (t) != COMPOUND_EXPR ? non_lvalue (t) : t;
+}
+
 \f
 /* Return a simplified tree node for the truth-negation of ARG.  This
    never alters ARG itself.  We assume that ARG is an operation that
-   returns a truth value (0 or 1).  */
+   returns a truth value (0 or 1).
 
+   FIXME: one would think we would fold the result, but it causes
+   problems with the dominator optimizer.  */
 tree
 invert_truthvalue (tree arg)
 {
@@ -2652,38 +2892,39 @@ invert_truthvalue (tree arg)
 
   if (TREE_CODE_CLASS (code) == '<')
     {
-      if (FLOAT_TYPE_P (TREE_TYPE (TREE_OPERAND (arg, 0)))
-         && !flag_unsafe_math_optimizations
-         && code != NE_EXPR
-         && code != EQ_EXPR)
-       return build1 (TRUTH_NOT_EXPR, type, arg);
-      else if (code == UNORDERED_EXPR
-              || code == ORDERED_EXPR
-              || code == UNEQ_EXPR
-              || code == UNLT_EXPR
-              || code == UNLE_EXPR
-              || code == UNGT_EXPR
-              || code == UNGE_EXPR)
+      tree op_type = TREE_TYPE (TREE_OPERAND (arg, 0));
+      if (FLOAT_TYPE_P (op_type)
+         && flag_trapping_math
+         && code != ORDERED_EXPR && code != UNORDERED_EXPR
+         && code != NE_EXPR && code != EQ_EXPR)
        return build1 (TRUTH_NOT_EXPR, type, arg);
       else
-       return build (invert_tree_comparison (code), type,
-                     TREE_OPERAND (arg, 0), TREE_OPERAND (arg, 1));
+       {
+         code = invert_tree_comparison (code,
+                                        HONOR_NANS (TYPE_MODE (op_type)));
+         if (code == ERROR_MARK)
+           return build1 (TRUTH_NOT_EXPR, type, arg);
+         else
+           return build2 (code, type,
+                          TREE_OPERAND (arg, 0), TREE_OPERAND (arg, 1));
+       }
     }
 
   switch (code)
     {
     case INTEGER_CST:
-      return fold_convert (type, build_int_2 (integer_zerop (arg), 0));
+      return fold_convert (type,
+                          build_int_cst (NULL_TREE, integer_zerop (arg)));
 
     case TRUTH_AND_EXPR:
-      return build (TRUTH_OR_EXPR, type,
-                   invert_truthvalue (TREE_OPERAND (arg, 0)),
-                   invert_truthvalue (TREE_OPERAND (arg, 1)));
+      return build2 (TRUTH_OR_EXPR, type,
+                    invert_truthvalue (TREE_OPERAND (arg, 0)),
+                    invert_truthvalue (TREE_OPERAND (arg, 1)));
 
     case TRUTH_OR_EXPR:
-      return build (TRUTH_AND_EXPR, type,
-                   invert_truthvalue (TREE_OPERAND (arg, 0)),
-                   invert_truthvalue (TREE_OPERAND (arg, 1)));
+      return build2 (TRUTH_AND_EXPR, type,
+                    invert_truthvalue (TREE_OPERAND (arg, 0)),
+                    invert_truthvalue (TREE_OPERAND (arg, 1)));
 
     case TRUTH_XOR_EXPR:
       /* Here we can invert either operand.  We invert the first operand
@@ -2692,39 +2933,42 @@ invert_truthvalue (tree arg)
         negation of the second operand.  */
 
       if (TREE_CODE (TREE_OPERAND (arg, 1)) == TRUTH_NOT_EXPR)
-       return build (TRUTH_XOR_EXPR, type, TREE_OPERAND (arg, 0),
-                     TREE_OPERAND (TREE_OPERAND (arg, 1), 0));
+       return build2 (TRUTH_XOR_EXPR, type, TREE_OPERAND (arg, 0),
+                      TREE_OPERAND (TREE_OPERAND (arg, 1), 0));
       else
-       return build (TRUTH_XOR_EXPR, type,
-                     invert_truthvalue (TREE_OPERAND (arg, 0)),
-                     TREE_OPERAND (arg, 1));
+       return build2 (TRUTH_XOR_EXPR, type,
+                      invert_truthvalue (TREE_OPERAND (arg, 0)),
+                      TREE_OPERAND (arg, 1));
 
     case TRUTH_ANDIF_EXPR:
-      return build (TRUTH_ORIF_EXPR, type,
-                   invert_truthvalue (TREE_OPERAND (arg, 0)),
-                   invert_truthvalue (TREE_OPERAND (arg, 1)));
+      return build2 (TRUTH_ORIF_EXPR, type,
+                    invert_truthvalue (TREE_OPERAND (arg, 0)),
+                    invert_truthvalue (TREE_OPERAND (arg, 1)));
 
     case TRUTH_ORIF_EXPR:
-      return build (TRUTH_ANDIF_EXPR, type,
-                   invert_truthvalue (TREE_OPERAND (arg, 0)),
-                   invert_truthvalue (TREE_OPERAND (arg, 1)));
+      return build2 (TRUTH_ANDIF_EXPR, type,
+                    invert_truthvalue (TREE_OPERAND (arg, 0)),
+                    invert_truthvalue (TREE_OPERAND (arg, 1)));
 
     case TRUTH_NOT_EXPR:
       return TREE_OPERAND (arg, 0);
 
     case COND_EXPR:
-      return build (COND_EXPR, type, TREE_OPERAND (arg, 0),
-                   invert_truthvalue (TREE_OPERAND (arg, 1)),
-                   invert_truthvalue (TREE_OPERAND (arg, 2)));
+      return build3 (COND_EXPR, type, TREE_OPERAND (arg, 0),
+                    invert_truthvalue (TREE_OPERAND (arg, 1)),
+                    invert_truthvalue (TREE_OPERAND (arg, 2)));
 
     case COMPOUND_EXPR:
-      return build (COMPOUND_EXPR, type, TREE_OPERAND (arg, 0),
-                   invert_truthvalue (TREE_OPERAND (arg, 1)));
+      return build2 (COMPOUND_EXPR, type, TREE_OPERAND (arg, 0),
+                    invert_truthvalue (TREE_OPERAND (arg, 1)));
 
     case NON_LVALUE_EXPR:
       return invert_truthvalue (TREE_OPERAND (arg, 0));
 
     case NOP_EXPR:
+      if (TREE_CODE (TREE_TYPE (arg)) == BOOLEAN_TYPE)
+        break;
+
     case CONVERT_EXPR:
     case FLOAT_EXPR:
       return build1 (TREE_CODE (arg), type,
@@ -2733,8 +2977,8 @@ invert_truthvalue (tree arg)
     case BIT_AND_EXPR:
       if (!integer_onep (TREE_OPERAND (arg, 1)))
        break;
-      return build (EQ_EXPR, type, arg,
-                   fold_convert (type, integer_zero_node));
+      return build2 (EQ_EXPR, type, arg,
+                    fold_convert (type, integer_zero_node));
 
     case SAVE_EXPR:
       return build1 (TRUTH_NOT_EXPR, type, arg);
@@ -2746,8 +2990,7 @@ invert_truthvalue (tree arg)
     default:
       break;
     }
-  if (TREE_CODE (TREE_TYPE (arg)) != BOOLEAN_TYPE)
-    abort ();
+  gcc_assert (TREE_CODE (TREE_TYPE (arg)) == BOOLEAN_TYPE);
   return build1 (TRUTH_NOT_EXPR, type, arg);
 }
 
@@ -2799,8 +3042,8 @@ distribute_bit_expr (enum tree_code code, tree type, tree arg0, tree arg1)
   else
     return 0;
 
-  return fold (build (TREE_CODE (arg0), type, common,
-                     fold (build (code, type, left, right))));
+  return fold (build2 (TREE_CODE (arg0), type, common,
+                      fold (build2 (code, type, left, right))));
 }
 \f
 /* Return a BIT_FIELD_REF of type TYPE to refer to BITSIZE bits of INNER
@@ -2810,8 +3053,8 @@ static tree
 make_bit_field_ref (tree inner, tree type, int bitsize, int bitpos,
                    int unsignedp)
 {
-  tree result = build (BIT_FIELD_REF, type, inner,
-                      size_int (bitsize), bitsize_int (bitpos));
+  tree result = build3 (BIT_FIELD_REF, type, inner,
+                       size_int (bitsize), bitsize_int (bitpos));
 
   BIT_FIELD_REF_UNSIGNED (result) = unsignedp;
 
@@ -2905,9 +3148,8 @@ optimize_bit_field_compare (enum tree_code code, tree compare_type,
     lbitpos = nbitsize - lbitsize - lbitpos;
 
   /* Make the mask to be used against the extracted field.  */
-  mask = build_int_2 (~0, ~0);
-  TREE_TYPE (mask) = unsigned_type;
-  force_fit_type (mask, 0);
+  mask = build_int_cst (unsigned_type, -1);
+  mask = force_fit_type (mask, 0, false, false);
   mask = fold_convert (unsigned_type, mask);
   mask = const_binop (LSHIFT_EXPR, mask, size_int (nbitsize - lbitsize), 0);
   mask = const_binop (RSHIFT_EXPR, mask,
@@ -2916,15 +3158,15 @@ optimize_bit_field_compare (enum tree_code code, tree compare_type,
   if (! const_p)
     /* If not comparing with constant, just rework the comparison
        and return.  */
-    return build (code, compare_type,
-                 build (BIT_AND_EXPR, unsigned_type,
-                        make_bit_field_ref (linner, unsigned_type,
-                                            nbitsize, nbitpos, 1),
-                        mask),
-                 build (BIT_AND_EXPR, unsigned_type,
-                        make_bit_field_ref (rinner, unsigned_type,
-                                            nbitsize, nbitpos, 1),
-                        mask));
+    return build2 (code, compare_type,
+                  build2 (BIT_AND_EXPR, unsigned_type,
+                          make_bit_field_ref (linner, unsigned_type,
+                                              nbitsize, nbitpos, 1),
+                          mask),
+                  build2 (BIT_AND_EXPR, unsigned_type,
+                          make_bit_field_ref (rinner, unsigned_type,
+                                              nbitsize, nbitpos, 1),
+                          mask));
 
   /* Otherwise, we are handling the constant case. See if the constant is too
      big for the field.  Warn and return a tree of for 0 (false) if so.  We do
@@ -2943,9 +3185,7 @@ optimize_bit_field_compare (enum tree_code code, tree compare_type,
        {
          warning ("comparison is always %d due to width of bit-field",
                   code == NE_EXPR);
-         return fold_convert (compare_type,
-                              (code == NE_EXPR
-                               ? integer_one_node : integer_zero_node));
+         return constant_boolean_node (code == NE_EXPR, compare_type);
        }
     }
   else
@@ -2956,9 +3196,7 @@ optimize_bit_field_compare (enum tree_code code, tree compare_type,
        {
          warning ("comparison is always %d due to width of bit-field",
                   code == NE_EXPR);
-         return fold_convert (compare_type,
-                              (code == NE_EXPR
-                               ? integer_one_node : integer_zero_node));
+         return constant_boolean_node (code == NE_EXPR, compare_type);
        }
     }
 
@@ -2985,9 +3223,9 @@ optimize_bit_field_compare (enum tree_code code, tree compare_type,
                                        size_int (lbitpos), 0),
                           mask, 0));
 
-  return build (code, compare_type,
-               build (BIT_AND_EXPR, unsigned_type, lhs, mask),
-               rhs);
+  return build2 (code, compare_type,
+                build2 (BIT_AND_EXPR, unsigned_type, lhs, mask),
+                rhs);
 }
 \f
 /* Subroutine for fold_truthop: decode a field reference.
@@ -3059,23 +3297,23 @@ decode_field_reference (tree exp, HOST_WIDE_INT *pbitsize,
   /* If the number of bits in the reference is the same as the bitsize of
      the outer type, then the outer type gives the signedness. Otherwise
      (in case of a small bitfield) the signedness is unchanged.  */
-  if (outer_type && *pbitsize == tree_low_cst (TYPE_SIZE (outer_type), 1))
+  if (outer_type && *pbitsize == TYPE_PRECISION (outer_type))
     *punsignedp = TYPE_UNSIGNED (outer_type);
 
   /* Compute the mask to access the bitfield.  */
   unsigned_type = lang_hooks.types.type_for_size (*pbitsize, 1);
   precision = TYPE_PRECISION (unsigned_type);
 
-  mask = build_int_2 (~0, ~0);
-  TREE_TYPE (mask) = unsigned_type;
-  force_fit_type (mask, 0);
+  mask = build_int_cst (unsigned_type, -1);
+  mask = force_fit_type (mask, 0, false, false);
+  
   mask = const_binop (LSHIFT_EXPR, mask, size_int (precision - *pbitsize), 0);
   mask = const_binop (RSHIFT_EXPR, mask, size_int (precision - *pbitsize), 0);
 
   /* Merge it with the mask we found in the BIT_AND_EXPR, if any.  */
   if (and_mask != 0)
-    mask = fold (build (BIT_AND_EXPR, unsigned_type,
-                       fold_convert (unsigned_type, and_mask), mask));
+    mask = fold (build2 (BIT_AND_EXPR, unsigned_type,
+                        fold_convert (unsigned_type, and_mask), mask));
 
   *pmask = mask;
   *pand_mask = and_mask;
@@ -3092,9 +3330,9 @@ all_ones_mask_p (tree mask, int size)
   unsigned int precision = TYPE_PRECISION (type);
   tree tmask;
 
-  tmask = build_int_2 (~0, ~0);
-  TREE_TYPE (tmask) = lang_hooks.types.signed_type (type);
-  force_fit_type (tmask, 0);
+  tmask = build_int_cst (lang_hooks.types.signed_type (type), -1);
+  tmask = force_fit_type (tmask, 0, false, false);
+  
   return
     tree_int_cst_equal (mask,
                        const_binop (RSHIFT_EXPR,
@@ -3240,8 +3478,8 @@ range_binop (enum tree_code code, tree type, tree arg0, int upper0_p,
 
   if (arg0 != 0 && arg1 != 0)
     {
-      tem = fold (build (code, type != 0 ? type : TREE_TYPE (arg0),
-                        arg0, fold_convert (TREE_TYPE (arg0), arg1)));
+      tem = fold (build2 (code, type != 0 ? type : TREE_TYPE (arg0),
+                         arg0, fold_convert (TREE_TYPE (arg0), arg1)));
       STRIP_NOPS (tem);
       return TREE_CODE (tem) == INTEGER_CST ? tem : 0;
     }
@@ -3278,10 +3516,10 @@ range_binop (enum tree_code code, tree type, tree arg0, int upper0_p,
       result = sgn0 >= sgn1;
       break;
     default:
-      abort ();
+      gcc_unreachable ();
     }
 
-  return fold_convert (type, result ? integer_one_node : integer_zero_node);
+  return constant_boolean_node (result, type);
 }
 \f
 /* Given EXP, a logical expression, set the range it is testing into
@@ -3294,8 +3532,8 @@ static tree
 make_range (tree exp, int *pin_p, tree *plow, tree *phigh)
 {
   enum tree_code code;
-  tree arg0 = NULL_TREE, arg1 = NULL_TREE, type = NULL_TREE;
-  tree orig_type = NULL_TREE;
+  tree arg0 = NULL_TREE, arg1 = NULL_TREE;
+  tree exp_type = NULL_TREE, arg0_type = NULL_TREE;
   int in_p, n_in_p;
   tree low, high, n_low, n_high;
 
@@ -3311,6 +3549,7 @@ make_range (tree exp, int *pin_p, tree *plow, tree *phigh)
   while (1)
     {
       code = TREE_CODE (exp);
+      exp_type = TREE_TYPE (exp);
 
       if (IS_EXPR_CODE_CLASS (TREE_CODE_CLASS (code)))
        {
@@ -3319,7 +3558,7 @@ make_range (tree exp, int *pin_p, tree *plow, tree *phigh)
          if (TREE_CODE_CLASS (code) == '<'
              || TREE_CODE_CLASS (code) == '1'
              || TREE_CODE_CLASS (code) == '2')
-           type = TREE_TYPE (arg0);
+           arg0_type = TREE_TYPE (arg0);
          if (TREE_CODE_CLASS (code) == '2'
              || TREE_CODE_CLASS (code) == '<'
              || (TREE_CODE_CLASS (code) == 'e'
@@ -3327,11 +3566,6 @@ make_range (tree exp, int *pin_p, tree *plow, tree *phigh)
            arg1 = TREE_OPERAND (exp, 1);
        }
 
-      /* Set ORIG_TYPE as soon as TYPE is non-null so that we do not
-        lose a cast by accident.  */
-      if (type != NULL_TREE && orig_type == NULL_TREE)
-       orig_type = type;
-
       switch (code)
        {
        case TRUTH_NOT_EXPR:
@@ -3371,19 +3605,19 @@ make_range (tree exp, int *pin_p, tree *plow, tree *phigh)
              in_p = ! in_p, low = 0, high = arg1;
              break;
            default:
-             abort ();
+             gcc_unreachable ();
            }
 
-         exp = arg0;
-
          /* If this is an unsigned comparison, we also know that EXP is
             greater than or equal to zero.  We base the range tests we make
             on that fact, so we record it here so we can parse existing
-            range tests.  */
-         if (TYPE_UNSIGNED (type) && (low == 0 || high == 0))
+            range tests.  We test arg0_type since often the return type
+            of, e.g. EQ_EXPR, is boolean.  */
+         if (TYPE_UNSIGNED (arg0_type) && (low == 0 || high == 0))
            {
-             if (! merge_ranges (&n_in_p, &n_low, &n_high, in_p, low, high,
-                                 1, fold_convert (type, integer_zero_node),
+             if (! merge_ranges (&n_in_p, &n_low, &n_high,
+                                 in_p, low, high, 1,
+                                 fold_convert (arg0_type, integer_zero_node),
                                  NULL_TREE))
                break;
 
@@ -3397,18 +3631,20 @@ make_range (tree exp, int *pin_p, tree *plow, tree *phigh)
                  in_p = ! in_p;
                  high = range_binop (MINUS_EXPR, NULL_TREE, low, 0,
                                      integer_one_node, 0);
-                 low = fold_convert (type, integer_zero_node);
+                 low = fold_convert (arg0_type, integer_zero_node);
                }
            }
+
+         exp = arg0;
          continue;
 
        case NEGATE_EXPR:
          /* (-x) IN [a,b] -> x in [-b, -a]  */
-         n_low = range_binop (MINUS_EXPR, type,
-                              fold_convert (type, integer_zero_node),
+         n_low = range_binop (MINUS_EXPR, exp_type,
+                              fold_convert (exp_type, integer_zero_node),
                               0, high, 1);
-         n_high = range_binop (MINUS_EXPR, type,
-                               fold_convert (type, integer_zero_node),
+         n_high = range_binop (MINUS_EXPR, exp_type,
+                               fold_convert (exp_type, integer_zero_node),
                                0, low, 0);
          low = n_low, high = n_high;
          exp = arg0;
@@ -3416,8 +3652,8 @@ make_range (tree exp, int *pin_p, tree *plow, tree *phigh)
 
        case BIT_NOT_EXPR:
          /* ~ X -> -X - 1  */
-         exp = build (MINUS_EXPR, type, negate_expr (arg0),
-                      fold_convert (type, integer_one_node));
+         exp = build2 (MINUS_EXPR, exp_type, negate_expr (arg0),
+                       fold_convert (exp_type, integer_one_node));
          continue;
 
        case PLUS_EXPR:  case MINUS_EXPR:
@@ -3429,9 +3665,9 @@ make_range (tree exp, int *pin_p, tree *plow, tree *phigh)
             the bounds don't overflow.  For unsigned, overflow is defined
             and this is exactly the right thing.  */
          n_low = range_binop (code == MINUS_EXPR ? PLUS_EXPR : MINUS_EXPR,
-                              type, low, 0, arg1, 0);
+                              arg0_type, low, 0, arg1, 0);
          n_high = range_binop (code == MINUS_EXPR ? PLUS_EXPR : MINUS_EXPR,
-                               type, high, 1, arg1, 0);
+                               arg0_type, high, 1, arg1, 0);
          if ((n_low != 0 && TREE_OVERFLOW (n_low))
              || (n_high != 0 && TREE_OVERFLOW (n_high)))
            break;
@@ -3440,9 +3676,9 @@ make_range (tree exp, int *pin_p, tree *plow, tree *phigh)
             value thus making n_high < n_low, and normalize it.  */
          if (n_low && n_high && tree_int_cst_lt (n_high, n_low))
            {
-             low = range_binop (PLUS_EXPR, type, n_high, 0,
+             low = range_binop (PLUS_EXPR, arg0_type, n_high, 0,
                                 integer_one_node, 0);
-             high = range_binop (MINUS_EXPR, type, n_low, 0,
+             high = range_binop (MINUS_EXPR, arg0_type, n_low, 0,
                                  integer_one_node, 0);
 
              /* If the range is of the form +/- [ x+1, x ], we won't
@@ -3462,47 +3698,51 @@ make_range (tree exp, int *pin_p, tree *plow, tree *phigh)
          continue;
 
        case NOP_EXPR:  case NON_LVALUE_EXPR:  case CONVERT_EXPR:
-         if (TYPE_PRECISION (type) > TYPE_PRECISION (orig_type))
+         if (TYPE_PRECISION (arg0_type) > TYPE_PRECISION (exp_type))
            break;
 
-         if (! INTEGRAL_TYPE_P (type)
-             || (low != 0 && ! int_fits_type_p (low, type))
-             || (high != 0 && ! int_fits_type_p (high, type)))
+         if (! INTEGRAL_TYPE_P (arg0_type)
+             || (low != 0 && ! int_fits_type_p (low, arg0_type))
+             || (high != 0 && ! int_fits_type_p (high, arg0_type)))
            break;
 
          n_low = low, n_high = high;
 
          if (n_low != 0)
-           n_low = fold_convert (type, n_low);
+           n_low = fold_convert (arg0_type, n_low);
 
          if (n_high != 0)
-           n_high = fold_convert (type, n_high);
+           n_high = fold_convert (arg0_type, n_high);
+
 
-         /* If we're converting from an unsigned to a signed type,
-            we will be doing the comparison as unsigned.  The tests above
-            have already verified that LOW and HIGH are both positive.
+         /* If we're converting arg0 from an unsigned type, to exp,
+            a signed type,  we will be doing the comparison as unsigned.
+            The tests above have already verified that LOW and HIGH
+            are both positive.
 
-            So we have to make sure that the original unsigned value will
-            be interpreted as positive.  */
-         if (TYPE_UNSIGNED (type) && ! TYPE_UNSIGNED (TREE_TYPE (exp)))
+            So we have to ensure that we will handle large unsigned
+            values the same way that the current signed bounds treat
+            negative values.  */
+
+         if (!TYPE_UNSIGNED (exp_type) && TYPE_UNSIGNED (arg0_type))
            {
-             tree equiv_type = lang_hooks.types.type_for_mode
-               (TYPE_MODE (type), 1);
              tree high_positive;
+             tree equiv_type = lang_hooks.types.type_for_mode
+               (TYPE_MODE (arg0_type), 1);
 
              /* A range without an upper bound is, naturally, unbounded.
                 Since convert would have cropped a very large value, use
                 the max value for the destination type.  */
              high_positive
                = TYPE_MAX_VALUE (equiv_type) ? TYPE_MAX_VALUE (equiv_type)
-                 : TYPE_MAX_VALUE (type);
+               : TYPE_MAX_VALUE (arg0_type);
 
-             if (TYPE_PRECISION (type) == TYPE_PRECISION (TREE_TYPE (exp)))
-               high_positive = fold (build (RSHIFT_EXPR, type,
-                                            fold_convert (type,
-                                                          high_positive),
-                                            fold_convert (type,
-                                                          integer_one_node)));
+             if (TYPE_PRECISION (exp_type) == TYPE_PRECISION (arg0_type))
+               high_positive = fold (build2 (RSHIFT_EXPR, arg0_type,
+                                             fold_convert (arg0_type,
+                                                           high_positive),
+                                             fold_convert (arg0_type,
+                                                           integer_one_node)));
 
              /* If the low bound is specified, "and" the range with the
                 range for which the original unsigned value will be
@@ -3511,7 +3751,8 @@ make_range (tree exp, int *pin_p, tree *plow, tree *phigh)
                {
                  if (! merge_ranges (&n_in_p, &n_low, &n_high,
                                      1, n_low, n_high, 1,
-                                     fold_convert (type, integer_zero_node),
+                                     fold_convert (arg0_type,
+                                                   integer_zero_node),
                                      high_positive))
                    break;
 
@@ -3523,7 +3764,8 @@ make_range (tree exp, int *pin_p, tree *plow, tree *phigh)
                     that will be interpreted as negative.  */
                  if (! merge_ranges (&n_in_p, &n_low, &n_high,
                                      0, n_low, n_high, 1,
-                                     fold_convert (type, integer_zero_node),
+                                     fold_convert (arg0_type,
+                                                   integer_zero_node),
                                      high_positive))
                    break;
 
@@ -3559,7 +3801,7 @@ make_range (tree exp, int *pin_p, tree *plow, tree *phigh)
 \f
 /* Given a range, LOW, HIGH, and IN_P, an expression, EXP, and a result
    type, TYPE, return an expression to test if EXP is in (or out of, depending
-   on IN_P) the range.  */
+   on IN_P) the range.  Return 0 if the test couldn't be created.  */
 
 static tree
 build_range_check (tree type, tree exp, int in_p, tree low, tree high)
@@ -3567,21 +3809,26 @@ build_range_check (tree type, tree exp, int in_p, tree low, tree high)
   tree etype = TREE_TYPE (exp);
   tree value;
 
-  if (! in_p
-      && (0 != (value = build_range_check (type, exp, 1, low, high))))
-    return invert_truthvalue (value);
+  if (! in_p)
+    {
+      value = build_range_check (type, exp, 1, low, high);
+      if (value != 0)
+        return invert_truthvalue (value);
+
+      return 0;
+    }
 
   if (low == 0 && high == 0)
     return fold_convert (type, integer_one_node);
 
   if (low == 0)
-    return fold (build (LE_EXPR, type, exp, high));
+    return fold (build2 (LE_EXPR, type, exp, high));
 
   if (high == 0)
-    return fold (build (GE_EXPR, type, exp, low));
+    return fold (build2 (GE_EXPR, type, exp, low));
 
   if (operand_equal_p (low, high, 0))
-    return fold (build (EQ_EXPR, type, exp, low));
+    return fold (build2 (EQ_EXPR, type, exp, low));
 
   if (integer_zerop (low))
     {
@@ -3620,21 +3867,52 @@ build_range_check (tree type, tree exp, int in_p, tree low, tree high)
              etype = lang_hooks.types.signed_type (etype);
              exp = fold_convert (etype, exp);
            }
-         return fold (build (GT_EXPR, type, exp,
-                             fold_convert (etype, integer_zero_node)));
+         return fold (build2 (GT_EXPR, type, exp,
+                              fold_convert (etype, integer_zero_node)));
        }
     }
 
-  if (0 != (value = const_binop (MINUS_EXPR, high, low, 0))
-      && ! TREE_OVERFLOW (value))
-    return build_range_check (type,
-                             fold (build (MINUS_EXPR, etype, exp, low)),
-                             1, fold_convert (etype, integer_zero_node),
-                             value);
-
-  return 0;
-}
-\f
+  value = const_binop (MINUS_EXPR, high, low, 0);
+  if (value != 0 && TREE_OVERFLOW (value) && ! TYPE_UNSIGNED (etype))
+    {
+      tree utype, minv, maxv;
+
+      /* Check if (unsigned) INT_MAX + 1 == (unsigned) INT_MIN
+        for the type in question, as we rely on this here.  */
+      switch (TREE_CODE (etype))
+       {
+       case INTEGER_TYPE:
+       case ENUMERAL_TYPE:
+       case CHAR_TYPE:
+         utype = lang_hooks.types.unsigned_type (etype);
+         maxv = fold_convert (utype, TYPE_MAX_VALUE (etype));
+         maxv = range_binop (PLUS_EXPR, NULL_TREE, maxv, 1,
+                             integer_one_node, 1);
+         minv = fold_convert (utype, TYPE_MIN_VALUE (etype));
+         if (integer_zerop (range_binop (NE_EXPR, integer_type_node,
+                                         minv, 1, maxv, 1)))
+           {
+             etype = utype;
+             high = fold_convert (etype, high);
+             low = fold_convert (etype, low);
+             exp = fold_convert (etype, exp);
+             value = const_binop (MINUS_EXPR, high, low, 0);
+           }
+         break;
+       default:
+         break;
+       }
+    }
+
+  if (value != 0 && ! TREE_OVERFLOW (value))
+    return build_range_check (type,
+                             fold (build2 (MINUS_EXPR, etype, exp, low)),
+                             1, fold_convert (etype, integer_zero_node),
+                             value);
+
+  return 0;
+}
+\f
 /* Given two ranges, see if we can merge them into one.  Return 1 if we
    can, 0 if we can't.  Set the output range into the specified parameters.  */
 
@@ -3756,7 +4034,75 @@ merge_ranges (int *pin_p, tree *plow, tree *phigh, int in0_p, tree low0,
                                         1, low1, 0)))
            in_p = 0, low = low0, high = high1;
          else
-           return 0;
+           {
+             /* Canonicalize - [min, x] into - [-, x].  */
+             if (low0 && TREE_CODE (low0) == INTEGER_CST)
+               switch (TREE_CODE (TREE_TYPE (low0)))
+                 {
+                 case ENUMERAL_TYPE:
+                   if (TYPE_PRECISION (TREE_TYPE (low0))
+                       != GET_MODE_BITSIZE (TYPE_MODE (TREE_TYPE (low0))))
+                     break;
+                   /* FALLTHROUGH */
+                 case INTEGER_TYPE:
+                 case CHAR_TYPE:
+                   if (tree_int_cst_equal (low0,
+                                           TYPE_MIN_VALUE (TREE_TYPE (low0))))
+                     low0 = 0;
+                   break;
+                 case POINTER_TYPE:
+                   if (TYPE_UNSIGNED (TREE_TYPE (low0))
+                       && integer_zerop (low0))
+                     low0 = 0;
+                   break;
+                 default:
+                   break;
+                 }
+
+             /* Canonicalize - [x, max] into - [x, -].  */
+             if (high1 && TREE_CODE (high1) == INTEGER_CST)
+               switch (TREE_CODE (TREE_TYPE (high1)))
+                 {
+                 case ENUMERAL_TYPE:
+                   if (TYPE_PRECISION (TREE_TYPE (high1))
+                       != GET_MODE_BITSIZE (TYPE_MODE (TREE_TYPE (high1))))
+                     break;
+                   /* FALLTHROUGH */
+                 case INTEGER_TYPE:
+                 case CHAR_TYPE:
+                   if (tree_int_cst_equal (high1,
+                                           TYPE_MAX_VALUE (TREE_TYPE (high1))))
+                     high1 = 0;
+                   break;
+                 case POINTER_TYPE:
+                   if (TYPE_UNSIGNED (TREE_TYPE (high1))
+                       && integer_zerop (range_binop (PLUS_EXPR, NULL_TREE,
+                                                      high1, 1,
+                                                      integer_one_node, 1)))
+                     high1 = 0;
+                   break;
+                 default:
+                   break;
+                 }
+
+             /* The ranges might be also adjacent between the maximum and
+                minimum values of the given type.  For
+                - [{min,-}, x] and - [y, {max,-}] ranges where x + 1 < y
+                return + [x + 1, y - 1].  */
+             if (low0 == 0 && high1 == 0)
+               {
+                 low = range_binop (PLUS_EXPR, NULL_TREE, high0, 1,
+                                    integer_one_node, 1);
+                 high = range_binop (MINUS_EXPR, NULL_TREE, low1, 0,
+                                     integer_one_node, 0);
+                 if (low == 0 || high == 0)
+                   return 0;
+
+                 in_p = 1;
+               }
+             else
+               return 0;
+           }
        }
       else if (subset)
        in_p = 0, low = low0, high = high0;
@@ -3768,6 +4114,247 @@ merge_ranges (int *pin_p, tree *plow, tree *phigh, int in0_p, tree low0,
   return 1;
 }
 \f
+
+/* Subroutine of fold, looking inside expressions of the form
+   A op B ? A : C, where ARG0, ARG1 and ARG2 are the three operands
+   of the COND_EXPR.  This function is being used also to optimize
+   A op B ? C : A, by reversing the comparison first.
+
+   Return a folded expression whose code is not a COND_EXPR
+   anymore, or NULL_TREE if no folding opportunity is found.  */
+
+static tree
+fold_cond_expr_with_comparison (tree type, tree arg0, tree arg1, tree arg2)
+{
+  enum tree_code comp_code = TREE_CODE (arg0);
+  tree arg00 = TREE_OPERAND (arg0, 0);
+  tree arg01 = TREE_OPERAND (arg0, 1);
+  tree arg1_type = TREE_TYPE (arg1);
+  tree tem;
+
+  STRIP_NOPS (arg1);
+  STRIP_NOPS (arg2);
+
+  /* If we have A op 0 ? A : -A, consider applying the following
+     transformations:
+
+     A == 0? A : -A    same as -A
+     A != 0? A : -A    same as A
+     A >= 0? A : -A    same as abs (A)
+     A > 0?  A : -A    same as abs (A)
+     A <= 0? A : -A    same as -abs (A)
+     A < 0?  A : -A    same as -abs (A)
+
+     None of these transformations work for modes with signed
+     zeros.  If A is +/-0, the first two transformations will
+     change the sign of the result (from +0 to -0, or vice
+     versa).  The last four will fix the sign of the result,
+     even though the original expressions could be positive or
+     negative, depending on the sign of A.
+
+     Note that all these transformations are correct if A is
+     NaN, since the two alternatives (A and -A) are also NaNs.  */
+  if ((FLOAT_TYPE_P (TREE_TYPE (arg01))
+       ? real_zerop (arg01)
+       : integer_zerop (arg01))
+      && TREE_CODE (arg2) == NEGATE_EXPR
+      && operand_equal_p (TREE_OPERAND (arg2, 0), arg1, 0))
+    switch (comp_code)
+      {
+      case EQ_EXPR:
+       tem = fold_convert (arg1_type, arg1);
+       return pedantic_non_lvalue (fold_convert (type, negate_expr (tem)));
+      case NE_EXPR:
+       return pedantic_non_lvalue (fold_convert (type, arg1));
+      case GE_EXPR:
+      case GT_EXPR:
+       if (TYPE_UNSIGNED (TREE_TYPE (arg1)))
+         arg1 = fold_convert (lang_hooks.types.signed_type
+                              (TREE_TYPE (arg1)), arg1);
+       tem = fold (build1 (ABS_EXPR, TREE_TYPE (arg1), arg1));
+       return pedantic_non_lvalue (fold_convert (type, tem));
+      case LE_EXPR:
+      case LT_EXPR:
+       if (TYPE_UNSIGNED (TREE_TYPE (arg1)))
+         arg1 = fold_convert (lang_hooks.types.signed_type
+                              (TREE_TYPE (arg1)), arg1);
+       tem = fold (build1 (ABS_EXPR, TREE_TYPE (arg1), arg1));
+       return negate_expr (fold_convert (type, tem));
+      default:
+       gcc_unreachable ();
+      }
+
+  /* A != 0 ? A : 0 is simply A, unless A is -0.  Likewise
+     A == 0 ? A : 0 is always 0 unless A is -0.  Note that
+     both transformations are correct when A is NaN: A != 0
+     is then true, and A == 0 is false.  */
+
+  if (integer_zerop (arg01) && integer_zerop (arg2))
+    {
+      if (comp_code == NE_EXPR)
+       return pedantic_non_lvalue (fold_convert (type, arg1));
+      else if (comp_code == EQ_EXPR)
+       return fold_convert (type, integer_zero_node);
+    }
+
+  /* Try some transformations of A op B ? A : B.
+
+     A == B? A : B    same as B
+     A != B? A : B    same as A
+     A >= B? A : B    same as max (A, B)
+     A > B?  A : B    same as max (B, A)
+     A <= B? A : B    same as min (A, B)
+     A < B?  A : B    same as min (B, A)
+
+     As above, these transformations don't work in the presence
+     of signed zeros.  For example, if A and B are zeros of
+     opposite sign, the first two transformations will change
+     the sign of the result.  In the last four, the original
+     expressions give different results for (A=+0, B=-0) and
+     (A=-0, B=+0), but the transformed expressions do not.
+
+     The first two transformations are correct if either A or B
+     is a NaN.  In the first transformation, the condition will
+     be false, and B will indeed be chosen.  In the case of the
+     second transformation, the condition A != B will be true,
+     and A will be chosen.
+
+     The conversions to max() and min() are not correct if B is
+     a number and A is not.  The conditions in the original
+     expressions will be false, so all four give B.  The min()
+     and max() versions would give a NaN instead.  */
+  if (operand_equal_for_comparison_p (arg01, arg2, arg00))
+    {
+      tree comp_op0 = arg00;
+      tree comp_op1 = arg01;
+      tree comp_type = TREE_TYPE (comp_op0);
+
+      /* Avoid adding NOP_EXPRs in case this is an lvalue.  */
+      if (TYPE_MAIN_VARIANT (comp_type) == TYPE_MAIN_VARIANT (type))
+       {
+         comp_type = type;
+         comp_op0 = arg1;
+         comp_op1 = arg2;
+       }
+
+      switch (comp_code)
+       {
+       case EQ_EXPR:
+         return pedantic_non_lvalue (fold_convert (type, arg2));
+       case NE_EXPR:
+         return pedantic_non_lvalue (fold_convert (type, arg1));
+       case LE_EXPR:
+       case LT_EXPR:
+         /* In C++ a ?: expression can be an lvalue, so put the
+            operand which will be used if they are equal first
+            so that we can convert this back to the
+            corresponding COND_EXPR.  */
+         if (!HONOR_NANS (TYPE_MODE (TREE_TYPE (arg1))))
+           {
+             comp_op0 = fold_convert (comp_type, comp_op0);
+             comp_op1 = fold_convert (comp_type, comp_op1);
+             tem = fold (build2 (MIN_EXPR, comp_type,
+                                 (comp_code == LE_EXPR
+                                  ? comp_op0 : comp_op1),
+                                 (comp_code == LE_EXPR
+                                  ? comp_op1 : comp_op0)));
+             return pedantic_non_lvalue (fold_convert (type, tem));
+           }
+         break;
+       case GE_EXPR:
+       case GT_EXPR:
+         if (!HONOR_NANS (TYPE_MODE (TREE_TYPE (arg1))))
+           {
+             comp_op0 = fold_convert (comp_type, comp_op0);
+             comp_op1 = fold_convert (comp_type, comp_op1);
+             tem = fold (build2 (MAX_EXPR, comp_type,
+                                 (comp_code == GE_EXPR
+                                  ? comp_op0 : comp_op1),
+                                 (comp_code == GE_EXPR
+                                  ? comp_op1 : comp_op0)));
+             tem = fold (build2 (MAX_EXPR, comp_type, comp_op0, comp_op1));
+             return pedantic_non_lvalue (fold_convert (type, tem));
+           }
+         break;
+       default:
+         gcc_unreachable ();
+       }
+    }
+
+  /* If this is A op C1 ? A : C2 with C1 and C2 constant integers,
+     we might still be able to simplify this.  For example,
+     if C1 is one less or one more than C2, this might have started
+     out as a MIN or MAX and been transformed by this function.
+     Only good for INTEGER_TYPEs, because we need TYPE_MAX_VALUE.  */
+
+  if (INTEGRAL_TYPE_P (type)
+      && TREE_CODE (arg01) == INTEGER_CST
+      && TREE_CODE (arg2) == INTEGER_CST)
+    switch (comp_code)
+      {
+      case EQ_EXPR:
+       /* We can replace A with C1 in this case.  */
+       arg1 = fold_convert (type, arg01);
+       return fold (build3 (COND_EXPR, type, arg0, arg1, arg2));
+
+      case LT_EXPR:
+       /* If C1 is C2 + 1, this is min(A, C2).  */
+       if (! operand_equal_p (arg2, TYPE_MAX_VALUE (type),
+                              OEP_ONLY_CONST)
+           && operand_equal_p (arg01,
+                               const_binop (PLUS_EXPR, arg2,
+                                            integer_one_node, 0),
+                               OEP_ONLY_CONST))
+         return pedantic_non_lvalue (fold (build2 (MIN_EXPR,
+                                                   type, arg1, arg2)));
+       break;
+
+      case LE_EXPR:
+       /* If C1 is C2 - 1, this is min(A, C2).  */
+       if (! operand_equal_p (arg2, TYPE_MIN_VALUE (type),
+                              OEP_ONLY_CONST)
+           && operand_equal_p (arg01,
+                               const_binop (MINUS_EXPR, arg2,
+                                            integer_one_node, 0),
+                               OEP_ONLY_CONST))
+         return pedantic_non_lvalue (fold (build2 (MIN_EXPR,
+                                                   type, arg1, arg2)));
+       break;
+
+      case GT_EXPR:
+       /* If C1 is C2 - 1, this is max(A, C2).  */
+       if (! operand_equal_p (arg2, TYPE_MIN_VALUE (type),
+                              OEP_ONLY_CONST)
+           && operand_equal_p (arg01,
+                               const_binop (MINUS_EXPR, arg2,
+                                            integer_one_node, 0),
+                               OEP_ONLY_CONST))
+         return pedantic_non_lvalue (fold (build2 (MAX_EXPR,
+                                                   type, arg1, arg2)));
+       break;
+
+      case GE_EXPR:
+       /* If C1 is C2 + 1, this is max(A, C2).  */
+       if (! operand_equal_p (arg2, TYPE_MAX_VALUE (type),
+                              OEP_ONLY_CONST)
+           && operand_equal_p (arg01,
+                               const_binop (PLUS_EXPR, arg2,
+                                            integer_one_node, 0),
+                               OEP_ONLY_CONST))
+         return pedantic_non_lvalue (fold (build2 (MAX_EXPR,
+                                                   type, arg1, arg2)));
+       break;
+      case NE_EXPR:
+       break;
+      default:
+       gcc_unreachable ();
+      }
+
+  return NULL_TREE;
+}
+
+
+\f
 #ifndef RANGE_TEST_NON_SHORT_CIRCUIT
 #define RANGE_TEST_NON_SHORT_CIRCUIT (BRANCH_COST >= 2)
 #endif
@@ -3817,10 +4404,10 @@ fold_range_test (tree exp)
         unless we are at top level or LHS contains a PLACEHOLDER_EXPR, in
         which cases we can't do this.  */
       if (simple_operand_p (lhs))
-       return build (TREE_CODE (exp) == TRUTH_ANDIF_EXPR
-                     ? TRUTH_AND_EXPR : TRUTH_OR_EXPR,
-                     TREE_TYPE (exp), TREE_OPERAND (exp, 0),
-                     TREE_OPERAND (exp, 1));
+       return build2 (TREE_CODE (exp) == TRUTH_ANDIF_EXPR
+                      ? TRUTH_AND_EXPR : TRUTH_OR_EXPR,
+                      TREE_TYPE (exp), TREE_OPERAND (exp, 0),
+                      TREE_OPERAND (exp, 1));
 
       else if (lang_hooks.decls.global_bindings_p () == 0
               && ! CONTAINS_PLACEHOLDER_P (lhs))
@@ -3833,9 +4420,9 @@ fold_range_test (tree exp)
              && (0 != (rhs = build_range_check (TREE_TYPE (exp), common,
                                                 or_op ? ! in1_p : in1_p,
                                                 low1, high1))))
-           return build (TREE_CODE (exp) == TRUTH_ANDIF_EXPR
-                         ? TRUTH_AND_EXPR : TRUTH_OR_EXPR,
-                         TREE_TYPE (exp), lhs, rhs);
+           return build2 (TREE_CODE (exp) == TRUTH_ANDIF_EXPR
+                          ? TRUTH_AND_EXPR : TRUTH_OR_EXPR,
+                          TREE_TYPE (exp), lhs, rhs);
        }
     }
 
@@ -3949,17 +4536,22 @@ fold_truthop (enum tree_code code, tree truth_type, tree lhs, tree rhs)
   rcode = TREE_CODE (rhs);
 
   if (lcode == BIT_AND_EXPR && integer_onep (TREE_OPERAND (lhs, 1)))
-    lcode = NE_EXPR, lhs = build (NE_EXPR, truth_type, lhs, integer_zero_node);
+    {
+      lhs = build2 (NE_EXPR, truth_type, lhs,
+                   fold_convert (TREE_TYPE (lhs), integer_zero_node));
+      lcode = NE_EXPR;
+    }
 
   if (rcode == BIT_AND_EXPR && integer_onep (TREE_OPERAND (rhs, 1)))
-    rcode = NE_EXPR, rhs = build (NE_EXPR, truth_type, rhs, integer_zero_node);
+    {
+      rhs = build2 (NE_EXPR, truth_type, rhs,
+                   fold_convert (TREE_TYPE (rhs), integer_zero_node));
+      rcode = NE_EXPR;
+    }
 
   if (TREE_CODE_CLASS (lcode) != '<' || TREE_CODE_CLASS (rcode) != '<')
     return 0;
 
-  code = ((code == TRUTH_AND_EXPR || code == TRUTH_ANDIF_EXPR)
-         ? TRUTH_AND_EXPR : TRUTH_OR_EXPR);
-
   ll_arg = TREE_OPERAND (lhs, 0);
   lr_arg = TREE_OPERAND (lhs, 1);
   rl_arg = TREE_OPERAND (rhs, 0);
@@ -3967,46 +4559,31 @@ fold_truthop (enum tree_code code, tree truth_type, tree lhs, tree rhs)
 
   /* Simplify (x<y) && (x==y) into (x<=y) and related optimizations.  */
   if (simple_operand_p (ll_arg)
-      && simple_operand_p (lr_arg)
-      && !FLOAT_TYPE_P (TREE_TYPE (ll_arg)))
+      && simple_operand_p (lr_arg))
     {
-      int compcode;
-
+      tree result;
       if (operand_equal_p (ll_arg, rl_arg, 0)
           && operand_equal_p (lr_arg, rr_arg, 0))
-        {
-          int lcompcode, rcompcode;
-
-          lcompcode = comparison_to_compcode (lcode);
-          rcompcode = comparison_to_compcode (rcode);
-          compcode = (code == TRUTH_AND_EXPR)
-                     ? lcompcode & rcompcode
-                     : lcompcode | rcompcode;
-        }
+       {
+          result = combine_comparisons (code, lcode, rcode,
+                                       truth_type, ll_arg, lr_arg);
+         if (result)
+           return result;
+       }
       else if (operand_equal_p (ll_arg, rr_arg, 0)
                && operand_equal_p (lr_arg, rl_arg, 0))
-        {
-          int lcompcode, rcompcode;
-
-          rcode = swap_tree_comparison (rcode);
-          lcompcode = comparison_to_compcode (lcode);
-          rcompcode = comparison_to_compcode (rcode);
-          compcode = (code == TRUTH_AND_EXPR)
-                     ? lcompcode & rcompcode
-                     : lcompcode | rcompcode;
-        }
-      else
-       compcode = -1;
-
-      if (compcode == COMPCODE_TRUE)
-       return fold_convert (truth_type, integer_one_node);
-      else if (compcode == COMPCODE_FALSE)
-       return fold_convert (truth_type, integer_zero_node);
-      else if (compcode != -1)
-       return build (compcode_to_comparison (compcode),
-                     truth_type, ll_arg, lr_arg);
+       {
+          result = combine_comparisons (code, lcode,
+                                       swap_tree_comparison (rcode),
+                                       truth_type, ll_arg, lr_arg);
+         if (result)
+           return result;
+       }
     }
 
+  code = ((code == TRUTH_AND_EXPR || code == TRUTH_ANDIF_EXPR)
+         ? TRUTH_AND_EXPR : TRUTH_OR_EXPR);
+
   /* If the RHS can be evaluated unconditionally and its operands are
      simple, it wins to evaluate the RHS unconditionally on machines
      with expensive branches.  In this case, this isn't a comparison
@@ -4023,22 +4600,22 @@ fold_truthop (enum tree_code code, tree truth_type, tree lhs, tree rhs)
          && lcode == NE_EXPR && integer_zerop (lr_arg)
          && rcode == NE_EXPR && integer_zerop (rr_arg)
          && TREE_TYPE (ll_arg) == TREE_TYPE (rl_arg))
-       return build (NE_EXPR, truth_type,
-                     build (BIT_IOR_EXPR, TREE_TYPE (ll_arg),
-                            ll_arg, rl_arg),
-                     integer_zero_node);
+       return build2 (NE_EXPR, truth_type,
+                      build2 (BIT_IOR_EXPR, TREE_TYPE (ll_arg),
+                              ll_arg, rl_arg),
+                      fold_convert (TREE_TYPE (ll_arg), integer_zero_node));
 
       /* Convert (a == 0) && (b == 0) into (a | b) == 0.  */
       if (code == TRUTH_AND_EXPR
          && lcode == EQ_EXPR && integer_zerop (lr_arg)
          && rcode == EQ_EXPR && integer_zerop (rr_arg)
          && TREE_TYPE (ll_arg) == TREE_TYPE (rl_arg))
-       return build (EQ_EXPR, truth_type,
-                     build (BIT_IOR_EXPR, TREE_TYPE (ll_arg),
-                            ll_arg, rl_arg),
-                     integer_zero_node);
+       return build2 (EQ_EXPR, truth_type,
+                      build2 (BIT_IOR_EXPR, TREE_TYPE (ll_arg),
+                              ll_arg, rl_arg),
+                      fold_convert (TREE_TYPE (ll_arg), integer_zero_node));
 
-      return build (code, truth_type, lhs, rhs);
+      return build2 (code, truth_type, lhs, rhs);
     }
 
   /* See if the comparisons can be merged.  Then get all the parameters for
@@ -4158,9 +4735,7 @@ fold_truthop (enum tree_code code, tree truth_type, tree lhs, tree rhs)
        {
          warning ("comparison is always %d", wanted_code == NE_EXPR);
 
-         return fold_convert (truth_type,
-                              wanted_code == NE_EXPR
-                              ? integer_one_node : integer_zero_node);
+         return constant_boolean_node (wanted_code == NE_EXPR, truth_type);
        }
     }
   if (r_const)
@@ -4175,9 +4750,7 @@ fold_truthop (enum tree_code code, tree truth_type, tree lhs, tree rhs)
        {
          warning ("comparison is always %d", wanted_code == NE_EXPR);
 
-         return fold_convert (truth_type,
-                              wanted_code == NE_EXPR
-                              ? integer_one_node : integer_zero_node);
+         return constant_boolean_node (wanted_code == NE_EXPR, truth_type);
        }
     }
 
@@ -4229,14 +4802,14 @@ fold_truthop (enum tree_code code, tree truth_type, tree lhs, tree rhs)
          lhs = make_bit_field_ref (ll_inner, lntype, lnbitsize, lnbitpos,
                                    ll_unsignedp || rl_unsignedp);
          if (! all_ones_mask_p (ll_mask, lnbitsize))
-           lhs = build (BIT_AND_EXPR, lntype, lhs, ll_mask);
+           lhs = build2 (BIT_AND_EXPR, lntype, lhs, ll_mask);
 
          rhs = make_bit_field_ref (lr_inner, rntype, rnbitsize, rnbitpos,
                                    lr_unsignedp || rr_unsignedp);
          if (! all_ones_mask_p (lr_mask, rnbitsize))
-           rhs = build (BIT_AND_EXPR, rntype, rhs, lr_mask);
+           rhs = build2 (BIT_AND_EXPR, rntype, rhs, lr_mask);
 
-         return build (wanted_code, truth_type, lhs, rhs);
+         return build2 (wanted_code, truth_type, lhs, rhs);
        }
 
       /* There is still another way we can do something:  If both pairs of
@@ -4282,12 +4855,12 @@ fold_truthop (enum tree_code code, tree truth_type, tree lhs, tree rhs)
            }
 
          if (! all_ones_mask_p (ll_mask, ll_bitsize + rl_bitsize))
-           lhs = build (BIT_AND_EXPR, type, lhs, ll_mask);
+           lhs = build2 (BIT_AND_EXPR, type, lhs, ll_mask);
 
          if (! all_ones_mask_p (lr_mask, lr_bitsize + rr_bitsize))
-           rhs = build (BIT_AND_EXPR, type, rhs, lr_mask);
+           rhs = build2 (BIT_AND_EXPR, type, rhs, lr_mask);
 
-         return build (wanted_code, truth_type, lhs, rhs);
+         return build2 (wanted_code, truth_type, lhs, rhs);
        }
 
       return 0;
@@ -4305,12 +4878,12 @@ fold_truthop (enum tree_code code, tree truth_type, tree lhs, tree rhs)
       if (wanted_code == NE_EXPR)
        {
          warning ("`or' of unmatched not-equal tests is always 1");
-         return fold_convert (truth_type, integer_one_node);
+         return constant_boolean_node (true, truth_type);
        }
       else
        {
          warning ("`and' of mutually exclusive equal-tests is always 0");
-         return fold_convert (truth_type, integer_zero_node);
+         return constant_boolean_node (false, truth_type);
        }
     }
 
@@ -4323,10 +4896,10 @@ fold_truthop (enum tree_code code, tree truth_type, tree lhs, tree rhs)
 
   ll_mask = const_binop (BIT_IOR_EXPR, ll_mask, rl_mask, 0);
   if (! all_ones_mask_p (ll_mask, lnbitsize))
-    result = build (BIT_AND_EXPR, lntype, result, ll_mask);
+    result = build2 (BIT_AND_EXPR, lntype, result, ll_mask);
 
-  return build (wanted_code, truth_type, result,
-               const_binop (BIT_IOR_EXPR, l_const, r_const, 0));
+  return build2 (wanted_code, truth_type, result,
+                const_binop (BIT_IOR_EXPR, l_const, r_const, 0));
 }
 \f
 /* Optimize T, which is a comparison of a MIN_EXPR or MAX_EXPR with a
@@ -4370,20 +4943,20 @@ optimize_minmax_comparison (tree t)
 
     case GE_EXPR:
       return
-       fold (build (TRUTH_ORIF_EXPR, type,
-                    optimize_minmax_comparison
-                    (build (EQ_EXPR, type, arg0, comp_const)),
-                    optimize_minmax_comparison
-                    (build (GT_EXPR, type, arg0, comp_const))));
+       fold (build2 (TRUTH_ORIF_EXPR, type,
+                     optimize_minmax_comparison
+                     (build2 (EQ_EXPR, type, arg0, comp_const)),
+                     optimize_minmax_comparison
+                     (build2 (GT_EXPR, type, arg0, comp_const))));
 
     case EQ_EXPR:
       if (op_code == MAX_EXPR && consts_equal)
        /* MAX (X, 0) == 0  ->  X <= 0  */
-       return fold (build (LE_EXPR, type, inner, comp_const));
+       return fold (build2 (LE_EXPR, type, inner, comp_const));
 
       else if (op_code == MAX_EXPR && consts_lt)
        /* MAX (X, 0) == 5  ->  X == 5   */
-       return fold (build (EQ_EXPR, type, inner, comp_const));
+       return fold (build2 (EQ_EXPR, type, inner, comp_const));
 
       else if (op_code == MAX_EXPR)
        /* MAX (X, 0) == -1  ->  false  */
@@ -4391,7 +4964,7 @@ optimize_minmax_comparison (tree t)
 
       else if (consts_equal)
        /* MIN (X, 0) == 0  ->  X >= 0  */
-       return fold (build (GE_EXPR, type, inner, comp_const));
+       return fold (build2 (GE_EXPR, type, inner, comp_const));
 
       else if (consts_lt)
        /* MIN (X, 0) == 5  ->  false  */
@@ -4399,13 +4972,13 @@ optimize_minmax_comparison (tree t)
 
       else
        /* MIN (X, 0) == -1  ->  X == -1  */
-       return fold (build (EQ_EXPR, type, inner, comp_const));
+       return fold (build2 (EQ_EXPR, type, inner, comp_const));
 
     case GT_EXPR:
       if (op_code == MAX_EXPR && (consts_equal || consts_lt))
        /* MAX (X, 0) > 0  ->  X > 0
           MAX (X, 0) > 5  ->  X > 5  */
-       return fold (build (GT_EXPR, type, inner, comp_const));
+       return fold (build2 (GT_EXPR, type, inner, comp_const));
 
       else if (op_code == MAX_EXPR)
        /* MAX (X, 0) > -1  ->  true  */
@@ -4418,7 +4991,7 @@ optimize_minmax_comparison (tree t)
 
       else
        /* MIN (X, 0) > -1  ->  X > -1  */
-       return fold (build (GT_EXPR, type, inner, comp_const));
+       return fold (build2 (GT_EXPR, type, inner, comp_const));
 
     default:
       return t;
@@ -4512,9 +5085,9 @@ extract_muldiv_1 (tree t, tree c, enum tree_code code, tree wide_type)
                     && TYPE_IS_SIZETYPE (TREE_TYPE (op0)))
               && (GET_MODE_SIZE (TYPE_MODE (ctype))
                   > GET_MODE_SIZE (TYPE_MODE (TREE_TYPE (op0)))))
-             /* ... or its type is larger than ctype,
-                then we cannot pass through this truncation.  */
-             || (GET_MODE_SIZE (TYPE_MODE (ctype))
+             /* ... or this is a truncation (t is narrower than op0),
+                then we cannot pass through this narrowing.  */
+             || (GET_MODE_SIZE (TYPE_MODE (type))
                  < GET_MODE_SIZE (TYPE_MODE (TREE_TYPE (op0))))
              /* ... or signedness changes for division or modulus,
                 then we cannot pass through this conversion.  */
@@ -4553,16 +5126,20 @@ extract_muldiv_1 (tree t, tree c, enum tree_code code, tree wide_type)
          if (tree_int_cst_sgn (c) < 0)
            tcode = (tcode == MIN_EXPR ? MAX_EXPR : MIN_EXPR);
 
-         return fold (build (tcode, ctype, fold_convert (ctype, t1),
-                             fold_convert (ctype, t2)));
+         return fold (build2 (tcode, ctype, fold_convert (ctype, t1),
+                              fold_convert (ctype, t2)));
        }
       break;
 
     case LSHIFT_EXPR:  case RSHIFT_EXPR:
       /* If the second operand is constant, this is a multiplication
         or floor division, by a power of two, so we can treat it that
-        way unless the multiplier or divisor overflows.  */
+        way unless the multiplier or divisor overflows.  Signed
+        left-shift overflow is implementation-defined rather than
+        undefined in C90, so do not convert signed left shift into
+        multiplication.  */
       if (TREE_CODE (op1) == INTEGER_CST
+         && (tcode == RSHIFT_EXPR || TYPE_UNSIGNED (TREE_TYPE (op0)))
          /* const_binop may not detect overflow correctly,
             so check for it explicitly here.  */
          && TYPE_PRECISION (TREE_TYPE (size_one_node)) > TREE_INT_CST_LOW (op1)
@@ -4572,9 +5149,9 @@ extract_muldiv_1 (tree t, tree c, enum tree_code code, tree wide_type)
                                                   size_one_node,
                                                   op1, 0)))
          && ! TREE_OVERFLOW (t1))
-       return extract_muldiv (build (tcode == LSHIFT_EXPR
-                                     ? MULT_EXPR : FLOOR_DIV_EXPR,
-                                     ctype, fold_convert (ctype, op0), t1),
+       return extract_muldiv (build2 (tcode == LSHIFT_EXPR
+                                      ? MULT_EXPR : FLOOR_DIV_EXPR,
+                                      ctype, fold_convert (ctype, op0), t1),
                               c, code, wide_type);
       break;
 
@@ -4591,8 +5168,8 @@ extract_muldiv_1 (tree t, tree c, enum tree_code code, tree wide_type)
                 are divisible by c.  */
              || (multiple_of_p (ctype, op0, c)
                  && multiple_of_p (ctype, op1, c))))
-       return fold (build (tcode, ctype, fold_convert (ctype, t1),
-                           fold_convert (ctype, t2)));
+       return fold (build2 (tcode, ctype, fold_convert (ctype, t1),
+                            fold_convert (ctype, t2)));
 
       /* If this was a subtraction, negate OP1 and set it to be an addition.
         This simplifies the logic below.  */
@@ -4642,17 +5219,17 @@ extract_muldiv_1 (tree t, tree c, enum tree_code code, tree wide_type)
       /* If we were able to eliminate our operation from the first side,
         apply our operation to the second side and reform the PLUS.  */
       if (t1 != 0 && (TREE_CODE (t1) != code || code == MULT_EXPR))
-       return fold (build (tcode, ctype, fold_convert (ctype, t1), op1));
+       return fold (build2 (tcode, ctype, fold_convert (ctype, t1), op1));
 
       /* The last case is if we are a multiply.  In that case, we can
         apply the distributive law to commute the multiply and addition
         if the multiplication of the constants doesn't overflow.  */
       if (code == MULT_EXPR)
-       return fold (build (tcode, ctype,
-                           fold (build (code, ctype,
-                                        fold_convert (ctype, op0),
-                                        fold_convert (ctype, c))),
-                           op1));
+       return fold (build2 (tcode, ctype,
+                            fold (build2 (code, ctype,
+                                          fold_convert (ctype, op0),
+                                          fold_convert (ctype, c))),
+                            op1));
 
       break;
 
@@ -4674,12 +5251,12 @@ extract_muldiv_1 (tree t, tree c, enum tree_code code, tree wide_type)
         do something only if the second operand is a constant.  */
       if (same_p
          && (t1 = extract_muldiv (op0, c, code, wide_type)) != 0)
-       return fold (build (tcode, ctype, fold_convert (ctype, t1),
-                           fold_convert (ctype, op1)));
+       return fold (build2 (tcode, ctype, fold_convert (ctype, t1),
+                            fold_convert (ctype, op1)));
       else if (tcode == MULT_EXPR && code == MULT_EXPR
               && (t1 = extract_muldiv (op1, c, code, wide_type)) != 0)
-       return fold (build (tcode, ctype, fold_convert (ctype, op0),
-                           fold_convert (ctype, t1)));
+       return fold (build2 (tcode, ctype, fold_convert (ctype, op0),
+                            fold_convert (ctype, t1)));
       else if (TREE_CODE (op1) != INTEGER_CST)
        return 0;
 
@@ -4689,7 +5266,7 @@ extract_muldiv_1 (tree t, tree c, enum tree_code code, tree wide_type)
          && 0 != (t1 = const_binop (MULT_EXPR, fold_convert (ctype, op1),
                                     fold_convert (ctype, c), 0))
          && ! TREE_OVERFLOW (t1))
-       return fold (build (tcode, ctype, fold_convert (ctype, op0), t1));
+       return fold (build2 (tcode, ctype, fold_convert (ctype, op0), t1));
 
       /* If these operations "cancel" each other, we have the main
         optimizations of this pass, which occur when either constant is a
@@ -4708,15 +5285,15 @@ extract_muldiv_1 (tree t, tree c, enum tree_code code, tree wide_type)
                  && code != FLOOR_MOD_EXPR && code != ROUND_MOD_EXPR)))
        {
          if (integer_zerop (const_binop (TRUNC_MOD_EXPR, op1, c, 0)))
-           return fold (build (tcode, ctype, fold_convert (ctype, op0),
-                               fold_convert (ctype,
-                                             const_binop (TRUNC_DIV_EXPR,
-                                                          op1, c, 0))));
+           return fold (build2 (tcode, ctype, fold_convert (ctype, op0),
+                                fold_convert (ctype,
+                                              const_binop (TRUNC_DIV_EXPR,
+                                                           op1, c, 0))));
          else if (integer_zerop (const_binop (TRUNC_MOD_EXPR, c, op1, 0)))
-           return fold (build (code, ctype, fold_convert (ctype, op0),
-                               fold_convert (ctype,
-                                             const_binop (TRUNC_DIV_EXPR,
-                                                          c, op1, 0))));
+           return fold (build2 (code, ctype, fold_convert (ctype, op0),
+                                fold_convert (ctype,
+                                              const_binop (TRUNC_DIV_EXPR,
+                                                           c, op1, 0))));
        }
       break;
 
@@ -4727,77 +5304,21 @@ extract_muldiv_1 (tree t, tree c, enum tree_code code, tree wide_type)
   return 0;
 }
 \f
-/* If T contains a COMPOUND_EXPR which was inserted merely to evaluate
-   S, a SAVE_EXPR, return the expression actually being evaluated.   Note
-   that we may sometimes modify the tree.  */
-
-static tree
-strip_compound_expr (tree t, tree s)
-{
-  enum tree_code code = TREE_CODE (t);
-
-  /* See if this is the COMPOUND_EXPR we want to eliminate.  */
-  if (code == COMPOUND_EXPR && TREE_CODE (TREE_OPERAND (t, 0)) == CONVERT_EXPR
-      && TREE_OPERAND (TREE_OPERAND (t, 0), 0) == s)
-    return TREE_OPERAND (t, 1);
-
-  /* See if this is a COND_EXPR or a simple arithmetic operator.   We
-     don't bother handling any other types.  */
-  else if (code == COND_EXPR)
-    {
-      TREE_OPERAND (t, 0) = strip_compound_expr (TREE_OPERAND (t, 0), s);
-      TREE_OPERAND (t, 1) = strip_compound_expr (TREE_OPERAND (t, 1), s);
-      TREE_OPERAND (t, 2) = strip_compound_expr (TREE_OPERAND (t, 2), s);
-    }
-  else if (TREE_CODE_CLASS (code) == '1')
-    TREE_OPERAND (t, 0) = strip_compound_expr (TREE_OPERAND (t, 0), s);
-  else if (TREE_CODE_CLASS (code) == '<'
-          || TREE_CODE_CLASS (code) == '2')
-    {
-      TREE_OPERAND (t, 0) = strip_compound_expr (TREE_OPERAND (t, 0), s);
-      TREE_OPERAND (t, 1) = strip_compound_expr (TREE_OPERAND (t, 1), s);
-    }
-
-  return t;
-}
-\f
 /* Return a node which has the indicated constant VALUE (either 0 or
    1), and is of the indicated TYPE.  */
 
-static tree
+tree
 constant_boolean_node (int value, tree type)
 {
   if (type == integer_type_node)
     return value ? integer_one_node : integer_zero_node;
+  else if (type == boolean_type_node)
+    return value ? boolean_true_node : boolean_false_node;
   else if (TREE_CODE (type) == BOOLEAN_TYPE)
     return lang_hooks.truthvalue_conversion (value ? integer_one_node
                                                   : integer_zero_node);
   else
-    {
-      tree t = build_int_2 (value, 0);
-
-      TREE_TYPE (t) = type;
-      return t;
-    }
-}
-
-/* Utility function for the following routine, to see how complex a nesting of
-   COND_EXPRs can be.  EXPR is the expression and LIMIT is a count beyond which
-   we don't care (to avoid spending too much time on complex expressions.).  */
-
-static int
-count_cond (tree expr, int lim)
-{
-  int ctrue, cfalse;
-
-  if (TREE_CODE (expr) != COND_EXPR)
-    return 0;
-  else if (lim <= 0)
-    return 0;
-
-  ctrue = count_cond (TREE_OPERAND (expr, 1), lim - 1);
-  cfalse = count_cond (TREE_OPERAND (expr, 2), lim - 1 - ctrue);
-  return MIN (lim, 1 + ctrue + cfalse);
+    return build_int_cst (type, value);
 }
 
 /* Transform `a + (b ? x : y)' into `b ? (a + x) : (a + y)'.
@@ -4816,53 +5337,13 @@ fold_binary_op_with_conditional_arg (enum tree_code code, tree type,
   tree test, true_value, false_value;
   tree lhs = NULL_TREE;
   tree rhs = NULL_TREE;
-  /* In the end, we'll produce a COND_EXPR.  Both arms of the
-     conditional expression will be binary operations.  The left-hand
-     side of the expression to be executed if the condition is true
-     will be pointed to by TRUE_LHS.  Similarly, the right-hand side
-     of the expression to be executed if the condition is true will be
-     pointed to by TRUE_RHS.  FALSE_LHS and FALSE_RHS are analogous --
-     but apply to the expression to be executed if the conditional is
-     false.  */
-  tree *true_lhs;
-  tree *true_rhs;
-  tree *false_lhs;
-  tree *false_rhs;
-  /* These are the codes to use for the left-hand side and right-hand
-     side of the COND_EXPR.  Normally, they are the same as CODE.  */
-  enum tree_code lhs_code = code;
-  enum tree_code rhs_code = code;
-  /* And these are the types of the expressions.  */
-  tree lhs_type = type;
-  tree rhs_type = type;
-  int save = 0;
-
-  if (TREE_CODE (cond) != COND_EXPR
-      && TREE_CODE_CLASS (code) == '<')
-    return NULL_TREE;
-
-  if (TREE_CODE (arg) == COND_EXPR
-      && count_cond (cond, 25) + count_cond (arg, 25) > 25)
-    return NULL_TREE;
 
-  if (TREE_SIDE_EFFECTS (arg)
-      && (lang_hooks.decls.global_bindings_p () != 0
-         || CONTAINS_PLACEHOLDER_P (arg)))
+  /* This transformation is only worthwhile if we don't have to wrap
+     arg in a SAVE_EXPR, and the operation can be simplified on atleast
+     one of the branches once its pushed inside the COND_EXPR.  */
+  if (!TREE_CONSTANT (arg))
     return NULL_TREE;
 
-  if (cond_first_p)
-    {
-      true_rhs = false_rhs = &arg;
-      true_lhs = &true_value;
-      false_lhs = &false_value;
-    }
-  else
-    {
-      true_lhs = false_lhs = &arg;
-      true_rhs = &true_value;
-      false_rhs = &false_value;
-    }
-
   if (TREE_CODE (cond) == COND_EXPR)
     {
       test = TREE_OPERAND (cond, 0);
@@ -4870,91 +5351,29 @@ fold_binary_op_with_conditional_arg (enum tree_code code, tree type,
       false_value = TREE_OPERAND (cond, 2);
       /* If this operand throws an expression, then it does not make
         sense to try to perform a logical or arithmetic operation
-        involving it.  Instead of building `a + throw 3' for example,
-        we simply build `a, throw 3'.  */
+        involving it.  */
       if (VOID_TYPE_P (TREE_TYPE (true_value)))
-       {
-         if (! cond_first_p)
-           {
-             lhs_code = COMPOUND_EXPR;
-             lhs_type = void_type_node;
-           }
-         else
-           lhs = true_value;
-       }
+       lhs = true_value;
       if (VOID_TYPE_P (TREE_TYPE (false_value)))
-       {
-         if (! cond_first_p)
-           {
-             rhs_code = COMPOUND_EXPR;
-             rhs_type = void_type_node;
-           }
-         else
-           rhs = false_value;
-       }
+       rhs = false_value;
     }
   else
     {
       tree testtype = TREE_TYPE (cond);
       test = cond;
-      true_value = fold_convert (testtype, integer_one_node);
-      false_value = fold_convert (testtype, integer_zero_node);
-    }
-
-  /* If ARG is complex we want to make sure we only evaluate it once.  Though
-     this is only required if it is volatile, it might be more efficient even
-     if it is not.  However, if we succeed in folding one part to a constant,
-     we do not need to make this SAVE_EXPR.  Since we do this optimization
-     primarily to see if we do end up with constant and this SAVE_EXPR
-     interferes with later optimizations, suppressing it when we can is
-     important.
-
-     If we are not in a function, we can't make a SAVE_EXPR, so don't try to
-     do so.  Don't try to see if the result is a constant if an arm is a
-     COND_EXPR since we get exponential behavior in that case.  */
-
-  if (saved_expr_p (arg))
-    save = 1;
-  else if (lhs == 0 && rhs == 0
-          && !TREE_CONSTANT (arg)
-          && lang_hooks.decls.global_bindings_p () == 0
-          && ((TREE_CODE (arg) != VAR_DECL && TREE_CODE (arg) != PARM_DECL)
-              || TREE_SIDE_EFFECTS (arg)))
-    {
-      if (TREE_CODE (true_value) != COND_EXPR)
-       lhs = fold (build (lhs_code, lhs_type, *true_lhs, *true_rhs));
-
-      if (TREE_CODE (false_value) != COND_EXPR)
-       rhs = fold (build (rhs_code, rhs_type, *false_lhs, *false_rhs));
-
-      if ((lhs == 0 || ! TREE_CONSTANT (lhs))
-         && (rhs == 0 || !TREE_CONSTANT (rhs)))
-       {
-         arg = save_expr (arg);
-         lhs = rhs = 0;
-         save = saved_expr_p (arg);
-       }
+      true_value = constant_boolean_node (true, testtype);
+      false_value = constant_boolean_node (false, testtype);
     }
 
   if (lhs == 0)
-    lhs = fold (build (lhs_code, lhs_type, *true_lhs, *true_rhs));
+    lhs = fold (cond_first_p ? build2 (code, type, true_value, arg)
+                            : build2 (code, type, arg, true_value));
   if (rhs == 0)
-    rhs = fold (build (rhs_code, rhs_type, *false_lhs, *false_rhs));
-
-  test = fold (build (COND_EXPR, type, test, lhs, rhs));
-
-  /* If ARG involves a SAVE_EXPR, we need to ensure it is evaluated
-     ahead of the COND_EXPR we made.  Otherwise we would have it only
-     evaluated in one branch, with the other branch using the result
-     but missing the evaluation code.  Beware that the save_expr call
-     above might not return a SAVE_EXPR, so testing the TREE_CODE
-     of ARG is not enough to decide here. Â */
-  if (save)
-    return build (COMPOUND_EXPR, type,
-                 fold_convert (void_type_node, arg),
-                 strip_compound_expr (test, arg));
-  else
-    return fold_convert (type, test);
+    rhs = fold (cond_first_p ? build2 (code, type, false_value, arg)
+                            : build2 (code, type, arg, false_value));
+
+  test = fold (build3 (COND_EXPR, type, test, lhs, rhs));
+  return fold_convert (type, test);
 }
 
 \f
@@ -5023,20 +5442,16 @@ fold_mathfn_compare (enum built_in_function fcode, enum tree_code code,
        {
          /* sqrt(x) < y is always false, if y is negative.  */
          if (code == EQ_EXPR || code == LT_EXPR || code == LE_EXPR)
-           return omit_one_operand (type,
-                                    fold_convert (type, integer_zero_node),
-                                    arg);
+           return omit_one_operand (type, integer_zero_node, arg);
 
          /* sqrt(x) > y is always true, if y is negative and we
             don't care about NaNs, i.e. negative values of x.  */
          if (code == NE_EXPR || !HONOR_NANS (mode))
-           return omit_one_operand (type,
-                                    fold_convert (type, integer_one_node),
-                                    arg);
+           return omit_one_operand (type, integer_one_node, arg);
 
          /* sqrt(x) > y is the same as x >= 0, if y is negative.  */
-         return fold (build (GE_EXPR, type, arg,
-                             build_real (TREE_TYPE (arg), dconst0)));
+         return fold (build2 (GE_EXPR, type, arg,
+                              build_real (TREE_TYPE (arg), dconst0)));
        }
       else if (code == GT_EXPR || code == GE_EXPR)
        {
@@ -5049,19 +5464,17 @@ fold_mathfn_compare (enum built_in_function fcode, enum tree_code code,
            {
              /* sqrt(x) > y is x == +Inf, when y is very large.  */
              if (HONOR_INFINITIES (mode))
-               return fold (build (EQ_EXPR, type, arg,
-                                   build_real (TREE_TYPE (arg), c2)));
+               return fold (build2 (EQ_EXPR, type, arg,
+                                    build_real (TREE_TYPE (arg), c2)));
 
              /* sqrt(x) > y is always false, when y is very large
                 and we don't care about infinities.  */
-             return omit_one_operand (type,
-                                      fold_convert (type, integer_zero_node),
-                                      arg);
+             return omit_one_operand (type, integer_zero_node, arg);
            }
 
          /* sqrt(x) > c is the same as x > c*c.  */
-         return fold (build (code, type, arg,
-                             build_real (TREE_TYPE (arg), c2)));
+         return fold (build2 (code, type, arg,
+                              build_real (TREE_TYPE (arg), c2)));
        }
       else if (code == LT_EXPR || code == LE_EXPR)
        {
@@ -5075,21 +5488,19 @@ fold_mathfn_compare (enum built_in_function fcode, enum tree_code code,
              /* sqrt(x) < y is always true, when y is a very large
                 value and we don't care about NaNs or Infinities.  */
              if (! HONOR_NANS (mode) && ! HONOR_INFINITIES (mode))
-               return omit_one_operand (type,
-                                        fold_convert (type, integer_one_node),
-                                        arg);
+               return omit_one_operand (type, integer_one_node, arg);
 
              /* sqrt(x) < y is x != +Inf when y is very large and we
                 don't care about NaNs.  */
              if (! HONOR_NANS (mode))
-               return fold (build (NE_EXPR, type, arg,
-                                   build_real (TREE_TYPE (arg), c2)));
+               return fold (build2 (NE_EXPR, type, arg,
+                                    build_real (TREE_TYPE (arg), c2)));
 
              /* sqrt(x) < y is x >= 0 when y is very large and we
                 don't care about Infinities.  */
              if (! HONOR_INFINITIES (mode))
-               return fold (build (GE_EXPR, type, arg,
-                                   build_real (TREE_TYPE (arg), dconst0)));
+               return fold (build2 (GE_EXPR, type, arg,
+                                    build_real (TREE_TYPE (arg), dconst0)));
 
              /* sqrt(x) < y is x >= 0 && x != +Inf, when y is large.  */
              if (lang_hooks.decls.global_bindings_p () != 0
@@ -5097,32 +5508,32 @@ fold_mathfn_compare (enum built_in_function fcode, enum tree_code code,
                return NULL_TREE;
 
              arg = save_expr (arg);
-             return fold (build (TRUTH_ANDIF_EXPR, type,
-                                 fold (build (GE_EXPR, type, arg,
-                                              build_real (TREE_TYPE (arg),
-                                                          dconst0))),
-                                 fold (build (NE_EXPR, type, arg,
-                                              build_real (TREE_TYPE (arg),
-                                                          c2)))));
+             return fold (build2 (TRUTH_ANDIF_EXPR, type,
+                                  fold (build2 (GE_EXPR, type, arg,
+                                                build_real (TREE_TYPE (arg),
+                                                            dconst0))),
+                                  fold (build2 (NE_EXPR, type, arg,
+                                                build_real (TREE_TYPE (arg),
+                                                            c2)))));
            }
 
          /* sqrt(x) < c is the same as x < c*c, if we ignore NaNs.  */
          if (! HONOR_NANS (mode))
-           return fold (build (code, type, arg,
-                               build_real (TREE_TYPE (arg), c2)));
+           return fold (build2 (code, type, arg,
+                                build_real (TREE_TYPE (arg), c2)));
 
          /* sqrt(x) < c is the same as x >= 0 && x < c*c.  */
          if (lang_hooks.decls.global_bindings_p () == 0
              && ! CONTAINS_PLACEHOLDER_P (arg))
            {
              arg = save_expr (arg);
-             return fold (build (TRUTH_ANDIF_EXPR, type,
-                                 fold (build (GE_EXPR, type, arg,
-                                              build_real (TREE_TYPE (arg),
-                                                          dconst0))),
-                                 fold (build (code, type, arg,
-                                              build_real (TREE_TYPE (arg),
-                                                          c2)))));
+             return fold (build2 (TRUTH_ANDIF_EXPR, type,
+                                  fold (build2 (GE_EXPR, type, arg,
+                                                build_real (TREE_TYPE (arg),
+                                                            dconst0))),
+                                  fold (build2 (code, type, arg,
+                                                build_real (TREE_TYPE (arg),
+                                                            c2)))));
            }
        }
     }
@@ -5161,23 +5572,19 @@ fold_inf_compare (enum tree_code code, tree type, tree arg0, tree arg1)
       /* x > +Inf is always false, if with ignore sNANs.  */
       if (HONOR_SNANS (mode))
         return NULL_TREE;
-      return omit_one_operand (type,
-                              fold_convert (type, integer_zero_node),
-                              arg0);
+      return omit_one_operand (type, integer_zero_node, arg0);
 
     case LE_EXPR:
       /* x <= +Inf is always true, if we don't case about NaNs.  */
       if (! HONOR_NANS (mode))
-       return omit_one_operand (type,
-                                fold_convert (type, integer_one_node),
-                                arg0);
+       return omit_one_operand (type, integer_one_node, arg0);
 
       /* x <= +Inf is the same as x == x, i.e. isfinite(x).  */
       if (lang_hooks.decls.global_bindings_p () == 0
          && ! CONTAINS_PLACEHOLDER_P (arg0))
        {
          arg0 = save_expr (arg0);
-         return fold (build (EQ_EXPR, type, arg0, arg0));
+         return fold (build2 (EQ_EXPR, type, arg0, arg0));
        }
       break;
 
@@ -5185,23 +5592,29 @@ fold_inf_compare (enum tree_code code, tree type, tree arg0, tree arg1)
     case GE_EXPR:
       /* x == +Inf and x >= +Inf are always equal to x > DBL_MAX.  */
       real_maxval (&max, neg, mode);
-      return fold (build (neg ? LT_EXPR : GT_EXPR, type,
-                         arg0, build_real (TREE_TYPE (arg0), max)));
+      return fold (build2 (neg ? LT_EXPR : GT_EXPR, type,
+                          arg0, build_real (TREE_TYPE (arg0), max)));
 
     case LT_EXPR:
       /* x < +Inf is always equal to x <= DBL_MAX.  */
       real_maxval (&max, neg, mode);
-      return fold (build (neg ? GE_EXPR : LE_EXPR, type,
-                         arg0, build_real (TREE_TYPE (arg0), max)));
+      return fold (build2 (neg ? GE_EXPR : LE_EXPR, type,
+                          arg0, build_real (TREE_TYPE (arg0), max)));
 
     case NE_EXPR:
       /* x != +Inf is always equal to !(x > DBL_MAX).  */
       real_maxval (&max, neg, mode);
       if (! HONOR_NANS (mode))
-       return fold (build (neg ? GE_EXPR : LE_EXPR, type,
-                           arg0, build_real (TREE_TYPE (arg0), max)));
-      temp = fold (build (neg ? LT_EXPR : GT_EXPR, type,
-                         arg0, build_real (TREE_TYPE (arg0), max)));
+       return fold (build2 (neg ? GE_EXPR : LE_EXPR, type,
+                            arg0, build_real (TREE_TYPE (arg0), max)));
+
+      /* The transformation below creates non-gimple code and thus is
+        not appropriate if we are in gimple form.  */
+      if (in_gimple_form)
+       return NULL_TREE;
+
+      temp = fold (build2 (neg ? LT_EXPR : GT_EXPR, type,
+                          arg0, build_real (TREE_TYPE (arg0), max)));
       return fold (build1 (TRUTH_NOT_EXPR, type, temp));
 
     default:
@@ -5211,11 +5624,153 @@ fold_inf_compare (enum tree_code code, tree type, tree arg0, tree arg1)
   return NULL_TREE;
 }
 
+/* Subroutine of fold() that optimizes comparisons of a division by
+   a nonzero integer constant against an integer constant, i.e.
+   X/C1 op C2.
+
+   CODE is the comparison operator: EQ_EXPR, NE_EXPR, GT_EXPR, LT_EXPR,
+   GE_EXPR or LE_EXPR.  TYPE is the type of the result and ARG0 and ARG1
+   are the operands of the comparison.  ARG1 must be a TREE_REAL_CST.
+
+   The function returns the constant folded tree if a simplification
+   can be made, and NULL_TREE otherwise.  */
+
+static tree
+fold_div_compare (enum tree_code code, tree type, tree arg0, tree arg1)
+{
+  tree prod, tmp, hi, lo;
+  tree arg00 = TREE_OPERAND (arg0, 0);
+  tree arg01 = TREE_OPERAND (arg0, 1);
+  unsigned HOST_WIDE_INT lpart;
+  HOST_WIDE_INT hpart;
+  int overflow;
+
+  /* We have to do this the hard way to detect unsigned overflow.
+     prod = int_const_binop (MULT_EXPR, arg01, arg1, 0);  */
+  overflow = mul_double (TREE_INT_CST_LOW (arg01),
+                        TREE_INT_CST_HIGH (arg01),
+                        TREE_INT_CST_LOW (arg1),
+                        TREE_INT_CST_HIGH (arg1), &lpart, &hpart);
+  prod = build_int_cst_wide (TREE_TYPE (arg00), lpart, hpart);
+  prod = force_fit_type (prod, -1, overflow, false);
+
+  if (TYPE_UNSIGNED (TREE_TYPE (arg0)))
+    {
+      tmp = int_const_binop (MINUS_EXPR, arg01, integer_one_node, 0);
+      lo = prod;
+
+      /* Likewise hi = int_const_binop (PLUS_EXPR, prod, tmp, 0).  */
+      overflow = add_double (TREE_INT_CST_LOW (prod),
+                            TREE_INT_CST_HIGH (prod),
+                            TREE_INT_CST_LOW (tmp),
+                            TREE_INT_CST_HIGH (tmp),
+                            &lpart, &hpart);
+      hi = build_int_cst_wide (TREE_TYPE (arg00), lpart, hpart);
+      hi = force_fit_type (hi, -1, overflow | TREE_OVERFLOW (prod),
+                          TREE_CONSTANT_OVERFLOW (prod));
+    }
+  else if (tree_int_cst_sgn (arg01) >= 0)
+    {
+      tmp = int_const_binop (MINUS_EXPR, arg01, integer_one_node, 0);
+      switch (tree_int_cst_sgn (arg1))
+       {
+       case -1:
+         lo = int_const_binop (MINUS_EXPR, prod, tmp, 0);
+         hi = prod;
+         break;
+
+       case  0:
+         lo = fold_negate_const (tmp, TREE_TYPE (arg0));
+         hi = tmp;
+         break;
+
+       case  1:
+          hi = int_const_binop (PLUS_EXPR, prod, tmp, 0);
+         lo = prod;
+         break;
+
+       default:
+         gcc_unreachable ();
+       }
+    }
+  else
+    {
+      tmp = int_const_binop (PLUS_EXPR, arg01, integer_one_node, 0);
+      switch (tree_int_cst_sgn (arg1))
+       {
+       case -1:
+         hi = int_const_binop (MINUS_EXPR, prod, tmp, 0);
+         lo = prod;
+         break;
+
+       case  0:
+         hi = fold_negate_const (tmp, TREE_TYPE (arg0));
+         lo = tmp;
+         break;
+
+       case  1:
+          lo = int_const_binop (PLUS_EXPR, prod, tmp, 0);
+         hi = prod;
+         break;
+
+       default:
+         gcc_unreachable ();
+       }
+    }
+
+  switch (code)
+    {
+    case EQ_EXPR:
+      if (TREE_OVERFLOW (lo) && TREE_OVERFLOW (hi))
+       return omit_one_operand (type, integer_zero_node, arg00);
+      if (TREE_OVERFLOW (hi))
+       return fold (build2 (GE_EXPR, type, arg00, lo));
+      if (TREE_OVERFLOW (lo))
+       return fold (build2 (LE_EXPR, type, arg00, hi));
+      return build_range_check (type, arg00, 1, lo, hi);
+
+    case NE_EXPR:
+      if (TREE_OVERFLOW (lo) && TREE_OVERFLOW (hi))
+       return omit_one_operand (type, integer_one_node, arg00);
+      if (TREE_OVERFLOW (hi))
+       return fold (build2 (LT_EXPR, type, arg00, lo));
+      if (TREE_OVERFLOW (lo))
+       return fold (build2 (GT_EXPR, type, arg00, hi));
+      return build_range_check (type, arg00, 0, lo, hi);
+
+    case LT_EXPR:
+      if (TREE_OVERFLOW (lo))
+       return omit_one_operand (type, integer_zero_node, arg00);
+      return fold (build2 (LT_EXPR, type, arg00, lo));
+
+    case LE_EXPR:
+      if (TREE_OVERFLOW (hi))
+       return omit_one_operand (type, integer_one_node, arg00);
+      return fold (build2 (LE_EXPR, type, arg00, hi));
+
+    case GT_EXPR:
+      if (TREE_OVERFLOW (hi))
+       return omit_one_operand (type, integer_zero_node, arg00);
+      return fold (build2 (GT_EXPR, type, arg00, hi));
+
+    case GE_EXPR:
+      if (TREE_OVERFLOW (lo))
+       return omit_one_operand (type, integer_one_node, arg00);
+      return fold (build2 (GE_EXPR, type, arg00, lo));
+
+    default:
+      break;
+    }
+
+  return NULL_TREE;
+}
+
+
 /* If CODE with arguments ARG0 and ARG1 represents a single bit
    equality/inequality test, then return a simplified form of
    the test using shifts and logical operations.  Otherwise return
    NULL.  TYPE is the desired result type.  */
+
 tree
 fold_single_bit_test (enum tree_code code, tree arg0, tree arg1,
                      tree result_type)
@@ -5232,7 +5787,7 @@ fold_single_bit_test (enum tree_code code, tree arg0, tree arg1,
       arg1 = TREE_OPERAND (arg0, 1);
       arg0 = TREE_OPERAND (arg0, 0);
 
-      /* This requires us to invert the code.  */ 
+      /* This requires us to invert the code.  */
       code = (code == EQ_EXPR ? NE_EXPR : EQ_EXPR);
     }
 
@@ -5248,23 +5803,23 @@ fold_single_bit_test (enum tree_code code, tree arg0, tree arg1,
       int ops_unsigned;
       tree signed_type, unsigned_type, intermediate_type;
       tree arg00;
-  
+
       /* If we have (A & C) != 0 where C is the sign bit of A, convert
         this into A < 0.  Similarly for (A & C) == 0 into A >= 0.  */
       arg00 = sign_bit_p (TREE_OPERAND (arg0, 0), TREE_OPERAND (arg0, 1));
-      if (arg00 != NULL_TREE)
+      if (arg00 != NULL_TREE
+         /* This is only a win if casting to a signed type is cheap,
+            i.e. when arg00's type is not a partial mode.  */
+         && TYPE_PRECISION (TREE_TYPE (arg00))
+            == GET_MODE_BITSIZE (TYPE_MODE (TREE_TYPE (arg00))))
        {
          tree stype = lang_hooks.types.signed_type (TREE_TYPE (arg00));
-         return fold (build (code == EQ_EXPR ? GE_EXPR : LT_EXPR, result_type,
-                             fold_convert (stype, arg00),
-                             fold_convert (stype, integer_zero_node)));
+         return fold (build2 (code == EQ_EXPR ? GE_EXPR : LT_EXPR,
+                              result_type, fold_convert (stype, arg00),
+                              fold_convert (stype, integer_zero_node)));
        }
 
-      /* At this point, we know that arg0 is not testing the sign bit.  */
-      if (TYPE_PRECISION (type) - 1 == bitnum)
-       abort ();
-      
-      /* Otherwise we have (A & C) != 0 where C is a single bit, 
+      /* Otherwise we have (A & C) != 0 where C is a single bit,
         convert that into ((A >> C2) & 1).  Where C2 = log2(C).
         Similarly for (A & C) == 0.  */
 
@@ -5296,16 +5851,16 @@ fold_single_bit_test (enum tree_code code, tree arg0, tree arg1,
       inner = fold_convert (intermediate_type, inner);
 
       if (bitnum != 0)
-       inner = build (RSHIFT_EXPR, intermediate_type,
-                      inner, size_int (bitnum));
+       inner = build2 (RSHIFT_EXPR, intermediate_type,
+                       inner, size_int (bitnum));
 
       if (code == EQ_EXPR)
-       inner = build (BIT_XOR_EXPR, intermediate_type,
-                      inner, integer_one_node);
+       inner = fold (build2 (BIT_XOR_EXPR, intermediate_type,
+                             inner, integer_one_node));
 
       /* Put the AND last so it can combine with more things.  */
-      inner = build (BIT_AND_EXPR, intermediate_type,
-                    inner, integer_one_node);
+      inner = build2 (BIT_AND_EXPR, intermediate_type,
+                     inner, integer_one_node);
 
       /* Make sure to return the proper type.  */
       inner = fold_convert (result_type, inner);
@@ -5334,7 +5889,7 @@ reorder_operands_p (tree arg0, tree arg1)
    isn't.  If REORDER is true, only recommend swapping if we can
    evaluate the operands in reverse order.  */
 
-static bool
+bool
 tree_swap_operands_p (tree arg0, tree arg1, bool reorder)
 {
   STRIP_SIGN_NOPS (arg0);
@@ -5359,7 +5914,7 @@ tree_swap_operands_p (tree arg0, tree arg1, bool reorder)
     return 0;
   if (TREE_CONSTANT (arg0))
     return 1;
-    
+
   if (optimize_size)
     return 0;
 
@@ -5372,6 +5927,24 @@ tree_swap_operands_p (tree arg0, tree arg1, bool reorder)
   if (DECL_P (arg0))
     return 1;
 
+  if (reorder && flag_evaluation_order
+      && (TREE_SIDE_EFFECTS (arg0) || TREE_SIDE_EFFECTS (arg1)))
+    return 0;
+
+  if (DECL_P (arg1))
+    return 0;
+  if (DECL_P (arg0))
+    return 1;
+
+  /* It is preferable to swap two SSA_NAME to ensure a canonical form
+     for commutative and comparison operators.  Ensuring a canonical
+     form allows the optimizers to find additional redundancies without
+     having to explicitly check for both orderings.  */
+  if (TREE_CODE (arg0) == SSA_NAME
+      && TREE_CODE (arg1) == SSA_NAME
+      && SSA_NAME_VERSION (arg0) > SSA_NAME_VERSION (arg1))
+    return 1;
+
   return 0;
 }
 
@@ -5398,15 +5971,11 @@ fold (tree expr)
   tree arg0 = NULL_TREE, arg1 = NULL_TREE;
   enum tree_code code = TREE_CODE (t);
   int kind = TREE_CODE_CLASS (code);
+
   /* WINS will be nonzero when the switch is done
      if all operands are constant.  */
   int wins = 1;
 
-  /* Don't try to process an RTL_EXPR since its operands aren't trees.
-     Likewise for a SAVE_EXPR that's already been evaluated.  */
-  if (code == RTL_EXPR || (code == SAVE_EXPR && SAVE_EXPR_RTL (t) != 0))
-    return t;
-
   /* Return right away if a constant.  */
   if (kind == 'c')
     return t;
@@ -5485,8 +6054,8 @@ fold (tree expr)
      to ARG1 to reduce the number of tests below.  */
   if (commutative_tree_code (code)
       && tree_swap_operands_p (arg0, arg1, true))
-    return fold (build (code, type, TREE_OPERAND (t, 1),
-                       TREE_OPERAND (t, 0)));
+    return fold (build2 (code, type, TREE_OPERAND (t, 1),
+                        TREE_OPERAND (t, 0)));
 
   /* Now WINS is set as described above,
      ARG0 is the first operand of EXPR,
@@ -5517,10 +6086,11 @@ fold (tree expr)
                  || (TREE_CODE (arg0) == BIT_AND_EXPR
                      && integer_onep (TREE_OPERAND (arg0, 1)))))))
     {
-      tem = fold (build (code == BIT_AND_EXPR ? TRUTH_AND_EXPR
-                        : code == BIT_IOR_EXPR ? TRUTH_OR_EXPR
-                        : TRUTH_XOR_EXPR,
-                        type, arg0, arg1));
+      tem = fold (build2 (code == BIT_AND_EXPR ? TRUTH_AND_EXPR
+                         : code == BIT_IOR_EXPR ? TRUTH_OR_EXPR
+                         : TRUTH_XOR_EXPR,
+                         type, fold_convert (boolean_type_node, arg0),
+                         fold_convert (boolean_type_node, arg1)));
 
       if (code == EQ_EXPR)
        tem = invert_truthvalue (tem);
@@ -5531,8 +6101,8 @@ fold (tree expr)
   if (TREE_CODE_CLASS (code) == '1')
     {
       if (TREE_CODE (arg0) == COMPOUND_EXPR)
-       return build (COMPOUND_EXPR, type, TREE_OPERAND (arg0, 0),
-                     fold (build1 (code, type, TREE_OPERAND (arg0, 1))));
+       return build2 (COMPOUND_EXPR, type, TREE_OPERAND (arg0, 0),
+                      fold (build1 (code, type, TREE_OPERAND (arg0, 1))));
       else if (TREE_CODE (arg0) == COND_EXPR)
        {
          tree arg01 = TREE_OPERAND (arg0, 1);
@@ -5541,8 +6111,8 @@ fold (tree expr)
            arg01 = fold (build1 (code, type, arg01));
          if (! VOID_TYPE_P (TREE_TYPE (arg02)))
            arg02 = fold (build1 (code, type, arg02));
-         tem = fold (build (COND_EXPR, type, TREE_OPERAND (arg0, 0),
-                            arg01, arg02));
+         tem = fold (build3 (COND_EXPR, type, TREE_OPERAND (arg0, 0),
+                             arg01, arg02));
 
          /* If this was a conversion, and all we did was to move into
             inside the COND_EXPR, bring it back out.  But leave it if
@@ -5567,38 +6137,50 @@ fold (tree expr)
                        (TREE_TYPE (TREE_OPERAND (TREE_OPERAND (tem, 1), 0))))
                    && TYPE_PRECISION (TREE_TYPE (tem)) <= BITS_PER_WORD))
            tem = build1 (code, type,
-                         build (COND_EXPR,
-                                TREE_TYPE (TREE_OPERAND
-                                           (TREE_OPERAND (tem, 1), 0)),
-                                TREE_OPERAND (tem, 0),
-                                TREE_OPERAND (TREE_OPERAND (tem, 1), 0),
-                                TREE_OPERAND (TREE_OPERAND (tem, 2), 0)));
+                         build3 (COND_EXPR,
+                                 TREE_TYPE (TREE_OPERAND
+                                            (TREE_OPERAND (tem, 1), 0)),
+                                 TREE_OPERAND (tem, 0),
+                                 TREE_OPERAND (TREE_OPERAND (tem, 1), 0),
+                                 TREE_OPERAND (TREE_OPERAND (tem, 2), 0)));
          return tem;
        }
       else if (TREE_CODE_CLASS (TREE_CODE (arg0)) == '<')
-       return fold (build (COND_EXPR, type, arg0,
-                           fold (build1 (code, type, integer_one_node)),
-                           fold (build1 (code, type, integer_zero_node))));
+       {
+         if (TREE_CODE (type) == BOOLEAN_TYPE)
+           {
+             arg0 = copy_node (arg0);
+             TREE_TYPE (arg0) = type;
+             return arg0;
+           }
+         else if (TREE_CODE (type) != INTEGER_TYPE)
+           return fold (build3 (COND_EXPR, type, arg0,
+                                fold (build1 (code, type,
+                                              integer_one_node)),
+                                fold (build1 (code, type,
+                                              integer_zero_node))));
+       }
    }
   else if (TREE_CODE_CLASS (code) == '<'
           && TREE_CODE (arg0) == COMPOUND_EXPR)
-    return build (COMPOUND_EXPR, type, TREE_OPERAND (arg0, 0),
-                 fold (build (code, type, TREE_OPERAND (arg0, 1), arg1)));
+    return build2 (COMPOUND_EXPR, type, TREE_OPERAND (arg0, 0),
+                  fold (build2 (code, type, TREE_OPERAND (arg0, 1), arg1)));
   else if (TREE_CODE_CLASS (code) == '<'
           && TREE_CODE (arg1) == COMPOUND_EXPR)
-    return build (COMPOUND_EXPR, type, TREE_OPERAND (arg1, 0),
-                 fold (build (code, type, arg0, TREE_OPERAND (arg1, 1))));
+    return build2 (COMPOUND_EXPR, type, TREE_OPERAND (arg1, 0),
+                  fold (build2 (code, type, arg0, TREE_OPERAND (arg1, 1))));
   else if (TREE_CODE_CLASS (code) == '2'
           || TREE_CODE_CLASS (code) == '<')
     {
       if (TREE_CODE (arg0) == COMPOUND_EXPR)
-       return build (COMPOUND_EXPR, type, TREE_OPERAND (arg0, 0),
-                     fold (build (code, type, TREE_OPERAND (arg0, 1), arg1)));
+       return build2 (COMPOUND_EXPR, type, TREE_OPERAND (arg0, 0),
+                      fold (build2 (code, type, TREE_OPERAND (arg0, 1),
+                                    arg1)));
       if (TREE_CODE (arg1) == COMPOUND_EXPR
          && reorder_operands_p (arg0, TREE_OPERAND (arg1, 0)))
-       return build (COMPOUND_EXPR, type, TREE_OPERAND (arg1, 0),
-                     fold (build (code, type,
-                                  arg0, TREE_OPERAND (arg1, 1))));
+       return build2 (COMPOUND_EXPR, type, TREE_OPERAND (arg1, 0),
+                      fold (build2 (code, type,
+                                    arg0, TREE_OPERAND (arg1, 1))));
 
       if (TREE_CODE (arg0) == COND_EXPR
          || TREE_CODE_CLASS (TREE_CODE (arg0)) == '<')
@@ -5630,6 +6212,7 @@ fold (tree expr)
     case FIX_TRUNC_EXPR:
     case FIX_CEIL_EXPR:
     case FIX_FLOOR_EXPR:
+    case FIX_ROUND_EXPR:
       if (TREE_TYPE (TREE_OPERAND (t, 0)) == type)
        return TREE_OPERAND (t, 0);
 
@@ -5727,8 +6310,8 @@ fold (tree expr)
          tem = copy_node (t);
          TREE_OPERAND (tem, 0) = TREE_OPERAND (prev, 1);
          /* First do the assignment, then return converted constant.  */
-         tem = build (COMPOUND_EXPR, TREE_TYPE (tem), prev, fold (tem));
-         TREE_NO_UNUSED_WARNING (tem) = 1;
+         tem = build2 (COMPOUND_EXPR, TREE_TYPE (tem), prev, fold (tem));
+         TREE_NO_WARNING (tem) = 1;
          TREE_USED (tem) = 1;
          return tem;
        }
@@ -5771,9 +6354,29 @@ fold (tree expr)
 #endif
            }
          if (change)
-           return fold (build (BIT_AND_EXPR, type,
-                               fold_convert (type, and0),
-                               fold_convert (type, and1)));
+           return fold (build2 (BIT_AND_EXPR, type,
+                                fold_convert (type, and0),
+                                fold_convert (type, and1)));
+       }
+
+      /* Convert (T1)((T2)X op Y) into (T1)X op Y, for pointer types T1 and
+        T2 being pointers to types of the same size.  */
+      if (POINTER_TYPE_P (TREE_TYPE (t))
+         && TREE_CODE_CLASS (TREE_CODE (arg0)) == '2'
+         && TREE_CODE (TREE_OPERAND (arg0, 0)) == NOP_EXPR
+         && POINTER_TYPE_P (TREE_TYPE (TREE_OPERAND (arg0, 0))))
+       {
+         tree arg00 = TREE_OPERAND (arg0, 0);
+         tree t0 = TREE_TYPE (t);
+         tree t1 = TREE_TYPE (arg00);
+         tree tt0 = TREE_TYPE (t0);
+         tree tt1 = TREE_TYPE (t1);
+         tree s0 = TYPE_SIZE (tt0);
+         tree s1 = TYPE_SIZE (tt1);
+
+         if (s0 && s1 && operand_equal_p (s0, s1, OEP_ONLY_CONST))
+           return build2 (TREE_CODE (arg0), t0, fold_convert (t0, arg00),
+                          TREE_OPERAND (arg0, 1));
        }
 
       tem = fold_convert_const (code, type, arg0);
@@ -5800,6 +6403,7 @@ fold (tree expr)
        {
          tem = copy_node (t);
          TREE_CONSTANT (tem) = wins;
+         TREE_INVARIANT (tem) = wins;
          return tem;
        }
       return t;
@@ -5810,8 +6414,7 @@ fold (tree expr)
       return t;
 
     case ABS_EXPR:
-      if (wins
-         && (TREE_CODE (arg0) == INTEGER_CST || TREE_CODE (arg0) == REAL_CST))
+      if (TREE_CODE (arg0) == INTEGER_CST || TREE_CODE (arg0) == REAL_CST)
        return fold_abs_const (arg0, type);
       else if (TREE_CODE (arg0) == NEGATE_EXPR)
        return fold (build1 (ABS_EXPR, type, TREE_OPERAND (arg0, 0)));
@@ -5833,33 +6436,25 @@ fold (tree expr)
       if (TREE_CODE (TREE_TYPE (arg0)) != COMPLEX_TYPE)
        return fold_convert (type, arg0);
       else if (TREE_CODE (arg0) == COMPLEX_EXPR)
-       return build (COMPLEX_EXPR, type,
-                     TREE_OPERAND (arg0, 0),
-                     negate_expr (TREE_OPERAND (arg0, 1)));
+       return build2 (COMPLEX_EXPR, type,
+                      TREE_OPERAND (arg0, 0),
+                      negate_expr (TREE_OPERAND (arg0, 1)));
       else if (TREE_CODE (arg0) == COMPLEX_CST)
        return build_complex (type, TREE_REALPART (arg0),
                              negate_expr (TREE_IMAGPART (arg0)));
       else if (TREE_CODE (arg0) == PLUS_EXPR || TREE_CODE (arg0) == MINUS_EXPR)
-       return fold (build (TREE_CODE (arg0), type,
-                           fold (build1 (CONJ_EXPR, type,
-                                         TREE_OPERAND (arg0, 0))),
-                           fold (build1 (CONJ_EXPR,
-                                         type, TREE_OPERAND (arg0, 1)))));
+       return fold (build2 (TREE_CODE (arg0), type,
+                            fold (build1 (CONJ_EXPR, type,
+                                          TREE_OPERAND (arg0, 0))),
+                            fold (build1 (CONJ_EXPR, type,
+                                          TREE_OPERAND (arg0, 1)))));
       else if (TREE_CODE (arg0) == CONJ_EXPR)
        return TREE_OPERAND (arg0, 0);
       return t;
 
     case BIT_NOT_EXPR:
-      if (wins)
-       {
-         tem = build_int_2 (~ TREE_INT_CST_LOW (arg0),
-                            ~ TREE_INT_CST_HIGH (arg0));
-         TREE_TYPE (tem) = type;
-         force_fit_type (tem, 0);
-         TREE_OVERFLOW (tem) = TREE_OVERFLOW (arg0);
-         TREE_CONSTANT_OVERFLOW (tem) = TREE_CONSTANT_OVERFLOW (arg0);
-         return tem;
-       }
+      if (TREE_CODE (arg0) == INTEGER_CST)
+        return fold_not_const (arg0, type);
       else if (TREE_CODE (arg0) == BIT_NOT_EXPR)
        return TREE_OPERAND (arg0, 0);
       return t;
@@ -5867,11 +6462,11 @@ fold (tree expr)
     case PLUS_EXPR:
       /* A + (-B) -> A - B */
       if (TREE_CODE (arg1) == NEGATE_EXPR)
-       return fold (build (MINUS_EXPR, type, arg0, TREE_OPERAND (arg1, 0)));
+       return fold (build2 (MINUS_EXPR, type, arg0, TREE_OPERAND (arg1, 0)));
       /* (-A) + B -> B - A */
       if (TREE_CODE (arg0) == NEGATE_EXPR
          && reorder_operands_p (TREE_OPERAND (arg0, 0), arg1))
-       return fold (build (MINUS_EXPR, type, arg1, TREE_OPERAND (arg0, 0)));
+       return fold (build2 (MINUS_EXPR, type, arg1, TREE_OPERAND (arg0, 0)));
       if (! FLOAT_TYPE_P (type))
        {
          if (integer_zerop (arg1))
@@ -5914,18 +6509,18 @@ fold (tree expr)
 
              if (TREE_CODE (parg0) == MULT_EXPR
                  && TREE_CODE (parg1) != MULT_EXPR)
-               return fold (build (PLUS_EXPR, type,
-                                   fold (build (PLUS_EXPR, type,
-                                                fold_convert (type, parg0),
-                                                fold_convert (type, marg))),
-                                   fold_convert (type, parg1)));
+               return fold (build2 (PLUS_EXPR, type,
+                                    fold (build2 (PLUS_EXPR, type,
+                                                  fold_convert (type, parg0),
+                                                  fold_convert (type, marg))),
+                                    fold_convert (type, parg1)));
              if (TREE_CODE (parg0) != MULT_EXPR
                  && TREE_CODE (parg1) == MULT_EXPR)
-               return fold (build (PLUS_EXPR, type,
-                                   fold (build (PLUS_EXPR, type,
-                                                fold_convert (type, parg1),
-                                                fold_convert (type, marg))),
-                                   fold_convert (type, parg0)));
+               return fold (build2 (PLUS_EXPR, type,
+                                    fold (build2 (PLUS_EXPR, type,
+                                                  fold_convert (type, parg1),
+                                                  fold_convert (type, marg))),
+                                    fold_convert (type, parg0)));
            }
 
          if (TREE_CODE (arg0) == MULT_EXPR && TREE_CODE (arg1) == MULT_EXPR)
@@ -5976,17 +6571,19 @@ fold (tree expr)
 
                  if (exact_log2 (int11) > 0 && int01 % int11 == 0)
                    {
-                     alt0 = fold (build (MULT_EXPR, type, arg00,
-                                         build_int_2 (int01 / int11, 0)));
+                     alt0 = fold (build2 (MULT_EXPR, type, arg00,
+                                          build_int_cst (NULL_TREE,
+                                                         int01 / int11)));
                      alt1 = arg10;
                      same = arg11;
                    }
                }
 
              if (same)
-               return fold (build (MULT_EXPR, type,
-                                   fold (build (PLUS_EXPR, type, alt0, alt1)),
-                                   same));
+               return fold (build2 (MULT_EXPR, type,
+                                    fold (build2 (PLUS_EXPR, type,
+                                                  alt0, alt1)),
+                                    same));
            }
        }
       else
@@ -5999,11 +6596,22 @@ fold (tree expr)
          if (fold_real_zero_addition_p (TREE_TYPE (arg1), arg0, 0))
            return non_lvalue (fold_convert (type, arg1));
 
+         /* Convert X + -C into X - C.  */
+         if (TREE_CODE (arg1) == REAL_CST
+             && REAL_VALUE_NEGATIVE (TREE_REAL_CST (arg1)))
+           {
+             tem = fold_negate_const (arg1, type);
+             if (!TREE_OVERFLOW (arg1) || !flag_trapping_math)
+               return fold (build2 (MINUS_EXPR, type,
+                                    fold_convert (type, arg0),
+                                    fold_convert (type, tem)));
+           }
+
          /* Convert x+x into x*2.0.  */
          if (operand_equal_p (arg0, arg1, 0)
              && SCALAR_FLOAT_TYPE_P (type))
-           return fold (build (MULT_EXPR, type, arg0,
-                               build_real (type, dconst2)));
+           return fold (build2 (MULT_EXPR, type, arg0,
+                                build_real (type, dconst2)));
 
          /* Convert x*c+x into x*(c+1).  */
          if (flag_unsafe_math_optimizations
@@ -6016,8 +6624,8 @@ fold (tree expr)
 
              c = TREE_REAL_CST (TREE_OPERAND (arg0, 1));
              real_arithmetic (&c, PLUS_EXPR, &c, &dconst1);
-             return fold (build (MULT_EXPR, type, arg1,
-                                 build_real (type, c)));
+             return fold (build2 (MULT_EXPR, type, arg1,
+                                  build_real (type, c)));
            }
 
          /* Convert x+x*c into x*(c+1).  */
@@ -6031,8 +6639,8 @@ fold (tree expr)
 
              c = TREE_REAL_CST (TREE_OPERAND (arg1, 1));
              real_arithmetic (&c, PLUS_EXPR, &c, &dconst1);
-             return fold (build (MULT_EXPR, type, arg0,
-                                 build_real (type, c)));
+             return fold (build2 (MULT_EXPR, type, arg0,
+                                  build_real (type, c)));
            }
 
          /* Convert x*c1+x*c2 into x*(c1+c2).  */
@@ -6051,9 +6659,9 @@ fold (tree expr)
              c1 = TREE_REAL_CST (TREE_OPERAND (arg0, 1));
              c2 = TREE_REAL_CST (TREE_OPERAND (arg1, 1));
              real_arithmetic (&c1, PLUS_EXPR, &c1, &c2);
-             return fold (build (MULT_EXPR, type,
-                                 TREE_OPERAND (arg0, 0),
-                                 build_real (type, c1)));
+             return fold (build2 (MULT_EXPR, type,
+                                  TREE_OPERAND (arg0, 0),
+                                  build_real (type, c1)));
            }
           /* Convert a + (b*c + d*e) into (a + b*c) + d*e */
           if (flag_unsafe_math_optimizations
@@ -6066,8 +6674,8 @@ fold (tree expr)
                  && TREE_CODE (tree10) == MULT_EXPR)
                 {
                   tree tree0;
-                  tree0 = fold (build (PLUS_EXPR, type, arg0, tree10));
-                  return fold (build (PLUS_EXPR, type, tree0, tree11));
+                  tree0 = fold (build2 (PLUS_EXPR, type, arg0, tree10));
+                  return fold (build2 (PLUS_EXPR, type, tree0, tree11));
                 }
             }
           /* Convert (b*c + d*e) + a into b*c + (d*e +a) */
@@ -6081,8 +6689,8 @@ fold (tree expr)
                  && TREE_CODE (tree00) == MULT_EXPR)
                 {
                   tree tree0;
-                  tree0 = fold (build (PLUS_EXPR, type, tree01, arg1));
-                  return fold (build (PLUS_EXPR, type, tree00, tree0));
+                  tree0 = fold (build2 (PLUS_EXPR, type, tree01, arg1));
+                  return fold (build2 (PLUS_EXPR, type, tree00, tree0));
                 }
             }
        }
@@ -6117,8 +6725,8 @@ fold (tree expr)
                && TREE_INT_CST_HIGH (tree11) == 0
                && ((TREE_INT_CST_LOW (tree01) + TREE_INT_CST_LOW (tree11))
                    == TYPE_PRECISION (TREE_TYPE (TREE_OPERAND (arg0, 0)))))
-             return build (LROTATE_EXPR, type, TREE_OPERAND (arg0, 0),
-                           code0 == LSHIFT_EXPR ? tree01 : tree11);
+             return build2 (LROTATE_EXPR, type, TREE_OPERAND (arg0, 0),
+                            code0 == LSHIFT_EXPR ? tree01 : tree11);
            else if (code11 == MINUS_EXPR)
              {
                tree tree110, tree111;
@@ -6132,10 +6740,10 @@ fold (tree expr)
                                              (TREE_TYPE (TREE_OPERAND
                                                          (arg0, 0))))
                    && operand_equal_p (tree01, tree111, 0))
-                 return build ((code0 == LSHIFT_EXPR
-                                ? LROTATE_EXPR
-                                : RROTATE_EXPR),
-                               type, TREE_OPERAND (arg0, 0), tree01);
+                 return build2 ((code0 == LSHIFT_EXPR
+                                 ? LROTATE_EXPR
+                                 : RROTATE_EXPR),
+                                type, TREE_OPERAND (arg0, 0), tree01);
              }
            else if (code01 == MINUS_EXPR)
              {
@@ -6150,10 +6758,10 @@ fold (tree expr)
                                              (TREE_TYPE (TREE_OPERAND
                                                          (arg0, 0))))
                    && operand_equal_p (tree11, tree011, 0))
-                 return build ((code0 != LSHIFT_EXPR
-                                ? LROTATE_EXPR
-                                : RROTATE_EXPR),
-                               type, TREE_OPERAND (arg0, 0), tree11);
+                 return build2 ((code0 != LSHIFT_EXPR
+                                 ? LROTATE_EXPR
+                                 : RROTATE_EXPR),
+                                type, TREE_OPERAND (arg0, 0), tree11);
              }
          }
       }
@@ -6256,15 +6864,15 @@ fold (tree expr)
     case MINUS_EXPR:
       /* A - (-B) -> A + B */
       if (TREE_CODE (arg1) == NEGATE_EXPR)
-       return fold (build (PLUS_EXPR, type, arg0, TREE_OPERAND (arg1, 0)));
+       return fold (build2 (PLUS_EXPR, type, arg0, TREE_OPERAND (arg1, 0)));
       /* (-A) - B -> (-B) - A  where B is easily negated and we can swap.  */
       if (TREE_CODE (arg0) == NEGATE_EXPR
          && (FLOAT_TYPE_P (type)
              || (INTEGRAL_TYPE_P (type) && flag_wrapv && !flag_trapv))
          && negate_expr_p (arg1)
          && reorder_operands_p (arg0, arg1))
-       return fold (build (MINUS_EXPR, type, negate_expr (arg1),
-                           TREE_OPERAND (arg0, 0)));
+       return fold (build2 (MINUS_EXPR, type, negate_expr (arg1),
+                            TREE_OPERAND (arg0, 0)));
 
       if (! FLOAT_TYPE_P (type))
        {
@@ -6278,15 +6886,15 @@ fold (tree expr)
              && TREE_CODE (arg1) == BIT_AND_EXPR)
            {
              if (operand_equal_p (arg0, TREE_OPERAND (arg1, 1), 0))
-               return fold (build (BIT_AND_EXPR, type,
-                                   fold (build1 (BIT_NOT_EXPR, type,
-                                                 TREE_OPERAND (arg1, 0))),
-                                   arg0));
+               return fold (build2 (BIT_AND_EXPR, type,
+                                    fold (build1 (BIT_NOT_EXPR, type,
+                                                  TREE_OPERAND (arg1, 0))),
+                                    arg0));
              if (operand_equal_p (arg0, TREE_OPERAND (arg1, 0), 0))
-               return fold (build (BIT_AND_EXPR, type,
-                                   fold (build1 (BIT_NOT_EXPR, type,
-                                                 TREE_OPERAND (arg1, 1))),
-                                   arg0));
+               return fold (build2 (BIT_AND_EXPR, type,
+                                    fold (build1 (BIT_NOT_EXPR, type,
+                                                  TREE_OPERAND (arg1, 1))),
+                                    arg0));
            }
 
          /* Fold (A & ~B) - (A & B) into (A ^ B) - B, where B is
@@ -6299,12 +6907,12 @@ fold (tree expr)
              tree mask0 = TREE_OPERAND (arg0, 1);
              tree mask1 = TREE_OPERAND (arg1, 1);
              tree tem = fold (build1 (BIT_NOT_EXPR, type, mask0));
-             
+
              if (operand_equal_p (tem, mask1, 0))
                {
-                 tem = fold (build (BIT_XOR_EXPR, type,
-                                    TREE_OPERAND (arg0, 0), mask1));
-                 return fold (build (MINUS_EXPR, type, tem, mask1));
+                 tem = fold (build2 (BIT_XOR_EXPR, type,
+                                     TREE_OPERAND (arg0, 0), mask1));
+                 return fold (build2 (MINUS_EXPR, type, tem, mask1));
                }
            }
        }
@@ -6331,9 +6939,12 @@ fold (tree expr)
 
       /* A - B -> A + (-B) if B is easily negatable.  */
       if (!wins && negate_expr_p (arg1)
-         && (FLOAT_TYPE_P (type)
+         && ((FLOAT_TYPE_P (type)
+               /* Avoid this transformation if B is a positive REAL_CST.  */
+              && (TREE_CODE (arg1) != REAL_CST
+                  ||  REAL_VALUE_NEGATIVE (TREE_REAL_CST (arg1))))
              || (INTEGRAL_TYPE_P (type) && flag_wrapv && !flag_trapv)))
-       return fold (build (PLUS_EXPR, type, arg0, negate_expr (arg1)));
+       return fold (build2 (PLUS_EXPR, type, arg0, negate_expr (arg1)));
 
       if (TREE_CODE (arg0) == MULT_EXPR
          && TREE_CODE (arg1) == MULT_EXPR
@@ -6342,19 +6953,19 @@ fold (tree expr)
           /* (A * C) - (B * C) -> (A-B) * C.  */
          if (operand_equal_p (TREE_OPERAND (arg0, 1),
                               TREE_OPERAND (arg1, 1), 0))
-           return fold (build (MULT_EXPR, type,
-                               fold (build (MINUS_EXPR, type,
-                                            TREE_OPERAND (arg0, 0),
-                                            TREE_OPERAND (arg1, 0))),
-                               TREE_OPERAND (arg0, 1)));
+           return fold (build2 (MULT_EXPR, type,
+                                fold (build2 (MINUS_EXPR, type,
+                                              TREE_OPERAND (arg0, 0),
+                                              TREE_OPERAND (arg1, 0))),
+                                TREE_OPERAND (arg0, 1)));
           /* (A * C1) - (A * C2) -> A * (C1-C2).  */
          if (operand_equal_p (TREE_OPERAND (arg0, 0),
                               TREE_OPERAND (arg1, 0), 0))
-           return fold (build (MULT_EXPR, type,
-                               TREE_OPERAND (arg0, 0),
-                               fold (build (MINUS_EXPR, type,
-                                            TREE_OPERAND (arg0, 1),
-                                            TREE_OPERAND (arg1, 1)))));
+           return fold (build2 (MULT_EXPR, type,
+                                TREE_OPERAND (arg0, 0),
+                                fold (build2 (MINUS_EXPR, type,
+                                              TREE_OPERAND (arg0, 1),
+                                              TREE_OPERAND (arg1, 1)))));
        }
 
       goto associate;
@@ -6362,13 +6973,13 @@ fold (tree expr)
     case MULT_EXPR:
       /* (-A) * (-B) -> A * B  */
       if (TREE_CODE (arg0) == NEGATE_EXPR && negate_expr_p (arg1))
-       return fold (build (MULT_EXPR, type,
-                           TREE_OPERAND (arg0, 0),
-                           negate_expr (arg1)));
+       return fold (build2 (MULT_EXPR, type,
+                            TREE_OPERAND (arg0, 0),
+                            negate_expr (arg1)));
       if (TREE_CODE (arg1) == NEGATE_EXPR && negate_expr_p (arg0))
-       return fold (build (MULT_EXPR, type,
-                           negate_expr (arg0),
-                           TREE_OPERAND (arg1, 0)));
+       return fold (build2 (MULT_EXPR, type,
+                            negate_expr (arg0),
+                            TREE_OPERAND (arg1, 0)));
 
       if (! FLOAT_TYPE_P (type))
        {
@@ -6380,12 +6991,12 @@ fold (tree expr)
          /* (a * (1 << b)) is (a << b)  */
          if (TREE_CODE (arg1) == LSHIFT_EXPR
              && integer_onep (TREE_OPERAND (arg1, 0)))
-           return fold (build (LSHIFT_EXPR, type, arg0,
-                               TREE_OPERAND (arg1, 1)));
+           return fold (build2 (LSHIFT_EXPR, type, arg0,
+                                TREE_OPERAND (arg1, 1)));
          if (TREE_CODE (arg0) == LSHIFT_EXPR
              && integer_onep (TREE_OPERAND (arg0, 0)))
-           return fold (build (LSHIFT_EXPR, type, arg1,
-                               TREE_OPERAND (arg0, 1)));
+           return fold (build2 (LSHIFT_EXPR, type, arg1,
+                                TREE_OPERAND (arg0, 1)));
 
          if (TREE_CODE (arg1) == INTEGER_CST
              && 0 != (tem = extract_muldiv (TREE_OPERAND (t, 0),
@@ -6423,8 +7034,8 @@ fold (tree expr)
              tree tem = const_binop (MULT_EXPR, TREE_OPERAND (arg0, 0),
                                      arg1, 0);
              if (tem)
-               return fold (build (RDIV_EXPR, type, tem,
-                                   TREE_OPERAND (arg0, 1)));
+               return fold (build2 (RDIV_EXPR, type, tem,
+                                    TREE_OPERAND (arg0, 1)));
            }
 
          if (flag_unsafe_math_optimizations)
@@ -6447,7 +7058,7 @@ fold (tree expr)
 
                  /* Optimize root(x)*root(y) as root(x*y).  */
                  rootfn = TREE_OPERAND (TREE_OPERAND (arg0, 0), 0);
-                 arg = fold (build (MULT_EXPR, type, arg00, arg10));
+                 arg = fold (build2 (MULT_EXPR, type, arg00, arg10));
                  arglist = build_tree_list (NULL_TREE, arg);
                  return build_function_call_expr (rootfn, arglist);
                }
@@ -6456,9 +7067,9 @@ fold (tree expr)
              if (fcode0 == fcode1 && BUILTIN_EXPONENT_P (fcode0))
                {
                  tree expfn = TREE_OPERAND (TREE_OPERAND (arg0, 0), 0);
-                 tree arg = build (PLUS_EXPR, type,
-                                   TREE_VALUE (TREE_OPERAND (arg0, 1)),
-                                   TREE_VALUE (TREE_OPERAND (arg1, 1)));
+                 tree arg = build2 (PLUS_EXPR, type,
+                                    TREE_VALUE (TREE_OPERAND (arg0, 1)),
+                                    TREE_VALUE (TREE_OPERAND (arg1, 1)));
                  tree arglist = build_tree_list (NULL_TREE, fold (arg));
                  return build_function_call_expr (expfn, arglist);
                }
@@ -6479,7 +7090,7 @@ fold (tree expr)
                  if (operand_equal_p (arg01, arg11, 0))
                    {
                      tree powfn = TREE_OPERAND (TREE_OPERAND (arg0, 0), 0);
-                     tree arg = build (MULT_EXPR, type, arg00, arg10);
+                     tree arg = build2 (MULT_EXPR, type, arg00, arg10);
                      tree arglist = tree_cons (NULL_TREE, fold (arg),
                                                build_tree_list (NULL_TREE,
                                                                 arg01));
@@ -6490,7 +7101,7 @@ fold (tree expr)
                  if (operand_equal_p (arg00, arg10, 0))
                    {
                      tree powfn = TREE_OPERAND (TREE_OPERAND (arg0, 0), 0);
-                     tree arg = fold (build (PLUS_EXPR, type, arg01, arg11));
+                     tree arg = fold (build2 (PLUS_EXPR, type, arg01, arg11));
                      tree arglist = tree_cons (NULL_TREE, arg00,
                                                build_tree_list (NULL_TREE,
                                                                 arg));
@@ -6591,6 +7202,25 @@ fold (tree expr)
        return non_lvalue (fold_convert (type, arg0));
       if (operand_equal_p (arg0, arg1, 0))
        return non_lvalue (fold_convert (type, arg0));
+
+      /* ~X | X is -1.  */
+      if (TREE_CODE (arg0) == BIT_NOT_EXPR
+         && operand_equal_p (TREE_OPERAND (arg0, 0), arg1, 0))
+       {
+         t1 = build_int_cst (type, -1);
+         t1 = force_fit_type (t1, 0, false, false);
+         return omit_one_operand (type, t1, arg1);
+       }
+
+      /* X | ~X is -1.  */
+      if (TREE_CODE (arg1) == BIT_NOT_EXPR
+         && operand_equal_p (arg0, TREE_OPERAND (arg1, 0), 0))
+       {
+         t1 = build_int_cst (type, -1);
+         t1 = force_fit_type (t1, 0, false, false);
+         return omit_one_operand (type, t1, arg0);
+       }
+
       t1 = distribute_bit_expr (code, type, arg0, arg1);
       if (t1 != NULL_TREE)
        return t1;
@@ -6605,9 +7235,9 @@ fold (tree expr)
          && TREE_CODE (arg1) == BIT_NOT_EXPR)
        {
          return fold (build1 (BIT_NOT_EXPR, type,
-                              build (BIT_AND_EXPR, type,
-                                     TREE_OPERAND (arg0, 0),
-                                     TREE_OPERAND (arg1, 0))));
+                              build2 (BIT_AND_EXPR, type,
+                                      TREE_OPERAND (arg0, 0),
+                                      TREE_OPERAND (arg1, 0))));
        }
 
       /* See if this can be simplified into a rotate first.  If that
@@ -6622,6 +7252,24 @@ fold (tree expr)
       if (operand_equal_p (arg0, arg1, 0))
        return omit_one_operand (type, integer_zero_node, arg0);
 
+      /* ~X ^ X is -1.  */
+      if (TREE_CODE (arg0) == BIT_NOT_EXPR
+         && operand_equal_p (TREE_OPERAND (arg0, 0), arg1, 0))
+       {
+         t1 = build_int_cst (type, -1);
+         t1 = force_fit_type (t1, 0, false, false);
+         return omit_one_operand (type, t1, arg1);
+       }
+
+      /* X ^ ~X is -1.  */
+      if (TREE_CODE (arg1) == BIT_NOT_EXPR
+         && operand_equal_p (arg0, TREE_OPERAND (arg1, 0), 0))
+       {
+         t1 = build_int_cst (type, -1);
+         t1 = force_fit_type (t1, 0, false, false);
+         return omit_one_operand (type, t1, arg0);
+       }
+
       /* If we are XORing two BIT_AND_EXPR's, both of which are and'ing
          with a constant, and the two constants have no bits in common,
         we should treat this as a BIT_IOR_EXPR since this may produce more
@@ -6649,6 +7297,17 @@ fold (tree expr)
        return omit_one_operand (type, arg1, arg0);
       if (operand_equal_p (arg0, arg1, 0))
        return non_lvalue (fold_convert (type, arg0));
+
+      /* ~X & X is always zero.  */
+      if (TREE_CODE (arg0) == BIT_NOT_EXPR
+         && operand_equal_p (TREE_OPERAND (arg0, 0), arg1, 0))
+       return omit_one_operand (type, integer_zero_node, arg1);
+
+      /* X & ~X is always zero.  */
+      if (TREE_CODE (arg1) == BIT_NOT_EXPR
+         && operand_equal_p (arg0, TREE_OPERAND (arg1, 0), 0))
+       return omit_one_operand (type, integer_zero_node, arg0);
+
       t1 = distribute_bit_expr (code, type, arg0, arg1);
       if (t1 != NULL_TREE)
        return t1;
@@ -6675,9 +7334,9 @@ fold (tree expr)
          && TREE_CODE (arg1) == BIT_NOT_EXPR)
        {
          return fold (build1 (BIT_NOT_EXPR, type,
-                              build (BIT_IOR_EXPR, type,
-                                     TREE_OPERAND (arg0, 0),
-                                     TREE_OPERAND (arg1, 0))));
+                              build2 (BIT_IOR_EXPR, type,
+                                      TREE_OPERAND (arg0, 0),
+                                      TREE_OPERAND (arg1, 0))));
        }
 
       goto associate;
@@ -6692,13 +7351,13 @@ fold (tree expr)
 
       /* (-A) / (-B) -> A / B  */
       if (TREE_CODE (arg0) == NEGATE_EXPR && negate_expr_p (arg1))
-       return fold (build (RDIV_EXPR, type,
-                           TREE_OPERAND (arg0, 0),
-                           negate_expr (arg1)));
+       return fold (build2 (RDIV_EXPR, type,
+                            TREE_OPERAND (arg0, 0),
+                            negate_expr (arg1)));
       if (TREE_CODE (arg1) == NEGATE_EXPR && negate_expr_p (arg0))
-       return fold (build (RDIV_EXPR, type,
-                           negate_expr (arg0),
-                           TREE_OPERAND (arg1, 0)));
+       return fold (build2 (RDIV_EXPR, type,
+                            negate_expr (arg0),
+                            TREE_OPERAND (arg1, 0)));
 
       /* In IEEE floating point, x/1 is not equivalent to x for snans.  */
       if (!HONOR_SNANS (TYPE_MODE (TREE_TYPE (arg0)))
@@ -6720,7 +7379,7 @@ fold (tree expr)
          if (flag_unsafe_math_optimizations
              && 0 != (tem = const_binop (code, build_real (type, dconst1),
                                          arg1, 0)))
-           return fold (build (MULT_EXPR, type, arg0, tem));
+           return fold (build2 (MULT_EXPR, type, arg0, tem));
          /* Find the reciprocal if optimizing and the result is exact.  */
          if (optimize)
            {
@@ -6729,24 +7388,24 @@ fold (tree expr)
              if (exact_real_inverse (TYPE_MODE(TREE_TYPE(arg0)), &r))
                {
                  tem = build_real (type, r);
-                 return fold (build (MULT_EXPR, type, arg0, tem));
+                 return fold (build2 (MULT_EXPR, type, arg0, tem));
                }
            }
        }
       /* Convert A/B/C to A/(B*C).  */
       if (flag_unsafe_math_optimizations
          && TREE_CODE (arg0) == RDIV_EXPR)
-       return fold (build (RDIV_EXPR, type, TREE_OPERAND (arg0, 0),
-                           fold (build (MULT_EXPR, type,
-                                        TREE_OPERAND (arg0, 1), arg1))));
+       return fold (build2 (RDIV_EXPR, type, TREE_OPERAND (arg0, 0),
+                            fold (build2 (MULT_EXPR, type,
+                                          TREE_OPERAND (arg0, 1), arg1))));
 
       /* Convert A/(B/C) to (A/B)*C.  */
       if (flag_unsafe_math_optimizations
          && TREE_CODE (arg1) == RDIV_EXPR)
-       return fold (build (MULT_EXPR, type,
-                           fold (build (RDIV_EXPR, type, arg0,
-                                        TREE_OPERAND (arg1, 0))),
-                           TREE_OPERAND (arg1, 1)));
+       return fold (build2 (MULT_EXPR, type,
+                            fold (build2 (RDIV_EXPR, type, arg0,
+                                          TREE_OPERAND (arg1, 0))),
+                            TREE_OPERAND (arg1, 1)));
 
       /* Convert C1/(X*C2) into (C1/C2)/X.  */
       if (flag_unsafe_math_optimizations
@@ -6757,8 +7416,8 @@ fold (tree expr)
          tree tem = const_binop (RDIV_EXPR, arg0,
                                  TREE_OPERAND (arg1, 1), 0);
          if (tem)
-           return fold (build (RDIV_EXPR, type, tem,
-                               TREE_OPERAND (arg1, 0)));
+           return fold (build2 (RDIV_EXPR, type, tem,
+                                TREE_OPERAND (arg1, 0)));
        }
 
       if (flag_unsafe_math_optimizations)
@@ -6772,7 +7431,7 @@ fold (tree expr)
              tree arglist = build_tree_list (NULL_TREE,
                                              fold_convert (type, arg));
              arg1 = build_function_call_expr (expfn, arglist);
-             return fold (build (MULT_EXPR, type, arg0, arg1));
+             return fold (build2 (MULT_EXPR, type, arg0, arg1));
            }
 
          /* Optimize x/pow(y,z) into x*pow(y,-z).  */
@@ -6787,7 +7446,7 @@ fold (tree expr)
              tree arglist = tree_cons(NULL_TREE, arg10,
                                       build_tree_list (NULL_TREE, neg11));
              arg1 = build_function_call_expr (powfn, arglist);
-             return fold (build (MULT_EXPR, type, arg0, arg1));
+             return fold (build2 (MULT_EXPR, type, arg0, arg1));
            }
        }
 
@@ -6823,9 +7482,8 @@ fold (tree expr)
                {
                  tree tmp = TREE_OPERAND (arg0, 1);
                  tmp = build_function_call_expr (tanfn, tmp);
-                 return fold (build (RDIV_EXPR, type,
-                                     build_real (type, dconst1),
-                                     tmp));
+                 return fold (build2 (RDIV_EXPR, type,
+                                      build_real (type, dconst1), tmp));
                }
            }
 
@@ -6879,7 +7537,7 @@ fold (tree expr)
         after the last round to changes to the DIV code in expmed.c.  */
       if ((code == CEIL_DIV_EXPR || code == FLOOR_DIV_EXPR)
          && multiple_of_p (type, arg0, arg1))
-       return fold (build (EXACT_DIV_EXPR, type, arg0, arg1));
+       return fold (build2 (EXACT_DIV_EXPR, type, arg0, arg1));
 
       if (TREE_CODE (arg1) == INTEGER_CST
          && 0 != (tem = extract_muldiv (TREE_OPERAND (t, 0), arg1,
@@ -6896,6 +7554,7 @@ fold (tree expr)
        return omit_one_operand (type, integer_zero_node, arg0);
       if (integer_zerop (arg1))
        return t;
+
       /* X % -1 is zero.  */
       if (!TYPE_UNSIGNED (type)
          && TREE_CODE (arg1) == INTEGER_CST
@@ -6903,6 +7562,53 @@ fold (tree expr)
          && TREE_INT_CST_HIGH (arg1) == -1)
        return omit_one_operand (type, integer_zero_node, arg0);
 
+      /* Optimize unsigned TRUNC_MOD_EXPR by a power of two into a
+        BIT_AND_EXPR, i.e. "X % C" into "X & C2".  */
+      if (code == TRUNC_MOD_EXPR
+         && TYPE_UNSIGNED (type)
+         && integer_pow2p (arg1))
+       {
+         unsigned HOST_WIDE_INT high, low;
+         tree mask;
+         int l;
+
+         l = tree_log2 (arg1);
+         if (l >= HOST_BITS_PER_WIDE_INT)
+           {
+             high = ((unsigned HOST_WIDE_INT) 1
+                     << (l - HOST_BITS_PER_WIDE_INT)) - 1;
+             low = -1;
+           }
+         else
+           {
+             high = 0;
+             low = ((unsigned HOST_WIDE_INT) 1 << l) - 1;
+           }
+
+         mask = build_int_cst_wide (type, low, high);
+         return fold (build2 (BIT_AND_EXPR, type,
+                              fold_convert (type, arg0), mask));
+       }
+
+      /* X % -C is the same as X % C.  */
+      if (code == TRUNC_MOD_EXPR
+         && !TYPE_UNSIGNED (type)
+         && TREE_CODE (arg1) == INTEGER_CST
+         && TREE_INT_CST_HIGH (arg1) < 0
+         && !flag_trapv
+         /* Avoid this transformation if C is INT_MIN, i.e. C == -C.  */
+         && !sign_bit_p (arg1, arg1))
+       return fold (build2 (code, type, fold_convert (type, arg0),
+                            fold_convert (type, negate_expr (arg1))));
+
+      /* X % -Y is the same as X % Y.  */
+      if (code == TRUNC_MOD_EXPR
+         && !TYPE_UNSIGNED (type)
+         && TREE_CODE (arg1) == NEGATE_EXPR
+         && !flag_trapv)
+       return fold (build2 (code, type, fold_convert (type, arg0),
+                            fold_convert (type, TREE_OPERAND (arg1, 0))));
+
       if (TREE_CODE (arg1) == INTEGER_CST
          && 0 != (tem = extract_muldiv (TREE_OPERAND (t, 0), arg1,
                                         code, NULL_TREE)))
@@ -6937,10 +7643,11 @@ fold (tree expr)
         RROTATE_EXPR by a new constant.  */
       if (code == LROTATE_EXPR && TREE_CODE (arg1) == INTEGER_CST)
        {
-         tree tem = build_int_2 (GET_MODE_BITSIZE (TYPE_MODE (type)), 0);
+         tree tem = build_int_cst (NULL_TREE,
+                                   GET_MODE_BITSIZE (TYPE_MODE (type)));
          tem = fold_convert (TREE_TYPE (arg1), tem);
          tem = const_binop (MINUS_EXPR, tem, arg1, 0);
-         return fold (build (RROTATE_EXPR, type, arg0, tem));
+         return fold (build2 (RROTATE_EXPR, type, arg0, tem));
        }
 
       /* If we have a rotate of a bit operation with the rotate count and
@@ -6951,11 +7658,11 @@ fold (tree expr)
              || TREE_CODE (arg0) == BIT_IOR_EXPR
              || TREE_CODE (arg0) == BIT_XOR_EXPR)
          && TREE_CODE (TREE_OPERAND (arg0, 1)) == INTEGER_CST)
-       return fold (build (TREE_CODE (arg0), type,
-                           fold (build (code, type,
-                                        TREE_OPERAND (arg0, 0), arg1)),
-                           fold (build (code, type,
-                                        TREE_OPERAND (arg0, 1), arg1))));
+       return fold (build2 (TREE_CODE (arg0), type,
+                            fold (build2 (code, type,
+                                          TREE_OPERAND (arg0, 0), arg1)),
+                            fold (build2 (code, type,
+                                          TREE_OPERAND (arg0, 1), arg1))));
 
       /* Two consecutive rotates adding up to the width of the mode can
         be ignored.  */
@@ -6975,7 +7682,7 @@ fold (tree expr)
       if (operand_equal_p (arg0, arg1, 0))
        return omit_one_operand (type, arg0, arg1);
       if (INTEGRAL_TYPE_P (type)
-         && operand_equal_p (arg1, TYPE_MIN_VALUE (type), 1))
+         && operand_equal_p (arg1, TYPE_MIN_VALUE (type), OEP_ONLY_CONST))
        return omit_one_operand (type, arg1, arg0);
       goto associate;
 
@@ -6984,11 +7691,15 @@ fold (tree expr)
        return omit_one_operand (type, arg0, arg1);
       if (INTEGRAL_TYPE_P (type)
          && TYPE_MAX_VALUE (type)
-         && operand_equal_p (arg1, TYPE_MAX_VALUE (type), 1))
+         && operand_equal_p (arg1, TYPE_MAX_VALUE (type), OEP_ONLY_CONST))
        return omit_one_operand (type, arg1, arg0);
       goto associate;
 
     case TRUTH_NOT_EXPR:
+      /* The argument to invert_truthvalue must have Boolean type.  */
+      if (TREE_CODE (TREE_TYPE (arg0)) != BOOLEAN_TYPE)
+          arg0 = fold_convert (boolean_type_node, arg0);
+
       /* Note that the operand of this must be an int
         and its values must be 0 or 1.
         ("true" is a fixed value perhaps depending on the language,
@@ -7028,6 +7739,15 @@ fold (tree expr)
       if (integer_zerop (arg0))
        return omit_one_operand (type, arg0, arg1);
 
+      /* !X && X is always false.  */
+      if (TREE_CODE (arg0) == TRUTH_NOT_EXPR
+         && operand_equal_p (TREE_OPERAND (arg0, 0), arg1, 0))
+       return omit_one_operand (type, integer_zero_node, arg1);
+      /* X && !X is always false.  */
+      if (TREE_CODE (arg1) == TRUTH_NOT_EXPR
+         && operand_equal_p (arg0, TREE_OPERAND (arg1, 0), 0))
+       return omit_one_operand (type, integer_zero_node, arg0);
+
     truth_andor:
       /* We only do these simplifications if we are optimizing.  */
       if (!optimize)
@@ -7056,23 +7776,23 @@ fold (tree expr)
                                 || code == TRUTH_OR_EXPR));
 
          if (operand_equal_p (a00, a10, 0))
-           return fold (build (TREE_CODE (arg0), type, a00,
-                               fold (build (code, type, a01, a11))));
+           return fold (build2 (TREE_CODE (arg0), type, a00,
+                                fold (build2 (code, type, a01, a11))));
          else if (commutative && operand_equal_p (a00, a11, 0))
-           return fold (build (TREE_CODE (arg0), type, a00,
-                               fold (build (code, type, a01, a10))));
+           return fold (build2 (TREE_CODE (arg0), type, a00,
+                                fold (build2 (code, type, a01, a10))));
          else if (commutative && operand_equal_p (a01, a10, 0))
-           return fold (build (TREE_CODE (arg0), type, a01,
-                               fold (build (code, type, a00, a11))));
+           return fold (build2 (TREE_CODE (arg0), type, a01,
+                                fold (build2 (code, type, a00, a11))));
 
          /* This case if tricky because we must either have commutative
             operators or else A10 must not have side-effects.  */
 
          else if ((commutative || ! TREE_SIDE_EFFECTS (a10))
                   && operand_equal_p (a01, a11, 0))
-           return fold (build (TREE_CODE (arg0), type,
-                               fold (build (code, type, a00, a10)),
-                               a01));
+           return fold (build2 (TREE_CODE (arg0), type,
+                                fold (build2 (code, type, a00, a10)),
+                                a01));
        }
 
       /* See if we can build a range comparison.  */
@@ -7085,7 +7805,7 @@ fold (tree expr)
       if (TREE_CODE (arg0) == code
          && 0 != (tem = fold_truthop (code, type,
                                       TREE_OPERAND (arg0, 1), arg1)))
-       return fold (build (code, type, TREE_OPERAND (arg0, 0), tem));
+       return fold (build2 (code, type, TREE_OPERAND (arg0, 0), tem));
 
       if ((tem = fold_truthop (code, type, arg0, arg1)) != 0)
        return tem;
@@ -7115,19 +7835,39 @@ fold (tree expr)
         TRUTH_OR_EXPR.  */
       if (TREE_CODE (arg0) == INTEGER_CST && ! integer_zerop (arg0))
        return omit_one_operand (type, arg0, arg1);
+
+      /* !X || X is always true.  */
+      if (TREE_CODE (arg0) == TRUTH_NOT_EXPR
+         && operand_equal_p (TREE_OPERAND (arg0, 0), arg1, 0))
+       return omit_one_operand (type, integer_one_node, arg1);
+      /* X || !X is always true.  */
+      if (TREE_CODE (arg1) == TRUTH_NOT_EXPR
+         && operand_equal_p (arg0, TREE_OPERAND (arg1, 0), 0))
+       return omit_one_operand (type, integer_one_node, arg0);
+
       goto truth_andor;
 
     case TRUTH_XOR_EXPR:
-      /* If either arg is constant zero, drop it.  */
-      if (integer_zerop (arg0))
-       return non_lvalue (fold_convert (type, arg1));
+      /* If the second arg is constant zero, drop it.  */
       if (integer_zerop (arg1))
        return non_lvalue (fold_convert (type, arg0));
-      /* If either arg is constant true, this is a logical inversion.  */
-      if (integer_onep (arg0))
-       return non_lvalue (fold_convert (type, invert_truthvalue (arg1)));
+      /* If the second arg is constant true, this is a logical inversion.  */
       if (integer_onep (arg1))
        return non_lvalue (fold_convert (type, invert_truthvalue (arg0)));
+      /* Identical arguments cancel to zero.  */
+      if (operand_equal_p (arg0, arg1, 0))
+       return omit_one_operand (type, integer_zero_node, arg0);
+
+      /* !X ^ X is always true.  */
+      if (TREE_CODE (arg0) == TRUTH_NOT_EXPR
+         && operand_equal_p (TREE_OPERAND (arg0, 0), arg1, 0))
+       return omit_one_operand (type, integer_one_node, arg1);
+
+      /* X ^ !X is always true.  */
+      if (TREE_CODE (arg1) == TRUTH_NOT_EXPR
+         && operand_equal_p (arg0, TREE_OPERAND (arg1, 0), 0))
+       return omit_one_operand (type, integer_one_node, arg0);
+
       return t;
 
     case EQ_EXPR:
@@ -7138,7 +7878,7 @@ fold (tree expr)
     case GE_EXPR:
       /* If one arg is a real or integer constant, put it last.  */
       if (tree_swap_operands_p (arg0, arg1, true))
-       return fold (build (swap_tree_comparison (code), type, arg1, arg0));
+       return fold (build2 (swap_tree_comparison (code), type, arg1, arg0));
 
       /* If this is an equality comparison of the address of a non-weak
         object against zero, then we know the result.  */
@@ -7147,12 +7887,7 @@ fold (tree expr)
          && DECL_P (TREE_OPERAND (arg0, 0))
          && ! DECL_WEAK (TREE_OPERAND (arg0, 0))
          && integer_zerop (arg1))
-       {
-         if (code == EQ_EXPR)
-           return fold_convert (type, integer_zero_node);
-         else
-           return fold_convert (type, integer_one_node);
-       }
+       return constant_boolean_node (code != EQ_EXPR, type);
 
       /* If this is an equality comparison of the address of two non-weak,
         unaliased symbols neither of which are extern (since we do not
@@ -7170,14 +7905,9 @@ fold (tree expr)
          && ! lookup_attribute ("alias",
                                 DECL_ATTRIBUTES (TREE_OPERAND (arg1, 0)))
          && ! DECL_EXTERNAL (TREE_OPERAND (arg1, 0)))
-       {
-         if (code == EQ_EXPR)
-           return fold_convert (type, (operand_equal_p (arg0, arg1, 0)
-                   ? integer_one_node : integer_zero_node));
-         else
-           return fold_convert (type, (operand_equal_p (arg0, arg1, 0)
-                   ? integer_zero_node : integer_one_node));
-       }
+       return constant_boolean_node (operand_equal_p (arg0, arg1, 0)
+                                     ? code == EQ_EXPR : code != EQ_EXPR,
+                                     type);
 
       if (FLOAT_TYPE_P (TREE_TYPE (arg0)))
        {
@@ -7190,14 +7920,14 @@ fold (tree expr)
 
          /* Fold (double)float1 CMP (double)float2 into float1 CMP float2.  */
          if (TYPE_PRECISION (newtype) < TYPE_PRECISION (TREE_TYPE (arg0)))
-           return fold (build (code, type, fold_convert (newtype, targ0),
-                               fold_convert (newtype, targ1)));
+           return fold (build2 (code, type, fold_convert (newtype, targ0),
+                                fold_convert (newtype, targ1)));
 
          /* (-a) CMP (-b) -> b CMP a  */
          if (TREE_CODE (arg0) == NEGATE_EXPR
              && TREE_CODE (arg1) == NEGATE_EXPR)
-           return fold (build (code, type, TREE_OPERAND (arg1, 0),
-                               TREE_OPERAND (arg0, 0)));
+           return fold (build2 (code, type, TREE_OPERAND (arg1, 0),
+                                TREE_OPERAND (arg0, 0)));
 
          if (TREE_CODE (arg1) == REAL_CST)
          {
@@ -7207,23 +7937,23 @@ fold (tree expr)
            /* (-a) CMP CST -> a swap(CMP) (-CST)  */
            if (TREE_CODE (arg0) == NEGATE_EXPR)
              return
-               fold (build (swap_tree_comparison (code), type,
-                            TREE_OPERAND (arg0, 0),
-                            build_real (TREE_TYPE (arg1),
-                                        REAL_VALUE_NEGATE (cst))));
+               fold (build2 (swap_tree_comparison (code), type,
+                             TREE_OPERAND (arg0, 0),
+                             build_real (TREE_TYPE (arg1),
+                                         REAL_VALUE_NEGATE (cst))));
 
            /* IEEE doesn't distinguish +0 and -0 in comparisons.  */
            /* a CMP (-0) -> a CMP 0  */
            if (REAL_VALUE_MINUS_ZERO (cst))
-             return fold (build (code, type, arg0,
-                                 build_real (TREE_TYPE (arg1), dconst0)));
+             return fold (build2 (code, type, arg0,
+                                  build_real (TREE_TYPE (arg1), dconst0)));
 
            /* x != NaN is always true, other ops are always false.  */
            if (REAL_VALUE_ISNAN (cst)
                && ! HONOR_SNANS (TYPE_MODE (TREE_TYPE (arg1))))
              {
                tem = (code == NE_EXPR) ? integer_one_node : integer_zero_node;
-               return omit_one_operand (type, fold_convert (type, tem), arg0);
+               return omit_one_operand (type, tem, arg0);
              }
 
            /* Fold comparisons against infinity.  */
@@ -7248,7 +7978,7 @@ fold (tree expr)
                                          ? MINUS_EXPR : PLUS_EXPR,
                                          arg1, TREE_OPERAND (arg0, 1), 0))
              && ! TREE_CONSTANT_OVERFLOW (tem))
-           return fold (build (code, type, TREE_OPERAND (arg0, 0), tem));
+           return fold (build2 (code, type, TREE_OPERAND (arg0, 0), tem));
 
          /* Likewise, we can simplify a comparison of a real constant with
             a MINUS_EXPR whose first operand is also a real constant, i.e.
@@ -7260,8 +7990,8 @@ fold (tree expr)
              && 0 != (tem = const_binop (MINUS_EXPR, TREE_OPERAND (arg0, 0),
                                          arg1, 0))
              && ! TREE_CONSTANT_OVERFLOW (tem))
-           return fold (build (swap_tree_comparison (code), type,
-                               TREE_OPERAND (arg0, 1), tem));
+           return fold (build2 (swap_tree_comparison (code), type,
+                                TREE_OPERAND (arg0, 1), tem));
 
          /* Fold comparisons against built-in math functions.  */
          if (TREE_CODE (arg1) == REAL_CST
@@ -7314,24 +8044,26 @@ fold (tree expr)
          /* If VAROP is a reference to a bitfield, we must mask
             the constant by the width of the field.  */
          if (TREE_CODE (TREE_OPERAND (varop, 0)) == COMPONENT_REF
-             && DECL_BIT_FIELD (TREE_OPERAND (TREE_OPERAND (varop, 0), 1)))
+             && DECL_BIT_FIELD (TREE_OPERAND (TREE_OPERAND (varop, 0), 1))
+             && host_integerp (DECL_SIZE (TREE_OPERAND
+                                          (TREE_OPERAND (varop, 0), 1)), 1))
            {
              tree fielddecl = TREE_OPERAND (TREE_OPERAND (varop, 0), 1);
-             int size = TREE_INT_CST_LOW (DECL_SIZE (fielddecl));
+             HOST_WIDE_INT size = tree_low_cst (DECL_SIZE (fielddecl), 1);
              tree folded_compare, shift;
 
              /* First check whether the comparison would come out
                 always the same.  If we don't do that we would
                 change the meaning with the masking.  */
              folded_compare = fold (build2 (code, type,
-                                            TREE_OPERAND (varop, 0),
-                                            arg1));
+                                            TREE_OPERAND (varop, 0), arg1));
              if (integer_zerop (folded_compare)
                  || integer_onep (folded_compare))
                return omit_one_operand (type, folded_compare, varop);
 
-             shift = build_int_2 (TYPE_PRECISION (TREE_TYPE (varop)) - size,
-                                  0);
+             shift = build_int_cst (NULL_TREE,
+                                    TYPE_PRECISION (TREE_TYPE (varop)) - size);
+             shift = fold_convert (TREE_TYPE (varop), shift);
              newconst = fold (build2 (LSHIFT_EXPR, TREE_TYPE (varop),
                                       newconst, shift));
              newconst = fold (build2 (RSHIFT_EXPR, TREE_TYPE (varop),
@@ -7352,11 +8084,11 @@ fold (tree expr)
            {
            case GE_EXPR:
              arg1 = const_binop (MINUS_EXPR, arg1, integer_one_node, 0);
-             return fold (build (GT_EXPR, type, arg0, arg1));
+             return fold (build2 (GT_EXPR, type, arg0, arg1));
 
            case LT_EXPR:
              arg1 = const_binop (MINUS_EXPR, arg1, integer_one_node, 0);
-             return fold (build (LE_EXPR, type, arg0, arg1));
+             return fold (build2 (LE_EXPR, type, arg0, arg1));
 
            default:
              break;
@@ -7364,7 +8096,11 @@ fold (tree expr)
        }
 
       /* Comparisons with the highest or lowest possible integer of
-        the specified size will have known values.  */
+        the specified size will have known values.
+
+        This is quite similar to fold_relational_hi_lo; however, my
+        attempts to share the code have been nothing but trouble.
+        I give up for now.  */
       {
        int width = GET_MODE_BITSIZE (TYPE_MODE (TREE_TYPE (arg1)));
 
@@ -7395,20 +8131,16 @@ fold (tree expr)
              switch (code)
                {
                case GT_EXPR:
-                 return omit_one_operand (type,
-                                          fold_convert (type,
-                                                        integer_zero_node),
-                                          arg0);
+                 return omit_one_operand (type, integer_zero_node, arg0);
+
                case GE_EXPR:
-                 return fold (build (EQ_EXPR, type, arg0, arg1));
+                 return fold (build2 (EQ_EXPR, type, arg0, arg1));
 
                case LE_EXPR:
-                 return omit_one_operand (type,
-                                          fold_convert (type,
-                                                        integer_one_node),
-                                          arg0);
+                 return omit_one_operand (type, integer_one_node, arg0);
+
                case LT_EXPR:
-                 return fold (build (NE_EXPR, type, arg0, arg1));
+                 return fold (build2 (NE_EXPR, type, arg0, arg1));
 
                /* The GE_EXPR and LT_EXPR cases above are not normally
                   reached because of previous transformations.  */
@@ -7422,10 +8154,10 @@ fold (tree expr)
                {
                case GT_EXPR:
                  arg1 = const_binop (PLUS_EXPR, arg1, integer_one_node, 0);
-                 return fold (build (EQ_EXPR, type, arg0, arg1));
+                 return fold (build2 (EQ_EXPR, type, arg0, arg1));
                case LE_EXPR:
                  arg1 = const_binop (PLUS_EXPR, arg1, integer_one_node, 0);
-                 return fold (build (NE_EXPR, type, arg0, arg1));
+                 return fold (build2 (NE_EXPR, type, arg0, arg1));
                default:
                  break;
                }
@@ -7434,20 +8166,16 @@ fold (tree expr)
              switch (code)
                {
                case LT_EXPR:
-                 return omit_one_operand (type,
-                                          fold_convert (type,
-                                                        integer_zero_node),
-                                          arg0);
+                 return omit_one_operand (type, integer_zero_node, arg0);
+
                case LE_EXPR:
-                 return fold (build (EQ_EXPR, type, arg0, arg1));
+                 return fold (build2 (EQ_EXPR, type, arg0, arg1));
 
                case GE_EXPR:
-                 return omit_one_operand (type,
-                                          fold_convert (type,
-                                                        integer_one_node),
-                                          arg0);
+                 return omit_one_operand (type, integer_one_node, arg0);
+
                case GT_EXPR:
-                 return fold (build (NE_EXPR, type, arg0, arg1));
+                 return fold (build2 (NE_EXPR, type, arg0, arg1));
 
                default:
                  break;
@@ -7458,15 +8186,16 @@ fold (tree expr)
                {
                case GE_EXPR:
                  arg1 = const_binop (MINUS_EXPR, arg1, integer_one_node, 0);
-                 return fold (build (NE_EXPR, type, arg0, arg1));
+                 return fold (build2 (NE_EXPR, type, arg0, arg1));
                case LT_EXPR:
                  arg1 = const_binop (MINUS_EXPR, arg1, integer_one_node, 0);
-                 return fold (build (EQ_EXPR, type, arg0, arg1));
+                 return fold (build2 (EQ_EXPR, type, arg0, arg1));
                default:
                  break;
                }
 
-           else if (TREE_INT_CST_HIGH (arg1) == 0
+           else if (!in_gimple_form
+                    && TREE_INT_CST_HIGH (arg1) == 0
                     && TREE_INT_CST_LOW (arg1) == signed_max
                     && TYPE_UNSIGNED (TREE_TYPE (arg1))
                     /* signed_type does not work on pointer types.  */
@@ -7480,9 +8209,9 @@ fold (tree expr)
                    st0 = lang_hooks.types.signed_type (TREE_TYPE (arg0));
                    st1 = lang_hooks.types.signed_type (TREE_TYPE (arg1));
                    return fold
-                     (build (code == LE_EXPR ? GE_EXPR: LT_EXPR,
-                             type, fold_convert (st0, arg0),
-                             fold_convert (st1, integer_zero_node)));
+                     (build2 (code == LE_EXPR ? GE_EXPR: LT_EXPR,
+                              type, fold_convert (st0, arg0),
+                              fold_convert (st1, integer_zero_node)));
                  }
              }
          }
@@ -7500,7 +8229,7 @@ fold (tree expr)
                                      ? MINUS_EXPR : PLUS_EXPR,
                                      arg1, TREE_OPERAND (arg0, 1), 0))
          && ! TREE_CONSTANT_OVERFLOW (tem))
-       return fold (build (code, type, TREE_OPERAND (arg0, 0), tem));
+       return fold (build2 (code, type, TREE_OPERAND (arg0, 0), tem));
 
       /* Similarly for a NEGATE_EXPR.  */
       else if ((code == EQ_EXPR || code == NE_EXPR)
@@ -7509,14 +8238,14 @@ fold (tree expr)
               && 0 != (tem = negate_expr (arg1))
               && TREE_CODE (tem) == INTEGER_CST
               && ! TREE_CONSTANT_OVERFLOW (tem))
-       return fold (build (code, type, TREE_OPERAND (arg0, 0), tem));
+       return fold (build2 (code, type, TREE_OPERAND (arg0, 0), tem));
 
       /* If we have X - Y == 0, we can convert that to X == Y and similarly
         for !=.  Don't do this for ordered comparisons due to overflow.  */
       else if ((code == NE_EXPR || code == EQ_EXPR)
               && integer_zerop (arg1) && TREE_CODE (arg0) == MINUS_EXPR)
-       return fold (build (code, type,
-                           TREE_OPERAND (arg0, 0), TREE_OPERAND (arg0, 1)));
+       return fold (build2 (code, type,
+                            TREE_OPERAND (arg0, 0), TREE_OPERAND (arg0, 1)));
 
       /* If we are widening one operand of an integer comparison,
         see if the other operand is similarly being widened.  Perhaps we
@@ -7531,8 +8260,8 @@ fold (tree expr)
               && (TREE_TYPE (t1) == TREE_TYPE (tem)
                   || (TREE_CODE (t1) == INTEGER_CST
                       && int_fits_type_p (t1, TREE_TYPE (tem)))))
-       return fold (build (code, type, tem,
-                           fold_convert (TREE_TYPE (tem), t1)));
+       return fold (build2 (code, type, tem,
+                            fold_convert (TREE_TYPE (tem), t1)));
 
       /* If this is comparing a constant with a MIN_EXPR or a MAX_EXPR of a
         constant, we can simplify it.  */
@@ -7553,10 +8282,11 @@ fold (tree expr)
               && (0 != (tem = negate_expr (arg1)))
               && TREE_CODE (tem) == INTEGER_CST
               && ! TREE_CONSTANT_OVERFLOW (tem))
-       return fold (build (TRUTH_ANDIF_EXPR, type,
-                           build (GE_EXPR, type, TREE_OPERAND (arg0, 0), tem),
-                           build (LE_EXPR, type,
-                                  TREE_OPERAND (arg0, 0), arg1)));
+       return fold (build2 (TRUTH_ANDIF_EXPR, type,
+                            build2 (GE_EXPR, type,
+                                    TREE_OPERAND (arg0, 0), tem),
+                            build2 (LE_EXPR, type,
+                                    TREE_OPERAND (arg0, 0), arg1)));
 
       /* If this is an EQ or NE comparison with zero and ARG0 is
         (1 << foo) & bar, convert it to (bar >> foo) & 1.  Both require
@@ -7566,30 +8296,28 @@ fold (tree expr)
       if (integer_zerop (arg1) && (code == EQ_EXPR || code == NE_EXPR)
          && TREE_CODE (arg0) == BIT_AND_EXPR)
        {
-         if (TREE_CODE (TREE_OPERAND (arg0, 0)) == LSHIFT_EXPR
-             && integer_onep (TREE_OPERAND (TREE_OPERAND (arg0, 0), 0)))
+         tree arg00 = TREE_OPERAND (arg0, 0);
+         tree arg01 = TREE_OPERAND (arg0, 1);
+         if (TREE_CODE (arg00) == LSHIFT_EXPR
+             && integer_onep (TREE_OPERAND (arg00, 0)))
            return
-             fold (build (code, type,
-                          build (BIT_AND_EXPR, TREE_TYPE (arg0),
-                                 build (RSHIFT_EXPR,
-                                        TREE_TYPE (TREE_OPERAND (arg0, 0)),
-                                        TREE_OPERAND (arg0, 1),
-                                        TREE_OPERAND (TREE_OPERAND (arg0, 0), 1)),
-                                 fold_convert (TREE_TYPE (arg0),
-                                               integer_one_node)),
-                          arg1));
+             fold (build2 (code, type,
+                           build2 (BIT_AND_EXPR, TREE_TYPE (arg0),
+                                   build2 (RSHIFT_EXPR, TREE_TYPE (arg00),
+                                           arg01, TREE_OPERAND (arg00, 1)),
+                                   fold_convert (TREE_TYPE (arg0),
+                                                 integer_one_node)),
+                           arg1));
          else if (TREE_CODE (TREE_OPERAND (arg0, 1)) == LSHIFT_EXPR
                   && integer_onep (TREE_OPERAND (TREE_OPERAND (arg0, 1), 0)))
            return
-             fold (build (code, type,
-                          build (BIT_AND_EXPR, TREE_TYPE (arg0),
-                                 build (RSHIFT_EXPR,
-                                        TREE_TYPE (TREE_OPERAND (arg0, 1)),
-                                        TREE_OPERAND (arg0, 0),
-                                        TREE_OPERAND (TREE_OPERAND (arg0, 1), 1)),
-                                 fold_convert (TREE_TYPE (arg0),
-                                               integer_one_node)),
-                          arg1));
+             fold (build2 (code, type,
+                           build2 (BIT_AND_EXPR, TREE_TYPE (arg0),
+                                   build2 (RSHIFT_EXPR, TREE_TYPE (arg01),
+                                           arg00, TREE_OPERAND (arg01, 1)),
+                                   fold_convert (TREE_TYPE (arg0),
+                                                 integer_one_node)),
+                           arg1));
        }
 
       /* If this is an NE or EQ comparison of zero against the result of a
@@ -7605,13 +8333,14 @@ fold (tree expr)
          && integer_pow2p (TREE_OPERAND (arg0, 1)))
        {
          tree newtype = lang_hooks.types.unsigned_type (TREE_TYPE (arg0));
-         tree newmod = build (TREE_CODE (arg0), newtype,
-                              fold_convert (newtype,
-                                            TREE_OPERAND (arg0, 0)),
-                              fold_convert (newtype,
-                                            TREE_OPERAND (arg0, 1)));
+         tree newmod = fold (build2 (TREE_CODE (arg0), newtype,
+                                     fold_convert (newtype,
+                                                   TREE_OPERAND (arg0, 0)),
+                                     fold_convert (newtype,
+                                                   TREE_OPERAND (arg0, 1))));
 
-         return build (code, type, newmod, fold_convert (newtype, arg1));
+         return fold (build2 (code, type, newmod,
+                              fold_convert (newtype, arg1)));
        }
 
       /* If this is an NE comparison of zero with an AND of one, remove the
@@ -7627,8 +8356,9 @@ fold (tree expr)
          && TREE_CODE (arg0) == BIT_AND_EXPR
          && integer_pow2p (TREE_OPERAND (arg0, 1))
          && operand_equal_p (TREE_OPERAND (arg0, 1), arg1, 0))
-       return fold (build (code == EQ_EXPR ? NE_EXPR : EQ_EXPR, type,
-                           arg0, integer_zero_node));
+       return fold (build2 (code == EQ_EXPR ? NE_EXPR : EQ_EXPR, type,
+                            arg0, fold_convert (TREE_TYPE (arg0),
+                                                integer_zero_node)));
 
       /* If we have (A & C) != 0 or (A & C) == 0 and C is a power of
         2, then fold the expression into shifts and logical operations.  */
@@ -7644,10 +8374,10 @@ fold (tree expr)
          && TREE_CODE (TREE_OPERAND (arg0, 1)) == INTEGER_CST)
        {
          tree dandnotc
-           = fold (build (BIT_AND_EXPR, TREE_TYPE (arg0),
-                          arg1, build1 (BIT_NOT_EXPR,
-                                        TREE_TYPE (TREE_OPERAND (arg0, 1)),
-                                        TREE_OPERAND (arg0, 1))));
+           = fold (build2 (BIT_AND_EXPR, TREE_TYPE (arg0),
+                           arg1, build1 (BIT_NOT_EXPR,
+                                         TREE_TYPE (TREE_OPERAND (arg0, 1)),
+                                         TREE_OPERAND (arg0, 1))));
          tree rslt = code == EQ_EXPR ? integer_zero_node : integer_one_node;
          if (integer_nonzerop (dandnotc))
            return omit_one_operand (type, rslt, arg0);
@@ -7661,9 +8391,9 @@ fold (tree expr)
          && TREE_CODE (TREE_OPERAND (arg0, 1)) == INTEGER_CST)
        {
          tree candnotd
-           = fold (build (BIT_AND_EXPR, TREE_TYPE (arg0),
-                          TREE_OPERAND (arg0, 1),
-                          build1 (BIT_NOT_EXPR, TREE_TYPE (arg1), arg1)));
+           = fold (build2 (BIT_AND_EXPR, TREE_TYPE (arg0),
+                           TREE_OPERAND (arg0, 1),
+                           build1 (BIT_NOT_EXPR, TREE_TYPE (arg1), arg1)));
          tree rslt = code == EQ_EXPR ? integer_zero_node : integer_one_node;
          if (integer_nonzerop (candnotd))
            return omit_one_operand (type, rslt, arg0);
@@ -7675,10 +8405,10 @@ fold (tree expr)
          && TYPE_UNSIGNED (TREE_TYPE (arg0))
          && TREE_CODE (arg1) == LSHIFT_EXPR
          && integer_onep (TREE_OPERAND (arg1, 0)))
-       return build (code == LT_EXPR ? EQ_EXPR : NE_EXPR, type,
-                     build (RSHIFT_EXPR, TREE_TYPE (arg0), arg0,
-                            TREE_OPERAND (arg1, 1)),
-                     fold_convert (TREE_TYPE (arg0), integer_zero_node));
+       return build2 (code == LT_EXPR ? EQ_EXPR : NE_EXPR, type,
+                      build2 (RSHIFT_EXPR, TREE_TYPE (arg0), arg0,
+                              TREE_OPERAND (arg1, 1)),
+                      fold_convert (TREE_TYPE (arg0), integer_zero_node));
 
       else if ((code == LT_EXPR || code == GE_EXPR)
               && TYPE_UNSIGNED (TREE_TYPE (arg0))
@@ -7687,12 +8417,12 @@ fold (tree expr)
               && TREE_CODE (TREE_OPERAND (arg1, 0)) == LSHIFT_EXPR
               && integer_onep (TREE_OPERAND (TREE_OPERAND (arg1, 0), 0)))
        return
-         build (code == LT_EXPR ? EQ_EXPR : NE_EXPR, type,
-                fold_convert (TREE_TYPE (arg0),
-                              build (RSHIFT_EXPR, TREE_TYPE (arg0), arg0,
-                                     TREE_OPERAND (TREE_OPERAND (arg1, 0),
-                                                   1))),
-                fold_convert (TREE_TYPE (arg0), integer_zero_node));
+         build2 (code == LT_EXPR ? EQ_EXPR : NE_EXPR, type,
+                 fold_convert (TREE_TYPE (arg0),
+                               build2 (RSHIFT_EXPR, TREE_TYPE (arg0), arg0,
+                                       TREE_OPERAND (TREE_OPERAND (arg1, 0),
+                                                     1))),
+                 fold_convert (TREE_TYPE (arg0), integer_zero_node));
 
       /* Simplify comparison of something with itself.  (For IEEE
         floating-point, we can only do some of these simplifications.)  */
@@ -7711,7 +8441,7 @@ fold (tree expr)
              if (! FLOAT_TYPE_P (TREE_TYPE (arg0))
                  || ! HONOR_NANS (TYPE_MODE (TREE_TYPE (arg0))))
                return constant_boolean_node (1, type);
-             return fold (build (EQ_EXPR, type, arg0, arg1));
+             return fold (build2 (EQ_EXPR, type, arg0, arg1));
 
            case NE_EXPR:
              /* For NE, we can only do this simplification if integer
@@ -7724,7 +8454,7 @@ fold (tree expr)
            case LT_EXPR:
              return constant_boolean_node (0, type);
            default:
-             abort ();
+             gcc_unreachable ();
            }
        }
 
@@ -7765,17 +8495,20 @@ fold (tree expr)
                 was the same as ARG1.  */
 
              tree high_result
-               = fold (build (code, type,
-                              eval_subst (arg0, cval1, maxval, cval2, minval),
-                              arg1));
+               = fold (build2 (code, type,
+                               eval_subst (arg0, cval1, maxval,
+                                           cval2, minval),
+                               arg1));
              tree equal_result
-               = fold (build (code, type,
-                              eval_subst (arg0, cval1, maxval, cval2, maxval),
-                              arg1));
+               = fold (build2 (code, type,
+                               eval_subst (arg0, cval1, maxval,
+                                           cval2, maxval),
+                               arg1));
              tree low_result
-               = fold (build (code, type,
-                              eval_subst (arg0, cval1, minval, cval2, maxval),
-                              arg1));
+               = fold (build2 (code, type,
+                               eval_subst (arg0, cval1, minval,
+                                           cval2, maxval),
+                               arg1));
 
              /* All three of these results should be 0 or 1.  Confirm they
                 are.  Then use those values to select the proper code
@@ -7820,7 +8553,7 @@ fold (tree expr)
                      return omit_one_operand (type, integer_one_node, arg0);
                    }
 
-                 tem = build (code, type, cval1, cval2);
+                 tem = build2 (code, type, cval1, cval2);
                  if (save_p)
                    return save_expr (tem);
                  else
@@ -7864,11 +8597,11 @@ fold (tree expr)
          real1 = fold (build1 (REALPART_EXPR, subtype, arg1));
          imag1 = fold (build1 (IMAGPART_EXPR, subtype, arg1));
 
-         return fold (build ((code == EQ_EXPR ? TRUTH_ANDIF_EXPR
-                              : TRUTH_ORIF_EXPR),
-                             type,
-                             fold (build (code, type, real0, real1)),
-                             fold (build (code, type, imag0, imag1))));
+         return fold (build2 ((code == EQ_EXPR ? TRUTH_ANDIF_EXPR
+                               : TRUTH_ORIF_EXPR),
+                              type,
+                              fold (build2 (code, type, real0, real1)),
+                              fold (build2 (code, type, imag0, imag1))));
        }
 
       /* Optimize comparisons of strlen vs zero to a compare of the
@@ -7891,15 +8624,98 @@ fold (tree expr)
              && (arglist = TREE_OPERAND (arg0, 1))
              && TREE_CODE (TREE_TYPE (TREE_VALUE (arglist))) == POINTER_TYPE
              && ! TREE_CHAIN (arglist))
-           return fold (build (code, type,
-                               build1 (INDIRECT_REF, char_type_node,
-                                       TREE_VALUE(arglist)),
-                               integer_zero_node));
+           return fold (build2 (code, type,
+                                build1 (INDIRECT_REF, char_type_node,
+                                        TREE_VALUE (arglist)),
+                                fold_convert (char_type_node,
+                                              integer_zero_node)));
+       }
+
+      /* We can fold X/C1 op C2 where C1 and C2 are integer constants
+        into a single range test.  */
+      if (TREE_CODE (arg0) == TRUNC_DIV_EXPR
+         && TREE_CODE (arg1) == INTEGER_CST
+         && TREE_CODE (TREE_OPERAND (arg0, 1)) == INTEGER_CST
+         && !integer_zerop (TREE_OPERAND (arg0, 1))
+         && !TREE_OVERFLOW (TREE_OPERAND (arg0, 1))
+         && !TREE_OVERFLOW (arg1))
+       {
+         t1 = fold_div_compare (code, type, arg0, arg1);
+         if (t1 != NULL_TREE)
+           return t1;
        }
 
-      /* Both ARG0 and ARG1 are known to be constants at this point.  */
+      if ((code == EQ_EXPR || code == NE_EXPR)
+         && !TREE_SIDE_EFFECTS (arg0)
+         && integer_zerop (arg1)
+         && tree_expr_nonzero_p (arg0))
+       return constant_boolean_node (code==NE_EXPR, type);
+
       t1 = fold_relational_const (code, type, arg0, arg1);
-      return (t1 == NULL_TREE ? t : t1);
+      return t1 == NULL_TREE ? t : t1;
+
+    case UNORDERED_EXPR:
+    case ORDERED_EXPR:
+    case UNLT_EXPR:
+    case UNLE_EXPR:
+    case UNGT_EXPR:
+    case UNGE_EXPR:
+    case UNEQ_EXPR:
+    case LTGT_EXPR:
+      if (TREE_CODE (arg0) == REAL_CST && TREE_CODE (arg1) == REAL_CST)
+       {
+         t1 = fold_relational_const (code, type, arg0, arg1);
+         if (t1 != NULL_TREE)
+           return t1;
+       }
+
+      /* If the first operand is NaN, the result is constant.  */
+      if (TREE_CODE (arg0) == REAL_CST
+         && REAL_VALUE_ISNAN (TREE_REAL_CST (arg0))
+         && (code != LTGT_EXPR || ! flag_trapping_math))
+       {
+         t1 = (code == ORDERED_EXPR || code == LTGT_EXPR)
+              ? integer_zero_node
+              : integer_one_node;
+         return omit_one_operand (type, t1, arg1);
+       }
+
+      /* If the second operand is NaN, the result is constant.  */
+      if (TREE_CODE (arg1) == REAL_CST
+         && REAL_VALUE_ISNAN (TREE_REAL_CST (arg1))
+         && (code != LTGT_EXPR || ! flag_trapping_math))
+       {
+         t1 = (code == ORDERED_EXPR || code == LTGT_EXPR)
+              ? integer_zero_node
+              : integer_one_node;
+         return omit_one_operand (type, t1, arg0);
+       }
+
+      /* Simplify unordered comparison of something with itself.  */
+      if ((code == UNLE_EXPR || code == UNGE_EXPR || code == UNEQ_EXPR)
+         && operand_equal_p (arg0, arg1, 0))
+       return constant_boolean_node (1, type);
+
+      if (code == LTGT_EXPR
+         && !flag_trapping_math
+         && operand_equal_p (arg0, arg1, 0))
+       return constant_boolean_node (0, type);
+
+      /* Fold (double)float1 CMP (double)float2 into float1 CMP float2.  */
+      {
+       tree targ0 = strip_float_extensions (arg0);
+       tree targ1 = strip_float_extensions (arg1);
+       tree newtype = TREE_TYPE (targ0);
+
+       if (TYPE_PRECISION (TREE_TYPE (targ1)) > TYPE_PRECISION (newtype))
+         newtype = TREE_TYPE (targ1);
+
+       if (TYPE_PRECISION (newtype) < TYPE_PRECISION (TREE_TYPE (arg0)))
+         return fold (build2 (code, type, fold_convert (newtype, targ0),
+                              fold_convert (newtype, targ1)));
+      }
+
+      return t;
 
     case COND_EXPR:
       /* Pedantic ANSI C says that a conditional expression is never an lvalue,
@@ -7921,219 +8737,36 @@ fold (tree expr)
       /* If we have A op B ? A : C, we may be able to convert this to a
         simpler expression, depending on the operation and the values
         of B and C.  Signed zeros prevent all of these transformations,
-        for reasons given above each one.  */
+        for reasons given above each one.
 
+         Also try swapping the arguments and inverting the conditional.  */
       if (TREE_CODE_CLASS (TREE_CODE (arg0)) == '<'
          && operand_equal_for_comparison_p (TREE_OPERAND (arg0, 0),
                                             arg1, TREE_OPERAND (arg0, 1))
          && !HONOR_SIGNED_ZEROS (TYPE_MODE (TREE_TYPE (arg1))))
        {
-         tree arg2 = TREE_OPERAND (t, 2);
-         enum tree_code comp_code = TREE_CODE (arg0);
-
-         STRIP_NOPS (arg2);
-
-         /* If we have A op 0 ? A : -A, consider applying the following
-            transformations:
-
-            A == 0? A : -A    same as -A
-            A != 0? A : -A    same as A
-            A >= 0? A : -A    same as abs (A)
-            A > 0?  A : -A    same as abs (A)
-            A <= 0? A : -A    same as -abs (A)
-            A < 0?  A : -A    same as -abs (A)
-
-            None of these transformations work for modes with signed
-            zeros.  If A is +/-0, the first two transformations will
-            change the sign of the result (from +0 to -0, or vice
-            versa).  The last four will fix the sign of the result,
-            even though the original expressions could be positive or
-            negative, depending on the sign of A.
-
-            Note that all these transformations are correct if A is
-            NaN, since the two alternatives (A and -A) are also NaNs.  */
-         if ((FLOAT_TYPE_P (TREE_TYPE (TREE_OPERAND (arg0, 1)))
-              ? real_zerop (TREE_OPERAND (arg0, 1))
-              : integer_zerop (TREE_OPERAND (arg0, 1)))
-             && TREE_CODE (arg2) == NEGATE_EXPR
-             && operand_equal_p (TREE_OPERAND (arg2, 0), arg1, 0))
-           switch (comp_code)
-             {
-             case EQ_EXPR:
-               tem = fold_convert (TREE_TYPE (TREE_OPERAND (t, 1)), arg1);
-               tem = fold_convert (type, negate_expr (tem));
-               return pedantic_non_lvalue (tem);
-             case NE_EXPR:
-               return pedantic_non_lvalue (fold_convert (type, arg1));
-             case GE_EXPR:
-             case GT_EXPR:
-               if (TYPE_UNSIGNED (TREE_TYPE (arg1)))
-                 arg1 = fold_convert (lang_hooks.types.signed_type
-                                      (TREE_TYPE (arg1)), arg1);
-               arg1 = fold (build1 (ABS_EXPR, TREE_TYPE (arg1), arg1));
-               return pedantic_non_lvalue (fold_convert (type, arg1));
-             case LE_EXPR:
-             case LT_EXPR:
-               if (TYPE_UNSIGNED (TREE_TYPE (arg1)))
-                 arg1 = fold_convert (lang_hooks.types.signed_type
-                                      (TREE_TYPE (arg1)), arg1);
-               arg1 = fold (build1 (ABS_EXPR, TREE_TYPE (arg1), arg1));
-               arg1 = negate_expr (fold_convert (type, arg1));
-               return pedantic_non_lvalue (arg1);
-             default:
-               abort ();
-             }
-
-         /* A != 0 ? A : 0 is simply A, unless A is -0.  Likewise
-            A == 0 ? A : 0 is always 0 unless A is -0.  Note that
-            both transformations are correct when A is NaN: A != 0
-            is then true, and A == 0 is false.  */
-
-         if (integer_zerop (TREE_OPERAND (arg0, 1)) && integer_zerop (arg2))
-           {
-             if (comp_code == NE_EXPR)
-               return pedantic_non_lvalue (fold_convert (type, arg1));
-             else if (comp_code == EQ_EXPR)
-               return pedantic_non_lvalue (fold_convert (type, integer_zero_node));
-           }
+         tem = fold_cond_expr_with_comparison (type, arg0,
+                                               TREE_OPERAND (t, 1),
+                                               TREE_OPERAND (t, 2));
+         if (tem)
+           return tem;
+       }
 
-         /* Try some transformations of A op B ? A : B.
-
-            A == B? A : B    same as B
-            A != B? A : B    same as A
-            A >= B? A : B    same as max (A, B)
-            A > B?  A : B    same as max (B, A)
-            A <= B? A : B    same as min (A, B)
-            A < B?  A : B    same as min (B, A)
-
-            As above, these transformations don't work in the presence
-            of signed zeros.  For example, if A and B are zeros of
-            opposite sign, the first two transformations will change
-            the sign of the result.  In the last four, the original
-            expressions give different results for (A=+0, B=-0) and
-            (A=-0, B=+0), but the transformed expressions do not.
-
-            The first two transformations are correct if either A or B
-            is a NaN.  In the first transformation, the condition will
-            be false, and B will indeed be chosen.  In the case of the
-            second transformation, the condition A != B will be true,
-            and A will be chosen.
-
-            The conversions to max() and min() are not correct if B is
-            a number and A is not.  The conditions in the original
-            expressions will be false, so all four give B.  The min()
-            and max() versions would give a NaN instead.  */
-         if (operand_equal_for_comparison_p (TREE_OPERAND (arg0, 1),
-                                             arg2, TREE_OPERAND (arg0, 0)))
+      if (TREE_CODE_CLASS (TREE_CODE (arg0)) == '<'
+         && operand_equal_for_comparison_p (TREE_OPERAND (arg0, 0),
+                                            TREE_OPERAND (t, 2),
+                                            TREE_OPERAND (arg0, 1))
+         && !HONOR_SIGNED_ZEROS (TYPE_MODE (TREE_TYPE (TREE_OPERAND (t, 2)))))
+       {
+         tem = invert_truthvalue (arg0);
+         if (TREE_CODE_CLASS (TREE_CODE (tem)) == '<')
            {
-             tree comp_op0 = TREE_OPERAND (arg0, 0);
-             tree comp_op1 = TREE_OPERAND (arg0, 1);
-             tree comp_type = TREE_TYPE (comp_op0);
-
-             /* Avoid adding NOP_EXPRs in case this is an lvalue.  */
-             if (TYPE_MAIN_VARIANT (comp_type) == TYPE_MAIN_VARIANT (type))
-               {
-                 comp_type = type;
-                 comp_op0 = arg1;
-                 comp_op1 = arg2;
-               }
-
-             switch (comp_code)
-               {
-               case EQ_EXPR:
-                 return pedantic_non_lvalue (fold_convert (type, arg2));
-               case NE_EXPR:
-                 return pedantic_non_lvalue (fold_convert (type, arg1));
-               case LE_EXPR:
-               case LT_EXPR:
-                 /* In C++ a ?: expression can be an lvalue, so put the
-                    operand which will be used if they are equal first
-                    so that we can convert this back to the
-                    corresponding COND_EXPR.  */
-                 if (!HONOR_NANS (TYPE_MODE (TREE_TYPE (arg1))))
-                   return pedantic_non_lvalue (fold_convert
-                     (type, fold (build (MIN_EXPR, comp_type,
-                                         (comp_code == LE_EXPR
-                                          ? comp_op0 : comp_op1),
-                                         (comp_code == LE_EXPR
-                                          ? comp_op1 : comp_op0)))));
-                 break;
-               case GE_EXPR:
-               case GT_EXPR:
-                 if (!HONOR_NANS (TYPE_MODE (TREE_TYPE (arg1))))
-                   return pedantic_non_lvalue (fold_convert
-                     (type, fold (build (MAX_EXPR, comp_type,
-                                         (comp_code == GE_EXPR
-                                          ? comp_op0 : comp_op1),
-                                         (comp_code == GE_EXPR
-                                          ? comp_op1 : comp_op0)))));
-                 break;
-               default:
-                 abort ();
-               }
+             tem = fold_cond_expr_with_comparison (type, tem,
+                                                   TREE_OPERAND (t, 2),
+                                                   TREE_OPERAND (t, 1));
+             if (tem)
+               return tem;
            }
-
-         /* If this is A op C1 ? A : C2 with C1 and C2 constant integers,
-            we might still be able to simplify this.  For example,
-            if C1 is one less or one more than C2, this might have started
-            out as a MIN or MAX and been transformed by this function.
-            Only good for INTEGER_TYPEs, because we need TYPE_MAX_VALUE.  */
-
-         if (INTEGRAL_TYPE_P (type)
-             && TREE_CODE (TREE_OPERAND (arg0, 1)) == INTEGER_CST
-             && TREE_CODE (arg2) == INTEGER_CST)
-           switch (comp_code)
-             {
-             case EQ_EXPR:
-               /* We can replace A with C1 in this case.  */
-               arg1 = fold_convert (type, TREE_OPERAND (arg0, 1));
-               return fold (build (code, type, TREE_OPERAND (t, 0), arg1,
-                                   TREE_OPERAND (t, 2)));
-
-             case LT_EXPR:
-               /* If C1 is C2 + 1, this is min(A, C2).  */
-               if (! operand_equal_p (arg2, TYPE_MAX_VALUE (type), 1)
-                   && operand_equal_p (TREE_OPERAND (arg0, 1),
-                                       const_binop (PLUS_EXPR, arg2,
-                                                    integer_one_node, 0), 1))
-                 return pedantic_non_lvalue
-                   (fold (build (MIN_EXPR, type, arg1, arg2)));
-               break;
-
-             case LE_EXPR:
-               /* If C1 is C2 - 1, this is min(A, C2).  */
-               if (! operand_equal_p (arg2, TYPE_MIN_VALUE (type), 1)
-                   && operand_equal_p (TREE_OPERAND (arg0, 1),
-                                       const_binop (MINUS_EXPR, arg2,
-                                                    integer_one_node, 0), 1))
-                 return pedantic_non_lvalue
-                   (fold (build (MIN_EXPR, type, arg1, arg2)));
-               break;
-
-             case GT_EXPR:
-               /* If C1 is C2 - 1, this is max(A, C2).  */
-               if (! operand_equal_p (arg2, TYPE_MIN_VALUE (type), 1)
-                   && operand_equal_p (TREE_OPERAND (arg0, 1),
-                                       const_binop (MINUS_EXPR, arg2,
-                                                    integer_one_node, 0), 1))
-                 return pedantic_non_lvalue
-                   (fold (build (MAX_EXPR, type, arg1, arg2)));
-               break;
-
-             case GE_EXPR:
-               /* If C1 is C2 + 1, this is max(A, C2).  */
-               if (! operand_equal_p (arg2, TYPE_MAX_VALUE (type), 1)
-                   && operand_equal_p (TREE_OPERAND (arg0, 1),
-                                       const_binop (PLUS_EXPR, arg2,
-                                                    integer_one_node, 0), 1))
-                 return pedantic_non_lvalue
-                   (fold (build (MAX_EXPR, type, arg1, arg2)));
-               break;
-             case NE_EXPR:
-               break;
-             default:
-               abort ();
-             }
        }
 
       /* If the second operand is simpler than the third, swap them
@@ -8147,8 +8780,8 @@ fold (tree expr)
          tem = invert_truthvalue (arg0);
 
          if (TREE_CODE (tem) != TRUTH_NOT_EXPR)
-           return fold (build (code, type, tem,
-                        TREE_OPERAND (t, 2), TREE_OPERAND (t, 1)));
+           return fold (build3 (code, type, tem,
+                                TREE_OPERAND (t, 2), TREE_OPERAND (t, 1)));
        }
 
       /* Convert A ? 1 : 0 to simply A.  */
@@ -8169,16 +8802,42 @@ fold (tree expr)
        return pedantic_non_lvalue (fold_convert (type,
                                                  invert_truthvalue (arg0)));
 
-      /* Look for expressions of the form A & 2 ? 2 : 0.  The result of this
-        operation is simply A & 2.  */
+      /* A < 0 ? <sign bit of A> : 0 is simply (A & <sign bit of A>).  */
+      if (TREE_CODE (arg0) == LT_EXPR
+          && integer_zerop (TREE_OPERAND (arg0, 1))
+          && integer_zerop (TREE_OPERAND (t, 2))
+          && (tem = sign_bit_p (TREE_OPERAND (arg0, 0), arg1)))
+        return fold_convert (type, fold (build2 (BIT_AND_EXPR,
+                                                TREE_TYPE (tem), tem, arg1)));
 
+      /* (A >> N) & 1 ? (1 << N) : 0 is simply A & (1 << N).  A & 1 was
+        already handled above.  */
+      if (TREE_CODE (arg0) == BIT_AND_EXPR
+         && integer_onep (TREE_OPERAND (arg0, 1))
+         && integer_zerop (TREE_OPERAND (t, 2))
+         && integer_pow2p (arg1))
+       {
+         tree tem = TREE_OPERAND (arg0, 0);
+         STRIP_NOPS (tem);
+         if (TREE_CODE (tem) == RSHIFT_EXPR
+              && TREE_CODE (TREE_OPERAND (tem, 1)) == INTEGER_CST
+              && (unsigned HOST_WIDE_INT) tree_log2 (arg1) ==
+                TREE_INT_CST_LOW (TREE_OPERAND (tem, 1)))
+           return fold (build2 (BIT_AND_EXPR, type,
+                                TREE_OPERAND (tem, 0), arg1));
+       }
+
+      /* A & N ? N : 0 is simply A & N if N is a power of two.  This
+        is probably obsolete because the first operand should be a
+        truth value (that's why we have the two cases above), but let's
+        leave it in until we can confirm this for all front-ends.  */
       if (integer_zerop (TREE_OPERAND (t, 2))
          && TREE_CODE (arg0) == NE_EXPR
          && integer_zerop (TREE_OPERAND (arg0, 1))
          && integer_pow2p (arg1)
          && TREE_CODE (TREE_OPERAND (arg0, 0)) == BIT_AND_EXPR
          && operand_equal_p (TREE_OPERAND (TREE_OPERAND (arg0, 0), 1),
-                             arg1, 1))
+                             arg1, OEP_ONLY_CONST))
        return pedantic_non_lvalue (fold_convert (type,
                                                  TREE_OPERAND (arg0, 0)));
 
@@ -8186,8 +8845,7 @@ fold (tree expr)
       if (integer_zerop (TREE_OPERAND (t, 2))
          && truth_value_p (TREE_CODE (arg0))
          && truth_value_p (TREE_CODE (arg1)))
-       return pedantic_non_lvalue (fold (build (TRUTH_ANDIF_EXPR, type,
-                                                arg0, arg1)));
+       return fold (build2 (TRUTH_ANDIF_EXPR, type, arg0, arg1));
 
       /* Convert A ? B : 1 into !A || B if A and B are truth values.  */
       if (integer_onep (TREE_OPERAND (t, 2))
@@ -8197,10 +8855,28 @@ fold (tree expr)
          /* Only perform transformation if ARG0 is easily inverted.  */
          tem = invert_truthvalue (arg0);
          if (TREE_CODE (tem) != TRUTH_NOT_EXPR)
-           return pedantic_non_lvalue (fold (build (TRUTH_ORIF_EXPR, type,
-                                                    tem, arg1)));
+           return fold (build2 (TRUTH_ORIF_EXPR, type, tem, arg1));
+       }
+
+      /* Convert A ? 0 : B into !A && B if A and B are truth values.  */
+      if (integer_zerop (arg1)
+         && truth_value_p (TREE_CODE (arg0))
+         && truth_value_p (TREE_CODE (TREE_OPERAND (t, 2))))
+       {
+         /* Only perform transformation if ARG0 is easily inverted.  */
+         tem = invert_truthvalue (arg0);
+         if (TREE_CODE (tem) != TRUTH_NOT_EXPR)
+           return fold (build2 (TRUTH_ANDIF_EXPR, type, tem,
+                                TREE_OPERAND (t, 2)));
        }
 
+      /* Convert A ? 1 : B into A || B if A and B are truth values.  */
+      if (integer_onep (arg1)
+         && truth_value_p (TREE_CODE (arg0))
+         && truth_value_p (TREE_CODE (TREE_OPERAND (t, 2))))
+       return fold (build2 (TRUTH_ORIF_EXPR, type, arg0,
+                            TREE_OPERAND (t, 2)));
+
       return t;
 
     case COMPOUND_EXPR:
@@ -8227,11 +8903,11 @@ fold (tree expr)
       else if (TREE_CODE (arg0) == COMPLEX_CST)
        return TREE_REALPART (arg0);
       else if (TREE_CODE (arg0) == PLUS_EXPR || TREE_CODE (arg0) == MINUS_EXPR)
-       return fold (build (TREE_CODE (arg0), type,
-                           fold (build1 (REALPART_EXPR, type,
-                                         TREE_OPERAND (arg0, 0))),
-                           fold (build1 (REALPART_EXPR,
-                                         type, TREE_OPERAND (arg0, 1)))));
+       return fold (build2 (TREE_CODE (arg0), type,
+                            fold (build1 (REALPART_EXPR, type,
+                                          TREE_OPERAND (arg0, 0))),
+                            fold (build1 (REALPART_EXPR, type,
+                                          TREE_OPERAND (arg0, 1)))));
       return t;
 
     case IMAGPART_EXPR:
@@ -8243,11 +8919,11 @@ fold (tree expr)
       else if (TREE_CODE (arg0) == COMPLEX_CST)
        return TREE_IMAGPART (arg0);
       else if (TREE_CODE (arg0) == PLUS_EXPR || TREE_CODE (arg0) == MINUS_EXPR)
-       return fold (build (TREE_CODE (arg0), type,
-                           fold (build1 (IMAGPART_EXPR, type,
-                                         TREE_OPERAND (arg0, 0))),
-                           fold (build1 (IMAGPART_EXPR, type,
-                                         TREE_OPERAND (arg0, 1)))));
+       return fold (build2 (TREE_CODE (arg0), type,
+                            fold (build1 (IMAGPART_EXPR, type,
+                                          TREE_OPERAND (arg0, 0))),
+                            fold (build1 (IMAGPART_EXPR, type,
+                                          TREE_OPERAND (arg0, 1)))));
       return t;
 
       /* Pull arithmetic ops out of the CLEANUP_POINT_EXPR where
@@ -8277,15 +8953,15 @@ fold (tree expr)
            if (TREE_CONSTANT (arg00)
                || ((code0 == TRUTH_ANDIF_EXPR || code0 == TRUTH_ORIF_EXPR)
                    && ! has_cleanups (arg00)))
-             return fold (build (code0, type, arg00,
-                                 fold (build1 (CLEANUP_POINT_EXPR,
-                                               TREE_TYPE (arg01), arg01))));
+             return fold (build2 (code0, type, arg00,
+                                  fold (build1 (CLEANUP_POINT_EXPR,
+                                                TREE_TYPE (arg01), arg01))));
 
            if (TREE_CONSTANT (arg01))
-             return fold (build (code0, type,
-                                 fold (build1 (CLEANUP_POINT_EXPR,
-                                               TREE_TYPE (arg00), arg00)),
-                                 arg01));
+             return fold (build2 (code0, type,
+                                  fold (build1 (CLEANUP_POINT_EXPR,
+                                                TREE_TYPE (arg00), arg00)),
+                                  arg01));
          }
 
        return t;
@@ -8298,7 +8974,7 @@ fold (tree expr)
              == FUNCTION_DECL)
          && DECL_BUILT_IN (TREE_OPERAND (TREE_OPERAND (t, 0), 0)))
        {
-         tree tmp = fold_builtin (t);
+         tree tmp = fold_builtin (t, false);
          if (tmp)
            return tmp;
        }
@@ -8378,10 +9054,9 @@ fold_checksum_tree (tree expr, struct md5_ctx *ctx, htab_t ht)
   char buf[sizeof (struct tree_decl)];
   int i, len;
 
-  if (sizeof (struct tree_exp) + 5 * sizeof (tree)
-      > sizeof (struct tree_decl)
-      || sizeof (struct tree_type) > sizeof (struct tree_decl))
-    abort ();
+  gcc_assert ((sizeof (struct tree_exp) + 5 * sizeof (tree)
+              <= sizeof (struct tree_decl))
+             && sizeof (struct tree_type) <= sizeof (struct tree_decl));
   if (expr == NULL)
     return;
   slot = htab_find_slot (ht, expr, INSERT);
@@ -8389,14 +9064,7 @@ fold_checksum_tree (tree expr, struct md5_ctx *ctx, htab_t ht)
     return;
   *slot = expr;
   code = TREE_CODE (expr);
-  if (code == SAVE_EXPR && SAVE_EXPR_NOPLACEHOLDER (expr))
-    {
-      /* Allow SAVE_EXPR_NOPLACEHOLDER flag to be modified.  */
-      memcpy (buf, expr, tree_size (expr));
-      expr = (tree) buf;
-      SAVE_EXPR_NOPLACEHOLDER (expr) = 0;
-    }
-  else if (TREE_CODE_CLASS (code) == 'd' && DECL_ASSEMBLER_NAME_SET_P (expr))
+  if (TREE_CODE_CLASS (code) == 'd' && DECL_ASSEMBLER_NAME_SET_P (expr))
     {
       /* Allow DECL_ASSEMBLER_NAME to be modified.  */
       memcpy (buf, expr, tree_size (expr));
@@ -8416,7 +9084,6 @@ fold_checksum_tree (tree expr, struct md5_ctx *ctx, htab_t ht)
   fold_checksum_tree (TREE_TYPE (expr), ctx, ht);
   if (TREE_CODE_CLASS (code) != 't' && TREE_CODE_CLASS (code) != 'd')
     fold_checksum_tree (TREE_CHAIN (expr), ctx, ht);
-  len = TREE_CODE_LENGTH (code);
   switch (TREE_CODE_CLASS (code))
     {
     case 'c':
@@ -8453,20 +9120,12 @@ fold_checksum_tree (tree expr, struct md5_ctx *ctx, htab_t ht)
        }
       break;
     case 'e':
-      switch (code)
-       {
-       case SAVE_EXPR: len = 2; break;
-       case GOTO_SUBROUTINE_EXPR: len = 0; break;
-       case RTL_EXPR: len = 0; break;
-       case WITH_CLEANUP_EXPR: len = 2; break;
-       default: break;
-       }
-      /* Fall through.  */
     case 'r':
     case '<':
     case '1':
     case '2':
     case 's':
+      len = first_rtl_op (code);
       for (i = 0; i < len; ++i)
        fold_checksum_tree (TREE_OPERAND (expr, i), ctx, ht);
       break;
@@ -8484,13 +9143,18 @@ fold_checksum_tree (tree expr, struct md5_ctx *ctx, htab_t ht)
       fold_checksum_tree (DECL_VINDEX (expr), ctx, ht);
       break;
     case 't':
-      fold_checksum_tree (TYPE_VALUES (expr), ctx, ht);
+      if (TREE_CODE (expr) == ENUMERAL_TYPE)
+        fold_checksum_tree (TYPE_VALUES (expr), ctx, ht);
       fold_checksum_tree (TYPE_SIZE (expr), ctx, ht);
       fold_checksum_tree (TYPE_SIZE_UNIT (expr), ctx, ht);
       fold_checksum_tree (TYPE_ATTRIBUTES (expr), ctx, ht);
       fold_checksum_tree (TYPE_NAME (expr), ctx, ht);
-      fold_checksum_tree (TYPE_MIN_VALUE (expr), ctx, ht);
-      fold_checksum_tree (TYPE_MAX_VALUE (expr), ctx, ht);
+      if (INTEGRAL_TYPE_P (expr)
+          || SCALAR_FLOAT_TYPE_P (expr))
+       {
+         fold_checksum_tree (TYPE_MIN_VALUE (expr), ctx, ht);
+         fold_checksum_tree (TYPE_MAX_VALUE (expr), ctx, ht);
+       }
       fold_checksum_tree (TYPE_MAIN_VARIANT (expr), ctx, ht);
       fold_checksum_tree (TYPE_BINFO (expr), ctx, ht);
       fold_checksum_tree (TYPE_CONTEXT (expr), ctx, ht);
@@ -8763,15 +9427,44 @@ tree_expr_nonnegative_p (tree t)
     case MODIFY_EXPR:
       return tree_expr_nonnegative_p (TREE_OPERAND (t, 1));
     case BIND_EXPR:
-      return tree_expr_nonnegative_p (TREE_OPERAND (t, 1));
+      return tree_expr_nonnegative_p (expr_last (TREE_OPERAND (t, 1)));
     case SAVE_EXPR:
       return tree_expr_nonnegative_p (TREE_OPERAND (t, 0));
     case NON_LVALUE_EXPR:
       return tree_expr_nonnegative_p (TREE_OPERAND (t, 0));
     case FLOAT_EXPR:
       return tree_expr_nonnegative_p (TREE_OPERAND (t, 0));
-    case RTL_EXPR:
-      return rtl_expr_nonnegative_p (RTL_EXPR_RTL (t));
+
+    case TARGET_EXPR:
+      {
+       tree temp = TARGET_EXPR_SLOT (t);
+       t = TARGET_EXPR_INITIAL (t);
+
+       /* If the initializer is non-void, then it's a normal expression
+          that will be assigned to the slot.  */
+       if (!VOID_TYPE_P (t))
+         return tree_expr_nonnegative_p (t);
+
+       /* Otherwise, the initializer sets the slot in some way.  One common
+          way is an assignment statement at the end of the initializer.  */
+       while (1)
+         {
+           if (TREE_CODE (t) == BIND_EXPR)
+             t = expr_last (BIND_EXPR_BODY (t));
+           else if (TREE_CODE (t) == TRY_FINALLY_EXPR
+                    || TREE_CODE (t) == TRY_CATCH_EXPR)
+             t = expr_last (TREE_OPERAND (t, 0));
+           else if (TREE_CODE (t) == STATEMENT_LIST)
+             t = expr_last (t);
+           else
+             break;
+         }
+       if (TREE_CODE (t) == MODIFY_EXPR
+           && TREE_OPERAND (t, 0) == temp)
+         return tree_expr_nonnegative_p (TREE_OPERAND (t, 1));
+
+       return 0;
+      }
 
     case CALL_EXPR:
       {
@@ -8800,13 +9493,18 @@ tree_expr_nonnegative_p (tree t)
            CASE_BUILTIN_F (BUILT_IN_FREXP)
            CASE_BUILTIN_F (BUILT_IN_HYPOT)
            CASE_BUILTIN_F (BUILT_IN_POW10)
-           CASE_BUILTIN_F (BUILT_IN_SQRT)
            CASE_BUILTIN_I (BUILT_IN_FFS)
            CASE_BUILTIN_I (BUILT_IN_PARITY)
            CASE_BUILTIN_I (BUILT_IN_POPCOUNT)
              /* Always true.  */
              return 1;
 
+           CASE_BUILTIN_F (BUILT_IN_SQRT)
+             /* sqrt(-0.0) is -0.0.  */
+             if (!HONOR_SIGNED_ZEROS (TYPE_MODE (TREE_TYPE (t))))
+               return 1;
+             return tree_expr_nonnegative_p (TREE_VALUE (arglist));
+
            CASE_BUILTIN_F (BUILT_IN_ASINH)
            CASE_BUILTIN_F (BUILT_IN_ATAN)
            CASE_BUILTIN_F (BUILT_IN_ATANH)
@@ -8833,17 +9531,17 @@ tree_expr_nonnegative_p (tree t)
              /* True if the 1st argument is nonnegative.  */
              return tree_expr_nonnegative_p (TREE_VALUE (arglist));
 
-           CASE_BUILTIN_F(BUILT_IN_FMAX)
+           CASE_BUILTIN_F (BUILT_IN_FMAX)
              /* True if the 1st OR 2nd arguments are nonnegative.  */
              return tree_expr_nonnegative_p (TREE_VALUE (arglist))
                || tree_expr_nonnegative_p (TREE_VALUE (TREE_CHAIN (arglist)));
 
-           CASE_BUILTIN_F(BUILT_IN_FMIN)
+           CASE_BUILTIN_F (BUILT_IN_FMIN)
              /* True if the 1st AND 2nd arguments are nonnegative.  */
              return tree_expr_nonnegative_p (TREE_VALUE (arglist))
                && tree_expr_nonnegative_p (TREE_VALUE (TREE_CHAIN (arglist)));
 
-           CASE_BUILTIN_F(BUILT_IN_COPYSIGN)
+           CASE_BUILTIN_F (BUILT_IN_COPYSIGN)
              /* True if the 2nd argument is nonnegative.  */
              return tree_expr_nonnegative_p (TREE_VALUE (TREE_CHAIN (arglist)));
 
@@ -8875,7 +9573,7 @@ tree_expr_nonzero_p (tree t)
 {
   tree type = TREE_TYPE (t);
 
-  /* Doing something usefull for floating point would need more work.  */
+  /* Doing something useful for floating point would need more work.  */
   if (!INTEGRAL_TYPE_P (type) && !POINTER_TYPE_P (type))
     return false;
 
@@ -8886,7 +9584,10 @@ tree_expr_nonzero_p (tree t)
        return tree_expr_nonzero_p (TREE_OPERAND (t, 0));
 
     case INTEGER_CST:
-      return !integer_zerop (t);
+      /* We used to test for !integer_zerop here.  This does not work correctly
+        if TREE_CONSTANT_OVERFLOW (t).  */
+      return (TREE_INT_CST_LOW (t) != 0
+             || TREE_INT_CST_HIGH (t) != 0);
 
     case PLUS_EXPR:
       if (!TYPE_UNSIGNED (type) && !flag_wrapv)
@@ -8921,11 +9622,22 @@ tree_expr_nonzero_p (tree t)
       break;
 
    case ADDR_EXPR:
-      /* Weak declarations may link to NULL.  */
-      if (DECL_P (TREE_OPERAND (t, 0)))
-       return !DECL_WEAK (TREE_OPERAND (t, 0));
-      /* Constants and all other cases are never weak.  */
-      return true;
+      {
+       tree base = get_base_address (TREE_OPERAND (t, 0));
+
+       if (!base)
+         return false;
+
+       /* Weak declarations may link to NULL.  */
+       if (DECL_P (base))
+         return !DECL_WEAK (base);
+
+       /* Constants are never weak.  */
+       if (TREE_CODE_CLASS (TREE_CODE (base)) == 'c')
+         return true;
+
+       return false;
+      }
 
     case COND_EXPR:
       return (tree_expr_nonzero_p (TREE_OPERAND (t, 1))
@@ -8970,103 +9682,641 @@ tree_expr_nonzero_p (tree t)
   return false;
 }
 
-/* Return true if `r' is known to be non-negative.
-   Only handles constants at the moment.  */
+/* See if we are applying CODE, a relational to the highest or lowest
+   possible integer of TYPE.  If so, then the result is a compile
+   time constant.  */
 
-int
-rtl_expr_nonnegative_p (rtx r)
+static tree
+fold_relational_hi_lo (enum tree_code *code_p, const tree type, tree *op0_p,
+                      tree *op1_p)
 {
-  switch (GET_CODE (r))
+  tree op0 = *op0_p;
+  tree op1 = *op1_p;
+  enum tree_code code = *code_p;
+  int width = GET_MODE_BITSIZE (TYPE_MODE (TREE_TYPE (op1)));
+
+  if (TREE_CODE (op1) == INTEGER_CST
+      && ! TREE_CONSTANT_OVERFLOW (op1)
+      && width <= HOST_BITS_PER_WIDE_INT
+      && (INTEGRAL_TYPE_P (TREE_TYPE (op1))
+         || POINTER_TYPE_P (TREE_TYPE (op1))))
     {
-    case CONST_INT:
-      return INTVAL (r) >= 0;
+      unsigned HOST_WIDE_INT signed_max;
+      unsigned HOST_WIDE_INT max, min;
 
-    case CONST_DOUBLE:
-      if (GET_MODE (r) == VOIDmode)
-       return CONST_DOUBLE_HIGH (r) >= 0;
-      return 0;
+      signed_max = ((unsigned HOST_WIDE_INT) 1 << (width - 1)) - 1;
 
-    case CONST_VECTOR:
-      {
-       int units, i;
-       rtx elt;
+      if (TYPE_UNSIGNED (TREE_TYPE (op1)))
+        {
+          max = ((unsigned HOST_WIDE_INT) 2 << (width - 1)) - 1;
+         min = 0;
+       }
+      else
+        {
+          max = signed_max;
+         min = ((unsigned HOST_WIDE_INT) -1 << (width - 1));
+       }
+
+      if (TREE_INT_CST_HIGH (op1) == 0
+         && TREE_INT_CST_LOW (op1) == max)
+       switch (code)
+         {
+         case GT_EXPR:
+           return omit_one_operand (type, integer_zero_node, op0);
+
+         case GE_EXPR:
+           *code_p = EQ_EXPR;
+           break;
+         case LE_EXPR:
+           return omit_one_operand (type, integer_one_node, op0);
+
+         case LT_EXPR:
+           *code_p = NE_EXPR;
+           break;
 
-       units = CONST_VECTOR_NUNITS (r);
+         /* The GE_EXPR and LT_EXPR cases above are not normally
+            reached because of  previous transformations.  */
 
-       for (i = 0; i < units; ++i)
+         default:
+           break;
+         }
+      else if (TREE_INT_CST_HIGH (op1) == 0
+              && TREE_INT_CST_LOW (op1) == max - 1)
+       switch (code)
          {
-           elt = CONST_VECTOR_ELT (r, i);
-           if (!rtl_expr_nonnegative_p (elt))
-             return 0;
+         case GT_EXPR:
+           *code_p = EQ_EXPR;
+           *op1_p = const_binop (PLUS_EXPR, op1, integer_one_node, 0);
+           break;
+         case LE_EXPR:
+           *code_p = NE_EXPR;
+           *op1_p = const_binop (PLUS_EXPR, op1, integer_one_node, 0);
+           break;
+         default:
+           break;
          }
+      else if (TREE_INT_CST_HIGH (op1) == (min ? -1 : 0)
+              && TREE_INT_CST_LOW (op1) == min)
+       switch (code)
+         {
+         case LT_EXPR:
+           return omit_one_operand (type, integer_zero_node, op0);
 
-       return 1;
-      }
+         case LE_EXPR:
+           *code_p = EQ_EXPR;
+           break;
 
-    case SYMBOL_REF:
-    case LABEL_REF:
-      /* These are always nonnegative.  */
-      return 1;
+         case GE_EXPR:
+           return omit_one_operand (type, integer_one_node, op0);
 
-    default:
-      return 0;
+         case GT_EXPR:
+           *code_p = NE_EXPR;
+           break;
+
+         default:
+           break;
+         }
+      else if (TREE_INT_CST_HIGH (op1) == (min ? -1 : 0)
+              && TREE_INT_CST_LOW (op1) == min + 1)
+       switch (code)
+         {
+         case GE_EXPR:
+           *code_p = NE_EXPR;
+           *op1_p = const_binop (MINUS_EXPR, op1, integer_one_node, 0);
+           break;
+         case LT_EXPR:
+           *code_p = EQ_EXPR;
+           *op1_p = const_binop (MINUS_EXPR, op1, integer_one_node, 0);
+           break;
+         default:
+           break;
+         }
+
+      else if (TREE_INT_CST_HIGH (op1) == 0
+              && TREE_INT_CST_LOW (op1) == signed_max
+              && TYPE_UNSIGNED (TREE_TYPE (op1))
+              /* signed_type does not work on pointer types.  */
+              && INTEGRAL_TYPE_P (TREE_TYPE (op1)))
+       {
+         /* The following case also applies to X < signed_max+1
+            and X >= signed_max+1 because previous transformations.  */
+         if (code == LE_EXPR || code == GT_EXPR)
+           {
+             tree st0, st1, exp, retval;
+             st0 = lang_hooks.types.signed_type (TREE_TYPE (op0));
+             st1 = lang_hooks.types.signed_type (TREE_TYPE (op1));
+
+             exp = build2 (code == LE_EXPR ? GE_EXPR: LT_EXPR,
+                           type,
+                           fold_convert (st0, op0),
+                           fold_convert (st1, integer_zero_node));
+
+             retval
+               = nondestructive_fold_binary_to_constant (TREE_CODE (exp),
+                                                         TREE_TYPE (exp),
+                                                         TREE_OPERAND (exp, 0),
+                                                         TREE_OPERAND (exp, 1));
+
+             /* If we are in gimple form, then returning EXP would create
+                non-gimple expressions.  Clearing it is safe and insures
+                we do not allow a non-gimple expression to escape.  */
+             if (in_gimple_form)
+               exp = NULL;
+
+             return (retval ? retval : exp);
+           }
+       }
     }
+
+  return NULL_TREE;
 }
 
-/* Return the tree for neg (ARG0) when ARG0 is known to be either
-   an integer constant or real constant.
 
-   TYPE is the type of the result.  */
+/* Given the components of a binary expression CODE, TYPE, OP0 and OP1,
+   attempt to fold the expression to a constant without modifying TYPE,
+   OP0 or OP1.
 
-static tree
-fold_negate_const (tree arg0, tree type)
+   If the expression could be simplified to a constant, then return
+   the constant.  If the expression would not be simplified to a
+   constant, then return NULL_TREE.
+
+   Note this is primarily designed to be called after gimplification
+   of the tree structures and when at least one operand is a constant.
+   As a result of those simplifying assumptions this routine is far
+   simpler than the generic fold routine.  */
+
+tree
+nondestructive_fold_binary_to_constant (enum tree_code code, tree type,
+                                       tree op0, tree op1)
 {
-  tree t = NULL_TREE;
+  int wins = 1;
+  tree subop0;
+  tree subop1;
+  tree tem;
 
-  if (TREE_CODE (arg0) == INTEGER_CST)
+  /* If this is a commutative operation, and ARG0 is a constant, move it
+     to ARG1 to reduce the number of tests below.  */
+  if (commutative_tree_code (code)
+      && (TREE_CODE (op0) == INTEGER_CST || TREE_CODE (op0) == REAL_CST))
     {
-      unsigned HOST_WIDE_INT low;
-      HOST_WIDE_INT high;
-      int overflow = neg_double (TREE_INT_CST_LOW (arg0),
-                                TREE_INT_CST_HIGH (arg0),
-                                &low, &high);
-      t = build_int_2 (low, high);
-      TREE_TYPE (t) = type;
-      TREE_OVERFLOW (t)
-       = (TREE_OVERFLOW (arg0)
-          | force_fit_type (t, overflow && !TYPE_UNSIGNED (type)));
-      TREE_CONSTANT_OVERFLOW (t)
-       = TREE_OVERFLOW (t) | TREE_CONSTANT_OVERFLOW (arg0);
+      tem = op0;
+      op0 = op1;
+      op1 = tem;
     }
-  else if (TREE_CODE (arg0) == REAL_CST)
-    t = build_real (type, REAL_VALUE_NEGATE (TREE_REAL_CST (arg0)));
-#ifdef ENABLE_CHECKING
+
+  /* If either operand is a complex type, extract its real component.  */
+  if (TREE_CODE (op0) == COMPLEX_CST)
+    subop0 = TREE_REALPART (op0);
   else
-    abort ();
-#endif
-    
-  return t;
-}
+    subop0 = op0;
 
-/* Return the tree for abs (ARG0) when ARG0 is known to be either
-   an integer constant or real constant.
+  if (TREE_CODE (op1) == COMPLEX_CST)
+    subop1 = TREE_REALPART (op1);
+  else
+    subop1 = op1;
+
+  /* Note if either argument is not a real or integer constant.
+     With a few exceptions, simplification is limited to cases
+     where both arguments are constants.  */
+  if ((TREE_CODE (subop0) != INTEGER_CST
+       && TREE_CODE (subop0) != REAL_CST)
+      || (TREE_CODE (subop1) != INTEGER_CST
+         && TREE_CODE (subop1) != REAL_CST))
+    wins = 0;
+
+  switch (code)
+    {
+    case PLUS_EXPR:
+      /* (plus (address) (const_int)) is a constant.  */
+      if (TREE_CODE (op0) == PLUS_EXPR
+         && TREE_CODE (op1) == INTEGER_CST
+         && (TREE_CODE (TREE_OPERAND (op0, 0)) == ADDR_EXPR
+             || (TREE_CODE (TREE_OPERAND (op0, 0)) == NOP_EXPR
+                 && (TREE_CODE (TREE_OPERAND (TREE_OPERAND (op0, 0), 0))
+                     == ADDR_EXPR)))
+         && TREE_CODE (TREE_OPERAND (op0, 1)) == INTEGER_CST)
+       {
+          return build2 (PLUS_EXPR, type, TREE_OPERAND (op0, 0),
+                        const_binop (PLUS_EXPR, op1,
+                                     TREE_OPERAND (op0, 1), 0));
+       }
+    case BIT_XOR_EXPR:
+
+    binary:
+      if (!wins)
+       return NULL_TREE;
+
+      /* Both arguments are constants.  Simplify.  */
+      tem = const_binop (code, op0, op1, 0);
+      if (tem != NULL_TREE)
+       {
+         /* The return value should always have the same type as
+            the original expression.  */
+         if (TREE_TYPE (tem) != type)
+           tem = fold_convert (type, tem);
+
+         return tem;
+       }
+      return NULL_TREE;
+
+    case MINUS_EXPR:
+      /* Fold &x - &x.  This can happen from &x.foo - &x.
+         This is unsafe for certain floats even in non-IEEE formats.
+         In IEEE, it is unsafe because it does wrong for NaNs.
+         Also note that operand_equal_p is always false if an
+         operand is volatile.  */
+      if (! FLOAT_TYPE_P (type) && operand_equal_p (op0, op1, 0))
+       return fold_convert (type, integer_zero_node);
+
+      goto binary;
+
+    case MULT_EXPR:
+    case BIT_AND_EXPR:
+      /* Special case multiplication or bitwise AND where one argument
+        is zero.  */
+      if (! FLOAT_TYPE_P (type) && integer_zerop (op1))
+       return omit_one_operand (type, op1, op0);
+      else
+        if (!HONOR_NANS (TYPE_MODE (TREE_TYPE (op0)))
+           && !HONOR_SIGNED_ZEROS (TYPE_MODE (TREE_TYPE (op0)))
+           && real_zerop (op1))
+         return omit_one_operand (type, op1, op0);
+
+      goto binary;
+
+    case BIT_IOR_EXPR:
+      /* Special case when we know the result will be all ones.  */
+      if (integer_all_onesp (op1))
+       return omit_one_operand (type, op1, op0);
+
+      goto binary;
+
+    case TRUNC_DIV_EXPR:
+    case ROUND_DIV_EXPR:
+    case FLOOR_DIV_EXPR:
+    case CEIL_DIV_EXPR:
+    case EXACT_DIV_EXPR:
+    case TRUNC_MOD_EXPR:
+    case ROUND_MOD_EXPR:
+    case FLOOR_MOD_EXPR:
+    case CEIL_MOD_EXPR:
+    case RDIV_EXPR:
+      /* Division by zero is undefined.  */
+      if (integer_zerop (op1))
+       return NULL_TREE;
+
+      if (TREE_CODE (op1) == REAL_CST
+         && !MODE_HAS_INFINITIES (TYPE_MODE (TREE_TYPE (op1)))
+         && real_zerop (op1))
+       return NULL_TREE;
+
+      goto binary;
+
+    case MIN_EXPR:
+      if (INTEGRAL_TYPE_P (type)
+         && operand_equal_p (op1, TYPE_MIN_VALUE (type), OEP_ONLY_CONST))
+       return omit_one_operand (type, op1, op0);
+
+      goto binary;
+
+    case MAX_EXPR:
+      if (INTEGRAL_TYPE_P (type)
+         && TYPE_MAX_VALUE (type)
+         && operand_equal_p (op1, TYPE_MAX_VALUE (type), OEP_ONLY_CONST))
+       return omit_one_operand (type, op1, op0);
+
+      goto binary;
+
+    case RSHIFT_EXPR:
+      /* Optimize -1 >> x for arithmetic right shifts.  */
+      if (integer_all_onesp (op0) && ! TYPE_UNSIGNED (type))
+       return omit_one_operand (type, op0, op1);
+      /* ... fall through ...  */
+
+    case LSHIFT_EXPR:
+      if (integer_zerop (op0))
+       return omit_one_operand (type, op0, op1);
+
+      /* Since negative shift count is not well-defined, don't
+        try to compute it in the compiler.  */
+      if (TREE_CODE (op1) == INTEGER_CST && tree_int_cst_sgn (op1) < 0)
+       return NULL_TREE;
+
+      goto binary;
+
+    case LROTATE_EXPR:
+    case RROTATE_EXPR:
+      /* -1 rotated either direction by any amount is still -1.  */
+      if (integer_all_onesp (op0))
+       return omit_one_operand (type, op0, op1);
+
+      /* 0 rotated either direction by any amount is still zero.  */
+      if (integer_zerop (op0))
+       return omit_one_operand (type, op0, op1);
+
+      goto binary;
+
+    case COMPLEX_EXPR:
+      if (wins)
+       return build_complex (type, op0, op1);
+      return NULL_TREE;
+
+    case LT_EXPR:
+    case LE_EXPR:
+    case GT_EXPR:
+    case GE_EXPR:
+    case EQ_EXPR:
+    case NE_EXPR:
+      /* If one arg is a real or integer constant, put it last.  */
+      if ((TREE_CODE (op0) == INTEGER_CST
+          && TREE_CODE (op1) != INTEGER_CST)
+         || (TREE_CODE (op0) == REAL_CST
+             && TREE_CODE (op0) != REAL_CST))
+       {
+         tree temp;
+
+         temp = op0;
+         op0 = op1;
+         op1 = temp;
+         code = swap_tree_comparison (code);
+       }
+
+      /* Change X >= C to X > (C - 1) and X < C to X <= (C - 1) if C > 0.
+        This transformation affects the cases which are handled in later
+        optimizations involving comparisons with non-negative constants.  */
+      if (TREE_CODE (op1) == INTEGER_CST
+         && TREE_CODE (op0) != INTEGER_CST
+         && tree_int_cst_sgn (op1) > 0)
+       {
+         switch (code)
+           {
+           case GE_EXPR:
+             code = GT_EXPR;
+             op1 = const_binop (MINUS_EXPR, op1, integer_one_node, 0);
+             break;
+
+           case LT_EXPR:
+             code = LE_EXPR;
+             op1 = const_binop (MINUS_EXPR, op1, integer_one_node, 0);
+             break;
+
+           default:
+             break;
+           }
+       }
+
+      tem = fold_relational_hi_lo (&code, type, &op0, &op1);
+      if (tem)
+       return tem;
+
+      /* Fall through.  */
+
+    case ORDERED_EXPR:
+    case UNORDERED_EXPR:
+    case UNLT_EXPR:
+    case UNLE_EXPR:
+    case UNGT_EXPR:
+    case UNGE_EXPR:
+    case UNEQ_EXPR:
+    case LTGT_EXPR:
+      if (!wins)
+       return NULL_TREE;
+
+      return fold_relational_const (code, type, op0, op1);
+
+    case RANGE_EXPR:
+      /* This could probably be handled.  */
+      return NULL_TREE;
+
+    case TRUTH_AND_EXPR:
+      /* If second arg is constant zero, result is zero, but first arg
+        must be evaluated.  */
+      if (integer_zerop (op1))
+       return omit_one_operand (type, op1, op0);
+      /* Likewise for first arg, but note that only the TRUTH_AND_EXPR
+        case will be handled here.  */
+      if (integer_zerop (op0))
+       return omit_one_operand (type, op0, op1);
+      if (TREE_CODE (op0) == INTEGER_CST && TREE_CODE (op1) == INTEGER_CST)
+       return constant_boolean_node (true, type);
+      return NULL_TREE;
+
+    case TRUTH_OR_EXPR:
+      /* If second arg is constant true, result is true, but we must
+        evaluate first arg.  */
+      if (TREE_CODE (op1) == INTEGER_CST && ! integer_zerop (op1))
+       return omit_one_operand (type, op1, op0);
+      /* Likewise for first arg, but note this only occurs here for
+        TRUTH_OR_EXPR.  */
+      if (TREE_CODE (op0) == INTEGER_CST && ! integer_zerop (op0))
+       return omit_one_operand (type, op0, op1);
+      if (TREE_CODE (op0) == INTEGER_CST && TREE_CODE (op1) == INTEGER_CST)
+       return constant_boolean_node (false, type);
+      return NULL_TREE;
+
+    case TRUTH_XOR_EXPR:
+      if (TREE_CODE (op0) == INTEGER_CST && TREE_CODE (op1) == INTEGER_CST)
+       {
+         int x = ! integer_zerop (op0) ^ ! integer_zerop (op1);
+         return constant_boolean_node (x, type);
+       }
+      return NULL_TREE;
+
+    default:
+      return NULL_TREE;
+    }
+}
+
+/* Given the components of a unary expression CODE, TYPE and OP0,
+   attempt to fold the expression to a constant without modifying
+   TYPE or OP0.
+
+   If the expression could be simplified to a constant, then return
+   the constant.  If the expression would not be simplified to a
+   constant, then return NULL_TREE.
+
+   Note this is primarily designed to be called after gimplification
+   of the tree structures and when op0 is a constant.  As a result
+   of those simplifying assumptions this routine is far simpler than
+   the generic fold routine.  */
+
+tree
+nondestructive_fold_unary_to_constant (enum tree_code code, tree type,
+                                      tree op0)
+{
+  /* Make sure we have a suitable constant argument.  */
+  if (code == NOP_EXPR || code == FLOAT_EXPR || code == CONVERT_EXPR)
+    {
+      tree subop;
+
+      if (TREE_CODE (op0) == COMPLEX_CST)
+       subop = TREE_REALPART (op0);
+      else
+       subop = op0;
+
+      if (TREE_CODE (subop) != INTEGER_CST && TREE_CODE (subop) != REAL_CST)
+       return NULL_TREE;
+    }
+
+  switch (code)
+    {
+    case NOP_EXPR:
+    case FLOAT_EXPR:
+    case CONVERT_EXPR:
+    case FIX_TRUNC_EXPR:
+    case FIX_FLOOR_EXPR:
+    case FIX_CEIL_EXPR:
+      return fold_convert_const (code, type, op0);
+
+    case NEGATE_EXPR:
+      if (TREE_CODE (op0) == INTEGER_CST || TREE_CODE (op0) == REAL_CST)
+       return fold_negate_const (op0, type);
+      else
+       return NULL_TREE;
+
+    case ABS_EXPR:
+      if (TREE_CODE (op0) == INTEGER_CST || TREE_CODE (op0) == REAL_CST)
+       return fold_abs_const (op0, type);
+      else
+       return NULL_TREE;
+
+    case BIT_NOT_EXPR:
+      if (TREE_CODE (op0) == INTEGER_CST)
+       return fold_not_const (op0, type);
+      else
+       return NULL_TREE;
+
+    case REALPART_EXPR:
+      if (TREE_CODE (op0) == COMPLEX_CST)
+       return TREE_REALPART (op0);
+      else
+       return NULL_TREE;
+
+    case IMAGPART_EXPR:
+      if (TREE_CODE (op0) == COMPLEX_CST)
+       return TREE_IMAGPART (op0);
+      else
+       return NULL_TREE;
+
+    case CONJ_EXPR:
+      if (TREE_CODE (op0) == COMPLEX_CST
+         && TREE_CODE (TREE_TYPE (op0)) == COMPLEX_TYPE)
+       return build_complex (type, TREE_REALPART (op0),
+                             negate_expr (TREE_IMAGPART (op0)));
+      return NULL_TREE;
+
+    default:
+      return NULL_TREE;
+    }
+}
+
+/* If EXP represents referencing an element in a constant string
+   (either via pointer arithmetic or array indexing), return the
+   tree representing the value accessed, otherwise return NULL.  */
+
+tree
+fold_read_from_constant_string (tree exp)
+{
+  if (TREE_CODE (exp) == INDIRECT_REF || TREE_CODE (exp) == ARRAY_REF)
+    {
+      tree exp1 = TREE_OPERAND (exp, 0);
+      tree index;
+      tree string;
+
+      if (TREE_CODE (exp) == INDIRECT_REF)
+       string = string_constant (exp1, &index);
+      else
+       {
+         tree low_bound = array_ref_low_bound (exp);
+         index = fold_convert (sizetype, TREE_OPERAND (exp, 1));
+
+         /* Optimize the special-case of a zero lower bound.
+
+            We convert the low_bound to sizetype to avoid some problems
+            with constant folding.  (E.g. suppose the lower bound is 1,
+            and its mode is QI.  Without the conversion,l (ARRAY
+            +(INDEX-(unsigned char)1)) becomes ((ARRAY+(-(unsigned char)1))
+            +INDEX), which becomes (ARRAY+255+INDEX).  Opps!)  */
+         if (! integer_zerop (low_bound))
+           index = size_diffop (index, fold_convert (sizetype, low_bound));
+
+         string = exp1;
+       }
+
+      if (string
+         && TREE_TYPE (exp) == TREE_TYPE (TREE_TYPE (string))
+         && TREE_CODE (string) == STRING_CST
+         && TREE_CODE (index) == INTEGER_CST
+         && compare_tree_int (index, TREE_STRING_LENGTH (string)) < 0
+         && (GET_MODE_CLASS (TYPE_MODE (TREE_TYPE (TREE_TYPE (string))))
+             == MODE_INT)
+         && (GET_MODE_SIZE (TYPE_MODE (TREE_TYPE (TREE_TYPE (string)))) == 1))
+       return fold_convert (TREE_TYPE (exp),
+                            build_int_cst (NULL_TREE,
+                                           (TREE_STRING_POINTER (string)
+                                            [TREE_INT_CST_LOW (index)])));
+    }
+  return NULL;
+}
+
+/* Return the tree for neg (ARG0) when ARG0 is known to be either
+   an integer constant or real constant.
 
    TYPE is the type of the result.  */
 
 static tree
+fold_negate_const (tree arg0, tree type)
+{
+  tree t = NULL_TREE;
+
+  switch (TREE_CODE (arg0))
+    {
+    case INTEGER_CST:
+      {
+       unsigned HOST_WIDE_INT low;
+       HOST_WIDE_INT high;
+       int overflow = neg_double (TREE_INT_CST_LOW (arg0),
+                                  TREE_INT_CST_HIGH (arg0),
+                                  &low, &high);
+       t = build_int_cst_wide (type, low, high);
+       t = force_fit_type (t, 1,
+                           (overflow | TREE_OVERFLOW (arg0))
+                           && !TYPE_UNSIGNED (type),
+                           TREE_CONSTANT_OVERFLOW (arg0));
+       break;
+      }
+      
+    case REAL_CST:
+      t = build_real (type, REAL_VALUE_NEGATE (TREE_REAL_CST (arg0)));
+      break;
+
+    default:
+      gcc_unreachable ();
+    }
+  
+  return t;
+}
+
+/* Return the tree for abs (ARG0) when ARG0 is known to be either
+   an integer constant or real constant.
+
+   TYPE is the type of the result.  */
+
+tree
 fold_abs_const (tree arg0, tree type)
 {
   tree t = NULL_TREE;
 
-  if (TREE_CODE (arg0) == INTEGER_CST)
+  switch (TREE_CODE (arg0))
     {
+    case INTEGER_CST:
       /* If the value is unsigned, then the absolute value is
         the same as the ordinary value.  */
       if (TYPE_UNSIGNED (type))
-       return arg0;
+       t = arg0;
       /* Similarly, if the value is non-negative.  */
       else if (INT_CST_LT (integer_minus_one_node, arg0))
-       return arg0;
+       t = arg0;
       /* If the value is negative, then the absolute value is
         its negation.  */
       else
@@ -9076,28 +10326,42 @@ fold_abs_const (tree arg0, tree type)
          int overflow = neg_double (TREE_INT_CST_LOW (arg0),
                                     TREE_INT_CST_HIGH (arg0),
                                     &low, &high);
-         t = build_int_2 (low, high);
-         TREE_TYPE (t) = type;
-         TREE_OVERFLOW (t)
-           = (TREE_OVERFLOW (arg0)
-              | force_fit_type (t, overflow));
-         TREE_CONSTANT_OVERFLOW (t)
-           = TREE_OVERFLOW (t) | TREE_CONSTANT_OVERFLOW (arg0);
-         return t;
+         t = build_int_cst_wide (type, low, high);
+         t = force_fit_type (t, -1, overflow | TREE_OVERFLOW (arg0),
+                             TREE_CONSTANT_OVERFLOW (arg0));
        }
-    }
-  else if (TREE_CODE (arg0) == REAL_CST)
-    {
+      break;
+      
+    case REAL_CST:
       if (REAL_VALUE_NEGATIVE (TREE_REAL_CST (arg0)))
-       return build_real (type, REAL_VALUE_NEGATE (TREE_REAL_CST (arg0)));
+       t = build_real (type, REAL_VALUE_NEGATE (TREE_REAL_CST (arg0)));
       else
-       return arg0;
+       t =  arg0;
+      break;
+      
+    default:
+      gcc_unreachable ();
     }
-#ifdef ENABLE_CHECKING
-  else
-    abort ();
-#endif
-    
+  
+  return t;
+}
+
+/* Return the tree for not (ARG0) when ARG0 is known to be an integer
+   constant.  TYPE is the type of the result.  */
+
+static tree
+fold_not_const (tree arg0, tree type)
+{
+  tree t = NULL_TREE;
+
+  gcc_assert (TREE_CODE (arg0) == INTEGER_CST);
+  
+  t = build_int_cst_wide (type,
+                         ~ TREE_INT_CST_LOW (arg0),
+                         ~ TREE_INT_CST_HIGH (arg0));
+  t = force_fit_type (t, 0, TREE_OVERFLOW (arg0),
+                     TREE_CONSTANT_OVERFLOW (arg0));
+  
   return t;
 }
 
@@ -9109,11 +10373,57 @@ fold_abs_const (tree arg0, tree type)
 static tree
 fold_relational_const (enum tree_code code, tree type, tree op0, tree op1)
 {
-  tree tem;
-  int invert;
+  int result, invert;
 
   /* From here on, the only cases we handle are when the result is
-     known to be a constant.
+     known to be a constant.  */
+
+  if (TREE_CODE (op0) == REAL_CST && TREE_CODE (op1) == REAL_CST)
+    {
+      const REAL_VALUE_TYPE *c0 = TREE_REAL_CST_PTR (op0);
+      const REAL_VALUE_TYPE *c1 = TREE_REAL_CST_PTR (op1);
+
+      /* Handle the cases where either operand is a NaN.  */
+      if (real_isnan (c0) || real_isnan (c1))
+       {
+         switch (code)
+           {
+           case EQ_EXPR:
+           case ORDERED_EXPR:
+             result = 0;
+             break;
+
+           case NE_EXPR:
+           case UNORDERED_EXPR:
+           case UNLT_EXPR:
+           case UNLE_EXPR:
+           case UNGT_EXPR:
+           case UNGE_EXPR:
+           case UNEQ_EXPR:
+              result = 1;
+             break;
+
+           case LT_EXPR:
+           case LE_EXPR:
+           case GT_EXPR:
+           case GE_EXPR:
+           case LTGT_EXPR:
+             if (flag_trapping_math)
+               return NULL_TREE;
+             result = 0;
+             break;
+
+           default:
+             gcc_unreachable ();
+           }
+
+         return constant_boolean_node (result, type);
+       }
+
+      return constant_boolean_node (real_compare (code, c0, c1), type);
+    }
+
+  /* From here on we only handle LT, LE, GT, GE, EQ and NE.
 
      To compute GT, swap the arguments and do LT.
      To compute GE, do LT and invert the result.
@@ -9124,19 +10434,20 @@ fold_relational_const (enum tree_code code, tree type, tree op0, tree op1)
 
   if (code == LE_EXPR || code == GT_EXPR)
     {
-      tem = op0, op0 = op1, op1 = tem;
+      tree tem = op0;
+      op0 = op1;
+      op1 = tem;
       code = swap_tree_comparison (code);
     }
 
   /* Note that it is safe to invert for real values here because we
-     will check below in the one case that it matters.  */
+     have already handled the one case that it matters.  */
 
-  tem = NULL_TREE;
   invert = 0;
   if (code == NE_EXPR || code == GE_EXPR)
     {
       invert = 1;
-      code = invert_tree_comparison (code);
+      code = invert_tree_comparison (code, false);
     }
 
   /* Compute a result for LT or EQ if args permit;
@@ -9144,52 +10455,231 @@ fold_relational_const (enum tree_code code, tree type, tree op0, tree op1)
   if (TREE_CODE (op0) == INTEGER_CST && TREE_CODE (op1) == INTEGER_CST)
     {
       if (code == EQ_EXPR)
-        tem = build_int_2 (tree_int_cst_equal (op0, op1), 0);
+       result = tree_int_cst_equal (op0, op1);
+      else if (TYPE_UNSIGNED (TREE_TYPE (op0)))
+       result = INT_CST_LT_UNSIGNED (op0, op1);
       else
-        tem = build_int_2 ((TYPE_UNSIGNED (TREE_TYPE (op0))
-                           ? INT_CST_LT_UNSIGNED (op0, op1)
-                           : INT_CST_LT (op0, op1)),
-                          0);
-    }
-
-  else if (code == EQ_EXPR && !TREE_SIDE_EFFECTS (op0)
-           && integer_zerop (op1) && tree_expr_nonzero_p (op0))
-    tem = build_int_2 (0, 0);
-
-  /* Two real constants can be compared explicitly.  */
-  else if (TREE_CODE (op0) == REAL_CST && TREE_CODE (op1) == REAL_CST)
-    {
-      /* If either operand is a NaN, the result is false with two
-        exceptions: First, an NE_EXPR is true on NaNs, but that case
-        is already handled correctly since we will be inverting the
-        result for NE_EXPR.  Second, if we had inverted a LE_EXPR
-        or a GE_EXPR into a LT_EXPR, we must return true so that it
-        will be inverted into false.  */
-
-      if (REAL_VALUE_ISNAN (TREE_REAL_CST (op0))
-          || REAL_VALUE_ISNAN (TREE_REAL_CST (op1)))
-        tem = build_int_2 (invert && code == LT_EXPR, 0);
-
-      else if (code == EQ_EXPR)
-        tem = build_int_2 (REAL_VALUES_EQUAL (TREE_REAL_CST (op0),
-                                             TREE_REAL_CST (op1)),
-                          0);
-      else
-        tem = build_int_2 (REAL_VALUES_LESS (TREE_REAL_CST (op0),
-                                            TREE_REAL_CST (op1)),
-                          0);
+       result = INT_CST_LT (op0, op1);
     }
-
-  if (tem == NULL_TREE)
+  else
     return NULL_TREE;
 
   if (invert)
-    TREE_INT_CST_LOW (tem) ^= 1;
+    result ^= 1;
+  return constant_boolean_node (result, type);
+}
+
+/* Build an expression for the address of T.  Folds away INDIRECT_REF to
+   avoid confusing the gimplify process.  */
+
+tree
+build_fold_addr_expr_with_type (tree t, tree ptrtype)
+{
+  /* The size of the object is not relevant when talking about its address.  */
+  if (TREE_CODE (t) == WITH_SIZE_EXPR)
+    t = TREE_OPERAND (t, 0);
+
+  if (TREE_CODE (t) == INDIRECT_REF)
+    {
+      t = TREE_OPERAND (t, 0);
+      if (TREE_TYPE (t) != ptrtype)
+       t = build1 (NOP_EXPR, ptrtype, t);
+    }
+  else
+    {
+      tree base = t;
+
+      while (handled_component_p (base)
+            || TREE_CODE (base) == REALPART_EXPR
+            || TREE_CODE (base) == IMAGPART_EXPR)
+       base = TREE_OPERAND (base, 0);
+      if (DECL_P (base))
+       TREE_ADDRESSABLE (base) = 1;
+
+      t = build1 (ADDR_EXPR, ptrtype, t);
+    }
+
+  return t;
+}
+
+tree
+build_fold_addr_expr (tree t)
+{
+  return build_fold_addr_expr_with_type (t, build_pointer_type (TREE_TYPE (t)));
+}
+
+/* Builds an expression for an indirection through T, simplifying some
+   cases.  */
+
+tree
+build_fold_indirect_ref (tree t)
+{
+  tree type = TREE_TYPE (TREE_TYPE (t));
+  tree sub = t;
+  tree subtype;
+
+  STRIP_NOPS (sub);
+  if (TREE_CODE (sub) == ADDR_EXPR)
+    {
+      tree op = TREE_OPERAND (sub, 0);
+      tree optype = TREE_TYPE (op);
+      /* *&p => p */
+      if (lang_hooks.types_compatible_p (type, optype))
+       return op;
+      /* *(foo *)&fooarray => fooarray[0] */
+      else if (TREE_CODE (optype) == ARRAY_TYPE
+              && lang_hooks.types_compatible_p (type, TREE_TYPE (optype)))
+       return build4 (ARRAY_REF, type, op, size_zero_node, NULL_TREE, NULL_TREE);
+    }
+
+  /* *(foo *)fooarrptr => (*fooarrptr)[0] */
+  subtype = TREE_TYPE (sub);
+  if (TREE_CODE (TREE_TYPE (subtype)) == ARRAY_TYPE
+      && lang_hooks.types_compatible_p (type, TREE_TYPE (TREE_TYPE (subtype))))
+    {
+      sub = build_fold_indirect_ref (sub);
+      return build4 (ARRAY_REF, type, sub, size_zero_node, NULL_TREE, NULL_TREE);
+    }
+
+  return build1 (INDIRECT_REF, type, t);
+}
+
+/* Strip non-trapping, non-side-effecting tree nodes from an expression
+   whose result is ignored.  The type of the returned tree need not be
+   the same as the original expression.  */
+
+tree
+fold_ignored_result (tree t)
+{
+  if (!TREE_SIDE_EFFECTS (t))
+    return integer_zero_node;
+
+  for (;;)
+    switch (TREE_CODE_CLASS (TREE_CODE (t)))
+      {
+      case '1':
+       t = TREE_OPERAND (t, 0);
+       break;
+
+      case '2':
+      case '<':
+       if (!TREE_SIDE_EFFECTS (TREE_OPERAND (t, 1)))
+         t = TREE_OPERAND (t, 0);
+       else if (!TREE_SIDE_EFFECTS (TREE_OPERAND (t, 0)))
+         t = TREE_OPERAND (t, 1);
+       else
+         return t;
+       break;
+
+      case 'e':
+       switch (TREE_CODE (t))
+         {
+         case COMPOUND_EXPR:
+           if (TREE_SIDE_EFFECTS (TREE_OPERAND (t, 1)))
+             return t;
+           t = TREE_OPERAND (t, 0);
+           break;
+
+         case COND_EXPR:
+           if (TREE_SIDE_EFFECTS (TREE_OPERAND (t, 1))
+               || TREE_SIDE_EFFECTS (TREE_OPERAND (t, 2)))
+             return t;
+           t = TREE_OPERAND (t, 0);
+           break;
+
+         default:
+           return t;
+         }
+       break;
 
-  TREE_TYPE (tem) = type;
-  if (TREE_CODE (type) == BOOLEAN_TYPE)
-    return (*lang_hooks.truthvalue_conversion) (tem);
-  return tem;
+      default:
+       return t;
+      }
 }
 
-#include "gt-fold-const.h"
+/* Return the value of VALUE, rounded up to a multiple of DIVISOR.
+   This can only be applied to objects of a sizetype.  */
+
+tree
+round_up (tree value, int divisor)
+{
+  tree div = NULL_TREE;
+
+  gcc_assert (divisor > 0);
+  if (divisor == 1)
+    return value;
+
+  /* See if VALUE is already a multiple of DIVISOR.  If so, we don't
+     have to do anything.  Only do this when we are not given a const,
+     because in that case, this check is more expensive than just
+     doing it.  */
+  if (TREE_CODE (value) != INTEGER_CST)
+    {
+      div = build_int_cst (TREE_TYPE (value), divisor);
+
+      if (multiple_of_p (TREE_TYPE (value), value, div))
+       return value;
+    }
+
+  /* If divisor is a power of two, simplify this to bit manipulation.  */
+  if (divisor == (divisor & -divisor))
+    {
+      tree t;
+      
+      t = build_int_cst (TREE_TYPE (value), divisor - 1);
+      value = size_binop (PLUS_EXPR, value, t);
+      t = build_int_cst (TREE_TYPE (value), -divisor);
+      value = size_binop (BIT_AND_EXPR, value, t);
+    }
+  else
+    {
+      if (!div)
+       div = build_int_cst (TREE_TYPE (value), divisor);
+      value = size_binop (CEIL_DIV_EXPR, value, div);
+      value = size_binop (MULT_EXPR, value, div);
+    }
+
+  return value;
+}
+
+/* Likewise, but round down.  */
+
+tree
+round_down (tree value, int divisor)
+{
+  tree div = NULL_TREE;
+
+  gcc_assert (divisor > 0);
+  if (divisor == 1)
+    return value;
+
+  /* See if VALUE is already a multiple of DIVISOR.  If so, we don't
+     have to do anything.  Only do this when we are not given a const,
+     because in that case, this check is more expensive than just
+     doing it.  */
+  if (TREE_CODE (value) != INTEGER_CST)
+    {
+      div = build_int_cst (TREE_TYPE (value), divisor);
+
+      if (multiple_of_p (TREE_TYPE (value), value, div))
+       return value;
+    }
+
+  /* If divisor is a power of two, simplify this to bit manipulation.  */
+  if (divisor == (divisor & -divisor))
+    {
+      tree t;
+      
+      t = build_int_cst (TREE_TYPE (value), -divisor);
+      value = size_binop (BIT_AND_EXPR, value, t);
+    }
+  else
+    {
+      if (!div)
+       div = build_int_cst (TREE_TYPE (value), divisor);
+      value = size_binop (FLOOR_DIV_EXPR, value, div);
+      value = size_binop (MULT_EXPR, value, div);
+    }
+
+  return value;
+}