gcc/tree-ssa-ccp.c

   1 /* Conditional constant propagation pass for the GNU compiler.
   2    Copyright (C) 2000, 2001, 2002, 2003, 2004, 2005, 2006, 2007, 2008, 2009,
   3    2010 Free Software Foundation, Inc.
   4    Adapted from original RTL SSA-CCP by Daniel Berlin <dberlin@dberlin.org>
   5    Adapted to GIMPLE trees by Diego Novillo <dnovillo@redhat.com>
   6
   7 This file is part of GCC.
   8
   9 GCC is free software; you can redistribute it and/or modify it
  10 under the terms of the GNU General Public License as published by the
  11 Free Software Foundation; either version 3, or (at your option) any
  12 later version.
  13
  14 GCC is distributed in the hope that it will be useful, but WITHOUT
  15 ANY WARRANTY; without even the implied warranty of MERCHANTABILITY or
  16 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
  17 for more details.
  18
  19 You should have received a copy of the GNU General Public License
  20 along with GCC; see the file COPYING3.  If not see
  21 <http://www.gnu.org/licenses/>.  */
  22
  23 /* Conditional constant propagation (CCP) is based on the SSA
  24    propagation engine (tree-ssa-propagate.c).  Constant assignments of
  25    the form VAR = CST are propagated from the assignments into uses of
  26    VAR, which in turn may generate new constants.  The simulation uses
  27    a four level lattice to keep track of constant values associated
  28    with SSA names.  Given an SSA name V_i, it may take one of the
  29    following values:
  30
  31         UNINITIALIZED   ->  the initial state of the value.  This value
  32                             is replaced with a correct initial value
  33                             the first time the value is used, so the
  34                             rest of the pass does not need to care about
  35                             it.  Using this value simplifies initialization
  36                             of the pass, and prevents us from needlessly
  37                             scanning statements that are never reached.
  38
  39         UNDEFINED       ->  V_i is a local variable whose definition
  40                             has not been processed yet.  Therefore we
  41                             don't yet know if its value is a constant
  42                             or not.
  43
  44         CONSTANT        ->  V_i has been found to hold a constant
  45                             value C.
  46
  47         VARYING         ->  V_i cannot take a constant value, or if it
  48                             does, it is not possible to determine it
  49                             at compile time.
  50
  51    The core of SSA-CCP is in ccp_visit_stmt and ccp_visit_phi_node:
  52
  53    1- In ccp_visit_stmt, we are interested in assignments whose RHS
  54       evaluates into a constant and conditional jumps whose predicate
  55       evaluates into a boolean true or false.  When an assignment of
  56       the form V_i = CONST is found, V_i's lattice value is set to
  57       CONSTANT and CONST is associated with it.  This causes the
  58       propagation engine to add all the SSA edges coming out the
  59       assignment into the worklists, so that statements that use V_i
  60       can be visited.
  61
  62       If the statement is a conditional with a constant predicate, we
  63       mark the outgoing edges as executable or not executable
  64       depending on the predicate's value.  This is then used when
  65       visiting PHI nodes to know when a PHI argument can be ignored.
  66
  67
  68    2- In ccp_visit_phi_node, if all the PHI arguments evaluate to the
  69       same constant C, then the LHS of the PHI is set to C.  This
  70       evaluation is known as the "meet operation".  Since one of the
  71       goals of this evaluation is to optimistically return constant
  72       values as often as possible, it uses two main short cuts:
  73
  74       - If an argument is flowing in through a non-executable edge, it
  75         is ignored.  This is useful in cases like this:
  76
  77                         if (PRED)
  78                           a_9 = 3;
  79                         else
  80                           a_10 = 100;
  81                         a_11 = PHI (a_9, a_10)
  82
  83         If PRED is known to always evaluate to false, then we can
  84         assume that a_11 will always take its value from a_10, meaning
  85         that instead of consider it VARYING (a_9 and a_10 have
  86         different values), we can consider it CONSTANT 100.
  87
  88       - If an argument has an UNDEFINED value, then it does not affect
  89         the outcome of the meet operation.  If a variable V_i has an
  90         UNDEFINED value, it means that either its defining statement
  91         hasn't been visited yet or V_i has no defining statement, in
  92         which case the original symbol 'V' is being used
  93         uninitialized.  Since 'V' is a local variable, the compiler
  94         may assume any initial value for it.
  95
  96
  97    After propagation, every variable V_i that ends up with a lattice
  98    value of CONSTANT will have the associated constant value in the
  99    array CONST_VAL[i].VALUE.  That is fed into substitute_and_fold for
 100    final substitution and folding.
 101
 102    References:
 103
 104      Constant propagation with conditional branches,
 105      Wegman and Zadeck, ACM TOPLAS 13(2):181-210.
 106
 107      Building an Optimizing Compiler,
 108      Robert Morgan, Butterworth-Heinemann, 1998, Section 8.9.
 109
 110      Advanced Compiler Design and Implementation,
 111      Steven Muchnick, Morgan Kaufmann, 1997, Section 12.6  */
 112
 113 #include "config.h"
 114 #include "system.h"
 115 #include "coretypes.h"
 116 #include "tm.h"
 117 #include "tree.h"
 118 #include "flags.h"
 119 #include "tm_p.h"
 120 #include "basic-block.h"
 121 #include "output.h"
 122 #include "function.h"
 123 #include "tree-pretty-print.h"
 124 #include "gimple-pretty-print.h"
 125 #include "timevar.h"
 126 #include "tree-dump.h"
 127 #include "tree-flow.h"
 128 #include "tree-pass.h"
 129 #include "tree-ssa-propagate.h"
 130 #include "value-prof.h"
 131 #include "langhooks.h"
 132 #include "target.h"
 133 #include "diagnostic-core.h"
 134 #include "toplev.h"
 135 #include "dbgcnt.h"
 136
 137
 138 /* Possible lattice values.  */
 139 typedef enum
 140 {
 141   UNINITIALIZED,
 142   UNDEFINED,
 143   CONSTANT,
 144   VARYING
 145 } ccp_lattice_t;
 146
 147 struct prop_value_d {
 148     /* Lattice value.  */
 149     ccp_lattice_t lattice_val;
 150
 151     /* Propagated value.  */
 152     tree value;
 153
 154     /* Mask that applies to the propagated value during CCP.  For
 155        X with a CONSTANT lattice value X & ~mask == value & ~mask.  */
 156     double_int mask;
 157 };
 158
 159 typedef struct prop_value_d prop_value_t;
 160
 161 /* Array of propagated constant values.  After propagation,
 162    CONST_VAL[I].VALUE holds the constant value for SSA_NAME(I).  If
 163    the constant is held in an SSA name representing a memory store
 164    (i.e., a VDEF), CONST_VAL[I].MEM_REF will contain the actual
 165    memory reference used to store (i.e., the LHS of the assignment
 166    doing the store).  */
 167 static prop_value_t *const_val;
 168
 169 static void canonicalize_float_value (prop_value_t *);
 170 static bool ccp_fold_stmt (gimple_stmt_iterator *);
 171
 172 /* Dump constant propagation value VAL to file OUTF prefixed by PREFIX.  */
 173
 174 static void
 175 dump_lattice_value (FILE *outf, const char *prefix, prop_value_t val)
 176 {
 177   switch (val.lattice_val)
 178     {
 179     case UNINITIALIZED:
 180       fprintf (outf, "%sUNINITIALIZED", prefix);
 181       break;
 182     case UNDEFINED:
 183       fprintf (outf, "%sUNDEFINED", prefix);
 184       break;
 185     case VARYING:
 186       fprintf (outf, "%sVARYING", prefix);
 187       break;
 188     case CONSTANT:
 189       fprintf (outf, "%sCONSTANT ", prefix);
 190       if (TREE_CODE (val.value) != INTEGER_CST
 191           || double_int_zero_p (val.mask))
 192         print_generic_expr (outf, val.value, dump_flags);
 193       else
 194         {
 195           double_int cval = double_int_and_not (tree_to_double_int (val.value),
 196                                                 val.mask);
 197           fprintf (outf, "%sCONSTANT " HOST_WIDE_INT_PRINT_DOUBLE_HEX,
 198                    prefix, cval.high, cval.low);
 199           fprintf (outf, " (" HOST_WIDE_INT_PRINT_DOUBLE_HEX ")",
 200                    val.mask.high, val.mask.low);
 201         }
 202       break;
 203     default:
 204       gcc_unreachable ();
 205     }
 206 }
 207
 208
 209 /* Print lattice value VAL to stderr.  */
 210
 211 void debug_lattice_value (prop_value_t val);
 212
 213 DEBUG_FUNCTION void
 214 debug_lattice_value (prop_value_t val)
 215 {
 216   dump_lattice_value (stderr, "", val);
 217   fprintf (stderr, "\n");
 218 }
 219
 220
 221 /* Compute a default value for variable VAR and store it in the
 222    CONST_VAL array.  The following rules are used to get default
 223    values:
 224
 225    1- Global and static variables that are declared constant are
 226       considered CONSTANT.
 227
 228    2- Any other value is considered UNDEFINED.  This is useful when
 229       considering PHI nodes.  PHI arguments that are undefined do not
 230       change the constant value of the PHI node, which allows for more
 231       constants to be propagated.
 232
 233    3- Variables defined by statements other than assignments and PHI
 234       nodes are considered VARYING.
 235
 236    4- Initial values of variables that are not GIMPLE registers are
 237       considered VARYING.  */
 238
 239 static prop_value_t
 240 get_default_value (tree var)
 241 {
 242   tree sym = SSA_NAME_VAR (var);
 243   prop_value_t val = { UNINITIALIZED, NULL_TREE, { 0, 0 } };
 244   gimple stmt;
 245
 246   stmt = SSA_NAME_DEF_STMT (var);
 247
 248   if (gimple_nop_p (stmt))
 249     {
 250       /* Variables defined by an empty statement are those used
 251          before being initialized.  If VAR is a local variable, we
 252          can assume initially that it is UNDEFINED, otherwise we must
 253          consider it VARYING.  */
 254       if (is_gimple_reg (sym)
 255           && TREE_CODE (sym) == VAR_DECL)
 256         val.lattice_val = UNDEFINED;
 257       else
 258         {
 259           val.lattice_val = VARYING;
 260           val.mask = double_int_minus_one;
 261         }
 262     }
 263   else if (is_gimple_assign (stmt)
 264            /* Value-returning GIMPLE_CALL statements assign to
 265               a variable, and are treated similarly to GIMPLE_ASSIGN.  */
 266            || (is_gimple_call (stmt)
 267                && gimple_call_lhs (stmt) != NULL_TREE)
 268            || gimple_code (stmt) == GIMPLE_PHI)
 269     {
 270       tree cst;
 271       if (gimple_assign_single_p (stmt)
 272           && DECL_P (gimple_assign_rhs1 (stmt))
 273           && (cst = get_symbol_constant_value (gimple_assign_rhs1 (stmt))))
 274         {
 275           val.lattice_val = CONSTANT;
 276           val.value = cst;
 277         }
 278       else
 279         /* Any other variable defined by an assignment or a PHI node
 280            is considered UNDEFINED.  */
 281         val.lattice_val = UNDEFINED;
 282     }
 283   else
 284     {
 285       /* Otherwise, VAR will never take on a constant value.  */
 286       val.lattice_val = VARYING;
 287       val.mask = double_int_minus_one;
 288     }
 289
 290   return val;
 291 }
 292
 293
 294 /* Get the constant value associated with variable VAR.  */
 295
 296 static inline prop_value_t *
 297 get_value (tree var)
 298 {
 299   prop_value_t *val;
 300
 301   if (const_val == NULL)
 302     return NULL;
 303
 304   val = &const_val[SSA_NAME_VERSION (var)];
 305   if (val->lattice_val == UNINITIALIZED)
 306     *val = get_default_value (var);
 307
 308   canonicalize_float_value (val);
 309
 310   return val;
 311 }
 312
 313 /* Return the constant tree value associated with VAR.  */
 314
 315 static inline tree
 316 get_constant_value (tree var)
 317 {
 318   prop_value_t *val = get_value (var);
 319   if (val
 320       && val->lattice_val == CONSTANT
 321       && (TREE_CODE (val->value) != INTEGER_CST
 322           || double_int_zero_p (val->mask)))
 323     return val->value;
 324   return NULL_TREE;
 325 }
 326
 327 /* Sets the value associated with VAR to VARYING.  */
 328
 329 static inline void
 330 set_value_varying (tree var)
 331 {
 332   prop_value_t *val = &const_val[SSA_NAME_VERSION (var)];
 333
 334   val->lattice_val = VARYING;
 335   val->value = NULL_TREE;
 336   val->mask = double_int_minus_one;
 337 }
 338
 339 /* For float types, modify the value of VAL to make ccp work correctly
 340    for non-standard values (-0, NaN):
 341
 342    If HONOR_SIGNED_ZEROS is false, and VAL = -0, we canonicalize it to 0.
 343    If HONOR_NANS is false, and VAL is NaN, we canonicalize it to UNDEFINED.
 344      This is to fix the following problem (see PR 29921): Suppose we have
 345
 346      x = 0.0 * y
 347
 348      and we set value of y to NaN.  This causes value of x to be set to NaN.
 349      When we later determine that y is in fact VARYING, fold uses the fact
 350      that HONOR_NANS is false, and we try to change the value of x to 0,
 351      causing an ICE.  With HONOR_NANS being false, the real appearance of
 352      NaN would cause undefined behavior, though, so claiming that y (and x)
 353      are UNDEFINED initially is correct.  */
 354
 355 static void
 356 canonicalize_float_value (prop_value_t *val)
 357 {
 358   enum machine_mode mode;
 359   tree type;
 360   REAL_VALUE_TYPE d;
 361
 362   if (val->lattice_val != CONSTANT
 363       || TREE_CODE (val->value) != REAL_CST)
 364     return;
 365
 366   d = TREE_REAL_CST (val->value);
 367   type = TREE_TYPE (val->value);
 368   mode = TYPE_MODE (type);
 369
 370   if (!HONOR_SIGNED_ZEROS (mode)
 371       && REAL_VALUE_MINUS_ZERO (d))
 372     {
 373       val->value = build_real (type, dconst0);
 374       return;
 375     }
 376
 377   if (!HONOR_NANS (mode)
 378       && REAL_VALUE_ISNAN (d))
 379     {
 380       val->lattice_val = UNDEFINED;
 381       val->value = NULL;
 382       return;
 383     }
 384 }
 385
 386 /* Return whether the lattice transition is valid.  */
 387
 388 static bool
 389 valid_lattice_transition (prop_value_t old_val, prop_value_t new_val)
 390 {
 391   /* Lattice transitions must always be monotonically increasing in
 392      value.  */
 393   if (old_val.lattice_val < new_val.lattice_val)
 394     return true;
 395
 396   if (old_val.lattice_val != new_val.lattice_val)
 397     return false;
 398
 399   if (!old_val.value && !new_val.value)
 400     return true;
 401
 402   /* Now both lattice values are CONSTANT.  */
 403
 404   /* Allow transitioning from &x to &x & ~3.  */
 405   if (TREE_CODE (old_val.value) != INTEGER_CST
 406       && TREE_CODE (new_val.value) == INTEGER_CST)
 407     return true;
 408
 409   /* Bit-lattices have to agree in the still valid bits.  */
 410   if (TREE_CODE (old_val.value) == INTEGER_CST
 411       && TREE_CODE (new_val.value) == INTEGER_CST)
 412     return double_int_equal_p
 413                 (double_int_and_not (tree_to_double_int (old_val.value),
 414                                      new_val.mask),
 415                  double_int_and_not (tree_to_double_int (new_val.value),
 416                                      new_val.mask));
 417
 418   /* Otherwise constant values have to agree.  */
 419   return operand_equal_p (old_val.value, new_val.value, 0);
 420 }
 421
 422 /* Set the value for variable VAR to NEW_VAL.  Return true if the new
 423    value is different from VAR's previous value.  */
 424
 425 static bool
 426 set_lattice_value (tree var, prop_value_t new_val)
 427 {
 428   /* We can deal with old UNINITIALIZED values just fine here.  */
 429   prop_value_t *old_val = &const_val[SSA_NAME_VERSION (var)];
 430
 431   canonicalize_float_value (&new_val);
 432
 433   /* We have to be careful to not go up the bitwise lattice
 434      represented by the mask.
 435      ???  This doesn't seem to be the best place to enforce this.  */
 436   if (new_val.lattice_val == CONSTANT
 437       && old_val->lattice_val == CONSTANT
 438       && TREE_CODE (new_val.value) == INTEGER_CST
 439       && TREE_CODE (old_val->value) == INTEGER_CST)
 440     {
 441       double_int diff;
 442       diff = double_int_xor (tree_to_double_int (new_val.value),
 443                              tree_to_double_int (old_val->value));
 444       new_val.mask = double_int_ior (new_val.mask,
 445                                      double_int_ior (old_val->mask, diff));
 446     }
 447
 448   gcc_assert (valid_lattice_transition (*old_val, new_val));
 449
 450   /* If *OLD_VAL and NEW_VAL are the same, return false to inform the
 451      caller that this was a non-transition.  */
 452   if (old_val->lattice_val != new_val.lattice_val
 453       || (new_val.lattice_val == CONSTANT
 454           && TREE_CODE (new_val.value) == INTEGER_CST
 455           && (TREE_CODE (old_val->value) != INTEGER_CST
 456               || !double_int_equal_p (new_val.mask, old_val->mask))))
 457     {
 458       /* ???  We would like to delay creation of INTEGER_CSTs from
 459          partially constants here.  */
 460
 461       if (dump_file && (dump_flags & TDF_DETAILS))
 462         {
 463           dump_lattice_value (dump_file, "Lattice value changed to ", new_val);
 464           fprintf (dump_file, ".  Adding SSA edges to worklist.\n");
 465         }
 466
 467       *old_val = new_val;
 468
 469       gcc_assert (new_val.lattice_val != UNINITIALIZED);
 470       return true;
 471     }
 472
 473   return false;
 474 }
 475
 476 static prop_value_t get_value_for_expr (tree, bool);
 477 static prop_value_t bit_value_binop (enum tree_code, tree, tree, tree);
 478 static void bit_value_binop_1 (enum tree_code, tree, double_int *, double_int *,
 479                                tree, double_int, double_int,
 480                                tree, double_int, double_int);
 481
 482 /* Return a double_int that can be used for bitwise simplifications
 483    from VAL.  */
 484
 485 static double_int
 486 value_to_double_int (prop_value_t val)
 487 {
 488   if (val.value
 489       && TREE_CODE (val.value) == INTEGER_CST)
 490     return tree_to_double_int (val.value);
 491   else
 492     return double_int_zero;
 493 }
 494
 495 /* Return the value for the address expression EXPR based on alignment
 496    information.  */
 497
 498 static prop_value_t
 499 get_value_from_alignment (tree expr)
 500 {
 501   prop_value_t val;
 502   HOST_WIDE_INT bitsize, bitpos;
 503   tree base, offset;
 504   enum machine_mode mode;
 505   int align;
 506
 507   gcc_assert (TREE_CODE (expr) == ADDR_EXPR);
 508
 509   base = get_inner_reference (TREE_OPERAND (expr, 0),
 510                               &bitsize, &bitpos, &offset,
 511                               &mode, &align, &align, false);
 512   if (TREE_CODE (base) == MISALIGNED_INDIRECT_REF)
 513     val = get_value_for_expr (TREE_OPERAND (base, 0), true);
 514   else if (TREE_CODE (base) == MEM_REF)
 515     val = bit_value_binop (PLUS_EXPR, TREE_TYPE (expr),
 516                            TREE_OPERAND (base, 0), TREE_OPERAND (base, 1));
 517   else if (base
 518            && ((align = get_object_alignment (base, BITS_PER_UNIT,
 519                                               BIGGEST_ALIGNMENT))
 520                 > BITS_PER_UNIT))
 521     {
 522       val.lattice_val = CONSTANT;
 523       /* We assume pointers are zero-extended.  */
 524       val.mask = double_int_and_not
 525                    (double_int_mask (TYPE_PRECISION (TREE_TYPE (expr))),
 526                     uhwi_to_double_int (align / BITS_PER_UNIT - 1));
 527       val.value = build_int_cst (TREE_TYPE (expr), 0);
 528     }
 529   else
 530     {
 531       val.lattice_val = VARYING;
 532       val.mask = double_int_minus_one;
 533       val.value = NULL_TREE;
 534     }
 535   if (bitpos != 0)
 536     {
 537       double_int value, mask;
 538       bit_value_binop_1 (PLUS_EXPR, TREE_TYPE (expr), &value, &mask,
 539                          TREE_TYPE (expr), value_to_double_int (val), val.mask,
 540                          TREE_TYPE (expr),
 541                          shwi_to_double_int (bitpos / BITS_PER_UNIT),
 542                          double_int_zero);
 543       val.lattice_val = double_int_minus_one_p (mask) ? VARYING : CONSTANT;
 544       val.mask = mask;
 545       if (val.lattice_val == CONSTANT)
 546         val.value = double_int_to_tree (TREE_TYPE (expr), value);
 547       else
 548         val.value = NULL_TREE;
 549     }
 550   /* ???  We should handle i * 4 and more complex expressions from
 551      the offset, possibly by just expanding get_value_for_expr.  */
 552   if (offset != NULL_TREE)
 553     {
 554       double_int value, mask;
 555       prop_value_t oval = get_value_for_expr (offset, true);
 556       bit_value_binop_1 (PLUS_EXPR, TREE_TYPE (expr), &value, &mask,
 557                          TREE_TYPE (expr), value_to_double_int (val), val.mask,
 558                          TREE_TYPE (expr), value_to_double_int (oval),
 559                          oval.mask);
 560       val.mask = mask;
 561       if (double_int_minus_one_p (mask))
 562         {
 563           val.lattice_val = VARYING;
 564           val.value = NULL_TREE;
 565         }
 566       else
 567         {
 568           val.lattice_val = CONSTANT;
 569           val.value = double_int_to_tree (TREE_TYPE (expr), value);
 570         }
 571     }
 572
 573   return val;
 574 }
 575
 576 /* Return the value for the tree operand EXPR.  If FOR_BITS_P is true
 577    return constant bits extracted from alignment information for
 578    invariant addresses.  */
 579
 580 static prop_value_t
 581 get_value_for_expr (tree expr, bool for_bits_p)
 582 {
 583   prop_value_t val;
 584
 585   if (TREE_CODE (expr) == SSA_NAME)
 586     {
 587       val = *get_value (expr);
 588       if (for_bits_p
 589           && val.lattice_val == CONSTANT
 590           && TREE_CODE (val.value) == ADDR_EXPR)
 591         val = get_value_from_alignment (val.value);
 592     }
 593   else if (is_gimple_min_invariant (expr)
 594            && (!for_bits_p || TREE_CODE (expr) != ADDR_EXPR))
 595     {
 596       val.lattice_val = CONSTANT;
 597       val.value = expr;
 598       val.mask = double_int_zero;
 599       canonicalize_float_value (&val);
 600     }
 601   else if (TREE_CODE (expr) == ADDR_EXPR)
 602     val = get_value_from_alignment (expr);
 603   else
 604     {
 605       val.lattice_val = VARYING;
 606       val.mask = double_int_minus_one;
 607       val.value = NULL_TREE;
 608     }
 609   return val;
 610 }
 611
 612 /* Return the likely CCP lattice value for STMT.
 613
 614    If STMT has no operands, then return CONSTANT.
 615
 616    Else if undefinedness of operands of STMT cause its value to be
 617    undefined, then return UNDEFINED.
 618
 619    Else if any operands of STMT are constants, then return CONSTANT.
 620
 621    Else return VARYING.  */
 622
 623 static ccp_lattice_t
 624 likely_value (gimple stmt)
 625 {
 626   bool has_constant_operand, has_undefined_operand, all_undefined_operands;
 627   tree use;
 628   ssa_op_iter iter;
 629   unsigned i;
 630
 631   enum gimple_code code = gimple_code (stmt);
 632
 633   /* This function appears to be called only for assignments, calls,
 634      conditionals, and switches, due to the logic in visit_stmt.  */
 635   gcc_assert (code == GIMPLE_ASSIGN
 636               || code == GIMPLE_CALL
 637               || code == GIMPLE_COND
 638               || code == GIMPLE_SWITCH);
 639
 640   /* If the statement has volatile operands, it won't fold to a
 641      constant value.  */
 642   if (gimple_has_volatile_ops (stmt))
 643     return VARYING;
 644
 645   /* Arrive here for more complex cases.  */
 646   has_constant_operand = false;
 647   has_undefined_operand = false;
 648   all_undefined_operands = true;
 649   FOR_EACH_SSA_TREE_OPERAND (use, stmt, iter, SSA_OP_USE)
 650     {
 651       prop_value_t *val = get_value (use);
 652
 653       if (val->lattice_val == UNDEFINED)
 654         has_undefined_operand = true;
 655       else
 656         all_undefined_operands = false;
 657
 658       if (val->lattice_val == CONSTANT)
 659         has_constant_operand = true;
 660     }
 661
 662   /* There may be constants in regular rhs operands.  For calls we
 663      have to ignore lhs, fndecl and static chain, otherwise only
 664      the lhs.  */
 665   for (i = (is_gimple_call (stmt) ? 2 : 0) + gimple_has_lhs (stmt);
 666        i < gimple_num_ops (stmt); ++i)
 667     {
 668       tree op = gimple_op (stmt, i);
 669       if (!op || TREE_CODE (op) == SSA_NAME)
 670         continue;
 671       if (is_gimple_min_invariant (op))
 672         has_constant_operand = true;
 673     }
 674
 675   if (has_constant_operand)
 676     all_undefined_operands = false;
 677
 678   /* If the operation combines operands like COMPLEX_EXPR make sure to
 679      not mark the result UNDEFINED if only one part of the result is
 680      undefined.  */
 681   if (has_undefined_operand && all_undefined_operands)
 682     return UNDEFINED;
 683   else if (code == GIMPLE_ASSIGN && has_undefined_operand)
 684     {
 685       switch (gimple_assign_rhs_code (stmt))
 686         {
 687         /* Unary operators are handled with all_undefined_operands.  */
 688         case PLUS_EXPR:
 689         case MINUS_EXPR:
 690         case POINTER_PLUS_EXPR:
 691           /* Not MIN_EXPR, MAX_EXPR.  One VARYING operand may be selected.
 692              Not bitwise operators, one VARYING operand may specify the
 693              result completely.  Not logical operators for the same reason.
 694              Not COMPLEX_EXPR as one VARYING operand makes the result partly
 695              not UNDEFINED.  Not *DIV_EXPR, comparisons and shifts because
 696              the undefined operand may be promoted.  */
 697           return UNDEFINED;
 698
 699         default:
 700           ;
 701         }
 702     }
 703   /* If there was an UNDEFINED operand but the result may be not UNDEFINED
 704      fall back to VARYING even if there were CONSTANT operands.  */
 705   if (has_undefined_operand)
 706     return VARYING;
 707
 708   /* We do not consider virtual operands here -- load from read-only
 709      memory may have only VARYING virtual operands, but still be
 710      constant.  */
 711   if (has_constant_operand
 712       || gimple_references_memory_p (stmt))
 713     return CONSTANT;
 714
 715   return VARYING;
 716 }
 717
 718 /* Returns true if STMT cannot be constant.  */
 719
 720 static bool
 721 surely_varying_stmt_p (gimple stmt)
 722 {
 723   /* If the statement has operands that we cannot handle, it cannot be
 724      constant.  */
 725   if (gimple_has_volatile_ops (stmt))
 726     return true;
 727
 728   /* If it is a call and does not return a value or is not a
 729      builtin and not an indirect call, it is varying.  */
 730   if (is_gimple_call (stmt))
 731     {
 732       tree fndecl;
 733       if (!gimple_call_lhs (stmt)
 734           || ((fndecl = gimple_call_fndecl (stmt)) != NULL_TREE
 735               && !DECL_BUILT_IN (fndecl)))
 736         return true;
 737     }
 738
 739   /* Any other store operation is not interesting.  */
 740   else if (gimple_vdef (stmt))
 741     return true;
 742
 743   /* Anything other than assignments and conditional jumps are not
 744      interesting for CCP.  */
 745   if (gimple_code (stmt) != GIMPLE_ASSIGN
 746       && gimple_code (stmt) != GIMPLE_COND
 747       && gimple_code (stmt) != GIMPLE_SWITCH
 748       && gimple_code (stmt) != GIMPLE_CALL)
 749     return true;
 750
 751   return false;
 752 }
 753
 754 /* Initialize local data structures for CCP.  */
 755
 756 static void
 757 ccp_initialize (void)
 758 {
 759   basic_block bb;
 760
 761   const_val = XCNEWVEC (prop_value_t, num_ssa_names);
 762
 763   /* Initialize simulation flags for PHI nodes and statements.  */
 764   FOR_EACH_BB (bb)
 765     {
 766       gimple_stmt_iterator i;
 767
 768       for (i = gsi_start_bb (bb); !gsi_end_p (i); gsi_next (&i))
 769         {
 770           gimple stmt = gsi_stmt (i);
 771           bool is_varying;
 772
 773           /* If the statement is a control insn, then we do not
 774              want to avoid simulating the statement once.  Failure
 775              to do so means that those edges will never get added.  */
 776           if (stmt_ends_bb_p (stmt))
 777             is_varying = false;
 778           else
 779             is_varying = surely_varying_stmt_p (stmt);
 780
 781           if (is_varying)
 782             {
 783               tree def;
 784               ssa_op_iter iter;
 785
 786               /* If the statement will not produce a constant, mark
 787                  all its outputs VARYING.  */
 788               FOR_EACH_SSA_TREE_OPERAND (def, stmt, iter, SSA_OP_ALL_DEFS)
 789                 set_value_varying (def);
 790             }
 791           prop_set_simulate_again (stmt, !is_varying);
 792         }
 793     }
 794
 795   /* Now process PHI nodes.  We never clear the simulate_again flag on
 796      phi nodes, since we do not know which edges are executable yet,
 797      except for phi nodes for virtual operands when we do not do store ccp.  */
 798   FOR_EACH_BB (bb)
 799     {
 800       gimple_stmt_iterator i;
 801
 802       for (i = gsi_start_phis (bb); !gsi_end_p (i); gsi_next (&i))
 803         {
 804           gimple phi = gsi_stmt (i);
 805
 806           if (!is_gimple_reg (gimple_phi_result (phi)))
 807             prop_set_simulate_again (phi, false);
 808           else
 809             prop_set_simulate_again (phi, true);
 810         }
 811     }
 812 }
 813
 814 /* Debug count support. Reset the values of ssa names
 815    VARYING when the total number ssa names analyzed is
 816    beyond the debug count specified.  */
 817
 818 static void
 819 do_dbg_cnt (void)
 820 {
 821   unsigned i;
 822   for (i = 0; i < num_ssa_names; i++)
 823     {
 824       if (!dbg_cnt (ccp))
 825         {
 826           const_val[i].lattice_val = VARYING;
 827           const_val[i].mask = double_int_minus_one;
 828           const_val[i].value = NULL_TREE;
 829         }
 830     }
 831 }
 832
 833
 834 /* Do final substitution of propagated values, cleanup the flowgraph and
 835    free allocated storage.
 836
 837    Return TRUE when something was optimized.  */
 838
 839 static bool
 840 ccp_finalize (void)
 841 {
 842   bool something_changed;
 843
 844   do_dbg_cnt ();
 845   /* Perform substitutions based on the known constant values.  */
 846   something_changed = substitute_and_fold (get_constant_value,
 847                                            ccp_fold_stmt, true);
 848
 849   free (const_val);
 850   const_val = NULL;
 851   return something_changed;;
 852 }
 853
 854
 855 /* Compute the meet operator between *VAL1 and *VAL2.  Store the result
 856    in VAL1.
 857
 858                 any  M UNDEFINED   = any
 859                 any  M VARYING     = VARYING
 860                 Ci   M Cj          = Ci         if (i == j)
 861                 Ci   M Cj          = VARYING    if (i != j)
 862    */
 863
 864 static void
 865 ccp_lattice_meet (prop_value_t *val1, prop_value_t *val2)
 866 {
 867   if (val1->lattice_val == UNDEFINED)
 868     {
 869       /* UNDEFINED M any = any   */
 870       *val1 = *val2;
 871     }
 872   else if (val2->lattice_val == UNDEFINED)
 873     {
 874       /* any M UNDEFINED = any
 875          Nothing to do.  VAL1 already contains the value we want.  */
 876       ;
 877     }
 878   else if (val1->lattice_val == VARYING
 879            || val2->lattice_val == VARYING)
 880     {
 881       /* any M VARYING = VARYING.  */
 882       val1->lattice_val = VARYING;
 883       val1->mask = double_int_minus_one;
 884       val1->value = NULL_TREE;
 885     }
 886   else if (val1->lattice_val == CONSTANT
 887            && val2->lattice_val == CONSTANT
 888            && TREE_CODE (val1->value) == INTEGER_CST
 889            && TREE_CODE (val2->value) == INTEGER_CST)
 890     {
 891       /* Ci M Cj = Ci           if (i == j)
 892          Ci M Cj = VARYING      if (i != j)
 893
 894          For INTEGER_CSTs mask unequal bits.  If no equal bits remain,
 895          drop to varying.  */
 896       val1->mask
 897           = double_int_ior (double_int_ior (val1->mask,
 898                                             val2->mask),
 899                             double_int_xor (tree_to_double_int (val1->value),
 900                                             tree_to_double_int (val2->value)));
 901       if (double_int_minus_one_p (val1->mask))
 902         {
 903           val1->lattice_val = VARYING;
 904           val1->value = NULL_TREE;
 905         }
 906     }
 907   else if (val1->lattice_val == CONSTANT
 908            && val2->lattice_val == CONSTANT
 909            && simple_cst_equal (val1->value, val2->value) == 1)
 910     {
 911       /* Ci M Cj = Ci           if (i == j)
 912          Ci M Cj = VARYING      if (i != j)
 913
 914          VAL1 already contains the value we want for equivalent values.  */
 915     }
 916   else if (val1->lattice_val == CONSTANT
 917            && val2->lattice_val == CONSTANT
 918            && (TREE_CODE (val1->value) == ADDR_EXPR
 919                || TREE_CODE (val2->value) == ADDR_EXPR))
 920     {
 921       /* When not equal addresses are involved try meeting for
 922          alignment.  */
 923       prop_value_t tem = *val2;
 924       if (TREE_CODE (val1->value) == ADDR_EXPR)
 925         *val1 = get_value_for_expr (val1->value, true);
 926       if (TREE_CODE (val2->value) == ADDR_EXPR)
 927         tem = get_value_for_expr (val2->value, true);
 928       ccp_lattice_meet (val1, &tem);
 929     }
 930   else
 931     {
 932       /* Any other combination is VARYING.  */
 933       val1->lattice_val = VARYING;
 934       val1->mask = double_int_minus_one;
 935       val1->value = NULL_TREE;
 936     }
 937 }
 938
 939
 940 /* Loop through the PHI_NODE's parameters for BLOCK and compare their
 941    lattice values to determine PHI_NODE's lattice value.  The value of a
 942    PHI node is determined calling ccp_lattice_meet with all the arguments
 943    of the PHI node that are incoming via executable edges.  */
 944
 945 static enum ssa_prop_result
 946 ccp_visit_phi_node (gimple phi)
 947 {
 948   unsigned i;
 949   prop_value_t *old_val, new_val;
 950
 951   if (dump_file && (dump_flags & TDF_DETAILS))
 952     {
 953       fprintf (dump_file, "\nVisiting PHI node: ");
 954       print_gimple_stmt (dump_file, phi, 0, dump_flags);
 955     }
 956
 957   old_val = get_value (gimple_phi_result (phi));
 958   switch (old_val->lattice_val)
 959     {
 960     case VARYING:
 961       return SSA_PROP_VARYING;
 962
 963     case CONSTANT:
 964       new_val = *old_val;
 965       break;
 966
 967     case UNDEFINED:
 968       new_val.lattice_val = UNDEFINED;
 969       new_val.value = NULL_TREE;
 970       break;
 971
 972     default:
 973       gcc_unreachable ();
 974     }
 975
 976   for (i = 0; i < gimple_phi_num_args (phi); i++)
 977     {
 978       /* Compute the meet operator over all the PHI arguments flowing
 979          through executable edges.  */
 980       edge e = gimple_phi_arg_edge (phi, i);
 981
 982       if (dump_file && (dump_flags & TDF_DETAILS))
 983         {
 984           fprintf (dump_file,
 985               "\n    Argument #%d (%d -> %d %sexecutable)\n",
 986               i, e->src->index, e->dest->index,
 987               (e->flags & EDGE_EXECUTABLE) ? "" : "not ");
 988         }
 989
 990       /* If the incoming edge is executable, Compute the meet operator for
 991          the existing value of the PHI node and the current PHI argument.  */
 992       if (e->flags & EDGE_EXECUTABLE)
 993         {
 994           tree arg = gimple_phi_arg (phi, i)->def;
 995           prop_value_t arg_val = get_value_for_expr (arg, false);
 996
 997           ccp_lattice_meet (&new_val, &arg_val);
 998
 999           if (dump_file && (dump_flags & TDF_DETAILS))
1000             {
1001               fprintf (dump_file, "\t");
1002               print_generic_expr (dump_file, arg, dump_flags);
1003               dump_lattice_value (dump_file, "\tValue: ", arg_val);
1004               fprintf (dump_file, "\n");
1005             }
1006
1007           if (new_val.lattice_val == VARYING)
1008             break;
1009         }
1010     }
1011
1012   if (dump_file && (dump_flags & TDF_DETAILS))
1013     {
1014       dump_lattice_value (dump_file, "\n    PHI node value: ", new_val);
1015       fprintf (dump_file, "\n\n");
1016     }
1017
1018   /* Make the transition to the new value.  */
1019   if (set_lattice_value (gimple_phi_result (phi), new_val))
1020     {
1021       if (new_val.lattice_val == VARYING)
1022         return SSA_PROP_VARYING;
1023       else
1024         return SSA_PROP_INTERESTING;
1025     }
1026   else
1027     return SSA_PROP_NOT_INTERESTING;
1028 }
1029
1030 /* Return the constant value for OP or OP otherwise.  */
1031
1032 static tree
1033 valueize_op (tree op)
1034 {
1035   if (TREE_CODE (op) == SSA_NAME)
1036     {
1037       tree tem = get_constant_value (op);
1038       if (tem)
1039         return tem;
1040     }
1041   return op;
1042 }
1043
1044 /* CCP specific front-end to the non-destructive constant folding
1045    routines.
1046
1047    Attempt to simplify the RHS of STMT knowing that one or more
1048    operands are constants.
1049
1050    If simplification is possible, return the simplified RHS,
1051    otherwise return the original RHS or NULL_TREE.  */
1052
1053 static tree
1054 ccp_fold (gimple stmt)
1055 {
1056   location_t loc = gimple_location (stmt);
1057   switch (gimple_code (stmt))
1058     {
1059     case GIMPLE_ASSIGN:
1060       {
1061         enum tree_code subcode = gimple_assign_rhs_code (stmt);
1062
1063         switch (get_gimple_rhs_class (subcode))
1064           {
1065           case GIMPLE_SINGLE_RHS:
1066             {
1067               tree rhs = gimple_assign_rhs1 (stmt);
1068               enum tree_code_class kind = TREE_CODE_CLASS (subcode);
1069
1070               if (TREE_CODE (rhs) == SSA_NAME)
1071                 {
1072                   /* If the RHS is an SSA_NAME, return its known constant value,
1073                      if any.  */
1074                   return get_constant_value (rhs);
1075                 }
1076               /* Handle propagating invariant addresses into address operations.
1077                  The folding we do here matches that in tree-ssa-forwprop.c.  */
1078               else if (TREE_CODE (rhs) == ADDR_EXPR)
1079                 {
1080                   tree *base;
1081                   base = &TREE_OPERAND (rhs, 0);
1082                   while (handled_component_p (*base))
1083                     base = &TREE_OPERAND (*base, 0);
1084                   if (TREE_CODE (*base) == MEM_REF
1085                       && TREE_CODE (TREE_OPERAND (*base, 0)) == SSA_NAME)
1086                     {
1087                       tree val = get_constant_value (TREE_OPERAND (*base, 0));
1088                       if (val
1089                           && TREE_CODE (val) == ADDR_EXPR)
1090                         {
1091                           tree ret, save = *base;
1092                           tree new_base;
1093                           new_base = fold_build2 (MEM_REF, TREE_TYPE (*base),
1094                                                   unshare_expr (val),
1095                                                   TREE_OPERAND (*base, 1));
1096                           /* We need to return a new tree, not modify the IL
1097                              or share parts of it.  So play some tricks to
1098                              avoid manually building it.  */
1099                           *base = new_base;
1100                           ret = unshare_expr (rhs);
1101                           recompute_tree_invariant_for_addr_expr (ret);
1102                           *base = save;
1103                           return ret;
1104                         }
1105                     }
1106                 }
1107               else if (TREE_CODE (rhs) == CONSTRUCTOR
1108                        && TREE_CODE (TREE_TYPE (rhs)) == VECTOR_TYPE
1109                        && (CONSTRUCTOR_NELTS (rhs)
1110                            == TYPE_VECTOR_SUBPARTS (TREE_TYPE (rhs))))
1111                 {
1112                   unsigned i;
1113                   tree val, list;
1114
1115                   list = NULL_TREE;
1116                   FOR_EACH_CONSTRUCTOR_VALUE (CONSTRUCTOR_ELTS (rhs), i, val)
1117                     {
1118                       val = valueize_op (val);
1119                       if (TREE_CODE (val) == INTEGER_CST
1120                           || TREE_CODE (val) == REAL_CST
1121                           || TREE_CODE (val) == FIXED_CST)
1122                         list = tree_cons (NULL_TREE, val, list);
1123                       else
1124                         return NULL_TREE;
1125                     }
1126
1127                   return build_vector (TREE_TYPE (rhs), nreverse (list));
1128                 }
1129
1130               if (kind == tcc_reference)
1131                 {
1132                   if ((TREE_CODE (rhs) == VIEW_CONVERT_EXPR
1133                        || TREE_CODE (rhs) == REALPART_EXPR
1134                        || TREE_CODE (rhs) == IMAGPART_EXPR)
1135                       && TREE_CODE (TREE_OPERAND (rhs, 0)) == SSA_NAME)
1136                     {
1137                       tree val = get_constant_value (TREE_OPERAND (rhs, 0));
1138                       if (val)
1139                         return fold_unary_loc (EXPR_LOCATION (rhs),
1140                                                TREE_CODE (rhs),
1141                                                TREE_TYPE (rhs), val);
1142                     }
1143                   else if (TREE_CODE (rhs) == MEM_REF
1144                            && TREE_CODE (TREE_OPERAND (rhs, 0)) == SSA_NAME)
1145                     {
1146                       tree val = get_constant_value (TREE_OPERAND (rhs, 0));
1147                       if (val
1148                           && TREE_CODE (val) == ADDR_EXPR)
1149                         {
1150                           tree tem = fold_build2 (MEM_REF, TREE_TYPE (rhs),
1151                                                   unshare_expr (val),
1152                                                   TREE_OPERAND (rhs, 1));
1153                           if (tem)
1154                             rhs = tem;
1155                         }
1156                     }
1157                   return fold_const_aggregate_ref (rhs);
1158                 }
1159               else if (kind == tcc_declaration)
1160                 return get_symbol_constant_value (rhs);
1161               return rhs;
1162             }
1163
1164           case GIMPLE_UNARY_RHS:
1165             {
1166               /* Handle unary operators that can appear in GIMPLE form.
1167                  Note that we know the single operand must be a constant,
1168                  so this should almost always return a simplified RHS.  */
1169               tree lhs = gimple_assign_lhs (stmt);
1170               tree op0 = valueize_op (gimple_assign_rhs1 (stmt));
1171
1172               /* Conversions are useless for CCP purposes if they are
1173                  value-preserving.  Thus the restrictions that
1174                  useless_type_conversion_p places for pointer type conversions
1175                  do not apply here.  Substitution later will only substitute to
1176                  allowed places.  */
1177               if (CONVERT_EXPR_CODE_P (subcode)
1178                   && POINTER_TYPE_P (TREE_TYPE (lhs))
1179                   && POINTER_TYPE_P (TREE_TYPE (op0)))
1180                 {
1181                   tree tem;
1182                   /* Try to re-construct array references on-the-fly.  */
1183                   if (!useless_type_conversion_p (TREE_TYPE (lhs),
1184                                                   TREE_TYPE (op0))
1185                       && ((tem = maybe_fold_offset_to_address
1186                            (loc,
1187                             op0, integer_zero_node, TREE_TYPE (lhs)))
1188                           != NULL_TREE))
1189                     return tem;
1190                   return op0;
1191                 }
1192
1193               return
1194                 fold_unary_ignore_overflow_loc (loc, subcode,
1195                                                 gimple_expr_type (stmt), op0);
1196             }
1197
1198           case GIMPLE_BINARY_RHS:
1199             {
1200               /* Handle binary operators that can appear in GIMPLE form.  */
1201               tree op0 = valueize_op (gimple_assign_rhs1 (stmt));
1202               tree op1 = valueize_op (gimple_assign_rhs2 (stmt));
1203
1204               /* Translate &x + CST into an invariant form suitable for
1205                  further propagation.  */
1206               if (gimple_assign_rhs_code (stmt) == POINTER_PLUS_EXPR
1207                   && TREE_CODE (op0) == ADDR_EXPR
1208                   && TREE_CODE (op1) == INTEGER_CST)
1209                 {
1210                   tree off = fold_convert (ptr_type_node, op1);
1211                   return build_fold_addr_expr
1212                            (fold_build2 (MEM_REF,
1213                                          TREE_TYPE (TREE_TYPE (op0)),
1214                                          unshare_expr (op0), off));
1215                 }
1216
1217               return fold_binary_loc (loc, subcode,
1218                                       gimple_expr_type (stmt), op0, op1);
1219             }
1220
1221           case GIMPLE_TERNARY_RHS:
1222             {
1223               /* Handle ternary operators that can appear in GIMPLE form.  */
1224               tree op0 = valueize_op (gimple_assign_rhs1 (stmt));
1225               tree op1 = valueize_op (gimple_assign_rhs2 (stmt));
1226               tree op2 = valueize_op (gimple_assign_rhs3 (stmt));
1227
1228               return fold_ternary_loc (loc, subcode,
1229                                        gimple_expr_type (stmt), op0, op1, op2);
1230             }
1231
1232           default:
1233             gcc_unreachable ();
1234           }
1235       }
1236       break;
1237
1238     case GIMPLE_CALL:
1239       {
1240         tree fn = valueize_op (gimple_call_fn (stmt));
1241         if (TREE_CODE (fn) == ADDR_EXPR
1242             && TREE_CODE (TREE_OPERAND (fn, 0)) == FUNCTION_DECL
1243             && DECL_BUILT_IN (TREE_OPERAND (fn, 0)))
1244           {
1245             tree *args = XALLOCAVEC (tree, gimple_call_num_args (stmt));
1246             tree call, retval;
1247             unsigned i;
1248             for (i = 0; i < gimple_call_num_args (stmt); ++i)
1249               args[i] = valueize_op (gimple_call_arg (stmt, i));
1250             call = build_call_array_loc (loc,
1251                                          gimple_call_return_type (stmt),
1252                                          fn, gimple_call_num_args (stmt), args);
1253             retval = fold_call_expr (EXPR_LOCATION (call), call, false);
1254             if (retval)
1255               /* fold_call_expr wraps the result inside a NOP_EXPR.  */
1256               STRIP_NOPS (retval);
1257             return retval;
1258           }
1259         return NULL_TREE;
1260       }
1261
1262     case GIMPLE_COND:
1263       {
1264         /* Handle comparison operators that can appear in GIMPLE form.  */
1265         tree op0 = valueize_op (gimple_cond_lhs (stmt));
1266         tree op1 = valueize_op (gimple_cond_rhs (stmt));
1267         enum tree_code code = gimple_cond_code (stmt);
1268         return fold_binary_loc (loc, code, boolean_type_node, op0, op1);
1269       }
1270
1271     case GIMPLE_SWITCH:
1272       {
1273         /* Return the constant switch index.  */
1274         return valueize_op (gimple_switch_index (stmt));
1275       }
1276
1277     default:
1278       gcc_unreachable ();
1279     }
1280 }
1281
1282 /* Return the tree representing the element referenced by T if T is an
1283    ARRAY_REF or COMPONENT_REF into constant aggregates.  Return
1284    NULL_TREE otherwise.  */
1285
1286 tree
1287 fold_const_aggregate_ref (tree t)
1288 {
1289   tree base, ctor, idx, field;
1290   unsigned HOST_WIDE_INT cnt;
1291   tree cfield, cval;
1292   tree tem;
1293
1294   if (TREE_CODE_CLASS (TREE_CODE (t)) == tcc_declaration)
1295     return get_symbol_constant_value (t);
1296
1297   switch (TREE_CODE (t))
1298     {
1299     case ARRAY_REF:
1300       /* Get a CONSTRUCTOR.  If BASE is a VAR_DECL, get its
1301          DECL_INITIAL.  If BASE is a nested reference into another
1302          ARRAY_REF or COMPONENT_REF, make a recursive call to resolve
1303          the inner reference.  */
1304       base = TREE_OPERAND (t, 0);
1305       switch (TREE_CODE (base))
1306         {
1307         case MEM_REF:
1308           /* ???  We could handle this case.  */
1309           if (!integer_zerop (TREE_OPERAND (base, 1)))
1310             return NULL_TREE;
1311           base = get_base_address (base);
1312           if (!base
1313               || TREE_CODE (base) != VAR_DECL)
1314             return NULL_TREE;
1315
1316           /* Fallthru.  */
1317         case VAR_DECL:
1318           if (!TREE_READONLY (base)
1319               || TREE_CODE (TREE_TYPE (base)) != ARRAY_TYPE
1320               || !targetm.binds_local_p (base))
1321             return NULL_TREE;
1322
1323           ctor = DECL_INITIAL (base);
1324           break;
1325
1326         case ARRAY_REF:
1327         case COMPONENT_REF:
1328           ctor = fold_const_aggregate_ref (base);
1329           break;
1330
1331         case STRING_CST:
1332         case CONSTRUCTOR:
1333           ctor = base;
1334           break;
1335
1336         default:
1337           return NULL_TREE;
1338         }
1339
1340       if (ctor == NULL_TREE
1341           || (TREE_CODE (ctor) != CONSTRUCTOR
1342               && TREE_CODE (ctor) != STRING_CST)
1343           || !TREE_STATIC (ctor))
1344         return NULL_TREE;
1345
1346       /* Get the index.  If we have an SSA_NAME, try to resolve it
1347          with the current lattice value for the SSA_NAME.  */
1348       idx = TREE_OPERAND (t, 1);
1349       switch (TREE_CODE (idx))
1350         {
1351         case SSA_NAME:
1352           if ((tem = get_constant_value (idx))
1353               && TREE_CODE (tem) == INTEGER_CST)
1354             idx = tem;
1355           else
1356             return NULL_TREE;
1357           break;
1358
1359         case INTEGER_CST:
1360           break;
1361
1362         default:
1363           return NULL_TREE;
1364         }
1365
1366       /* Fold read from constant string.  */
1367       if (TREE_CODE (ctor) == STRING_CST)
1368         {
1369           if ((TYPE_MODE (TREE_TYPE (t))
1370                == TYPE_MODE (TREE_TYPE (TREE_TYPE (ctor))))
1371               && (GET_MODE_CLASS (TYPE_MODE (TREE_TYPE (TREE_TYPE (ctor))))
1372                   == MODE_INT)
1373               && GET_MODE_SIZE (TYPE_MODE (TREE_TYPE (TREE_TYPE (ctor)))) == 1
1374               && compare_tree_int (idx, TREE_STRING_LENGTH (ctor)) < 0)
1375             return build_int_cst_type (TREE_TYPE (t),
1376                                        (TREE_STRING_POINTER (ctor)
1377                                         [TREE_INT_CST_LOW (idx)]));
1378           return NULL_TREE;
1379         }
1380
1381       /* Whoo-hoo!  I'll fold ya baby.  Yeah!  */
1382       FOR_EACH_CONSTRUCTOR_ELT (CONSTRUCTOR_ELTS (ctor), cnt, cfield, cval)
1383         if (tree_int_cst_equal (cfield, idx))
1384           {
1385             STRIP_NOPS (cval);
1386             if (TREE_CODE (cval) == ADDR_EXPR)
1387               {
1388                 tree base = get_base_address (TREE_OPERAND (cval, 0));
1389                 if (base && TREE_CODE (base) == VAR_DECL)
1390                   add_referenced_var (base);
1391               }
1392             return cval;
1393           }
1394       break;
1395
1396     case COMPONENT_REF:
1397       /* Get a CONSTRUCTOR.  If BASE is a VAR_DECL, get its
1398          DECL_INITIAL.  If BASE is a nested reference into another
1399          ARRAY_REF or COMPONENT_REF, make a recursive call to resolve
1400          the inner reference.  */
1401       base = TREE_OPERAND (t, 0);
1402       switch (TREE_CODE (base))
1403         {
1404         case VAR_DECL:
1405           if (!TREE_READONLY (base)
1406               || TREE_CODE (TREE_TYPE (base)) != RECORD_TYPE
1407               || !targetm.binds_local_p (base))
1408             return NULL_TREE;
1409
1410           ctor = DECL_INITIAL (base);
1411           break;
1412
1413         case ARRAY_REF:
1414         case COMPONENT_REF:
1415           ctor = fold_const_aggregate_ref (base);
1416           break;
1417
1418         default:
1419           return NULL_TREE;
1420         }
1421
1422       if (ctor == NULL_TREE
1423           || TREE_CODE (ctor) != CONSTRUCTOR
1424           || !TREE_STATIC (ctor))
1425         return NULL_TREE;
1426
1427       field = TREE_OPERAND (t, 1);
1428
1429       FOR_EACH_CONSTRUCTOR_ELT (CONSTRUCTOR_ELTS (ctor), cnt, cfield, cval)
1430         if (cfield == field
1431             /* FIXME: Handle bit-fields.  */
1432             && ! DECL_BIT_FIELD (cfield))
1433           {
1434             STRIP_NOPS (cval);
1435             if (TREE_CODE (cval) == ADDR_EXPR)
1436               {
1437                 tree base = get_base_address (TREE_OPERAND (cval, 0));
1438                 if (base && TREE_CODE (base) == VAR_DECL)
1439                   add_referenced_var (base);
1440               }
1441             return cval;
1442           }
1443       break;
1444
1445     case REALPART_EXPR:
1446     case IMAGPART_EXPR:
1447       {
1448         tree c = fold_const_aggregate_ref (TREE_OPERAND (t, 0));
1449         if (c && TREE_CODE (c) == COMPLEX_CST)
1450           return fold_build1_loc (EXPR_LOCATION (t),
1451                               TREE_CODE (t), TREE_TYPE (t), c);
1452         break;
1453       }
1454
1455     case MEM_REF:
1456       /* Get the base object we are accessing.  */
1457       base = TREE_OPERAND (t, 0);
1458       if (TREE_CODE (base) == SSA_NAME
1459           && (tem = get_constant_value (base)))
1460         base = tem;
1461       if (TREE_CODE (base) != ADDR_EXPR)
1462         return NULL_TREE;
1463       base = TREE_OPERAND (base, 0);
1464       switch (TREE_CODE (base))
1465         {
1466         case VAR_DECL:
1467           if (DECL_P (base)
1468               && !AGGREGATE_TYPE_P (TREE_TYPE (base))
1469               && integer_zerop (TREE_OPERAND (t, 1)))
1470             {
1471               tree res = get_symbol_constant_value (base);
1472               if (res
1473                   && !useless_type_conversion_p
1474                         (TREE_TYPE (t), TREE_TYPE (res)))
1475                 res = fold_unary (VIEW_CONVERT_EXPR, TREE_TYPE (t), res);
1476               return res;
1477             }
1478
1479           if (!TREE_READONLY (base)
1480               || TREE_CODE (TREE_TYPE (base)) != ARRAY_TYPE
1481               || !targetm.binds_local_p (base))
1482             return NULL_TREE;
1483
1484           ctor = DECL_INITIAL (base);
1485           break;
1486
1487         case STRING_CST:
1488         case CONSTRUCTOR:
1489           ctor = base;
1490           break;
1491
1492         default:
1493           return NULL_TREE;
1494         }
1495
1496       if (ctor == NULL_TREE
1497           || (TREE_CODE (ctor) != CONSTRUCTOR
1498               && TREE_CODE (ctor) != STRING_CST)
1499           || !TREE_STATIC (ctor))
1500         return NULL_TREE;
1501
1502       /* Get the byte offset.  */
1503       idx = TREE_OPERAND (t, 1);
1504
1505       /* Fold read from constant string.  */
1506       if (TREE_CODE (ctor) == STRING_CST)
1507         {
1508           if ((TYPE_MODE (TREE_TYPE (t))
1509                == TYPE_MODE (TREE_TYPE (TREE_TYPE (ctor))))
1510               && (GET_MODE_CLASS (TYPE_MODE (TREE_TYPE (TREE_TYPE (ctor))))
1511                   == MODE_INT)
1512               && GET_MODE_SIZE (TYPE_MODE (TREE_TYPE (TREE_TYPE (ctor)))) == 1
1513               && compare_tree_int (idx, TREE_STRING_LENGTH (ctor)) < 0)
1514             return build_int_cst_type (TREE_TYPE (t),
1515                                        (TREE_STRING_POINTER (ctor)
1516                                         [TREE_INT_CST_LOW (idx)]));
1517           return NULL_TREE;
1518         }
1519
1520       /* ???  Implement byte-offset indexing into a non-array CONSTRUCTOR.  */
1521       if (TREE_CODE (TREE_TYPE (ctor)) == ARRAY_TYPE
1522           && (TYPE_MODE (TREE_TYPE (t))
1523               == TYPE_MODE (TREE_TYPE (TREE_TYPE (ctor))))
1524           && GET_MODE_SIZE (TYPE_MODE (TREE_TYPE (t))) != 0
1525           && integer_zerop
1526                (int_const_binop
1527                   (TRUNC_MOD_EXPR, idx,
1528                    size_int (GET_MODE_SIZE (TYPE_MODE (TREE_TYPE (t)))), 0)))
1529         {
1530           idx = int_const_binop (TRUNC_DIV_EXPR, idx,
1531                                  size_int (GET_MODE_SIZE
1532                                              (TYPE_MODE (TREE_TYPE (t)))), 0);
1533           FOR_EACH_CONSTRUCTOR_ELT (CONSTRUCTOR_ELTS (ctor), cnt, cfield, cval)
1534             if (tree_int_cst_equal (cfield, idx))
1535               {
1536                 STRIP_NOPS (cval);
1537                 if (TREE_CODE (cval) == ADDR_EXPR)
1538                   {
1539                     tree base = get_base_address (TREE_OPERAND (cval, 0));
1540                     if (base && TREE_CODE (base) == VAR_DECL)
1541                       add_referenced_var (base);
1542                   }
1543                 if (useless_type_conversion_p (TREE_TYPE (t), TREE_TYPE (cval)))
1544                   return cval;
1545                 else if (CONSTANT_CLASS_P (cval))
1546                   return fold_build1 (VIEW_CONVERT_EXPR, TREE_TYPE (t), cval);
1547                 else
1548                   return NULL_TREE;
1549               }
1550         }
1551       break;
1552
1553     default:
1554       break;
1555     }
1556
1557   return NULL_TREE;
1558 }
1559
1560 /* Apply the operation CODE in type TYPE to the value, mask pair
1561    RVAL and RMASK representing a value of type RTYPE and set
1562    the value, mask pair *VAL and *MASK to the result.  */
1563
1564 static void
1565 bit_value_unop_1 (enum tree_code code, tree type,
1566                   double_int *val, double_int *mask,
1567                   tree rtype, double_int rval, double_int rmask)
1568 {
1569   switch (code)
1570     {
1571     case BIT_NOT_EXPR:
1572       *mask = rmask;
1573       *val = double_int_not (rval);
1574       break;
1575
1576     case NEGATE_EXPR:
1577       {
1578         double_int temv, temm;
1579         /* Return ~rval + 1.  */
1580         bit_value_unop_1 (BIT_NOT_EXPR, type, &temv, &temm, type, rval, rmask);
1581         bit_value_binop_1 (PLUS_EXPR, type, val, mask,
1582                          type, temv, temm,
1583                          type, double_int_one, double_int_zero);
1584         break;
1585       }
1586
1587     CASE_CONVERT:
1588       {
1589         bool uns;
1590
1591         /* First extend mask and value according to the original type.  */
1592         uns = (TREE_CODE (rtype) == INTEGER_TYPE && TYPE_IS_SIZETYPE (rtype)
1593                ? 0 : TYPE_UNSIGNED (rtype));
1594         *mask = double_int_ext (rmask, TYPE_PRECISION (rtype), uns);
1595         *val = double_int_ext (rval, TYPE_PRECISION (rtype), uns);
1596
1597         /* Then extend mask and value according to the target type.  */
1598         uns = (TREE_CODE (type) == INTEGER_TYPE && TYPE_IS_SIZETYPE (type)
1599                ? 0 : TYPE_UNSIGNED (type));
1600         *mask = double_int_ext (*mask, TYPE_PRECISION (type), uns);
1601         *val = double_int_ext (*val, TYPE_PRECISION (type), uns);
1602         break;
1603       }
1604
1605     default:
1606       *mask = double_int_minus_one;
1607       break;
1608     }
1609 }
1610
1611 /* Apply the operation CODE in type TYPE to the value, mask pairs
1612    R1VAL, R1MASK and R2VAL, R2MASK representing a values of type R1TYPE
1613    and R2TYPE and set the value, mask pair *VAL and *MASK to the result.  */
1614
1615 static void
1616 bit_value_binop_1 (enum tree_code code, tree type,
1617                    double_int *val, double_int *mask,
1618                    tree r1type, double_int r1val, double_int r1mask,
1619                    tree r2type, double_int r2val, double_int r2mask)
1620 {
1621   bool uns = (TREE_CODE (type) == INTEGER_TYPE
1622               && TYPE_IS_SIZETYPE (type) ? 0 : TYPE_UNSIGNED (type));
1623   /* Assume we'll get a constant result.  Use an initial varying value,
1624      we fall back to varying in the end if necessary.  */
1625   *mask = double_int_minus_one;
1626   switch (code)
1627     {
1628     case BIT_AND_EXPR:
1629       /* The mask is constant where there is a known not
1630          set bit, (m1 | m2) & ((v1 | m1) & (v2 | m2)) */
1631       *mask = double_int_and (double_int_ior (r1mask, r2mask),
1632                               double_int_and (double_int_ior (r1val, r1mask),
1633                                               double_int_ior (r2val, r2mask)));
1634       *val = double_int_and (r1val, r2val);
1635       break;
1636
1637     case BIT_IOR_EXPR:
1638       /* The mask is constant where there is a known
1639          set bit, (m1 | m2) & ~((v1 & ~m1) | (v2 & ~m2)).  */
1640       *mask = double_int_and_not
1641                 (double_int_ior (r1mask, r2mask),
1642                  double_int_ior (double_int_and_not (r1val, r1mask),
1643                                  double_int_and_not (r2val, r2mask)));
1644       *val = double_int_ior (r1val, r2val);
1645       break;
1646
1647     case BIT_XOR_EXPR:
1648       /* m1 | m2  */
1649       *mask = double_int_ior (r1mask, r2mask);
1650       *val = double_int_xor (r1val, r2val);
1651       break;
1652
1653     case LROTATE_EXPR:
1654     case RROTATE_EXPR:
1655       if (double_int_zero_p (r2mask))
1656         {
1657           HOST_WIDE_INT shift = r2val.low;
1658           if (code == RROTATE_EXPR)
1659             shift = -shift;
1660           *mask = double_int_lrotate (r1mask, shift, TYPE_PRECISION (type));
1661           *val = double_int_lrotate (r1val, shift, TYPE_PRECISION (type));
1662         }
1663       break;
1664
1665     case LSHIFT_EXPR:
1666     case RSHIFT_EXPR:
1667       /* ???  We can handle partially known shift counts if we know
1668          its sign.  That way we can tell that (x << (y | 8)) & 255
1669          is zero.  */
1670       if (double_int_zero_p (r2mask))
1671         {
1672           HOST_WIDE_INT shift = r2val.low;
1673           if (code == RSHIFT_EXPR)
1674             shift = -shift;
1675           /* We need to know if we are doing a left or a right shift
1676              to properly shift in zeros for left shift and unsigned
1677              right shifts and the sign bit for signed right shifts.
1678              For signed right shifts we shift in varying in case
1679              the sign bit was varying.  */
1680           if (shift > 0)
1681             {
1682               *mask = double_int_lshift (r1mask, shift,
1683                                          TYPE_PRECISION (type), false);
1684               *val = double_int_lshift (r1val, shift,
1685                                         TYPE_PRECISION (type), false);
1686             }
1687           else if (shift < 0)
1688             {
1689               shift = -shift;
1690               *mask = double_int_rshift (r1mask, shift,
1691                                          TYPE_PRECISION (type), !uns);
1692               *val = double_int_rshift (r1val, shift,
1693                                         TYPE_PRECISION (type), !uns);
1694             }
1695           else
1696             {
1697               *mask = r1mask;
1698               *val = r1val;
1699             }
1700         }
1701       break;
1702
1703     case PLUS_EXPR:
1704     case POINTER_PLUS_EXPR:
1705       {
1706         double_int lo, hi;
1707         /* Do the addition with unknown bits set to zero, to give carry-ins of
1708            zero wherever possible.  */
1709         lo = double_int_add (double_int_and_not (r1val, r1mask),
1710                              double_int_and_not (r2val, r2mask));
1711         lo = double_int_ext (lo, TYPE_PRECISION (type), uns);
1712         /* Do the addition with unknown bits set to one, to give carry-ins of
1713            one wherever possible.  */
1714         hi = double_int_add (double_int_ior (r1val, r1mask),
1715                              double_int_ior (r2val, r2mask));
1716         hi = double_int_ext (hi, TYPE_PRECISION (type), uns);
1717         /* Each bit in the result is known if (a) the corresponding bits in
1718            both inputs are known, and (b) the carry-in to that bit position
1719            is known.  We can check condition (b) by seeing if we got the same
1720            result with minimised carries as with maximised carries.  */
1721         *mask = double_int_ior (double_int_ior (r1mask, r2mask),
1722                                 double_int_xor (lo, hi));
1723         *mask = double_int_ext (*mask, TYPE_PRECISION (type), uns);
1724         /* It shouldn't matter whether we choose lo or hi here.  */
1725         *val = lo;
1726         break;
1727       }
1728
1729     case MINUS_EXPR:
1730       {
1731         double_int temv, temm;
1732         bit_value_unop_1 (NEGATE_EXPR, r2type, &temv, &temm,
1733                           r2type, r2val, r2mask);
1734         bit_value_binop_1 (PLUS_EXPR, type, val, mask,
1735                            r1type, r1val, r1mask,
1736                            r2type, temv, temm);
1737         break;
1738       }
1739
1740     case MULT_EXPR:
1741       {
1742         /* Just track trailing zeros in both operands and transfer
1743            them to the other.  */
1744         int r1tz = double_int_ctz (double_int_ior (r1val, r1mask));
1745         int r2tz = double_int_ctz (double_int_ior (r2val, r2mask));
1746         if (r1tz + r2tz >= HOST_BITS_PER_DOUBLE_INT)
1747           {
1748             *mask = double_int_zero;
1749             *val = double_int_zero;
1750           }
1751         else if (r1tz + r2tz > 0)
1752           {
1753             *mask = double_int_not (double_int_mask (r1tz + r2tz));
1754             *mask = double_int_ext (*mask, TYPE_PRECISION (type), uns);
1755             *val = double_int_zero;
1756           }
1757         break;
1758       }
1759
1760     case EQ_EXPR:
1761     case NE_EXPR:
1762       {
1763         double_int m = double_int_ior (r1mask, r2mask);
1764         if (!double_int_equal_p (double_int_and_not (r1val, m),
1765                                  double_int_and_not (r2val, m)))
1766           {
1767             *mask = double_int_zero;
1768             *val = ((code == EQ_EXPR) ? double_int_zero : double_int_one);
1769           }
1770         else
1771           {
1772             /* We know the result of a comparison is always one or zero.  */
1773             *mask = double_int_one;
1774             *val = double_int_zero;
1775           }
1776         break;
1777       }
1778
1779     case GE_EXPR:
1780     case GT_EXPR:
1781       {
1782         double_int tem = r1val;
1783         r1val = r2val;
1784         r2val = tem;
1785         tem = r1mask;
1786         r1mask = r2mask;
1787         r2mask = tem;
1788         code = swap_tree_comparison (code);
1789       }
1790       /* Fallthru.  */
1791     case LT_EXPR:
1792     case LE_EXPR:
1793       {
1794         int minmax, maxmin;
1795         /* If the most significant bits are not known we know nothing.  */
1796         if (double_int_negative_p (r1mask) || double_int_negative_p (r2mask))
1797           break;
1798
1799         /* If we know the most significant bits we know the values
1800            value ranges by means of treating varying bits as zero
1801            or one.  Do a cross comparison of the max/min pairs.  */
1802         maxmin = double_int_cmp (double_int_ior (r1val, r1mask),
1803                                  double_int_and_not (r2val, r2mask), uns);
1804         minmax = double_int_cmp (double_int_and_not (r1val, r1mask),
1805                                  double_int_ior (r2val, r2mask), uns);
1806         if (maxmin < 0)  /* r1 is less than r2.  */
1807           {
1808             *mask = double_int_zero;
1809             *val = double_int_one;
1810           }
1811         else if (minmax > 0)  /* r1 is not less or equal to r2.  */
1812           {
1813             *mask = double_int_zero;
1814             *val = double_int_zero;
1815           }
1816         else if (maxmin == minmax)  /* r1 and r2 are equal.  */
1817           {
1818             /* This probably should never happen as we'd have
1819                folded the thing during fully constant value folding.  */
1820             *mask = double_int_zero;
1821             *val = (code == LE_EXPR ? double_int_one :  double_int_zero);
1822           }
1823         else
1824           {
1825             /* We know the result of a comparison is always one or zero.  */
1826             *mask = double_int_one;
1827             *val = double_int_zero;
1828           }
1829         break;
1830       }
1831
1832     default:;
1833     }
1834 }
1835
1836 /* Return the propagation value when applying the operation CODE to
1837    the value RHS yielding type TYPE.  */
1838
1839 static prop_value_t
1840 bit_value_unop (enum tree_code code, tree type, tree rhs)
1841 {
1842   prop_value_t rval = get_value_for_expr (rhs, true);
1843   double_int value, mask;
1844   prop_value_t val;
1845   gcc_assert ((rval.lattice_val == CONSTANT
1846                && TREE_CODE (rval.value) == INTEGER_CST)
1847               || double_int_minus_one_p (rval.mask));
1848   bit_value_unop_1 (code, type, &value, &mask,
1849                     TREE_TYPE (rhs), value_to_double_int (rval), rval.mask);
1850   if (!double_int_minus_one_p (mask))
1851     {
1852       val.lattice_val = CONSTANT;
1853       val.mask = mask;
1854       /* ???  Delay building trees here.  */
1855       val.value = double_int_to_tree (type, value);
1856     }
1857   else
1858     {
1859       val.lattice_val = VARYING;
1860       val.value = NULL_TREE;
1861       val.mask = double_int_minus_one;
1862     }
1863   return val;
1864 }
1865
1866 /* Return the propagation value when applying the operation CODE to
1867    the values RHS1 and RHS2 yielding type TYPE.  */
1868
1869 static prop_value_t
1870 bit_value_binop (enum tree_code code, tree type, tree rhs1, tree rhs2)
1871 {
1872   prop_value_t r1val = get_value_for_expr (rhs1, true);
1873   prop_value_t r2val = get_value_for_expr (rhs2, true);
1874   double_int value, mask;
1875   prop_value_t val;
1876   gcc_assert ((r1val.lattice_val == CONSTANT
1877                && TREE_CODE (r1val.value) == INTEGER_CST)
1878               || double_int_minus_one_p (r1val.mask));
1879   gcc_assert ((r2val.lattice_val == CONSTANT
1880                && TREE_CODE (r2val.value) == INTEGER_CST)
1881               || double_int_minus_one_p (r2val.mask));
1882   bit_value_binop_1 (code, type, &value, &mask,
1883                      TREE_TYPE (rhs1), value_to_double_int (r1val), r1val.mask,
1884                      TREE_TYPE (rhs2), value_to_double_int (r2val), r2val.mask);
1885   if (!double_int_minus_one_p (mask))
1886     {
1887       val.lattice_val = CONSTANT;
1888       val.mask = mask;
1889       /* ???  Delay building trees here.  */
1890       val.value = double_int_to_tree (type, value);
1891     }
1892   else
1893     {
1894       val.lattice_val = VARYING;
1895       val.value = NULL_TREE;
1896       val.mask = double_int_minus_one;
1897     }
1898   return val;
1899 }
1900
1901 /* Evaluate statement STMT.
1902    Valid only for assignments, calls, conditionals, and switches. */
1903
1904 static prop_value_t
1905 evaluate_stmt (gimple stmt)
1906 {
1907   prop_value_t val;
1908   tree simplified = NULL_TREE;
1909   ccp_lattice_t likelyvalue = likely_value (stmt);
1910   bool is_constant = false;
1911
1912   if (dump_file && (dump_flags & TDF_DETAILS))
1913     {
1914       fprintf (dump_file, "which is likely ");
1915       switch (likelyvalue)
1916         {
1917         case CONSTANT:
1918           fprintf (dump_file, "CONSTANT");
1919           break;
1920         case UNDEFINED:
1921           fprintf (dump_file, "UNDEFINED");
1922           break;
1923         case VARYING:
1924           fprintf (dump_file, "VARYING");
1925           break;
1926         default:;
1927         }
1928       fprintf (dump_file, "\n");
1929     }
1930
1931   /* If the statement is likely to have a CONSTANT result, then try
1932      to fold the statement to determine the constant value.  */
1933   /* FIXME.  This is the only place that we call ccp_fold.
1934      Since likely_value never returns CONSTANT for calls, we will
1935      not attempt to fold them, including builtins that may profit.  */
1936   if (likelyvalue == CONSTANT)
1937     {
1938       fold_defer_overflow_warnings ();
1939       simplified = ccp_fold (stmt);
1940       is_constant = simplified && is_gimple_min_invariant (simplified);
1941       fold_undefer_overflow_warnings (is_constant, stmt, 0);
1942       if (is_constant)
1943         {
1944           /* The statement produced a constant value.  */
1945           val.lattice_val = CONSTANT;
1946           val.value = simplified;
1947           val.mask = double_int_zero;
1948         }
1949     }
1950   /* If the statement is likely to have a VARYING result, then do not
1951      bother folding the statement.  */
1952   else if (likelyvalue == VARYING)
1953     {
1954       enum gimple_code code = gimple_code (stmt);
1955       if (code == GIMPLE_ASSIGN)
1956         {
1957           enum tree_code subcode = gimple_assign_rhs_code (stmt);
1958
1959           /* Other cases cannot satisfy is_gimple_min_invariant
1960              without folding.  */
1961           if (get_gimple_rhs_class (subcode) == GIMPLE_SINGLE_RHS)
1962             simplified = gimple_assign_rhs1 (stmt);
1963         }
1964       else if (code == GIMPLE_SWITCH)
1965         simplified = gimple_switch_index (stmt);
1966       else
1967         /* These cannot satisfy is_gimple_min_invariant without folding.  */
1968         gcc_assert (code == GIMPLE_CALL || code == GIMPLE_COND);
1969       is_constant = simplified && is_gimple_min_invariant (simplified);
1970       if (is_constant)
1971         {
1972           /* The statement produced a constant value.  */
1973           val.lattice_val = CONSTANT;
1974           val.value = simplified;
1975           val.mask = double_int_zero;
1976         }
1977     }
1978
1979   /* Resort to simplification for bitwise tracking.  */
1980   if (flag_tree_bit_ccp
1981       && likelyvalue == CONSTANT
1982       && !is_constant)
1983     {
1984       enum gimple_code code = gimple_code (stmt);
1985       val.lattice_val = VARYING;
1986       val.value = NULL_TREE;
1987       val.mask = double_int_minus_one;
1988       if (code == GIMPLE_ASSIGN)
1989         {
1990           enum tree_code subcode = gimple_assign_rhs_code (stmt);
1991           tree rhs1 = gimple_assign_rhs1 (stmt);
1992           switch (get_gimple_rhs_class (subcode))
1993             {
1994             case GIMPLE_SINGLE_RHS:
1995               if (INTEGRAL_TYPE_P (TREE_TYPE (rhs1))
1996                   || POINTER_TYPE_P (TREE_TYPE (rhs1)))
1997                 val = get_value_for_expr (rhs1, true);
1998               break;
1999
2000             case GIMPLE_UNARY_RHS:
2001               if ((INTEGRAL_TYPE_P (TREE_TYPE (rhs1))
2002                    || POINTER_TYPE_P (TREE_TYPE (rhs1)))
2003                   && (INTEGRAL_TYPE_P (gimple_expr_type (stmt))
2004                       || POINTER_TYPE_P (gimple_expr_type (stmt))))
2005                 val = bit_value_unop (subcode, gimple_expr_type (stmt), rhs1);
2006               break;
2007
2008             case GIMPLE_BINARY_RHS:
2009               if (INTEGRAL_TYPE_P (TREE_TYPE (rhs1))
2010                   || POINTER_TYPE_P (TREE_TYPE (rhs1)))
2011                 {
2012                   tree rhs2 = gimple_assign_rhs2 (stmt);
2013                   val = bit_value_binop (subcode,
2014                                          TREE_TYPE (rhs1), rhs1, rhs2);
2015                 }
2016               break;
2017
2018             default:;
2019             }
2020         }
2021       else if (code == GIMPLE_COND)
2022         {
2023           enum tree_code code = gimple_cond_code (stmt);
2024           tree rhs1 = gimple_cond_lhs (stmt);
2025           tree rhs2 = gimple_cond_rhs (stmt);
2026           if (INTEGRAL_TYPE_P (TREE_TYPE (rhs1))
2027               || POINTER_TYPE_P (TREE_TYPE (rhs1)))
2028             val = bit_value_binop (code, TREE_TYPE (rhs1), rhs1, rhs2);
2029         }
2030       is_constant = (val.lattice_val == CONSTANT);
2031     }
2032
2033   if (!is_constant)
2034     {
2035       /* The statement produced a nonconstant value.  If the statement
2036          had UNDEFINED operands, then the result of the statement
2037          should be UNDEFINED.  Otherwise, the statement is VARYING.  */
2038       if (likelyvalue == UNDEFINED)
2039         {
2040           val.lattice_val = likelyvalue;
2041           val.mask = double_int_zero;
2042         }
2043       else
2044         {
2045           val.lattice_val = VARYING;
2046           val.mask = double_int_minus_one;
2047         }
2048
2049       val.value = NULL_TREE;
2050     }
2051
2052   return val;
2053 }
2054
2055 /* Fold the stmt at *GSI with CCP specific information that propagating
2056    and regular folding does not catch.  */
2057
2058 static bool
2059 ccp_fold_stmt (gimple_stmt_iterator *gsi)
2060 {
2061   gimple stmt = gsi_stmt (*gsi);
2062
2063   switch (gimple_code (stmt))
2064     {
2065     case GIMPLE_COND:
2066       {
2067         prop_value_t val;
2068         /* Statement evaluation will handle type mismatches in constants
2069            more gracefully than the final propagation.  This allows us to
2070            fold more conditionals here.  */
2071         val = evaluate_stmt (stmt);
2072         if (val.lattice_val != CONSTANT
2073             || !double_int_zero_p (val.mask))
2074           return false;
2075
2076         if (dump_file)
2077           {
2078             fprintf (dump_file, "Folding predicate ");
2079             print_gimple_expr (dump_file, stmt, 0, 0);
2080             fprintf (dump_file, " to ");
2081             print_generic_expr (dump_file, val.value, 0);
2082             fprintf (dump_file, "\n");
2083           }
2084
2085         if (integer_zerop (val.value))
2086           gimple_cond_make_false (stmt);
2087         else
2088           gimple_cond_make_true (stmt);
2089
2090         return true;
2091       }
2092
2093     case GIMPLE_CALL:
2094       {
2095         tree lhs = gimple_call_lhs (stmt);
2096         tree val;
2097         tree argt;
2098         bool changed = false;
2099         unsigned i;
2100
2101         /* If the call was folded into a constant make sure it goes
2102            away even if we cannot propagate into all uses because of
2103            type issues.  */
2104         if (lhs
2105             && TREE_CODE (lhs) == SSA_NAME
2106             && (val = get_constant_value (lhs)))
2107           {
2108             tree new_rhs = unshare_expr (val);
2109             bool res;
2110             if (!useless_type_conversion_p (TREE_TYPE (lhs),
2111                                             TREE_TYPE (new_rhs)))
2112               new_rhs = fold_convert (TREE_TYPE (lhs), new_rhs);
2113             res = update_call_from_tree (gsi, new_rhs);
2114             gcc_assert (res);
2115             return true;
2116           }
2117
2118         /* Propagate into the call arguments.  Compared to replace_uses_in
2119            this can use the argument slot types for type verification
2120            instead of the current argument type.  We also can safely
2121            drop qualifiers here as we are dealing with constants anyway.  */
2122         argt = TYPE_ARG_TYPES (TREE_TYPE (TREE_TYPE (gimple_call_fn (stmt))));
2123         for (i = 0; i < gimple_call_num_args (stmt) && argt;
2124              ++i, argt = TREE_CHAIN (argt))
2125           {
2126             tree arg = gimple_call_arg (stmt, i);
2127             if (TREE_CODE (arg) == SSA_NAME
2128                 && (val = get_constant_value (arg))
2129                 && useless_type_conversion_p
2130                      (TYPE_MAIN_VARIANT (TREE_VALUE (argt)),
2131                       TYPE_MAIN_VARIANT (TREE_TYPE (val))))
2132               {
2133                 gimple_call_set_arg (stmt, i, unshare_expr (val));
2134                 changed = true;
2135               }
2136           }
2137
2138         return changed;
2139       }
2140
2141     case GIMPLE_ASSIGN:
2142       {
2143         tree lhs = gimple_assign_lhs (stmt);
2144         tree val;
2145
2146         /* If we have a load that turned out to be constant replace it
2147            as we cannot propagate into all uses in all cases.  */
2148         if (gimple_assign_single_p (stmt)
2149             && TREE_CODE (lhs) == SSA_NAME
2150             && (val = get_constant_value (lhs)))
2151           {
2152             tree rhs = unshare_expr (val);
2153             if (!useless_type_conversion_p (TREE_TYPE (lhs), TREE_TYPE (rhs)))
2154               rhs = fold_build1 (VIEW_CONVERT_EXPR, TREE_TYPE (lhs), rhs);
2155             gimple_assign_set_rhs_from_tree (gsi, rhs);
2156             return true;
2157           }
2158
2159         return false;
2160       }
2161
2162     default:
2163       return false;
2164     }
2165 }
2166
2167 /* Visit the assignment statement STMT.  Set the value of its LHS to the
2168    value computed by the RHS and store LHS in *OUTPUT_P.  If STMT
2169    creates virtual definitions, set the value of each new name to that
2170    of the RHS (if we can derive a constant out of the RHS).
2171    Value-returning call statements also perform an assignment, and
2172    are handled here.  */
2173
2174 static enum ssa_prop_result
2175 visit_assignment (gimple stmt, tree *output_p)
2176 {
2177   prop_value_t val;
2178   enum ssa_prop_result retval;
2179
2180   tree lhs = gimple_get_lhs (stmt);
2181
2182   gcc_assert (gimple_code (stmt) != GIMPLE_CALL
2183               || gimple_call_lhs (stmt) != NULL_TREE);
2184
2185   if (gimple_assign_single_p (stmt)
2186       && gimple_assign_rhs_code (stmt) == SSA_NAME)
2187     /* For a simple copy operation, we copy the lattice values.  */
2188     val = *get_value (gimple_assign_rhs1 (stmt));
2189   else
2190     /* Evaluate the statement, which could be
2191        either a GIMPLE_ASSIGN or a GIMPLE_CALL.  */
2192     val = evaluate_stmt (stmt);
2193
2194   retval = SSA_PROP_NOT_INTERESTING;
2195
2196   /* Set the lattice value of the statement's output.  */
2197   if (TREE_CODE (lhs) == SSA_NAME)
2198     {
2199       /* If STMT is an assignment to an SSA_NAME, we only have one
2200          value to set.  */
2201       if (set_lattice_value (lhs, val))
2202         {
2203           *output_p = lhs;
2204           if (val.lattice_val == VARYING)
2205             retval = SSA_PROP_VARYING;
2206           else
2207             retval = SSA_PROP_INTERESTING;
2208         }
2209     }
2210
2211   return retval;
2212 }
2213
2214
2215 /* Visit the conditional statement STMT.  Return SSA_PROP_INTERESTING
2216    if it can determine which edge will be taken.  Otherwise, return
2217    SSA_PROP_VARYING.  */
2218
2219 static enum ssa_prop_result
2220 visit_cond_stmt (gimple stmt, edge *taken_edge_p)
2221 {
2222   prop_value_t val;
2223   basic_block block;
2224
2225   block = gimple_bb (stmt);
2226   val = evaluate_stmt (stmt);
2227   if (val.lattice_val != CONSTANT
2228       || !double_int_zero_p (val.mask))
2229     return SSA_PROP_VARYING;
2230
2231   /* Find which edge out of the conditional block will be taken and add it
2232      to the worklist.  If no single edge can be determined statically,
2233      return SSA_PROP_VARYING to feed all the outgoing edges to the
2234      propagation engine.  */
2235   *taken_edge_p = find_taken_edge (block, val.value);
2236   if (*taken_edge_p)
2237     return SSA_PROP_INTERESTING;
2238   else
2239     return SSA_PROP_VARYING;
2240 }
2241
2242
2243 /* Evaluate statement STMT.  If the statement produces an output value and
2244    its evaluation changes the lattice value of its output, return
2245    SSA_PROP_INTERESTING and set *OUTPUT_P to the SSA_NAME holding the
2246    output value.
2247
2248    If STMT is a conditional branch and we can determine its truth
2249    value, set *TAKEN_EDGE_P accordingly.  If STMT produces a varying
2250    value, return SSA_PROP_VARYING.  */
2251
2252 static enum ssa_prop_result
2253 ccp_visit_stmt (gimple stmt, edge *taken_edge_p, tree *output_p)
2254 {
2255   tree def;
2256   ssa_op_iter iter;
2257
2258   if (dump_file && (dump_flags & TDF_DETAILS))
2259     {
2260       fprintf (dump_file, "\nVisiting statement:\n");
2261       print_gimple_stmt (dump_file, stmt, 0, dump_flags);
2262     }
2263
2264   switch (gimple_code (stmt))
2265     {
2266       case GIMPLE_ASSIGN:
2267         /* If the statement is an assignment that produces a single
2268            output value, evaluate its RHS to see if the lattice value of
2269            its output has changed.  */
2270         return visit_assignment (stmt, output_p);
2271
2272       case GIMPLE_CALL:
2273         /* A value-returning call also performs an assignment.  */
2274         if (gimple_call_lhs (stmt) != NULL_TREE)
2275           return visit_assignment (stmt, output_p);
2276         break;
2277
2278       case GIMPLE_COND:
2279       case GIMPLE_SWITCH:
2280         /* If STMT is a conditional branch, see if we can determine
2281            which branch will be taken.   */
2282         /* FIXME.  It appears that we should be able to optimize
2283            computed GOTOs here as well.  */
2284         return visit_cond_stmt (stmt, taken_edge_p);
2285
2286       default:
2287         break;
2288     }
2289
2290   /* Any other kind of statement is not interesting for constant
2291      propagation and, therefore, not worth simulating.  */
2292   if (dump_file && (dump_flags & TDF_DETAILS))
2293     fprintf (dump_file, "No interesting values produced.  Marked VARYING.\n");
2294
2295   /* Definitions made by statements other than assignments to
2296      SSA_NAMEs represent unknown modifications to their outputs.
2297      Mark them VARYING.  */
2298   FOR_EACH_SSA_TREE_OPERAND (def, stmt, iter, SSA_OP_ALL_DEFS)
2299     {
2300       prop_value_t v = { VARYING, NULL_TREE, { -1, (HOST_WIDE_INT) -1 } };
2301       set_lattice_value (def, v);
2302     }
2303
2304   return SSA_PROP_VARYING;
2305 }
2306
2307
2308 /* Main entry point for SSA Conditional Constant Propagation.  */
2309
2310 static unsigned int
2311 do_ssa_ccp (void)
2312 {
2313   ccp_initialize ();
2314   ssa_propagate (ccp_visit_stmt, ccp_visit_phi_node);
2315   if (ccp_finalize ())
2316     return (TODO_cleanup_cfg | TODO_update_ssa | TODO_remove_unused_locals);
2317   else
2318     return 0;
2319 }
2320
2321
2322 static bool
2323 gate_ccp (void)
2324 {
2325   return flag_tree_ccp != 0;
2326 }
2327
2328
2329 struct gimple_opt_pass pass_ccp =
2330 {
2331  {
2332   GIMPLE_PASS,
2333   "ccp",                                /* name */
2334   gate_ccp,                             /* gate */
2335   do_ssa_ccp,                           /* execute */
2336   NULL,                                 /* sub */
2337   NULL,                                 /* next */
2338   0,                                    /* static_pass_number */
2339   TV_TREE_CCP,                          /* tv_id */
2340   PROP_cfg | PROP_ssa,                  /* properties_required */
2341   0,                                    /* properties_provided */
2342   0,                                    /* properties_destroyed */
2343   0,                                    /* todo_flags_start */
2344   TODO_dump_func | TODO_verify_ssa
2345   | TODO_verify_stmts | TODO_ggc_collect/* todo_flags_finish */
2346  }
2347 };
2348
2349
2350
2351 /* Try to optimize out __builtin_stack_restore.  Optimize it out
2352    if there is another __builtin_stack_restore in the same basic
2353    block and no calls or ASM_EXPRs are in between, or if this block's
2354    only outgoing edge is to EXIT_BLOCK and there are no calls or
2355    ASM_EXPRs after this __builtin_stack_restore.  */
2356
2357 static tree
2358 optimize_stack_restore (gimple_stmt_iterator i)
2359 {
2360   tree callee;
2361   gimple stmt;
2362
2363   basic_block bb = gsi_bb (i);
2364   gimple call = gsi_stmt (i);
2365
2366   if (gimple_code (call) != GIMPLE_CALL
2367       || gimple_call_num_args (call) != 1
2368       || TREE_CODE (gimple_call_arg (call, 0)) != SSA_NAME
2369       || !POINTER_TYPE_P (TREE_TYPE (gimple_call_arg (call, 0))))
2370     return NULL_TREE;
2371
2372   for (gsi_next (&i); !gsi_end_p (i); gsi_next (&i))
2373     {
2374       stmt = gsi_stmt (i);
2375       if (gimple_code (stmt) == GIMPLE_ASM)
2376         return NULL_TREE;
2377       if (gimple_code (stmt) != GIMPLE_CALL)
2378         continue;
2379
2380       callee = gimple_call_fndecl (stmt);
2381       if (!callee
2382           || DECL_BUILT_IN_CLASS (callee) != BUILT_IN_NORMAL
2383           /* All regular builtins are ok, just obviously not alloca.  */
2384           || DECL_FUNCTION_CODE (callee) == BUILT_IN_ALLOCA)
2385         return NULL_TREE;
2386
2387       if (DECL_FUNCTION_CODE (callee) == BUILT_IN_STACK_RESTORE)
2388         goto second_stack_restore;
2389     }
2390
2391   if (!gsi_end_p (i))
2392     return NULL_TREE;
2393
2394   /* Allow one successor of the exit block, or zero successors.  */
2395   switch (EDGE_COUNT (bb->succs))
2396     {
2397     case 0:
2398       break;
2399     case 1:
2400       if (single_succ_edge (bb)->dest != EXIT_BLOCK_PTR)
2401         return NULL_TREE;
2402       break;
2403     default:
2404       return NULL_TREE;
2405     }
2406  second_stack_restore:
2407
2408   /* If there's exactly one use, then zap the call to __builtin_stack_save.
2409      If there are multiple uses, then the last one should remove the call.
2410      In any case, whether the call to __builtin_stack_save can be removed
2411      or not is irrelevant to removing the call to __builtin_stack_restore.  */
2412   if (has_single_use (gimple_call_arg (call, 0)))
2413     {
2414       gimple stack_save = SSA_NAME_DEF_STMT (gimple_call_arg (call, 0));
2415       if (is_gimple_call (stack_save))
2416         {
2417           callee = gimple_call_fndecl (stack_save);
2418           if (callee
2419               && DECL_BUILT_IN_CLASS (callee) == BUILT_IN_NORMAL
2420               && DECL_FUNCTION_CODE (callee) == BUILT_IN_STACK_SAVE)
2421             {
2422               gimple_stmt_iterator stack_save_gsi;
2423               tree rhs;
2424
2425               stack_save_gsi = gsi_for_stmt (stack_save);
2426               rhs = build_int_cst (TREE_TYPE (gimple_call_arg (call, 0)), 0);
2427               update_call_from_tree (&stack_save_gsi, rhs);
2428             }
2429         }
2430     }
2431
2432   /* No effect, so the statement will be deleted.  */
2433   return integer_zero_node;
2434 }
2435
2436 /* If va_list type is a simple pointer and nothing special is needed,
2437    optimize __builtin_va_start (&ap, 0) into ap = __builtin_next_arg (0),
2438    __builtin_va_end (&ap) out as NOP and __builtin_va_copy into a simple
2439    pointer assignment.  */
2440
2441 static tree
2442 optimize_stdarg_builtin (gimple call)
2443 {
2444   tree callee, lhs, rhs, cfun_va_list;
2445   bool va_list_simple_ptr;
2446   location_t loc = gimple_location (call);
2447
2448   if (gimple_code (call) != GIMPLE_CALL)
2449     return NULL_TREE;
2450
2451   callee = gimple_call_fndecl (call);
2452
2453   cfun_va_list = targetm.fn_abi_va_list (callee);
2454   va_list_simple_ptr = POINTER_TYPE_P (cfun_va_list)
2455                        && (TREE_TYPE (cfun_va_list) == void_type_node
2456                            || TREE_TYPE (cfun_va_list) == char_type_node);
2457
2458   switch (DECL_FUNCTION_CODE (callee))
2459     {
2460     case BUILT_IN_VA_START:
2461       if (!va_list_simple_ptr
2462           || targetm.expand_builtin_va_start != NULL
2463           || built_in_decls[BUILT_IN_NEXT_ARG] == NULL)
2464         return NULL_TREE;
2465
2466       if (gimple_call_num_args (call) != 2)
2467         return NULL_TREE;
2468
2469       lhs = gimple_call_arg (call, 0);
2470       if (!POINTER_TYPE_P (TREE_TYPE (lhs))
2471           || TYPE_MAIN_VARIANT (TREE_TYPE (TREE_TYPE (lhs)))
2472              != TYPE_MAIN_VARIANT (cfun_va_list))
2473         return NULL_TREE;
2474
2475       lhs = build_fold_indirect_ref_loc (loc, lhs);
2476       rhs = build_call_expr_loc (loc, built_in_decls[BUILT_IN_NEXT_ARG],
2477                              1, integer_zero_node);
2478       rhs = fold_convert_loc (loc, TREE_TYPE (lhs), rhs);
2479       return build2 (MODIFY_EXPR, TREE_TYPE (lhs), lhs, rhs);
2480
2481     case BUILT_IN_VA_COPY:
2482       if (!va_list_simple_ptr)
2483         return NULL_TREE;
2484
2485       if (gimple_call_num_args (call) != 2)
2486         return NULL_TREE;
2487
2488       lhs = gimple_call_arg (call, 0);
2489       if (!POINTER_TYPE_P (TREE_TYPE (lhs))
2490           || TYPE_MAIN_VARIANT (TREE_TYPE (TREE_TYPE (lhs)))
2491              != TYPE_MAIN_VARIANT (cfun_va_list))
2492         return NULL_TREE;
2493
2494       lhs = build_fold_indirect_ref_loc (loc, lhs);
2495       rhs = gimple_call_arg (call, 1);
2496       if (TYPE_MAIN_VARIANT (TREE_TYPE (rhs))
2497           != TYPE_MAIN_VARIANT (cfun_va_list))
2498         return NULL_TREE;
2499
2500       rhs = fold_convert_loc (loc, TREE_TYPE (lhs), rhs);
2501       return build2 (MODIFY_EXPR, TREE_TYPE (lhs), lhs, rhs);
2502
2503     case BUILT_IN_VA_END:
2504       /* No effect, so the statement will be deleted.  */
2505       return integer_zero_node;
2506
2507     default:
2508       gcc_unreachable ();
2509     }
2510 }
2511
2512 /* A simple pass that attempts to fold all builtin functions.  This pass
2513    is run after we've propagated as many constants as we can.  */
2514
2515 static unsigned int
2516 execute_fold_all_builtins (void)
2517 {
2518   bool cfg_changed = false;
2519   basic_block bb;
2520   unsigned int todoflags = 0;
2521
2522   FOR_EACH_BB (bb)
2523     {
2524       gimple_stmt_iterator i;
2525       for (i = gsi_start_bb (bb); !gsi_end_p (i); )
2526         {
2527           gimple stmt, old_stmt;
2528           tree callee, result;
2529           enum built_in_function fcode;
2530
2531           stmt = gsi_stmt (i);
2532
2533           if (gimple_code (stmt) != GIMPLE_CALL)
2534             {
2535               gsi_next (&i);
2536               continue;
2537             }
2538           callee = gimple_call_fndecl (stmt);
2539           if (!callee || DECL_BUILT_IN_CLASS (callee) != BUILT_IN_NORMAL)
2540             {
2541               gsi_next (&i);
2542               continue;
2543             }
2544           fcode = DECL_FUNCTION_CODE (callee);
2545
2546           result = gimple_fold_builtin (stmt);
2547
2548           if (result)
2549             gimple_remove_stmt_histograms (cfun, stmt);
2550
2551           if (!result)
2552             switch (DECL_FUNCTION_CODE (callee))
2553               {
2554               case BUILT_IN_CONSTANT_P:
2555                 /* Resolve __builtin_constant_p.  If it hasn't been
2556                    folded to integer_one_node by now, it's fairly
2557                    certain that the value simply isn't constant.  */
2558                 result = integer_zero_node;
2559                 break;
2560
2561               case BUILT_IN_STACK_RESTORE:
2562                 result = optimize_stack_restore (i);
2563                 if (result)
2564                   break;
2565                 gsi_next (&i);
2566                 continue;
2567
2568               case BUILT_IN_VA_START:
2569               case BUILT_IN_VA_END:
2570               case BUILT_IN_VA_COPY:
2571                 /* These shouldn't be folded before pass_stdarg.  */
2572                 result = optimize_stdarg_builtin (stmt);
2573                 if (result)
2574                   break;
2575                 /* FALLTHRU */
2576
2577               default:
2578                 gsi_next (&i);
2579                 continue;
2580               }
2581
2582           if (dump_file && (dump_flags & TDF_DETAILS))
2583             {
2584               fprintf (dump_file, "Simplified\n  ");
2585               print_gimple_stmt (dump_file, stmt, 0, dump_flags);
2586             }
2587
2588           old_stmt = stmt;
2589           if (!update_call_from_tree (&i, result))
2590             {
2591               gimplify_and_update_call_from_tree (&i, result);
2592               todoflags |= TODO_update_address_taken;
2593             }
2594
2595           stmt = gsi_stmt (i);
2596           update_stmt (stmt);
2597
2598           if (maybe_clean_or_replace_eh_stmt (old_stmt, stmt)
2599               && gimple_purge_dead_eh_edges (bb))
2600             cfg_changed = true;
2601
2602           if (dump_file && (dump_flags & TDF_DETAILS))
2603             {
2604               fprintf (dump_file, "to\n  ");
2605               print_gimple_stmt (dump_file, stmt, 0, dump_flags);
2606               fprintf (dump_file, "\n");
2607             }
2608
2609           /* Retry the same statement if it changed into another
2610              builtin, there might be new opportunities now.  */
2611           if (gimple_code (stmt) != GIMPLE_CALL)
2612             {
2613               gsi_next (&i);
2614               continue;
2615             }
2616           callee = gimple_call_fndecl (stmt);
2617           if (!callee
2618               || DECL_BUILT_IN_CLASS (callee) != BUILT_IN_NORMAL
2619               || DECL_FUNCTION_CODE (callee) == fcode)
2620             gsi_next (&i);
2621         }
2622     }
2623
2624   /* Delete unreachable blocks.  */
2625   if (cfg_changed)
2626     todoflags |= TODO_cleanup_cfg;
2627
2628   return todoflags;
2629 }
2630
2631
2632 struct gimple_opt_pass pass_fold_builtins =
2633 {
2634  {
2635   GIMPLE_PASS,
2636   "fab",                                /* name */
2637   NULL,                                 /* gate */
2638   execute_fold_all_builtins,            /* execute */
2639   NULL,                                 /* sub */
2640   NULL,                                 /* next */
2641   0,                                    /* static_pass_number */
2642   TV_NONE,                              /* tv_id */
2643   PROP_cfg | PROP_ssa,                  /* properties_required */
2644   0,                                    /* properties_provided */
2645   0,                                    /* properties_destroyed */
2646   0,                                    /* todo_flags_start */
2647   TODO_dump_func
2648     | TODO_verify_ssa
2649     | TODO_update_ssa                   /* todo_flags_finish */
2650  }
2651 };