gcc/tree-ssa-ter.c

   1 /* Routines for performing Temporary Expression Replacement (TER) in SSA trees.
   2    Copyright (C) 2003, 2004, 2005, 2006, 2007, 2008, 2009, 2010
   3    Free Software Foundation, Inc.
   4    Contributed by Andrew MacLeod  <amacleod@redhat.com>
   5
   6 This file is part of GCC.
   7
   8 GCC is free software; you can redistribute it and/or modify
   9 it under the terms of the GNU General Public License as published by
  10 the Free Software Foundation; either version 3, or (at your option)
  11 any later version.
  12
  13 GCC is distributed in the hope that it will be useful,
  14 but WITHOUT ANY WARRANTY; without even the implied warranty of
  15 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  16 GNU General Public License for more details.
  17
  18 You should have received a copy of the GNU General Public License
  19 along with GCC; see the file COPYING3.  If not see
  20 <http://www.gnu.org/licenses/>.  */
  21
  22
  23 #include "config.h"
  24 #include "system.h"
  25 #include "coretypes.h"
  26 #include "tm.h"
  27 #include "tree.h"
  28 #include "tree-pretty-print.h"
  29 #include "gimple-pretty-print.h"
  30 #include "bitmap.h"
  31 #include "tree-flow.h"
  32 #include "tree-dump.h"
  33 #include "tree-ssa-live.h"
  34 #include "flags.h"
  35
  36
  37 /* Temporary Expression Replacement (TER)
  38
  39    Replace SSA version variables during out-of-ssa with their defining
  40    expression if there is only one use of the variable.
  41
  42    This pass is required in order for the RTL expansion pass to see larger
  43    chunks of code.  This allows it to make better choices on RTL pattern
  44    selection.  When expand is rewritten and merged with out-of-ssa, and
  45    understands SSA, this should be eliminated.
  46
  47    A pass is made through the function, one block at a time.  No cross block
  48    information is tracked.
  49
  50    Variables which only have one use, and whose defining stmt is considered
  51    a replaceable expression (see is_replaceable_p) are tracked to see whether
  52    they can be replaced at their use location.
  53
  54    n_12 = C * 10
  55    a_2 = b_5 + 6
  56    v_9 = a_2 * n_12
  57
  58    if there are the only use of n_12 and a_2, TER will substitute in their
  59    expressions in v_9, and end up with:
  60
  61    v_9 = (b_5 + 6) * (C * 10)
  62
  63    which will then have the ssa_name assigned to regular variables, and the
  64    resulting code which will be passed to the expander looks something like:
  65
  66    v = (b + 6) * (C * 10)
  67
  68
  69    This requires ensuring that none of the variables used by the expression
  70    change between the def point and where it is used.  Furthermore, if any
  71    of the ssa_names used in this expression are themselves replaceable, we
  72    have to ensure none of that expressions' arguments change either.
  73    Although SSA_NAMES themselves don't change, this pass is performed after
  74    coalescing has coalesced different SSA_NAMES together, so there could be a
  75    definition of an SSA_NAME which is coalesced with a use that causes a
  76    problem, i.e.,
  77
  78    PHI b_5 = <b_8(2), b_14(1)>
  79    <...>
  80    a_2 = b_5 + 6
  81    b_8 = c_4 + 4
  82    v_9 = a_2 * n_12
  83    <...>
  84
  85    If b_5, b_8 and b_14 are all coalesced together...
  86    The expression b_5 + 6 CANNOT replace the use in the statement defining v_9
  87    because b_8 is in fact killing the value of b_5 since they share a partition
  88    and will be assigned the same memory or register location.
  89
  90    TER implements this but stepping through the instructions in a block and
  91    tracking potential expressions for replacement, and the partitions they are
  92    dependent on.  Expressions are represented by the SSA_NAME_VERSION of the
  93    DEF on the LHS of a GIMPLE_ASSIGN and the expression is the RHS.
  94
  95    When a stmt is determined to be a possible replacement expression, the
  96    following steps are taken:
  97
  98    EXPR_DECL_UID bitmap is allocated and set to the base variable UID of the
  99    def and any uses in the expression.  non-NULL means the expression is being
 100    tracked.  The UID's themselves are used to prevent TER substitution into
 101    accumulating sequences, i.e.,
 102
 103    x = x + y
 104    x = x + z
 105    x = x + w
 106    etc.
 107    this can result in very large expressions which don't accomplish anything
 108    see PR tree-optimization/17549.
 109
 110    PARTITION_DEPENDENCIES is another bitmap array, and it has a bit set for any
 111    partition which is used in the expression.  This is primarily used to remove
 112    an expression from the partition kill lists when a decision is made whether
 113    to replace it or not.  This is indexed by ssa version number as well, and
 114    indicates a partition number.  virtual operands are not tracked individually,
 115    but they are summarized by an artificial partition called VIRTUAL_PARTITION.
 116    This means a MAY or MUST def will kill *ALL* expressions that are dependent
 117    on a virtual operand.
 118    Note that the EXPR_DECL_UID and this bitmap represent very similar
 119    information, but the info in one is not easy to obtain from the other.
 120
 121    KILL_LIST is yet another bitmap array, this time it is indexed by partition
 122    number, and represents a list of active expressions which will will no
 123    longer be valid if a definition into this partition takes place.
 124
 125    PARTITION_IN_USE is simply a bitmap which is used to track which partitions
 126    currently have something in their kill list.  This is used at the end of
 127    a block to clear out the KILL_LIST bitmaps at the end of each block.
 128
 129    NEW_REPLACEABLE_DEPENDENCIES is used as a temporary place to store
 130    dependencies which will be reused by the current definition. All the uses
 131    on an expression are processed before anything else is done. If a use is
 132    determined to be a replaceable expression AND the current stmt is also going
 133    to be replaceable, all the dependencies of this replaceable use will be
 134    picked up by the current stmt's expression. Rather than recreate them, they
 135    are simply copied here and then copied into the new expression when it is
 136    processed.
 137
 138    a_2 = b_5 + 6
 139    v_8 = a_2 + c_4
 140
 141    a_2's expression 'b_5 + 6' is determined to be replaceable at the use
 142    location. It is dependent on the partition 'b_5' is in. This is cached into
 143    the NEW_REPLACEABLE_DEPENDENCIES bitmap, and when v_8 is examined for
 144    replaceability, it is a candidate, and it is dependent on the partition
 145    b_5 is in *NOT* a_2, as well as c_4's partition.
 146
 147    if v_8 is also replaceable:
 148
 149    x_9 = v_8 * 5
 150
 151    x_9 is dependent on partitions b_5, and c_4
 152
 153    if a statement is found which has either of those partitions written to
 154    before x_9 is used, then x_9 itself is NOT replaceable.  */
 155
 156
 157 /* Temporary Expression Replacement (TER) table information.  */
 158
 159 typedef struct temp_expr_table_d
 160 {
 161   var_map map;
 162   bitmap *partition_dependencies;       /* Partitions expr is dependent on.  */
 163   bitmap replaceable_expressions;       /* Replacement expression table.  */
 164   bitmap *expr_decl_uids;               /* Base uids of exprs.  */
 165   bitmap *kill_list;                    /* Expr's killed by a partition.  */
 166   int virtual_partition;                /* Pseudo partition for virtual ops.  */
 167   bitmap partition_in_use;              /* Partitions with kill entries.  */
 168   bitmap new_replaceable_dependencies;  /* Holding place for pending dep's.  */
 169   int *num_in_part;                     /* # of ssa_names in a partition.  */
 170   int *call_cnt;                        /* Call count at definition.  */
 171 } *temp_expr_table_p;
 172
 173 /* Used to indicate a dependency on VDEFs.  */
 174 #define VIRTUAL_PARTITION(table)        (table->virtual_partition)
 175
 176 #ifdef ENABLE_CHECKING
 177 extern void debug_ter (FILE *, temp_expr_table_p);
 178 #endif
 179
 180
 181 /* Create a new TER table for MAP.  */
 182
 183 static temp_expr_table_p
 184 new_temp_expr_table (var_map map)
 185 {
 186   temp_expr_table_p t;
 187   unsigned x;
 188
 189   t = XNEW (struct temp_expr_table_d);
 190   t->map = map;
 191
 192   t->partition_dependencies = XCNEWVEC (bitmap, num_ssa_names + 1);
 193   t->expr_decl_uids = XCNEWVEC (bitmap, num_ssa_names + 1);
 194   t->kill_list = XCNEWVEC (bitmap, num_var_partitions (map) + 1);
 195
 196   t->partition_in_use = BITMAP_ALLOC (NULL);
 197
 198   t->virtual_partition = num_var_partitions (map);
 199   t->new_replaceable_dependencies = BITMAP_ALLOC (NULL);
 200
 201   t->replaceable_expressions = NULL;
 202   t->num_in_part = XCNEWVEC (int, num_var_partitions (map));
 203   for (x = 1; x < num_ssa_names; x++)
 204     {
 205       int p;
 206       tree name = ssa_name (x);
 207       if (!name)
 208         continue;
 209       p = var_to_partition (map, name);
 210       if (p != NO_PARTITION)
 211         t->num_in_part[p]++;
 212     }
 213   t->call_cnt = XCNEWVEC (int, num_ssa_names + 1);
 214
 215   return t;
 216 }
 217
 218
 219 /* Free TER table T.  If there are valid replacements, return the expression
 220    vector.  */
 221
 222 static bitmap
 223 free_temp_expr_table (temp_expr_table_p t)
 224 {
 225   bitmap ret = NULL;
 226
 227 #ifdef ENABLE_CHECKING
 228   unsigned x;
 229   for (x = 0; x <= num_var_partitions (t->map); x++)
 230     gcc_assert (!t->kill_list[x]);
 231   for (x = 0; x < num_ssa_names; x++)
 232     {
 233       gcc_assert (t->expr_decl_uids[x] == NULL);
 234       gcc_assert (t->partition_dependencies[x] == NULL);
 235     }
 236 #endif
 237
 238   BITMAP_FREE (t->partition_in_use);
 239   BITMAP_FREE (t->new_replaceable_dependencies);
 240
 241   free (t->expr_decl_uids);
 242   free (t->kill_list);
 243   free (t->partition_dependencies);
 244   free (t->num_in_part);
 245   free (t->call_cnt);
 246
 247   if (t->replaceable_expressions)
 248     ret = t->replaceable_expressions;
 249
 250   free (t);
 251   return ret;
 252 }
 253
 254
 255 /* Return TRUE if VERSION is to be replaced by an expression in TAB.  */
 256
 257 static inline bool
 258 version_to_be_replaced_p (temp_expr_table_p tab, int version)
 259 {
 260   if (!tab->replaceable_expressions)
 261     return false;
 262   return bitmap_bit_p (tab->replaceable_expressions, version);
 263 }
 264
 265
 266 /* Add partition P to the list if partitions VERSION is dependent on.  TAB is
 267    the expression table */
 268
 269 static inline void
 270 make_dependent_on_partition (temp_expr_table_p tab, int version, int p)
 271 {
 272   if (!tab->partition_dependencies[version])
 273     tab->partition_dependencies[version] = BITMAP_ALLOC (NULL);
 274
 275   bitmap_set_bit (tab->partition_dependencies[version], p);
 276 }
 277
 278
 279 /* Add VER to the kill list for P.  TAB is the expression table */
 280
 281 static inline void
 282 add_to_partition_kill_list (temp_expr_table_p tab, int p, int ver)
 283 {
 284   if (!tab->kill_list[p])
 285     {
 286       tab->kill_list[p] = BITMAP_ALLOC (NULL);
 287       bitmap_set_bit (tab->partition_in_use, p);
 288     }
 289   bitmap_set_bit (tab->kill_list[p], ver);
 290 }
 291
 292
 293 /* Remove VER from the partition kill list for P.  TAB is the expression
 294    table.  */
 295
 296 static inline void
 297 remove_from_partition_kill_list (temp_expr_table_p tab, int p, int version)
 298 {
 299 #ifdef ENABLE_CHECKING
 300   gcc_assert (tab->kill_list[p]);
 301 #endif
 302   bitmap_clear_bit (tab->kill_list[p], version);
 303   if (bitmap_empty_p (tab->kill_list[p]))
 304     {
 305       bitmap_clear_bit (tab->partition_in_use, p);
 306       BITMAP_FREE (tab->kill_list[p]);
 307     }
 308 }
 309
 310
 311 /* Add a dependency between the def of ssa VERSION and VAR.  If VAR is
 312    replaceable by an expression, add a dependence each of the elements of the
 313    expression.  These are contained in the new_replaceable list.  TAB is the
 314    expression table.  */
 315
 316 static void
 317 add_dependence (temp_expr_table_p tab, int version, tree var)
 318 {
 319   int i;
 320   bitmap_iterator bi;
 321   unsigned x;
 322
 323   i = SSA_NAME_VERSION (var);
 324   if (version_to_be_replaced_p (tab, i))
 325     {
 326       if (!bitmap_empty_p (tab->new_replaceable_dependencies))
 327         {
 328           /* Version will now be killed by a write to any partition the
 329              substituted expression would have been killed by.  */
 330           EXECUTE_IF_SET_IN_BITMAP (tab->new_replaceable_dependencies, 0, x, bi)
 331             add_to_partition_kill_list (tab, x, version);
 332
 333           /* Rather than set partition_dependencies and in_use lists bit by
 334              bit, simply OR in the new_replaceable_dependencies bits.  */
 335           if (!tab->partition_dependencies[version])
 336             tab->partition_dependencies[version] = BITMAP_ALLOC (NULL);
 337           bitmap_ior_into (tab->partition_dependencies[version],
 338                            tab->new_replaceable_dependencies);
 339           bitmap_ior_into (tab->partition_in_use,
 340                            tab->new_replaceable_dependencies);
 341           /* It is only necessary to add these once.  */
 342           bitmap_clear (tab->new_replaceable_dependencies);
 343         }
 344     }
 345   else
 346     {
 347       i = var_to_partition (tab->map, var);
 348 #ifdef ENABLE_CHECKING
 349       gcc_assert (i != NO_PARTITION);
 350       gcc_assert (tab->num_in_part[i] != 0);
 351 #endif
 352       /* Only dependencies on ssa_names which are coalesced with something need
 353          to be tracked.  Partitions with containing only a single SSA_NAME
 354          *cannot* have their value changed.  */
 355       if (tab->num_in_part[i] > 1)
 356         {
 357           add_to_partition_kill_list (tab, i, version);
 358           make_dependent_on_partition (tab, version, i);
 359         }
 360     }
 361 }
 362
 363
 364 /* Return TRUE if expression STMT is suitable for replacement.  */
 365
 366 static inline bool
 367 is_replaceable_p (gimple stmt)
 368 {
 369   use_operand_p use_p;
 370   tree def;
 371   gimple use_stmt;
 372   location_t locus1, locus2;
 373   tree block1, block2;
 374
 375   /* Only consider modify stmts.  */
 376   if (!is_gimple_assign (stmt))
 377     return false;
 378
 379   /* If the statement may throw an exception, it cannot be replaced.  */
 380   if (stmt_could_throw_p (stmt))
 381     return false;
 382
 383   /* Punt if there is more than 1 def.  */
 384   def = SINGLE_SSA_TREE_OPERAND (stmt, SSA_OP_DEF);
 385   if (!def)
 386     return false;
 387
 388   /* Only consider definitions which have a single use.  */
 389   if (!single_imm_use (def, &use_p, &use_stmt))
 390     return false;
 391
 392   /* If the use isn't in this block, it wont be replaced either.  */
 393   if (gimple_bb (use_stmt) != gimple_bb (stmt))
 394     return false;
 395
 396   locus1 = gimple_location (stmt);
 397   block1 = gimple_block (stmt);
 398
 399   if (gimple_code (use_stmt) == GIMPLE_PHI)
 400     {
 401       locus2 = 0;
 402       block2 = NULL_TREE;
 403     }
 404   else
 405     {
 406       locus2 = gimple_location (use_stmt);
 407       block2 = gimple_block (use_stmt);
 408     }
 409
 410   if (!optimize
 411       && ((locus1 && locus1 != locus2) || (block1 && block1 != block2)))
 412     return false;
 413
 414   /* Used in this block, but at the TOP of the block, not the end.  */
 415   if (gimple_code (use_stmt) == GIMPLE_PHI)
 416     return false;
 417
 418   /* There must be no VDEFs.  */
 419   if (gimple_vdef (stmt))
 420     return false;
 421
 422   /* Without alias info we can't move around loads.  */
 423   if (gimple_references_memory_p (stmt) && !optimize)
 424     return false;
 425
 426   /* Float expressions must go through memory if float-store is on.  */
 427   if (flag_float_store
 428       && FLOAT_TYPE_P (gimple_expr_type (stmt)))
 429     return false;
 430
 431   /* An assignment with a register variable on the RHS is not
 432      replaceable.  */
 433   if (gimple_assign_rhs_code (stmt) == VAR_DECL
 434       && DECL_HARD_REGISTER (gimple_assign_rhs1 (stmt)))
 435     return false;
 436
 437   /* No function calls can be replaced.  */
 438   if (is_gimple_call (stmt))
 439     return false;
 440
 441   /* Leave any stmt with volatile operands alone as well.  */
 442   if (gimple_has_volatile_ops (stmt))
 443     return false;
 444
 445   return true;
 446 }
 447
 448
 449 /* This function will remove the expression for VERSION from replacement
 450    consideration in table TAB.  If FREE_EXPR is true, then remove the
 451    expression from consideration as well by freeing the decl uid bitmap.  */
 452
 453 static void
 454 finished_with_expr (temp_expr_table_p tab, int version, bool free_expr)
 455 {
 456   unsigned i;
 457   bitmap_iterator bi;
 458
 459   /* Remove this expression from its dependent lists.  The partition dependence
 460      list is retained and transfered later to whomever uses this version.  */
 461   if (tab->partition_dependencies[version])
 462     {
 463       EXECUTE_IF_SET_IN_BITMAP (tab->partition_dependencies[version], 0, i, bi)
 464         remove_from_partition_kill_list (tab, i, version);
 465       BITMAP_FREE (tab->partition_dependencies[version]);
 466     }
 467   if (free_expr)
 468     BITMAP_FREE (tab->expr_decl_uids[version]);
 469 }
 470
 471
 472 /* Create an expression entry for a replaceable expression.  */
 473
 474 static void
 475 process_replaceable (temp_expr_table_p tab, gimple stmt, int call_cnt)
 476 {
 477   tree var, def, basevar;
 478   int version;
 479   ssa_op_iter iter;
 480   bitmap def_vars, use_vars;
 481
 482 #ifdef ENABLE_CHECKING
 483   gcc_assert (is_replaceable_p (stmt));
 484 #endif
 485
 486   def = SINGLE_SSA_TREE_OPERAND (stmt, SSA_OP_DEF);
 487   version = SSA_NAME_VERSION (def);
 488   basevar = SSA_NAME_VAR (def);
 489   def_vars = BITMAP_ALLOC (NULL);
 490
 491   bitmap_set_bit (def_vars, DECL_UID (basevar));
 492
 493   /* Add this expression to the dependency list for each use partition.  */
 494   FOR_EACH_SSA_TREE_OPERAND (var, stmt, iter, SSA_OP_USE)
 495     {
 496       int var_version = SSA_NAME_VERSION (var);
 497
 498       use_vars = tab->expr_decl_uids[var_version];
 499       add_dependence (tab, version, var);
 500       if (use_vars)
 501         {
 502           bitmap_ior_into (def_vars, use_vars);
 503           BITMAP_FREE (tab->expr_decl_uids[var_version]);
 504         }
 505       else
 506         bitmap_set_bit (def_vars, DECL_UID (SSA_NAME_VAR (var)));
 507     }
 508   tab->expr_decl_uids[version] = def_vars;
 509
 510   /* If there are VUSES, add a dependence on virtual defs.  */
 511   if (gimple_vuse (stmt))
 512     {
 513       make_dependent_on_partition (tab, version, VIRTUAL_PARTITION (tab));
 514       add_to_partition_kill_list (tab, VIRTUAL_PARTITION (tab), version);
 515     }
 516
 517   tab->call_cnt[version] = call_cnt;
 518 }
 519
 520
 521 /* This function removes any expression in TAB which is dependent on PARTITION
 522    from consideration, making it not replaceable.  */
 523
 524 static inline void
 525 kill_expr (temp_expr_table_p tab, int partition)
 526 {
 527   unsigned version;
 528
 529   /* Mark every active expr dependent on this var as not replaceable.
 530      finished_with_expr can modify the bitmap, so we can't execute over it.  */
 531   while (tab->kill_list[partition])
 532     {
 533       version = bitmap_first_set_bit (tab->kill_list[partition]);
 534       finished_with_expr (tab, version, true);
 535     }
 536
 537 #ifdef ENABLE_CHECKING
 538   gcc_assert (!tab->kill_list[partition]);
 539 #endif
 540 }
 541
 542
 543 /* This function kills all expressions in TAB which are dependent on virtual
 544    partitions.  */
 545
 546 static inline void
 547 kill_virtual_exprs (temp_expr_table_p tab)
 548 {
 549   kill_expr (tab, VIRTUAL_PARTITION (tab));
 550 }
 551
 552
 553 /* Mark the expression associated with VAR as replaceable, and enter
 554    the defining stmt into the partition_dependencies table TAB.  If
 555    MORE_REPLACING is true, accumulate the pending partition dependencies.  */
 556
 557 static void
 558 mark_replaceable (temp_expr_table_p tab, tree var, bool more_replacing)
 559 {
 560   int version = SSA_NAME_VERSION (var);
 561
 562   /* Move the dependence list to the pending listpending.  */
 563   if (more_replacing && tab->partition_dependencies[version])
 564     bitmap_ior_into (tab->new_replaceable_dependencies,
 565                      tab->partition_dependencies[version]);
 566
 567   finished_with_expr (tab, version, !more_replacing);
 568
 569   /* Set the replaceable expression.  */
 570   if (!tab->replaceable_expressions)
 571     tab->replaceable_expressions = BITMAP_ALLOC (NULL);
 572   bitmap_set_bit (tab->replaceable_expressions, version);
 573 }
 574
 575
 576 /* This function processes basic block BB, and looks for variables which can
 577    be replaced by their expressions.  Results are stored in the table TAB.  */
 578
 579 static void
 580 find_replaceable_in_bb (temp_expr_table_p tab, basic_block bb)
 581 {
 582   gimple_stmt_iterator bsi;
 583   gimple stmt;
 584   tree def, use, fndecl;
 585   int partition;
 586   var_map map = tab->map;
 587   ssa_op_iter iter;
 588   bool stmt_replaceable;
 589   int cur_call_cnt = 0;
 590
 591   for (bsi = gsi_start_bb (bb); !gsi_end_p (bsi); gsi_next (&bsi))
 592     {
 593       stmt = gsi_stmt (bsi);
 594
 595       if (is_gimple_debug (stmt))
 596         continue;
 597
 598       stmt_replaceable = is_replaceable_p (stmt);
 599
 600       /* Determine if this stmt finishes an existing expression.  */
 601       FOR_EACH_SSA_TREE_OPERAND (use, stmt, iter, SSA_OP_USE)
 602         {
 603           unsigned ver = SSA_NAME_VERSION (use);
 604
 605           /* If this use is a potential replacement variable, process it.  */
 606           if (tab->expr_decl_uids[ver])
 607             {
 608               bool same_root_var = false;
 609               ssa_op_iter iter2;
 610               bitmap vars = tab->expr_decl_uids[ver];
 611
 612               /* See if the root variables are the same.  If they are, we
 613                  do not want to do the replacement to avoid problems with
 614                  code size, see PR tree-optimization/17549.  */
 615               if (!bitmap_empty_p (vars))
 616                 FOR_EACH_SSA_TREE_OPERAND (def, stmt, iter2, SSA_OP_DEF)
 617                   {
 618                     if (bitmap_bit_p (vars, DECL_UID (SSA_NAME_VAR (def))))
 619                       {
 620                         same_root_var = true;
 621                         break;
 622                       }
 623                   }
 624
 625               /* If the stmt does a memory store and the replacement
 626                  is a load aliasing it avoid creating overlapping
 627                  assignments which we cannot expand correctly.  */
 628               if (gimple_vdef (stmt)
 629                   && gimple_assign_single_p (stmt))
 630                 {
 631                   gimple def_stmt = SSA_NAME_DEF_STMT (use);
 632                   while (is_gimple_assign (def_stmt)
 633                          && gimple_assign_rhs_code (def_stmt) == SSA_NAME)
 634                     def_stmt
 635                       = SSA_NAME_DEF_STMT (gimple_assign_rhs1 (def_stmt));
 636                   if (gimple_vuse (def_stmt)
 637                       && gimple_assign_single_p (def_stmt)
 638                       && refs_may_alias_p (gimple_assign_lhs (stmt),
 639                                            gimple_assign_rhs1 (def_stmt)))
 640                     same_root_var = true;
 641                 }
 642
 643               /* Mark expression as replaceable unless stmt is volatile, or the
 644                  def variable has the same root variable as something in the
 645                  substitution list, or the def and use span a call such that
 646                  we'll expand lifetimes across a call.  */
 647               if (gimple_has_volatile_ops (stmt) || same_root_var
 648                   || (tab->call_cnt[ver] != cur_call_cnt
 649                       && SINGLE_SSA_USE_OPERAND (SSA_NAME_DEF_STMT (use), SSA_OP_USE)
 650                          == NULL_USE_OPERAND_P))
 651                 finished_with_expr (tab, ver, true);
 652               else
 653                 mark_replaceable (tab, use, stmt_replaceable);
 654             }
 655         }
 656
 657       /* Next, see if this stmt kills off an active expression.  */
 658       FOR_EACH_SSA_TREE_OPERAND (def, stmt, iter, SSA_OP_DEF)
 659         {
 660           partition = var_to_partition (map, def);
 661           if (partition != NO_PARTITION && tab->kill_list[partition])
 662             kill_expr (tab, partition);
 663         }
 664
 665       /* Increment counter if this is a non BUILT_IN call. We allow
 666          replacement over BUILT_IN calls since many will expand to inline
 667          insns instead of a true call.  */
 668       if (is_gimple_call (stmt)
 669           && !((fndecl = gimple_call_fndecl (stmt))
 670                && DECL_BUILT_IN (fndecl)))
 671         cur_call_cnt++;
 672
 673       /* Now see if we are creating a new expression or not.  */
 674       if (stmt_replaceable)
 675         process_replaceable (tab, stmt, cur_call_cnt);
 676
 677       /* Free any unused dependency lists.  */
 678       bitmap_clear (tab->new_replaceable_dependencies);
 679
 680       /* A V_{MAY,MUST}_DEF kills any expression using a virtual operand,
 681          including the current stmt.  */
 682       if (gimple_vdef (stmt))
 683         kill_virtual_exprs (tab);
 684     }
 685 }
 686
 687
 688 /* This function is the driver routine for replacement of temporary expressions
 689    in the SSA->normal phase, operating on MAP.  If there are replaceable
 690    expressions, a table is returned which maps SSA versions to the
 691    expressions they should be replaced with.  A NULL_TREE indicates no
 692    replacement should take place.  If there are no replacements at all,
 693    NULL is returned by the function, otherwise an expression vector indexed
 694    by SSA_NAME version numbers.  */
 695
 696 extern bitmap
 697 find_replaceable_exprs (var_map map)
 698 {
 699   basic_block bb;
 700   temp_expr_table_p table;
 701   bitmap ret;
 702
 703   table = new_temp_expr_table (map);
 704   FOR_EACH_BB (bb)
 705     {
 706       find_replaceable_in_bb (table, bb);
 707 #ifdef ENABLE_CHECKING
 708       gcc_assert (bitmap_empty_p (table->partition_in_use));
 709 #endif
 710     }
 711
 712   ret = free_temp_expr_table (table);
 713   return ret;
 714 }
 715
 716 /* Dump TER expression table EXPR to file F.  */
 717
 718 void
 719 dump_replaceable_exprs (FILE *f, bitmap expr)
 720 {
 721   tree var;
 722   unsigned x;
 723
 724   fprintf (f, "\nReplacing Expressions\n");
 725   for (x = 0; x < num_ssa_names; x++)
 726     if (bitmap_bit_p (expr, x))
 727       {
 728         var = ssa_name (x);
 729         print_generic_expr (f, var, TDF_SLIM);
 730         fprintf (f, " replace with --> ");
 731         print_gimple_stmt (f, SSA_NAME_DEF_STMT (var), 0, TDF_SLIM);
 732         fprintf (f, "\n");
 733       }
 734   fprintf (f, "\n");
 735 }
 736
 737
 738 #ifdef ENABLE_CHECKING
 739 /* Dump the status of the various tables in the expression table.  This is used
 740    exclusively to debug TER.  F is the place to send debug info and T is the
 741    table being debugged.  */
 742
 743 DEBUG_FUNCTION void
 744 debug_ter (FILE *f, temp_expr_table_p t)
 745 {
 746   unsigned x, y;
 747   bitmap_iterator bi;
 748
 749   fprintf (f, "\nDumping current state of TER\n virtual partition = %d\n",
 750            VIRTUAL_PARTITION (t));
 751   if (t->replaceable_expressions)
 752     dump_replaceable_exprs (f, t->replaceable_expressions);
 753   fprintf (f, "Currently tracking the following expressions:\n");
 754
 755   for (x = 1; x < num_ssa_names; x++)
 756     if (t->expr_decl_uids[x])
 757       {
 758         print_generic_expr (f, ssa_name (x), TDF_SLIM);
 759         fprintf (f, " dep-parts : ");
 760         if (t->partition_dependencies[x]
 761             && !bitmap_empty_p (t->partition_dependencies[x]))
 762           {
 763             EXECUTE_IF_SET_IN_BITMAP (t->partition_dependencies[x], 0, y, bi)
 764               fprintf (f, "P%d ",y);
 765           }
 766         fprintf (f, "   basedecls: ");
 767         EXECUTE_IF_SET_IN_BITMAP (t->expr_decl_uids[x], 0, y, bi)
 768           fprintf (f, "%d ",y);
 769         fprintf (f, "   call_cnt : %d",t->call_cnt[x]);
 770         fprintf (f, "\n");
 771       }
 772
 773   bitmap_print (f, t->partition_in_use, "Partitions in use ",
 774                 "\npartition KILL lists:\n");
 775
 776   for (x = 0; x <= num_var_partitions (t->map); x++)
 777     if (t->kill_list[x])
 778       {
 779         fprintf (f, "Partition %d : ", x);
 780         EXECUTE_IF_SET_IN_BITMAP (t->kill_list[x], 0, y, bi)
 781           fprintf (f, "_%d ",y);
 782       }
 783
 784   fprintf (f, "\n----------\n");
 785 }
 786 #endif