OSDN Git Service

2009-03-31 Richard Guenther <rguenther@suse.de>
[pf3gnuchains/gcc-fork.git] / gcc / tree-ssa-forwprop.c
1 /* Forward propagation of expressions for single use variables.
2    Copyright (C) 2004, 2005, 2007, 2008, 2009 Free Software Foundation, Inc.
3
4 This file is part of GCC.
5
6 GCC is free software; you can redistribute it and/or modify
7 it under the terms of the GNU General Public License as published by
8 the Free Software Foundation; either version 3, or (at your option)
9 any later version.
10
11 GCC is distributed in the hope that it will be useful,
12 but WITHOUT ANY WARRANTY; without even the implied warranty of
13 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14 GNU General Public License for more details.
15
16 You should have received a copy of the GNU General Public License
17 along with GCC; see the file COPYING3.  If not see
18 <http://www.gnu.org/licenses/>.  */
19
20 #include "config.h"
21 #include "system.h"
22 #include "coretypes.h"
23 #include "tm.h"
24 #include "ggc.h"
25 #include "tree.h"
26 #include "rtl.h"
27 #include "tm_p.h"
28 #include "basic-block.h"
29 #include "timevar.h"
30 #include "diagnostic.h"
31 #include "tree-flow.h"
32 #include "tree-pass.h"
33 #include "tree-dump.h"
34 #include "langhooks.h"
35 #include "flags.h"
36 #include "gimple.h"
37
38 /* This pass propagates the RHS of assignment statements into use
39    sites of the LHS of the assignment.  It's basically a specialized
40    form of tree combination.   It is hoped all of this can disappear
41    when we have a generalized tree combiner.
42
43    One class of common cases we handle is forward propagating a single use
44    variable into a COND_EXPR.  
45
46      bb0:
47        x = a COND b;
48        if (x) goto ... else goto ...
49
50    Will be transformed into:
51
52      bb0:
53        if (a COND b) goto ... else goto ...
54  
55    Similarly for the tests (x == 0), (x != 0), (x == 1) and (x != 1).
56
57    Or (assuming c1 and c2 are constants):
58
59      bb0:
60        x = a + c1;  
61        if (x EQ/NEQ c2) goto ... else goto ...
62
63    Will be transformed into:
64
65      bb0:
66         if (a EQ/NEQ (c2 - c1)) goto ... else goto ...
67
68    Similarly for x = a - c1.
69     
70    Or
71
72      bb0:
73        x = !a
74        if (x) goto ... else goto ...
75
76    Will be transformed into:
77
78      bb0:
79         if (a == 0) goto ... else goto ...
80
81    Similarly for the tests (x == 0), (x != 0), (x == 1) and (x != 1).
82    For these cases, we propagate A into all, possibly more than one,
83    COND_EXPRs that use X.
84
85    Or
86
87      bb0:
88        x = (typecast) a
89        if (x) goto ... else goto ...
90
91    Will be transformed into:
92
93      bb0:
94         if (a != 0) goto ... else goto ...
95
96    (Assuming a is an integral type and x is a boolean or x is an
97     integral and a is a boolean.)
98
99    Similarly for the tests (x == 0), (x != 0), (x == 1) and (x != 1).
100    For these cases, we propagate A into all, possibly more than one,
101    COND_EXPRs that use X.
102
103    In addition to eliminating the variable and the statement which assigns
104    a value to the variable, we may be able to later thread the jump without
105    adding insane complexity in the dominator optimizer.
106
107    Also note these transformations can cascade.  We handle this by having
108    a worklist of COND_EXPR statements to examine.  As we make a change to
109    a statement, we put it back on the worklist to examine on the next
110    iteration of the main loop.
111
112    A second class of propagation opportunities arises for ADDR_EXPR
113    nodes.
114
115      ptr = &x->y->z;
116      res = *ptr;
117
118    Will get turned into
119
120      res = x->y->z;
121
122    Or
123      ptr = (type1*)&type2var;
124      res = *ptr
125
126    Will get turned into (if type1 and type2 are the same size
127    and neither have volatile on them):
128      res = VIEW_CONVERT_EXPR<type1>(type2var)
129
130    Or
131
132      ptr = &x[0];
133      ptr2 = ptr + <constant>;
134
135    Will get turned into
136
137      ptr2 = &x[constant/elementsize];
138
139   Or
140
141      ptr = &x[0];
142      offset = index * element_size;
143      offset_p = (pointer) offset;
144      ptr2 = ptr + offset_p
145
146   Will get turned into:
147
148      ptr2 = &x[index];
149
150   Or
151     ssa = (int) decl
152     res = ssa & 1
153
154   Provided that decl has known alignment >= 2, will get turned into
155
156     res = 0
157
158   We also propagate casts into SWITCH_EXPR and COND_EXPR conditions to
159   allow us to remove the cast and {NOT_EXPR,NEG_EXPR} into a subsequent
160   {NOT_EXPR,NEG_EXPR}.
161
162    This will (of course) be extended as other needs arise.  */
163
164 static bool forward_propagate_addr_expr (tree name, tree rhs);
165
166 /* Set to true if we delete EH edges during the optimization.  */
167 static bool cfg_changed;
168
169 static tree rhs_to_tree (tree type, gimple stmt);
170
171 /* Get the next statement we can propagate NAME's value into skipping
172    trivial copies.  Returns the statement that is suitable as a
173    propagation destination or NULL_TREE if there is no such one.
174    This only returns destinations in a single-use chain.  FINAL_NAME_P
175    if non-NULL is written to the ssa name that represents the use.  */
176
177 static gimple
178 get_prop_dest_stmt (tree name, tree *final_name_p)
179 {
180   use_operand_p use;
181   gimple use_stmt;
182
183   do {
184     /* If name has multiple uses, bail out.  */
185     if (!single_imm_use (name, &use, &use_stmt))
186       return NULL;
187
188     /* If this is not a trivial copy, we found it.  */
189     if (!gimple_assign_copy_p (use_stmt)
190         || TREE_CODE (gimple_assign_lhs (use_stmt)) != SSA_NAME
191         || gimple_assign_rhs1 (use_stmt) != name)
192       break;
193
194     /* Continue searching uses of the copy destination.  */
195     name = gimple_assign_lhs (use_stmt);
196   } while (1);
197
198   if (final_name_p)
199     *final_name_p = name;
200
201   return use_stmt;
202 }
203
204 /* Get the statement we can propagate from into NAME skipping
205    trivial copies.  Returns the statement which defines the
206    propagation source or NULL_TREE if there is no such one.
207    If SINGLE_USE_ONLY is set considers only sources which have
208    a single use chain up to NAME.  If SINGLE_USE_P is non-null,
209    it is set to whether the chain to NAME is a single use chain
210    or not.  SINGLE_USE_P is not written to if SINGLE_USE_ONLY is set.  */
211
212 static gimple
213 get_prop_source_stmt (tree name, bool single_use_only, bool *single_use_p)
214 {
215   bool single_use = true;
216
217   do {
218     gimple def_stmt = SSA_NAME_DEF_STMT (name);
219
220     if (!has_single_use (name))
221       {
222         single_use = false;
223         if (single_use_only)
224           return NULL;
225       }
226
227     /* If name is defined by a PHI node or is the default def, bail out.  */
228     if (gimple_code (def_stmt) != GIMPLE_ASSIGN)
229       return NULL;
230
231     /* If name is not a simple copy destination, we found it.  */
232     if (!gimple_assign_copy_p (def_stmt)
233         || TREE_CODE (gimple_assign_rhs1 (def_stmt)) != SSA_NAME)
234       {
235         tree rhs;
236
237         if (!single_use_only && single_use_p)
238           *single_use_p = single_use;
239
240         /* We can look through pointer conversions in the search
241            for a useful stmt for the comparison folding.  */
242         rhs = gimple_assign_rhs1 (def_stmt);
243         if (CONVERT_EXPR_CODE_P (gimple_assign_rhs_code (def_stmt))
244             && TREE_CODE (rhs) == SSA_NAME
245             && POINTER_TYPE_P (TREE_TYPE (gimple_assign_lhs (def_stmt)))
246             && POINTER_TYPE_P (TREE_TYPE (rhs)))
247           name = rhs;
248         else
249           return def_stmt;
250       }
251     else
252       {
253         /* Continue searching the def of the copy source name.  */
254         name = gimple_assign_rhs1 (def_stmt);
255       }
256   } while (1);
257 }
258
259 /* Checks if the destination ssa name in DEF_STMT can be used as
260    propagation source.  Returns true if so, otherwise false.  */
261
262 static bool
263 can_propagate_from (gimple def_stmt)
264 {
265   use_operand_p use_p;
266   ssa_op_iter iter;
267
268   gcc_assert (is_gimple_assign (def_stmt));
269   /* If the rhs has side-effects we cannot propagate from it.  */
270   if (gimple_has_volatile_ops (def_stmt))
271     return false;
272
273   /* If the rhs is a load we cannot propagate from it.  */
274   if (TREE_CODE_CLASS (gimple_assign_rhs_code (def_stmt)) == tcc_reference
275       || TREE_CODE_CLASS (gimple_assign_rhs_code (def_stmt)) == tcc_declaration)
276     return false;
277
278   /* Constants can be always propagated.  */
279   if (is_gimple_min_invariant 
280       (rhs_to_tree (TREE_TYPE (gimple_assign_lhs (def_stmt)), def_stmt)))
281     return true;
282
283   /* We cannot propagate ssa names that occur in abnormal phi nodes.  */
284   FOR_EACH_SSA_USE_OPERAND (use_p, def_stmt, iter, SSA_OP_USE)
285     if (SSA_NAME_OCCURS_IN_ABNORMAL_PHI (USE_FROM_PTR (use_p)))
286       return false;
287
288   /* If the definition is a conversion of a pointer to a function type,
289      then we can not apply optimizations as some targets require
290      function pointers to be canonicalized and in this case this
291      optimization could eliminate a necessary canonicalization.  */
292   if (is_gimple_assign (def_stmt)
293       && (CONVERT_EXPR_CODE_P (gimple_assign_rhs_code (def_stmt))))
294     {
295       tree rhs = gimple_assign_rhs1 (def_stmt);
296       if (POINTER_TYPE_P (TREE_TYPE (rhs))
297           && TREE_CODE (TREE_TYPE (TREE_TYPE (rhs))) == FUNCTION_TYPE)
298         return false;
299     }
300   return true;
301 }
302
303 /* Remove a copy chain ending in NAME along the defs but not
304    further or including UP_TO_STMT.  If NAME was replaced in
305    its only use then this function can be used to clean up
306    dead stmts.  Returns true if UP_TO_STMT can be removed
307    as well, otherwise false.  */
308
309 static bool
310 remove_prop_source_from_use (tree name, gimple up_to_stmt)
311 {
312   gimple_stmt_iterator gsi;
313   gimple stmt;
314
315   do {
316     if (!has_zero_uses (name))
317       return false;
318
319     stmt = SSA_NAME_DEF_STMT (name);
320     if (stmt == up_to_stmt)
321       return true;
322
323     gsi = gsi_for_stmt (stmt);
324     release_defs (stmt);
325     gsi_remove (&gsi, true);
326
327     name = (gimple_assign_copy_p (stmt)) ? gimple_assign_rhs1 (stmt) : NULL;
328   } while (name && TREE_CODE (name) == SSA_NAME);
329
330   return false;
331 }
332
333 /* Return the rhs of a gimple_assign STMT in a form of a single tree,
334    converted to type TYPE.
335    
336    This should disappear, but is needed so we can combine expressions and use
337    the fold() interfaces. Long term, we need to develop folding and combine
338    routines that deal with gimple exclusively . */
339
340 static tree
341 rhs_to_tree (tree type, gimple stmt)
342 {
343   enum tree_code code = gimple_assign_rhs_code (stmt);
344   if (get_gimple_rhs_class (code) == GIMPLE_BINARY_RHS)
345     return fold_build2 (code, type, gimple_assign_rhs1 (stmt),
346                         gimple_assign_rhs2 (stmt));
347   else if (get_gimple_rhs_class (code) == GIMPLE_UNARY_RHS)
348     return build1 (code, type, gimple_assign_rhs1 (stmt));
349   else if (get_gimple_rhs_class (code) == GIMPLE_SINGLE_RHS)
350     return gimple_assign_rhs1 (stmt);
351   else
352     gcc_unreachable ();
353 }
354
355 /* Combine OP0 CODE OP1 in the context of a COND_EXPR.  Returns
356    the folded result in a form suitable for COND_EXPR_COND or
357    NULL_TREE, if there is no suitable simplified form.  If
358    INVARIANT_ONLY is true only gimple_min_invariant results are
359    considered simplified.  */
360
361 static tree
362 combine_cond_expr_cond (enum tree_code code, tree type,
363                         tree op0, tree op1, bool invariant_only)
364 {
365   tree t;
366
367   gcc_assert (TREE_CODE_CLASS (code) == tcc_comparison);
368
369   t = fold_binary (code, type, op0, op1);
370   if (!t)
371     return NULL_TREE;
372
373   /* Require that we got a boolean type out if we put one in.  */
374   gcc_assert (TREE_CODE (TREE_TYPE (t)) == TREE_CODE (type));
375
376   /* Canonicalize the combined condition for use in a COND_EXPR.  */
377   t = canonicalize_cond_expr_cond (t);
378
379   /* Bail out if we required an invariant but didn't get one.  */
380   if (!t || (invariant_only && !is_gimple_min_invariant (t)))
381     return NULL_TREE;
382
383   return t;
384 }
385
386 /* Propagate from the ssa name definition statements of COND_EXPR
387    in GIMPLE_COND statement STMT into the conditional if that simplifies it.
388    Returns zero if no statement was changed, one if there were
389    changes and two if cfg_cleanup needs to run.
390    
391    This must be kept in sync with forward_propagate_into_cond.  */
392
393 static int
394 forward_propagate_into_gimple_cond (gimple stmt)
395 {
396    int did_something = 0;
397
398   do {
399     tree tmp = NULL_TREE;
400     tree name, rhs0 = NULL_TREE, rhs1 = NULL_TREE;
401     gimple def_stmt;
402     bool single_use0_p = false, single_use1_p = false;
403     enum tree_code code = gimple_cond_code (stmt);
404
405     /* We can do tree combining on SSA_NAME and comparison expressions.  */
406     if (TREE_CODE_CLASS (gimple_cond_code (stmt)) == tcc_comparison
407         && TREE_CODE (gimple_cond_lhs (stmt)) == SSA_NAME)
408       {
409         /* For comparisons use the first operand, that is likely to
410            simplify comparisons against constants.  */
411         name = gimple_cond_lhs (stmt);
412         def_stmt = get_prop_source_stmt (name, false, &single_use0_p);
413         if (def_stmt && can_propagate_from (def_stmt))
414           {
415             tree op1 = gimple_cond_rhs (stmt);
416             rhs0 = rhs_to_tree (TREE_TYPE (op1), def_stmt);
417             tmp = combine_cond_expr_cond (code, boolean_type_node, rhs0,
418                                           op1, !single_use0_p);
419           }
420         /* If that wasn't successful, try the second operand.  */
421         if (tmp == NULL_TREE
422             && TREE_CODE (gimple_cond_rhs (stmt)) == SSA_NAME)
423           {
424             tree op0 = gimple_cond_lhs (stmt);
425             name = gimple_cond_rhs (stmt);
426             def_stmt = get_prop_source_stmt (name, false, &single_use1_p);
427             if (!def_stmt || !can_propagate_from (def_stmt))
428               return did_something;
429
430             rhs1 = rhs_to_tree (TREE_TYPE (op0), def_stmt);
431             tmp = combine_cond_expr_cond (code, boolean_type_node, op0, rhs1,
432                                           !single_use1_p);
433           }
434         /* If that wasn't successful either, try both operands.  */
435         if (tmp == NULL_TREE
436             && rhs0 != NULL_TREE
437             && rhs1 != NULL_TREE)
438           tmp = combine_cond_expr_cond (code, boolean_type_node, rhs0,
439                                         fold_convert (TREE_TYPE (rhs0), rhs1),
440                                         !(single_use0_p && single_use1_p));
441       }
442
443     if (tmp)
444       {
445         if (dump_file && tmp)
446           {
447             tree cond = build2 (gimple_cond_code (stmt),
448                                 boolean_type_node,
449                                 gimple_cond_lhs (stmt),
450                                 gimple_cond_rhs (stmt));
451             fprintf (dump_file, "  Replaced '");
452             print_generic_expr (dump_file, cond, 0);
453             fprintf (dump_file, "' with '");
454             print_generic_expr (dump_file, tmp, 0);
455             fprintf (dump_file, "'\n");
456           }
457
458         gimple_cond_set_condition_from_tree (stmt, unshare_expr (tmp));
459         update_stmt (stmt);
460
461         /* Remove defining statements.  */
462         remove_prop_source_from_use (name, NULL);
463
464         if (is_gimple_min_invariant (tmp))
465           did_something = 2;
466         else if (did_something == 0)
467           did_something = 1;
468
469         /* Continue combining.  */
470         continue;
471       }
472
473     break;
474   } while (1);
475
476   return did_something;
477 }
478
479
480 /* Propagate from the ssa name definition statements of COND_EXPR
481    in the rhs of statement STMT into the conditional if that simplifies it.
482    Returns zero if no statement was changed, one if there were
483    changes and two if cfg_cleanup needs to run.
484
485    This must be kept in sync with forward_propagate_into_gimple_cond.  */
486
487 static int
488 forward_propagate_into_cond (gimple_stmt_iterator *gsi_p)
489 {
490   gimple stmt = gsi_stmt (*gsi_p);
491   int did_something = 0;
492
493   do {
494     tree tmp = NULL_TREE;
495     tree cond = gimple_assign_rhs1 (stmt);
496     tree name, rhs0 = NULL_TREE, rhs1 = NULL_TREE;
497     gimple def_stmt;
498     bool single_use0_p = false, single_use1_p = false;
499
500     /* We can do tree combining on SSA_NAME and comparison expressions.  */
501     if (COMPARISON_CLASS_P (cond)
502         && TREE_CODE (TREE_OPERAND (cond, 0)) == SSA_NAME)
503       {
504         /* For comparisons use the first operand, that is likely to
505            simplify comparisons against constants.  */
506         name = TREE_OPERAND (cond, 0);
507         def_stmt = get_prop_source_stmt (name, false, &single_use0_p);
508         if (def_stmt && can_propagate_from (def_stmt))
509           {
510             tree op1 = TREE_OPERAND (cond, 1);
511             rhs0 = rhs_to_tree (TREE_TYPE (op1), def_stmt);
512             tmp = combine_cond_expr_cond (TREE_CODE (cond), boolean_type_node,
513                                           rhs0, op1, !single_use0_p);
514           }
515         /* If that wasn't successful, try the second operand.  */
516         if (tmp == NULL_TREE
517             && TREE_CODE (TREE_OPERAND (cond, 1)) == SSA_NAME)
518           {
519             tree op0 = TREE_OPERAND (cond, 0);
520             name = TREE_OPERAND (cond, 1);
521             def_stmt = get_prop_source_stmt (name, false, &single_use1_p);
522             if (!def_stmt || !can_propagate_from (def_stmt))
523               return did_something;
524
525             rhs1 = rhs_to_tree (TREE_TYPE (op0), def_stmt);
526             tmp = combine_cond_expr_cond (TREE_CODE (cond), boolean_type_node,
527                                           op0, rhs1, !single_use1_p);
528           }
529         /* If that wasn't successful either, try both operands.  */
530         if (tmp == NULL_TREE
531             && rhs0 != NULL_TREE
532             && rhs1 != NULL_TREE)
533           tmp = combine_cond_expr_cond (TREE_CODE (cond), boolean_type_node,
534                                         rhs0, fold_convert (TREE_TYPE (rhs0),
535                                                             rhs1),
536                                         !(single_use0_p && single_use1_p));
537       }
538     else if (TREE_CODE (cond) == SSA_NAME)
539       {
540         name = cond;
541         def_stmt = get_prop_source_stmt (name, true, NULL);
542         if (def_stmt || !can_propagate_from (def_stmt))
543           return did_something;
544
545         rhs0 = gimple_assign_rhs1 (def_stmt);
546         tmp = combine_cond_expr_cond (NE_EXPR, boolean_type_node, rhs0,
547                                       build_int_cst (TREE_TYPE (rhs0), 0),
548                                       false);
549       }
550
551     if (tmp)
552       {
553         if (dump_file && tmp)
554           {
555             fprintf (dump_file, "  Replaced '");
556             print_generic_expr (dump_file, cond, 0);
557             fprintf (dump_file, "' with '");
558             print_generic_expr (dump_file, tmp, 0);
559             fprintf (dump_file, "'\n");
560           }
561
562         gimple_assign_set_rhs_from_tree (gsi_p, unshare_expr (tmp));
563         stmt = gsi_stmt (*gsi_p);
564         update_stmt (stmt);
565
566         /* Remove defining statements.  */
567         remove_prop_source_from_use (name, NULL);
568
569         if (is_gimple_min_invariant (tmp))
570           did_something = 2;
571         else if (did_something == 0)
572           did_something = 1;
573
574         /* Continue combining.  */
575         continue;
576       }
577
578     break;
579   } while (1);
580
581   return did_something;
582 }
583
584 /* We've just substituted an ADDR_EXPR into stmt.  Update all the 
585    relevant data structures to match.  */
586
587 static void
588 tidy_after_forward_propagate_addr (gimple stmt)
589 {
590   /* We may have turned a trapping insn into a non-trapping insn.  */
591   if (maybe_clean_or_replace_eh_stmt (stmt, stmt)
592       && gimple_purge_dead_eh_edges (gimple_bb (stmt)))
593     cfg_changed = true;
594
595   if (TREE_CODE (gimple_assign_rhs1 (stmt)) == ADDR_EXPR)
596      recompute_tree_invariant_for_addr_expr (gimple_assign_rhs1 (stmt));
597
598   mark_symbols_for_renaming (stmt);
599 }
600
601 /* DEF_RHS contains the address of the 0th element in an array.
602    USE_STMT uses type of DEF_RHS to compute the address of an
603    arbitrary element within the array.  The (variable) byte offset
604    of the element is contained in OFFSET.
605
606    We walk back through the use-def chains of OFFSET to verify that
607    it is indeed computing the offset of an element within the array
608    and extract the index corresponding to the given byte offset.
609
610    We then try to fold the entire address expression into a form
611    &array[index].
612
613    If we are successful, we replace the right hand side of USE_STMT
614    with the new address computation.  */
615
616 static bool
617 forward_propagate_addr_into_variable_array_index (tree offset,
618                                                   tree def_rhs,
619                                                   gimple_stmt_iterator *use_stmt_gsi)
620 {
621   tree index, tunit;
622   gimple offset_def, use_stmt = gsi_stmt (*use_stmt_gsi);
623   tree tmp;
624
625   tunit = TYPE_SIZE_UNIT (TREE_TYPE (TREE_TYPE (def_rhs)));
626   if (!host_integerp (tunit, 1))
627     return false;
628
629   /* Get the offset's defining statement.  */
630   offset_def = SSA_NAME_DEF_STMT (offset);
631
632   /* Try to find an expression for a proper index.  This is either a
633      multiplication expression by the element size or just the ssa name we came
634      along in case the element size is one. In that case, however, we do not
635      allow multiplications because they can be computing index to a higher
636      level dimension (PR 37861). */
637   if (integer_onep (tunit))
638     {
639       if (is_gimple_assign (offset_def)
640           && gimple_assign_rhs_code (offset_def) == MULT_EXPR)
641         return false;
642
643       index = offset;
644     }
645   else
646     {
647       /* The statement which defines OFFSET before type conversion
648          must be a simple GIMPLE_ASSIGN.  */
649       if (!is_gimple_assign (offset_def))
650         return false;
651
652       /* The RHS of the statement which defines OFFSET must be a
653          multiplication of an object by the size of the array elements. 
654          This implicitly verifies that the size of the array elements
655          is constant.  */
656      if (gimple_assign_rhs_code (offset_def) == MULT_EXPR
657          && TREE_CODE (gimple_assign_rhs2 (offset_def)) == INTEGER_CST
658          && tree_int_cst_equal (gimple_assign_rhs2 (offset_def), tunit))
659        {
660          /* The first operand to the MULT_EXPR is the desired index.  */
661          index = gimple_assign_rhs1 (offset_def);
662        }
663      /* If we have idx * tunit + CST * tunit re-associate that.  */
664      else if ((gimple_assign_rhs_code (offset_def) == PLUS_EXPR
665                || gimple_assign_rhs_code (offset_def) == MINUS_EXPR)
666               && TREE_CODE (gimple_assign_rhs1 (offset_def)) == SSA_NAME
667               && TREE_CODE (gimple_assign_rhs2 (offset_def)) == INTEGER_CST
668               && (tmp = div_if_zero_remainder (EXACT_DIV_EXPR,
669                                                gimple_assign_rhs2 (offset_def),
670                                                tunit)) != NULL_TREE)
671        {
672          gimple offset_def2 = SSA_NAME_DEF_STMT (gimple_assign_rhs1 (offset_def));
673          if (gimple_assign_rhs_code (offset_def2) == MULT_EXPR
674              && TREE_CODE (gimple_assign_rhs2 (offset_def2)) == INTEGER_CST
675              && tree_int_cst_equal (gimple_assign_rhs2 (offset_def2), tunit))
676            {
677              index = fold_build2 (gimple_assign_rhs_code (offset_def),
678                                   TREE_TYPE (offset),
679                                   gimple_assign_rhs1 (offset_def2), tmp);
680            }
681          else
682            return false;
683        }
684      else
685         return false;
686     }
687
688   /* Replace the pointer addition with array indexing.  */
689   index = force_gimple_operand_gsi (use_stmt_gsi, index, true, NULL_TREE,
690                                     true, GSI_SAME_STMT);
691   gimple_assign_set_rhs_from_tree (use_stmt_gsi, unshare_expr (def_rhs));
692   use_stmt = gsi_stmt (*use_stmt_gsi);
693   TREE_OPERAND (TREE_OPERAND (gimple_assign_rhs1 (use_stmt), 0), 1)
694     = index;
695
696   /* That should have created gimple, so there is no need to
697      record information to undo the propagation.  */
698   fold_stmt_inplace (use_stmt);
699   tidy_after_forward_propagate_addr (use_stmt);
700   return true;
701 }
702
703 /* NAME is a SSA_NAME representing DEF_RHS which is of the form
704    ADDR_EXPR <whatever>.
705
706    Try to forward propagate the ADDR_EXPR into the use USE_STMT.
707    Often this will allow for removal of an ADDR_EXPR and INDIRECT_REF
708    node or for recovery of array indexing from pointer arithmetic.
709
710    Return true if the propagation was successful (the propagation can
711    be not totally successful, yet things may have been changed).  */
712
713 static bool
714 forward_propagate_addr_expr_1 (tree name, tree def_rhs,
715                                gimple_stmt_iterator *use_stmt_gsi,
716                                bool single_use_p)
717 {
718   tree lhs, rhs, rhs2, array_ref;
719   tree *rhsp, *lhsp;
720   gimple use_stmt = gsi_stmt (*use_stmt_gsi);
721   enum tree_code rhs_code;
722
723   gcc_assert (TREE_CODE (def_rhs) == ADDR_EXPR);
724
725   lhs = gimple_assign_lhs (use_stmt);
726   rhs_code = gimple_assign_rhs_code (use_stmt);
727   rhs = gimple_assign_rhs1 (use_stmt);
728
729   /* Trivial cases.  The use statement could be a trivial copy or a
730      useless conversion.  Recurse to the uses of the lhs as copyprop does
731      not copy through different variant pointers and FRE does not catch
732      all useless conversions.  Treat the case of a single-use name and
733      a conversion to def_rhs type separate, though.  */
734   if (TREE_CODE (lhs) == SSA_NAME
735       && ((rhs_code == SSA_NAME && rhs == name)
736           || CONVERT_EXPR_CODE_P (rhs_code)))
737     {
738       /* Only recurse if we don't deal with a single use or we cannot
739          do the propagation to the current statement.  In particular
740          we can end up with a conversion needed for a non-invariant
741          address which we cannot do in a single statement.  */
742       if (!single_use_p
743           || (!useless_type_conversion_p (TREE_TYPE (lhs), TREE_TYPE (def_rhs))
744               && !is_gimple_min_invariant (def_rhs)))
745         return forward_propagate_addr_expr (lhs, def_rhs);
746
747       gimple_assign_set_rhs1 (use_stmt, unshare_expr (def_rhs));
748       if (useless_type_conversion_p (TREE_TYPE (lhs), TREE_TYPE (def_rhs)))
749         gimple_assign_set_rhs_code (use_stmt, TREE_CODE (def_rhs));
750       else
751         gimple_assign_set_rhs_code (use_stmt, NOP_EXPR);
752       return true;
753     }
754
755   /* Now strip away any outer COMPONENT_REF/ARRAY_REF nodes from the LHS. 
756      ADDR_EXPR will not appear on the LHS.  */
757   lhsp = gimple_assign_lhs_ptr (use_stmt);
758   while (handled_component_p (*lhsp))
759     lhsp = &TREE_OPERAND (*lhsp, 0);
760   lhs = *lhsp;
761
762   /* Now see if the LHS node is an INDIRECT_REF using NAME.  If so, 
763      propagate the ADDR_EXPR into the use of NAME and fold the result.  */
764   if (TREE_CODE (lhs) == INDIRECT_REF
765       && TREE_OPERAND (lhs, 0) == name
766       && may_propagate_address_into_dereference (def_rhs, lhs)
767       && (lhsp != gimple_assign_lhs_ptr (use_stmt)
768           || useless_type_conversion_p (TREE_TYPE (TREE_OPERAND (def_rhs, 0)),
769                                         TREE_TYPE (rhs))))
770     {
771       *lhsp = unshare_expr (TREE_OPERAND (def_rhs, 0));
772       fold_stmt_inplace (use_stmt);
773       tidy_after_forward_propagate_addr (use_stmt);
774
775       /* Continue propagating into the RHS if this was not the only use.  */
776       if (single_use_p)
777         return true;
778     }
779
780   /* Strip away any outer COMPONENT_REF, ARRAY_REF or ADDR_EXPR
781      nodes from the RHS.  */
782   rhsp = gimple_assign_rhs1_ptr (use_stmt);
783   while (handled_component_p (*rhsp)
784          || TREE_CODE (*rhsp) == ADDR_EXPR)
785     rhsp = &TREE_OPERAND (*rhsp, 0);
786   rhs = *rhsp;
787
788   /* Now see if the RHS node is an INDIRECT_REF using NAME.  If so,
789      propagate the ADDR_EXPR into the use of NAME and fold the result.  */
790   if (TREE_CODE (rhs) == INDIRECT_REF
791       && TREE_OPERAND (rhs, 0) == name
792       && may_propagate_address_into_dereference (def_rhs, rhs))
793     {
794       *rhsp = unshare_expr (TREE_OPERAND (def_rhs, 0));
795       fold_stmt_inplace (use_stmt);
796       tidy_after_forward_propagate_addr (use_stmt);
797       return true;
798     }
799
800   /* Now see if the RHS node is an INDIRECT_REF using NAME.  If so, 
801      propagate the ADDR_EXPR into the use of NAME and try to
802      create a VCE and fold the result.  */
803   if (TREE_CODE (rhs) == INDIRECT_REF
804       && TREE_OPERAND (rhs, 0) == name
805       && TYPE_SIZE (TREE_TYPE (rhs))
806       && TYPE_SIZE (TREE_TYPE (TREE_OPERAND (def_rhs, 0)))
807       /* Function decls should not be used for VCE either as it could be a
808          function descriptor that we want and not the actual function code.  */
809       && TREE_CODE (TREE_OPERAND (def_rhs, 0)) != FUNCTION_DECL
810       /* We should not convert volatile loads to non volatile loads. */
811       && !TYPE_VOLATILE (TREE_TYPE (rhs))
812       && !TYPE_VOLATILE (TREE_TYPE (TREE_OPERAND (def_rhs, 0)))
813       && operand_equal_p (TYPE_SIZE (TREE_TYPE (rhs)),
814                           TYPE_SIZE (TREE_TYPE (TREE_OPERAND (def_rhs, 0))), 0)) 
815    {
816      tree def_rhs_base, new_rhs = unshare_expr (TREE_OPERAND (def_rhs, 0));
817      new_rhs = fold_build1 (VIEW_CONVERT_EXPR, TREE_TYPE (rhs), new_rhs);
818      if (TREE_CODE (new_rhs) != VIEW_CONVERT_EXPR)
819        {
820          /* If we have folded the VIEW_CONVERT_EXPR then the result is only
821             valid if we can replace the whole rhs of the use statement.  */
822          if (rhs != gimple_assign_rhs1 (use_stmt))
823            return false;
824          new_rhs = force_gimple_operand_gsi (use_stmt_gsi, new_rhs, true, NULL,
825                                              true, GSI_NEW_STMT);
826          gimple_assign_set_rhs1 (use_stmt, new_rhs);
827          tidy_after_forward_propagate_addr (use_stmt);
828          return true;
829        }
830      /* If the defining rhs comes from an indirect reference, then do not
831         convert into a VIEW_CONVERT_EXPR.  */
832      def_rhs_base = TREE_OPERAND (def_rhs, 0);
833      while (handled_component_p (def_rhs_base))
834        def_rhs_base = TREE_OPERAND (def_rhs_base, 0);
835      if (!INDIRECT_REF_P (def_rhs_base))
836        {
837          /* We may have arbitrary VIEW_CONVERT_EXPRs in a nested component
838             reference.  Place it there and fold the thing.  */
839          *rhsp = new_rhs;
840          fold_stmt_inplace (use_stmt);
841          tidy_after_forward_propagate_addr (use_stmt);
842          return true;
843        }
844    }
845
846   /* If the use of the ADDR_EXPR is not a POINTER_PLUS_EXPR, there
847      is nothing to do. */
848   if (gimple_assign_rhs_code (use_stmt) != POINTER_PLUS_EXPR
849       || gimple_assign_rhs1 (use_stmt) != name)
850     return false;
851
852   /* The remaining cases are all for turning pointer arithmetic into
853      array indexing.  They only apply when we have the address of
854      element zero in an array.  If that is not the case then there
855      is nothing to do.  */
856   array_ref = TREE_OPERAND (def_rhs, 0);
857   if (TREE_CODE (array_ref) != ARRAY_REF
858       || TREE_CODE (TREE_TYPE (TREE_OPERAND (array_ref, 0))) != ARRAY_TYPE
859       || TREE_CODE (TREE_OPERAND (array_ref, 1)) != INTEGER_CST)
860     return false;
861
862   rhs2 = gimple_assign_rhs2 (use_stmt);
863   /* Try to optimize &x[C1] p+ C2 where C2 is a multiple of the size
864      of the elements in X into &x[C1 + C2/element size].  */
865   if (TREE_CODE (rhs2) == INTEGER_CST)
866     {
867       tree new_rhs = maybe_fold_stmt_addition (gimple_expr_type (use_stmt),
868                                                def_rhs, rhs2);
869       if (new_rhs)
870         {
871           gimple_assign_set_rhs_from_tree (use_stmt_gsi,
872                                            unshare_expr (new_rhs));
873           use_stmt = gsi_stmt (*use_stmt_gsi);
874           update_stmt (use_stmt);
875           tidy_after_forward_propagate_addr (use_stmt);
876           return true;
877         }
878     }
879
880   /* Try to optimize &x[0] p+ OFFSET where OFFSET is defined by
881      converting a multiplication of an index by the size of the
882      array elements, then the result is converted into the proper
883      type for the arithmetic.  */
884   if (TREE_CODE (rhs2) == SSA_NAME
885       && integer_zerop (TREE_OPERAND (array_ref, 1))
886       && useless_type_conversion_p (TREE_TYPE (name), TREE_TYPE (def_rhs))
887       /* Avoid problems with IVopts creating PLUS_EXPRs with a
888          different type than their operands.  */
889       && useless_type_conversion_p (TREE_TYPE (lhs), TREE_TYPE (def_rhs)))
890     return forward_propagate_addr_into_variable_array_index (rhs2, def_rhs,
891                                                              use_stmt_gsi);
892   return false;
893 }
894
895 /* STMT is a statement of the form SSA_NAME = ADDR_EXPR <whatever>.
896
897    Try to forward propagate the ADDR_EXPR into all uses of the SSA_NAME.
898    Often this will allow for removal of an ADDR_EXPR and INDIRECT_REF
899    node or for recovery of array indexing from pointer arithmetic.
900    Returns true, if all uses have been propagated into.  */
901
902 static bool
903 forward_propagate_addr_expr (tree name, tree rhs)
904 {
905   int stmt_loop_depth = gimple_bb (SSA_NAME_DEF_STMT (name))->loop_depth;
906   imm_use_iterator iter;
907   gimple use_stmt;
908   bool all = true;
909   bool single_use_p = has_single_use (name);
910
911   FOR_EACH_IMM_USE_STMT (use_stmt, iter, name)
912     {
913       bool result;
914       tree use_rhs;
915
916       /* If the use is not in a simple assignment statement, then
917          there is nothing we can do.  */
918       if (gimple_code (use_stmt) != GIMPLE_ASSIGN)
919         {
920           all = false;
921           continue;
922         }
923
924       /* If the use is in a deeper loop nest, then we do not want
925          to propagate the ADDR_EXPR into the loop as that is likely
926          adding expression evaluations into the loop.  */
927       if (gimple_bb (use_stmt)->loop_depth > stmt_loop_depth)
928         {
929           all = false;
930           continue;
931         }
932
933       push_stmt_changes (&use_stmt);
934
935       {
936         gimple_stmt_iterator gsi = gsi_for_stmt (use_stmt);
937         result = forward_propagate_addr_expr_1 (name, rhs, &gsi,
938                                                 single_use_p);
939         use_stmt = gsi_stmt (gsi);
940       }
941       all &= result;
942
943       pop_stmt_changes (&use_stmt);
944
945       /* Remove intermediate now unused copy and conversion chains.  */
946       use_rhs = gimple_assign_rhs1 (use_stmt);
947       if (result
948           && TREE_CODE (gimple_assign_lhs (use_stmt)) == SSA_NAME
949           && (TREE_CODE (use_rhs) == SSA_NAME
950               || (CONVERT_EXPR_P (use_rhs)
951                   && TREE_CODE (TREE_OPERAND (use_rhs, 0)) == SSA_NAME)))
952         {
953           gimple_stmt_iterator gsi = gsi_for_stmt (use_stmt);
954           release_defs (use_stmt);
955           gsi_remove (&gsi, true);
956         }
957     }
958
959   return all;
960 }
961
962 /* Forward propagate the comparison defined in STMT like
963    cond_1 = x CMP y to uses of the form
964      a_1 = (T')cond_1
965      a_1 = !cond_1
966      a_1 = cond_1 != 0
967    Returns true if stmt is now unused.  */
968
969 static bool
970 forward_propagate_comparison (gimple stmt)
971 {
972   tree name = gimple_assign_lhs (stmt);
973   gimple use_stmt;
974   tree tmp = NULL_TREE;
975
976   /* Don't propagate ssa names that occur in abnormal phis.  */
977   if ((TREE_CODE (gimple_assign_rhs1 (stmt)) == SSA_NAME
978        && SSA_NAME_OCCURS_IN_ABNORMAL_PHI (gimple_assign_rhs1 (stmt)))
979       || (TREE_CODE (gimple_assign_rhs2 (stmt)) == SSA_NAME
980         && SSA_NAME_OCCURS_IN_ABNORMAL_PHI (gimple_assign_rhs2 (stmt))))
981     return false;
982
983   /* Do not un-cse comparisons.  But propagate through copies.  */
984   use_stmt = get_prop_dest_stmt (name, &name);
985   if (!use_stmt)
986     return false;
987
988   /* Conversion of the condition result to another integral type.  */
989   if (is_gimple_assign (use_stmt)
990       && (CONVERT_EXPR_CODE_P (gimple_assign_rhs_code (use_stmt))
991           || TREE_CODE_CLASS (gimple_assign_rhs_code (use_stmt))
992              == tcc_comparison
993           || gimple_assign_rhs_code (use_stmt) == TRUTH_NOT_EXPR)
994       && INTEGRAL_TYPE_P (TREE_TYPE (gimple_assign_lhs (use_stmt))))
995     {
996       tree lhs = gimple_assign_lhs (use_stmt);
997
998       /* We can propagate the condition into a conversion.  */
999       if (CONVERT_EXPR_CODE_P (gimple_assign_rhs_code (use_stmt)))
1000         {
1001           /* Avoid using fold here as that may create a COND_EXPR with
1002              non-boolean condition as canonical form.  */
1003           tmp = build2 (gimple_assign_rhs_code (stmt), TREE_TYPE (lhs),
1004                         gimple_assign_rhs1 (stmt), gimple_assign_rhs2 (stmt));
1005         }
1006       /* We can propagate the condition into X op CST where op
1007          is EQ_EXPR or NE_EXPR and CST is either one or zero.  */
1008       else if (TREE_CODE_CLASS (gimple_assign_rhs_code (use_stmt))
1009               == tcc_comparison
1010              && TREE_CODE (gimple_assign_rhs1 (use_stmt)) == SSA_NAME
1011              && TREE_CODE (gimple_assign_rhs2 (use_stmt)) == INTEGER_CST)
1012       {
1013         enum tree_code code = gimple_assign_rhs_code (use_stmt);
1014         tree cst = gimple_assign_rhs2 (use_stmt);
1015         tree cond;
1016
1017         cond = build2 (gimple_assign_rhs_code (stmt),
1018                        TREE_TYPE (cst),
1019                        gimple_assign_rhs1 (stmt),
1020                        gimple_assign_rhs2 (stmt));
1021
1022         tmp = combine_cond_expr_cond (code, TREE_TYPE (lhs), cond, cst, false);
1023         if (tmp == NULL_TREE)
1024           return false;
1025       }
1026       /* We can propagate the condition into a statement that
1027          computes the logical negation of the comparison result.  */
1028       else if (gimple_assign_rhs_code (use_stmt) == TRUTH_NOT_EXPR)
1029         {
1030           tree type = TREE_TYPE (gimple_assign_rhs1 (stmt));
1031           bool nans = HONOR_NANS (TYPE_MODE (type));
1032           enum tree_code code;
1033           code = invert_tree_comparison (gimple_assign_rhs_code (stmt), nans);
1034           if (code == ERROR_MARK)
1035             return false;
1036
1037           tmp = build2 (code, TREE_TYPE (lhs), gimple_assign_rhs1 (stmt),
1038                         gimple_assign_rhs2 (stmt));
1039         }
1040       else
1041         return false;
1042
1043       {
1044         gimple_stmt_iterator gsi = gsi_for_stmt (use_stmt);
1045         gimple_assign_set_rhs_from_tree (&gsi, unshare_expr (tmp));
1046         use_stmt = gsi_stmt (gsi);
1047         update_stmt (use_stmt);
1048       }
1049
1050       /* Remove defining statements.  */
1051       remove_prop_source_from_use (name, stmt);
1052
1053       if (dump_file && (dump_flags & TDF_DETAILS))
1054         {
1055           tree old_rhs = rhs_to_tree (TREE_TYPE (gimple_assign_lhs (stmt)),
1056                                       stmt);
1057           fprintf (dump_file, "  Replaced '");
1058           print_generic_expr (dump_file, old_rhs, dump_flags);
1059           fprintf (dump_file, "' with '");
1060           print_generic_expr (dump_file, tmp, dump_flags);
1061           fprintf (dump_file, "'\n");
1062         }
1063
1064       return true;
1065     }
1066
1067   return false;
1068 }
1069
1070 /* If we have lhs = ~x (STMT), look and see if earlier we had x = ~y.
1071    If so, we can change STMT into lhs = y which can later be copy
1072    propagated.  Similarly for negation. 
1073
1074    This could trivially be formulated as a forward propagation 
1075    to immediate uses.  However, we already had an implementation
1076    from DOM which used backward propagation via the use-def links.
1077
1078    It turns out that backward propagation is actually faster as
1079    there's less work to do for each NOT/NEG expression we find.
1080    Backwards propagation needs to look at the statement in a single
1081    backlink.  Forward propagation needs to look at potentially more
1082    than one forward link.  */
1083
1084 static void
1085 simplify_not_neg_expr (gimple_stmt_iterator *gsi_p)
1086 {
1087   gimple stmt = gsi_stmt (*gsi_p);
1088   tree rhs = gimple_assign_rhs1 (stmt);
1089   gimple rhs_def_stmt = SSA_NAME_DEF_STMT (rhs);
1090
1091   /* See if the RHS_DEF_STMT has the same form as our statement.  */
1092   if (is_gimple_assign (rhs_def_stmt)
1093       && gimple_assign_rhs_code (rhs_def_stmt) == gimple_assign_rhs_code (stmt))
1094     {
1095       tree rhs_def_operand = gimple_assign_rhs1 (rhs_def_stmt);
1096
1097       /* Verify that RHS_DEF_OPERAND is a suitable SSA_NAME.  */
1098       if (TREE_CODE (rhs_def_operand) == SSA_NAME
1099           && ! SSA_NAME_OCCURS_IN_ABNORMAL_PHI (rhs_def_operand))
1100         {
1101           gimple_assign_set_rhs_from_tree (gsi_p, rhs_def_operand);
1102           stmt = gsi_stmt (*gsi_p);
1103           update_stmt (stmt);
1104         }
1105     }
1106 }
1107
1108 /* STMT is a SWITCH_EXPR for which we attempt to find equivalent forms of
1109    the condition which we may be able to optimize better.  */
1110
1111 static void
1112 simplify_gimple_switch (gimple stmt)
1113 {
1114   tree cond = gimple_switch_index (stmt);
1115   tree def, to, ti;
1116   gimple def_stmt;
1117
1118   /* The optimization that we really care about is removing unnecessary
1119      casts.  That will let us do much better in propagating the inferred
1120      constant at the switch target.  */
1121   if (TREE_CODE (cond) == SSA_NAME)
1122     {
1123       def_stmt = SSA_NAME_DEF_STMT (cond);
1124       if (is_gimple_assign (def_stmt))
1125         {
1126           if (gimple_assign_rhs_code (def_stmt) == NOP_EXPR)
1127             {
1128               int need_precision;
1129               bool fail;
1130
1131               def = gimple_assign_rhs1 (def_stmt);
1132
1133 #ifdef ENABLE_CHECKING
1134               /* ??? Why was Jeff testing this?  We are gimple...  */
1135               gcc_assert (is_gimple_val (def));
1136 #endif
1137
1138               to = TREE_TYPE (cond);
1139               ti = TREE_TYPE (def);
1140
1141               /* If we have an extension that preserves value, then we
1142                  can copy the source value into the switch.  */
1143
1144               need_precision = TYPE_PRECISION (ti);
1145               fail = false;
1146               if (! INTEGRAL_TYPE_P (ti))
1147                 fail = true;
1148               else if (TYPE_UNSIGNED (to) && !TYPE_UNSIGNED (ti))
1149                 fail = true;
1150               else if (!TYPE_UNSIGNED (to) && TYPE_UNSIGNED (ti))
1151                 need_precision += 1;
1152               if (TYPE_PRECISION (to) < need_precision)
1153                 fail = true;
1154
1155               if (!fail)
1156                 {
1157                   gimple_switch_set_index (stmt, def);
1158                   update_stmt (stmt);
1159                 }
1160             }
1161         }
1162     }
1163 }
1164
1165 /* Run bitwise and assignments throug the folder.  If the first argument is an
1166    ssa name that is itself a result of a typecast of an ADDR_EXPR to an
1167    integer, feed the ADDR_EXPR to the folder rather than the ssa name.
1168 */
1169
1170 static void
1171 simplify_bitwise_and (gimple_stmt_iterator *gsi, gimple stmt)
1172 {
1173   tree res;
1174   tree arg1 = gimple_assign_rhs1 (stmt);
1175   tree arg2 = gimple_assign_rhs2 (stmt);
1176
1177   if (TREE_CODE (arg2) != INTEGER_CST)
1178     return;
1179
1180   if (TREE_CODE (arg1) == SSA_NAME && !SSA_NAME_IS_DEFAULT_DEF (arg1))
1181     {
1182       gimple def = SSA_NAME_DEF_STMT (arg1);
1183
1184       if (gimple_assign_cast_p (def)
1185           && INTEGRAL_TYPE_P (gimple_expr_type (def)))
1186         {
1187           tree op = gimple_assign_rhs1 (def);
1188
1189           if (TREE_CODE (op) == ADDR_EXPR)
1190             arg1 = op;
1191         }
1192     }
1193
1194   res = fold_binary (BIT_AND_EXPR, TREE_TYPE (gimple_assign_lhs (stmt)),
1195                      arg1, arg2);
1196   if (res && is_gimple_min_invariant (res))
1197     {
1198       gimple_assign_set_rhs_from_tree (gsi, res);
1199       update_stmt (stmt);
1200     }
1201   return;
1202 }
1203
1204 /* Main entry point for the forward propagation optimizer.  */
1205
1206 static unsigned int
1207 tree_ssa_forward_propagate_single_use_vars (void)
1208 {
1209   basic_block bb;
1210   unsigned int todoflags = 0;
1211
1212   cfg_changed = false;
1213
1214   FOR_EACH_BB (bb)
1215     {
1216       gimple_stmt_iterator gsi;
1217
1218       /* Note we update GSI within the loop as necessary.  */
1219       for (gsi = gsi_start_bb (bb); !gsi_end_p (gsi); )
1220         {
1221           gimple stmt = gsi_stmt (gsi);
1222
1223           /* If this statement sets an SSA_NAME to an address,
1224              try to propagate the address into the uses of the SSA_NAME.  */
1225           if (is_gimple_assign (stmt))
1226             {
1227               tree lhs = gimple_assign_lhs (stmt);
1228               tree rhs = gimple_assign_rhs1 (stmt);
1229
1230               if (TREE_CODE (lhs) != SSA_NAME)
1231                 {
1232                   gsi_next (&gsi);
1233                   continue;
1234                 }
1235
1236               if (gimple_assign_rhs_code (stmt) == ADDR_EXPR
1237                   /* Handle pointer conversions on invariant addresses
1238                      as well, as this is valid gimple.  */
1239                   || (CONVERT_EXPR_CODE_P (gimple_assign_rhs_code (stmt))
1240                       && TREE_CODE (rhs) == ADDR_EXPR
1241                       && POINTER_TYPE_P (TREE_TYPE (lhs))))
1242                 {
1243                   STRIP_NOPS (rhs);
1244                   if (!stmt_references_abnormal_ssa_name (stmt)
1245                       && forward_propagate_addr_expr (lhs, rhs))
1246                     {
1247                       release_defs (stmt);
1248                       todoflags |= TODO_remove_unused_locals;
1249                       gsi_remove (&gsi, true);
1250                     }
1251                   else
1252                     gsi_next (&gsi);
1253                 }
1254               else if ((gimple_assign_rhs_code (stmt) == BIT_NOT_EXPR
1255                         || gimple_assign_rhs_code (stmt) == NEGATE_EXPR)
1256                        && TREE_CODE (rhs) == SSA_NAME)
1257                 {
1258                   simplify_not_neg_expr (&gsi);
1259                   gsi_next (&gsi);
1260                 }
1261               else if (gimple_assign_rhs_code (stmt) == COND_EXPR)
1262                 {
1263                   /* In this case the entire COND_EXPR is in rhs1. */
1264                   int did_something;
1265                   fold_defer_overflow_warnings ();
1266                   did_something = forward_propagate_into_cond (&gsi);
1267                   stmt = gsi_stmt (gsi);
1268                   if (did_something == 2)
1269                     cfg_changed = true;
1270                   fold_undefer_overflow_warnings (!TREE_NO_WARNING (rhs)
1271                     && did_something, stmt, WARN_STRICT_OVERFLOW_CONDITIONAL);
1272                   gsi_next (&gsi);
1273                 }
1274               else if (TREE_CODE_CLASS (gimple_assign_rhs_code (stmt))
1275                                         == tcc_comparison)
1276                 {
1277                   if (forward_propagate_comparison (stmt))
1278                     {
1279                       release_defs (stmt);
1280                       todoflags |= TODO_remove_unused_locals;
1281                       gsi_remove (&gsi, true);
1282                     }
1283                   else
1284                     gsi_next (&gsi);
1285                 }
1286               else if (gimple_assign_rhs_code (stmt) == BIT_AND_EXPR)
1287                 {
1288                   simplify_bitwise_and (&gsi, stmt);
1289                   gsi_next (&gsi);
1290                 }
1291               else
1292                 gsi_next (&gsi);
1293             }
1294           else if (gimple_code (stmt) == GIMPLE_SWITCH)
1295             {
1296               simplify_gimple_switch (stmt);
1297               gsi_next (&gsi);
1298             }
1299           else if (gimple_code (stmt) == GIMPLE_COND)
1300             {
1301               int did_something;
1302               fold_defer_overflow_warnings ();
1303               did_something = forward_propagate_into_gimple_cond (stmt);
1304               if (did_something == 2)
1305                 cfg_changed = true;
1306               fold_undefer_overflow_warnings (did_something, stmt,
1307                                               WARN_STRICT_OVERFLOW_CONDITIONAL);
1308               gsi_next (&gsi);
1309             }
1310           else
1311             gsi_next (&gsi);
1312         }
1313     }
1314
1315   if (cfg_changed)
1316     todoflags |= TODO_cleanup_cfg;
1317   return todoflags;
1318 }
1319
1320
1321 static bool
1322 gate_forwprop (void)
1323 {
1324   return 1;
1325 }
1326
1327 struct gimple_opt_pass pass_forwprop = 
1328 {
1329  {
1330   GIMPLE_PASS,
1331   "forwprop",                   /* name */
1332   gate_forwprop,                /* gate */
1333   tree_ssa_forward_propagate_single_use_vars,   /* execute */
1334   NULL,                         /* sub */
1335   NULL,                         /* next */
1336   0,                            /* static_pass_number */
1337   TV_TREE_FORWPROP,             /* tv_id */
1338   PROP_cfg | PROP_ssa,          /* properties_required */
1339   0,                            /* properties_provided */
1340   0,                            /* properties_destroyed */
1341   0,                            /* todo_flags_start */
1342   TODO_dump_func
1343   | TODO_ggc_collect
1344   | TODO_update_ssa
1345   | TODO_verify_ssa             /* todo_flags_finish */
1346  }
1347 };
1348