OSDN Git Service

PR tree-optimization/20936.
[pf3gnuchains/gcc-fork.git] / gcc / tree-ssa-ccp.c
1 /* Conditional constant propagation pass for the GNU compiler.
2    Copyright (C) 2000, 2001, 2002, 2003, 2004, 2005
3    Free Software Foundation, Inc.
4    Adapted from original RTL SSA-CCP by Daniel Berlin <dberlin@dberlin.org>
5    Adapted to GIMPLE trees by Diego Novillo <dnovillo@redhat.com>
6
7 This file is part of GCC.
8    
9 GCC is free software; you can redistribute it and/or modify it
10 under the terms of the GNU General Public License as published by the
11 Free Software Foundation; either version 2, or (at your option) any
12 later version.
13    
14 GCC is distributed in the hope that it will be useful, but WITHOUT
15 ANY WARRANTY; without even the implied warranty of MERCHANTABILITY or
16 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
17 for more details.
18    
19 You should have received a copy of the GNU General Public License
20 along with GCC; see the file COPYING.  If not, write to the Free
21 Software Foundation, 59 Temple Place - Suite 330, Boston, MA
22 02111-1307, USA.  */
23
24 /* Conditional constant propagation (CCP) is based on the SSA
25    propagation engine (tree-ssa-propagate.c).  Constant assignments of
26    the form VAR = CST are propagated from the assignments into uses of
27    VAR, which in turn may generate new constants.  The simulation uses
28    a four level lattice to keep track of constant values associated
29    with SSA names.  Given an SSA name V_i, it may take one of the
30    following values:
31
32         UNINITIALIZED   ->  This is the default starting value.  V_i
33                             has not been processed yet.
34
35         UNDEFINED       ->  V_i is a local variable whose definition
36                             has not been processed yet.  Therefore we
37                             don't yet know if its value is a constant
38                             or not.
39
40         CONSTANT        ->  V_i has been found to hold a constant
41                             value C.
42
43         VARYING         ->  V_i cannot take a constant value, or if it
44                             does, it is not possible to determine it
45                             at compile time.
46
47    The core of SSA-CCP is in ccp_visit_stmt and ccp_visit_phi_node:
48
49    1- In ccp_visit_stmt, we are interested in assignments whose RHS
50       evaluates into a constant and conditional jumps whose predicate
51       evaluates into a boolean true or false.  When an assignment of
52       the form V_i = CONST is found, V_i's lattice value is set to
53       CONSTANT and CONST is associated with it.  This causes the
54       propagation engine to add all the SSA edges coming out the
55       assignment into the worklists, so that statements that use V_i
56       can be visited.
57
58       If the statement is a conditional with a constant predicate, we
59       mark the outgoing edges as executable or not executable
60       depending on the predicate's value.  This is then used when
61       visiting PHI nodes to know when a PHI argument can be ignored.
62       
63
64    2- In ccp_visit_phi_node, if all the PHI arguments evaluate to the
65       same constant C, then the LHS of the PHI is set to C.  This
66       evaluation is known as the "meet operation".  Since one of the
67       goals of this evaluation is to optimistically return constant
68       values as often as possible, it uses two main short cuts:
69
70       - If an argument is flowing in through a non-executable edge, it
71         is ignored.  This is useful in cases like this:
72
73                         if (PRED)
74                           a_9 = 3;
75                         else
76                           a_10 = 100;
77                         a_11 = PHI (a_9, a_10)
78
79         If PRED is known to always evaluate to false, then we can
80         assume that a_11 will always take its value from a_10, meaning
81         that instead of consider it VARYING (a_9 and a_10 have
82         different values), we can consider it CONSTANT 100.
83
84       - If an argument has an UNDEFINED value, then it does not affect
85         the outcome of the meet operation.  If a variable V_i has an
86         UNDEFINED value, it means that either its defining statement
87         hasn't been visited yet or V_i has no defining statement, in
88         which case the original symbol 'V' is being used
89         uninitialized.  Since 'V' is a local variable, the compiler
90         may assume any initial value for it.
91
92
93    After propagation, every variable V_i that ends up with a lattice
94    value of CONSTANT will have the associated constant value in the
95    array CONST_VAL[i].VALUE.  That is fed into substitute_and_fold for
96    final substitution and folding.
97
98
99    Constant propagation in stores and loads (STORE-CCP)
100    ----------------------------------------------------
101
102    While CCP has all the logic to propagate constants in GIMPLE
103    registers, it is missing the ability to associate constants with
104    stores and loads (i.e., pointer dereferences, structures and
105    global/aliased variables).  We don't keep loads and stores in
106    SSA, but we do build a factored use-def web for them (in the
107    virtual operands).
108
109    For instance, consider the following code fragment:
110
111           struct A a;
112           const int B = 42;
113
114           void foo (int i)
115           {
116             if (i > 10)
117               a.a = 42;
118             else
119               {
120                 a.b = 21;
121                 a.a = a.b + 21;
122               }
123
124             if (a.a != B)
125               never_executed ();
126           }
127
128    We should be able to deduce that the predicate 'a.a != B' is always
129    false.  To achieve this, we associate constant values to the SSA
130    names in the V_MAY_DEF and V_MUST_DEF operands for each store.
131    Additionally, since we also glob partial loads/stores with the base
132    symbol, we also keep track of the memory reference where the
133    constant value was stored (in the MEM_REF field of PROP_VALUE_T).
134    For instance,
135
136         # a_5 = V_MAY_DEF <a_4>
137         a.a = 2;
138
139         # VUSE <a_5>
140         x_3 = a.b;
141
142    In the example above, CCP will associate value '2' with 'a_5', but
143    it would be wrong to replace the load from 'a.b' with '2', because
144    '2' had been stored into a.a.
145
146    To support STORE-CCP, it is necessary to add a new value to the
147    constant propagation lattice.  When evaluating a load for a memory
148    reference we can no longer assume a value of UNDEFINED if we
149    haven't seen a preceding store to the same memory location.
150    Consider, for instance global variables:
151
152         int A;
153
154         foo (int i)
155         {
156           if (i_3 > 10)
157             A_4 = 3;
158           # A_5 = PHI (A_4, A_2);
159
160           # VUSE <A_5>
161           A.0_6 = A;
162
163           return A.0_6;
164         }
165
166    The value of A_2 cannot be assumed to be UNDEFINED, as it may have
167    been defined outside of foo.  If we were to assume it UNDEFINED, we
168    would erroneously optimize the above into 'return 3;'.  Therefore,
169    when doing STORE-CCP, we introduce a fifth lattice value
170    (UNKNOWN_VAL), which overrides any other value when computing the
171    meet operation in PHI nodes.
172
173    Though STORE-CCP is not too expensive, it does have to do more work
174    than regular CCP, so it is only enabled at -O2.  Both regular CCP
175    and STORE-CCP use the exact same algorithm.  The only distinction
176    is that when doing STORE-CCP, the boolean variable DO_STORE_CCP is
177    set to true.  This affects the evaluation of statements and PHI
178    nodes.
179
180    References:
181
182      Constant propagation with conditional branches,
183      Wegman and Zadeck, ACM TOPLAS 13(2):181-210.
184
185      Building an Optimizing Compiler,
186      Robert Morgan, Butterworth-Heinemann, 1998, Section 8.9.
187
188      Advanced Compiler Design and Implementation,
189      Steven Muchnick, Morgan Kaufmann, 1997, Section 12.6  */
190
191 #include "config.h"
192 #include "system.h"
193 #include "coretypes.h"
194 #include "tm.h"
195 #include "tree.h"
196 #include "flags.h"
197 #include "rtl.h"
198 #include "tm_p.h"
199 #include "ggc.h"
200 #include "basic-block.h"
201 #include "output.h"
202 #include "errors.h"
203 #include "expr.h"
204 #include "function.h"
205 #include "diagnostic.h"
206 #include "timevar.h"
207 #include "tree-dump.h"
208 #include "tree-flow.h"
209 #include "tree-pass.h"
210 #include "tree-ssa-propagate.h"
211 #include "langhooks.h"
212
213
214 /* Possible lattice values.  */
215 typedef enum
216 {
217   UNINITIALIZED = 0,
218   UNDEFINED,
219   UNKNOWN_VAL,
220   CONSTANT,
221   VARYING
222 } ccp_lattice_t;
223
224 /* Array of propagated constant values.  After propagation,
225    CONST_VAL[I].VALUE holds the constant value for SSA_NAME(I).  If
226    the constant is held in an SSA name representing a memory store
227    (i.e., a V_MAY_DEF or V_MUST_DEF), CONST_VAL[I].MEM_REF will
228    contain the actual memory reference used to store (i.e., the LHS of
229    the assignment doing the store).  */
230 prop_value_t *const_val;
231
232 /* True if we are also propagating constants in stores and loads.  */
233 static bool do_store_ccp;
234
235 /* Dump constant propagation value VAL to file OUTF prefixed by PREFIX.  */
236
237 static void
238 dump_lattice_value (FILE *outf, const char *prefix, prop_value_t val)
239 {
240   switch (val.lattice_val)
241     {
242     case UNINITIALIZED:
243       fprintf (outf, "%sUNINITIALIZED", prefix);
244       break;
245     case UNDEFINED:
246       fprintf (outf, "%sUNDEFINED", prefix);
247       break;
248     case VARYING:
249       fprintf (outf, "%sVARYING", prefix);
250       break;
251     case UNKNOWN_VAL:
252       fprintf (outf, "%sUNKNOWN_VAL", prefix);
253       break;
254     case CONSTANT:
255       fprintf (outf, "%sCONSTANT ", prefix);
256       print_generic_expr (outf, val.value, dump_flags);
257       break;
258     default:
259       gcc_unreachable ();
260     }
261 }
262
263
264 /* Print lattice value VAL to stderr.  */
265
266 void debug_lattice_value (prop_value_t val);
267
268 void
269 debug_lattice_value (prop_value_t val)
270 {
271   dump_lattice_value (stderr, "", val);
272   fprintf (stderr, "\n");
273 }
274
275
276 /* Compute a default value for variable VAR and store it in the
277    CONST_VAL array.  The following rules are used to get default
278    values:
279
280    1- Global and static variables that are declared constant are
281       considered CONSTANT.
282
283    2- Any other value is considered UNDEFINED.  This is useful when
284       considering PHI nodes.  PHI arguments that are undefined do not
285       change the constant value of the PHI node, which allows for more
286       constants to be propagated.
287
288    3- If SSA_NAME_VALUE is set and it is a constant, its value is
289       used.
290
291    4- Variables defined by statements other than assignments and PHI
292       nodes are considered VARYING.
293
294    5- Variables that are not GIMPLE registers are considered
295       UNKNOWN_VAL, which is really a stronger version of UNDEFINED.
296       It's used to avoid the short circuit evaluation implied by
297       UNDEFINED in ccp_lattice_meet.  */
298
299 static prop_value_t
300 get_default_value (tree var)
301 {
302   tree sym = SSA_NAME_VAR (var);
303   prop_value_t val = { UNINITIALIZED, NULL_TREE, NULL_TREE };
304
305   if (!do_store_ccp && !is_gimple_reg (var))
306     {
307       /* Short circuit for regular CCP.  We are not interested in any
308          non-register when DO_STORE_CCP is false.  */
309       val.lattice_val = VARYING;
310     }
311   else if (SSA_NAME_VALUE (var)
312            && is_gimple_min_invariant (SSA_NAME_VALUE (var)))
313     {
314       val.lattice_val = CONSTANT;
315       val.value = SSA_NAME_VALUE (var);
316     }
317   else if (TREE_STATIC (sym)
318            && TREE_READONLY (sym)
319            && DECL_INITIAL (sym)
320            && is_gimple_min_invariant (DECL_INITIAL (sym)))
321     {
322       /* Globals and static variables declared 'const' take their
323          initial value.  */
324       val.lattice_val = CONSTANT;
325       val.value = DECL_INITIAL (sym);
326       val.mem_ref = sym;
327     }
328   else
329     {
330       tree stmt = SSA_NAME_DEF_STMT (var);
331
332       if (IS_EMPTY_STMT (stmt))
333         {
334           /* Variables defined by an empty statement are those used
335              before being initialized.  If VAR is a local variable, we
336              can assume initially that it is UNDEFINED.  If we are
337              doing STORE-CCP, function arguments and non-register
338              variables are initially UNKNOWN_VAL, because we cannot
339              discard the value incoming from outside of this function
340              (see ccp_lattice_meet for details).  */
341           if (is_gimple_reg (sym) && TREE_CODE (sym) != PARM_DECL)
342             val.lattice_val = UNDEFINED;
343           else if (do_store_ccp)
344             val.lattice_val = UNKNOWN_VAL;
345           else
346             val.lattice_val = VARYING;
347         }
348       else if (TREE_CODE (stmt) == MODIFY_EXPR
349                || TREE_CODE (stmt) == PHI_NODE)
350         {
351           /* Any other variable defined by an assignment or a PHI node
352              is considered UNDEFINED (or UNKNOWN_VAL if VAR is not a
353              GIMPLE register).  */
354           val.lattice_val = is_gimple_reg (sym) ? UNDEFINED : UNKNOWN_VAL;
355         }
356       else
357         {
358           /* Otherwise, VAR will never take on a constant value.  */
359           val.lattice_val = VARYING;
360         }
361     }
362
363   return val;
364 }
365
366
367 /* Get the constant value associated with variable VAR.  If
368    MAY_USE_DEFAULT_P is true, call get_default_value on variables that
369    have the lattice value UNINITIALIZED.  */
370
371 static prop_value_t *
372 get_value (tree var, bool may_use_default_p)
373 {
374   prop_value_t *val = &const_val[SSA_NAME_VERSION (var)];
375   if (may_use_default_p && val->lattice_val == UNINITIALIZED)
376     *val = get_default_value (var);
377
378   return val;
379 }
380
381
382 /* Set the value for variable VAR to NEW_VAL.  Return true if the new
383    value is different from VAR's previous value.  */
384
385 static bool
386 set_lattice_value (tree var, prop_value_t new_val)
387 {
388   prop_value_t *old_val = get_value (var, false);
389
390   /* Lattice transitions must always be monotonically increasing in
391      value.  We allow two exceptions:
392      
393      1- If *OLD_VAL and NEW_VAL are the same, return false to
394         inform the caller that this was a non-transition.
395
396      2- If we are doing store-ccp (i.e., DOING_STORE_CCP is true),
397         allow CONSTANT->UNKNOWN_VAL.  The UNKNOWN_VAL state is a
398         special type of UNDEFINED state which prevents the short
399         circuit evaluation of PHI arguments (see ccp_visit_phi_node
400         and ccp_lattice_meet).  */
401   gcc_assert (old_val->lattice_val <= new_val.lattice_val
402               || (old_val->lattice_val == new_val.lattice_val
403                   && old_val->value == new_val.value
404                   && old_val->mem_ref == new_val.mem_ref)
405               || (do_store_ccp
406                   && old_val->lattice_val == CONSTANT
407                   && new_val.lattice_val == UNKNOWN_VAL));
408
409   if (old_val->lattice_val != new_val.lattice_val)
410     {
411       if (dump_file && (dump_flags & TDF_DETAILS))
412         {
413           dump_lattice_value (dump_file, "Lattice value changed to ", new_val);
414           fprintf (dump_file, ".  %sdding SSA edges to worklist.\n",
415                    new_val.lattice_val != UNDEFINED ? "A" : "Not a");
416         }
417
418       *old_val = new_val;
419
420       /* Transitions UNINITIALIZED -> UNDEFINED are never interesting
421          for propagation purposes.  In these cases return false to
422          avoid doing useless work.  */
423       return (new_val.lattice_val != UNDEFINED);
424     }
425
426   return false;
427 }
428
429
430 /* Return the likely CCP lattice value for STMT.
431
432    If STMT has no operands, then return CONSTANT.
433
434    Else if any operands of STMT are undefined, then return UNDEFINED.
435
436    Else if any operands of STMT are constants, then return CONSTANT.
437
438    Else return VARYING.  */
439
440 static ccp_lattice_t
441 likely_value (tree stmt)
442 {
443   bool found_constant;
444   stmt_ann_t ann;
445   tree use;
446   ssa_op_iter iter;
447
448   ann = stmt_ann (stmt);
449
450   /* If the statement has volatile operands, it won't fold to a
451      constant value.  */
452   if (ann->has_volatile_ops)
453     return VARYING;
454
455   /* If we are not doing store-ccp, statements with loads
456      and/or stores will never fold into a constant.  */
457   if (!do_store_ccp
458       && (ann->makes_aliased_stores
459           || ann->makes_aliased_loads
460           || NUM_VUSES (VUSE_OPS (ann)) > 0
461           || NUM_V_MAY_DEFS (V_MAY_DEF_OPS (ann)) > 0
462           || NUM_V_MUST_DEFS (V_MUST_DEF_OPS (ann)) > 0))
463     return VARYING;
464
465
466   /* A CALL_EXPR is assumed to be varying.  NOTE: This may be overly
467      conservative, in the presence of const and pure calls.  */
468   if (get_call_expr_in (stmt) != NULL_TREE)
469     return VARYING;
470
471   /* Anything other than assignments and conditional jumps are not
472      interesting for CCP.  */
473   if (TREE_CODE (stmt) != MODIFY_EXPR
474       && TREE_CODE (stmt) != COND_EXPR
475       && TREE_CODE (stmt) != SWITCH_EXPR)
476     return VARYING;
477
478   get_stmt_operands (stmt);
479
480   found_constant = false;
481   FOR_EACH_SSA_TREE_OPERAND (use, stmt, iter, SSA_OP_USE|SSA_OP_VUSE)
482     {
483       prop_value_t *val = get_value (use, true);
484
485       if (val->lattice_val == VARYING)
486         return VARYING;
487
488       if (val->lattice_val == UNKNOWN_VAL)
489         {
490           /* UNKNOWN_VAL is invalid when not doing STORE-CCP.  */
491           gcc_assert (do_store_ccp);
492           return UNKNOWN_VAL;
493         }
494
495       if (val->lattice_val == CONSTANT)
496         found_constant = true;
497     }
498
499   if (found_constant
500       || NUM_USES (USE_OPS (ann)) == 0
501       || NUM_VUSES (VUSE_OPS (ann)) == 0)
502     return CONSTANT;
503
504   return UNDEFINED;
505 }
506
507
508 /* Initialize local data structures for CCP.  */
509
510 static void
511 ccp_initialize (void)
512 {
513   basic_block bb;
514
515   const_val = xmalloc (num_ssa_names * sizeof (*const_val));
516   memset (const_val, 0, num_ssa_names * sizeof (*const_val));
517
518   /* Initialize simulation flags for PHI nodes and statements.  */
519   FOR_EACH_BB (bb)
520     {
521       block_stmt_iterator i;
522
523       for (i = bsi_start (bb); !bsi_end_p (i); bsi_next (&i))
524         {
525           bool is_varying = false;
526           tree stmt = bsi_stmt (i);
527
528           get_stmt_operands (stmt);
529
530           if (likely_value (stmt) == VARYING)
531
532             {
533               tree def;
534               ssa_op_iter iter;
535
536               /* If the statement will not produce a constant, mark
537                  all its outputs VARYING.  */
538               FOR_EACH_SSA_TREE_OPERAND (def, stmt, iter, SSA_OP_ALL_DEFS)
539                 get_value (def, false)->lattice_val = VARYING;
540
541               /* Never mark conditional jumps with DONT_SIMULATE_AGAIN,
542                  otherwise the propagator will never add the outgoing
543                  control edges.  */
544               if (TREE_CODE (stmt) != COND_EXPR
545                   && TREE_CODE (stmt) != SWITCH_EXPR)
546                 is_varying = true;
547             }
548
549           DONT_SIMULATE_AGAIN (stmt) = is_varying;
550         }
551     }
552
553   /* Now process PHI nodes.  */
554   FOR_EACH_BB (bb)
555     {
556       tree phi;
557
558       for (phi = phi_nodes (bb); phi; phi = PHI_CHAIN (phi))
559         {
560           int i;
561           tree arg;
562           prop_value_t *val = get_value (PHI_RESULT (phi), false);
563
564           for (i = 0; i < PHI_NUM_ARGS (phi); i++)
565             {
566               arg = PHI_ARG_DEF (phi, i);
567
568               if (TREE_CODE (arg) == SSA_NAME
569                   && get_value (arg, false)->lattice_val == VARYING)
570                 {
571                   val->lattice_val = VARYING;
572                   break;
573                 }
574             }
575
576           DONT_SIMULATE_AGAIN (phi) = (val->lattice_val == VARYING);
577         }
578     }
579 }
580
581
582 /* Do final substitution of propagated values, cleanup the flowgraph and
583    free allocated storage.  */
584
585 static void
586 ccp_finalize (void)
587 {
588   /* Perform substitutions based on the known constant values.  */
589   substitute_and_fold (const_val);
590
591   free (const_val);
592 }
593
594
595 /* Compute the meet operator between *VAL1 and *VAL2.  Store the result
596    in VAL1.
597
598                 any  M UNDEFINED   = any
599                 any  M UNKNOWN_VAL = UNKNOWN_VAL
600                 any  M VARYING     = VARYING
601                 Ci   M Cj          = Ci         if (i == j)
602                 Ci   M Cj          = VARYING    if (i != j)
603
604    Lattice values UNKNOWN_VAL and UNDEFINED are similar but have
605    different semantics at PHI nodes.  Both values imply that we don't
606    know whether the variable is constant or not.  However, UNKNOWN_VAL
607    values override all others.  For instance, suppose that A is a
608    global variable:
609
610                 +------+
611                 |      |
612                 |     / \
613                 |    /   \
614                 |   |  A_1 = 4
615                 |    \   /
616                 |     \ /    
617                 | A_3 = PHI (A_2, A_1)
618                 | ... = A_3
619                 |    |
620                 +----+
621
622    If the edge into A_2 is not executable, the first visit to A_3 will
623    yield the constant 4.  But the second visit to A_3 will be with A_2
624    in state UNKNOWN_VAL.  We can no longer conclude that A_3 is 4
625    because A_2 may have been set in another function.  If we had used
626    the lattice value UNDEFINED, we would have had wrongly concluded
627    that A_3 is 4.  */
628    
629
630 static void
631 ccp_lattice_meet (prop_value_t *val1, prop_value_t *val2)
632 {
633   if (val1->lattice_val == UNDEFINED)
634     {
635       /* UNDEFINED M any = any   */
636       *val1 = *val2;
637     }
638   else if (val2->lattice_val == UNDEFINED)
639     {
640       /* any M UNDEFINED = any
641          Nothing to do.  VAL1 already contains the value we want.  */
642       ;
643     }
644   else if (val1->lattice_val == UNKNOWN_VAL
645            || val2->lattice_val == UNKNOWN_VAL)
646     {
647       /* UNKNOWN_VAL values are invalid if we are not doing STORE-CCP.  */
648       gcc_assert (do_store_ccp);
649
650       /* any M UNKNOWN_VAL = UNKNOWN_VAL.  */
651       val1->lattice_val = UNKNOWN_VAL;
652       val1->value = NULL_TREE;
653       val1->mem_ref = NULL_TREE;
654     }
655   else if (val1->lattice_val == VARYING
656            || val2->lattice_val == VARYING)
657     {
658       /* any M VARYING = VARYING.  */
659       val1->lattice_val = VARYING;
660       val1->value = NULL_TREE;
661       val1->mem_ref = NULL_TREE;
662     }
663   else if (val1->lattice_val == CONSTANT
664            && val2->lattice_val == CONSTANT
665            && simple_cst_equal (val1->value, val2->value) == 1
666            && (!do_store_ccp
667                || simple_cst_equal (val1->mem_ref, val2->mem_ref) == 1))
668     {
669       /* Ci M Cj = Ci           if (i == j)
670          Ci M Cj = VARYING      if (i != j)
671
672          If these two values come from memory stores, make sure that
673          they come from the same memory reference.  */
674       val1->lattice_val = CONSTANT;
675       val1->value = val1->value;
676       val1->mem_ref = val1->mem_ref;
677     }
678   else
679     {
680       /* Any other combination is VARYING.  */
681       val1->lattice_val = VARYING;
682       val1->value = NULL_TREE;
683       val1->mem_ref = NULL_TREE;
684     }
685 }
686
687
688 /* Loop through the PHI_NODE's parameters for BLOCK and compare their
689    lattice values to determine PHI_NODE's lattice value.  The value of a
690    PHI node is determined calling ccp_lattice_meet with all the arguments
691    of the PHI node that are incoming via executable edges.  */
692
693 static enum ssa_prop_result
694 ccp_visit_phi_node (tree phi)
695 {
696   int i;
697   prop_value_t *old_val, new_val;
698
699   if (dump_file && (dump_flags & TDF_DETAILS))
700     {
701       fprintf (dump_file, "\nVisiting PHI node: ");
702       print_generic_expr (dump_file, phi, dump_flags);
703     }
704
705   old_val = get_value (PHI_RESULT (phi), false);
706   switch (old_val->lattice_val)
707     {
708     case VARYING:
709       return SSA_PROP_VARYING;
710
711     case CONSTANT:
712       new_val = *old_val;
713       break;
714
715     case UNKNOWN_VAL:
716       /* To avoid the default value of UNKNOWN_VAL overriding
717          that of its possible constant arguments, temporarily
718          set the PHI node's default lattice value to be 
719          UNDEFINED.  If the PHI node's old value was UNKNOWN_VAL and
720          the new value is UNDEFINED, then we prevent the invalid
721          transition by not calling set_lattice_value.  */
722       gcc_assert (do_store_ccp);
723
724       /* FALLTHRU  */
725
726     case UNDEFINED:
727     case UNINITIALIZED:
728       new_val.lattice_val = UNDEFINED;
729       new_val.value = NULL_TREE;
730       new_val.mem_ref = NULL_TREE;
731       break;
732
733     default:
734       gcc_unreachable ();
735     }
736
737   for (i = 0; i < PHI_NUM_ARGS (phi); i++)
738     {
739       /* Compute the meet operator over all the PHI arguments flowing
740          through executable edges.  */
741       edge e = PHI_ARG_EDGE (phi, i);
742
743       if (dump_file && (dump_flags & TDF_DETAILS))
744         {
745           fprintf (dump_file,
746               "\n    Argument #%d (%d -> %d %sexecutable)\n",
747               i, e->src->index, e->dest->index,
748               (e->flags & EDGE_EXECUTABLE) ? "" : "not ");
749         }
750
751       /* If the incoming edge is executable, Compute the meet operator for
752          the existing value of the PHI node and the current PHI argument.  */
753       if (e->flags & EDGE_EXECUTABLE)
754         {
755           tree arg = PHI_ARG_DEF (phi, i);
756           prop_value_t arg_val;
757
758           if (is_gimple_min_invariant (arg))
759             {
760               arg_val.lattice_val = CONSTANT;
761               arg_val.value = arg;
762               arg_val.mem_ref = NULL_TREE;
763             }
764           else
765             arg_val = *(get_value (arg, true));
766
767           ccp_lattice_meet (&new_val, &arg_val);
768
769           if (dump_file && (dump_flags & TDF_DETAILS))
770             {
771               fprintf (dump_file, "\t");
772               print_generic_expr (dump_file, arg, dump_flags);
773               dump_lattice_value (dump_file, "\tValue: ", arg_val);
774               fprintf (dump_file, "\n");
775             }
776
777           if (new_val.lattice_val == VARYING)
778             break;
779         }
780     }
781
782   if (dump_file && (dump_flags & TDF_DETAILS))
783     {
784       dump_lattice_value (dump_file, "\n    PHI node value: ", new_val);
785       fprintf (dump_file, "\n\n");
786     }
787
788   /* Check for an invalid change from UNKNOWN_VAL to UNDEFINED.  */
789   if (do_store_ccp
790       && old_val->lattice_val == UNKNOWN_VAL
791       && new_val.lattice_val == UNDEFINED)
792     return SSA_PROP_NOT_INTERESTING;
793
794   /* Otherwise, make the transition to the new value.  */
795   if (set_lattice_value (PHI_RESULT (phi), new_val))
796     {
797       if (new_val.lattice_val == VARYING)
798         return SSA_PROP_VARYING;
799       else
800         return SSA_PROP_INTERESTING;
801     }
802   else
803     return SSA_PROP_NOT_INTERESTING;
804 }
805
806
807 /* CCP specific front-end to the non-destructive constant folding
808    routines.
809
810    Attempt to simplify the RHS of STMT knowing that one or more
811    operands are constants.
812
813    If simplification is possible, return the simplified RHS,
814    otherwise return the original RHS.  */
815
816 static tree
817 ccp_fold (tree stmt)
818 {
819   tree rhs = get_rhs (stmt);
820   enum tree_code code = TREE_CODE (rhs);
821   enum tree_code_class kind = TREE_CODE_CLASS (code);
822   tree retval = NULL_TREE;
823
824   if (TREE_CODE (rhs) == SSA_NAME)
825     {
826       /* If the RHS is an SSA_NAME, return its known constant value,
827          if any.  */
828       return get_value (rhs, true)->value;
829     }
830   else if (do_store_ccp && stmt_makes_single_load (stmt))
831     {
832       /* If the RHS is a memory load, see if the VUSEs associated with
833          it are a valid constant for that memory load.  */
834       prop_value_t *val = get_value_loaded_by (stmt, const_val);
835       if (val && simple_cst_equal (val->mem_ref, rhs) == 1)
836         return val->value;
837       else
838         return NULL_TREE;
839     }
840
841   /* Unary operators.  Note that we know the single operand must
842      be a constant.  So this should almost always return a
843      simplified RHS.  */
844   if (kind == tcc_unary)
845     {
846       /* Handle unary operators which can appear in GIMPLE form.  */
847       tree op0 = TREE_OPERAND (rhs, 0);
848
849       /* Simplify the operand down to a constant.  */
850       if (TREE_CODE (op0) == SSA_NAME)
851         {
852           prop_value_t *val = get_value (op0, true);
853           if (val->lattice_val == CONSTANT)
854             op0 = get_value (op0, true)->value;
855         }
856
857       retval = fold_unary_to_constant (code, TREE_TYPE (rhs), op0);
858
859       /* If we folded, but did not create an invariant, then we can not
860          use this expression.  */
861       if (retval && ! is_gimple_min_invariant (retval))
862         return NULL;
863
864       /* If we could not fold the expression, but the arguments are all
865          constants and gimple values, then build and return the new
866          expression. 
867
868          In some cases the new expression is still something we can
869          use as a replacement for an argument.  This happens with
870          NOP conversions of types for example.
871
872          In other cases the new expression can not be used as a
873          replacement for an argument (as it would create non-gimple
874          code).  But the new expression can still be used to derive
875          other constants.  */
876       if (! retval && is_gimple_min_invariant (op0))
877         return build1 (code, TREE_TYPE (rhs), op0);
878     }
879
880   /* Binary and comparison operators.  We know one or both of the
881      operands are constants.  */
882   else if (kind == tcc_binary
883            || kind == tcc_comparison
884            || code == TRUTH_AND_EXPR
885            || code == TRUTH_OR_EXPR
886            || code == TRUTH_XOR_EXPR)
887     {
888       /* Handle binary and comparison operators that can appear in
889          GIMPLE form.  */
890       tree op0 = TREE_OPERAND (rhs, 0);
891       tree op1 = TREE_OPERAND (rhs, 1);
892
893       /* Simplify the operands down to constants when appropriate.  */
894       if (TREE_CODE (op0) == SSA_NAME)
895         {
896           prop_value_t *val = get_value (op0, true);
897           if (val->lattice_val == CONSTANT)
898             op0 = val->value;
899         }
900
901       if (TREE_CODE (op1) == SSA_NAME)
902         {
903           prop_value_t *val = get_value (op1, true);
904           if (val->lattice_val == CONSTANT)
905             op1 = val->value;
906         }
907
908       retval = fold_binary_to_constant (code, TREE_TYPE (rhs), op0, op1);
909
910       /* If we folded, but did not create an invariant, then we can not
911          use this expression.  */
912       if (retval && ! is_gimple_min_invariant (retval))
913         return NULL;
914       
915       /* If we could not fold the expression, but the arguments are all
916          constants and gimple values, then build and return the new
917          expression. 
918
919          In some cases the new expression is still something we can
920          use as a replacement for an argument.  This happens with
921          NOP conversions of types for example.
922
923          In other cases the new expression can not be used as a
924          replacement for an argument (as it would create non-gimple
925          code).  But the new expression can still be used to derive
926          other constants.  */
927       if (! retval
928           && is_gimple_min_invariant (op0)
929           && is_gimple_min_invariant (op1))
930         return build (code, TREE_TYPE (rhs), op0, op1);
931     }
932
933   /* We may be able to fold away calls to builtin functions if their
934      arguments are constants.  */
935   else if (code == CALL_EXPR
936            && TREE_CODE (TREE_OPERAND (rhs, 0)) == ADDR_EXPR
937            && (TREE_CODE (TREE_OPERAND (TREE_OPERAND (rhs, 0), 0))
938                == FUNCTION_DECL)
939            && DECL_BUILT_IN (TREE_OPERAND (TREE_OPERAND (rhs, 0), 0)))
940     {
941       use_optype uses = STMT_USE_OPS (stmt);
942       if (NUM_USES (uses) != 0)
943         {
944           tree *orig;
945           tree fndecl, arglist;
946           size_t i;
947
948           /* Preserve the original values of every operand.  */
949           orig = xmalloc (sizeof (tree) * NUM_USES (uses));
950           for (i = 0; i < NUM_USES (uses); i++)
951             orig[i] = USE_OP (uses, i);
952
953           /* Substitute operands with their values and try to fold.  */
954           replace_uses_in (stmt, NULL, const_val);
955           fndecl = get_callee_fndecl (rhs);
956           arglist = TREE_OPERAND (rhs, 1);
957           retval = fold_builtin (fndecl, arglist, false);
958
959           /* Restore operands to their original form.  */
960           for (i = 0; i < NUM_USES (uses); i++)
961             SET_USE_OP (uses, i, orig[i]);
962           free (orig);
963         }
964     }
965   else
966     return rhs;
967
968   /* If we got a simplified form, see if we need to convert its type.  */
969   if (retval)
970     return fold_convert (TREE_TYPE (rhs), retval);
971
972   /* No simplification was possible.  */
973   return rhs;
974 }
975
976
977 /* Evaluate statement STMT.  */
978
979 static prop_value_t
980 evaluate_stmt (tree stmt)
981 {
982   prop_value_t val;
983   tree simplified;
984   ccp_lattice_t likelyvalue = likely_value (stmt);
985
986   val.mem_ref = NULL_TREE;
987
988   /* If the statement is likely to have a CONSTANT result, then try
989      to fold the statement to determine the constant value.  */
990   if (likelyvalue == CONSTANT)
991     simplified = ccp_fold (stmt);
992   /* If the statement is likely to have a VARYING result, then do not
993      bother folding the statement.  */
994   else if (likelyvalue == VARYING)
995     simplified = get_rhs (stmt);
996   /* Otherwise the statement is likely to have an UNDEFINED value and
997      there will be nothing to do.  */
998   else
999     simplified = NULL_TREE;
1000
1001   if (simplified && is_gimple_min_invariant (simplified))
1002     {
1003       /* The statement produced a constant value.  */
1004       val.lattice_val = CONSTANT;
1005       val.value = simplified;
1006     }
1007   else
1008     {
1009       /* The statement produced a nonconstant value.  If the statement
1010          had UNDEFINED operands, then the result of the statement
1011          should be UNDEFINED.  Otherwise, the statement is VARYING.  */
1012       val.lattice_val = (likelyvalue == UNDEFINED) ? UNDEFINED : VARYING;
1013       val.value = NULL_TREE;
1014     }
1015
1016   return val;
1017 }
1018
1019
1020 /* Visit the assignment statement STMT.  Set the value of its LHS to the
1021    value computed by the RHS and store LHS in *OUTPUT_P.  If STMT
1022    creates virtual definitions, set the value of each new name to that
1023    of the RHS (if we can derive a constant out of the RHS).  */
1024
1025 static enum ssa_prop_result
1026 visit_assignment (tree stmt, tree *output_p)
1027 {
1028   prop_value_t val;
1029   tree lhs, rhs;
1030   enum ssa_prop_result retval;
1031
1032   lhs = TREE_OPERAND (stmt, 0);
1033   rhs = TREE_OPERAND (stmt, 1);
1034
1035   if (TREE_CODE (rhs) == SSA_NAME)
1036     {
1037       /* For a simple copy operation, we copy the lattice values.  */
1038       prop_value_t *nval = get_value (rhs, true);
1039       val = *nval;
1040     }
1041   else if (do_store_ccp && stmt_makes_single_load (stmt))
1042     {
1043       /* Same as above, but the RHS is not a gimple register and yet
1044          has a known VUSE.  If STMT is loading from the same memory
1045          location that created the SSA_NAMEs for the virtual operands,
1046          we can propagate the value on the RHS.  */
1047       prop_value_t *nval = get_value_loaded_by (stmt, const_val);
1048
1049       if (nval && simple_cst_equal (nval->mem_ref, rhs) == 1)
1050         val = *nval;
1051       else
1052         val = evaluate_stmt (stmt);
1053     }
1054   else
1055     /* Evaluate the statement.  */
1056       val = evaluate_stmt (stmt);
1057
1058   /* If the original LHS was a VIEW_CONVERT_EXPR, modify the constant
1059      value to be a VIEW_CONVERT_EXPR of the old constant value.
1060
1061      ??? Also, if this was a definition of a bitfield, we need to widen
1062      the constant value into the type of the destination variable.  This
1063      should not be necessary if GCC represented bitfields properly.  */
1064   {
1065     tree orig_lhs = TREE_OPERAND (stmt, 0);
1066
1067     if (TREE_CODE (orig_lhs) == VIEW_CONVERT_EXPR
1068         && val.lattice_val == CONSTANT)
1069       {
1070         tree w = fold (build1 (VIEW_CONVERT_EXPR,
1071                                TREE_TYPE (TREE_OPERAND (orig_lhs, 0)),
1072                                val.value));
1073
1074         orig_lhs = TREE_OPERAND (orig_lhs, 0);
1075         if (w && is_gimple_min_invariant (w))
1076           val.value = w;
1077         else
1078           {
1079             val.lattice_val = VARYING;
1080             val.value = NULL;
1081           }
1082       }
1083
1084     if (val.lattice_val == CONSTANT
1085         && TREE_CODE (orig_lhs) == COMPONENT_REF
1086         && DECL_BIT_FIELD (TREE_OPERAND (orig_lhs, 1)))
1087       {
1088         tree w = widen_bitfield (val.value, TREE_OPERAND (orig_lhs, 1),
1089                                  orig_lhs);
1090
1091         if (w && is_gimple_min_invariant (w))
1092           val.value = w;
1093         else
1094           {
1095             val.lattice_val = VARYING;
1096             val.value = NULL_TREE;
1097             val.mem_ref = NULL_TREE;
1098           }
1099       }
1100   }
1101
1102   retval = SSA_PROP_NOT_INTERESTING;
1103
1104   /* Set the lattice value of the statement's output.  */
1105   if (TREE_CODE (lhs) == SSA_NAME)
1106     {
1107       /* If STMT is an assignment to an SSA_NAME, we only have one
1108          value to set.  */
1109       if (set_lattice_value (lhs, val))
1110         {
1111           *output_p = lhs;
1112           if (val.lattice_val == VARYING)
1113             retval = SSA_PROP_VARYING;
1114           else
1115             retval = SSA_PROP_INTERESTING;
1116         }
1117     }
1118   else if (do_store_ccp && stmt_makes_single_store (stmt))
1119     {
1120       /* Otherwise, set the names in V_MAY_DEF/V_MUST_DEF operands
1121          to the new constant value and mark the LHS as the memory
1122          reference associated with VAL.  */
1123       ssa_op_iter i;
1124       tree vdef;
1125       bool changed;
1126
1127       /* Stores cannot take on an UNDEFINED value.  */
1128       if (val.lattice_val == UNDEFINED)
1129         val.lattice_val = UNKNOWN_VAL;      
1130
1131       /* Mark VAL as stored in the LHS of this assignment.  */
1132       val.mem_ref = lhs;
1133
1134       /* Set the value of every VDEF to VAL.  */
1135       changed = false;
1136       FOR_EACH_SSA_TREE_OPERAND (vdef, stmt, i, SSA_OP_VIRTUAL_DEFS)
1137         changed |= set_lattice_value (vdef, val);
1138       
1139       /* Note that for propagation purposes, we are only interested in
1140          visiting statements that load the exact same memory reference
1141          stored here.  Those statements will have the exact same list
1142          of virtual uses, so it is enough to set the output of this
1143          statement to be its first virtual definition.  */
1144       *output_p = first_vdef (stmt);
1145       if (changed)
1146         {
1147           if (val.lattice_val == VARYING)
1148             retval = SSA_PROP_VARYING;
1149           else 
1150             retval = SSA_PROP_INTERESTING;
1151         }
1152     }
1153
1154   return retval;
1155 }
1156
1157
1158 /* Visit the conditional statement STMT.  Return SSA_PROP_INTERESTING
1159    if it can determine which edge will be taken.  Otherwise, return
1160    SSA_PROP_VARYING.  */
1161
1162 static enum ssa_prop_result
1163 visit_cond_stmt (tree stmt, edge *taken_edge_p)
1164 {
1165   prop_value_t val;
1166   basic_block block;
1167
1168   block = bb_for_stmt (stmt);
1169   val = evaluate_stmt (stmt);
1170
1171   /* Find which edge out of the conditional block will be taken and add it
1172      to the worklist.  If no single edge can be determined statically,
1173      return SSA_PROP_VARYING to feed all the outgoing edges to the
1174      propagation engine.  */
1175   *taken_edge_p = val.value ? find_taken_edge (block, val.value) : 0;
1176   if (*taken_edge_p)
1177     return SSA_PROP_INTERESTING;
1178   else
1179     return SSA_PROP_VARYING;
1180 }
1181
1182
1183 /* Evaluate statement STMT.  If the statement produces an output value and
1184    its evaluation changes the lattice value of its output, return
1185    SSA_PROP_INTERESTING and set *OUTPUT_P to the SSA_NAME holding the
1186    output value.
1187    
1188    If STMT is a conditional branch and we can determine its truth
1189    value, set *TAKEN_EDGE_P accordingly.  If STMT produces a varying
1190    value, return SSA_PROP_VARYING.  */
1191
1192 static enum ssa_prop_result
1193 ccp_visit_stmt (tree stmt, edge *taken_edge_p, tree *output_p)
1194 {
1195   stmt_ann_t ann;
1196   v_may_def_optype v_may_defs;
1197   v_must_def_optype v_must_defs;
1198   tree def;
1199   ssa_op_iter iter;
1200
1201   if (dump_file && (dump_flags & TDF_DETAILS))
1202     {
1203       fprintf (dump_file, "\nVisiting statement:\n");
1204       print_generic_stmt (dump_file, stmt, dump_flags);
1205       fprintf (dump_file, "\n");
1206     }
1207
1208   ann = stmt_ann (stmt);
1209
1210   v_must_defs = V_MUST_DEF_OPS (ann);
1211   v_may_defs = V_MAY_DEF_OPS (ann);
1212   if (TREE_CODE (stmt) == MODIFY_EXPR)
1213     {
1214       /* If the statement is an assignment that produces a single
1215          output value, evaluate its RHS to see if the lattice value of
1216          its output has changed.  */
1217       return visit_assignment (stmt, output_p);
1218     }
1219   else if (TREE_CODE (stmt) == COND_EXPR || TREE_CODE (stmt) == SWITCH_EXPR)
1220     {
1221       /* If STMT is a conditional branch, see if we can determine
1222          which branch will be taken.  */
1223       return visit_cond_stmt (stmt, taken_edge_p);
1224     }
1225
1226   /* Any other kind of statement is not interesting for constant
1227      propagation and, therefore, not worth simulating.  */
1228   if (dump_file && (dump_flags & TDF_DETAILS))
1229     fprintf (dump_file, "No interesting values produced.  Marked VARYING.\n");
1230
1231   /* Definitions made by statements other than assignments to
1232      SSA_NAMEs represent unknown modifications to their outputs.
1233      Mark them VARYING.  */
1234   FOR_EACH_SSA_TREE_OPERAND (def, stmt, iter, SSA_OP_ALL_DEFS)
1235     {
1236       prop_value_t v = { VARYING, NULL_TREE, NULL_TREE };
1237       set_lattice_value (def, v);
1238     }
1239
1240   return SSA_PROP_VARYING;
1241 }
1242
1243
1244 /* Main entry point for SSA Conditional Constant Propagation.  */
1245
1246 static void
1247 execute_ssa_ccp (bool store_ccp)
1248 {
1249   do_store_ccp = store_ccp;
1250   ccp_initialize ();
1251   ssa_propagate (ccp_visit_stmt, ccp_visit_phi_node);
1252   ccp_finalize ();
1253 }
1254
1255
1256 static void
1257 do_ssa_ccp (void)
1258 {
1259   execute_ssa_ccp (false);
1260 }
1261
1262
1263 static bool
1264 gate_ccp (void)
1265 {
1266   return flag_tree_ccp != 0;
1267 }
1268
1269
1270 struct tree_opt_pass pass_ccp = 
1271 {
1272   "ccp",                                /* name */
1273   gate_ccp,                             /* gate */
1274   do_ssa_ccp,                           /* execute */
1275   NULL,                                 /* sub */
1276   NULL,                                 /* next */
1277   0,                                    /* static_pass_number */
1278   TV_TREE_CCP,                          /* tv_id */
1279   PROP_cfg | PROP_ssa | PROP_alias,     /* properties_required */
1280   0,                                    /* properties_provided */
1281   0,                                    /* properties_destroyed */
1282   0,                                    /* todo_flags_start */
1283   TODO_cleanup_cfg | TODO_dump_func | TODO_update_ssa
1284     | TODO_ggc_collect | TODO_verify_ssa
1285     | TODO_verify_stmts,                /* todo_flags_finish */
1286   0                                     /* letter */
1287 };
1288
1289
1290 static void
1291 do_ssa_store_ccp (void)
1292 {
1293   /* If STORE-CCP is not enabled, we just run regular CCP.  */
1294   execute_ssa_ccp (flag_tree_store_ccp != 0);
1295 }
1296
1297 static bool
1298 gate_store_ccp (void)
1299 {
1300   /* STORE-CCP is enabled only with -ftree-store-ccp, but when
1301      -fno-tree-store-ccp is specified, we should run regular CCP.
1302      That's why the pass is enabled with either flag.  */
1303   return flag_tree_store_ccp != 0 || flag_tree_ccp != 0;
1304 }
1305
1306
1307 struct tree_opt_pass pass_store_ccp = 
1308 {
1309   "store_ccp",                          /* name */
1310   gate_store_ccp,                       /* gate */
1311   do_ssa_store_ccp,                     /* execute */
1312   NULL,                                 /* sub */
1313   NULL,                                 /* next */
1314   0,                                    /* static_pass_number */
1315   TV_TREE_STORE_CCP,                    /* tv_id */
1316   PROP_cfg | PROP_ssa | PROP_alias,     /* properties_required */
1317   0,                                    /* properties_provided */
1318   0,                                    /* properties_destroyed */
1319   0,                                    /* todo_flags_start */
1320   TODO_dump_func | TODO_update_ssa
1321     | TODO_ggc_collect | TODO_verify_ssa
1322     | TODO_cleanup_cfg
1323     | TODO_verify_stmts,                /* todo_flags_finish */
1324   0                                     /* letter */
1325 };
1326
1327 /* Given a constant value VAL for bitfield FIELD, and a destination
1328    variable VAR, return VAL appropriately widened to fit into VAR.  If
1329    FIELD is wider than HOST_WIDE_INT, NULL is returned.  */
1330
1331 tree
1332 widen_bitfield (tree val, tree field, tree var)
1333 {
1334   unsigned HOST_WIDE_INT var_size, field_size;
1335   tree wide_val;
1336   unsigned HOST_WIDE_INT mask;
1337   unsigned int i;
1338
1339   /* We can only do this if the size of the type and field and VAL are
1340      all constants representable in HOST_WIDE_INT.  */
1341   if (!host_integerp (TYPE_SIZE (TREE_TYPE (var)), 1)
1342       || !host_integerp (DECL_SIZE (field), 1)
1343       || !host_integerp (val, 0))
1344     return NULL_TREE;
1345
1346   var_size = tree_low_cst (TYPE_SIZE (TREE_TYPE (var)), 1);
1347   field_size = tree_low_cst (DECL_SIZE (field), 1);
1348
1349   /* Give up if either the bitfield or the variable are too wide.  */
1350   if (field_size > HOST_BITS_PER_WIDE_INT || var_size > HOST_BITS_PER_WIDE_INT)
1351     return NULL_TREE;
1352
1353   gcc_assert (var_size >= field_size);
1354
1355   /* If the sign bit of the value is not set or the field's type is unsigned,
1356      just mask off the high order bits of the value.  */
1357   if (DECL_UNSIGNED (field)
1358       || !(tree_low_cst (val, 0) & (((HOST_WIDE_INT)1) << (field_size - 1))))
1359     {
1360       /* Zero extension.  Build a mask with the lower 'field_size' bits
1361          set and a BIT_AND_EXPR node to clear the high order bits of
1362          the value.  */
1363       for (i = 0, mask = 0; i < field_size; i++)
1364         mask |= ((HOST_WIDE_INT) 1) << i;
1365
1366       wide_val = build2 (BIT_AND_EXPR, TREE_TYPE (var), val, 
1367                          build_int_cst (TREE_TYPE (var), mask));
1368     }
1369   else
1370     {
1371       /* Sign extension.  Create a mask with the upper 'field_size'
1372          bits set and a BIT_IOR_EXPR to set the high order bits of the
1373          value.  */
1374       for (i = 0, mask = 0; i < (var_size - field_size); i++)
1375         mask |= ((HOST_WIDE_INT) 1) << (var_size - i - 1);
1376
1377       wide_val = build2 (BIT_IOR_EXPR, TREE_TYPE (var), val,
1378                          build_int_cst (TREE_TYPE (var), mask));
1379     }
1380
1381   return fold (wide_val);
1382 }
1383
1384
1385 /* A subroutine of fold_stmt_r.  Attempts to fold *(A+O) to A[X].
1386    BASE is an array type.  OFFSET is a byte displacement.  ORIG_TYPE
1387    is the desired result type.  */
1388
1389 static tree
1390 maybe_fold_offset_to_array_ref (tree base, tree offset, tree orig_type)
1391 {
1392   tree min_idx, idx, elt_offset = integer_zero_node;
1393   tree array_type, elt_type, elt_size;
1394
1395   /* If BASE is an ARRAY_REF, we can pick up another offset (this time
1396      measured in units of the size of elements type) from that ARRAY_REF).
1397      We can't do anything if either is variable.
1398
1399      The case we handle here is *(&A[N]+O).  */
1400   if (TREE_CODE (base) == ARRAY_REF)
1401     {
1402       tree low_bound = array_ref_low_bound (base);
1403
1404       elt_offset = TREE_OPERAND (base, 1);
1405       if (TREE_CODE (low_bound) != INTEGER_CST
1406           || TREE_CODE (elt_offset) != INTEGER_CST)
1407         return NULL_TREE;
1408
1409       elt_offset = int_const_binop (MINUS_EXPR, elt_offset, low_bound, 0);
1410       base = TREE_OPERAND (base, 0);
1411     }
1412
1413   /* Ignore stupid user tricks of indexing non-array variables.  */
1414   array_type = TREE_TYPE (base);
1415   if (TREE_CODE (array_type) != ARRAY_TYPE)
1416     return NULL_TREE;
1417   elt_type = TREE_TYPE (array_type);
1418   if (!lang_hooks.types_compatible_p (orig_type, elt_type))
1419     return NULL_TREE;
1420         
1421   /* If OFFSET and ELT_OFFSET are zero, we don't care about the size of the
1422      element type (so we can use the alignment if it's not constant).
1423      Otherwise, compute the offset as an index by using a division.  If the
1424      division isn't exact, then don't do anything.  */
1425   elt_size = TYPE_SIZE_UNIT (elt_type);
1426   if (integer_zerop (offset))
1427     {
1428       if (TREE_CODE (elt_size) != INTEGER_CST)
1429         elt_size = size_int (TYPE_ALIGN (elt_type));
1430
1431       idx = integer_zero_node;
1432     }
1433   else
1434     {
1435       unsigned HOST_WIDE_INT lquo, lrem;
1436       HOST_WIDE_INT hquo, hrem;
1437
1438       if (TREE_CODE (elt_size) != INTEGER_CST
1439           || div_and_round_double (TRUNC_DIV_EXPR, 1,
1440                                    TREE_INT_CST_LOW (offset),
1441                                    TREE_INT_CST_HIGH (offset),
1442                                    TREE_INT_CST_LOW (elt_size),
1443                                    TREE_INT_CST_HIGH (elt_size),
1444                                    &lquo, &hquo, &lrem, &hrem)
1445           || lrem || hrem)
1446         return NULL_TREE;
1447
1448       idx = build_int_cst_wide (NULL_TREE, lquo, hquo);
1449     }
1450
1451   /* Assume the low bound is zero.  If there is a domain type, get the
1452      low bound, if any, convert the index into that type, and add the
1453      low bound.  */
1454   min_idx = integer_zero_node;
1455   if (TYPE_DOMAIN (array_type))
1456     {
1457       if (TYPE_MIN_VALUE (TYPE_DOMAIN (array_type)))
1458         min_idx = TYPE_MIN_VALUE (TYPE_DOMAIN (array_type));
1459       else
1460         min_idx = fold_convert (TYPE_DOMAIN (array_type), min_idx);
1461
1462       if (TREE_CODE (min_idx) != INTEGER_CST)
1463         return NULL_TREE;
1464
1465       idx = fold_convert (TYPE_DOMAIN (array_type), idx);
1466       elt_offset = fold_convert (TYPE_DOMAIN (array_type), elt_offset);
1467     }
1468
1469   if (!integer_zerop (min_idx))
1470     idx = int_const_binop (PLUS_EXPR, idx, min_idx, 0);
1471   if (!integer_zerop (elt_offset))
1472     idx = int_const_binop (PLUS_EXPR, idx, elt_offset, 0);
1473
1474   return build (ARRAY_REF, orig_type, base, idx, min_idx,
1475                 size_int (tree_low_cst (elt_size, 1)
1476                           / (TYPE_ALIGN_UNIT (elt_type))));
1477 }
1478
1479
1480 /* A subroutine of fold_stmt_r.  Attempts to fold *(S+O) to S.X.
1481    BASE is a record type.  OFFSET is a byte displacement.  ORIG_TYPE
1482    is the desired result type.  */
1483 /* ??? This doesn't handle class inheritance.  */
1484
1485 static tree
1486 maybe_fold_offset_to_component_ref (tree record_type, tree base, tree offset,
1487                                     tree orig_type, bool base_is_ptr)
1488 {
1489   tree f, t, field_type, tail_array_field, field_offset;
1490
1491   if (TREE_CODE (record_type) != RECORD_TYPE
1492       && TREE_CODE (record_type) != UNION_TYPE
1493       && TREE_CODE (record_type) != QUAL_UNION_TYPE)
1494     return NULL_TREE;
1495
1496   /* Short-circuit silly cases.  */
1497   if (lang_hooks.types_compatible_p (record_type, orig_type))
1498     return NULL_TREE;
1499
1500   tail_array_field = NULL_TREE;
1501   for (f = TYPE_FIELDS (record_type); f ; f = TREE_CHAIN (f))
1502     {
1503       int cmp;
1504
1505       if (TREE_CODE (f) != FIELD_DECL)
1506         continue;
1507       if (DECL_BIT_FIELD (f))
1508         continue;
1509
1510       field_offset = byte_position (f);
1511       if (TREE_CODE (field_offset) != INTEGER_CST)
1512         continue;
1513
1514       /* ??? Java creates "interesting" fields for representing base classes.
1515          They have no name, and have no context.  With no context, we get into
1516          trouble with nonoverlapping_component_refs_p.  Skip them.  */
1517       if (!DECL_FIELD_CONTEXT (f))
1518         continue;
1519
1520       /* The previous array field isn't at the end.  */
1521       tail_array_field = NULL_TREE;
1522
1523       /* Check to see if this offset overlaps with the field.  */
1524       cmp = tree_int_cst_compare (field_offset, offset);
1525       if (cmp > 0)
1526         continue;
1527
1528       field_type = TREE_TYPE (f);
1529
1530       /* Here we exactly match the offset being checked.  If the types match,
1531          then we can return that field.  */
1532       if (cmp == 0
1533           && lang_hooks.types_compatible_p (orig_type, field_type))
1534         {
1535           if (base_is_ptr)
1536             base = build1 (INDIRECT_REF, record_type, base);
1537           t = build (COMPONENT_REF, field_type, base, f, NULL_TREE);
1538           return t;
1539         }
1540       
1541       /* Don't care about offsets into the middle of scalars.  */
1542       if (!AGGREGATE_TYPE_P (field_type))
1543         continue;
1544
1545       /* Check for array at the end of the struct.  This is often
1546          used as for flexible array members.  We should be able to
1547          turn this into an array access anyway.  */
1548       if (TREE_CODE (field_type) == ARRAY_TYPE)
1549         tail_array_field = f;
1550
1551       /* Check the end of the field against the offset.  */
1552       if (!DECL_SIZE_UNIT (f)
1553           || TREE_CODE (DECL_SIZE_UNIT (f)) != INTEGER_CST)
1554         continue;
1555       t = int_const_binop (MINUS_EXPR, offset, field_offset, 1);
1556       if (!tree_int_cst_lt (t, DECL_SIZE_UNIT (f)))
1557         continue;
1558
1559       /* If we matched, then set offset to the displacement into
1560          this field.  */
1561       offset = t;
1562       goto found;
1563     }
1564
1565   if (!tail_array_field)
1566     return NULL_TREE;
1567
1568   f = tail_array_field;
1569   field_type = TREE_TYPE (f);
1570   offset = int_const_binop (MINUS_EXPR, offset, byte_position (f), 1);
1571
1572  found:
1573   /* If we get here, we've got an aggregate field, and a possibly 
1574      nonzero offset into them.  Recurse and hope for a valid match.  */
1575   if (base_is_ptr)
1576     base = build1 (INDIRECT_REF, record_type, base);
1577   base = build (COMPONENT_REF, field_type, base, f, NULL_TREE);
1578
1579   t = maybe_fold_offset_to_array_ref (base, offset, orig_type);
1580   if (t)
1581     return t;
1582   return maybe_fold_offset_to_component_ref (field_type, base, offset,
1583                                              orig_type, false);
1584 }
1585
1586
1587 /* A subroutine of fold_stmt_r.  Attempt to simplify *(BASE+OFFSET).
1588    Return the simplified expression, or NULL if nothing could be done.  */
1589
1590 static tree
1591 maybe_fold_stmt_indirect (tree expr, tree base, tree offset)
1592 {
1593   tree t;
1594
1595   /* We may well have constructed a double-nested PLUS_EXPR via multiple
1596      substitutions.  Fold that down to one.  Remove NON_LVALUE_EXPRs that
1597      are sometimes added.  */
1598   base = fold (base);
1599   STRIP_NOPS (base);
1600   TREE_OPERAND (expr, 0) = base;
1601
1602   /* One possibility is that the address reduces to a string constant.  */
1603   t = fold_read_from_constant_string (expr);
1604   if (t)
1605     return t;
1606
1607   /* Add in any offset from a PLUS_EXPR.  */
1608   if (TREE_CODE (base) == PLUS_EXPR)
1609     {
1610       tree offset2;
1611
1612       offset2 = TREE_OPERAND (base, 1);
1613       if (TREE_CODE (offset2) != INTEGER_CST)
1614         return NULL_TREE;
1615       base = TREE_OPERAND (base, 0);
1616
1617       offset = int_const_binop (PLUS_EXPR, offset, offset2, 1);
1618     }
1619
1620   if (TREE_CODE (base) == ADDR_EXPR)
1621     {
1622       /* Strip the ADDR_EXPR.  */
1623       base = TREE_OPERAND (base, 0);
1624
1625       /* Fold away CONST_DECL to its value, if the type is scalar.  */
1626       if (TREE_CODE (base) == CONST_DECL
1627           && is_gimple_min_invariant (DECL_INITIAL (base)))
1628         return DECL_INITIAL (base);
1629
1630       /* Try folding *(&B+O) to B[X].  */
1631       t = maybe_fold_offset_to_array_ref (base, offset, TREE_TYPE (expr));
1632       if (t)
1633         return t;
1634
1635       /* Try folding *(&B+O) to B.X.  */
1636       t = maybe_fold_offset_to_component_ref (TREE_TYPE (base), base, offset,
1637                                               TREE_TYPE (expr), false);
1638       if (t)
1639         return t;
1640
1641       /* Fold *&B to B.  We can only do this if EXPR is the same type
1642          as BASE.  We can't do this if EXPR is the element type of an array
1643          and BASE is the array.  */
1644       if (integer_zerop (offset)
1645           && lang_hooks.types_compatible_p (TREE_TYPE (base),
1646                                             TREE_TYPE (expr)))
1647         return base;
1648     }
1649   else
1650     {
1651       /* We can get here for out-of-range string constant accesses, 
1652          such as "_"[3].  Bail out of the entire substitution search
1653          and arrange for the entire statement to be replaced by a
1654          call to __builtin_trap.  In all likelihood this will all be
1655          constant-folded away, but in the meantime we can't leave with
1656          something that get_expr_operands can't understand.  */
1657
1658       t = base;
1659       STRIP_NOPS (t);
1660       if (TREE_CODE (t) == ADDR_EXPR
1661           && TREE_CODE (TREE_OPERAND (t, 0)) == STRING_CST)
1662         {
1663           /* FIXME: Except that this causes problems elsewhere with dead
1664              code not being deleted, and we abort in the rtl expanders 
1665              because we failed to remove some ssa_name.  In the meantime,
1666              just return zero.  */
1667           /* FIXME2: This condition should be signaled by
1668              fold_read_from_constant_string directly, rather than 
1669              re-checking for it here.  */
1670           return integer_zero_node;
1671         }
1672
1673       /* Try folding *(B+O) to B->X.  Still an improvement.  */
1674       if (POINTER_TYPE_P (TREE_TYPE (base)))
1675         {
1676           t = maybe_fold_offset_to_component_ref (TREE_TYPE (TREE_TYPE (base)),
1677                                                   base, offset,
1678                                                   TREE_TYPE (expr), true);
1679           if (t)
1680             return t;
1681         }
1682     }
1683
1684   /* Otherwise we had an offset that we could not simplify.  */
1685   return NULL_TREE;
1686 }
1687
1688
1689 /* A subroutine of fold_stmt_r.  EXPR is a PLUS_EXPR.
1690
1691    A quaint feature extant in our address arithmetic is that there
1692    can be hidden type changes here.  The type of the result need
1693    not be the same as the type of the input pointer.
1694
1695    What we're after here is an expression of the form
1696         (T *)(&array + const)
1697    where the cast doesn't actually exist, but is implicit in the
1698    type of the PLUS_EXPR.  We'd like to turn this into
1699         &array[x]
1700    which may be able to propagate further.  */
1701
1702 static tree
1703 maybe_fold_stmt_addition (tree expr)
1704 {
1705   tree op0 = TREE_OPERAND (expr, 0);
1706   tree op1 = TREE_OPERAND (expr, 1);
1707   tree ptr_type = TREE_TYPE (expr);
1708   tree ptd_type;
1709   tree t;
1710   bool subtract = (TREE_CODE (expr) == MINUS_EXPR);
1711
1712   /* We're only interested in pointer arithmetic.  */
1713   if (!POINTER_TYPE_P (ptr_type))
1714     return NULL_TREE;
1715   /* Canonicalize the integral operand to op1.  */
1716   if (INTEGRAL_TYPE_P (TREE_TYPE (op0)))
1717     {
1718       if (subtract)
1719         return NULL_TREE;
1720       t = op0, op0 = op1, op1 = t;
1721     }
1722   /* It had better be a constant.  */
1723   if (TREE_CODE (op1) != INTEGER_CST)
1724     return NULL_TREE;
1725   /* The first operand should be an ADDR_EXPR.  */
1726   if (TREE_CODE (op0) != ADDR_EXPR)
1727     return NULL_TREE;
1728   op0 = TREE_OPERAND (op0, 0);
1729
1730   /* If the first operand is an ARRAY_REF, expand it so that we can fold
1731      the offset into it.  */
1732   while (TREE_CODE (op0) == ARRAY_REF)
1733     {
1734       tree array_obj = TREE_OPERAND (op0, 0);
1735       tree array_idx = TREE_OPERAND (op0, 1);
1736       tree elt_type = TREE_TYPE (op0);
1737       tree elt_size = TYPE_SIZE_UNIT (elt_type);
1738       tree min_idx;
1739
1740       if (TREE_CODE (array_idx) != INTEGER_CST)
1741         break;
1742       if (TREE_CODE (elt_size) != INTEGER_CST)
1743         break;
1744
1745       /* Un-bias the index by the min index of the array type.  */
1746       min_idx = TYPE_DOMAIN (TREE_TYPE (array_obj));
1747       if (min_idx)
1748         {
1749           min_idx = TYPE_MIN_VALUE (min_idx);
1750           if (min_idx)
1751             {
1752               if (TREE_CODE (min_idx) != INTEGER_CST)
1753                 break;
1754
1755               array_idx = convert (TREE_TYPE (min_idx), array_idx);
1756               if (!integer_zerop (min_idx))
1757                 array_idx = int_const_binop (MINUS_EXPR, array_idx,
1758                                              min_idx, 0);
1759             }
1760         }
1761
1762       /* Convert the index to a byte offset.  */
1763       array_idx = convert (sizetype, array_idx);
1764       array_idx = int_const_binop (MULT_EXPR, array_idx, elt_size, 0);
1765
1766       /* Update the operands for the next round, or for folding.  */
1767       /* If we're manipulating unsigned types, then folding into negative
1768          values can produce incorrect results.  Particularly if the type
1769          is smaller than the width of the pointer.  */
1770       if (subtract
1771           && TYPE_UNSIGNED (TREE_TYPE (op1))
1772           && tree_int_cst_lt (array_idx, op1))
1773         return NULL;
1774       op1 = int_const_binop (subtract ? MINUS_EXPR : PLUS_EXPR,
1775                              array_idx, op1, 0);
1776       subtract = false;
1777       op0 = array_obj;
1778     }
1779
1780   /* If we weren't able to fold the subtraction into another array reference,
1781      canonicalize the integer for passing to the array and component ref
1782      simplification functions.  */
1783   if (subtract)
1784     {
1785       if (TYPE_UNSIGNED (TREE_TYPE (op1)))
1786         return NULL;
1787       op1 = fold (build1 (NEGATE_EXPR, TREE_TYPE (op1), op1));
1788       /* ??? In theory fold should always produce another integer.  */
1789       if (TREE_CODE (op1) != INTEGER_CST)
1790         return NULL;
1791     }
1792
1793   ptd_type = TREE_TYPE (ptr_type);
1794
1795   /* At which point we can try some of the same things as for indirects.  */
1796   t = maybe_fold_offset_to_array_ref (op0, op1, ptd_type);
1797   if (!t)
1798     t = maybe_fold_offset_to_component_ref (TREE_TYPE (op0), op0, op1,
1799                                             ptd_type, false);
1800   if (t)
1801     t = build1 (ADDR_EXPR, ptr_type, t);
1802
1803   return t;
1804 }
1805
1806
1807 /* Subroutine of fold_stmt called via walk_tree.  We perform several
1808    simplifications of EXPR_P, mostly having to do with pointer arithmetic.  */
1809
1810 static tree
1811 fold_stmt_r (tree *expr_p, int *walk_subtrees, void *data)
1812 {
1813   bool *changed_p = data;
1814   tree expr = *expr_p, t;
1815
1816   /* ??? It'd be nice if walk_tree had a pre-order option.  */
1817   switch (TREE_CODE (expr))
1818     {
1819     case INDIRECT_REF:
1820       t = walk_tree (&TREE_OPERAND (expr, 0), fold_stmt_r, data, NULL);
1821       if (t)
1822         return t;
1823       *walk_subtrees = 0;
1824
1825       t = maybe_fold_stmt_indirect (expr, TREE_OPERAND (expr, 0),
1826                                     integer_zero_node);
1827       break;
1828
1829       /* ??? Could handle ARRAY_REF here, as a variant of INDIRECT_REF.
1830          We'd only want to bother decomposing an existing ARRAY_REF if
1831          the base array is found to have another offset contained within.
1832          Otherwise we'd be wasting time.  */
1833
1834     case ADDR_EXPR:
1835       t = walk_tree (&TREE_OPERAND (expr, 0), fold_stmt_r, data, NULL);
1836       if (t)
1837         return t;
1838       *walk_subtrees = 0;
1839
1840       /* Set TREE_INVARIANT properly so that the value is properly
1841          considered constant, and so gets propagated as expected.  */
1842       if (*changed_p)
1843         recompute_tree_invarant_for_addr_expr (expr);
1844       return NULL_TREE;
1845
1846     case PLUS_EXPR:
1847     case MINUS_EXPR:
1848       t = walk_tree (&TREE_OPERAND (expr, 0), fold_stmt_r, data, NULL);
1849       if (t)
1850         return t;
1851       t = walk_tree (&TREE_OPERAND (expr, 1), fold_stmt_r, data, NULL);
1852       if (t)
1853         return t;
1854       *walk_subtrees = 0;
1855
1856       t = maybe_fold_stmt_addition (expr);
1857       break;
1858
1859     case COMPONENT_REF:
1860       t = walk_tree (&TREE_OPERAND (expr, 0), fold_stmt_r, data, NULL);
1861       if (t)
1862         return t;
1863       *walk_subtrees = 0;
1864
1865       /* Make sure the FIELD_DECL is actually a field in the type on the lhs.
1866          We've already checked that the records are compatible, so we should
1867          come up with a set of compatible fields.  */
1868       {
1869         tree expr_record = TREE_TYPE (TREE_OPERAND (expr, 0));
1870         tree expr_field = TREE_OPERAND (expr, 1);
1871
1872         if (DECL_FIELD_CONTEXT (expr_field) != TYPE_MAIN_VARIANT (expr_record))
1873           {
1874             expr_field = find_compatible_field (expr_record, expr_field);
1875             TREE_OPERAND (expr, 1) = expr_field;
1876           }
1877       }
1878       break;
1879
1880     default:
1881       return NULL_TREE;
1882     }
1883
1884   if (t)
1885     {
1886       *expr_p = t;
1887       *changed_p = true;
1888     }
1889
1890   return NULL_TREE;
1891 }
1892
1893
1894 /* Return the string length of ARG in LENGTH.  If ARG is an SSA name variable,
1895    follow its use-def chains.  If LENGTH is not NULL and its value is not
1896    equal to the length we determine, or if we are unable to determine the
1897    length, return false.  VISITED is a bitmap of visited variables.  */
1898
1899 static bool
1900 get_strlen (tree arg, tree *length, bitmap visited)
1901 {
1902   tree var, def_stmt, val;
1903   
1904   if (TREE_CODE (arg) != SSA_NAME)
1905     {
1906       val = c_strlen (arg, 1);
1907       if (!val)
1908         return false;
1909
1910       if (*length && simple_cst_equal (val, *length) != 1)
1911         return false;
1912
1913       *length = val;
1914       return true;
1915     }
1916
1917   /* If we were already here, break the infinite cycle.  */
1918   if (bitmap_bit_p (visited, SSA_NAME_VERSION (arg)))
1919     return true;
1920   bitmap_set_bit (visited, SSA_NAME_VERSION (arg));
1921
1922   var = arg;
1923   def_stmt = SSA_NAME_DEF_STMT (var);
1924
1925   switch (TREE_CODE (def_stmt))
1926     {
1927       case MODIFY_EXPR:
1928         {
1929           tree len, rhs;
1930           
1931           /* The RHS of the statement defining VAR must either have a
1932              constant length or come from another SSA_NAME with a constant
1933              length.  */
1934           rhs = TREE_OPERAND (def_stmt, 1);
1935           STRIP_NOPS (rhs);
1936           if (TREE_CODE (rhs) == SSA_NAME)
1937             return get_strlen (rhs, length, visited);
1938
1939           /* See if the RHS is a constant length.  */
1940           len = c_strlen (rhs, 1);
1941           if (len)
1942             {
1943               if (*length && simple_cst_equal (len, *length) != 1)
1944                 return false;
1945
1946               *length = len;
1947               return true;
1948             }
1949
1950           break;
1951         }
1952
1953       case PHI_NODE:
1954         {
1955           /* All the arguments of the PHI node must have the same constant
1956              length.  */
1957           int i;
1958
1959           for (i = 0; i < PHI_NUM_ARGS (def_stmt); i++)
1960             {
1961               tree arg = PHI_ARG_DEF (def_stmt, i);
1962
1963               /* If this PHI has itself as an argument, we cannot
1964                  determine the string length of this argument.  However,
1965                  if we can find a constant string length for the other
1966                  PHI args then we can still be sure that this is a
1967                  constant string length.  So be optimistic and just
1968                  continue with the next argument.  */
1969               if (arg == PHI_RESULT (def_stmt))
1970                 continue;
1971
1972               if (!get_strlen (arg, length, visited))
1973                 return false;
1974             }
1975
1976           return true;
1977         }
1978
1979       default:
1980         break;
1981     }
1982
1983
1984   return false;
1985 }
1986
1987
1988 /* Fold builtin call FN in statement STMT.  If it cannot be folded into a
1989    constant, return NULL_TREE.  Otherwise, return its constant value.  */
1990
1991 static tree
1992 ccp_fold_builtin (tree stmt, tree fn)
1993 {
1994   tree result, strlen_val[2];
1995   tree callee, arglist, a;
1996   int strlen_arg, i;
1997   bitmap visited;
1998   bool ignore;
1999
2000   ignore = TREE_CODE (stmt) != MODIFY_EXPR;
2001
2002   /* First try the generic builtin folder.  If that succeeds, return the
2003      result directly.  */
2004   callee = get_callee_fndecl (fn);
2005   arglist = TREE_OPERAND (fn, 1);
2006   result = fold_builtin (callee, arglist, ignore);
2007   if (result)
2008   {
2009     if (ignore)
2010       STRIP_NOPS (result);
2011     return result;
2012   }
2013
2014   /* Ignore MD builtins.  */
2015   if (DECL_BUILT_IN_CLASS (callee) == BUILT_IN_MD)
2016     return NULL_TREE;
2017
2018   /* If the builtin could not be folded, and it has no argument list,
2019      we're done.  */
2020   if (!arglist)
2021     return NULL_TREE;
2022
2023   /* Limit the work only for builtins we know how to simplify.  */
2024   switch (DECL_FUNCTION_CODE (callee))
2025     {
2026     case BUILT_IN_STRLEN:
2027     case BUILT_IN_FPUTS:
2028     case BUILT_IN_FPUTS_UNLOCKED:
2029       strlen_arg = 1;
2030       break;
2031     case BUILT_IN_STRCPY:
2032     case BUILT_IN_STRNCPY:
2033       strlen_arg = 2;
2034       break;
2035     default:
2036       return NULL_TREE;
2037     }
2038
2039   /* Try to use the dataflow information gathered by the CCP process.  */
2040   visited = BITMAP_ALLOC (NULL);
2041
2042   memset (strlen_val, 0, sizeof (strlen_val));
2043   for (i = 0, a = arglist;
2044        strlen_arg;
2045        i++, strlen_arg >>= 1, a = TREE_CHAIN (a))
2046     if (strlen_arg & 1)
2047       {
2048         bitmap_clear (visited);
2049         if (!get_strlen (TREE_VALUE (a), &strlen_val[i], visited))
2050           strlen_val[i] = NULL_TREE;
2051       }
2052
2053   BITMAP_FREE (visited);
2054
2055   result = NULL_TREE;
2056   switch (DECL_FUNCTION_CODE (callee))
2057     {
2058     case BUILT_IN_STRLEN:
2059       if (strlen_val[0])
2060         {
2061           tree new = fold_convert (TREE_TYPE (fn), strlen_val[0]);
2062
2063           /* If the result is not a valid gimple value, or not a cast
2064              of a valid gimple value, then we can not use the result.  */
2065           if (is_gimple_val (new)
2066               || (is_gimple_cast (new)
2067                   && is_gimple_val (TREE_OPERAND (new, 0))))
2068             return new;
2069         }
2070       break;
2071
2072     case BUILT_IN_STRCPY:
2073       if (strlen_val[1] && is_gimple_val (strlen_val[1]))
2074         {
2075           tree fndecl = get_callee_fndecl (fn);
2076           tree arglist = TREE_OPERAND (fn, 1);
2077           result = fold_builtin_strcpy (fndecl, arglist, strlen_val[1]);
2078         }
2079       break;
2080
2081     case BUILT_IN_STRNCPY:
2082       if (strlen_val[1] && is_gimple_val (strlen_val[1]))
2083         {
2084           tree fndecl = get_callee_fndecl (fn);
2085           tree arglist = TREE_OPERAND (fn, 1);
2086           result = fold_builtin_strncpy (fndecl, arglist, strlen_val[1]);
2087         }
2088       break;
2089
2090     case BUILT_IN_FPUTS:
2091       result = fold_builtin_fputs (arglist,
2092                                    TREE_CODE (stmt) != MODIFY_EXPR, 0,
2093                                    strlen_val[0]);
2094       break;
2095
2096     case BUILT_IN_FPUTS_UNLOCKED:
2097       result = fold_builtin_fputs (arglist,
2098                                    TREE_CODE (stmt) != MODIFY_EXPR, 1,
2099                                    strlen_val[0]);
2100       break;
2101
2102     default:
2103       gcc_unreachable ();
2104     }
2105
2106   if (result && ignore)
2107     result = fold_ignored_result (result);
2108   return result;
2109 }
2110
2111
2112 /* Fold the statement pointed by STMT_P.  In some cases, this function may
2113    replace the whole statement with a new one.  Returns true iff folding
2114    makes any changes.  */
2115
2116 bool
2117 fold_stmt (tree *stmt_p)
2118 {
2119   tree rhs, result, stmt;
2120   bool changed = false;
2121
2122   stmt = *stmt_p;
2123
2124   /* If we replaced constants and the statement makes pointer dereferences,
2125      then we may need to fold instances of *&VAR into VAR, etc.  */
2126   if (walk_tree (stmt_p, fold_stmt_r, &changed, NULL))
2127     {
2128       *stmt_p
2129         = build_function_call_expr (implicit_built_in_decls[BUILT_IN_TRAP],
2130                                     NULL);
2131       return true;
2132     }
2133
2134   rhs = get_rhs (stmt);
2135   if (!rhs)
2136     return changed;
2137   result = NULL_TREE;
2138
2139   if (TREE_CODE (rhs) == CALL_EXPR)
2140     {
2141       tree callee;
2142
2143       /* Check for builtins that CCP can handle using information not
2144          available in the generic fold routines.  */
2145       callee = get_callee_fndecl (rhs);
2146       if (callee && DECL_BUILT_IN (callee))
2147         result = ccp_fold_builtin (stmt, rhs);
2148       else
2149         {
2150           /* Check for resolvable OBJ_TYPE_REF.  The only sorts we can resolve
2151              here are when we've propagated the address of a decl into the
2152              object slot.  */
2153           /* ??? Should perhaps do this in fold proper.  However, doing it
2154              there requires that we create a new CALL_EXPR, and that requires
2155              copying EH region info to the new node.  Easier to just do it
2156              here where we can just smash the call operand.  */
2157           callee = TREE_OPERAND (rhs, 0);
2158           if (TREE_CODE (callee) == OBJ_TYPE_REF
2159               && lang_hooks.fold_obj_type_ref
2160               && TREE_CODE (OBJ_TYPE_REF_OBJECT (callee)) == ADDR_EXPR
2161               && DECL_P (TREE_OPERAND
2162                          (OBJ_TYPE_REF_OBJECT (callee), 0)))
2163             {
2164               tree t;
2165
2166               /* ??? Caution: Broken ADDR_EXPR semantics means that
2167                  looking at the type of the operand of the addr_expr
2168                  can yield an array type.  See silly exception in
2169                  check_pointer_types_r.  */
2170
2171               t = TREE_TYPE (TREE_TYPE (OBJ_TYPE_REF_OBJECT (callee)));
2172               t = lang_hooks.fold_obj_type_ref (callee, t);
2173               if (t)
2174                 {
2175                   TREE_OPERAND (rhs, 0) = t;
2176                   changed = true;
2177                 }
2178             }
2179         }
2180     }
2181
2182   /* If we couldn't fold the RHS, hand over to the generic fold routines.  */
2183   if (result == NULL_TREE)
2184     result = fold (rhs);
2185
2186   /* Strip away useless type conversions.  Both the NON_LVALUE_EXPR that
2187      may have been added by fold, and "useless" type conversions that might
2188      now be apparent due to propagation.  */
2189   STRIP_USELESS_TYPE_CONVERSION (result);
2190
2191   if (result != rhs)
2192     changed |= set_rhs (stmt_p, result);
2193
2194   return changed;
2195 }
2196
2197 \f
2198 /* Convert EXPR into a GIMPLE value suitable for substitution on the
2199    RHS of an assignment.  Insert the necessary statements before
2200    iterator *SI_P.  */
2201
2202 static tree
2203 convert_to_gimple_builtin (block_stmt_iterator *si_p, tree expr)
2204 {
2205   tree_stmt_iterator ti;
2206   tree stmt = bsi_stmt (*si_p);
2207   tree tmp, stmts = NULL;
2208
2209   push_gimplify_context ();
2210   tmp = get_initialized_tmp_var (expr, &stmts, NULL);
2211   pop_gimplify_context (NULL);
2212
2213   /* The replacement can expose previously unreferenced variables.  */
2214   for (ti = tsi_start (stmts); !tsi_end_p (ti); tsi_next (&ti))
2215     {
2216       find_new_referenced_vars (tsi_stmt_ptr (ti));
2217       mark_new_vars_to_rename (tsi_stmt (ti));
2218     }
2219
2220   if (EXPR_HAS_LOCATION (stmt))
2221     annotate_all_with_locus (&stmts, EXPR_LOCATION (stmt));
2222
2223   bsi_insert_before (si_p, stmts, BSI_SAME_STMT);
2224
2225   return tmp;
2226 }
2227
2228
2229 /* A simple pass that attempts to fold all builtin functions.  This pass
2230    is run after we've propagated as many constants as we can.  */
2231
2232 static void
2233 execute_fold_all_builtins (void)
2234 {
2235   bool cfg_changed = false;
2236   basic_block bb;
2237   FOR_EACH_BB (bb)
2238     {
2239       block_stmt_iterator i;
2240       for (i = bsi_start (bb); !bsi_end_p (i); bsi_next (&i))
2241         {
2242           tree *stmtp = bsi_stmt_ptr (i);
2243           tree call = get_rhs (*stmtp);
2244           tree callee, result;
2245
2246           if (!call || TREE_CODE (call) != CALL_EXPR)
2247             continue;
2248           callee = get_callee_fndecl (call);
2249           if (!callee || DECL_BUILT_IN_CLASS (callee) != BUILT_IN_NORMAL)
2250             continue;
2251
2252           result = ccp_fold_builtin (*stmtp, call);
2253           if (!result)
2254             switch (DECL_FUNCTION_CODE (callee))
2255               {
2256               case BUILT_IN_CONSTANT_P:
2257                 /* Resolve __builtin_constant_p.  If it hasn't been
2258                    folded to integer_one_node by now, it's fairly
2259                    certain that the value simply isn't constant.  */
2260                 result = integer_zero_node;
2261                 break;
2262
2263               default:
2264                 continue;
2265               }
2266
2267           if (dump_file && (dump_flags & TDF_DETAILS))
2268             {
2269               fprintf (dump_file, "Simplified\n  ");
2270               print_generic_stmt (dump_file, *stmtp, dump_flags);
2271             }
2272
2273           if (!set_rhs (stmtp, result))
2274             {
2275               result = convert_to_gimple_builtin (&i, result);
2276               if (result)
2277                 {
2278                   bool ok = set_rhs (stmtp, result);
2279                   
2280                   gcc_assert (ok);
2281                 }
2282             }
2283           update_stmt (*stmtp);
2284           if (maybe_clean_eh_stmt (*stmtp)
2285               && tree_purge_dead_eh_edges (bb))
2286             cfg_changed = true;
2287
2288           if (dump_file && (dump_flags & TDF_DETAILS))
2289             {
2290               fprintf (dump_file, "to\n  ");
2291               print_generic_stmt (dump_file, *stmtp, dump_flags);
2292               fprintf (dump_file, "\n");
2293             }
2294         }
2295     }
2296
2297   /* Delete unreachable blocks.  */
2298   if (cfg_changed)
2299     cleanup_tree_cfg ();
2300 }
2301
2302
2303 struct tree_opt_pass pass_fold_builtins = 
2304 {
2305   "fab",                                /* name */
2306   NULL,                                 /* gate */
2307   execute_fold_all_builtins,            /* execute */
2308   NULL,                                 /* sub */
2309   NULL,                                 /* next */
2310   0,                                    /* static_pass_number */
2311   0,                                    /* tv_id */
2312   PROP_cfg | PROP_ssa | PROP_alias,     /* properties_required */
2313   0,                                    /* properties_provided */
2314   0,                                    /* properties_destroyed */
2315   0,                                    /* todo_flags_start */
2316   TODO_dump_func
2317     | TODO_verify_ssa
2318     | TODO_update_ssa,                  /* todo_flags_finish */
2319   0                                     /* letter */
2320 };