OSDN Git Service

2009-09-01 Sebastian Pop <sebastian.pop@amd.com>
[pf3gnuchains/gcc-fork.git] / gcc / tree-scalar-evolution.c
1 /* Scalar evolution detector.
2    Copyright (C) 2003, 2004, 2005, 2006, 2007, 2008, 2009
3    Free Software Foundation, Inc.
4    Contributed by Sebastian Pop <s.pop@laposte.net>
5
6 This file is part of GCC.
7
8 GCC is free software; you can redistribute it and/or modify it under
9 the terms of the GNU General Public License as published by the Free
10 Software Foundation; either version 3, or (at your option) any later
11 version.
12
13 GCC is distributed in the hope that it will be useful, but WITHOUT ANY
14 WARRANTY; without even the implied warranty of MERCHANTABILITY or
15 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
16 for more details.
17
18 You should have received a copy of the GNU General Public License
19 along with GCC; see the file COPYING3.  If not see
20 <http://www.gnu.org/licenses/>.  */
21
22 /* 
23    Description: 
24    
25    This pass analyzes the evolution of scalar variables in loop
26    structures.  The algorithm is based on the SSA representation,
27    and on the loop hierarchy tree.  This algorithm is not based on
28    the notion of versions of a variable, as it was the case for the
29    previous implementations of the scalar evolution algorithm, but
30    it assumes that each defined name is unique.
31
32    The notation used in this file is called "chains of recurrences",
33    and has been proposed by Eugene Zima, Robert Van Engelen, and
34    others for describing induction variables in programs.  For example
35    "b -> {0, +, 2}_1" means that the scalar variable "b" is equal to 0
36    when entering in the loop_1 and has a step 2 in this loop, in other
37    words "for (b = 0; b < N; b+=2);".  Note that the coefficients of
38    this chain of recurrence (or chrec [shrek]) can contain the name of
39    other variables, in which case they are called parametric chrecs.
40    For example, "b -> {a, +, 2}_1" means that the initial value of "b"
41    is the value of "a".  In most of the cases these parametric chrecs
42    are fully instantiated before their use because symbolic names can
43    hide some difficult cases such as self-references described later
44    (see the Fibonacci example).
45    
46    A short sketch of the algorithm is:
47      
48    Given a scalar variable to be analyzed, follow the SSA edge to
49    its definition:
50      
51    - When the definition is a GIMPLE_ASSIGN: if the right hand side
52    (RHS) of the definition cannot be statically analyzed, the answer
53    of the analyzer is: "don't know".  
54    Otherwise, for all the variables that are not yet analyzed in the
55    RHS, try to determine their evolution, and finally try to
56    evaluate the operation of the RHS that gives the evolution
57    function of the analyzed variable.
58
59    - When the definition is a condition-phi-node: determine the
60    evolution function for all the branches of the phi node, and
61    finally merge these evolutions (see chrec_merge).
62
63    - When the definition is a loop-phi-node: determine its initial
64    condition, that is the SSA edge defined in an outer loop, and
65    keep it symbolic.  Then determine the SSA edges that are defined
66    in the body of the loop.  Follow the inner edges until ending on
67    another loop-phi-node of the same analyzed loop.  If the reached
68    loop-phi-node is not the starting loop-phi-node, then we keep
69    this definition under a symbolic form.  If the reached
70    loop-phi-node is the same as the starting one, then we compute a
71    symbolic stride on the return path.  The result is then the
72    symbolic chrec {initial_condition, +, symbolic_stride}_loop.
73
74    Examples:
75    
76    Example 1: Illustration of the basic algorithm.
77    
78    | a = 3
79    | loop_1
80    |   b = phi (a, c)
81    |   c = b + 1
82    |   if (c > 10) exit_loop
83    | endloop
84    
85    Suppose that we want to know the number of iterations of the
86    loop_1.  The exit_loop is controlled by a COND_EXPR (c > 10).  We
87    ask the scalar evolution analyzer two questions: what's the
88    scalar evolution (scev) of "c", and what's the scev of "10".  For
89    "10" the answer is "10" since it is a scalar constant.  For the
90    scalar variable "c", it follows the SSA edge to its definition,
91    "c = b + 1", and then asks again what's the scev of "b".
92    Following the SSA edge, we end on a loop-phi-node "b = phi (a,
93    c)", where the initial condition is "a", and the inner loop edge
94    is "c".  The initial condition is kept under a symbolic form (it
95    may be the case that the copy constant propagation has done its
96    work and we end with the constant "3" as one of the edges of the
97    loop-phi-node).  The update edge is followed to the end of the
98    loop, and until reaching again the starting loop-phi-node: b -> c
99    -> b.  At this point we have drawn a path from "b" to "b" from
100    which we compute the stride in the loop: in this example it is
101    "+1".  The resulting scev for "b" is "b -> {a, +, 1}_1".  Now
102    that the scev for "b" is known, it is possible to compute the
103    scev for "c", that is "c -> {a + 1, +, 1}_1".  In order to
104    determine the number of iterations in the loop_1, we have to
105    instantiate_parameters (loop_1, {a + 1, +, 1}_1), that gives after some
106    more analysis the scev {4, +, 1}_1, or in other words, this is
107    the function "f (x) = x + 4", where x is the iteration count of
108    the loop_1.  Now we have to solve the inequality "x + 4 > 10",
109    and take the smallest iteration number for which the loop is
110    exited: x = 7.  This loop runs from x = 0 to x = 7, and in total
111    there are 8 iterations.  In terms of loop normalization, we have
112    created a variable that is implicitly defined, "x" or just "_1",
113    and all the other analyzed scalars of the loop are defined in
114    function of this variable:
115    
116    a -> 3
117    b -> {3, +, 1}_1
118    c -> {4, +, 1}_1
119      
120    or in terms of a C program: 
121      
122    | a = 3
123    | for (x = 0; x <= 7; x++)
124    |   {
125    |     b = x + 3
126    |     c = x + 4
127    |   }
128      
129    Example 2a: Illustration of the algorithm on nested loops.
130      
131    | loop_1
132    |   a = phi (1, b)
133    |   c = a + 2
134    |   loop_2  10 times
135    |     b = phi (c, d)
136    |     d = b + 3
137    |   endloop
138    | endloop
139      
140    For analyzing the scalar evolution of "a", the algorithm follows
141    the SSA edge into the loop's body: "a -> b".  "b" is an inner
142    loop-phi-node, and its analysis as in Example 1, gives: 
143      
144    b -> {c, +, 3}_2
145    d -> {c + 3, +, 3}_2
146      
147    Following the SSA edge for the initial condition, we end on "c = a
148    + 2", and then on the starting loop-phi-node "a".  From this point,
149    the loop stride is computed: back on "c = a + 2" we get a "+2" in
150    the loop_1, then on the loop-phi-node "b" we compute the overall
151    effect of the inner loop that is "b = c + 30", and we get a "+30"
152    in the loop_1.  That means that the overall stride in loop_1 is
153    equal to "+32", and the result is: 
154      
155    a -> {1, +, 32}_1
156    c -> {3, +, 32}_1
157
158    Example 2b: Multivariate chains of recurrences.
159
160    | loop_1
161    |   k = phi (0, k + 1)
162    |   loop_2  4 times
163    |     j = phi (0, j + 1)
164    |     loop_3 4 times
165    |       i = phi (0, i + 1)
166    |       A[j + k] = ...
167    |     endloop
168    |   endloop
169    | endloop
170
171    Analyzing the access function of array A with
172    instantiate_parameters (loop_1, "j + k"), we obtain the
173    instantiation and the analysis of the scalar variables "j" and "k"
174    in loop_1.  This leads to the scalar evolution {4, +, 1}_1: the end
175    value of loop_2 for "j" is 4, and the evolution of "k" in loop_1 is
176    {0, +, 1}_1.  To obtain the evolution function in loop_3 and
177    instantiate the scalar variables up to loop_1, one has to use:
178    instantiate_scev (block_before_loop (loop_1), loop_3, "j + k").
179    The result of this call is {{0, +, 1}_1, +, 1}_2.
180
181    Example 3: Higher degree polynomials.
182      
183    | loop_1
184    |   a = phi (2, b)
185    |   c = phi (5, d)
186    |   b = a + 1
187    |   d = c + a
188    | endloop
189      
190    a -> {2, +, 1}_1
191    b -> {3, +, 1}_1
192    c -> {5, +, a}_1
193    d -> {5 + a, +, a}_1
194      
195    instantiate_parameters (loop_1, {5, +, a}_1) -> {5, +, 2, +, 1}_1
196    instantiate_parameters (loop_1, {5 + a, +, a}_1) -> {7, +, 3, +, 1}_1
197      
198    Example 4: Lucas, Fibonacci, or mixers in general.
199      
200    | loop_1
201    |   a = phi (1, b)
202    |   c = phi (3, d)
203    |   b = c
204    |   d = c + a
205    | endloop
206      
207    a -> (1, c)_1
208    c -> {3, +, a}_1
209      
210    The syntax "(1, c)_1" stands for a PEELED_CHREC that has the
211    following semantics: during the first iteration of the loop_1, the
212    variable contains the value 1, and then it contains the value "c".
213    Note that this syntax is close to the syntax of the loop-phi-node:
214    "a -> (1, c)_1" vs. "a = phi (1, c)".
215      
216    The symbolic chrec representation contains all the semantics of the
217    original code.  What is more difficult is to use this information.
218      
219    Example 5: Flip-flops, or exchangers.
220      
221    | loop_1
222    |   a = phi (1, b)
223    |   c = phi (3, d)
224    |   b = c
225    |   d = a
226    | endloop
227      
228    a -> (1, c)_1
229    c -> (3, a)_1
230      
231    Based on these symbolic chrecs, it is possible to refine this
232    information into the more precise PERIODIC_CHRECs: 
233      
234    a -> |1, 3|_1
235    c -> |3, 1|_1
236      
237    This transformation is not yet implemented.
238      
239    Further readings:
240    
241    You can find a more detailed description of the algorithm in:
242    http://icps.u-strasbg.fr/~pop/DEA_03_Pop.pdf
243    http://icps.u-strasbg.fr/~pop/DEA_03_Pop.ps.gz.  But note that
244    this is a preliminary report and some of the details of the
245    algorithm have changed.  I'm working on a research report that
246    updates the description of the algorithms to reflect the design
247    choices used in this implementation.
248      
249    A set of slides show a high level overview of the algorithm and run
250    an example through the scalar evolution analyzer:
251    http://cri.ensmp.fr/~pop/gcc/mar04/slides.pdf
252
253    The slides that I have presented at the GCC Summit'04 are available
254    at: http://cri.ensmp.fr/~pop/gcc/20040604/gccsummit-lno-spop.pdf
255 */
256
257 #include "config.h"
258 #include "system.h"
259 #include "coretypes.h"
260 #include "tm.h"
261 #include "ggc.h"
262 #include "tree.h"
263 #include "real.h"
264
265 /* These RTL headers are needed for basic-block.h.  */
266 #include "rtl.h"
267 #include "basic-block.h"
268 #include "diagnostic.h"
269 #include "tree-flow.h"
270 #include "tree-dump.h"
271 #include "timevar.h"
272 #include "cfgloop.h"
273 #include "tree-chrec.h"
274 #include "tree-scalar-evolution.h"
275 #include "tree-pass.h"
276 #include "flags.h"
277 #include "params.h"
278
279 static tree analyze_scalar_evolution_1 (struct loop *, tree, tree);
280
281 /* The cached information about an SSA name VAR, claiming that below
282    basic block INSTANTIATED_BELOW, the value of VAR can be expressed
283    as CHREC.  */
284
285 struct GTY(()) scev_info_str {
286   basic_block instantiated_below;
287   tree var;
288   tree chrec;
289 };
290
291 /* Counters for the scev database.  */
292 static unsigned nb_set_scev = 0;
293 static unsigned nb_get_scev = 0;
294
295 /* The following trees are unique elements.  Thus the comparison of
296    another element to these elements should be done on the pointer to
297    these trees, and not on their value.  */
298
299 /* The SSA_NAMEs that are not yet analyzed are qualified with NULL_TREE.  */
300 tree chrec_not_analyzed_yet;
301
302 /* Reserved to the cases where the analyzer has detected an
303    undecidable property at compile time.  */
304 tree chrec_dont_know;
305
306 /* When the analyzer has detected that a property will never
307    happen, then it qualifies it with chrec_known.  */
308 tree chrec_known;
309
310 static GTY ((param_is (struct scev_info_str))) htab_t scalar_evolution_info;
311
312 \f
313 /* Constructs a new SCEV_INFO_STR structure for VAR and INSTANTIATED_BELOW.  */
314
315 static inline struct scev_info_str *
316 new_scev_info_str (basic_block instantiated_below, tree var)
317 {
318   struct scev_info_str *res;
319   
320   res = GGC_NEW (struct scev_info_str);
321   res->var = var;
322   res->chrec = chrec_not_analyzed_yet;
323   res->instantiated_below = instantiated_below;
324
325   return res;
326 }
327
328 /* Computes a hash function for database element ELT.  */
329
330 static hashval_t
331 hash_scev_info (const void *elt)
332 {
333   return SSA_NAME_VERSION (((const struct scev_info_str *) elt)->var);
334 }
335
336 /* Compares database elements E1 and E2.  */
337
338 static int
339 eq_scev_info (const void *e1, const void *e2)
340 {
341   const struct scev_info_str *elt1 = (const struct scev_info_str *) e1;
342   const struct scev_info_str *elt2 = (const struct scev_info_str *) e2;
343
344   return (elt1->var == elt2->var
345           && elt1->instantiated_below == elt2->instantiated_below);
346 }
347
348 /* Deletes database element E.  */
349
350 static void
351 del_scev_info (void *e)
352 {
353   ggc_free (e);
354 }
355
356 /* Get the scalar evolution of VAR for INSTANTIATED_BELOW basic block.
357    A first query on VAR returns chrec_not_analyzed_yet.  */
358
359 static tree *
360 find_var_scev_info (basic_block instantiated_below, tree var)
361 {
362   struct scev_info_str *res;
363   struct scev_info_str tmp;
364   PTR *slot;
365
366   tmp.var = var;
367   tmp.instantiated_below = instantiated_below;
368   slot = htab_find_slot (scalar_evolution_info, &tmp, INSERT);
369
370   if (!*slot)
371     *slot = new_scev_info_str (instantiated_below, var);
372   res = (struct scev_info_str *) *slot;
373
374   return &res->chrec;
375 }
376
377 /* Return true when CHREC contains symbolic names defined in
378    LOOP_NB.  */
379
380 bool 
381 chrec_contains_symbols_defined_in_loop (const_tree chrec, unsigned loop_nb)
382 {
383   int i, n;
384
385   if (chrec == NULL_TREE)
386     return false;
387
388   if (is_gimple_min_invariant (chrec))
389     return false;
390
391   if (TREE_CODE (chrec) == VAR_DECL
392       || TREE_CODE (chrec) == PARM_DECL
393       || TREE_CODE (chrec) == FUNCTION_DECL
394       || TREE_CODE (chrec) == LABEL_DECL
395       || TREE_CODE (chrec) == RESULT_DECL
396       || TREE_CODE (chrec) == FIELD_DECL)
397     return true;
398
399   if (TREE_CODE (chrec) == SSA_NAME)
400     {
401       gimple def = SSA_NAME_DEF_STMT (chrec);
402       struct loop *def_loop = loop_containing_stmt (def);
403       struct loop *loop = get_loop (loop_nb);
404
405       if (def_loop == NULL)
406         return false;
407
408       if (loop == def_loop || flow_loop_nested_p (loop, def_loop))
409         return true;
410
411       return false;
412     }
413
414   n = TREE_OPERAND_LENGTH (chrec);
415   for (i = 0; i < n; i++)
416     if (chrec_contains_symbols_defined_in_loop (TREE_OPERAND (chrec, i), 
417                                                 loop_nb))
418       return true;
419   return false;
420 }
421
422 /* Return true when PHI is a loop-phi-node.  */
423
424 static bool
425 loop_phi_node_p (gimple phi)
426 {
427   /* The implementation of this function is based on the following
428      property: "all the loop-phi-nodes of a loop are contained in the
429      loop's header basic block".  */
430
431   return loop_containing_stmt (phi)->header == gimple_bb (phi);
432 }
433
434 /* Compute the scalar evolution for EVOLUTION_FN after crossing LOOP.
435    In general, in the case of multivariate evolutions we want to get
436    the evolution in different loops.  LOOP specifies the level for
437    which to get the evolution.
438    
439    Example:
440    
441    | for (j = 0; j < 100; j++)
442    |   {
443    |     for (k = 0; k < 100; k++)
444    |       {
445    |         i = k + j;   - Here the value of i is a function of j, k. 
446    |       }
447    |      ... = i         - Here the value of i is a function of j. 
448    |   }
449    | ... = i              - Here the value of i is a scalar.  
450    
451    Example:  
452    
453    | i_0 = ...
454    | loop_1 10 times
455    |   i_1 = phi (i_0, i_2)
456    |   i_2 = i_1 + 2
457    | endloop
458     
459    This loop has the same effect as:
460    LOOP_1 has the same effect as:
461     
462    | i_1 = i_0 + 20
463    
464    The overall effect of the loop, "i_0 + 20" in the previous example, 
465    is obtained by passing in the parameters: LOOP = 1, 
466    EVOLUTION_FN = {i_0, +, 2}_1.
467 */
468  
469 tree
470 compute_overall_effect_of_inner_loop (struct loop *loop, tree evolution_fn)
471 {
472   bool val = false;
473
474   if (evolution_fn == chrec_dont_know)
475     return chrec_dont_know;
476
477   else if (TREE_CODE (evolution_fn) == POLYNOMIAL_CHREC)
478     {
479       struct loop *inner_loop = get_chrec_loop (evolution_fn);
480
481       if (inner_loop == loop
482           || flow_loop_nested_p (loop, inner_loop))
483         {
484           tree nb_iter = number_of_latch_executions (inner_loop);
485
486           if (nb_iter == chrec_dont_know)
487             return chrec_dont_know;
488           else
489             {
490               tree res;
491
492               /* evolution_fn is the evolution function in LOOP.  Get
493                  its value in the nb_iter-th iteration.  */
494               res = chrec_apply (inner_loop->num, evolution_fn, nb_iter);
495
496               if (chrec_contains_symbols_defined_in_loop (res, loop->num))
497                 res = instantiate_parameters (loop, res);
498
499               /* Continue the computation until ending on a parent of LOOP.  */
500               return compute_overall_effect_of_inner_loop (loop, res);
501             }
502         }
503       else
504         return evolution_fn;
505      }
506   
507   /* If the evolution function is an invariant, there is nothing to do.  */
508   else if (no_evolution_in_loop_p (evolution_fn, loop->num, &val) && val)
509     return evolution_fn;
510   
511   else
512     return chrec_dont_know;
513 }
514
515 /* Determine whether the CHREC is always positive/negative.  If the expression
516    cannot be statically analyzed, return false, otherwise set the answer into
517    VALUE.  */
518
519 bool
520 chrec_is_positive (tree chrec, bool *value)
521 {
522   bool value0, value1, value2;
523   tree end_value, nb_iter;
524   
525   switch (TREE_CODE (chrec))
526     {
527     case POLYNOMIAL_CHREC:
528       if (!chrec_is_positive (CHREC_LEFT (chrec), &value0)
529           || !chrec_is_positive (CHREC_RIGHT (chrec), &value1))
530         return false;
531      
532       /* FIXME -- overflows.  */
533       if (value0 == value1)
534         {
535           *value = value0;
536           return true;
537         }
538
539       /* Otherwise the chrec is under the form: "{-197, +, 2}_1",
540          and the proof consists in showing that the sign never
541          changes during the execution of the loop, from 0 to
542          loop->nb_iterations.  */
543       if (!evolution_function_is_affine_p (chrec))
544         return false;
545
546       nb_iter = number_of_latch_executions (get_chrec_loop (chrec));
547       if (chrec_contains_undetermined (nb_iter))
548         return false;
549
550 #if 0
551       /* TODO -- If the test is after the exit, we may decrease the number of
552          iterations by one.  */
553       if (after_exit)
554         nb_iter = chrec_fold_minus (type, nb_iter, build_int_cst (type, 1));
555 #endif
556
557       end_value = chrec_apply (CHREC_VARIABLE (chrec), chrec, nb_iter);
558               
559       if (!chrec_is_positive (end_value, &value2))
560         return false;
561         
562       *value = value0;
563       return value0 == value1;
564       
565     case INTEGER_CST:
566       *value = (tree_int_cst_sgn (chrec) == 1);
567       return true;
568       
569     default:
570       return false;
571     }
572 }
573
574 /* Associate CHREC to SCALAR.  */
575
576 static void
577 set_scalar_evolution (basic_block instantiated_below, tree scalar, tree chrec)
578 {
579   tree *scalar_info;
580  
581   if (TREE_CODE (scalar) != SSA_NAME)
582     return;
583
584   scalar_info = find_var_scev_info (instantiated_below, scalar);
585   
586   if (dump_file)
587     {
588       if (dump_flags & TDF_DETAILS)
589         {
590           fprintf (dump_file, "(set_scalar_evolution \n");
591           fprintf (dump_file, "  instantiated_below = %d \n",
592                    instantiated_below->index);
593           fprintf (dump_file, "  (scalar = ");
594           print_generic_expr (dump_file, scalar, 0);
595           fprintf (dump_file, ")\n  (scalar_evolution = ");
596           print_generic_expr (dump_file, chrec, 0);
597           fprintf (dump_file, "))\n");
598         }
599       if (dump_flags & TDF_STATS)
600         nb_set_scev++;
601     }
602   
603   *scalar_info = chrec;
604 }
605
606 /* Retrieve the chrec associated to SCALAR instantiated below
607    INSTANTIATED_BELOW block.  */
608
609 static tree
610 get_scalar_evolution (basic_block instantiated_below, tree scalar)
611 {
612   tree res;
613   
614   if (dump_file)
615     {
616       if (dump_flags & TDF_DETAILS)
617         {
618           fprintf (dump_file, "(get_scalar_evolution \n");
619           fprintf (dump_file, "  (scalar = ");
620           print_generic_expr (dump_file, scalar, 0);
621           fprintf (dump_file, ")\n");
622         }
623       if (dump_flags & TDF_STATS)
624         nb_get_scev++;
625     }
626   
627   switch (TREE_CODE (scalar))
628     {
629     case SSA_NAME:
630       res = *find_var_scev_info (instantiated_below, scalar);
631       break;
632
633     case REAL_CST:
634     case FIXED_CST:
635     case INTEGER_CST:
636       res = scalar;
637       break;
638
639     default:
640       res = chrec_not_analyzed_yet;
641       break;
642     }
643   
644   if (dump_file && (dump_flags & TDF_DETAILS))
645     {
646       fprintf (dump_file, "  (scalar_evolution = ");
647       print_generic_expr (dump_file, res, 0);
648       fprintf (dump_file, "))\n");
649     }
650   
651   return res;
652 }
653
654 /* Helper function for add_to_evolution.  Returns the evolution
655    function for an assignment of the form "a = b + c", where "a" and
656    "b" are on the strongly connected component.  CHREC_BEFORE is the
657    information that we already have collected up to this point.
658    TO_ADD is the evolution of "c".  
659    
660    When CHREC_BEFORE has an evolution part in LOOP_NB, add to this
661    evolution the expression TO_ADD, otherwise construct an evolution
662    part for this loop.  */
663
664 static tree
665 add_to_evolution_1 (unsigned loop_nb, tree chrec_before, tree to_add,
666                     gimple at_stmt)
667 {
668   tree type, left, right;
669   struct loop *loop = get_loop (loop_nb), *chloop;
670
671   switch (TREE_CODE (chrec_before))
672     {
673     case POLYNOMIAL_CHREC:
674       chloop = get_chrec_loop (chrec_before);
675       if (chloop == loop
676           || flow_loop_nested_p (chloop, loop))
677         {
678           unsigned var;
679
680           type = chrec_type (chrec_before);
681           
682           /* When there is no evolution part in this loop, build it.  */
683           if (chloop != loop)
684             {
685               var = loop_nb;
686               left = chrec_before;
687               right = SCALAR_FLOAT_TYPE_P (type)
688                 ? build_real (type, dconst0)
689                 : build_int_cst (type, 0);
690             }
691           else
692             {
693               var = CHREC_VARIABLE (chrec_before);
694               left = CHREC_LEFT (chrec_before);
695               right = CHREC_RIGHT (chrec_before);
696             }
697
698           to_add = chrec_convert (type, to_add, at_stmt);
699           right = chrec_convert_rhs (type, right, at_stmt);
700           right = chrec_fold_plus (chrec_type (right), right, to_add);
701           return build_polynomial_chrec (var, left, right);
702         }
703       else
704         {
705           gcc_assert (flow_loop_nested_p (loop, chloop));
706
707           /* Search the evolution in LOOP_NB.  */
708           left = add_to_evolution_1 (loop_nb, CHREC_LEFT (chrec_before),
709                                      to_add, at_stmt);
710           right = CHREC_RIGHT (chrec_before);
711           right = chrec_convert_rhs (chrec_type (left), right, at_stmt);
712           return build_polynomial_chrec (CHREC_VARIABLE (chrec_before),
713                                          left, right);
714         }
715       
716     default:
717       /* These nodes do not depend on a loop.  */
718       if (chrec_before == chrec_dont_know)
719         return chrec_dont_know;
720
721       left = chrec_before;
722       right = chrec_convert_rhs (chrec_type (left), to_add, at_stmt);
723       return build_polynomial_chrec (loop_nb, left, right);
724     }
725 }
726
727 /* Add TO_ADD to the evolution part of CHREC_BEFORE in the dimension
728    of LOOP_NB.  
729    
730    Description (provided for completeness, for those who read code in
731    a plane, and for my poor 62 bytes brain that would have forgotten
732    all this in the next two or three months):
733    
734    The algorithm of translation of programs from the SSA representation
735    into the chrecs syntax is based on a pattern matching.  After having
736    reconstructed the overall tree expression for a loop, there are only
737    two cases that can arise:
738    
739    1. a = loop-phi (init, a + expr)
740    2. a = loop-phi (init, expr)
741    
742    where EXPR is either a scalar constant with respect to the analyzed
743    loop (this is a degree 0 polynomial), or an expression containing
744    other loop-phi definitions (these are higher degree polynomials).
745    
746    Examples:
747    
748    1. 
749    | init = ...
750    | loop_1
751    |   a = phi (init, a + 5)
752    | endloop
753    
754    2. 
755    | inita = ...
756    | initb = ...
757    | loop_1
758    |   a = phi (inita, 2 * b + 3)
759    |   b = phi (initb, b + 1)
760    | endloop
761    
762    For the first case, the semantics of the SSA representation is: 
763    
764    | a (x) = init + \sum_{j = 0}^{x - 1} expr (j)
765    
766    that is, there is a loop index "x" that determines the scalar value
767    of the variable during the loop execution.  During the first
768    iteration, the value is that of the initial condition INIT, while
769    during the subsequent iterations, it is the sum of the initial
770    condition with the sum of all the values of EXPR from the initial
771    iteration to the before last considered iteration.  
772    
773    For the second case, the semantics of the SSA program is:
774    
775    | a (x) = init, if x = 0;
776    |         expr (x - 1), otherwise.
777    
778    The second case corresponds to the PEELED_CHREC, whose syntax is
779    close to the syntax of a loop-phi-node: 
780    
781    | phi (init, expr)  vs.  (init, expr)_x
782    
783    The proof of the translation algorithm for the first case is a
784    proof by structural induction based on the degree of EXPR.  
785    
786    Degree 0:
787    When EXPR is a constant with respect to the analyzed loop, or in
788    other words when EXPR is a polynomial of degree 0, the evolution of
789    the variable A in the loop is an affine function with an initial
790    condition INIT, and a step EXPR.  In order to show this, we start
791    from the semantics of the SSA representation:
792    
793    f (x) = init + \sum_{j = 0}^{x - 1} expr (j)
794    
795    and since "expr (j)" is a constant with respect to "j",
796    
797    f (x) = init + x * expr 
798    
799    Finally, based on the semantics of the pure sum chrecs, by
800    identification we get the corresponding chrecs syntax:
801    
802    f (x) = init * \binom{x}{0} + expr * \binom{x}{1} 
803    f (x) -> {init, +, expr}_x
804    
805    Higher degree:
806    Suppose that EXPR is a polynomial of degree N with respect to the
807    analyzed loop_x for which we have already determined that it is
808    written under the chrecs syntax:
809    
810    | expr (x)  ->  {b_0, +, b_1, +, ..., +, b_{n-1}} (x)
811    
812    We start from the semantics of the SSA program:
813    
814    | f (x) = init + \sum_{j = 0}^{x - 1} expr (j)
815    |
816    | f (x) = init + \sum_{j = 0}^{x - 1} 
817    |                (b_0 * \binom{j}{0} + ... + b_{n-1} * \binom{j}{n-1})
818    |
819    | f (x) = init + \sum_{j = 0}^{x - 1} 
820    |                \sum_{k = 0}^{n - 1} (b_k * \binom{j}{k}) 
821    |
822    | f (x) = init + \sum_{k = 0}^{n - 1} 
823    |                (b_k * \sum_{j = 0}^{x - 1} \binom{j}{k}) 
824    |
825    | f (x) = init + \sum_{k = 0}^{n - 1} 
826    |                (b_k * \binom{x}{k + 1}) 
827    |
828    | f (x) = init + b_0 * \binom{x}{1} + ... 
829    |              + b_{n-1} * \binom{x}{n} 
830    |
831    | f (x) = init * \binom{x}{0} + b_0 * \binom{x}{1} + ... 
832    |                             + b_{n-1} * \binom{x}{n} 
833    |
834    
835    And finally from the definition of the chrecs syntax, we identify:
836    | f (x)  ->  {init, +, b_0, +, ..., +, b_{n-1}}_x 
837    
838    This shows the mechanism that stands behind the add_to_evolution
839    function.  An important point is that the use of symbolic
840    parameters avoids the need of an analysis schedule.
841    
842    Example:
843    
844    | inita = ...
845    | initb = ...
846    | loop_1 
847    |   a = phi (inita, a + 2 + b)
848    |   b = phi (initb, b + 1)
849    | endloop
850    
851    When analyzing "a", the algorithm keeps "b" symbolically:
852    
853    | a  ->  {inita, +, 2 + b}_1
854    
855    Then, after instantiation, the analyzer ends on the evolution:
856    
857    | a  ->  {inita, +, 2 + initb, +, 1}_1
858
859 */
860
861 static tree 
862 add_to_evolution (unsigned loop_nb, tree chrec_before, enum tree_code code,
863                   tree to_add, gimple at_stmt)
864 {
865   tree type = chrec_type (to_add);
866   tree res = NULL_TREE;
867   
868   if (to_add == NULL_TREE)
869     return chrec_before;
870   
871   /* TO_ADD is either a scalar, or a parameter.  TO_ADD is not
872      instantiated at this point.  */
873   if (TREE_CODE (to_add) == POLYNOMIAL_CHREC)
874     /* This should not happen.  */
875     return chrec_dont_know;
876   
877   if (dump_file && (dump_flags & TDF_DETAILS))
878     {
879       fprintf (dump_file, "(add_to_evolution \n");
880       fprintf (dump_file, "  (loop_nb = %d)\n", loop_nb);
881       fprintf (dump_file, "  (chrec_before = ");
882       print_generic_expr (dump_file, chrec_before, 0);
883       fprintf (dump_file, ")\n  (to_add = ");
884       print_generic_expr (dump_file, to_add, 0);
885       fprintf (dump_file, ")\n");
886     }
887
888   if (code == MINUS_EXPR)
889     to_add = chrec_fold_multiply (type, to_add, SCALAR_FLOAT_TYPE_P (type)
890                                   ? build_real (type, dconstm1)
891                                   : build_int_cst_type (type, -1));
892
893   res = add_to_evolution_1 (loop_nb, chrec_before, to_add, at_stmt);
894
895   if (dump_file && (dump_flags & TDF_DETAILS))
896     {
897       fprintf (dump_file, "  (res = ");
898       print_generic_expr (dump_file, res, 0);
899       fprintf (dump_file, "))\n");
900     }
901
902   return res;
903 }
904
905 /* Helper function.  */
906
907 static inline tree
908 set_nb_iterations_in_loop (struct loop *loop, 
909                            tree res)
910 {
911   if (dump_file && (dump_flags & TDF_DETAILS))
912     {
913       fprintf (dump_file, "  (set_nb_iterations_in_loop = ");
914       print_generic_expr (dump_file, res, 0);
915       fprintf (dump_file, "))\n");
916     }
917   
918   loop->nb_iterations = res;
919   return res;
920 }
921
922 \f
923
924 /* This section selects the loops that will be good candidates for the
925    scalar evolution analysis.  For the moment, greedily select all the
926    loop nests we could analyze.  */
927
928 /* For a loop with a single exit edge, return the COND_EXPR that
929    guards the exit edge.  If the expression is too difficult to
930    analyze, then give up.  */
931
932 gimple 
933 get_loop_exit_condition (const struct loop *loop)
934 {
935   gimple res = NULL;
936   edge exit_edge = single_exit (loop);
937   
938   if (dump_file && (dump_flags & TDF_DETAILS))
939     fprintf (dump_file, "(get_loop_exit_condition \n  ");
940   
941   if (exit_edge)
942     {
943       gimple stmt;
944       
945       stmt = last_stmt (exit_edge->src);
946       if (gimple_code (stmt) == GIMPLE_COND)
947         res = stmt;
948     }
949   
950   if (dump_file && (dump_flags & TDF_DETAILS))
951     {
952       print_gimple_stmt (dump_file, res, 0, 0);
953       fprintf (dump_file, ")\n");
954     }
955   
956   return res;
957 }
958
959 /* Recursively determine and enqueue the exit conditions for a loop.  */
960
961 static void 
962 get_exit_conditions_rec (struct loop *loop, 
963                          VEC(gimple,heap) **exit_conditions)
964 {
965   if (!loop)
966     return;
967   
968   /* Recurse on the inner loops, then on the next (sibling) loops.  */
969   get_exit_conditions_rec (loop->inner, exit_conditions);
970   get_exit_conditions_rec (loop->next, exit_conditions);
971   
972   if (single_exit (loop))
973     {
974       gimple loop_condition = get_loop_exit_condition (loop);
975       
976       if (loop_condition)
977         VEC_safe_push (gimple, heap, *exit_conditions, loop_condition);
978     }
979 }
980
981 /* Select the candidate loop nests for the analysis.  This function
982    initializes the EXIT_CONDITIONS array.  */
983
984 static void
985 select_loops_exit_conditions (VEC(gimple,heap) **exit_conditions)
986 {
987   struct loop *function_body = current_loops->tree_root;
988   
989   get_exit_conditions_rec (function_body->inner, exit_conditions);
990 }
991
992 \f
993 /* Depth first search algorithm.  */
994
995 typedef enum t_bool {
996   t_false,
997   t_true,
998   t_dont_know
999 } t_bool;
1000
1001
1002 static t_bool follow_ssa_edge (struct loop *loop, gimple, gimple, tree *, int);
1003
1004 /* Follow the ssa edge into the binary expression RHS0 CODE RHS1.
1005    Return true if the strongly connected component has been found.  */
1006
1007 static t_bool
1008 follow_ssa_edge_binary (struct loop *loop, gimple at_stmt,
1009                         tree type, tree rhs0, enum tree_code code, tree rhs1,
1010                         gimple halting_phi, tree *evolution_of_loop, int limit)
1011 {
1012   t_bool res = t_false;
1013   tree evol;
1014
1015   switch (code)
1016     {
1017     case POINTER_PLUS_EXPR:
1018     case PLUS_EXPR:
1019       if (TREE_CODE (rhs0) == SSA_NAME)
1020         {
1021           if (TREE_CODE (rhs1) == SSA_NAME)
1022             {
1023               /* Match an assignment under the form: 
1024                  "a = b + c".  */
1025       
1026               /* We want only assignments of form "name + name" contribute to
1027                  LIMIT, as the other cases do not necessarily contribute to
1028                  the complexity of the expression.  */
1029               limit++;
1030
1031               evol = *evolution_of_loop;
1032               res = follow_ssa_edge 
1033                 (loop, SSA_NAME_DEF_STMT (rhs0), halting_phi, &evol, limit);
1034               
1035               if (res == t_true)
1036                 *evolution_of_loop = add_to_evolution 
1037                   (loop->num, 
1038                    chrec_convert (type, evol, at_stmt), 
1039                    code, rhs1, at_stmt);
1040               
1041               else if (res == t_false)
1042                 {
1043                   res = follow_ssa_edge 
1044                     (loop, SSA_NAME_DEF_STMT (rhs1), halting_phi, 
1045                      evolution_of_loop, limit);
1046                   
1047                   if (res == t_true)
1048                     *evolution_of_loop = add_to_evolution 
1049                       (loop->num, 
1050                        chrec_convert (type, *evolution_of_loop, at_stmt), 
1051                        code, rhs0, at_stmt);
1052
1053                   else if (res == t_dont_know)
1054                     *evolution_of_loop = chrec_dont_know;
1055                 }
1056
1057               else if (res == t_dont_know)
1058                 *evolution_of_loop = chrec_dont_know;
1059             }
1060           
1061           else
1062             {
1063               /* Match an assignment under the form: 
1064                  "a = b + ...".  */
1065               res = follow_ssa_edge 
1066                 (loop, SSA_NAME_DEF_STMT (rhs0), halting_phi, 
1067                  evolution_of_loop, limit);
1068               if (res == t_true)
1069                 *evolution_of_loop = add_to_evolution 
1070                   (loop->num, chrec_convert (type, *evolution_of_loop,
1071                                              at_stmt),
1072                    code, rhs1, at_stmt);
1073
1074               else if (res == t_dont_know)
1075                 *evolution_of_loop = chrec_dont_know;
1076             }
1077         }
1078       
1079       else if (TREE_CODE (rhs1) == SSA_NAME)
1080         {
1081           /* Match an assignment under the form: 
1082              "a = ... + c".  */
1083           res = follow_ssa_edge 
1084             (loop, SSA_NAME_DEF_STMT (rhs1), halting_phi, 
1085              evolution_of_loop, limit);
1086           if (res == t_true)
1087             *evolution_of_loop = add_to_evolution 
1088               (loop->num, chrec_convert (type, *evolution_of_loop,
1089                                          at_stmt),
1090                code, rhs0, at_stmt);
1091
1092           else if (res == t_dont_know)
1093             *evolution_of_loop = chrec_dont_know;
1094         }
1095
1096       else
1097         /* Otherwise, match an assignment under the form: 
1098            "a = ... + ...".  */
1099         /* And there is nothing to do.  */
1100         res = t_false;
1101       break;
1102       
1103     case MINUS_EXPR:
1104       /* This case is under the form "opnd0 = rhs0 - rhs1".  */
1105       if (TREE_CODE (rhs0) == SSA_NAME)
1106         {
1107           /* Match an assignment under the form: 
1108              "a = b - ...".  */
1109
1110           /* We want only assignments of form "name - name" contribute to
1111              LIMIT, as the other cases do not necessarily contribute to
1112              the complexity of the expression.  */
1113           if (TREE_CODE (rhs1) == SSA_NAME)
1114             limit++;
1115
1116           res = follow_ssa_edge (loop, SSA_NAME_DEF_STMT (rhs0), halting_phi, 
1117                                  evolution_of_loop, limit);
1118           if (res == t_true)
1119             *evolution_of_loop = add_to_evolution 
1120               (loop->num, chrec_convert (type, *evolution_of_loop, at_stmt),
1121                MINUS_EXPR, rhs1, at_stmt);
1122
1123           else if (res == t_dont_know)
1124             *evolution_of_loop = chrec_dont_know;
1125         }
1126       else
1127         /* Otherwise, match an assignment under the form: 
1128            "a = ... - ...".  */
1129         /* And there is nothing to do.  */
1130         res = t_false;
1131       break;
1132
1133     default:
1134       res = t_false;
1135     }
1136
1137   return res;
1138 }
1139     
1140 /* Follow the ssa edge into the expression EXPR.
1141    Return true if the strongly connected component has been found.  */
1142
1143 static t_bool
1144 follow_ssa_edge_expr (struct loop *loop, gimple at_stmt, tree expr, 
1145                       gimple halting_phi, tree *evolution_of_loop, int limit)
1146 {
1147   enum tree_code code = TREE_CODE (expr);
1148   tree type = TREE_TYPE (expr), rhs0, rhs1;
1149   t_bool res;
1150
1151   /* The EXPR is one of the following cases:
1152      - an SSA_NAME, 
1153      - an INTEGER_CST,
1154      - a PLUS_EXPR, 
1155      - a POINTER_PLUS_EXPR, 
1156      - a MINUS_EXPR,
1157      - an ASSERT_EXPR,
1158      - other cases are not yet handled.  */
1159
1160   switch (code)
1161     {
1162     CASE_CONVERT:
1163       /* This assignment is under the form "a_1 = (cast) rhs.  */
1164       res = follow_ssa_edge_expr (loop, at_stmt, TREE_OPERAND (expr, 0),
1165                                   halting_phi, evolution_of_loop, limit);
1166       *evolution_of_loop = chrec_convert (type, *evolution_of_loop, at_stmt);
1167       break;
1168
1169     case INTEGER_CST:
1170       /* This assignment is under the form "a_1 = 7".  */
1171       res = t_false;
1172       break;
1173
1174     case SSA_NAME:
1175       /* This assignment is under the form: "a_1 = b_2".  */
1176       res = follow_ssa_edge 
1177         (loop, SSA_NAME_DEF_STMT (expr), halting_phi, evolution_of_loop, limit);
1178       break;
1179
1180     case POINTER_PLUS_EXPR:
1181     case PLUS_EXPR:
1182     case MINUS_EXPR:
1183       /* This case is under the form "rhs0 +- rhs1".  */
1184       rhs0 = TREE_OPERAND (expr, 0);
1185       rhs1 = TREE_OPERAND (expr, 1);
1186       type = TREE_TYPE (rhs0);
1187       STRIP_USELESS_TYPE_CONVERSION (rhs0);
1188       STRIP_USELESS_TYPE_CONVERSION (rhs1);
1189       res = follow_ssa_edge_binary (loop, at_stmt, type, rhs0, code, rhs1,
1190                                     halting_phi, evolution_of_loop, limit);
1191       break;
1192
1193     case ASSERT_EXPR:
1194       /* This assignment is of the form: "a_1 = ASSERT_EXPR <a_2, ...>"
1195          It must be handled as a copy assignment of the form a_1 = a_2.  */
1196       rhs0 = ASSERT_EXPR_VAR (expr);
1197       if (TREE_CODE (rhs0) == SSA_NAME)
1198         res = follow_ssa_edge (loop, SSA_NAME_DEF_STMT (rhs0),
1199                                halting_phi, evolution_of_loop, limit);
1200       else
1201         res = t_false;
1202       break;
1203
1204     default:
1205       res = t_false;
1206       break;
1207     }
1208
1209   return res;
1210 }
1211
1212 /* Follow the ssa edge into the right hand side of an assignment STMT.
1213    Return true if the strongly connected component has been found.  */
1214
1215 static t_bool
1216 follow_ssa_edge_in_rhs (struct loop *loop, gimple stmt,
1217                         gimple halting_phi, tree *evolution_of_loop, int limit)
1218 {
1219   enum tree_code code = gimple_assign_rhs_code (stmt);
1220   tree type = gimple_expr_type (stmt), rhs1, rhs2;
1221   t_bool res;
1222
1223   switch (code)
1224     {
1225     CASE_CONVERT:
1226       /* This assignment is under the form "a_1 = (cast) rhs.  */
1227       res = follow_ssa_edge_expr (loop, stmt, gimple_assign_rhs1 (stmt),
1228                                   halting_phi, evolution_of_loop, limit);
1229       *evolution_of_loop = chrec_convert (type, *evolution_of_loop, stmt);
1230       break;
1231
1232     case POINTER_PLUS_EXPR:
1233     case PLUS_EXPR:
1234     case MINUS_EXPR:
1235       rhs1 = gimple_assign_rhs1 (stmt);
1236       rhs2 = gimple_assign_rhs2 (stmt);
1237       type = TREE_TYPE (rhs1);
1238       res = follow_ssa_edge_binary (loop, stmt, type, rhs1, code, rhs2,
1239                                     halting_phi, evolution_of_loop, limit);
1240       break;
1241
1242     default:
1243       if (get_gimple_rhs_class (code) == GIMPLE_SINGLE_RHS)
1244         res = follow_ssa_edge_expr (loop, stmt, gimple_assign_rhs1 (stmt),
1245                                     halting_phi, evolution_of_loop, limit);
1246       else
1247         res = t_false;
1248       break;
1249     }
1250
1251   return res;
1252 }
1253
1254 /* Checks whether the I-th argument of a PHI comes from a backedge.  */
1255
1256 static bool
1257 backedge_phi_arg_p (gimple phi, int i)
1258 {
1259   const_edge e = gimple_phi_arg_edge (phi, i);
1260
1261   /* We would in fact like to test EDGE_DFS_BACK here, but we do not care
1262      about updating it anywhere, and this should work as well most of the
1263      time.  */
1264   if (e->flags & EDGE_IRREDUCIBLE_LOOP)
1265     return true;
1266
1267   return false;
1268 }
1269
1270 /* Helper function for one branch of the condition-phi-node.  Return
1271    true if the strongly connected component has been found following
1272    this path.  */
1273
1274 static inline t_bool
1275 follow_ssa_edge_in_condition_phi_branch (int i,
1276                                          struct loop *loop, 
1277                                          gimple condition_phi, 
1278                                          gimple halting_phi,
1279                                          tree *evolution_of_branch,
1280                                          tree init_cond, int limit)
1281 {
1282   tree branch = PHI_ARG_DEF (condition_phi, i);
1283   *evolution_of_branch = chrec_dont_know;
1284
1285   /* Do not follow back edges (they must belong to an irreducible loop, which
1286      we really do not want to worry about).  */
1287   if (backedge_phi_arg_p (condition_phi, i))
1288     return t_false;
1289
1290   if (TREE_CODE (branch) == SSA_NAME)
1291     {
1292       *evolution_of_branch = init_cond;
1293       return follow_ssa_edge (loop, SSA_NAME_DEF_STMT (branch), halting_phi, 
1294                               evolution_of_branch, limit);
1295     }
1296
1297   /* This case occurs when one of the condition branches sets 
1298      the variable to a constant: i.e. a phi-node like
1299      "a_2 = PHI <a_7(5), 2(6)>;".  
1300          
1301      FIXME:  This case have to be refined correctly: 
1302      in some cases it is possible to say something better than
1303      chrec_dont_know, for example using a wrap-around notation.  */
1304   return t_false;
1305 }
1306
1307 /* This function merges the branches of a condition-phi-node in a
1308    loop.  */
1309
1310 static t_bool
1311 follow_ssa_edge_in_condition_phi (struct loop *loop,
1312                                   gimple condition_phi, 
1313                                   gimple halting_phi, 
1314                                   tree *evolution_of_loop, int limit)
1315 {
1316   int i, n;
1317   tree init = *evolution_of_loop;
1318   tree evolution_of_branch;
1319   t_bool res = follow_ssa_edge_in_condition_phi_branch (0, loop, condition_phi,
1320                                                         halting_phi,
1321                                                         &evolution_of_branch,
1322                                                         init, limit);
1323   if (res == t_false || res == t_dont_know)
1324     return res;
1325
1326   *evolution_of_loop = evolution_of_branch;
1327
1328   n = gimple_phi_num_args (condition_phi);
1329   for (i = 1; i < n; i++)
1330     {
1331       /* Quickly give up when the evolution of one of the branches is
1332          not known.  */
1333       if (*evolution_of_loop == chrec_dont_know)
1334         return t_true;
1335
1336       /* Increase the limit by the PHI argument number to avoid exponential
1337          time and memory complexity.  */
1338       res = follow_ssa_edge_in_condition_phi_branch (i, loop, condition_phi,
1339                                                      halting_phi,
1340                                                      &evolution_of_branch,
1341                                                      init, limit + i);
1342       if (res == t_false || res == t_dont_know)
1343         return res;
1344
1345       *evolution_of_loop = chrec_merge (*evolution_of_loop,
1346                                         evolution_of_branch);
1347     }
1348   
1349   return t_true;
1350 }
1351
1352 /* Follow an SSA edge in an inner loop.  It computes the overall
1353    effect of the loop, and following the symbolic initial conditions,
1354    it follows the edges in the parent loop.  The inner loop is
1355    considered as a single statement.  */
1356
1357 static t_bool
1358 follow_ssa_edge_inner_loop_phi (struct loop *outer_loop,
1359                                 gimple loop_phi_node, 
1360                                 gimple halting_phi,
1361                                 tree *evolution_of_loop, int limit)
1362 {
1363   struct loop *loop = loop_containing_stmt (loop_phi_node);
1364   tree ev = analyze_scalar_evolution (loop, PHI_RESULT (loop_phi_node));
1365
1366   /* Sometimes, the inner loop is too difficult to analyze, and the
1367      result of the analysis is a symbolic parameter.  */
1368   if (ev == PHI_RESULT (loop_phi_node))
1369     {
1370       t_bool res = t_false;
1371       int i, n = gimple_phi_num_args (loop_phi_node);
1372
1373       for (i = 0; i < n; i++)
1374         {
1375           tree arg = PHI_ARG_DEF (loop_phi_node, i);
1376           basic_block bb;
1377
1378           /* Follow the edges that exit the inner loop.  */
1379           bb = gimple_phi_arg_edge (loop_phi_node, i)->src;
1380           if (!flow_bb_inside_loop_p (loop, bb))
1381             res = follow_ssa_edge_expr (outer_loop, loop_phi_node,
1382                                         arg, halting_phi,
1383                                         evolution_of_loop, limit);
1384           if (res == t_true)
1385             break;
1386         }
1387
1388       /* If the path crosses this loop-phi, give up.  */
1389       if (res == t_true)
1390         *evolution_of_loop = chrec_dont_know;
1391
1392       return res;
1393     }
1394
1395   /* Otherwise, compute the overall effect of the inner loop.  */
1396   ev = compute_overall_effect_of_inner_loop (loop, ev);
1397   return follow_ssa_edge_expr (outer_loop, loop_phi_node, ev, halting_phi,
1398                                evolution_of_loop, limit);
1399 }
1400
1401 /* Follow an SSA edge from a loop-phi-node to itself, constructing a
1402    path that is analyzed on the return walk.  */
1403
1404 static t_bool
1405 follow_ssa_edge (struct loop *loop, gimple def, gimple halting_phi,
1406                  tree *evolution_of_loop, int limit)
1407 {
1408   struct loop *def_loop;
1409   
1410   if (gimple_nop_p (def))
1411     return t_false;
1412   
1413   /* Give up if the path is longer than the MAX that we allow.  */
1414   if (limit > PARAM_VALUE (PARAM_SCEV_MAX_EXPR_SIZE))
1415     return t_dont_know;
1416   
1417   def_loop = loop_containing_stmt (def);
1418   
1419   switch (gimple_code (def))
1420     {
1421     case GIMPLE_PHI:
1422       if (!loop_phi_node_p (def))
1423         /* DEF is a condition-phi-node.  Follow the branches, and
1424            record their evolutions.  Finally, merge the collected
1425            information and set the approximation to the main
1426            variable.  */
1427         return follow_ssa_edge_in_condition_phi 
1428           (loop, def, halting_phi, evolution_of_loop, limit);
1429
1430       /* When the analyzed phi is the halting_phi, the
1431          depth-first search is over: we have found a path from
1432          the halting_phi to itself in the loop.  */
1433       if (def == halting_phi)
1434         return t_true;
1435           
1436       /* Otherwise, the evolution of the HALTING_PHI depends
1437          on the evolution of another loop-phi-node, i.e. the
1438          evolution function is a higher degree polynomial.  */
1439       if (def_loop == loop)
1440         return t_false;
1441           
1442       /* Inner loop.  */
1443       if (flow_loop_nested_p (loop, def_loop))
1444         return follow_ssa_edge_inner_loop_phi 
1445           (loop, def, halting_phi, evolution_of_loop, limit + 1);
1446
1447       /* Outer loop.  */
1448       return t_false;
1449
1450     case GIMPLE_ASSIGN:
1451       return follow_ssa_edge_in_rhs (loop, def, halting_phi, 
1452                                      evolution_of_loop, limit);
1453       
1454     default:
1455       /* At this level of abstraction, the program is just a set
1456          of GIMPLE_ASSIGNs and PHI_NODEs.  In principle there is no
1457          other node to be handled.  */
1458       return t_false;
1459     }
1460 }
1461
1462 \f
1463
1464 /* Given a LOOP_PHI_NODE, this function determines the evolution
1465    function from LOOP_PHI_NODE to LOOP_PHI_NODE in the loop.  */
1466
1467 static tree
1468 analyze_evolution_in_loop (gimple loop_phi_node, 
1469                            tree init_cond)
1470 {
1471   int i, n = gimple_phi_num_args (loop_phi_node);
1472   tree evolution_function = chrec_not_analyzed_yet;
1473   struct loop *loop = loop_containing_stmt (loop_phi_node);
1474   basic_block bb;
1475   
1476   if (dump_file && (dump_flags & TDF_DETAILS))
1477     {
1478       fprintf (dump_file, "(analyze_evolution_in_loop \n");
1479       fprintf (dump_file, "  (loop_phi_node = ");
1480       print_gimple_stmt (dump_file, loop_phi_node, 0, 0);
1481       fprintf (dump_file, ")\n");
1482     }
1483   
1484   for (i = 0; i < n; i++)
1485     {
1486       tree arg = PHI_ARG_DEF (loop_phi_node, i);
1487       gimple ssa_chain;
1488       tree ev_fn;
1489       t_bool res;
1490
1491       /* Select the edges that enter the loop body.  */
1492       bb = gimple_phi_arg_edge (loop_phi_node, i)->src;
1493       if (!flow_bb_inside_loop_p (loop, bb))
1494         continue;
1495
1496       if (TREE_CODE (arg) == SSA_NAME)
1497         {
1498           bool val = false;
1499
1500           ssa_chain = SSA_NAME_DEF_STMT (arg);
1501
1502           /* Pass in the initial condition to the follow edge function.  */
1503           ev_fn = init_cond;
1504           res = follow_ssa_edge (loop, ssa_chain, loop_phi_node, &ev_fn, 0);
1505
1506           /* If ev_fn has no evolution in the inner loop, and the
1507              init_cond is not equal to ev_fn, then we have an
1508              ambiguity between two possible values, as we cannot know
1509              the number of iterations at this point.  */
1510           if (TREE_CODE (ev_fn) != POLYNOMIAL_CHREC
1511               && no_evolution_in_loop_p (ev_fn, loop->num, &val) && val
1512               && !operand_equal_p (init_cond, ev_fn, 0))
1513             ev_fn = chrec_dont_know;
1514         }
1515       else
1516         res = t_false;
1517
1518       /* When it is impossible to go back on the same
1519          loop_phi_node by following the ssa edges, the
1520          evolution is represented by a peeled chrec, i.e. the
1521          first iteration, EV_FN has the value INIT_COND, then
1522          all the other iterations it has the value of ARG.  
1523          For the moment, PEELED_CHREC nodes are not built.  */
1524       if (res != t_true)
1525         ev_fn = chrec_dont_know;
1526       
1527       /* When there are multiple back edges of the loop (which in fact never
1528          happens currently, but nevertheless), merge their evolutions.  */
1529       evolution_function = chrec_merge (evolution_function, ev_fn);
1530     }
1531   
1532   if (dump_file && (dump_flags & TDF_DETAILS))
1533     {
1534       fprintf (dump_file, "  (evolution_function = ");
1535       print_generic_expr (dump_file, evolution_function, 0);
1536       fprintf (dump_file, "))\n");
1537     }
1538   
1539   return evolution_function;
1540 }
1541
1542 /* Given a loop-phi-node, return the initial conditions of the
1543    variable on entry of the loop.  When the CCP has propagated
1544    constants into the loop-phi-node, the initial condition is
1545    instantiated, otherwise the initial condition is kept symbolic.
1546    This analyzer does not analyze the evolution outside the current
1547    loop, and leaves this task to the on-demand tree reconstructor.  */
1548
1549 static tree 
1550 analyze_initial_condition (gimple loop_phi_node)
1551 {
1552   int i, n;
1553   tree init_cond = chrec_not_analyzed_yet;
1554   struct loop *loop = loop_containing_stmt (loop_phi_node);
1555   
1556   if (dump_file && (dump_flags & TDF_DETAILS))
1557     {
1558       fprintf (dump_file, "(analyze_initial_condition \n");
1559       fprintf (dump_file, "  (loop_phi_node = \n");
1560       print_gimple_stmt (dump_file, loop_phi_node, 0, 0);
1561       fprintf (dump_file, ")\n");
1562     }
1563   
1564   n = gimple_phi_num_args (loop_phi_node);
1565   for (i = 0; i < n; i++)
1566     {
1567       tree branch = PHI_ARG_DEF (loop_phi_node, i);
1568       basic_block bb = gimple_phi_arg_edge (loop_phi_node, i)->src;
1569       
1570       /* When the branch is oriented to the loop's body, it does
1571          not contribute to the initial condition.  */
1572       if (flow_bb_inside_loop_p (loop, bb))
1573         continue;
1574
1575       if (init_cond == chrec_not_analyzed_yet)
1576         {
1577           init_cond = branch;
1578           continue;
1579         }
1580
1581       if (TREE_CODE (branch) == SSA_NAME)
1582         {
1583           init_cond = chrec_dont_know;
1584           break;
1585         }
1586
1587       init_cond = chrec_merge (init_cond, branch);
1588     }
1589
1590   /* Ooops -- a loop without an entry???  */
1591   if (init_cond == chrec_not_analyzed_yet)
1592     init_cond = chrec_dont_know;
1593
1594   /* During early loop unrolling we do not have fully constant propagated IL.
1595      Handle degenerate PHIs here to not miss important unrollings.  */
1596   if (TREE_CODE (init_cond) == SSA_NAME)
1597     {
1598       gimple def = SSA_NAME_DEF_STMT (init_cond);
1599       tree res;
1600       if (gimple_code (def) == GIMPLE_PHI
1601           && (res = degenerate_phi_result (def)) != NULL_TREE
1602           /* Only allow invariants here, otherwise we may break
1603              loop-closed SSA form.  */
1604           && is_gimple_min_invariant (res))
1605         init_cond = res;
1606     }
1607
1608   if (dump_file && (dump_flags & TDF_DETAILS))
1609     {
1610       fprintf (dump_file, "  (init_cond = ");
1611       print_generic_expr (dump_file, init_cond, 0);
1612       fprintf (dump_file, "))\n");
1613     }
1614   
1615   return init_cond;
1616 }
1617
1618 /* Analyze the scalar evolution for LOOP_PHI_NODE.  */
1619
1620 static tree 
1621 interpret_loop_phi (struct loop *loop, gimple loop_phi_node)
1622 {
1623   tree res;
1624   struct loop *phi_loop = loop_containing_stmt (loop_phi_node);
1625   tree init_cond;
1626   
1627   if (phi_loop != loop)
1628     {
1629       struct loop *subloop;
1630       tree evolution_fn = analyze_scalar_evolution
1631         (phi_loop, PHI_RESULT (loop_phi_node));
1632
1633       /* Dive one level deeper.  */
1634       subloop = superloop_at_depth (phi_loop, loop_depth (loop) + 1);
1635
1636       /* Interpret the subloop.  */
1637       res = compute_overall_effect_of_inner_loop (subloop, evolution_fn);
1638       return res;
1639     }
1640
1641   /* Otherwise really interpret the loop phi.  */
1642   init_cond = analyze_initial_condition (loop_phi_node);
1643   res = analyze_evolution_in_loop (loop_phi_node, init_cond);
1644
1645   return res;
1646 }
1647
1648 /* This function merges the branches of a condition-phi-node,
1649    contained in the outermost loop, and whose arguments are already
1650    analyzed.  */
1651
1652 static tree
1653 interpret_condition_phi (struct loop *loop, gimple condition_phi)
1654 {
1655   int i, n = gimple_phi_num_args (condition_phi);
1656   tree res = chrec_not_analyzed_yet;
1657   
1658   for (i = 0; i < n; i++)
1659     {
1660       tree branch_chrec;
1661       
1662       if (backedge_phi_arg_p (condition_phi, i))
1663         {
1664           res = chrec_dont_know;
1665           break;
1666         }
1667
1668       branch_chrec = analyze_scalar_evolution
1669         (loop, PHI_ARG_DEF (condition_phi, i));
1670       
1671       res = chrec_merge (res, branch_chrec);
1672     }
1673
1674   return res;
1675 }
1676
1677 /* Interpret the operation RHS1 OP RHS2.  If we didn't
1678    analyze this node before, follow the definitions until ending
1679    either on an analyzed GIMPLE_ASSIGN, or on a loop-phi-node.  On the
1680    return path, this function propagates evolutions (ala constant copy
1681    propagation).  OPND1 is not a GIMPLE expression because we could
1682    analyze the effect of an inner loop: see interpret_loop_phi.  */
1683
1684 static tree
1685 interpret_rhs_expr (struct loop *loop, gimple at_stmt,
1686                     tree type, tree rhs1, enum tree_code code, tree rhs2)
1687 {
1688   tree res, chrec1, chrec2;
1689
1690   if (get_gimple_rhs_class (code) == GIMPLE_SINGLE_RHS)
1691     {
1692       if (is_gimple_min_invariant (rhs1))
1693         return chrec_convert (type, rhs1, at_stmt);
1694
1695       if (code == SSA_NAME)
1696         return chrec_convert (type, analyze_scalar_evolution (loop, rhs1),
1697                               at_stmt);
1698
1699       if (code == ASSERT_EXPR)
1700         {
1701           rhs1 = ASSERT_EXPR_VAR (rhs1);
1702           return chrec_convert (type, analyze_scalar_evolution (loop, rhs1),
1703                                 at_stmt);
1704         }
1705
1706       return chrec_dont_know;
1707     }
1708
1709   switch (code)
1710     {
1711     case POINTER_PLUS_EXPR:
1712       chrec1 = analyze_scalar_evolution (loop, rhs1);
1713       chrec2 = analyze_scalar_evolution (loop, rhs2);
1714       chrec1 = chrec_convert (type, chrec1, at_stmt);
1715       chrec2 = chrec_convert (sizetype, chrec2, at_stmt);
1716       res = chrec_fold_plus (type, chrec1, chrec2);
1717       break;
1718
1719     case PLUS_EXPR:
1720       chrec1 = analyze_scalar_evolution (loop, rhs1);
1721       chrec2 = analyze_scalar_evolution (loop, rhs2);
1722       chrec1 = chrec_convert (type, chrec1, at_stmt);
1723       chrec2 = chrec_convert (type, chrec2, at_stmt);
1724       res = chrec_fold_plus (type, chrec1, chrec2);
1725       break;
1726       
1727     case MINUS_EXPR:
1728       chrec1 = analyze_scalar_evolution (loop, rhs1);
1729       chrec2 = analyze_scalar_evolution (loop, rhs2);
1730       chrec1 = chrec_convert (type, chrec1, at_stmt);
1731       chrec2 = chrec_convert (type, chrec2, at_stmt);
1732       res = chrec_fold_minus (type, chrec1, chrec2);
1733       break;
1734
1735     case NEGATE_EXPR:
1736       chrec1 = analyze_scalar_evolution (loop, rhs1);
1737       chrec1 = chrec_convert (type, chrec1, at_stmt);
1738       /* TYPE may be integer, real or complex, so use fold_convert.  */
1739       res = chrec_fold_multiply (type, chrec1,
1740                                  fold_convert (type, integer_minus_one_node));
1741       break;
1742
1743     case BIT_NOT_EXPR:
1744       /* Handle ~X as -1 - X.  */
1745       chrec1 = analyze_scalar_evolution (loop, rhs1);
1746       chrec1 = chrec_convert (type, chrec1, at_stmt);
1747       res = chrec_fold_minus (type,
1748                               fold_convert (type, integer_minus_one_node),
1749                               chrec1);
1750       break;
1751
1752     case MULT_EXPR:
1753       chrec1 = analyze_scalar_evolution (loop, rhs1);
1754       chrec2 = analyze_scalar_evolution (loop, rhs2);
1755       chrec1 = chrec_convert (type, chrec1, at_stmt);
1756       chrec2 = chrec_convert (type, chrec2, at_stmt);
1757       res = chrec_fold_multiply (type, chrec1, chrec2);
1758       break;
1759       
1760     CASE_CONVERT:
1761       chrec1 = analyze_scalar_evolution (loop, rhs1);
1762       res = chrec_convert (type, chrec1, at_stmt);
1763       break;
1764       
1765     default:
1766       res = chrec_dont_know;
1767       break;
1768     }
1769   
1770   return res;
1771 }
1772
1773 /* Interpret the expression EXPR.  */
1774
1775 static tree
1776 interpret_expr (struct loop *loop, gimple at_stmt, tree expr)
1777 {
1778   enum tree_code code;
1779   tree type = TREE_TYPE (expr), op0, op1;
1780
1781   if (automatically_generated_chrec_p (expr))
1782     return expr;
1783
1784   if (TREE_CODE (expr) == POLYNOMIAL_CHREC)
1785     return chrec_dont_know;
1786
1787   extract_ops_from_tree (expr, &code, &op0, &op1);
1788
1789   return interpret_rhs_expr (loop, at_stmt, type,
1790                              op0, code, op1);
1791 }
1792
1793 /* Interpret the rhs of the assignment STMT.  */
1794
1795 static tree
1796 interpret_gimple_assign (struct loop *loop, gimple stmt)
1797 {
1798   tree type = TREE_TYPE (gimple_assign_lhs (stmt));
1799   enum tree_code code = gimple_assign_rhs_code (stmt);
1800
1801   return interpret_rhs_expr (loop, stmt, type,
1802                              gimple_assign_rhs1 (stmt), code,
1803                              gimple_assign_rhs2 (stmt));
1804 }
1805
1806 \f
1807
1808 /* This section contains all the entry points: 
1809    - number_of_iterations_in_loop,
1810    - analyze_scalar_evolution,
1811    - instantiate_parameters.
1812 */
1813
1814 /* Compute and return the evolution function in WRTO_LOOP, the nearest
1815    common ancestor of DEF_LOOP and USE_LOOP.  */
1816
1817 static tree 
1818 compute_scalar_evolution_in_loop (struct loop *wrto_loop, 
1819                                   struct loop *def_loop, 
1820                                   tree ev)
1821 {
1822   tree res;
1823   if (def_loop == wrto_loop)
1824     return ev;
1825
1826   def_loop = superloop_at_depth (def_loop, loop_depth (wrto_loop) + 1);
1827   res = compute_overall_effect_of_inner_loop (def_loop, ev);
1828
1829   return analyze_scalar_evolution_1 (wrto_loop, res, chrec_not_analyzed_yet);
1830 }
1831
1832 /* Helper recursive function.  */
1833
1834 static tree
1835 analyze_scalar_evolution_1 (struct loop *loop, tree var, tree res)
1836 {
1837   tree type = TREE_TYPE (var);
1838   gimple def;
1839   basic_block bb;
1840   struct loop *def_loop;
1841
1842   if (loop == NULL || TREE_CODE (type) == VECTOR_TYPE)
1843     return chrec_dont_know;
1844
1845   if (TREE_CODE (var) != SSA_NAME)
1846     return interpret_expr (loop, NULL, var);
1847
1848   def = SSA_NAME_DEF_STMT (var);
1849   bb = gimple_bb (def);
1850   def_loop = bb ? bb->loop_father : NULL;
1851
1852   if (bb == NULL
1853       || !flow_bb_inside_loop_p (loop, bb))
1854     {
1855       /* Keep the symbolic form.  */
1856       res = var;
1857       goto set_and_end;
1858     }
1859
1860   if (res != chrec_not_analyzed_yet)
1861     {
1862       if (loop != bb->loop_father)
1863         res = compute_scalar_evolution_in_loop 
1864             (find_common_loop (loop, bb->loop_father), bb->loop_father, res);
1865
1866       goto set_and_end;
1867     }
1868
1869   if (loop != def_loop)
1870     {
1871       res = analyze_scalar_evolution_1 (def_loop, var, chrec_not_analyzed_yet);
1872       res = compute_scalar_evolution_in_loop (loop, def_loop, res);
1873
1874       goto set_and_end;
1875     }
1876
1877   switch (gimple_code (def))
1878     {
1879     case GIMPLE_ASSIGN:
1880       res = interpret_gimple_assign (loop, def);
1881       break;
1882
1883     case GIMPLE_PHI:
1884       if (loop_phi_node_p (def))
1885         res = interpret_loop_phi (loop, def);
1886       else
1887         res = interpret_condition_phi (loop, def);
1888       break;
1889
1890     default:
1891       res = chrec_dont_know;
1892       break;
1893     }
1894
1895  set_and_end:
1896
1897   /* Keep the symbolic form.  */
1898   if (res == chrec_dont_know)
1899     res = var;
1900
1901   if (loop == def_loop)
1902     set_scalar_evolution (block_before_loop (loop), var, res);
1903
1904   return res;
1905 }
1906
1907 /* Analyzes and returns the scalar evolution of the ssa_name VAR in
1908    LOOP.  LOOP is the loop in which the variable is used.
1909    
1910    Example of use: having a pointer VAR to a SSA_NAME node, STMT a
1911    pointer to the statement that uses this variable, in order to
1912    determine the evolution function of the variable, use the following
1913    calls:
1914    
1915    loop_p loop = loop_containing_stmt (stmt);
1916    tree chrec_with_symbols = analyze_scalar_evolution (loop, var);
1917    tree chrec_instantiated = instantiate_parameters (loop, chrec_with_symbols);
1918 */
1919
1920 tree 
1921 analyze_scalar_evolution (struct loop *loop, tree var)
1922 {
1923   tree res;
1924
1925   if (dump_file && (dump_flags & TDF_DETAILS))
1926     {
1927       fprintf (dump_file, "(analyze_scalar_evolution \n");
1928       fprintf (dump_file, "  (loop_nb = %d)\n", loop->num);
1929       fprintf (dump_file, "  (scalar = ");
1930       print_generic_expr (dump_file, var, 0);
1931       fprintf (dump_file, ")\n");
1932     }
1933
1934   res = get_scalar_evolution (block_before_loop (loop), var);
1935   res = analyze_scalar_evolution_1 (loop, var, res);
1936
1937   if (dump_file && (dump_flags & TDF_DETAILS))
1938     fprintf (dump_file, ")\n");
1939
1940   return res;
1941 }
1942
1943 /* Analyze scalar evolution of use of VERSION in USE_LOOP with respect to
1944    WRTO_LOOP (which should be a superloop of USE_LOOP)
1945
1946    FOLDED_CASTS is set to true if resolve_mixers used
1947    chrec_convert_aggressive (TODO -- not really, we are way too conservative
1948    at the moment in order to keep things simple). 
1949    
1950    To illustrate the meaning of USE_LOOP and WRTO_LOOP, consider the following
1951    example:
1952
1953    for (i = 0; i < 100; i++)                    -- loop 1
1954      {
1955        for (j = 0; j < 100; j++)                -- loop 2
1956          {
1957            k1 = i;
1958            k2 = j;
1959
1960            use2 (k1, k2);
1961
1962            for (t = 0; t < 100; t++)            -- loop 3
1963              use3 (k1, k2);
1964
1965          }
1966        use1 (k1, k2);
1967      }
1968
1969    Both k1 and k2 are invariants in loop3, thus
1970      analyze_scalar_evolution_in_loop (loop3, loop3, k1) = k1
1971      analyze_scalar_evolution_in_loop (loop3, loop3, k2) = k2
1972
1973    As they are invariant, it does not matter whether we consider their
1974    usage in loop 3 or loop 2, hence
1975      analyze_scalar_evolution_in_loop (loop2, loop3, k1) =
1976        analyze_scalar_evolution_in_loop (loop2, loop2, k1) = i
1977      analyze_scalar_evolution_in_loop (loop2, loop3, k2) =
1978        analyze_scalar_evolution_in_loop (loop2, loop2, k2) = [0,+,1]_2
1979
1980    Similarly for their evolutions with respect to loop 1.  The values of K2
1981    in the use in loop 2 vary independently on loop 1, thus we cannot express
1982    the evolution with respect to loop 1:
1983      analyze_scalar_evolution_in_loop (loop1, loop3, k1) =
1984        analyze_scalar_evolution_in_loop (loop1, loop2, k1) = [0,+,1]_1
1985      analyze_scalar_evolution_in_loop (loop1, loop3, k2) =
1986        analyze_scalar_evolution_in_loop (loop1, loop2, k2) = dont_know
1987
1988    The value of k2 in the use in loop 1 is known, though:
1989      analyze_scalar_evolution_in_loop (loop1, loop1, k1) = [0,+,1]_1
1990      analyze_scalar_evolution_in_loop (loop1, loop1, k2) = 100
1991    */
1992
1993 static tree
1994 analyze_scalar_evolution_in_loop (struct loop *wrto_loop, struct loop *use_loop,
1995                                   tree version, bool *folded_casts)
1996 {
1997   bool val = false;
1998   tree ev = version, tmp;
1999
2000   /* We cannot just do 
2001
2002      tmp = analyze_scalar_evolution (use_loop, version);
2003      ev = resolve_mixers (wrto_loop, tmp);
2004
2005      as resolve_mixers would query the scalar evolution with respect to
2006      wrto_loop.  For example, in the situation described in the function
2007      comment, suppose that wrto_loop = loop1, use_loop = loop3 and
2008      version = k2.  Then
2009
2010      analyze_scalar_evolution (use_loop, version) = k2
2011
2012      and resolve_mixers (loop1, k2) finds that the value of k2 in loop 1
2013      is 100, which is a wrong result, since we are interested in the
2014      value in loop 3.
2015
2016      Instead, we need to proceed from use_loop to wrto_loop loop by loop,
2017      each time checking that there is no evolution in the inner loop.  */
2018
2019   if (folded_casts)
2020     *folded_casts = false;
2021   while (1)
2022     {
2023       tmp = analyze_scalar_evolution (use_loop, ev);
2024       ev = resolve_mixers (use_loop, tmp);
2025
2026       if (folded_casts && tmp != ev)
2027         *folded_casts = true;
2028
2029       if (use_loop == wrto_loop)
2030         return ev;
2031
2032       /* If the value of the use changes in the inner loop, we cannot express
2033          its value in the outer loop (we might try to return interval chrec,
2034          but we do not have a user for it anyway)  */
2035       if (!no_evolution_in_loop_p (ev, use_loop->num, &val)
2036           || !val)
2037         return chrec_dont_know;
2038
2039       use_loop = loop_outer (use_loop);
2040     }
2041 }
2042
2043 /* Returns from CACHE the value for VERSION instantiated below
2044    INSTANTIATED_BELOW block.  */
2045
2046 static tree
2047 get_instantiated_value (htab_t cache, basic_block instantiated_below,
2048                         tree version)
2049 {
2050   struct scev_info_str *info, pattern;
2051   
2052   pattern.var = version;
2053   pattern.instantiated_below = instantiated_below;
2054   info = (struct scev_info_str *) htab_find (cache, &pattern);
2055
2056   if (info)
2057     return info->chrec;
2058   else
2059     return NULL_TREE;
2060 }
2061
2062 /* Sets in CACHE the value of VERSION instantiated below basic block
2063    INSTANTIATED_BELOW to VAL.  */
2064
2065 static void
2066 set_instantiated_value (htab_t cache, basic_block instantiated_below,
2067                         tree version, tree val)
2068 {
2069   struct scev_info_str *info, pattern;
2070   PTR *slot;
2071   
2072   pattern.var = version;
2073   pattern.instantiated_below = instantiated_below;
2074   slot = htab_find_slot (cache, &pattern, INSERT);
2075
2076   if (!*slot)
2077     *slot = new_scev_info_str (instantiated_below, version);
2078   info = (struct scev_info_str *) *slot;
2079   info->chrec = val;
2080 }
2081
2082 /* Return the closed_loop_phi node for VAR.  If there is none, return
2083    NULL_TREE.  */
2084
2085 static tree
2086 loop_closed_phi_def (tree var)
2087 {
2088   struct loop *loop;
2089   edge exit;
2090   gimple phi;
2091   gimple_stmt_iterator psi;
2092
2093   if (var == NULL_TREE
2094       || TREE_CODE (var) != SSA_NAME)
2095     return NULL_TREE;
2096
2097   loop = loop_containing_stmt (SSA_NAME_DEF_STMT (var));
2098   exit = single_exit (loop);
2099   if (!exit)
2100     return NULL_TREE;
2101
2102   for (psi = gsi_start_phis (exit->dest); !gsi_end_p (psi); gsi_next (&psi))
2103     {
2104       phi = gsi_stmt (psi);
2105       if (PHI_ARG_DEF_FROM_EDGE (phi, exit) == var)
2106         return PHI_RESULT (phi);
2107     }
2108
2109   return NULL_TREE;
2110 }
2111
2112 static tree instantiate_scev_1 (basic_block, struct loop *, tree, bool,
2113                                 htab_t, int);
2114
2115 /* Analyze all the parameters of the chrec, between INSTANTIATE_BELOW
2116    and EVOLUTION_LOOP, that were left under a symbolic form.
2117
2118    CHREC is an SSA_NAME to be instantiated.
2119
2120    CACHE is the cache of already instantiated values.
2121
2122    FOLD_CONVERSIONS should be set to true when the conversions that
2123    may wrap in signed/pointer type are folded, as long as the value of
2124    the chrec is preserved.
2125
2126    SIZE_EXPR is used for computing the size of the expression to be
2127    instantiated, and to stop if it exceeds some limit.  */
2128
2129 static tree
2130 instantiate_scev_name (basic_block instantiate_below,
2131                        struct loop *evolution_loop, tree chrec,
2132                        bool fold_conversions, htab_t cache, int size_expr)
2133 {
2134   tree res;
2135   struct loop *def_loop;
2136   basic_block def_bb = gimple_bb (SSA_NAME_DEF_STMT (chrec));
2137
2138   /* A parameter (or loop invariant and we do not want to include
2139      evolutions in outer loops), nothing to do.  */
2140   if (!def_bb
2141       || loop_depth (def_bb->loop_father) == 0
2142       || dominated_by_p (CDI_DOMINATORS, instantiate_below, def_bb))
2143     return chrec;
2144
2145   /* We cache the value of instantiated variable to avoid exponential
2146      time complexity due to reevaluations.  We also store the convenient
2147      value in the cache in order to prevent infinite recursion -- we do
2148      not want to instantiate the SSA_NAME if it is in a mixer
2149      structure.  This is used for avoiding the instantiation of
2150      recursively defined functions, such as:
2151
2152      | a_2 -> {0, +, 1, +, a_2}_1  */
2153
2154   res = get_instantiated_value (cache, instantiate_below, chrec);
2155   if (res)
2156     return res;
2157
2158   res = chrec_dont_know;
2159   set_instantiated_value (cache, instantiate_below, chrec, res);
2160
2161   def_loop = find_common_loop (evolution_loop, def_bb->loop_father);
2162
2163   /* If the analysis yields a parametric chrec, instantiate the
2164      result again.  */
2165   res = analyze_scalar_evolution (def_loop, chrec);
2166
2167   /* Don't instantiate loop-closed-ssa phi nodes.  */
2168   if (TREE_CODE (res) == SSA_NAME
2169       && (loop_containing_stmt (SSA_NAME_DEF_STMT (res)) == NULL
2170           || (loop_depth (loop_containing_stmt (SSA_NAME_DEF_STMT (res)))
2171               > loop_depth (def_loop))))
2172     {
2173       if (res == chrec)
2174         res = loop_closed_phi_def (chrec);
2175       else
2176         res = chrec;
2177
2178       if (res == NULL_TREE
2179           || !dominated_by_p (CDI_DOMINATORS, instantiate_below,
2180                               gimple_bb (SSA_NAME_DEF_STMT (res))))
2181         res = chrec_dont_know;
2182     }
2183
2184   else if (res != chrec_dont_know)
2185     res = instantiate_scev_1 (instantiate_below, evolution_loop, res,
2186                               fold_conversions, cache, size_expr);
2187
2188   /* Store the correct value to the cache.  */
2189   set_instantiated_value (cache, instantiate_below, chrec, res);
2190   return res;
2191
2192 }
2193
2194 /* Analyze all the parameters of the chrec, between INSTANTIATE_BELOW
2195    and EVOLUTION_LOOP, that were left under a symbolic form.
2196
2197    CHREC is a polynomial chain of recurrence to be instantiated.
2198
2199    CACHE is the cache of already instantiated values.
2200
2201    FOLD_CONVERSIONS should be set to true when the conversions that
2202    may wrap in signed/pointer type are folded, as long as the value of
2203    the chrec is preserved.
2204
2205    SIZE_EXPR is used for computing the size of the expression to be
2206    instantiated, and to stop if it exceeds some limit.  */
2207
2208 static tree
2209 instantiate_scev_poly (basic_block instantiate_below,
2210                        struct loop *evolution_loop, tree chrec,
2211                        bool fold_conversions, htab_t cache, int size_expr)
2212 {
2213   tree op1;
2214   tree op0 = instantiate_scev_1 (instantiate_below, evolution_loop,
2215                                  CHREC_LEFT (chrec), fold_conversions, cache,
2216                                  size_expr);
2217   if (op0 == chrec_dont_know)
2218     return chrec_dont_know;
2219
2220   op1 = instantiate_scev_1 (instantiate_below, evolution_loop,
2221                             CHREC_RIGHT (chrec), fold_conversions, cache,
2222                             size_expr);
2223   if (op1 == chrec_dont_know)
2224     return chrec_dont_know;
2225
2226   if (CHREC_LEFT (chrec) != op0
2227       || CHREC_RIGHT (chrec) != op1)
2228     {
2229       op1 = chrec_convert_rhs (chrec_type (op0), op1, NULL);
2230       chrec = build_polynomial_chrec (CHREC_VARIABLE (chrec), op0, op1);
2231     }
2232   return chrec;
2233 }
2234
2235 /* Analyze all the parameters of the chrec, between INSTANTIATE_BELOW
2236    and EVOLUTION_LOOP, that were left under a symbolic form.
2237
2238    CHREC is a binary expression to be instantiated.
2239
2240    CACHE is the cache of already instantiated values.
2241
2242    FOLD_CONVERSIONS should be set to true when the conversions that
2243    may wrap in signed/pointer type are folded, as long as the value of
2244    the chrec is preserved.
2245
2246    SIZE_EXPR is used for computing the size of the expression to be
2247    instantiated, and to stop if it exceeds some limit.  */
2248
2249 static tree
2250 instantiate_scev_binary (basic_block instantiate_below,
2251                          struct loop *evolution_loop, tree chrec,
2252                          bool fold_conversions, htab_t cache, int size_expr)
2253 {
2254   tree op1;
2255   tree op0 = instantiate_scev_1 (instantiate_below, evolution_loop,
2256                                  TREE_OPERAND (chrec, 0), fold_conversions, cache,
2257                                  size_expr);
2258   if (op0 == chrec_dont_know)
2259     return chrec_dont_know;
2260
2261   op1 = instantiate_scev_1 (instantiate_below, evolution_loop,
2262                             TREE_OPERAND (chrec, 1), fold_conversions, cache,
2263                             size_expr);
2264   if (op1 == chrec_dont_know)
2265     return chrec_dont_know;
2266
2267   if (TREE_OPERAND (chrec, 0) != op0
2268       || TREE_OPERAND (chrec, 1) != op1)
2269     {
2270       tree type = chrec_type (chrec);
2271
2272       op0 = chrec_convert (type, op0, NULL);
2273       op1 = chrec_convert_rhs (type, op1, NULL);
2274
2275       switch (TREE_CODE (chrec))
2276         {
2277         case POINTER_PLUS_EXPR:
2278         case PLUS_EXPR:
2279           return chrec_fold_plus (type, op0, op1);
2280
2281         case MINUS_EXPR:
2282           return chrec_fold_minus (type, op0, op1);
2283
2284         case MULT_EXPR:
2285           return chrec_fold_multiply (type, op0, op1);
2286
2287         default:
2288           gcc_unreachable ();
2289         }
2290     }
2291
2292   return chrec;
2293 }
2294
2295 /* Analyze all the parameters of the chrec, between INSTANTIATE_BELOW
2296    and EVOLUTION_LOOP, that were left under a symbolic form.
2297
2298    "CHREC" that stands for a convert expression "(TYPE) OP" is to be
2299    instantiated.
2300
2301    CACHE is the cache of already instantiated values.
2302
2303    FOLD_CONVERSIONS should be set to true when the conversions that
2304    may wrap in signed/pointer type are folded, as long as the value of
2305    the chrec is preserved.
2306
2307    SIZE_EXPR is used for computing the size of the expression to be
2308    instantiated, and to stop if it exceeds some limit.  */
2309
2310 static tree
2311 instantiate_scev_convert (basic_block instantiate_below,
2312                           struct loop *evolution_loop, tree chrec,
2313                           tree type, tree op,
2314                           bool fold_conversions, htab_t cache, int size_expr)
2315 {
2316   tree op0 = instantiate_scev_1 (instantiate_below, evolution_loop, op,
2317                                  fold_conversions, cache, size_expr);
2318
2319   if (op0 == chrec_dont_know)
2320     return chrec_dont_know;
2321
2322   if (fold_conversions)
2323     {
2324       tree tmp = chrec_convert_aggressive (type, op0);
2325       if (tmp)
2326         return tmp;
2327     }
2328
2329   if (chrec && op0 == op)
2330     return chrec;
2331
2332   /* If we used chrec_convert_aggressive, we can no longer assume that
2333      signed chrecs do not overflow, as chrec_convert does, so avoid
2334      calling it in that case.  */
2335   if (fold_conversions)
2336     return fold_convert (type, op0);
2337
2338   return chrec_convert (type, op0, NULL);
2339 }
2340
2341 /* Analyze all the parameters of the chrec, between INSTANTIATE_BELOW
2342    and EVOLUTION_LOOP, that were left under a symbolic form.
2343
2344    CHREC is a BIT_NOT_EXPR expression to be instantiated.
2345    Handle ~X as -1 - X.
2346
2347    CACHE is the cache of already instantiated values.
2348
2349    FOLD_CONVERSIONS should be set to true when the conversions that
2350    may wrap in signed/pointer type are folded, as long as the value of
2351    the chrec is preserved.
2352
2353    SIZE_EXPR is used for computing the size of the expression to be
2354    instantiated, and to stop if it exceeds some limit.  */
2355
2356 static tree
2357 instantiate_scev_bitnot (basic_block instantiate_below,
2358                          struct loop *evolution_loop, tree chrec,
2359                          bool fold_conversions, htab_t cache, int size_expr)
2360 {
2361   tree type = chrec_type (chrec);
2362   tree op0 = instantiate_scev_1 (instantiate_below, evolution_loop,
2363                                  TREE_OPERAND (chrec, 0),
2364                                  fold_conversions, cache, size_expr);
2365   if (op0 == chrec_dont_know)
2366     return chrec_dont_know;
2367
2368   if (TREE_OPERAND (chrec, 0) != op0)
2369     {
2370       op0 = chrec_convert (type, op0, NULL);
2371       chrec = chrec_fold_minus (type,
2372                                 fold_convert (type,
2373                                               integer_minus_one_node),
2374                                 op0);
2375     }
2376   return chrec;
2377 }
2378
2379 /* Analyze all the parameters of the chrec, between INSTANTIATE_BELOW
2380    and EVOLUTION_LOOP, that were left under a symbolic form.
2381
2382    CHREC is the scalar evolution to instantiate.
2383
2384    CACHE is the cache of already instantiated values.
2385
2386    FOLD_CONVERSIONS should be set to true when the conversions that
2387    may wrap in signed/pointer type are folded, as long as the value of
2388    the chrec is preserved.
2389
2390    SIZE_EXPR is used for computing the size of the expression to be
2391    instantiated, and to stop if it exceeds some limit.  */
2392
2393 static tree
2394 instantiate_scev_1 (basic_block instantiate_below,
2395                     struct loop *evolution_loop, tree chrec,
2396                     bool fold_conversions, htab_t cache, int size_expr)
2397 {
2398   tree op0, op1, op2;
2399
2400   /* Give up if the expression is larger than the MAX that we allow.  */
2401   if (size_expr++ > PARAM_VALUE (PARAM_SCEV_MAX_EXPR_SIZE))
2402     return chrec_dont_know;
2403
2404   if (automatically_generated_chrec_p (chrec)
2405       || is_gimple_min_invariant (chrec))
2406     return chrec;
2407
2408   switch (TREE_CODE (chrec))
2409     {
2410     case SSA_NAME:
2411       return instantiate_scev_name (instantiate_below, evolution_loop, chrec,
2412                                     fold_conversions, cache, size_expr);
2413
2414     case POLYNOMIAL_CHREC:
2415       return instantiate_scev_poly (instantiate_below, evolution_loop, chrec,
2416                                     fold_conversions, cache, size_expr);
2417
2418     case POINTER_PLUS_EXPR:
2419     case PLUS_EXPR:
2420     case MINUS_EXPR:
2421     case MULT_EXPR:
2422       return instantiate_scev_binary (instantiate_below, evolution_loop, chrec,
2423                                       fold_conversions, cache, size_expr);
2424
2425     CASE_CONVERT:
2426       return instantiate_scev_convert (instantiate_below, evolution_loop, chrec,
2427                                        TREE_TYPE (chrec), TREE_OPERAND (chrec, 0),
2428                                        fold_conversions, cache, size_expr);
2429
2430     case BIT_NOT_EXPR:
2431       return instantiate_scev_bitnot (instantiate_below, evolution_loop, chrec,
2432                                       fold_conversions, cache, size_expr);
2433
2434     case SCEV_NOT_KNOWN:
2435       return chrec_dont_know;
2436
2437     case SCEV_KNOWN:
2438       return chrec_known;
2439
2440     default:
2441       break;
2442     }
2443
2444   if (VL_EXP_CLASS_P (chrec))
2445     return chrec_dont_know;
2446
2447   switch (TREE_CODE_LENGTH (TREE_CODE (chrec)))
2448     {
2449     case 3:
2450       op0 = instantiate_scev_1 (instantiate_below, evolution_loop,
2451                                 TREE_OPERAND (chrec, 0),
2452                                 fold_conversions, cache, size_expr);
2453       if (op0 == chrec_dont_know)
2454         return chrec_dont_know;
2455
2456       op1 = instantiate_scev_1 (instantiate_below, evolution_loop,
2457                                 TREE_OPERAND (chrec, 1),
2458                                 fold_conversions, cache, size_expr);
2459       if (op1 == chrec_dont_know)
2460         return chrec_dont_know;
2461
2462       op2 = instantiate_scev_1 (instantiate_below, evolution_loop,
2463                                 TREE_OPERAND (chrec, 2),
2464                                 fold_conversions, cache, size_expr);
2465       if (op2 == chrec_dont_know)
2466         return chrec_dont_know;
2467
2468       if (op0 == TREE_OPERAND (chrec, 0)
2469           && op1 == TREE_OPERAND (chrec, 1)
2470           && op2 == TREE_OPERAND (chrec, 2))
2471         return chrec;
2472
2473       return fold_build3 (TREE_CODE (chrec),
2474                           TREE_TYPE (chrec), op0, op1, op2);
2475
2476     case 2:
2477       op0 = instantiate_scev_1 (instantiate_below, evolution_loop,
2478                                 TREE_OPERAND (chrec, 0),
2479                                 fold_conversions, cache, size_expr);
2480       if (op0 == chrec_dont_know)
2481         return chrec_dont_know;
2482
2483       op1 = instantiate_scev_1 (instantiate_below, evolution_loop,
2484                                 TREE_OPERAND (chrec, 1),
2485                                 fold_conversions, cache, size_expr);
2486       if (op1 == chrec_dont_know)
2487         return chrec_dont_know;
2488
2489       if (op0 == TREE_OPERAND (chrec, 0)
2490           && op1 == TREE_OPERAND (chrec, 1))
2491         return chrec;
2492       return fold_build2 (TREE_CODE (chrec), TREE_TYPE (chrec), op0, op1);
2493
2494     case 1:
2495       op0 = instantiate_scev_1 (instantiate_below, evolution_loop,
2496                                 TREE_OPERAND (chrec, 0),
2497                                 fold_conversions, cache, size_expr);
2498       if (op0 == chrec_dont_know)
2499         return chrec_dont_know;
2500       if (op0 == TREE_OPERAND (chrec, 0))
2501         return chrec;
2502       return fold_build1 (TREE_CODE (chrec), TREE_TYPE (chrec), op0);
2503
2504     case 0:
2505       return chrec;
2506
2507     default:
2508       break;
2509     }
2510
2511   /* Too complicated to handle.  */
2512   return chrec_dont_know;
2513 }
2514
2515 /* Analyze all the parameters of the chrec that were left under a
2516    symbolic form.  INSTANTIATE_BELOW is the basic block that stops the
2517    recursive instantiation of parameters: a parameter is a variable
2518    that is defined in a basic block that dominates INSTANTIATE_BELOW or
2519    a function parameter.  */
2520
2521 tree
2522 instantiate_scev (basic_block instantiate_below, struct loop *evolution_loop,
2523                   tree chrec)
2524 {
2525   tree res;
2526   htab_t cache = htab_create (10, hash_scev_info, eq_scev_info, del_scev_info);
2527
2528   if (dump_file && (dump_flags & TDF_DETAILS))
2529     {
2530       fprintf (dump_file, "(instantiate_scev \n");
2531       fprintf (dump_file, "  (instantiate_below = %d)\n", instantiate_below->index);
2532       fprintf (dump_file, "  (evolution_loop = %d)\n", evolution_loop->num);
2533       fprintf (dump_file, "  (chrec = ");
2534       print_generic_expr (dump_file, chrec, 0);
2535       fprintf (dump_file, ")\n");
2536     }
2537  
2538   res = instantiate_scev_1 (instantiate_below, evolution_loop, chrec, false,
2539                             cache, 0);
2540
2541   if (dump_file && (dump_flags & TDF_DETAILS))
2542     {
2543       fprintf (dump_file, "  (res = ");
2544       print_generic_expr (dump_file, res, 0);
2545       fprintf (dump_file, "))\n");
2546     }
2547
2548   htab_delete (cache);
2549   
2550   return res;
2551 }
2552
2553 /* Similar to instantiate_parameters, but does not introduce the
2554    evolutions in outer loops for LOOP invariants in CHREC, and does not
2555    care about causing overflows, as long as they do not affect value
2556    of an expression.  */
2557
2558 tree
2559 resolve_mixers (struct loop *loop, tree chrec)
2560 {
2561   htab_t cache = htab_create (10, hash_scev_info, eq_scev_info, del_scev_info);
2562   tree ret = instantiate_scev_1 (block_before_loop (loop), loop, chrec, true,
2563                                  cache, 0);
2564   htab_delete (cache);
2565   return ret;
2566 }
2567
2568 /* Entry point for the analysis of the number of iterations pass.  
2569    This function tries to safely approximate the number of iterations
2570    the loop will run.  When this property is not decidable at compile
2571    time, the result is chrec_dont_know.  Otherwise the result is
2572    a scalar or a symbolic parameter.
2573    
2574    Example of analysis: suppose that the loop has an exit condition:
2575    
2576    "if (b > 49) goto end_loop;"
2577    
2578    and that in a previous analysis we have determined that the
2579    variable 'b' has an evolution function:
2580    
2581    "EF = {23, +, 5}_2".  
2582    
2583    When we evaluate the function at the point 5, i.e. the value of the
2584    variable 'b' after 5 iterations in the loop, we have EF (5) = 48,
2585    and EF (6) = 53.  In this case the value of 'b' on exit is '53' and
2586    the loop body has been executed 6 times.  */
2587
2588 tree 
2589 number_of_latch_executions (struct loop *loop)
2590 {
2591   tree res, type;
2592   edge exit;
2593   struct tree_niter_desc niter_desc;
2594
2595   /* Determine whether the number_of_iterations_in_loop has already
2596      been computed.  */
2597   res = loop->nb_iterations;
2598   if (res)
2599     return res;
2600   res = chrec_dont_know;
2601
2602   if (dump_file && (dump_flags & TDF_DETAILS))
2603     fprintf (dump_file, "(number_of_iterations_in_loop\n");
2604   
2605   exit = single_exit (loop);
2606   if (!exit)
2607     goto end;
2608
2609   if (!number_of_iterations_exit (loop, exit, &niter_desc, false))
2610     goto end;
2611
2612   type = TREE_TYPE (niter_desc.niter);
2613   if (integer_nonzerop (niter_desc.may_be_zero))
2614     res = build_int_cst (type, 0);
2615   else if (integer_zerop (niter_desc.may_be_zero))
2616     res = niter_desc.niter;
2617   else
2618     res = chrec_dont_know;
2619
2620 end:
2621   return set_nb_iterations_in_loop (loop, res);
2622 }
2623
2624 /* Returns the number of executions of the exit condition of LOOP,
2625    i.e., the number by one higher than number_of_latch_executions.
2626    Note that unlike number_of_latch_executions, this number does
2627    not necessarily fit in the unsigned variant of the type of
2628    the control variable -- if the number of iterations is a constant,
2629    we return chrec_dont_know if adding one to number_of_latch_executions
2630    overflows; however, in case the number of iterations is symbolic
2631    expression, the caller is responsible for dealing with this
2632    the possible overflow.  */
2633
2634 tree 
2635 number_of_exit_cond_executions (struct loop *loop)
2636 {
2637   tree ret = number_of_latch_executions (loop);
2638   tree type = chrec_type (ret);
2639
2640   if (chrec_contains_undetermined (ret))
2641     return ret;
2642
2643   ret = chrec_fold_plus (type, ret, build_int_cst (type, 1));
2644   if (TREE_CODE (ret) == INTEGER_CST
2645       && TREE_OVERFLOW (ret))
2646     return chrec_dont_know;
2647
2648   return ret;
2649 }
2650
2651 /* One of the drivers for testing the scalar evolutions analysis.
2652    This function computes the number of iterations for all the loops
2653    from the EXIT_CONDITIONS array.  */
2654
2655 static void 
2656 number_of_iterations_for_all_loops (VEC(gimple,heap) **exit_conditions)
2657 {
2658   unsigned int i;
2659   unsigned nb_chrec_dont_know_loops = 0;
2660   unsigned nb_static_loops = 0;
2661   gimple cond;
2662   
2663   for (i = 0; VEC_iterate (gimple, *exit_conditions, i, cond); i++)
2664     {
2665       tree res = number_of_latch_executions (loop_containing_stmt (cond));
2666       if (chrec_contains_undetermined (res))
2667         nb_chrec_dont_know_loops++;
2668       else
2669         nb_static_loops++;
2670     }
2671   
2672   if (dump_file)
2673     {
2674       fprintf (dump_file, "\n(\n");
2675       fprintf (dump_file, "-----------------------------------------\n");
2676       fprintf (dump_file, "%d\tnb_chrec_dont_know_loops\n", nb_chrec_dont_know_loops);
2677       fprintf (dump_file, "%d\tnb_static_loops\n", nb_static_loops);
2678       fprintf (dump_file, "%d\tnb_total_loops\n", number_of_loops ());
2679       fprintf (dump_file, "-----------------------------------------\n");
2680       fprintf (dump_file, ")\n\n");
2681       
2682       print_loops (dump_file, 3);
2683     }
2684 }
2685
2686 \f
2687
2688 /* Counters for the stats.  */
2689
2690 struct chrec_stats 
2691 {
2692   unsigned nb_chrecs;
2693   unsigned nb_affine;
2694   unsigned nb_affine_multivar;
2695   unsigned nb_higher_poly;
2696   unsigned nb_chrec_dont_know;
2697   unsigned nb_undetermined;
2698 };
2699
2700 /* Reset the counters.  */
2701
2702 static inline void
2703 reset_chrecs_counters (struct chrec_stats *stats)
2704 {
2705   stats->nb_chrecs = 0;
2706   stats->nb_affine = 0;
2707   stats->nb_affine_multivar = 0;
2708   stats->nb_higher_poly = 0;
2709   stats->nb_chrec_dont_know = 0;
2710   stats->nb_undetermined = 0;
2711 }
2712
2713 /* Dump the contents of a CHREC_STATS structure.  */
2714
2715 static void
2716 dump_chrecs_stats (FILE *file, struct chrec_stats *stats)
2717 {
2718   fprintf (file, "\n(\n");
2719   fprintf (file, "-----------------------------------------\n");
2720   fprintf (file, "%d\taffine univariate chrecs\n", stats->nb_affine);
2721   fprintf (file, "%d\taffine multivariate chrecs\n", stats->nb_affine_multivar);
2722   fprintf (file, "%d\tdegree greater than 2 polynomials\n", 
2723            stats->nb_higher_poly);
2724   fprintf (file, "%d\tchrec_dont_know chrecs\n", stats->nb_chrec_dont_know);
2725   fprintf (file, "-----------------------------------------\n");
2726   fprintf (file, "%d\ttotal chrecs\n", stats->nb_chrecs);
2727   fprintf (file, "%d\twith undetermined coefficients\n", 
2728            stats->nb_undetermined);
2729   fprintf (file, "-----------------------------------------\n");
2730   fprintf (file, "%d\tchrecs in the scev database\n", 
2731            (int) htab_elements (scalar_evolution_info));
2732   fprintf (file, "%d\tsets in the scev database\n", nb_set_scev);
2733   fprintf (file, "%d\tgets in the scev database\n", nb_get_scev);
2734   fprintf (file, "-----------------------------------------\n");
2735   fprintf (file, ")\n\n");
2736 }
2737
2738 /* Gather statistics about CHREC.  */
2739
2740 static void
2741 gather_chrec_stats (tree chrec, struct chrec_stats *stats)
2742 {
2743   if (dump_file && (dump_flags & TDF_STATS))
2744     {
2745       fprintf (dump_file, "(classify_chrec ");
2746       print_generic_expr (dump_file, chrec, 0);
2747       fprintf (dump_file, "\n");
2748     }
2749   
2750   stats->nb_chrecs++;
2751   
2752   if (chrec == NULL_TREE)
2753     {
2754       stats->nb_undetermined++;
2755       return;
2756     }
2757   
2758   switch (TREE_CODE (chrec))
2759     {
2760     case POLYNOMIAL_CHREC:
2761       if (evolution_function_is_affine_p (chrec))
2762         {
2763           if (dump_file && (dump_flags & TDF_STATS))
2764             fprintf (dump_file, "  affine_univariate\n");
2765           stats->nb_affine++;
2766         }
2767       else if (evolution_function_is_affine_multivariate_p (chrec, 0))
2768         {
2769           if (dump_file && (dump_flags & TDF_STATS))
2770             fprintf (dump_file, "  affine_multivariate\n");
2771           stats->nb_affine_multivar++;
2772         }
2773       else
2774         {
2775           if (dump_file && (dump_flags & TDF_STATS))
2776             fprintf (dump_file, "  higher_degree_polynomial\n");
2777           stats->nb_higher_poly++;
2778         }
2779       
2780       break;
2781
2782     default:
2783       break;
2784     }
2785   
2786   if (chrec_contains_undetermined (chrec))
2787     {
2788       if (dump_file && (dump_flags & TDF_STATS))
2789         fprintf (dump_file, "  undetermined\n");
2790       stats->nb_undetermined++;
2791     }
2792   
2793   if (dump_file && (dump_flags & TDF_STATS))
2794     fprintf (dump_file, ")\n");
2795 }
2796
2797 /* One of the drivers for testing the scalar evolutions analysis.
2798    This function analyzes the scalar evolution of all the scalars
2799    defined as loop phi nodes in one of the loops from the
2800    EXIT_CONDITIONS array.  
2801    
2802    TODO Optimization: A loop is in canonical form if it contains only
2803    a single scalar loop phi node.  All the other scalars that have an
2804    evolution in the loop are rewritten in function of this single
2805    index.  This allows the parallelization of the loop.  */
2806
2807 static void 
2808 analyze_scalar_evolution_for_all_loop_phi_nodes (VEC(gimple,heap) **exit_conditions)
2809 {
2810   unsigned int i;
2811   struct chrec_stats stats;
2812   gimple cond, phi;
2813   gimple_stmt_iterator psi;
2814   
2815   reset_chrecs_counters (&stats);
2816   
2817   for (i = 0; VEC_iterate (gimple, *exit_conditions, i, cond); i++)
2818     {
2819       struct loop *loop;
2820       basic_block bb;
2821       tree chrec;
2822       
2823       loop = loop_containing_stmt (cond);
2824       bb = loop->header;
2825       
2826       for (psi = gsi_start_phis (bb); !gsi_end_p (psi); gsi_next (&psi))
2827         {
2828           phi = gsi_stmt (psi);
2829           if (is_gimple_reg (PHI_RESULT (phi)))
2830             {
2831               chrec = instantiate_parameters 
2832                         (loop, 
2833                          analyze_scalar_evolution (loop, PHI_RESULT (phi)));
2834             
2835               if (dump_file && (dump_flags & TDF_STATS))
2836                 gather_chrec_stats (chrec, &stats);
2837             }
2838         }
2839     }
2840   
2841   if (dump_file && (dump_flags & TDF_STATS))
2842     dump_chrecs_stats (dump_file, &stats);
2843 }
2844
2845 /* Callback for htab_traverse, gathers information on chrecs in the
2846    hashtable.  */
2847
2848 static int
2849 gather_stats_on_scev_database_1 (void **slot, void *stats)
2850 {
2851   struct scev_info_str *entry = (struct scev_info_str *) *slot;
2852
2853   gather_chrec_stats (entry->chrec, (struct chrec_stats *) stats);
2854
2855   return 1;
2856 }
2857
2858 /* Classify the chrecs of the whole database.  */
2859
2860 void 
2861 gather_stats_on_scev_database (void)
2862 {
2863   struct chrec_stats stats;
2864   
2865   if (!dump_file)
2866     return;
2867   
2868   reset_chrecs_counters (&stats);
2869  
2870   htab_traverse (scalar_evolution_info, gather_stats_on_scev_database_1,
2871                  &stats);
2872
2873   dump_chrecs_stats (dump_file, &stats);
2874 }
2875
2876 \f
2877
2878 /* Initializer.  */
2879
2880 static void
2881 initialize_scalar_evolutions_analyzer (void)
2882 {
2883   /* The elements below are unique.  */
2884   if (chrec_dont_know == NULL_TREE)
2885     {
2886       chrec_not_analyzed_yet = NULL_TREE;
2887       chrec_dont_know = make_node (SCEV_NOT_KNOWN);
2888       chrec_known = make_node (SCEV_KNOWN);
2889       TREE_TYPE (chrec_dont_know) = void_type_node;
2890       TREE_TYPE (chrec_known) = void_type_node;
2891     }
2892 }
2893
2894 /* Initialize the analysis of scalar evolutions for LOOPS.  */
2895
2896 void
2897 scev_initialize (void)
2898 {
2899   loop_iterator li;
2900   struct loop *loop;
2901
2902   scalar_evolution_info = htab_create_alloc (100,
2903                                              hash_scev_info,
2904                                              eq_scev_info,
2905                                              del_scev_info,
2906                                              ggc_calloc,
2907                                              ggc_free);
2908   
2909   initialize_scalar_evolutions_analyzer ();
2910
2911   FOR_EACH_LOOP (li, loop, 0)
2912     {
2913       loop->nb_iterations = NULL_TREE;
2914     }
2915 }
2916
2917 /* Cleans up the information cached by the scalar evolutions analysis.  */
2918
2919 void
2920 scev_reset (void)
2921 {
2922   loop_iterator li;
2923   struct loop *loop;
2924
2925   if (!scalar_evolution_info || !current_loops)
2926     return;
2927
2928   htab_empty (scalar_evolution_info);
2929   FOR_EACH_LOOP (li, loop, 0)
2930     {
2931       loop->nb_iterations = NULL_TREE;
2932     }
2933 }
2934
2935 /* Checks whether use of OP in USE_LOOP behaves as a simple affine iv with
2936    respect to WRTO_LOOP and returns its base and step in IV if possible
2937    (see analyze_scalar_evolution_in_loop for more details on USE_LOOP
2938    and WRTO_LOOP).  If ALLOW_NONCONSTANT_STEP is true, we want step to be
2939    invariant in LOOP.  Otherwise we require it to be an integer constant.
2940    
2941    IV->no_overflow is set to true if we are sure the iv cannot overflow (e.g.
2942    because it is computed in signed arithmetics).  Consequently, adding an
2943    induction variable
2944    
2945    for (i = IV->base; ; i += IV->step)
2946
2947    is only safe if IV->no_overflow is false, or TYPE_OVERFLOW_UNDEFINED is
2948    false for the type of the induction variable, or you can prove that i does
2949    not wrap by some other argument.  Otherwise, this might introduce undefined
2950    behavior, and
2951    
2952    for (i = iv->base; ; i = (type) ((unsigned type) i + (unsigned type) iv->step))
2953
2954    must be used instead.  */
2955
2956 bool
2957 simple_iv (struct loop *wrto_loop, struct loop *use_loop, tree op,
2958            affine_iv *iv, bool allow_nonconstant_step)
2959 {
2960   tree type, ev;
2961   bool folded_casts;
2962
2963   iv->base = NULL_TREE;
2964   iv->step = NULL_TREE;
2965   iv->no_overflow = false;
2966
2967   type = TREE_TYPE (op);
2968   if (TREE_CODE (type) != INTEGER_TYPE
2969       && TREE_CODE (type) != POINTER_TYPE)
2970     return false;
2971
2972   ev = analyze_scalar_evolution_in_loop (wrto_loop, use_loop, op,
2973                                          &folded_casts);
2974   if (chrec_contains_undetermined (ev)
2975       || chrec_contains_symbols_defined_in_loop (ev, wrto_loop->num))
2976     return false;
2977
2978   if (tree_does_not_contain_chrecs (ev))
2979     {
2980       iv->base = ev;
2981       iv->step = build_int_cst (TREE_TYPE (ev), 0);
2982       iv->no_overflow = true;
2983       return true;
2984     }
2985
2986   if (TREE_CODE (ev) != POLYNOMIAL_CHREC
2987       || CHREC_VARIABLE (ev) != (unsigned) wrto_loop->num)
2988     return false;
2989
2990   iv->step = CHREC_RIGHT (ev);
2991   if ((!allow_nonconstant_step && TREE_CODE (iv->step) != INTEGER_CST)
2992       || tree_contains_chrecs (iv->step, NULL))
2993     return false;
2994
2995   iv->base = CHREC_LEFT (ev);
2996   if (tree_contains_chrecs (iv->base, NULL))
2997     return false;
2998
2999   iv->no_overflow = !folded_casts && TYPE_OVERFLOW_UNDEFINED (type);
3000
3001   return true;
3002 }
3003
3004 /* Runs the analysis of scalar evolutions.  */
3005
3006 void
3007 scev_analysis (void)
3008 {
3009   VEC(gimple,heap) *exit_conditions;
3010   
3011   exit_conditions = VEC_alloc (gimple, heap, 37);
3012   select_loops_exit_conditions (&exit_conditions);
3013
3014   if (dump_file && (dump_flags & TDF_STATS))
3015     analyze_scalar_evolution_for_all_loop_phi_nodes (&exit_conditions);
3016   
3017   number_of_iterations_for_all_loops (&exit_conditions);
3018   VEC_free (gimple, heap, exit_conditions);
3019 }
3020
3021 /* Finalize the scalar evolution analysis.  */
3022
3023 void
3024 scev_finalize (void)
3025 {
3026   if (!scalar_evolution_info)
3027     return;
3028   htab_delete (scalar_evolution_info);
3029   scalar_evolution_info = NULL;
3030 }
3031
3032 /* Returns true if the expression EXPR is considered to be too expensive
3033    for scev_const_prop.  */
3034
3035 bool
3036 expression_expensive_p (tree expr)
3037 {
3038   enum tree_code code;
3039
3040   if (is_gimple_val (expr))
3041     return false;
3042
3043   code = TREE_CODE (expr);
3044   if (code == TRUNC_DIV_EXPR
3045       || code == CEIL_DIV_EXPR
3046       || code == FLOOR_DIV_EXPR
3047       || code == ROUND_DIV_EXPR
3048       || code == TRUNC_MOD_EXPR
3049       || code == CEIL_MOD_EXPR
3050       || code == FLOOR_MOD_EXPR
3051       || code == ROUND_MOD_EXPR
3052       || code == EXACT_DIV_EXPR)
3053     {
3054       /* Division by power of two is usually cheap, so we allow it.
3055          Forbid anything else.  */
3056       if (!integer_pow2p (TREE_OPERAND (expr, 1)))
3057         return true;
3058     }
3059
3060   switch (TREE_CODE_CLASS (code))
3061     {
3062     case tcc_binary:
3063     case tcc_comparison:
3064       if (expression_expensive_p (TREE_OPERAND (expr, 1)))
3065         return true;
3066
3067       /* Fallthru.  */
3068     case tcc_unary:
3069       return expression_expensive_p (TREE_OPERAND (expr, 0));
3070
3071     default:
3072       return true;
3073     }
3074 }
3075
3076 /* Replace ssa names for that scev can prove they are constant by the
3077    appropriate constants.  Also perform final value replacement in loops,
3078    in case the replacement expressions are cheap.
3079    
3080    We only consider SSA names defined by phi nodes; rest is left to the
3081    ordinary constant propagation pass.  */
3082
3083 unsigned int
3084 scev_const_prop (void)
3085 {
3086   basic_block bb;
3087   tree name, type, ev;
3088   gimple phi, ass;
3089   struct loop *loop, *ex_loop;
3090   bitmap ssa_names_to_remove = NULL;
3091   unsigned i;
3092   loop_iterator li;
3093   gimple_stmt_iterator psi;
3094
3095   if (number_of_loops () <= 1)
3096     return 0;
3097
3098   FOR_EACH_BB (bb)
3099     {
3100       loop = bb->loop_father;
3101
3102       for (psi = gsi_start_phis (bb); !gsi_end_p (psi); gsi_next (&psi))
3103         {
3104           phi = gsi_stmt (psi);
3105           name = PHI_RESULT (phi);
3106
3107           if (!is_gimple_reg (name))
3108             continue;
3109
3110           type = TREE_TYPE (name);
3111
3112           if (!POINTER_TYPE_P (type)
3113               && !INTEGRAL_TYPE_P (type))
3114             continue;
3115
3116           ev = resolve_mixers (loop, analyze_scalar_evolution (loop, name));
3117           if (!is_gimple_min_invariant (ev)
3118               || !may_propagate_copy (name, ev))
3119             continue;
3120
3121           /* Replace the uses of the name.  */
3122           if (name != ev)
3123             replace_uses_by (name, ev);
3124
3125           if (!ssa_names_to_remove)
3126             ssa_names_to_remove = BITMAP_ALLOC (NULL);
3127           bitmap_set_bit (ssa_names_to_remove, SSA_NAME_VERSION (name));
3128         }
3129     }
3130
3131   /* Remove the ssa names that were replaced by constants.  We do not
3132      remove them directly in the previous cycle, since this
3133      invalidates scev cache.  */
3134   if (ssa_names_to_remove)
3135     {
3136       bitmap_iterator bi;
3137
3138       EXECUTE_IF_SET_IN_BITMAP (ssa_names_to_remove, 0, i, bi)
3139         {
3140           gimple_stmt_iterator psi;
3141           name = ssa_name (i);
3142           phi = SSA_NAME_DEF_STMT (name);
3143
3144           gcc_assert (gimple_code (phi) == GIMPLE_PHI);
3145           psi = gsi_for_stmt (phi);
3146           remove_phi_node (&psi, true);
3147         }
3148
3149       BITMAP_FREE (ssa_names_to_remove);
3150       scev_reset ();
3151     }
3152
3153   /* Now the regular final value replacement.  */
3154   FOR_EACH_LOOP (li, loop, LI_FROM_INNERMOST)
3155     {
3156       edge exit;
3157       tree def, rslt, niter;
3158       gimple_stmt_iterator bsi;
3159
3160       /* If we do not know exact number of iterations of the loop, we cannot
3161          replace the final value.  */
3162       exit = single_exit (loop);
3163       if (!exit)
3164         continue;
3165
3166       niter = number_of_latch_executions (loop);
3167       if (niter == chrec_dont_know)
3168         continue;
3169
3170       /* Ensure that it is possible to insert new statements somewhere.  */
3171       if (!single_pred_p (exit->dest))
3172         split_loop_exit_edge (exit);
3173       bsi = gsi_after_labels (exit->dest);
3174
3175       ex_loop = superloop_at_depth (loop,
3176                                     loop_depth (exit->dest->loop_father) + 1);
3177
3178       for (psi = gsi_start_phis (exit->dest); !gsi_end_p (psi); )
3179         {
3180           phi = gsi_stmt (psi);
3181           rslt = PHI_RESULT (phi);
3182           def = PHI_ARG_DEF_FROM_EDGE (phi, exit);
3183           if (!is_gimple_reg (def))
3184             {
3185               gsi_next (&psi);
3186               continue;
3187             }
3188
3189           if (!POINTER_TYPE_P (TREE_TYPE (def))
3190               && !INTEGRAL_TYPE_P (TREE_TYPE (def)))
3191             {
3192               gsi_next (&psi);
3193               continue;
3194             }
3195
3196           def = analyze_scalar_evolution_in_loop (ex_loop, loop, def, NULL);
3197           def = compute_overall_effect_of_inner_loop (ex_loop, def);
3198           if (!tree_does_not_contain_chrecs (def)
3199               || chrec_contains_symbols_defined_in_loop (def, ex_loop->num)
3200               /* Moving the computation from the loop may prolong life range
3201                  of some ssa names, which may cause problems if they appear
3202                  on abnormal edges.  */
3203               || contains_abnormal_ssa_name_p (def)
3204               /* Do not emit expensive expressions.  The rationale is that
3205                  when someone writes a code like
3206
3207                  while (n > 45) n -= 45;
3208
3209                  he probably knows that n is not large, and does not want it
3210                  to be turned into n %= 45.  */
3211               || expression_expensive_p (def))
3212             {
3213               gsi_next (&psi);
3214               continue;
3215             }
3216
3217           /* Eliminate the PHI node and replace it by a computation outside
3218              the loop.  */
3219           def = unshare_expr (def);
3220           remove_phi_node (&psi, false);
3221
3222           def = force_gimple_operand_gsi (&bsi, def, false, NULL_TREE,
3223                                           true, GSI_SAME_STMT);
3224           ass = gimple_build_assign (rslt, def);
3225           gsi_insert_before (&bsi, ass, GSI_SAME_STMT);
3226         }
3227     }
3228   return 0;
3229 }
3230
3231 #include "gt-tree-scalar-evolution.h"