OSDN Git Service

* ipa-pure-const.c (special_builtlin_state): New function.
[pf3gnuchains/gcc-fork.git] / gcc / graphite-sese-to-poly.c
1 /* Conversion of SESE regions to Polyhedra.
2    Copyright (C) 2009, 2010 Free Software Foundation, Inc.
3    Contributed by Sebastian Pop <sebastian.pop@amd.com>.
4
5 This file is part of GCC.
6
7 GCC is free software; you can redistribute it and/or modify
8 it under the terms of the GNU General Public License as published by
9 the Free Software Foundation; either version 3, or (at your option)
10 any later version.
11
12 GCC is distributed in the hope that it will be useful,
13 but WITHOUT ANY WARRANTY; without even the implied warranty of
14 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
15 GNU General Public License for more details.
16
17 You should have received a copy of the GNU General Public License
18 along with GCC; see the file COPYING3.  If not see
19 <http://www.gnu.org/licenses/>.  */
20
21 #include "config.h"
22 #include "system.h"
23 #include "coretypes.h"
24 #include "tm.h"
25 #include "ggc.h"
26 #include "tree.h"
27 #include "rtl.h"
28 #include "basic-block.h"
29 #include "diagnostic.h"
30 #include "tree-flow.h"
31 #include "toplev.h"
32 #include "tree-dump.h"
33 #include "timevar.h"
34 #include "cfgloop.h"
35 #include "tree-chrec.h"
36 #include "tree-data-ref.h"
37 #include "tree-scalar-evolution.h"
38 #include "tree-pass.h"
39 #include "domwalk.h"
40 #include "value-prof.h"
41 #include "pointer-set.h"
42 #include "gimple.h"
43 #include "sese.h"
44
45 #ifdef HAVE_cloog
46 #include "cloog/cloog.h"
47 #include "ppl_c.h"
48 #include "graphite-ppl.h"
49 #include "graphite.h"
50 #include "graphite-poly.h"
51 #include "graphite-scop-detection.h"
52 #include "graphite-clast-to-gimple.h"
53 #include "graphite-sese-to-poly.h"
54
55 /* Check if VAR is used in a phi node, that is no loop header.  */
56
57 static bool
58 var_used_in_not_loop_header_phi_node (tree var)
59 {
60   imm_use_iterator imm_iter;
61   gimple stmt;
62   bool result = false;
63
64   FOR_EACH_IMM_USE_STMT (stmt, imm_iter, var)
65     {
66       basic_block bb = gimple_bb (stmt);
67
68       if (gimple_code (stmt) == GIMPLE_PHI
69           && bb->loop_father->header != bb)
70         result = true;
71     }
72
73   return result;
74 }
75
76 /* Returns the index of the phi argument corresponding to the initial
77    value in the loop.  */
78
79 static size_t
80 loop_entry_phi_arg (gimple phi)
81 {
82   loop_p loop = gimple_bb (phi)->loop_father;
83   size_t i;
84
85   for (i = 0; i < gimple_phi_num_args (phi); i++)
86     if (!flow_bb_inside_loop_p (loop, gimple_phi_arg_edge (phi, i)->src))
87       return i;
88
89   gcc_unreachable ();
90   return 0;
91 }
92
93 /* Removes a simple copy phi node "RES = phi (INIT, RES)" at position
94    PSI by inserting on the loop ENTRY edge assignment "RES = INIT".  */
95
96 static void
97 remove_simple_copy_phi (gimple_stmt_iterator *psi)
98 {
99   gimple phi = gsi_stmt (*psi);
100   tree res = gimple_phi_result (phi);
101   size_t entry = loop_entry_phi_arg (phi);
102   tree init = gimple_phi_arg_def (phi, entry);
103   gimple stmt = gimple_build_assign (res, init);
104   edge e = gimple_phi_arg_edge (phi, entry);
105
106   remove_phi_node (psi, false);
107   gsi_insert_on_edge_immediate (e, stmt);
108   SSA_NAME_DEF_STMT (res) = stmt;
109 }
110
111 /* Removes an invariant phi node at position PSI by inserting on the
112    loop ENTRY edge the assignment RES = INIT.  */
113
114 static void
115 remove_invariant_phi (sese region, gimple_stmt_iterator *psi)
116 {
117   gimple phi = gsi_stmt (*psi);
118   loop_p loop = loop_containing_stmt (phi);
119   tree res = gimple_phi_result (phi);
120   tree scev = scalar_evolution_in_region (region, loop, res);
121   size_t entry = loop_entry_phi_arg (phi);
122   edge e = gimple_phi_arg_edge (phi, entry);
123   tree var;
124   gimple stmt;
125   gimple_seq stmts;
126   gimple_stmt_iterator gsi;
127
128   if (tree_contains_chrecs (scev, NULL))
129     scev = gimple_phi_arg_def (phi, entry);
130
131   var = force_gimple_operand (scev, &stmts, true, NULL_TREE);
132   stmt = gimple_build_assign (res, var);
133   remove_phi_node (psi, false);
134
135   if (!stmts)
136     stmts = gimple_seq_alloc ();
137
138   gsi = gsi_last (stmts);
139   gsi_insert_after (&gsi, stmt, GSI_NEW_STMT);
140   gsi_insert_seq_on_edge (e, stmts);
141   gsi_commit_edge_inserts ();
142   SSA_NAME_DEF_STMT (res) = stmt;
143 }
144
145 /* Returns true when the phi node at PSI is of the form "a = phi (a, x)".  */
146
147 static inline bool
148 simple_copy_phi_p (gimple phi)
149 {
150   tree res;
151
152   if (gimple_phi_num_args (phi) != 2)
153     return false;
154
155   res = gimple_phi_result (phi);
156   return (res == gimple_phi_arg_def (phi, 0)
157           || res == gimple_phi_arg_def (phi, 1));
158 }
159
160 /* Returns true when the phi node at position PSI is a reduction phi
161    node in REGION.  Otherwise moves the pointer PSI to the next phi to
162    be considered.  */
163
164 static bool
165 reduction_phi_p (sese region, gimple_stmt_iterator *psi)
166 {
167   loop_p loop;
168   tree scev;
169   affine_iv iv;
170   gimple phi = gsi_stmt (*psi);
171   tree res = gimple_phi_result (phi);
172
173   if (!is_gimple_reg (res))
174     {
175       gsi_next (psi);
176       return false;
177     }
178
179   loop = loop_containing_stmt (phi);
180
181   if (simple_copy_phi_p (phi))
182     {
183       /* PRE introduces phi nodes like these, for an example,
184          see id-5.f in the fortran graphite testsuite:
185
186          # prephitmp.85_265 = PHI <prephitmp.85_258(33), prephitmp.85_265(18)>
187       */
188       remove_simple_copy_phi (psi);
189       return false;
190     }
191
192   /* Main induction variables with constant strides in LOOP are not
193      reductions.  */
194   if (simple_iv (loop, loop, res, &iv, true))
195     {
196       if (integer_zerop (iv.step))
197         remove_invariant_phi (region, psi);
198       else
199         gsi_next (psi);
200
201       return false;
202     }
203
204   scev = scalar_evolution_in_region (region, loop, res);
205   if (chrec_contains_undetermined (scev))
206     return true;
207
208   if (evolution_function_is_invariant_p (scev, loop->num))
209     {
210       remove_invariant_phi (region, psi);
211       return false;
212     }
213
214   /* All the other cases are considered reductions.  */
215   return true;
216 }
217
218 /* Returns true when BB will be represented in graphite.  Return false
219    for the basic blocks that contain code eliminated in the code
220    generation pass: i.e. induction variables and exit conditions.  */
221
222 static bool
223 graphite_stmt_p (sese region, basic_block bb,
224                  VEC (data_reference_p, heap) *drs)
225 {
226   gimple_stmt_iterator gsi;
227   loop_p loop = bb->loop_father;
228
229   if (VEC_length (data_reference_p, drs) > 0)
230     return true;
231
232   for (gsi = gsi_start_bb (bb); !gsi_end_p (gsi); gsi_next (&gsi))
233     {
234       gimple stmt = gsi_stmt (gsi);
235
236       switch (gimple_code (stmt))
237         {
238         case GIMPLE_DEBUG:
239           /* Control flow expressions can be ignored, as they are
240              represented in the iteration domains and will be
241              regenerated by graphite.  */
242         case GIMPLE_COND:
243         case GIMPLE_GOTO:
244         case GIMPLE_SWITCH:
245           break;
246
247         case GIMPLE_ASSIGN:
248           {
249             tree var = gimple_assign_lhs (stmt);
250
251             /* We need these bbs to be able to construct the phi nodes.  */
252             if (var_used_in_not_loop_header_phi_node (var))
253               return true;
254
255             var = scalar_evolution_in_region (region, loop, var);
256             if (chrec_contains_undetermined (var))
257               return true;
258
259             break;
260           }
261
262         default:
263           return true;
264         }
265     }
266
267   return false;
268 }
269
270 /* Store the GRAPHITE representation of BB.  */
271
272 static gimple_bb_p
273 new_gimple_bb (basic_block bb, VEC (data_reference_p, heap) *drs)
274 {
275   struct gimple_bb *gbb;
276
277   gbb = XNEW (struct gimple_bb);
278   bb->aux = gbb;
279   GBB_BB (gbb) = bb;
280   GBB_DATA_REFS (gbb) = drs;
281   GBB_CONDITIONS (gbb) = NULL;
282   GBB_CONDITION_CASES (gbb) = NULL;
283
284   return gbb;
285 }
286
287 static void
288 free_data_refs_aux (VEC (data_reference_p, heap) *datarefs)
289 {
290   unsigned int i;
291   struct data_reference *dr;
292
293   for (i = 0; VEC_iterate (data_reference_p, datarefs, i, dr); i++)
294     if (dr->aux)
295       {
296         base_alias_pair *bap = (base_alias_pair *)(dr->aux);
297
298         if (bap->alias_set)
299           free (bap->alias_set);
300
301         free (bap);
302         dr->aux = NULL;
303       }
304 }
305 /* Frees GBB.  */
306
307 static void
308 free_gimple_bb (struct gimple_bb *gbb)
309 {
310   free_data_refs_aux (GBB_DATA_REFS (gbb));
311   free_data_refs (GBB_DATA_REFS (gbb));
312
313   VEC_free (gimple, heap, GBB_CONDITIONS (gbb));
314   VEC_free (gimple, heap, GBB_CONDITION_CASES (gbb));
315   GBB_BB (gbb)->aux = 0;
316   XDELETE (gbb);
317 }
318
319 /* Deletes all gimple bbs in SCOP.  */
320
321 static void
322 remove_gbbs_in_scop (scop_p scop)
323 {
324   int i;
325   poly_bb_p pbb;
326
327   for (i = 0; VEC_iterate (poly_bb_p, SCOP_BBS (scop), i, pbb); i++)
328     free_gimple_bb (PBB_BLACK_BOX (pbb));
329 }
330
331 /* Deletes all scops in SCOPS.  */
332
333 void
334 free_scops (VEC (scop_p, heap) *scops)
335 {
336   int i;
337   scop_p scop;
338
339   for (i = 0; VEC_iterate (scop_p, scops, i, scop); i++)
340     {
341       remove_gbbs_in_scop (scop);
342       free_sese (SCOP_REGION (scop));
343       free_scop (scop);
344     }
345
346   VEC_free (scop_p, heap, scops);
347 }
348
349 /* Generates a polyhedral black box only if the bb contains interesting
350    information.  */
351
352 static void
353 try_generate_gimple_bb (scop_p scop, basic_block bb, sbitmap reductions)
354 {
355   VEC (data_reference_p, heap) *drs = VEC_alloc (data_reference_p, heap, 5);
356   loop_p nest = outermost_loop_in_sese (SCOP_REGION (scop), bb);
357   gimple_stmt_iterator gsi;
358
359   for (gsi = gsi_start_bb (bb); !gsi_end_p (gsi); gsi_next (&gsi))
360     {
361       gimple stmt = gsi_stmt (gsi);
362       if (!is_gimple_debug (stmt))
363         graphite_find_data_references_in_stmt (nest, stmt, &drs);
364     }
365
366   if (!graphite_stmt_p (SCOP_REGION (scop), bb, drs))
367     free_data_refs (drs);
368   else
369     new_poly_bb (scop, new_gimple_bb (bb, drs), TEST_BIT (reductions,
370                                                           bb->index));
371 }
372
373 /* Returns true if all predecessors of BB, that are not dominated by BB, are
374    marked in MAP.  The predecessors dominated by BB are loop latches and will
375    be handled after BB.  */
376
377 static bool
378 all_non_dominated_preds_marked_p (basic_block bb, sbitmap map)
379 {
380   edge e;
381   edge_iterator ei;
382
383   FOR_EACH_EDGE (e, ei, bb->preds)
384     if (!TEST_BIT (map, e->src->index)
385         && !dominated_by_p (CDI_DOMINATORS, e->src, bb))
386         return false;
387
388   return true;
389 }
390
391 /* Compare the depth of two basic_block's P1 and P2.  */
392
393 static int
394 compare_bb_depths (const void *p1, const void *p2)
395 {
396   const_basic_block const bb1 = *(const_basic_block const*)p1;
397   const_basic_block const bb2 = *(const_basic_block const*)p2;
398   int d1 = loop_depth (bb1->loop_father);
399   int d2 = loop_depth (bb2->loop_father);
400
401   if (d1 < d2)
402     return 1;
403
404   if (d1 > d2)
405     return -1;
406
407   return 0;
408 }
409
410 /* Sort the basic blocks from DOM such that the first are the ones at
411    a deepest loop level.  */
412
413 static void
414 graphite_sort_dominated_info (VEC (basic_block, heap) *dom)
415 {
416   size_t len = VEC_length (basic_block, dom);
417
418   qsort (VEC_address (basic_block, dom), len, sizeof (basic_block),
419          compare_bb_depths);
420 }
421
422 /* Recursive helper function for build_scops_bbs.  */
423
424 static void
425 build_scop_bbs_1 (scop_p scop, sbitmap visited, basic_block bb, sbitmap reductions)
426 {
427   sese region = SCOP_REGION (scop);
428   VEC (basic_block, heap) *dom;
429
430   if (TEST_BIT (visited, bb->index)
431       || !bb_in_sese_p (bb, region))
432     return;
433
434   try_generate_gimple_bb (scop, bb, reductions);
435   SET_BIT (visited, bb->index);
436
437   dom = get_dominated_by (CDI_DOMINATORS, bb);
438
439   if (dom == NULL)
440     return;
441
442   graphite_sort_dominated_info (dom);
443
444   while (!VEC_empty (basic_block, dom))
445     {
446       int i;
447       basic_block dom_bb;
448
449       for (i = 0; VEC_iterate (basic_block, dom, i, dom_bb); i++)
450         if (all_non_dominated_preds_marked_p (dom_bb, visited))
451           {
452             build_scop_bbs_1 (scop, visited, dom_bb, reductions);
453             VEC_unordered_remove (basic_block, dom, i);
454             break;
455           }
456     }
457
458   VEC_free (basic_block, heap, dom);
459 }
460
461 /* Gather the basic blocks belonging to the SCOP.  */
462
463 static void
464 build_scop_bbs (scop_p scop, sbitmap reductions)
465 {
466   sbitmap visited = sbitmap_alloc (last_basic_block);
467   sese region = SCOP_REGION (scop);
468
469   sbitmap_zero (visited);
470   build_scop_bbs_1 (scop, visited, SESE_ENTRY_BB (region), reductions);
471   sbitmap_free (visited);
472 }
473
474 /* Converts the STATIC_SCHEDULE of PBB into a scattering polyhedron.
475    We generate SCATTERING_DIMENSIONS scattering dimensions.
476
477    CLooG 0.15.0 and previous versions require, that all
478    scattering functions of one CloogProgram have the same number of
479    scattering dimensions, therefore we allow to specify it.  This
480    should be removed in future versions of CLooG.
481
482    The scattering polyhedron consists of these dimensions: scattering,
483    loop_iterators, parameters.
484
485    Example:
486
487    | scattering_dimensions = 5
488    | used_scattering_dimensions = 3
489    | nb_iterators = 1
490    | scop_nb_params = 2
491    |
492    | Schedule:
493    |   i
494    | 4 5
495    |
496    | Scattering polyhedron:
497    |
498    | scattering: {s1, s2, s3, s4, s5}
499    | loop_iterators: {i}
500    | parameters: {p1, p2}
501    |
502    | s1  s2  s3  s4  s5  i   p1  p2  1
503    | 1   0   0   0   0   0   0   0  -4  = 0
504    | 0   1   0   0   0  -1   0   0   0  = 0
505    | 0   0   1   0   0   0   0   0  -5  = 0  */
506
507 static void
508 build_pbb_scattering_polyhedrons (ppl_Linear_Expression_t static_schedule,
509                                   poly_bb_p pbb, int scattering_dimensions)
510 {
511   int i;
512   scop_p scop = PBB_SCOP (pbb);
513   int nb_iterators = pbb_dim_iter_domain (pbb);
514   int used_scattering_dimensions = nb_iterators * 2 + 1;
515   int nb_params = scop_nb_params (scop);
516   ppl_Coefficient_t c;
517   ppl_dimension_type dim = scattering_dimensions + nb_iterators + nb_params;
518   mpz_t v;
519
520   gcc_assert (scattering_dimensions >= used_scattering_dimensions);
521
522   mpz_init (v);
523   ppl_new_Coefficient (&c);
524   PBB_TRANSFORMED (pbb) = poly_scattering_new ();
525   ppl_new_C_Polyhedron_from_space_dimension
526     (&PBB_TRANSFORMED_SCATTERING (pbb), dim, 0);
527
528   PBB_NB_SCATTERING_TRANSFORM (pbb) = scattering_dimensions;
529
530   for (i = 0; i < scattering_dimensions; i++)
531     {
532       ppl_Constraint_t cstr;
533       ppl_Linear_Expression_t expr;
534
535       ppl_new_Linear_Expression_with_dimension (&expr, dim);
536       mpz_set_si (v, 1);
537       ppl_assign_Coefficient_from_mpz_t (c, v);
538       ppl_Linear_Expression_add_to_coefficient (expr, i, c);
539
540       /* Textual order inside this loop.  */
541       if ((i % 2) == 0)
542         {
543           ppl_Linear_Expression_coefficient (static_schedule, i / 2, c);
544           ppl_Coefficient_to_mpz_t (c, v);
545           mpz_neg (v, v);
546           ppl_assign_Coefficient_from_mpz_t (c, v);
547           ppl_Linear_Expression_add_to_inhomogeneous (expr, c);
548         }
549
550       /* Iterations of this loop.  */
551       else /* if ((i % 2) == 1) */
552         {
553           int loop = (i - 1) / 2;
554
555           mpz_set_si (v, -1);
556           ppl_assign_Coefficient_from_mpz_t (c, v);
557           ppl_Linear_Expression_add_to_coefficient
558             (expr, scattering_dimensions + loop, c);
559         }
560
561       ppl_new_Constraint (&cstr, expr, PPL_CONSTRAINT_TYPE_EQUAL);
562       ppl_Polyhedron_add_constraint (PBB_TRANSFORMED_SCATTERING (pbb), cstr);
563       ppl_delete_Linear_Expression (expr);
564       ppl_delete_Constraint (cstr);
565     }
566
567   mpz_clear (v);
568   ppl_delete_Coefficient (c);
569
570   PBB_ORIGINAL (pbb) = poly_scattering_copy (PBB_TRANSFORMED (pbb));
571 }
572
573 /* Build for BB the static schedule.
574
575    The static schedule is a Dewey numbering of the abstract syntax
576    tree: http://en.wikipedia.org/wiki/Dewey_Decimal_Classification
577
578    The following example informally defines the static schedule:
579
580    A
581    for (i: ...)
582      {
583        for (j: ...)
584          {
585            B
586            C
587          }
588
589        for (k: ...)
590          {
591            D
592            E
593          }
594      }
595    F
596
597    Static schedules for A to F:
598
599      DEPTH
600      0 1 2
601    A 0
602    B 1 0 0
603    C 1 0 1
604    D 1 1 0
605    E 1 1 1
606    F 2
607 */
608
609 static void
610 build_scop_scattering (scop_p scop)
611 {
612   int i;
613   poly_bb_p pbb;
614   gimple_bb_p previous_gbb = NULL;
615   ppl_Linear_Expression_t static_schedule;
616   ppl_Coefficient_t c;
617   mpz_t v;
618
619   mpz_init (v);
620   ppl_new_Coefficient (&c);
621   ppl_new_Linear_Expression (&static_schedule);
622
623   /* We have to start schedules at 0 on the first component and
624      because we cannot compare_prefix_loops against a previous loop,
625      prefix will be equal to zero, and that index will be
626      incremented before copying.  */
627   mpz_set_si (v, -1);
628   ppl_assign_Coefficient_from_mpz_t (c, v);
629   ppl_Linear_Expression_add_to_coefficient (static_schedule, 0, c);
630
631   for (i = 0; VEC_iterate (poly_bb_p, SCOP_BBS (scop), i, pbb); i++)
632     {
633       gimple_bb_p gbb = PBB_BLACK_BOX (pbb);
634       ppl_Linear_Expression_t common;
635       int prefix;
636       int nb_scat_dims = pbb_dim_iter_domain (pbb) * 2 + 1;
637
638       if (previous_gbb)
639         prefix = nb_common_loops (SCOP_REGION (scop), previous_gbb, gbb);
640       else
641         prefix = 0;
642
643       previous_gbb = gbb;
644       ppl_new_Linear_Expression_with_dimension (&common, prefix + 1);
645       ppl_assign_Linear_Expression_from_Linear_Expression (common,
646                                                            static_schedule);
647
648       mpz_set_si (v, 1);
649       ppl_assign_Coefficient_from_mpz_t (c, v);
650       ppl_Linear_Expression_add_to_coefficient (common, prefix, c);
651       ppl_assign_Linear_Expression_from_Linear_Expression (static_schedule,
652                                                            common);
653
654       build_pbb_scattering_polyhedrons (common, pbb, nb_scat_dims);
655
656       ppl_delete_Linear_Expression (common);
657     }
658
659   mpz_clear (v);
660   ppl_delete_Coefficient (c);
661   ppl_delete_Linear_Expression (static_schedule);
662 }
663
664 /* Add the value K to the dimension D of the linear expression EXPR.  */
665
666 static void
667 add_value_to_dim (ppl_dimension_type d, ppl_Linear_Expression_t expr,
668                   mpz_t k)
669 {
670   mpz_t val;
671   ppl_Coefficient_t coef;
672
673   ppl_new_Coefficient (&coef);
674   ppl_Linear_Expression_coefficient (expr, d, coef);
675   mpz_init (val);
676   ppl_Coefficient_to_mpz_t (coef, val);
677
678   mpz_add (val, val, k);
679
680   ppl_assign_Coefficient_from_mpz_t (coef, val);
681   ppl_Linear_Expression_add_to_coefficient (expr, d, coef);
682   mpz_clear (val);
683   ppl_delete_Coefficient (coef);
684 }
685
686 /* In the context of scop S, scan E, the right hand side of a scalar
687    evolution function in loop VAR, and translate it to a linear
688    expression EXPR.  */
689
690 static void
691 scan_tree_for_params_right_scev (sese s, tree e, int var,
692                                  ppl_Linear_Expression_t expr)
693 {
694   if (expr)
695     {
696       loop_p loop = get_loop (var);
697       ppl_dimension_type l = sese_loop_depth (s, loop) - 1;
698       mpz_t val;
699
700       /* Scalar evolutions should happen in the sese region.  */
701       gcc_assert (sese_loop_depth (s, loop) > 0);
702
703       /* We can not deal with parametric strides like:
704
705       | p = parameter;
706       |
707       | for i:
708       |   a [i * p] = ...   */
709       gcc_assert (TREE_CODE (e) == INTEGER_CST);
710
711       mpz_init (val);
712       mpz_set_si (val, int_cst_value (e));
713       add_value_to_dim (l, expr, val);
714       mpz_clear (val);
715     }
716 }
717
718 /* Scan the integer constant CST, and add it to the inhomogeneous part of the
719    linear expression EXPR.  K is the multiplier of the constant.  */
720
721 static void
722 scan_tree_for_params_int (tree cst, ppl_Linear_Expression_t expr, mpz_t k)
723 {
724   mpz_t val;
725   ppl_Coefficient_t coef;
726   int v = int_cst_value (cst);
727
728   mpz_init (val);
729   mpz_set_si (val, 0);
730
731   /* Necessary to not get "-1 = 2^n - 1". */
732   if (v < 0)
733     mpz_sub_ui (val, val, -v);
734   else
735     mpz_add_ui (val, val, v);
736
737   mpz_mul (val, val, k);
738   ppl_new_Coefficient (&coef);
739   ppl_assign_Coefficient_from_mpz_t (coef, val);
740   ppl_Linear_Expression_add_to_inhomogeneous (expr, coef);
741   mpz_clear (val);
742   ppl_delete_Coefficient (coef);
743 }
744
745 /* When parameter NAME is in REGION, returns its index in SESE_PARAMS.
746    Otherwise returns -1.  */
747
748 static inline int
749 parameter_index_in_region_1 (tree name, sese region)
750 {
751   int i;
752   tree p;
753
754   gcc_assert (TREE_CODE (name) == SSA_NAME);
755
756   for (i = 0; VEC_iterate (tree, SESE_PARAMS (region), i, p); i++)
757     if (p == name)
758       return i;
759
760   return -1;
761 }
762
763 /* When the parameter NAME is in REGION, returns its index in
764    SESE_PARAMS.  Otherwise this function inserts NAME in SESE_PARAMS
765    and returns the index of NAME.  */
766
767 static int
768 parameter_index_in_region (tree name, sese region)
769 {
770   int i;
771
772   gcc_assert (TREE_CODE (name) == SSA_NAME);
773
774   i = parameter_index_in_region_1 (name, region);
775   if (i != -1)
776     return i;
777
778   gcc_assert (SESE_ADD_PARAMS (region));
779
780   i = VEC_length (tree, SESE_PARAMS (region));
781   VEC_safe_push (tree, heap, SESE_PARAMS (region), name);
782   return i;
783 }
784
785 /* In the context of sese S, scan the expression E and translate it to
786    a linear expression C.  When parsing a symbolic multiplication, K
787    represents the constant multiplier of an expression containing
788    parameters.  */
789
790 static void
791 scan_tree_for_params (sese s, tree e, ppl_Linear_Expression_t c,
792                       mpz_t k)
793 {
794   if (e == chrec_dont_know)
795     return;
796
797   switch (TREE_CODE (e))
798     {
799     case POLYNOMIAL_CHREC:
800       scan_tree_for_params_right_scev (s, CHREC_RIGHT (e),
801                                        CHREC_VARIABLE (e), c);
802       scan_tree_for_params (s, CHREC_LEFT (e), c, k);
803       break;
804
805     case MULT_EXPR:
806       if (chrec_contains_symbols (TREE_OPERAND (e, 0)))
807         {
808           if (c)
809             {
810               mpz_t val;
811               gcc_assert (host_integerp (TREE_OPERAND (e, 1), 0));
812               mpz_init (val);
813               mpz_set_si (val, int_cst_value (TREE_OPERAND (e, 1)));
814               mpz_mul (val, val, k);
815               scan_tree_for_params (s, TREE_OPERAND (e, 0), c, val);
816               mpz_clear (val);
817             }
818           else
819             scan_tree_for_params (s, TREE_OPERAND (e, 0), c, k);
820         }
821       else
822         {
823           if (c)
824             {
825               mpz_t val;
826               gcc_assert (host_integerp (TREE_OPERAND (e, 0), 0));
827               mpz_init (val);
828               mpz_set_si (val, int_cst_value (TREE_OPERAND (e, 0)));
829               mpz_mul (val, val, k);
830               scan_tree_for_params (s, TREE_OPERAND (e, 1), c, val);
831               mpz_clear (val);
832             }
833           else
834             scan_tree_for_params (s, TREE_OPERAND (e, 1), c, k);
835         }
836       break;
837
838     case PLUS_EXPR:
839     case POINTER_PLUS_EXPR:
840       scan_tree_for_params (s, TREE_OPERAND (e, 0), c, k);
841       scan_tree_for_params (s, TREE_OPERAND (e, 1), c, k);
842       break;
843
844     case MINUS_EXPR:
845       {
846         ppl_Linear_Expression_t tmp_expr = NULL;
847
848         if (c)
849           {
850             ppl_dimension_type dim;
851             ppl_Linear_Expression_space_dimension (c, &dim);
852             ppl_new_Linear_Expression_with_dimension (&tmp_expr, dim);
853           }
854
855         scan_tree_for_params (s, TREE_OPERAND (e, 0), c, k);
856         scan_tree_for_params (s, TREE_OPERAND (e, 1), tmp_expr, k);
857
858         if (c)
859           {
860             ppl_subtract_Linear_Expression_from_Linear_Expression (c,
861                                                                    tmp_expr);
862             ppl_delete_Linear_Expression (tmp_expr);
863           }
864
865         break;
866       }
867
868     case NEGATE_EXPR:
869       {
870         ppl_Linear_Expression_t tmp_expr = NULL;
871
872         if (c)
873           {
874             ppl_dimension_type dim;
875             ppl_Linear_Expression_space_dimension (c, &dim);
876             ppl_new_Linear_Expression_with_dimension (&tmp_expr, dim);
877           }
878
879         scan_tree_for_params (s, TREE_OPERAND (e, 0), tmp_expr, k);
880
881         if (c)
882           {
883             ppl_subtract_Linear_Expression_from_Linear_Expression (c,
884                                                                    tmp_expr);
885             ppl_delete_Linear_Expression (tmp_expr);
886           }
887
888         break;
889       }
890
891     case BIT_NOT_EXPR:
892       {
893         ppl_Linear_Expression_t tmp_expr = NULL;
894
895         if (c)
896           {
897             ppl_dimension_type dim;
898             ppl_Linear_Expression_space_dimension (c, &dim);
899             ppl_new_Linear_Expression_with_dimension (&tmp_expr, dim);
900           }
901
902         scan_tree_for_params (s, TREE_OPERAND (e, 0), tmp_expr, k);
903
904         if (c)
905           {
906             ppl_Coefficient_t coef;
907             mpz_t minus_one;
908
909             ppl_subtract_Linear_Expression_from_Linear_Expression (c,
910                                                                    tmp_expr);
911             ppl_delete_Linear_Expression (tmp_expr);
912             mpz_init (minus_one);
913             mpz_set_si (minus_one, -1);
914             ppl_new_Coefficient_from_mpz_t (&coef, minus_one);
915             ppl_Linear_Expression_add_to_inhomogeneous (c, coef);
916             mpz_clear (minus_one);
917             ppl_delete_Coefficient (coef);
918           }
919
920         break;
921       }
922
923     case SSA_NAME:
924       {
925         ppl_dimension_type p = parameter_index_in_region (e, s);
926
927         if (c)
928           {
929             ppl_dimension_type dim;
930             ppl_Linear_Expression_space_dimension (c, &dim);
931             p += dim - sese_nb_params (s);
932             add_value_to_dim (p, c, k);
933           }
934         break;
935       }
936
937     case INTEGER_CST:
938       if (c)
939         scan_tree_for_params_int (e, c, k);
940       break;
941
942     CASE_CONVERT:
943     case NON_LVALUE_EXPR:
944       scan_tree_for_params (s, TREE_OPERAND (e, 0), c, k);
945       break;
946
947    default:
948       gcc_unreachable ();
949       break;
950     }
951 }
952
953 /* Find parameters with respect to REGION in BB. We are looking in memory
954    access functions, conditions and loop bounds.  */
955
956 static void
957 find_params_in_bb (sese region, gimple_bb_p gbb)
958 {
959   int i;
960   unsigned j;
961   data_reference_p dr;
962   gimple stmt;
963   loop_p loop = GBB_BB (gbb)->loop_father;
964   mpz_t one;
965
966   mpz_init (one);
967   mpz_set_si (one, 1);
968
969   /* Find parameters in the access functions of data references.  */
970   for (i = 0; VEC_iterate (data_reference_p, GBB_DATA_REFS (gbb), i, dr); i++)
971     for (j = 0; j < DR_NUM_DIMENSIONS (dr); j++)
972       scan_tree_for_params (region, DR_ACCESS_FN (dr, j), NULL, one);
973
974   /* Find parameters in conditional statements.  */
975   for (i = 0; VEC_iterate (gimple, GBB_CONDITIONS (gbb), i, stmt); i++)
976     {
977       tree lhs = scalar_evolution_in_region (region, loop,
978                                              gimple_cond_lhs (stmt));
979       tree rhs = scalar_evolution_in_region (region, loop,
980                                              gimple_cond_rhs (stmt));
981
982       scan_tree_for_params (region, lhs, NULL, one);
983       scan_tree_for_params (region, rhs, NULL, one);
984     }
985
986   mpz_clear (one);
987 }
988
989 /* Record the parameters used in the SCOP.  A variable is a parameter
990    in a scop if it does not vary during the execution of that scop.  */
991
992 static void
993 find_scop_parameters (scop_p scop)
994 {
995   poly_bb_p pbb;
996   unsigned i;
997   sese region = SCOP_REGION (scop);
998   struct loop *loop;
999   mpz_t one;
1000
1001   mpz_init (one);
1002   mpz_set_si (one, 1);
1003
1004   /* Find the parameters used in the loop bounds.  */
1005   for (i = 0; VEC_iterate (loop_p, SESE_LOOP_NEST (region), i, loop); i++)
1006     {
1007       tree nb_iters = number_of_latch_executions (loop);
1008
1009       if (!chrec_contains_symbols (nb_iters))
1010         continue;
1011
1012       nb_iters = scalar_evolution_in_region (region, loop, nb_iters);
1013       scan_tree_for_params (region, nb_iters, NULL, one);
1014     }
1015
1016   mpz_clear (one);
1017
1018   /* Find the parameters used in data accesses.  */
1019   for (i = 0; VEC_iterate (poly_bb_p, SCOP_BBS (scop), i, pbb); i++)
1020     find_params_in_bb (region, PBB_BLACK_BOX (pbb));
1021
1022   scop_set_nb_params (scop, sese_nb_params (region));
1023   SESE_ADD_PARAMS (region) = false;
1024
1025   ppl_new_Pointset_Powerset_C_Polyhedron_from_space_dimension
1026     (&SCOP_CONTEXT (scop), scop_nb_params (scop), 0);
1027 }
1028
1029 /* Returns a gimple_bb from BB.  */
1030
1031 static inline gimple_bb_p
1032 gbb_from_bb (basic_block bb)
1033 {
1034   return (gimple_bb_p) bb->aux;
1035 }
1036
1037 /* Insert in the SCOP context constraints from the estimation of the
1038    number of iterations.  UB_EXPR is a linear expression describing
1039    the number of iterations in a loop.  This expression is bounded by
1040    the estimation NIT.  */
1041
1042 static void
1043 add_upper_bounds_from_estimated_nit (scop_p scop, double_int nit,
1044                                      ppl_dimension_type dim,
1045                                      ppl_Linear_Expression_t ub_expr)
1046 {
1047   mpz_t val;
1048   ppl_Linear_Expression_t nb_iters_le;
1049   ppl_Polyhedron_t pol;
1050   ppl_Coefficient_t coef;
1051   ppl_Constraint_t ub;
1052
1053   ppl_new_Linear_Expression_with_dimension (&ub_expr, dim);
1054   ppl_new_C_Polyhedron_from_space_dimension (&pol, dim, 0);
1055   ppl_new_Linear_Expression_from_Linear_Expression (&nb_iters_le,
1056                                                     ub_expr);
1057
1058   /* Construct the negated number of last iteration in VAL.  */
1059   mpz_init (val);
1060   mpz_set_double_int (val, nit, false);
1061   mpz_sub_ui (val, val, 1);
1062   mpz_neg (val, val);
1063
1064   /* NB_ITERS_LE holds the number of last iteration in
1065      parametrical form.  Subtract estimated number of last
1066      iteration and assert that result is not positive.  */
1067   ppl_new_Coefficient_from_mpz_t (&coef, val);
1068   ppl_Linear_Expression_add_to_inhomogeneous (nb_iters_le, coef);
1069   ppl_delete_Coefficient (coef);
1070   ppl_new_Constraint (&ub, nb_iters_le,
1071                       PPL_CONSTRAINT_TYPE_LESS_OR_EQUAL);
1072   ppl_Polyhedron_add_constraint (pol, ub);
1073
1074   /* Remove all but last GDIM dimensions from POL to obtain
1075      only the constraints on the parameters.  */
1076   {
1077     graphite_dim_t gdim = scop_nb_params (scop);
1078     ppl_dimension_type *dims = XNEWVEC (ppl_dimension_type, dim - gdim);
1079     graphite_dim_t i;
1080
1081     for (i = 0; i < dim - gdim; i++)
1082       dims[i] = i;
1083
1084     ppl_Polyhedron_remove_space_dimensions (pol, dims, dim - gdim);
1085     XDELETEVEC (dims);
1086   }
1087
1088   /* Add the constraints on the parameters to the SCoP context.  */
1089   {
1090     ppl_Pointset_Powerset_C_Polyhedron_t constraints_ps;
1091
1092     ppl_new_Pointset_Powerset_C_Polyhedron_from_C_Polyhedron
1093       (&constraints_ps, pol);
1094     ppl_Pointset_Powerset_C_Polyhedron_intersection_assign
1095       (SCOP_CONTEXT (scop), constraints_ps);
1096     ppl_delete_Pointset_Powerset_C_Polyhedron (constraints_ps);
1097   }
1098
1099   ppl_delete_Polyhedron (pol);
1100   ppl_delete_Linear_Expression (nb_iters_le);
1101   ppl_delete_Constraint (ub);
1102   mpz_clear (val);
1103 }
1104
1105 /* Builds the constraint polyhedra for LOOP in SCOP.  OUTER_PH gives
1106    the constraints for the surrounding loops.  */
1107
1108 static void
1109 build_loop_iteration_domains (scop_p scop, struct loop *loop,
1110                               ppl_Polyhedron_t outer_ph, int nb,
1111                               ppl_Pointset_Powerset_C_Polyhedron_t *domains)
1112 {
1113   int i;
1114   ppl_Polyhedron_t ph;
1115   tree nb_iters = number_of_latch_executions (loop);
1116   ppl_dimension_type dim = nb + 1 + scop_nb_params (scop);
1117   sese region = SCOP_REGION (scop);
1118
1119   {
1120     ppl_const_Constraint_System_t pcs;
1121     ppl_dimension_type *map
1122       = (ppl_dimension_type *) XNEWVEC (ppl_dimension_type, dim);
1123
1124     ppl_new_C_Polyhedron_from_space_dimension (&ph, dim, 0);
1125     ppl_Polyhedron_get_constraints (outer_ph, &pcs);
1126     ppl_Polyhedron_add_constraints (ph, pcs);
1127
1128     for (i = 0; i < (int) nb; i++)
1129       map[i] = i;
1130     for (i = (int) nb; i < (int) dim - 1; i++)
1131       map[i] = i + 1;
1132     map[dim - 1] = nb;
1133
1134     ppl_Polyhedron_map_space_dimensions (ph, map, dim);
1135     free (map);
1136   }
1137
1138   /* 0 <= loop_i */
1139   {
1140     ppl_Constraint_t lb;
1141     ppl_Linear_Expression_t lb_expr;
1142
1143     ppl_new_Linear_Expression_with_dimension (&lb_expr, dim);
1144     ppl_set_coef (lb_expr, nb, 1);
1145     ppl_new_Constraint (&lb, lb_expr, PPL_CONSTRAINT_TYPE_GREATER_OR_EQUAL);
1146     ppl_delete_Linear_Expression (lb_expr);
1147     ppl_Polyhedron_add_constraint (ph, lb);
1148     ppl_delete_Constraint (lb);
1149   }
1150
1151   if (TREE_CODE (nb_iters) == INTEGER_CST)
1152     {
1153       ppl_Constraint_t ub;
1154       ppl_Linear_Expression_t ub_expr;
1155
1156       ppl_new_Linear_Expression_with_dimension (&ub_expr, dim);
1157
1158       /* loop_i <= cst_nb_iters */
1159       ppl_set_coef (ub_expr, nb, -1);
1160       ppl_set_inhomogeneous_tree (ub_expr, nb_iters);
1161       ppl_new_Constraint (&ub, ub_expr, PPL_CONSTRAINT_TYPE_GREATER_OR_EQUAL);
1162       ppl_Polyhedron_add_constraint (ph, ub);
1163       ppl_delete_Linear_Expression (ub_expr);
1164       ppl_delete_Constraint (ub);
1165     }
1166   else if (!chrec_contains_undetermined (nb_iters))
1167     {
1168       mpz_t one;
1169       ppl_Constraint_t ub;
1170       ppl_Linear_Expression_t ub_expr;
1171       double_int nit;
1172
1173       mpz_init (one);
1174       mpz_set_si (one, 1);
1175       ppl_new_Linear_Expression_with_dimension (&ub_expr, dim);
1176       nb_iters = scalar_evolution_in_region (region, loop, nb_iters);
1177       scan_tree_for_params (SCOP_REGION (scop), nb_iters, ub_expr, one);
1178       mpz_clear (one);
1179
1180       if (estimated_loop_iterations (loop, true, &nit))
1181         add_upper_bounds_from_estimated_nit (scop, nit, dim, ub_expr);
1182
1183       /* loop_i <= expr_nb_iters */
1184       ppl_set_coef (ub_expr, nb, -1);
1185       ppl_new_Constraint (&ub, ub_expr, PPL_CONSTRAINT_TYPE_GREATER_OR_EQUAL);
1186       ppl_Polyhedron_add_constraint (ph, ub);
1187       ppl_delete_Linear_Expression (ub_expr);
1188       ppl_delete_Constraint (ub);
1189     }
1190   else
1191     gcc_unreachable ();
1192
1193   if (loop->inner && loop_in_sese_p (loop->inner, region))
1194     build_loop_iteration_domains (scop, loop->inner, ph, nb + 1, domains);
1195
1196   if (nb != 0
1197       && loop->next
1198       && loop_in_sese_p (loop->next, region))
1199     build_loop_iteration_domains (scop, loop->next, outer_ph, nb, domains);
1200
1201   ppl_new_Pointset_Powerset_C_Polyhedron_from_C_Polyhedron
1202     (&domains[loop->num], ph);
1203
1204   ppl_delete_Polyhedron (ph);
1205 }
1206
1207 /* Returns a linear expression for tree T evaluated in PBB.  */
1208
1209 static ppl_Linear_Expression_t
1210 create_linear_expr_from_tree (poly_bb_p pbb, tree t)
1211 {
1212   mpz_t one;
1213   ppl_Linear_Expression_t res;
1214   ppl_dimension_type dim;
1215   sese region = SCOP_REGION (PBB_SCOP (pbb));
1216   loop_p loop = pbb_loop (pbb);
1217
1218   dim = pbb_dim_iter_domain (pbb) + pbb_nb_params (pbb);
1219   ppl_new_Linear_Expression_with_dimension (&res, dim);
1220
1221   t = scalar_evolution_in_region (region, loop, t);
1222   gcc_assert (!automatically_generated_chrec_p (t));
1223
1224   mpz_init (one);
1225   mpz_set_si (one, 1);
1226   scan_tree_for_params (region, t, res, one);
1227   mpz_clear (one);
1228
1229   return res;
1230 }
1231
1232 /* Returns the ppl constraint type from the gimple tree code CODE.  */
1233
1234 static enum ppl_enum_Constraint_Type
1235 ppl_constraint_type_from_tree_code (enum tree_code code)
1236 {
1237   switch (code)
1238     {
1239     /* We do not support LT and GT to be able to work with C_Polyhedron.
1240        As we work on integer polyhedron "a < b" can be expressed by
1241        "a + 1 <= b".  */
1242     case LT_EXPR:
1243     case GT_EXPR:
1244       gcc_unreachable ();
1245
1246     case LE_EXPR:
1247       return PPL_CONSTRAINT_TYPE_LESS_OR_EQUAL;
1248
1249     case GE_EXPR:
1250       return PPL_CONSTRAINT_TYPE_GREATER_OR_EQUAL;
1251
1252     case EQ_EXPR:
1253       return PPL_CONSTRAINT_TYPE_EQUAL;
1254
1255     default:
1256       gcc_unreachable ();
1257     }
1258 }
1259
1260 /* Add conditional statement STMT to PS.  It is evaluated in PBB and
1261    CODE is used as the comparison operator.  This allows us to invert the
1262    condition or to handle inequalities.  */
1263
1264 static void
1265 add_condition_to_domain (ppl_Pointset_Powerset_C_Polyhedron_t ps, gimple stmt,
1266                          poly_bb_p pbb, enum tree_code code)
1267 {
1268   mpz_t v;
1269   ppl_Coefficient_t c;
1270   ppl_Linear_Expression_t left, right;
1271   ppl_Constraint_t cstr;
1272   enum ppl_enum_Constraint_Type type;
1273
1274   left = create_linear_expr_from_tree (pbb, gimple_cond_lhs (stmt));
1275   right = create_linear_expr_from_tree (pbb, gimple_cond_rhs (stmt));
1276
1277   /* If we have < or > expressions convert them to <= or >= by adding 1 to
1278      the left or the right side of the expression. */
1279   if (code == LT_EXPR)
1280     {
1281       mpz_init (v);
1282       mpz_set_si (v, 1);
1283       ppl_new_Coefficient (&c);
1284       ppl_assign_Coefficient_from_mpz_t (c, v);
1285       ppl_Linear_Expression_add_to_inhomogeneous (left, c);
1286       ppl_delete_Coefficient (c);
1287       mpz_clear (v);
1288
1289       code = LE_EXPR;
1290     }
1291   else if (code == GT_EXPR)
1292     {
1293       mpz_init (v);
1294       mpz_set_si (v, 1);
1295       ppl_new_Coefficient (&c);
1296       ppl_assign_Coefficient_from_mpz_t (c, v);
1297       ppl_Linear_Expression_add_to_inhomogeneous (right, c);
1298       ppl_delete_Coefficient (c);
1299       mpz_clear (v);
1300
1301       code = GE_EXPR;
1302     }
1303
1304   type = ppl_constraint_type_from_tree_code (code);
1305
1306   ppl_subtract_Linear_Expression_from_Linear_Expression (left, right);
1307
1308   ppl_new_Constraint (&cstr, left, type);
1309   ppl_Pointset_Powerset_C_Polyhedron_add_constraint (ps, cstr);
1310
1311   ppl_delete_Constraint (cstr);
1312   ppl_delete_Linear_Expression (left);
1313   ppl_delete_Linear_Expression (right);
1314 }
1315
1316 /* Add conditional statement STMT to pbb.  CODE is used as the comparision
1317    operator.  This allows us to invert the condition or to handle
1318    inequalities.  */
1319
1320 static void
1321 add_condition_to_pbb (poly_bb_p pbb, gimple stmt, enum tree_code code)
1322 {
1323   if (code == NE_EXPR)
1324     {
1325       ppl_Pointset_Powerset_C_Polyhedron_t left = PBB_DOMAIN (pbb);
1326       ppl_Pointset_Powerset_C_Polyhedron_t right;
1327       ppl_new_Pointset_Powerset_C_Polyhedron_from_Pointset_Powerset_C_Polyhedron
1328         (&right, left);
1329       add_condition_to_domain (left, stmt, pbb, LT_EXPR);
1330       add_condition_to_domain (right, stmt, pbb, GT_EXPR);
1331       ppl_Pointset_Powerset_C_Polyhedron_upper_bound_assign (left, right);
1332       ppl_delete_Pointset_Powerset_C_Polyhedron (right);
1333     }
1334   else
1335     add_condition_to_domain (PBB_DOMAIN (pbb), stmt, pbb, code);
1336 }
1337
1338 /* Add conditions to the domain of PBB.  */
1339
1340 static void
1341 add_conditions_to_domain (poly_bb_p pbb)
1342 {
1343   unsigned int i;
1344   gimple stmt;
1345   gimple_bb_p gbb = PBB_BLACK_BOX (pbb);
1346
1347   if (VEC_empty (gimple, GBB_CONDITIONS (gbb)))
1348     return;
1349
1350   for (i = 0; VEC_iterate (gimple, GBB_CONDITIONS (gbb), i, stmt); i++)
1351     switch (gimple_code (stmt))
1352       {
1353       case GIMPLE_COND:
1354           {
1355             enum tree_code code = gimple_cond_code (stmt);
1356
1357             /* The conditions for ELSE-branches are inverted.  */
1358             if (!VEC_index (gimple, GBB_CONDITION_CASES (gbb), i))
1359               code = invert_tree_comparison (code, false);
1360
1361             add_condition_to_pbb (pbb, stmt, code);
1362             break;
1363           }
1364
1365       case GIMPLE_SWITCH:
1366         /* Switch statements are not supported right now - fall throught.  */
1367
1368       default:
1369         gcc_unreachable ();
1370         break;
1371       }
1372 }
1373
1374 /* Structure used to pass data to dom_walk.  */
1375
1376 struct bsc
1377 {
1378   VEC (gimple, heap) **conditions, **cases;
1379   sese region;
1380 };
1381
1382 /* Returns a COND_EXPR statement when BB has a single predecessor, the
1383    edge between BB and its predecessor is not a loop exit edge, and
1384    the last statement of the single predecessor is a COND_EXPR.  */
1385
1386 static gimple
1387 single_pred_cond_non_loop_exit (basic_block bb)
1388 {
1389   if (single_pred_p (bb))
1390     {
1391       edge e = single_pred_edge (bb);
1392       basic_block pred = e->src;
1393       gimple stmt;
1394
1395       if (loop_depth (pred->loop_father) > loop_depth (bb->loop_father))
1396         return NULL;
1397
1398       stmt = last_stmt (pred);
1399
1400       if (stmt && gimple_code (stmt) == GIMPLE_COND)
1401         return stmt;
1402     }
1403
1404   return NULL;
1405 }
1406
1407 /* Call-back for dom_walk executed before visiting the dominated
1408    blocks.  */
1409
1410 static void
1411 build_sese_conditions_before (struct dom_walk_data *dw_data,
1412                               basic_block bb)
1413 {
1414   struct bsc *data = (struct bsc *) dw_data->global_data;
1415   VEC (gimple, heap) **conditions = data->conditions;
1416   VEC (gimple, heap) **cases = data->cases;
1417   gimple_bb_p gbb;
1418   gimple stmt;
1419
1420   if (!bb_in_sese_p (bb, data->region))
1421     return;
1422
1423   stmt = single_pred_cond_non_loop_exit (bb);
1424
1425   if (stmt)
1426     {
1427       edge e = single_pred_edge (bb);
1428
1429       VEC_safe_push (gimple, heap, *conditions, stmt);
1430
1431       if (e->flags & EDGE_TRUE_VALUE)
1432         VEC_safe_push (gimple, heap, *cases, stmt);
1433       else
1434         VEC_safe_push (gimple, heap, *cases, NULL);
1435     }
1436
1437   gbb = gbb_from_bb (bb);
1438
1439   if (gbb)
1440     {
1441       GBB_CONDITIONS (gbb) = VEC_copy (gimple, heap, *conditions);
1442       GBB_CONDITION_CASES (gbb) = VEC_copy (gimple, heap, *cases);
1443     }
1444 }
1445
1446 /* Call-back for dom_walk executed after visiting the dominated
1447    blocks.  */
1448
1449 static void
1450 build_sese_conditions_after (struct dom_walk_data *dw_data,
1451                              basic_block bb)
1452 {
1453   struct bsc *data = (struct bsc *) dw_data->global_data;
1454   VEC (gimple, heap) **conditions = data->conditions;
1455   VEC (gimple, heap) **cases = data->cases;
1456
1457   if (!bb_in_sese_p (bb, data->region))
1458     return;
1459
1460   if (single_pred_cond_non_loop_exit (bb))
1461     {
1462       VEC_pop (gimple, *conditions);
1463       VEC_pop (gimple, *cases);
1464     }
1465 }
1466
1467 /* Record all conditions in REGION.  */
1468
1469 static void
1470 build_sese_conditions (sese region)
1471 {
1472   struct dom_walk_data walk_data;
1473   VEC (gimple, heap) *conditions = VEC_alloc (gimple, heap, 3);
1474   VEC (gimple, heap) *cases = VEC_alloc (gimple, heap, 3);
1475   struct bsc data;
1476
1477   data.conditions = &conditions;
1478   data.cases = &cases;
1479   data.region = region;
1480
1481   walk_data.dom_direction = CDI_DOMINATORS;
1482   walk_data.initialize_block_local_data = NULL;
1483   walk_data.before_dom_children = build_sese_conditions_before;
1484   walk_data.after_dom_children = build_sese_conditions_after;
1485   walk_data.global_data = &data;
1486   walk_data.block_local_data_size = 0;
1487
1488   init_walk_dominator_tree (&walk_data);
1489   walk_dominator_tree (&walk_data, SESE_ENTRY_BB (region));
1490   fini_walk_dominator_tree (&walk_data);
1491
1492   VEC_free (gimple, heap, conditions);
1493   VEC_free (gimple, heap, cases);
1494 }
1495
1496 /* Traverses all the GBBs of the SCOP and add their constraints to the
1497    iteration domains.  */
1498
1499 static void
1500 add_conditions_to_constraints (scop_p scop)
1501 {
1502   int i;
1503   poly_bb_p pbb;
1504
1505   for (i = 0; VEC_iterate (poly_bb_p, SCOP_BBS (scop), i, pbb); i++)
1506     add_conditions_to_domain (pbb);
1507 }
1508
1509 /* Add constraints on the possible values of parameter P from the type
1510    of P.  */
1511
1512 static void
1513 add_param_constraints (scop_p scop, ppl_Polyhedron_t context, graphite_dim_t p)
1514 {
1515   ppl_Constraint_t cstr;
1516   ppl_Linear_Expression_t le;
1517   tree parameter = VEC_index (tree, SESE_PARAMS (SCOP_REGION (scop)), p);
1518   tree type = TREE_TYPE (parameter);
1519   tree lb = NULL_TREE;
1520   tree ub = NULL_TREE;
1521
1522   if (POINTER_TYPE_P (type) || !TYPE_MIN_VALUE (type))
1523     lb = lower_bound_in_type (type, type);
1524   else
1525     lb = TYPE_MIN_VALUE (type);
1526
1527   if (POINTER_TYPE_P (type) || !TYPE_MAX_VALUE (type))
1528     ub = upper_bound_in_type (type, type);
1529   else
1530     ub = TYPE_MAX_VALUE (type);
1531
1532   if (lb)
1533     {
1534       ppl_new_Linear_Expression_with_dimension (&le, scop_nb_params (scop));
1535       ppl_set_coef (le, p, -1);
1536       ppl_set_inhomogeneous_tree (le, lb);
1537       ppl_new_Constraint (&cstr, le, PPL_CONSTRAINT_TYPE_LESS_OR_EQUAL);
1538       ppl_Polyhedron_add_constraint (context, cstr);
1539       ppl_delete_Linear_Expression (le);
1540       ppl_delete_Constraint (cstr);
1541     }
1542
1543   if (ub)
1544     {
1545       ppl_new_Linear_Expression_with_dimension (&le, scop_nb_params (scop));
1546       ppl_set_coef (le, p, -1);
1547       ppl_set_inhomogeneous_tree (le, ub);
1548       ppl_new_Constraint (&cstr, le, PPL_CONSTRAINT_TYPE_GREATER_OR_EQUAL);
1549       ppl_Polyhedron_add_constraint (context, cstr);
1550       ppl_delete_Linear_Expression (le);
1551       ppl_delete_Constraint (cstr);
1552     }
1553 }
1554
1555 /* Build the context of the SCOP.  The context usually contains extra
1556    constraints that are added to the iteration domains that constrain
1557    some parameters.  */
1558
1559 static void
1560 build_scop_context (scop_p scop)
1561 {
1562   ppl_Polyhedron_t context;
1563   ppl_Pointset_Powerset_C_Polyhedron_t ps;
1564   graphite_dim_t p, n = scop_nb_params (scop);
1565
1566   ppl_new_C_Polyhedron_from_space_dimension (&context, n, 0);
1567
1568   for (p = 0; p < n; p++)
1569     add_param_constraints (scop, context, p);
1570
1571   ppl_new_Pointset_Powerset_C_Polyhedron_from_C_Polyhedron
1572     (&ps, context);
1573   ppl_Pointset_Powerset_C_Polyhedron_intersection_assign
1574     (SCOP_CONTEXT (scop), ps);
1575
1576   ppl_delete_Pointset_Powerset_C_Polyhedron (ps);
1577   ppl_delete_Polyhedron (context);
1578 }
1579
1580 /* Build the iteration domains: the loops belonging to the current
1581    SCOP, and that vary for the execution of the current basic block.
1582    Returns false if there is no loop in SCOP.  */
1583
1584 static void
1585 build_scop_iteration_domain (scop_p scop)
1586 {
1587   struct loop *loop;
1588   sese region = SCOP_REGION (scop);
1589   int i;
1590   ppl_Polyhedron_t ph;
1591   poly_bb_p pbb;
1592   int nb_loops = number_of_loops ();
1593   ppl_Pointset_Powerset_C_Polyhedron_t *domains
1594     = XNEWVEC (ppl_Pointset_Powerset_C_Polyhedron_t, nb_loops);
1595
1596   for (i = 0; i < nb_loops; i++)
1597     domains[i] = NULL;
1598
1599   ppl_new_C_Polyhedron_from_space_dimension (&ph, scop_nb_params (scop), 0);
1600
1601   for (i = 0; VEC_iterate (loop_p, SESE_LOOP_NEST (region), i, loop); i++)
1602     if (!loop_in_sese_p (loop_outer (loop), region))
1603       build_loop_iteration_domains (scop, loop, ph, 0, domains);
1604
1605   for (i = 0; VEC_iterate (poly_bb_p, SCOP_BBS (scop), i, pbb); i++)
1606     if (domains[gbb_loop (PBB_BLACK_BOX (pbb))->num])
1607       ppl_new_Pointset_Powerset_C_Polyhedron_from_Pointset_Powerset_C_Polyhedron
1608         (&PBB_DOMAIN (pbb), (ppl_const_Pointset_Powerset_C_Polyhedron_t)
1609          domains[gbb_loop (PBB_BLACK_BOX (pbb))->num]);
1610     else
1611       ppl_new_Pointset_Powerset_C_Polyhedron_from_C_Polyhedron
1612         (&PBB_DOMAIN (pbb), ph);
1613
1614   for (i = 0; i < nb_loops; i++)
1615     if (domains[i])
1616       ppl_delete_Pointset_Powerset_C_Polyhedron (domains[i]);
1617
1618   ppl_delete_Polyhedron (ph);
1619   free (domains);
1620 }
1621
1622 /* Add a constrain to the ACCESSES polyhedron for the alias set of
1623    data reference DR.  ACCESSP_NB_DIMS is the dimension of the
1624    ACCESSES polyhedron, DOM_NB_DIMS is the dimension of the iteration
1625    domain.  */
1626
1627 static void
1628 pdr_add_alias_set (ppl_Polyhedron_t accesses, data_reference_p dr,
1629                    ppl_dimension_type accessp_nb_dims,
1630                    ppl_dimension_type dom_nb_dims)
1631 {
1632   ppl_Linear_Expression_t alias;
1633   ppl_Constraint_t cstr;
1634   int alias_set_num = 0;
1635   base_alias_pair *bap = (base_alias_pair *)(dr->aux);
1636
1637   if (bap && bap->alias_set)
1638     alias_set_num = *(bap->alias_set);
1639
1640   ppl_new_Linear_Expression_with_dimension (&alias, accessp_nb_dims);
1641
1642   ppl_set_coef (alias, dom_nb_dims, 1);
1643   ppl_set_inhomogeneous (alias, -alias_set_num);
1644   ppl_new_Constraint (&cstr, alias, PPL_CONSTRAINT_TYPE_EQUAL);
1645   ppl_Polyhedron_add_constraint (accesses, cstr);
1646
1647   ppl_delete_Linear_Expression (alias);
1648   ppl_delete_Constraint (cstr);
1649 }
1650
1651 /* Add to ACCESSES polyhedron equalities defining the access functions
1652    to the memory.  ACCESSP_NB_DIMS is the dimension of the ACCESSES
1653    polyhedron, DOM_NB_DIMS is the dimension of the iteration domain.
1654    PBB is the poly_bb_p that contains the data reference DR.  */
1655
1656 static void
1657 pdr_add_memory_accesses (ppl_Polyhedron_t accesses, data_reference_p dr,
1658                          ppl_dimension_type accessp_nb_dims,
1659                          ppl_dimension_type dom_nb_dims,
1660                          poly_bb_p pbb)
1661 {
1662   int i, nb_subscripts = DR_NUM_DIMENSIONS (dr);
1663   mpz_t v;
1664   scop_p scop = PBB_SCOP (pbb);
1665   sese region = SCOP_REGION (scop);
1666
1667   mpz_init (v);
1668
1669   for (i = 0; i < nb_subscripts; i++)
1670     {
1671       ppl_Linear_Expression_t fn, access;
1672       ppl_Constraint_t cstr;
1673       ppl_dimension_type subscript = dom_nb_dims + 1 + i;
1674       tree afn = DR_ACCESS_FN (dr, nb_subscripts - 1 - i);
1675
1676       ppl_new_Linear_Expression_with_dimension (&fn, dom_nb_dims);
1677       ppl_new_Linear_Expression_with_dimension (&access, accessp_nb_dims);
1678
1679       mpz_set_si (v, 1);
1680       scan_tree_for_params (region, afn, fn, v);
1681       ppl_assign_Linear_Expression_from_Linear_Expression (access, fn);
1682
1683       ppl_set_coef (access, subscript, -1);
1684       ppl_new_Constraint (&cstr, access, PPL_CONSTRAINT_TYPE_EQUAL);
1685       ppl_Polyhedron_add_constraint (accesses, cstr);
1686
1687       ppl_delete_Linear_Expression (fn);
1688       ppl_delete_Linear_Expression (access);
1689       ppl_delete_Constraint (cstr);
1690     }
1691
1692   mpz_clear (v);
1693 }
1694
1695 /* Add constrains representing the size of the accessed data to the
1696    ACCESSES polyhedron.  ACCESSP_NB_DIMS is the dimension of the
1697    ACCESSES polyhedron, DOM_NB_DIMS is the dimension of the iteration
1698    domain.  */
1699
1700 static void
1701 pdr_add_data_dimensions (ppl_Polyhedron_t accesses, data_reference_p dr,
1702                          ppl_dimension_type accessp_nb_dims,
1703                          ppl_dimension_type dom_nb_dims)
1704 {
1705   tree ref = DR_REF (dr);
1706   int i, nb_subscripts = DR_NUM_DIMENSIONS (dr);
1707
1708   for (i = nb_subscripts - 1; i >= 0; i--, ref = TREE_OPERAND (ref, 0))
1709     {
1710       ppl_Linear_Expression_t expr;
1711       ppl_Constraint_t cstr;
1712       ppl_dimension_type subscript = dom_nb_dims + 1 + i;
1713       tree low, high;
1714
1715       if (TREE_CODE (ref) != ARRAY_REF)
1716         break;
1717
1718       low = array_ref_low_bound (ref);
1719
1720       /* subscript - low >= 0 */
1721       if (host_integerp (low, 0))
1722         {
1723           ppl_new_Linear_Expression_with_dimension (&expr, accessp_nb_dims);
1724           ppl_set_coef (expr, subscript, 1);
1725
1726           ppl_set_inhomogeneous (expr, -int_cst_value (low));
1727
1728           ppl_new_Constraint (&cstr, expr, PPL_CONSTRAINT_TYPE_GREATER_OR_EQUAL);
1729           ppl_Polyhedron_add_constraint (accesses, cstr);
1730           ppl_delete_Linear_Expression (expr);
1731           ppl_delete_Constraint (cstr);
1732         }
1733
1734       high = array_ref_up_bound (ref);
1735
1736       /* high - subscript >= 0 */
1737       if (high && host_integerp (high, 0)
1738           /* 1-element arrays at end of structures may extend over
1739              their declared size.  */
1740           && !(array_at_struct_end_p (ref)
1741                && operand_equal_p (low, high, 0)))
1742         {
1743           ppl_new_Linear_Expression_with_dimension (&expr, accessp_nb_dims);
1744           ppl_set_coef (expr, subscript, -1);
1745
1746           ppl_set_inhomogeneous (expr, int_cst_value (high));
1747
1748           ppl_new_Constraint (&cstr, expr, PPL_CONSTRAINT_TYPE_GREATER_OR_EQUAL);
1749           ppl_Polyhedron_add_constraint (accesses, cstr);
1750           ppl_delete_Linear_Expression (expr);
1751           ppl_delete_Constraint (cstr);
1752         }
1753     }
1754 }
1755
1756 /* Build data accesses for DR in PBB.  */
1757
1758 static void
1759 build_poly_dr (data_reference_p dr, poly_bb_p pbb)
1760 {
1761   ppl_Polyhedron_t accesses;
1762   ppl_Pointset_Powerset_C_Polyhedron_t accesses_ps;
1763   ppl_dimension_type dom_nb_dims;
1764   ppl_dimension_type accessp_nb_dims;
1765   int dr_base_object_set;
1766
1767   ppl_Pointset_Powerset_C_Polyhedron_space_dimension (PBB_DOMAIN (pbb),
1768                                                       &dom_nb_dims);
1769   accessp_nb_dims = dom_nb_dims + 1 + DR_NUM_DIMENSIONS (dr);
1770
1771   ppl_new_C_Polyhedron_from_space_dimension (&accesses, accessp_nb_dims, 0);
1772
1773   pdr_add_alias_set (accesses, dr, accessp_nb_dims, dom_nb_dims);
1774   pdr_add_memory_accesses (accesses, dr, accessp_nb_dims, dom_nb_dims, pbb);
1775   pdr_add_data_dimensions (accesses, dr, accessp_nb_dims, dom_nb_dims);
1776
1777   ppl_new_Pointset_Powerset_C_Polyhedron_from_C_Polyhedron (&accesses_ps,
1778                                                             accesses);
1779   ppl_delete_Polyhedron (accesses);
1780
1781   if (dr->aux)
1782     dr_base_object_set = ((base_alias_pair *)(dr->aux))->base_obj_set;
1783
1784   new_poly_dr (pbb, dr_base_object_set, accesses_ps, DR_IS_READ (dr) ? PDR_READ : PDR_WRITE,
1785                dr, DR_NUM_DIMENSIONS (dr));
1786 }
1787
1788 /* Write to FILE the alias graph of data references in DIMACS format.  */
1789
1790 static inline bool
1791 write_alias_graph_to_ascii_dimacs (FILE *file, char *comment,
1792                                    VEC (data_reference_p, heap) *drs)
1793 {
1794   int num_vertex = VEC_length (data_reference_p, drs);
1795   int edge_num = 0;
1796   data_reference_p dr1, dr2;
1797   int i, j;
1798
1799   if (num_vertex == 0)
1800     return true;
1801
1802   for (i = 0; VEC_iterate (data_reference_p, drs, i, dr1); i++)
1803     for (j = i + 1; VEC_iterate (data_reference_p, drs, j, dr2); j++)
1804       if (dr_may_alias_p (dr1, dr2))
1805         edge_num++;
1806
1807   fprintf (file, "$\n");
1808
1809   if (comment)
1810     fprintf (file, "c %s\n", comment);
1811
1812   fprintf (file, "p edge %d %d\n", num_vertex, edge_num);
1813
1814   for (i = 0; VEC_iterate (data_reference_p, drs, i, dr1); i++)
1815     for (j = i + 1; VEC_iterate (data_reference_p, drs, j, dr2); j++)
1816       if (dr_may_alias_p (dr1, dr2))
1817         fprintf (file, "e %d %d\n", i + 1, j + 1);
1818
1819   return true;
1820 }
1821
1822 /* Write to FILE the alias graph of data references in DOT format.  */
1823
1824 static inline bool
1825 write_alias_graph_to_ascii_dot (FILE *file, char *comment,
1826                                 VEC (data_reference_p, heap) *drs)
1827 {
1828   int num_vertex = VEC_length (data_reference_p, drs);
1829   data_reference_p dr1, dr2;
1830   int i, j;
1831
1832   if (num_vertex == 0)
1833     return true;
1834
1835   fprintf (file, "$\n");
1836
1837   if (comment)
1838     fprintf (file, "c %s\n", comment);
1839
1840   /* First print all the vertices.  */
1841   for (i = 0; VEC_iterate (data_reference_p, drs, i, dr1); i++)
1842     fprintf (file, "n%d;\n", i);
1843
1844   for (i = 0; VEC_iterate (data_reference_p, drs, i, dr1); i++)
1845     for (j = i + 1; VEC_iterate (data_reference_p, drs, j, dr2); j++)
1846       if (dr_may_alias_p (dr1, dr2))
1847         fprintf (file, "n%d n%d\n", i, j);
1848
1849   return true;
1850 }
1851
1852 /* Write to FILE the alias graph of data references in ECC format.  */
1853
1854 static inline bool
1855 write_alias_graph_to_ascii_ecc (FILE *file, char *comment,
1856                                 VEC (data_reference_p, heap) *drs)
1857 {
1858   int num_vertex = VEC_length (data_reference_p, drs);
1859   data_reference_p dr1, dr2;
1860   int i, j;
1861
1862   if (num_vertex == 0)
1863     return true;
1864
1865   fprintf (file, "$\n");
1866
1867   if (comment)
1868     fprintf (file, "c %s\n", comment);
1869
1870   for (i = 0; VEC_iterate (data_reference_p, drs, i, dr1); i++)
1871     for (j = i + 1; VEC_iterate (data_reference_p, drs, j, dr2); j++)
1872       if (dr_may_alias_p (dr1, dr2))
1873         fprintf (file, "%d %d\n", i, j);
1874
1875   return true;
1876 }
1877
1878 /* Check if DR1 and DR2 are in the same object set.  */
1879
1880 static bool
1881 dr_same_base_object_p (const struct data_reference *dr1,
1882                        const struct data_reference *dr2)
1883 {
1884   return operand_equal_p (DR_BASE_OBJECT (dr1), DR_BASE_OBJECT (dr2), 0);
1885 }
1886
1887 /* Uses DFS component number as representative of alias-sets. Also tests for
1888    optimality by verifying if every connected component is a clique. Returns
1889    true (1) if the above test is true, and false (0) otherwise.  */
1890
1891 static int
1892 build_alias_set_optimal_p (VEC (data_reference_p, heap) *drs)
1893 {
1894   int num_vertices = VEC_length (data_reference_p, drs);
1895   struct graph *g = new_graph (num_vertices);
1896   data_reference_p dr1, dr2;
1897   int i, j;
1898   int num_connected_components;
1899   int v_indx1, v_indx2, num_vertices_in_component;
1900   int *all_vertices;
1901   int *vertices;
1902   struct graph_edge *e;
1903   int this_component_is_clique;
1904   int all_components_are_cliques = 1;
1905
1906   for (i = 0; VEC_iterate (data_reference_p, drs, i, dr1); i++)
1907     for (j = i+1; VEC_iterate (data_reference_p, drs, j, dr2); j++)
1908       if (dr_may_alias_p (dr1, dr2))
1909         {
1910           add_edge (g, i, j);
1911           add_edge (g, j, i);
1912         }
1913
1914   all_vertices = XNEWVEC (int, num_vertices);
1915   vertices = XNEWVEC (int, num_vertices);
1916   for (i = 0; i < num_vertices; i++)
1917     all_vertices[i] = i;
1918
1919   num_connected_components = graphds_dfs (g, all_vertices, num_vertices,
1920                                           NULL, true, NULL);
1921   for (i = 0; i < g->n_vertices; i++)
1922     {
1923       data_reference_p dr = VEC_index (data_reference_p, drs, i);
1924       base_alias_pair *bap;
1925
1926       if (dr->aux)
1927         bap = (base_alias_pair *)(dr->aux);
1928
1929       bap->alias_set = XNEW (int);
1930       *(bap->alias_set) = g->vertices[i].component + 1;
1931     }
1932
1933   /* Verify if the DFS numbering results in optimal solution.  */
1934   for (i = 0; i < num_connected_components; i++)
1935     {
1936       num_vertices_in_component = 0;
1937       /* Get all vertices whose DFS component number is the same as i.  */
1938       for (j = 0; j < num_vertices; j++)
1939         if (g->vertices[j].component == i)
1940           vertices[num_vertices_in_component++] = j;
1941
1942       /* Now test if the vertices in 'vertices' form a clique, by testing
1943          for edges among each pair.  */
1944       this_component_is_clique = 1;
1945       for (v_indx1 = 0; v_indx1 < num_vertices_in_component; v_indx1++)
1946         {
1947           for (v_indx2 = v_indx1+1; v_indx2 < num_vertices_in_component; v_indx2++)
1948             {
1949               /* Check if the two vertices are connected by iterating
1950                  through all the edges which have one of these are source.  */
1951               e = g->vertices[vertices[v_indx2]].pred;
1952               while (e)
1953                 {
1954                   if (e->src == vertices[v_indx1])
1955                     break;
1956                   e = e->pred_next;
1957                 }
1958               if (!e)
1959                 {
1960                   this_component_is_clique = 0;
1961                   break;
1962                 }
1963             }
1964           if (!this_component_is_clique)
1965             all_components_are_cliques = 0;
1966         }
1967     }
1968
1969   free (all_vertices);
1970   free (vertices);
1971   free_graph (g);
1972   return all_components_are_cliques;
1973 }
1974
1975 /* Group each data reference in DRS with it's base object set num.  */
1976
1977 static void
1978 build_base_obj_set_for_drs (VEC (data_reference_p, heap) *drs)
1979 {
1980   int num_vertex = VEC_length (data_reference_p, drs);
1981   struct graph *g = new_graph (num_vertex);
1982   data_reference_p dr1, dr2;
1983   int i, j;
1984   int *queue;
1985
1986   for (i = 0; VEC_iterate (data_reference_p, drs, i, dr1); i++)
1987     for (j = i + 1; VEC_iterate (data_reference_p, drs, j, dr2); j++)
1988       if (dr_same_base_object_p (dr1, dr2))
1989         {
1990           add_edge (g, i, j);
1991           add_edge (g, j, i);
1992         }
1993
1994   queue = XNEWVEC (int, num_vertex);
1995   for (i = 0; i < num_vertex; i++)
1996     queue[i] = i;
1997
1998   graphds_dfs (g, queue, num_vertex, NULL, true, NULL);
1999
2000   for (i = 0; i < g->n_vertices; i++)
2001     {
2002       data_reference_p dr = VEC_index (data_reference_p, drs, i);
2003       base_alias_pair *bap;
2004
2005       if (dr->aux)
2006         bap = (base_alias_pair *)(dr->aux);
2007
2008       bap->base_obj_set = g->vertices[i].component + 1;
2009     }
2010
2011   free (queue);
2012   free_graph (g);
2013 }
2014
2015 /* Build the data references for PBB.  */
2016
2017 static void
2018 build_pbb_drs (poly_bb_p pbb)
2019 {
2020   int j;
2021   data_reference_p dr;
2022   VEC (data_reference_p, heap) *gbb_drs = GBB_DATA_REFS (PBB_BLACK_BOX (pbb));
2023
2024   for (j = 0; VEC_iterate (data_reference_p, gbb_drs, j, dr); j++)
2025     build_poly_dr (dr, pbb);
2026 }
2027
2028 /* Dump to file the alias graphs for the data references in DRS.  */
2029
2030 static void
2031 dump_alias_graphs (VEC (data_reference_p, heap) *drs)
2032 {
2033   char comment[100];
2034   FILE *file_dimacs, *file_ecc, *file_dot;
2035
2036   file_dimacs = fopen ("/tmp/dr_alias_graph_dimacs", "ab");
2037   if (file_dimacs)
2038     {
2039       snprintf (comment, sizeof (comment), "%s %s", main_input_filename,
2040                 current_function_name ());
2041       write_alias_graph_to_ascii_dimacs (file_dimacs, comment, drs);
2042       fclose (file_dimacs);
2043     }
2044
2045   file_ecc = fopen ("/tmp/dr_alias_graph_ecc", "ab");
2046   if (file_ecc)
2047     {
2048       snprintf (comment, sizeof (comment), "%s %s", main_input_filename,
2049                 current_function_name ());
2050       write_alias_graph_to_ascii_ecc (file_ecc, comment, drs);
2051       fclose (file_ecc);
2052     }
2053
2054   file_dot = fopen ("/tmp/dr_alias_graph_dot", "ab");
2055   if (file_dot)
2056     {
2057       snprintf (comment, sizeof (comment), "%s %s", main_input_filename,
2058                 current_function_name ());
2059       write_alias_graph_to_ascii_dot (file_dot, comment, drs);
2060       fclose (file_dot);
2061     }
2062 }
2063
2064 /* Build data references in SCOP.  */
2065
2066 static void
2067 build_scop_drs (scop_p scop)
2068 {
2069   int i, j;
2070   poly_bb_p pbb;
2071   data_reference_p dr;
2072   VEC (data_reference_p, heap) *drs = VEC_alloc (data_reference_p, heap, 3);
2073
2074   for (i = 0; VEC_iterate (poly_bb_p, SCOP_BBS (scop), i, pbb); i++)
2075     for (j = 0; VEC_iterate (data_reference_p,
2076                              GBB_DATA_REFS (PBB_BLACK_BOX (pbb)), j, dr); j++)
2077       VEC_safe_push (data_reference_p, heap, drs, dr);
2078
2079   for (i = 0; VEC_iterate (data_reference_p, drs, i, dr); i++)
2080     dr->aux = XNEW (base_alias_pair);
2081
2082   if (!build_alias_set_optimal_p (drs))
2083     {
2084       /* TODO: Add support when building alias set is not optimal.  */
2085       ;
2086     }
2087
2088   build_base_obj_set_for_drs (drs);
2089
2090   /* When debugging, enable the following code.  This cannot be used
2091      in production compilers.  */
2092   if (0)
2093     dump_alias_graphs (drs);
2094
2095   VEC_free (data_reference_p, heap, drs);
2096
2097   for (i = 0; VEC_iterate (poly_bb_p, SCOP_BBS (scop), i, pbb); i++)
2098     build_pbb_drs (pbb);
2099 }
2100
2101 /* Return a gsi at the position of the phi node STMT.  */
2102
2103 static gimple_stmt_iterator
2104 gsi_for_phi_node (gimple stmt)
2105 {
2106   gimple_stmt_iterator psi;
2107   basic_block bb = gimple_bb (stmt);
2108
2109   for (psi = gsi_start_phis (bb); !gsi_end_p (psi); gsi_next (&psi))
2110     if (stmt == gsi_stmt (psi))
2111       return psi;
2112
2113   gcc_unreachable ();
2114   return psi;
2115 }
2116
2117 /* Insert the assignment "RES := VAR" just after the definition of VAR.  */
2118
2119 static void
2120 insert_out_of_ssa_copy (tree res, tree var)
2121 {
2122   gimple stmt;
2123   gimple_seq stmts;
2124   gimple_stmt_iterator si;
2125   gimple_stmt_iterator gsi;
2126
2127   var = force_gimple_operand (var, &stmts, true, NULL_TREE);
2128   stmt = gimple_build_assign (res, var);
2129   if (!stmts)
2130     stmts = gimple_seq_alloc ();
2131   si = gsi_last (stmts);
2132   gsi_insert_after (&si, stmt, GSI_NEW_STMT);
2133
2134   stmt = SSA_NAME_DEF_STMT (var);
2135   if (gimple_code (stmt) == GIMPLE_PHI)
2136     {
2137       gsi = gsi_after_labels (gimple_bb (stmt));
2138       gsi_insert_seq_before (&gsi, stmts, GSI_NEW_STMT);
2139     }
2140   else
2141     {
2142       gsi = gsi_for_stmt (stmt);
2143       gsi_insert_seq_after (&gsi, stmts, GSI_NEW_STMT);
2144     }
2145 }
2146
2147 /* Insert on edge E the assignment "RES := EXPR".  */
2148
2149 static void
2150 insert_out_of_ssa_copy_on_edge (edge e, tree res, tree expr)
2151 {
2152   gimple_stmt_iterator gsi;
2153   gimple_seq stmts;
2154   tree var = force_gimple_operand (expr, &stmts, true, NULL_TREE);
2155   gimple stmt = gimple_build_assign (res, var);
2156
2157   if (!stmts)
2158     stmts = gimple_seq_alloc ();
2159
2160   gsi = gsi_last (stmts);
2161   gsi_insert_after (&gsi, stmt, GSI_NEW_STMT);
2162   gsi_insert_seq_on_edge (e, stmts);
2163   gsi_commit_edge_inserts ();
2164 }
2165
2166 /* Creates a zero dimension array of the same type as VAR.  */
2167
2168 static tree
2169 create_zero_dim_array (tree var, const char *base_name)
2170 {
2171   tree index_type = build_index_type (integer_zero_node);
2172   tree elt_type = TREE_TYPE (var);
2173   tree array_type = build_array_type (elt_type, index_type);
2174   tree base = create_tmp_var (array_type, base_name);
2175
2176   add_referenced_var (base);
2177
2178   return build4 (ARRAY_REF, elt_type, base, integer_zero_node, NULL_TREE,
2179                  NULL_TREE);
2180 }
2181
2182 /* Returns true when PHI is a loop close phi node.  */
2183
2184 static bool
2185 scalar_close_phi_node_p (gimple phi)
2186 {
2187   if (gimple_code (phi) != GIMPLE_PHI
2188       || !is_gimple_reg (gimple_phi_result (phi)))
2189     return false;
2190
2191   /* Note that loop close phi nodes should have a single argument
2192      because we translated the representation into a canonical form
2193      before Graphite: see canonicalize_loop_closed_ssa_form.  */
2194   return (gimple_phi_num_args (phi) == 1);
2195 }
2196
2197 /* Rewrite out of SSA the reduction phi node at PSI by creating a zero
2198    dimension array for it.  */
2199
2200 static void
2201 rewrite_close_phi_out_of_ssa (gimple_stmt_iterator *psi)
2202 {
2203   gimple phi = gsi_stmt (*psi);
2204   tree res = gimple_phi_result (phi);
2205   tree var = SSA_NAME_VAR (res);
2206   tree zero_dim_array = create_zero_dim_array (var, "Close_Phi");
2207   gimple_stmt_iterator gsi = gsi_after_labels (gimple_bb (phi));
2208   gimple stmt = gimple_build_assign (res, zero_dim_array);
2209   tree arg = gimple_phi_arg_def (phi, 0);
2210
2211   /* Note that loop close phi nodes should have a single argument
2212      because we translated the representation into a canonical form
2213      before Graphite: see canonicalize_loop_closed_ssa_form.  */
2214   gcc_assert (gimple_phi_num_args (phi) == 1);
2215
2216   if (TREE_CODE (arg) == SSA_NAME
2217       && !SSA_NAME_IS_DEFAULT_DEF (arg))
2218     insert_out_of_ssa_copy (zero_dim_array, arg);
2219   else
2220     insert_out_of_ssa_copy_on_edge (single_pred_edge (gimple_bb (phi)),
2221                                     zero_dim_array, arg);
2222
2223   remove_phi_node (psi, false);
2224   gsi_insert_before (&gsi, stmt, GSI_NEW_STMT);
2225   SSA_NAME_DEF_STMT (res) = stmt;
2226 }
2227
2228 /* Rewrite out of SSA the reduction phi node at PSI by creating a zero
2229    dimension array for it.  */
2230
2231 static void
2232 rewrite_phi_out_of_ssa (gimple_stmt_iterator *psi)
2233 {
2234   size_t i;
2235   gimple phi = gsi_stmt (*psi);
2236   basic_block bb = gimple_bb (phi);
2237   tree res = gimple_phi_result (phi);
2238   tree var = SSA_NAME_VAR (res);
2239   tree zero_dim_array = create_zero_dim_array (var, "General_Reduction");
2240   gimple_stmt_iterator gsi;
2241   gimple stmt;
2242   gimple_seq stmts;
2243
2244   for (i = 0; i < gimple_phi_num_args (phi); i++)
2245     {
2246       tree arg = gimple_phi_arg_def (phi, i);
2247
2248       /* Try to avoid the insertion on edges as much as possible: this
2249          would avoid the insertion of code on loop latch edges, making
2250          the pattern matching of the vectorizer happy, or it would
2251          avoid the insertion of useless basic blocks.  Note that it is
2252          incorrect to insert out of SSA copies close by their
2253          definition when they are more than two loop levels apart:
2254          for example, starting from a double nested loop
2255
2256          | a = ...
2257          | loop_1
2258          |  loop_2
2259          |    b = phi (a, c)
2260          |    c = ...
2261          |  end_2
2262          | end_1
2263
2264          the following transform is incorrect
2265
2266          | a = ...
2267          | Red[0] = a
2268          | loop_1
2269          |  loop_2
2270          |    b = Red[0]
2271          |    c = ...
2272          |    Red[0] = c
2273          |  end_2
2274          | end_1
2275
2276          whereas inserting the copy on the incoming edge is correct
2277
2278          | a = ...
2279          | loop_1
2280          |  Red[0] = a
2281          |  loop_2
2282          |    b = Red[0]
2283          |    c = ...
2284          |    Red[0] = c
2285          |  end_2
2286          | end_1
2287       */
2288       if (TREE_CODE (arg) == SSA_NAME
2289           && is_gimple_reg (arg)
2290           && gimple_bb (SSA_NAME_DEF_STMT (arg))
2291           && (flow_bb_inside_loop_p (bb->loop_father,
2292                                      gimple_bb (SSA_NAME_DEF_STMT (arg)))
2293               || flow_bb_inside_loop_p (loop_outer (bb->loop_father),
2294                                         gimple_bb (SSA_NAME_DEF_STMT (arg)))))
2295         insert_out_of_ssa_copy (zero_dim_array, arg);
2296       else
2297         insert_out_of_ssa_copy_on_edge (gimple_phi_arg_edge (phi, i),
2298                                         zero_dim_array, arg);
2299     }
2300
2301   var = force_gimple_operand (zero_dim_array, &stmts, true, NULL_TREE);
2302
2303   if (!stmts)
2304     stmts = gimple_seq_alloc ();
2305
2306   stmt = gimple_build_assign (res, var);
2307   remove_phi_node (psi, false);
2308   SSA_NAME_DEF_STMT (res) = stmt;
2309
2310   gsi = gsi_last (stmts);
2311   gsi_insert_after (&gsi, stmt, GSI_NEW_STMT);
2312
2313   gsi = gsi_after_labels (bb);
2314   gsi_insert_seq_before (&gsi, stmts, GSI_NEW_STMT);
2315 }
2316
2317 /* Return true when DEF can be analyzed in REGION by the scalar
2318    evolution analyzer.  */
2319
2320 static bool
2321 scev_analyzable_p (tree def, sese region)
2322 {
2323   gimple stmt = SSA_NAME_DEF_STMT (def);
2324   loop_p loop = loop_containing_stmt (stmt);
2325   tree scev = scalar_evolution_in_region (region, loop, def);
2326
2327   return !chrec_contains_undetermined (scev);
2328 }
2329
2330 /* Rewrite the scalar dependence of DEF used in USE_STMT with a memory
2331    read from ZERO_DIM_ARRAY.  */
2332
2333 static void
2334 rewrite_cross_bb_scalar_dependence (tree zero_dim_array, tree def, gimple use_stmt)
2335 {
2336   tree var = SSA_NAME_VAR (def);
2337   gimple name_stmt = gimple_build_assign (var, zero_dim_array);
2338   tree name = make_ssa_name (var, name_stmt);
2339   ssa_op_iter iter;
2340   use_operand_p use_p;
2341   gimple_stmt_iterator gsi;
2342
2343   gcc_assert (gimple_code (use_stmt) != GIMPLE_PHI);
2344
2345   gimple_assign_set_lhs (name_stmt, name);
2346
2347   gsi = gsi_for_stmt (use_stmt);
2348   gsi_insert_before (&gsi, name_stmt, GSI_NEW_STMT);
2349
2350   FOR_EACH_SSA_USE_OPERAND (use_p, use_stmt, iter, SSA_OP_ALL_USES)
2351     if (operand_equal_p (def, USE_FROM_PTR (use_p), 0))
2352       replace_exp (use_p, name);
2353
2354   update_stmt (use_stmt);
2355 }
2356
2357 /* Rewrite the scalar dependences crossing the boundary of the BB
2358    containing STMT with an array.  */
2359
2360 static void
2361 rewrite_cross_bb_scalar_deps (sese region, gimple_stmt_iterator *gsi)
2362 {
2363   gimple stmt = gsi_stmt (*gsi);
2364   imm_use_iterator imm_iter;
2365   tree def;
2366   basic_block def_bb;
2367   tree zero_dim_array = NULL_TREE;
2368   gimple use_stmt;
2369
2370   if (gimple_code (stmt) != GIMPLE_ASSIGN)
2371     return;
2372
2373   def = gimple_assign_lhs (stmt);
2374   if (!is_gimple_reg (def)
2375       || scev_analyzable_p (def, region))
2376     return;
2377
2378   def_bb = gimple_bb (stmt);
2379
2380   FOR_EACH_IMM_USE_STMT (use_stmt, imm_iter, def)
2381     if (def_bb != gimple_bb (use_stmt)
2382         && gimple_code (use_stmt) != GIMPLE_PHI
2383         && !is_gimple_debug (use_stmt))
2384       {
2385         if (!zero_dim_array)
2386           {
2387             zero_dim_array = create_zero_dim_array
2388               (SSA_NAME_VAR (def), "Cross_BB_scalar_dependence");
2389             insert_out_of_ssa_copy (zero_dim_array, def);
2390             gsi_next (gsi);
2391           }
2392
2393         rewrite_cross_bb_scalar_dependence (zero_dim_array, def, use_stmt);
2394       }
2395 }
2396
2397 /* Rewrite out of SSA all the reduction phi nodes of SCOP.  */
2398
2399 static void
2400 rewrite_reductions_out_of_ssa (scop_p scop)
2401 {
2402   basic_block bb;
2403   gimple_stmt_iterator psi;
2404   sese region = SCOP_REGION (scop);
2405
2406   FOR_EACH_BB (bb)
2407     if (bb_in_sese_p (bb, region))
2408       for (psi = gsi_start_phis (bb); !gsi_end_p (psi);)
2409         {
2410           if (scalar_close_phi_node_p (gsi_stmt (psi)))
2411             rewrite_close_phi_out_of_ssa (&psi);
2412           else if (reduction_phi_p (region, &psi))
2413             rewrite_phi_out_of_ssa (&psi);
2414         }
2415
2416   update_ssa (TODO_update_ssa);
2417 #ifdef ENABLE_CHECKING
2418   verify_loop_closed_ssa (true);
2419 #endif
2420
2421   FOR_EACH_BB (bb)
2422     if (bb_in_sese_p (bb, region))
2423       for (psi = gsi_start_bb (bb); !gsi_end_p (psi); gsi_next (&psi))
2424         rewrite_cross_bb_scalar_deps (region, &psi);
2425
2426   update_ssa (TODO_update_ssa);
2427 #ifdef ENABLE_CHECKING
2428   verify_loop_closed_ssa (true);
2429 #endif
2430 }
2431
2432 /* Returns the number of pbbs that are in loops contained in SCOP.  */
2433
2434 static int
2435 nb_pbbs_in_loops (scop_p scop)
2436 {
2437   int i;
2438   poly_bb_p pbb;
2439   int res = 0;
2440
2441   for (i = 0; VEC_iterate (poly_bb_p, SCOP_BBS (scop), i, pbb); i++)
2442     if (loop_in_sese_p (gbb_loop (PBB_BLACK_BOX (pbb)), SCOP_REGION (scop)))
2443       res++;
2444
2445   return res;
2446 }
2447
2448 /* Return the number of data references in BB that write in
2449    memory.  */
2450
2451 static int
2452 nb_data_writes_in_bb (basic_block bb)
2453 {
2454   int res = 0;
2455   gimple_stmt_iterator gsi;
2456
2457   for (gsi = gsi_start_bb (bb); !gsi_end_p (gsi); gsi_next (&gsi))
2458     if (gimple_vdef (gsi_stmt (gsi)))
2459       res++;
2460
2461   return res;
2462 }
2463
2464 /* Splits STMT out of its current BB.  */
2465
2466 static basic_block
2467 split_reduction_stmt (gimple stmt)
2468 {
2469   gimple_stmt_iterator gsi;
2470   basic_block bb = gimple_bb (stmt);
2471   edge e;
2472
2473   /* Do not split basic blocks with no writes to memory: the reduction
2474      will be the only write to memory.  */
2475   if (nb_data_writes_in_bb (bb) == 0)
2476     return bb;
2477
2478   split_block (bb, stmt);
2479
2480   if (gsi_one_before_end_p (gsi_start_nondebug_bb (bb)))
2481     return bb;
2482
2483   gsi = gsi_last_bb (bb);
2484   gsi_prev (&gsi);
2485   e = split_block (bb, gsi_stmt (gsi));
2486
2487   return e->dest;
2488 }
2489
2490 /* Return true when stmt is a reduction operation.  */
2491
2492 static inline bool
2493 is_reduction_operation_p (gimple stmt)
2494 {
2495   enum tree_code code;
2496
2497   gcc_assert (is_gimple_assign (stmt));
2498   code = gimple_assign_rhs_code (stmt);
2499
2500   return flag_associative_math
2501     && commutative_tree_code (code)
2502     && associative_tree_code (code);
2503 }
2504
2505 /* Returns true when PHI contains an argument ARG.  */
2506
2507 static bool
2508 phi_contains_arg (gimple phi, tree arg)
2509 {
2510   size_t i;
2511
2512   for (i = 0; i < gimple_phi_num_args (phi); i++)
2513     if (operand_equal_p (arg, gimple_phi_arg_def (phi, i), 0))
2514       return true;
2515
2516   return false;
2517 }
2518
2519 /* Return a loop phi node that corresponds to a reduction containing LHS.  */
2520
2521 static gimple
2522 follow_ssa_with_commutative_ops (tree arg, tree lhs)
2523 {
2524   gimple stmt;
2525
2526   if (TREE_CODE (arg) != SSA_NAME)
2527     return NULL;
2528
2529   stmt = SSA_NAME_DEF_STMT (arg);
2530
2531   if (gimple_code (stmt) == GIMPLE_NOP
2532       || gimple_code (stmt) == GIMPLE_CALL)
2533     return NULL;
2534
2535   if (gimple_code (stmt) == GIMPLE_PHI)
2536     {
2537       if (phi_contains_arg (stmt, lhs))
2538         return stmt;
2539       return NULL;
2540     }
2541
2542   if (!is_gimple_assign (stmt))
2543     return NULL;
2544
2545   if (gimple_num_ops (stmt) == 2)
2546     return follow_ssa_with_commutative_ops (gimple_assign_rhs1 (stmt), lhs);
2547
2548   if (is_reduction_operation_p (stmt))
2549     {
2550       gimple res = follow_ssa_with_commutative_ops (gimple_assign_rhs1 (stmt), lhs);
2551
2552       return res ? res :
2553         follow_ssa_with_commutative_ops (gimple_assign_rhs2 (stmt), lhs);
2554     }
2555
2556   return NULL;
2557 }
2558
2559 /* Detect commutative and associative scalar reductions starting at
2560    the STMT.  Return the phi node of the reduction cycle, or NULL.  */
2561
2562 static gimple
2563 detect_commutative_reduction_arg (tree lhs, gimple stmt, tree arg,
2564                                   VEC (gimple, heap) **in,
2565                                   VEC (gimple, heap) **out)
2566 {
2567   gimple phi = follow_ssa_with_commutative_ops (arg, lhs);
2568
2569   if (!phi)
2570     return NULL;
2571
2572   VEC_safe_push (gimple, heap, *in, stmt);
2573   VEC_safe_push (gimple, heap, *out, stmt);
2574   return phi;
2575 }
2576
2577 /* Detect commutative and associative scalar reductions starting at
2578    the STMT.  Return the phi node of the reduction cycle, or NULL.  */
2579
2580 static gimple
2581 detect_commutative_reduction_assign (gimple stmt, VEC (gimple, heap) **in,
2582                                      VEC (gimple, heap) **out)
2583 {
2584   tree lhs = gimple_assign_lhs (stmt);
2585
2586   if (gimple_num_ops (stmt) == 2)
2587     return detect_commutative_reduction_arg (lhs, stmt,
2588                                              gimple_assign_rhs1 (stmt),
2589                                              in, out);
2590
2591   if (is_reduction_operation_p (stmt))
2592     {
2593       gimple res = detect_commutative_reduction_arg (lhs, stmt,
2594                                                      gimple_assign_rhs1 (stmt),
2595                                                      in, out);
2596       return res ? res
2597         : detect_commutative_reduction_arg (lhs, stmt,
2598                                             gimple_assign_rhs2 (stmt),
2599                                             in, out);
2600     }
2601
2602   return NULL;
2603 }
2604
2605 /* Return a loop phi node that corresponds to a reduction containing LHS.  */
2606
2607 static gimple
2608 follow_inital_value_to_phi (tree arg, tree lhs)
2609 {
2610   gimple stmt;
2611
2612   if (!arg || TREE_CODE (arg) != SSA_NAME)
2613     return NULL;
2614
2615   stmt = SSA_NAME_DEF_STMT (arg);
2616
2617   if (gimple_code (stmt) == GIMPLE_PHI
2618       && phi_contains_arg (stmt, lhs))
2619     return stmt;
2620
2621   return NULL;
2622 }
2623
2624
2625 /* Return the argument of the loop PHI that is the inital value coming
2626    from outside the loop.  */
2627
2628 static edge
2629 edge_initial_value_for_loop_phi (gimple phi)
2630 {
2631   size_t i;
2632
2633   for (i = 0; i < gimple_phi_num_args (phi); i++)
2634     {
2635       edge e = gimple_phi_arg_edge (phi, i);
2636
2637       if (loop_depth (e->src->loop_father)
2638           < loop_depth (e->dest->loop_father))
2639         return e;
2640     }
2641
2642   return NULL;
2643 }
2644
2645 /* Return the argument of the loop PHI that is the inital value coming
2646    from outside the loop.  */
2647
2648 static tree
2649 initial_value_for_loop_phi (gimple phi)
2650 {
2651   size_t i;
2652
2653   for (i = 0; i < gimple_phi_num_args (phi); i++)
2654     {
2655       edge e = gimple_phi_arg_edge (phi, i);
2656
2657       if (loop_depth (e->src->loop_father)
2658           < loop_depth (e->dest->loop_father))
2659         return gimple_phi_arg_def (phi, i);
2660     }
2661
2662   return NULL_TREE;
2663 }
2664
2665 /* Detect commutative and associative scalar reductions starting at
2666    the loop closed phi node CLOSE_PHI.  Return the phi node of the
2667    reduction cycle, or NULL.  */
2668
2669 static gimple
2670 detect_commutative_reduction (gimple stmt, VEC (gimple, heap) **in,
2671                               VEC (gimple, heap) **out)
2672 {
2673   if (scalar_close_phi_node_p (stmt))
2674     {
2675       tree arg = gimple_phi_arg_def (stmt, 0);
2676       gimple def, loop_phi;
2677
2678       if (TREE_CODE (arg) != SSA_NAME)
2679         return NULL;
2680
2681       /* Note that loop close phi nodes should have a single argument
2682          because we translated the representation into a canonical form
2683          before Graphite: see canonicalize_loop_closed_ssa_form.  */
2684       gcc_assert (gimple_phi_num_args (stmt) == 1);
2685
2686       def = SSA_NAME_DEF_STMT (arg);
2687       loop_phi = detect_commutative_reduction (def, in, out);
2688
2689       if (loop_phi)
2690         {
2691           tree lhs = gimple_phi_result (stmt);
2692           tree init = initial_value_for_loop_phi (loop_phi);
2693           gimple phi = follow_inital_value_to_phi (init, lhs);
2694
2695           VEC_safe_push (gimple, heap, *in, loop_phi);
2696           VEC_safe_push (gimple, heap, *out, stmt);
2697           return phi;
2698         }
2699       else
2700         return NULL;
2701     }
2702
2703   if (gimple_code (stmt) == GIMPLE_ASSIGN)
2704     return detect_commutative_reduction_assign (stmt, in, out);
2705
2706   return NULL;
2707 }
2708
2709 /* Translate the scalar reduction statement STMT to an array RED
2710    knowing that its recursive phi node is LOOP_PHI.  */
2711
2712 static void
2713 translate_scalar_reduction_to_array_for_stmt (tree red, gimple stmt,
2714                                               gimple loop_phi)
2715 {
2716   gimple_stmt_iterator insert_gsi = gsi_after_labels (gimple_bb (loop_phi));
2717   tree res = gimple_phi_result (loop_phi);
2718   gimple assign = gimple_build_assign (res, red);
2719
2720   gsi_insert_before (&insert_gsi, assign, GSI_SAME_STMT);
2721
2722   insert_gsi = gsi_after_labels (gimple_bb (stmt));
2723   assign = gimple_build_assign (red, gimple_assign_lhs (stmt));
2724   insert_gsi = gsi_for_stmt (stmt);
2725   gsi_insert_after (&insert_gsi, assign, GSI_SAME_STMT);
2726 }
2727
2728 /* Insert the assignment "result (CLOSE_PHI) = RED".  */
2729
2730 static void
2731 insert_copyout (tree red, gimple close_phi)
2732 {
2733   tree res = gimple_phi_result (close_phi);
2734   basic_block bb = gimple_bb (close_phi);
2735   gimple_stmt_iterator insert_gsi = gsi_after_labels (bb);
2736   gimple assign = gimple_build_assign (res, red);
2737
2738   gsi_insert_before (&insert_gsi, assign, GSI_SAME_STMT);
2739 }
2740
2741 /* Insert the assignment "RED = initial_value (LOOP_PHI)".  */
2742
2743 static void
2744 insert_copyin (tree red, gimple loop_phi)
2745 {
2746   gimple_seq stmts;
2747   tree init = initial_value_for_loop_phi (loop_phi);
2748   tree expr = build2 (MODIFY_EXPR, TREE_TYPE (init), red, init);
2749
2750   force_gimple_operand (expr, &stmts, true, NULL);
2751   gsi_insert_seq_on_edge (edge_initial_value_for_loop_phi (loop_phi), stmts);
2752 }
2753
2754 /* Removes the PHI node and resets all the debug stmts that are using
2755    the PHI_RESULT.  */
2756
2757 static void
2758 remove_phi (gimple phi)
2759 {
2760   imm_use_iterator imm_iter;
2761   tree def;
2762   use_operand_p use_p;
2763   gimple_stmt_iterator gsi;
2764   VEC (gimple, heap) *update = VEC_alloc (gimple, heap, 3);
2765   unsigned int i;
2766   gimple stmt;
2767
2768   def = PHI_RESULT (phi);
2769   FOR_EACH_IMM_USE_FAST (use_p, imm_iter, def)
2770     {
2771       stmt = USE_STMT (use_p);
2772
2773       if (is_gimple_debug (stmt))
2774         {
2775           gimple_debug_bind_reset_value (stmt);
2776           VEC_safe_push (gimple, heap, update, stmt);
2777         }
2778     }
2779
2780   for (i = 0; VEC_iterate (gimple, update, i, stmt); i++)
2781     update_stmt (stmt);
2782
2783   VEC_free (gimple, heap, update);
2784
2785   gsi = gsi_for_phi_node (phi);
2786   remove_phi_node (&gsi, false);
2787 }
2788
2789 /* Rewrite out of SSA the reduction described by the loop phi nodes
2790    IN, and the close phi nodes OUT.  IN and OUT are structured by loop
2791    levels like this:
2792
2793    IN: stmt, loop_n, ..., loop_0
2794    OUT: stmt, close_n, ..., close_0
2795
2796    the first element is the reduction statement, and the next elements
2797    are the loop and close phi nodes of each of the outer loops.  */
2798
2799 static void
2800 translate_scalar_reduction_to_array (VEC (gimple, heap) *in,
2801                                      VEC (gimple, heap) *out,
2802                                      sbitmap reductions)
2803 {
2804   unsigned int i;
2805   gimple loop_phi;
2806   tree red = NULL_TREE;
2807
2808   for (i = 0; VEC_iterate (gimple, in, i, loop_phi); i++)
2809     {
2810       gimple close_phi = VEC_index (gimple, out, i);
2811
2812       if (i == 0)
2813         {
2814           gimple stmt = loop_phi;
2815           basic_block bb = split_reduction_stmt (stmt);
2816
2817           SET_BIT (reductions, bb->index);
2818           gcc_assert (close_phi == loop_phi);
2819
2820           red = create_zero_dim_array
2821             (gimple_assign_lhs (stmt), "Commutative_Associative_Reduction");
2822           translate_scalar_reduction_to_array_for_stmt
2823             (red, stmt, VEC_index (gimple, in, 1));
2824           continue;
2825         }
2826
2827       if (i == VEC_length (gimple, in) - 1)
2828         {
2829           insert_copyout (red, close_phi);
2830           insert_copyin (red, loop_phi);
2831         }
2832
2833       remove_phi (loop_phi);
2834       remove_phi (close_phi);
2835     }
2836 }
2837
2838 /* Rewrites out of SSA a commutative reduction at CLOSE_PHI.  */
2839
2840 static void
2841 rewrite_commutative_reductions_out_of_ssa_close_phi (gimple close_phi,
2842                                                      sbitmap reductions)
2843 {
2844   VEC (gimple, heap) *in = VEC_alloc (gimple, heap, 10);
2845   VEC (gimple, heap) *out = VEC_alloc (gimple, heap, 10);
2846
2847   detect_commutative_reduction (close_phi, &in, &out);
2848   if (VEC_length (gimple, in) > 0)
2849     translate_scalar_reduction_to_array (in, out, reductions);
2850
2851   VEC_free (gimple, heap, in);
2852   VEC_free (gimple, heap, out);
2853 }
2854
2855 /* Rewrites all the commutative reductions from LOOP out of SSA.  */
2856
2857 static void
2858 rewrite_commutative_reductions_out_of_ssa_loop (loop_p loop,
2859                                                 sbitmap reductions)
2860 {
2861   gimple_stmt_iterator gsi;
2862   edge exit = single_exit (loop);
2863
2864   if (!exit)
2865     return;
2866
2867   for (gsi = gsi_start_phis (exit->dest); !gsi_end_p (gsi); gsi_next (&gsi))
2868     rewrite_commutative_reductions_out_of_ssa_close_phi (gsi_stmt (gsi),
2869                                                          reductions);
2870 }
2871
2872 /* Rewrites all the commutative reductions from SCOP out of SSA.  */
2873
2874 static void
2875 rewrite_commutative_reductions_out_of_ssa (sese region, sbitmap reductions)
2876 {
2877   loop_iterator li;
2878   loop_p loop;
2879
2880   FOR_EACH_LOOP (li, loop, 0)
2881     if (loop_in_sese_p (loop, region))
2882       rewrite_commutative_reductions_out_of_ssa_loop (loop, reductions);
2883
2884   gsi_commit_edge_inserts ();
2885   update_ssa (TODO_update_ssa);
2886 #ifdef ENABLE_CHECKING
2887   verify_loop_closed_ssa (true);
2888 #endif
2889 }
2890
2891 /* A LOOP is in normal form for Graphite when it contains only one
2892    scalar phi node that defines the main induction variable of the
2893    loop, only one increment of the IV, and only one exit condition.  */
2894
2895 static void
2896 graphite_loop_normal_form (loop_p loop)
2897 {
2898   struct tree_niter_desc niter;
2899   tree nit;
2900   gimple_seq stmts;
2901   edge exit = single_dom_exit (loop);
2902
2903   bool known_niter = number_of_iterations_exit (loop, exit, &niter, false);
2904
2905   /* At this point we should know the number of iterations.  */
2906   gcc_assert (known_niter);
2907
2908   nit = force_gimple_operand (unshare_expr (niter.niter), &stmts, true,
2909                               NULL_TREE);
2910   if (stmts)
2911     gsi_insert_seq_on_edge_immediate (loop_preheader_edge (loop), stmts);
2912
2913   loop->single_iv = canonicalize_loop_ivs (loop, &nit, false);
2914 }
2915
2916 /* Rewrite all the loops of SCOP in normal form: one induction
2917    variable per loop.  */
2918
2919 static void
2920 scop_canonicalize_loops (scop_p scop)
2921 {
2922   loop_iterator li;
2923   loop_p loop;
2924
2925   FOR_EACH_LOOP (li, loop, 0)
2926     if (loop_in_sese_p (loop, SCOP_REGION (scop)))
2927       graphite_loop_normal_form (loop);
2928 }
2929
2930 /* Java does not initialize long_long_integer_type_node.  */
2931 #define my_long_long (long_long_integer_type_node ? long_long_integer_type_node : ssizetype)
2932
2933 /* Can all ivs be represented by a signed integer?
2934    As CLooG might generate negative values in its expressions, signed loop ivs
2935    are required in the backend. */
2936
2937 static bool
2938 scop_ivs_can_be_represented (scop_p scop)
2939 {
2940   loop_iterator li;
2941   loop_p loop;
2942
2943   FOR_EACH_LOOP (li, loop, 0)
2944     {
2945       tree type;
2946       int precision;
2947
2948       if (!loop_in_sese_p (loop, SCOP_REGION (scop)))
2949         continue;
2950
2951       if (!loop->single_iv)
2952         continue;
2953
2954       type = TREE_TYPE (loop->single_iv);
2955       precision = TYPE_PRECISION (type);
2956
2957       if (TYPE_UNSIGNED (type)
2958           && precision >= TYPE_PRECISION (my_long_long))
2959         return false;
2960     }
2961
2962   return true;
2963 }
2964
2965 #undef my_long_long
2966
2967 /* Builds the polyhedral representation for a SESE region.  */
2968
2969 void
2970 build_poly_scop (scop_p scop)
2971 {
2972   sese region = SCOP_REGION (scop);
2973   sbitmap reductions = sbitmap_alloc (last_basic_block * 2);
2974   graphite_dim_t max_dim;
2975
2976   sbitmap_zero (reductions);
2977   rewrite_commutative_reductions_out_of_ssa (region, reductions);
2978   rewrite_reductions_out_of_ssa (scop);
2979   build_scop_bbs (scop, reductions);
2980   sbitmap_free (reductions);
2981
2982   /* FIXME: This restriction is needed to avoid a problem in CLooG.
2983      Once CLooG is fixed, remove this guard.  Anyways, it makes no
2984      sense to optimize a scop containing only PBBs that do not belong
2985      to any loops.  */
2986   if (nb_pbbs_in_loops (scop) == 0)
2987     return;
2988
2989   scop_canonicalize_loops (scop);
2990   if (!scop_ivs_can_be_represented (scop))
2991     return;
2992
2993   build_sese_loop_nests (region);
2994   build_sese_conditions (region);
2995   find_scop_parameters (scop);
2996
2997   max_dim = PARAM_VALUE (PARAM_GRAPHITE_MAX_NB_SCOP_PARAMS);
2998   if (scop_nb_params (scop) > max_dim)
2999     return;
3000
3001   build_scop_iteration_domain (scop);
3002   build_scop_context (scop);
3003
3004   add_conditions_to_constraints (scop);
3005   scop_to_lst (scop);
3006   build_scop_scattering (scop);
3007   build_scop_drs (scop);
3008
3009   /* This SCoP has been translated to the polyhedral
3010      representation.  */
3011   POLY_SCOP_P (scop) = true;
3012 }
3013
3014 /* Always return false.  Exercise the scop_to_clast function.  */
3015
3016 void
3017 check_poly_representation (scop_p scop ATTRIBUTE_UNUSED)
3018 {
3019 #ifdef ENABLE_CHECKING
3020   cloog_prog_clast pc = scop_to_clast (scop);
3021   cloog_clast_free (pc.stmt);
3022   cloog_program_free (pc.prog);
3023 #endif
3024 }
3025 #endif