OSDN Git Service

* objc/execute/exceptions/exceptions.exp: New exp for the exceptions
[pf3gnuchains/gcc-fork.git] / gcc / cgraphunit.c
1 /* Callgraph based intraprocedural optimizations.
2    Copyright (C) 2003, 2004, 2005 Free Software Foundation, Inc.
3    Contributed by Jan Hubicka
4
5 This file is part of GCC.
6
7 GCC is free software; you can redistribute it and/or modify it under
8 the terms of the GNU General Public License as published by the Free
9 Software Foundation; either version 2, or (at your option) any later
10 version.
11
12 GCC is distributed in the hope that it will be useful, but WITHOUT ANY
13 WARRANTY; without even the implied warranty of MERCHANTABILITY or
14 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
15 for more details.
16
17 You should have received a copy of the GNU General Public License
18 along with GCC; see the file COPYING.  If not, write to the Free
19 Software Foundation, 51 Franklin Street, Fifth Floor, Boston, MA
20 02110-1301, USA.  */
21
22 /* This module implements main driver of compilation process as well as
23    few basic intraprocedural optimizers.
24
25    The main scope of this file is to act as an interface in between
26    tree based frontends and the backend (and middle end)
27
28    The front-end is supposed to use following functionality:
29
30     - cgraph_finalize_function
31
32       This function is called once front-end has parsed whole body of function
33       and it is certain that the function body nor the declaration will change.
34
35       (There is one exception needed for implementing GCC extern inline function.)
36
37     - cgraph_varpool_finalize_variable
38
39       This function has same behavior as the above but is used for static
40       variables.
41
42     - cgraph_finalize_compilation_unit
43
44       This function is called once compilation unit is finalized and it will
45       no longer change.
46
47       In the unit-at-a-time the call-graph construction and local function
48       analysis takes place here.  Bodies of unreachable functions are released
49       to conserve memory usage.
50
51       ???  The compilation unit in this point of view should be compilation
52       unit as defined by the language - for instance C frontend allows multiple
53       compilation units to be parsed at once and it should call function each
54       time parsing is done so we save memory.
55
56     - cgraph_optimize
57
58       In this unit-at-a-time compilation the intra procedural analysis takes
59       place here.  In particular the static functions whose address is never
60       taken are marked as local.  Backend can then use this information to
61       modify calling conventions, do better inlining or similar optimizations.
62
63     - cgraph_assemble_pending_functions
64     - cgraph_varpool_assemble_pending_variables
65
66       In non-unit-at-a-time mode these functions can be used to force compilation
67       of functions or variables that are known to be needed at given stage
68       of compilation
69
70     - cgraph_mark_needed_node
71     - cgraph_varpool_mark_needed_node
72
73       When function or variable is referenced by some hidden way (for instance
74       via assembly code and marked by attribute "used"), the call-graph data structure
75       must be updated accordingly by this function.
76
77     - analyze_expr callback
78
79       This function is responsible for lowering tree nodes not understood by
80       generic code into understandable ones or alternatively marking
81       callgraph and varpool nodes referenced by the as needed.
82
83       ??? On the tree-ssa genericizing should take place here and we will avoid
84       need for these hooks (replacing them by genericizing hook)
85
86     - expand_function callback
87
88       This function is used to expand function and pass it into RTL back-end.
89       Front-end should not make any assumptions about when this function can be
90       called.  In particular cgraph_assemble_pending_functions,
91       cgraph_varpool_assemble_pending_variables, cgraph_finalize_function,
92       cgraph_varpool_finalize_function, cgraph_optimize can cause arbitrarily
93       previously finalized functions to be expanded.
94
95     We implement two compilation modes.
96
97       - unit-at-a-time:  In this mode analyzing of all functions is deferred
98         to cgraph_finalize_compilation_unit and expansion into cgraph_optimize.
99
100         In cgraph_finalize_compilation_unit the reachable functions are
101         analyzed.  During analysis the call-graph edges from reachable
102         functions are constructed and their destinations are marked as
103         reachable.  References to functions and variables are discovered too
104         and variables found to be needed output to the assembly file.  Via
105         mark_referenced call in assemble_variable functions referenced by
106         static variables are noticed too.
107
108         The intra-procedural information is produced and its existence
109         indicated by global_info_ready.  Once this flag is set it is impossible
110         to change function from !reachable to reachable and thus
111         assemble_variable no longer call mark_referenced.
112
113         Finally the call-graph is topologically sorted and all reachable functions
114         that has not been completely inlined or are not external are output.
115
116         ??? It is possible that reference to function or variable is optimized
117         out.  We can not deal with this nicely because topological order is not
118         suitable for it.  For tree-ssa we may consider another pass doing
119         optimization and re-discovering reachable functions.
120
121         ??? Reorganize code so variables are output very last and only if they
122         really has been referenced by produced code, so we catch more cases
123         where reference has been optimized out.
124
125       - non-unit-at-a-time
126
127         All functions are variables are output as early as possible to conserve
128         memory consumption.  This may or may not result in less memory used but
129         it is still needed for some legacy code that rely on particular ordering
130         of things output from the compiler.
131
132         Varpool data structures are not used and variables are output directly.
133
134         Functions are output early using call of
135         cgraph_assemble_pending_function from cgraph_finalize_function.  The
136         decision on whether function is needed is made more conservative so
137         uninlininable static functions are needed too.  During the call-graph
138         construction the edge destinations are not marked as reachable and it
139         is completely relied upn assemble_variable to mark them.  */
140
141
142 #include "config.h"
143 #include "system.h"
144 #include "coretypes.h"
145 #include "tm.h"
146 #include "tree.h"
147 #include "rtl.h"
148 #include "tree-flow.h"
149 #include "tree-inline.h"
150 #include "langhooks.h"
151 #include "pointer-set.h"
152 #include "toplev.h"
153 #include "flags.h"
154 #include "ggc.h"
155 #include "debug.h"
156 #include "target.h"
157 #include "cgraph.h"
158 #include "diagnostic.h"
159 #include "timevar.h"
160 #include "params.h"
161 #include "fibheap.h"
162 #include "c-common.h"
163 #include "intl.h"
164 #include "function.h"
165 #include "ipa-prop.h"
166 #include "tree-gimple.h"
167 #include "tree-pass.h"
168 #include "output.h"
169
170 static void cgraph_expand_all_functions (void);
171 static void cgraph_mark_functions_to_output (void);
172 static void cgraph_expand_function (struct cgraph_node *);
173 static tree record_reference (tree *, int *, void *);
174 static void cgraph_analyze_function (struct cgraph_node *node);
175
176 /* Records tree nodes seen in record_reference.  Simply using
177    walk_tree_without_duplicates doesn't guarantee each node is visited
178    once because it gets a new htab upon each recursive call from
179    record_reference itself.  */
180 static struct pointer_set_t *visited_nodes;
181
182 static FILE *cgraph_dump_file;
183
184 /* Determine if function DECL is needed.  That is, visible to something
185    either outside this translation unit, something magic in the system
186    configury, or (if not doing unit-at-a-time) to something we havn't
187    seen yet.  */
188
189 static bool
190 decide_is_function_needed (struct cgraph_node *node, tree decl)
191 {
192   tree origin;
193   if (MAIN_NAME_P (DECL_NAME (decl))
194       && TREE_PUBLIC (decl))
195     {
196       node->local.externally_visible = true;
197       return true;
198     }
199
200   /* If the user told us it is used, then it must be so.  */
201   if (node->local.externally_visible
202       || lookup_attribute ("used", DECL_ATTRIBUTES (decl)))
203     return true;
204
205   /* ??? If the assembler name is set by hand, it is possible to assemble
206      the name later after finalizing the function and the fact is noticed
207      in assemble_name then.  This is arguably a bug.  */
208   if (DECL_ASSEMBLER_NAME_SET_P (decl)
209       && TREE_SYMBOL_REFERENCED (DECL_ASSEMBLER_NAME (decl)))
210     return true;
211
212   /* If we decided it was needed before, but at the time we didn't have
213      the body of the function available, then it's still needed.  We have
214      to go back and re-check its dependencies now.  */
215   if (node->needed)
216     return true;
217
218   /* Externally visible functions must be output.  The exception is
219      COMDAT functions that must be output only when they are needed.  */
220   if ((TREE_PUBLIC (decl) && !flag_whole_program)
221       && !DECL_COMDAT (decl) && !DECL_EXTERNAL (decl))
222     return true;
223
224   /* Constructors and destructors are reachable from the runtime by
225      some mechanism.  */
226   if (DECL_STATIC_CONSTRUCTOR (decl) || DECL_STATIC_DESTRUCTOR (decl))
227     return true;
228
229   if (flag_unit_at_a_time)
230     return false;
231
232   /* If not doing unit at a time, then we'll only defer this function
233      if its marked for inlining.  Otherwise we want to emit it now.  */
234
235   /* "extern inline" functions are never output locally.  */
236   if (DECL_EXTERNAL (decl))
237     return false;
238   /* Nested functions of extern inline function shall not be emit unless
239      we inlined the origin.  */
240   for (origin = decl_function_context (decl); origin;
241        origin = decl_function_context (origin))
242     if (DECL_EXTERNAL (origin))
243       return false;
244   /* We want to emit COMDAT functions only when absolutely necessary.  */
245   if (DECL_COMDAT (decl))
246     return false;
247   if (!DECL_INLINE (decl)
248       || (!node->local.disregard_inline_limits
249           /* When declared inline, defer even the uninlinable functions.
250              This allows them to be eliminated when unused.  */
251           && !DECL_DECLARED_INLINE_P (decl) 
252           && (!node->local.inlinable || !cgraph_default_inline_p (node, NULL))))
253     return true;
254
255   return false;
256 }
257
258 /* Walk the decls we marked as necessary and see if they reference new
259    variables or functions and add them into the worklists.  */
260 static bool
261 cgraph_varpool_analyze_pending_decls (void)
262 {
263   bool changed = false;
264   timevar_push (TV_CGRAPH);
265
266   while (cgraph_varpool_first_unanalyzed_node)
267     {
268       tree decl = cgraph_varpool_first_unanalyzed_node->decl;
269
270       cgraph_varpool_first_unanalyzed_node->analyzed = true;
271
272       cgraph_varpool_first_unanalyzed_node = cgraph_varpool_first_unanalyzed_node->next_needed;
273
274       if (DECL_INITIAL (decl))
275         {
276           visited_nodes = pointer_set_create ();
277           walk_tree (&DECL_INITIAL (decl), record_reference, NULL, visited_nodes);
278           pointer_set_destroy (visited_nodes);
279           visited_nodes = NULL;
280         }
281       changed = true;
282     }
283   timevar_pop (TV_CGRAPH);
284   return changed;
285 }
286
287 /* Optimization of function bodies might've rendered some variables as
288    unnecessary so we want to avoid these from being compiled.
289
290    This is done by pruning the queue and keeping only the variables that
291    really appear needed (ie they are either externally visible or referenced
292    by compiled function). Re-doing the reachability analysis on variables
293    brings back the remaining variables referenced by these.  */
294 static void
295 cgraph_varpool_remove_unreferenced_decls (void)
296 {
297   struct cgraph_varpool_node *next, *node = cgraph_varpool_nodes_queue;
298
299   cgraph_varpool_reset_queue ();
300
301   if (errorcount || sorrycount)
302     return;
303
304   while (node)
305     {
306       tree decl = node->decl;
307       next = node->next_needed;
308       node->needed = 0;
309
310       if (node->finalized
311           && ((DECL_ASSEMBLER_NAME_SET_P (decl)
312                && TREE_SYMBOL_REFERENCED (DECL_ASSEMBLER_NAME (decl)))
313               || node->force_output
314               || decide_is_variable_needed (node, decl)))
315         cgraph_varpool_mark_needed_node (node);
316
317       node = next;
318     }
319   cgraph_varpool_analyze_pending_decls ();
320 }
321
322
323 /* When not doing unit-at-a-time, output all functions enqueued.
324    Return true when such a functions were found.  */
325
326 bool
327 cgraph_assemble_pending_functions (void)
328 {
329   bool output = false;
330
331   if (flag_unit_at_a_time)
332     return false;
333
334   while (cgraph_nodes_queue)
335     {
336       struct cgraph_node *n = cgraph_nodes_queue;
337
338       cgraph_nodes_queue = cgraph_nodes_queue->next_needed;
339       n->next_needed = NULL;
340       if (!n->global.inlined_to
341           && !n->alias
342           && !DECL_EXTERNAL (n->decl))
343         {
344           cgraph_expand_function (n);
345           output = true;
346         }
347     }
348
349   return output;
350 }
351 /* As an GCC extension we allow redefinition of the function.  The
352    semantics when both copies of bodies differ is not well defined.
353    We replace the old body with new body so in unit at a time mode
354    we always use new body, while in normal mode we may end up with
355    old body inlined into some functions and new body expanded and
356    inlined in others.
357
358    ??? It may make more sense to use one body for inlining and other
359    body for expanding the function but this is difficult to do.  */
360
361 static void
362 cgraph_reset_node (struct cgraph_node *node)
363 {
364   /* If node->output is set, then this is a unit-at-a-time compilation
365      and we have already begun whole-unit analysis.  This is *not*
366      testing for whether we've already emitted the function.  That
367      case can be sort-of legitimately seen with real function 
368      redefinition errors.  I would argue that the front end should
369      never present us with such a case, but don't enforce that for now.  */
370   gcc_assert (!node->output);
371
372   /* Reset our data structures so we can analyze the function again.  */
373   memset (&node->local, 0, sizeof (node->local));
374   memset (&node->global, 0, sizeof (node->global));
375   memset (&node->rtl, 0, sizeof (node->rtl));
376   node->analyzed = false;
377   node->local.redefined_extern_inline = true;
378   node->local.finalized = false;
379
380   if (!flag_unit_at_a_time)
381     {
382       struct cgraph_node *n;
383
384       for (n = cgraph_nodes; n; n = n->next)
385         if (n->global.inlined_to == node)
386           cgraph_remove_node (n);
387     }
388
389   cgraph_node_remove_callees (node);
390
391   /* We may need to re-queue the node for assembling in case
392      we already proceeded it and ignored as not needed.  */
393   if (node->reachable && !flag_unit_at_a_time)
394     {
395       struct cgraph_node *n;
396
397       for (n = cgraph_nodes_queue; n; n = n->next_needed)
398         if (n == node)
399           break;
400       if (!n)
401         node->reachable = 0;
402     }
403 }
404
405 /* DECL has been parsed.  Take it, queue it, compile it at the whim of the
406    logic in effect.  If NESTED is true, then our caller cannot stand to have
407    the garbage collector run at the moment.  We would need to either create
408    a new GC context, or just not compile right now.  */
409
410 void
411 cgraph_finalize_function (tree decl, bool nested)
412 {
413   struct cgraph_node *node = cgraph_node (decl);
414
415   if (node->local.finalized)
416     cgraph_reset_node (node);
417
418   notice_global_symbol (decl);
419   node->decl = decl;
420   node->local.finalized = true;
421   node->lowered = DECL_STRUCT_FUNCTION (decl)->cfg != NULL;
422   if (node->nested)
423     lower_nested_functions (decl);
424   gcc_assert (!node->nested);
425
426   /* If not unit at a time, then we need to create the call graph
427      now, so that called functions can be queued and emitted now.  */
428   if (!flag_unit_at_a_time)
429     {
430       cgraph_analyze_function (node);
431       cgraph_decide_inlining_incrementally (node, false);
432     }
433
434   if (decide_is_function_needed (node, decl))
435     cgraph_mark_needed_node (node);
436
437   /* Since we reclaim unreachable nodes at the end of every language
438      level unit, we need to be conservative about possible entry points
439      there.  */
440   if ((TREE_PUBLIC (decl) && !DECL_COMDAT (decl) && !DECL_EXTERNAL (decl)))
441     cgraph_mark_reachable_node (node);
442
443   /* If not unit at a time, go ahead and emit everything we've found
444      to be reachable at this time.  */
445   if (!nested)
446     {
447       if (!cgraph_assemble_pending_functions ())
448         ggc_collect ();
449     }
450
451   /* If we've not yet emitted decl, tell the debug info about it.  */
452   if (!TREE_ASM_WRITTEN (decl))
453     (*debug_hooks->deferred_inline_function) (decl);
454
455   /* Possibly warn about unused parameters.  */
456   if (warn_unused_parameter)
457     do_warn_unused_parameter (decl);
458 }
459
460 void
461 cgraph_lower_function (struct cgraph_node *node)
462 {
463   if (node->lowered)
464     return;
465   tree_lowering_passes (node->decl);
466   node->lowered = true;
467 }
468
469 /* Walk tree and record all calls.  Called via walk_tree.  */
470 static tree
471 record_reference (tree *tp, int *walk_subtrees, void *data)
472 {
473   tree t = *tp;
474
475   switch (TREE_CODE (t))
476     {
477     case VAR_DECL:
478       /* ??? Really, we should mark this decl as *potentially* referenced
479          by this function and re-examine whether the decl is actually used
480          after rtl has been generated.  */
481       if (TREE_STATIC (t) || DECL_EXTERNAL (t))
482         {
483           cgraph_varpool_mark_needed_node (cgraph_varpool_node (t));
484           if (lang_hooks.callgraph.analyze_expr)
485             return lang_hooks.callgraph.analyze_expr (tp, walk_subtrees, 
486                                                       data);
487         }
488       break;
489
490     case FDESC_EXPR:
491     case ADDR_EXPR:
492       if (flag_unit_at_a_time)
493         {
494           /* Record dereferences to the functions.  This makes the
495              functions reachable unconditionally.  */
496           tree decl = TREE_OPERAND (*tp, 0);
497           if (TREE_CODE (decl) == FUNCTION_DECL)
498             cgraph_mark_needed_node (cgraph_node (decl));
499         }
500       break;
501
502     default:
503       /* Save some cycles by not walking types and declaration as we
504          won't find anything useful there anyway.  */
505       if (IS_TYPE_OR_DECL_P (*tp))
506         {
507           *walk_subtrees = 0;
508           break;
509         }
510
511       if ((unsigned int) TREE_CODE (t) >= LAST_AND_UNUSED_TREE_CODE)
512         return lang_hooks.callgraph.analyze_expr (tp, walk_subtrees, data);
513       break;
514     }
515
516   return NULL;
517 }
518
519 /* Create cgraph edges for function calls inside BODY from NODE.  */
520
521 static void
522 cgraph_create_edges (struct cgraph_node *node, tree body)
523 {
524   basic_block bb;
525
526   struct function *this_cfun = DECL_STRUCT_FUNCTION (body);
527   block_stmt_iterator bsi;
528   tree step;
529   visited_nodes = pointer_set_create ();
530
531   /* Reach the trees by walking over the CFG, and note the 
532      enclosing basic-blocks in the call edges.  */
533   FOR_EACH_BB_FN (bb, this_cfun)
534     for (bsi = bsi_start (bb); !bsi_end_p (bsi); bsi_next (&bsi))
535       {
536         tree stmt = bsi_stmt (bsi);
537         tree call = get_call_expr_in (stmt);
538         tree decl;
539
540         if (call && (decl = get_callee_fndecl (call)))
541           {
542             cgraph_create_edge (node, cgraph_node (decl), stmt,
543                                 bb->count,
544                                 bb->loop_depth);
545             walk_tree (&TREE_OPERAND (call, 1),
546                        record_reference, node, visited_nodes);
547             if (TREE_CODE (stmt) == MODIFY_EXPR)
548               walk_tree (&TREE_OPERAND (stmt, 0),
549                          record_reference, node, visited_nodes);
550           }
551         else 
552           walk_tree (bsi_stmt_ptr (bsi), record_reference, node, visited_nodes);
553       }
554
555   /* Look for initializers of constant variables and private statics.  */
556   for (step = DECL_STRUCT_FUNCTION (body)->unexpanded_var_list;
557        step;
558        step = TREE_CHAIN (step))
559     {
560       tree decl = TREE_VALUE (step);
561       if (TREE_CODE (decl) == VAR_DECL
562           && (TREE_STATIC (decl) && !DECL_EXTERNAL (decl))
563           && flag_unit_at_a_time)
564         cgraph_varpool_finalize_decl (decl);
565       else if (TREE_CODE (decl) == VAR_DECL && DECL_INITIAL (decl))
566         walk_tree (&DECL_INITIAL (decl), record_reference, node, visited_nodes);
567     }
568     
569   pointer_set_destroy (visited_nodes);
570   visited_nodes = NULL;
571 }
572
573 /* Give initial reasons why inlining would fail.  Those gets
574    either NULLified or usually overwritten by more precise reason
575    later.  */
576 static void
577 initialize_inline_failed (struct cgraph_node *node)
578 {
579   struct cgraph_edge *e;
580
581   for (e = node->callers; e; e = e->next_caller)
582     {
583       gcc_assert (!e->callee->global.inlined_to);
584       gcc_assert (e->inline_failed);
585       if (node->local.redefined_extern_inline)
586         e->inline_failed = N_("redefined extern inline functions are not "
587                            "considered for inlining");
588       else if (!node->local.inlinable)
589         e->inline_failed = N_("function not inlinable");
590       else
591         e->inline_failed = N_("function not considered for inlining");
592     }
593 }
594
595 /* Rebuild call edges from current function after a passes not aware
596    of cgraph updating.  */
597 static void
598 rebuild_cgraph_edges (void)
599 {
600   basic_block bb;
601   struct cgraph_node *node = cgraph_node (current_function_decl);
602   block_stmt_iterator bsi;
603
604   cgraph_node_remove_callees (node);
605
606   node->count = ENTRY_BLOCK_PTR->count;
607
608   FOR_EACH_BB (bb)
609     for (bsi = bsi_start (bb); !bsi_end_p (bsi); bsi_next (&bsi))
610       {
611         tree stmt = bsi_stmt (bsi);
612         tree call = get_call_expr_in (stmt);
613         tree decl;
614
615         if (call && (decl = get_callee_fndecl (call)))
616           cgraph_create_edge (node, cgraph_node (decl), stmt,
617                               bb->count,
618                               bb->loop_depth);
619       }
620   initialize_inline_failed (node);
621   gcc_assert (!node->global.inlined_to);
622 }
623
624 struct tree_opt_pass pass_rebuild_cgraph_edges =
625 {
626   NULL,                                 /* name */
627   NULL,                                 /* gate */
628   rebuild_cgraph_edges,                 /* execute */
629   NULL,                                 /* sub */
630   NULL,                                 /* next */
631   0,                                    /* static_pass_number */
632   0,                                    /* tv_id */
633   PROP_cfg,                             /* properties_required */
634   0,                                    /* properties_provided */
635   0,                                    /* properties_destroyed */
636   0,                                    /* todo_flags_start */
637   0,                                    /* todo_flags_finish */
638   0                                     /* letter */
639 };
640
641 /* Verify cgraph nodes of given cgraph node.  */
642 void
643 verify_cgraph_node (struct cgraph_node *node)
644 {
645   struct cgraph_edge *e;
646   struct cgraph_node *main_clone;
647   struct function *this_cfun = DECL_STRUCT_FUNCTION (node->decl);
648   basic_block this_block;
649   block_stmt_iterator bsi;
650   bool error_found = false;
651
652   timevar_push (TV_CGRAPH_VERIFY);
653   for (e = node->callees; e; e = e->next_callee)
654     if (e->aux)
655       {
656         error ("aux field set for edge %s->%s",
657                cgraph_node_name (e->caller), cgraph_node_name (e->callee));
658         error_found = true;
659       }
660   for (e = node->callers; e; e = e->next_caller)
661     {
662       if (!e->inline_failed)
663         {
664           if (node->global.inlined_to
665               != (e->caller->global.inlined_to
666                   ? e->caller->global.inlined_to : e->caller))
667             {
668               error ("inlined_to pointer is wrong");
669               error_found = true;
670             }
671           if (node->callers->next_caller)
672             {
673               error ("multiple inline callers");
674               error_found = true;
675             }
676         }
677       else
678         if (node->global.inlined_to)
679           {
680             error ("inlined_to pointer set for noninline callers");
681             error_found = true;
682           }
683     }
684   if (!node->callers && node->global.inlined_to)
685     {
686       error ("inlined_to pointer is set but no predecesors found");
687       error_found = true;
688     }
689   if (node->global.inlined_to == node)
690     {
691       error ("inlined_to pointer refers to itself");
692       error_found = true;
693     }
694
695   for (main_clone = cgraph_node (node->decl); main_clone;
696        main_clone = main_clone->next_clone)
697     if (main_clone == node)
698       break;
699   if (!node)
700     {
701       error ("node not found in DECL_ASSEMBLER_NAME hash");
702       error_found = true;
703     }
704   
705   if (node->analyzed
706       && DECL_SAVED_TREE (node->decl) && !TREE_ASM_WRITTEN (node->decl)
707       && (!DECL_EXTERNAL (node->decl) || node->global.inlined_to))
708     {
709       if (this_cfun->cfg)
710         {
711           /* The nodes we're interested in are never shared, so walk
712              the tree ignoring duplicates.  */
713           visited_nodes = pointer_set_create ();
714           /* Reach the trees by walking over the CFG, and note the
715              enclosing basic-blocks in the call edges.  */
716           FOR_EACH_BB_FN (this_block, this_cfun)
717             for (bsi = bsi_start (this_block); !bsi_end_p (bsi); bsi_next (&bsi))
718               {
719                 tree stmt = bsi_stmt (bsi);
720                 tree call = get_call_expr_in (stmt);
721                 tree decl;
722                 if (call && (decl = get_callee_fndecl (call)))
723                   {
724                     struct cgraph_edge *e = cgraph_edge (node, stmt);
725                     if (e)
726                       {
727                         if (e->aux)
728                           {
729                             error ("shared call_stmt:");
730                             debug_generic_stmt (stmt);
731                             error_found = true;
732                           }
733                         if (e->callee->decl != cgraph_node (decl)->decl)
734                           {
735                             error ("edge points to wrong declaration:");
736                             debug_tree (e->callee->decl);
737                             fprintf (stderr," Instead of:");
738                             debug_tree (decl);
739                           }
740                         e->aux = (void *)1;
741                       }
742                     else
743                       {
744                         error ("missing callgraph edge for call stmt:");
745                         debug_generic_stmt (stmt);
746                         error_found = true;
747                       }
748                   }
749               }
750           pointer_set_destroy (visited_nodes);
751           visited_nodes = NULL;
752         }
753       else
754         /* No CFG available?!  */
755         gcc_unreachable ();
756
757       for (e = node->callees; e; e = e->next_callee)
758         {
759           if (!e->aux)
760             {
761               error ("edge %s->%s has no corresponding call_stmt",
762                      cgraph_node_name (e->caller),
763                      cgraph_node_name (e->callee));
764               debug_generic_stmt (e->call_stmt);
765               error_found = true;
766             }
767           e->aux = 0;
768         }
769     }
770   if (error_found)
771     {
772       dump_cgraph_node (stderr, node);
773       internal_error ("verify_cgraph_node failed");
774     }
775   timevar_pop (TV_CGRAPH_VERIFY);
776 }
777
778 /* Verify whole cgraph structure.  */
779 void
780 verify_cgraph (void)
781 {
782   struct cgraph_node *node;
783
784   if (sorrycount || errorcount)
785     return;
786
787   for (node = cgraph_nodes; node; node = node->next)
788     verify_cgraph_node (node);
789 }
790
791
792 /* Output all variables enqueued to be assembled.  */
793 bool
794 cgraph_varpool_assemble_pending_decls (void)
795 {
796   bool changed = false;
797
798   if (errorcount || sorrycount)
799     return false;
800  
801   /* EH might mark decls as needed during expansion.  This should be safe since
802      we don't create references to new function, but it should not be used
803      elsewhere.  */
804   cgraph_varpool_analyze_pending_decls ();
805
806   while (cgraph_varpool_nodes_queue)
807     {
808       tree decl = cgraph_varpool_nodes_queue->decl;
809       struct cgraph_varpool_node *node = cgraph_varpool_nodes_queue;
810
811       cgraph_varpool_nodes_queue = cgraph_varpool_nodes_queue->next_needed;
812       if (!TREE_ASM_WRITTEN (decl) && !node->alias && !DECL_EXTERNAL (decl))
813         {
814           assemble_variable (decl, 0, 1, 0);
815           /* Local static variables are never seen by check_global_declarations
816              so we need to output debug info by hand.  */
817           if (decl_function_context (decl) && errorcount == 0 && sorrycount == 0)
818             {
819               timevar_push (TV_SYMOUT);
820               (*debug_hooks->global_decl) (decl);
821               timevar_pop (TV_SYMOUT);
822             }
823           changed = true;
824         }
825       node->next_needed = NULL;
826     }
827   return changed;
828 }
829
830 /* Analyze the function scheduled to be output.  */
831 static void
832 cgraph_analyze_function (struct cgraph_node *node)
833 {
834   tree decl = node->decl;
835
836   current_function_decl = decl;
837   push_cfun (DECL_STRUCT_FUNCTION (decl));
838   cgraph_lower_function (node);
839
840   /* First kill forward declaration so reverse inlining works properly.  */
841   cgraph_create_edges (node, decl);
842
843   node->local.inlinable = tree_inlinable_function_p (decl);
844   node->local.self_insns = estimate_num_insns (decl);
845   if (node->local.inlinable)
846     node->local.disregard_inline_limits
847       = lang_hooks.tree_inlining.disregard_inline_limits (decl);
848   initialize_inline_failed (node);
849   if (flag_really_no_inline && !node->local.disregard_inline_limits)
850     node->local.inlinable = 0;
851   /* Inlining characteristics are maintained by the cgraph_mark_inline.  */
852   node->global.insns = node->local.self_insns;
853
854   node->analyzed = true;
855   pop_cfun ();
856   current_function_decl = NULL;
857 }
858
859 /* Analyze the whole compilation unit once it is parsed completely.  */
860
861 void
862 cgraph_finalize_compilation_unit (void)
863 {
864   struct cgraph_node *node;
865   /* Keep track of already processed nodes when called multiple times for
866      intermodule optimization.  */
867   static struct cgraph_node *first_analyzed;
868
869   finish_aliases_1 ();
870
871   if (!flag_unit_at_a_time)
872     {
873       cgraph_assemble_pending_functions ();
874       return;
875     }
876
877   if (!quiet_flag)
878     {
879       fprintf (stderr, "\nAnalyzing compilation unit");
880       fflush (stderr);
881     }
882
883   timevar_push (TV_CGRAPH);
884   cgraph_varpool_analyze_pending_decls ();
885   if (cgraph_dump_file)
886     {
887       fprintf (cgraph_dump_file, "Initial entry points:");
888       for (node = cgraph_nodes; node != first_analyzed; node = node->next)
889         if (node->needed && DECL_SAVED_TREE (node->decl))
890           fprintf (cgraph_dump_file, " %s", cgraph_node_name (node));
891       fprintf (cgraph_dump_file, "\n");
892     }
893
894   /* Propagate reachability flag and lower representation of all reachable
895      functions.  In the future, lowering will introduce new functions and
896      new entry points on the way (by template instantiation and virtual
897      method table generation for instance).  */
898   while (cgraph_nodes_queue)
899     {
900       struct cgraph_edge *edge;
901       tree decl = cgraph_nodes_queue->decl;
902
903       node = cgraph_nodes_queue;
904       cgraph_nodes_queue = cgraph_nodes_queue->next_needed;
905       node->next_needed = NULL;
906
907       /* ??? It is possible to create extern inline function and later using
908          weak alias attribute to kill its body. See
909          gcc.c-torture/compile/20011119-1.c  */
910       if (!DECL_SAVED_TREE (decl))
911         {
912           cgraph_reset_node (node);
913           continue;
914         }
915
916       gcc_assert (!node->analyzed && node->reachable);
917       gcc_assert (DECL_SAVED_TREE (decl));
918
919       cgraph_analyze_function (node);
920
921       for (edge = node->callees; edge; edge = edge->next_callee)
922         if (!edge->callee->reachable)
923           cgraph_mark_reachable_node (edge->callee);
924
925       cgraph_varpool_analyze_pending_decls ();
926     }
927
928   /* Collect entry points to the unit.  */
929
930   if (cgraph_dump_file)
931     {
932       fprintf (cgraph_dump_file, "Unit entry points:");
933       for (node = cgraph_nodes; node != first_analyzed; node = node->next)
934         if (node->needed && DECL_SAVED_TREE (node->decl))
935           fprintf (cgraph_dump_file, " %s", cgraph_node_name (node));
936       fprintf (cgraph_dump_file, "\n\nInitial ");
937       dump_cgraph (cgraph_dump_file);
938     }
939
940   if (cgraph_dump_file)
941     fprintf (cgraph_dump_file, "\nReclaiming functions:");
942
943   for (node = cgraph_nodes; node != first_analyzed; node = node->next)
944     {
945       tree decl = node->decl;
946
947       if (node->local.finalized && !DECL_SAVED_TREE (decl))
948         cgraph_reset_node (node);
949
950       if (!node->reachable && DECL_SAVED_TREE (decl))
951         {
952           if (cgraph_dump_file)
953             fprintf (cgraph_dump_file, " %s", cgraph_node_name (node));
954           cgraph_remove_node (node);
955           continue;
956         }
957       else
958         node->next_needed = NULL;
959       gcc_assert (!node->local.finalized || DECL_SAVED_TREE (decl));
960       gcc_assert (node->analyzed == node->local.finalized);
961     }
962   if (cgraph_dump_file)
963     {
964       fprintf (cgraph_dump_file, "\n\nReclaimed ");
965       dump_cgraph (cgraph_dump_file);
966     }
967   first_analyzed = cgraph_nodes;
968   ggc_collect ();
969   timevar_pop (TV_CGRAPH);
970 }
971 /* Figure out what functions we want to assemble.  */
972
973 static void
974 cgraph_mark_functions_to_output (void)
975 {
976   struct cgraph_node *node;
977
978   for (node = cgraph_nodes; node; node = node->next)
979     {
980       tree decl = node->decl;
981       struct cgraph_edge *e;
982       
983       gcc_assert (!node->output);
984
985       for (e = node->callers; e; e = e->next_caller)
986         if (e->inline_failed)
987           break;
988
989       /* We need to output all local functions that are used and not
990          always inlined, as well as those that are reachable from
991          outside the current compilation unit.  */
992       if (DECL_SAVED_TREE (decl)
993           && !node->global.inlined_to
994           && (node->needed
995               || (e && node->reachable))
996           && !TREE_ASM_WRITTEN (decl)
997           && !DECL_EXTERNAL (decl))
998         node->output = 1;
999       else
1000         {
1001           /* We should've reclaimed all functions that are not needed.  */
1002 #ifdef ENABLE_CHECKING
1003           if (!node->global.inlined_to && DECL_SAVED_TREE (decl)
1004               && !DECL_EXTERNAL (decl))
1005             {
1006               dump_cgraph_node (stderr, node);
1007               internal_error ("failed to reclaim unneeded function");
1008             }
1009 #endif
1010           gcc_assert (node->global.inlined_to || !DECL_SAVED_TREE (decl)
1011                       || DECL_EXTERNAL (decl));
1012
1013         }
1014       
1015     }
1016 }
1017
1018 /* Expand function specified by NODE.  */
1019
1020 static void
1021 cgraph_expand_function (struct cgraph_node *node)
1022 {
1023   tree decl = node->decl;
1024
1025   /* We ought to not compile any inline clones.  */
1026   gcc_assert (!node->global.inlined_to);
1027
1028   if (flag_unit_at_a_time)
1029     announce_function (decl);
1030
1031   cgraph_lower_function (node);
1032
1033   /* Generate RTL for the body of DECL.  */
1034   lang_hooks.callgraph.expand_function (decl);
1035
1036   /* Make sure that BE didn't give up on compiling.  */
1037   /* ??? Can happen with nested function of extern inline.  */
1038   gcc_assert (TREE_ASM_WRITTEN (node->decl));
1039
1040   current_function_decl = NULL;
1041   if (!cgraph_preserve_function_body_p (node->decl))
1042     {
1043       DECL_SAVED_TREE (node->decl) = NULL;
1044       DECL_STRUCT_FUNCTION (node->decl) = NULL;
1045       DECL_INITIAL (node->decl) = error_mark_node;
1046       /* Eliminate all call edges.  This is important so the call_expr no longer
1047          points to the dead function body.  */
1048       cgraph_node_remove_callees (node);
1049     }
1050
1051   cgraph_function_flags_ready = true;
1052 }
1053
1054 /* Return true when CALLER_DECL should be inlined into CALLEE_DECL.  */
1055
1056 bool
1057 cgraph_inline_p (struct cgraph_edge *e, const char **reason)
1058 {
1059   *reason = e->inline_failed;
1060   return !e->inline_failed;
1061 }
1062
1063
1064
1065 /* Expand all functions that must be output.
1066
1067    Attempt to topologically sort the nodes so function is output when
1068    all called functions are already assembled to allow data to be
1069    propagated across the callgraph.  Use a stack to get smaller distance
1070    between a function and its callees (later we may choose to use a more
1071    sophisticated algorithm for function reordering; we will likely want
1072    to use subsections to make the output functions appear in top-down
1073    order).  */
1074
1075 static void
1076 cgraph_expand_all_functions (void)
1077 {
1078   struct cgraph_node *node;
1079   struct cgraph_node **order =
1080     xcalloc (cgraph_n_nodes, sizeof (struct cgraph_node *));
1081   int order_pos = 0, new_order_pos = 0;
1082   int i;
1083
1084   order_pos = cgraph_postorder (order);
1085   gcc_assert (order_pos == cgraph_n_nodes);
1086
1087   /* Garbage collector may remove inline clones we eliminate during
1088      optimization.  So we must be sure to not reference them.  */
1089   for (i = 0; i < order_pos; i++)
1090     if (order[i]->output)
1091       order[new_order_pos++] = order[i];
1092
1093   for (i = new_order_pos - 1; i >= 0; i--)
1094     {
1095       node = order[i];
1096       if (node->output)
1097         {
1098           gcc_assert (node->reachable);
1099           node->output = 0;
1100           cgraph_expand_function (node);
1101         }
1102     }
1103   free (order);
1104 }
1105
1106 /* Mark visibility of all functions.
1107    
1108    A local function is one whose calls can occur only in the current
1109    compilation unit and all its calls are explicit, so we can change
1110    its calling convention.  We simply mark all static functions whose
1111    address is not taken as local.
1112
1113    We also change the TREE_PUBLIC flag of all declarations that are public
1114    in language point of view but we want to overwrite this default
1115    via visibilities for the backend point of view.  */
1116
1117 static void
1118 cgraph_function_and_variable_visibility (void)
1119 {
1120   struct cgraph_node *node;
1121   struct cgraph_varpool_node *vnode;
1122
1123   for (node = cgraph_nodes; node; node = node->next)
1124     {
1125       if (node->reachable
1126           && (DECL_COMDAT (node->decl)
1127               || (!flag_whole_program
1128                   && TREE_PUBLIC (node->decl) && !DECL_EXTERNAL (node->decl))))
1129         node->local.externally_visible = true;
1130       if (!node->local.externally_visible && node->analyzed
1131           && !DECL_EXTERNAL (node->decl))
1132         {
1133           gcc_assert (flag_whole_program || !TREE_PUBLIC (node->decl));
1134           TREE_PUBLIC (node->decl) = 0;
1135         }
1136       node->local.local = (!node->needed
1137                            && node->analyzed
1138                            && !DECL_EXTERNAL (node->decl)
1139                            && !node->local.externally_visible);
1140     }
1141   for (vnode = cgraph_varpool_nodes_queue; vnode; vnode = vnode->next_needed)
1142     {
1143       if (vnode->needed
1144           && !flag_whole_program
1145           && (DECL_COMDAT (vnode->decl) || TREE_PUBLIC (vnode->decl)))
1146         vnode->externally_visible = 1;
1147       if (!vnode->externally_visible)
1148         {
1149           gcc_assert (flag_whole_program || !TREE_PUBLIC (vnode->decl));
1150           TREE_PUBLIC (vnode->decl) = 0;
1151         }
1152      gcc_assert (TREE_STATIC (vnode->decl));
1153     }
1154
1155   /* Because we have to be conservative on the boundaries of source
1156      level units, it is possible that we marked some functions in
1157      reachable just because they might be used later via external
1158      linkage, but after making them local they are really unreachable
1159      now.  */
1160   cgraph_remove_unreachable_nodes (true, cgraph_dump_file);
1161
1162   if (cgraph_dump_file)
1163     {
1164       fprintf (cgraph_dump_file, "\nMarking local functions:");
1165       for (node = cgraph_nodes; node; node = node->next)
1166         if (node->local.local)
1167           fprintf (cgraph_dump_file, " %s", cgraph_node_name (node));
1168       fprintf (cgraph_dump_file, "\n\n");
1169       fprintf (cgraph_dump_file, "\nMarking externally visible functions:");
1170       for (node = cgraph_nodes; node; node = node->next)
1171         if (node->local.externally_visible)
1172           fprintf (cgraph_dump_file, " %s", cgraph_node_name (node));
1173       fprintf (cgraph_dump_file, "\n\n");
1174     }
1175   cgraph_function_flags_ready = true;
1176 }
1177
1178 /* Return true when function body of DECL still needs to be kept around
1179    for later re-use.  */
1180 bool
1181 cgraph_preserve_function_body_p (tree decl)
1182 {
1183   struct cgraph_node *node;
1184   /* Keep the body; we're going to dump it.  */
1185   if (dump_enabled_p (TDI_tree_all))
1186     return true;
1187   if (!cgraph_global_info_ready)
1188     return (DECL_INLINE (decl) && !flag_really_no_inline);
1189   /* Look if there is any clone around.  */
1190   for (node = cgraph_node (decl); node; node = node->next_clone)
1191     if (node->global.inlined_to)
1192       return true;
1193   return false;
1194 }
1195
1196 static void
1197 ipa_passes (void)
1198 {
1199   cfun = NULL;
1200   tree_register_cfg_hooks ();
1201   bitmap_obstack_initialize (NULL);
1202   execute_ipa_pass_list (all_ipa_passes);
1203   bitmap_obstack_release (NULL);
1204 }
1205
1206 /* Perform simple optimizations based on callgraph.  */
1207
1208 void
1209 cgraph_optimize (void)
1210 {
1211 #ifdef ENABLE_CHECKING
1212   verify_cgraph ();
1213 #endif
1214   if (!flag_unit_at_a_time)
1215     {
1216       cgraph_varpool_assemble_pending_decls ();
1217       return;
1218     }
1219
1220   process_pending_assemble_externals ();
1221   
1222   /* Frontend may output common variables after the unit has been finalized.
1223      It is safe to deal with them here as they are always zero initialized.  */
1224   cgraph_varpool_analyze_pending_decls ();
1225
1226   timevar_push (TV_CGRAPHOPT);
1227   if (!quiet_flag)
1228     fprintf (stderr, "Performing intraprocedural optimizations\n");
1229
1230   cgraph_function_and_variable_visibility ();
1231   if (cgraph_dump_file)
1232     {
1233       fprintf (cgraph_dump_file, "Marked ");
1234       dump_cgraph (cgraph_dump_file);
1235     }
1236   ipa_passes ();
1237   /* This pass remove bodies of extern inline functions we never inlined.
1238      Do this later so other IPA passes see what is really going on.  */
1239   cgraph_remove_unreachable_nodes (false, dump_file);
1240   cgraph_global_info_ready = true;
1241   if (cgraph_dump_file)
1242     {
1243       fprintf (cgraph_dump_file, "Optimized ");
1244       dump_cgraph (cgraph_dump_file);
1245       dump_varpool (cgraph_dump_file);
1246     }
1247   timevar_pop (TV_CGRAPHOPT);
1248
1249   /* Output everything.  */
1250   if (!quiet_flag)
1251     fprintf (stderr, "Assembling functions:\n");
1252 #ifdef ENABLE_CHECKING
1253   verify_cgraph ();
1254 #endif
1255   
1256   cgraph_mark_functions_to_output ();
1257   cgraph_expand_all_functions ();
1258   cgraph_varpool_remove_unreferenced_decls ();
1259
1260   cgraph_varpool_assemble_pending_decls ();
1261
1262   if (cgraph_dump_file)
1263     {
1264       fprintf (cgraph_dump_file, "\nFinal ");
1265       dump_cgraph (cgraph_dump_file);
1266     }
1267 #ifdef ENABLE_CHECKING
1268   verify_cgraph ();
1269   /* Double check that all inline clones are gone and that all
1270      function bodies have been released from memory.  */
1271   if (flag_unit_at_a_time
1272       && !dump_enabled_p (TDI_tree_all)
1273       && !(sorrycount || errorcount))
1274     {
1275       struct cgraph_node *node;
1276       bool error_found = false;
1277
1278       for (node = cgraph_nodes; node; node = node->next)
1279         if (node->analyzed
1280             && (node->global.inlined_to
1281                 || DECL_SAVED_TREE (node->decl)))
1282           {
1283             error_found = true;
1284             dump_cgraph_node (stderr, node);
1285           }
1286       if (error_found)
1287         internal_error ("nodes with no released memory found");
1288     }
1289 #endif
1290 }
1291
1292 /* Generate and emit a static constructor or destructor.  WHICH must be
1293    one of 'I' or 'D'.  BODY should be a STATEMENT_LIST containing 
1294    GENERIC statements.  */
1295
1296 void
1297 cgraph_build_static_cdtor (char which, tree body, int priority)
1298 {
1299   static int counter = 0;
1300   char which_buf[16];
1301   tree decl, name, resdecl;
1302
1303   sprintf (which_buf, "%c_%d", which, counter++);
1304   name = get_file_function_name_long (which_buf);
1305
1306   decl = build_decl (FUNCTION_DECL, name,
1307                      build_function_type (void_type_node, void_list_node));
1308   current_function_decl = decl;
1309
1310   resdecl = build_decl (RESULT_DECL, NULL_TREE, void_type_node);
1311   DECL_ARTIFICIAL (resdecl) = 1;
1312   DECL_IGNORED_P (resdecl) = 1;
1313   DECL_RESULT (decl) = resdecl;
1314
1315   allocate_struct_function (decl);
1316
1317   TREE_STATIC (decl) = 1;
1318   TREE_USED (decl) = 1;
1319   DECL_ARTIFICIAL (decl) = 1;
1320   DECL_IGNORED_P (decl) = 1;
1321   DECL_NO_INSTRUMENT_FUNCTION_ENTRY_EXIT (decl) = 1;
1322   DECL_SAVED_TREE (decl) = body;
1323   TREE_PUBLIC (decl) = ! targetm.have_ctors_dtors;
1324   DECL_UNINLINABLE (decl) = 1;
1325
1326   DECL_INITIAL (decl) = make_node (BLOCK);
1327   TREE_USED (DECL_INITIAL (decl)) = 1;
1328
1329   DECL_SOURCE_LOCATION (decl) = input_location;
1330   cfun->function_end_locus = input_location;
1331
1332   switch (which)
1333     {
1334     case 'I':
1335       DECL_STATIC_CONSTRUCTOR (decl) = 1;
1336       break;
1337     case 'D':
1338       DECL_STATIC_DESTRUCTOR (decl) = 1;
1339       break;
1340     default:
1341       gcc_unreachable ();
1342     }
1343
1344   gimplify_function_tree (decl);
1345
1346   /* ??? We will get called LATE in the compilation process.  */
1347   if (cgraph_global_info_ready)
1348     {
1349       tree_lowering_passes (decl);
1350       tree_rest_of_compilation (decl);
1351     }
1352   else
1353     cgraph_finalize_function (decl, 0);
1354   
1355   if (targetm.have_ctors_dtors)
1356     {
1357       void (*fn) (rtx, int);
1358
1359       if (which == 'I')
1360         fn = targetm.asm_out.constructor;
1361       else
1362         fn = targetm.asm_out.destructor;
1363       fn (XEXP (DECL_RTL (decl), 0), priority);
1364     }
1365 }
1366
1367 void
1368 init_cgraph (void)
1369 {
1370   cgraph_dump_file = dump_begin (TDI_cgraph, NULL);
1371 }
1372
1373 /* The edges representing the callers of the NEW_VERSION node were 
1374    fixed by cgraph_function_versioning (), now the call_expr in their
1375    respective tree code should be updated to call the NEW_VERSION.  */
1376
1377 static void
1378 update_call_expr (struct cgraph_node *new_version)
1379 {
1380   struct cgraph_edge *e;
1381
1382   gcc_assert (new_version);
1383   for (e = new_version->callers; e; e = e->next_caller)
1384     /* Update the call expr on the edges
1385        to call the new version.  */
1386     TREE_OPERAND (TREE_OPERAND (get_call_expr_in (e->call_stmt), 0), 0) = new_version->decl;
1387 }
1388
1389
1390 /* Create a new cgraph node which is the new version of
1391    OLD_VERSION node.  REDIRECT_CALLERS holds the callers
1392    edges which should be redirected to point to
1393    NEW_VERSION.  ALL the callees edges of OLD_VERSION
1394    are cloned to the new version node.  Return the new
1395    version node.  */
1396
1397 static struct cgraph_node *
1398 cgraph_copy_node_for_versioning (struct cgraph_node *old_version,
1399                                  tree new_decl, varray_type redirect_callers)
1400  {
1401    struct cgraph_node *new_version;
1402    struct cgraph_edge *e, *new_e;
1403    struct cgraph_edge *next_callee;
1404    unsigned i;
1405
1406    gcc_assert (old_version);
1407    
1408    new_version = cgraph_node (new_decl);
1409
1410    new_version->analyzed = true;
1411    new_version->local = old_version->local;
1412    new_version->global = old_version->global;
1413    new_version->rtl = new_version->rtl;
1414    new_version->reachable = true;
1415    new_version->count = old_version->count;
1416
1417    /* Clone the old node callees.  Recursive calls are
1418       also cloned.  */
1419    for (e = old_version->callees;e; e=e->next_callee)
1420      {
1421        new_e = cgraph_clone_edge (e, new_version, e->call_stmt, 0, e->loop_nest, true);
1422        new_e->count = e->count;
1423      }
1424    /* Fix recursive calls.
1425       If OLD_VERSION has a recursive call after the
1426       previous edge cloning, the new version will have an edge
1427       pointing to the old version, which is wrong;
1428       Redirect it to point to the new version. */
1429    for (e = new_version->callees ; e; e = next_callee)
1430      {
1431        next_callee = e->next_callee;
1432        if (e->callee == old_version)
1433          cgraph_redirect_edge_callee (e, new_version);
1434          
1435        if (!next_callee)
1436          break;
1437      }
1438    if (redirect_callers)
1439      for (i = 0; i < VARRAY_ACTIVE_SIZE (redirect_callers); i++)
1440        {
1441          e = VARRAY_GENERIC_PTR (redirect_callers, i);
1442          /* Redirect calls to the old version node
1443             to point to it's new version.  */
1444          cgraph_redirect_edge_callee (e, new_version);
1445        }
1446
1447    return new_version;
1448  }
1449
1450  /* Perform function versioning.
1451     Function versioning includes copying of the tree and 
1452     a callgraph update (creating a new cgraph node and updating
1453     its callees and callers).
1454
1455     REDIRECT_CALLERS varray includes the edges to be redirected
1456     to the new version.
1457
1458     TREE_MAP is a mapping of tree nodes we want to replace with
1459     new ones (according to results of prior analysis).
1460     OLD_VERSION_NODE is the node that is versioned.
1461     It returns the new version's cgraph node.  */
1462
1463 struct cgraph_node *
1464 cgraph_function_versioning (struct cgraph_node *old_version_node,
1465                             varray_type redirect_callers,
1466                             varray_type tree_map)
1467 {
1468   tree old_decl = old_version_node->decl;
1469   struct cgraph_node *new_version_node = NULL;
1470   tree new_decl;
1471
1472   if (!tree_versionable_function_p (old_decl))
1473     return NULL;
1474
1475   /* Make a new FUNCTION_DECL tree node for the
1476      new version. */
1477   new_decl = copy_node (old_decl);
1478
1479   /* Create the new version's call-graph node.
1480      and update the edges of the new node. */
1481   new_version_node =
1482     cgraph_copy_node_for_versioning (old_version_node, new_decl,
1483                                      redirect_callers);
1484
1485   /* Copy the OLD_VERSION_NODE function tree to the new version.  */
1486   tree_function_versioning (old_decl, new_decl, tree_map);
1487   /* Update the call_expr on the edges to call the new version node. */
1488   update_call_expr (new_version_node);
1489
1490   /* Update the new version's properties.  
1491      Make The new version visible only within this translation unit.
1492      ??? We cannot use COMDAT linkage because there is no 
1493      ABI support for this.  */
1494   DECL_EXTERNAL (new_version_node->decl) = 0;
1495   DECL_ONE_ONLY (new_version_node->decl) = 0;
1496   TREE_PUBLIC (new_version_node->decl) = 0;
1497   DECL_COMDAT (new_version_node->decl) = 0;
1498   new_version_node->local.externally_visible = 0;
1499   new_version_node->local.local = 1;
1500   new_version_node->lowered = true;
1501   return new_version_node;
1502 }