OSDN Git Service

* tree-flow-inline.h (next_imm_use_stmt): Remove unecessary
[pf3gnuchains/gcc-fork.git] / gcc / tree-flow-inline.h
1 /* Inline functions for tree-flow.h
2    Copyright (C) 2001, 2003, 2005, 2006, 2007 Free Software Foundation, Inc.
3    Contributed by Diego Novillo <dnovillo@redhat.com>
4
5 This file is part of GCC.
6
7 GCC is free software; you can redistribute it and/or modify
8 it under the terms of the GNU General Public License as published by
9 the Free Software Foundation; either version 3, or (at your option)
10 any later version.
11
12 GCC is distributed in the hope that it will be useful,
13 but WITHOUT ANY WARRANTY; without even the implied warranty of
14 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
15 GNU General Public License for more details.
16
17 You should have received a copy of the GNU General Public License
18 along with GCC; see the file COPYING3.  If not see
19 <http://www.gnu.org/licenses/>.  */
20
21 #ifndef _TREE_FLOW_INLINE_H
22 #define _TREE_FLOW_INLINE_H 1
23
24 /* Inline functions for manipulating various data structures defined in
25    tree-flow.h.  See tree-flow.h for documentation.  */
26
27 /* Return true when gimple SSA form was built.
28    gimple_in_ssa_p is queried by gimplifier in various early stages before SSA
29    infrastructure is initialized.  Check for presence of the datastructures
30    at first place.  */
31 static inline bool
32 gimple_in_ssa_p (const struct function *fun)
33 {
34   return fun && fun->gimple_df && fun->gimple_df->in_ssa_p;
35 }
36
37 /* 'true' after aliases have been computed (see compute_may_aliases).  */
38 static inline bool
39 gimple_aliases_computed_p (const struct function *fun)
40 {
41   gcc_assert (fun && fun->gimple_df);
42   return fun->gimple_df->aliases_computed_p;
43 }
44
45 /* Addressable variables in the function.  If bit I is set, then
46    REFERENCED_VARS (I) has had its address taken.  Note that
47    CALL_CLOBBERED_VARS and ADDRESSABLE_VARS are not related.  An
48    addressable variable is not necessarily call-clobbered (e.g., a
49    local addressable whose address does not escape) and not all
50    call-clobbered variables are addressable (e.g., a local static
51    variable).  */
52 static inline bitmap
53 gimple_addressable_vars (const struct function *fun)
54 {
55   gcc_assert (fun && fun->gimple_df);
56   return fun->gimple_df->addressable_vars;
57 }
58
59 /* Call clobbered variables in the function.  If bit I is set, then
60    REFERENCED_VARS (I) is call-clobbered.  */
61 static inline bitmap
62 gimple_call_clobbered_vars (const struct function *fun)
63 {
64   gcc_assert (fun && fun->gimple_df);
65   return fun->gimple_df->call_clobbered_vars;
66 }
67
68 /* Array of all variables referenced in the function.  */
69 static inline htab_t
70 gimple_referenced_vars (const struct function *fun)
71 {
72   if (!fun->gimple_df)
73     return NULL;
74   return fun->gimple_df->referenced_vars;
75 }
76
77 /* Artificial variable used to model the effects of function calls.  */
78 static inline tree
79 gimple_global_var (const struct function *fun)
80 {
81   gcc_assert (fun && fun->gimple_df);
82   return fun->gimple_df->global_var;
83 }
84
85 /* Artificial variable used to model the effects of nonlocal
86    variables.  */
87 static inline tree
88 gimple_nonlocal_all (const struct function *fun)
89 {
90   gcc_assert (fun && fun->gimple_df);
91   return fun->gimple_df->nonlocal_all;
92 }
93
94 /* Hashtable of variables annotations.  Used for static variables only;
95    local variables have direct pointer in the tree node.  */
96 static inline htab_t
97 gimple_var_anns (const struct function *fun)
98 {
99   return fun->gimple_df->var_anns;
100 }
101
102 /* Initialize the hashtable iterator HTI to point to hashtable TABLE */
103
104 static inline void *
105 first_htab_element (htab_iterator *hti, htab_t table)
106 {
107   hti->htab = table;
108   hti->slot = table->entries;
109   hti->limit = hti->slot + htab_size (table);
110   do
111     {
112       PTR x = *(hti->slot);
113       if (x != HTAB_EMPTY_ENTRY && x != HTAB_DELETED_ENTRY)
114         break;
115     } while (++(hti->slot) < hti->limit);
116   
117   if (hti->slot < hti->limit)
118     return *(hti->slot);
119   return NULL;
120 }
121
122 /* Return current non-empty/deleted slot of the hashtable pointed to by HTI,
123    or NULL if we have  reached the end.  */
124
125 static inline bool
126 end_htab_p (const htab_iterator *hti)
127 {
128   if (hti->slot >= hti->limit)
129     return true;
130   return false;
131 }
132
133 /* Advance the hashtable iterator pointed to by HTI to the next element of the
134    hashtable.  */
135
136 static inline void *
137 next_htab_element (htab_iterator *hti)
138 {
139   while (++(hti->slot) < hti->limit)
140     {
141       PTR x = *(hti->slot);
142       if (x != HTAB_EMPTY_ENTRY && x != HTAB_DELETED_ENTRY)
143         return x;
144     };
145   return NULL;
146 }
147
148 /* Initialize ITER to point to the first referenced variable in the
149    referenced_vars hashtable, and return that variable.  */
150
151 static inline tree
152 first_referenced_var (referenced_var_iterator *iter)
153 {
154   struct int_tree_map *itm;
155   itm = (struct int_tree_map *) first_htab_element (&iter->hti,
156                                                     gimple_referenced_vars
157                                                     (cfun));
158   if (!itm) 
159     return NULL;
160   return itm->to;
161 }
162
163 /* Return true if we have hit the end of the referenced variables ITER is
164    iterating through.  */
165
166 static inline bool
167 end_referenced_vars_p (const referenced_var_iterator *iter)
168 {
169   return end_htab_p (&iter->hti);
170 }
171
172 /* Make ITER point to the next referenced_var in the referenced_var hashtable,
173    and return that variable.  */
174
175 static inline tree
176 next_referenced_var (referenced_var_iterator *iter)
177 {
178   struct int_tree_map *itm;
179   itm = (struct int_tree_map *) next_htab_element (&iter->hti);
180   if (!itm) 
181     return NULL;
182   return itm->to;
183
184
185 /* Fill up VEC with the variables in the referenced vars hashtable.  */
186
187 static inline void
188 fill_referenced_var_vec (VEC (tree, heap) **vec)
189 {
190   referenced_var_iterator rvi;
191   tree var;
192   *vec = NULL;
193   FOR_EACH_REFERENCED_VAR (var, rvi)
194     VEC_safe_push (tree, heap, *vec, var);
195 }
196
197 /* Return the variable annotation for T, which must be a _DECL node.
198    Return NULL if the variable annotation doesn't already exist.  */
199 static inline var_ann_t
200 var_ann (const_tree t)
201 {
202   gcc_assert (t);
203   gcc_assert (DECL_P (t));
204   gcc_assert (TREE_CODE (t) != FUNCTION_DECL);
205   if (!MTAG_P (t) && (TREE_STATIC (t) || DECL_EXTERNAL (t)))
206     {
207       struct static_var_ann_d *sann
208         = ((struct static_var_ann_d *)
209            htab_find_with_hash (gimple_var_anns (cfun), t, DECL_UID (t)));
210       if (!sann)
211         return NULL;
212       gcc_assert (sann->ann.common.type == VAR_ANN);
213       return &sann->ann;
214     }
215   gcc_assert (!t->base.ann
216               || t->base.ann->common.type == VAR_ANN);
217
218   return (var_ann_t) t->base.ann;
219 }
220
221 /* Return the variable annotation for T, which must be a _DECL node.
222    Create the variable annotation if it doesn't exist.  */
223 static inline var_ann_t
224 get_var_ann (tree var)
225 {
226   var_ann_t ann = var_ann (var);
227   return (ann) ? ann : create_var_ann (var);
228 }
229
230 /* Return the function annotation for T, which must be a FUNCTION_DECL node.
231    Return NULL if the function annotation doesn't already exist.  */
232 static inline function_ann_t
233 function_ann (const_tree t)
234 {
235   gcc_assert (t);
236   gcc_assert (TREE_CODE (t) == FUNCTION_DECL);
237   gcc_assert (!t->base.ann
238               || t->base.ann->common.type == FUNCTION_ANN);
239
240   return (function_ann_t) t->base.ann;
241 }
242
243 /* Return the function annotation for T, which must be a FUNCTION_DECL node.
244    Create the function annotation if it doesn't exist.  */
245 static inline function_ann_t
246 get_function_ann (tree var)
247 {
248   function_ann_t ann = function_ann (var);
249   gcc_assert (!var->base.ann || var->base.ann->common.type == FUNCTION_ANN);
250   return (ann) ? ann : create_function_ann (var);
251 }
252
253 /* Return true if T has a statement annotation attached to it.  */
254
255 static inline bool
256 has_stmt_ann (tree t)
257 {
258 #ifdef ENABLE_CHECKING
259   gcc_assert (is_gimple_stmt (t));
260 #endif
261   return t->base.ann && t->base.ann->common.type == STMT_ANN;
262 }
263
264 /* Return the statement annotation for T, which must be a statement
265    node.  Return NULL if the statement annotation doesn't exist.  */
266 static inline stmt_ann_t
267 stmt_ann (tree t)
268 {
269 #ifdef ENABLE_CHECKING
270   gcc_assert (is_gimple_stmt (t));
271 #endif
272   gcc_assert (!t->base.ann || t->base.ann->common.type == STMT_ANN);
273   return (stmt_ann_t) t->base.ann;
274 }
275
276 /* Return the statement annotation for T, which must be a statement
277    node.  Create the statement annotation if it doesn't exist.  */
278 static inline stmt_ann_t
279 get_stmt_ann (tree stmt)
280 {
281   stmt_ann_t ann = stmt_ann (stmt);
282   return (ann) ? ann : create_stmt_ann (stmt);
283 }
284
285 /* Return the annotation type for annotation ANN.  */
286 static inline enum tree_ann_type
287 ann_type (tree_ann_t ann)
288 {
289   return ann->common.type;
290 }
291
292 /* Return the basic block for statement T.  */
293 static inline basic_block
294 bb_for_stmt (tree t)
295 {
296   stmt_ann_t ann;
297
298   if (TREE_CODE (t) == PHI_NODE)
299     return PHI_BB (t);
300
301   ann = stmt_ann (t);
302   return ann ? ann->bb : NULL;
303 }
304
305 /* Return the may_aliases bitmap for variable VAR, or NULL if it has
306    no may aliases.  */
307 static inline bitmap
308 may_aliases (const_tree var)
309 {
310   return MTAG_ALIASES (var);
311 }
312
313 /* Return the line number for EXPR, or return -1 if we have no line
314    number information for it.  */
315 static inline int
316 get_lineno (tree expr)
317 {
318   if (expr == NULL_TREE)
319     return -1;
320
321   if (TREE_CODE (expr) == COMPOUND_EXPR)
322     expr = TREE_OPERAND (expr, 0);
323
324   if (! EXPR_HAS_LOCATION (expr))
325     return -1;
326
327   return EXPR_LINENO (expr);
328 }
329
330 /* Return true if T is a noreturn call.  */
331 static inline bool
332 noreturn_call_p (tree t)
333 {
334   tree call = get_call_expr_in (t);
335   return call != 0 && (call_expr_flags (call) & ECF_NORETURN) != 0;
336 }
337
338 /* Mark statement T as modified.  */
339 static inline void
340 mark_stmt_modified (tree t)
341 {
342   stmt_ann_t ann;
343   if (TREE_CODE (t) == PHI_NODE)
344     return;
345
346   ann = stmt_ann (t);
347   if (ann == NULL)
348     ann = create_stmt_ann (t);
349   else if (noreturn_call_p (t) && cfun->gimple_df)
350     VEC_safe_push (tree, gc, MODIFIED_NORETURN_CALLS (cfun), t);
351   ann->modified = 1;
352 }
353
354 /* Mark statement T as modified, and update it.  */
355 static inline void
356 update_stmt (tree t)
357 {
358   if (TREE_CODE (t) == PHI_NODE)
359     return;
360   mark_stmt_modified (t);
361   update_stmt_operands (t);
362 }
363
364 static inline void
365 update_stmt_if_modified (tree t)
366 {
367   if (stmt_modified_p (t))
368     update_stmt_operands (t);
369 }
370
371 /* Return true if T is marked as modified, false otherwise.  */
372 static inline bool
373 stmt_modified_p (tree t)
374 {
375   stmt_ann_t ann = stmt_ann (t);
376
377   /* Note that if the statement doesn't yet have an annotation, we consider it
378      modified.  This will force the next call to update_stmt_operands to scan 
379      the statement.  */
380   return ann ? ann->modified : true;
381 }
382
383 /* Delink an immediate_uses node from its chain.  */
384 static inline void
385 delink_imm_use (ssa_use_operand_t *linknode)
386 {
387   /* Return if this node is not in a list.  */
388   if (linknode->prev == NULL)
389     return;
390
391   linknode->prev->next = linknode->next;
392   linknode->next->prev = linknode->prev;
393   linknode->prev = NULL;
394   linknode->next = NULL;
395 }
396
397 /* Link ssa_imm_use node LINKNODE into the chain for LIST.  */
398 static inline void
399 link_imm_use_to_list (ssa_use_operand_t *linknode, ssa_use_operand_t *list)
400 {
401   /* Link the new node at the head of the list.  If we are in the process of 
402      traversing the list, we won't visit any new nodes added to it.  */
403   linknode->prev = list;
404   linknode->next = list->next;
405   list->next->prev = linknode;
406   list->next = linknode;
407 }
408
409 /* Link ssa_imm_use node LINKNODE into the chain for DEF.  */
410 static inline void
411 link_imm_use (ssa_use_operand_t *linknode, tree def)
412 {
413   ssa_use_operand_t *root;
414
415   if (!def || TREE_CODE (def) != SSA_NAME)
416     linknode->prev = NULL;
417   else
418     {
419       root = &(SSA_NAME_IMM_USE_NODE (def));
420 #ifdef ENABLE_CHECKING
421       if (linknode->use)
422         gcc_assert (*(linknode->use) == def);
423 #endif
424       link_imm_use_to_list (linknode, root);
425     }
426 }
427
428 /* Set the value of a use pointed to by USE to VAL.  */
429 static inline void
430 set_ssa_use_from_ptr (use_operand_p use, tree val)
431 {
432   delink_imm_use (use);
433   *(use->use) = val;
434   link_imm_use (use, val);
435 }
436
437 /* Link ssa_imm_use node LINKNODE into the chain for DEF, with use occurring 
438    in STMT.  */
439 static inline void
440 link_imm_use_stmt (ssa_use_operand_t *linknode, tree def, tree stmt)
441 {
442   if (stmt)
443     link_imm_use (linknode, def);
444   else
445     link_imm_use (linknode, NULL);
446   linknode->stmt = stmt;
447 }
448
449 /* Relink a new node in place of an old node in the list.  */
450 static inline void
451 relink_imm_use (ssa_use_operand_t *node, ssa_use_operand_t *old)
452 {
453   /* The node one had better be in the same list.  */
454   gcc_assert (*(old->use) == *(node->use));
455   node->prev = old->prev;
456   node->next = old->next;
457   if (old->prev)
458     {
459       old->prev->next = node;
460       old->next->prev = node;
461       /* Remove the old node from the list.  */
462       old->prev = NULL;
463     }
464 }
465
466 /* Relink ssa_imm_use node LINKNODE into the chain for OLD, with use occurring 
467    in STMT.  */
468 static inline void
469 relink_imm_use_stmt (ssa_use_operand_t *linknode, ssa_use_operand_t *old, tree stmt)
470 {
471   if (stmt)
472     relink_imm_use (linknode, old);
473   else
474     link_imm_use (linknode, NULL);
475   linknode->stmt = stmt;
476 }
477
478
479 /* Return true is IMM has reached the end of the immediate use list.  */
480 static inline bool
481 end_readonly_imm_use_p (const imm_use_iterator *imm)
482 {
483   return (imm->imm_use == imm->end_p);
484 }
485
486 /* Initialize iterator IMM to process the list for VAR.  */
487 static inline use_operand_p
488 first_readonly_imm_use (imm_use_iterator *imm, tree var)
489 {
490   gcc_assert (TREE_CODE (var) == SSA_NAME);
491
492   imm->end_p = &(SSA_NAME_IMM_USE_NODE (var));
493   imm->imm_use = imm->end_p->next;
494 #ifdef ENABLE_CHECKING
495   imm->iter_node.next = imm->imm_use->next;
496 #endif
497   if (end_readonly_imm_use_p (imm))
498     return NULL_USE_OPERAND_P;
499   return imm->imm_use;
500 }
501
502 /* Bump IMM to the next use in the list.  */
503 static inline use_operand_p
504 next_readonly_imm_use (imm_use_iterator *imm)
505 {
506   use_operand_p old = imm->imm_use;
507
508 #ifdef ENABLE_CHECKING
509   /* If this assertion fails, it indicates the 'next' pointer has changed 
510      since we the last bump.  This indicates that the list is being modified
511      via stmt changes, or SET_USE, or somesuch thing, and you need to be
512      using the SAFE version of the iterator.  */
513   gcc_assert (imm->iter_node.next == old->next);
514   imm->iter_node.next = old->next->next;
515 #endif
516
517   imm->imm_use = old->next;
518   if (end_readonly_imm_use_p (imm))
519     return old;
520   return imm->imm_use;
521 }
522
523 /* Return true if VAR has no uses.  */
524 static inline bool
525 has_zero_uses (const_tree var)
526 {
527   const ssa_use_operand_t *const ptr = &(SSA_NAME_IMM_USE_NODE (var));
528   /* A single use means there is no items in the list.  */
529   return (ptr == ptr->next);
530 }
531
532 /* Return true if VAR has a single use.  */
533 static inline bool
534 has_single_use (const_tree var)
535 {
536   const ssa_use_operand_t *const ptr = &(SSA_NAME_IMM_USE_NODE (var));
537   /* A single use means there is one item in the list.  */
538   return (ptr != ptr->next && ptr == ptr->next->next);
539 }
540
541
542 /* If VAR has only a single immediate use, return true, and set USE_P and STMT
543    to the use pointer and stmt of occurrence.  */
544 static inline bool
545 single_imm_use (const_tree var, use_operand_p *use_p, tree *stmt)
546 {
547   const ssa_use_operand_t *const ptr = &(SSA_NAME_IMM_USE_NODE (var));
548   if (ptr != ptr->next && ptr == ptr->next->next)
549     {
550       *use_p = ptr->next;
551       *stmt = ptr->next->stmt;
552       return true;
553     }
554   *use_p = NULL_USE_OPERAND_P;
555   *stmt = NULL_TREE;
556   return false;
557 }
558
559 /* Return the number of immediate uses of VAR.  */
560 static inline unsigned int
561 num_imm_uses (const_tree var)
562 {
563   const ssa_use_operand_t *const start = &(SSA_NAME_IMM_USE_NODE (var));
564   const ssa_use_operand_t *ptr;
565   unsigned int num = 0;
566
567   for (ptr = start->next; ptr != start; ptr = ptr->next)
568      num++;
569
570   return num;
571 }
572
573 /* Return the tree pointer to by USE.  */ 
574 static inline tree
575 get_use_from_ptr (use_operand_p use)
576
577   return *(use->use);
578
579
580 /* Return the tree pointer to by DEF.  */
581 static inline tree
582 get_def_from_ptr (def_operand_p def)
583 {
584   return *def;
585 }
586
587 /* Return a def_operand_p pointer for the result of PHI.  */
588 static inline def_operand_p
589 get_phi_result_ptr (tree phi)
590 {
591   return &(PHI_RESULT_TREE (phi));
592 }
593
594 /* Return a use_operand_p pointer for argument I of phinode PHI.  */
595 static inline use_operand_p
596 get_phi_arg_def_ptr (tree phi, int i)
597 {
598   return &(PHI_ARG_IMM_USE_NODE (phi,i));
599 }
600
601
602 /* Return the bitmap of addresses taken by STMT, or NULL if it takes
603    no addresses.  */
604 static inline bitmap
605 addresses_taken (tree stmt)
606 {
607   stmt_ann_t ann = stmt_ann (stmt);
608   return ann ? ann->addresses_taken : NULL;
609 }
610
611 /* Return the PHI nodes for basic block BB, or NULL if there are no
612    PHI nodes.  */
613 static inline tree
614 phi_nodes (basic_block bb)
615 {
616   gcc_assert (!(bb->flags & BB_RTL));
617   if (!bb->il.tree)
618     return NULL;
619   return bb->il.tree->phi_nodes;
620 }
621
622 /* Return pointer to the list of PHI nodes for basic block BB.  */
623
624 static inline tree *
625 phi_nodes_ptr (basic_block bb)
626 {
627   gcc_assert (!(bb->flags & BB_RTL));
628   return &bb->il.tree->phi_nodes;
629 }
630
631 /* Set list of phi nodes of a basic block BB to L.  */
632
633 static inline void
634 set_phi_nodes (basic_block bb, tree l)
635 {
636   tree phi;
637
638   gcc_assert (!(bb->flags & BB_RTL));
639   bb->il.tree->phi_nodes = l;
640   for (phi = l; phi; phi = PHI_CHAIN (phi))
641     set_bb_for_stmt (phi, bb);
642 }
643
644 /* Return the phi argument which contains the specified use.  */
645
646 static inline int
647 phi_arg_index_from_use (use_operand_p use)
648 {
649   struct phi_arg_d *element, *root;
650   int index;
651   tree phi;
652
653   /* Since the use is the first thing in a PHI argument element, we can
654      calculate its index based on casting it to an argument, and performing
655      pointer arithmetic.  */
656
657   phi = USE_STMT (use);
658   gcc_assert (TREE_CODE (phi) == PHI_NODE);
659
660   element = (struct phi_arg_d *)use;
661   root = &(PHI_ARG_ELT (phi, 0));
662   index = element - root;
663
664 #ifdef ENABLE_CHECKING
665   /* Make sure the calculation doesn't have any leftover bytes.  If it does, 
666      then imm_use is likely not the first element in phi_arg_d.  */
667   gcc_assert (
668           (((char *)element - (char *)root) % sizeof (struct phi_arg_d)) == 0);
669   gcc_assert (index >= 0 && index < PHI_ARG_CAPACITY (phi));
670 #endif
671  
672  return index;
673 }
674
675 /* Mark VAR as used, so that it'll be preserved during rtl expansion.  */
676
677 static inline void
678 set_is_used (tree var)
679 {
680   var_ann_t ann = get_var_ann (var);
681   ann->used = 1;
682 }
683
684
685 /* Return true if T (assumed to be a DECL) is a global variable.  */
686
687 static inline bool
688 is_global_var (const_tree t)
689 {
690   if (MTAG_P (t))
691     return (TREE_STATIC (t) || MTAG_GLOBAL (t));
692   else
693     return (TREE_STATIC (t) || DECL_EXTERNAL (t));
694 }
695
696 /* PHI nodes should contain only ssa_names and invariants.  A test
697    for ssa_name is definitely simpler; don't let invalid contents
698    slip in in the meantime.  */
699
700 static inline bool
701 phi_ssa_name_p (const_tree t)
702 {
703   if (TREE_CODE (t) == SSA_NAME)
704     return true;
705 #ifdef ENABLE_CHECKING
706   gcc_assert (is_gimple_min_invariant (t));
707 #endif
708   return false;
709 }
710
711 /*  -----------------------------------------------------------------------  */
712
713 /* Returns the list of statements in BB.  */
714
715 static inline tree
716 bb_stmt_list (const_basic_block bb)
717 {
718   gcc_assert (!(bb->flags & BB_RTL));
719   return bb->il.tree->stmt_list;
720 }
721
722 /* Sets the list of statements in BB to LIST.  */
723
724 static inline void
725 set_bb_stmt_list (basic_block bb, tree list)
726 {
727   gcc_assert (!(bb->flags & BB_RTL));
728   bb->il.tree->stmt_list = list;
729 }
730
731 /* Return a block_stmt_iterator that points to beginning of basic
732    block BB.  */
733 static inline block_stmt_iterator
734 bsi_start (basic_block bb)
735 {
736   block_stmt_iterator bsi;
737   if (bb->index < NUM_FIXED_BLOCKS)
738     {
739       bsi.tsi.ptr = NULL;
740       bsi.tsi.container = NULL;
741     }
742   else
743     bsi.tsi = tsi_start (bb_stmt_list (bb));
744   bsi.bb = bb;
745   return bsi;
746 }
747
748 static inline const_block_stmt_iterator
749 cbsi_start (const_basic_block bb)
750 {
751   const_block_stmt_iterator bsi;
752   if (bb->index < NUM_FIXED_BLOCKS)
753     {
754       bsi.tsi.ptr = NULL;
755       bsi.tsi.container = NULL;
756     }
757   else
758     bsi.tsi = ctsi_start (bb_stmt_list (bb));
759   bsi.bb = bb;
760   return bsi;
761 }
762
763 /* Return a block statement iterator that points to the first non-label
764    statement in block BB.  */
765
766 static inline block_stmt_iterator
767 bsi_after_labels (basic_block bb)
768 {
769   block_stmt_iterator bsi = bsi_start (bb);
770
771   while (!bsi_end_p (bsi) && TREE_CODE (bsi_stmt (bsi)) == LABEL_EXPR)
772     bsi_next (&bsi);
773
774   return bsi;
775 }
776
777 /* Return a block statement iterator that points to the end of basic
778    block BB.  */
779 static inline block_stmt_iterator
780 bsi_last (basic_block bb)
781 {
782   block_stmt_iterator bsi;
783
784   if (bb->index < NUM_FIXED_BLOCKS)
785     {
786       bsi.tsi.ptr = NULL;
787       bsi.tsi.container = NULL;
788     }
789   else
790     bsi.tsi = tsi_last (bb_stmt_list (bb));
791   bsi.bb = bb;
792   return bsi;
793 }
794
795 static inline const_block_stmt_iterator
796 cbsi_last (const_basic_block bb)
797 {
798   const_block_stmt_iterator bsi;
799
800   if (bb->index < NUM_FIXED_BLOCKS)
801     {
802       bsi.tsi.ptr = NULL;
803       bsi.tsi.container = NULL;
804     }
805   else
806     bsi.tsi = ctsi_last (bb_stmt_list (bb));
807   bsi.bb = bb;
808   return bsi;
809 }
810
811 /* Return true if block statement iterator I has reached the end of
812    the basic block.  */
813 static inline bool
814 bsi_end_p (block_stmt_iterator i)
815 {
816   return tsi_end_p (i.tsi);
817 }
818
819 static inline bool
820 cbsi_end_p (const_block_stmt_iterator i)
821 {
822   return ctsi_end_p (i.tsi);
823 }
824
825 /* Modify block statement iterator I so that it is at the next
826    statement in the basic block.  */
827 static inline void
828 bsi_next (block_stmt_iterator *i)
829 {
830   tsi_next (&i->tsi);
831 }
832
833 static inline void
834 cbsi_next (const_block_stmt_iterator *i)
835 {
836   ctsi_next (&i->tsi);
837 }
838
839 /* Modify block statement iterator I so that it is at the previous
840    statement in the basic block.  */
841 static inline void
842 bsi_prev (block_stmt_iterator *i)
843 {
844   tsi_prev (&i->tsi);
845 }
846
847 static inline void
848 cbsi_prev (const_block_stmt_iterator *i)
849 {
850   ctsi_prev (&i->tsi);
851 }
852
853 /* Return the statement that block statement iterator I is currently
854    at.  */
855 static inline tree
856 bsi_stmt (block_stmt_iterator i)
857 {
858   return tsi_stmt (i.tsi);
859 }
860
861 static inline const_tree
862 cbsi_stmt (const_block_stmt_iterator i)
863 {
864   return ctsi_stmt (i.tsi);
865 }
866
867 /* Return a pointer to the statement that block statement iterator I
868    is currently at.  */
869 static inline tree *
870 bsi_stmt_ptr (block_stmt_iterator i)
871 {
872   return tsi_stmt_ptr (i.tsi);
873 }
874
875 /* Returns the loop of the statement STMT.  */
876
877 static inline struct loop *
878 loop_containing_stmt (tree stmt)
879 {
880   basic_block bb = bb_for_stmt (stmt);
881   if (!bb)
882     return NULL;
883
884   return bb->loop_father;
885 }
886
887
888 /* Return the memory partition tag associated with symbol SYM.  */
889
890 static inline tree
891 memory_partition (tree sym)
892 {
893   tree tag;
894
895   /* MPTs belong to their own partition.  */
896   if (TREE_CODE (sym) == MEMORY_PARTITION_TAG)
897     return sym;
898
899   gcc_assert (!is_gimple_reg (sym));
900   tag = get_var_ann (sym)->mpt;
901
902 #if defined ENABLE_CHECKING
903   if (tag)
904     gcc_assert (TREE_CODE (tag) == MEMORY_PARTITION_TAG);
905 #endif
906
907   return tag;
908 }
909
910 /* Return true if NAME is a memory factoring SSA name (i.e., an SSA
911    name for a memory partition.  */
912
913 static inline bool
914 factoring_name_p (const_tree name)
915 {
916   return TREE_CODE (SSA_NAME_VAR (name)) == MEMORY_PARTITION_TAG;
917 }
918
919 /* Return true if VAR is a clobbered by function calls.  */
920 static inline bool
921 is_call_clobbered (const_tree var)
922 {
923   if (!MTAG_P (var))
924     return var_ann (var)->call_clobbered;
925   else
926     return bitmap_bit_p (gimple_call_clobbered_vars (cfun), DECL_UID (var)); 
927 }
928
929 /* Mark variable VAR as being clobbered by function calls.  */
930 static inline void
931 mark_call_clobbered (tree var, unsigned int escape_type)
932 {
933   var_ann (var)->escape_mask |= escape_type;
934   if (!MTAG_P (var))
935     var_ann (var)->call_clobbered = true;
936   bitmap_set_bit (gimple_call_clobbered_vars (cfun), DECL_UID (var));
937 }
938
939 /* Clear the call-clobbered attribute from variable VAR.  */
940 static inline void
941 clear_call_clobbered (tree var)
942 {
943   var_ann_t ann = var_ann (var);
944   ann->escape_mask = 0;
945   if (MTAG_P (var) && TREE_CODE (var) != STRUCT_FIELD_TAG)
946     MTAG_GLOBAL (var) = 0;
947   if (!MTAG_P (var))
948     var_ann (var)->call_clobbered = false;
949   bitmap_clear_bit (gimple_call_clobbered_vars (cfun), DECL_UID (var));
950 }
951
952 /* Return the common annotation for T.  Return NULL if the annotation
953    doesn't already exist.  */
954 static inline tree_ann_common_t
955 tree_common_ann (const_tree t)
956 {
957   /* Watch out static variables with unshared annotations.  */
958   if (DECL_P (t) && TREE_CODE (t) == VAR_DECL)
959     return &var_ann (t)->common;
960   return &t->base.ann->common;
961 }
962
963 /* Return a common annotation for T.  Create the constant annotation if it
964    doesn't exist.  */
965 static inline tree_ann_common_t
966 get_tree_common_ann (tree t)
967 {
968   tree_ann_common_t ann = tree_common_ann (t);
969   return (ann) ? ann : create_tree_common_ann (t);
970 }
971
972 /*  -----------------------------------------------------------------------  */
973
974 /* The following set of routines are used to iterator over various type of
975    SSA operands.  */
976
977 /* Return true if PTR is finished iterating.  */
978 static inline bool
979 op_iter_done (const ssa_op_iter *ptr)
980 {
981   return ptr->done;
982 }
983
984 /* Get the next iterator use value for PTR.  */
985 static inline use_operand_p
986 op_iter_next_use (ssa_op_iter *ptr)
987 {
988   use_operand_p use_p;
989 #ifdef ENABLE_CHECKING
990   gcc_assert (ptr->iter_type == ssa_op_iter_use);
991 #endif
992   if (ptr->uses)
993     {
994       use_p = USE_OP_PTR (ptr->uses);
995       ptr->uses = ptr->uses->next;
996       return use_p;
997     }
998   if (ptr->vuses)
999     {
1000       use_p = VUSE_OP_PTR (ptr->vuses, ptr->vuse_index);
1001       if (++(ptr->vuse_index) >= VUSE_NUM (ptr->vuses))
1002         {
1003           ptr->vuse_index = 0;
1004           ptr->vuses = ptr->vuses->next;
1005         }
1006       return use_p;
1007     }
1008   if (ptr->mayuses)
1009     {
1010       use_p = VDEF_OP_PTR (ptr->mayuses, ptr->mayuse_index);
1011       if (++(ptr->mayuse_index) >= VDEF_NUM (ptr->mayuses))
1012         {
1013           ptr->mayuse_index = 0;
1014           ptr->mayuses = ptr->mayuses->next;
1015         }
1016       return use_p;
1017     }
1018   if (ptr->phi_i < ptr->num_phi)
1019     {
1020       return PHI_ARG_DEF_PTR (ptr->phi_stmt, (ptr->phi_i)++);
1021     }
1022   ptr->done = true;
1023   return NULL_USE_OPERAND_P;
1024 }
1025
1026 /* Get the next iterator def value for PTR.  */
1027 static inline def_operand_p
1028 op_iter_next_def (ssa_op_iter *ptr)
1029 {
1030   def_operand_p def_p;
1031 #ifdef ENABLE_CHECKING
1032   gcc_assert (ptr->iter_type == ssa_op_iter_def);
1033 #endif
1034   if (ptr->defs)
1035     {
1036       def_p = DEF_OP_PTR (ptr->defs);
1037       ptr->defs = ptr->defs->next;
1038       return def_p;
1039     }
1040   if (ptr->vdefs)
1041     {
1042       def_p = VDEF_RESULT_PTR (ptr->vdefs);
1043       ptr->vdefs = ptr->vdefs->next;
1044       return def_p;
1045     }
1046   ptr->done = true;
1047   return NULL_DEF_OPERAND_P;
1048 }
1049
1050 /* Get the next iterator tree value for PTR.  */
1051 static inline tree
1052 op_iter_next_tree (ssa_op_iter *ptr)
1053 {
1054   tree val;
1055 #ifdef ENABLE_CHECKING
1056   gcc_assert (ptr->iter_type == ssa_op_iter_tree);
1057 #endif
1058   if (ptr->uses)
1059     {
1060       val = USE_OP (ptr->uses);
1061       ptr->uses = ptr->uses->next;
1062       return val;
1063     }
1064   if (ptr->vuses)
1065     {
1066       val = VUSE_OP (ptr->vuses, ptr->vuse_index);
1067       if (++(ptr->vuse_index) >= VUSE_NUM (ptr->vuses))
1068         {
1069           ptr->vuse_index = 0;
1070           ptr->vuses = ptr->vuses->next;
1071         }
1072       return val;
1073     }
1074   if (ptr->mayuses)
1075     {
1076       val = VDEF_OP (ptr->mayuses, ptr->mayuse_index);
1077       if (++(ptr->mayuse_index) >= VDEF_NUM (ptr->mayuses))
1078         {
1079           ptr->mayuse_index = 0;
1080           ptr->mayuses = ptr->mayuses->next;
1081         }
1082       return val;
1083     }
1084   if (ptr->defs)
1085     {
1086       val = DEF_OP (ptr->defs);
1087       ptr->defs = ptr->defs->next;
1088       return val;
1089     }
1090   if (ptr->vdefs)
1091     {
1092       val = VDEF_RESULT (ptr->vdefs);
1093       ptr->vdefs = ptr->vdefs->next;
1094       return val;
1095     }
1096
1097   ptr->done = true;
1098   return NULL_TREE;
1099
1100 }
1101
1102
1103 /* This functions clears the iterator PTR, and marks it done.  This is normally
1104    used to prevent warnings in the compile about might be uninitialized
1105    components.  */
1106
1107 static inline void
1108 clear_and_done_ssa_iter (ssa_op_iter *ptr)
1109 {
1110   ptr->defs = NULL;
1111   ptr->uses = NULL;
1112   ptr->vuses = NULL;
1113   ptr->vdefs = NULL;
1114   ptr->mayuses = NULL;
1115   ptr->iter_type = ssa_op_iter_none;
1116   ptr->phi_i = 0;
1117   ptr->num_phi = 0;
1118   ptr->phi_stmt = NULL_TREE;
1119   ptr->done = true;
1120   ptr->vuse_index = 0;
1121   ptr->mayuse_index = 0;
1122 }
1123
1124 /* Initialize the iterator PTR to the virtual defs in STMT.  */
1125 static inline void
1126 op_iter_init (ssa_op_iter *ptr, tree stmt, int flags)
1127 {
1128 #ifdef ENABLE_CHECKING
1129   gcc_assert (stmt_ann (stmt));
1130 #endif
1131
1132   ptr->defs = (flags & SSA_OP_DEF) ? DEF_OPS (stmt) : NULL;
1133   ptr->uses = (flags & SSA_OP_USE) ? USE_OPS (stmt) : NULL;
1134   ptr->vuses = (flags & SSA_OP_VUSE) ? VUSE_OPS (stmt) : NULL;
1135   ptr->vdefs = (flags & SSA_OP_VDEF) ? VDEF_OPS (stmt) : NULL;
1136   ptr->mayuses = (flags & SSA_OP_VMAYUSE) ? VDEF_OPS (stmt) : NULL;
1137   ptr->done = false;
1138
1139   ptr->phi_i = 0;
1140   ptr->num_phi = 0;
1141   ptr->phi_stmt = NULL_TREE;
1142   ptr->vuse_index = 0;
1143   ptr->mayuse_index = 0;
1144 }
1145
1146 /* Initialize iterator PTR to the use operands in STMT based on FLAGS. Return
1147    the first use.  */
1148 static inline use_operand_p
1149 op_iter_init_use (ssa_op_iter *ptr, tree stmt, int flags)
1150 {
1151   gcc_assert ((flags & SSA_OP_ALL_DEFS) == 0);
1152   op_iter_init (ptr, stmt, flags);
1153   ptr->iter_type = ssa_op_iter_use;
1154   return op_iter_next_use (ptr);
1155 }
1156
1157 /* Initialize iterator PTR to the def operands in STMT based on FLAGS. Return
1158    the first def.  */
1159 static inline def_operand_p
1160 op_iter_init_def (ssa_op_iter *ptr, tree stmt, int flags)
1161 {
1162   gcc_assert ((flags & SSA_OP_ALL_USES) == 0);
1163   op_iter_init (ptr, stmt, flags);
1164   ptr->iter_type = ssa_op_iter_def;
1165   return op_iter_next_def (ptr);
1166 }
1167
1168 /* Initialize iterator PTR to the operands in STMT based on FLAGS. Return
1169    the first operand as a tree.  */
1170 static inline tree
1171 op_iter_init_tree (ssa_op_iter *ptr, tree stmt, int flags)
1172 {
1173   op_iter_init (ptr, stmt, flags);
1174   ptr->iter_type = ssa_op_iter_tree;
1175   return op_iter_next_tree (ptr);
1176 }
1177
1178 /* Get the next iterator mustdef value for PTR, returning the mustdef values in
1179    KILL and DEF.  */
1180 static inline void
1181 op_iter_next_vdef (vuse_vec_p *use, def_operand_p *def, 
1182                          ssa_op_iter *ptr)
1183 {
1184 #ifdef ENABLE_CHECKING
1185   gcc_assert (ptr->iter_type == ssa_op_iter_vdef);
1186 #endif
1187   if (ptr->mayuses)
1188     {
1189       *def = VDEF_RESULT_PTR (ptr->mayuses);
1190       *use = VDEF_VECT (ptr->mayuses);
1191       ptr->mayuses = ptr->mayuses->next;
1192       return;
1193     }
1194
1195   *def = NULL_DEF_OPERAND_P;
1196   *use = NULL;
1197   ptr->done = true;
1198   return;
1199 }
1200
1201
1202 static inline void
1203 op_iter_next_mustdef (use_operand_p *use, def_operand_p *def, 
1204                          ssa_op_iter *ptr)
1205 {
1206   vuse_vec_p vp;
1207   op_iter_next_vdef (&vp, def, ptr);
1208   if (vp != NULL)
1209     {
1210       gcc_assert (VUSE_VECT_NUM_ELEM (*vp) == 1);
1211       *use = VUSE_ELEMENT_PTR (*vp, 0);
1212     }
1213   else
1214     *use = NULL_USE_OPERAND_P;
1215 }
1216
1217 /* Initialize iterator PTR to the operands in STMT.  Return the first operands
1218    in USE and DEF.  */
1219 static inline void
1220 op_iter_init_vdef (ssa_op_iter *ptr, tree stmt, vuse_vec_p *use, 
1221                      def_operand_p *def)
1222 {
1223   gcc_assert (TREE_CODE (stmt) != PHI_NODE);
1224
1225   op_iter_init (ptr, stmt, SSA_OP_VMAYUSE);
1226   ptr->iter_type = ssa_op_iter_vdef;
1227   op_iter_next_vdef (use, def, ptr);
1228 }
1229
1230
1231 /* If there is a single operand in STMT matching FLAGS, return it.  Otherwise
1232    return NULL.  */
1233 static inline tree
1234 single_ssa_tree_operand (tree stmt, int flags)
1235 {
1236   tree var;
1237   ssa_op_iter iter;
1238
1239   var = op_iter_init_tree (&iter, stmt, flags);
1240   if (op_iter_done (&iter))
1241     return NULL_TREE;
1242   op_iter_next_tree (&iter);
1243   if (op_iter_done (&iter))
1244     return var;
1245   return NULL_TREE;
1246 }
1247
1248
1249 /* If there is a single operand in STMT matching FLAGS, return it.  Otherwise
1250    return NULL.  */
1251 static inline use_operand_p
1252 single_ssa_use_operand (tree stmt, int flags)
1253 {
1254   use_operand_p var;
1255   ssa_op_iter iter;
1256
1257   var = op_iter_init_use (&iter, stmt, flags);
1258   if (op_iter_done (&iter))
1259     return NULL_USE_OPERAND_P;
1260   op_iter_next_use (&iter);
1261   if (op_iter_done (&iter))
1262     return var;
1263   return NULL_USE_OPERAND_P;
1264 }
1265
1266
1267
1268 /* If there is a single operand in STMT matching FLAGS, return it.  Otherwise
1269    return NULL.  */
1270 static inline def_operand_p
1271 single_ssa_def_operand (tree stmt, int flags)
1272 {
1273   def_operand_p var;
1274   ssa_op_iter iter;
1275
1276   var = op_iter_init_def (&iter, stmt, flags);
1277   if (op_iter_done (&iter))
1278     return NULL_DEF_OPERAND_P;
1279   op_iter_next_def (&iter);
1280   if (op_iter_done (&iter))
1281     return var;
1282   return NULL_DEF_OPERAND_P;
1283 }
1284
1285
1286 /* Return true if there are zero operands in STMT matching the type 
1287    given in FLAGS.  */
1288 static inline bool
1289 zero_ssa_operands (tree stmt, int flags)
1290 {
1291   ssa_op_iter iter;
1292
1293   op_iter_init_tree (&iter, stmt, flags);
1294   return op_iter_done (&iter);
1295 }
1296
1297
1298 /* Return the number of operands matching FLAGS in STMT.  */
1299 static inline int
1300 num_ssa_operands (tree stmt, int flags)
1301 {
1302   ssa_op_iter iter;
1303   tree t;
1304   int num = 0;
1305
1306   FOR_EACH_SSA_TREE_OPERAND (t, stmt, iter, flags)
1307     num++;
1308   return num;
1309 }
1310
1311
1312 /* Delink all immediate_use information for STMT.  */
1313 static inline void
1314 delink_stmt_imm_use (tree stmt)
1315 {
1316    ssa_op_iter iter;
1317    use_operand_p use_p;
1318
1319    if (ssa_operands_active ())
1320      FOR_EACH_SSA_USE_OPERAND (use_p, stmt, iter, SSA_OP_ALL_USES)
1321        delink_imm_use (use_p);
1322 }
1323
1324
1325 /* This routine will compare all the operands matching FLAGS in STMT1 to those
1326    in STMT2.  TRUE is returned if they are the same.  STMTs can be NULL.  */
1327 static inline bool
1328 compare_ssa_operands_equal (tree stmt1, tree stmt2, int flags)
1329 {
1330   ssa_op_iter iter1, iter2;
1331   tree op1 = NULL_TREE;
1332   tree op2 = NULL_TREE;
1333   bool look1, look2;
1334
1335   if (stmt1 == stmt2)
1336     return true;
1337
1338   look1 = stmt1 && stmt_ann (stmt1);
1339   look2 = stmt2 && stmt_ann (stmt2);
1340
1341   if (look1)
1342     {
1343       op1 = op_iter_init_tree (&iter1, stmt1, flags);
1344       if (!look2)
1345         return op_iter_done (&iter1);
1346     }
1347   else
1348     clear_and_done_ssa_iter (&iter1);
1349
1350   if (look2)
1351     {
1352       op2 = op_iter_init_tree (&iter2, stmt2, flags);
1353       if (!look1)
1354         return op_iter_done (&iter2);
1355     }
1356   else
1357     clear_and_done_ssa_iter (&iter2);
1358
1359   while (!op_iter_done (&iter1) && !op_iter_done (&iter2))
1360     {
1361       if (op1 != op2)
1362         return false;
1363       op1 = op_iter_next_tree (&iter1);
1364       op2 = op_iter_next_tree (&iter2);
1365     }
1366
1367   return (op_iter_done (&iter1) && op_iter_done (&iter2));
1368 }
1369
1370
1371 /* If there is a single DEF in the PHI node which matches FLAG, return it.
1372    Otherwise return NULL_DEF_OPERAND_P.  */
1373 static inline tree
1374 single_phi_def (tree stmt, int flags)
1375 {
1376   tree def = PHI_RESULT (stmt);
1377   if ((flags & SSA_OP_DEF) && is_gimple_reg (def)) 
1378     return def;
1379   if ((flags & SSA_OP_VIRTUAL_DEFS) && !is_gimple_reg (def))
1380     return def;
1381   return NULL_TREE;
1382 }
1383
1384 /* Initialize the iterator PTR for uses matching FLAGS in PHI.  FLAGS should
1385    be either SSA_OP_USES or SSA_OP_VIRTUAL_USES.  */
1386 static inline use_operand_p
1387 op_iter_init_phiuse (ssa_op_iter *ptr, tree phi, int flags)
1388 {
1389   tree phi_def = PHI_RESULT (phi);
1390   int comp;
1391
1392   clear_and_done_ssa_iter (ptr);
1393   ptr->done = false;
1394
1395   gcc_assert ((flags & (SSA_OP_USE | SSA_OP_VIRTUAL_USES)) != 0);
1396
1397   comp = (is_gimple_reg (phi_def) ? SSA_OP_USE : SSA_OP_VIRTUAL_USES);
1398     
1399   /* If the PHI node doesn't the operand type we care about, we're done.  */
1400   if ((flags & comp) == 0)
1401     {
1402       ptr->done = true;
1403       return NULL_USE_OPERAND_P;
1404     }
1405
1406   ptr->phi_stmt = phi;
1407   ptr->num_phi = PHI_NUM_ARGS (phi);
1408   ptr->iter_type = ssa_op_iter_use;
1409   return op_iter_next_use (ptr);
1410 }
1411
1412
1413 /* Start an iterator for a PHI definition.  */
1414
1415 static inline def_operand_p
1416 op_iter_init_phidef (ssa_op_iter *ptr, tree phi, int flags)
1417 {
1418   tree phi_def = PHI_RESULT (phi);
1419   int comp;
1420
1421   clear_and_done_ssa_iter (ptr);
1422   ptr->done = false;
1423
1424   gcc_assert ((flags & (SSA_OP_DEF | SSA_OP_VIRTUAL_DEFS)) != 0);
1425
1426   comp = (is_gimple_reg (phi_def) ? SSA_OP_DEF : SSA_OP_VIRTUAL_DEFS);
1427     
1428   /* If the PHI node doesn't the operand type we care about, we're done.  */
1429   if ((flags & comp) == 0)
1430     {
1431       ptr->done = true;
1432       return NULL_USE_OPERAND_P;
1433     }
1434
1435   ptr->iter_type = ssa_op_iter_def;
1436   /* The first call to op_iter_next_def will terminate the iterator since
1437      all the fields are NULL.  Simply return the result here as the first and
1438      therefore only result.  */
1439   return PHI_RESULT_PTR (phi);
1440 }
1441
1442 /* Return true is IMM has reached the end of the immediate use stmt list.  */
1443
1444 static inline bool
1445 end_imm_use_stmt_p (const imm_use_iterator *imm)
1446 {
1447   return (imm->imm_use == imm->end_p);
1448 }
1449
1450 /* Finished the traverse of an immediate use stmt list IMM by removing the
1451    placeholder node from the list.  */
1452
1453 static inline void
1454 end_imm_use_stmt_traverse (imm_use_iterator *imm)
1455 {
1456   delink_imm_use (&(imm->iter_node));
1457 }
1458
1459 /* Immediate use traversal of uses within a stmt require that all the
1460    uses on a stmt be sequentially listed.  This routine is used to build up
1461    this sequential list by adding USE_P to the end of the current list 
1462    currently delimited by HEAD and LAST_P.  The new LAST_P value is 
1463    returned.  */
1464
1465 static inline use_operand_p
1466 move_use_after_head (use_operand_p use_p, use_operand_p head, 
1467                       use_operand_p last_p)
1468 {
1469   gcc_assert (USE_FROM_PTR (use_p) == USE_FROM_PTR (head));
1470   /* Skip head when we find it.  */
1471   if (use_p != head)
1472     {
1473       /* If use_p is already linked in after last_p, continue.  */
1474       if (last_p->next == use_p)
1475         last_p = use_p;
1476       else
1477         {
1478           /* Delink from current location, and link in at last_p.  */
1479           delink_imm_use (use_p);
1480           link_imm_use_to_list (use_p, last_p);
1481           last_p = use_p;
1482         }
1483     }
1484   return last_p;
1485 }
1486
1487
1488 /* This routine will relink all uses with the same stmt as HEAD into the list
1489    immediately following HEAD for iterator IMM.  */
1490
1491 static inline void
1492 link_use_stmts_after (use_operand_p head, imm_use_iterator *imm)
1493 {
1494   use_operand_p use_p;
1495   use_operand_p last_p = head;
1496   tree head_stmt = USE_STMT (head);
1497   tree use = USE_FROM_PTR (head);
1498   ssa_op_iter op_iter;
1499   int flag;
1500
1501   /* Only look at virtual or real uses, depending on the type of HEAD.  */
1502   flag = (is_gimple_reg (use) ? SSA_OP_USE : SSA_OP_VIRTUAL_USES);
1503
1504   if (TREE_CODE (head_stmt) == PHI_NODE)
1505     {
1506       FOR_EACH_PHI_ARG (use_p, head_stmt, op_iter, flag)
1507         if (USE_FROM_PTR (use_p) == use)
1508           last_p = move_use_after_head (use_p, head, last_p);
1509     }
1510   else
1511     {
1512       FOR_EACH_SSA_USE_OPERAND (use_p, head_stmt, op_iter, flag)
1513         if (USE_FROM_PTR (use_p) == use)
1514           last_p = move_use_after_head (use_p, head, last_p);
1515     }
1516   /* LInk iter node in after last_p.  */
1517   if (imm->iter_node.prev != NULL)
1518     delink_imm_use (&imm->iter_node);
1519   link_imm_use_to_list (&(imm->iter_node), last_p);
1520 }
1521
1522 /* Initialize IMM to traverse over uses of VAR.  Return the first statement.  */
1523 static inline tree
1524 first_imm_use_stmt (imm_use_iterator *imm, tree var)
1525 {
1526   gcc_assert (TREE_CODE (var) == SSA_NAME);
1527   
1528   imm->end_p = &(SSA_NAME_IMM_USE_NODE (var));
1529   imm->imm_use = imm->end_p->next;
1530   imm->next_imm_name = NULL_USE_OPERAND_P;
1531
1532   /* iter_node is used as a marker within the immediate use list to indicate
1533      where the end of the current stmt's uses are.  Initialize it to NULL
1534      stmt and use, which indicates a marker node.  */
1535   imm->iter_node.prev = NULL_USE_OPERAND_P;
1536   imm->iter_node.next = NULL_USE_OPERAND_P;
1537   imm->iter_node.stmt = NULL_TREE;
1538   imm->iter_node.use = NULL_USE_OPERAND_P;
1539
1540   if (end_imm_use_stmt_p (imm))
1541     return NULL_TREE;
1542
1543   link_use_stmts_after (imm->imm_use, imm);
1544
1545   return USE_STMT (imm->imm_use);
1546 }
1547
1548 /* Bump IMM to the next stmt which has a use of var.  */
1549
1550 static inline tree
1551 next_imm_use_stmt (imm_use_iterator *imm)
1552 {
1553   imm->imm_use = imm->iter_node.next;
1554   if (end_imm_use_stmt_p (imm))
1555     {
1556       if (imm->iter_node.prev != NULL)
1557         delink_imm_use (&imm->iter_node);
1558       return NULL_TREE;
1559     }
1560
1561   link_use_stmts_after (imm->imm_use, imm);
1562   return USE_STMT (imm->imm_use);
1563 }
1564
1565 /* This routine will return the first use on the stmt IMM currently refers
1566    to.  */
1567
1568 static inline use_operand_p
1569 first_imm_use_on_stmt (imm_use_iterator *imm)
1570 {
1571   imm->next_imm_name = imm->imm_use->next;
1572   return imm->imm_use;
1573 }
1574
1575 /*  Return TRUE if the last use on the stmt IMM refers to has been visited.  */
1576
1577 static inline bool
1578 end_imm_use_on_stmt_p (const imm_use_iterator *imm)
1579 {
1580   return (imm->imm_use == &(imm->iter_node));
1581 }
1582
1583 /* Bump to the next use on the stmt IMM refers to, return NULL if done.  */
1584
1585 static inline use_operand_p
1586 next_imm_use_on_stmt (imm_use_iterator *imm)
1587 {
1588   imm->imm_use = imm->next_imm_name;
1589   if (end_imm_use_on_stmt_p (imm))
1590     return NULL_USE_OPERAND_P;
1591   else
1592     {
1593       imm->next_imm_name = imm->imm_use->next;
1594       return imm->imm_use;
1595     }
1596 }
1597
1598 /* Return true if VAR cannot be modified by the program.  */
1599
1600 static inline bool
1601 unmodifiable_var_p (const_tree var)
1602 {
1603   if (TREE_CODE (var) == SSA_NAME)
1604     var = SSA_NAME_VAR (var);
1605
1606   if (MTAG_P (var))
1607     return TREE_READONLY (var) && (TREE_STATIC (var) || MTAG_GLOBAL (var));
1608
1609   return TREE_READONLY (var) && (TREE_STATIC (var) || DECL_EXTERNAL (var));
1610 }
1611
1612 /* Return true if REF, an ARRAY_REF, has an INDIRECT_REF somewhere in it.  */
1613
1614 static inline bool
1615 array_ref_contains_indirect_ref (const_tree ref)
1616 {
1617   gcc_assert (TREE_CODE (ref) == ARRAY_REF);
1618
1619   do {
1620     ref = TREE_OPERAND (ref, 0);
1621   } while (handled_component_p (ref));
1622
1623   return TREE_CODE (ref) == INDIRECT_REF;
1624 }
1625
1626 /* Return true if REF, a handled component reference, has an ARRAY_REF
1627    somewhere in it.  */
1628
1629 static inline bool
1630 ref_contains_array_ref (const_tree ref)
1631 {
1632   gcc_assert (handled_component_p (ref));
1633
1634   do {
1635     if (TREE_CODE (ref) == ARRAY_REF)
1636       return true;
1637     ref = TREE_OPERAND (ref, 0);
1638   } while (handled_component_p (ref));
1639
1640   return false;
1641 }
1642
1643 /* Given a variable VAR, lookup and return a pointer to the list of
1644    subvariables for it.  */
1645
1646 static inline subvar_t *
1647 lookup_subvars_for_var (const_tree var)
1648 {
1649   var_ann_t ann = var_ann (var);
1650   gcc_assert (ann);
1651   return &ann->subvars;
1652 }
1653
1654 /* Given a variable VAR, return a linked list of subvariables for VAR, or
1655    NULL, if there are no subvariables.  */
1656
1657 static inline subvar_t
1658 get_subvars_for_var (tree var)
1659 {
1660   subvar_t subvars;
1661
1662   gcc_assert (SSA_VAR_P (var));  
1663   
1664   if (TREE_CODE (var) == SSA_NAME)
1665     subvars = *(lookup_subvars_for_var (SSA_NAME_VAR (var)));
1666   else
1667     subvars = *(lookup_subvars_for_var (var));
1668   return subvars;
1669 }
1670
1671 /* Return the subvariable of VAR at offset OFFSET.  */
1672
1673 static inline tree
1674 get_subvar_at (tree var, unsigned HOST_WIDE_INT offset)
1675 {
1676   subvar_t sv;
1677
1678   for (sv = get_subvars_for_var (var); sv; sv = sv->next)
1679     if (SFT_OFFSET (sv->var) == offset)
1680       return sv->var;
1681
1682   return NULL_TREE;
1683 }
1684
1685 /* Return true if V is a tree that we can have subvars for.
1686    Normally, this is any aggregate type.  Also complex
1687    types which are not gimple registers can have subvars.  */
1688
1689 static inline bool
1690 var_can_have_subvars (const_tree v)
1691 {
1692   /* Volatile variables should never have subvars.  */
1693   if (TREE_THIS_VOLATILE (v))
1694     return false;
1695
1696   /* Non decls or memory tags can never have subvars.  */
1697   if (!DECL_P (v) || MTAG_P (v))
1698     return false;
1699
1700   /* Aggregates can have subvars.  */
1701   if (AGGREGATE_TYPE_P (TREE_TYPE (v)))
1702     return true;
1703
1704   /* Complex types variables which are not also a gimple register can
1705     have subvars. */
1706   if (TREE_CODE (TREE_TYPE (v)) == COMPLEX_TYPE
1707       && !DECL_GIMPLE_REG_P (v))
1708     return true;
1709
1710   return false;
1711 }
1712
1713   
1714 /* Return true if OFFSET and SIZE define a range that overlaps with some
1715    portion of the range of SV, a subvar.  If there was an exact overlap,
1716    *EXACT will be set to true upon return. */
1717
1718 static inline bool
1719 overlap_subvar (unsigned HOST_WIDE_INT offset, unsigned HOST_WIDE_INT size,
1720                 const_tree sv,  bool *exact)
1721 {
1722   /* There are three possible cases of overlap.
1723      1. We can have an exact overlap, like so:   
1724      |offset, offset + size             |
1725      |sv->offset, sv->offset + sv->size |
1726      
1727      2. We can have offset starting after sv->offset, like so:
1728      
1729            |offset, offset + size              |
1730      |sv->offset, sv->offset + sv->size  |
1731
1732      3. We can have offset starting before sv->offset, like so:
1733      
1734      |offset, offset + size    |
1735        |sv->offset, sv->offset + sv->size|
1736   */
1737
1738   if (exact)
1739     *exact = false;
1740   if (offset == SFT_OFFSET (sv) && size == SFT_SIZE (sv))
1741     {
1742       if (exact)
1743         *exact = true;
1744       return true;
1745     }
1746   else if (offset >= SFT_OFFSET (sv) 
1747            && offset < (SFT_OFFSET (sv) + SFT_SIZE (sv)))
1748     {
1749       return true;
1750     }
1751   else if (offset < SFT_OFFSET (sv) 
1752            && (size > SFT_OFFSET (sv) - offset))
1753     {
1754       return true;
1755     }
1756   return false;
1757
1758 }
1759
1760 /* Return the memory tag associated with symbol SYM.  */
1761
1762 static inline tree
1763 symbol_mem_tag (tree sym)
1764 {
1765   tree tag = get_var_ann (sym)->symbol_mem_tag;
1766
1767 #if defined ENABLE_CHECKING
1768   if (tag)
1769     gcc_assert (TREE_CODE (tag) == SYMBOL_MEMORY_TAG);
1770 #endif
1771
1772   return tag;
1773 }
1774
1775
1776 /* Set the memory tag associated with symbol SYM.  */
1777
1778 static inline void
1779 set_symbol_mem_tag (tree sym, tree tag)
1780 {
1781 #if defined ENABLE_CHECKING
1782   if (tag)
1783     gcc_assert (TREE_CODE (tag) == SYMBOL_MEMORY_TAG);
1784 #endif
1785
1786   get_var_ann (sym)->symbol_mem_tag = tag;
1787 }
1788
1789 /* Get the value handle of EXPR.  This is the only correct way to get
1790    the value handle for a "thing".  If EXPR does not have a value
1791    handle associated, it returns NULL_TREE.  
1792    NB: If EXPR is min_invariant, this function is *required* to return
1793    EXPR.  */
1794
1795 static inline tree
1796 get_value_handle (tree expr)
1797 {
1798   if (TREE_CODE (expr) == SSA_NAME)
1799     return SSA_NAME_VALUE (expr);
1800   else if (DECL_P (expr) || TREE_CODE (expr) == TREE_LIST
1801            || TREE_CODE (expr) == CONSTRUCTOR)
1802     {
1803       tree_ann_common_t ann = tree_common_ann (expr);
1804       return ((ann) ? ann->value_handle : NULL_TREE);
1805     }
1806   else if (is_gimple_min_invariant (expr))
1807     return expr;
1808   else if (EXPR_P (expr))
1809     {
1810       tree_ann_common_t ann = tree_common_ann (expr);
1811       return ((ann) ? ann->value_handle : NULL_TREE);
1812     }
1813   else
1814     gcc_unreachable ();
1815 }
1816
1817 /* Accessor to tree-ssa-operands.c caches.  */
1818 static inline struct ssa_operands *
1819 gimple_ssa_operands (const struct function *fun)
1820 {
1821   return &fun->gimple_df->ssa_operands;
1822 }
1823
1824 /* Map describing reference statistics for function FN.  */
1825 static inline struct mem_ref_stats_d *
1826 gimple_mem_ref_stats (const struct function *fn)
1827 {
1828   return &fn->gimple_df->mem_ref_stats;
1829 }
1830 #endif /* _TREE_FLOW_INLINE_H  */