OSDN Git Service

* cselib.c (LONG_TERM_PRESERVED_VALUE_P): Remove.
[pf3gnuchains/gcc-fork.git] / gcc / cselib.c
1 /* Common subexpression elimination library for GNU compiler.
2    Copyright (C) 1987, 1988, 1989, 1992, 1993, 1994, 1995, 1996, 1997, 1998,
3    1999, 2000, 2001, 2003, 2004, 2005, 2006, 2007, 2008, 2009, 2010
4    Free Software Foundation, Inc.
5
6 This file is part of GCC.
7
8 GCC is free software; you can redistribute it and/or modify it under
9 the terms of the GNU General Public License as published by the Free
10 Software Foundation; either version 3, or (at your option) any later
11 version.
12
13 GCC is distributed in the hope that it will be useful, but WITHOUT ANY
14 WARRANTY; without even the implied warranty of MERCHANTABILITY or
15 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
16 for more details.
17
18 You should have received a copy of the GNU General Public License
19 along with GCC; see the file COPYING3.  If not see
20 <http://www.gnu.org/licenses/>.  */
21
22 #include "config.h"
23 #include "system.h"
24 #include "coretypes.h"
25 #include "tm.h"
26
27 #include "rtl.h"
28 #include "tm_p.h"
29 #include "regs.h"
30 #include "hard-reg-set.h"
31 #include "flags.h"
32 #include "real.h"
33 #include "insn-config.h"
34 #include "recog.h"
35 #include "function.h"
36 #include "emit-rtl.h"
37 #include "toplev.h"
38 #include "output.h"
39 #include "ggc.h"
40 #include "hashtab.h"
41 #include "tree-pass.h"
42 #include "cselib.h"
43 #include "params.h"
44 #include "alloc-pool.h"
45 #include "target.h"
46
47 static bool cselib_record_memory;
48 static bool cselib_preserve_constants;
49 static int entry_and_rtx_equal_p (const void *, const void *);
50 static hashval_t get_value_hash (const void *);
51 static struct elt_list *new_elt_list (struct elt_list *, cselib_val *);
52 static struct elt_loc_list *new_elt_loc_list (struct elt_loc_list *, rtx);
53 static void unchain_one_value (cselib_val *);
54 static void unchain_one_elt_list (struct elt_list **);
55 static void unchain_one_elt_loc_list (struct elt_loc_list **);
56 static int discard_useless_locs (void **, void *);
57 static int discard_useless_values (void **, void *);
58 static void remove_useless_values (void);
59 static unsigned int cselib_hash_rtx (rtx, int);
60 static cselib_val *new_cselib_val (unsigned int, enum machine_mode, rtx);
61 static void add_mem_for_addr (cselib_val *, cselib_val *, rtx);
62 static cselib_val *cselib_lookup_mem (rtx, int);
63 static void cselib_invalidate_regno (unsigned int, enum machine_mode);
64 static void cselib_invalidate_mem (rtx);
65 static void cselib_record_set (rtx, cselib_val *, cselib_val *);
66 static void cselib_record_sets (rtx);
67
68 struct expand_value_data
69 {
70   bitmap regs_active;
71   cselib_expand_callback callback;
72   void *callback_arg;
73   bool dummy;
74 };
75
76 static rtx cselib_expand_value_rtx_1 (rtx, struct expand_value_data *, int);
77
78 /* There are three ways in which cselib can look up an rtx:
79    - for a REG, the reg_values table (which is indexed by regno) is used
80    - for a MEM, we recursively look up its address and then follow the
81      addr_list of that value
82    - for everything else, we compute a hash value and go through the hash
83      table.  Since different rtx's can still have the same hash value,
84      this involves walking the table entries for a given value and comparing
85      the locations of the entries with the rtx we are looking up.  */
86
87 /* A table that enables us to look up elts by their value.  */
88 static htab_t cselib_hash_table;
89
90 /* This is a global so we don't have to pass this through every function.
91    It is used in new_elt_loc_list to set SETTING_INSN.  */
92 static rtx cselib_current_insn;
93
94 /* The unique id that the next create value will take.  */
95 static unsigned int next_uid;
96
97 /* The number of registers we had when the varrays were last resized.  */
98 static unsigned int cselib_nregs;
99
100 /* Count values without known locations, or with only locations that
101    wouldn't have been known except for debug insns.  Whenever this
102    grows too big, we remove these useless values from the table.
103
104    Counting values with only debug values is a bit tricky.  We don't
105    want to increment n_useless_values when we create a value for a
106    debug insn, for this would get n_useless_values out of sync, but we
107    want increment it if all locs in the list that were ever referenced
108    in nondebug insns are removed from the list.
109
110    In the general case, once we do that, we'd have to stop accepting
111    nondebug expressions in the loc list, to avoid having two values
112    equivalent that, without debug insns, would have been made into
113    separate values.  However, because debug insns never introduce
114    equivalences themselves (no assignments), the only means for
115    growing loc lists is through nondebug assignments.  If the locs
116    also happen to be referenced in debug insns, it will work just fine.
117
118    A consequence of this is that there's at most one debug-only loc in
119    each loc list.  If we keep it in the first entry, testing whether
120    we have a debug-only loc list takes O(1).
121
122    Furthermore, since any additional entry in a loc list containing a
123    debug loc would have to come from an assignment (nondebug) that
124    references both the initial debug loc and the newly-equivalent loc,
125    the initial debug loc would be promoted to a nondebug loc, and the
126    loc list would not contain debug locs any more.
127
128    So the only case we have to be careful with in order to keep
129    n_useless_values in sync between debug and nondebug compilations is
130    to avoid incrementing n_useless_values when removing the single loc
131    from a value that turns out to not appear outside debug values.  We
132    increment n_useless_debug_values instead, and leave such values
133    alone until, for other reasons, we garbage-collect useless
134    values.  */
135 static int n_useless_values;
136 static int n_useless_debug_values;
137
138 /* Count values whose locs have been taken exclusively from debug
139    insns for the entire life of the value.  */
140 static int n_debug_values;
141
142 /* Number of useless values before we remove them from the hash table.  */
143 #define MAX_USELESS_VALUES 32
144
145 /* This table maps from register number to values.  It does not
146    contain pointers to cselib_val structures, but rather elt_lists.
147    The purpose is to be able to refer to the same register in
148    different modes.  The first element of the list defines the mode in
149    which the register was set; if the mode is unknown or the value is
150    no longer valid in that mode, ELT will be NULL for the first
151    element.  */
152 static struct elt_list **reg_values;
153 static unsigned int reg_values_size;
154 #define REG_VALUES(i) reg_values[i]
155
156 /* The largest number of hard regs used by any entry added to the
157    REG_VALUES table.  Cleared on each cselib_clear_table() invocation.  */
158 static unsigned int max_value_regs;
159
160 /* Here the set of indices I with REG_VALUES(I) != 0 is saved.  This is used
161    in cselib_clear_table() for fast emptying.  */
162 static unsigned int *used_regs;
163 static unsigned int n_used_regs;
164
165 /* We pass this to cselib_invalidate_mem to invalidate all of
166    memory for a non-const call instruction.  */
167 static GTY(()) rtx callmem;
168
169 /* Set by discard_useless_locs if it deleted the last location of any
170    value.  */
171 static int values_became_useless;
172
173 /* Used as stop element of the containing_mem list so we can check
174    presence in the list by checking the next pointer.  */
175 static cselib_val dummy_val;
176
177 /* If non-NULL, value of the eliminated arg_pointer_rtx or frame_pointer_rtx
178    that is constant through the whole function and should never be
179    eliminated.  */
180 static cselib_val *cfa_base_preserved_val;
181
182 /* Used to list all values that contain memory reference.
183    May or may not contain the useless values - the list is compacted
184    each time memory is invalidated.  */
185 static cselib_val *first_containing_mem = &dummy_val;
186 static alloc_pool elt_loc_list_pool, elt_list_pool, cselib_val_pool, value_pool;
187
188 /* If nonnull, cselib will call this function before freeing useless
189    VALUEs.  A VALUE is deemed useless if its "locs" field is null.  */
190 void (*cselib_discard_hook) (cselib_val *);
191
192 /* If nonnull, cselib will call this function before recording sets or
193    even clobbering outputs of INSN.  All the recorded sets will be
194    represented in the array sets[n_sets].  new_val_min can be used to
195    tell whether values present in sets are introduced by this
196    instruction.  */
197 void (*cselib_record_sets_hook) (rtx insn, struct cselib_set *sets,
198                                  int n_sets);
199
200 #define PRESERVED_VALUE_P(RTX) \
201   (RTL_FLAG_CHECK1("PRESERVED_VALUE_P", (RTX), VALUE)->unchanging)
202
203 \f
204
205 /* Allocate a struct elt_list and fill in its two elements with the
206    arguments.  */
207
208 static inline struct elt_list *
209 new_elt_list (struct elt_list *next, cselib_val *elt)
210 {
211   struct elt_list *el;
212   el = (struct elt_list *) pool_alloc (elt_list_pool);
213   el->next = next;
214   el->elt = elt;
215   return el;
216 }
217
218 /* Allocate a struct elt_loc_list and fill in its two elements with the
219    arguments.  */
220
221 static inline struct elt_loc_list *
222 new_elt_loc_list (struct elt_loc_list *next, rtx loc)
223 {
224   struct elt_loc_list *el;
225   el = (struct elt_loc_list *) pool_alloc (elt_loc_list_pool);
226   el->next = next;
227   el->loc = loc;
228   el->setting_insn = cselib_current_insn;
229   gcc_assert (!next || !next->setting_insn
230               || !DEBUG_INSN_P (next->setting_insn));
231
232   /* If we're creating the first loc in a debug insn context, we've
233      just created a debug value.  Count it.  */
234   if (!next && cselib_current_insn && DEBUG_INSN_P (cselib_current_insn))
235     n_debug_values++;
236
237   return el;
238 }
239
240 /* Promote loc L to a nondebug cselib_current_insn if L is marked as
241    originating from a debug insn, maintaining the debug values
242    count.  */
243
244 static inline void
245 promote_debug_loc (struct elt_loc_list *l)
246 {
247   if (l->setting_insn && DEBUG_INSN_P (l->setting_insn)
248       && (!cselib_current_insn || !DEBUG_INSN_P (cselib_current_insn)))
249     {
250       n_debug_values--;
251       l->setting_insn = cselib_current_insn;
252       gcc_assert (!l->next);
253     }
254 }
255
256 /* The elt_list at *PL is no longer needed.  Unchain it and free its
257    storage.  */
258
259 static inline void
260 unchain_one_elt_list (struct elt_list **pl)
261 {
262   struct elt_list *l = *pl;
263
264   *pl = l->next;
265   pool_free (elt_list_pool, l);
266 }
267
268 /* Likewise for elt_loc_lists.  */
269
270 static void
271 unchain_one_elt_loc_list (struct elt_loc_list **pl)
272 {
273   struct elt_loc_list *l = *pl;
274
275   *pl = l->next;
276   pool_free (elt_loc_list_pool, l);
277 }
278
279 /* Likewise for cselib_vals.  This also frees the addr_list associated with
280    V.  */
281
282 static void
283 unchain_one_value (cselib_val *v)
284 {
285   while (v->addr_list)
286     unchain_one_elt_list (&v->addr_list);
287
288   pool_free (cselib_val_pool, v);
289 }
290
291 /* Remove all entries from the hash table.  Also used during
292    initialization.  */
293
294 void
295 cselib_clear_table (void)
296 {
297   cselib_reset_table (1);
298 }
299
300 /* Remove from hash table all VALUEs except constants.  */
301
302 static int
303 preserve_only_constants (void **x, void *info ATTRIBUTE_UNUSED)
304 {
305   cselib_val *v = (cselib_val *)*x;
306
307   if (v->locs != NULL
308       && v->locs->next == NULL)
309     {
310       if (CONSTANT_P (v->locs->loc)
311           && (GET_CODE (v->locs->loc) != CONST
312               || !references_value_p (v->locs->loc, 0)))
313         return 1;
314       if (cfa_base_preserved_val)
315         {
316           if (v == cfa_base_preserved_val)
317             return 1;
318           if (GET_CODE (v->locs->loc) == PLUS
319               && CONST_INT_P (XEXP (v->locs->loc, 1))
320               && XEXP (v->locs->loc, 0) == cfa_base_preserved_val->val_rtx)
321             return 1;
322         }
323     }
324
325   htab_clear_slot (cselib_hash_table, x);
326   return 1;
327 }
328
329 /* Remove all entries from the hash table, arranging for the next
330    value to be numbered NUM.  */
331
332 void
333 cselib_reset_table (unsigned int num)
334 {
335   unsigned int i;
336
337   max_value_regs = 0;
338
339   if (cfa_base_preserved_val)
340     {
341       unsigned int regno = REGNO (cfa_base_preserved_val->locs->loc);
342       unsigned int new_used_regs = 0;
343       for (i = 0; i < n_used_regs; i++)
344         if (used_regs[i] == regno)
345           {
346             new_used_regs = 1;
347             continue;
348           }
349         else
350           REG_VALUES (used_regs[i]) = 0;
351       gcc_assert (new_used_regs == 1);
352       n_used_regs = new_used_regs;
353       used_regs[0] = regno;
354       max_value_regs
355         = hard_regno_nregs[regno][GET_MODE (cfa_base_preserved_val->locs->loc)];
356     }
357   else
358     {
359       for (i = 0; i < n_used_regs; i++)
360         REG_VALUES (used_regs[i]) = 0;
361       n_used_regs = 0;
362     }
363
364   if (cselib_preserve_constants)
365     htab_traverse (cselib_hash_table, preserve_only_constants, NULL);
366   else
367     htab_empty (cselib_hash_table);
368
369   n_useless_values = 0;
370   n_useless_debug_values = 0;
371   n_debug_values = 0;
372
373   next_uid = num;
374
375   first_containing_mem = &dummy_val;
376 }
377
378 /* Return the number of the next value that will be generated.  */
379
380 unsigned int
381 cselib_get_next_uid (void)
382 {
383   return next_uid;
384 }
385
386 /* The equality test for our hash table.  The first argument ENTRY is a table
387    element (i.e. a cselib_val), while the second arg X is an rtx.  We know
388    that all callers of htab_find_slot_with_hash will wrap CONST_INTs into a
389    CONST of an appropriate mode.  */
390
391 static int
392 entry_and_rtx_equal_p (const void *entry, const void *x_arg)
393 {
394   struct elt_loc_list *l;
395   const cselib_val *const v = (const cselib_val *) entry;
396   rtx x = CONST_CAST_RTX ((const_rtx)x_arg);
397   enum machine_mode mode = GET_MODE (x);
398
399   gcc_assert (!CONST_INT_P (x) && GET_CODE (x) != CONST_FIXED
400               && (mode != VOIDmode || GET_CODE (x) != CONST_DOUBLE));
401
402   if (mode != GET_MODE (v->val_rtx))
403     return 0;
404
405   /* Unwrap X if necessary.  */
406   if (GET_CODE (x) == CONST
407       && (CONST_INT_P (XEXP (x, 0))
408           || GET_CODE (XEXP (x, 0)) == CONST_FIXED
409           || GET_CODE (XEXP (x, 0)) == CONST_DOUBLE))
410     x = XEXP (x, 0);
411
412   /* We don't guarantee that distinct rtx's have different hash values,
413      so we need to do a comparison.  */
414   for (l = v->locs; l; l = l->next)
415     if (rtx_equal_for_cselib_p (l->loc, x))
416       {
417         promote_debug_loc (l);
418         return 1;
419       }
420
421   return 0;
422 }
423
424 /* The hash function for our hash table.  The value is always computed with
425    cselib_hash_rtx when adding an element; this function just extracts the
426    hash value from a cselib_val structure.  */
427
428 static hashval_t
429 get_value_hash (const void *entry)
430 {
431   const cselib_val *const v = (const cselib_val *) entry;
432   return v->hash;
433 }
434
435 /* Return true if X contains a VALUE rtx.  If ONLY_USELESS is set, we
436    only return true for values which point to a cselib_val whose value
437    element has been set to zero, which implies the cselib_val will be
438    removed.  */
439
440 int
441 references_value_p (const_rtx x, int only_useless)
442 {
443   const enum rtx_code code = GET_CODE (x);
444   const char *fmt = GET_RTX_FORMAT (code);
445   int i, j;
446
447   if (GET_CODE (x) == VALUE
448       && (! only_useless || CSELIB_VAL_PTR (x)->locs == 0))
449     return 1;
450
451   for (i = GET_RTX_LENGTH (code) - 1; i >= 0; i--)
452     {
453       if (fmt[i] == 'e' && references_value_p (XEXP (x, i), only_useless))
454         return 1;
455       else if (fmt[i] == 'E')
456         for (j = 0; j < XVECLEN (x, i); j++)
457           if (references_value_p (XVECEXP (x, i, j), only_useless))
458             return 1;
459     }
460
461   return 0;
462 }
463
464 /* For all locations found in X, delete locations that reference useless
465    values (i.e. values without any location).  Called through
466    htab_traverse.  */
467
468 static int
469 discard_useless_locs (void **x, void *info ATTRIBUTE_UNUSED)
470 {
471   cselib_val *v = (cselib_val *)*x;
472   struct elt_loc_list **p = &v->locs;
473   bool had_locs = v->locs != NULL;
474   rtx setting_insn = v->locs ? v->locs->setting_insn : NULL;
475
476   while (*p)
477     {
478       if (references_value_p ((*p)->loc, 1))
479         unchain_one_elt_loc_list (p);
480       else
481         p = &(*p)->next;
482     }
483
484   if (had_locs && v->locs == 0 && !PRESERVED_VALUE_P (v->val_rtx))
485     {
486       if (setting_insn && DEBUG_INSN_P (setting_insn))
487         n_useless_debug_values++;
488       else
489         n_useless_values++;
490       values_became_useless = 1;
491     }
492   return 1;
493 }
494
495 /* If X is a value with no locations, remove it from the hashtable.  */
496
497 static int
498 discard_useless_values (void **x, void *info ATTRIBUTE_UNUSED)
499 {
500   cselib_val *v = (cselib_val *)*x;
501
502   if (v->locs == 0 && !PRESERVED_VALUE_P (v->val_rtx))
503     {
504       if (cselib_discard_hook)
505         cselib_discard_hook (v);
506
507       CSELIB_VAL_PTR (v->val_rtx) = NULL;
508       htab_clear_slot (cselib_hash_table, x);
509       unchain_one_value (v);
510       n_useless_values--;
511     }
512
513   return 1;
514 }
515
516 /* Clean out useless values (i.e. those which no longer have locations
517    associated with them) from the hash table.  */
518
519 static void
520 remove_useless_values (void)
521 {
522   cselib_val **p, *v;
523
524   /* First pass: eliminate locations that reference the value.  That in
525      turn can make more values useless.  */
526   do
527     {
528       values_became_useless = 0;
529       htab_traverse (cselib_hash_table, discard_useless_locs, 0);
530     }
531   while (values_became_useless);
532
533   /* Second pass: actually remove the values.  */
534
535   p = &first_containing_mem;
536   for (v = *p; v != &dummy_val; v = v->next_containing_mem)
537     if (v->locs)
538       {
539         *p = v;
540         p = &(*p)->next_containing_mem;
541       }
542   *p = &dummy_val;
543
544   n_useless_values += n_useless_debug_values;
545   n_debug_values -= n_useless_debug_values;
546   n_useless_debug_values = 0;
547
548   htab_traverse (cselib_hash_table, discard_useless_values, 0);
549
550   gcc_assert (!n_useless_values);
551 }
552
553 /* Arrange for a value to not be removed from the hash table even if
554    it becomes useless.  */
555
556 void
557 cselib_preserve_value (cselib_val *v)
558 {
559   PRESERVED_VALUE_P (v->val_rtx) = 1;
560 }
561
562 /* Test whether a value is preserved.  */
563
564 bool
565 cselib_preserved_value_p (cselib_val *v)
566 {
567   return PRESERVED_VALUE_P (v->val_rtx);
568 }
569
570 /* Clean all non-constant expressions in the hash table, but retain
571    their values.  */
572
573 void
574 cselib_preserve_only_values (void)
575 {
576   int i;
577
578   for (i = 0; i < FIRST_PSEUDO_REGISTER; i++)
579     cselib_invalidate_regno (i, reg_raw_mode[i]);
580
581   cselib_invalidate_mem (callmem);
582
583   remove_useless_values ();
584
585   gcc_assert (first_containing_mem == &dummy_val);
586 }
587
588 /* Return the mode in which a register was last set.  If X is not a
589    register, return its mode.  If the mode in which the register was
590    set is not known, or the value was already clobbered, return
591    VOIDmode.  */
592
593 enum machine_mode
594 cselib_reg_set_mode (const_rtx x)
595 {
596   if (!REG_P (x))
597     return GET_MODE (x);
598
599   if (REG_VALUES (REGNO (x)) == NULL
600       || REG_VALUES (REGNO (x))->elt == NULL)
601     return VOIDmode;
602
603   return GET_MODE (REG_VALUES (REGNO (x))->elt->val_rtx);
604 }
605
606 /* Return nonzero if we can prove that X and Y contain the same value, taking
607    our gathered information into account.  */
608
609 int
610 rtx_equal_for_cselib_p (rtx x, rtx y)
611 {
612   enum rtx_code code;
613   const char *fmt;
614   int i;
615
616   if (REG_P (x) || MEM_P (x))
617     {
618       cselib_val *e = cselib_lookup (x, GET_MODE (x), 0);
619
620       if (e)
621         x = e->val_rtx;
622     }
623
624   if (REG_P (y) || MEM_P (y))
625     {
626       cselib_val *e = cselib_lookup (y, GET_MODE (y), 0);
627
628       if (e)
629         y = e->val_rtx;
630     }
631
632   if (x == y)
633     return 1;
634
635   if (GET_CODE (x) == VALUE && GET_CODE (y) == VALUE)
636     return CSELIB_VAL_PTR (x) == CSELIB_VAL_PTR (y);
637
638   if (GET_CODE (x) == VALUE)
639     {
640       cselib_val *e = CSELIB_VAL_PTR (x);
641       struct elt_loc_list *l;
642
643       for (l = e->locs; l; l = l->next)
644         {
645           rtx t = l->loc;
646
647           /* Avoid infinite recursion.  */
648           if (REG_P (t) || MEM_P (t))
649             continue;
650           else if (rtx_equal_for_cselib_p (t, y))
651             return 1;
652         }
653
654       return 0;
655     }
656
657   if (GET_CODE (y) == VALUE)
658     {
659       cselib_val *e = CSELIB_VAL_PTR (y);
660       struct elt_loc_list *l;
661
662       for (l = e->locs; l; l = l->next)
663         {
664           rtx t = l->loc;
665
666           if (REG_P (t) || MEM_P (t))
667             continue;
668           else if (rtx_equal_for_cselib_p (x, t))
669             return 1;
670         }
671
672       return 0;
673     }
674
675   if (GET_CODE (x) != GET_CODE (y) || GET_MODE (x) != GET_MODE (y))
676     return 0;
677
678   /* These won't be handled correctly by the code below.  */
679   switch (GET_CODE (x))
680     {
681     case CONST_DOUBLE:
682     case CONST_FIXED:
683     case DEBUG_EXPR:
684       return 0;
685
686     case LABEL_REF:
687       return XEXP (x, 0) == XEXP (y, 0);
688
689     default:
690       break;
691     }
692
693   code = GET_CODE (x);
694   fmt = GET_RTX_FORMAT (code);
695
696   for (i = GET_RTX_LENGTH (code) - 1; i >= 0; i--)
697     {
698       int j;
699
700       switch (fmt[i])
701         {
702         case 'w':
703           if (XWINT (x, i) != XWINT (y, i))
704             return 0;
705           break;
706
707         case 'n':
708         case 'i':
709           if (XINT (x, i) != XINT (y, i))
710             return 0;
711           break;
712
713         case 'V':
714         case 'E':
715           /* Two vectors must have the same length.  */
716           if (XVECLEN (x, i) != XVECLEN (y, i))
717             return 0;
718
719           /* And the corresponding elements must match.  */
720           for (j = 0; j < XVECLEN (x, i); j++)
721             if (! rtx_equal_for_cselib_p (XVECEXP (x, i, j),
722                                           XVECEXP (y, i, j)))
723               return 0;
724           break;
725
726         case 'e':
727           if (i == 1
728               && targetm.commutative_p (x, UNKNOWN)
729               && rtx_equal_for_cselib_p (XEXP (x, 1), XEXP (y, 0))
730               && rtx_equal_for_cselib_p (XEXP (x, 0), XEXP (y, 1)))
731             return 1;
732           if (! rtx_equal_for_cselib_p (XEXP (x, i), XEXP (y, i)))
733             return 0;
734           break;
735
736         case 'S':
737         case 's':
738           if (strcmp (XSTR (x, i), XSTR (y, i)))
739             return 0;
740           break;
741
742         case 'u':
743           /* These are just backpointers, so they don't matter.  */
744           break;
745
746         case '0':
747         case 't':
748           break;
749
750           /* It is believed that rtx's at this level will never
751              contain anything but integers and other rtx's,
752              except for within LABEL_REFs and SYMBOL_REFs.  */
753         default:
754           gcc_unreachable ();
755         }
756     }
757   return 1;
758 }
759
760 /* We need to pass down the mode of constants through the hash table
761    functions.  For that purpose, wrap them in a CONST of the appropriate
762    mode.  */
763 static rtx
764 wrap_constant (enum machine_mode mode, rtx x)
765 {
766   if (!CONST_INT_P (x) && GET_CODE (x) != CONST_FIXED
767       && (GET_CODE (x) != CONST_DOUBLE || GET_MODE (x) != VOIDmode))
768     return x;
769   gcc_assert (mode != VOIDmode);
770   return gen_rtx_CONST (mode, x);
771 }
772
773 /* Hash an rtx.  Return 0 if we couldn't hash the rtx.
774    For registers and memory locations, we look up their cselib_val structure
775    and return its VALUE element.
776    Possible reasons for return 0 are: the object is volatile, or we couldn't
777    find a register or memory location in the table and CREATE is zero.  If
778    CREATE is nonzero, table elts are created for regs and mem.
779    N.B. this hash function returns the same hash value for RTXes that
780    differ only in the order of operands, thus it is suitable for comparisons
781    that take commutativity into account.
782    If we wanted to also support associative rules, we'd have to use a different
783    strategy to avoid returning spurious 0, e.g. return ~(~0U >> 1) .
784    We used to have a MODE argument for hashing for CONST_INTs, but that
785    didn't make sense, since it caused spurious hash differences between
786     (set (reg:SI 1) (const_int))
787     (plus:SI (reg:SI 2) (reg:SI 1))
788    and
789     (plus:SI (reg:SI 2) (const_int))
790    If the mode is important in any context, it must be checked specifically
791    in a comparison anyway, since relying on hash differences is unsafe.  */
792
793 static unsigned int
794 cselib_hash_rtx (rtx x, int create)
795 {
796   cselib_val *e;
797   int i, j;
798   enum rtx_code code;
799   const char *fmt;
800   unsigned int hash = 0;
801
802   code = GET_CODE (x);
803   hash += (unsigned) code + (unsigned) GET_MODE (x);
804
805   switch (code)
806     {
807     case MEM:
808     case REG:
809       e = cselib_lookup (x, GET_MODE (x), create);
810       if (! e)
811         return 0;
812
813       return e->hash;
814
815     case DEBUG_EXPR:
816       hash += ((unsigned) DEBUG_EXPR << 7)
817               + DEBUG_TEMP_UID (DEBUG_EXPR_TREE_DECL (x));
818       return hash ? hash : (unsigned int) DEBUG_EXPR;
819
820     case CONST_INT:
821       hash += ((unsigned) CONST_INT << 7) + INTVAL (x);
822       return hash ? hash : (unsigned int) CONST_INT;
823
824     case CONST_DOUBLE:
825       /* This is like the general case, except that it only counts
826          the integers representing the constant.  */
827       hash += (unsigned) code + (unsigned) GET_MODE (x);
828       if (GET_MODE (x) != VOIDmode)
829         hash += real_hash (CONST_DOUBLE_REAL_VALUE (x));
830       else
831         hash += ((unsigned) CONST_DOUBLE_LOW (x)
832                  + (unsigned) CONST_DOUBLE_HIGH (x));
833       return hash ? hash : (unsigned int) CONST_DOUBLE;
834
835     case CONST_FIXED:
836       hash += (unsigned int) code + (unsigned int) GET_MODE (x);
837       hash += fixed_hash (CONST_FIXED_VALUE (x));
838       return hash ? hash : (unsigned int) CONST_FIXED;
839
840     case CONST_VECTOR:
841       {
842         int units;
843         rtx elt;
844
845         units = CONST_VECTOR_NUNITS (x);
846
847         for (i = 0; i < units; ++i)
848           {
849             elt = CONST_VECTOR_ELT (x, i);
850             hash += cselib_hash_rtx (elt, 0);
851           }
852
853         return hash;
854       }
855
856       /* Assume there is only one rtx object for any given label.  */
857     case LABEL_REF:
858       /* We don't hash on the address of the CODE_LABEL to avoid bootstrap
859          differences and differences between each stage's debugging dumps.  */
860       hash += (((unsigned int) LABEL_REF << 7)
861                + CODE_LABEL_NUMBER (XEXP (x, 0)));
862       return hash ? hash : (unsigned int) LABEL_REF;
863
864     case SYMBOL_REF:
865       {
866         /* Don't hash on the symbol's address to avoid bootstrap differences.
867            Different hash values may cause expressions to be recorded in
868            different orders and thus different registers to be used in the
869            final assembler.  This also avoids differences in the dump files
870            between various stages.  */
871         unsigned int h = 0;
872         const unsigned char *p = (const unsigned char *) XSTR (x, 0);
873
874         while (*p)
875           h += (h << 7) + *p++; /* ??? revisit */
876
877         hash += ((unsigned int) SYMBOL_REF << 7) + h;
878         return hash ? hash : (unsigned int) SYMBOL_REF;
879       }
880
881     case PRE_DEC:
882     case PRE_INC:
883     case POST_DEC:
884     case POST_INC:
885     case POST_MODIFY:
886     case PRE_MODIFY:
887     case PC:
888     case CC0:
889     case CALL:
890     case UNSPEC_VOLATILE:
891       return 0;
892
893     case ASM_OPERANDS:
894       if (MEM_VOLATILE_P (x))
895         return 0;
896
897       break;
898
899     default:
900       break;
901     }
902
903   i = GET_RTX_LENGTH (code) - 1;
904   fmt = GET_RTX_FORMAT (code);
905   for (; i >= 0; i--)
906     {
907       switch (fmt[i])
908         {
909         case 'e':
910           {
911             rtx tem = XEXP (x, i);
912             unsigned int tem_hash = cselib_hash_rtx (tem, create);
913
914             if (tem_hash == 0)
915               return 0;
916
917             hash += tem_hash;
918           }
919           break;
920         case 'E':
921           for (j = 0; j < XVECLEN (x, i); j++)
922             {
923               unsigned int tem_hash
924                 = cselib_hash_rtx (XVECEXP (x, i, j), create);
925
926               if (tem_hash == 0)
927                 return 0;
928
929               hash += tem_hash;
930             }
931           break;
932
933         case 's':
934           {
935             const unsigned char *p = (const unsigned char *) XSTR (x, i);
936
937             if (p)
938               while (*p)
939                 hash += *p++;
940             break;
941           }
942
943         case 'i':
944           hash += XINT (x, i);
945           break;
946
947         case '0':
948         case 't':
949           /* unused */
950           break;
951
952         default:
953           gcc_unreachable ();
954         }
955     }
956
957   return hash ? hash : 1 + (unsigned int) GET_CODE (x);
958 }
959
960 /* Create a new value structure for VALUE and initialize it.  The mode of the
961    value is MODE.  */
962
963 static inline cselib_val *
964 new_cselib_val (unsigned int hash, enum machine_mode mode, rtx x)
965 {
966   cselib_val *e = (cselib_val *) pool_alloc (cselib_val_pool);
967
968   gcc_assert (hash);
969   gcc_assert (next_uid);
970
971   e->hash = hash;
972   e->uid = next_uid++;
973   /* We use an alloc pool to allocate this RTL construct because it
974      accounts for about 8% of the overall memory usage.  We know
975      precisely when we can have VALUE RTXen (when cselib is active)
976      so we don't need to put them in garbage collected memory.
977      ??? Why should a VALUE be an RTX in the first place?  */
978   e->val_rtx = (rtx) pool_alloc (value_pool);
979   memset (e->val_rtx, 0, RTX_HDR_SIZE);
980   PUT_CODE (e->val_rtx, VALUE);
981   PUT_MODE (e->val_rtx, mode);
982   CSELIB_VAL_PTR (e->val_rtx) = e;
983   e->addr_list = 0;
984   e->locs = 0;
985   e->next_containing_mem = 0;
986
987   if (dump_file && (dump_flags & TDF_DETAILS))
988     {
989       fprintf (dump_file, "cselib value %u:%u ", e->uid, hash);
990       if (flag_dump_noaddr || flag_dump_unnumbered)
991         fputs ("# ", dump_file);
992       else
993         fprintf (dump_file, "%p ", (void*)e);
994       print_rtl_single (dump_file, x);
995       fputc ('\n', dump_file);
996     }
997
998   return e;
999 }
1000
1001 /* ADDR_ELT is a value that is used as address.  MEM_ELT is the value that
1002    contains the data at this address.  X is a MEM that represents the
1003    value.  Update the two value structures to represent this situation.  */
1004
1005 static void
1006 add_mem_for_addr (cselib_val *addr_elt, cselib_val *mem_elt, rtx x)
1007 {
1008   struct elt_loc_list *l;
1009
1010   /* Avoid duplicates.  */
1011   for (l = mem_elt->locs; l; l = l->next)
1012     if (MEM_P (l->loc)
1013         && CSELIB_VAL_PTR (XEXP (l->loc, 0)) == addr_elt)
1014       {
1015         promote_debug_loc (l);
1016         return;
1017       }
1018
1019   addr_elt->addr_list = new_elt_list (addr_elt->addr_list, mem_elt);
1020   mem_elt->locs
1021     = new_elt_loc_list (mem_elt->locs,
1022                         replace_equiv_address_nv (x, addr_elt->val_rtx));
1023   if (mem_elt->next_containing_mem == NULL)
1024     {
1025       mem_elt->next_containing_mem = first_containing_mem;
1026       first_containing_mem = mem_elt;
1027     }
1028 }
1029
1030 /* Subroutine of cselib_lookup.  Return a value for X, which is a MEM rtx.
1031    If CREATE, make a new one if we haven't seen it before.  */
1032
1033 static cselib_val *
1034 cselib_lookup_mem (rtx x, int create)
1035 {
1036   enum machine_mode mode = GET_MODE (x);
1037   void **slot;
1038   cselib_val *addr;
1039   cselib_val *mem_elt;
1040   struct elt_list *l;
1041
1042   if (MEM_VOLATILE_P (x) || mode == BLKmode
1043       || !cselib_record_memory
1044       || (FLOAT_MODE_P (mode) && flag_float_store))
1045     return 0;
1046
1047   /* Look up the value for the address.  */
1048   addr = cselib_lookup (XEXP (x, 0), mode, create);
1049   if (! addr)
1050     return 0;
1051
1052   /* Find a value that describes a value of our mode at that address.  */
1053   for (l = addr->addr_list; l; l = l->next)
1054     if (GET_MODE (l->elt->val_rtx) == mode)
1055       {
1056         promote_debug_loc (l->elt->locs);
1057         return l->elt;
1058       }
1059
1060   if (! create)
1061     return 0;
1062
1063   mem_elt = new_cselib_val (next_uid, mode, x);
1064   add_mem_for_addr (addr, mem_elt, x);
1065   slot = htab_find_slot_with_hash (cselib_hash_table, wrap_constant (mode, x),
1066                                    mem_elt->hash, INSERT);
1067   *slot = mem_elt;
1068   return mem_elt;
1069 }
1070
1071 /* Search thru the possible substitutions in P.  We prefer a non reg
1072    substitution because this allows us to expand the tree further.  If
1073    we find, just a reg, take the lowest regno.  There may be several
1074    non-reg results, we just take the first one because they will all
1075    expand to the same place.  */
1076
1077 static rtx
1078 expand_loc (struct elt_loc_list *p, struct expand_value_data *evd,
1079             int max_depth)
1080 {
1081   rtx reg_result = NULL;
1082   unsigned int regno = UINT_MAX;
1083   struct elt_loc_list *p_in = p;
1084
1085   for (; p; p = p -> next)
1086     {
1087       /* Avoid infinite recursion trying to expand a reg into a
1088          the same reg.  */
1089       if ((REG_P (p->loc))
1090           && (REGNO (p->loc) < regno)
1091           && !bitmap_bit_p (evd->regs_active, REGNO (p->loc)))
1092         {
1093           reg_result = p->loc;
1094           regno = REGNO (p->loc);
1095         }
1096       /* Avoid infinite recursion and do not try to expand the
1097          value.  */
1098       else if (GET_CODE (p->loc) == VALUE
1099                && CSELIB_VAL_PTR (p->loc)->locs == p_in)
1100         continue;
1101       else if (!REG_P (p->loc))
1102         {
1103           rtx result, note;
1104           if (dump_file && (dump_flags & TDF_DETAILS))
1105             {
1106               print_inline_rtx (dump_file, p->loc, 0);
1107               fprintf (dump_file, "\n");
1108             }
1109           if (GET_CODE (p->loc) == LO_SUM
1110               && GET_CODE (XEXP (p->loc, 1)) == SYMBOL_REF
1111               && p->setting_insn
1112               && (note = find_reg_note (p->setting_insn, REG_EQUAL, NULL_RTX))
1113               && XEXP (note, 0) == XEXP (p->loc, 1))
1114             return XEXP (p->loc, 1);
1115           result = cselib_expand_value_rtx_1 (p->loc, evd, max_depth - 1);
1116           if (result)
1117             return result;
1118         }
1119
1120     }
1121
1122   if (regno != UINT_MAX)
1123     {
1124       rtx result;
1125       if (dump_file && (dump_flags & TDF_DETAILS))
1126         fprintf (dump_file, "r%d\n", regno);
1127
1128       result = cselib_expand_value_rtx_1 (reg_result, evd, max_depth - 1);
1129       if (result)
1130         return result;
1131     }
1132
1133   if (dump_file && (dump_flags & TDF_DETAILS))
1134     {
1135       if (reg_result)
1136         {
1137           print_inline_rtx (dump_file, reg_result, 0);
1138           fprintf (dump_file, "\n");
1139         }
1140       else
1141         fprintf (dump_file, "NULL\n");
1142     }
1143   return reg_result;
1144 }
1145
1146
1147 /* Forward substitute and expand an expression out to its roots.
1148    This is the opposite of common subexpression.  Because local value
1149    numbering is such a weak optimization, the expanded expression is
1150    pretty much unique (not from a pointer equals point of view but
1151    from a tree shape point of view.
1152
1153    This function returns NULL if the expansion fails.  The expansion
1154    will fail if there is no value number for one of the operands or if
1155    one of the operands has been overwritten between the current insn
1156    and the beginning of the basic block.  For instance x has no
1157    expansion in:
1158
1159    r1 <- r1 + 3
1160    x <- r1 + 8
1161
1162    REGS_ACTIVE is a scratch bitmap that should be clear when passing in.
1163    It is clear on return.  */
1164
1165 rtx
1166 cselib_expand_value_rtx (rtx orig, bitmap regs_active, int max_depth)
1167 {
1168   struct expand_value_data evd;
1169
1170   evd.regs_active = regs_active;
1171   evd.callback = NULL;
1172   evd.callback_arg = NULL;
1173   evd.dummy = false;
1174
1175   return cselib_expand_value_rtx_1 (orig, &evd, max_depth);
1176 }
1177
1178 /* Same as cselib_expand_value_rtx, but using a callback to try to
1179    resolve some expressions.  The CB function should return ORIG if it
1180    can't or does not want to deal with a certain RTX.  Any other
1181    return value, including NULL, will be used as the expansion for
1182    VALUE, without any further changes.  */
1183
1184 rtx
1185 cselib_expand_value_rtx_cb (rtx orig, bitmap regs_active, int max_depth,
1186                             cselib_expand_callback cb, void *data)
1187 {
1188   struct expand_value_data evd;
1189
1190   evd.regs_active = regs_active;
1191   evd.callback = cb;
1192   evd.callback_arg = data;
1193   evd.dummy = false;
1194
1195   return cselib_expand_value_rtx_1 (orig, &evd, max_depth);
1196 }
1197
1198 /* Similar to cselib_expand_value_rtx_cb, but no rtxs are actually copied
1199    or simplified.  Useful to find out whether cselib_expand_value_rtx_cb
1200    would return NULL or non-NULL, without allocating new rtx.  */
1201
1202 bool
1203 cselib_dummy_expand_value_rtx_cb (rtx orig, bitmap regs_active, int max_depth,
1204                                   cselib_expand_callback cb, void *data)
1205 {
1206   struct expand_value_data evd;
1207
1208   evd.regs_active = regs_active;
1209   evd.callback = cb;
1210   evd.callback_arg = data;
1211   evd.dummy = true;
1212
1213   return cselib_expand_value_rtx_1 (orig, &evd, max_depth) != NULL;
1214 }
1215
1216 /* Internal implementation of cselib_expand_value_rtx and
1217    cselib_expand_value_rtx_cb.  */
1218
1219 static rtx
1220 cselib_expand_value_rtx_1 (rtx orig, struct expand_value_data *evd,
1221                            int max_depth)
1222 {
1223   rtx copy, scopy;
1224   int i, j;
1225   RTX_CODE code;
1226   const char *format_ptr;
1227   enum machine_mode mode;
1228
1229   code = GET_CODE (orig);
1230
1231   /* For the context of dse, if we end up expand into a huge tree, we
1232      will not have a useful address, so we might as well just give up
1233      quickly.  */
1234   if (max_depth <= 0)
1235     return NULL;
1236
1237   switch (code)
1238     {
1239     case REG:
1240       {
1241         struct elt_list *l = REG_VALUES (REGNO (orig));
1242
1243         if (l && l->elt == NULL)
1244           l = l->next;
1245         for (; l; l = l->next)
1246           if (GET_MODE (l->elt->val_rtx) == GET_MODE (orig))
1247             {
1248               rtx result;
1249               int regno = REGNO (orig);
1250
1251               /* The only thing that we are not willing to do (this
1252                  is requirement of dse and if others potential uses
1253                  need this function we should add a parm to control
1254                  it) is that we will not substitute the
1255                  STACK_POINTER_REGNUM, FRAME_POINTER or the
1256                  HARD_FRAME_POINTER.
1257
1258                  These expansions confuses the code that notices that
1259                  stores into the frame go dead at the end of the
1260                  function and that the frame is not effected by calls
1261                  to subroutines.  If you allow the
1262                  STACK_POINTER_REGNUM substitution, then dse will
1263                  think that parameter pushing also goes dead which is
1264                  wrong.  If you allow the FRAME_POINTER or the
1265                  HARD_FRAME_POINTER then you lose the opportunity to
1266                  make the frame assumptions.  */
1267               if (regno == STACK_POINTER_REGNUM
1268                   || regno == FRAME_POINTER_REGNUM
1269                   || regno == HARD_FRAME_POINTER_REGNUM)
1270                 return orig;
1271
1272               bitmap_set_bit (evd->regs_active, regno);
1273
1274               if (dump_file && (dump_flags & TDF_DETAILS))
1275                 fprintf (dump_file, "expanding: r%d into: ", regno);
1276
1277               result = expand_loc (l->elt->locs, evd, max_depth);
1278               bitmap_clear_bit (evd->regs_active, regno);
1279
1280               if (result)
1281                 return result;
1282               else
1283                 return orig;
1284             }
1285       }
1286
1287     case CONST_INT:
1288     case CONST_DOUBLE:
1289     case CONST_VECTOR:
1290     case SYMBOL_REF:
1291     case CODE_LABEL:
1292     case PC:
1293     case CC0:
1294     case SCRATCH:
1295       /* SCRATCH must be shared because they represent distinct values.  */
1296       return orig;
1297     case CLOBBER:
1298       if (REG_P (XEXP (orig, 0)) && HARD_REGISTER_NUM_P (REGNO (XEXP (orig, 0))))
1299         return orig;
1300       break;
1301
1302     case CONST:
1303       if (shared_const_p (orig))
1304         return orig;
1305       break;
1306
1307     case SUBREG:
1308       {
1309         rtx subreg;
1310
1311         if (evd->callback)
1312           {
1313             subreg = evd->callback (orig, evd->regs_active, max_depth,
1314                                     evd->callback_arg);
1315             if (subreg != orig)
1316               return subreg;
1317           }
1318
1319         subreg = cselib_expand_value_rtx_1 (SUBREG_REG (orig), evd,
1320                                             max_depth - 1);
1321         if (!subreg)
1322           return NULL;
1323         scopy = simplify_gen_subreg (GET_MODE (orig), subreg,
1324                                      GET_MODE (SUBREG_REG (orig)),
1325                                      SUBREG_BYTE (orig));
1326         if (scopy == NULL
1327             || (GET_CODE (scopy) == SUBREG
1328                 && !REG_P (SUBREG_REG (scopy))
1329                 && !MEM_P (SUBREG_REG (scopy))))
1330           return NULL;
1331
1332         return scopy;
1333       }
1334
1335     case VALUE:
1336       {
1337         rtx result;
1338
1339         if (dump_file && (dump_flags & TDF_DETAILS))
1340           {
1341             fputs ("\nexpanding ", dump_file);
1342             print_rtl_single (dump_file, orig);
1343             fputs (" into...", dump_file);
1344           }
1345
1346         if (evd->callback)
1347           {
1348             result = evd->callback (orig, evd->regs_active, max_depth,
1349                                     evd->callback_arg);
1350
1351             if (result != orig)
1352               return result;
1353           }
1354
1355         result = expand_loc (CSELIB_VAL_PTR (orig)->locs, evd, max_depth);
1356         return result;
1357       }
1358
1359     case DEBUG_EXPR:
1360       if (evd->callback)
1361         return evd->callback (orig, evd->regs_active, max_depth,
1362                               evd->callback_arg);
1363       return orig;
1364
1365     default:
1366       break;
1367     }
1368
1369   /* Copy the various flags, fields, and other information.  We assume
1370      that all fields need copying, and then clear the fields that should
1371      not be copied.  That is the sensible default behavior, and forces
1372      us to explicitly document why we are *not* copying a flag.  */
1373   if (evd->dummy)
1374     copy = NULL;
1375   else
1376     copy = shallow_copy_rtx (orig);
1377
1378   format_ptr = GET_RTX_FORMAT (code);
1379
1380   for (i = 0; i < GET_RTX_LENGTH (code); i++)
1381     switch (*format_ptr++)
1382       {
1383       case 'e':
1384         if (XEXP (orig, i) != NULL)
1385           {
1386             rtx result = cselib_expand_value_rtx_1 (XEXP (orig, i), evd,
1387                                                     max_depth - 1);
1388             if (!result)
1389               return NULL;
1390             if (copy)
1391               XEXP (copy, i) = result;
1392           }
1393         break;
1394
1395       case 'E':
1396       case 'V':
1397         if (XVEC (orig, i) != NULL)
1398           {
1399             if (copy)
1400               XVEC (copy, i) = rtvec_alloc (XVECLEN (orig, i));
1401             for (j = 0; j < XVECLEN (orig, i); j++)
1402               {
1403                 rtx result = cselib_expand_value_rtx_1 (XVECEXP (orig, i, j),
1404                                                         evd, max_depth - 1);
1405                 if (!result)
1406                   return NULL;
1407                 if (copy)
1408                   XVECEXP (copy, i, j) = result;
1409               }
1410           }
1411         break;
1412
1413       case 't':
1414       case 'w':
1415       case 'i':
1416       case 's':
1417       case 'S':
1418       case 'T':
1419       case 'u':
1420       case 'B':
1421       case '0':
1422         /* These are left unchanged.  */
1423         break;
1424
1425       default:
1426         gcc_unreachable ();
1427       }
1428
1429   if (evd->dummy)
1430     return orig;
1431
1432   mode = GET_MODE (copy);
1433   /* If an operand has been simplified into CONST_INT, which doesn't
1434      have a mode and the mode isn't derivable from whole rtx's mode,
1435      try simplify_*_operation first with mode from original's operand
1436      and as a fallback wrap CONST_INT into gen_rtx_CONST.  */
1437   scopy = copy;
1438   switch (GET_RTX_CLASS (code))
1439     {
1440     case RTX_UNARY:
1441       if (CONST_INT_P (XEXP (copy, 0))
1442           && GET_MODE (XEXP (orig, 0)) != VOIDmode)
1443         {
1444           scopy = simplify_unary_operation (code, mode, XEXP (copy, 0),
1445                                             GET_MODE (XEXP (orig, 0)));
1446           if (scopy)
1447             return scopy;
1448         }
1449       break;
1450     case RTX_COMM_ARITH:
1451     case RTX_BIN_ARITH:
1452       /* These expressions can derive operand modes from the whole rtx's mode.  */
1453       break;
1454     case RTX_TERNARY:
1455     case RTX_BITFIELD_OPS:
1456       if (CONST_INT_P (XEXP (copy, 0))
1457           && GET_MODE (XEXP (orig, 0)) != VOIDmode)
1458         {
1459           scopy = simplify_ternary_operation (code, mode,
1460                                               GET_MODE (XEXP (orig, 0)),
1461                                               XEXP (copy, 0), XEXP (copy, 1),
1462                                               XEXP (copy, 2));
1463           if (scopy)
1464             return scopy;
1465         }
1466       break;
1467     case RTX_COMPARE:
1468     case RTX_COMM_COMPARE:
1469       if (CONST_INT_P (XEXP (copy, 0))
1470           && GET_MODE (XEXP (copy, 1)) == VOIDmode
1471           && (GET_MODE (XEXP (orig, 0)) != VOIDmode
1472               || GET_MODE (XEXP (orig, 1)) != VOIDmode))
1473         {
1474           scopy = simplify_relational_operation (code, mode,
1475                                                  (GET_MODE (XEXP (orig, 0))
1476                                                   != VOIDmode)
1477                                                  ? GET_MODE (XEXP (orig, 0))
1478                                                  : GET_MODE (XEXP (orig, 1)),
1479                                                  XEXP (copy, 0),
1480                                                  XEXP (copy, 1));
1481           if (scopy)
1482             return scopy;
1483         }
1484       break;
1485     default:
1486       break;
1487     }
1488   scopy = simplify_rtx (copy);
1489   if (scopy)
1490     return scopy;
1491   return copy;
1492 }
1493
1494 /* Walk rtx X and replace all occurrences of REG and MEM subexpressions
1495    with VALUE expressions.  This way, it becomes independent of changes
1496    to registers and memory.
1497    X isn't actually modified; if modifications are needed, new rtl is
1498    allocated.  However, the return value can share rtl with X.  */
1499
1500 rtx
1501 cselib_subst_to_values (rtx x)
1502 {
1503   enum rtx_code code = GET_CODE (x);
1504   const char *fmt = GET_RTX_FORMAT (code);
1505   cselib_val *e;
1506   struct elt_list *l;
1507   rtx copy = x;
1508   int i;
1509
1510   switch (code)
1511     {
1512     case REG:
1513       l = REG_VALUES (REGNO (x));
1514       if (l && l->elt == NULL)
1515         l = l->next;
1516       for (; l; l = l->next)
1517         if (GET_MODE (l->elt->val_rtx) == GET_MODE (x))
1518           return l->elt->val_rtx;
1519
1520       gcc_unreachable ();
1521
1522     case MEM:
1523       e = cselib_lookup_mem (x, 0);
1524       if (! e)
1525         {
1526           /* This happens for autoincrements.  Assign a value that doesn't
1527              match any other.  */
1528           e = new_cselib_val (next_uid, GET_MODE (x), x);
1529         }
1530       return e->val_rtx;
1531
1532     case CONST_DOUBLE:
1533     case CONST_VECTOR:
1534     case CONST_INT:
1535     case CONST_FIXED:
1536       return x;
1537
1538     case POST_INC:
1539     case PRE_INC:
1540     case POST_DEC:
1541     case PRE_DEC:
1542     case POST_MODIFY:
1543     case PRE_MODIFY:
1544       e = new_cselib_val (next_uid, GET_MODE (x), x);
1545       return e->val_rtx;
1546
1547     default:
1548       break;
1549     }
1550
1551   for (i = GET_RTX_LENGTH (code) - 1; i >= 0; i--)
1552     {
1553       if (fmt[i] == 'e')
1554         {
1555           rtx t = cselib_subst_to_values (XEXP (x, i));
1556
1557           if (t != XEXP (x, i))
1558             {
1559               if (x == copy)
1560                 copy = shallow_copy_rtx (x);
1561               XEXP (copy, i) = t;
1562             }
1563         }
1564       else if (fmt[i] == 'E')
1565         {
1566           int j;
1567
1568           for (j = 0; j < XVECLEN (x, i); j++)
1569             {
1570               rtx t = cselib_subst_to_values (XVECEXP (x, i, j));
1571
1572               if (t != XVECEXP (x, i, j))
1573                 {
1574                   if (XVEC (x, i) == XVEC (copy, i))
1575                     {
1576                       if (x == copy)
1577                         copy = shallow_copy_rtx (x);
1578                       XVEC (copy, i) = shallow_copy_rtvec (XVEC (x, i));
1579                     }
1580                   XVECEXP (copy, i, j) = t;
1581                 }
1582             }
1583         }
1584     }
1585
1586   return copy;
1587 }
1588
1589 /* Look up the rtl expression X in our tables and return the value it has.
1590    If CREATE is zero, we return NULL if we don't know the value.  Otherwise,
1591    we create a new one if possible, using mode MODE if X doesn't have a mode
1592    (i.e. because it's a constant).  */
1593
1594 static cselib_val *
1595 cselib_lookup_1 (rtx x, enum machine_mode mode, int create)
1596 {
1597   void **slot;
1598   cselib_val *e;
1599   unsigned int hashval;
1600
1601   if (GET_MODE (x) != VOIDmode)
1602     mode = GET_MODE (x);
1603
1604   if (GET_CODE (x) == VALUE)
1605     return CSELIB_VAL_PTR (x);
1606
1607   if (REG_P (x))
1608     {
1609       struct elt_list *l;
1610       unsigned int i = REGNO (x);
1611
1612       l = REG_VALUES (i);
1613       if (l && l->elt == NULL)
1614         l = l->next;
1615       for (; l; l = l->next)
1616         if (mode == GET_MODE (l->elt->val_rtx))
1617           {
1618             promote_debug_loc (l->elt->locs);
1619             return l->elt;
1620           }
1621
1622       if (! create)
1623         return 0;
1624
1625       if (i < FIRST_PSEUDO_REGISTER)
1626         {
1627           unsigned int n = hard_regno_nregs[i][mode];
1628
1629           if (n > max_value_regs)
1630             max_value_regs = n;
1631         }
1632
1633       e = new_cselib_val (next_uid, GET_MODE (x), x);
1634       e->locs = new_elt_loc_list (e->locs, x);
1635       if (REG_VALUES (i) == 0)
1636         {
1637           /* Maintain the invariant that the first entry of
1638              REG_VALUES, if present, must be the value used to set the
1639              register, or NULL.  */
1640           used_regs[n_used_regs++] = i;
1641           REG_VALUES (i) = new_elt_list (REG_VALUES (i), NULL);
1642         }
1643       REG_VALUES (i)->next = new_elt_list (REG_VALUES (i)->next, e);
1644       slot = htab_find_slot_with_hash (cselib_hash_table, x, e->hash, INSERT);
1645       *slot = e;
1646       return e;
1647     }
1648
1649   if (MEM_P (x))
1650     return cselib_lookup_mem (x, create);
1651
1652   hashval = cselib_hash_rtx (x, create);
1653   /* Can't even create if hashing is not possible.  */
1654   if (! hashval)
1655     return 0;
1656
1657   slot = htab_find_slot_with_hash (cselib_hash_table, wrap_constant (mode, x),
1658                                    hashval, create ? INSERT : NO_INSERT);
1659   if (slot == 0)
1660     return 0;
1661
1662   e = (cselib_val *) *slot;
1663   if (e)
1664     return e;
1665
1666   e = new_cselib_val (hashval, mode, x);
1667
1668   /* We have to fill the slot before calling cselib_subst_to_values:
1669      the hash table is inconsistent until we do so, and
1670      cselib_subst_to_values will need to do lookups.  */
1671   *slot = (void *) e;
1672   e->locs = new_elt_loc_list (e->locs, cselib_subst_to_values (x));
1673   return e;
1674 }
1675
1676 /* Wrapper for cselib_lookup, that indicates X is in INSN.  */
1677
1678 cselib_val *
1679 cselib_lookup_from_insn (rtx x, enum machine_mode mode,
1680                          int create, rtx insn)
1681 {
1682   cselib_val *ret;
1683
1684   gcc_assert (!cselib_current_insn);
1685   cselib_current_insn = insn;
1686
1687   ret = cselib_lookup (x, mode, create);
1688
1689   cselib_current_insn = NULL;
1690
1691   return ret;
1692 }
1693
1694 /* Wrapper for cselib_lookup_1, that logs the lookup result and
1695    maintains invariants related with debug insns.  */
1696
1697 cselib_val *
1698 cselib_lookup (rtx x, enum machine_mode mode, int create)
1699 {
1700   cselib_val *ret = cselib_lookup_1 (x, mode, create);
1701
1702   /* ??? Should we return NULL if we're not to create an entry, the
1703      found loc is a debug loc and cselib_current_insn is not DEBUG?
1704      If so, we should also avoid converting val to non-DEBUG; probably
1705      easiest setting cselib_current_insn to NULL before the call
1706      above.  */
1707
1708   if (dump_file && (dump_flags & TDF_DETAILS))
1709     {
1710       fputs ("cselib lookup ", dump_file);
1711       print_inline_rtx (dump_file, x, 2);
1712       fprintf (dump_file, " => %u:%u\n",
1713                ret ? ret->uid : 0,
1714                ret ? ret->hash : 0);
1715     }
1716
1717   return ret;
1718 }
1719
1720 /* Invalidate any entries in reg_values that overlap REGNO.  This is called
1721    if REGNO is changing.  MODE is the mode of the assignment to REGNO, which
1722    is used to determine how many hard registers are being changed.  If MODE
1723    is VOIDmode, then only REGNO is being changed; this is used when
1724    invalidating call clobbered registers across a call.  */
1725
1726 static void
1727 cselib_invalidate_regno (unsigned int regno, enum machine_mode mode)
1728 {
1729   unsigned int endregno;
1730   unsigned int i;
1731
1732   /* If we see pseudos after reload, something is _wrong_.  */
1733   gcc_assert (!reload_completed || regno < FIRST_PSEUDO_REGISTER
1734               || reg_renumber[regno] < 0);
1735
1736   /* Determine the range of registers that must be invalidated.  For
1737      pseudos, only REGNO is affected.  For hard regs, we must take MODE
1738      into account, and we must also invalidate lower register numbers
1739      if they contain values that overlap REGNO.  */
1740   if (regno < FIRST_PSEUDO_REGISTER)
1741     {
1742       gcc_assert (mode != VOIDmode);
1743
1744       if (regno < max_value_regs)
1745         i = 0;
1746       else
1747         i = regno - max_value_regs;
1748
1749       endregno = end_hard_regno (mode, regno);
1750     }
1751   else
1752     {
1753       i = regno;
1754       endregno = regno + 1;
1755     }
1756
1757   for (; i < endregno; i++)
1758     {
1759       struct elt_list **l = &REG_VALUES (i);
1760
1761       /* Go through all known values for this reg; if it overlaps the range
1762          we're invalidating, remove the value.  */
1763       while (*l)
1764         {
1765           cselib_val *v = (*l)->elt;
1766           bool had_locs;
1767           rtx setting_insn;
1768           struct elt_loc_list **p;
1769           unsigned int this_last = i;
1770
1771           if (i < FIRST_PSEUDO_REGISTER && v != NULL)
1772             this_last = end_hard_regno (GET_MODE (v->val_rtx), i) - 1;
1773
1774           if (this_last < regno || v == NULL || v == cfa_base_preserved_val)
1775             {
1776               l = &(*l)->next;
1777               continue;
1778             }
1779
1780           /* We have an overlap.  */
1781           if (*l == REG_VALUES (i))
1782             {
1783               /* Maintain the invariant that the first entry of
1784                  REG_VALUES, if present, must be the value used to set
1785                  the register, or NULL.  This is also nice because
1786                  then we won't push the same regno onto user_regs
1787                  multiple times.  */
1788               (*l)->elt = NULL;
1789               l = &(*l)->next;
1790             }
1791           else
1792             unchain_one_elt_list (l);
1793
1794           had_locs = v->locs != NULL;
1795           setting_insn = v->locs ? v->locs->setting_insn : NULL;
1796
1797           /* Now, we clear the mapping from value to reg.  It must exist, so
1798              this code will crash intentionally if it doesn't.  */
1799           for (p = &v->locs; ; p = &(*p)->next)
1800             {
1801               rtx x = (*p)->loc;
1802
1803               if (REG_P (x) && REGNO (x) == i)
1804                 {
1805                   unchain_one_elt_loc_list (p);
1806                   break;
1807                 }
1808             }
1809
1810           if (had_locs && v->locs == 0 && !PRESERVED_VALUE_P (v->val_rtx))
1811             {
1812               if (setting_insn && DEBUG_INSN_P (setting_insn))
1813                 n_useless_debug_values++;
1814               else
1815                 n_useless_values++;
1816             }
1817         }
1818     }
1819 }
1820 \f
1821 /* Return 1 if X has a value that can vary even between two
1822    executions of the program.  0 means X can be compared reliably
1823    against certain constants or near-constants.  */
1824
1825 static bool
1826 cselib_rtx_varies_p (const_rtx x ATTRIBUTE_UNUSED, bool from_alias ATTRIBUTE_UNUSED)
1827 {
1828   /* We actually don't need to verify very hard.  This is because
1829      if X has actually changed, we invalidate the memory anyway,
1830      so assume that all common memory addresses are
1831      invariant.  */
1832   return 0;
1833 }
1834
1835 /* Invalidate any locations in the table which are changed because of a
1836    store to MEM_RTX.  If this is called because of a non-const call
1837    instruction, MEM_RTX is (mem:BLK const0_rtx).  */
1838
1839 static void
1840 cselib_invalidate_mem (rtx mem_rtx)
1841 {
1842   cselib_val **vp, *v, *next;
1843   int num_mems = 0;
1844   rtx mem_addr;
1845
1846   mem_addr = canon_rtx (get_addr (XEXP (mem_rtx, 0)));
1847   mem_rtx = canon_rtx (mem_rtx);
1848
1849   vp = &first_containing_mem;
1850   for (v = *vp; v != &dummy_val; v = next)
1851     {
1852       bool has_mem = false;
1853       struct elt_loc_list **p = &v->locs;
1854       bool had_locs = v->locs != NULL;
1855       rtx setting_insn = v->locs ? v->locs->setting_insn : NULL;
1856
1857       while (*p)
1858         {
1859           rtx x = (*p)->loc;
1860           cselib_val *addr;
1861           struct elt_list **mem_chain;
1862
1863           /* MEMs may occur in locations only at the top level; below
1864              that every MEM or REG is substituted by its VALUE.  */
1865           if (!MEM_P (x))
1866             {
1867               p = &(*p)->next;
1868               continue;
1869             }
1870           if (num_mems < PARAM_VALUE (PARAM_MAX_CSELIB_MEMORY_LOCATIONS)
1871               && ! canon_true_dependence (mem_rtx, GET_MODE (mem_rtx), mem_addr,
1872                                           x, NULL_RTX, cselib_rtx_varies_p))
1873             {
1874               has_mem = true;
1875               num_mems++;
1876               p = &(*p)->next;
1877               continue;
1878             }
1879
1880           /* This one overlaps.  */
1881           /* We must have a mapping from this MEM's address to the
1882              value (E).  Remove that, too.  */
1883           addr = cselib_lookup (XEXP (x, 0), VOIDmode, 0);
1884           mem_chain = &addr->addr_list;
1885           for (;;)
1886             {
1887               if ((*mem_chain)->elt == v)
1888                 {
1889                   unchain_one_elt_list (mem_chain);
1890                   break;
1891                 }
1892
1893               mem_chain = &(*mem_chain)->next;
1894             }
1895
1896           unchain_one_elt_loc_list (p);
1897         }
1898
1899       if (had_locs && v->locs == 0 && !PRESERVED_VALUE_P (v->val_rtx))
1900         {
1901           if (setting_insn && DEBUG_INSN_P (setting_insn))
1902             n_useless_debug_values++;
1903           else
1904             n_useless_values++;
1905         }
1906
1907       next = v->next_containing_mem;
1908       if (has_mem)
1909         {
1910           *vp = v;
1911           vp = &(*vp)->next_containing_mem;
1912         }
1913       else
1914         v->next_containing_mem = NULL;
1915     }
1916   *vp = &dummy_val;
1917 }
1918
1919 /* Invalidate DEST, which is being assigned to or clobbered.  */
1920
1921 void
1922 cselib_invalidate_rtx (rtx dest)
1923 {
1924   while (GET_CODE (dest) == SUBREG
1925          || GET_CODE (dest) == ZERO_EXTRACT
1926          || GET_CODE (dest) == STRICT_LOW_PART)
1927     dest = XEXP (dest, 0);
1928
1929   if (REG_P (dest))
1930     cselib_invalidate_regno (REGNO (dest), GET_MODE (dest));
1931   else if (MEM_P (dest))
1932     cselib_invalidate_mem (dest);
1933
1934   /* Some machines don't define AUTO_INC_DEC, but they still use push
1935      instructions.  We need to catch that case here in order to
1936      invalidate the stack pointer correctly.  Note that invalidating
1937      the stack pointer is different from invalidating DEST.  */
1938   if (push_operand (dest, GET_MODE (dest)))
1939     cselib_invalidate_rtx (stack_pointer_rtx);
1940 }
1941
1942 /* A wrapper for cselib_invalidate_rtx to be called via note_stores.  */
1943
1944 static void
1945 cselib_invalidate_rtx_note_stores (rtx dest, const_rtx ignore ATTRIBUTE_UNUSED,
1946                                    void *data ATTRIBUTE_UNUSED)
1947 {
1948   cselib_invalidate_rtx (dest);
1949 }
1950
1951 /* Record the result of a SET instruction.  DEST is being set; the source
1952    contains the value described by SRC_ELT.  If DEST is a MEM, DEST_ADDR_ELT
1953    describes its address.  */
1954
1955 static void
1956 cselib_record_set (rtx dest, cselib_val *src_elt, cselib_val *dest_addr_elt)
1957 {
1958   int dreg = REG_P (dest) ? (int) REGNO (dest) : -1;
1959
1960   if (src_elt == 0 || side_effects_p (dest))
1961     return;
1962
1963   if (dreg >= 0)
1964     {
1965       if (dreg < FIRST_PSEUDO_REGISTER)
1966         {
1967           unsigned int n = hard_regno_nregs[dreg][GET_MODE (dest)];
1968
1969           if (n > max_value_regs)
1970             max_value_regs = n;
1971         }
1972
1973       if (REG_VALUES (dreg) == 0)
1974         {
1975           used_regs[n_used_regs++] = dreg;
1976           REG_VALUES (dreg) = new_elt_list (REG_VALUES (dreg), src_elt);
1977         }
1978       else
1979         {
1980           /* The register should have been invalidated.  */
1981           gcc_assert (REG_VALUES (dreg)->elt == 0);
1982           REG_VALUES (dreg)->elt = src_elt;
1983         }
1984
1985       if (src_elt->locs == 0 && !PRESERVED_VALUE_P (src_elt->val_rtx))
1986         n_useless_values--;
1987       src_elt->locs = new_elt_loc_list (src_elt->locs, dest);
1988     }
1989   else if (MEM_P (dest) && dest_addr_elt != 0
1990            && cselib_record_memory)
1991     {
1992       if (src_elt->locs == 0 && !PRESERVED_VALUE_P (src_elt->val_rtx))
1993         n_useless_values--;
1994       add_mem_for_addr (dest_addr_elt, src_elt, dest);
1995     }
1996 }
1997
1998 /* There is no good way to determine how many elements there can be
1999    in a PARALLEL.  Since it's fairly cheap, use a really large number.  */
2000 #define MAX_SETS (FIRST_PSEUDO_REGISTER * 2)
2001
2002 /* Record the effects of any sets in INSN.  */
2003 static void
2004 cselib_record_sets (rtx insn)
2005 {
2006   int n_sets = 0;
2007   int i;
2008   struct cselib_set sets[MAX_SETS];
2009   rtx body = PATTERN (insn);
2010   rtx cond = 0;
2011
2012   body = PATTERN (insn);
2013   if (GET_CODE (body) == COND_EXEC)
2014     {
2015       cond = COND_EXEC_TEST (body);
2016       body = COND_EXEC_CODE (body);
2017     }
2018
2019   /* Find all sets.  */
2020   if (GET_CODE (body) == SET)
2021     {
2022       sets[0].src = SET_SRC (body);
2023       sets[0].dest = SET_DEST (body);
2024       n_sets = 1;
2025     }
2026   else if (GET_CODE (body) == PARALLEL)
2027     {
2028       /* Look through the PARALLEL and record the values being
2029          set, if possible.  Also handle any CLOBBERs.  */
2030       for (i = XVECLEN (body, 0) - 1; i >= 0; --i)
2031         {
2032           rtx x = XVECEXP (body, 0, i);
2033
2034           if (GET_CODE (x) == SET)
2035             {
2036               sets[n_sets].src = SET_SRC (x);
2037               sets[n_sets].dest = SET_DEST (x);
2038               n_sets++;
2039             }
2040         }
2041     }
2042
2043   if (n_sets == 1
2044       && MEM_P (sets[0].src)
2045       && !cselib_record_memory
2046       && MEM_READONLY_P (sets[0].src))
2047     {
2048       rtx note = find_reg_equal_equiv_note (insn);
2049
2050       if (note && CONSTANT_P (XEXP (note, 0)))
2051         sets[0].src = XEXP (note, 0);
2052     }
2053
2054   /* Look up the values that are read.  Do this before invalidating the
2055      locations that are written.  */
2056   for (i = 0; i < n_sets; i++)
2057     {
2058       rtx dest = sets[i].dest;
2059
2060       /* A STRICT_LOW_PART can be ignored; we'll record the equivalence for
2061          the low part after invalidating any knowledge about larger modes.  */
2062       if (GET_CODE (sets[i].dest) == STRICT_LOW_PART)
2063         sets[i].dest = dest = XEXP (dest, 0);
2064
2065       /* We don't know how to record anything but REG or MEM.  */
2066       if (REG_P (dest)
2067           || (MEM_P (dest) && cselib_record_memory))
2068         {
2069           rtx src = sets[i].src;
2070           if (cond)
2071             src = gen_rtx_IF_THEN_ELSE (GET_MODE (dest), cond, src, dest);
2072           sets[i].src_elt = cselib_lookup (src, GET_MODE (dest), 1);
2073           if (MEM_P (dest))
2074             {
2075               enum machine_mode address_mode
2076                 = targetm.addr_space.address_mode (MEM_ADDR_SPACE (dest));
2077
2078               sets[i].dest_addr_elt = cselib_lookup (XEXP (dest, 0),
2079                                                      address_mode, 1);
2080             }
2081           else
2082             sets[i].dest_addr_elt = 0;
2083         }
2084     }
2085
2086   if (cselib_record_sets_hook)
2087     cselib_record_sets_hook (insn, sets, n_sets);
2088
2089   /* Invalidate all locations written by this insn.  Note that the elts we
2090      looked up in the previous loop aren't affected, just some of their
2091      locations may go away.  */
2092   note_stores (body, cselib_invalidate_rtx_note_stores, NULL);
2093
2094   /* If this is an asm, look for duplicate sets.  This can happen when the
2095      user uses the same value as an output multiple times.  This is valid
2096      if the outputs are not actually used thereafter.  Treat this case as
2097      if the value isn't actually set.  We do this by smashing the destination
2098      to pc_rtx, so that we won't record the value later.  */
2099   if (n_sets >= 2 && asm_noperands (body) >= 0)
2100     {
2101       for (i = 0; i < n_sets; i++)
2102         {
2103           rtx dest = sets[i].dest;
2104           if (REG_P (dest) || MEM_P (dest))
2105             {
2106               int j;
2107               for (j = i + 1; j < n_sets; j++)
2108                 if (rtx_equal_p (dest, sets[j].dest))
2109                   {
2110                     sets[i].dest = pc_rtx;
2111                     sets[j].dest = pc_rtx;
2112                   }
2113             }
2114         }
2115     }
2116
2117   /* Now enter the equivalences in our tables.  */
2118   for (i = 0; i < n_sets; i++)
2119     {
2120       rtx dest = sets[i].dest;
2121       if (REG_P (dest)
2122           || (MEM_P (dest) && cselib_record_memory))
2123         cselib_record_set (dest, sets[i].src_elt, sets[i].dest_addr_elt);
2124     }
2125 }
2126
2127 /* Record the effects of INSN.  */
2128
2129 void
2130 cselib_process_insn (rtx insn)
2131 {
2132   int i;
2133   rtx x;
2134
2135   cselib_current_insn = insn;
2136
2137   /* Forget everything at a CODE_LABEL, a volatile asm, or a setjmp.  */
2138   if (LABEL_P (insn)
2139       || (CALL_P (insn)
2140           && find_reg_note (insn, REG_SETJMP, NULL))
2141       || (NONJUMP_INSN_P (insn)
2142           && GET_CODE (PATTERN (insn)) == ASM_OPERANDS
2143           && MEM_VOLATILE_P (PATTERN (insn))))
2144     {
2145       cselib_reset_table (next_uid);
2146       cselib_current_insn = NULL_RTX;
2147       return;
2148     }
2149
2150   if (! INSN_P (insn))
2151     {
2152       cselib_current_insn = NULL_RTX;
2153       return;
2154     }
2155
2156   /* If this is a call instruction, forget anything stored in a
2157      call clobbered register, or, if this is not a const call, in
2158      memory.  */
2159   if (CALL_P (insn))
2160     {
2161       for (i = 0; i < FIRST_PSEUDO_REGISTER; i++)
2162         if (call_used_regs[i]
2163             || (REG_VALUES (i) && REG_VALUES (i)->elt
2164                 && HARD_REGNO_CALL_PART_CLOBBERED (i,
2165                       GET_MODE (REG_VALUES (i)->elt->val_rtx))))
2166           cselib_invalidate_regno (i, reg_raw_mode[i]);
2167
2168       /* Since it is not clear how cselib is going to be used, be
2169          conservative here and treat looping pure or const functions
2170          as if they were regular functions.  */
2171       if (RTL_LOOPING_CONST_OR_PURE_CALL_P (insn)
2172           || !(RTL_CONST_OR_PURE_CALL_P (insn)))
2173         cselib_invalidate_mem (callmem);
2174     }
2175
2176   cselib_record_sets (insn);
2177
2178 #ifdef AUTO_INC_DEC
2179   /* Clobber any registers which appear in REG_INC notes.  We
2180      could keep track of the changes to their values, but it is
2181      unlikely to help.  */
2182   for (x = REG_NOTES (insn); x; x = XEXP (x, 1))
2183     if (REG_NOTE_KIND (x) == REG_INC)
2184       cselib_invalidate_rtx (XEXP (x, 0));
2185 #endif
2186
2187   /* Look for any CLOBBERs in CALL_INSN_FUNCTION_USAGE, but only
2188      after we have processed the insn.  */
2189   if (CALL_P (insn))
2190     for (x = CALL_INSN_FUNCTION_USAGE (insn); x; x = XEXP (x, 1))
2191       if (GET_CODE (XEXP (x, 0)) == CLOBBER)
2192         cselib_invalidate_rtx (XEXP (XEXP (x, 0), 0));
2193
2194   cselib_current_insn = NULL_RTX;
2195
2196   if (n_useless_values > MAX_USELESS_VALUES
2197       /* remove_useless_values is linear in the hash table size.  Avoid
2198          quadratic behavior for very large hashtables with very few
2199          useless elements.  */
2200       && ((unsigned int)n_useless_values
2201           > (cselib_hash_table->n_elements
2202              - cselib_hash_table->n_deleted
2203              - n_debug_values) / 4))
2204     remove_useless_values ();
2205 }
2206
2207 /* Initialize cselib for one pass.  The caller must also call
2208    init_alias_analysis.  */
2209
2210 void
2211 cselib_init (int record_what)
2212 {
2213   elt_list_pool = create_alloc_pool ("elt_list",
2214                                      sizeof (struct elt_list), 10);
2215   elt_loc_list_pool = create_alloc_pool ("elt_loc_list",
2216                                          sizeof (struct elt_loc_list), 10);
2217   cselib_val_pool = create_alloc_pool ("cselib_val_list",
2218                                        sizeof (cselib_val), 10);
2219   value_pool = create_alloc_pool ("value", RTX_CODE_SIZE (VALUE), 100);
2220   cselib_record_memory = record_what & CSELIB_RECORD_MEMORY;
2221   cselib_preserve_constants = record_what & CSELIB_PRESERVE_CONSTANTS;
2222
2223   /* (mem:BLK (scratch)) is a special mechanism to conflict with everything,
2224      see canon_true_dependence.  This is only created once.  */
2225   if (! callmem)
2226     callmem = gen_rtx_MEM (BLKmode, gen_rtx_SCRATCH (VOIDmode));
2227
2228   cselib_nregs = max_reg_num ();
2229
2230   /* We preserve reg_values to allow expensive clearing of the whole thing.
2231      Reallocate it however if it happens to be too large.  */
2232   if (!reg_values || reg_values_size < cselib_nregs
2233       || (reg_values_size > 10 && reg_values_size > cselib_nregs * 4))
2234     {
2235       if (reg_values)
2236         free (reg_values);
2237       /* Some space for newly emit instructions so we don't end up
2238          reallocating in between passes.  */
2239       reg_values_size = cselib_nregs + (63 + cselib_nregs) / 16;
2240       reg_values = XCNEWVEC (struct elt_list *, reg_values_size);
2241     }
2242   used_regs = XNEWVEC (unsigned int, cselib_nregs);
2243   n_used_regs = 0;
2244   cselib_hash_table = htab_create (31, get_value_hash,
2245                                    entry_and_rtx_equal_p, NULL);
2246   next_uid = 1;
2247 }
2248
2249 /* Called when the current user is done with cselib.  */
2250
2251 void
2252 cselib_finish (void)
2253 {
2254   cselib_discard_hook = NULL;
2255   cselib_preserve_constants = false;
2256   cfa_base_preserved_val = NULL;
2257   free_alloc_pool (elt_list_pool);
2258   free_alloc_pool (elt_loc_list_pool);
2259   free_alloc_pool (cselib_val_pool);
2260   free_alloc_pool (value_pool);
2261   cselib_clear_table ();
2262   htab_delete (cselib_hash_table);
2263   free (used_regs);
2264   used_regs = 0;
2265   cselib_hash_table = 0;
2266   n_useless_values = 0;
2267   n_useless_debug_values = 0;
2268   n_debug_values = 0;
2269   next_uid = 0;
2270 }
2271
2272 /* Dump the cselib_val *X to FILE *info.  */
2273
2274 static int
2275 dump_cselib_val (void **x, void *info)
2276 {
2277   cselib_val *v = (cselib_val *)*x;
2278   FILE *out = (FILE *)info;
2279   bool need_lf = true;
2280
2281   print_inline_rtx (out, v->val_rtx, 0);
2282
2283   if (v->locs)
2284     {
2285       struct elt_loc_list *l = v->locs;
2286       if (need_lf)
2287         {
2288           fputc ('\n', out);
2289           need_lf = false;
2290         }
2291       fputs (" locs:", out);
2292       do
2293         {
2294           fprintf (out, "\n  from insn %i ",
2295                    INSN_UID (l->setting_insn));
2296           print_inline_rtx (out, l->loc, 4);
2297         }
2298       while ((l = l->next));
2299       fputc ('\n', out);
2300     }
2301   else
2302     {
2303       fputs (" no locs", out);
2304       need_lf = true;
2305     }
2306
2307   if (v->addr_list)
2308     {
2309       struct elt_list *e = v->addr_list;
2310       if (need_lf)
2311         {
2312           fputc ('\n', out);
2313           need_lf = false;
2314         }
2315       fputs (" addr list:", out);
2316       do
2317         {
2318           fputs ("\n  ", out);
2319           print_inline_rtx (out, e->elt->val_rtx, 2);
2320         }
2321       while ((e = e->next));
2322       fputc ('\n', out);
2323     }
2324   else
2325     {
2326       fputs (" no addrs", out);
2327       need_lf = true;
2328     }
2329
2330   if (v->next_containing_mem == &dummy_val)
2331     fputs (" last mem\n", out);
2332   else if (v->next_containing_mem)
2333     {
2334       fputs (" next mem ", out);
2335       print_inline_rtx (out, v->next_containing_mem->val_rtx, 2);
2336       fputc ('\n', out);
2337     }
2338   else if (need_lf)
2339     fputc ('\n', out);
2340
2341   return 1;
2342 }
2343
2344 /* Dump to OUT everything in the CSELIB table.  */
2345
2346 void
2347 dump_cselib_table (FILE *out)
2348 {
2349   fprintf (out, "cselib hash table:\n");
2350   htab_traverse (cselib_hash_table, dump_cselib_val, out);
2351   if (first_containing_mem != &dummy_val)
2352     {
2353       fputs ("first mem ", out);
2354       print_inline_rtx (out, first_containing_mem->val_rtx, 2);
2355       fputc ('\n', out);
2356     }
2357   fprintf (out, "next uid %i\n", next_uid);
2358 }
2359
2360 #include "gt-cselib.h"