OSDN Git Service

Define target hook TARGET_UNWIND_EMIT_BEFORE_INSN.
[pf3gnuchains/gcc-fork.git] / gcc / final.c
1 /* Convert RTL to assembler code and output it, for GNU compiler.
2    Copyright (C) 1987, 1988, 1989, 1992, 1993, 1994, 1995, 1996, 1997,
3    1998, 1999, 2000, 2001, 2002, 2003, 2004, 2005, 2006, 2007, 2008, 2009, 2010
4    Free Software Foundation, Inc.
5
6 This file is part of GCC.
7
8 GCC is free software; you can redistribute it and/or modify it under
9 the terms of the GNU General Public License as published by the Free
10 Software Foundation; either version 3, or (at your option) any later
11 version.
12
13 GCC is distributed in the hope that it will be useful, but WITHOUT ANY
14 WARRANTY; without even the implied warranty of MERCHANTABILITY or
15 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
16 for more details.
17
18 You should have received a copy of the GNU General Public License
19 along with GCC; see the file COPYING3.  If not see
20 <http://www.gnu.org/licenses/>.  */
21
22 /* This is the final pass of the compiler.
23    It looks at the rtl code for a function and outputs assembler code.
24
25    Call `final_start_function' to output the assembler code for function entry,
26    `final' to output assembler code for some RTL code,
27    `final_end_function' to output assembler code for function exit.
28    If a function is compiled in several pieces, each piece is
29    output separately with `final'.
30
31    Some optimizations are also done at this level.
32    Move instructions that were made unnecessary by good register allocation
33    are detected and omitted from the output.  (Though most of these
34    are removed by the last jump pass.)
35
36    Instructions to set the condition codes are omitted when it can be
37    seen that the condition codes already had the desired values.
38
39    In some cases it is sufficient if the inherited condition codes
40    have related values, but this may require the following insn
41    (the one that tests the condition codes) to be modified.
42
43    The code for the function prologue and epilogue are generated
44    directly in assembler by the target functions function_prologue and
45    function_epilogue.  Those instructions never exist as rtl.  */
46
47 #include "config.h"
48 #include "system.h"
49 #include "coretypes.h"
50 #include "tm.h"
51
52 #include "tree.h"
53 #include "rtl.h"
54 #include "tm_p.h"
55 #include "regs.h"
56 #include "insn-config.h"
57 #include "insn-attr.h"
58 #include "recog.h"
59 #include "conditions.h"
60 #include "flags.h"
61 #include "hard-reg-set.h"
62 #include "output.h"
63 #include "except.h"
64 #include "function.h"
65 #include "rtl-error.h"
66 #include "toplev.h" /* exact_log2, floor_log2 */
67 #include "reload.h"
68 #include "intl.h"
69 #include "basic-block.h"
70 #include "target.h"
71 #include "debug.h"
72 #include "expr.h"
73 #include "cfglayout.h"
74 #include "tree-pass.h"
75 #include "tree-flow.h"
76 #include "timevar.h"
77 #include "cgraph.h"
78 #include "coverage.h"
79 #include "df.h"
80 #include "vecprim.h"
81 #include "ggc.h"
82 #include "cfgloop.h"
83 #include "params.h"
84
85 #ifdef XCOFF_DEBUGGING_INFO
86 #include "xcoffout.h"           /* Needed for external data
87                                    declarations for e.g. AIX 4.x.  */
88 #endif
89
90 #if defined (DWARF2_UNWIND_INFO) || defined (DWARF2_DEBUGGING_INFO)
91 #include "dwarf2out.h"
92 #endif
93
94 #ifdef DBX_DEBUGGING_INFO
95 #include "dbxout.h"
96 #endif
97
98 #ifdef SDB_DEBUGGING_INFO
99 #include "sdbout.h"
100 #endif
101
102 /* Most ports that aren't using cc0 don't need to define CC_STATUS_INIT.
103    So define a null default for it to save conditionalization later.  */
104 #ifndef CC_STATUS_INIT
105 #define CC_STATUS_INIT
106 #endif
107
108 /* How to start an assembler comment.  */
109 #ifndef ASM_COMMENT_START
110 #define ASM_COMMENT_START ";#"
111 #endif
112
113 /* Is the given character a logical line separator for the assembler?  */
114 #ifndef IS_ASM_LOGICAL_LINE_SEPARATOR
115 #define IS_ASM_LOGICAL_LINE_SEPARATOR(C, STR) ((C) == ';')
116 #endif
117
118 #ifndef JUMP_TABLES_IN_TEXT_SECTION
119 #define JUMP_TABLES_IN_TEXT_SECTION 0
120 #endif
121
122 /* Bitflags used by final_scan_insn.  */
123 #define SEEN_BB         1
124 #define SEEN_NOTE       2
125 #define SEEN_EMITTED    4
126
127 /* Last insn processed by final_scan_insn.  */
128 static rtx debug_insn;
129 rtx current_output_insn;
130
131 /* Line number of last NOTE.  */
132 static int last_linenum;
133
134 /* Last discriminator written to assembly.  */
135 static int last_discriminator;
136
137 /* Discriminator of current block.  */
138 static int discriminator;
139
140 /* Highest line number in current block.  */
141 static int high_block_linenum;
142
143 /* Likewise for function.  */
144 static int high_function_linenum;
145
146 /* Filename of last NOTE.  */
147 static const char *last_filename;
148
149 /* Override filename and line number.  */
150 static const char *override_filename;
151 static int override_linenum;
152
153 /* Whether to force emission of a line note before the next insn.  */
154 static bool force_source_line = false;
155
156 extern const int length_unit_log; /* This is defined in insn-attrtab.c.  */
157
158 /* Nonzero while outputting an `asm' with operands.
159    This means that inconsistencies are the user's fault, so don't die.
160    The precise value is the insn being output, to pass to error_for_asm.  */
161 rtx this_is_asm_operands;
162
163 /* Number of operands of this insn, for an `asm' with operands.  */
164 static unsigned int insn_noperands;
165
166 /* Compare optimization flag.  */
167
168 static rtx last_ignored_compare = 0;
169
170 /* Assign a unique number to each insn that is output.
171    This can be used to generate unique local labels.  */
172
173 static int insn_counter = 0;
174
175 #ifdef HAVE_cc0
176 /* This variable contains machine-dependent flags (defined in tm.h)
177    set and examined by output routines
178    that describe how to interpret the condition codes properly.  */
179
180 CC_STATUS cc_status;
181
182 /* During output of an insn, this contains a copy of cc_status
183    from before the insn.  */
184
185 CC_STATUS cc_prev_status;
186 #endif
187
188 /* Number of unmatched NOTE_INSN_BLOCK_BEG notes we have seen.  */
189
190 static int block_depth;
191
192 /* Nonzero if have enabled APP processing of our assembler output.  */
193
194 static int app_on;
195
196 /* If we are outputting an insn sequence, this contains the sequence rtx.
197    Zero otherwise.  */
198
199 rtx final_sequence;
200
201 #ifdef ASSEMBLER_DIALECT
202
203 /* Number of the assembler dialect to use, starting at 0.  */
204 static int dialect_number;
205 #endif
206
207 /* Nonnull if the insn currently being emitted was a COND_EXEC pattern.  */
208 rtx current_insn_predicate;
209
210 /* True if printing into -fdump-final-insns= dump.  */   
211 bool final_insns_dump_p;
212
213 #ifdef HAVE_ATTR_length
214 static int asm_insn_count (rtx);
215 #endif
216 static void profile_function (FILE *);
217 static void profile_after_prologue (FILE *);
218 static bool notice_source_line (rtx, bool *);
219 static rtx walk_alter_subreg (rtx *, bool *);
220 static void output_asm_name (void);
221 static void output_alternate_entry_point (FILE *, rtx);
222 static tree get_mem_expr_from_op (rtx, int *);
223 static void output_asm_operand_names (rtx *, int *, int);
224 #ifdef LEAF_REGISTERS
225 static void leaf_renumber_regs (rtx);
226 #endif
227 #ifdef HAVE_cc0
228 static int alter_cond (rtx);
229 #endif
230 #ifndef ADDR_VEC_ALIGN
231 static int final_addr_vec_align (rtx);
232 #endif
233 #ifdef HAVE_ATTR_length
234 static int align_fuzz (rtx, rtx, int, unsigned);
235 #endif
236 \f
237 /* Initialize data in final at the beginning of a compilation.  */
238
239 void
240 init_final (const char *filename ATTRIBUTE_UNUSED)
241 {
242   app_on = 0;
243   final_sequence = 0;
244
245 #ifdef ASSEMBLER_DIALECT
246   dialect_number = ASSEMBLER_DIALECT;
247 #endif
248 }
249
250 /* Default target function prologue and epilogue assembler output.
251
252    If not overridden for epilogue code, then the function body itself
253    contains return instructions wherever needed.  */
254 void
255 default_function_pro_epilogue (FILE *file ATTRIBUTE_UNUSED,
256                                HOST_WIDE_INT size ATTRIBUTE_UNUSED)
257 {
258 }
259
260 /* Default target hook that outputs nothing to a stream.  */
261 void
262 no_asm_to_stream (FILE *file ATTRIBUTE_UNUSED)
263 {
264 }
265
266 /* Enable APP processing of subsequent output.
267    Used before the output from an `asm' statement.  */
268
269 void
270 app_enable (void)
271 {
272   if (! app_on)
273     {
274       fputs (ASM_APP_ON, asm_out_file);
275       app_on = 1;
276     }
277 }
278
279 /* Disable APP processing of subsequent output.
280    Called from varasm.c before most kinds of output.  */
281
282 void
283 app_disable (void)
284 {
285   if (app_on)
286     {
287       fputs (ASM_APP_OFF, asm_out_file);
288       app_on = 0;
289     }
290 }
291 \f
292 /* Return the number of slots filled in the current
293    delayed branch sequence (we don't count the insn needing the
294    delay slot).   Zero if not in a delayed branch sequence.  */
295
296 #ifdef DELAY_SLOTS
297 int
298 dbr_sequence_length (void)
299 {
300   if (final_sequence != 0)
301     return XVECLEN (final_sequence, 0) - 1;
302   else
303     return 0;
304 }
305 #endif
306 \f
307 /* The next two pages contain routines used to compute the length of an insn
308    and to shorten branches.  */
309
310 /* Arrays for insn lengths, and addresses.  The latter is referenced by
311    `insn_current_length'.  */
312
313 static int *insn_lengths;
314
315 VEC(int,heap) *insn_addresses_;
316
317 /* Max uid for which the above arrays are valid.  */
318 static int insn_lengths_max_uid;
319
320 /* Address of insn being processed.  Used by `insn_current_length'.  */
321 int insn_current_address;
322
323 /* Address of insn being processed in previous iteration.  */
324 int insn_last_address;
325
326 /* known invariant alignment of insn being processed.  */
327 int insn_current_align;
328
329 /* After shorten_branches, for any insn, uid_align[INSN_UID (insn)]
330    gives the next following alignment insn that increases the known
331    alignment, or NULL_RTX if there is no such insn.
332    For any alignment obtained this way, we can again index uid_align with
333    its uid to obtain the next following align that in turn increases the
334    alignment, till we reach NULL_RTX; the sequence obtained this way
335    for each insn we'll call the alignment chain of this insn in the following
336    comments.  */
337
338 struct label_alignment
339 {
340   short alignment;
341   short max_skip;
342 };
343
344 static rtx *uid_align;
345 static int *uid_shuid;
346 static struct label_alignment *label_align;
347
348 /* Indicate that branch shortening hasn't yet been done.  */
349
350 void
351 init_insn_lengths (void)
352 {
353   if (uid_shuid)
354     {
355       free (uid_shuid);
356       uid_shuid = 0;
357     }
358   if (insn_lengths)
359     {
360       free (insn_lengths);
361       insn_lengths = 0;
362       insn_lengths_max_uid = 0;
363     }
364 #ifdef HAVE_ATTR_length
365   INSN_ADDRESSES_FREE ();
366 #endif
367   if (uid_align)
368     {
369       free (uid_align);
370       uid_align = 0;
371     }
372 }
373
374 /* Obtain the current length of an insn.  If branch shortening has been done,
375    get its actual length.  Otherwise, use FALLBACK_FN to calculate the
376    length.  */
377 static inline int
378 get_attr_length_1 (rtx insn ATTRIBUTE_UNUSED,
379                    int (*fallback_fn) (rtx) ATTRIBUTE_UNUSED)
380 {
381 #ifdef HAVE_ATTR_length
382   rtx body;
383   int i;
384   int length = 0;
385
386   if (insn_lengths_max_uid > INSN_UID (insn))
387     return insn_lengths[INSN_UID (insn)];
388   else
389     switch (GET_CODE (insn))
390       {
391       case NOTE:
392       case BARRIER:
393       case CODE_LABEL:
394       case DEBUG_INSN:
395         return 0;
396
397       case CALL_INSN:
398         length = fallback_fn (insn);
399         break;
400
401       case JUMP_INSN:
402         body = PATTERN (insn);
403         if (GET_CODE (body) == ADDR_VEC || GET_CODE (body) == ADDR_DIFF_VEC)
404           {
405             /* Alignment is machine-dependent and should be handled by
406                ADDR_VEC_ALIGN.  */
407           }
408         else
409           length = fallback_fn (insn);
410         break;
411
412       case INSN:
413         body = PATTERN (insn);
414         if (GET_CODE (body) == USE || GET_CODE (body) == CLOBBER)
415           return 0;
416
417         else if (GET_CODE (body) == ASM_INPUT || asm_noperands (body) >= 0)
418           length = asm_insn_count (body) * fallback_fn (insn);
419         else if (GET_CODE (body) == SEQUENCE)
420           for (i = 0; i < XVECLEN (body, 0); i++)
421             length += get_attr_length_1 (XVECEXP (body, 0, i), fallback_fn);
422         else
423           length = fallback_fn (insn);
424         break;
425
426       default:
427         break;
428       }
429
430 #ifdef ADJUST_INSN_LENGTH
431   ADJUST_INSN_LENGTH (insn, length);
432 #endif
433   return length;
434 #else /* not HAVE_ATTR_length */
435   return 0;
436 #define insn_default_length 0
437 #define insn_min_length 0
438 #endif /* not HAVE_ATTR_length */
439 }
440
441 /* Obtain the current length of an insn.  If branch shortening has been done,
442    get its actual length.  Otherwise, get its maximum length.  */
443 int
444 get_attr_length (rtx insn)
445 {
446   return get_attr_length_1 (insn, insn_default_length);
447 }
448
449 /* Obtain the current length of an insn.  If branch shortening has been done,
450    get its actual length.  Otherwise, get its minimum length.  */
451 int
452 get_attr_min_length (rtx insn)
453 {
454   return get_attr_length_1 (insn, insn_min_length);
455 }
456 \f
457 /* Code to handle alignment inside shorten_branches.  */
458
459 /* Here is an explanation how the algorithm in align_fuzz can give
460    proper results:
461
462    Call a sequence of instructions beginning with alignment point X
463    and continuing until the next alignment point `block X'.  When `X'
464    is used in an expression, it means the alignment value of the
465    alignment point.
466
467    Call the distance between the start of the first insn of block X, and
468    the end of the last insn of block X `IX', for the `inner size of X'.
469    This is clearly the sum of the instruction lengths.
470
471    Likewise with the next alignment-delimited block following X, which we
472    shall call block Y.
473
474    Call the distance between the start of the first insn of block X, and
475    the start of the first insn of block Y `OX', for the `outer size of X'.
476
477    The estimated padding is then OX - IX.
478
479    OX can be safely estimated as
480
481            if (X >= Y)
482                    OX = round_up(IX, Y)
483            else
484                    OX = round_up(IX, X) + Y - X
485
486    Clearly est(IX) >= real(IX), because that only depends on the
487    instruction lengths, and those being overestimated is a given.
488
489    Clearly round_up(foo, Z) >= round_up(bar, Z) if foo >= bar, so
490    we needn't worry about that when thinking about OX.
491
492    When X >= Y, the alignment provided by Y adds no uncertainty factor
493    for branch ranges starting before X, so we can just round what we have.
494    But when X < Y, we don't know anything about the, so to speak,
495    `middle bits', so we have to assume the worst when aligning up from an
496    address mod X to one mod Y, which is Y - X.  */
497
498 #ifndef LABEL_ALIGN
499 #define LABEL_ALIGN(LABEL) align_labels_log
500 #endif
501
502 #ifndef LABEL_ALIGN_MAX_SKIP
503 #define LABEL_ALIGN_MAX_SKIP align_labels_max_skip
504 #endif
505
506 #ifndef LOOP_ALIGN
507 #define LOOP_ALIGN(LABEL) align_loops_log
508 #endif
509
510 #ifndef LOOP_ALIGN_MAX_SKIP
511 #define LOOP_ALIGN_MAX_SKIP align_loops_max_skip
512 #endif
513
514 #ifndef LABEL_ALIGN_AFTER_BARRIER
515 #define LABEL_ALIGN_AFTER_BARRIER(LABEL) 0
516 #endif
517
518 #ifndef LABEL_ALIGN_AFTER_BARRIER_MAX_SKIP
519 #define LABEL_ALIGN_AFTER_BARRIER_MAX_SKIP 0
520 #endif
521
522 #ifndef JUMP_ALIGN
523 #define JUMP_ALIGN(LABEL) align_jumps_log
524 #endif
525
526 #ifndef JUMP_ALIGN_MAX_SKIP
527 #define JUMP_ALIGN_MAX_SKIP align_jumps_max_skip
528 #endif
529
530 #ifndef ADDR_VEC_ALIGN
531 static int
532 final_addr_vec_align (rtx addr_vec)
533 {
534   int align = GET_MODE_SIZE (GET_MODE (PATTERN (addr_vec)));
535
536   if (align > BIGGEST_ALIGNMENT / BITS_PER_UNIT)
537     align = BIGGEST_ALIGNMENT / BITS_PER_UNIT;
538   return exact_log2 (align);
539
540 }
541
542 #define ADDR_VEC_ALIGN(ADDR_VEC) final_addr_vec_align (ADDR_VEC)
543 #endif
544
545 #ifndef INSN_LENGTH_ALIGNMENT
546 #define INSN_LENGTH_ALIGNMENT(INSN) length_unit_log
547 #endif
548
549 #define INSN_SHUID(INSN) (uid_shuid[INSN_UID (INSN)])
550
551 static int min_labelno, max_labelno;
552
553 #define LABEL_TO_ALIGNMENT(LABEL) \
554   (label_align[CODE_LABEL_NUMBER (LABEL) - min_labelno].alignment)
555
556 #define LABEL_TO_MAX_SKIP(LABEL) \
557   (label_align[CODE_LABEL_NUMBER (LABEL) - min_labelno].max_skip)
558
559 /* For the benefit of port specific code do this also as a function.  */
560
561 int
562 label_to_alignment (rtx label)
563 {
564   if (CODE_LABEL_NUMBER (label) <= max_labelno)
565     return LABEL_TO_ALIGNMENT (label);
566   return 0;
567 }
568
569 int
570 label_to_max_skip (rtx label)
571 {
572   if (CODE_LABEL_NUMBER (label) <= max_labelno)
573     return LABEL_TO_MAX_SKIP (label);
574   return 0;
575 }
576
577 #ifdef HAVE_ATTR_length
578 /* The differences in addresses
579    between a branch and its target might grow or shrink depending on
580    the alignment the start insn of the range (the branch for a forward
581    branch or the label for a backward branch) starts out on; if these
582    differences are used naively, they can even oscillate infinitely.
583    We therefore want to compute a 'worst case' address difference that
584    is independent of the alignment the start insn of the range end
585    up on, and that is at least as large as the actual difference.
586    The function align_fuzz calculates the amount we have to add to the
587    naively computed difference, by traversing the part of the alignment
588    chain of the start insn of the range that is in front of the end insn
589    of the range, and considering for each alignment the maximum amount
590    that it might contribute to a size increase.
591
592    For casesi tables, we also want to know worst case minimum amounts of
593    address difference, in case a machine description wants to introduce
594    some common offset that is added to all offsets in a table.
595    For this purpose, align_fuzz with a growth argument of 0 computes the
596    appropriate adjustment.  */
597
598 /* Compute the maximum delta by which the difference of the addresses of
599    START and END might grow / shrink due to a different address for start
600    which changes the size of alignment insns between START and END.
601    KNOWN_ALIGN_LOG is the alignment known for START.
602    GROWTH should be ~0 if the objective is to compute potential code size
603    increase, and 0 if the objective is to compute potential shrink.
604    The return value is undefined for any other value of GROWTH.  */
605
606 static int
607 align_fuzz (rtx start, rtx end, int known_align_log, unsigned int growth)
608 {
609   int uid = INSN_UID (start);
610   rtx align_label;
611   int known_align = 1 << known_align_log;
612   int end_shuid = INSN_SHUID (end);
613   int fuzz = 0;
614
615   for (align_label = uid_align[uid]; align_label; align_label = uid_align[uid])
616     {
617       int align_addr, new_align;
618
619       uid = INSN_UID (align_label);
620       align_addr = INSN_ADDRESSES (uid) - insn_lengths[uid];
621       if (uid_shuid[uid] > end_shuid)
622         break;
623       known_align_log = LABEL_TO_ALIGNMENT (align_label);
624       new_align = 1 << known_align_log;
625       if (new_align < known_align)
626         continue;
627       fuzz += (-align_addr ^ growth) & (new_align - known_align);
628       known_align = new_align;
629     }
630   return fuzz;
631 }
632
633 /* Compute a worst-case reference address of a branch so that it
634    can be safely used in the presence of aligned labels.  Since the
635    size of the branch itself is unknown, the size of the branch is
636    not included in the range.  I.e. for a forward branch, the reference
637    address is the end address of the branch as known from the previous
638    branch shortening pass, minus a value to account for possible size
639    increase due to alignment.  For a backward branch, it is the start
640    address of the branch as known from the current pass, plus a value
641    to account for possible size increase due to alignment.
642    NB.: Therefore, the maximum offset allowed for backward branches needs
643    to exclude the branch size.  */
644
645 int
646 insn_current_reference_address (rtx branch)
647 {
648   rtx dest, seq;
649   int seq_uid;
650
651   if (! INSN_ADDRESSES_SET_P ())
652     return 0;
653
654   seq = NEXT_INSN (PREV_INSN (branch));
655   seq_uid = INSN_UID (seq);
656   if (!JUMP_P (branch))
657     /* This can happen for example on the PA; the objective is to know the
658        offset to address something in front of the start of the function.
659        Thus, we can treat it like a backward branch.
660        We assume here that FUNCTION_BOUNDARY / BITS_PER_UNIT is larger than
661        any alignment we'd encounter, so we skip the call to align_fuzz.  */
662     return insn_current_address;
663   dest = JUMP_LABEL (branch);
664
665   /* BRANCH has no proper alignment chain set, so use SEQ.
666      BRANCH also has no INSN_SHUID.  */
667   if (INSN_SHUID (seq) < INSN_SHUID (dest))
668     {
669       /* Forward branch.  */
670       return (insn_last_address + insn_lengths[seq_uid]
671               - align_fuzz (seq, dest, length_unit_log, ~0));
672     }
673   else
674     {
675       /* Backward branch.  */
676       return (insn_current_address
677               + align_fuzz (dest, seq, length_unit_log, ~0));
678     }
679 }
680 #endif /* HAVE_ATTR_length */
681 \f
682 /* Compute branch alignments based on frequency information in the
683    CFG.  */
684
685 unsigned int
686 compute_alignments (void)
687 {
688   int log, max_skip, max_log;
689   basic_block bb;
690   int freq_max = 0;
691   int freq_threshold = 0;
692
693   if (label_align)
694     {
695       free (label_align);
696       label_align = 0;
697     }
698
699   max_labelno = max_label_num ();
700   min_labelno = get_first_label_num ();
701   label_align = XCNEWVEC (struct label_alignment, max_labelno - min_labelno + 1);
702
703   /* If not optimizing or optimizing for size, don't assign any alignments.  */
704   if (! optimize || optimize_function_for_size_p (cfun))
705     return 0;
706
707   if (dump_file)
708     {
709       dump_flow_info (dump_file, TDF_DETAILS);
710       flow_loops_dump (dump_file, NULL, 1);
711       loop_optimizer_init (AVOID_CFG_MODIFICATIONS);
712     }
713   FOR_EACH_BB (bb)
714     if (bb->frequency > freq_max)
715       freq_max = bb->frequency;
716   freq_threshold = freq_max / PARAM_VALUE (PARAM_ALIGN_THRESHOLD);
717
718   if (dump_file)
719     fprintf(dump_file, "freq_max: %i\n",freq_max);
720   FOR_EACH_BB (bb)
721     {
722       rtx label = BB_HEAD (bb);
723       int fallthru_frequency = 0, branch_frequency = 0, has_fallthru = 0;
724       edge e;
725       edge_iterator ei;
726
727       if (!LABEL_P (label)
728           || optimize_bb_for_size_p (bb))
729         {
730           if (dump_file)
731             fprintf(dump_file, "BB %4i freq %4i loop %2i loop_depth %2i skipped.\n",
732                     bb->index, bb->frequency, bb->loop_father->num, bb->loop_depth);
733           continue;
734         }
735       max_log = LABEL_ALIGN (label);
736       max_skip = LABEL_ALIGN_MAX_SKIP;
737
738       FOR_EACH_EDGE (e, ei, bb->preds)
739         {
740           if (e->flags & EDGE_FALLTHRU)
741             has_fallthru = 1, fallthru_frequency += EDGE_FREQUENCY (e);
742           else
743             branch_frequency += EDGE_FREQUENCY (e);
744         }
745       if (dump_file)
746         {
747           fprintf(dump_file, "BB %4i freq %4i loop %2i loop_depth %2i fall %4i branch %4i",
748                   bb->index, bb->frequency, bb->loop_father->num,
749                   bb->loop_depth,
750                   fallthru_frequency, branch_frequency);
751           if (!bb->loop_father->inner && bb->loop_father->num)
752             fprintf (dump_file, " inner_loop");
753           if (bb->loop_father->header == bb)
754             fprintf (dump_file, " loop_header");
755           fprintf (dump_file, "\n");
756         }
757
758       /* There are two purposes to align block with no fallthru incoming edge:
759          1) to avoid fetch stalls when branch destination is near cache boundary
760          2) to improve cache efficiency in case the previous block is not executed
761             (so it does not need to be in the cache).
762
763          We to catch first case, we align frequently executed blocks.
764          To catch the second, we align blocks that are executed more frequently
765          than the predecessor and the predecessor is likely to not be executed
766          when function is called.  */
767
768       if (!has_fallthru
769           && (branch_frequency > freq_threshold
770               || (bb->frequency > bb->prev_bb->frequency * 10
771                   && (bb->prev_bb->frequency
772                       <= ENTRY_BLOCK_PTR->frequency / 2))))
773         {
774           log = JUMP_ALIGN (label);
775           if (dump_file)
776             fprintf(dump_file, "  jump alignment added.\n");
777           if (max_log < log)
778             {
779               max_log = log;
780               max_skip = JUMP_ALIGN_MAX_SKIP;
781             }
782         }
783       /* In case block is frequent and reached mostly by non-fallthru edge,
784          align it.  It is most likely a first block of loop.  */
785       if (has_fallthru
786           && optimize_bb_for_speed_p (bb)
787           && branch_frequency + fallthru_frequency > freq_threshold
788           && (branch_frequency
789               > fallthru_frequency * PARAM_VALUE (PARAM_ALIGN_LOOP_ITERATIONS)))
790         {
791           log = LOOP_ALIGN (label);
792           if (dump_file)
793             fprintf(dump_file, "  internal loop alignment added.\n");
794           if (max_log < log)
795             {
796               max_log = log;
797               max_skip = LOOP_ALIGN_MAX_SKIP;
798             }
799         }
800       LABEL_TO_ALIGNMENT (label) = max_log;
801       LABEL_TO_MAX_SKIP (label) = max_skip;
802     }
803
804   if (dump_file)
805     {
806       loop_optimizer_finalize ();
807       free_dominance_info (CDI_DOMINATORS);
808     }
809   return 0;
810 }
811
812 struct rtl_opt_pass pass_compute_alignments =
813 {
814  {
815   RTL_PASS,
816   "alignments",                         /* name */
817   NULL,                                 /* gate */
818   compute_alignments,                   /* execute */
819   NULL,                                 /* sub */
820   NULL,                                 /* next */
821   0,                                    /* static_pass_number */
822   TV_NONE,                              /* tv_id */
823   0,                                    /* properties_required */
824   0,                                    /* properties_provided */
825   0,                                    /* properties_destroyed */
826   0,                                    /* todo_flags_start */
827   TODO_dump_func | TODO_verify_rtl_sharing
828   | TODO_ggc_collect                    /* todo_flags_finish */
829  }
830 };
831
832 \f
833 /* Make a pass over all insns and compute their actual lengths by shortening
834    any branches of variable length if possible.  */
835
836 /* shorten_branches might be called multiple times:  for example, the SH
837    port splits out-of-range conditional branches in MACHINE_DEPENDENT_REORG.
838    In order to do this, it needs proper length information, which it obtains
839    by calling shorten_branches.  This cannot be collapsed with
840    shorten_branches itself into a single pass unless we also want to integrate
841    reorg.c, since the branch splitting exposes new instructions with delay
842    slots.  */
843
844 void
845 shorten_branches (rtx first ATTRIBUTE_UNUSED)
846 {
847   rtx insn;
848   int max_uid;
849   int i;
850   int max_log;
851   int max_skip;
852 #ifdef HAVE_ATTR_length
853 #define MAX_CODE_ALIGN 16
854   rtx seq;
855   int something_changed = 1;
856   char *varying_length;
857   rtx body;
858   int uid;
859   rtx align_tab[MAX_CODE_ALIGN];
860
861 #endif
862
863   /* Compute maximum UID and allocate label_align / uid_shuid.  */
864   max_uid = get_max_uid ();
865
866   /* Free uid_shuid before reallocating it.  */
867   free (uid_shuid);
868
869   uid_shuid = XNEWVEC (int, max_uid);
870
871   if (max_labelno != max_label_num ())
872     {
873       int old = max_labelno;
874       int n_labels;
875       int n_old_labels;
876
877       max_labelno = max_label_num ();
878
879       n_labels = max_labelno - min_labelno + 1;
880       n_old_labels = old - min_labelno + 1;
881
882       label_align = XRESIZEVEC (struct label_alignment, label_align, n_labels);
883
884       /* Range of labels grows monotonically in the function.  Failing here
885          means that the initialization of array got lost.  */
886       gcc_assert (n_old_labels <= n_labels);
887
888       memset (label_align + n_old_labels, 0,
889               (n_labels - n_old_labels) * sizeof (struct label_alignment));
890     }
891
892   /* Initialize label_align and set up uid_shuid to be strictly
893      monotonically rising with insn order.  */
894   /* We use max_log here to keep track of the maximum alignment we want to
895      impose on the next CODE_LABEL (or the current one if we are processing
896      the CODE_LABEL itself).  */
897
898   max_log = 0;
899   max_skip = 0;
900
901   for (insn = get_insns (), i = 1; insn; insn = NEXT_INSN (insn))
902     {
903       int log;
904
905       INSN_SHUID (insn) = i++;
906       if (INSN_P (insn))
907         continue;
908
909       if (LABEL_P (insn))
910         {
911           rtx next;
912           bool next_is_jumptable;
913
914           /* Merge in alignments computed by compute_alignments.  */
915           log = LABEL_TO_ALIGNMENT (insn);
916           if (max_log < log)
917             {
918               max_log = log;
919               max_skip = LABEL_TO_MAX_SKIP (insn);
920             }
921
922           next = next_nonnote_insn (insn);
923           next_is_jumptable = next && JUMP_TABLE_DATA_P (next);
924           if (!next_is_jumptable)
925             {
926               log = LABEL_ALIGN (insn);
927               if (max_log < log)
928                 {
929                   max_log = log;
930                   max_skip = LABEL_ALIGN_MAX_SKIP;
931                 }
932             }
933           /* ADDR_VECs only take room if read-only data goes into the text
934              section.  */
935           if ((JUMP_TABLES_IN_TEXT_SECTION
936                || readonly_data_section == text_section)
937               && next_is_jumptable)
938             {
939               log = ADDR_VEC_ALIGN (next);
940               if (max_log < log)
941                 {
942                   max_log = log;
943                   max_skip = LABEL_ALIGN_MAX_SKIP;
944                 }
945             }
946           LABEL_TO_ALIGNMENT (insn) = max_log;
947           LABEL_TO_MAX_SKIP (insn) = max_skip;
948           max_log = 0;
949           max_skip = 0;
950         }
951       else if (BARRIER_P (insn))
952         {
953           rtx label;
954
955           for (label = insn; label && ! INSN_P (label);
956                label = NEXT_INSN (label))
957             if (LABEL_P (label))
958               {
959                 log = LABEL_ALIGN_AFTER_BARRIER (insn);
960                 if (max_log < log)
961                   {
962                     max_log = log;
963                     max_skip = LABEL_ALIGN_AFTER_BARRIER_MAX_SKIP;
964                   }
965                 break;
966               }
967         }
968     }
969 #ifdef HAVE_ATTR_length
970
971   /* Allocate the rest of the arrays.  */
972   insn_lengths = XNEWVEC (int, max_uid);
973   insn_lengths_max_uid = max_uid;
974   /* Syntax errors can lead to labels being outside of the main insn stream.
975      Initialize insn_addresses, so that we get reproducible results.  */
976   INSN_ADDRESSES_ALLOC (max_uid);
977
978   varying_length = XCNEWVEC (char, max_uid);
979
980   /* Initialize uid_align.  We scan instructions
981      from end to start, and keep in align_tab[n] the last seen insn
982      that does an alignment of at least n+1, i.e. the successor
983      in the alignment chain for an insn that does / has a known
984      alignment of n.  */
985   uid_align = XCNEWVEC (rtx, max_uid);
986
987   for (i = MAX_CODE_ALIGN; --i >= 0;)
988     align_tab[i] = NULL_RTX;
989   seq = get_last_insn ();
990   for (; seq; seq = PREV_INSN (seq))
991     {
992       int uid = INSN_UID (seq);
993       int log;
994       log = (LABEL_P (seq) ? LABEL_TO_ALIGNMENT (seq) : 0);
995       uid_align[uid] = align_tab[0];
996       if (log)
997         {
998           /* Found an alignment label.  */
999           uid_align[uid] = align_tab[log];
1000           for (i = log - 1; i >= 0; i--)
1001             align_tab[i] = seq;
1002         }
1003     }
1004 #ifdef CASE_VECTOR_SHORTEN_MODE
1005   if (optimize)
1006     {
1007       /* Look for ADDR_DIFF_VECs, and initialize their minimum and maximum
1008          label fields.  */
1009
1010       int min_shuid = INSN_SHUID (get_insns ()) - 1;
1011       int max_shuid = INSN_SHUID (get_last_insn ()) + 1;
1012       int rel;
1013
1014       for (insn = first; insn != 0; insn = NEXT_INSN (insn))
1015         {
1016           rtx min_lab = NULL_RTX, max_lab = NULL_RTX, pat;
1017           int len, i, min, max, insn_shuid;
1018           int min_align;
1019           addr_diff_vec_flags flags;
1020
1021           if (!JUMP_P (insn)
1022               || GET_CODE (PATTERN (insn)) != ADDR_DIFF_VEC)
1023             continue;
1024           pat = PATTERN (insn);
1025           len = XVECLEN (pat, 1);
1026           gcc_assert (len > 0);
1027           min_align = MAX_CODE_ALIGN;
1028           for (min = max_shuid, max = min_shuid, i = len - 1; i >= 0; i--)
1029             {
1030               rtx lab = XEXP (XVECEXP (pat, 1, i), 0);
1031               int shuid = INSN_SHUID (lab);
1032               if (shuid < min)
1033                 {
1034                   min = shuid;
1035                   min_lab = lab;
1036                 }
1037               if (shuid > max)
1038                 {
1039                   max = shuid;
1040                   max_lab = lab;
1041                 }
1042               if (min_align > LABEL_TO_ALIGNMENT (lab))
1043                 min_align = LABEL_TO_ALIGNMENT (lab);
1044             }
1045           XEXP (pat, 2) = gen_rtx_LABEL_REF (Pmode, min_lab);
1046           XEXP (pat, 3) = gen_rtx_LABEL_REF (Pmode, max_lab);
1047           insn_shuid = INSN_SHUID (insn);
1048           rel = INSN_SHUID (XEXP (XEXP (pat, 0), 0));
1049           memset (&flags, 0, sizeof (flags));
1050           flags.min_align = min_align;
1051           flags.base_after_vec = rel > insn_shuid;
1052           flags.min_after_vec  = min > insn_shuid;
1053           flags.max_after_vec  = max > insn_shuid;
1054           flags.min_after_base = min > rel;
1055           flags.max_after_base = max > rel;
1056           ADDR_DIFF_VEC_FLAGS (pat) = flags;
1057         }
1058     }
1059 #endif /* CASE_VECTOR_SHORTEN_MODE */
1060
1061   /* Compute initial lengths, addresses, and varying flags for each insn.  */
1062   for (insn_current_address = 0, insn = first;
1063        insn != 0;
1064        insn_current_address += insn_lengths[uid], insn = NEXT_INSN (insn))
1065     {
1066       uid = INSN_UID (insn);
1067
1068       insn_lengths[uid] = 0;
1069
1070       if (LABEL_P (insn))
1071         {
1072           int log = LABEL_TO_ALIGNMENT (insn);
1073           if (log)
1074             {
1075               int align = 1 << log;
1076               int new_address = (insn_current_address + align - 1) & -align;
1077               insn_lengths[uid] = new_address - insn_current_address;
1078             }
1079         }
1080
1081       INSN_ADDRESSES (uid) = insn_current_address + insn_lengths[uid];
1082
1083       if (NOTE_P (insn) || BARRIER_P (insn)
1084           || LABEL_P (insn) || DEBUG_INSN_P(insn))
1085         continue;
1086       if (INSN_DELETED_P (insn))
1087         continue;
1088
1089       body = PATTERN (insn);
1090       if (GET_CODE (body) == ADDR_VEC || GET_CODE (body) == ADDR_DIFF_VEC)
1091         {
1092           /* This only takes room if read-only data goes into the text
1093              section.  */
1094           if (JUMP_TABLES_IN_TEXT_SECTION
1095               || readonly_data_section == text_section)
1096             insn_lengths[uid] = (XVECLEN (body,
1097                                           GET_CODE (body) == ADDR_DIFF_VEC)
1098                                  * GET_MODE_SIZE (GET_MODE (body)));
1099           /* Alignment is handled by ADDR_VEC_ALIGN.  */
1100         }
1101       else if (GET_CODE (body) == ASM_INPUT || asm_noperands (body) >= 0)
1102         insn_lengths[uid] = asm_insn_count (body) * insn_default_length (insn);
1103       else if (GET_CODE (body) == SEQUENCE)
1104         {
1105           int i;
1106           int const_delay_slots;
1107 #ifdef DELAY_SLOTS
1108           const_delay_slots = const_num_delay_slots (XVECEXP (body, 0, 0));
1109 #else
1110           const_delay_slots = 0;
1111 #endif
1112           /* Inside a delay slot sequence, we do not do any branch shortening
1113              if the shortening could change the number of delay slots
1114              of the branch.  */
1115           for (i = 0; i < XVECLEN (body, 0); i++)
1116             {
1117               rtx inner_insn = XVECEXP (body, 0, i);
1118               int inner_uid = INSN_UID (inner_insn);
1119               int inner_length;
1120
1121               if (GET_CODE (body) == ASM_INPUT
1122                   || asm_noperands (PATTERN (XVECEXP (body, 0, i))) >= 0)
1123                 inner_length = (asm_insn_count (PATTERN (inner_insn))
1124                                 * insn_default_length (inner_insn));
1125               else
1126                 inner_length = insn_default_length (inner_insn);
1127
1128               insn_lengths[inner_uid] = inner_length;
1129               if (const_delay_slots)
1130                 {
1131                   if ((varying_length[inner_uid]
1132                        = insn_variable_length_p (inner_insn)) != 0)
1133                     varying_length[uid] = 1;
1134                   INSN_ADDRESSES (inner_uid) = (insn_current_address
1135                                                 + insn_lengths[uid]);
1136                 }
1137               else
1138                 varying_length[inner_uid] = 0;
1139               insn_lengths[uid] += inner_length;
1140             }
1141         }
1142       else if (GET_CODE (body) != USE && GET_CODE (body) != CLOBBER)
1143         {
1144           insn_lengths[uid] = insn_default_length (insn);
1145           varying_length[uid] = insn_variable_length_p (insn);
1146         }
1147
1148       /* If needed, do any adjustment.  */
1149 #ifdef ADJUST_INSN_LENGTH
1150       ADJUST_INSN_LENGTH (insn, insn_lengths[uid]);
1151       if (insn_lengths[uid] < 0)
1152         fatal_insn ("negative insn length", insn);
1153 #endif
1154     }
1155
1156   /* Now loop over all the insns finding varying length insns.  For each,
1157      get the current insn length.  If it has changed, reflect the change.
1158      When nothing changes for a full pass, we are done.  */
1159
1160   while (something_changed)
1161     {
1162       something_changed = 0;
1163       insn_current_align = MAX_CODE_ALIGN - 1;
1164       for (insn_current_address = 0, insn = first;
1165            insn != 0;
1166            insn = NEXT_INSN (insn))
1167         {
1168           int new_length;
1169 #ifdef ADJUST_INSN_LENGTH
1170           int tmp_length;
1171 #endif
1172           int length_align;
1173
1174           uid = INSN_UID (insn);
1175
1176           if (LABEL_P (insn))
1177             {
1178               int log = LABEL_TO_ALIGNMENT (insn);
1179               if (log > insn_current_align)
1180                 {
1181                   int align = 1 << log;
1182                   int new_address= (insn_current_address + align - 1) & -align;
1183                   insn_lengths[uid] = new_address - insn_current_address;
1184                   insn_current_align = log;
1185                   insn_current_address = new_address;
1186                 }
1187               else
1188                 insn_lengths[uid] = 0;
1189               INSN_ADDRESSES (uid) = insn_current_address;
1190               continue;
1191             }
1192
1193           length_align = INSN_LENGTH_ALIGNMENT (insn);
1194           if (length_align < insn_current_align)
1195             insn_current_align = length_align;
1196
1197           insn_last_address = INSN_ADDRESSES (uid);
1198           INSN_ADDRESSES (uid) = insn_current_address;
1199
1200 #ifdef CASE_VECTOR_SHORTEN_MODE
1201           if (optimize && JUMP_P (insn)
1202               && GET_CODE (PATTERN (insn)) == ADDR_DIFF_VEC)
1203             {
1204               rtx body = PATTERN (insn);
1205               int old_length = insn_lengths[uid];
1206               rtx rel_lab = XEXP (XEXP (body, 0), 0);
1207               rtx min_lab = XEXP (XEXP (body, 2), 0);
1208               rtx max_lab = XEXP (XEXP (body, 3), 0);
1209               int rel_addr = INSN_ADDRESSES (INSN_UID (rel_lab));
1210               int min_addr = INSN_ADDRESSES (INSN_UID (min_lab));
1211               int max_addr = INSN_ADDRESSES (INSN_UID (max_lab));
1212               rtx prev;
1213               int rel_align = 0;
1214               addr_diff_vec_flags flags;
1215
1216               /* Avoid automatic aggregate initialization.  */
1217               flags = ADDR_DIFF_VEC_FLAGS (body);
1218
1219               /* Try to find a known alignment for rel_lab.  */
1220               for (prev = rel_lab;
1221                    prev
1222                    && ! insn_lengths[INSN_UID (prev)]
1223                    && ! (varying_length[INSN_UID (prev)] & 1);
1224                    prev = PREV_INSN (prev))
1225                 if (varying_length[INSN_UID (prev)] & 2)
1226                   {
1227                     rel_align = LABEL_TO_ALIGNMENT (prev);
1228                     break;
1229                   }
1230
1231               /* See the comment on addr_diff_vec_flags in rtl.h for the
1232                  meaning of the flags values.  base: REL_LAB   vec: INSN  */
1233               /* Anything after INSN has still addresses from the last
1234                  pass; adjust these so that they reflect our current
1235                  estimate for this pass.  */
1236               if (flags.base_after_vec)
1237                 rel_addr += insn_current_address - insn_last_address;
1238               if (flags.min_after_vec)
1239                 min_addr += insn_current_address - insn_last_address;
1240               if (flags.max_after_vec)
1241                 max_addr += insn_current_address - insn_last_address;
1242               /* We want to know the worst case, i.e. lowest possible value
1243                  for the offset of MIN_LAB.  If MIN_LAB is after REL_LAB,
1244                  its offset is positive, and we have to be wary of code shrink;
1245                  otherwise, it is negative, and we have to be vary of code
1246                  size increase.  */
1247               if (flags.min_after_base)
1248                 {
1249                   /* If INSN is between REL_LAB and MIN_LAB, the size
1250                      changes we are about to make can change the alignment
1251                      within the observed offset, therefore we have to break
1252                      it up into two parts that are independent.  */
1253                   if (! flags.base_after_vec && flags.min_after_vec)
1254                     {
1255                       min_addr -= align_fuzz (rel_lab, insn, rel_align, 0);
1256                       min_addr -= align_fuzz (insn, min_lab, 0, 0);
1257                     }
1258                   else
1259                     min_addr -= align_fuzz (rel_lab, min_lab, rel_align, 0);
1260                 }
1261               else
1262                 {
1263                   if (flags.base_after_vec && ! flags.min_after_vec)
1264                     {
1265                       min_addr -= align_fuzz (min_lab, insn, 0, ~0);
1266                       min_addr -= align_fuzz (insn, rel_lab, 0, ~0);
1267                     }
1268                   else
1269                     min_addr -= align_fuzz (min_lab, rel_lab, 0, ~0);
1270                 }
1271               /* Likewise, determine the highest lowest possible value
1272                  for the offset of MAX_LAB.  */
1273               if (flags.max_after_base)
1274                 {
1275                   if (! flags.base_after_vec && flags.max_after_vec)
1276                     {
1277                       max_addr += align_fuzz (rel_lab, insn, rel_align, ~0);
1278                       max_addr += align_fuzz (insn, max_lab, 0, ~0);
1279                     }
1280                   else
1281                     max_addr += align_fuzz (rel_lab, max_lab, rel_align, ~0);
1282                 }
1283               else
1284                 {
1285                   if (flags.base_after_vec && ! flags.max_after_vec)
1286                     {
1287                       max_addr += align_fuzz (max_lab, insn, 0, 0);
1288                       max_addr += align_fuzz (insn, rel_lab, 0, 0);
1289                     }
1290                   else
1291                     max_addr += align_fuzz (max_lab, rel_lab, 0, 0);
1292                 }
1293               PUT_MODE (body, CASE_VECTOR_SHORTEN_MODE (min_addr - rel_addr,
1294                                                         max_addr - rel_addr,
1295                                                         body));
1296               if (JUMP_TABLES_IN_TEXT_SECTION
1297                   || readonly_data_section == text_section)
1298                 {
1299                   insn_lengths[uid]
1300                     = (XVECLEN (body, 1) * GET_MODE_SIZE (GET_MODE (body)));
1301                   insn_current_address += insn_lengths[uid];
1302                   if (insn_lengths[uid] != old_length)
1303                     something_changed = 1;
1304                 }
1305
1306               continue;
1307             }
1308 #endif /* CASE_VECTOR_SHORTEN_MODE */
1309
1310           if (! (varying_length[uid]))
1311             {
1312               if (NONJUMP_INSN_P (insn)
1313                   && GET_CODE (PATTERN (insn)) == SEQUENCE)
1314                 {
1315                   int i;
1316
1317                   body = PATTERN (insn);
1318                   for (i = 0; i < XVECLEN (body, 0); i++)
1319                     {
1320                       rtx inner_insn = XVECEXP (body, 0, i);
1321                       int inner_uid = INSN_UID (inner_insn);
1322
1323                       INSN_ADDRESSES (inner_uid) = insn_current_address;
1324
1325                       insn_current_address += insn_lengths[inner_uid];
1326                     }
1327                 }
1328               else
1329                 insn_current_address += insn_lengths[uid];
1330
1331               continue;
1332             }
1333
1334           if (NONJUMP_INSN_P (insn) && GET_CODE (PATTERN (insn)) == SEQUENCE)
1335             {
1336               int i;
1337
1338               body = PATTERN (insn);
1339               new_length = 0;
1340               for (i = 0; i < XVECLEN (body, 0); i++)
1341                 {
1342                   rtx inner_insn = XVECEXP (body, 0, i);
1343                   int inner_uid = INSN_UID (inner_insn);
1344                   int inner_length;
1345
1346                   INSN_ADDRESSES (inner_uid) = insn_current_address;
1347
1348                   /* insn_current_length returns 0 for insns with a
1349                      non-varying length.  */
1350                   if (! varying_length[inner_uid])
1351                     inner_length = insn_lengths[inner_uid];
1352                   else
1353                     inner_length = insn_current_length (inner_insn);
1354
1355                   if (inner_length != insn_lengths[inner_uid])
1356                     {
1357                       insn_lengths[inner_uid] = inner_length;
1358                       something_changed = 1;
1359                     }
1360                   insn_current_address += insn_lengths[inner_uid];
1361                   new_length += inner_length;
1362                 }
1363             }
1364           else
1365             {
1366               new_length = insn_current_length (insn);
1367               insn_current_address += new_length;
1368             }
1369
1370 #ifdef ADJUST_INSN_LENGTH
1371           /* If needed, do any adjustment.  */
1372           tmp_length = new_length;
1373           ADJUST_INSN_LENGTH (insn, new_length);
1374           insn_current_address += (new_length - tmp_length);
1375 #endif
1376
1377           if (new_length != insn_lengths[uid])
1378             {
1379               insn_lengths[uid] = new_length;
1380               something_changed = 1;
1381             }
1382         }
1383       /* For a non-optimizing compile, do only a single pass.  */
1384       if (!optimize)
1385         break;
1386     }
1387
1388   free (varying_length);
1389
1390 #endif /* HAVE_ATTR_length */
1391 }
1392
1393 #ifdef HAVE_ATTR_length
1394 /* Given the body of an INSN known to be generated by an ASM statement, return
1395    the number of machine instructions likely to be generated for this insn.
1396    This is used to compute its length.  */
1397
1398 static int
1399 asm_insn_count (rtx body)
1400 {
1401   const char *templ;
1402
1403   if (GET_CODE (body) == ASM_INPUT)
1404     templ = XSTR (body, 0);
1405   else
1406     templ = decode_asm_operands (body, NULL, NULL, NULL, NULL, NULL);
1407
1408   return asm_str_count (templ);
1409 }
1410 #endif
1411
1412 /* Return the number of machine instructions likely to be generated for the
1413    inline-asm template. */
1414 int
1415 asm_str_count (const char *templ)
1416 {
1417   int count = 1;
1418
1419   if (!*templ)
1420     return 0;
1421
1422   for (; *templ; templ++)
1423     if (IS_ASM_LOGICAL_LINE_SEPARATOR (*templ, templ)
1424         || *templ == '\n')
1425       count++;
1426
1427   return count;
1428 }
1429 \f
1430 /* ??? This is probably the wrong place for these.  */
1431 /* Structure recording the mapping from source file and directory
1432    names at compile time to those to be embedded in debug
1433    information.  */
1434 typedef struct debug_prefix_map
1435 {
1436   const char *old_prefix;
1437   const char *new_prefix;
1438   size_t old_len;
1439   size_t new_len;
1440   struct debug_prefix_map *next;
1441 } debug_prefix_map;
1442
1443 /* Linked list of such structures.  */
1444 debug_prefix_map *debug_prefix_maps;
1445
1446
1447 /* Record a debug file prefix mapping.  ARG is the argument to
1448    -fdebug-prefix-map and must be of the form OLD=NEW.  */
1449
1450 void
1451 add_debug_prefix_map (const char *arg)
1452 {
1453   debug_prefix_map *map;
1454   const char *p;
1455
1456   p = strchr (arg, '=');
1457   if (!p)
1458     {
1459       error ("invalid argument %qs to -fdebug-prefix-map", arg);
1460       return;
1461     }
1462   map = XNEW (debug_prefix_map);
1463   map->old_prefix = xstrndup (arg, p - arg);
1464   map->old_len = p - arg;
1465   p++;
1466   map->new_prefix = xstrdup (p);
1467   map->new_len = strlen (p);
1468   map->next = debug_prefix_maps;
1469   debug_prefix_maps = map;
1470 }
1471
1472 /* Perform user-specified mapping of debug filename prefixes.  Return
1473    the new name corresponding to FILENAME.  */
1474
1475 const char *
1476 remap_debug_filename (const char *filename)
1477 {
1478   debug_prefix_map *map;
1479   char *s;
1480   const char *name;
1481   size_t name_len;
1482
1483   for (map = debug_prefix_maps; map; map = map->next)
1484     if (strncmp (filename, map->old_prefix, map->old_len) == 0)
1485       break;
1486   if (!map)
1487     return filename;
1488   name = filename + map->old_len;
1489   name_len = strlen (name) + 1;
1490   s = (char *) alloca (name_len + map->new_len);
1491   memcpy (s, map->new_prefix, map->new_len);
1492   memcpy (s + map->new_len, name, name_len);
1493   return ggc_strdup (s);
1494 }
1495 \f
1496 /* Return true if DWARF2 debug info can be emitted for DECL.  */
1497
1498 static bool
1499 dwarf2_debug_info_emitted_p (tree decl)
1500 {
1501   if (write_symbols != DWARF2_DEBUG && write_symbols != VMS_AND_DWARF2_DEBUG)
1502     return false;
1503
1504   if (DECL_IGNORED_P (decl))
1505     return false;
1506
1507   return true;
1508 }
1509
1510 /* Output assembler code for the start of a function,
1511    and initialize some of the variables in this file
1512    for the new function.  The label for the function and associated
1513    assembler pseudo-ops have already been output in `assemble_start_function'.
1514
1515    FIRST is the first insn of the rtl for the function being compiled.
1516    FILE is the file to write assembler code to.
1517    OPTIMIZE is nonzero if we should eliminate redundant
1518      test and compare insns.  */
1519
1520 void
1521 final_start_function (rtx first ATTRIBUTE_UNUSED, FILE *file,
1522                       int optimize ATTRIBUTE_UNUSED)
1523 {
1524   block_depth = 0;
1525
1526   this_is_asm_operands = 0;
1527
1528   last_filename = locator_file (prologue_locator);
1529   last_linenum = locator_line (prologue_locator);
1530   last_discriminator = discriminator = 0;
1531
1532   high_block_linenum = high_function_linenum = last_linenum;
1533
1534   if (!DECL_IGNORED_P (current_function_decl))
1535     debug_hooks->begin_prologue (last_linenum, last_filename);
1536
1537 #if defined (DWARF2_UNWIND_INFO) || defined (TARGET_UNWIND_INFO)
1538   if (!dwarf2_debug_info_emitted_p (current_function_decl))
1539     dwarf2out_begin_prologue (0, NULL);
1540 #endif
1541
1542 #ifdef LEAF_REG_REMAP
1543   if (current_function_uses_only_leaf_regs)
1544     leaf_renumber_regs (first);
1545 #endif
1546
1547   /* The Sun386i and perhaps other machines don't work right
1548      if the profiling code comes after the prologue.  */
1549   if (targetm.profile_before_prologue () && crtl->profile)
1550     profile_function (file);
1551
1552 #if defined (DWARF2_UNWIND_INFO) && defined (HAVE_prologue)
1553   if (dwarf2out_do_frame ())
1554     dwarf2out_frame_debug (NULL_RTX, false);
1555 #endif
1556
1557   /* If debugging, assign block numbers to all of the blocks in this
1558      function.  */
1559   if (write_symbols)
1560     {
1561       reemit_insn_block_notes ();
1562       number_blocks (current_function_decl);
1563       /* We never actually put out begin/end notes for the top-level
1564          block in the function.  But, conceptually, that block is
1565          always needed.  */
1566       TREE_ASM_WRITTEN (DECL_INITIAL (current_function_decl)) = 1;
1567     }
1568
1569   if (warn_frame_larger_than
1570     && get_frame_size () > frame_larger_than_size)
1571   {
1572       /* Issue a warning */
1573       warning (OPT_Wframe_larger_than_,
1574                "the frame size of %wd bytes is larger than %wd bytes",
1575                get_frame_size (), frame_larger_than_size);
1576   }
1577
1578   /* First output the function prologue: code to set up the stack frame.  */
1579   targetm.asm_out.function_prologue (file, get_frame_size ());
1580
1581   /* If the machine represents the prologue as RTL, the profiling code must
1582      be emitted when NOTE_INSN_PROLOGUE_END is scanned.  */
1583 #ifdef HAVE_prologue
1584   if (! HAVE_prologue)
1585 #endif
1586     profile_after_prologue (file);
1587 }
1588
1589 static void
1590 profile_after_prologue (FILE *file ATTRIBUTE_UNUSED)
1591 {
1592   if (!targetm.profile_before_prologue () && crtl->profile)
1593     profile_function (file);
1594 }
1595
1596 static void
1597 profile_function (FILE *file ATTRIBUTE_UNUSED)
1598 {
1599 #ifndef NO_PROFILE_COUNTERS
1600 # define NO_PROFILE_COUNTERS    0
1601 #endif
1602 #ifdef ASM_OUTPUT_REG_PUSH
1603   rtx sval = NULL, chain = NULL;
1604
1605   if (cfun->returns_struct)
1606     sval = targetm.calls.struct_value_rtx (TREE_TYPE (current_function_decl),
1607                                            true);
1608   if (cfun->static_chain_decl)
1609     chain = targetm.calls.static_chain (current_function_decl, true);
1610 #endif /* ASM_OUTPUT_REG_PUSH */
1611
1612   if (! NO_PROFILE_COUNTERS)
1613     {
1614       int align = MIN (BIGGEST_ALIGNMENT, LONG_TYPE_SIZE);
1615       switch_to_section (data_section);
1616       ASM_OUTPUT_ALIGN (file, floor_log2 (align / BITS_PER_UNIT));
1617       targetm.asm_out.internal_label (file, "LP", current_function_funcdef_no);
1618       assemble_integer (const0_rtx, LONG_TYPE_SIZE / BITS_PER_UNIT, align, 1);
1619     }
1620
1621   switch_to_section (current_function_section ());
1622
1623 #ifdef ASM_OUTPUT_REG_PUSH
1624   if (sval && REG_P (sval))
1625     ASM_OUTPUT_REG_PUSH (file, REGNO (sval));
1626   if (chain && REG_P (chain))
1627     ASM_OUTPUT_REG_PUSH (file, REGNO (chain));
1628 #endif
1629
1630   FUNCTION_PROFILER (file, current_function_funcdef_no);
1631
1632 #ifdef ASM_OUTPUT_REG_PUSH
1633   if (chain && REG_P (chain))
1634     ASM_OUTPUT_REG_POP (file, REGNO (chain));
1635   if (sval && REG_P (sval))
1636     ASM_OUTPUT_REG_POP (file, REGNO (sval));
1637 #endif
1638 }
1639
1640 /* Output assembler code for the end of a function.
1641    For clarity, args are same as those of `final_start_function'
1642    even though not all of them are needed.  */
1643
1644 void
1645 final_end_function (void)
1646 {
1647   app_disable ();
1648
1649   if (!DECL_IGNORED_P (current_function_decl))
1650     debug_hooks->end_function (high_function_linenum);
1651
1652   /* Finally, output the function epilogue:
1653      code to restore the stack frame and return to the caller.  */
1654   targetm.asm_out.function_epilogue (asm_out_file, get_frame_size ());
1655
1656   /* And debug output.  */
1657   if (!DECL_IGNORED_P (current_function_decl))
1658     debug_hooks->end_epilogue (last_linenum, last_filename);
1659
1660 #if defined (DWARF2_UNWIND_INFO)
1661   if (!dwarf2_debug_info_emitted_p (current_function_decl)
1662       && dwarf2out_do_frame ())
1663     dwarf2out_end_epilogue (last_linenum, last_filename);
1664 #endif
1665 }
1666 \f
1667 /* Output assembler code for some insns: all or part of a function.
1668    For description of args, see `final_start_function', above.  */
1669
1670 void
1671 final (rtx first, FILE *file, int optimize)
1672 {
1673   rtx insn;
1674   int max_uid = 0;
1675   int seen = 0;
1676
1677   last_ignored_compare = 0;
1678
1679   for (insn = first; insn; insn = NEXT_INSN (insn))
1680     {
1681       if (INSN_UID (insn) > max_uid)       /* Find largest UID.  */
1682         max_uid = INSN_UID (insn);
1683 #ifdef HAVE_cc0
1684       /* If CC tracking across branches is enabled, record the insn which
1685          jumps to each branch only reached from one place.  */
1686       if (optimize && JUMP_P (insn))
1687         {
1688           rtx lab = JUMP_LABEL (insn);
1689           if (lab && LABEL_NUSES (lab) == 1)
1690             {
1691               LABEL_REFS (lab) = insn;
1692             }
1693         }
1694 #endif
1695     }
1696
1697   init_recog ();
1698
1699   CC_STATUS_INIT;
1700
1701   /* Output the insns.  */
1702   for (insn = first; insn;)
1703     {
1704 #ifdef HAVE_ATTR_length
1705       if ((unsigned) INSN_UID (insn) >= INSN_ADDRESSES_SIZE ())
1706         {
1707           /* This can be triggered by bugs elsewhere in the compiler if
1708              new insns are created after init_insn_lengths is called.  */
1709           gcc_assert (NOTE_P (insn));
1710           insn_current_address = -1;
1711         }
1712       else
1713         insn_current_address = INSN_ADDRESSES (INSN_UID (insn));
1714 #endif /* HAVE_ATTR_length */
1715
1716       insn = final_scan_insn (insn, file, optimize, 0, &seen);
1717     }
1718 }
1719 \f
1720 const char *
1721 get_insn_template (int code, rtx insn)
1722 {
1723   switch (insn_data[code].output_format)
1724     {
1725     case INSN_OUTPUT_FORMAT_SINGLE:
1726       return insn_data[code].output.single;
1727     case INSN_OUTPUT_FORMAT_MULTI:
1728       return insn_data[code].output.multi[which_alternative];
1729     case INSN_OUTPUT_FORMAT_FUNCTION:
1730       gcc_assert (insn);
1731       return (*insn_data[code].output.function) (recog_data.operand, insn);
1732
1733     default:
1734       gcc_unreachable ();
1735     }
1736 }
1737
1738 /* Emit the appropriate declaration for an alternate-entry-point
1739    symbol represented by INSN, to FILE.  INSN is a CODE_LABEL with
1740    LABEL_KIND != LABEL_NORMAL.
1741
1742    The case fall-through in this function is intentional.  */
1743 static void
1744 output_alternate_entry_point (FILE *file, rtx insn)
1745 {
1746   const char *name = LABEL_NAME (insn);
1747
1748   switch (LABEL_KIND (insn))
1749     {
1750     case LABEL_WEAK_ENTRY:
1751 #ifdef ASM_WEAKEN_LABEL
1752       ASM_WEAKEN_LABEL (file, name);
1753 #endif
1754     case LABEL_GLOBAL_ENTRY:
1755       targetm.asm_out.globalize_label (file, name);
1756     case LABEL_STATIC_ENTRY:
1757 #ifdef ASM_OUTPUT_TYPE_DIRECTIVE
1758       ASM_OUTPUT_TYPE_DIRECTIVE (file, name, "function");
1759 #endif
1760       ASM_OUTPUT_LABEL (file, name);
1761       break;
1762
1763     case LABEL_NORMAL:
1764     default:
1765       gcc_unreachable ();
1766     }
1767 }
1768
1769 /* Given a CALL_INSN, find and return the nested CALL. */
1770 static rtx
1771 call_from_call_insn (rtx insn)
1772 {
1773   rtx x;
1774   gcc_assert (CALL_P (insn));
1775   x = PATTERN (insn);
1776
1777   while (GET_CODE (x) != CALL)
1778     {
1779       switch (GET_CODE (x))
1780         {
1781         default:
1782           gcc_unreachable ();
1783         case COND_EXEC:
1784           x = COND_EXEC_CODE (x);
1785           break;
1786         case PARALLEL:
1787           x = XVECEXP (x, 0, 0);
1788           break;
1789         case SET:
1790           x = XEXP (x, 1);
1791           break;
1792         }
1793     }
1794   return x;
1795 }
1796
1797 /* The final scan for one insn, INSN.
1798    Args are same as in `final', except that INSN
1799    is the insn being scanned.
1800    Value returned is the next insn to be scanned.
1801
1802    NOPEEPHOLES is the flag to disallow peephole processing (currently
1803    used for within delayed branch sequence output).
1804
1805    SEEN is used to track the end of the prologue, for emitting
1806    debug information.  We force the emission of a line note after
1807    both NOTE_INSN_PROLOGUE_END and NOTE_INSN_FUNCTION_BEG, or
1808    at the beginning of the second basic block, whichever comes
1809    first.  */
1810
1811 rtx
1812 final_scan_insn (rtx insn, FILE *file, int optimize ATTRIBUTE_UNUSED,
1813                  int nopeepholes ATTRIBUTE_UNUSED, int *seen)
1814 {
1815 #ifdef HAVE_cc0
1816   rtx set;
1817 #endif
1818   rtx next;
1819
1820   insn_counter++;
1821
1822   /* Ignore deleted insns.  These can occur when we split insns (due to a
1823      template of "#") while not optimizing.  */
1824   if (INSN_DELETED_P (insn))
1825     return NEXT_INSN (insn);
1826
1827   switch (GET_CODE (insn))
1828     {
1829     case NOTE:
1830       switch (NOTE_KIND (insn))
1831         {
1832         case NOTE_INSN_DELETED:
1833           break;
1834
1835         case NOTE_INSN_SWITCH_TEXT_SECTIONS:
1836           in_cold_section_p = !in_cold_section_p;
1837 #ifdef DWARF2_UNWIND_INFO
1838           if (dwarf2out_do_frame ())
1839             dwarf2out_switch_text_section ();
1840           else
1841 #endif
1842           if (!DECL_IGNORED_P (current_function_decl))
1843             debug_hooks->switch_text_section ();
1844
1845           switch_to_section (current_function_section ());
1846           break;
1847
1848         case NOTE_INSN_BASIC_BLOCK:
1849           if (targetm.asm_out.unwind_emit)
1850             targetm.asm_out.unwind_emit (asm_out_file, insn);
1851
1852           if (flag_debug_asm)
1853             fprintf (asm_out_file, "\t%s basic block %d\n",
1854                      ASM_COMMENT_START, NOTE_BASIC_BLOCK (insn)->index);
1855
1856           if ((*seen & (SEEN_EMITTED | SEEN_BB)) == SEEN_BB)
1857             {
1858               *seen |= SEEN_EMITTED;
1859               force_source_line = true;
1860             }
1861           else
1862             *seen |= SEEN_BB;
1863
1864           discriminator = NOTE_BASIC_BLOCK (insn)->discriminator;
1865
1866           break;
1867
1868         case NOTE_INSN_EH_REGION_BEG:
1869           ASM_OUTPUT_DEBUG_LABEL (asm_out_file, "LEHB",
1870                                   NOTE_EH_HANDLER (insn));
1871           break;
1872
1873         case NOTE_INSN_EH_REGION_END:
1874           ASM_OUTPUT_DEBUG_LABEL (asm_out_file, "LEHE",
1875                                   NOTE_EH_HANDLER (insn));
1876           break;
1877
1878         case NOTE_INSN_PROLOGUE_END:
1879           targetm.asm_out.function_end_prologue (file);
1880           profile_after_prologue (file);
1881
1882           if ((*seen & (SEEN_EMITTED | SEEN_NOTE)) == SEEN_NOTE)
1883             {
1884               *seen |= SEEN_EMITTED;
1885               force_source_line = true;
1886             }
1887           else
1888             *seen |= SEEN_NOTE;
1889
1890           break;
1891
1892         case NOTE_INSN_EPILOGUE_BEG:
1893 #if defined (DWARF2_UNWIND_INFO) && defined (HAVE_epilogue)
1894           if (dwarf2out_do_frame ())
1895             dwarf2out_cfi_begin_epilogue (insn);
1896 #endif
1897           (*debug_hooks->begin_epilogue) (last_linenum, last_filename);
1898           targetm.asm_out.function_begin_epilogue (file);
1899           break;
1900
1901         case NOTE_INSN_CFA_RESTORE_STATE:
1902 #if defined (DWARF2_UNWIND_INFO)
1903           dwarf2out_frame_debug_restore_state ();
1904 #endif
1905           break;
1906
1907         case NOTE_INSN_FUNCTION_BEG:
1908           app_disable ();
1909           if (!DECL_IGNORED_P (current_function_decl))
1910             debug_hooks->end_prologue (last_linenum, last_filename);
1911
1912           if ((*seen & (SEEN_EMITTED | SEEN_NOTE)) == SEEN_NOTE)
1913             {
1914               *seen |= SEEN_EMITTED;
1915               force_source_line = true;
1916             }
1917           else
1918             *seen |= SEEN_NOTE;
1919
1920           break;
1921
1922         case NOTE_INSN_BLOCK_BEG:
1923           if (debug_info_level == DINFO_LEVEL_NORMAL
1924               || debug_info_level == DINFO_LEVEL_VERBOSE
1925               || write_symbols == DWARF2_DEBUG
1926               || write_symbols == VMS_AND_DWARF2_DEBUG
1927               || write_symbols == VMS_DEBUG)
1928             {
1929               int n = BLOCK_NUMBER (NOTE_BLOCK (insn));
1930
1931               app_disable ();
1932               ++block_depth;
1933               high_block_linenum = last_linenum;
1934
1935               /* Output debugging info about the symbol-block beginning.  */
1936               if (!DECL_IGNORED_P (current_function_decl))
1937                 debug_hooks->begin_block (last_linenum, n);
1938
1939               /* Mark this block as output.  */
1940               TREE_ASM_WRITTEN (NOTE_BLOCK (insn)) = 1;
1941             }
1942           if (write_symbols == DBX_DEBUG
1943               || write_symbols == SDB_DEBUG)
1944             {
1945               location_t *locus_ptr
1946                 = block_nonartificial_location (NOTE_BLOCK (insn));
1947
1948               if (locus_ptr != NULL)
1949                 {
1950                   override_filename = LOCATION_FILE (*locus_ptr);
1951                   override_linenum = LOCATION_LINE (*locus_ptr);
1952                 }
1953             }
1954           break;
1955
1956         case NOTE_INSN_BLOCK_END:
1957           if (debug_info_level == DINFO_LEVEL_NORMAL
1958               || debug_info_level == DINFO_LEVEL_VERBOSE
1959               || write_symbols == DWARF2_DEBUG
1960               || write_symbols == VMS_AND_DWARF2_DEBUG
1961               || write_symbols == VMS_DEBUG)
1962             {
1963               int n = BLOCK_NUMBER (NOTE_BLOCK (insn));
1964
1965               app_disable ();
1966
1967               /* End of a symbol-block.  */
1968               --block_depth;
1969               gcc_assert (block_depth >= 0);
1970
1971               if (!DECL_IGNORED_P (current_function_decl))
1972                 debug_hooks->end_block (high_block_linenum, n);
1973             }
1974           if (write_symbols == DBX_DEBUG
1975               || write_symbols == SDB_DEBUG)
1976             {
1977               tree outer_block = BLOCK_SUPERCONTEXT (NOTE_BLOCK (insn));
1978               location_t *locus_ptr
1979                 = block_nonartificial_location (outer_block);
1980
1981               if (locus_ptr != NULL)
1982                 {
1983                   override_filename = LOCATION_FILE (*locus_ptr);
1984                   override_linenum = LOCATION_LINE (*locus_ptr);
1985                 }
1986               else
1987                 {
1988                   override_filename = NULL;
1989                   override_linenum = 0;
1990                 }
1991             }
1992           break;
1993
1994         case NOTE_INSN_DELETED_LABEL:
1995           /* Emit the label.  We may have deleted the CODE_LABEL because
1996              the label could be proved to be unreachable, though still
1997              referenced (in the form of having its address taken.  */
1998           ASM_OUTPUT_DEBUG_LABEL (file, "L", CODE_LABEL_NUMBER (insn));
1999           break;
2000
2001         case NOTE_INSN_VAR_LOCATION:
2002           if (!DECL_IGNORED_P (current_function_decl))
2003             debug_hooks->var_location (insn);
2004           break;
2005
2006         default:
2007           gcc_unreachable ();
2008           break;
2009         }
2010       break;
2011
2012     case BARRIER:
2013 #if defined (DWARF2_UNWIND_INFO)
2014       if (dwarf2out_do_frame ())
2015         dwarf2out_frame_debug (insn, false);
2016 #endif
2017       break;
2018
2019     case CODE_LABEL:
2020       /* The target port might emit labels in the output function for
2021          some insn, e.g. sh.c output_branchy_insn.  */
2022       if (CODE_LABEL_NUMBER (insn) <= max_labelno)
2023         {
2024           int align = LABEL_TO_ALIGNMENT (insn);
2025 #ifdef ASM_OUTPUT_MAX_SKIP_ALIGN
2026           int max_skip = LABEL_TO_MAX_SKIP (insn);
2027 #endif
2028
2029           if (align && NEXT_INSN (insn))
2030             {
2031 #ifdef ASM_OUTPUT_MAX_SKIP_ALIGN
2032               ASM_OUTPUT_MAX_SKIP_ALIGN (file, align, max_skip);
2033 #else
2034 #ifdef ASM_OUTPUT_ALIGN_WITH_NOP
2035               ASM_OUTPUT_ALIGN_WITH_NOP (file, align);
2036 #else
2037               ASM_OUTPUT_ALIGN (file, align);
2038 #endif
2039 #endif
2040             }
2041         }
2042       CC_STATUS_INIT;
2043
2044       if (!DECL_IGNORED_P (current_function_decl) && LABEL_NAME (insn))
2045         debug_hooks->label (insn);
2046
2047       app_disable ();
2048
2049       next = next_nonnote_insn (insn);
2050       /* If this label is followed by a jump-table, make sure we put
2051          the label in the read-only section.  Also possibly write the
2052          label and jump table together.  */
2053       if (next != 0 && JUMP_TABLE_DATA_P (next))
2054         {
2055 #if defined(ASM_OUTPUT_ADDR_VEC) || defined(ASM_OUTPUT_ADDR_DIFF_VEC)
2056           /* In this case, the case vector is being moved by the
2057              target, so don't output the label at all.  Leave that
2058              to the back end macros.  */
2059 #else
2060           if (! JUMP_TABLES_IN_TEXT_SECTION)
2061             {
2062               int log_align;
2063
2064               switch_to_section (targetm.asm_out.function_rodata_section
2065                                  (current_function_decl));
2066
2067 #ifdef ADDR_VEC_ALIGN
2068               log_align = ADDR_VEC_ALIGN (next);
2069 #else
2070               log_align = exact_log2 (BIGGEST_ALIGNMENT / BITS_PER_UNIT);
2071 #endif
2072               ASM_OUTPUT_ALIGN (file, log_align);
2073             }
2074           else
2075             switch_to_section (current_function_section ());
2076
2077 #ifdef ASM_OUTPUT_CASE_LABEL
2078           ASM_OUTPUT_CASE_LABEL (file, "L", CODE_LABEL_NUMBER (insn),
2079                                  next);
2080 #else
2081           targetm.asm_out.internal_label (file, "L", CODE_LABEL_NUMBER (insn));
2082 #endif
2083 #endif
2084           break;
2085         }
2086       if (LABEL_ALT_ENTRY_P (insn))
2087         output_alternate_entry_point (file, insn);
2088       else
2089         targetm.asm_out.internal_label (file, "L", CODE_LABEL_NUMBER (insn));
2090       break;
2091
2092     default:
2093       {
2094         rtx body = PATTERN (insn);
2095         int insn_code_number;
2096         const char *templ;
2097         bool is_stmt;
2098
2099         /* Reset this early so it is correct for ASM statements.  */
2100         current_insn_predicate = NULL_RTX;
2101
2102         /* An INSN, JUMP_INSN or CALL_INSN.
2103            First check for special kinds that recog doesn't recognize.  */
2104
2105         if (GET_CODE (body) == USE /* These are just declarations.  */
2106             || GET_CODE (body) == CLOBBER)
2107           break;
2108
2109 #ifdef HAVE_cc0
2110         {
2111           /* If there is a REG_CC_SETTER note on this insn, it means that
2112              the setting of the condition code was done in the delay slot
2113              of the insn that branched here.  So recover the cc status
2114              from the insn that set it.  */
2115
2116           rtx note = find_reg_note (insn, REG_CC_SETTER, NULL_RTX);
2117           if (note)
2118             {
2119               NOTICE_UPDATE_CC (PATTERN (XEXP (note, 0)), XEXP (note, 0));
2120               cc_prev_status = cc_status;
2121             }
2122         }
2123 #endif
2124
2125         /* Detect insns that are really jump-tables
2126            and output them as such.  */
2127
2128         if (GET_CODE (body) == ADDR_VEC || GET_CODE (body) == ADDR_DIFF_VEC)
2129           {
2130 #if !(defined(ASM_OUTPUT_ADDR_VEC) || defined(ASM_OUTPUT_ADDR_DIFF_VEC))
2131             int vlen, idx;
2132 #endif
2133
2134             if (! JUMP_TABLES_IN_TEXT_SECTION)
2135               switch_to_section (targetm.asm_out.function_rodata_section
2136                                  (current_function_decl));
2137             else
2138               switch_to_section (current_function_section ());
2139
2140             app_disable ();
2141
2142 #if defined(ASM_OUTPUT_ADDR_VEC) || defined(ASM_OUTPUT_ADDR_DIFF_VEC)
2143             if (GET_CODE (body) == ADDR_VEC)
2144               {
2145 #ifdef ASM_OUTPUT_ADDR_VEC
2146                 ASM_OUTPUT_ADDR_VEC (PREV_INSN (insn), body);
2147 #else
2148                 gcc_unreachable ();
2149 #endif
2150               }
2151             else
2152               {
2153 #ifdef ASM_OUTPUT_ADDR_DIFF_VEC
2154                 ASM_OUTPUT_ADDR_DIFF_VEC (PREV_INSN (insn), body);
2155 #else
2156                 gcc_unreachable ();
2157 #endif
2158               }
2159 #else
2160             vlen = XVECLEN (body, GET_CODE (body) == ADDR_DIFF_VEC);
2161             for (idx = 0; idx < vlen; idx++)
2162               {
2163                 if (GET_CODE (body) == ADDR_VEC)
2164                   {
2165 #ifdef ASM_OUTPUT_ADDR_VEC_ELT
2166                     ASM_OUTPUT_ADDR_VEC_ELT
2167                       (file, CODE_LABEL_NUMBER (XEXP (XVECEXP (body, 0, idx), 0)));
2168 #else
2169                     gcc_unreachable ();
2170 #endif
2171                   }
2172                 else
2173                   {
2174 #ifdef ASM_OUTPUT_ADDR_DIFF_ELT
2175                     ASM_OUTPUT_ADDR_DIFF_ELT
2176                       (file,
2177                        body,
2178                        CODE_LABEL_NUMBER (XEXP (XVECEXP (body, 1, idx), 0)),
2179                        CODE_LABEL_NUMBER (XEXP (XEXP (body, 0), 0)));
2180 #else
2181                     gcc_unreachable ();
2182 #endif
2183                   }
2184               }
2185 #ifdef ASM_OUTPUT_CASE_END
2186             ASM_OUTPUT_CASE_END (file,
2187                                  CODE_LABEL_NUMBER (PREV_INSN (insn)),
2188                                  insn);
2189 #endif
2190 #endif
2191
2192             switch_to_section (current_function_section ());
2193
2194             break;
2195           }
2196         /* Output this line note if it is the first or the last line
2197            note in a row.  */
2198         if (!DECL_IGNORED_P (current_function_decl)
2199             && notice_source_line (insn, &is_stmt))
2200           (*debug_hooks->source_line) (last_linenum, last_filename,
2201                                        last_discriminator, is_stmt);
2202
2203         if (GET_CODE (body) == ASM_INPUT)
2204           {
2205             const char *string = XSTR (body, 0);
2206
2207             /* There's no telling what that did to the condition codes.  */
2208             CC_STATUS_INIT;
2209
2210             if (string[0])
2211               {
2212                 expanded_location loc;
2213
2214                 app_enable ();
2215                 loc = expand_location (ASM_INPUT_SOURCE_LOCATION (body));
2216                 if (*loc.file && loc.line)
2217                   fprintf (asm_out_file, "%s %i \"%s\" 1\n",
2218                            ASM_COMMENT_START, loc.line, loc.file);
2219                 fprintf (asm_out_file, "\t%s\n", string);
2220 #if HAVE_AS_LINE_ZERO
2221                 if (*loc.file && loc.line)
2222                   fprintf (asm_out_file, "%s 0 \"\" 2\n", ASM_COMMENT_START);
2223 #endif
2224               }
2225             break;
2226           }
2227
2228         /* Detect `asm' construct with operands.  */
2229         if (asm_noperands (body) >= 0)
2230           {
2231             unsigned int noperands = asm_noperands (body);
2232             rtx *ops = XALLOCAVEC (rtx, noperands);
2233             const char *string;
2234             location_t loc;
2235             expanded_location expanded;
2236
2237             /* There's no telling what that did to the condition codes.  */
2238             CC_STATUS_INIT;
2239
2240             /* Get out the operand values.  */
2241             string = decode_asm_operands (body, ops, NULL, NULL, NULL, &loc);
2242             /* Inhibit dying on what would otherwise be compiler bugs.  */
2243             insn_noperands = noperands;
2244             this_is_asm_operands = insn;
2245             expanded = expand_location (loc);
2246
2247 #ifdef FINAL_PRESCAN_INSN
2248             FINAL_PRESCAN_INSN (insn, ops, insn_noperands);
2249 #endif
2250
2251             /* Output the insn using them.  */
2252             if (string[0])
2253               {
2254                 app_enable ();
2255                 if (expanded.file && expanded.line)
2256                   fprintf (asm_out_file, "%s %i \"%s\" 1\n",
2257                            ASM_COMMENT_START, expanded.line, expanded.file);
2258                 output_asm_insn (string, ops);
2259 #if HAVE_AS_LINE_ZERO
2260                 if (expanded.file && expanded.line)
2261                   fprintf (asm_out_file, "%s 0 \"\" 2\n", ASM_COMMENT_START);
2262 #endif
2263               }
2264
2265             if (targetm.asm_out.final_postscan_insn)
2266               targetm.asm_out.final_postscan_insn (file, insn, ops,
2267                                                    insn_noperands);
2268
2269             this_is_asm_operands = 0;
2270             break;
2271           }
2272
2273         app_disable ();
2274
2275         if (GET_CODE (body) == SEQUENCE)
2276           {
2277             /* A delayed-branch sequence */
2278             int i;
2279
2280             final_sequence = body;
2281
2282             /* Record the delay slots' frame information before the branch.
2283                This is needed for delayed calls: see execute_cfa_program().  */
2284 #if defined (DWARF2_UNWIND_INFO)
2285             if (dwarf2out_do_frame ())
2286               for (i = 1; i < XVECLEN (body, 0); i++)
2287                 dwarf2out_frame_debug (XVECEXP (body, 0, i), false);
2288 #endif
2289
2290             /* The first insn in this SEQUENCE might be a JUMP_INSN that will
2291                force the restoration of a comparison that was previously
2292                thought unnecessary.  If that happens, cancel this sequence
2293                and cause that insn to be restored.  */
2294
2295             next = final_scan_insn (XVECEXP (body, 0, 0), file, 0, 1, seen);
2296             if (next != XVECEXP (body, 0, 1))
2297               {
2298                 final_sequence = 0;
2299                 return next;
2300               }
2301
2302             for (i = 1; i < XVECLEN (body, 0); i++)
2303               {
2304                 rtx insn = XVECEXP (body, 0, i);
2305                 rtx next = NEXT_INSN (insn);
2306                 /* We loop in case any instruction in a delay slot gets
2307                    split.  */
2308                 do
2309                   insn = final_scan_insn (insn, file, 0, 1, seen);
2310                 while (insn != next);
2311               }
2312 #ifdef DBR_OUTPUT_SEQEND
2313             DBR_OUTPUT_SEQEND (file);
2314 #endif
2315             final_sequence = 0;
2316
2317             /* If the insn requiring the delay slot was a CALL_INSN, the
2318                insns in the delay slot are actually executed before the
2319                called function.  Hence we don't preserve any CC-setting
2320                actions in these insns and the CC must be marked as being
2321                clobbered by the function.  */
2322             if (CALL_P (XVECEXP (body, 0, 0)))
2323               {
2324                 CC_STATUS_INIT;
2325               }
2326             break;
2327           }
2328
2329         /* We have a real machine instruction as rtl.  */
2330
2331         body = PATTERN (insn);
2332
2333 #ifdef HAVE_cc0
2334         set = single_set (insn);
2335
2336         /* Check for redundant test and compare instructions
2337            (when the condition codes are already set up as desired).
2338            This is done only when optimizing; if not optimizing,
2339            it should be possible for the user to alter a variable
2340            with the debugger in between statements
2341            and the next statement should reexamine the variable
2342            to compute the condition codes.  */
2343
2344         if (optimize)
2345           {
2346             if (set
2347                 && GET_CODE (SET_DEST (set)) == CC0
2348                 && insn != last_ignored_compare)
2349               {
2350                 rtx src1, src2;
2351                 if (GET_CODE (SET_SRC (set)) == SUBREG)
2352                   SET_SRC (set) = alter_subreg (&SET_SRC (set));
2353
2354                 src1 = SET_SRC (set);
2355                 src2 = NULL_RTX;
2356                 if (GET_CODE (SET_SRC (set)) == COMPARE)
2357                   {
2358                     if (GET_CODE (XEXP (SET_SRC (set), 0)) == SUBREG)
2359                       XEXP (SET_SRC (set), 0)
2360                         = alter_subreg (&XEXP (SET_SRC (set), 0));
2361                     if (GET_CODE (XEXP (SET_SRC (set), 1)) == SUBREG)
2362                       XEXP (SET_SRC (set), 1)
2363                         = alter_subreg (&XEXP (SET_SRC (set), 1));
2364                     if (XEXP (SET_SRC (set), 1)
2365                         == CONST0_RTX (GET_MODE (XEXP (SET_SRC (set), 0))))
2366                       src2 = XEXP (SET_SRC (set), 0);
2367                   }
2368                 if ((cc_status.value1 != 0
2369                      && rtx_equal_p (src1, cc_status.value1))
2370                     || (cc_status.value2 != 0
2371                         && rtx_equal_p (src1, cc_status.value2))
2372                     || (src2 != 0 && cc_status.value1 != 0
2373                         && rtx_equal_p (src2, cc_status.value1))
2374                     || (src2 != 0 && cc_status.value2 != 0
2375                         && rtx_equal_p (src2, cc_status.value2)))
2376                   {
2377                     /* Don't delete insn if it has an addressing side-effect.  */
2378                     if (! FIND_REG_INC_NOTE (insn, NULL_RTX)
2379                         /* or if anything in it is volatile.  */
2380                         && ! volatile_refs_p (PATTERN (insn)))
2381                       {
2382                         /* We don't really delete the insn; just ignore it.  */
2383                         last_ignored_compare = insn;
2384                         break;
2385                       }
2386                   }
2387               }
2388           }
2389
2390         /* If this is a conditional branch, maybe modify it
2391            if the cc's are in a nonstandard state
2392            so that it accomplishes the same thing that it would
2393            do straightforwardly if the cc's were set up normally.  */
2394
2395         if (cc_status.flags != 0
2396             && JUMP_P (insn)
2397             && GET_CODE (body) == SET
2398             && SET_DEST (body) == pc_rtx
2399             && GET_CODE (SET_SRC (body)) == IF_THEN_ELSE
2400             && COMPARISON_P (XEXP (SET_SRC (body), 0))
2401             && XEXP (XEXP (SET_SRC (body), 0), 0) == cc0_rtx)
2402           {
2403             /* This function may alter the contents of its argument
2404                and clear some of the cc_status.flags bits.
2405                It may also return 1 meaning condition now always true
2406                or -1 meaning condition now always false
2407                or 2 meaning condition nontrivial but altered.  */
2408             int result = alter_cond (XEXP (SET_SRC (body), 0));
2409             /* If condition now has fixed value, replace the IF_THEN_ELSE
2410                with its then-operand or its else-operand.  */
2411             if (result == 1)
2412               SET_SRC (body) = XEXP (SET_SRC (body), 1);
2413             if (result == -1)
2414               SET_SRC (body) = XEXP (SET_SRC (body), 2);
2415
2416             /* The jump is now either unconditional or a no-op.
2417                If it has become a no-op, don't try to output it.
2418                (It would not be recognized.)  */
2419             if (SET_SRC (body) == pc_rtx)
2420               {
2421                 delete_insn (insn);
2422                 break;
2423               }
2424             else if (GET_CODE (SET_SRC (body)) == RETURN)
2425               /* Replace (set (pc) (return)) with (return).  */
2426               PATTERN (insn) = body = SET_SRC (body);
2427
2428             /* Rerecognize the instruction if it has changed.  */
2429             if (result != 0)
2430               INSN_CODE (insn) = -1;
2431           }
2432
2433         /* If this is a conditional trap, maybe modify it if the cc's
2434            are in a nonstandard state so that it accomplishes the same
2435            thing that it would do straightforwardly if the cc's were
2436            set up normally.  */
2437         if (cc_status.flags != 0
2438             && NONJUMP_INSN_P (insn)
2439             && GET_CODE (body) == TRAP_IF
2440             && COMPARISON_P (TRAP_CONDITION (body))
2441             && XEXP (TRAP_CONDITION (body), 0) == cc0_rtx)
2442           {
2443             /* This function may alter the contents of its argument
2444                and clear some of the cc_status.flags bits.
2445                It may also return 1 meaning condition now always true
2446                or -1 meaning condition now always false
2447                or 2 meaning condition nontrivial but altered.  */
2448             int result = alter_cond (TRAP_CONDITION (body));
2449
2450             /* If TRAP_CONDITION has become always false, delete the
2451                instruction.  */
2452             if (result == -1)
2453               {
2454                 delete_insn (insn);
2455                 break;
2456               }
2457
2458             /* If TRAP_CONDITION has become always true, replace
2459                TRAP_CONDITION with const_true_rtx.  */
2460             if (result == 1)
2461               TRAP_CONDITION (body) = const_true_rtx;
2462
2463             /* Rerecognize the instruction if it has changed.  */
2464             if (result != 0)
2465               INSN_CODE (insn) = -1;
2466           }
2467
2468         /* Make same adjustments to instructions that examine the
2469            condition codes without jumping and instructions that
2470            handle conditional moves (if this machine has either one).  */
2471
2472         if (cc_status.flags != 0
2473             && set != 0)
2474           {
2475             rtx cond_rtx, then_rtx, else_rtx;
2476
2477             if (!JUMP_P (insn)
2478                 && GET_CODE (SET_SRC (set)) == IF_THEN_ELSE)
2479               {
2480                 cond_rtx = XEXP (SET_SRC (set), 0);
2481                 then_rtx = XEXP (SET_SRC (set), 1);
2482                 else_rtx = XEXP (SET_SRC (set), 2);
2483               }
2484             else
2485               {
2486                 cond_rtx = SET_SRC (set);
2487                 then_rtx = const_true_rtx;
2488                 else_rtx = const0_rtx;
2489               }
2490
2491             switch (GET_CODE (cond_rtx))
2492               {
2493               case GTU:
2494               case GT:
2495               case LTU:
2496               case LT:
2497               case GEU:
2498               case GE:
2499               case LEU:
2500               case LE:
2501               case EQ:
2502               case NE:
2503                 {
2504                   int result;
2505                   if (XEXP (cond_rtx, 0) != cc0_rtx)
2506                     break;
2507                   result = alter_cond (cond_rtx);
2508                   if (result == 1)
2509                     validate_change (insn, &SET_SRC (set), then_rtx, 0);
2510                   else if (result == -1)
2511                     validate_change (insn, &SET_SRC (set), else_rtx, 0);
2512                   else if (result == 2)
2513                     INSN_CODE (insn) = -1;
2514                   if (SET_DEST (set) == SET_SRC (set))
2515                     delete_insn (insn);
2516                 }
2517                 break;
2518
2519               default:
2520                 break;
2521               }
2522           }
2523
2524 #endif
2525
2526 #ifdef HAVE_peephole
2527         /* Do machine-specific peephole optimizations if desired.  */
2528
2529         if (optimize && !flag_no_peephole && !nopeepholes)
2530           {
2531             rtx next = peephole (insn);
2532             /* When peepholing, if there were notes within the peephole,
2533                emit them before the peephole.  */
2534             if (next != 0 && next != NEXT_INSN (insn))
2535               {
2536                 rtx note, prev = PREV_INSN (insn);
2537
2538                 for (note = NEXT_INSN (insn); note != next;
2539                      note = NEXT_INSN (note))
2540                   final_scan_insn (note, file, optimize, nopeepholes, seen);
2541
2542                 /* Put the notes in the proper position for a later
2543                    rescan.  For example, the SH target can do this
2544                    when generating a far jump in a delayed branch
2545                    sequence.  */
2546                 note = NEXT_INSN (insn);
2547                 PREV_INSN (note) = prev;
2548                 NEXT_INSN (prev) = note;
2549                 NEXT_INSN (PREV_INSN (next)) = insn;
2550                 PREV_INSN (insn) = PREV_INSN (next);
2551                 NEXT_INSN (insn) = next;
2552                 PREV_INSN (next) = insn;
2553               }
2554
2555             /* PEEPHOLE might have changed this.  */
2556             body = PATTERN (insn);
2557           }
2558 #endif
2559
2560         /* Try to recognize the instruction.
2561            If successful, verify that the operands satisfy the
2562            constraints for the instruction.  Crash if they don't,
2563            since `reload' should have changed them so that they do.  */
2564
2565         insn_code_number = recog_memoized (insn);
2566         cleanup_subreg_operands (insn);
2567
2568         /* Dump the insn in the assembly for debugging.  */
2569         if (flag_dump_rtl_in_asm)
2570           {
2571             print_rtx_head = ASM_COMMENT_START;
2572             print_rtl_single (asm_out_file, insn);
2573             print_rtx_head = "";
2574           }
2575
2576         if (! constrain_operands_cached (1))
2577           fatal_insn_not_found (insn);
2578
2579         /* Some target machines need to prescan each insn before
2580            it is output.  */
2581
2582 #ifdef FINAL_PRESCAN_INSN
2583         FINAL_PRESCAN_INSN (insn, recog_data.operand, recog_data.n_operands);
2584 #endif
2585
2586         if (targetm.have_conditional_execution ()
2587             && GET_CODE (PATTERN (insn)) == COND_EXEC)
2588           current_insn_predicate = COND_EXEC_TEST (PATTERN (insn));
2589
2590 #ifdef HAVE_cc0
2591         cc_prev_status = cc_status;
2592
2593         /* Update `cc_status' for this instruction.
2594            The instruction's output routine may change it further.
2595            If the output routine for a jump insn needs to depend
2596            on the cc status, it should look at cc_prev_status.  */
2597
2598         NOTICE_UPDATE_CC (body, insn);
2599 #endif
2600
2601         current_output_insn = debug_insn = insn;
2602
2603 #if defined (DWARF2_UNWIND_INFO)
2604         if (CALL_P (insn) && dwarf2out_do_frame ())
2605           dwarf2out_frame_debug (insn, false);
2606 #endif
2607
2608         /* Find the proper template for this insn.  */
2609         templ = get_insn_template (insn_code_number, insn);
2610
2611         /* If the C code returns 0, it means that it is a jump insn
2612            which follows a deleted test insn, and that test insn
2613            needs to be reinserted.  */
2614         if (templ == 0)
2615           {
2616             rtx prev;
2617
2618             gcc_assert (prev_nonnote_insn (insn) == last_ignored_compare);
2619
2620             /* We have already processed the notes between the setter and
2621                the user.  Make sure we don't process them again, this is
2622                particularly important if one of the notes is a block
2623                scope note or an EH note.  */
2624             for (prev = insn;
2625                  prev != last_ignored_compare;
2626                  prev = PREV_INSN (prev))
2627               {
2628                 if (NOTE_P (prev))
2629                   delete_insn (prev);   /* Use delete_note.  */
2630               }
2631
2632             return prev;
2633           }
2634
2635         /* If the template is the string "#", it means that this insn must
2636            be split.  */
2637         if (templ[0] == '#' && templ[1] == '\0')
2638           {
2639             rtx new_rtx = try_split (body, insn, 0);
2640
2641             /* If we didn't split the insn, go away.  */
2642             if (new_rtx == insn && PATTERN (new_rtx) == body)
2643               fatal_insn ("could not split insn", insn);
2644
2645 #ifdef HAVE_ATTR_length
2646             /* This instruction should have been split in shorten_branches,
2647                to ensure that we would have valid length info for the
2648                splitees.  */
2649             gcc_unreachable ();
2650 #endif
2651
2652             return new_rtx;
2653           }
2654
2655         /* ??? This will put the directives in the wrong place if
2656            get_insn_template outputs assembly directly.  However calling it
2657            before get_insn_template breaks if the insns is split.  */
2658         if (targetm.asm_out.unwind_emit_before_insn
2659             && targetm.asm_out.unwind_emit)
2660           targetm.asm_out.unwind_emit (asm_out_file, insn);
2661
2662         if (CALL_P (insn))
2663           {
2664             rtx x = call_from_call_insn (insn);
2665             x = XEXP (x, 0);
2666             if (x && MEM_P (x) && GET_CODE (XEXP (x, 0)) == SYMBOL_REF)
2667               {
2668                 tree t;
2669                 x = XEXP (x, 0);
2670                 t = SYMBOL_REF_DECL (x);
2671                 if (t)
2672                   assemble_external (t);
2673               }
2674           }
2675
2676         /* Output assembler code from the template.  */
2677         output_asm_insn (templ, recog_data.operand);
2678
2679         /* Record point-of-call information for ICF debugging.  */
2680         if (flag_enable_icf_debug && CALL_P (insn))
2681           {
2682             rtx x = call_from_call_insn (insn);
2683             x = XEXP (x, 0);
2684             if (x && MEM_P (x))
2685               {
2686                 if (GET_CODE (XEXP (x, 0)) == SYMBOL_REF)
2687                   {
2688                     tree t;
2689                     x = XEXP (x, 0);
2690                     t = SYMBOL_REF_DECL (x);
2691                     if (t)
2692                       (*debug_hooks->direct_call) (t);
2693                   }
2694                 else
2695                   (*debug_hooks->virtual_call) (INSN_UID (insn));
2696               }
2697           }
2698
2699         /* Some target machines need to postscan each insn after
2700            it is output.  */
2701         if (targetm.asm_out.final_postscan_insn)
2702           targetm.asm_out.final_postscan_insn (file, insn, recog_data.operand,
2703                                                recog_data.n_operands);
2704
2705         /* If necessary, report the effect that the instruction has on
2706            the unwind info.   We've already done this for delay slots
2707            and call instructions.  */
2708 #if defined (DWARF2_UNWIND_INFO)
2709         if (final_sequence == 0
2710 #if !defined (HAVE_prologue)
2711             && !ACCUMULATE_OUTGOING_ARGS
2712 #endif
2713             && dwarf2out_do_frame ())
2714           dwarf2out_frame_debug (insn, true);
2715 #endif
2716
2717         if (!targetm.asm_out.unwind_emit_before_insn
2718             && targetm.asm_out.unwind_emit)
2719           targetm.asm_out.unwind_emit (asm_out_file, insn);
2720
2721         current_output_insn = debug_insn = 0;
2722       }
2723     }
2724   return NEXT_INSN (insn);
2725 }
2726 \f
2727 /* Return whether a source line note needs to be emitted before INSN.
2728    Sets IS_STMT to TRUE if the line should be marked as a possible
2729    breakpoint location.  */
2730
2731 static bool
2732 notice_source_line (rtx insn, bool *is_stmt)
2733 {
2734   const char *filename;
2735   int linenum;
2736
2737   if (override_filename)
2738     {
2739       filename = override_filename;
2740       linenum = override_linenum;
2741     }
2742   else
2743     {
2744       filename = insn_file (insn);
2745       linenum = insn_line (insn);
2746     }
2747
2748   if (filename == NULL)
2749     return false;
2750
2751   if (force_source_line
2752       || filename != last_filename
2753       || last_linenum != linenum)
2754     {
2755       force_source_line = false;
2756       last_filename = filename;
2757       last_linenum = linenum;
2758       last_discriminator = discriminator;
2759       *is_stmt = true;
2760       high_block_linenum = MAX (last_linenum, high_block_linenum);
2761       high_function_linenum = MAX (last_linenum, high_function_linenum);
2762       return true;
2763     }
2764
2765   if (SUPPORTS_DISCRIMINATOR && last_discriminator != discriminator)
2766     {
2767       /* If the discriminator changed, but the line number did not,
2768          output the line table entry with is_stmt false so the
2769          debugger does not treat this as a breakpoint location.  */
2770       last_discriminator = discriminator;
2771       *is_stmt = false;
2772       return true;
2773     }
2774
2775   return false;
2776 }
2777 \f
2778 /* For each operand in INSN, simplify (subreg (reg)) so that it refers
2779    directly to the desired hard register.  */
2780
2781 void
2782 cleanup_subreg_operands (rtx insn)
2783 {
2784   int i;
2785   bool changed = false;
2786   extract_insn_cached (insn);
2787   for (i = 0; i < recog_data.n_operands; i++)
2788     {
2789       /* The following test cannot use recog_data.operand when testing
2790          for a SUBREG: the underlying object might have been changed
2791          already if we are inside a match_operator expression that
2792          matches the else clause.  Instead we test the underlying
2793          expression directly.  */
2794       if (GET_CODE (*recog_data.operand_loc[i]) == SUBREG)
2795         {
2796           recog_data.operand[i] = alter_subreg (recog_data.operand_loc[i]);
2797           changed = true;
2798         }
2799       else if (GET_CODE (recog_data.operand[i]) == PLUS
2800                || GET_CODE (recog_data.operand[i]) == MULT
2801                || MEM_P (recog_data.operand[i]))
2802         recog_data.operand[i] = walk_alter_subreg (recog_data.operand_loc[i], &changed);
2803     }
2804
2805   for (i = 0; i < recog_data.n_dups; i++)
2806     {
2807       if (GET_CODE (*recog_data.dup_loc[i]) == SUBREG)
2808         {
2809           *recog_data.dup_loc[i] = alter_subreg (recog_data.dup_loc[i]);
2810           changed = true;
2811         }
2812       else if (GET_CODE (*recog_data.dup_loc[i]) == PLUS
2813                || GET_CODE (*recog_data.dup_loc[i]) == MULT
2814                || MEM_P (*recog_data.dup_loc[i]))
2815         *recog_data.dup_loc[i] = walk_alter_subreg (recog_data.dup_loc[i], &changed);
2816     }
2817   if (changed)
2818     df_insn_rescan (insn);
2819 }
2820
2821 /* If X is a SUBREG, replace it with a REG or a MEM,
2822    based on the thing it is a subreg of.  */
2823
2824 rtx
2825 alter_subreg (rtx *xp)
2826 {
2827   rtx x = *xp;
2828   rtx y = SUBREG_REG (x);
2829
2830   /* simplify_subreg does not remove subreg from volatile references.
2831      We are required to.  */
2832   if (MEM_P (y))
2833     {
2834       int offset = SUBREG_BYTE (x);
2835
2836       /* For paradoxical subregs on big-endian machines, SUBREG_BYTE
2837          contains 0 instead of the proper offset.  See simplify_subreg.  */
2838       if (offset == 0
2839           && GET_MODE_SIZE (GET_MODE (y)) < GET_MODE_SIZE (GET_MODE (x)))
2840         {
2841           int difference = GET_MODE_SIZE (GET_MODE (y))
2842                            - GET_MODE_SIZE (GET_MODE (x));
2843           if (WORDS_BIG_ENDIAN)
2844             offset += (difference / UNITS_PER_WORD) * UNITS_PER_WORD;
2845           if (BYTES_BIG_ENDIAN)
2846             offset += difference % UNITS_PER_WORD;
2847         }
2848
2849       *xp = adjust_address (y, GET_MODE (x), offset);
2850     }
2851   else
2852     {
2853       rtx new_rtx = simplify_subreg (GET_MODE (x), y, GET_MODE (y),
2854                                  SUBREG_BYTE (x));
2855
2856       if (new_rtx != 0)
2857         *xp = new_rtx;
2858       else if (REG_P (y))
2859         {
2860           /* Simplify_subreg can't handle some REG cases, but we have to.  */
2861           unsigned int regno;
2862           HOST_WIDE_INT offset;
2863
2864           regno = subreg_regno (x);
2865           if (subreg_lowpart_p (x))
2866             offset = byte_lowpart_offset (GET_MODE (x), GET_MODE (y));
2867           else
2868             offset = SUBREG_BYTE (x);
2869           *xp = gen_rtx_REG_offset (y, GET_MODE (x), regno, offset);
2870         }
2871     }
2872
2873   return *xp;
2874 }
2875
2876 /* Do alter_subreg on all the SUBREGs contained in X.  */
2877
2878 static rtx
2879 walk_alter_subreg (rtx *xp, bool *changed)
2880 {
2881   rtx x = *xp;
2882   switch (GET_CODE (x))
2883     {
2884     case PLUS:
2885     case MULT:
2886     case AND:
2887       XEXP (x, 0) = walk_alter_subreg (&XEXP (x, 0), changed);
2888       XEXP (x, 1) = walk_alter_subreg (&XEXP (x, 1), changed);
2889       break;
2890
2891     case MEM:
2892     case ZERO_EXTEND:
2893       XEXP (x, 0) = walk_alter_subreg (&XEXP (x, 0), changed);
2894       break;
2895
2896     case SUBREG:
2897       *changed = true;
2898       return alter_subreg (xp);
2899
2900     default:
2901       break;
2902     }
2903
2904   return *xp;
2905 }
2906 \f
2907 #ifdef HAVE_cc0
2908
2909 /* Given BODY, the body of a jump instruction, alter the jump condition
2910    as required by the bits that are set in cc_status.flags.
2911    Not all of the bits there can be handled at this level in all cases.
2912
2913    The value is normally 0.
2914    1 means that the condition has become always true.
2915    -1 means that the condition has become always false.
2916    2 means that COND has been altered.  */
2917
2918 static int
2919 alter_cond (rtx cond)
2920 {
2921   int value = 0;
2922
2923   if (cc_status.flags & CC_REVERSED)
2924     {
2925       value = 2;
2926       PUT_CODE (cond, swap_condition (GET_CODE (cond)));
2927     }
2928
2929   if (cc_status.flags & CC_INVERTED)
2930     {
2931       value = 2;
2932       PUT_CODE (cond, reverse_condition (GET_CODE (cond)));
2933     }
2934
2935   if (cc_status.flags & CC_NOT_POSITIVE)
2936     switch (GET_CODE (cond))
2937       {
2938       case LE:
2939       case LEU:
2940       case GEU:
2941         /* Jump becomes unconditional.  */
2942         return 1;
2943
2944       case GT:
2945       case GTU:
2946       case LTU:
2947         /* Jump becomes no-op.  */
2948         return -1;
2949
2950       case GE:
2951         PUT_CODE (cond, EQ);
2952         value = 2;
2953         break;
2954
2955       case LT:
2956         PUT_CODE (cond, NE);
2957         value = 2;
2958         break;
2959
2960       default:
2961         break;
2962       }
2963
2964   if (cc_status.flags & CC_NOT_NEGATIVE)
2965     switch (GET_CODE (cond))
2966       {
2967       case GE:
2968       case GEU:
2969         /* Jump becomes unconditional.  */
2970         return 1;
2971
2972       case LT:
2973       case LTU:
2974         /* Jump becomes no-op.  */
2975         return -1;
2976
2977       case LE:
2978       case LEU:
2979         PUT_CODE (cond, EQ);
2980         value = 2;
2981         break;
2982
2983       case GT:
2984       case GTU:
2985         PUT_CODE (cond, NE);
2986         value = 2;
2987         break;
2988
2989       default:
2990         break;
2991       }
2992
2993   if (cc_status.flags & CC_NO_OVERFLOW)
2994     switch (GET_CODE (cond))
2995       {
2996       case GEU:
2997         /* Jump becomes unconditional.  */
2998         return 1;
2999
3000       case LEU:
3001         PUT_CODE (cond, EQ);
3002         value = 2;
3003         break;
3004
3005       case GTU:
3006         PUT_CODE (cond, NE);
3007         value = 2;
3008         break;
3009
3010       case LTU:
3011         /* Jump becomes no-op.  */
3012         return -1;
3013
3014       default:
3015         break;
3016       }
3017
3018   if (cc_status.flags & (CC_Z_IN_NOT_N | CC_Z_IN_N))
3019     switch (GET_CODE (cond))
3020       {
3021       default:
3022         gcc_unreachable ();
3023
3024       case NE:
3025         PUT_CODE (cond, cc_status.flags & CC_Z_IN_N ? GE : LT);
3026         value = 2;
3027         break;
3028
3029       case EQ:
3030         PUT_CODE (cond, cc_status.flags & CC_Z_IN_N ? LT : GE);
3031         value = 2;
3032         break;
3033       }
3034
3035   if (cc_status.flags & CC_NOT_SIGNED)
3036     /* The flags are valid if signed condition operators are converted
3037        to unsigned.  */
3038     switch (GET_CODE (cond))
3039       {
3040       case LE:
3041         PUT_CODE (cond, LEU);
3042         value = 2;
3043         break;
3044
3045       case LT:
3046         PUT_CODE (cond, LTU);
3047         value = 2;
3048         break;
3049
3050       case GT:
3051         PUT_CODE (cond, GTU);
3052         value = 2;
3053         break;
3054
3055       case GE:
3056         PUT_CODE (cond, GEU);
3057         value = 2;
3058         break;
3059
3060       default:
3061         break;
3062       }
3063
3064   return value;
3065 }
3066 #endif
3067 \f
3068 /* Report inconsistency between the assembler template and the operands.
3069    In an `asm', it's the user's fault; otherwise, the compiler's fault.  */
3070
3071 void
3072 output_operand_lossage (const char *cmsgid, ...)
3073 {
3074   char *fmt_string;
3075   char *new_message;
3076   const char *pfx_str;
3077   va_list ap;
3078
3079   va_start (ap, cmsgid);
3080
3081   pfx_str = this_is_asm_operands ? _("invalid 'asm': ") : "output_operand: ";
3082   asprintf (&fmt_string, "%s%s", pfx_str, _(cmsgid));
3083   vasprintf (&new_message, fmt_string, ap);
3084
3085   if (this_is_asm_operands)
3086     error_for_asm (this_is_asm_operands, "%s", new_message);
3087   else
3088     internal_error ("%s", new_message);
3089
3090   free (fmt_string);
3091   free (new_message);
3092   va_end (ap);
3093 }
3094 \f
3095 /* Output of assembler code from a template, and its subroutines.  */
3096
3097 /* Annotate the assembly with a comment describing the pattern and
3098    alternative used.  */
3099
3100 static void
3101 output_asm_name (void)
3102 {
3103   if (debug_insn)
3104     {
3105       int num = INSN_CODE (debug_insn);
3106       fprintf (asm_out_file, "\t%s %d\t%s",
3107                ASM_COMMENT_START, INSN_UID (debug_insn),
3108                insn_data[num].name);
3109       if (insn_data[num].n_alternatives > 1)
3110         fprintf (asm_out_file, "/%d", which_alternative + 1);
3111 #ifdef HAVE_ATTR_length
3112       fprintf (asm_out_file, "\t[length = %d]",
3113                get_attr_length (debug_insn));
3114 #endif
3115       /* Clear this so only the first assembler insn
3116          of any rtl insn will get the special comment for -dp.  */
3117       debug_insn = 0;
3118     }
3119 }
3120
3121 /* If OP is a REG or MEM and we can find a MEM_EXPR corresponding to it
3122    or its address, return that expr .  Set *PADDRESSP to 1 if the expr
3123    corresponds to the address of the object and 0 if to the object.  */
3124
3125 static tree
3126 get_mem_expr_from_op (rtx op, int *paddressp)
3127 {
3128   tree expr;
3129   int inner_addressp;
3130
3131   *paddressp = 0;
3132
3133   if (REG_P (op))
3134     return REG_EXPR (op);
3135   else if (!MEM_P (op))
3136     return 0;
3137
3138   if (MEM_EXPR (op) != 0)
3139     return MEM_EXPR (op);
3140
3141   /* Otherwise we have an address, so indicate it and look at the address.  */
3142   *paddressp = 1;
3143   op = XEXP (op, 0);
3144
3145   /* First check if we have a decl for the address, then look at the right side
3146      if it is a PLUS.  Otherwise, strip off arithmetic and keep looking.
3147      But don't allow the address to itself be indirect.  */
3148   if ((expr = get_mem_expr_from_op (op, &inner_addressp)) && ! inner_addressp)
3149     return expr;
3150   else if (GET_CODE (op) == PLUS
3151            && (expr = get_mem_expr_from_op (XEXP (op, 1), &inner_addressp)))
3152     return expr;
3153
3154   while (UNARY_P (op)
3155          || GET_RTX_CLASS (GET_CODE (op)) == RTX_BIN_ARITH)
3156     op = XEXP (op, 0);
3157
3158   expr = get_mem_expr_from_op (op, &inner_addressp);
3159   return inner_addressp ? 0 : expr;
3160 }
3161
3162 /* Output operand names for assembler instructions.  OPERANDS is the
3163    operand vector, OPORDER is the order to write the operands, and NOPS
3164    is the number of operands to write.  */
3165
3166 static void
3167 output_asm_operand_names (rtx *operands, int *oporder, int nops)
3168 {
3169   int wrote = 0;
3170   int i;
3171
3172   for (i = 0; i < nops; i++)
3173     {
3174       int addressp;
3175       rtx op = operands[oporder[i]];
3176       tree expr = get_mem_expr_from_op (op, &addressp);
3177
3178       fprintf (asm_out_file, "%c%s",
3179                wrote ? ',' : '\t', wrote ? "" : ASM_COMMENT_START);
3180       wrote = 1;
3181       if (expr)
3182         {
3183           fprintf (asm_out_file, "%s",
3184                    addressp ? "*" : "");
3185           print_mem_expr (asm_out_file, expr);
3186           wrote = 1;
3187         }
3188       else if (REG_P (op) && ORIGINAL_REGNO (op)
3189                && ORIGINAL_REGNO (op) != REGNO (op))
3190         fprintf (asm_out_file, " tmp%i", ORIGINAL_REGNO (op));
3191     }
3192 }
3193
3194 /* Output text from TEMPLATE to the assembler output file,
3195    obeying %-directions to substitute operands taken from
3196    the vector OPERANDS.
3197
3198    %N (for N a digit) means print operand N in usual manner.
3199    %lN means require operand N to be a CODE_LABEL or LABEL_REF
3200       and print the label name with no punctuation.
3201    %cN means require operand N to be a constant
3202       and print the constant expression with no punctuation.
3203    %aN means expect operand N to be a memory address
3204       (not a memory reference!) and print a reference
3205       to that address.
3206    %nN means expect operand N to be a constant
3207       and print a constant expression for minus the value
3208       of the operand, with no other punctuation.  */
3209
3210 void
3211 output_asm_insn (const char *templ, rtx *operands)
3212 {
3213   const char *p;
3214   int c;
3215 #ifdef ASSEMBLER_DIALECT
3216   int dialect = 0;
3217 #endif
3218   int oporder[MAX_RECOG_OPERANDS];
3219   char opoutput[MAX_RECOG_OPERANDS];
3220   int ops = 0;
3221
3222   /* An insn may return a null string template
3223      in a case where no assembler code is needed.  */
3224   if (*templ == 0)
3225     return;
3226
3227   memset (opoutput, 0, sizeof opoutput);
3228   p = templ;
3229   putc ('\t', asm_out_file);
3230
3231 #ifdef ASM_OUTPUT_OPCODE
3232   ASM_OUTPUT_OPCODE (asm_out_file, p);
3233 #endif
3234
3235   while ((c = *p++))
3236     switch (c)
3237       {
3238       case '\n':
3239         if (flag_verbose_asm)
3240           output_asm_operand_names (operands, oporder, ops);
3241         if (flag_print_asm_name)
3242           output_asm_name ();
3243
3244         ops = 0;
3245         memset (opoutput, 0, sizeof opoutput);
3246
3247         putc (c, asm_out_file);
3248 #ifdef ASM_OUTPUT_OPCODE
3249         while ((c = *p) == '\t')
3250           {
3251             putc (c, asm_out_file);
3252             p++;
3253           }
3254         ASM_OUTPUT_OPCODE (asm_out_file, p);
3255 #endif
3256         break;
3257
3258 #ifdef ASSEMBLER_DIALECT
3259       case '{':
3260         {
3261           int i;
3262
3263           if (dialect)
3264             output_operand_lossage ("nested assembly dialect alternatives");
3265           else
3266             dialect = 1;
3267
3268           /* If we want the first dialect, do nothing.  Otherwise, skip
3269              DIALECT_NUMBER of strings ending with '|'.  */
3270           for (i = 0; i < dialect_number; i++)
3271             {
3272               while (*p && *p != '}' && *p++ != '|')
3273                 ;
3274               if (*p == '}')
3275                 break;
3276               if (*p == '|')
3277                 p++;
3278             }
3279
3280           if (*p == '\0')
3281             output_operand_lossage ("unterminated assembly dialect alternative");
3282         }
3283         break;
3284
3285       case '|':
3286         if (dialect)
3287           {
3288             /* Skip to close brace.  */
3289             do
3290               {
3291                 if (*p == '\0')
3292                   {
3293                     output_operand_lossage ("unterminated assembly dialect alternative");
3294                     break;
3295                   }
3296               }
3297             while (*p++ != '}');
3298             dialect = 0;
3299           }
3300         else
3301           putc (c, asm_out_file);
3302         break;
3303
3304       case '}':
3305         if (! dialect)
3306           putc (c, asm_out_file);
3307         dialect = 0;
3308         break;
3309 #endif
3310
3311       case '%':
3312         /* %% outputs a single %.  */
3313         if (*p == '%')
3314           {
3315             p++;
3316             putc (c, asm_out_file);
3317           }
3318         /* %= outputs a number which is unique to each insn in the entire
3319            compilation.  This is useful for making local labels that are
3320            referred to more than once in a given insn.  */
3321         else if (*p == '=')
3322           {
3323             p++;
3324             fprintf (asm_out_file, "%d", insn_counter);
3325           }
3326         /* % followed by a letter and some digits
3327            outputs an operand in a special way depending on the letter.
3328            Letters `acln' are implemented directly.
3329            Other letters are passed to `output_operand' so that
3330            the TARGET_PRINT_OPERAND hook can define them.  */
3331         else if (ISALPHA (*p))
3332           {
3333             int letter = *p++;
3334             unsigned long opnum;
3335             char *endptr;
3336
3337             opnum = strtoul (p, &endptr, 10);
3338
3339             if (endptr == p)
3340               output_operand_lossage ("operand number missing "
3341                                       "after %%-letter");
3342             else if (this_is_asm_operands && opnum >= insn_noperands)
3343               output_operand_lossage ("operand number out of range");
3344             else if (letter == 'l')
3345               output_asm_label (operands[opnum]);
3346             else if (letter == 'a')
3347               output_address (operands[opnum]);
3348             else if (letter == 'c')
3349               {
3350                 if (CONSTANT_ADDRESS_P (operands[opnum]))
3351                   output_addr_const (asm_out_file, operands[opnum]);
3352                 else
3353                   output_operand (operands[opnum], 'c');
3354               }
3355             else if (letter == 'n')
3356               {
3357                 if (CONST_INT_P (operands[opnum]))
3358                   fprintf (asm_out_file, HOST_WIDE_INT_PRINT_DEC,
3359                            - INTVAL (operands[opnum]));
3360                 else
3361                   {
3362                     putc ('-', asm_out_file);
3363                     output_addr_const (asm_out_file, operands[opnum]);
3364                   }
3365               }
3366             else
3367               output_operand (operands[opnum], letter);
3368
3369             if (!opoutput[opnum])
3370               oporder[ops++] = opnum;
3371             opoutput[opnum] = 1;
3372
3373             p = endptr;
3374             c = *p;
3375           }
3376         /* % followed by a digit outputs an operand the default way.  */
3377         else if (ISDIGIT (*p))
3378           {
3379             unsigned long opnum;
3380             char *endptr;
3381
3382             opnum = strtoul (p, &endptr, 10);
3383             if (this_is_asm_operands && opnum >= insn_noperands)
3384               output_operand_lossage ("operand number out of range");
3385             else
3386               output_operand (operands[opnum], 0);
3387
3388             if (!opoutput[opnum])
3389               oporder[ops++] = opnum;
3390             opoutput[opnum] = 1;
3391
3392             p = endptr;
3393             c = *p;
3394           }
3395         /* % followed by punctuation: output something for that
3396            punctuation character alone, with no operand.  The
3397            TARGET_PRINT_OPERAND hook decides what is actually done.  */
3398         else if (targetm.asm_out.print_operand_punct_valid_p ((unsigned char) *p))
3399           output_operand (NULL_RTX, *p++);
3400         else
3401           output_operand_lossage ("invalid %%-code");
3402         break;
3403
3404       default:
3405         putc (c, asm_out_file);
3406       }
3407
3408   /* Write out the variable names for operands, if we know them.  */
3409   if (flag_verbose_asm)
3410     output_asm_operand_names (operands, oporder, ops);
3411   if (flag_print_asm_name)
3412     output_asm_name ();
3413
3414   putc ('\n', asm_out_file);
3415 }
3416 \f
3417 /* Output a LABEL_REF, or a bare CODE_LABEL, as an assembler symbol.  */
3418
3419 void
3420 output_asm_label (rtx x)
3421 {
3422   char buf[256];
3423
3424   if (GET_CODE (x) == LABEL_REF)
3425     x = XEXP (x, 0);
3426   if (LABEL_P (x)
3427       || (NOTE_P (x)
3428           && NOTE_KIND (x) == NOTE_INSN_DELETED_LABEL))
3429     ASM_GENERATE_INTERNAL_LABEL (buf, "L", CODE_LABEL_NUMBER (x));
3430   else
3431     output_operand_lossage ("'%%l' operand isn't a label");
3432
3433   assemble_name (asm_out_file, buf);
3434 }
3435
3436 /* Helper rtx-iteration-function for mark_symbol_refs_as_used and
3437    output_operand.  Marks SYMBOL_REFs as referenced through use of
3438    assemble_external.  */
3439
3440 static int
3441 mark_symbol_ref_as_used (rtx *xp, void *dummy ATTRIBUTE_UNUSED)
3442 {
3443   rtx x = *xp;
3444
3445   /* If we have a used symbol, we may have to emit assembly
3446      annotations corresponding to whether the symbol is external, weak
3447      or has non-default visibility.  */
3448   if (GET_CODE (x) == SYMBOL_REF)
3449     {
3450       tree t;
3451
3452       t = SYMBOL_REF_DECL (x);
3453       if (t)
3454         assemble_external (t);
3455
3456       return -1;
3457     }
3458
3459   return 0;
3460 }
3461
3462 /* Marks SYMBOL_REFs in x as referenced through use of assemble_external.  */
3463
3464 void
3465 mark_symbol_refs_as_used (rtx x)
3466 {
3467   for_each_rtx (&x, mark_symbol_ref_as_used, NULL);
3468 }
3469
3470 /* Print operand X using machine-dependent assembler syntax.
3471    CODE is a non-digit that preceded the operand-number in the % spec,
3472    such as 'z' if the spec was `%z3'.  CODE is 0 if there was no char
3473    between the % and the digits.
3474    When CODE is a non-letter, X is 0.
3475
3476    The meanings of the letters are machine-dependent and controlled
3477    by TARGET_PRINT_OPERAND.  */
3478
3479 void
3480 output_operand (rtx x, int code ATTRIBUTE_UNUSED)
3481 {
3482   if (x && GET_CODE (x) == SUBREG)
3483     x = alter_subreg (&x);
3484
3485   /* X must not be a pseudo reg.  */
3486   gcc_assert (!x || !REG_P (x) || REGNO (x) < FIRST_PSEUDO_REGISTER);
3487
3488   targetm.asm_out.print_operand (asm_out_file, x, code);
3489
3490   if (x == NULL_RTX)
3491     return;
3492
3493   for_each_rtx (&x, mark_symbol_ref_as_used, NULL);
3494 }
3495
3496 /* Print a memory reference operand for address X using
3497    machine-dependent assembler syntax.  */
3498
3499 void
3500 output_address (rtx x)
3501 {
3502   bool changed = false;
3503   walk_alter_subreg (&x, &changed);
3504   targetm.asm_out.print_operand_address (asm_out_file, x);
3505 }
3506 \f
3507 /* Print an integer constant expression in assembler syntax.
3508    Addition and subtraction are the only arithmetic
3509    that may appear in these expressions.  */
3510
3511 void
3512 output_addr_const (FILE *file, rtx x)
3513 {
3514   char buf[256];
3515
3516  restart:
3517   switch (GET_CODE (x))
3518     {
3519     case PC:
3520       putc ('.', file);
3521       break;
3522
3523     case SYMBOL_REF:
3524       if (SYMBOL_REF_DECL (x))
3525         assemble_external (SYMBOL_REF_DECL (x));
3526 #ifdef ASM_OUTPUT_SYMBOL_REF
3527       ASM_OUTPUT_SYMBOL_REF (file, x);
3528 #else
3529       assemble_name (file, XSTR (x, 0));
3530 #endif
3531       break;
3532
3533     case LABEL_REF:
3534       x = XEXP (x, 0);
3535       /* Fall through.  */
3536     case CODE_LABEL:
3537       ASM_GENERATE_INTERNAL_LABEL (buf, "L", CODE_LABEL_NUMBER (x));
3538 #ifdef ASM_OUTPUT_LABEL_REF
3539       ASM_OUTPUT_LABEL_REF (file, buf);
3540 #else
3541       assemble_name (file, buf);
3542 #endif
3543       break;
3544
3545     case CONST_INT:
3546       fprintf (file, HOST_WIDE_INT_PRINT_DEC, INTVAL (x));
3547       break;
3548
3549     case CONST:
3550       /* This used to output parentheses around the expression,
3551          but that does not work on the 386 (either ATT or BSD assembler).  */
3552       output_addr_const (file, XEXP (x, 0));
3553       break;
3554
3555     case CONST_DOUBLE:
3556       if (GET_MODE (x) == VOIDmode)
3557         {
3558           /* We can use %d if the number is one word and positive.  */
3559           if (CONST_DOUBLE_HIGH (x))
3560             fprintf (file, HOST_WIDE_INT_PRINT_DOUBLE_HEX,
3561                      (unsigned HOST_WIDE_INT) CONST_DOUBLE_HIGH (x),
3562                      (unsigned HOST_WIDE_INT) CONST_DOUBLE_LOW (x));
3563           else if (CONST_DOUBLE_LOW (x) < 0)
3564             fprintf (file, HOST_WIDE_INT_PRINT_HEX,
3565                      (unsigned HOST_WIDE_INT) CONST_DOUBLE_LOW (x));
3566           else
3567             fprintf (file, HOST_WIDE_INT_PRINT_DEC, CONST_DOUBLE_LOW (x));
3568         }
3569       else
3570         /* We can't handle floating point constants;
3571            PRINT_OPERAND must handle them.  */
3572         output_operand_lossage ("floating constant misused");
3573       break;
3574
3575     case CONST_FIXED:
3576       fprintf (file, HOST_WIDE_INT_PRINT_HEX,
3577                (unsigned HOST_WIDE_INT) CONST_FIXED_VALUE_LOW (x));
3578       break;
3579
3580     case PLUS:
3581       /* Some assemblers need integer constants to appear last (eg masm).  */
3582       if (CONST_INT_P (XEXP (x, 0)))
3583         {
3584           output_addr_const (file, XEXP (x, 1));
3585           if (INTVAL (XEXP (x, 0)) >= 0)
3586             fprintf (file, "+");
3587           output_addr_const (file, XEXP (x, 0));
3588         }
3589       else
3590         {
3591           output_addr_const (file, XEXP (x, 0));
3592           if (!CONST_INT_P (XEXP (x, 1))
3593               || INTVAL (XEXP (x, 1)) >= 0)
3594             fprintf (file, "+");
3595           output_addr_const (file, XEXP (x, 1));
3596         }
3597       break;
3598
3599     case MINUS:
3600       /* Avoid outputting things like x-x or x+5-x,
3601          since some assemblers can't handle that.  */
3602       x = simplify_subtraction (x);
3603       if (GET_CODE (x) != MINUS)
3604         goto restart;
3605
3606       output_addr_const (file, XEXP (x, 0));
3607       fprintf (file, "-");
3608       if ((CONST_INT_P (XEXP (x, 1)) && INTVAL (XEXP (x, 1)) >= 0)
3609           || GET_CODE (XEXP (x, 1)) == PC
3610           || GET_CODE (XEXP (x, 1)) == SYMBOL_REF)
3611         output_addr_const (file, XEXP (x, 1));
3612       else
3613         {
3614           fputs (targetm.asm_out.open_paren, file);
3615           output_addr_const (file, XEXP (x, 1));
3616           fputs (targetm.asm_out.close_paren, file);
3617         }
3618       break;
3619
3620     case ZERO_EXTEND:
3621     case SIGN_EXTEND:
3622     case SUBREG:
3623     case TRUNCATE:
3624       output_addr_const (file, XEXP (x, 0));
3625       break;
3626
3627     default:
3628       if (targetm.asm_out.output_addr_const_extra (file, x))
3629         break;
3630
3631       output_operand_lossage ("invalid expression as operand");
3632     }
3633 }
3634 \f
3635 /* A poor man's fprintf, with the added features of %I, %R, %L, and %U.
3636    %R prints the value of REGISTER_PREFIX.
3637    %L prints the value of LOCAL_LABEL_PREFIX.
3638    %U prints the value of USER_LABEL_PREFIX.
3639    %I prints the value of IMMEDIATE_PREFIX.
3640    %O runs ASM_OUTPUT_OPCODE to transform what follows in the string.
3641    Also supported are %d, %i, %u, %x, %X, %o, %c, %s and %%.
3642
3643    We handle alternate assembler dialects here, just like output_asm_insn.  */
3644
3645 void
3646 asm_fprintf (FILE *file, const char *p, ...)
3647 {
3648   char buf[10];
3649   char *q, c;
3650   va_list argptr;
3651
3652   va_start (argptr, p);
3653
3654   buf[0] = '%';
3655
3656   while ((c = *p++))
3657     switch (c)
3658       {
3659 #ifdef ASSEMBLER_DIALECT
3660       case '{':
3661         {
3662           int i;
3663
3664           /* If we want the first dialect, do nothing.  Otherwise, skip
3665              DIALECT_NUMBER of strings ending with '|'.  */
3666           for (i = 0; i < dialect_number; i++)
3667             {
3668               while (*p && *p++ != '|')
3669                 ;
3670
3671               if (*p == '|')
3672                 p++;
3673             }
3674         }
3675         break;
3676
3677       case '|':
3678         /* Skip to close brace.  */
3679         while (*p && *p++ != '}')
3680           ;
3681         break;
3682
3683       case '}':
3684         break;
3685 #endif
3686
3687       case '%':
3688         c = *p++;
3689         q = &buf[1];
3690         while (strchr ("-+ #0", c))
3691           {
3692             *q++ = c;
3693             c = *p++;
3694           }
3695         while (ISDIGIT (c) || c == '.')
3696           {
3697             *q++ = c;
3698             c = *p++;
3699           }
3700         switch (c)
3701           {
3702           case '%':
3703             putc ('%', file);
3704             break;
3705
3706           case 'd':  case 'i':  case 'u':
3707           case 'x':  case 'X':  case 'o':
3708           case 'c':
3709             *q++ = c;
3710             *q = 0;
3711             fprintf (file, buf, va_arg (argptr, int));
3712             break;
3713
3714           case 'w':
3715             /* This is a prefix to the 'd', 'i', 'u', 'x', 'X', and
3716                'o' cases, but we do not check for those cases.  It
3717                means that the value is a HOST_WIDE_INT, which may be
3718                either `long' or `long long'.  */
3719             memcpy (q, HOST_WIDE_INT_PRINT, strlen (HOST_WIDE_INT_PRINT));
3720             q += strlen (HOST_WIDE_INT_PRINT);
3721             *q++ = *p++;
3722             *q = 0;
3723             fprintf (file, buf, va_arg (argptr, HOST_WIDE_INT));
3724             break;
3725
3726           case 'l':
3727             *q++ = c;
3728 #ifdef HAVE_LONG_LONG
3729             if (*p == 'l')
3730               {
3731                 *q++ = *p++;
3732                 *q++ = *p++;
3733                 *q = 0;
3734                 fprintf (file, buf, va_arg (argptr, long long));
3735               }
3736             else
3737 #endif
3738               {
3739                 *q++ = *p++;
3740                 *q = 0;
3741                 fprintf (file, buf, va_arg (argptr, long));
3742               }
3743
3744             break;
3745
3746           case 's':
3747             *q++ = c;
3748             *q = 0;
3749             fprintf (file, buf, va_arg (argptr, char *));
3750             break;
3751
3752           case 'O':
3753 #ifdef ASM_OUTPUT_OPCODE
3754             ASM_OUTPUT_OPCODE (asm_out_file, p);
3755 #endif
3756             break;
3757
3758           case 'R':
3759 #ifdef REGISTER_PREFIX
3760             fprintf (file, "%s", REGISTER_PREFIX);
3761 #endif
3762             break;
3763
3764           case 'I':
3765 #ifdef IMMEDIATE_PREFIX
3766             fprintf (file, "%s", IMMEDIATE_PREFIX);
3767 #endif
3768             break;
3769
3770           case 'L':
3771 #ifdef LOCAL_LABEL_PREFIX
3772             fprintf (file, "%s", LOCAL_LABEL_PREFIX);
3773 #endif
3774             break;
3775
3776           case 'U':
3777             fputs (user_label_prefix, file);
3778             break;
3779
3780 #ifdef ASM_FPRINTF_EXTENSIONS
3781             /* Uppercase letters are reserved for general use by asm_fprintf
3782                and so are not available to target specific code.  In order to
3783                prevent the ASM_FPRINTF_EXTENSIONS macro from using them then,
3784                they are defined here.  As they get turned into real extensions
3785                to asm_fprintf they should be removed from this list.  */
3786           case 'A': case 'B': case 'C': case 'D': case 'E':
3787           case 'F': case 'G': case 'H': case 'J': case 'K':
3788           case 'M': case 'N': case 'P': case 'Q': case 'S':
3789           case 'T': case 'V': case 'W': case 'Y': case 'Z':
3790             break;
3791
3792           ASM_FPRINTF_EXTENSIONS (file, argptr, p)
3793 #endif
3794           default:
3795             gcc_unreachable ();
3796           }
3797         break;
3798
3799       default:
3800         putc (c, file);
3801       }
3802   va_end (argptr);
3803 }
3804 \f
3805 /* Split up a CONST_DOUBLE or integer constant rtx
3806    into two rtx's for single words,
3807    storing in *FIRST the word that comes first in memory in the target
3808    and in *SECOND the other.  */
3809
3810 void
3811 split_double (rtx value, rtx *first, rtx *second)
3812 {
3813   if (CONST_INT_P (value))
3814     {
3815       if (HOST_BITS_PER_WIDE_INT >= (2 * BITS_PER_WORD))
3816         {
3817           /* In this case the CONST_INT holds both target words.
3818              Extract the bits from it into two word-sized pieces.
3819              Sign extend each half to HOST_WIDE_INT.  */
3820           unsigned HOST_WIDE_INT low, high;
3821           unsigned HOST_WIDE_INT mask, sign_bit, sign_extend;
3822
3823           /* Set sign_bit to the most significant bit of a word.  */
3824           sign_bit = 1;
3825           sign_bit <<= BITS_PER_WORD - 1;
3826
3827           /* Set mask so that all bits of the word are set.  We could
3828              have used 1 << BITS_PER_WORD instead of basing the
3829              calculation on sign_bit.  However, on machines where
3830              HOST_BITS_PER_WIDE_INT == BITS_PER_WORD, it could cause a
3831              compiler warning, even though the code would never be
3832              executed.  */
3833           mask = sign_bit << 1;
3834           mask--;
3835
3836           /* Set sign_extend as any remaining bits.  */
3837           sign_extend = ~mask;
3838
3839           /* Pick the lower word and sign-extend it.  */
3840           low = INTVAL (value);
3841           low &= mask;
3842           if (low & sign_bit)
3843             low |= sign_extend;
3844
3845           /* Pick the higher word, shifted to the least significant
3846              bits, and sign-extend it.  */
3847           high = INTVAL (value);
3848           high >>= BITS_PER_WORD - 1;
3849           high >>= 1;
3850           high &= mask;
3851           if (high & sign_bit)
3852             high |= sign_extend;
3853
3854           /* Store the words in the target machine order.  */
3855           if (WORDS_BIG_ENDIAN)
3856             {
3857               *first = GEN_INT (high);
3858               *second = GEN_INT (low);
3859             }
3860           else
3861             {
3862               *first = GEN_INT (low);
3863               *second = GEN_INT (high);
3864             }
3865         }
3866       else
3867         {
3868           /* The rule for using CONST_INT for a wider mode
3869              is that we regard the value as signed.
3870              So sign-extend it.  */
3871           rtx high = (INTVAL (value) < 0 ? constm1_rtx : const0_rtx);
3872           if (WORDS_BIG_ENDIAN)
3873             {
3874               *first = high;
3875               *second = value;
3876             }
3877           else
3878             {
3879               *first = value;
3880               *second = high;
3881             }
3882         }
3883     }
3884   else if (GET_CODE (value) != CONST_DOUBLE)
3885     {
3886       if (WORDS_BIG_ENDIAN)
3887         {
3888           *first = const0_rtx;
3889           *second = value;
3890         }
3891       else
3892         {
3893           *first = value;
3894           *second = const0_rtx;
3895         }
3896     }
3897   else if (GET_MODE (value) == VOIDmode
3898            /* This is the old way we did CONST_DOUBLE integers.  */
3899            || GET_MODE_CLASS (GET_MODE (value)) == MODE_INT)
3900     {
3901       /* In an integer, the words are defined as most and least significant.
3902          So order them by the target's convention.  */
3903       if (WORDS_BIG_ENDIAN)
3904         {
3905           *first = GEN_INT (CONST_DOUBLE_HIGH (value));
3906           *second = GEN_INT (CONST_DOUBLE_LOW (value));
3907         }
3908       else
3909         {
3910           *first = GEN_INT (CONST_DOUBLE_LOW (value));
3911           *second = GEN_INT (CONST_DOUBLE_HIGH (value));
3912         }
3913     }
3914   else
3915     {
3916       REAL_VALUE_TYPE r;
3917       long l[2];
3918       REAL_VALUE_FROM_CONST_DOUBLE (r, value);
3919
3920       /* Note, this converts the REAL_VALUE_TYPE to the target's
3921          format, splits up the floating point double and outputs
3922          exactly 32 bits of it into each of l[0] and l[1] --
3923          not necessarily BITS_PER_WORD bits.  */
3924       REAL_VALUE_TO_TARGET_DOUBLE (r, l);
3925
3926       /* If 32 bits is an entire word for the target, but not for the host,
3927          then sign-extend on the host so that the number will look the same
3928          way on the host that it would on the target.  See for instance
3929          simplify_unary_operation.  The #if is needed to avoid compiler
3930          warnings.  */
3931
3932 #if HOST_BITS_PER_LONG > 32
3933       if (BITS_PER_WORD < HOST_BITS_PER_LONG && BITS_PER_WORD == 32)
3934         {
3935           if (l[0] & ((long) 1 << 31))
3936             l[0] |= ((long) (-1) << 32);
3937           if (l[1] & ((long) 1 << 31))
3938             l[1] |= ((long) (-1) << 32);
3939         }
3940 #endif
3941
3942       *first = GEN_INT (l[0]);
3943       *second = GEN_INT (l[1]);
3944     }
3945 }
3946 \f
3947 /* Return nonzero if this function has no function calls.  */
3948
3949 int
3950 leaf_function_p (void)
3951 {
3952   rtx insn;
3953   rtx link;
3954
3955   if (crtl->profile || profile_arc_flag)
3956     return 0;
3957
3958   for (insn = get_insns (); insn; insn = NEXT_INSN (insn))
3959     {
3960       if (CALL_P (insn)
3961           && ! SIBLING_CALL_P (insn))
3962         return 0;
3963       if (NONJUMP_INSN_P (insn)
3964           && GET_CODE (PATTERN (insn)) == SEQUENCE
3965           && CALL_P (XVECEXP (PATTERN (insn), 0, 0))
3966           && ! SIBLING_CALL_P (XVECEXP (PATTERN (insn), 0, 0)))
3967         return 0;
3968     }
3969   for (link = crtl->epilogue_delay_list;
3970        link;
3971        link = XEXP (link, 1))
3972     {
3973       insn = XEXP (link, 0);
3974
3975       if (CALL_P (insn)
3976           && ! SIBLING_CALL_P (insn))
3977         return 0;
3978       if (NONJUMP_INSN_P (insn)
3979           && GET_CODE (PATTERN (insn)) == SEQUENCE
3980           && CALL_P (XVECEXP (PATTERN (insn), 0, 0))
3981           && ! SIBLING_CALL_P (XVECEXP (PATTERN (insn), 0, 0)))
3982         return 0;
3983     }
3984
3985   return 1;
3986 }
3987
3988 /* Return 1 if branch is a forward branch.
3989    Uses insn_shuid array, so it works only in the final pass.  May be used by
3990    output templates to customary add branch prediction hints.
3991  */
3992 int
3993 final_forward_branch_p (rtx insn)
3994 {
3995   int insn_id, label_id;
3996
3997   gcc_assert (uid_shuid);
3998   insn_id = INSN_SHUID (insn);
3999   label_id = INSN_SHUID (JUMP_LABEL (insn));
4000   /* We've hit some insns that does not have id information available.  */
4001   gcc_assert (insn_id && label_id);
4002   return insn_id < label_id;
4003 }
4004
4005 /* On some machines, a function with no call insns
4006    can run faster if it doesn't create its own register window.
4007    When output, the leaf function should use only the "output"
4008    registers.  Ordinarily, the function would be compiled to use
4009    the "input" registers to find its arguments; it is a candidate
4010    for leaf treatment if it uses only the "input" registers.
4011    Leaf function treatment means renumbering so the function
4012    uses the "output" registers instead.  */
4013
4014 #ifdef LEAF_REGISTERS
4015
4016 /* Return 1 if this function uses only the registers that can be
4017    safely renumbered.  */
4018
4019 int
4020 only_leaf_regs_used (void)
4021 {
4022   int i;
4023   const char *const permitted_reg_in_leaf_functions = LEAF_REGISTERS;
4024
4025   for (i = 0; i < FIRST_PSEUDO_REGISTER; i++)
4026     if ((df_regs_ever_live_p (i) || global_regs[i])
4027         && ! permitted_reg_in_leaf_functions[i])
4028       return 0;
4029
4030   if (crtl->uses_pic_offset_table
4031       && pic_offset_table_rtx != 0
4032       && REG_P (pic_offset_table_rtx)
4033       && ! permitted_reg_in_leaf_functions[REGNO (pic_offset_table_rtx)])
4034     return 0;
4035
4036   return 1;
4037 }
4038
4039 /* Scan all instructions and renumber all registers into those
4040    available in leaf functions.  */
4041
4042 static void
4043 leaf_renumber_regs (rtx first)
4044 {
4045   rtx insn;
4046
4047   /* Renumber only the actual patterns.
4048      The reg-notes can contain frame pointer refs,
4049      and renumbering them could crash, and should not be needed.  */
4050   for (insn = first; insn; insn = NEXT_INSN (insn))
4051     if (INSN_P (insn))
4052       leaf_renumber_regs_insn (PATTERN (insn));
4053   for (insn = crtl->epilogue_delay_list;
4054        insn;
4055        insn = XEXP (insn, 1))
4056     if (INSN_P (XEXP (insn, 0)))
4057       leaf_renumber_regs_insn (PATTERN (XEXP (insn, 0)));
4058 }
4059
4060 /* Scan IN_RTX and its subexpressions, and renumber all regs into those
4061    available in leaf functions.  */
4062
4063 void
4064 leaf_renumber_regs_insn (rtx in_rtx)
4065 {
4066   int i, j;
4067   const char *format_ptr;
4068
4069   if (in_rtx == 0)
4070     return;
4071
4072   /* Renumber all input-registers into output-registers.
4073      renumbered_regs would be 1 for an output-register;
4074      they  */
4075
4076   if (REG_P (in_rtx))
4077     {
4078       int newreg;
4079
4080       /* Don't renumber the same reg twice.  */
4081       if (in_rtx->used)
4082         return;
4083
4084       newreg = REGNO (in_rtx);
4085       /* Don't try to renumber pseudo regs.  It is possible for a pseudo reg
4086          to reach here as part of a REG_NOTE.  */
4087       if (newreg >= FIRST_PSEUDO_REGISTER)
4088         {
4089           in_rtx->used = 1;
4090           return;
4091         }
4092       newreg = LEAF_REG_REMAP (newreg);
4093       gcc_assert (newreg >= 0);
4094       df_set_regs_ever_live (REGNO (in_rtx), false);
4095       df_set_regs_ever_live (newreg, true);
4096       SET_REGNO (in_rtx, newreg);
4097       in_rtx->used = 1;
4098     }
4099
4100   if (INSN_P (in_rtx))
4101     {
4102       /* Inside a SEQUENCE, we find insns.
4103          Renumber just the patterns of these insns,
4104          just as we do for the top-level insns.  */
4105       leaf_renumber_regs_insn (PATTERN (in_rtx));
4106       return;
4107     }
4108
4109   format_ptr = GET_RTX_FORMAT (GET_CODE (in_rtx));
4110
4111   for (i = 0; i < GET_RTX_LENGTH (GET_CODE (in_rtx)); i++)
4112     switch (*format_ptr++)
4113       {
4114       case 'e':
4115         leaf_renumber_regs_insn (XEXP (in_rtx, i));
4116         break;
4117
4118       case 'E':
4119         if (NULL != XVEC (in_rtx, i))
4120           {
4121             for (j = 0; j < XVECLEN (in_rtx, i); j++)
4122               leaf_renumber_regs_insn (XVECEXP (in_rtx, i, j));
4123           }
4124         break;
4125
4126       case 'S':
4127       case 's':
4128       case '0':
4129       case 'i':
4130       case 'w':
4131       case 'n':
4132       case 'u':
4133         break;
4134
4135       default:
4136         gcc_unreachable ();
4137       }
4138 }
4139 #endif
4140
4141
4142 /* When -gused is used, emit debug info for only used symbols. But in
4143    addition to the standard intercepted debug_hooks there are some direct
4144    calls into this file, i.e., dbxout_symbol, dbxout_parms, and dbxout_reg_params.
4145    Those routines may also be called from a higher level intercepted routine. So
4146    to prevent recording data for an inner call to one of these for an intercept,
4147    we maintain an intercept nesting counter (debug_nesting). We only save the
4148    intercepted arguments if the nesting is 1.  */
4149 int debug_nesting = 0;
4150
4151 static tree *symbol_queue;
4152 int symbol_queue_index = 0;
4153 static int symbol_queue_size = 0;
4154
4155 /* Generate the symbols for any queued up type symbols we encountered
4156    while generating the type info for some originally used symbol.
4157    This might generate additional entries in the queue.  Only when
4158    the nesting depth goes to 0 is this routine called.  */
4159
4160 void
4161 debug_flush_symbol_queue (void)
4162 {
4163   int i;
4164
4165   /* Make sure that additionally queued items are not flushed
4166      prematurely.  */
4167
4168   ++debug_nesting;
4169
4170   for (i = 0; i < symbol_queue_index; ++i)
4171     {
4172       /* If we pushed queued symbols then such symbols must be
4173          output no matter what anyone else says.  Specifically,
4174          we need to make sure dbxout_symbol() thinks the symbol was
4175          used and also we need to override TYPE_DECL_SUPPRESS_DEBUG
4176          which may be set for outside reasons.  */
4177       int saved_tree_used = TREE_USED (symbol_queue[i]);
4178       int saved_suppress_debug = TYPE_DECL_SUPPRESS_DEBUG (symbol_queue[i]);
4179       TREE_USED (symbol_queue[i]) = 1;
4180       TYPE_DECL_SUPPRESS_DEBUG (symbol_queue[i]) = 0;
4181
4182 #ifdef DBX_DEBUGGING_INFO
4183       dbxout_symbol (symbol_queue[i], 0);
4184 #endif
4185
4186       TREE_USED (symbol_queue[i]) = saved_tree_used;
4187       TYPE_DECL_SUPPRESS_DEBUG (symbol_queue[i]) = saved_suppress_debug;
4188     }
4189
4190   symbol_queue_index = 0;
4191   --debug_nesting;
4192 }
4193
4194 /* Queue a type symbol needed as part of the definition of a decl
4195    symbol.  These symbols are generated when debug_flush_symbol_queue()
4196    is called.  */
4197
4198 void
4199 debug_queue_symbol (tree decl)
4200 {
4201   if (symbol_queue_index >= symbol_queue_size)
4202     {
4203       symbol_queue_size += 10;
4204       symbol_queue = XRESIZEVEC (tree, symbol_queue, symbol_queue_size);
4205     }
4206
4207   symbol_queue[symbol_queue_index++] = decl;
4208 }
4209
4210 /* Free symbol queue.  */
4211 void
4212 debug_free_queue (void)
4213 {
4214   if (symbol_queue)
4215     {
4216       free (symbol_queue);
4217       symbol_queue = NULL;
4218       symbol_queue_size = 0;
4219     }
4220 }
4221 \f
4222 /* Turn the RTL into assembly.  */
4223 static unsigned int
4224 rest_of_handle_final (void)
4225 {
4226   rtx x;
4227   const char *fnname;
4228
4229   /* Get the function's name, as described by its RTL.  This may be
4230      different from the DECL_NAME name used in the source file.  */
4231
4232   x = DECL_RTL (current_function_decl);
4233   gcc_assert (MEM_P (x));
4234   x = XEXP (x, 0);
4235   gcc_assert (GET_CODE (x) == SYMBOL_REF);
4236   fnname = XSTR (x, 0);
4237
4238   assemble_start_function (current_function_decl, fnname);
4239   final_start_function (get_insns (), asm_out_file, optimize);
4240   final (get_insns (), asm_out_file, optimize);
4241   final_end_function ();
4242
4243 #ifdef TARGET_UNWIND_INFO
4244   /* ??? The IA-64 ".handlerdata" directive must be issued before
4245      the ".endp" directive that closes the procedure descriptor.  */
4246   output_function_exception_table (fnname);
4247 #endif
4248
4249   assemble_end_function (current_function_decl, fnname);
4250
4251 #ifndef TARGET_UNWIND_INFO
4252   /* Otherwise, it feels unclean to switch sections in the middle.  */
4253   output_function_exception_table (fnname);
4254 #endif
4255
4256   user_defined_section_attribute = false;
4257
4258   /* Free up reg info memory.  */
4259   free_reg_info ();
4260
4261   if (! quiet_flag)
4262     fflush (asm_out_file);
4263
4264   /* Write DBX symbols if requested.  */
4265
4266   /* Note that for those inline functions where we don't initially
4267      know for certain that we will be generating an out-of-line copy,
4268      the first invocation of this routine (rest_of_compilation) will
4269      skip over this code by doing a `goto exit_rest_of_compilation;'.
4270      Later on, wrapup_global_declarations will (indirectly) call
4271      rest_of_compilation again for those inline functions that need
4272      to have out-of-line copies generated.  During that call, we
4273      *will* be routed past here.  */
4274
4275   timevar_push (TV_SYMOUT);
4276   if (!DECL_IGNORED_P (current_function_decl))
4277     debug_hooks->function_decl (current_function_decl);
4278   timevar_pop (TV_SYMOUT);
4279
4280   /* Release the blocks that are linked to DECL_INITIAL() to free the memory.  */
4281   DECL_INITIAL (current_function_decl) = error_mark_node;
4282
4283   if (DECL_STATIC_CONSTRUCTOR (current_function_decl)
4284       && targetm.have_ctors_dtors)
4285     targetm.asm_out.constructor (XEXP (DECL_RTL (current_function_decl), 0),
4286                                  decl_init_priority_lookup
4287                                    (current_function_decl));
4288   if (DECL_STATIC_DESTRUCTOR (current_function_decl)
4289       && targetm.have_ctors_dtors)
4290     targetm.asm_out.destructor (XEXP (DECL_RTL (current_function_decl), 0),
4291                                 decl_fini_priority_lookup
4292                                   (current_function_decl));
4293   return 0;
4294 }
4295
4296 struct rtl_opt_pass pass_final =
4297 {
4298  {
4299   RTL_PASS,
4300   "final",                              /* name */
4301   NULL,                                 /* gate */
4302   rest_of_handle_final,                 /* execute */
4303   NULL,                                 /* sub */
4304   NULL,                                 /* next */
4305   0,                                    /* static_pass_number */
4306   TV_FINAL,                             /* tv_id */
4307   0,                                    /* properties_required */
4308   0,                                    /* properties_provided */
4309   0,                                    /* properties_destroyed */
4310   0,                                    /* todo_flags_start */
4311   TODO_ggc_collect                      /* todo_flags_finish */
4312  }
4313 };
4314
4315
4316 static unsigned int
4317 rest_of_handle_shorten_branches (void)
4318 {
4319   /* Shorten branches.  */
4320   shorten_branches (get_insns ());
4321   return 0;
4322 }
4323
4324 struct rtl_opt_pass pass_shorten_branches =
4325 {
4326  {
4327   RTL_PASS,
4328   "shorten",                            /* name */
4329   NULL,                                 /* gate */
4330   rest_of_handle_shorten_branches,      /* execute */
4331   NULL,                                 /* sub */
4332   NULL,                                 /* next */
4333   0,                                    /* static_pass_number */
4334   TV_FINAL,                             /* tv_id */
4335   0,                                    /* properties_required */
4336   0,                                    /* properties_provided */
4337   0,                                    /* properties_destroyed */
4338   0,                                    /* todo_flags_start */
4339   TODO_dump_func                        /* todo_flags_finish */
4340  }
4341 };
4342
4343
4344 static unsigned int
4345 rest_of_clean_state (void)
4346 {
4347   rtx insn, next;
4348   FILE *final_output = NULL;
4349   int save_unnumbered = flag_dump_unnumbered;
4350   int save_noaddr = flag_dump_noaddr;
4351
4352   if (flag_dump_final_insns)
4353     {
4354       final_output = fopen (flag_dump_final_insns, "a");
4355       if (!final_output)
4356         {
4357           error ("could not open final insn dump file %qs: %m",
4358                  flag_dump_final_insns);
4359           flag_dump_final_insns = NULL;
4360         }
4361       else
4362         {
4363           const char *aname;
4364           struct cgraph_node *node = cgraph_node (current_function_decl);
4365
4366           aname = (IDENTIFIER_POINTER
4367                    (DECL_ASSEMBLER_NAME (current_function_decl)));
4368           fprintf (final_output, "\n;; Function (%s) %s\n\n", aname,
4369              node->frequency == NODE_FREQUENCY_HOT
4370              ? " (hot)"
4371              : node->frequency == NODE_FREQUENCY_UNLIKELY_EXECUTED
4372              ? " (unlikely executed)"
4373              : node->frequency == NODE_FREQUENCY_EXECUTED_ONCE
4374              ? " (executed once)"
4375              : "");
4376
4377           flag_dump_noaddr = flag_dump_unnumbered = 1;
4378           if (flag_compare_debug_opt || flag_compare_debug)
4379             dump_flags |= TDF_NOUID;
4380           final_insns_dump_p = true;
4381
4382           for (insn = get_insns (); insn; insn = NEXT_INSN (insn))
4383             if (LABEL_P (insn))
4384               INSN_UID (insn) = CODE_LABEL_NUMBER (insn);
4385             else
4386               INSN_UID (insn) = 0;
4387         }
4388     }
4389
4390   /* It is very important to decompose the RTL instruction chain here:
4391      debug information keeps pointing into CODE_LABEL insns inside the function
4392      body.  If these remain pointing to the other insns, we end up preserving
4393      whole RTL chain and attached detailed debug info in memory.  */
4394   for (insn = get_insns (); insn; insn = next)
4395     {
4396       next = NEXT_INSN (insn);
4397       NEXT_INSN (insn) = NULL;
4398       PREV_INSN (insn) = NULL;
4399
4400       if (final_output
4401           && (!NOTE_P (insn) ||
4402               (NOTE_KIND (insn) != NOTE_INSN_VAR_LOCATION
4403                && NOTE_KIND (insn) != NOTE_INSN_BLOCK_BEG
4404                && NOTE_KIND (insn) != NOTE_INSN_BLOCK_END
4405                && NOTE_KIND (insn) != NOTE_INSN_CFA_RESTORE_STATE)))
4406         print_rtl_single (final_output, insn);
4407
4408     }
4409
4410   if (final_output)
4411     {
4412       flag_dump_noaddr = save_noaddr;
4413       flag_dump_unnumbered = save_unnumbered;
4414       final_insns_dump_p = false;
4415
4416       if (fclose (final_output))
4417         {
4418           error ("could not close final insn dump file %qs: %m",
4419                  flag_dump_final_insns);
4420           flag_dump_final_insns = NULL;
4421         }
4422     }
4423
4424   /* In case the function was not output,
4425      don't leave any temporary anonymous types
4426      queued up for sdb output.  */
4427 #ifdef SDB_DEBUGGING_INFO
4428   if (write_symbols == SDB_DEBUG)
4429     sdbout_types (NULL_TREE);
4430 #endif
4431
4432   flag_rerun_cse_after_global_opts = 0;
4433   reload_completed = 0;
4434   epilogue_completed = 0;
4435 #ifdef STACK_REGS
4436   regstack_completed = 0;
4437 #endif
4438
4439   /* Clear out the insn_length contents now that they are no
4440      longer valid.  */
4441   init_insn_lengths ();
4442
4443   /* Show no temporary slots allocated.  */
4444   init_temp_slots ();
4445
4446   free_bb_for_insn ();
4447
4448   delete_tree_ssa ();
4449
4450   if (targetm.binds_local_p (current_function_decl))
4451     {
4452       unsigned int pref = crtl->preferred_stack_boundary;
4453       if (crtl->stack_alignment_needed > crtl->preferred_stack_boundary)
4454         pref = crtl->stack_alignment_needed;
4455       cgraph_rtl_info (current_function_decl)->preferred_incoming_stack_boundary
4456         = pref;
4457     }
4458
4459   /* Make sure volatile mem refs aren't considered valid operands for
4460      arithmetic insns.  We must call this here if this is a nested inline
4461      function, since the above code leaves us in the init_recog state,
4462      and the function context push/pop code does not save/restore volatile_ok.
4463
4464      ??? Maybe it isn't necessary for expand_start_function to call this
4465      anymore if we do it here?  */
4466
4467   init_recog_no_volatile ();
4468
4469   /* We're done with this function.  Free up memory if we can.  */
4470   free_after_parsing (cfun);
4471   free_after_compilation (cfun);
4472   return 0;
4473 }
4474
4475 struct rtl_opt_pass pass_clean_state =
4476 {
4477  {
4478   RTL_PASS,
4479   "*clean_state",                       /* name */
4480   NULL,                                 /* gate */
4481   rest_of_clean_state,                  /* execute */
4482   NULL,                                 /* sub */
4483   NULL,                                 /* next */
4484   0,                                    /* static_pass_number */
4485   TV_FINAL,                             /* tv_id */
4486   0,                                    /* properties_required */
4487   0,                                    /* properties_provided */
4488   PROP_rtl,                             /* properties_destroyed */
4489   0,                                    /* todo_flags_start */
4490   0                                     /* todo_flags_finish */
4491  }
4492 };