gcc/emit-rtl.c

   1 /* Emit RTL for the GNU C-Compiler expander.
   2    Copyright (C) 1987, 1988, 1992, 1993, 1994, 1995, 1996, 1997, 1998,
   3    1999, 2000 Free Software Foundation, Inc.
   4
   5 This file is part of GNU CC.
   6
   7 GNU CC is free software; you can redistribute it and/or modify
   8 it under the terms of the GNU General Public License as published by
   9 the Free Software Foundation; either version 2, or (at your option)
  10 any later version.
  11
  12 GNU CC is distributed in the hope that it will be useful,
  13 but WITHOUT ANY WARRANTY; without even the implied warranty of
  14 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  15 GNU General Public License for more details.
  16
  17 You should have received a copy of the GNU General Public License
  18 along with GNU CC; see the file COPYING.  If not, write to
  19 the Free Software Foundation, 59 Temple Place - Suite 330,
  20 Boston, MA 02111-1307, USA.  */
  21
  22
  23 /* Middle-to-low level generation of rtx code and insns.
  24
  25    This file contains the functions `gen_rtx', `gen_reg_rtx'
  26    and `gen_label_rtx' that are the usual ways of creating rtl
  27    expressions for most purposes.
  28
  29    It also has the functions for creating insns and linking
  30    them in the doubly-linked chain.
  31
  32    The patterns of the insns are created by machine-dependent
  33    routines in insn-emit.c, which is generated automatically from
  34    the machine description.  These routines use `gen_rtx' to make
  35    the individual rtx's of the pattern; what is machine dependent
  36    is the kind of rtx's they make and what arguments they use.  */
  37
  38 #include "config.h"
  39 #include "system.h"
  40 #include "toplev.h"
  41 #include "rtl.h"
  42 #include "tree.h"
  43 #include "tm_p.h"
  44 #include "flags.h"
  45 #include "function.h"
  46 #include "expr.h"
  47 #include "regs.h"
  48 #include "hard-reg-set.h"
  49 #include "hashtab.h"
  50 #include "insn-config.h"
  51 #include "recog.h"
  52 #include "real.h"
  53 #include "obstack.h"
  54 #include "bitmap.h"
  55 #include "basic-block.h"
  56 #include "ggc.h"
  57 #include "defaults.h"
  58
  59 /* Commonly used modes.  */
  60
  61 enum machine_mode byte_mode;    /* Mode whose width is BITS_PER_UNIT.  */
  62 enum machine_mode word_mode;    /* Mode whose width is BITS_PER_WORD.  */
  63 enum machine_mode double_mode;  /* Mode whose width is DOUBLE_TYPE_SIZE.  */
  64 enum machine_mode ptr_mode;     /* Mode whose width is POINTER_SIZE.  */
  65
  66
  67 /* This is *not* reset after each function.  It gives each CODE_LABEL
  68    in the entire compilation a unique label number.  */
  69
  70 static int label_num = 1;
  71
  72 /* Highest label number in current function.
  73    Zero means use the value of label_num instead.
  74    This is nonzero only when belatedly compiling an inline function.  */
  75
  76 static int last_label_num;
  77
  78 /* Value label_num had when set_new_first_and_last_label_number was called.
  79    If label_num has not changed since then, last_label_num is valid.  */
  80
  81 static int base_label_num;
  82
  83 /* Nonzero means do not generate NOTEs for source line numbers.  */
  84
  85 static int no_line_numbers;
  86
  87 /* Commonly used rtx's, so that we only need space for one copy.
  88    These are initialized once for the entire compilation.
  89    All of these except perhaps the floating-point CONST_DOUBLEs
  90    are unique; no other rtx-object will be equal to any of these.  */
  91
  92 rtx global_rtl[GR_MAX];
  93
  94 /* We record floating-point CONST_DOUBLEs in each floating-point mode for
  95    the values of 0, 1, and 2.  For the integer entries and VOIDmode, we
  96    record a copy of const[012]_rtx.  */
  97
  98 rtx const_tiny_rtx[3][(int) MAX_MACHINE_MODE];
  99
 100 rtx const_true_rtx;
 101
 102 REAL_VALUE_TYPE dconst0;
 103 REAL_VALUE_TYPE dconst1;
 104 REAL_VALUE_TYPE dconst2;
 105 REAL_VALUE_TYPE dconstm1;
 106
 107 /* All references to the following fixed hard registers go through
 108    these unique rtl objects.  On machines where the frame-pointer and
 109    arg-pointer are the same register, they use the same unique object.
 110
 111    After register allocation, other rtl objects which used to be pseudo-regs
 112    may be clobbered to refer to the frame-pointer register.
 113    But references that were originally to the frame-pointer can be
 114    distinguished from the others because they contain frame_pointer_rtx.
 115
 116    When to use frame_pointer_rtx and hard_frame_pointer_rtx is a little
 117    tricky: until register elimination has taken place hard_frame_pointer_rtx
 118    should be used if it is being set, and frame_pointer_rtx otherwise.  After
 119    register elimination hard_frame_pointer_rtx should always be used.
 120    On machines where the two registers are same (most) then these are the
 121    same.
 122
 123    In an inline procedure, the stack and frame pointer rtxs may not be
 124    used for anything else.  */
 125 rtx struct_value_rtx;           /* (REG:Pmode STRUCT_VALUE_REGNUM) */
 126 rtx struct_value_incoming_rtx;  /* (REG:Pmode STRUCT_VALUE_INCOMING_REGNUM) */
 127 rtx static_chain_rtx;           /* (REG:Pmode STATIC_CHAIN_REGNUM) */
 128 rtx static_chain_incoming_rtx;  /* (REG:Pmode STATIC_CHAIN_INCOMING_REGNUM) */
 129 rtx pic_offset_table_rtx;       /* (REG:Pmode PIC_OFFSET_TABLE_REGNUM) */
 130
 131 /* This is used to implement __builtin_return_address for some machines.
 132    See for instance the MIPS port.  */
 133 rtx return_address_pointer_rtx; /* (REG:Pmode RETURN_ADDRESS_POINTER_REGNUM) */
 134
 135 /* We make one copy of (const_int C) where C is in
 136    [- MAX_SAVED_CONST_INT, MAX_SAVED_CONST_INT]
 137    to save space during the compilation and simplify comparisons of
 138    integers.  */
 139
 140 rtx const_int_rtx[MAX_SAVED_CONST_INT * 2 + 1];
 141
 142 /* A hash table storing CONST_INTs whose absolute value is greater
 143    than MAX_SAVED_CONST_INT.  */
 144
 145 static htab_t const_int_htab;
 146
 147 /* start_sequence and gen_sequence can make a lot of rtx expressions which are
 148    shortly thrown away.  We use two mechanisms to prevent this waste:
 149
 150    For sizes up to 5 elements, we keep a SEQUENCE and its associated
 151    rtvec for use by gen_sequence.  One entry for each size is
 152    sufficient because most cases are calls to gen_sequence followed by
 153    immediately emitting the SEQUENCE.  Reuse is safe since emitting a
 154    sequence is destructive on the insn in it anyway and hence can't be
 155    redone.
 156
 157    We do not bother to save this cached data over nested function calls.
 158    Instead, we just reinitialize them.  */
 159
 160 #define SEQUENCE_RESULT_SIZE 5
 161
 162 static rtx sequence_result[SEQUENCE_RESULT_SIZE];
 163
 164 /* During RTL generation, we also keep a list of free INSN rtl codes.  */
 165 static rtx free_insn;
 166
 167 #define first_insn (cfun->emit->x_first_insn)
 168 #define last_insn (cfun->emit->x_last_insn)
 169 #define cur_insn_uid (cfun->emit->x_cur_insn_uid)
 170 #define last_linenum (cfun->emit->x_last_linenum)
 171 #define last_filename (cfun->emit->x_last_filename)
 172 #define first_label_num (cfun->emit->x_first_label_num)
 173
 174 static rtx make_jump_insn_raw           PARAMS ((rtx));
 175 static rtx make_call_insn_raw           PARAMS ((rtx));
 176 static rtx find_line_note               PARAMS ((rtx));
 177 static void mark_sequence_stack         PARAMS ((struct sequence_stack *));
 178 static void unshare_all_rtl_1           PARAMS ((rtx));
 179 static void unshare_all_decls           PARAMS ((tree));
 180 static void reset_used_decls            PARAMS ((tree));
 181 static hashval_t const_int_htab_hash    PARAMS ((const void *));
 182 static int const_int_htab_eq            PARAMS ((const void *,
 183                                                  const void *));
 184 static int rtx_htab_mark_1              PARAMS ((void **, void *));
 185 static void rtx_htab_mark               PARAMS ((void *));
 186
 187 \f
 188 /* Returns a hash code for X (which is a really a CONST_INT).  */
 189
 190 static hashval_t
 191 const_int_htab_hash (x)
 192      const void *x;
 193 {
 194   return (hashval_t) INTVAL ((const struct rtx_def *) x);
 195 }
 196
 197 /* Returns non-zero if the value represented by X (which is really a
 198    CONST_INT) is the same as that given by Y (which is really a
 199    HOST_WIDE_INT *).  */
 200
 201 static int
 202 const_int_htab_eq (x, y)
 203      const void *x;
 204      const void *y;
 205 {
 206   return (INTVAL ((const struct rtx_def *) x) == *((const HOST_WIDE_INT *) y));
 207 }
 208
 209 /* Mark the hash-table element X (which is really a pointer to an
 210    rtx).  */
 211
 212 static int
 213 rtx_htab_mark_1 (x, data)
 214      void **x;
 215      void *data ATTRIBUTE_UNUSED;
 216 {
 217   ggc_mark_rtx (*x);
 218   return 1;
 219 }
 220
 221 /* Mark all the elements of HTAB (which is really an htab_t full of
 222    rtxs).  */
 223
 224 static void
 225 rtx_htab_mark (htab)
 226      void *htab;
 227 {
 228   htab_traverse (*((htab_t *) htab), rtx_htab_mark_1, NULL);
 229 }
 230
 231 /* There are some RTL codes that require special attention; the generation
 232    functions do the raw handling.  If you add to this list, modify
 233    special_rtx in gengenrtl.c as well.  */
 234
 235 rtx
 236 gen_rtx_CONST_INT (mode, arg)
 237      enum machine_mode mode ATTRIBUTE_UNUSED;
 238      HOST_WIDE_INT arg;
 239 {
 240   void **slot;
 241
 242   if (arg >= - MAX_SAVED_CONST_INT && arg <= MAX_SAVED_CONST_INT)
 243     return const_int_rtx[arg + MAX_SAVED_CONST_INT];
 244
 245 #if STORE_FLAG_VALUE != 1 && STORE_FLAG_VALUE != -1
 246   if (const_true_rtx && arg == STORE_FLAG_VALUE)
 247     return const_true_rtx;
 248 #endif
 249
 250   /* Look up the CONST_INT in the hash table.  */
 251   slot = htab_find_slot_with_hash (const_int_htab, &arg,
 252                                    (hashval_t) arg, INSERT);
 253   if (*slot == 0)
 254     *slot = gen_rtx_raw_CONST_INT (VOIDmode, arg);
 255
 256   return (rtx) *slot;
 257 }
 258
 259 /* CONST_DOUBLEs needs special handling because their length is known
 260    only at run-time.  */
 261
 262 rtx
 263 gen_rtx_CONST_DOUBLE (mode, arg0, arg1, arg2)
 264      enum machine_mode mode;
 265      rtx arg0;
 266      HOST_WIDE_INT arg1, arg2;
 267 {
 268   rtx r = rtx_alloc (CONST_DOUBLE);
 269   int i;
 270
 271   PUT_MODE (r, mode);
 272   XEXP (r, 0) = arg0;
 273   X0EXP (r, 1) = NULL_RTX;
 274   XWINT (r, 2) = arg1;
 275   XWINT (r, 3) = arg2;
 276
 277   for (i = GET_RTX_LENGTH (CONST_DOUBLE) - 1; i > 3; --i)
 278     XWINT (r, i) = 0;
 279
 280   return r;
 281 }
 282
 283 rtx
 284 gen_rtx_REG (mode, regno)
 285      enum machine_mode mode;
 286      int regno;
 287 {
 288   /* In case the MD file explicitly references the frame pointer, have
 289      all such references point to the same frame pointer.  This is
 290      used during frame pointer elimination to distinguish the explicit
 291      references to these registers from pseudos that happened to be
 292      assigned to them.
 293
 294      If we have eliminated the frame pointer or arg pointer, we will
 295      be using it as a normal register, for example as a spill
 296      register.  In such cases, we might be accessing it in a mode that
 297      is not Pmode and therefore cannot use the pre-allocated rtx.
 298
 299      Also don't do this when we are making new REGs in reload, since
 300      we don't want to get confused with the real pointers.  */
 301
 302   if (mode == Pmode && !reload_in_progress)
 303     {
 304       if (regno == FRAME_POINTER_REGNUM)
 305         return frame_pointer_rtx;
 306 #if FRAME_POINTER_REGNUM != HARD_FRAME_POINTER_REGNUM
 307       if (regno == HARD_FRAME_POINTER_REGNUM)
 308         return hard_frame_pointer_rtx;
 309 #endif
 310 #if FRAME_POINTER_REGNUM != ARG_POINTER_REGNUM && HARD_FRAME_POINTER_REGNUM != ARG_POINTER_REGNUM
 311       if (regno == ARG_POINTER_REGNUM)
 312         return arg_pointer_rtx;
 313 #endif
 314 #ifdef RETURN_ADDRESS_POINTER_REGNUM
 315       if (regno == RETURN_ADDRESS_POINTER_REGNUM)
 316         return return_address_pointer_rtx;
 317 #endif
 318       if (regno == STACK_POINTER_REGNUM)
 319         return stack_pointer_rtx;
 320     }
 321
 322   return gen_rtx_raw_REG (mode, regno);
 323 }
 324
 325 rtx
 326 gen_rtx_MEM (mode, addr)
 327      enum machine_mode mode;
 328      rtx addr;
 329 {
 330   rtx rt = gen_rtx_raw_MEM (mode, addr);
 331
 332   /* This field is not cleared by the mere allocation of the rtx, so
 333      we clear it here.  */
 334   MEM_ALIAS_SET (rt) = 0;
 335
 336   return rt;
 337 }
 338 \f
 339 /* rtx gen_rtx (code, mode, [element1, ..., elementn])
 340 **
 341 **          This routine generates an RTX of the size specified by
 342 **      <code>, which is an RTX code.   The RTX structure is initialized
 343 **      from the arguments <element1> through <elementn>, which are
 344 **      interpreted according to the specific RTX type's format.   The
 345 **      special machine mode associated with the rtx (if any) is specified
 346 **      in <mode>.
 347 **
 348 **          gen_rtx can be invoked in a way which resembles the lisp-like
 349 **      rtx it will generate.   For example, the following rtx structure:
 350 **
 351 **            (plus:QI (mem:QI (reg:SI 1))
 352 **                     (mem:QI (plusw:SI (reg:SI 2) (reg:SI 3))))
 353 **
 354 **              ...would be generated by the following C code:
 355 **
 356 **              gen_rtx (PLUS, QImode,
 357 **                  gen_rtx (MEM, QImode,
 358 **                      gen_rtx (REG, SImode, 1)),
 359 **                  gen_rtx (MEM, QImode,
 360 **                      gen_rtx (PLUS, SImode,
 361 **                          gen_rtx (REG, SImode, 2),
 362 **                          gen_rtx (REG, SImode, 3)))),
 363 */
 364
 365 /*VARARGS2*/
 366 rtx
 367 gen_rtx VPARAMS ((enum rtx_code code, enum machine_mode mode, ...))
 368 {
 369 #ifndef ANSI_PROTOTYPES
 370   enum rtx_code code;
 371   enum machine_mode mode;
 372 #endif
 373   va_list p;
 374   register int i;               /* Array indices...                     */
 375   register const char *fmt;     /* Current rtx's format...              */
 376   register rtx rt_val;          /* RTX to return to caller...           */
 377
 378   VA_START (p, mode);
 379
 380 #ifndef ANSI_PROTOTYPES
 381   code = va_arg (p, enum rtx_code);
 382   mode = va_arg (p, enum machine_mode);
 383 #endif
 384
 385   switch (code)
 386     {
 387     case CONST_INT:
 388       rt_val = gen_rtx_CONST_INT (mode, va_arg (p, HOST_WIDE_INT));
 389       break;
 390
 391     case CONST_DOUBLE:
 392       {
 393         rtx arg0 = va_arg (p, rtx);
 394         HOST_WIDE_INT arg1 = va_arg (p, HOST_WIDE_INT);
 395         HOST_WIDE_INT arg2 = va_arg (p, HOST_WIDE_INT);
 396         rt_val = gen_rtx_CONST_DOUBLE (mode, arg0, arg1, arg2);
 397       }
 398       break;
 399
 400     case REG:
 401       rt_val = gen_rtx_REG (mode, va_arg (p, int));
 402       break;
 403
 404     case MEM:
 405       rt_val = gen_rtx_MEM (mode, va_arg (p, rtx));
 406       break;
 407
 408     default:
 409       rt_val = rtx_alloc (code);        /* Allocate the storage space.  */
 410       rt_val->mode = mode;              /* Store the machine mode...  */
 411
 412       fmt = GET_RTX_FORMAT (code);      /* Find the right format...  */
 413       for (i = 0; i < GET_RTX_LENGTH (code); i++)
 414         {
 415           switch (*fmt++)
 416             {
 417             case '0':           /* Unused field.  */
 418               break;
 419
 420             case 'i':           /* An integer?  */
 421               XINT (rt_val, i) = va_arg (p, int);
 422               break;
 423
 424             case 'w':           /* A wide integer? */
 425               XWINT (rt_val, i) = va_arg (p, HOST_WIDE_INT);
 426               break;
 427
 428             case 's':           /* A string?  */
 429               XSTR (rt_val, i) = va_arg (p, char *);
 430               break;
 431
 432             case 'e':           /* An expression?  */
 433             case 'u':           /* An insn?  Same except when printing.  */
 434               XEXP (rt_val, i) = va_arg (p, rtx);
 435               break;
 436
 437             case 'E':           /* An RTX vector?  */
 438               XVEC (rt_val, i) = va_arg (p, rtvec);
 439               break;
 440
 441             case 'b':           /* A bitmap? */
 442               XBITMAP (rt_val, i) = va_arg (p, bitmap);
 443               break;
 444
 445             case 't':           /* A tree? */
 446               XTREE (rt_val, i) = va_arg (p, tree);
 447               break;
 448
 449             default:
 450               abort ();
 451             }
 452         }
 453       break;
 454     }
 455
 456   va_end (p);
 457   return rt_val;
 458 }
 459
 460 /* gen_rtvec (n, [rt1, ..., rtn])
 461 **
 462 **          This routine creates an rtvec and stores within it the
 463 **      pointers to rtx's which are its arguments.
 464 */
 465
 466 /*VARARGS1*/
 467 rtvec
 468 gen_rtvec VPARAMS ((int n, ...))
 469 {
 470 #ifndef ANSI_PROTOTYPES
 471   int n;
 472 #endif
 473   int i;
 474   va_list p;
 475   rtx *vector;
 476
 477   VA_START (p, n);
 478
 479 #ifndef ANSI_PROTOTYPES
 480   n = va_arg (p, int);
 481 #endif
 482
 483   if (n == 0)
 484     return NULL_RTVEC;          /* Don't allocate an empty rtvec...     */
 485
 486   vector = (rtx *) alloca (n * sizeof (rtx));
 487
 488   for (i = 0; i < n; i++)
 489     vector[i] = va_arg (p, rtx);
 490   va_end (p);
 491
 492   return gen_rtvec_v (n, vector);
 493 }
 494
 495 rtvec
 496 gen_rtvec_v (n, argp)
 497      int n;
 498      rtx *argp;
 499 {
 500   register int i;
 501   register rtvec rt_val;
 502
 503   if (n == 0)
 504     return NULL_RTVEC;          /* Don't allocate an empty rtvec...     */
 505
 506   rt_val = rtvec_alloc (n);     /* Allocate an rtvec...                 */
 507
 508   for (i = 0; i < n; i++)
 509     rt_val->elem[i] = *argp++;
 510
 511   return rt_val;
 512 }
 513
 514 \f
 515 /* Generate a REG rtx for a new pseudo register of mode MODE.
 516    This pseudo is assigned the next sequential register number.  */
 517
 518 rtx
 519 gen_reg_rtx (mode)
 520      enum machine_mode mode;
 521 {
 522   struct function *f = cfun;
 523   register rtx val;
 524
 525   /* Don't let anything called after initial flow analysis create new
 526      registers.  */
 527   if (no_new_pseudos)
 528     abort ();
 529
 530   if (generating_concat_p
 531       && (GET_MODE_CLASS (mode) == MODE_COMPLEX_FLOAT
 532           || GET_MODE_CLASS (mode) == MODE_COMPLEX_INT))
 533     {
 534       /* For complex modes, don't make a single pseudo.
 535          Instead, make a CONCAT of two pseudos.
 536          This allows noncontiguous allocation of the real and imaginary parts,
 537          which makes much better code.  Besides, allocating DCmode
 538          pseudos overstrains reload on some machines like the 386.  */
 539       rtx realpart, imagpart;
 540       int size = GET_MODE_UNIT_SIZE (mode);
 541       enum machine_mode partmode
 542         = mode_for_size (size * BITS_PER_UNIT,
 543                          (GET_MODE_CLASS (mode) == MODE_COMPLEX_FLOAT
 544                           ? MODE_FLOAT : MODE_INT),
 545                          0);
 546
 547       realpart = gen_reg_rtx (partmode);
 548       imagpart = gen_reg_rtx (partmode);
 549       return gen_rtx_CONCAT (mode, realpart, imagpart);
 550     }
 551
 552   /* Make sure regno_pointer_flag and regno_reg_rtx are large
 553      enough to have an element for this pseudo reg number.  */
 554
 555   if (reg_rtx_no == f->emit->regno_pointer_flag_length)
 556     {
 557       int old_size = f->emit->regno_pointer_flag_length;
 558       rtx *new1;
 559       char *new;
 560       new = xrealloc (f->emit->regno_pointer_flag, old_size * 2);
 561       memset (new + old_size, 0, old_size);
 562       f->emit->regno_pointer_flag = new;
 563
 564       new = xrealloc (f->emit->regno_pointer_align, old_size * 2);
 565       memset (new + old_size, 0, old_size);
 566       f->emit->regno_pointer_align = (unsigned char *) new;
 567
 568       new1 = (rtx *) xrealloc (f->emit->x_regno_reg_rtx,
 569                                old_size * 2 * sizeof (rtx));
 570       memset (new1 + old_size, 0, old_size * sizeof (rtx));
 571       regno_reg_rtx = new1;
 572
 573       f->emit->regno_pointer_flag_length = old_size * 2;
 574     }
 575
 576   val = gen_rtx_raw_REG (mode, reg_rtx_no);
 577   regno_reg_rtx[reg_rtx_no++] = val;
 578   return val;
 579 }
 580
 581 /* Identify REG (which may be a CONCAT) as a user register.  */
 582
 583 void
 584 mark_user_reg (reg)
 585      rtx reg;
 586 {
 587   if (GET_CODE (reg) == CONCAT)
 588     {
 589       REG_USERVAR_P (XEXP (reg, 0)) = 1;
 590       REG_USERVAR_P (XEXP (reg, 1)) = 1;
 591     }
 592   else if (GET_CODE (reg) == REG)
 593     REG_USERVAR_P (reg) = 1;
 594   else
 595     abort ();
 596 }
 597
 598 /* Identify REG as a probable pointer register and show its alignment
 599    as ALIGN, if nonzero.  */
 600
 601 void
 602 mark_reg_pointer (reg, align)
 603      rtx reg;
 604      int align;
 605 {
 606   if (! REGNO_POINTER_FLAG (REGNO (reg)))
 607     {
 608       REGNO_POINTER_FLAG (REGNO (reg)) = 1;
 609
 610       if (align)
 611         REGNO_POINTER_ALIGN (REGNO (reg)) = align;
 612     }
 613   else if (align && align < REGNO_POINTER_ALIGN (REGNO (reg)))
 614     /* We can no-longer be sure just how aligned this pointer is */
 615     REGNO_POINTER_ALIGN (REGNO (reg)) = align;
 616 }
 617
 618 /* Return 1 plus largest pseudo reg number used in the current function.  */
 619
 620 int
 621 max_reg_num ()
 622 {
 623   return reg_rtx_no;
 624 }
 625
 626 /* Return 1 + the largest label number used so far in the current function.  */
 627
 628 int
 629 max_label_num ()
 630 {
 631   if (last_label_num && label_num == base_label_num)
 632     return last_label_num;
 633   return label_num;
 634 }
 635
 636 /* Return first label number used in this function (if any were used).  */
 637
 638 int
 639 get_first_label_num ()
 640 {
 641   return first_label_num;
 642 }
 643 \f
 644 /* Return a value representing some low-order bits of X, where the number
 645    of low-order bits is given by MODE.  Note that no conversion is done
 646    between floating-point and fixed-point values, rather, the bit
 647    representation is returned.
 648
 649    This function handles the cases in common between gen_lowpart, below,
 650    and two variants in cse.c and combine.c.  These are the cases that can
 651    be safely handled at all points in the compilation.
 652
 653    If this is not a case we can handle, return 0.  */
 654
 655 rtx
 656 gen_lowpart_common (mode, x)
 657      enum machine_mode mode;
 658      register rtx x;
 659 {
 660   int word = 0;
 661
 662   if (GET_MODE (x) == mode)
 663     return x;
 664
 665   /* MODE must occupy no more words than the mode of X.  */
 666   if (GET_MODE (x) != VOIDmode
 667       && ((GET_MODE_SIZE (mode) + (UNITS_PER_WORD - 1)) / UNITS_PER_WORD
 668           > ((GET_MODE_SIZE (GET_MODE (x)) + (UNITS_PER_WORD - 1))
 669              / UNITS_PER_WORD)))
 670     return 0;
 671
 672   if (WORDS_BIG_ENDIAN && GET_MODE_SIZE (GET_MODE (x)) > UNITS_PER_WORD)
 673     word = ((GET_MODE_SIZE (GET_MODE (x))
 674              - MAX (GET_MODE_SIZE (mode), UNITS_PER_WORD))
 675             / UNITS_PER_WORD);
 676
 677   if ((GET_CODE (x) == ZERO_EXTEND || GET_CODE (x) == SIGN_EXTEND)
 678       && (GET_MODE_CLASS (mode) == MODE_INT
 679           || GET_MODE_CLASS (mode) == MODE_PARTIAL_INT))
 680     {
 681       /* If we are getting the low-order part of something that has been
 682          sign- or zero-extended, we can either just use the object being
 683          extended or make a narrower extension.  If we want an even smaller
 684          piece than the size of the object being extended, call ourselves
 685          recursively.
 686
 687          This case is used mostly by combine and cse.  */
 688
 689       if (GET_MODE (XEXP (x, 0)) == mode)
 690         return XEXP (x, 0);
 691       else if (GET_MODE_SIZE (mode) < GET_MODE_SIZE (GET_MODE (XEXP (x, 0))))
 692         return gen_lowpart_common (mode, XEXP (x, 0));
 693       else if (GET_MODE_SIZE (mode) < GET_MODE_SIZE (GET_MODE (x)))
 694         return gen_rtx_fmt_e (GET_CODE (x), mode, XEXP (x, 0));
 695     }
 696   else if (GET_CODE (x) == SUBREG
 697            && (GET_MODE_SIZE (mode) <= GET_MODE_SIZE (GET_MODE (SUBREG_REG (x)))
 698                || GET_MODE_SIZE (mode) <= UNITS_PER_WORD
 699                || GET_MODE_SIZE (mode) == GET_MODE_UNIT_SIZE (GET_MODE (x))))
 700     return (GET_MODE (SUBREG_REG (x)) == mode && SUBREG_WORD (x) == 0
 701             ? SUBREG_REG (x)
 702             : gen_rtx_SUBREG (mode, SUBREG_REG (x), SUBREG_WORD (x) + word));
 703   else if (GET_CODE (x) == REG)
 704     {
 705       /* Let the backend decide how many registers to skip.  This is needed
 706          in particular for Sparc64 where fp regs are smaller than a word.  */
 707       /* ??? Note that subregs are now ambiguous, in that those against
 708          pseudos are sized by the Word Size, while those against hard
 709          regs are sized by the underlying register size.  Better would be
 710          to always interpret the subreg offset parameter as bytes or bits.  */
 711
 712       if (WORDS_BIG_ENDIAN && REGNO (x) < FIRST_PSEUDO_REGISTER
 713           && GET_MODE_SIZE (GET_MODE (x)) > GET_MODE_SIZE (mode))
 714         word = (HARD_REGNO_NREGS (REGNO (x), GET_MODE (x))
 715                 - HARD_REGNO_NREGS (REGNO (x), mode));
 716
 717       /* If the register is not valid for MODE, return 0.  If we don't
 718          do this, there is no way to fix up the resulting REG later.
 719          But we do do this if the current REG is not valid for its
 720          mode.  This latter is a kludge, but is required due to the
 721          way that parameters are passed on some machines, most
 722          notably Sparc.  */
 723       if (REGNO (x) < FIRST_PSEUDO_REGISTER
 724           && ! HARD_REGNO_MODE_OK (REGNO (x) + word, mode)
 725           && HARD_REGNO_MODE_OK (REGNO (x), GET_MODE (x)))
 726         return 0;
 727       else if (REGNO (x) < FIRST_PSEUDO_REGISTER
 728                /* integrate.c can't handle parts of a return value register. */
 729                && (! REG_FUNCTION_VALUE_P (x)
 730                    || ! rtx_equal_function_value_matters)
 731 #ifdef CLASS_CANNOT_CHANGE_MODE
 732                && ! (CLASS_CANNOT_CHANGE_MODE_P (mode, GET_MODE (x))
 733                      && GET_MODE_CLASS (GET_MODE (x)) != MODE_COMPLEX_INT
 734                      && GET_MODE_CLASS (GET_MODE (x)) != MODE_COMPLEX_FLOAT
 735                      && (TEST_HARD_REG_BIT
 736                          (reg_class_contents[(int) CLASS_CANNOT_CHANGE_MODE],
 737                           REGNO (x))))
 738 #endif
 739                /* We want to keep the stack, frame, and arg pointers
 740                   special.  */
 741                && x != frame_pointer_rtx
 742 #if FRAME_POINTER_REGNUM != ARG_POINTER_REGNUM
 743                && x != arg_pointer_rtx
 744 #endif
 745                && x != stack_pointer_rtx)
 746         return gen_rtx_REG (mode, REGNO (x) + word);
 747       else
 748         return gen_rtx_SUBREG (mode, x, word);
 749     }
 750   /* If X is a CONST_INT or a CONST_DOUBLE, extract the appropriate bits
 751      from the low-order part of the constant.  */
 752   else if ((GET_MODE_CLASS (mode) == MODE_INT
 753             || GET_MODE_CLASS (mode) == MODE_PARTIAL_INT)
 754            && GET_MODE (x) == VOIDmode
 755            && (GET_CODE (x) == CONST_INT || GET_CODE (x) == CONST_DOUBLE))
 756     {
 757       /* If MODE is twice the host word size, X is already the desired
 758          representation.  Otherwise, if MODE is wider than a word, we can't
 759          do this.  If MODE is exactly a word, return just one CONST_INT.  */
 760
 761       if (GET_MODE_BITSIZE (mode) >= 2 * HOST_BITS_PER_WIDE_INT)
 762         return x;
 763       else if (GET_MODE_BITSIZE (mode) > HOST_BITS_PER_WIDE_INT)
 764         return 0;
 765       else if (GET_MODE_BITSIZE (mode) == HOST_BITS_PER_WIDE_INT)
 766         return (GET_CODE (x) == CONST_INT ? x
 767                 : GEN_INT (CONST_DOUBLE_LOW (x)));
 768       else
 769         {
 770           /* MODE must be narrower than HOST_BITS_PER_WIDE_INT.  */
 771           HOST_WIDE_INT val = (GET_CODE (x) == CONST_INT ? INTVAL (x)
 772                                : CONST_DOUBLE_LOW (x));
 773
 774           /* Sign extend to HOST_WIDE_INT.  */
 775           val = trunc_int_for_mode (val, mode);
 776
 777           return (GET_CODE (x) == CONST_INT && INTVAL (x) == val ? x
 778                   : GEN_INT (val));
 779         }
 780     }
 781
 782 #ifndef REAL_ARITHMETIC
 783   /* If X is an integral constant but we want it in floating-point, it
 784      must be the case that we have a union of an integer and a floating-point
 785      value.  If the machine-parameters allow it, simulate that union here
 786      and return the result.  The two-word and single-word cases are
 787      different.  */
 788
 789   else if (((HOST_FLOAT_FORMAT == TARGET_FLOAT_FORMAT
 790              && HOST_BITS_PER_WIDE_INT == BITS_PER_WORD)
 791             || flag_pretend_float)
 792            && GET_MODE_CLASS (mode) == MODE_FLOAT
 793            && GET_MODE_SIZE (mode) == UNITS_PER_WORD
 794            && GET_CODE (x) == CONST_INT
 795            && sizeof (float) * HOST_BITS_PER_CHAR == HOST_BITS_PER_WIDE_INT)
 796     {
 797       union {HOST_WIDE_INT i; float d; } u;
 798
 799       u.i = INTVAL (x);
 800       return CONST_DOUBLE_FROM_REAL_VALUE (u.d, mode);
 801     }
 802   else if (((HOST_FLOAT_FORMAT == TARGET_FLOAT_FORMAT
 803              && HOST_BITS_PER_WIDE_INT == BITS_PER_WORD)
 804             || flag_pretend_float)
 805            && GET_MODE_CLASS (mode) == MODE_FLOAT
 806            && GET_MODE_SIZE (mode) == 2 * UNITS_PER_WORD
 807            && (GET_CODE (x) == CONST_INT || GET_CODE (x) == CONST_DOUBLE)
 808            && GET_MODE (x) == VOIDmode
 809            && (sizeof (double) * HOST_BITS_PER_CHAR
 810                == 2 * HOST_BITS_PER_WIDE_INT))
 811     {
 812       union {HOST_WIDE_INT i[2]; double d; } u;
 813       HOST_WIDE_INT low, high;
 814
 815       if (GET_CODE (x) == CONST_INT)
 816         low = INTVAL (x), high = low >> (HOST_BITS_PER_WIDE_INT -1);
 817       else
 818         low = CONST_DOUBLE_LOW (x), high = CONST_DOUBLE_HIGH (x);
 819
 820 #ifdef HOST_WORDS_BIG_ENDIAN
 821       u.i[0] = high, u.i[1] = low;
 822 #else
 823       u.i[0] = low, u.i[1] = high;
 824 #endif
 825
 826       return CONST_DOUBLE_FROM_REAL_VALUE (u.d, mode);
 827     }
 828
 829   /* Similarly, if this is converting a floating-point value into a
 830      single-word integer.  Only do this is the host and target parameters are
 831      compatible.  */
 832
 833   else if (((HOST_FLOAT_FORMAT == TARGET_FLOAT_FORMAT
 834              && HOST_BITS_PER_WIDE_INT == BITS_PER_WORD)
 835             || flag_pretend_float)
 836            && (GET_MODE_CLASS (mode) == MODE_INT
 837                || GET_MODE_CLASS (mode) == MODE_PARTIAL_INT)
 838            && GET_CODE (x) == CONST_DOUBLE
 839            && GET_MODE_CLASS (GET_MODE (x)) == MODE_FLOAT
 840            && GET_MODE_BITSIZE (mode) == BITS_PER_WORD)
 841     return operand_subword (x, word, 0, GET_MODE (x));
 842
 843   /* Similarly, if this is converting a floating-point value into a
 844      two-word integer, we can do this one word at a time and make an
 845      integer.  Only do this is the host and target parameters are
 846      compatible.  */
 847
 848   else if (((HOST_FLOAT_FORMAT == TARGET_FLOAT_FORMAT
 849              && HOST_BITS_PER_WIDE_INT == BITS_PER_WORD)
 850             || flag_pretend_float)
 851            && (GET_MODE_CLASS (mode) == MODE_INT
 852                || GET_MODE_CLASS (mode) == MODE_PARTIAL_INT)
 853            && GET_CODE (x) == CONST_DOUBLE
 854            && GET_MODE_CLASS (GET_MODE (x)) == MODE_FLOAT
 855            && GET_MODE_BITSIZE (mode) == 2 * BITS_PER_WORD)
 856     {
 857       rtx lowpart
 858         = operand_subword (x, word + WORDS_BIG_ENDIAN, 0, GET_MODE (x));
 859       rtx highpart
 860         = operand_subword (x, word + ! WORDS_BIG_ENDIAN, 0, GET_MODE (x));
 861
 862       if (lowpart && GET_CODE (lowpart) == CONST_INT
 863           && highpart && GET_CODE (highpart) == CONST_INT)
 864         return immed_double_const (INTVAL (lowpart), INTVAL (highpart), mode);
 865     }
 866 #else /* ifndef REAL_ARITHMETIC */
 867
 868   /* When we have a FP emulator, we can handle all conversions between
 869      FP and integer operands.  This simplifies reload because it
 870      doesn't have to deal with constructs like (subreg:DI
 871      (const_double:SF ...)) or (subreg:DF (const_int ...)).  */
 872
 873   else if (mode == SFmode
 874            && GET_CODE (x) == CONST_INT)
 875     {
 876       REAL_VALUE_TYPE r;
 877       HOST_WIDE_INT i;
 878
 879       i = INTVAL (x);
 880       r = REAL_VALUE_FROM_TARGET_SINGLE (i);
 881       return CONST_DOUBLE_FROM_REAL_VALUE (r, mode);
 882     }
 883   else if (mode == DFmode
 884            && (GET_CODE (x) == CONST_INT || GET_CODE (x) == CONST_DOUBLE)
 885            && GET_MODE (x) == VOIDmode)
 886     {
 887       REAL_VALUE_TYPE r;
 888       HOST_WIDE_INT i[2];
 889       HOST_WIDE_INT low, high;
 890
 891       if (GET_CODE (x) == CONST_INT)
 892         {
 893           low = INTVAL (x);
 894           high = low >> (HOST_BITS_PER_WIDE_INT - 1);
 895         }
 896       else
 897         {
 898           low = CONST_DOUBLE_LOW (x);
 899           high = CONST_DOUBLE_HIGH (x);
 900         }
 901
 902       /* REAL_VALUE_TARGET_DOUBLE takes the addressing order of the
 903          target machine.  */
 904       if (WORDS_BIG_ENDIAN)
 905         i[0] = high, i[1] = low;
 906       else
 907         i[0] = low, i[1] = high;
 908
 909       r = REAL_VALUE_FROM_TARGET_DOUBLE (i);
 910       return CONST_DOUBLE_FROM_REAL_VALUE (r, mode);
 911     }
 912   else if ((GET_MODE_CLASS (mode) == MODE_INT
 913             || GET_MODE_CLASS (mode) == MODE_PARTIAL_INT)
 914            && GET_CODE (x) == CONST_DOUBLE
 915            && GET_MODE_CLASS (GET_MODE (x)) == MODE_FLOAT)
 916     {
 917       REAL_VALUE_TYPE r;
 918       long i[4];  /* Only the low 32 bits of each 'long' are used.  */
 919       int endian = WORDS_BIG_ENDIAN ? 1 : 0;
 920
 921       REAL_VALUE_FROM_CONST_DOUBLE (r, x);
 922       switch (GET_MODE (x))
 923         {
 924         case SFmode:
 925           REAL_VALUE_TO_TARGET_SINGLE (r, i[endian]);
 926           i[1 - endian] = 0;
 927           break;
 928         case DFmode:
 929           REAL_VALUE_TO_TARGET_DOUBLE (r, i);
 930           break;
 931 #if LONG_DOUBLE_TYPE_SIZE == 96
 932         case XFmode:
 933           REAL_VALUE_TO_TARGET_LONG_DOUBLE (r, i + endian);
 934           i[3-3*endian] = 0;
 935 #else
 936         case TFmode:
 937           REAL_VALUE_TO_TARGET_LONG_DOUBLE (r, i);
 938 #endif
 939           break;
 940         default:
 941           abort ();
 942         }
 943
 944       /* Now, pack the 32-bit elements of the array into a CONST_DOUBLE
 945          and return it.  */
 946 #if HOST_BITS_PER_WIDE_INT == 32
 947       return immed_double_const (i[endian], i[1 - endian], mode);
 948 #else
 949       {
 950         int c;
 951
 952         if (HOST_BITS_PER_WIDE_INT != 64)
 953           abort ();
 954
 955         for (c = 0; c < 4; c++)
 956           i[c] &= ~ (0L);
 957
 958         switch (GET_MODE (x))
 959           {
 960           case SFmode:
 961           case DFmode:
 962             return immed_double_const (((unsigned long) i[endian]) |
 963                                        (((HOST_WIDE_INT) i[1-endian]) << 32),
 964                                        0, mode);
 965           default:
 966             return immed_double_const (((unsigned long) i[endian*3]) |
 967                                        (((HOST_WIDE_INT) i[1+endian]) << 32),
 968                                        ((unsigned long) i[2-endian]) |
 969                                        (((HOST_WIDE_INT) i[3-endian*3]) << 32),
 970                                        mode);
 971           }
 972       }
 973 #endif
 974     }
 975 #endif /* ifndef REAL_ARITHMETIC */
 976
 977   /* Otherwise, we can't do this.  */
 978   return 0;
 979 }
 980 \f
 981 /* Return the real part (which has mode MODE) of a complex value X.
 982    This always comes at the low address in memory.  */
 983
 984 rtx
 985 gen_realpart (mode, x)
 986      enum machine_mode mode;
 987      register rtx x;
 988 {
 989   if (GET_CODE (x) == CONCAT && GET_MODE (XEXP (x, 0)) == mode)
 990     return XEXP (x, 0);
 991   else if (WORDS_BIG_ENDIAN
 992            && GET_MODE_BITSIZE (mode) < BITS_PER_WORD
 993            && REG_P (x)
 994            && REGNO (x) < FIRST_PSEUDO_REGISTER)
 995     fatal ("Unable to access real part of complex value in a hard register on this target");
 996   else if (WORDS_BIG_ENDIAN)
 997     return gen_highpart (mode, x);
 998   else
 999     return gen_lowpart (mode, x);
1000 }
1001
1002 /* Return the imaginary part (which has mode MODE) of a complex value X.
1003    This always comes at the high address in memory.  */
1004
1005 rtx
1006 gen_imagpart (mode, x)
1007      enum machine_mode mode;
1008      register rtx x;
1009 {
1010   if (GET_CODE (x) == CONCAT && GET_MODE (XEXP (x, 0)) == mode)
1011     return XEXP (x, 1);
1012   else if (WORDS_BIG_ENDIAN)
1013     return gen_lowpart (mode, x);
1014   else if (!WORDS_BIG_ENDIAN
1015            && GET_MODE_BITSIZE (mode) < BITS_PER_WORD
1016            && REG_P (x)
1017            && REGNO (x) < FIRST_PSEUDO_REGISTER)
1018     fatal ("Unable to access imaginary part of complex value in a hard register on this target");
1019   else
1020     return gen_highpart (mode, x);
1021 }
1022
1023 /* Return 1 iff X, assumed to be a SUBREG,
1024    refers to the real part of the complex value in its containing reg.
1025    Complex values are always stored with the real part in the first word,
1026    regardless of WORDS_BIG_ENDIAN.  */
1027
1028 int
1029 subreg_realpart_p (x)
1030      rtx x;
1031 {
1032   if (GET_CODE (x) != SUBREG)
1033     abort ();
1034
1035   return ((unsigned int) SUBREG_WORD (x) * UNITS_PER_WORD
1036           < GET_MODE_UNIT_SIZE (GET_MODE (SUBREG_REG (x))));
1037 }
1038 \f
1039 /* Assuming that X is an rtx (e.g., MEM, REG or SUBREG) for a value,
1040    return an rtx (MEM, SUBREG, or CONST_INT) that refers to the
1041    least-significant part of X.
1042    MODE specifies how big a part of X to return;
1043    it usually should not be larger than a word.
1044    If X is a MEM whose address is a QUEUED, the value may be so also.  */
1045
1046 rtx
1047 gen_lowpart (mode, x)
1048      enum machine_mode mode;
1049      register rtx x;
1050 {
1051   rtx result = gen_lowpart_common (mode, x);
1052
1053   if (result)
1054     return result;
1055   else if (GET_CODE (x) == REG)
1056     {
1057       /* Must be a hard reg that's not valid in MODE.  */
1058       result = gen_lowpart_common (mode, copy_to_reg (x));
1059       if (result == 0)
1060         abort ();
1061       return result;
1062     }
1063   else if (GET_CODE (x) == MEM)
1064     {
1065       /* The only additional case we can do is MEM.  */
1066       register int offset = 0;
1067       if (WORDS_BIG_ENDIAN)
1068         offset = (MAX (GET_MODE_SIZE (GET_MODE (x)), UNITS_PER_WORD)
1069                   - MAX (GET_MODE_SIZE (mode), UNITS_PER_WORD));
1070
1071       if (BYTES_BIG_ENDIAN)
1072         /* Adjust the address so that the address-after-the-data
1073            is unchanged.  */
1074         offset -= (MIN (UNITS_PER_WORD, GET_MODE_SIZE (mode))
1075                    - MIN (UNITS_PER_WORD, GET_MODE_SIZE (GET_MODE (x))));
1076
1077       return change_address (x, mode, plus_constant (XEXP (x, 0), offset));
1078     }
1079   else if (GET_CODE (x) == ADDRESSOF)
1080     return gen_lowpart (mode, force_reg (GET_MODE (x), x));
1081   else
1082     abort ();
1083 }
1084
1085 /* Like `gen_lowpart', but refer to the most significant part.
1086    This is used to access the imaginary part of a complex number.  */
1087
1088 rtx
1089 gen_highpart (mode, x)
1090      enum machine_mode mode;
1091      register rtx x;
1092 {
1093   /* This case loses if X is a subreg.  To catch bugs early,
1094      complain if an invalid MODE is used even in other cases.  */
1095   if (GET_MODE_SIZE (mode) > UNITS_PER_WORD
1096       && GET_MODE_SIZE (mode) != GET_MODE_UNIT_SIZE (GET_MODE (x)))
1097     abort ();
1098   if (GET_CODE (x) == CONST_DOUBLE
1099 #if !(TARGET_FLOAT_FORMAT != HOST_FLOAT_FORMAT || defined (REAL_IS_NOT_DOUBLE))
1100       && GET_MODE_CLASS (GET_MODE (x)) != MODE_FLOAT
1101 #endif
1102       )
1103     return GEN_INT (CONST_DOUBLE_HIGH (x) & GET_MODE_MASK (mode));
1104   else if (GET_CODE (x) == CONST_INT)
1105     {
1106       if (HOST_BITS_PER_WIDE_INT <= BITS_PER_WORD)
1107         return const0_rtx;
1108       return GEN_INT (INTVAL (x) >> (HOST_BITS_PER_WIDE_INT - BITS_PER_WORD));
1109     }
1110   else if (GET_CODE (x) == MEM)
1111     {
1112       register int offset = 0;
1113       if (! WORDS_BIG_ENDIAN)
1114         offset = (MAX (GET_MODE_SIZE (GET_MODE (x)), UNITS_PER_WORD)
1115                   - MAX (GET_MODE_SIZE (mode), UNITS_PER_WORD));
1116
1117       if (! BYTES_BIG_ENDIAN
1118           && GET_MODE_SIZE (mode) < UNITS_PER_WORD)
1119         offset -= (GET_MODE_SIZE (mode)
1120                    - MIN (UNITS_PER_WORD,
1121                           GET_MODE_SIZE (GET_MODE (x))));
1122
1123       return change_address (x, mode, plus_constant (XEXP (x, 0), offset));
1124     }
1125   else if (GET_CODE (x) == SUBREG)
1126     {
1127       /* The only time this should occur is when we are looking at a
1128          multi-word item with a SUBREG whose mode is the same as that of the
1129          item.  It isn't clear what we would do if it wasn't.  */
1130       if (SUBREG_WORD (x) != 0)
1131         abort ();
1132       return gen_highpart (mode, SUBREG_REG (x));
1133     }
1134   else if (GET_CODE (x) == REG)
1135     {
1136       int word;
1137
1138       /* Let the backend decide how many registers to skip.  This is needed
1139          in particular for sparc64 where fp regs are smaller than a word.  */
1140       /* ??? Note that subregs are now ambiguous, in that those against
1141          pseudos are sized by the word size, while those against hard
1142          regs are sized by the underlying register size.  Better would be
1143          to always interpret the subreg offset parameter as bytes or bits.  */
1144
1145       if (GET_MODE_SIZE (GET_MODE (x)) < GET_MODE_SIZE (mode))
1146         abort ();
1147       else if (WORDS_BIG_ENDIAN)
1148         word = 0;
1149       else if (REGNO (x) < FIRST_PSEUDO_REGISTER)
1150         word = (HARD_REGNO_NREGS (REGNO (x), GET_MODE (x))
1151                 - HARD_REGNO_NREGS (REGNO (x), mode));
1152       else
1153         word = ((GET_MODE_SIZE (GET_MODE (x))
1154                  - MAX (GET_MODE_SIZE (mode), UNITS_PER_WORD))
1155                 / UNITS_PER_WORD);
1156
1157       if (REGNO (x) < FIRST_PSEUDO_REGISTER
1158           /* integrate.c can't handle parts of a return value register.  */
1159           && (! REG_FUNCTION_VALUE_P (x)
1160               || ! rtx_equal_function_value_matters)
1161           /* We want to keep the stack, frame, and arg pointers special.  */
1162           && x != frame_pointer_rtx
1163 #if FRAME_POINTER_REGNUM != ARG_POINTER_REGNUM
1164           && x != arg_pointer_rtx
1165 #endif
1166           && x != stack_pointer_rtx)
1167         return gen_rtx_REG (mode, REGNO (x) + word);
1168       else
1169         return gen_rtx_SUBREG (mode, x, word);
1170     }
1171   else
1172     abort ();
1173 }
1174
1175 /* Return 1 iff X, assumed to be a SUBREG,
1176    refers to the least significant part of its containing reg.
1177    If X is not a SUBREG, always return 1 (it is its own low part!).  */
1178
1179 int
1180 subreg_lowpart_p (x)
1181      rtx x;
1182 {
1183   if (GET_CODE (x) != SUBREG)
1184     return 1;
1185   else if (GET_MODE (SUBREG_REG (x)) == VOIDmode)
1186     return 0;
1187
1188   if (WORDS_BIG_ENDIAN
1189       && GET_MODE_SIZE (GET_MODE (SUBREG_REG (x))) > UNITS_PER_WORD)
1190     return (SUBREG_WORD (x)
1191             == ((GET_MODE_SIZE (GET_MODE (SUBREG_REG (x)))
1192                  - MAX (GET_MODE_SIZE (GET_MODE (x)), UNITS_PER_WORD))
1193                 / UNITS_PER_WORD));
1194
1195   return SUBREG_WORD (x) == 0;
1196 }
1197 \f
1198 /* Return subword I of operand OP.
1199    The word number, I, is interpreted as the word number starting at the
1200    low-order address.  Word 0 is the low-order word if not WORDS_BIG_ENDIAN,
1201    otherwise it is the high-order word.
1202
1203    If we cannot extract the required word, we return zero.  Otherwise, an
1204    rtx corresponding to the requested word will be returned.
1205
1206    VALIDATE_ADDRESS is nonzero if the address should be validated.  Before
1207    reload has completed, a valid address will always be returned.  After
1208    reload, if a valid address cannot be returned, we return zero.
1209
1210    If VALIDATE_ADDRESS is zero, we simply form the required address; validating
1211    it is the responsibility of the caller.
1212
1213    MODE is the mode of OP in case it is a CONST_INT.  */
1214
1215 rtx
1216 operand_subword (op, i, validate_address, mode)
1217      rtx op;
1218      unsigned int i;
1219      int validate_address;
1220      enum machine_mode mode;
1221 {
1222   HOST_WIDE_INT val;
1223   int size_ratio = HOST_BITS_PER_WIDE_INT / BITS_PER_WORD;
1224
1225   if (mode == VOIDmode)
1226     mode = GET_MODE (op);
1227
1228   if (mode == VOIDmode)
1229     abort ();
1230
1231   /* If OP is narrower than a word, fail. */
1232   if (mode != BLKmode
1233       && (GET_MODE_SIZE (mode) < UNITS_PER_WORD))
1234     return 0;
1235
1236   /* If we want a word outside OP, return zero. */
1237   if (mode != BLKmode
1238       && (i + 1) * UNITS_PER_WORD > GET_MODE_SIZE (mode))
1239     return const0_rtx;
1240
1241   /* If OP is already an integer word, return it.  */
1242   if (GET_MODE_CLASS (mode) == MODE_INT
1243       && GET_MODE_SIZE (mode) == UNITS_PER_WORD)
1244     return op;
1245
1246   /* If OP is a REG or SUBREG, we can handle it very simply.  */
1247   if (GET_CODE (op) == REG)
1248     {
1249       /* ??? There is a potential problem with this code.  It does not
1250          properly handle extractions of a subword from a hard register
1251          that is larger than word_mode.  Presumably the check for
1252          HARD_REGNO_MODE_OK catches these most of these cases.  */
1253
1254       /* If OP is a hard register, but OP + I is not a hard register,
1255          then extracting a subword is impossible.
1256
1257          For example, consider if OP is the last hard register and it is
1258          larger than word_mode.  If we wanted word N (for N > 0) because a
1259          part of that hard register was known to contain a useful value,
1260          then OP + I would refer to a pseudo, not the hard register we
1261          actually wanted.  */
1262       if (REGNO (op) < FIRST_PSEUDO_REGISTER
1263           && REGNO (op) + i >= FIRST_PSEUDO_REGISTER)
1264         return 0;
1265
1266       /* If the register is not valid for MODE, return 0.  Note we
1267          have to check both OP and OP + I since they may refer to
1268          different parts of the register file.
1269
1270          Consider if OP refers to the last 96bit FP register and we want
1271          subword 3 because that subword is known to contain a value we
1272          needed.  */
1273       if (REGNO (op) < FIRST_PSEUDO_REGISTER
1274           && (! HARD_REGNO_MODE_OK (REGNO (op), word_mode)
1275               || ! HARD_REGNO_MODE_OK (REGNO (op) + i, word_mode)))
1276         return 0;
1277       else if (REGNO (op) >= FIRST_PSEUDO_REGISTER
1278                || (REG_FUNCTION_VALUE_P (op)
1279                    && rtx_equal_function_value_matters)
1280                /* We want to keep the stack, frame, and arg pointers
1281                   special.  */
1282                || op == frame_pointer_rtx
1283 #if FRAME_POINTER_REGNUM != ARG_POINTER_REGNUM
1284                || op == arg_pointer_rtx
1285 #endif
1286                || op == stack_pointer_rtx)
1287         return gen_rtx_SUBREG (word_mode, op, i);
1288       else
1289         return gen_rtx_REG (word_mode, REGNO (op) + i);
1290     }
1291   else if (GET_CODE (op) == SUBREG)
1292     return gen_rtx_SUBREG (word_mode, SUBREG_REG (op), i + SUBREG_WORD (op));
1293   else if (GET_CODE (op) == CONCAT)
1294     {
1295       unsigned int partwords
1296         = GET_MODE_UNIT_SIZE (GET_MODE (op)) / UNITS_PER_WORD;
1297
1298       if (i < partwords)
1299         return operand_subword (XEXP (op, 0), i, validate_address, mode);
1300       return operand_subword (XEXP (op, 1), i - partwords,
1301                               validate_address, mode);
1302     }
1303
1304   /* Form a new MEM at the requested address.  */
1305   if (GET_CODE (op) == MEM)
1306     {
1307       rtx addr = plus_constant (XEXP (op, 0), i * UNITS_PER_WORD);
1308       rtx new;
1309
1310       if (validate_address)
1311         {
1312           if (reload_completed)
1313             {
1314               if (! strict_memory_address_p (word_mode, addr))
1315                 return 0;
1316             }
1317           else
1318             addr = memory_address (word_mode, addr);
1319         }
1320
1321       new = gen_rtx_MEM (word_mode, addr);
1322       MEM_COPY_ATTRIBUTES (new, op);
1323       return new;
1324     }
1325
1326   /* The only remaining cases are when OP is a constant.  If the host and
1327      target floating formats are the same, handling two-word floating
1328      constants are easy.  Note that REAL_VALUE_TO_TARGET_{SINGLE,DOUBLE}
1329      are defined as returning one or two 32 bit values, respectively,
1330      and not values of BITS_PER_WORD bits.  */
1331 #ifdef REAL_ARITHMETIC
1332   /* The output is some bits, the width of the target machine's word.
1333      A wider-word host can surely hold them in a CONST_INT. A narrower-word
1334      host can't.  */
1335   if (HOST_BITS_PER_WIDE_INT >= BITS_PER_WORD
1336       && GET_MODE_CLASS (mode) == MODE_FLOAT
1337       && GET_MODE_BITSIZE (mode) == 64
1338       && GET_CODE (op) == CONST_DOUBLE)
1339     {
1340       long k[2];
1341       REAL_VALUE_TYPE rv;
1342
1343       REAL_VALUE_FROM_CONST_DOUBLE (rv, op);
1344       REAL_VALUE_TO_TARGET_DOUBLE (rv, k);
1345
1346       /* We handle 32-bit and >= 64-bit words here.  Note that the order in
1347          which the words are written depends on the word endianness.
1348          ??? This is a potential portability problem and should
1349          be fixed at some point.
1350
1351          We must excercise caution with the sign bit.  By definition there
1352          are 32 significant bits in K; there may be more in a HOST_WIDE_INT.
1353          Consider a host with a 32-bit long and a 64-bit HOST_WIDE_INT.
1354          So we explicitly mask and sign-extend as necessary.  */
1355       if (BITS_PER_WORD == 32)
1356         {
1357           val = k[i];
1358           val = ((val & 0xffffffff) ^ 0x80000000) - 0x80000000;
1359           return GEN_INT (val);
1360         }
1361 #if HOST_BITS_PER_WIDE_INT >= 64
1362       else if (BITS_PER_WORD >= 64 && i == 0)
1363         {
1364           val = k[! WORDS_BIG_ENDIAN];
1365           val = (((val & 0xffffffff) ^ 0x80000000) - 0x80000000) << 32;
1366           val |= (HOST_WIDE_INT) k[WORDS_BIG_ENDIAN] & 0xffffffff;
1367           return GEN_INT (val);
1368         }
1369 #endif
1370       else if (BITS_PER_WORD == 16)
1371         {
1372           val = k[i >> 1];
1373           if ((i & 1) == !WORDS_BIG_ENDIAN)
1374             val >>= 16;
1375           val &= 0xffff;
1376           return GEN_INT (val);
1377         }
1378       else
1379         abort ();
1380     }
1381   else if (HOST_BITS_PER_WIDE_INT >= BITS_PER_WORD
1382            && GET_MODE_CLASS (mode) == MODE_FLOAT
1383            && GET_MODE_BITSIZE (mode) > 64
1384            && GET_CODE (op) == CONST_DOUBLE)
1385     {
1386       long k[4];
1387       REAL_VALUE_TYPE rv;
1388
1389       REAL_VALUE_FROM_CONST_DOUBLE (rv, op);
1390       REAL_VALUE_TO_TARGET_LONG_DOUBLE (rv, k);
1391
1392       if (BITS_PER_WORD == 32)
1393         {
1394           val = k[i];
1395           val = ((val & 0xffffffff) ^ 0x80000000) - 0x80000000;
1396           return GEN_INT (val);
1397         }
1398 #if HOST_BITS_PER_WIDE_INT >= 64
1399       else if (BITS_PER_WORD >= 64 && i <= 1)
1400         {
1401           val = k[i*2 + ! WORDS_BIG_ENDIAN];
1402           val = (((val & 0xffffffff) ^ 0x80000000) - 0x80000000) << 32;
1403           val |= (HOST_WIDE_INT) k[i*2 + WORDS_BIG_ENDIAN] & 0xffffffff;
1404           return GEN_INT (val);
1405         }
1406 #endif
1407       else
1408         abort ();
1409     }
1410 #else /* no REAL_ARITHMETIC */
1411   if (((HOST_FLOAT_FORMAT == TARGET_FLOAT_FORMAT
1412         && HOST_BITS_PER_WIDE_INT == BITS_PER_WORD)
1413        || flag_pretend_float)
1414       && GET_MODE_CLASS (mode) == MODE_FLOAT
1415       && GET_MODE_SIZE (mode) == 2 * UNITS_PER_WORD
1416       && GET_CODE (op) == CONST_DOUBLE)
1417     {
1418       /* The constant is stored in the host's word-ordering,
1419          but we want to access it in the target's word-ordering.  Some
1420          compilers don't like a conditional inside macro args, so we have two
1421          copies of the return.  */
1422 #ifdef HOST_WORDS_BIG_ENDIAN
1423       return GEN_INT (i == WORDS_BIG_ENDIAN
1424                       ? CONST_DOUBLE_HIGH (op) : CONST_DOUBLE_LOW (op));
1425 #else
1426       return GEN_INT (i != WORDS_BIG_ENDIAN
1427                       ? CONST_DOUBLE_HIGH (op) : CONST_DOUBLE_LOW (op));
1428 #endif
1429     }
1430 #endif /* no REAL_ARITHMETIC */
1431
1432   /* Single word float is a little harder, since single- and double-word
1433      values often do not have the same high-order bits.  We have already
1434      verified that we want the only defined word of the single-word value.  */
1435 #ifdef REAL_ARITHMETIC
1436   if (GET_MODE_CLASS (mode) == MODE_FLOAT
1437       && GET_MODE_BITSIZE (mode) == 32
1438       && GET_CODE (op) == CONST_DOUBLE)
1439     {
1440       long l;
1441       REAL_VALUE_TYPE rv;
1442
1443       REAL_VALUE_FROM_CONST_DOUBLE (rv, op);
1444       REAL_VALUE_TO_TARGET_SINGLE (rv, l);
1445
1446       /* Sign extend from known 32-bit value to HOST_WIDE_INT.  */
1447       val = l;
1448       val = ((val & 0xffffffff) ^ 0x80000000) - 0x80000000;
1449
1450       if (BITS_PER_WORD == 16)
1451         {
1452           if ((i & 1) == !WORDS_BIG_ENDIAN)
1453             val >>= 16;
1454           val &= 0xffff;
1455         }
1456
1457       return GEN_INT (val);
1458     }
1459 #else
1460   if (((HOST_FLOAT_FORMAT == TARGET_FLOAT_FORMAT
1461         && HOST_BITS_PER_WIDE_INT == BITS_PER_WORD)
1462        || flag_pretend_float)
1463       && sizeof (float) * 8 == HOST_BITS_PER_WIDE_INT
1464       && GET_MODE_CLASS (mode) == MODE_FLOAT
1465       && GET_MODE_SIZE (mode) == UNITS_PER_WORD
1466       && GET_CODE (op) == CONST_DOUBLE)
1467     {
1468       double d;
1469       union {float f; HOST_WIDE_INT i; } u;
1470
1471       REAL_VALUE_FROM_CONST_DOUBLE (d, op);
1472
1473       u.f = d;
1474       return GEN_INT (u.i);
1475     }
1476   if (((HOST_FLOAT_FORMAT == TARGET_FLOAT_FORMAT
1477         && HOST_BITS_PER_WIDE_INT == BITS_PER_WORD)
1478        || flag_pretend_float)
1479       && sizeof (double) * 8 == HOST_BITS_PER_WIDE_INT
1480       && GET_MODE_CLASS (mode) == MODE_FLOAT
1481       && GET_MODE_SIZE (mode) == UNITS_PER_WORD
1482       && GET_CODE (op) == CONST_DOUBLE)
1483     {
1484       double d;
1485       union {double d; HOST_WIDE_INT i; } u;
1486
1487       REAL_VALUE_FROM_CONST_DOUBLE (d, op);
1488
1489       u.d = d;
1490       return GEN_INT (u.i);
1491     }
1492 #endif /* no REAL_ARITHMETIC */
1493
1494   /* The only remaining cases that we can handle are integers.
1495      Convert to proper endianness now since these cases need it.
1496      At this point, i == 0 means the low-order word.
1497
1498      We do not want to handle the case when BITS_PER_WORD <= HOST_BITS_PER_INT
1499      in general.  However, if OP is (const_int 0), we can just return
1500      it for any word.  */
1501
1502   if (op == const0_rtx)
1503     return op;
1504
1505   if (GET_MODE_CLASS (mode) != MODE_INT
1506       || (GET_CODE (op) != CONST_INT && GET_CODE (op) != CONST_DOUBLE)
1507       || BITS_PER_WORD > HOST_BITS_PER_WIDE_INT)
1508     return 0;
1509
1510   if (WORDS_BIG_ENDIAN)
1511     i = GET_MODE_SIZE (mode) / UNITS_PER_WORD - 1 - i;
1512
1513   /* Find out which word on the host machine this value is in and get
1514      it from the constant.  */
1515   val = (i / size_ratio == 0
1516          ? (GET_CODE (op) == CONST_INT ? INTVAL (op) : CONST_DOUBLE_LOW (op))
1517          : (GET_CODE (op) == CONST_INT
1518             ? (INTVAL (op) < 0 ? ~0 : 0) : CONST_DOUBLE_HIGH (op)));
1519
1520   /* Get the value we want into the low bits of val.  */
1521   if (BITS_PER_WORD < HOST_BITS_PER_WIDE_INT)
1522     val = ((val >> ((i % size_ratio) * BITS_PER_WORD)));
1523
1524   val = trunc_int_for_mode (val, word_mode);
1525
1526   return GEN_INT (val);
1527 }
1528
1529 /* Similar to `operand_subword', but never return 0.  If we can't extract
1530    the required subword, put OP into a register and try again.  If that fails,
1531    abort.  We always validate the address in this case.  It is not valid
1532    to call this function after reload; it is mostly meant for RTL
1533    generation.
1534
1535    MODE is the mode of OP, in case it is CONST_INT.  */
1536
1537 rtx
1538 operand_subword_force (op, i, mode)
1539      rtx op;
1540      unsigned int i;
1541      enum machine_mode mode;
1542 {
1543   rtx result = operand_subword (op, i, 1, mode);
1544
1545   if (result)
1546     return result;
1547
1548   if (mode != BLKmode && mode != VOIDmode)
1549     {
1550       /* If this is a register which can not be accessed by words, copy it
1551          to a pseudo register.  */
1552       if (GET_CODE (op) == REG)
1553         op = copy_to_reg (op);
1554       else
1555         op = force_reg (mode, op);
1556     }
1557
1558   result = operand_subword (op, i, 1, mode);
1559   if (result == 0)
1560     abort ();
1561
1562   return result;
1563 }
1564 \f
1565 /* Given a compare instruction, swap the operands.
1566    A test instruction is changed into a compare of 0 against the operand.  */
1567
1568 void
1569 reverse_comparison (insn)
1570      rtx insn;
1571 {
1572   rtx body = PATTERN (insn);
1573   rtx comp;
1574
1575   if (GET_CODE (body) == SET)
1576     comp = SET_SRC (body);
1577   else
1578     comp = SET_SRC (XVECEXP (body, 0, 0));
1579
1580   if (GET_CODE (comp) == COMPARE)
1581     {
1582       rtx op0 = XEXP (comp, 0);
1583       rtx op1 = XEXP (comp, 1);
1584       XEXP (comp, 0) = op1;
1585       XEXP (comp, 1) = op0;
1586     }
1587   else
1588     {
1589       rtx new = gen_rtx_COMPARE (VOIDmode,
1590                                  CONST0_RTX (GET_MODE (comp)), comp);
1591       if (GET_CODE (body) == SET)
1592         SET_SRC (body) = new;
1593       else
1594         SET_SRC (XVECEXP (body, 0, 0)) = new;
1595     }
1596 }
1597 \f
1598 /* Return a memory reference like MEMREF, but with its mode changed
1599    to MODE and its address changed to ADDR.
1600    (VOIDmode means don't change the mode.
1601    NULL for ADDR means don't change the address.)  */
1602
1603 rtx
1604 change_address (memref, mode, addr)
1605      rtx memref;
1606      enum machine_mode mode;
1607      rtx addr;
1608 {
1609   rtx new;
1610
1611   if (GET_CODE (memref) != MEM)
1612     abort ();
1613   if (mode == VOIDmode)
1614     mode = GET_MODE (memref);
1615   if (addr == 0)
1616     addr = XEXP (memref, 0);
1617
1618   /* If reload is in progress or has completed, ADDR must be valid.
1619      Otherwise, we can call memory_address to make it valid.  */
1620   if (reload_completed || reload_in_progress)
1621     {
1622       if (! memory_address_p (mode, addr))
1623         abort ();
1624     }
1625   else
1626     addr = memory_address (mode, addr);
1627
1628   if (rtx_equal_p (addr, XEXP (memref, 0)) && mode == GET_MODE (memref))
1629     return memref;
1630
1631   new = gen_rtx_MEM (mode, addr);
1632   MEM_COPY_ATTRIBUTES (new, memref);
1633   return new;
1634 }
1635 \f
1636 /* Return a newly created CODE_LABEL rtx with a unique label number.  */
1637
1638 rtx
1639 gen_label_rtx ()
1640 {
1641   register rtx label;
1642
1643   label = gen_rtx_CODE_LABEL (VOIDmode, 0, NULL_RTX,
1644                               NULL_RTX, label_num++, NULL_PTR, NULL_PTR);
1645
1646   LABEL_NUSES (label) = 0;
1647   LABEL_ALTERNATE_NAME (label) = NULL;
1648   return label;
1649 }
1650 \f
1651 /* For procedure integration.  */
1652
1653 /* Install new pointers to the first and last insns in the chain.
1654    Also, set cur_insn_uid to one higher than the last in use.
1655    Used for an inline-procedure after copying the insn chain.  */
1656
1657 void
1658 set_new_first_and_last_insn (first, last)
1659      rtx first, last;
1660 {
1661   rtx insn;
1662
1663   first_insn = first;
1664   last_insn = last;
1665   cur_insn_uid = 0;
1666
1667   for (insn = first; insn; insn = NEXT_INSN (insn))
1668     cur_insn_uid = MAX (cur_insn_uid, INSN_UID (insn));
1669
1670   cur_insn_uid++;
1671 }
1672
1673 /* Set the range of label numbers found in the current function.
1674    This is used when belatedly compiling an inline function.  */
1675
1676 void
1677 set_new_first_and_last_label_num (first, last)
1678      int first, last;
1679 {
1680   base_label_num = label_num;
1681   first_label_num = first;
1682   last_label_num = last;
1683 }
1684
1685 /* Set the last label number found in the current function.
1686    This is used when belatedly compiling an inline function.  */
1687
1688 void
1689 set_new_last_label_num (last)
1690      int last;
1691 {
1692   base_label_num = label_num;
1693   last_label_num = last;
1694 }
1695 \f
1696 /* Restore all variables describing the current status from the structure *P.
1697    This is used after a nested function.  */
1698
1699 void
1700 restore_emit_status (p)
1701      struct function *p ATTRIBUTE_UNUSED;
1702 {
1703   last_label_num = 0;
1704   clear_emit_caches ();
1705 }
1706
1707 /* Clear out all parts of the state in F that can safely be discarded
1708    after the function has been compiled, to let garbage collection
1709    reclaim the memory.  */
1710
1711 void
1712 free_emit_status (f)
1713      struct function *f;
1714 {
1715   free (f->emit->x_regno_reg_rtx);
1716   free (f->emit->regno_pointer_flag);
1717   free (f->emit->regno_pointer_align);
1718   free (f->emit);
1719   f->emit = NULL;
1720 }
1721 \f
1722 /* Go through all the RTL insn bodies and copy any invalid shared
1723    structure.  This routine should only be called once.  */
1724
1725 void
1726 unshare_all_rtl (fndecl, insn)
1727      tree fndecl;
1728      rtx insn;
1729 {
1730   tree decl;
1731
1732   /* Make sure that virtual parameters are not shared.  */
1733   for (decl = DECL_ARGUMENTS (fndecl); decl; decl = TREE_CHAIN (decl))
1734     DECL_RTL (decl) = copy_rtx_if_shared (DECL_RTL (decl));
1735
1736   /* Make sure that virtual stack slots are not shared.  */
1737   unshare_all_decls (DECL_INITIAL (fndecl));
1738
1739   /* Unshare just about everything else.  */
1740   unshare_all_rtl_1 (insn);
1741
1742   /* Make sure the addresses of stack slots found outside the insn chain
1743      (such as, in DECL_RTL of a variable) are not shared
1744      with the insn chain.
1745
1746      This special care is necessary when the stack slot MEM does not
1747      actually appear in the insn chain.  If it does appear, its address
1748      is unshared from all else at that point.  */
1749   stack_slot_list = copy_rtx_if_shared (stack_slot_list);
1750 }
1751
1752 /* Go through all the RTL insn bodies and copy any invalid shared
1753    structure, again.  This is a fairly expensive thing to do so it
1754    should be done sparingly.  */
1755
1756 void
1757 unshare_all_rtl_again (insn)
1758      rtx insn;
1759 {
1760   rtx p;
1761   tree decl;
1762
1763   for (p = insn; p; p = NEXT_INSN (p))
1764     if (INSN_P (p))
1765       {
1766         reset_used_flags (PATTERN (p));
1767         reset_used_flags (REG_NOTES (p));
1768         reset_used_flags (LOG_LINKS (p));
1769       }
1770
1771   /* Make sure that virtual stack slots are not shared.  */
1772   reset_used_decls (DECL_INITIAL (cfun->decl));
1773
1774   /* Make sure that virtual parameters are not shared.  */
1775   for (decl = DECL_ARGUMENTS (cfun->decl); decl; decl = TREE_CHAIN (decl))
1776     reset_used_flags (DECL_RTL (decl));
1777
1778   reset_used_flags (stack_slot_list);
1779
1780   unshare_all_rtl (cfun->decl, insn);
1781 }
1782
1783 /* Go through all the RTL insn bodies and copy any invalid shared structure.
1784    Assumes the mark bits are cleared at entry.  */
1785
1786 static void
1787 unshare_all_rtl_1 (insn)
1788      rtx insn;
1789 {
1790   for (; insn; insn = NEXT_INSN (insn))
1791     if (INSN_P (insn))
1792       {
1793         PATTERN (insn) = copy_rtx_if_shared (PATTERN (insn));
1794         REG_NOTES (insn) = copy_rtx_if_shared (REG_NOTES (insn));
1795         LOG_LINKS (insn) = copy_rtx_if_shared (LOG_LINKS (insn));
1796       }
1797 }
1798
1799 /* Go through all virtual stack slots of a function and copy any
1800    shared structure.  */
1801 static void
1802 unshare_all_decls (blk)
1803      tree blk;
1804 {
1805   tree t;
1806
1807   /* Copy shared decls.  */
1808   for (t = BLOCK_VARS (blk); t; t = TREE_CHAIN (t))
1809     DECL_RTL (t) = copy_rtx_if_shared (DECL_RTL (t));
1810
1811   /* Now process sub-blocks.  */
1812   for (t = BLOCK_SUBBLOCKS (blk); t; t = TREE_CHAIN (t))
1813     unshare_all_decls (t);
1814 }
1815
1816 /* Go through all virtual stack slots of a function and mark them as
1817    not shared. */
1818 static void
1819 reset_used_decls (blk)
1820      tree blk;
1821 {
1822   tree t;
1823
1824   /* Mark decls.  */
1825   for (t = BLOCK_VARS (blk); t; t = TREE_CHAIN (t))
1826     reset_used_flags (DECL_RTL (t));
1827
1828   /* Now process sub-blocks.  */
1829   for (t = BLOCK_SUBBLOCKS (blk); t; t = TREE_CHAIN (t))
1830     reset_used_decls (t);
1831 }
1832
1833 /* Mark ORIG as in use, and return a copy of it if it was already in use.
1834    Recursively does the same for subexpressions.  */
1835
1836 rtx
1837 copy_rtx_if_shared (orig)
1838      rtx orig;
1839 {
1840   register rtx x = orig;
1841   register int i;
1842   register enum rtx_code code;
1843   register const char *format_ptr;
1844   int copied = 0;
1845
1846   if (x == 0)
1847     return 0;
1848
1849   code = GET_CODE (x);
1850
1851   /* These types may be freely shared.  */
1852
1853   switch (code)
1854     {
1855     case REG:
1856     case QUEUED:
1857     case CONST_INT:
1858     case CONST_DOUBLE:
1859     case SYMBOL_REF:
1860     case CODE_LABEL:
1861     case PC:
1862     case CC0:
1863     case SCRATCH:
1864       /* SCRATCH must be shared because they represent distinct values.  */
1865       return x;
1866
1867     case CONST:
1868       /* CONST can be shared if it contains a SYMBOL_REF.  If it contains
1869          a LABEL_REF, it isn't sharable.  */
1870       if (GET_CODE (XEXP (x, 0)) == PLUS
1871           && GET_CODE (XEXP (XEXP (x, 0), 0)) == SYMBOL_REF
1872           && GET_CODE (XEXP (XEXP (x, 0), 1)) == CONST_INT)
1873         return x;
1874       break;
1875
1876     case INSN:
1877     case JUMP_INSN:
1878     case CALL_INSN:
1879     case NOTE:
1880     case BARRIER:
1881       /* The chain of insns is not being copied.  */
1882       return x;
1883
1884     case MEM:
1885       /* A MEM is allowed to be shared if its address is constant.
1886
1887          We used to allow sharing of MEMs which referenced
1888          virtual_stack_vars_rtx or virtual_incoming_args_rtx, but
1889          that can lose.  instantiate_virtual_regs will not unshare
1890          the MEMs, and combine may change the structure of the address
1891          because it looks safe and profitable in one context, but
1892          in some other context it creates unrecognizable RTL.  */
1893       if (CONSTANT_ADDRESS_P (XEXP (x, 0)))
1894         return x;
1895
1896       break;
1897
1898     default:
1899       break;
1900     }
1901
1902   /* This rtx may not be shared.  If it has already been seen,
1903      replace it with a copy of itself.  */
1904
1905   if (x->used)
1906     {
1907       register rtx copy;
1908
1909       copy = rtx_alloc (code);
1910       memcpy (copy, x,
1911              (sizeof (*copy) - sizeof (copy->fld)
1912               + sizeof (copy->fld[0]) * GET_RTX_LENGTH (code)));
1913       x = copy;
1914       copied = 1;
1915     }
1916   x->used = 1;
1917
1918   /* Now scan the subexpressions recursively.
1919      We can store any replaced subexpressions directly into X
1920      since we know X is not shared!  Any vectors in X
1921      must be copied if X was copied.  */
1922
1923   format_ptr = GET_RTX_FORMAT (code);
1924
1925   for (i = 0; i < GET_RTX_LENGTH (code); i++)
1926     {
1927       switch (*format_ptr++)
1928         {
1929         case 'e':
1930           XEXP (x, i) = copy_rtx_if_shared (XEXP (x, i));
1931           break;
1932
1933         case 'E':
1934           if (XVEC (x, i) != NULL)
1935             {
1936               register int j;
1937               int len = XVECLEN (x, i);
1938
1939               if (copied && len > 0)
1940                 XVEC (x, i) = gen_rtvec_v (len, XVEC (x, i)->elem);
1941               for (j = 0; j < len; j++)
1942                 XVECEXP (x, i, j) = copy_rtx_if_shared (XVECEXP (x, i, j));
1943             }
1944           break;
1945         }
1946     }
1947   return x;
1948 }
1949
1950 /* Clear all the USED bits in X to allow copy_rtx_if_shared to be used
1951    to look for shared sub-parts.  */
1952
1953 void
1954 reset_used_flags (x)
1955      rtx x;
1956 {
1957   register int i, j;
1958   register enum rtx_code code;
1959   register const char *format_ptr;
1960
1961   if (x == 0)
1962     return;
1963
1964   code = GET_CODE (x);
1965
1966   /* These types may be freely shared so we needn't do any resetting
1967      for them.  */
1968
1969   switch (code)
1970     {
1971     case REG:
1972     case QUEUED:
1973     case CONST_INT:
1974     case CONST_DOUBLE:
1975     case SYMBOL_REF:
1976     case CODE_LABEL:
1977     case PC:
1978     case CC0:
1979       return;
1980
1981     case INSN:
1982     case JUMP_INSN:
1983     case CALL_INSN:
1984     case NOTE:
1985     case LABEL_REF:
1986     case BARRIER:
1987       /* The chain of insns is not being copied.  */
1988       return;
1989
1990     default:
1991       break;
1992     }
1993
1994   x->used = 0;
1995
1996   format_ptr = GET_RTX_FORMAT (code);
1997   for (i = 0; i < GET_RTX_LENGTH (code); i++)
1998     {
1999       switch (*format_ptr++)
2000         {
2001         case 'e':
2002           reset_used_flags (XEXP (x, i));
2003           break;
2004
2005         case 'E':
2006           for (j = 0; j < XVECLEN (x, i); j++)
2007             reset_used_flags (XVECEXP (x, i, j));
2008           break;
2009         }
2010     }
2011 }
2012 \f
2013 /* Copy X if necessary so that it won't be altered by changes in OTHER.
2014    Return X or the rtx for the pseudo reg the value of X was copied into.
2015    OTHER must be valid as a SET_DEST.  */
2016
2017 rtx
2018 make_safe_from (x, other)
2019      rtx x, other;
2020 {
2021   while (1)
2022     switch (GET_CODE (other))
2023       {
2024       case SUBREG:
2025         other = SUBREG_REG (other);
2026         break;
2027       case STRICT_LOW_PART:
2028       case SIGN_EXTEND:
2029       case ZERO_EXTEND:
2030         other = XEXP (other, 0);
2031         break;
2032       default:
2033         goto done;
2034       }
2035  done:
2036   if ((GET_CODE (other) == MEM
2037        && ! CONSTANT_P (x)
2038        && GET_CODE (x) != REG
2039        && GET_CODE (x) != SUBREG)
2040       || (GET_CODE (other) == REG
2041           && (REGNO (other) < FIRST_PSEUDO_REGISTER
2042               || reg_mentioned_p (other, x))))
2043     {
2044       rtx temp = gen_reg_rtx (GET_MODE (x));
2045       emit_move_insn (temp, x);
2046       return temp;
2047     }
2048   return x;
2049 }
2050 \f
2051 /* Emission of insns (adding them to the doubly-linked list).  */
2052
2053 /* Return the first insn of the current sequence or current function.  */
2054
2055 rtx
2056 get_insns ()
2057 {
2058   return first_insn;
2059 }
2060
2061 /* Return the last insn emitted in current sequence or current function.  */
2062
2063 rtx
2064 get_last_insn ()
2065 {
2066   return last_insn;
2067 }
2068
2069 /* Specify a new insn as the last in the chain.  */
2070
2071 void
2072 set_last_insn (insn)
2073      rtx insn;
2074 {
2075   if (NEXT_INSN (insn) != 0)
2076     abort ();
2077   last_insn = insn;
2078 }
2079
2080 /* Return the last insn emitted, even if it is in a sequence now pushed.  */
2081
2082 rtx
2083 get_last_insn_anywhere ()
2084 {
2085   struct sequence_stack *stack;
2086   if (last_insn)
2087     return last_insn;
2088   for (stack = seq_stack; stack; stack = stack->next)
2089     if (stack->last != 0)
2090       return stack->last;
2091   return 0;
2092 }
2093
2094 /* Return a number larger than any instruction's uid in this function.  */
2095
2096 int
2097 get_max_uid ()
2098 {
2099   return cur_insn_uid;
2100 }
2101
2102 /* Renumber instructions so that no instruction UIDs are wasted.  */
2103
2104 void
2105 renumber_insns (stream)
2106      FILE *stream;
2107 {
2108   rtx insn;
2109
2110   /* If we're not supposed to renumber instructions, don't.  */
2111   if (!flag_renumber_insns)
2112     return;
2113
2114   /* If there aren't that many instructions, then it's not really
2115      worth renumbering them.  */
2116   if (flag_renumber_insns == 1 && get_max_uid () < 25000)
2117     return;
2118
2119   cur_insn_uid = 1;
2120
2121   for (insn = get_insns (); insn; insn = NEXT_INSN (insn))
2122     {
2123       if (stream)
2124         fprintf (stream, "Renumbering insn %d to %d\n",
2125                  INSN_UID (insn), cur_insn_uid);
2126       INSN_UID (insn) = cur_insn_uid++;
2127     }
2128 }
2129 \f
2130 /* Return the next insn.  If it is a SEQUENCE, return the first insn
2131    of the sequence.  */
2132
2133 rtx
2134 next_insn (insn)
2135      rtx insn;
2136 {
2137   if (insn)
2138     {
2139       insn = NEXT_INSN (insn);
2140       if (insn && GET_CODE (insn) == INSN
2141           && GET_CODE (PATTERN (insn)) == SEQUENCE)
2142         insn = XVECEXP (PATTERN (insn), 0, 0);
2143     }
2144
2145   return insn;
2146 }
2147
2148 /* Return the previous insn.  If it is a SEQUENCE, return the last insn
2149    of the sequence.  */
2150
2151 rtx
2152 previous_insn (insn)
2153      rtx insn;
2154 {
2155   if (insn)
2156     {
2157       insn = PREV_INSN (insn);
2158       if (insn && GET_CODE (insn) == INSN
2159           && GET_CODE (PATTERN (insn)) == SEQUENCE)
2160         insn = XVECEXP (PATTERN (insn), 0, XVECLEN (PATTERN (insn), 0) - 1);
2161     }
2162
2163   return insn;
2164 }
2165
2166 /* Return the next insn after INSN that is not a NOTE.  This routine does not
2167    look inside SEQUENCEs.  */
2168
2169 rtx
2170 next_nonnote_insn (insn)
2171      rtx insn;
2172 {
2173   while (insn)
2174     {
2175       insn = NEXT_INSN (insn);
2176       if (insn == 0 || GET_CODE (insn) != NOTE)
2177         break;
2178     }
2179
2180   return insn;
2181 }
2182
2183 /* Return the previous insn before INSN that is not a NOTE.  This routine does
2184    not look inside SEQUENCEs.  */
2185
2186 rtx
2187 prev_nonnote_insn (insn)
2188      rtx insn;
2189 {
2190   while (insn)
2191     {
2192       insn = PREV_INSN (insn);
2193       if (insn == 0 || GET_CODE (insn) != NOTE)
2194         break;
2195     }
2196
2197   return insn;
2198 }
2199
2200 /* Return the next INSN, CALL_INSN or JUMP_INSN after INSN;
2201    or 0, if there is none.  This routine does not look inside
2202    SEQUENCEs.  */
2203
2204 rtx
2205 next_real_insn (insn)
2206      rtx insn;
2207 {
2208   while (insn)
2209     {
2210       insn = NEXT_INSN (insn);
2211       if (insn == 0 || GET_CODE (insn) == INSN
2212           || GET_CODE (insn) == CALL_INSN || GET_CODE (insn) == JUMP_INSN)
2213         break;
2214     }
2215
2216   return insn;
2217 }
2218
2219 /* Return the last INSN, CALL_INSN or JUMP_INSN before INSN;
2220    or 0, if there is none.  This routine does not look inside
2221    SEQUENCEs.  */
2222
2223 rtx
2224 prev_real_insn (insn)
2225      rtx insn;
2226 {
2227   while (insn)
2228     {
2229       insn = PREV_INSN (insn);
2230       if (insn == 0 || GET_CODE (insn) == INSN || GET_CODE (insn) == CALL_INSN
2231           || GET_CODE (insn) == JUMP_INSN)
2232         break;
2233     }
2234
2235   return insn;
2236 }
2237
2238 /* Find the next insn after INSN that really does something.  This routine
2239    does not look inside SEQUENCEs.  Until reload has completed, this is the
2240    same as next_real_insn.  */
2241
2242 int
2243 active_insn_p (insn)
2244      rtx insn;
2245 {
2246   return (GET_CODE (insn) == CALL_INSN || GET_CODE (insn) == JUMP_INSN
2247           || (GET_CODE (insn) == INSN
2248               && (! reload_completed
2249                   || (GET_CODE (PATTERN (insn)) != USE
2250                       && GET_CODE (PATTERN (insn)) != CLOBBER))));
2251 }
2252
2253 rtx
2254 next_active_insn (insn)
2255      rtx insn;
2256 {
2257   while (insn)
2258     {
2259       insn = NEXT_INSN (insn);
2260       if (insn == 0 || active_insn_p (insn))
2261         break;
2262     }
2263
2264   return insn;
2265 }
2266
2267 /* Find the last insn before INSN that really does something.  This routine
2268    does not look inside SEQUENCEs.  Until reload has completed, this is the
2269    same as prev_real_insn.  */
2270
2271 rtx
2272 prev_active_insn (insn)
2273      rtx insn;
2274 {
2275   while (insn)
2276     {
2277       insn = PREV_INSN (insn);
2278       if (insn == 0 || active_insn_p (insn))
2279         break;
2280     }
2281
2282   return insn;
2283 }
2284
2285 /* Return the next CODE_LABEL after the insn INSN, or 0 if there is none.  */
2286
2287 rtx
2288 next_label (insn)
2289      rtx insn;
2290 {
2291   while (insn)
2292     {
2293       insn = NEXT_INSN (insn);
2294       if (insn == 0 || GET_CODE (insn) == CODE_LABEL)
2295         break;
2296     }
2297
2298   return insn;
2299 }
2300
2301 /* Return the last CODE_LABEL before the insn INSN, or 0 if there is none.  */
2302
2303 rtx
2304 prev_label (insn)
2305      rtx insn;
2306 {
2307   while (insn)
2308     {
2309       insn = PREV_INSN (insn);
2310       if (insn == 0 || GET_CODE (insn) == CODE_LABEL)
2311         break;
2312     }
2313
2314   return insn;
2315 }
2316 \f
2317 #ifdef HAVE_cc0
2318 /* INSN uses CC0 and is being moved into a delay slot.  Set up REG_CC_SETTER
2319    and REG_CC_USER notes so we can find it.  */
2320
2321 void
2322 link_cc0_insns (insn)
2323      rtx insn;
2324 {
2325   rtx user = next_nonnote_insn (insn);
2326
2327   if (GET_CODE (user) == INSN && GET_CODE (PATTERN (user)) == SEQUENCE)
2328     user = XVECEXP (PATTERN (user), 0, 0);
2329
2330   REG_NOTES (user) = gen_rtx_INSN_LIST (REG_CC_SETTER, insn,
2331                                         REG_NOTES (user));
2332   REG_NOTES (insn) = gen_rtx_INSN_LIST (REG_CC_USER, user, REG_NOTES (insn));
2333 }
2334
2335 /* Return the next insn that uses CC0 after INSN, which is assumed to
2336    set it.  This is the inverse of prev_cc0_setter (i.e., prev_cc0_setter
2337    applied to the result of this function should yield INSN).
2338
2339    Normally, this is simply the next insn.  However, if a REG_CC_USER note
2340    is present, it contains the insn that uses CC0.
2341
2342    Return 0 if we can't find the insn.  */
2343
2344 rtx
2345 next_cc0_user (insn)
2346      rtx insn;
2347 {
2348   rtx note = find_reg_note (insn, REG_CC_USER, NULL_RTX);
2349
2350   if (note)
2351     return XEXP (note, 0);
2352
2353   insn = next_nonnote_insn (insn);
2354   if (insn && GET_CODE (insn) == INSN && GET_CODE (PATTERN (insn)) == SEQUENCE)
2355     insn = XVECEXP (PATTERN (insn), 0, 0);
2356
2357   if (insn && INSN_P (insn) && reg_mentioned_p (cc0_rtx, PATTERN (insn)))
2358     return insn;
2359
2360   return 0;
2361 }
2362
2363 /* Find the insn that set CC0 for INSN.  Unless INSN has a REG_CC_SETTER
2364    note, it is the previous insn.  */
2365
2366 rtx
2367 prev_cc0_setter (insn)
2368      rtx insn;
2369 {
2370   rtx note = find_reg_note (insn, REG_CC_SETTER, NULL_RTX);
2371
2372   if (note)
2373     return XEXP (note, 0);
2374
2375   insn = prev_nonnote_insn (insn);
2376   if (! sets_cc0_p (PATTERN (insn)))
2377     abort ();
2378
2379   return insn;
2380 }
2381 #endif
2382 \f
2383 /* Try splitting insns that can be split for better scheduling.
2384    PAT is the pattern which might split.
2385    TRIAL is the insn providing PAT.
2386    LAST is non-zero if we should return the last insn of the sequence produced.
2387
2388    If this routine succeeds in splitting, it returns the first or last
2389    replacement insn depending on the value of LAST.  Otherwise, it
2390    returns TRIAL.  If the insn to be returned can be split, it will be.  */
2391
2392 rtx
2393 try_split (pat, trial, last)
2394      rtx pat, trial;
2395      int last;
2396 {
2397   rtx before = PREV_INSN (trial);
2398   rtx after = NEXT_INSN (trial);
2399   rtx seq = split_insns (pat, trial);
2400   int has_barrier = 0;
2401   rtx tem;
2402
2403   /* If we are splitting a JUMP_INSN, it might be followed by a BARRIER.
2404      We may need to handle this specially.  */
2405   if (after && GET_CODE (after) == BARRIER)
2406     {
2407       has_barrier = 1;
2408       after = NEXT_INSN (after);
2409     }
2410
2411   if (seq)
2412     {
2413       /* SEQ can either be a SEQUENCE or the pattern of a single insn.
2414          The latter case will normally arise only when being done so that
2415          it, in turn, will be split (SFmode on the 29k is an example).  */
2416       if (GET_CODE (seq) == SEQUENCE)
2417         {
2418           int i;
2419
2420           /* Avoid infinite loop if any insn of the result matches
2421              the original pattern.  */
2422           for (i = 0; i < XVECLEN (seq, 0); i++)
2423             if (GET_CODE (XVECEXP (seq, 0, i)) == INSN
2424                 && rtx_equal_p (PATTERN (XVECEXP (seq, 0, i)), pat))
2425               return trial;
2426
2427           /* If we are splitting a JUMP_INSN, look for the JUMP_INSN in
2428              SEQ and copy our JUMP_LABEL to it.  If JUMP_LABEL is non-zero,
2429              increment the usage count so we don't delete the label.  */
2430
2431           if (GET_CODE (trial) == JUMP_INSN)
2432             for (i = XVECLEN (seq, 0) - 1; i >= 0; i--)
2433               if (GET_CODE (XVECEXP (seq, 0, i)) == JUMP_INSN)
2434                 {
2435                   JUMP_LABEL (XVECEXP (seq, 0, i)) = JUMP_LABEL (trial);
2436
2437                   if (JUMP_LABEL (trial))
2438                     LABEL_NUSES (JUMP_LABEL (trial))++;
2439                 }
2440
2441           /* If we are splitting a CALL_INSN, look for the CALL_INSN
2442              in SEQ and copy our CALL_INSN_FUNCTION_USAGE to it.  */
2443           if (GET_CODE (trial) == CALL_INSN)
2444             for (i = XVECLEN (seq, 0) - 1; i >= 0; i--)
2445               if (GET_CODE (XVECEXP (seq, 0, i)) == CALL_INSN)
2446                 CALL_INSN_FUNCTION_USAGE (XVECEXP (seq, 0, i))
2447                   = CALL_INSN_FUNCTION_USAGE (trial);
2448
2449           tem = emit_insn_after (seq, before);
2450
2451           delete_insn (trial);
2452           if (has_barrier)
2453             emit_barrier_after (tem);
2454
2455           /* Recursively call try_split for each new insn created; by the
2456              time control returns here that insn will be fully split, so
2457              set LAST and continue from the insn after the one returned.
2458              We can't use next_active_insn here since AFTER may be a note.
2459              Ignore deleted insns, which can be occur if not optimizing.  */
2460           for (tem = NEXT_INSN (before); tem != after; tem = NEXT_INSN (tem))
2461             if (! INSN_DELETED_P (tem) && INSN_P (tem))
2462               tem = try_split (PATTERN (tem), tem, 1);
2463         }
2464       /* Avoid infinite loop if the result matches the original pattern.  */
2465       else if (rtx_equal_p (seq, pat))
2466         return trial;
2467       else
2468         {
2469           PATTERN (trial) = seq;
2470           INSN_CODE (trial) = -1;
2471           try_split (seq, trial, last);
2472         }
2473
2474       /* Return either the first or the last insn, depending on which was
2475          requested.  */
2476       return last
2477                 ? (after ? prev_active_insn (after) : last_insn)
2478                 : next_active_insn (before);
2479     }
2480
2481   return trial;
2482 }
2483 \f
2484 /* Make and return an INSN rtx, initializing all its slots.
2485    Store PATTERN in the pattern slots.  */
2486
2487 rtx
2488 make_insn_raw (pattern)
2489      rtx pattern;
2490 {
2491   register rtx insn;
2492
2493   insn = rtx_alloc (INSN);
2494
2495   INSN_UID (insn) = cur_insn_uid++;
2496   PATTERN (insn) = pattern;
2497   INSN_CODE (insn) = -1;
2498   LOG_LINKS (insn) = NULL;
2499   REG_NOTES (insn) = NULL;
2500
2501 #ifdef ENABLE_RTL_CHECKING
2502   if (insn
2503       && INSN_P (insn)
2504       && (returnjump_p (insn)
2505           || (GET_CODE (insn) == SET
2506               && SET_DEST (insn) == pc_rtx)))
2507     {
2508       warning ("ICE: emit_insn used where emit_jump_insn needed:\n");
2509       debug_rtx (insn);
2510     }
2511 #endif
2512
2513   return insn;
2514 }
2515
2516 /* Like `make_insn' but make a JUMP_INSN instead of an insn.  */
2517
2518 static rtx
2519 make_jump_insn_raw (pattern)
2520      rtx pattern;
2521 {
2522   register rtx insn;
2523
2524   insn = rtx_alloc (JUMP_INSN);
2525   INSN_UID (insn) = cur_insn_uid++;
2526
2527   PATTERN (insn) = pattern;
2528   INSN_CODE (insn) = -1;
2529   LOG_LINKS (insn) = NULL;
2530   REG_NOTES (insn) = NULL;
2531   JUMP_LABEL (insn) = NULL;
2532
2533   return insn;
2534 }
2535
2536 /* Like `make_insn' but make a CALL_INSN instead of an insn.  */
2537
2538 static rtx
2539 make_call_insn_raw (pattern)
2540      rtx pattern;
2541 {
2542   register rtx insn;
2543
2544   insn = rtx_alloc (CALL_INSN);
2545   INSN_UID (insn) = cur_insn_uid++;
2546
2547   PATTERN (insn) = pattern;
2548   INSN_CODE (insn) = -1;
2549   LOG_LINKS (insn) = NULL;
2550   REG_NOTES (insn) = NULL;
2551   CALL_INSN_FUNCTION_USAGE (insn) = NULL;
2552
2553   return insn;
2554 }
2555 \f
2556 /* Add INSN to the end of the doubly-linked list.
2557    INSN may be an INSN, JUMP_INSN, CALL_INSN, CODE_LABEL, BARRIER or NOTE.  */
2558
2559 void
2560 add_insn (insn)
2561      register rtx insn;
2562 {
2563   PREV_INSN (insn) = last_insn;
2564   NEXT_INSN (insn) = 0;
2565
2566   if (NULL != last_insn)
2567     NEXT_INSN (last_insn) = insn;
2568
2569   if (NULL == first_insn)
2570     first_insn = insn;
2571
2572   last_insn = insn;
2573 }
2574
2575 /* Add INSN into the doubly-linked list after insn AFTER.  This and
2576    the next should be the only functions called to insert an insn once
2577    delay slots have been filled since only they know how to update a
2578    SEQUENCE.  */
2579
2580 void
2581 add_insn_after (insn, after)
2582      rtx insn, after;
2583 {
2584   rtx next = NEXT_INSN (after);
2585
2586   if (optimize && INSN_DELETED_P (after))
2587     abort ();
2588
2589   NEXT_INSN (insn) = next;
2590   PREV_INSN (insn) = after;
2591
2592   if (next)
2593     {
2594       PREV_INSN (next) = insn;
2595       if (GET_CODE (next) == INSN && GET_CODE (PATTERN (next)) == SEQUENCE)
2596         PREV_INSN (XVECEXP (PATTERN (next), 0, 0)) = insn;
2597     }
2598   else if (last_insn == after)
2599     last_insn = insn;
2600   else
2601     {
2602       struct sequence_stack *stack = seq_stack;
2603       /* Scan all pending sequences too.  */
2604       for (; stack; stack = stack->next)
2605         if (after == stack->last)
2606           {
2607             stack->last = insn;
2608             break;
2609           }
2610
2611       if (stack == 0)
2612         abort ();
2613     }
2614
2615   NEXT_INSN (after) = insn;
2616   if (GET_CODE (after) == INSN && GET_CODE (PATTERN (after)) == SEQUENCE)
2617     {
2618       rtx sequence = PATTERN (after);
2619       NEXT_INSN (XVECEXP (sequence, 0, XVECLEN (sequence, 0) - 1)) = insn;
2620     }
2621 }
2622
2623 /* Add INSN into the doubly-linked list before insn BEFORE.  This and
2624    the previous should be the only functions called to insert an insn once
2625    delay slots have been filled since only they know how to update a
2626    SEQUENCE.  */
2627
2628 void
2629 add_insn_before (insn, before)
2630      rtx insn, before;
2631 {
2632   rtx prev = PREV_INSN (before);
2633
2634   if (optimize && INSN_DELETED_P (before))
2635     abort ();
2636
2637   PREV_INSN (insn) = prev;
2638   NEXT_INSN (insn) = before;
2639
2640   if (prev)
2641     {
2642       NEXT_INSN (prev) = insn;
2643       if (GET_CODE (prev) == INSN && GET_CODE (PATTERN (prev)) == SEQUENCE)
2644         {
2645           rtx sequence = PATTERN (prev);
2646           NEXT_INSN (XVECEXP (sequence, 0, XVECLEN (sequence, 0) - 1)) = insn;
2647         }
2648     }
2649   else if (first_insn == before)
2650     first_insn = insn;
2651   else
2652     {
2653       struct sequence_stack *stack = seq_stack;
2654       /* Scan all pending sequences too.  */
2655       for (; stack; stack = stack->next)
2656         if (before == stack->first)
2657           {
2658             stack->first = insn;
2659             break;
2660           }
2661
2662       if (stack == 0)
2663         abort ();
2664     }
2665
2666   PREV_INSN (before) = insn;
2667   if (GET_CODE (before) == INSN && GET_CODE (PATTERN (before)) == SEQUENCE)
2668     PREV_INSN (XVECEXP (PATTERN (before), 0, 0)) = insn;
2669 }
2670
2671 /* Remove an insn from its doubly-linked list.  This function knows how
2672    to handle sequences.  */
2673 void
2674 remove_insn (insn)
2675      rtx insn;
2676 {
2677   rtx next = NEXT_INSN (insn);
2678   rtx prev = PREV_INSN (insn);
2679   if (prev)
2680     {
2681       NEXT_INSN (prev) = next;
2682       if (GET_CODE (prev) == INSN && GET_CODE (PATTERN (prev)) == SEQUENCE)
2683         {
2684           rtx sequence = PATTERN (prev);
2685           NEXT_INSN (XVECEXP (sequence, 0, XVECLEN (sequence, 0) - 1)) = next;
2686         }
2687     }
2688   else if (first_insn == insn)
2689     first_insn = next;
2690   else
2691     {
2692       struct sequence_stack *stack = seq_stack;
2693       /* Scan all pending sequences too.  */
2694       for (; stack; stack = stack->next)
2695         if (insn == stack->first)
2696           {
2697             stack->first = next;
2698             break;
2699           }
2700
2701       if (stack == 0)
2702         abort ();
2703     }
2704
2705   if (next)
2706     {
2707       PREV_INSN (next) = prev;
2708       if (GET_CODE (next) == INSN && GET_CODE (PATTERN (next)) == SEQUENCE)
2709         PREV_INSN (XVECEXP (PATTERN (next), 0, 0)) = prev;
2710     }
2711   else if (last_insn == insn)
2712     last_insn = prev;
2713   else
2714     {
2715       struct sequence_stack *stack = seq_stack;
2716       /* Scan all pending sequences too.  */
2717       for (; stack; stack = stack->next)
2718         if (insn == stack->last)
2719           {
2720             stack->last = prev;
2721             break;
2722           }
2723
2724       if (stack == 0)
2725         abort ();
2726     }
2727 }
2728
2729 /* Delete all insns made since FROM.
2730    FROM becomes the new last instruction.  */
2731
2732 void
2733 delete_insns_since (from)
2734      rtx from;
2735 {
2736   if (from == 0)
2737     first_insn = 0;
2738   else
2739     NEXT_INSN (from) = 0;
2740   last_insn = from;
2741 }
2742
2743 /* This function is deprecated, please use sequences instead.
2744
2745    Move a consecutive bunch of insns to a different place in the chain.
2746    The insns to be moved are those between FROM and TO.
2747    They are moved to a new position after the insn AFTER.
2748    AFTER must not be FROM or TO or any insn in between.
2749
2750    This function does not know about SEQUENCEs and hence should not be
2751    called after delay-slot filling has been done.  */
2752
2753 void
2754 reorder_insns (from, to, after)
2755      rtx from, to, after;
2756 {
2757   /* Splice this bunch out of where it is now.  */
2758   if (PREV_INSN (from))
2759     NEXT_INSN (PREV_INSN (from)) = NEXT_INSN (to);
2760   if (NEXT_INSN (to))
2761     PREV_INSN (NEXT_INSN (to)) = PREV_INSN (from);
2762   if (last_insn == to)
2763     last_insn = PREV_INSN (from);
2764   if (first_insn == from)
2765     first_insn = NEXT_INSN (to);
2766
2767   /* Make the new neighbors point to it and it to them.  */
2768   if (NEXT_INSN (after))
2769     PREV_INSN (NEXT_INSN (after)) = to;
2770
2771   NEXT_INSN (to) = NEXT_INSN (after);
2772   PREV_INSN (from) = after;
2773   NEXT_INSN (after) = from;
2774   if (after == last_insn)
2775     last_insn = to;
2776 }
2777
2778 /* Return the line note insn preceding INSN.  */
2779
2780 static rtx
2781 find_line_note (insn)
2782      rtx insn;
2783 {
2784   if (no_line_numbers)
2785     return 0;
2786
2787   for (; insn; insn = PREV_INSN (insn))
2788     if (GET_CODE (insn) == NOTE
2789         && NOTE_LINE_NUMBER (insn) >= 0)
2790       break;
2791
2792   return insn;
2793 }
2794
2795 /* Like reorder_insns, but inserts line notes to preserve the line numbers
2796    of the moved insns when debugging.  This may insert a note between AFTER
2797    and FROM, and another one after TO.  */
2798
2799 void
2800 reorder_insns_with_line_notes (from, to, after)
2801      rtx from, to, after;
2802 {
2803   rtx from_line = find_line_note (from);
2804   rtx after_line = find_line_note (after);
2805
2806   reorder_insns (from, to, after);
2807
2808   if (from_line == after_line)
2809     return;
2810
2811   if (from_line)
2812     emit_line_note_after (NOTE_SOURCE_FILE (from_line),
2813                           NOTE_LINE_NUMBER (from_line),
2814                           after);
2815   if (after_line)
2816     emit_line_note_after (NOTE_SOURCE_FILE (after_line),
2817                           NOTE_LINE_NUMBER (after_line),
2818                           to);
2819 }
2820
2821 /* Remove unnecessary notes from the instruction stream.  */
2822
2823 void
2824 remove_unnecessary_notes ()
2825 {
2826   rtx insn;
2827   rtx next;
2828
2829   /* We must not remove the first instruction in the function because
2830      the compiler depends on the first instruction being a note.  */
2831   for (insn = NEXT_INSN (get_insns ()); insn; insn = next)
2832     {
2833       /* Remember what's next.  */
2834       next = NEXT_INSN (insn);
2835
2836       /* We're only interested in notes.  */
2837       if (GET_CODE (insn) != NOTE)
2838         continue;
2839
2840       /* By now, all notes indicating lexical blocks should have
2841          NOTE_BLOCK filled in.  */
2842       if ((NOTE_LINE_NUMBER (insn) == NOTE_INSN_BLOCK_BEG
2843            || NOTE_LINE_NUMBER (insn) == NOTE_INSN_BLOCK_END)
2844           && NOTE_BLOCK (insn) == NULL_TREE)
2845         abort ();
2846
2847       /* Remove NOTE_INSN_DELETED notes.  */
2848       if (NOTE_LINE_NUMBER (insn) == NOTE_INSN_DELETED)
2849         remove_insn (insn);
2850       else if (NOTE_LINE_NUMBER (insn) == NOTE_INSN_BLOCK_END)
2851         {
2852           /* Scan back to see if there are any non-note instructions
2853              between INSN and the beginning of this block.  If not,
2854              then there is no PC range in the generated code that will
2855              actually be in this block, so there's no point in
2856              remembering the existence of the block.  */
2857           rtx prev;
2858
2859           for (prev = PREV_INSN (insn); prev; prev = PREV_INSN (prev))
2860             {
2861               /* This block contains a real instruction.  Note that we
2862                  don't include labels; if the only thing in the block
2863                  is a label, then there are still no PC values that
2864                  lie within the block.  */
2865               if (INSN_P (prev))
2866                 break;
2867
2868               /* We're only interested in NOTEs.  */
2869               if (GET_CODE (prev) != NOTE)
2870                 continue;
2871
2872               if (NOTE_LINE_NUMBER (prev) == NOTE_INSN_BLOCK_BEG)
2873                 {
2874                   /* If the BLOCKs referred to by these notes don't
2875                      match, then something is wrong with our BLOCK
2876                      nesting structure.  */
2877                   if (NOTE_BLOCK (prev) != NOTE_BLOCK (insn))
2878                     abort ();
2879
2880                   if (debug_ignore_block (NOTE_BLOCK (insn)))
2881                     {
2882                       remove_insn (prev);
2883                       remove_insn (insn);
2884                     }
2885                   break;
2886                 }
2887               else if (NOTE_LINE_NUMBER (prev) == NOTE_INSN_BLOCK_END)
2888                 /* There's a nested block.  We need to leave the
2889                    current block in place since otherwise the debugger
2890                    wouldn't be able to show symbols from our block in
2891                    the nested block.  */
2892                 break;
2893             }
2894         }
2895     }
2896 }
2897
2898 \f
2899 /* Emit an insn of given code and pattern
2900    at a specified place within the doubly-linked list.  */
2901
2902 /* Make an instruction with body PATTERN
2903    and output it before the instruction BEFORE.  */
2904
2905 rtx
2906 emit_insn_before (pattern, before)
2907      register rtx pattern, before;
2908 {
2909   register rtx insn = before;
2910
2911   if (GET_CODE (pattern) == SEQUENCE)
2912     {
2913       register int i;
2914
2915       for (i = 0; i < XVECLEN (pattern, 0); i++)
2916         {
2917           insn = XVECEXP (pattern, 0, i);
2918           add_insn_before (insn, before);
2919         }
2920     }
2921   else
2922     {
2923       insn = make_insn_raw (pattern);
2924       add_insn_before (insn, before);
2925     }
2926
2927   return insn;
2928 }
2929
2930 /* Similar to emit_insn_before, but update basic block boundaries as well.  */
2931
2932 rtx
2933 emit_block_insn_before (pattern, before, block)
2934      rtx pattern, before;
2935      basic_block block;
2936 {
2937   rtx prev = PREV_INSN (before);
2938   rtx r = emit_insn_before (pattern, before);
2939   if (block && block->head == before)
2940     block->head = NEXT_INSN (prev);
2941   return r;
2942 }
2943
2944 /* Make an instruction with body PATTERN and code JUMP_INSN
2945    and output it before the instruction BEFORE.  */
2946
2947 rtx
2948 emit_jump_insn_before (pattern, before)
2949      register rtx pattern, before;
2950 {
2951   register rtx insn;
2952
2953   if (GET_CODE (pattern) == SEQUENCE)
2954     insn = emit_insn_before (pattern, before);
2955   else
2956     {
2957       insn = make_jump_insn_raw (pattern);
2958       add_insn_before (insn, before);
2959     }
2960
2961   return insn;
2962 }
2963
2964 /* Make an instruction with body PATTERN and code CALL_INSN
2965    and output it before the instruction BEFORE.  */
2966
2967 rtx
2968 emit_call_insn_before (pattern, before)
2969      register rtx pattern, before;
2970 {
2971   register rtx insn;
2972
2973   if (GET_CODE (pattern) == SEQUENCE)
2974     insn = emit_insn_before (pattern, before);
2975   else
2976     {
2977       insn = make_call_insn_raw (pattern);
2978       add_insn_before (insn, before);
2979       PUT_CODE (insn, CALL_INSN);
2980     }
2981
2982   return insn;
2983 }
2984
2985 /* Make an insn of code BARRIER
2986    and output it before the insn BEFORE.  */
2987
2988 rtx
2989 emit_barrier_before (before)
2990      register rtx before;
2991 {
2992   register rtx insn = rtx_alloc (BARRIER);
2993
2994   INSN_UID (insn) = cur_insn_uid++;
2995
2996   add_insn_before (insn, before);
2997   return insn;
2998 }
2999
3000 /* Emit the label LABEL before the insn BEFORE.  */
3001
3002 rtx
3003 emit_label_before (label, before)
3004      rtx label, before;
3005 {
3006   /* This can be called twice for the same label as a result of the
3007      confusion that follows a syntax error!  So make it harmless.  */
3008   if (INSN_UID (label) == 0)
3009     {
3010       INSN_UID (label) = cur_insn_uid++;
3011       add_insn_before (label, before);
3012     }
3013
3014   return label;
3015 }
3016
3017 /* Emit a note of subtype SUBTYPE before the insn BEFORE.  */
3018
3019 rtx
3020 emit_note_before (subtype, before)
3021      int subtype;
3022      rtx before;
3023 {
3024   register rtx note = rtx_alloc (NOTE);
3025   INSN_UID (note) = cur_insn_uid++;
3026   NOTE_SOURCE_FILE (note) = 0;
3027   NOTE_LINE_NUMBER (note) = subtype;
3028
3029   add_insn_before (note, before);
3030   return note;
3031 }
3032 \f
3033 /* Make an insn of code INSN with body PATTERN
3034    and output it after the insn AFTER.  */
3035
3036 rtx
3037 emit_insn_after (pattern, after)
3038      register rtx pattern, after;
3039 {
3040   register rtx insn = after;
3041
3042   if (GET_CODE (pattern) == SEQUENCE)
3043     {
3044       register int i;
3045
3046       for (i = 0; i < XVECLEN (pattern, 0); i++)
3047         {
3048           insn = XVECEXP (pattern, 0, i);
3049           add_insn_after (insn, after);
3050           after = insn;
3051         }
3052     }
3053   else
3054     {
3055       insn = make_insn_raw (pattern);
3056       add_insn_after (insn, after);
3057     }
3058
3059   return insn;
3060 }
3061
3062 /* Similar to emit_insn_after, except that line notes are to be inserted so
3063    as to act as if this insn were at FROM.  */
3064
3065 void
3066 emit_insn_after_with_line_notes (pattern, after, from)
3067      rtx pattern, after, from;
3068 {
3069   rtx from_line = find_line_note (from);
3070   rtx after_line = find_line_note (after);
3071   rtx insn = emit_insn_after (pattern, after);
3072
3073   if (from_line)
3074     emit_line_note_after (NOTE_SOURCE_FILE (from_line),
3075                           NOTE_LINE_NUMBER (from_line),
3076                           after);
3077
3078   if (after_line)
3079     emit_line_note_after (NOTE_SOURCE_FILE (after_line),
3080                           NOTE_LINE_NUMBER (after_line),
3081                           insn);
3082 }
3083
3084 /* Similar to emit_insn_after, but update basic block boundaries as well.  */
3085
3086 rtx
3087 emit_block_insn_after (pattern, after, block)
3088      rtx pattern, after;
3089      basic_block block;
3090 {
3091   rtx r = emit_insn_after (pattern, after);
3092   if (block && block->end == after)
3093     block->end = r;
3094   return r;
3095 }
3096
3097 /* Make an insn of code JUMP_INSN with body PATTERN
3098    and output it after the insn AFTER.  */
3099
3100 rtx
3101 emit_jump_insn_after (pattern, after)
3102      register rtx pattern, after;
3103 {
3104   register rtx insn;
3105
3106   if (GET_CODE (pattern) == SEQUENCE)
3107     insn = emit_insn_after (pattern, after);
3108   else
3109     {
3110       insn = make_jump_insn_raw (pattern);
3111       add_insn_after (insn, after);
3112     }
3113
3114   return insn;
3115 }
3116
3117 /* Make an insn of code BARRIER
3118    and output it after the insn AFTER.  */
3119
3120 rtx
3121 emit_barrier_after (after)
3122      register rtx after;
3123 {
3124   register rtx insn = rtx_alloc (BARRIER);
3125
3126   INSN_UID (insn) = cur_insn_uid++;
3127
3128   add_insn_after (insn, after);
3129   return insn;
3130 }
3131
3132 /* Emit the label LABEL after the insn AFTER.  */
3133
3134 rtx
3135 emit_label_after (label, after)
3136      rtx label, after;
3137 {
3138   /* This can be called twice for the same label
3139      as a result of the confusion that follows a syntax error!
3140      So make it harmless.  */
3141   if (INSN_UID (label) == 0)
3142     {
3143       INSN_UID (label) = cur_insn_uid++;
3144       add_insn_after (label, after);
3145     }
3146
3147   return label;
3148 }
3149
3150 /* Emit a note of subtype SUBTYPE after the insn AFTER.  */
3151
3152 rtx
3153 emit_note_after (subtype, after)
3154      int subtype;
3155      rtx after;
3156 {
3157   register rtx note = rtx_alloc (NOTE);
3158   INSN_UID (note) = cur_insn_uid++;
3159   NOTE_SOURCE_FILE (note) = 0;
3160   NOTE_LINE_NUMBER (note) = subtype;
3161   add_insn_after (note, after);
3162   return note;
3163 }
3164
3165 /* Emit a line note for FILE and LINE after the insn AFTER.  */
3166
3167 rtx
3168 emit_line_note_after (file, line, after)
3169      const char *file;
3170      int line;
3171      rtx after;
3172 {
3173   register rtx note;
3174
3175   if (no_line_numbers && line > 0)
3176     {
3177       cur_insn_uid++;
3178       return 0;
3179     }
3180
3181   note  = rtx_alloc (NOTE);
3182   INSN_UID (note) = cur_insn_uid++;
3183   NOTE_SOURCE_FILE (note) = file;
3184   NOTE_LINE_NUMBER (note) = line;
3185   add_insn_after (note, after);
3186   return note;
3187 }
3188 \f
3189 /* Make an insn of code INSN with pattern PATTERN
3190    and add it to the end of the doubly-linked list.
3191    If PATTERN is a SEQUENCE, take the elements of it
3192    and emit an insn for each element.
3193
3194    Returns the last insn emitted.  */
3195
3196 rtx
3197 emit_insn (pattern)
3198      rtx pattern;
3199 {
3200   rtx insn = last_insn;
3201
3202   if (GET_CODE (pattern) == SEQUENCE)
3203     {
3204       register int i;
3205
3206       for (i = 0; i < XVECLEN (pattern, 0); i++)
3207         {
3208           insn = XVECEXP (pattern, 0, i);
3209           add_insn (insn);
3210         }
3211     }
3212   else
3213     {
3214       insn = make_insn_raw (pattern);
3215       add_insn (insn);
3216     }
3217
3218   return insn;
3219 }
3220
3221 /* Emit the insns in a chain starting with INSN.
3222    Return the last insn emitted.  */
3223
3224 rtx
3225 emit_insns (insn)
3226      rtx insn;
3227 {
3228   rtx last = 0;
3229
3230   while (insn)
3231     {
3232       rtx next = NEXT_INSN (insn);
3233       add_insn (insn);
3234       last = insn;
3235       insn = next;
3236     }
3237
3238   return last;
3239 }
3240
3241 /* Emit the insns in a chain starting with INSN and place them in front of
3242    the insn BEFORE.  Return the last insn emitted.  */
3243
3244 rtx
3245 emit_insns_before (insn, before)
3246      rtx insn;
3247      rtx before;
3248 {
3249   rtx last = 0;
3250
3251   while (insn)
3252     {
3253       rtx next = NEXT_INSN (insn);
3254       add_insn_before (insn, before);
3255       last = insn;
3256       insn = next;
3257     }
3258
3259   return last;
3260 }
3261
3262 /* Emit the insns in a chain starting with FIRST and place them in back of
3263    the insn AFTER.  Return the last insn emitted.  */
3264
3265 rtx
3266 emit_insns_after (first, after)
3267      register rtx first;
3268      register rtx after;
3269 {
3270   register rtx last;
3271   register rtx after_after;
3272
3273   if (!after)
3274     abort ();
3275
3276   if (!first)
3277     return first;
3278
3279   for (last = first; NEXT_INSN (last); last = NEXT_INSN (last))
3280     continue;
3281
3282   after_after = NEXT_INSN (after);
3283
3284   NEXT_INSN (after) = first;
3285   PREV_INSN (first) = after;
3286   NEXT_INSN (last) = after_after;
3287   if (after_after)
3288     PREV_INSN (after_after) = last;
3289
3290   if (after == last_insn)
3291     last_insn = last;
3292   return last;
3293 }
3294
3295 /* Make an insn of code JUMP_INSN with pattern PATTERN
3296    and add it to the end of the doubly-linked list.  */
3297
3298 rtx
3299 emit_jump_insn (pattern)
3300      rtx pattern;
3301 {
3302   if (GET_CODE (pattern) == SEQUENCE)
3303     return emit_insn (pattern);
3304   else
3305     {
3306       register rtx insn = make_jump_insn_raw (pattern);
3307       add_insn (insn);
3308       return insn;
3309     }
3310 }
3311
3312 /* Make an insn of code CALL_INSN with pattern PATTERN
3313    and add it to the end of the doubly-linked list.  */
3314
3315 rtx
3316 emit_call_insn (pattern)
3317      rtx pattern;
3318 {
3319   if (GET_CODE (pattern) == SEQUENCE)
3320     return emit_insn (pattern);
3321   else
3322     {
3323       register rtx insn = make_call_insn_raw (pattern);
3324       add_insn (insn);
3325       PUT_CODE (insn, CALL_INSN);
3326       return insn;
3327     }
3328 }
3329
3330 /* Add the label LABEL to the end of the doubly-linked list.  */
3331
3332 rtx
3333 emit_label (label)
3334      rtx label;
3335 {
3336   /* This can be called twice for the same label
3337      as a result of the confusion that follows a syntax error!
3338      So make it harmless.  */
3339   if (INSN_UID (label) == 0)
3340     {
3341       INSN_UID (label) = cur_insn_uid++;
3342       add_insn (label);
3343     }
3344   return label;
3345 }
3346
3347 /* Make an insn of code BARRIER
3348    and add it to the end of the doubly-linked list.  */
3349
3350 rtx
3351 emit_barrier ()
3352 {
3353   register rtx barrier = rtx_alloc (BARRIER);
3354   INSN_UID (barrier) = cur_insn_uid++;
3355   add_insn (barrier);
3356   return barrier;
3357 }
3358
3359 /* Make an insn of code NOTE
3360    with data-fields specified by FILE and LINE
3361    and add it to the end of the doubly-linked list,
3362    but only if line-numbers are desired for debugging info.  */
3363
3364 rtx
3365 emit_line_note (file, line)
3366      const char *file;
3367      int line;
3368 {
3369   set_file_and_line_for_stmt (file, line);
3370
3371 #if 0
3372   if (no_line_numbers)
3373     return 0;
3374 #endif
3375
3376   return emit_note (file, line);
3377 }
3378
3379 /* Make an insn of code NOTE
3380    with data-fields specified by FILE and LINE
3381    and add it to the end of the doubly-linked list.
3382    If it is a line-number NOTE, omit it if it matches the previous one.  */
3383
3384 rtx
3385 emit_note (file, line)
3386      const char *file;
3387      int line;
3388 {
3389   register rtx note;
3390
3391   if (line > 0)
3392     {
3393       if (file && last_filename && !strcmp (file, last_filename)
3394           && line == last_linenum)
3395         return 0;
3396       last_filename = file;
3397       last_linenum = line;
3398     }
3399
3400   if (no_line_numbers && line > 0)
3401     {
3402       cur_insn_uid++;
3403       return 0;
3404     }
3405
3406   note = rtx_alloc (NOTE);
3407   INSN_UID (note) = cur_insn_uid++;
3408   NOTE_SOURCE_FILE (note) = file;
3409   NOTE_LINE_NUMBER (note) = line;
3410   add_insn (note);
3411   return note;
3412 }
3413
3414 /* Emit a NOTE, and don't omit it even if LINE is the previous note.  */
3415
3416 rtx
3417 emit_line_note_force (file, line)
3418      const char *file;
3419      int line;
3420 {
3421   last_linenum = -1;
3422   return emit_line_note (file, line);
3423 }
3424
3425 /* Cause next statement to emit a line note even if the line number
3426    has not changed.  This is used at the beginning of a function.  */
3427
3428 void
3429 force_next_line_note ()
3430 {
3431   last_linenum = -1;
3432 }
3433
3434 /* Place a note of KIND on insn INSN with DATUM as the datum. If a
3435    note of this type already exists, remove it first. */
3436
3437 void
3438 set_unique_reg_note (insn, kind, datum)
3439      rtx insn;
3440      enum reg_note kind;
3441      rtx datum;
3442 {
3443   rtx note = find_reg_note (insn, kind, NULL_RTX);
3444
3445   /* First remove the note if there already is one.  */
3446   if (note)
3447     remove_note (insn, note);
3448
3449   REG_NOTES (insn) = gen_rtx_EXPR_LIST (kind, datum, REG_NOTES (insn));
3450 }
3451 \f
3452 /* Return an indication of which type of insn should have X as a body.
3453    The value is CODE_LABEL, INSN, CALL_INSN or JUMP_INSN.  */
3454
3455 enum rtx_code
3456 classify_insn (x)
3457      rtx x;
3458 {
3459   if (GET_CODE (x) == CODE_LABEL)
3460     return CODE_LABEL;
3461   if (GET_CODE (x) == CALL)
3462     return CALL_INSN;
3463   if (GET_CODE (x) == RETURN)
3464     return JUMP_INSN;
3465   if (GET_CODE (x) == SET)
3466     {
3467       if (SET_DEST (x) == pc_rtx)
3468         return JUMP_INSN;
3469       else if (GET_CODE (SET_SRC (x)) == CALL)
3470         return CALL_INSN;
3471       else
3472         return INSN;
3473     }
3474   if (GET_CODE (x) == PARALLEL)
3475     {
3476       register int j;
3477       for (j = XVECLEN (x, 0) - 1; j >= 0; j--)
3478         if (GET_CODE (XVECEXP (x, 0, j)) == CALL)
3479           return CALL_INSN;
3480         else if (GET_CODE (XVECEXP (x, 0, j)) == SET
3481                  && SET_DEST (XVECEXP (x, 0, j)) == pc_rtx)
3482           return JUMP_INSN;
3483         else if (GET_CODE (XVECEXP (x, 0, j)) == SET
3484                  && GET_CODE (SET_SRC (XVECEXP (x, 0, j))) == CALL)
3485           return CALL_INSN;
3486     }
3487   return INSN;
3488 }
3489
3490 /* Emit the rtl pattern X as an appropriate kind of insn.
3491    If X is a label, it is simply added into the insn chain.  */
3492
3493 rtx
3494 emit (x)
3495      rtx x;
3496 {
3497   enum rtx_code code = classify_insn (x);
3498
3499   if (code == CODE_LABEL)
3500     return emit_label (x);
3501   else if (code == INSN)
3502     return emit_insn (x);
3503   else if (code == JUMP_INSN)
3504     {
3505       register rtx insn = emit_jump_insn (x);
3506       if (any_uncondjump_p (insn) || GET_CODE (x) == RETURN)
3507         return emit_barrier ();
3508       return insn;
3509     }
3510   else if (code == CALL_INSN)
3511     return emit_call_insn (x);
3512   else
3513     abort ();
3514 }
3515 \f
3516 /* Begin emitting insns to a sequence which can be packaged in an
3517    RTL_EXPR.  If this sequence will contain something that might cause
3518    the compiler to pop arguments to function calls (because those
3519    pops have previously been deferred; see INHIBIT_DEFER_POP for more
3520    details), use do_pending_stack_adjust before calling this function.
3521    That will ensure that the deferred pops are not accidentally
3522    emitted in the middle of this sequence.  */
3523
3524 void
3525 start_sequence ()
3526 {
3527   struct sequence_stack *tem;
3528
3529   tem = (struct sequence_stack *) xmalloc (sizeof (struct sequence_stack));
3530
3531   tem->next = seq_stack;
3532   tem->first = first_insn;
3533   tem->last = last_insn;
3534   tem->sequence_rtl_expr = seq_rtl_expr;
3535
3536   seq_stack = tem;
3537
3538   first_insn = 0;
3539   last_insn = 0;
3540 }
3541
3542 /* Similarly, but indicate that this sequence will be placed in T, an
3543    RTL_EXPR.  See the documentation for start_sequence for more
3544    information about how to use this function.  */
3545
3546 void
3547 start_sequence_for_rtl_expr (t)
3548      tree t;
3549 {
3550   start_sequence ();
3551
3552   seq_rtl_expr = t;
3553 }
3554
3555 /* Set up the insn chain starting with FIRST as the current sequence,
3556    saving the previously current one.  See the documentation for
3557    start_sequence for more information about how to use this function.  */
3558
3559 void
3560 push_to_sequence (first)
3561      rtx first;
3562 {
3563   rtx last;
3564
3565   start_sequence ();
3566
3567   for (last = first; last && NEXT_INSN (last); last = NEXT_INSN (last));
3568
3569   first_insn = first;
3570   last_insn = last;
3571 }
3572
3573 /* Set up the insn chain from a chain stort in FIRST to LAST.  */
3574
3575 void
3576 push_to_full_sequence (first, last)
3577      rtx first, last;
3578 {
3579   start_sequence ();
3580   first_insn = first;
3581   last_insn = last;
3582   /* We really should have the end of the insn chain here.  */
3583   if (last && NEXT_INSN (last))
3584     abort ();
3585 }
3586
3587 /* Set up the outer-level insn chain
3588    as the current sequence, saving the previously current one.  */
3589
3590 void
3591 push_topmost_sequence ()
3592 {
3593   struct sequence_stack *stack, *top = NULL;
3594
3595   start_sequence ();
3596
3597   for (stack = seq_stack; stack; stack = stack->next)
3598     top = stack;
3599
3600   first_insn = top->first;
3601   last_insn = top->last;
3602   seq_rtl_expr = top->sequence_rtl_expr;
3603 }
3604
3605 /* After emitting to the outer-level insn chain, update the outer-level
3606    insn chain, and restore the previous saved state.  */
3607
3608 void
3609 pop_topmost_sequence ()
3610 {
3611   struct sequence_stack *stack, *top = NULL;
3612
3613   for (stack = seq_stack; stack; stack = stack->next)
3614     top = stack;
3615
3616   top->first = first_insn;
3617   top->last = last_insn;
3618   /* ??? Why don't we save seq_rtl_expr here?  */
3619
3620   end_sequence ();
3621 }
3622
3623 /* After emitting to a sequence, restore previous saved state.
3624
3625    To get the contents of the sequence just made, you must call
3626    `gen_sequence' *before* calling here.
3627
3628    If the compiler might have deferred popping arguments while
3629    generating this sequence, and this sequence will not be immediately
3630    inserted into the instruction stream, use do_pending_stack_adjust
3631    before calling gen_sequence.  That will ensure that the deferred
3632    pops are inserted into this sequence, and not into some random
3633    location in the instruction stream.  See INHIBIT_DEFER_POP for more
3634    information about deferred popping of arguments.  */
3635
3636 void
3637 end_sequence ()
3638 {
3639   struct sequence_stack *tem = seq_stack;
3640
3641   first_insn = tem->first;
3642   last_insn = tem->last;
3643   seq_rtl_expr = tem->sequence_rtl_expr;
3644   seq_stack = tem->next;
3645
3646   free (tem);
3647 }
3648
3649 /* This works like end_sequence, but records the old sequence in FIRST
3650    and LAST.  */
3651
3652 void
3653 end_full_sequence (first, last)
3654      rtx *first, *last;
3655 {
3656   *first = first_insn;
3657   *last = last_insn;
3658   end_sequence();
3659 }
3660
3661 /* Return 1 if currently emitting into a sequence.  */
3662
3663 int
3664 in_sequence_p ()
3665 {
3666   return seq_stack != 0;
3667 }
3668
3669 /* Generate a SEQUENCE rtx containing the insns already emitted
3670    to the current sequence.
3671
3672    This is how the gen_... function from a DEFINE_EXPAND
3673    constructs the SEQUENCE that it returns.  */
3674
3675 rtx
3676 gen_sequence ()
3677 {
3678   rtx result;
3679   rtx tem;
3680   int i;
3681   int len;
3682
3683   /* Count the insns in the chain.  */
3684   len = 0;
3685   for (tem = first_insn; tem; tem = NEXT_INSN (tem))
3686     len++;
3687
3688   /* If only one insn, return it rather than a SEQUENCE.
3689      (Now that we cache SEQUENCE expressions, it isn't worth special-casing
3690      the case of an empty list.)
3691      We only return the pattern of an insn if its code is INSN and it
3692      has no notes.  This ensures that no information gets lost.  */
3693   if (len == 1
3694       && ! RTX_FRAME_RELATED_P (first_insn)
3695       && GET_CODE (first_insn) == INSN
3696       /* Don't throw away any reg notes. */
3697       && REG_NOTES (first_insn) == 0)
3698     return PATTERN (first_insn);
3699
3700   result = gen_rtx_SEQUENCE (VOIDmode, rtvec_alloc (len));
3701
3702   for (i = 0, tem = first_insn; tem; tem = NEXT_INSN (tem), i++)
3703     XVECEXP (result, 0, i) = tem;
3704
3705   return result;
3706 }
3707 \f
3708 /* Put the various virtual registers into REGNO_REG_RTX.  */
3709
3710 void
3711 init_virtual_regs (es)
3712      struct emit_status *es;
3713 {
3714   rtx *ptr = es->x_regno_reg_rtx;
3715   ptr[VIRTUAL_INCOMING_ARGS_REGNUM] = virtual_incoming_args_rtx;
3716   ptr[VIRTUAL_STACK_VARS_REGNUM] = virtual_stack_vars_rtx;
3717   ptr[VIRTUAL_STACK_DYNAMIC_REGNUM] = virtual_stack_dynamic_rtx;
3718   ptr[VIRTUAL_OUTGOING_ARGS_REGNUM] = virtual_outgoing_args_rtx;
3719   ptr[VIRTUAL_CFA_REGNUM] = virtual_cfa_rtx;
3720 }
3721
3722 void
3723 clear_emit_caches ()
3724 {
3725   int i;
3726
3727   /* Clear the start_sequence/gen_sequence cache.  */
3728   for (i = 0; i < SEQUENCE_RESULT_SIZE; i++)
3729     sequence_result[i] = 0;
3730   free_insn = 0;
3731 }
3732 \f
3733 /* Used by copy_insn_1 to avoid copying SCRATCHes more than once.  */
3734 static rtx copy_insn_scratch_in[MAX_RECOG_OPERANDS];
3735 static rtx copy_insn_scratch_out[MAX_RECOG_OPERANDS];
3736 static int copy_insn_n_scratches;
3737
3738 /* When an insn is being copied by copy_insn_1, this is nonzero if we have
3739    copied an ASM_OPERANDS.
3740    In that case, it is the original input-operand vector.  */
3741 static rtvec orig_asm_operands_vector;
3742
3743 /* When an insn is being copied by copy_insn_1, this is nonzero if we have
3744    copied an ASM_OPERANDS.
3745    In that case, it is the copied input-operand vector.  */
3746 static rtvec copy_asm_operands_vector;
3747
3748 /* Likewise for the constraints vector.  */
3749 static rtvec orig_asm_constraints_vector;
3750 static rtvec copy_asm_constraints_vector;
3751
3752 /* Recursively create a new copy of an rtx for copy_insn.
3753    This function differs from copy_rtx in that it handles SCRATCHes and
3754    ASM_OPERANDs properly.
3755    Normally, this function is not used directly; use copy_insn as front end.
3756    However, you could first copy an insn pattern with copy_insn and then use
3757    this function afterwards to properly copy any REG_NOTEs containing
3758    SCRATCHes.  */
3759
3760 rtx
3761 copy_insn_1 (orig)
3762      register rtx orig;
3763 {
3764   register rtx copy;
3765   register int i, j;
3766   register RTX_CODE code;
3767   register const char *format_ptr;
3768
3769   code = GET_CODE (orig);
3770
3771   switch (code)
3772     {
3773     case REG:
3774     case QUEUED:
3775     case CONST_INT:
3776     case CONST_DOUBLE:
3777     case SYMBOL_REF:
3778     case CODE_LABEL:
3779     case PC:
3780     case CC0:
3781     case ADDRESSOF:
3782       return orig;
3783
3784     case SCRATCH:
3785       for (i = 0; i < copy_insn_n_scratches; i++)
3786         if (copy_insn_scratch_in[i] == orig)
3787           return copy_insn_scratch_out[i];
3788       break;
3789
3790     case CONST:
3791       /* CONST can be shared if it contains a SYMBOL_REF.  If it contains
3792          a LABEL_REF, it isn't sharable.  */
3793       if (GET_CODE (XEXP (orig, 0)) == PLUS
3794           && GET_CODE (XEXP (XEXP (orig, 0), 0)) == SYMBOL_REF
3795           && GET_CODE (XEXP (XEXP (orig, 0), 1)) == CONST_INT)
3796         return orig;
3797       break;
3798
3799       /* A MEM with a constant address is not sharable.  The problem is that
3800          the constant address may need to be reloaded.  If the mem is shared,
3801          then reloading one copy of this mem will cause all copies to appear
3802          to have been reloaded.  */
3803
3804     default:
3805       break;
3806     }
3807
3808   copy = rtx_alloc (code);
3809
3810   /* Copy the various flags, and other information.  We assume that
3811      all fields need copying, and then clear the fields that should
3812      not be copied.  That is the sensible default behavior, and forces
3813      us to explicitly document why we are *not* copying a flag.  */
3814   memcpy (copy, orig, sizeof (struct rtx_def) - sizeof (rtunion));
3815
3816   /* We do not copy the USED flag, which is used as a mark bit during
3817      walks over the RTL.  */
3818   copy->used = 0;
3819
3820   /* We do not copy JUMP, CALL, or FRAME_RELATED for INSNs.  */
3821   if (GET_RTX_CLASS (code) == 'i')
3822     {
3823       copy->jump = 0;
3824       copy->call = 0;
3825       copy->frame_related = 0;
3826     }
3827
3828   format_ptr = GET_RTX_FORMAT (GET_CODE (copy));
3829
3830   for (i = 0; i < GET_RTX_LENGTH (GET_CODE (copy)); i++)
3831     {
3832       copy->fld[i] = orig->fld[i];
3833       switch (*format_ptr++)
3834         {
3835         case 'e':
3836           if (XEXP (orig, i) != NULL)
3837             XEXP (copy, i) = copy_insn_1 (XEXP (orig, i));
3838           break;
3839
3840         case 'E':
3841         case 'V':
3842           if (XVEC (orig, i) == orig_asm_constraints_vector)
3843             XVEC (copy, i) = copy_asm_constraints_vector;
3844           else if (XVEC (orig, i) == orig_asm_operands_vector)
3845             XVEC (copy, i) = copy_asm_operands_vector;
3846           else if (XVEC (orig, i) != NULL)
3847             {
3848               XVEC (copy, i) = rtvec_alloc (XVECLEN (orig, i));
3849               for (j = 0; j < XVECLEN (copy, i); j++)
3850                 XVECEXP (copy, i, j) = copy_insn_1 (XVECEXP (orig, i, j));
3851             }
3852           break;
3853
3854         case 't':
3855         case 'w':
3856         case 'i':
3857         case 's':
3858         case 'S':
3859         case 'u':
3860         case '0':
3861           /* These are left unchanged.  */
3862           break;
3863
3864         default:
3865           abort ();
3866         }
3867     }
3868
3869   if (code == SCRATCH)
3870     {
3871       i = copy_insn_n_scratches++;
3872       if (i >= MAX_RECOG_OPERANDS)
3873         abort ();
3874       copy_insn_scratch_in[i] = orig;
3875       copy_insn_scratch_out[i] = copy;
3876     }
3877   else if (code == ASM_OPERANDS)
3878     {
3879       orig_asm_operands_vector = ASM_OPERANDS_INPUT_VEC (orig);
3880       copy_asm_operands_vector = ASM_OPERANDS_INPUT_VEC (copy);
3881       orig_asm_constraints_vector = ASM_OPERANDS_INPUT_CONSTRAINT_VEC (orig);
3882       copy_asm_constraints_vector = ASM_OPERANDS_INPUT_CONSTRAINT_VEC (copy);
3883     }
3884
3885   return copy;
3886 }
3887
3888 /* Create a new copy of an rtx.
3889    This function differs from copy_rtx in that it handles SCRATCHes and
3890    ASM_OPERANDs properly.
3891    INSN doesn't really have to be a full INSN; it could be just the
3892    pattern.  */
3893 rtx
3894 copy_insn (insn)
3895      rtx insn;
3896 {
3897   copy_insn_n_scratches = 0;
3898   orig_asm_operands_vector = 0;
3899   orig_asm_constraints_vector = 0;
3900   copy_asm_operands_vector = 0;
3901   copy_asm_constraints_vector = 0;
3902   return copy_insn_1 (insn);
3903 }
3904
3905 /* Initialize data structures and variables in this file
3906    before generating rtl for each function.  */
3907
3908 void
3909 init_emit ()
3910 {
3911   struct function *f = cfun;
3912
3913   f->emit = (struct emit_status *) xmalloc (sizeof (struct emit_status));
3914   first_insn = NULL;
3915   last_insn = NULL;
3916   seq_rtl_expr = NULL;
3917   cur_insn_uid = 1;
3918   reg_rtx_no = LAST_VIRTUAL_REGISTER + 1;
3919   last_linenum = 0;
3920   last_filename = 0;
3921   first_label_num = label_num;
3922   last_label_num = 0;
3923   seq_stack = NULL;
3924
3925   clear_emit_caches ();
3926
3927   /* Init the tables that describe all the pseudo regs.  */
3928
3929   f->emit->regno_pointer_flag_length = LAST_VIRTUAL_REGISTER + 101;
3930
3931   f->emit->regno_pointer_flag
3932     = (char *) xcalloc (f->emit->regno_pointer_flag_length, sizeof (char));
3933
3934   f->emit->regno_pointer_align
3935     = (unsigned char *) xcalloc (f->emit->regno_pointer_flag_length,
3936                                  sizeof (unsigned char));
3937
3938   regno_reg_rtx
3939     = (rtx *) xcalloc (f->emit->regno_pointer_flag_length * sizeof (rtx),
3940                        sizeof (rtx));
3941
3942   /* Put copies of all the virtual register rtx into regno_reg_rtx.  */
3943   init_virtual_regs (f->emit);
3944
3945   /* Indicate that the virtual registers and stack locations are
3946      all pointers.  */
3947   REGNO_POINTER_FLAG (STACK_POINTER_REGNUM) = 1;
3948   REGNO_POINTER_FLAG (FRAME_POINTER_REGNUM) = 1;
3949   REGNO_POINTER_FLAG (HARD_FRAME_POINTER_REGNUM) = 1;
3950   REGNO_POINTER_FLAG (ARG_POINTER_REGNUM) = 1;
3951
3952   REGNO_POINTER_FLAG (VIRTUAL_INCOMING_ARGS_REGNUM) = 1;
3953   REGNO_POINTER_FLAG (VIRTUAL_STACK_VARS_REGNUM) = 1;
3954   REGNO_POINTER_FLAG (VIRTUAL_STACK_DYNAMIC_REGNUM) = 1;
3955   REGNO_POINTER_FLAG (VIRTUAL_OUTGOING_ARGS_REGNUM) = 1;
3956   REGNO_POINTER_FLAG (VIRTUAL_CFA_REGNUM) = 1;
3957
3958 #ifdef STACK_BOUNDARY
3959   REGNO_POINTER_ALIGN (STACK_POINTER_REGNUM) = STACK_BOUNDARY;
3960   REGNO_POINTER_ALIGN (FRAME_POINTER_REGNUM) = STACK_BOUNDARY;
3961   REGNO_POINTER_ALIGN (HARD_FRAME_POINTER_REGNUM) = STACK_BOUNDARY;
3962   REGNO_POINTER_ALIGN (ARG_POINTER_REGNUM) = STACK_BOUNDARY;
3963
3964   REGNO_POINTER_ALIGN (VIRTUAL_INCOMING_ARGS_REGNUM) = STACK_BOUNDARY;
3965   REGNO_POINTER_ALIGN (VIRTUAL_STACK_VARS_REGNUM) = STACK_BOUNDARY;
3966   REGNO_POINTER_ALIGN (VIRTUAL_STACK_DYNAMIC_REGNUM) = STACK_BOUNDARY;
3967   REGNO_POINTER_ALIGN (VIRTUAL_OUTGOING_ARGS_REGNUM) = STACK_BOUNDARY;
3968   REGNO_POINTER_ALIGN (VIRTUAL_CFA_REGNUM) = BITS_PER_WORD;
3969 #endif
3970
3971 #ifdef INIT_EXPANDERS
3972   INIT_EXPANDERS;
3973 #endif
3974 }
3975
3976 /* Mark SS for GC.  */
3977
3978 static void
3979 mark_sequence_stack (ss)
3980      struct sequence_stack *ss;
3981 {
3982   while (ss)
3983     {
3984       ggc_mark_rtx (ss->first);
3985       ggc_mark_tree (ss->sequence_rtl_expr);
3986       ss = ss->next;
3987     }
3988 }
3989
3990 /* Mark ES for GC.  */
3991
3992 void
3993 mark_emit_status (es)
3994      struct emit_status *es;
3995 {
3996   rtx *r;
3997   int i;
3998
3999   if (es == 0)
4000     return;
4001
4002   for (i = es->regno_pointer_flag_length, r = es->x_regno_reg_rtx;
4003        i > 0; --i, ++r)
4004     ggc_mark_rtx (*r);
4005
4006   mark_sequence_stack (es->sequence_stack);
4007   ggc_mark_tree (es->sequence_rtl_expr);
4008   ggc_mark_rtx (es->x_first_insn);
4009 }
4010
4011 /* Create some permanent unique rtl objects shared between all functions.
4012    LINE_NUMBERS is nonzero if line numbers are to be generated.  */
4013
4014 void
4015 init_emit_once (line_numbers)
4016      int line_numbers;
4017 {
4018   int i;
4019   enum machine_mode mode;
4020   enum machine_mode double_mode;
4021
4022   /* Initialize the CONST_INT hash table.  */
4023   const_int_htab = htab_create (37, const_int_htab_hash,
4024                                 const_int_htab_eq, NULL);
4025   ggc_add_root (&const_int_htab, 1, sizeof (const_int_htab),
4026                 rtx_htab_mark);
4027
4028   no_line_numbers = ! line_numbers;
4029
4030   /* Compute the word and byte modes.  */
4031
4032   byte_mode = VOIDmode;
4033   word_mode = VOIDmode;
4034   double_mode = VOIDmode;
4035
4036   for (mode = GET_CLASS_NARROWEST_MODE (MODE_INT); mode != VOIDmode;
4037        mode = GET_MODE_WIDER_MODE (mode))
4038     {
4039       if (GET_MODE_BITSIZE (mode) == BITS_PER_UNIT
4040           && byte_mode == VOIDmode)
4041         byte_mode = mode;
4042
4043       if (GET_MODE_BITSIZE (mode) == BITS_PER_WORD
4044           && word_mode == VOIDmode)
4045         word_mode = mode;
4046     }
4047
4048   for (mode = GET_CLASS_NARROWEST_MODE (MODE_FLOAT); mode != VOIDmode;
4049        mode = GET_MODE_WIDER_MODE (mode))
4050     {
4051       if (GET_MODE_BITSIZE (mode) == DOUBLE_TYPE_SIZE
4052           && double_mode == VOIDmode)
4053         double_mode = mode;
4054     }
4055
4056   ptr_mode = mode_for_size (POINTER_SIZE, GET_MODE_CLASS (Pmode), 0);
4057
4058   /* Assign register numbers to the globally defined register rtx.
4059      This must be done at runtime because the register number field
4060      is in a union and some compilers can't initialize unions.  */
4061
4062   pc_rtx = gen_rtx (PC, VOIDmode);
4063   cc0_rtx = gen_rtx (CC0, VOIDmode);
4064   stack_pointer_rtx = gen_rtx_raw_REG (Pmode, STACK_POINTER_REGNUM);
4065   frame_pointer_rtx = gen_rtx_raw_REG (Pmode, FRAME_POINTER_REGNUM);
4066   if (hard_frame_pointer_rtx == 0)
4067     hard_frame_pointer_rtx = gen_rtx_raw_REG (Pmode,
4068                                               HARD_FRAME_POINTER_REGNUM);
4069   if (arg_pointer_rtx == 0)
4070     arg_pointer_rtx = gen_rtx_raw_REG (Pmode, ARG_POINTER_REGNUM);
4071   virtual_incoming_args_rtx =
4072     gen_rtx_raw_REG (Pmode, VIRTUAL_INCOMING_ARGS_REGNUM);
4073   virtual_stack_vars_rtx =
4074     gen_rtx_raw_REG (Pmode, VIRTUAL_STACK_VARS_REGNUM);
4075   virtual_stack_dynamic_rtx =
4076     gen_rtx_raw_REG (Pmode, VIRTUAL_STACK_DYNAMIC_REGNUM);
4077   virtual_outgoing_args_rtx =
4078     gen_rtx_raw_REG (Pmode, VIRTUAL_OUTGOING_ARGS_REGNUM);
4079   virtual_cfa_rtx = gen_rtx_raw_REG (Pmode, VIRTUAL_CFA_REGNUM);
4080
4081   /* These rtx must be roots if GC is enabled.  */
4082   ggc_add_rtx_root (global_rtl, GR_MAX);
4083
4084 #ifdef INIT_EXPANDERS
4085   /* This is to initialize save_machine_status and restore_machine_status before
4086      the first call to push_function_context_to.  This is needed by the Chill
4087      front end which calls push_function_context_to before the first cal to
4088      init_function_start.  */
4089   INIT_EXPANDERS;
4090 #endif
4091
4092   /* Create the unique rtx's for certain rtx codes and operand values.  */
4093
4094   /* Don't use gen_rtx here since gen_rtx in this case
4095      tries to use these variables.  */
4096   for (i = - MAX_SAVED_CONST_INT; i <= MAX_SAVED_CONST_INT; i++)
4097     const_int_rtx[i + MAX_SAVED_CONST_INT] =
4098       gen_rtx_raw_CONST_INT (VOIDmode, i);
4099   ggc_add_rtx_root (const_int_rtx, 2 * MAX_SAVED_CONST_INT + 1);
4100
4101   if (STORE_FLAG_VALUE >= - MAX_SAVED_CONST_INT
4102       && STORE_FLAG_VALUE <= MAX_SAVED_CONST_INT)
4103     const_true_rtx = const_int_rtx[STORE_FLAG_VALUE + MAX_SAVED_CONST_INT];
4104   else
4105     const_true_rtx = gen_rtx_CONST_INT (VOIDmode, STORE_FLAG_VALUE);
4106
4107   dconst0 = REAL_VALUE_ATOF ("0", double_mode);
4108   dconst1 = REAL_VALUE_ATOF ("1", double_mode);
4109   dconst2 = REAL_VALUE_ATOF ("2", double_mode);
4110   dconstm1 = REAL_VALUE_ATOF ("-1", double_mode);
4111
4112   for (i = 0; i <= 2; i++)
4113     {
4114       for (mode = GET_CLASS_NARROWEST_MODE (MODE_FLOAT); mode != VOIDmode;
4115            mode = GET_MODE_WIDER_MODE (mode))
4116         {
4117           rtx tem = rtx_alloc (CONST_DOUBLE);
4118           union real_extract u;
4119
4120           memset ((char *) &u, 0, sizeof u);  /* Zero any holes in a structure.  */
4121           u.d = i == 0 ? dconst0 : i == 1 ? dconst1 : dconst2;
4122
4123           memcpy (&CONST_DOUBLE_LOW (tem), &u, sizeof u);
4124           CONST_DOUBLE_MEM (tem) = cc0_rtx;
4125           CONST_DOUBLE_CHAIN (tem) = NULL_RTX;
4126           PUT_MODE (tem, mode);
4127
4128           const_tiny_rtx[i][(int) mode] = tem;
4129         }
4130
4131       const_tiny_rtx[i][(int) VOIDmode] = GEN_INT (i);
4132
4133       for (mode = GET_CLASS_NARROWEST_MODE (MODE_INT); mode != VOIDmode;
4134            mode = GET_MODE_WIDER_MODE (mode))
4135         const_tiny_rtx[i][(int) mode] = GEN_INT (i);
4136
4137       for (mode = GET_CLASS_NARROWEST_MODE (MODE_PARTIAL_INT);
4138            mode != VOIDmode;
4139            mode = GET_MODE_WIDER_MODE (mode))
4140         const_tiny_rtx[i][(int) mode] = GEN_INT (i);
4141     }
4142
4143   for (mode = CCmode; mode < MAX_MACHINE_MODE; ++mode)
4144     if (GET_MODE_CLASS (mode) == MODE_CC)
4145       const_tiny_rtx[0][(int) mode] = const0_rtx;
4146
4147   const_tiny_rtx[0][(int) BImode] = const0_rtx;
4148   if (STORE_FLAG_VALUE == 1)
4149     const_tiny_rtx[1][(int) BImode] = const1_rtx;
4150
4151   /* For bounded pointers, `&const_tiny_rtx[0][0]' is not the same as
4152      `(rtx *) const_tiny_rtx'.  The former has bounds that only cover
4153      `const_tiny_rtx[0]', whereas the latter has bounds that cover all.  */
4154   ggc_add_rtx_root ((rtx *) const_tiny_rtx, sizeof const_tiny_rtx / sizeof (rtx));
4155   ggc_add_rtx_root (&const_true_rtx, 1);
4156
4157 #ifdef RETURN_ADDRESS_POINTER_REGNUM
4158   return_address_pointer_rtx
4159     = gen_rtx_raw_REG (Pmode, RETURN_ADDRESS_POINTER_REGNUM);
4160 #endif
4161
4162 #ifdef STRUCT_VALUE
4163   struct_value_rtx = STRUCT_VALUE;
4164 #else
4165   struct_value_rtx = gen_rtx_REG (Pmode, STRUCT_VALUE_REGNUM);
4166 #endif
4167
4168 #ifdef STRUCT_VALUE_INCOMING
4169   struct_value_incoming_rtx = STRUCT_VALUE_INCOMING;
4170 #else
4171 #ifdef STRUCT_VALUE_INCOMING_REGNUM
4172   struct_value_incoming_rtx
4173     = gen_rtx_REG (Pmode, STRUCT_VALUE_INCOMING_REGNUM);
4174 #else
4175   struct_value_incoming_rtx = struct_value_rtx;
4176 #endif
4177 #endif
4178
4179 #ifdef STATIC_CHAIN_REGNUM
4180   static_chain_rtx = gen_rtx_REG (Pmode, STATIC_CHAIN_REGNUM);
4181
4182 #ifdef STATIC_CHAIN_INCOMING_REGNUM
4183   if (STATIC_CHAIN_INCOMING_REGNUM != STATIC_CHAIN_REGNUM)
4184     static_chain_incoming_rtx
4185       = gen_rtx_REG (Pmode, STATIC_CHAIN_INCOMING_REGNUM);
4186   else
4187 #endif
4188     static_chain_incoming_rtx = static_chain_rtx;
4189 #endif
4190
4191 #ifdef STATIC_CHAIN
4192   static_chain_rtx = STATIC_CHAIN;
4193
4194 #ifdef STATIC_CHAIN_INCOMING
4195   static_chain_incoming_rtx = STATIC_CHAIN_INCOMING;
4196 #else
4197   static_chain_incoming_rtx = static_chain_rtx;
4198 #endif
4199 #endif
4200
4201 #ifdef PIC_OFFSET_TABLE_REGNUM
4202   pic_offset_table_rtx = gen_rtx_REG (Pmode, PIC_OFFSET_TABLE_REGNUM);
4203 #endif
4204
4205   ggc_add_rtx_root (&pic_offset_table_rtx, 1);
4206   ggc_add_rtx_root (&struct_value_rtx, 1);
4207   ggc_add_rtx_root (&struct_value_incoming_rtx, 1);
4208   ggc_add_rtx_root (&static_chain_rtx, 1);
4209   ggc_add_rtx_root (&static_chain_incoming_rtx, 1);
4210   ggc_add_rtx_root (&return_address_pointer_rtx, 1);
4211 }
4212 \f
4213 /* Query and clear/ restore no_line_numbers.  This is used by the
4214    switch / case handling in stmt.c to give proper line numbers in
4215    warnings about unreachable code.  */
4216
4217 int
4218 force_line_numbers ()
4219 {
4220   int old = no_line_numbers;
4221
4222   no_line_numbers = 0;
4223   if (old)
4224     force_next_line_note ();
4225   return old;
4226 }
4227
4228 void
4229 restore_line_number_status (old_value)
4230      int old_value;
4231 {
4232   no_line_numbers = old_value;
4233 }