gcc/config/rs6000/spe.h

   1 /* PowerPC E500 user include file.
   2    Copyright (C) 2002 Free Software Foundation, Inc.
   3    Contributed by Aldy Hernandez (aldyh@redhat.com).
   4
   5 This file is part of GNU CC.
   6
   7 GNU CC is free software; you can redistribute it and/or modify
   8 it under the terms of the GNU General Public License as published by
   9 the Free Software Foundation; either version 2, or (at your option)
  10 any later version.
  11
  12 GNU CC is distributed in the hope that it will be useful,
  13 but WITHOUT ANY WARRANTY; without even the implied warranty of
  14 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  15 GNU General Public License for more details.
  16
  17 You should have received a copy of the GNU General Public License
  18 along with GNU CC; see the file COPYING.  If not, write to
  19 the Free Software Foundation, 59 Temple Place - Suite 330,
  20 Boston, MA 02111-1307, USA.  */
  21
  22 /* As a special exception, if you include this header file into source
  23    files compiled by GCC, this header file does not by itself cause
  24    the resulting executable to be covered by the GNU General Public
  25    License.  This exception does not however invalidate any other
  26    reasons why the executable file might be covered by the GNU General
  27    Public License.  */
  28
  29 #ifndef _SPE_H
  30 #define _SPE_H
  31
  32 #define __vector __attribute__((vector_size(8)))
  33
  34 typedef int                     int32_t;
  35 typedef unsigned                uint32_t;
  36 typedef short                   int16_t;
  37 typedef unsigned short          uint16_t;
  38 typedef long long               int64_t;
  39 typedef unsigned long long      uint64_t;
  40
  41 typedef short                   __vector __ev64_s16__;
  42 typedef unsigned short          __vector __ev64_u16__;
  43 typedef int                     __vector __ev64_s32__;
  44 typedef unsigned                __vector __ev64_u32__;
  45 typedef long long               __ev64_s64__;
  46 typedef unsigned long long      __ev64_u64__;
  47 typedef float                   __vector __ev64_fs__;
  48
  49 typedef int                     __vector __ev64_opaque__;
  50
  51 #define __v2si __ev64_opaque__
  52 #define __v2sf __ev64_fs__
  53
  54 #define __ev_addw(a,b) __builtin_spe_evaddw((__v2si) (a), (__v2si) (b))
  55 #define __ev_addiw(a,b) __builtin_spe_evaddiw ((__v2si) (a), (b))
  56 #define __ev_subfw(a,b) __builtin_spe_evsubfw ((__v2si) (a), (__v2si) (b))
  57 #define __ev_subifw(a,b) __builtin_spe_evsubifw ((__v2si) (a), (b))
  58 #define __ev_abs(a) __builtin_spe_evabs ((__v2si) (a))
  59 #define __ev_neg(a) __builtin_spe_evneg ((__v2si) (a))
  60 #define __ev_extsb(a) __builtin_spe_evextsb ((__v2si) (a))
  61 #define __ev_extsh(a) __builtin_spe_evextsh ((__v2si) (a))
  62 #define __ev_and(a,b) __builtin_spe_evand ((__v2si) (a), (__v2si) (b))
  63 #define __ev_or(a,b) __builtin_spe_evor ((__v2si) (a), (__v2si) (b))
  64 #define __ev_xor(a,b) __builtin_spe_evxor ((__v2si) (a), (__v2si) (b))
  65 #define __ev_nand(a,b) __builtin_spe_evnand ((__v2si) (a), (__v2si) (b))
  66 #define __ev_nor(a,b) __builtin_spe_evnor ((__v2si) (a), (__v2si) (b))
  67 #define __ev_eqv(a,b) __builtin_spe_eveqv ((__v2si) (a), (__v2si) (b))
  68 #define __ev_andc(a,b) __builtin_spe_evandc ((__v2si) (a), (__v2si) (b))
  69 #define __ev_orc(a,b) __builtin_spe_evorc ((__v2si) (a), (__v2si) (b))
  70 #define __ev_rlw(a,b) __builtin_spe_evrlw ((__v2si) (a), (__v2si) (b))
  71 #define __ev_rlwi(a,b) __builtin_spe_evrlwi ((__v2si) (a), (b))
  72 #define __ev_slw(a,b) __builtin_spe_evslw ((__v2si) (a), (__v2si) (b))
  73 #define __ev_slwi(a,b) __builtin_spe_evslwi ((__v2si) (a), (b))
  74 #define __ev_srws(a,b) __builtin_spe_evsrws ((__v2si) (a), (__v2si) (b))
  75 #define __ev_srwu(a,b) __builtin_spe_evsrwu ((__v2si) (a), (__v2si) (b))
  76 #define __ev_srwis(a,b) __builtin_spe_evsrwis ((__v2si) (a), (b))
  77 #define __ev_srwiu(a,b) __builtin_spe_evsrwiu ((__v2si) (a), (b))
  78 #define __ev_cntlzw(a) __builtin_spe_evcntlzw ((__v2si) (a))
  79 #define __ev_cntlsw(a) __builtin_spe_evcntlsw ((__v2si) (a))
  80 #define __ev_rndw(a) __builtin_spe_evrndw ((__v2si) (a))
  81 #define __ev_mergehi(a,b) __builtin_spe_evmergehi ((__v2si) (a), (__v2si) (b))
  82 #define __ev_mergelo(a,b) __builtin_spe_evmergelo ((__v2si) (a), (__v2si) (b))
  83 #define __ev_mergelohi(a,b) __builtin_spe_evmergelohi ((__v2si) (a), (__v2si) (b))
  84 #define __ev_mergehilo(a,b) __builtin_spe_evmergehilo ((__v2si) (a), (__v2si) (b))
  85 #define __ev_splati(a) __builtin_spe_evsplati ((a))
  86 #define __ev_splatfi(a) __builtin_spe_evsplatfi ((a))
  87 #define __ev_divws(a,b) __builtin_spe_evdivws ((__v2si) (a), (__v2si) (b))
  88 #define __ev_divwu(a,b) __builtin_spe_evdivwu ((__v2si) (a), (__v2si) (b))
  89 #define __ev_mra(a) __builtin_spe_evmra ((__v2si) (a))
  90
  91 #define __brinc __builtin_spe_brinc
  92
  93 /* Loads.  */
  94
  95 #define __ev_lddx(a,b) __builtin_spe_evlddx ((void *)(a), (b))
  96 #define __ev_ldwx(a,b) __builtin_spe_evldwx ((void *)(a), (b))
  97 #define __ev_ldhx(a,b) __builtin_spe_evldhx ((void *)(a), (b))
  98 #define __ev_lwhex(a,b) __builtin_spe_evlwhex ((a), (b))
  99 #define __ev_lwhoux(a,b) __builtin_spe_evlwhoux ((a), (b))
 100 #define __ev_lwhosx(a,b) __builtin_spe_evlwhosx ((a), (b))
 101 #define __ev_lwwsplatx(a,b) __builtin_spe_evlwwsplatx ((a), (b))
 102 #define __ev_lwhsplatx(a,b) __builtin_spe_evlwhsplatx ((a), (b))
 103 #define __ev_lhhesplatx(a,b) __builtin_spe_evlhhesplatx ((a), (b))
 104 #define __ev_lhhousplatx(a,b) __builtin_spe_evlhhousplatx ((a), (b))
 105 #define __ev_lhhossplatx(a,b) __builtin_spe_evlhhossplatx ((a), (b))
 106 #define __ev_ldd(a,b) __builtin_spe_evldd ((void *)(a), (b))
 107 #define __ev_ldw(a,b) __builtin_spe_evldw ((void *)(a), (b))
 108 #define __ev_ldh(a,b) __builtin_spe_evldh ((void *)(a), (b))
 109 #define __ev_lwhe(a,b) __builtin_spe_evlwhe ((a), (b))
 110 #define __ev_lwhou(a,b) __builtin_spe_evlwhou ((a), (b))
 111 #define __ev_lwhos(a,b) __builtin_spe_evlwhos ((a), (b))
 112 #define __ev_lwwsplat(a,b) __builtin_spe_evlwwsplat ((a), (b))
 113 #define __ev_lwhsplat(a,b) __builtin_spe_evlwhsplat ((a), (b))
 114 #define __ev_lhhesplat(a,b) __builtin_spe_evlhhesplat ((a), (b))
 115 #define __ev_lhhousplat(a,b) __builtin_spe_evlhhousplat ((a), (b))
 116 #define __ev_lhhossplat(a,b) __builtin_spe_evlhhossplat ((a), (b))
 117
 118 /* Stores.  */
 119
 120 #define __ev_stddx(a,b,c) __builtin_spe_evstddx ((__v2si)(a), (void *)(b), (c))
 121 #define __ev_stdwx(a,b,c) __builtin_spe_evstdwx ((__v2si)(a), (void *)(b), (c))
 122 #define __ev_stdhx(a,b,c) __builtin_spe_evstdhx ((__v2si)(a), (void *)(b), (c))
 123 #define __ev_stwwex(a,b,c) __builtin_spe_evstwwex ((__v2si)(a), (b), (c))
 124 #define __ev_stwwox(a,b,c) __builtin_spe_evstwwox ((__v2si)(a), (b), (c))
 125 #define __ev_stwhex(a,b,c) __builtin_spe_evstwhex ((__v2si)(a), (b), (c))
 126 #define __ev_stwhox(a,b,c) __builtin_spe_evstwhox ((__v2si)(a), (b), (c))
 127 #define __ev_stdd(a,b,c) __builtin_spe_evstdd ((__v2si)(a), (b), (c))
 128 #define __ev_stdw(a,b,c) __builtin_spe_evstdw ((__v2si)(a), (b), (c))
 129 #define __ev_stdh(a,b,c) __builtin_spe_evstdh ((__v2si)(a), (b), (c))
 130 #define __ev_stwwe(a,b,c) __builtin_spe_evstwwe ((__v2si)(a), (b), (c))
 131 #define __ev_stwwo(a,b,c) __builtin_spe_evstwwo ((__v2si)(a), (b), (c))
 132 #define __ev_stwhe(a,b,c) __builtin_spe_evstwhe ((__v2si)(a), (b), (c))
 133 #define __ev_stwho(a,b,c) __builtin_spe_evstwho ((__v2si)(a), (b), (c))
 134
 135 /* Fixed point complex.  */
 136
 137 #define __ev_mhossf(a, b) __builtin_spe_evmhossf ((__v2si) (a), (__v2si) (b))
 138 #define __ev_mhosmf(a, b) __builtin_spe_evmhosmf ((__v2si) (a), (__v2si) (b))
 139 #define __ev_mhosmi(a, b) __builtin_spe_evmhosmi ((__v2si) (a), (__v2si) (b))
 140 #define __ev_mhoumi(a, b) __builtin_spe_evmhoumi ((__v2si) (a), (__v2si) (b))
 141 #define __ev_mhessf(a, b) __builtin_spe_evmhessf ((__v2si) (a), (__v2si) (b))
 142 #define __ev_mhesmf(a, b) __builtin_spe_evmhesmf ((__v2si) (a), (__v2si) (b))
 143 #define __ev_mhesmi(a, b) __builtin_spe_evmhesmi ((__v2si) (a), (__v2si) (b))
 144 #define __ev_mheumi(a, b) __builtin_spe_evmheumi ((__v2si) (a), (__v2si) (b))
 145 #define __ev_mhossfa(a, b) __builtin_spe_evmhossfa ((__v2si) (a), (__v2si) (b))
 146 #define __ev_mhosmfa(a, b) __builtin_spe_evmhosmfa ((__v2si) (a), (__v2si) (b))
 147 #define __ev_mhosmia(a, b) __builtin_spe_evmhosmia ((__v2si) (a), (__v2si) (b))
 148 #define __ev_mhoumia(a, b) __builtin_spe_evmhoumia ((__v2si) (a), (__v2si) (b))
 149 #define __ev_mhessfa(a, b) __builtin_spe_evmhessfa ((__v2si) (a), (__v2si) (b))
 150 #define __ev_mhesmfa(a, b) __builtin_spe_evmhesmfa ((__v2si) (a), (__v2si) (b))
 151 #define __ev_mhesmia(a, b) __builtin_spe_evmhesmia ((__v2si) (a), (__v2si) (b))
 152 #define __ev_mheumia(a, b) __builtin_spe_evmheumia ((__v2si) (a), (__v2si) (b))
 153
 154 #define __ev_mhoumf __ev_mhoumi
 155 #define __ev_mheumf __ev_mheumi
 156 #define __ev_mhoumfa __ev_mhoumia
 157 #define __ev_mheumfa __ev_mheumia
 158
 159 #define __ev_mhossfaaw(a, b) __builtin_spe_evmhossfaaw ((__v2si) (a), (__v2si) (b))
 160 #define __ev_mhossiaaw(a, b) __builtin_spe_evmhossiaaw ((__v2si) (a), (__v2si) (b))
 161 #define __ev_mhosmfaaw(a, b) __builtin_spe_evmhosmfaaw ((__v2si) (a), (__v2si) (b))
 162 #define __ev_mhosmiaaw(a, b) __builtin_spe_evmhosmiaaw ((__v2si) (a), (__v2si) (b))
 163 #define __ev_mhousiaaw(a, b) __builtin_spe_evmhousiaaw ((__v2si) (a), (__v2si) (b))
 164 #define __ev_mhoumiaaw(a, b) __builtin_spe_evmhoumiaaw ((__v2si) (a), (__v2si) (b))
 165 #define __ev_mhessfaaw(a, b) __builtin_spe_evmhessfaaw ((__v2si) (a), (__v2si) (b))
 166 #define __ev_mhessiaaw(a, b) __builtin_spe_evmhessiaaw ((__v2si) (a), (__v2si) (b))
 167 #define __ev_mhesmfaaw(a, b) __builtin_spe_evmhesmfaaw ((__v2si) (a), (__v2si) (b))
 168 #define __ev_mhesmiaaw(a, b) __builtin_spe_evmhesmiaaw ((__v2si) (a), (__v2si) (b))
 169 #define __ev_mheusiaaw(a, b) __builtin_spe_evmheusiaaw ((__v2si) (a), (__v2si) (b))
 170 #define __ev_mheumiaaw(a, b) __builtin_spe_evmheumiaaw ((__v2si) (a), (__v2si) (b))
 171
 172 #define __ev_mhousfaaw __ev_mhousiaaw
 173 #define __ev_mhoumfaaw __ev_mhoumiaaw
 174 #define __ev_mheusfaaw __ev_mheusiaaw
 175 #define __ev_mheumfaaw __ev_mheumiaaw
 176
 177 #define __ev_mhossfanw(a, b) __builtin_spe_evmhossfanw ((__v2si) (a), (__v2si) (b))
 178 #define __ev_mhossianw(a, b) __builtin_spe_evmhossianw ((__v2si) (a), (__v2si) (b))
 179 #define __ev_mhosmfanw(a, b) __builtin_spe_evmhosmfanw ((__v2si) (a), (__v2si) (b))
 180 #define __ev_mhosmianw(a, b) __builtin_spe_evmhosmianw ((__v2si) (a), (__v2si) (b))
 181 #define __ev_mhousianw(a, b) __builtin_spe_evmhousianw ((__v2si) (a), (__v2si) (b))
 182 #define __ev_mhoumianw(a, b) __builtin_spe_evmhoumianw ((__v2si) (a), (__v2si) (b))
 183 #define __ev_mhessfanw(a, b) __builtin_spe_evmhessfanw ((__v2si) (a), (__v2si) (b))
 184 #define __ev_mhessianw(a, b) __builtin_spe_evmhessianw ((__v2si) (a), (__v2si) (b))
 185 #define __ev_mhesmfanw(a, b) __builtin_spe_evmhesmfanw ((__v2si) (a), (__v2si) (b))
 186 #define __ev_mhesmianw(a, b) __builtin_spe_evmhesmianw ((__v2si) (a), (__v2si) (b))
 187 #define __ev_mheusianw(a, b) __builtin_spe_evmheusianw ((__v2si) (a), (__v2si) (b))
 188 #define __ev_mheumianw(a, b) __builtin_spe_evmheumianw ((__v2si) (a), (__v2si) (b))
 189
 190 #define __ev_mhousfanw __ev_mhousianw
 191 #define __ev_mhoumfanw __ev_mhoumianw
 192 #define __ev_mheusfanw __ev_mheusianw
 193 #define __ev_mheumfanw __ev_mheumianw
 194
 195 #define __ev_mhogsmfaa(a, b) __builtin_spe_evmhogsmfaa ((__v2si) (a), (__v2si) (b))
 196 #define __ev_mhogsmiaa(a, b) __builtin_spe_evmhogsmiaa ((__v2si) (a), (__v2si) (b))
 197 #define __ev_mhogumiaa(a, b) __builtin_spe_evmhogumiaa ((__v2si) (a), (__v2si) (b))
 198 #define __ev_mhegsmfaa(a, b) __builtin_spe_evmhegsmfaa ((__v2si) (a), (__v2si) (b))
 199 #define __ev_mhegsmiaa(a, b) __builtin_spe_evmhegsmiaa ((__v2si) (a), (__v2si) (b))
 200 #define __ev_mhegumiaa(a, b) __builtin_spe_evmhegumiaa ((__v2si) (a), (__v2si) (b))
 201
 202 #define __ev_mhogumfaa __ev_mhogumiaa
 203 #define __ev_mhegumfaa __ev_mhegumiaa
 204
 205 #define __ev_mhogsmfan(a, b) __builtin_spe_evmhogsmfan ((__v2si) (a), (__v2si) (b))
 206 #define __ev_mhogsmian(a, b) __builtin_spe_evmhogsmian ((__v2si) (a), (__v2si) (b))
 207 #define __ev_mhogumian(a, b) __builtin_spe_evmhogumian ((__v2si) (a), (__v2si) (b))
 208 #define __ev_mhegsmfan(a, b) __builtin_spe_evmhegsmfan ((__v2si) (a), (__v2si) (b))
 209 #define __ev_mhegsmian(a, b) __builtin_spe_evmhegsmian ((__v2si) (a), (__v2si) (b))
 210 #define __ev_mhegumian(a, b) __builtin_spe_evmhegumian ((__v2si) (a), (__v2si) (b))
 211
 212 #define __ev_mhogumfan __ev_mhogumian
 213 #define __ev_mhegumfan __ev_mhegumian
 214
 215 #define __ev_mwhssf(a, b) __builtin_spe_evmwhssf ((__v2si) (a), (__v2si) (b))
 216 #define __ev_mwhsmf(a, b) __builtin_spe_evmwhsmf ((__v2si) (a), (__v2si) (b))
 217 #define __ev_mwhsmi(a, b) __builtin_spe_evmwhsmi ((__v2si) (a), (__v2si) (b))
 218 #define __ev_mwhumi(a, b) __builtin_spe_evmwhumi ((__v2si) (a), (__v2si) (b))
 219 #define __ev_mwhssfa(a, b) __builtin_spe_evmwhssfa ((__v2si) (a), (__v2si) (b))
 220 #define __ev_mwhsmfa(a, b) __builtin_spe_evmwhsmfa ((__v2si) (a), (__v2si) (b))
 221 #define __ev_mwhsmia(a, b) __builtin_spe_evmwhsmia ((__v2si) (a), (__v2si) (b))
 222 #define __ev_mwhumia(a, b) __builtin_spe_evmwhumia ((__v2si) (a), (__v2si) (b))
 223
 224 #define __ev_mwhumf __ev_mwhumi
 225 #define __ev_mwhumfa __ev_mwhumia
 226
 227 #define __ev_mwlssf(a, b) __builtin_spe_evmwlssf ((__v2si) (a), (__v2si) (b))
 228 #define __ev_mwlsmf(a, b) __builtin_spe_evmwlsmf ((__v2si) (a), (__v2si) (b))
 229 #define __ev_mwlumi(a, b) __builtin_spe_evmwlumi ((__v2si) (a), (__v2si) (b))
 230 #define __ev_mwlssfa(a, b) __builtin_spe_evmwlssfa ((__v2si) (a), (__v2si) (b))
 231 #define __ev_mwlsmfa(a, b) __builtin_spe_evmwlsmfa ((__v2si) (a), (__v2si) (b))
 232 #define __ev_mwlumia(a, b) __builtin_spe_evmwlumia ((__v2si) (a), (__v2si) (b))
 233 #define __ev_mwlumiaaw(a, b) __builtin_spe_evmwlumiaaw ((__v2si) (a), (__v2si) (b))
 234
 235 #define __ev_mwlssfaaw(a, b) __builtin_spe_evmwlssfaaw ((__v2si) (a), (__v2si) (b))
 236 #define __ev_mwlssiaaw(a, b) __builtin_spe_evmwlssiaaw ((__v2si) (a), (__v2si) (b))
 237 #define __ev_mwlsmfaaw(a, b) __builtin_spe_evmwlsmfaaw ((__v2si) (a), (__v2si) (b))
 238 #define __ev_mwlsmiaaw(a, b) __builtin_spe_evmwlsmiaaw ((__v2si) (a), (__v2si) (b))
 239 #define __ev_mwlusiaaw(a, b) __builtin_spe_evmwlusiaaw ((__v2si) (a), (__v2si) (b))
 240 #define __ev_mwlusiaaw(a, b) __builtin_spe_evmwlusiaaw ((__v2si) (a), (__v2si) (b))
 241
 242 #define __ev_mwlssfanw(a, b) __builtin_spe_evmwlssfanw ((__v2si) (a), (__v2si) (b))
 243 #define __ev_mwlssianw(a, b) __builtin_spe_evmwlssianw ((__v2si) (a), (__v2si) (b))
 244 #define __ev_mwlsmfanw(a, b) __builtin_spe_evmwlsmfanw ((__v2si) (a), (__v2si) (b))
 245 #define __ev_mwlsmianw(a, b) __builtin_spe_evmwlsmianw ((__v2si) (a), (__v2si) (b))
 246 #define __ev_mwlusianw(a, b) __builtin_spe_evmwlusianw ((__v2si) (a), (__v2si) (b))
 247 #define __ev_mwlumianw(a, b) __builtin_spe_evmwlumianw ((__v2si) (a), (__v2si) (b))
 248
 249 #define __ev_mwssf(a, b) __builtin_spe_evmwssf ((__v2si) (a), (__v2si) (b))
 250 #define __ev_mwsmf(a, b) __builtin_spe_evmwsmf ((__v2si) (a), (__v2si) (b))
 251 #define __ev_mwsmi(a, b) __builtin_spe_evmwsmi ((__v2si) (a), (__v2si) (b))
 252 #define __ev_mwumi(a, b) __builtin_spe_evmwumi ((__v2si) (a), (__v2si) (b))
 253 #define __ev_mwssfa(a, b) __builtin_spe_evmwssfa ((__v2si) (a), (__v2si) (b))
 254 #define __ev_mwsmfa(a, b) __builtin_spe_evmwsmfa ((__v2si) (a), (__v2si) (b))
 255 #define __ev_mwsmia(a, b) __builtin_spe_evmwsmia ((__v2si) (a), (__v2si) (b))
 256 #define __ev_mwumia(a, b) __builtin_spe_evmwumia ((__v2si) (a), (__v2si) (b))
 257
 258 #define __ev_mwumf __ev_mwumi
 259 #define __ev_mwumfa __ev_mwumia
 260
 261 #define __ev_mwssfaa(a, b) __builtin_spe_evmwssfaa ((__v2si) (a), (__v2si) (b))
 262 #define __ev_mwsmfaa(a, b) __builtin_spe_evmwsmfaa ((__v2si) (a), (__v2si) (b))
 263 #define __ev_mwsmiaa(a, b) __builtin_spe_evmwsmiaa ((__v2si) (a), (__v2si) (b))
 264 #define __ev_mwumiaa(a, b) __builtin_spe_evmwumiaa ((__v2si) (a), (__v2si) (b))
 265
 266 #define __ev_mwumfaa __ev_mwumiaa
 267
 268 #define __ev_mwssfan(a, b) __builtin_spe_evmwssfan ((__v2si) (a), (__v2si) (b))
 269 #define __ev_mwsmfan(a, b) __builtin_spe_evmwsmfan ((__v2si) (a), (__v2si) (b))
 270 #define __ev_mwsmian(a, b) __builtin_spe_evmwsmian ((__v2si) (a), (__v2si) (b))
 271 #define __ev_mwumian(a, b) __builtin_spe_evmwumian ((__v2si) (a), (__v2si) (b))
 272
 273 #define __ev_mwumfan __ev_mwumian
 274
 275 #define __ev_addssiaaw(a) __builtin_spe_evaddssiaaw ((__v2si) (a))
 276 #define __ev_addsmiaaw(a) __builtin_spe_evaddsmiaaw ((__v2si) (a))
 277 #define __ev_addusiaaw(a) __builtin_spe_evaddusiaaw ((__v2si) (a))
 278 #define __ev_addumiaaw(a) __builtin_spe_evaddumiaaw ((__v2si) (a))
 279
 280 #define __ev_addusfaaw __ev_addusiaaw
 281 #define __ev_addumfaaw __ev_addumiaaw
 282 #define __ev_addsmfaaw __ev_addsmiaaw
 283 #define __ev_addssfaaw __ev_addssiaaw
 284
 285 #define __ev_subfssiaaw(a) __builtin_spe_evsubfssiaaw ((__v2si) (a))
 286 #define __ev_subfsmiaaw(a) __builtin_spe_evsubfsmiaaw ((__v2si) (a))
 287 #define __ev_subfusiaaw(a) __builtin_spe_evsubfusiaaw ((__v2si) (a))
 288 #define __ev_subfumiaaw(a) __builtin_spe_evsubfumiaaw ((__v2si) (a))
 289
 290 #define __ev_subfusfaaw __ev_subfusiaaw
 291 #define __ev_subfumfaaw __ev_subfumiaaw
 292 #define __ev_subfsmfaaw __ev_subfsmiaaw
 293 #define __ev_subfssfaaw __ev_subfssiaaw
 294
 295 /* Floating Point SIMD Instructions  */
 296
 297 /* These all return V2SF, but we need to cast them to V2SI because the SPE
 298    expect all functions to be __ev64_opaque__.  */
 299
 300 #define __ev_fsabs(a) ((__v2si) __builtin_spe_evfsabs ((__v2sf) a))
 301 #define __ev_fsnabs(a) ((__v2si) __builtin_spe_evfsnabs ((__v2sf) a))
 302 #define __ev_fsneg(a) ((__v2si) __builtin_spe_evfsneg ((__v2sf) a))
 303 #define __ev_fsadd(a, b) ((__v2si) __builtin_spe_evfsadd ((__v2sf) a, (__v2sf) b))
 304 #define __ev_fssub(a, b) ((__v2si) __builtin_spe_evfssub ((__v2sf) a, (__v2sf) b))
 305 #define __ev_fsmul(a, b) ((__v2si) __builtin_spe_evfsmul ((__v2sf) a, (__v2sf) b))
 306 #define __ev_fsdiv(a, b) ((__v2si) __builtin_spe_evfsdiv ((__v2sf) a, (__v2sf) b))
 307 #define __ev_fscfui(a) ((__v2si) __builtin_spe_evfscfui ((__v2si) a))
 308 #define __ev_fscfsi(a) ((__v2si) __builtin_spe_evfscfsi ((__v2sf) a))
 309 #define __ev_fscfuf(a) ((__v2si) __builtin_spe_evfscfuf ((__v2sf) a))
 310 #define __ev_fscfsf(a) ((__v2si) __builtin_spe_evfscfsf ((__v2sf) a))
 311 #define __ev_fsctui(a) ((__v2si) __builtin_spe_evfsctui ((__v2sf) a))
 312 #define __ev_fsctsi(a) ((__v2si) __builtin_spe_evfsctsi ((__v2sf) a))
 313 #define __ev_fsctuf(a) ((__v2si) __builtin_spe_evfsctuf ((__v2sf) a))
 314 #define __ev_fsctsf(a) ((__v2si) __builtin_spe_evfsctsf ((__v2sf) a))
 315 #define __ev_fsctuiz(a) ((__v2si) __builtin_spe_evfsctuiz ((__v2sf) a))
 316 #define __ev_fsctsiz(a) ((__v2si) __builtin_spe_evfsctsiz ((__v2sf) a))
 317
 318 /* NOT SUPPORTED IN FIRST e500, support via two instructions:  */
 319
 320 #define __ev_mwhusfaaw  __ev_mwhusiaaw
 321 #define __ev_mwhumfaaw  __ev_mwhumiaaw
 322 #define __ev_mwhusfanw  __ev_mwhusianw
 323 #define __ev_mwhumfanw  __ev_mwhumianw
 324 #define __ev_mwhgumfaa  __ev_mwhgumiaa
 325 #define __ev_mwhgumfan  __ev_mwhgumian
 326
 327 #define __ev_mwhgssfaa(a, b) __internal_ev_mwhgssfaa ((__v2si) (a), (__v2si) (b))
 328 #define __ev_mwhgsmfaa(a, b) __internal_ev_mwhgsmfaa ((__v2si) (a), (__v2si) (b))
 329 #define __ev_mwhgsmiaa(a, b) __internal_ev_mwhgsmiaa ((__v2si) (a), (__v2si) (b))
 330 #define __ev_mwhgumiaa(a, b) __internal_ev_mwhgumiaa ((__v2si) (a), (__v2si) (b))
 331 #define __ev_mwhgssfan(a, b) __internal_ev_mwhgssfan ((__v2si) (a), (__v2si) (b))
 332 #define __ev_mwhgsmfan(a, b) __internal_ev_mwhgsmfan ((__v2si) (a), (__v2si) (b))
 333 #define __ev_mwhgsmian(a, b) __internal_ev_mwhgsmian ((__v2si) (a), (__v2si) (b))
 334 #define __ev_mwhgumian(a, b) __internal_ev_mwhgumian ((__v2si) (a), (__v2si) (b))
 335
 336 #define __ev_mwhssiaaw(a, b) __internal_ev_mwhssiaaw ((__v2si) (a), (__v2si) (b))
 337 #define __ev_mwhssfaaw(a, b) __internal_ev_mwhssfaaw ((__v2si) (a), (__v2si) (b))
 338 #define __ev_mwhsmfaaw(a, b) __internal_ev_mwhsmfaaw ((__v2si) (a), (__v2si) (b))
 339 #define __ev_mwhsmiaaw(a, b) __internal_ev_mwhsmiaaw ((__v2si) (a), (__v2si) (b))
 340 #define __ev_mwhusiaaw(a, b) __internal_ev_mwhusiaaw ((__v2si) (a), (__v2si) (b))
 341 #define __ev_mwhumiaaw(a, b) __internal_ev_mwhumiaaw ((__v2si) (a), (__v2si) (b))
 342 #define __ev_mwhssfanw(a, b) __internal_ev_mwhssfanw ((__v2si) (a), (__v2si) (b))
 343 #define __ev_mwhssianw(a, b) __internal_ev_mwhssianw ((__v2si) (a), (__v2si) (b))
 344 #define __ev_mwhsmfanw(a, b) __internal_ev_mwhsmfanw ((__v2si) (a), (__v2si) (b))
 345 #define __ev_mwhsmianw(a, b) __internal_ev_mwhsmianw ((__v2si) (a), (__v2si) (b))
 346 #define __ev_mwhusianw(a, b) __internal_ev_mwhusianw ((__v2si) (a), (__v2si) (b))
 347 #define __ev_mwhumianw(a, b) __internal_ev_mwhumianw ((__v2si) (a), (__v2si) (b))
 348
 349 static inline __ev64_opaque__
 350 __internal_ev_mwhssfaaw (__ev64_opaque__ a, __ev64_opaque__ b)
 351 {
 352   __ev64_opaque__ t;
 353
 354   t = __ev_mwhssf (a, b);
 355   return __ev_addssiaaw(t);
 356 }
 357
 358 static inline __ev64_opaque__
 359 __internal_ev_mwhssiaaw (__ev64_opaque__ a, __ev64_opaque__ b)
 360 {
 361   __ev64_opaque__ t;
 362
 363   t = __ev_mwhsmi (a,b);
 364   return __ev_addssiaaw (t);
 365 }
 366
 367 static inline __ev64_opaque__
 368 __internal_ev_mwhsmfaaw (__ev64_opaque__ a, __ev64_opaque__ b)
 369 {
 370   __ev64_opaque__ t;
 371
 372   t = __ev_mwhsmf (a,b);
 373   return __ev_addsmiaaw (t);
 374 }
 375
 376 static inline __ev64_opaque__
 377 __internal_ev_mwhsmiaaw (__ev64_opaque__ a, __ev64_opaque__ b)
 378 {
 379   __ev64_opaque__ t;
 380
 381   t = __ev_mwhsmi (a,b);
 382   return __ev_addsmiaaw (t);
 383 }
 384
 385 static inline __ev64_opaque__
 386 __internal_ev_mwhusiaaw (__ev64_opaque__ a, __ev64_opaque__ b)
 387 {
 388   __ev64_opaque__ t;
 389
 390   t = __ev_mwhumi (a,b);
 391   return __ev_addusiaaw (t);
 392 }
 393
 394 static inline __ev64_opaque__
 395 __internal_ev_mwhumiaaw (__ev64_opaque__ a, __ev64_opaque__ b)
 396 {
 397   __ev64_opaque__ t;
 398
 399   t = __ev_mwhumi (a,b);
 400   return __ev_addumiaaw (t);
 401 }
 402
 403 static inline __ev64_opaque__
 404 __internal_ev_mwhssfanw (__ev64_opaque__ a, __ev64_opaque__ b)
 405 {
 406   __ev64_opaque__ t;
 407
 408   t = __ev_mwhssf (a,b);
 409   return __ev_subfssiaaw (t);
 410 }
 411
 412 static inline __ev64_opaque__
 413 __internal_ev_mwhssianw (__ev64_opaque__ a, __ev64_opaque__ b)
 414 {
 415   __ev64_opaque__ t;
 416
 417   t = __ev_mwhsmi (a,b);
 418   return __ev_subfssiaaw (t);
 419 }
 420
 421 static inline __ev64_opaque__
 422 __internal_ev_mwhsmfanw (__ev64_opaque__ a, __ev64_opaque__ b)
 423 {
 424   __ev64_opaque__ t;
 425
 426   t = __ev_mwhsmf (a,b);
 427   return __ev_subfsmiaaw (t);
 428 }
 429
 430 static inline __ev64_opaque__
 431 __internal_ev_mwhsmianw (__ev64_opaque__ a, __ev64_opaque__ b)
 432 {
 433   __ev64_opaque__ t;
 434
 435   t = __ev_mwhsmi (a,b);
 436   return __ev_subfsmiaaw (t);
 437 }
 438
 439 static inline __ev64_opaque__
 440 __internal_ev_mwhusianw (__ev64_opaque__ a, __ev64_opaque__ b)
 441 {
 442   __ev64_opaque__ t;
 443
 444   t = __ev_mwhumi (a,b);
 445   return __ev_subfusiaaw (t);
 446 }
 447
 448 static inline __ev64_opaque__
 449 __internal_ev_mwhumianw (__ev64_opaque__ a, __ev64_opaque__ b)
 450 {
 451   __ev64_opaque__ t;
 452
 453   t = __ev_mwhumi (a,b);
 454   return __ev_subfumiaaw (t);
 455 }
 456
 457 static inline __ev64_opaque__
 458 __internal_ev_mwhgssfaa (__ev64_opaque__ a, __ev64_opaque__ b)
 459 {
 460   __ev64_opaque__ t;
 461
 462   t = __ev_mwhssf (a, b);
 463   return __ev_mwsmiaa (t, ((__ev64_s32__){1, 1}));
 464 }
 465
 466 static inline __ev64_opaque__
 467 __internal_ev_mwhgsmfaa (__ev64_opaque__ a, __ev64_opaque__ b)
 468 {
 469   __ev64_opaque__ t;
 470
 471   t = __ev_mwhsmf (a, b);
 472   return __ev_mwsmiaa (t, ((__ev64_s32__){1, 1}));
 473 }
 474
 475 static inline __ev64_opaque__
 476 __internal_ev_mwhgsmiaa (__ev64_opaque__ a, __ev64_opaque__ b)
 477 {
 478   __ev64_opaque__ t;
 479
 480   t = __ev_mwhsmi (a, b);
 481   return __ev_mwsmiaa (t, ((__ev64_s32__){1, 1}));
 482 }
 483
 484 static inline __ev64_opaque__
 485 __internal_ev_mwhgumiaa (__ev64_opaque__ a, __ev64_opaque__ b)
 486 {
 487   __ev64_opaque__ t;
 488
 489   t = __ev_mwhumi (a, b);
 490   return __ev_mwumiaa (t, ((__ev64_s32__){1, 1}));
 491 }
 492
 493 static inline __ev64_opaque__
 494 __internal_ev_mwhgssfan (__ev64_opaque__ a, __ev64_opaque__ b)
 495 {
 496   __ev64_opaque__ t;
 497
 498   t = __ev_mwhssf (a, b);
 499   return __ev_mwsmian (t, ((__ev64_s32__){1, 1}));
 500 }
 501
 502 static inline __ev64_opaque__
 503 __internal_ev_mwhgsmfan (__ev64_opaque__ a, __ev64_opaque__ b)
 504 {
 505   __ev64_opaque__ t;
 506
 507   t = __ev_mwhsmf (a, b);
 508   return __ev_mwsmian (t, ((__ev64_s32__){1, 1}));
 509 }
 510
 511 static inline __ev64_opaque__
 512 __internal_ev_mwhgsmian (__ev64_opaque__ a, __ev64_opaque__ b)
 513 {
 514   __ev64_opaque__ t;
 515
 516   t = __ev_mwhsmi (a, b);
 517   return __ev_mwsmian (t, ((__ev64_s32__){1, 1}));
 518 }
 519
 520 static inline __ev64_opaque__
 521 __internal_ev_mwhgumian (__ev64_opaque__ a, __ev64_opaque__ b)
 522 {
 523   __ev64_opaque__ t;
 524
 525   t = __ev_mwhumi (a, b);
 526   return __ev_mwumian (t, ((__ev64_s32__){1, 1}));
 527 }
 528
 529 /* END OF NOT SUPPORTED */
 530
 531 /* __ev_create* functions.  */
 532
 533 #define __ev_create_ufix32_u32 __ev_create_u32
 534 #define __ev_create_sfix32_s32 __ev_create_s32
 535
 536 static inline __ev64_opaque__
 537 __ev_create_s16 (int16_t a, int16_t b, int16_t c, int16_t d)
 538 {
 539   union
 540   {
 541     __ev64_opaque__ v;
 542     int16_t i[4];
 543   } u;
 544
 545   u.i[0] = a;
 546   u.i[1] = b;
 547   u.i[2] = c;
 548   u.i[3] = d;
 549
 550   return u.v;
 551 }
 552
 553 static inline __ev64_opaque__
 554 __ev_create_u16 (uint16_t a, uint16_t b, uint16_t c, uint16_t d)
 555
 556 {
 557   union
 558   {
 559     __ev64_opaque__ v;
 560     uint16_t i[4];
 561   } u;
 562
 563   u.i[0] = a;
 564   u.i[1] = b;
 565   u.i[2] = c;
 566   u.i[3] = d;
 567
 568   return u.v;
 569 }
 570
 571 static inline __ev64_opaque__
 572 __ev_create_s32 (int32_t a, int32_t b)
 573 {
 574   union
 575   {
 576     __ev64_opaque__ v;
 577    int32_t i[2];
 578   } u;
 579
 580   u.i[0] = a;
 581   u.i[1] = b;
 582
 583   return u.v;
 584 }
 585
 586 static inline __ev64_opaque__
 587 __ev_create_u32 (uint32_t a, uint32_t b)
 588 {
 589   union
 590   {
 591     __ev64_opaque__ v;
 592     uint32_t i[2];
 593   } u;
 594
 595   u.i[0] = a;
 596   u.i[1] = b;
 597
 598   return u.v;
 599 }
 600
 601 static inline __ev64_opaque__
 602 __ev_create_fs (float a, float b)
 603 {
 604   union
 605   {
 606     __ev64_opaque__ v;
 607     float f[2];
 608   } u;
 609
 610   u.f[0] = a;
 611   u.f[1] = b;
 612
 613   return u.v;
 614 }
 615
 616 static inline __ev64_opaque__
 617 __ev_create_sfix32_fs (float a, float b)
 618 {
 619   __ev64_opaque__ ev;
 620
 621   ev = (__ev64_opaque__) __ev_create_fs (a, b);
 622   return (__ev64_opaque__) __builtin_spe_evfsctsf (ev);
 623 }
 624
 625 static inline __ev64_opaque__
 626 __ev_create_ufix32_fs (float a, float b)
 627 {
 628   __ev64_opaque__ ev;
 629
 630   ev = (__ev64_opaque__) __ev_create_fs (a, b);
 631   return (__ev64_opaque__) __builtin_spe_evfsctuf (ev);
 632 }
 633
 634 static inline __ev64_opaque__
 635 __ev_create_s64 (int64_t a)
 636 {
 637   union
 638   {
 639     __ev64_opaque__ v;
 640     int64_t i;
 641   } u;
 642
 643   u.i = a;
 644   return u.v;
 645 }
 646
 647 static inline __ev64_opaque__
 648 __ev_create_u64 (uint64_t a)
 649 {
 650   union
 651   {
 652     __ev64_opaque__ v;
 653     uint64_t i;
 654   } u;
 655
 656   u.i = a;
 657   return u.v;
 658 }
 659
 660 #define __ev_convert_u64(a) ((uint64_t) (a))
 661 #define __ev_convert_s64(a) ((int64_t) (a))
 662
 663 /* __ev_get_* functions.  */
 664
 665 #define __ev_get_upper_u32(a) __ev_get_u32_internal ((__ev64_opaque__) a, 0)
 666 #define __ev_get_lower_u32(a) __ev_get_u32_internal ((__ev64_opaque__) a, 1)
 667 #define __ev_get_upper_s32(a) __ev_get_s32_internal ((__ev64_opaque__) a, 0)
 668 #define __ev_get_lower_s32(a) __ev_get_s32_internal ((__ev64_opaque__) a, 1)
 669 #define __ev_get_upper_fs(a) __ev_get_fs_internal ((__ev64_opaque__) a, 0)
 670 #define __ev_get_lower_fs(a) __ev_get_fs_internal ((__ev64_opaque__) a, 1)
 671 #define __ev_get_upper_ufix32_u32(a) __ev_get_upper_u32(a)
 672 #define __ev_get_lower_ufix32_u32(a) __ev_get_lower_u32(a)
 673 #define __ev_get_upper_sfix32_s32(a) __ev_get_upper_s32(a)
 674 #define __ev_get_lower_sfix32_s32(a) __ev_get_lower_s32(a)
 675 #define __ev_get_upper_sfix32_fs(a)  __ev_get_sfix32_fs (a, 0)
 676 #define __ev_get_lower_sfix32_fs(a)  __ev_get_sfix32_fs (a, 1)
 677 #define __ev_get_upper_ufix32_fs(a)  __ev_get_ufix32_fs (a, 0)
 678 #define __ev_get_lower_ufix32_fs(a)  __ev_get_ufix32_fs (a, 1)
 679
 680 #define __ev_get_u32(a, b) __ev_get_u32_internal ((__ev64_opaque__) a, b)
 681 #define __ev_get_s32(a, b) __ev_get_s32_internal ((__ev64_opaque__) a, b)
 682 #define __ev_get_fs(a, b) __ev_get_fs_internal ((__ev64_opaque__) a, b)
 683 #define __ev_get_u16(a, b) __ev_get_u16_internal ((__ev64_opaque__) a, b)
 684 #define __ev_get_s16(a, b) __ev_get_s16_internal ((__ev64_opaque__) a, b)
 685
 686 #define __ev_get_ufix32_u32(a, b) __ev_get_u32 (a, b)
 687 #define __ev_get_sfix32_s32(a, b) __ev_get_s32 (a, b)
 688 #define __ev_get_ufix32_fs(a, b)     __ev_get_ufix32_fs_internal ((__ev64_opaque__)(a), b)
 689 #define __ev_get_sfix32_fs(a, b)     __ev_get_sfix32_fs_internal ((__ev64_opaque__)(a), b)
 690
 691 static inline uint32_t
 692 __ev_get_u32_internal (__ev64_opaque__ a, uint32_t pos)
 693 {
 694   union
 695   {
 696     __ev64_opaque__ v;
 697     uint32_t i[2];
 698   } u;
 699
 700   u.v = a;
 701   return u.i[pos];
 702 }
 703
 704 static inline int32_t
 705 __ev_get_s32_internal (__ev64_opaque__ a, uint32_t pos)
 706 {
 707   union
 708   {
 709     __ev64_opaque__ v;
 710     int32_t i[2];
 711   } u;
 712
 713   u.v = a;
 714   return u.i[pos];
 715 }
 716
 717 static inline float
 718 __ev_get_fs_internal (__ev64_opaque__ a, uint32_t pos)
 719 {
 720   union
 721   {
 722     __ev64_opaque__ v;
 723     float f[2];
 724   } u;
 725
 726   u.v = a;
 727   return u.f[pos];
 728 }
 729
 730 static inline float
 731 __ev_get_sfix32_fs_internal (__ev64_opaque__ a, uint32_t pos)
 732 {
 733   __ev64_fs__ v;
 734
 735   v = __builtin_spe_evfscfsf (a);
 736   return __ev_get_fs_internal (v, pos);
 737 }
 738
 739 static inline float
 740 __ev_get_ufix32_fs_internal (__ev64_opaque__ a, uint32_t pos)
 741 {
 742   __ev64_fs__ v;
 743
 744   v = __builtin_spe_evfscfuf (a);
 745   return __ev_get_fs_internal (v, pos);
 746 }
 747
 748 static inline uint16_t
 749 __ev_get_u16_internal (__ev64_opaque__ a, uint32_t pos)
 750 {
 751   union
 752   {
 753     __ev64_opaque__ v;
 754     uint16_t i[4];
 755   } u;
 756
 757   u.v = a;
 758   return u.i[pos];
 759 }
 760
 761 static inline int16_t
 762 __ev_get_s16_internal (__ev64_opaque__ a, uint32_t pos)
 763 {
 764   union
 765   {
 766     __ev64_opaque__ v;
 767     int16_t i[4];
 768   } u;
 769
 770   u.v = a;
 771   return u.i[pos];
 772 }
 773
 774 /* __ev_set_* functions.  */
 775
 776 #define __ev_set_u32(a, b, c) __ev_set_u32_internal ((__ev64_opaque__) a, b, c)
 777 #define __ev_set_s32(a, b, c) __ev_set_s32_internal ((__ev64_opaque__) a, b, c)
 778 #define __ev_set_fs(a, b, c) __ev_set_fs_internal ((__ev64_opaque__) a, b, c)
 779 #define __ev_set_u16(a, b, c) __ev_set_u16_internal ((__ev64_opaque__) a, b, c)
 780 #define __ev_set_s16(a, b, c) __ev_set_s16_internal ((__ev64_opaque__) a, b, c)
 781
 782 #define __ev_set_ufix32_u32 __ev_set_u32
 783 #define __ev_set_sfix32_s32 __ev_set_s32
 784
 785 #define __ev_set_sfix32_fs(a, b, c)  __ev_set_sfix32_fs_internal ((__ev64_opaque__) (a), b, c)
 786 #define __ev_set_ufix32_fs(a, b, c)  __ev_set_ufix32_fs_internal ((__ev64_opaque__) (a), b, c)
 787
 788 #define __ev_set_upper_u32(a, b) __ev_set_u32(a, b, 0)
 789 #define __ev_set_lower_u32(a, b) __ev_set_u32 (a, b, 1)
 790 #define __ev_set_upper_s32(a, b) __ev_set_s32 (a, b, 0)
 791 #define __ev_set_lower_s32(a, b) __ev_set_s32 (a, b, 1)
 792 #define __ev_set_upper_fs(a, b) __ev_set_fs (a, b, 0)
 793 #define __ev_set_lower_fs(a, b) __ev_set_fs (a, b, 1)
 794 #define __ev_set_upper_ufix32_u32 __ev_set_upper_u32
 795 #define __ev_set_lower_ufix32_u32 __ev_set_lower_u32
 796 #define __ev_set_upper_sfix32_s32 __ev_set_upper_s32
 797 #define __ev_set_lower_sfix32_s32 __ev_set_lower_s32
 798 #define __ev_set_upper_sfix32_fs(a, b)  __ev_set_sfix32_fs (a, b, 0)
 799 #define __ev_set_lower_sfix32_fs(a, b)  __ev_set_sfix32_fs (a, b, 1)
 800 #define __ev_set_upper_ufix32_fs(a, b)  __ev_set_ufix32_fs (a, b, 0)
 801 #define __ev_set_lower_ufix32_fs(a, b)  __ev_set_ufix32_fs (a, b, 1)
 802
 803 #define __ev_set_acc_vec64(a) __builtin_spe_evmra ((__ev64_opaque__)(a))
 804
 805 static inline __ev64_opaque__
 806 __ev_set_acc_u64 (uint64_t a)
 807 {
 808   __ev64_opaque__ ev32;
 809   ev32 = __ev_create_u64 (a);
 810   __ev_mra (ev32);
 811   return ev32;
 812 }
 813
 814 static inline __ev64_opaque__
 815 __ev_set_acc_s64 (int64_t a)
 816 {
 817   __ev64_opaque__ ev32;
 818   ev32 = __ev_create_s64 (a);
 819   __ev_mra (ev32);
 820   return ev32;
 821 }
 822
 823 static inline __ev64_opaque__
 824 __ev_set_u32_internal (__ev64_opaque__ a, uint32_t b, uint32_t pos )
 825 {
 826   union
 827   {
 828     __ev64_opaque__ v;
 829     uint32_t i[2];
 830   } u;
 831
 832   u.v = a;
 833   u.i[pos] = b;
 834   return u.v;
 835 }
 836
 837 static inline __ev64_opaque__
 838 __ev_set_s32_internal (__ev64_opaque__ a, int32_t b, uint32_t pos )
 839 {
 840   union
 841   {
 842     __ev64_opaque__ v;
 843     int32_t i[2];
 844   } u;
 845
 846   u.v = a;
 847   u.i[pos] = b;
 848   return u.v;
 849 }
 850
 851 static inline __ev64_opaque__
 852 __ev_set_fs_internal (__ev64_opaque__ a, float b, uint32_t pos )
 853 {
 854   union
 855   {
 856     __ev64_opaque__ v;
 857     float f[2];
 858   } u;
 859
 860   u.v = a;
 861   u.f[pos] = b;
 862   return u.v;
 863 }
 864
 865 static inline __ev64_opaque__
 866 __ev_set_sfix32_fs_internal (__ev64_opaque__ a, float b, uint32_t pos)
 867 {
 868   __ev64_opaque__ v;
 869   float other;
 870
 871   /* Get other half.  */
 872   other = __ev_get_fs_internal (a, pos ^ 1);
 873
 874   /* Make an sfix32 with 'b'.  */
 875   v = __ev_create_sfix32_fs (b, b);
 876
 877   /* Set other half to what it used to be.  */
 878   return __ev_set_fs_internal (v, other, pos ^ 1);
 879 }
 880
 881 static inline __ev64_opaque__
 882 __ev_set_ufix32_fs_internal (__ev64_opaque__ a, float b, uint32_t pos)
 883 {
 884   __ev64_opaque__ v;
 885   float other;
 886
 887   /* Get other half.  */
 888   other = __ev_get_fs_internal (a, pos ^ 1);
 889
 890   /* Make an ufix32 with 'b'.  */
 891   v = __ev_create_ufix32_fs (b, b);
 892
 893   /* Set other half to what it used to be.  */
 894   return __ev_set_fs_internal (v, other, pos ^ 1);
 895 }
 896
 897 static inline __ev64_opaque__
 898 __ev_set_u16_internal (__ev64_opaque__ a, uint16_t b, uint32_t pos )
 899 {
 900   union
 901   {
 902     __ev64_opaque__ v;
 903     uint16_t i[4];
 904   } u;
 905
 906   u.v = a;
 907   u.i[pos] = b;
 908   return u.v;
 909 }
 910
 911 static inline __ev64_opaque__
 912 __ev_set_s16_internal (__ev64_opaque__ a, int16_t b, uint32_t pos )
 913 {
 914   union
 915   {
 916     __ev64_opaque__ v;
 917     int16_t i[4];
 918   } u;
 919
 920   u.v = a;
 921   u.i[pos] = b;
 922   return u.v;
 923 }
 924
 925 /* Predicates.  */
 926
 927 #define __pred_all      0
 928 #define __pred_any      1
 929 #define __pred_upper    2
 930 #define __pred_lower    3
 931
 932 #define __ev_any_gts(a, b) \
 933         __builtin_spe_evcmpgts (__pred_any, (__v2si)(a), (__v2si)(b))
 934 #define __ev_all_gts(a, b) \
 935         __builtin_spe_evcmpgts (__pred_all, (__v2si)(a), (__v2si)(b))
 936 #define __ev_upper_gts(a, b) \
 937         __builtin_spe_evcmpgts (__pred_upper, (__v2si)(a), (__v2si)(b))
 938 #define __ev_lower_gts(a, b) \
 939         __builtin_spe_evcmpgts (__pred_lower, (__v2si)(a), (__v2si)(b))
 940 #define __ev_select_gts(a, b, c, d) \
 941         ((__v2si) __builtin_spe_evsel_gts ((__v2si)(a), (__v2si)(b), \
 942                                            (__v2si)(c), (__v2si)(d)))
 943
 944 #define __ev_any_gtu(a, b) \
 945         __builtin_spe_evcmpgtu (__pred_any, (__v2si)(a), (__v2si)(b))
 946 #define __ev_all_gtu(a, b) \
 947         __builtin_spe_evcmpgtu (__pred_all, (__v2si)(a), (__v2si)(b))
 948 #define __ev_upper_gtu(a, b) \
 949         __builtin_spe_evcmpgtu (__pred_upper, (__v2si)(a), (__v2si)(b))
 950 #define __ev_lower_gtu(a, b) \
 951         __builtin_spe_evcmpgtu (__pred_lower, (__v2si)(a), (__v2si)(b))
 952 #define __ev_select_gtu(a, b, c, d) \
 953         ((__v2si) __builtin_spe_evsel_gtu ((__v2si)(a), (__v2si)(b), \
 954                                            (__v2si)(c), (__v2si)(d)))
 955
 956 #define __ev_any_lts(a, b) \
 957         __builtin_spe_evcmplts (__pred_any, (__v2si)(a), (__v2si)(b))
 958 #define __ev_all_lts(a, b) \
 959         __builtin_spe_evcmplts (__pred_all, (__v2si)(a), (__v2si)(b))
 960 #define __ev_upper_lts(a, b) \
 961         __builtin_spe_evcmplts (__pred_upper, (__v2si)(a), (__v2si)(b))
 962 #define __ev_lower_lts(a, b) \
 963         __builtin_spe_evcmplts (__pred_lower, (__v2si)(a), (__v2si)(b))
 964 #define __ev_select_lts(a, b, c, d) \
 965         ((__v2si) __builtin_spe_evsel_lts ((__v2si)(a), (__v2si)(b), \
 966                                            (__v2si)(c), (__v2si)(d)))
 967
 968 #define __ev_any_ltu(a, b) \
 969         __builtin_spe_evcmpltu (__pred_any, (__v2si)(a), (__v2si)(b))
 970 #define __ev_all_ltu(a, b) \
 971         __builtin_spe_evcmpltu (__pred_all, (__v2si)(a), (__v2si)(b))
 972 #define __ev_upper_ltu(a, b) \
 973         __builtin_spe_evcmpltu (__pred_upper, (__v2si)(a), (__v2si)(b))
 974 #define __ev_lower_ltu(a, b) \
 975         __builtin_spe_evcmpltu (__pred_lower, (__v2si)(a), (__v2si)(b))
 976 #define __ev_select_ltu(a, b, c, d) \
 977         ((__v2si) __builtin_spe_evsel_ltu ((__v2si)(a), (__v2si)(b), \
 978                                            (__v2si)(c), (__v2si)(d)))
 979 #define __ev_any_eq(a, b) \
 980         __builtin_spe_evcmpeq (__pred_any, (__v2si)(a), (__v2si)(b))
 981 #define __ev_all_eq(a, b) \
 982         __builtin_spe_evcmpeq (__pred_all, (__v2si)(a), (__v2si)(b))
 983 #define __ev_upper_eq(a, b) \
 984         __builtin_spe_evcmpeq (__pred_upper, (__v2si)(a), (__v2si)(b))
 985 #define __ev_lower_eq(a, b) \
 986         __builtin_spe_evcmpeq (__pred_lower, (__v2si)(a), (__v2si)(b))
 987 #define __ev_select_eq(a, b, c, d) \
 988         ((__v2si) __builtin_spe_evsel_eq ((__v2si)(a), (__v2si)(b), \
 989                                           (__v2si)(c), (__v2si)(d)))
 990
 991 #define __ev_any_fs_gt(a, b) \
 992         __builtin_spe_evfscmpgt (__pred_any, (__v2sf)(a), (__v2sf)(b))
 993 #define __ev_all_fs_gt(a, b) \
 994         __builtin_spe_evfscmpgt (__pred_all, (__v2sf)(a), (__v2sf)(b))
 995 #define __ev_upper_fs_gt(a, b) \
 996         __builtin_spe_evfscmpgt (__pred_upper, (__v2sf)(a), (__v2sf)(b))
 997 #define __ev_lower_fs_gt(a, b) \
 998         __builtin_spe_evfscmpgt (__pred_lower, (__v2sf)(a), (__v2sf)(b))
 999 #define __ev_select_fs_gt(a, b, c, d) \
1000         ((__v2si) __builtin_spe_evsel_fsgt ((__v2sf)(a), (__v2sf)(b), \
1001                                             (__v2sf)(c), (__v2sf)(d)))
1002
1003 #define __ev_any_fs_lt(a, b) \
1004         __builtin_spe_evfscmplt (__pred_any, (__v2sf)(a), (__v2sf)(b))
1005 #define __ev_all_fs_lt(a, b) \
1006         __builtin_spe_evfscmplt (__pred_all, (__v2sf)(a), (__v2sf)(b))
1007 #define __ev_upper_fs_lt(a, b) \
1008         __builtin_spe_evfscmplt (__pred_upper, (__v2sf)(a), (__v2sf)(b))
1009 #define __ev_lower_fs_lt(a, b) \
1010         __builtin_spe_evfscmplt (__pred_lower, (__v2sf)(a), (__v2sf)(b))
1011 #define __ev_select_fs_lt(a, b, c, d) \
1012         ((__v2si) __builtin_spe_evsel_fslt ((__v2sf)(a), (__v2sf)(b), \
1013                                             (__v2sf)(c), (__v2sf)(d)))
1014
1015 #define __ev_any_fs_eq(a, b) \
1016         __builtin_spe_evfscmpeq (__pred_any, (__v2sf)(a), (__v2sf)(b))
1017 #define __ev_all_fs_eq(a, b) \
1018         __builtin_spe_evfscmpeq (__pred_all, (__v2sf)(a), (__v2sf)(b))
1019 #define __ev_upper_fs_eq(a, b) \
1020         __builtin_spe_evfscmpeq (__pred_upper, (__v2sf)(a), (__v2sf)(b))
1021 #define __ev_lower_fs_eq(a, b) \
1022         __builtin_spe_evfscmpeq (__pred_lower, (__v2sf)(a), (__v2sf)(b))
1023 #define __ev_select_fs_eq(a, b, c, d) \
1024         ((__v2si) __builtin_spe_evsel_fseq ((__v2sf)(a), (__v2sf)(b), \
1025                                             (__v2sf)(c), (__v2sf)(d)))
1026
1027 #define __ev_any_fs_tst_gt(a, b) \
1028         __builtin_spe_evfststgt (__pred_any, (__v2sf)(a), (__v2sf)(b))
1029 #define __ev_all_fs_tst_gt(a, b) \
1030         __builtin_spe_evfststgt (__pred_all, (__v2sf)(a), (__v2sf)(b))
1031 #define __ev_upper_fs_tst_gt(a, b) \
1032         __builtin_spe_evfststgt (__pred_upper, (__v2sf)(a), (__v2sf)(b))
1033 #define __ev_lower_fs_tst_gt(a, b) \
1034         __builtin_spe_evfststgt (__pred_lower, (__v2sf)(a), (__v2sf)(b))
1035 #define __ev_select_fs_tst_gt(a, b, c, d) \
1036         ((__v2si) __builtin_spe_evsel_fststgt ((__v2sf)(a), (__v2sf)(b), \
1037                                                (__v2sf)(c), (__v2sf)(d)))
1038
1039 #define __ev_any_fs_tst_lt(a, b) \
1040         __builtin_spe_evfststlt (__pred_any, (__v2sf)(a), (__v2sf)(b))
1041 #define __ev_all_fs_tst_lt(a, b) \
1042         __builtin_spe_evfststlt (__pred_all, (__v2sf)(a), (__v2sf)(b))
1043 #define __ev_upper_fs_tst_lt(a, b) \
1044         __builtin_spe_evfststlt (__pred_upper, (__v2sf)(a), (__v2sf)(b))
1045 #define __ev_lower_fs_tst_lt(a, b) \
1046         __builtin_spe_evfststlt (__pred_lower, (__v2sf)(a), (__v2sf)(b))
1047 #define __ev_select_fs_tst_lt(a, b, c, d) \
1048         ((__v2si) __builtin_spe_evsel_fststlt ((__v2sf)(a), (__v2sf)(b), \
1049                                                (__v2sf)(c), (__v2sf)(d)))
1050
1051 #define __ev_any_fs_tst_eq(a, b) \
1052         __builtin_spe_evfststeq (__pred_any, (__v2sf)(a), (__v2sf)(b))
1053 #define __ev_all_fs_tst_eq(a, b) \
1054         __builtin_spe_evfststeq (__pred_all, (__v2sf)(a), (__v2sf)(b))
1055 #define __ev_upper_fs_tst_eq(a, b) \
1056         __builtin_spe_evfststeq (__pred_upper, (__v2sf)(a), (__v2sf)(b))
1057 #define __ev_lower_fs_tst_eq(a, b) \
1058         __builtin_spe_evfststeq (__pred_lower, (__v2sf)(a), (__v2sf)(b))
1059 #define __ev_select_fs_tst_eq(a, b, c, d) \
1060         ((__v2si) __builtin_spe_evsel_fststeq ((__v2sf)(a), (__v2sf)(b), \
1061                                                (__v2sf)(c), (__v2sf)(d)))
1062
1063 /* SPEFSCR accesor functions.  */
1064
1065 #define __SPEFSCR_SOVH          0x80000000
1066 #define __SPEFSCR_OVH           0x40000000
1067 #define __SPEFSCR_FGH           0x20000000
1068 #define __SPEFSCR_FXH           0x10000000
1069 #define __SPEFSCR_FINVH         0x08000000
1070 #define __SPEFSCR_FDBZH         0x04000000
1071 #define __SPEFSCR_FUNFH         0x02000000
1072 #define __SPEFSCR_FOVFH         0x01000000
1073 /* 2 unused bits */
1074 #define __SPEFSCR_FINXS         0x00200000
1075 #define __SPEFSCR_FINVS         0x00100000
1076 #define __SPEFSCR_FDBZS         0x00080000
1077 #define __SPEFSCR_FUNFS         0x00040000
1078 #define __SPEFSCR_FOVFS         0x00020000
1079 #define __SPEFSCR_MODE          0x00010000
1080 #define __SPEFSCR_SOV           0x00008000
1081 #define __SPEFSCR_OV            0x00004000
1082 #define __SPEFSCR_FG            0x00002000
1083 #define __SPEFSCR_FX            0x00001000
1084 #define __SPEFSCR_FINV          0x00000800
1085 #define __SPEFSCR_FDBZ          0x00000400
1086 #define __SPEFSCR_FUNF          0x00000200
1087 #define __SPEFSCR_FOVF          0x00000100
1088 /* 1 unused bit */
1089 #define __SPEFSCR_FINXE         0x00000040
1090 #define __SPEFSCR_FINVE         0x00000020
1091 #define __SPEFSCR_FDBZE         0x00000010
1092 #define __SPEFSCR_FUNFE         0x00000008
1093 #define __SPEFSCR_FOVFE         0x00000004
1094 #define __SPEFSCR_FRMC          0x00000003
1095
1096 #define __ev_get_spefscr_sovh() (__builtin_spe_mfspefscr () & __SPEFSCR_SOVH)
1097 #define __ev_get_spefscr_ovh() (__builtin_spe_mfspefscr () & __SPEFSCR_OVH)
1098 #define __ev_get_spefscr_fgh() (__builtin_spe_mfspefscr () & __SPEFSCR_FGH)
1099 #define __ev_get_spefscr_fxh() (__builtin_spe_mfspefscr () & __SPEFSCR_FXH)
1100 #define __ev_get_spefscr_finvh() (__builtin_spe_mfspefscr () & __SPEFSCR_FINVH)
1101 #define __ev_get_spefscr_fdbzh() (__builtin_spe_mfspefscr () & __SPEFSCR_FDBZH)
1102 #define __ev_get_spefscr_funfh() (__builtin_spe_mfspefscr () & __SPEFSCR_FUNFH)
1103 #define __ev_get_spefscr_fovfh() (__builtin_spe_mfspefscr () & __SPEFSCR_FOVFH)
1104 #define __ev_get_spefscr_finxs() (__builtin_spe_mfspefscr () & __SPEFSCR_FINXS)
1105 #define __ev_get_spefscr_finvs() (__builtin_spe_mfspefscr () & __SPEFSCR_FINVS)
1106 #define __ev_get_spefscr_fdbzs() (__builtin_spe_mfspefscr () & __SPEFSCR_FDBZS)
1107 #define __ev_get_spefscr_funfs() (__builtin_spe_mfspefscr () & __SPEFSCR_FUNFS)
1108 #define __ev_get_spefscr_fovfs() (__builtin_spe_mfspefscr () & __SPEFSCR_FOVFS)
1109 #define __ev_get_spefscr_mode() (__builtin_spe_mfspefscr () & __SPEFSCR_MODE)
1110 #define __ev_get_spefscr_sov() (__builtin_spe_mfspefscr () & __SPEFSCR_SOV)
1111 #define __ev_get_spefscr_ov() (__builtin_spe_mfspefscr () & __SPEFSCR_OV)
1112 #define __ev_get_spefscr_fg() (__builtin_spe_mfspefscr () & __SPEFSCR_FG)
1113 #define __ev_get_spefscr_fx() (__builtin_spe_mfspefscr () & __SPEFSCR_FX)
1114 #define __ev_get_spefscr_finv() (__builtin_spe_mfspefscr () & __SPEFSCR_FINV)
1115 #define __ev_get_spefscr_fdbz() (__builtin_spe_mfspefscr () & __SPEFSCR_FDBZ)
1116 #define __ev_get_spefscr_funf() (__builtin_spe_mfspefscr () & __SPEFSCR_FUNF)
1117 #define __ev_get_spefscr_fovf() (__builtin_spe_mfspefscr () & __SPEFSCR_FOVF)
1118 #define __ev_get_spefscr_finxe() (__builtin_spe_mfspefscr () & __SPEFSCR_FINXE)
1119 #define __ev_get_spefscr_finve() (__builtin_spe_mfspefscr () & __SPEFSCR_FINVE)
1120 #define __ev_get_spefscr_fdbze() (__builtin_spe_mfspefscr () & __SPEFSCR_FDBZE)
1121 #define __ev_get_spefscr_funfe() (__builtin_spe_mfspefscr () & __SPEFSCR_FUNFE)
1122 #define __ev_get_spefscr_fovfe() (__builtin_spe_mfspefscr () & __SPEFSCR_FOVFE)
1123 #define __ev_get_spefscr_frmc() (__builtin_spe_mfspefscr () & __SPEFSCR_FRMC)
1124
1125 static inline void
1126 __ev_clr_spefscr_field (int mask)
1127 {
1128   int i;
1129
1130   i = __builtin_spe_mfspefscr ();
1131   i &= ~mask;
1132   __builtin_spe_mtspefscr (i);
1133 }
1134
1135 #define __ev_clr_spefscr_sovh() __ev_clr_spefscr_field (__SPEFSCR_SOVH)
1136 #define __ev_clr_spefscr_sov() __ev_clr_spefscr_field (__SPEFSCR_SOV)
1137 #define __ev_clr_spefscr_finxs() __ev_clr_spefscr_field (__SPEFSCR_FINXS)
1138 #define __ev_clr_spefscr_finvs() __ev_clr_spefscr_field (__SPEFSCR_FINVS)
1139 #define __ev_clr_spefscr_fdbzs() __ev_clr_spefscr_field (__SPEFSCR_FDBZS)
1140 #define __ev_clr_spefscr_funfs() __ev_clr_spefscr_field (__SPEFSCR_FUNFS)
1141 #define __ev_clr_spefscr_fovfs() __ev_clr_spefscr_field (__SPEFSCR_FOVFS)
1142
1143 /* Set rounding mode:
1144      rnd = 0 (nearest)
1145      rnd = 1 (zero)
1146      rnd = 2 (+inf)
1147      rnd = 3 (-inf)
1148 */
1149 static inline void
1150 __ev_set_spefscr_frmc (int rnd)
1151 {
1152   int i;
1153
1154   i = __builtin_spe_mfspefscr ();
1155   i &= ~__SPEFSCR_FRMC;
1156   i |= rnd;
1157 }
1158
1159 #endif /* _SPE_H */