gcc/config/i386/emmintrin.h

   1 /* Copyright (C) 2003, 2004, 2005, 2006, 2007, 2008
   2    Free Software Foundation, Inc.
   3
   4    This file is part of GCC.
   5
   6    GCC is free software; you can redistribute it and/or modify
   7    it under the terms of the GNU General Public License as published by
   8    the Free Software Foundation; either version 2, or (at your option)
   9    any later version.
  10
  11    GCC is distributed in the hope that it will be useful,
  12    but WITHOUT ANY WARRANTY; without even the implied warranty of
  13    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  14    GNU General Public License for more details.
  15
  16    You should have received a copy of the GNU General Public License
  17    along with GCC; see the file COPYING.  If not, write to
  18    the Free Software Foundation, 51 Franklin Street, Fifth Floor,
  19    Boston, MA 02110-1301, USA.  */
  20
  21 /* As a special exception, if you include this header file into source
  22    files compiled by GCC, this header file does not by itself cause
  23    the resulting executable to be covered by the GNU General Public
  24    License.  This exception does not however invalidate any other
  25    reasons why the executable file might be covered by the GNU General
  26    Public License.  */
  27
  28 /* Implemented from the specification included in the Intel C++ Compiler
  29    User Guide and Reference, version 9.0.  */
  30
  31 #ifndef _EMMINTRIN_H_INCLUDED
  32 #define _EMMINTRIN_H_INCLUDED
  33
  34 #ifndef __SSE2__
  35 # error "SSE2 instruction set not enabled"
  36 #else
  37
  38 /* We need definitions from the SSE header files*/
  39 #include <xmmintrin.h>
  40
  41 /* SSE2 */
  42 typedef double __v2df __attribute__ ((__vector_size__ (16)));
  43 typedef long long __v2di __attribute__ ((__vector_size__ (16)));
  44 typedef int __v4si __attribute__ ((__vector_size__ (16)));
  45 typedef short __v8hi __attribute__ ((__vector_size__ (16)));
  46 typedef char __v16qi __attribute__ ((__vector_size__ (16)));
  47
  48 /* The Intel API is flexible enough that we must allow aliasing with other
  49    vector types, and their scalar components.  */
  50 typedef long long __m128i __attribute__ ((__vector_size__ (16), __may_alias__));
  51 typedef double __m128d __attribute__ ((__vector_size__ (16), __may_alias__));
  52
  53 /* Create a selector for use with the SHUFPD instruction.  */
  54 #define _MM_SHUFFLE2(fp1,fp0) \
  55  (((fp1) << 1) | (fp0))
  56
  57 /* Create a vector with element 0 as F and the rest zero.  */
  58 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
  59 _mm_set_sd (double __F)
  60 {
  61   return __extension__ (__m128d){ __F, 0.0 };
  62 }
  63
  64 /* Create a vector with both elements equal to F.  */
  65 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
  66 _mm_set1_pd (double __F)
  67 {
  68   return __extension__ (__m128d){ __F, __F };
  69 }
  70
  71 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
  72 _mm_set_pd1 (double __F)
  73 {
  74   return _mm_set1_pd (__F);
  75 }
  76
  77 /* Create a vector with the lower value X and upper value W.  */
  78 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
  79 _mm_set_pd (double __W, double __X)
  80 {
  81   return __extension__ (__m128d){ __X, __W };
  82 }
  83
  84 /* Create a vector with the lower value W and upper value X.  */
  85 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
  86 _mm_setr_pd (double __W, double __X)
  87 {
  88   return __extension__ (__m128d){ __W, __X };
  89 }
  90
  91 /* Create a vector of zeros.  */
  92 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
  93 _mm_setzero_pd (void)
  94 {
  95   return __extension__ (__m128d){ 0.0, 0.0 };
  96 }
  97
  98 /* Sets the low DPFP value of A from the low value of B.  */
  99 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 100 _mm_move_sd (__m128d __A, __m128d __B)
 101 {
 102   return (__m128d) __builtin_ia32_movsd ((__v2df)__A, (__v2df)__B);
 103 }
 104
 105 /* Load two DPFP values from P.  The address must be 16-byte aligned.  */
 106 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 107 _mm_load_pd (double const *__P)
 108 {
 109   return *(__m128d *)__P;
 110 }
 111
 112 /* Load two DPFP values from P.  The address need not be 16-byte aligned.  */
 113 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 114 _mm_loadu_pd (double const *__P)
 115 {
 116   return __builtin_ia32_loadupd (__P);
 117 }
 118
 119 /* Create a vector with all two elements equal to *P.  */
 120 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 121 _mm_load1_pd (double const *__P)
 122 {
 123   return _mm_set1_pd (*__P);
 124 }
 125
 126 /* Create a vector with element 0 as *P and the rest zero.  */
 127 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 128 _mm_load_sd (double const *__P)
 129 {
 130   return _mm_set_sd (*__P);
 131 }
 132
 133 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 134 _mm_load_pd1 (double const *__P)
 135 {
 136   return _mm_load1_pd (__P);
 137 }
 138
 139 /* Load two DPFP values in reverse order.  The address must be aligned.  */
 140 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 141 _mm_loadr_pd (double const *__P)
 142 {
 143   __m128d __tmp = _mm_load_pd (__P);
 144   return __builtin_ia32_shufpd (__tmp, __tmp, _MM_SHUFFLE2 (0,1));
 145 }
 146
 147 /* Store two DPFP values.  The address must be 16-byte aligned.  */
 148 extern __inline void __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 149 _mm_store_pd (double *__P, __m128d __A)
 150 {
 151   *(__m128d *)__P = __A;
 152 }
 153
 154 /* Store two DPFP values.  The address need not be 16-byte aligned.  */
 155 extern __inline void __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 156 _mm_storeu_pd (double *__P, __m128d __A)
 157 {
 158   __builtin_ia32_storeupd (__P, __A);
 159 }
 160
 161 /* Stores the lower DPFP value.  */
 162 extern __inline void __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 163 _mm_store_sd (double *__P, __m128d __A)
 164 {
 165   *__P = __builtin_ia32_vec_ext_v2df (__A, 0);
 166 }
 167
 168 extern __inline double __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 169 _mm_cvtsd_f64 (__m128d __A)
 170 {
 171   return __builtin_ia32_vec_ext_v2df (__A, 0);
 172 }
 173
 174 extern __inline void __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 175 _mm_storel_pd (double *__P, __m128d __A)
 176 {
 177   _mm_store_sd (__P, __A);
 178 }
 179
 180 /* Stores the upper DPFP value.  */
 181 extern __inline void __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 182 _mm_storeh_pd (double *__P, __m128d __A)
 183 {
 184   *__P = __builtin_ia32_vec_ext_v2df (__A, 1);
 185 }
 186
 187 /* Store the lower DPFP value across two words.
 188    The address must be 16-byte aligned.  */
 189 extern __inline void __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 190 _mm_store1_pd (double *__P, __m128d __A)
 191 {
 192   _mm_store_pd (__P, __builtin_ia32_shufpd (__A, __A, _MM_SHUFFLE2 (0,0)));
 193 }
 194
 195 extern __inline void __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 196 _mm_store_pd1 (double *__P, __m128d __A)
 197 {
 198   _mm_store1_pd (__P, __A);
 199 }
 200
 201 /* Store two DPFP values in reverse order.  The address must be aligned.  */
 202 extern __inline void __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 203 _mm_storer_pd (double *__P, __m128d __A)
 204 {
 205   _mm_store_pd (__P, __builtin_ia32_shufpd (__A, __A, _MM_SHUFFLE2 (0,1)));
 206 }
 207
 208 extern __inline int __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 209 _mm_cvtsi128_si32 (__m128i __A)
 210 {
 211   return __builtin_ia32_vec_ext_v4si ((__v4si)__A, 0);
 212 }
 213
 214 #ifdef __x86_64__
 215 /* Intel intrinsic.  */
 216 extern __inline long long __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 217 _mm_cvtsi128_si64 (__m128i __A)
 218 {
 219   return __builtin_ia32_vec_ext_v2di ((__v2di)__A, 0);
 220 }
 221
 222 /* Microsoft intrinsic.  */
 223 extern __inline long long __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 224 _mm_cvtsi128_si64x (__m128i __A)
 225 {
 226   return __builtin_ia32_vec_ext_v2di ((__v2di)__A, 0);
 227 }
 228 #endif
 229
 230 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 231 _mm_add_pd (__m128d __A, __m128d __B)
 232 {
 233   return (__m128d)__builtin_ia32_addpd ((__v2df)__A, (__v2df)__B);
 234 }
 235
 236 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 237 _mm_add_sd (__m128d __A, __m128d __B)
 238 {
 239   return (__m128d)__builtin_ia32_addsd ((__v2df)__A, (__v2df)__B);
 240 }
 241
 242 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 243 _mm_sub_pd (__m128d __A, __m128d __B)
 244 {
 245   return (__m128d)__builtin_ia32_subpd ((__v2df)__A, (__v2df)__B);
 246 }
 247
 248 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 249 _mm_sub_sd (__m128d __A, __m128d __B)
 250 {
 251   return (__m128d)__builtin_ia32_subsd ((__v2df)__A, (__v2df)__B);
 252 }
 253
 254 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 255 _mm_mul_pd (__m128d __A, __m128d __B)
 256 {
 257   return (__m128d)__builtin_ia32_mulpd ((__v2df)__A, (__v2df)__B);
 258 }
 259
 260 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 261 _mm_mul_sd (__m128d __A, __m128d __B)
 262 {
 263   return (__m128d)__builtin_ia32_mulsd ((__v2df)__A, (__v2df)__B);
 264 }
 265
 266 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 267 _mm_div_pd (__m128d __A, __m128d __B)
 268 {
 269   return (__m128d)__builtin_ia32_divpd ((__v2df)__A, (__v2df)__B);
 270 }
 271
 272 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 273 _mm_div_sd (__m128d __A, __m128d __B)
 274 {
 275   return (__m128d)__builtin_ia32_divsd ((__v2df)__A, (__v2df)__B);
 276 }
 277
 278 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 279 _mm_sqrt_pd (__m128d __A)
 280 {
 281   return (__m128d)__builtin_ia32_sqrtpd ((__v2df)__A);
 282 }
 283
 284 /* Return pair {sqrt (A[0), B[1]}.  */
 285 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 286 _mm_sqrt_sd (__m128d __A, __m128d __B)
 287 {
 288   __v2df __tmp = __builtin_ia32_movsd ((__v2df)__A, (__v2df)__B);
 289   return (__m128d)__builtin_ia32_sqrtsd ((__v2df)__tmp);
 290 }
 291
 292 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 293 _mm_min_pd (__m128d __A, __m128d __B)
 294 {
 295   return (__m128d)__builtin_ia32_minpd ((__v2df)__A, (__v2df)__B);
 296 }
 297
 298 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 299 _mm_min_sd (__m128d __A, __m128d __B)
 300 {
 301   return (__m128d)__builtin_ia32_minsd ((__v2df)__A, (__v2df)__B);
 302 }
 303
 304 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 305 _mm_max_pd (__m128d __A, __m128d __B)
 306 {
 307   return (__m128d)__builtin_ia32_maxpd ((__v2df)__A, (__v2df)__B);
 308 }
 309
 310 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 311 _mm_max_sd (__m128d __A, __m128d __B)
 312 {
 313   return (__m128d)__builtin_ia32_maxsd ((__v2df)__A, (__v2df)__B);
 314 }
 315
 316 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 317 _mm_and_pd (__m128d __A, __m128d __B)
 318 {
 319   return (__m128d)__builtin_ia32_andpd ((__v2df)__A, (__v2df)__B);
 320 }
 321
 322 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 323 _mm_andnot_pd (__m128d __A, __m128d __B)
 324 {
 325   return (__m128d)__builtin_ia32_andnpd ((__v2df)__A, (__v2df)__B);
 326 }
 327
 328 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 329 _mm_or_pd (__m128d __A, __m128d __B)
 330 {
 331   return (__m128d)__builtin_ia32_orpd ((__v2df)__A, (__v2df)__B);
 332 }
 333
 334 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 335 _mm_xor_pd (__m128d __A, __m128d __B)
 336 {
 337   return (__m128d)__builtin_ia32_xorpd ((__v2df)__A, (__v2df)__B);
 338 }
 339
 340 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 341 _mm_cmpeq_pd (__m128d __A, __m128d __B)
 342 {
 343   return (__m128d)__builtin_ia32_cmpeqpd ((__v2df)__A, (__v2df)__B);
 344 }
 345
 346 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 347 _mm_cmplt_pd (__m128d __A, __m128d __B)
 348 {
 349   return (__m128d)__builtin_ia32_cmpltpd ((__v2df)__A, (__v2df)__B);
 350 }
 351
 352 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 353 _mm_cmple_pd (__m128d __A, __m128d __B)
 354 {
 355   return (__m128d)__builtin_ia32_cmplepd ((__v2df)__A, (__v2df)__B);
 356 }
 357
 358 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 359 _mm_cmpgt_pd (__m128d __A, __m128d __B)
 360 {
 361   return (__m128d)__builtin_ia32_cmpgtpd ((__v2df)__A, (__v2df)__B);
 362 }
 363
 364 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 365 _mm_cmpge_pd (__m128d __A, __m128d __B)
 366 {
 367   return (__m128d)__builtin_ia32_cmpgepd ((__v2df)__A, (__v2df)__B);
 368 }
 369
 370 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 371 _mm_cmpneq_pd (__m128d __A, __m128d __B)
 372 {
 373   return (__m128d)__builtin_ia32_cmpneqpd ((__v2df)__A, (__v2df)__B);
 374 }
 375
 376 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 377 _mm_cmpnlt_pd (__m128d __A, __m128d __B)
 378 {
 379   return (__m128d)__builtin_ia32_cmpnltpd ((__v2df)__A, (__v2df)__B);
 380 }
 381
 382 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 383 _mm_cmpnle_pd (__m128d __A, __m128d __B)
 384 {
 385   return (__m128d)__builtin_ia32_cmpnlepd ((__v2df)__A, (__v2df)__B);
 386 }
 387
 388 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 389 _mm_cmpngt_pd (__m128d __A, __m128d __B)
 390 {
 391   return (__m128d)__builtin_ia32_cmpngtpd ((__v2df)__A, (__v2df)__B);
 392 }
 393
 394 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 395 _mm_cmpnge_pd (__m128d __A, __m128d __B)
 396 {
 397   return (__m128d)__builtin_ia32_cmpngepd ((__v2df)__A, (__v2df)__B);
 398 }
 399
 400 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 401 _mm_cmpord_pd (__m128d __A, __m128d __B)
 402 {
 403   return (__m128d)__builtin_ia32_cmpordpd ((__v2df)__A, (__v2df)__B);
 404 }
 405
 406 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 407 _mm_cmpunord_pd (__m128d __A, __m128d __B)
 408 {
 409   return (__m128d)__builtin_ia32_cmpunordpd ((__v2df)__A, (__v2df)__B);
 410 }
 411
 412 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 413 _mm_cmpeq_sd (__m128d __A, __m128d __B)
 414 {
 415   return (__m128d)__builtin_ia32_cmpeqsd ((__v2df)__A, (__v2df)__B);
 416 }
 417
 418 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 419 _mm_cmplt_sd (__m128d __A, __m128d __B)
 420 {
 421   return (__m128d)__builtin_ia32_cmpltsd ((__v2df)__A, (__v2df)__B);
 422 }
 423
 424 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 425 _mm_cmple_sd (__m128d __A, __m128d __B)
 426 {
 427   return (__m128d)__builtin_ia32_cmplesd ((__v2df)__A, (__v2df)__B);
 428 }
 429
 430 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 431 _mm_cmpgt_sd (__m128d __A, __m128d __B)
 432 {
 433   return (__m128d) __builtin_ia32_movsd ((__v2df) __A,
 434                                          (__v2df)
 435                                          __builtin_ia32_cmpltsd ((__v2df) __B,
 436                                                                  (__v2df)
 437                                                                  __A));
 438 }
 439
 440 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 441 _mm_cmpge_sd (__m128d __A, __m128d __B)
 442 {
 443   return (__m128d) __builtin_ia32_movsd ((__v2df) __A,
 444                                          (__v2df)
 445                                          __builtin_ia32_cmplesd ((__v2df) __B,
 446                                                                  (__v2df)
 447                                                                  __A));
 448 }
 449
 450 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 451 _mm_cmpneq_sd (__m128d __A, __m128d __B)
 452 {
 453   return (__m128d)__builtin_ia32_cmpneqsd ((__v2df)__A, (__v2df)__B);
 454 }
 455
 456 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 457 _mm_cmpnlt_sd (__m128d __A, __m128d __B)
 458 {
 459   return (__m128d)__builtin_ia32_cmpnltsd ((__v2df)__A, (__v2df)__B);
 460 }
 461
 462 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 463 _mm_cmpnle_sd (__m128d __A, __m128d __B)
 464 {
 465   return (__m128d)__builtin_ia32_cmpnlesd ((__v2df)__A, (__v2df)__B);
 466 }
 467
 468 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 469 _mm_cmpngt_sd (__m128d __A, __m128d __B)
 470 {
 471   return (__m128d) __builtin_ia32_movsd ((__v2df) __A,
 472                                          (__v2df)
 473                                          __builtin_ia32_cmpnltsd ((__v2df) __B,
 474                                                                   (__v2df)
 475                                                                   __A));
 476 }
 477
 478 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 479 _mm_cmpnge_sd (__m128d __A, __m128d __B)
 480 {
 481   return (__m128d) __builtin_ia32_movsd ((__v2df) __A,
 482                                          (__v2df)
 483                                          __builtin_ia32_cmpnlesd ((__v2df) __B,
 484                                                                   (__v2df)
 485                                                                   __A));
 486 }
 487
 488 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 489 _mm_cmpord_sd (__m128d __A, __m128d __B)
 490 {
 491   return (__m128d)__builtin_ia32_cmpordsd ((__v2df)__A, (__v2df)__B);
 492 }
 493
 494 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 495 _mm_cmpunord_sd (__m128d __A, __m128d __B)
 496 {
 497   return (__m128d)__builtin_ia32_cmpunordsd ((__v2df)__A, (__v2df)__B);
 498 }
 499
 500 extern __inline int __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 501 _mm_comieq_sd (__m128d __A, __m128d __B)
 502 {
 503   return __builtin_ia32_comisdeq ((__v2df)__A, (__v2df)__B);
 504 }
 505
 506 extern __inline int __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 507 _mm_comilt_sd (__m128d __A, __m128d __B)
 508 {
 509   return __builtin_ia32_comisdlt ((__v2df)__A, (__v2df)__B);
 510 }
 511
 512 extern __inline int __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 513 _mm_comile_sd (__m128d __A, __m128d __B)
 514 {
 515   return __builtin_ia32_comisdle ((__v2df)__A, (__v2df)__B);
 516 }
 517
 518 extern __inline int __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 519 _mm_comigt_sd (__m128d __A, __m128d __B)
 520 {
 521   return __builtin_ia32_comisdgt ((__v2df)__A, (__v2df)__B);
 522 }
 523
 524 extern __inline int __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 525 _mm_comige_sd (__m128d __A, __m128d __B)
 526 {
 527   return __builtin_ia32_comisdge ((__v2df)__A, (__v2df)__B);
 528 }
 529
 530 extern __inline int __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 531 _mm_comineq_sd (__m128d __A, __m128d __B)
 532 {
 533   return __builtin_ia32_comisdneq ((__v2df)__A, (__v2df)__B);
 534 }
 535
 536 extern __inline int __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 537 _mm_ucomieq_sd (__m128d __A, __m128d __B)
 538 {
 539   return __builtin_ia32_ucomisdeq ((__v2df)__A, (__v2df)__B);
 540 }
 541
 542 extern __inline int __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 543 _mm_ucomilt_sd (__m128d __A, __m128d __B)
 544 {
 545   return __builtin_ia32_ucomisdlt ((__v2df)__A, (__v2df)__B);
 546 }
 547
 548 extern __inline int __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 549 _mm_ucomile_sd (__m128d __A, __m128d __B)
 550 {
 551   return __builtin_ia32_ucomisdle ((__v2df)__A, (__v2df)__B);
 552 }
 553
 554 extern __inline int __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 555 _mm_ucomigt_sd (__m128d __A, __m128d __B)
 556 {
 557   return __builtin_ia32_ucomisdgt ((__v2df)__A, (__v2df)__B);
 558 }
 559
 560 extern __inline int __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 561 _mm_ucomige_sd (__m128d __A, __m128d __B)
 562 {
 563   return __builtin_ia32_ucomisdge ((__v2df)__A, (__v2df)__B);
 564 }
 565
 566 extern __inline int __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 567 _mm_ucomineq_sd (__m128d __A, __m128d __B)
 568 {
 569   return __builtin_ia32_ucomisdneq ((__v2df)__A, (__v2df)__B);
 570 }
 571
 572 /* Create a vector of Qi, where i is the element number.  */
 573
 574 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 575 _mm_set_epi64x (long long __q1, long long __q0)
 576 {
 577   return __extension__ (__m128i)(__v2di){ __q0, __q1 };
 578 }
 579
 580 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 581 _mm_set_epi64 (__m64 __q1,  __m64 __q0)
 582 {
 583   return _mm_set_epi64x ((long long)__q1, (long long)__q0);
 584 }
 585
 586 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 587 _mm_set_epi32 (int __q3, int __q2, int __q1, int __q0)
 588 {
 589   return __extension__ (__m128i)(__v4si){ __q0, __q1, __q2, __q3 };
 590 }
 591
 592 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 593 _mm_set_epi16 (short __q7, short __q6, short __q5, short __q4,
 594                short __q3, short __q2, short __q1, short __q0)
 595 {
 596   return __extension__ (__m128i)(__v8hi){
 597     __q0, __q1, __q2, __q3, __q4, __q5, __q6, __q7 };
 598 }
 599
 600 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 601 _mm_set_epi8 (char __q15, char __q14, char __q13, char __q12,
 602               char __q11, char __q10, char __q09, char __q08,
 603               char __q07, char __q06, char __q05, char __q04,
 604               char __q03, char __q02, char __q01, char __q00)
 605 {
 606   return __extension__ (__m128i)(__v16qi){
 607     __q00, __q01, __q02, __q03, __q04, __q05, __q06, __q07,
 608     __q08, __q09, __q10, __q11, __q12, __q13, __q14, __q15
 609   };
 610 }
 611
 612 /* Set all of the elements of the vector to A.  */
 613
 614 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 615 _mm_set1_epi64x (long long __A)
 616 {
 617   return _mm_set_epi64x (__A, __A);
 618 }
 619
 620 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 621 _mm_set1_epi64 (__m64 __A)
 622 {
 623   return _mm_set_epi64 (__A, __A);
 624 }
 625
 626 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 627 _mm_set1_epi32 (int __A)
 628 {
 629   return _mm_set_epi32 (__A, __A, __A, __A);
 630 }
 631
 632 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 633 _mm_set1_epi16 (short __A)
 634 {
 635   return _mm_set_epi16 (__A, __A, __A, __A, __A, __A, __A, __A);
 636 }
 637
 638 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 639 _mm_set1_epi8 (char __A)
 640 {
 641   return _mm_set_epi8 (__A, __A, __A, __A, __A, __A, __A, __A,
 642                        __A, __A, __A, __A, __A, __A, __A, __A);
 643 }
 644
 645 /* Create a vector of Qi, where i is the element number.
 646    The parameter order is reversed from the _mm_set_epi* functions.  */
 647
 648 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 649 _mm_setr_epi64 (__m64 __q0, __m64 __q1)
 650 {
 651   return _mm_set_epi64 (__q1, __q0);
 652 }
 653
 654 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 655 _mm_setr_epi32 (int __q0, int __q1, int __q2, int __q3)
 656 {
 657   return _mm_set_epi32 (__q3, __q2, __q1, __q0);
 658 }
 659
 660 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 661 _mm_setr_epi16 (short __q0, short __q1, short __q2, short __q3,
 662                 short __q4, short __q5, short __q6, short __q7)
 663 {
 664   return _mm_set_epi16 (__q7, __q6, __q5, __q4, __q3, __q2, __q1, __q0);
 665 }
 666
 667 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 668 _mm_setr_epi8 (char __q00, char __q01, char __q02, char __q03,
 669                char __q04, char __q05, char __q06, char __q07,
 670                char __q08, char __q09, char __q10, char __q11,
 671                char __q12, char __q13, char __q14, char __q15)
 672 {
 673   return _mm_set_epi8 (__q15, __q14, __q13, __q12, __q11, __q10, __q09, __q08,
 674                        __q07, __q06, __q05, __q04, __q03, __q02, __q01, __q00);
 675 }
 676
 677 /* Create a vector with element 0 as *P and the rest zero.  */
 678
 679 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 680 _mm_load_si128 (__m128i const *__P)
 681 {
 682   return *__P;
 683 }
 684
 685 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 686 _mm_loadu_si128 (__m128i const *__P)
 687 {
 688   return (__m128i) __builtin_ia32_loaddqu ((char const *)__P);
 689 }
 690
 691 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 692 _mm_loadl_epi64 (__m128i const *__P)
 693 {
 694   return _mm_set_epi64 ((__m64)0LL, *(__m64 *)__P);
 695 }
 696
 697 extern __inline void __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 698 _mm_store_si128 (__m128i *__P, __m128i __B)
 699 {
 700   *__P = __B;
 701 }
 702
 703 extern __inline void __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 704 _mm_storeu_si128 (__m128i *__P, __m128i __B)
 705 {
 706   __builtin_ia32_storedqu ((char *)__P, (__v16qi)__B);
 707 }
 708
 709 extern __inline void __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 710 _mm_storel_epi64 (__m128i *__P, __m128i __B)
 711 {
 712   *(long long *)__P = __builtin_ia32_vec_ext_v2di ((__v2di)__B, 0);
 713 }
 714
 715 extern __inline __m64 __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 716 _mm_movepi64_pi64 (__m128i __B)
 717 {
 718   return (__m64) __builtin_ia32_vec_ext_v2di ((__v2di)__B, 0);
 719 }
 720
 721 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 722 _mm_movpi64_epi64 (__m64 __A)
 723 {
 724   return _mm_set_epi64 ((__m64)0LL, __A);
 725 }
 726
 727 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 728 _mm_move_epi64 (__m128i __A)
 729 {
 730   return (__m128i)__builtin_ia32_movq128 ((__v2di) __A);
 731 }
 732
 733 /* Create a vector of zeros.  */
 734 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 735 _mm_setzero_si128 (void)
 736 {
 737   return __extension__ (__m128i)(__v4si){ 0, 0, 0, 0 };
 738 }
 739
 740 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 741 _mm_cvtepi32_pd (__m128i __A)
 742 {
 743   return (__m128d)__builtin_ia32_cvtdq2pd ((__v4si) __A);
 744 }
 745
 746 extern __inline __m128 __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 747 _mm_cvtepi32_ps (__m128i __A)
 748 {
 749   return (__m128)__builtin_ia32_cvtdq2ps ((__v4si) __A);
 750 }
 751
 752 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 753 _mm_cvtpd_epi32 (__m128d __A)
 754 {
 755   return (__m128i)__builtin_ia32_cvtpd2dq ((__v2df) __A);
 756 }
 757
 758 extern __inline __m64 __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 759 _mm_cvtpd_pi32 (__m128d __A)
 760 {
 761   return (__m64)__builtin_ia32_cvtpd2pi ((__v2df) __A);
 762 }
 763
 764 extern __inline __m128 __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 765 _mm_cvtpd_ps (__m128d __A)
 766 {
 767   return (__m128)__builtin_ia32_cvtpd2ps ((__v2df) __A);
 768 }
 769
 770 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 771 _mm_cvttpd_epi32 (__m128d __A)
 772 {
 773   return (__m128i)__builtin_ia32_cvttpd2dq ((__v2df) __A);
 774 }
 775
 776 extern __inline __m64 __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 777 _mm_cvttpd_pi32 (__m128d __A)
 778 {
 779   return (__m64)__builtin_ia32_cvttpd2pi ((__v2df) __A);
 780 }
 781
 782 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 783 _mm_cvtpi32_pd (__m64 __A)
 784 {
 785   return (__m128d)__builtin_ia32_cvtpi2pd ((__v2si) __A);
 786 }
 787
 788 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 789 _mm_cvtps_epi32 (__m128 __A)
 790 {
 791   return (__m128i)__builtin_ia32_cvtps2dq ((__v4sf) __A);
 792 }
 793
 794 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 795 _mm_cvttps_epi32 (__m128 __A)
 796 {
 797   return (__m128i)__builtin_ia32_cvttps2dq ((__v4sf) __A);
 798 }
 799
 800 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 801 _mm_cvtps_pd (__m128 __A)
 802 {
 803   return (__m128d)__builtin_ia32_cvtps2pd ((__v4sf) __A);
 804 }
 805
 806 extern __inline int __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 807 _mm_cvtsd_si32 (__m128d __A)
 808 {
 809   return __builtin_ia32_cvtsd2si ((__v2df) __A);
 810 }
 811
 812 #ifdef __x86_64__
 813 /* Intel intrinsic.  */
 814 extern __inline long long __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 815 _mm_cvtsd_si64 (__m128d __A)
 816 {
 817   return __builtin_ia32_cvtsd2si64 ((__v2df) __A);
 818 }
 819
 820 /* Microsoft intrinsic.  */
 821 extern __inline long long __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 822 _mm_cvtsd_si64x (__m128d __A)
 823 {
 824   return __builtin_ia32_cvtsd2si64 ((__v2df) __A);
 825 }
 826 #endif
 827
 828 extern __inline int __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 829 _mm_cvttsd_si32 (__m128d __A)
 830 {
 831   return __builtin_ia32_cvttsd2si ((__v2df) __A);
 832 }
 833
 834 #ifdef __x86_64__
 835 /* Intel intrinsic.  */
 836 extern __inline long long __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 837 _mm_cvttsd_si64 (__m128d __A)
 838 {
 839   return __builtin_ia32_cvttsd2si64 ((__v2df) __A);
 840 }
 841
 842 /* Microsoft intrinsic.  */
 843 extern __inline long long __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 844 _mm_cvttsd_si64x (__m128d __A)
 845 {
 846   return __builtin_ia32_cvttsd2si64 ((__v2df) __A);
 847 }
 848 #endif
 849
 850 extern __inline __m128 __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 851 _mm_cvtsd_ss (__m128 __A, __m128d __B)
 852 {
 853   return (__m128)__builtin_ia32_cvtsd2ss ((__v4sf) __A, (__v2df) __B);
 854 }
 855
 856 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 857 _mm_cvtsi32_sd (__m128d __A, int __B)
 858 {
 859   return (__m128d)__builtin_ia32_cvtsi2sd ((__v2df) __A, __B);
 860 }
 861
 862 #ifdef __x86_64__
 863 /* Intel intrinsic.  */
 864 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 865 _mm_cvtsi64_sd (__m128d __A, long long __B)
 866 {
 867   return (__m128d)__builtin_ia32_cvtsi642sd ((__v2df) __A, __B);
 868 }
 869
 870 /* Microsoft intrinsic.  */
 871 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 872 _mm_cvtsi64x_sd (__m128d __A, long long __B)
 873 {
 874   return (__m128d)__builtin_ia32_cvtsi642sd ((__v2df) __A, __B);
 875 }
 876 #endif
 877
 878 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 879 _mm_cvtss_sd (__m128d __A, __m128 __B)
 880 {
 881   return (__m128d)__builtin_ia32_cvtss2sd ((__v2df) __A, (__v4sf)__B);
 882 }
 883
 884 #ifdef __OPTIMIZE__
 885 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 886 _mm_shuffle_pd(__m128d __A, __m128d __B, const int __mask)
 887 {
 888   return (__m128d)__builtin_ia32_shufpd ((__v2df)__A, (__v2df)__B, __mask);
 889 }
 890 #else
 891 #define _mm_shuffle_pd(A, B, N)                                         \
 892   ((__m128d)__builtin_ia32_shufpd ((__v2df)(__m128d)(A),                \
 893                                    (__v2df)(__m128d)(B), (int)(N)))
 894 #endif
 895
 896 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 897 _mm_unpackhi_pd (__m128d __A, __m128d __B)
 898 {
 899   return (__m128d)__builtin_ia32_unpckhpd ((__v2df)__A, (__v2df)__B);
 900 }
 901
 902 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 903 _mm_unpacklo_pd (__m128d __A, __m128d __B)
 904 {
 905   return (__m128d)__builtin_ia32_unpcklpd ((__v2df)__A, (__v2df)__B);
 906 }
 907
 908 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 909 _mm_loadh_pd (__m128d __A, double const *__B)
 910 {
 911   return (__m128d)__builtin_ia32_loadhpd ((__v2df)__A, __B);
 912 }
 913
 914 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 915 _mm_loadl_pd (__m128d __A, double const *__B)
 916 {
 917   return (__m128d)__builtin_ia32_loadlpd ((__v2df)__A, __B);
 918 }
 919
 920 extern __inline int __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 921 _mm_movemask_pd (__m128d __A)
 922 {
 923   return __builtin_ia32_movmskpd ((__v2df)__A);
 924 }
 925
 926 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 927 _mm_packs_epi16 (__m128i __A, __m128i __B)
 928 {
 929   return (__m128i)__builtin_ia32_packsswb128 ((__v8hi)__A, (__v8hi)__B);
 930 }
 931
 932 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 933 _mm_packs_epi32 (__m128i __A, __m128i __B)
 934 {
 935   return (__m128i)__builtin_ia32_packssdw128 ((__v4si)__A, (__v4si)__B);
 936 }
 937
 938 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 939 _mm_packus_epi16 (__m128i __A, __m128i __B)
 940 {
 941   return (__m128i)__builtin_ia32_packuswb128 ((__v8hi)__A, (__v8hi)__B);
 942 }
 943
 944 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 945 _mm_unpackhi_epi8 (__m128i __A, __m128i __B)
 946 {
 947   return (__m128i)__builtin_ia32_punpckhbw128 ((__v16qi)__A, (__v16qi)__B);
 948 }
 949
 950 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 951 _mm_unpackhi_epi16 (__m128i __A, __m128i __B)
 952 {
 953   return (__m128i)__builtin_ia32_punpckhwd128 ((__v8hi)__A, (__v8hi)__B);
 954 }
 955
 956 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 957 _mm_unpackhi_epi32 (__m128i __A, __m128i __B)
 958 {
 959   return (__m128i)__builtin_ia32_punpckhdq128 ((__v4si)__A, (__v4si)__B);
 960 }
 961
 962 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 963 _mm_unpackhi_epi64 (__m128i __A, __m128i __B)
 964 {
 965   return (__m128i)__builtin_ia32_punpckhqdq128 ((__v2di)__A, (__v2di)__B);
 966 }
 967
 968 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 969 _mm_unpacklo_epi8 (__m128i __A, __m128i __B)
 970 {
 971   return (__m128i)__builtin_ia32_punpcklbw128 ((__v16qi)__A, (__v16qi)__B);
 972 }
 973
 974 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 975 _mm_unpacklo_epi16 (__m128i __A, __m128i __B)
 976 {
 977   return (__m128i)__builtin_ia32_punpcklwd128 ((__v8hi)__A, (__v8hi)__B);
 978 }
 979
 980 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 981 _mm_unpacklo_epi32 (__m128i __A, __m128i __B)
 982 {
 983   return (__m128i)__builtin_ia32_punpckldq128 ((__v4si)__A, (__v4si)__B);
 984 }
 985
 986 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 987 _mm_unpacklo_epi64 (__m128i __A, __m128i __B)
 988 {
 989   return (__m128i)__builtin_ia32_punpcklqdq128 ((__v2di)__A, (__v2di)__B);
 990 }
 991
 992 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 993 _mm_add_epi8 (__m128i __A, __m128i __B)
 994 {
 995   return (__m128i)__builtin_ia32_paddb128 ((__v16qi)__A, (__v16qi)__B);
 996 }
 997
 998 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
 999 _mm_add_epi16 (__m128i __A, __m128i __B)
1000 {
1001   return (__m128i)__builtin_ia32_paddw128 ((__v8hi)__A, (__v8hi)__B);
1002 }
1003
1004 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1005 _mm_add_epi32 (__m128i __A, __m128i __B)
1006 {
1007   return (__m128i)__builtin_ia32_paddd128 ((__v4si)__A, (__v4si)__B);
1008 }
1009
1010 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1011 _mm_add_epi64 (__m128i __A, __m128i __B)
1012 {
1013   return (__m128i)__builtin_ia32_paddq128 ((__v2di)__A, (__v2di)__B);
1014 }
1015
1016 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1017 _mm_adds_epi8 (__m128i __A, __m128i __B)
1018 {
1019   return (__m128i)__builtin_ia32_paddsb128 ((__v16qi)__A, (__v16qi)__B);
1020 }
1021
1022 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1023 _mm_adds_epi16 (__m128i __A, __m128i __B)
1024 {
1025   return (__m128i)__builtin_ia32_paddsw128 ((__v8hi)__A, (__v8hi)__B);
1026 }
1027
1028 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1029 _mm_adds_epu8 (__m128i __A, __m128i __B)
1030 {
1031   return (__m128i)__builtin_ia32_paddusb128 ((__v16qi)__A, (__v16qi)__B);
1032 }
1033
1034 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1035 _mm_adds_epu16 (__m128i __A, __m128i __B)
1036 {
1037   return (__m128i)__builtin_ia32_paddusw128 ((__v8hi)__A, (__v8hi)__B);
1038 }
1039
1040 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1041 _mm_sub_epi8 (__m128i __A, __m128i __B)
1042 {
1043   return (__m128i)__builtin_ia32_psubb128 ((__v16qi)__A, (__v16qi)__B);
1044 }
1045
1046 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1047 _mm_sub_epi16 (__m128i __A, __m128i __B)
1048 {
1049   return (__m128i)__builtin_ia32_psubw128 ((__v8hi)__A, (__v8hi)__B);
1050 }
1051
1052 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1053 _mm_sub_epi32 (__m128i __A, __m128i __B)
1054 {
1055   return (__m128i)__builtin_ia32_psubd128 ((__v4si)__A, (__v4si)__B);
1056 }
1057
1058 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1059 _mm_sub_epi64 (__m128i __A, __m128i __B)
1060 {
1061   return (__m128i)__builtin_ia32_psubq128 ((__v2di)__A, (__v2di)__B);
1062 }
1063
1064 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1065 _mm_subs_epi8 (__m128i __A, __m128i __B)
1066 {
1067   return (__m128i)__builtin_ia32_psubsb128 ((__v16qi)__A, (__v16qi)__B);
1068 }
1069
1070 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1071 _mm_subs_epi16 (__m128i __A, __m128i __B)
1072 {
1073   return (__m128i)__builtin_ia32_psubsw128 ((__v8hi)__A, (__v8hi)__B);
1074 }
1075
1076 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1077 _mm_subs_epu8 (__m128i __A, __m128i __B)
1078 {
1079   return (__m128i)__builtin_ia32_psubusb128 ((__v16qi)__A, (__v16qi)__B);
1080 }
1081
1082 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1083 _mm_subs_epu16 (__m128i __A, __m128i __B)
1084 {
1085   return (__m128i)__builtin_ia32_psubusw128 ((__v8hi)__A, (__v8hi)__B);
1086 }
1087
1088 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1089 _mm_madd_epi16 (__m128i __A, __m128i __B)
1090 {
1091   return (__m128i)__builtin_ia32_pmaddwd128 ((__v8hi)__A, (__v8hi)__B);
1092 }
1093
1094 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1095 _mm_mulhi_epi16 (__m128i __A, __m128i __B)
1096 {
1097   return (__m128i)__builtin_ia32_pmulhw128 ((__v8hi)__A, (__v8hi)__B);
1098 }
1099
1100 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1101 _mm_mullo_epi16 (__m128i __A, __m128i __B)
1102 {
1103   return (__m128i)__builtin_ia32_pmullw128 ((__v8hi)__A, (__v8hi)__B);
1104 }
1105
1106 extern __inline __m64 __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1107 _mm_mul_su32 (__m64 __A, __m64 __B)
1108 {
1109   return (__m64)__builtin_ia32_pmuludq ((__v2si)__A, (__v2si)__B);
1110 }
1111
1112 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1113 _mm_mul_epu32 (__m128i __A, __m128i __B)
1114 {
1115   return (__m128i)__builtin_ia32_pmuludq128 ((__v4si)__A, (__v4si)__B);
1116 }
1117
1118 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1119 _mm_slli_epi16 (__m128i __A, int __B)
1120 {
1121   return (__m128i)__builtin_ia32_psllwi128 ((__v8hi)__A, __B);
1122 }
1123
1124 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1125 _mm_slli_epi32 (__m128i __A, int __B)
1126 {
1127   return (__m128i)__builtin_ia32_pslldi128 ((__v4si)__A, __B);
1128 }
1129
1130 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1131 _mm_slli_epi64 (__m128i __A, int __B)
1132 {
1133   return (__m128i)__builtin_ia32_psllqi128 ((__v2di)__A, __B);
1134 }
1135
1136 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1137 _mm_srai_epi16 (__m128i __A, int __B)
1138 {
1139   return (__m128i)__builtin_ia32_psrawi128 ((__v8hi)__A, __B);
1140 }
1141
1142 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1143 _mm_srai_epi32 (__m128i __A, int __B)
1144 {
1145   return (__m128i)__builtin_ia32_psradi128 ((__v4si)__A, __B);
1146 }
1147
1148 #ifdef __OPTIMIZE__
1149 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1150 _mm_srli_si128 (__m128i __A, const int __N)
1151 {
1152   return (__m128i)__builtin_ia32_psrldqi128 (__A, __N * 8);
1153 }
1154
1155 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1156 _mm_slli_si128 (__m128i __A, const int __N)
1157 {
1158   return (__m128i)__builtin_ia32_pslldqi128 (__A, __N * 8);
1159 }
1160 #else
1161 #define _mm_srli_si128(A, N) \
1162   ((__m128i)__builtin_ia32_psrldqi128 ((__m128i)(A), (int)(N) * 8))
1163 #define _mm_slli_si128(A, N) \
1164   ((__m128i)__builtin_ia32_pslldqi128 ((__m128i)(A), (int)(N) * 8))
1165 #endif
1166
1167 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1168 _mm_srli_epi16 (__m128i __A, int __B)
1169 {
1170   return (__m128i)__builtin_ia32_psrlwi128 ((__v8hi)__A, __B);
1171 }
1172
1173 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1174 _mm_srli_epi32 (__m128i __A, int __B)
1175 {
1176   return (__m128i)__builtin_ia32_psrldi128 ((__v4si)__A, __B);
1177 }
1178
1179 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1180 _mm_srli_epi64 (__m128i __A, int __B)
1181 {
1182   return (__m128i)__builtin_ia32_psrlqi128 ((__v2di)__A, __B);
1183 }
1184
1185 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1186 _mm_sll_epi16 (__m128i __A, __m128i __B)
1187 {
1188   return (__m128i)__builtin_ia32_psllw128((__v8hi)__A, (__v8hi)__B);
1189 }
1190
1191 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1192 _mm_sll_epi32 (__m128i __A, __m128i __B)
1193 {
1194   return (__m128i)__builtin_ia32_pslld128((__v4si)__A, (__v4si)__B);
1195 }
1196
1197 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1198 _mm_sll_epi64 (__m128i __A, __m128i __B)
1199 {
1200   return (__m128i)__builtin_ia32_psllq128((__v2di)__A, (__v2di)__B);
1201 }
1202
1203 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1204 _mm_sra_epi16 (__m128i __A, __m128i __B)
1205 {
1206   return (__m128i)__builtin_ia32_psraw128 ((__v8hi)__A, (__v8hi)__B);
1207 }
1208
1209 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1210 _mm_sra_epi32 (__m128i __A, __m128i __B)
1211 {
1212   return (__m128i)__builtin_ia32_psrad128 ((__v4si)__A, (__v4si)__B);
1213 }
1214
1215 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1216 _mm_srl_epi16 (__m128i __A, __m128i __B)
1217 {
1218   return (__m128i)__builtin_ia32_psrlw128 ((__v8hi)__A, (__v8hi)__B);
1219 }
1220
1221 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1222 _mm_srl_epi32 (__m128i __A, __m128i __B)
1223 {
1224   return (__m128i)__builtin_ia32_psrld128 ((__v4si)__A, (__v4si)__B);
1225 }
1226
1227 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1228 _mm_srl_epi64 (__m128i __A, __m128i __B)
1229 {
1230   return (__m128i)__builtin_ia32_psrlq128 ((__v2di)__A, (__v2di)__B);
1231 }
1232
1233 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1234 _mm_and_si128 (__m128i __A, __m128i __B)
1235 {
1236   return (__m128i)__builtin_ia32_pand128 ((__v2di)__A, (__v2di)__B);
1237 }
1238
1239 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1240 _mm_andnot_si128 (__m128i __A, __m128i __B)
1241 {
1242   return (__m128i)__builtin_ia32_pandn128 ((__v2di)__A, (__v2di)__B);
1243 }
1244
1245 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1246 _mm_or_si128 (__m128i __A, __m128i __B)
1247 {
1248   return (__m128i)__builtin_ia32_por128 ((__v2di)__A, (__v2di)__B);
1249 }
1250
1251 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1252 _mm_xor_si128 (__m128i __A, __m128i __B)
1253 {
1254   return (__m128i)__builtin_ia32_pxor128 ((__v2di)__A, (__v2di)__B);
1255 }
1256
1257 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1258 _mm_cmpeq_epi8 (__m128i __A, __m128i __B)
1259 {
1260   return (__m128i)__builtin_ia32_pcmpeqb128 ((__v16qi)__A, (__v16qi)__B);
1261 }
1262
1263 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1264 _mm_cmpeq_epi16 (__m128i __A, __m128i __B)
1265 {
1266   return (__m128i)__builtin_ia32_pcmpeqw128 ((__v8hi)__A, (__v8hi)__B);
1267 }
1268
1269 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1270 _mm_cmpeq_epi32 (__m128i __A, __m128i __B)
1271 {
1272   return (__m128i)__builtin_ia32_pcmpeqd128 ((__v4si)__A, (__v4si)__B);
1273 }
1274
1275 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1276 _mm_cmplt_epi8 (__m128i __A, __m128i __B)
1277 {
1278   return (__m128i)__builtin_ia32_pcmpgtb128 ((__v16qi)__B, (__v16qi)__A);
1279 }
1280
1281 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1282 _mm_cmplt_epi16 (__m128i __A, __m128i __B)
1283 {
1284   return (__m128i)__builtin_ia32_pcmpgtw128 ((__v8hi)__B, (__v8hi)__A);
1285 }
1286
1287 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1288 _mm_cmplt_epi32 (__m128i __A, __m128i __B)
1289 {
1290   return (__m128i)__builtin_ia32_pcmpgtd128 ((__v4si)__B, (__v4si)__A);
1291 }
1292
1293 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1294 _mm_cmpgt_epi8 (__m128i __A, __m128i __B)
1295 {
1296   return (__m128i)__builtin_ia32_pcmpgtb128 ((__v16qi)__A, (__v16qi)__B);
1297 }
1298
1299 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1300 _mm_cmpgt_epi16 (__m128i __A, __m128i __B)
1301 {
1302   return (__m128i)__builtin_ia32_pcmpgtw128 ((__v8hi)__A, (__v8hi)__B);
1303 }
1304
1305 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1306 _mm_cmpgt_epi32 (__m128i __A, __m128i __B)
1307 {
1308   return (__m128i)__builtin_ia32_pcmpgtd128 ((__v4si)__A, (__v4si)__B);
1309 }
1310
1311 #ifdef __OPTIMIZE__
1312 extern __inline int __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1313 _mm_extract_epi16 (__m128i const __A, int const __N)
1314 {
1315   return __builtin_ia32_vec_ext_v8hi ((__v8hi)__A, __N);
1316 }
1317
1318 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1319 _mm_insert_epi16 (__m128i const __A, int const __D, int const __N)
1320 {
1321   return (__m128i) __builtin_ia32_vec_set_v8hi ((__v8hi)__A, __D, __N);
1322 }
1323 #else
1324 #define _mm_extract_epi16(A, N) \
1325   ((int) __builtin_ia32_vec_ext_v8hi ((__v8hi)(__m128i)(A), (int)(N)))
1326 #define _mm_insert_epi16(A, D, N)                               \
1327   ((__m128i) __builtin_ia32_vec_set_v8hi ((__v8hi)(__m128i)(A), \
1328                                           (int)(D), (int)(N)))
1329 #endif
1330
1331 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1332 _mm_max_epi16 (__m128i __A, __m128i __B)
1333 {
1334   return (__m128i)__builtin_ia32_pmaxsw128 ((__v8hi)__A, (__v8hi)__B);
1335 }
1336
1337 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1338 _mm_max_epu8 (__m128i __A, __m128i __B)
1339 {
1340   return (__m128i)__builtin_ia32_pmaxub128 ((__v16qi)__A, (__v16qi)__B);
1341 }
1342
1343 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1344 _mm_min_epi16 (__m128i __A, __m128i __B)
1345 {
1346   return (__m128i)__builtin_ia32_pminsw128 ((__v8hi)__A, (__v8hi)__B);
1347 }
1348
1349 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1350 _mm_min_epu8 (__m128i __A, __m128i __B)
1351 {
1352   return (__m128i)__builtin_ia32_pminub128 ((__v16qi)__A, (__v16qi)__B);
1353 }
1354
1355 extern __inline int __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1356 _mm_movemask_epi8 (__m128i __A)
1357 {
1358   return __builtin_ia32_pmovmskb128 ((__v16qi)__A);
1359 }
1360
1361 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1362 _mm_mulhi_epu16 (__m128i __A, __m128i __B)
1363 {
1364   return (__m128i)__builtin_ia32_pmulhuw128 ((__v8hi)__A, (__v8hi)__B);
1365 }
1366
1367 #ifdef __OPTIMIZE__
1368 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1369 _mm_shufflehi_epi16 (__m128i __A, const int __mask)
1370 {
1371   return (__m128i)__builtin_ia32_pshufhw ((__v8hi)__A, __mask);
1372 }
1373
1374 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1375 _mm_shufflelo_epi16 (__m128i __A, const int __mask)
1376 {
1377   return (__m128i)__builtin_ia32_pshuflw ((__v8hi)__A, __mask);
1378 }
1379
1380 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1381 _mm_shuffle_epi32 (__m128i __A, const int __mask)
1382 {
1383   return (__m128i)__builtin_ia32_pshufd ((__v4si)__A, __mask);
1384 }
1385 #else
1386 #define _mm_shufflehi_epi16(A, N) \
1387   ((__m128i)__builtin_ia32_pshufhw ((__v8hi)(__m128i)(A), (int)(N)))
1388 #define _mm_shufflelo_epi16(A, N) \
1389   ((__m128i)__builtin_ia32_pshuflw ((__v8hi)(__m128i)(A), (int)(N)))
1390 #define _mm_shuffle_epi32(A, N) \
1391   ((__m128i)__builtin_ia32_pshufd ((__v4si)(__m128i)(A), (int)(N)))
1392 #endif
1393
1394 extern __inline void __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1395 _mm_maskmoveu_si128 (__m128i __A, __m128i __B, char *__C)
1396 {
1397   __builtin_ia32_maskmovdqu ((__v16qi)__A, (__v16qi)__B, __C);
1398 }
1399
1400 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1401 _mm_avg_epu8 (__m128i __A, __m128i __B)
1402 {
1403   return (__m128i)__builtin_ia32_pavgb128 ((__v16qi)__A, (__v16qi)__B);
1404 }
1405
1406 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1407 _mm_avg_epu16 (__m128i __A, __m128i __B)
1408 {
1409   return (__m128i)__builtin_ia32_pavgw128 ((__v8hi)__A, (__v8hi)__B);
1410 }
1411
1412 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1413 _mm_sad_epu8 (__m128i __A, __m128i __B)
1414 {
1415   return (__m128i)__builtin_ia32_psadbw128 ((__v16qi)__A, (__v16qi)__B);
1416 }
1417
1418 extern __inline void __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1419 _mm_stream_si32 (int *__A, int __B)
1420 {
1421   __builtin_ia32_movnti (__A, __B);
1422 }
1423
1424 extern __inline void __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1425 _mm_stream_si128 (__m128i *__A, __m128i __B)
1426 {
1427   __builtin_ia32_movntdq ((__v2di *)__A, (__v2di)__B);
1428 }
1429
1430 extern __inline void __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1431 _mm_stream_pd (double *__A, __m128d __B)
1432 {
1433   __builtin_ia32_movntpd (__A, (__v2df)__B);
1434 }
1435
1436 extern __inline void __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1437 _mm_clflush (void const *__A)
1438 {
1439   __builtin_ia32_clflush (__A);
1440 }
1441
1442 extern __inline void __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1443 _mm_lfence (void)
1444 {
1445   __builtin_ia32_lfence ();
1446 }
1447
1448 extern __inline void __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1449 _mm_mfence (void)
1450 {
1451   __builtin_ia32_mfence ();
1452 }
1453
1454 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1455 _mm_cvtsi32_si128 (int __A)
1456 {
1457   return _mm_set_epi32 (0, 0, 0, __A);
1458 }
1459
1460 #ifdef __x86_64__
1461 /* Intel intrinsic.  */
1462 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1463 _mm_cvtsi64_si128 (long long __A)
1464 {
1465   return _mm_set_epi64x (0, __A);
1466 }
1467
1468 /* Microsoft intrinsic.  */
1469 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1470 _mm_cvtsi64x_si128 (long long __A)
1471 {
1472   return _mm_set_epi64x (0, __A);
1473 }
1474 #endif
1475
1476 /* Casts between various SP, DP, INT vector types.  Note that these do no
1477    conversion of values, they just change the type.  */
1478 extern __inline __m128 __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1479 _mm_castpd_ps(__m128d __A)
1480 {
1481   return (__m128) __A;
1482 }
1483
1484 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1485 _mm_castpd_si128(__m128d __A)
1486 {
1487   return (__m128i) __A;
1488 }
1489
1490 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1491 _mm_castps_pd(__m128 __A)
1492 {
1493   return (__m128d) __A;
1494 }
1495
1496 extern __inline __m128i __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1497 _mm_castps_si128(__m128 __A)
1498 {
1499   return (__m128i) __A;
1500 }
1501
1502 extern __inline __m128 __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1503 _mm_castsi128_ps(__m128i __A)
1504 {
1505   return (__m128) __A;
1506 }
1507
1508 extern __inline __m128d __attribute__((__gnu_inline__, __always_inline__, __artificial__))
1509 _mm_castsi128_pd(__m128i __A)
1510 {
1511   return (__m128d) __A;
1512 }
1513
1514 #endif /* __SSE2__  */
1515
1516 #endif /* _EMMINTRIN_H_INCLUDED */