clang/lib/Headers/avx512bitalgintrin.h

   1 /*===------------- avx512bitalgintrin.h - BITALG intrinsics ------------------===
   2  *
   3  *
   4  * Part of the LLVM Project, under the Apache License v2.0 with LLVM Exceptions.
   5  * See https://llvm.org/LICENSE.txt for license information.
   6  * SPDX-License-Identifier: Apache-2.0 WITH LLVM-exception
   7  *
   8  *===-----------------------------------------------------------------------===
   9  */
  10 #ifndef __IMMINTRIN_H
  11 #error "Never use <avx512bitalgintrin.h> directly; include <immintrin.h> instead."
  12 #endif
  13
  14 #ifndef __AVX512BITALGINTRIN_H
  15 #define __AVX512BITALGINTRIN_H
  16
  17 /* Define the default attributes for the functions in this file. */
  18 #define __DEFAULT_FN_ATTRS                                                     \
  19   __attribute__((__always_inline__, __nodebug__,                               \
  20                  __target__("avx512bitalg,evex512"),                           \
  21                  __min_vector_width__(512)))
  22
  23 static __inline__ __m512i __DEFAULT_FN_ATTRS
  24 _mm512_popcnt_epi16(__m512i __A)
  25 {
  26   return (__m512i) __builtin_ia32_vpopcntw_512((__v32hi) __A);
  27 }
  28
  29 static __inline__ __m512i __DEFAULT_FN_ATTRS
  30 _mm512_mask_popcnt_epi16(__m512i __A, __mmask32 __U, __m512i __B)
  31 {
  32   return (__m512i) __builtin_ia32_selectw_512((__mmask32) __U,
  33               (__v32hi) _mm512_popcnt_epi16(__B),
  34               (__v32hi) __A);
  35 }
  36
  37 static __inline__ __m512i __DEFAULT_FN_ATTRS
  38 _mm512_maskz_popcnt_epi16(__mmask32 __U, __m512i __B)
  39 {
  40   return _mm512_mask_popcnt_epi16((__m512i) _mm512_setzero_si512(),
  41               __U,
  42               __B);
  43 }
  44
  45 static __inline__ __m512i __DEFAULT_FN_ATTRS
  46 _mm512_popcnt_epi8(__m512i __A)
  47 {
  48   return (__m512i) __builtin_ia32_vpopcntb_512((__v64qi) __A);
  49 }
  50
  51 static __inline__ __m512i __DEFAULT_FN_ATTRS
  52 _mm512_mask_popcnt_epi8(__m512i __A, __mmask64 __U, __m512i __B)
  53 {
  54   return (__m512i) __builtin_ia32_selectb_512((__mmask64) __U,
  55               (__v64qi) _mm512_popcnt_epi8(__B),
  56               (__v64qi) __A);
  57 }
  58
  59 static __inline__ __m512i __DEFAULT_FN_ATTRS
  60 _mm512_maskz_popcnt_epi8(__mmask64 __U, __m512i __B)
  61 {
  62   return _mm512_mask_popcnt_epi8((__m512i) _mm512_setzero_si512(),
  63               __U,
  64               __B);
  65 }
  66
  67 static __inline__ __mmask64 __DEFAULT_FN_ATTRS
  68 _mm512_mask_bitshuffle_epi64_mask(__mmask64 __U, __m512i __A, __m512i __B)
  69 {
  70   return (__mmask64) __builtin_ia32_vpshufbitqmb512_mask((__v64qi) __A,
  71               (__v64qi) __B,
  72               __U);
  73 }
  74
  75 static __inline__ __mmask64 __DEFAULT_FN_ATTRS
  76 _mm512_bitshuffle_epi64_mask(__m512i __A, __m512i __B)
  77 {
  78   return _mm512_mask_bitshuffle_epi64_mask((__mmask64) -1,
  79               __A,
  80               __B);
  81 }
  82
  83
  84 #undef __DEFAULT_FN_ATTRS
  85
  86 #endif