test/CodeGen/X86/avx512dq-intrinsics-upgrade.ll

   1 ; NOTE: Assertions have been autogenerated by utils/update_llc_test_checks.py
   2 ; RUN: llc < %s -mtriple=x86_64-apple-darwin -mcpu=knl -mattr=+avx512dq | FileCheck %s
   3
   4 declare <2 x double> @llvm.x86.avx512.mask.vextractf64x2.512(<8 x double>, i32, <2 x double>, i8)
   5
   6 define <2 x double>@test_int_x86_avx512_mask_vextractf64x2_512(<8 x double> %x0, <2 x double> %x2, i8 %x3) {
   7 ; CHECK-LABEL: test_int_x86_avx512_mask_vextractf64x2_512:
   8 ; CHECK:       ## BB#0:
   9 ; CHECK-NEXT:    kmovw %edi, %k0
  10 ; CHECK-NEXT:    kshiftlb $7, %k0, %k1
  11 ; CHECK-NEXT:    kshiftrb $7, %k1, %k1
  12 ; CHECK-NEXT:    kshiftlb $6, %k0, %k0
  13 ; CHECK-NEXT:    kshiftrb $7, %k0, %k0
  14 ; CHECK-NEXT:    kmovw %k0, %eax
  15 ; CHECK-NEXT:    kmovw %k1, %ecx
  16 ; CHECK-NEXT:    vmovd %ecx, %xmm2
  17 ; CHECK-NEXT:    vpinsrb $8, %eax, %xmm2, %xmm2
  18 ; CHECK-NEXT:    vextractf128 $1, %ymm0, %xmm0
  19 ; CHECK-NEXT:    vpsllq $63, %xmm2, %xmm2
  20 ; CHECK-NEXT:    vpsraq $63, %zmm2, %zmm2
  21 ; CHECK-NEXT:    vblendvpd %xmm2, %xmm0, %xmm1, %xmm1
  22 ; CHECK-NEXT:    vandpd %xmm0, %xmm2, %xmm2
  23 ; CHECK-NEXT:    vaddpd %xmm0, %xmm1, %xmm0
  24 ; CHECK-NEXT:    vaddpd %xmm0, %xmm2, %xmm0
  25 ; CHECK-NEXT:    retq
  26   %res = call <2 x double> @llvm.x86.avx512.mask.vextractf64x2.512(<8 x double> %x0,i32 1, <2 x double> %x2, i8 %x3)
  27   %res2 = call <2 x double> @llvm.x86.avx512.mask.vextractf64x2.512(<8 x double> %x0,i32 1, <2 x double> zeroinitializer, i8 %x3)
  28   %res1 = call <2 x double> @llvm.x86.avx512.mask.vextractf64x2.512(<8 x double> %x0,i32 1, <2 x double> zeroinitializer, i8 -1)
  29   %res3 = fadd <2 x double> %res, %res1
  30   %res4 = fadd <2 x double> %res2, %res3
  31   ret <2 x double> %res4
  32 }
  33
  34 declare <8 x float> @llvm.x86.avx512.mask.vextractf32x8.512(<16 x float>, i32, <8 x float>, i8)
  35
  36 define <8 x float>@test_int_x86_avx512_mask_vextractf32x8(<16 x float> %x0, <8 x float> %x2, i8 %x3) {
  37 ; CHECK-LABEL: test_int_x86_avx512_mask_vextractf32x8:
  38 ; CHECK:       ## BB#0:
  39 ; CHECK-NEXT:    vextractf64x4 $1, %zmm0, %ymm2
  40 ; CHECK-NEXT:    kmovw %edi, %k1
  41 ; CHECK-NEXT:    vextractf32x8 $1, %zmm0, %ymm1 {%k1}
  42 ; CHECK-NEXT:    vaddps %ymm2, %ymm1, %ymm1
  43 ; CHECK-NEXT:    vextractf32x8 $1, %zmm0, %ymm0 {%k1} {z}
  44 ; CHECK-NEXT:    vaddps %ymm1, %ymm0, %ymm0
  45 ; CHECK-NEXT:    retq
  46   %res  = call <8 x float> @llvm.x86.avx512.mask.vextractf32x8.512(<16 x float> %x0,i32 1, <8 x float> %x2, i8 %x3)
  47   %res2 = call <8 x float> @llvm.x86.avx512.mask.vextractf32x8.512(<16 x float> %x0,i32 1, <8 x float> zeroinitializer, i8 %x3)
  48   %res1 = call <8 x float> @llvm.x86.avx512.mask.vextractf32x8.512(<16 x float> %x0,i32 1, <8 x float> zeroinitializer, i8 -1)
  49   %res3 = fadd <8 x float> %res, %res1
  50   %res4 = fadd <8 x float> %res2, %res3
  51   ret <8 x float> %res4
  52 }
  53
  54 declare <16 x float> @llvm.x86.avx512.mask.insertf32x8.512(<16 x float>, <8 x float>, i32, <16 x float>, i16)
  55
  56 define <16 x float>@test_int_x86_avx512_mask_insertf32x8_512(<16 x float> %x0, <8 x float> %x1, <16 x float> %x3, i16 %x4) {
  57 ; CHECK-LABEL: test_int_x86_avx512_mask_insertf32x8_512:
  58 ; CHECK:       ## BB#0:
  59 ; CHECK-NEXT:    vinsertf64x4 $1, %ymm1, %zmm0, %zmm3
  60 ; CHECK-NEXT:    kmovw %edi, %k1
  61 ; CHECK-NEXT:    vinsertf32x8 $1, %ymm1, %zmm0, %zmm2 {%k1}
  62 ; CHECK-NEXT:    vinsertf32x8 $1, %ymm1, %zmm0, %zmm0 {%k1} {z}
  63 ; CHECK-NEXT:    vaddps %zmm0, %zmm2, %zmm0
  64 ; CHECK-NEXT:    vaddps %zmm0, %zmm3, %zmm0
  65 ; CHECK-NEXT:    retq
  66   %res = call <16 x float> @llvm.x86.avx512.mask.insertf32x8.512(<16 x float> %x0, <8 x float> %x1, i32 1, <16 x float> %x3, i16 %x4)
  67   %res1 = call <16 x float> @llvm.x86.avx512.mask.insertf32x8.512(<16 x float> %x0, <8 x float> %x1, i32 1, <16 x float> zeroinitializer, i16 %x4)
  68   %res2 = call <16 x float> @llvm.x86.avx512.mask.insertf32x8.512(<16 x float> %x0, <8 x float> %x1, i32 1, <16 x float> %x3, i16 -1)
  69   %res3 = fadd <16 x float> %res, %res1
  70   %res4 = fadd <16 x float> %res2, %res3
  71   ret <16 x float> %res4
  72 }
  73
  74 declare <8 x double> @llvm.x86.avx512.mask.insertf64x2.512(<8 x double>, <2 x double>, i32, <8 x double>, i8)
  75
  76 define <8 x double>@test_int_x86_avx512_mask_insertf64x2_512(<8 x double> %x0, <2 x double> %x1,<8 x double> %x3, i8 %x4) {
  77 ; CHECK-LABEL: test_int_x86_avx512_mask_insertf64x2_512:
  78 ; CHECK:       ## BB#0:
  79 ; CHECK-NEXT:    vinsertf32x4 $1, %xmm1, %zmm0, %zmm3
  80 ; CHECK-NEXT:    kmovw %edi, %k1
  81 ; CHECK-NEXT:    vinsertf64x2 $1, %xmm1, %zmm0, %zmm2 {%k1}
  82 ; CHECK-NEXT:    vinsertf64x2 $1, %xmm1, %zmm0, %zmm0 {%k1} {z}
  83 ; CHECK-NEXT:    vaddpd %zmm0, %zmm2, %zmm0
  84 ; CHECK-NEXT:    vaddpd %zmm3, %zmm0, %zmm0
  85 ; CHECK-NEXT:    retq
  86   %res = call <8 x double> @llvm.x86.avx512.mask.insertf64x2.512(<8 x double> %x0, <2 x double> %x1, i32 1, <8 x double> %x3, i8 %x4)
  87   %res1 = call <8 x double> @llvm.x86.avx512.mask.insertf64x2.512(<8 x double> %x0, <2 x double> %x1, i32 1, <8 x double> zeroinitializer, i8 %x4)
  88   %res2 = call <8 x double> @llvm.x86.avx512.mask.insertf64x2.512(<8 x double> %x0, <2 x double> %x1, i32 1, <8 x double> %x3, i8 -1)
  89   %res3 = fadd <8 x double> %res, %res1
  90   %res4 = fadd <8 x double> %res3, %res2
  91   ret <8 x double> %res4
  92 }
  93
  94 declare <16 x i32> @llvm.x86.avx512.mask.inserti32x8.512(<16 x i32>, <8 x i32>, i32, <16 x i32>, i16)
  95
  96 define <16 x i32>@test_int_x86_avx512_mask_inserti32x8_512(<16 x i32> %x0, <8 x i32> %x1, <16 x i32> %x3, i16 %x4) {
  97 ; CHECK-LABEL: test_int_x86_avx512_mask_inserti32x8_512:
  98 ; CHECK:       ## BB#0:
  99 ; CHECK-NEXT:    vinserti64x4 $1, %ymm1, %zmm0, %zmm3
 100 ; CHECK-NEXT:    kmovw %edi, %k1
 101 ; CHECK-NEXT:    vinserti32x8 $1, %ymm1, %zmm0, %zmm2 {%k1}
 102 ; CHECK-NEXT:    vinserti32x8 $1, %ymm1, %zmm0, %zmm0 {%k1} {z}
 103 ; CHECK-NEXT:    vpaddd %zmm0, %zmm2, %zmm0
 104 ; CHECK-NEXT:    vpaddd %zmm3, %zmm0, %zmm0
 105 ; CHECK-NEXT:    retq
 106   %res = call <16 x i32> @llvm.x86.avx512.mask.inserti32x8.512(<16 x i32> %x0, <8 x i32> %x1, i32 1, <16 x i32> %x3, i16 %x4)
 107   %res1 = call <16 x i32> @llvm.x86.avx512.mask.inserti32x8.512(<16 x i32> %x0, <8 x i32> %x1, i32 1, <16 x i32> zeroinitializer, i16 %x4)
 108   %res2 = call <16 x i32> @llvm.x86.avx512.mask.inserti32x8.512(<16 x i32> %x0, <8 x i32> %x1, i32 1, <16 x i32> %x3, i16 -1)
 109   %res3 = add <16 x i32> %res, %res1
 110   %res4 = add <16 x i32> %res3, %res2
 111   ret <16 x i32> %res4
 112 }
 113
 114 declare <8 x i64> @llvm.x86.avx512.mask.inserti64x2.512(<8 x i64>, <2 x i64>, i32, <8 x i64>, i8)
 115
 116 define <8 x i64>@test_int_x86_avx512_mask_inserti64x2_512(<8 x i64> %x0, <2 x i64> %x1, <8 x i64> %x3, i8 %x4) {
 117 ; CHECK-LABEL: test_int_x86_avx512_mask_inserti64x2_512:
 118 ; CHECK:       ## BB#0:
 119 ; CHECK-NEXT:    vinserti32x4 $1, %xmm1, %zmm0, %zmm3
 120 ; CHECK-NEXT:    kmovw %edi, %k1
 121 ; CHECK-NEXT:    vinserti64x2 $1, %xmm1, %zmm0, %zmm2 {%k1}
 122 ; CHECK-NEXT:    vinserti64x2 $1, %xmm1, %zmm0, %zmm0 {%k1} {z}
 123 ; CHECK-NEXT:    vpaddq %zmm0, %zmm2, %zmm0
 124 ; CHECK-NEXT:    vpaddq %zmm0, %zmm3, %zmm0
 125 ; CHECK-NEXT:    retq
 126   %res = call <8 x i64> @llvm.x86.avx512.mask.inserti64x2.512(<8 x i64> %x0, <2 x i64> %x1, i32 1, <8 x i64> %x3, i8 %x4)
 127   %res1 = call <8 x i64> @llvm.x86.avx512.mask.inserti64x2.512(<8 x i64> %x0, <2 x i64> %x1, i32 1, <8 x i64> zeroinitializer, i8 %x4)
 128   %res2 = call <8 x i64> @llvm.x86.avx512.mask.inserti64x2.512(<8 x i64> %x0, <2 x i64> %x1, i32 1, <8 x i64> %x3, i8 -1)
 129   %res3 = add <8 x i64> %res, %res1
 130   %res4 = add <8 x i64> %res2, %res3
 131   ret <8 x i64> %res4
 132 }
 133
 134
 135 declare <16 x i32> @llvm.x86.avx512.cvtmask2d.512(i16)
 136
 137 define <16 x i32>@test_int_x86_avx512_cvtmask2d_512(i16 %x0) {
 138 ; CHECK-LABEL: test_int_x86_avx512_cvtmask2d_512:
 139 ; CHECK:       ## BB#0:
 140 ; CHECK-NEXT:    kmovw %edi, %k0
 141 ; CHECK-NEXT:    vpmovm2d %k0, %zmm0
 142 ; CHECK-NEXT:    retq
 143   %res = call <16 x i32> @llvm.x86.avx512.cvtmask2d.512(i16 %x0)
 144   ret <16 x i32> %res
 145 }
 146
 147 declare <8 x i64> @llvm.x86.avx512.cvtmask2q.512(i8)
 148
 149 define <8 x i64>@test_int_x86_avx512_cvtmask2q_512(i8 %x0) {
 150 ; CHECK-LABEL: test_int_x86_avx512_cvtmask2q_512:
 151 ; CHECK:       ## BB#0:
 152 ; CHECK-NEXT:    kmovw %edi, %k0
 153 ; CHECK-NEXT:    vpmovm2q %k0, %zmm0
 154 ; CHECK-NEXT:    retq
 155   %res = call <8 x i64> @llvm.x86.avx512.cvtmask2q.512(i8 %x0)
 156   ret <8 x i64> %res
 157 }
 158
 159 declare <16 x float> @llvm.x86.avx512.mask.broadcastf32x8.512(<8 x float>, <16 x float>, i16)
 160
 161 define <16 x float>@test_int_x86_avx512_mask_broadcastf32x8_512(<8 x float> %x0, <16 x float> %x2, i16 %mask) {
 162 ; CHECK-LABEL: test_int_x86_avx512_mask_broadcastf32x8_512:
 163 ; CHECK:       ## BB#0:
 164 ; CHECK-NEXT:    ## kill: %ymm0<def> %ymm0<kill> %zmm0<def>
 165 ; CHECK-NEXT:    vinsertf64x4 $1, %ymm0, %zmm0, %zmm2
 166 ; CHECK-NEXT:    kmovw %edi, %k1
 167 ; CHECK-NEXT:    vinsertf32x8 $1, %ymm0, %zmm0, %zmm1 {%k1}
 168 ; CHECK-NEXT:    vaddps %zmm1, %zmm2, %zmm1
 169 ; CHECK-NEXT:    vinsertf32x8 $1, %ymm0, %zmm0, %zmm0 {%k1} {z}
 170 ; CHECK-NEXT:    vaddps %zmm1, %zmm0, %zmm0
 171 ; CHECK-NEXT:    retq
 172
 173   %res1 = call <16 x float> @llvm.x86.avx512.mask.broadcastf32x8.512(<8 x float> %x0, <16 x float> %x2, i16 -1)
 174   %res2 = call <16 x float> @llvm.x86.avx512.mask.broadcastf32x8.512(<8 x float> %x0, <16 x float> %x2, i16 %mask)
 175   %res3 = call <16 x float> @llvm.x86.avx512.mask.broadcastf32x8.512(<8 x float> %x0, <16 x float> zeroinitializer, i16 %mask)
 176   %res4 = fadd <16 x float> %res1, %res2
 177   %res5 = fadd <16 x float> %res3, %res4
 178   ret <16 x float> %res5
 179 }
 180
 181 define <16 x float>@test_int_x86_avx512_mask_broadcastf32x8_512_load(<8 x float>* %x0ptr, <16 x float> %x2, i16 %mask) {
 182 ; CHECK-LABEL: test_int_x86_avx512_mask_broadcastf32x8_512_load:
 183 ; CHECK:       ## BB#0:
 184 ; CHECK-NEXT:    kmovw %esi, %k1
 185 ; CHECK-NEXT:    vbroadcastf32x8 {{.*#+}} zmm0 {%k1} = mem[0,1,2,3,4,5,6,7,0,1,2,3,4,5,6,7]
 186 ; CHECK-NEXT:    retq
 187
 188   %x0 = load <8 x float>, <8 x float>* %x0ptr
 189   %res = call <16 x float> @llvm.x86.avx512.mask.broadcastf32x8.512(<8 x float> %x0, <16 x float> %x2, i16 %mask)
 190   ret <16 x float> %res
 191 }
 192
 193 declare <8 x double> @llvm.x86.avx512.mask.broadcastf64x2.512(<2 x double>, <8 x double>, i8)
 194
 195 define <8 x double>@test_int_x86_avx512_mask_broadcastf64x2_512(<2 x double> %x0, <8 x double> %x2, i8 %mask) {
 196 ; CHECK-LABEL: test_int_x86_avx512_mask_broadcastf64x2_512:
 197 ; CHECK:       ## BB#0:
 198 ; CHECK-NEXT:    ## kill: %xmm0<def> %xmm0<kill> %ymm0<def>
 199 ; CHECK-NEXT:    vinsertf128 $1, %xmm0, %ymm0, %ymm0
 200 ; CHECK-NEXT:    vinsertf64x4 $1, %ymm0, %zmm0, %zmm2
 201 ; CHECK-NEXT:    kmovw %edi, %k1
 202 ; CHECK-NEXT:    vinsertf64x4 $1, %ymm0, %zmm0, %zmm1 {%k1}
 203 ; CHECK-NEXT:    vaddpd %zmm1, %zmm2, %zmm1
 204 ; CHECK-NEXT:    vinsertf64x4 $1, %ymm0, %zmm0, %zmm0 {%k1} {z}
 205 ; CHECK-NEXT:    vaddpd %zmm1, %zmm0, %zmm0
 206 ; CHECK-NEXT:    retq
 207
 208   %res1 = call <8 x double> @llvm.x86.avx512.mask.broadcastf64x2.512(<2 x double> %x0, <8 x double> %x2, i8 -1)
 209   %res2 = call <8 x double> @llvm.x86.avx512.mask.broadcastf64x2.512(<2 x double> %x0, <8 x double> %x2, i8 %mask)
 210   %res3 = call <8 x double> @llvm.x86.avx512.mask.broadcastf64x2.512(<2 x double> %x0, <8 x double> zeroinitializer, i8 %mask)
 211   %res4 = fadd <8 x double> %res1, %res2
 212   %res5 = fadd <8 x double> %res3, %res4
 213   ret <8 x double> %res5
 214 }
 215
 216 define <8 x double>@test_int_x86_avx512_mask_broadcastf64x2_512_load(<2 x double>* %x0ptr, <8 x double> %x2, i8 %mask) {
 217 ; CHECK-LABEL: test_int_x86_avx512_mask_broadcastf64x2_512_load:
 218 ; CHECK:       ## BB#0:
 219 ; CHECK-NEXT:    kmovw %esi, %k1
 220 ; CHECK-NEXT:    vbroadcastf64x2 {{.*#+}} zmm0 {%k1} = mem[0,1,0,1,0,1,0,1]
 221 ; CHECK-NEXT:    retq
 222
 223   %x0 = load <2 x double>, <2 x double>* %x0ptr
 224   %res = call <8 x double> @llvm.x86.avx512.mask.broadcastf64x2.512(<2 x double> %x0, <8 x double> %x2, i8 %mask)
 225   ret <8 x double> %res
 226 }
 227
 228 declare <16 x i32> @llvm.x86.avx512.mask.broadcasti32x8.512(<8 x i32>, <16 x i32>, i16)
 229
 230 define <16 x i32>@test_int_x86_avx512_mask_broadcasti32x8_512(<8 x i32> %x0, <16 x i32> %x2, i16 %mask) {
 231 ; CHECK-LABEL: test_int_x86_avx512_mask_broadcasti32x8_512:
 232 ; CHECK:       ## BB#0:
 233 ; CHECK-NEXT:    ## kill: %ymm0<def> %ymm0<kill> %zmm0<def>
 234 ; CHECK-NEXT:    vinserti64x4 $1, %ymm0, %zmm0, %zmm2
 235 ; CHECK-NEXT:    kmovw %edi, %k1
 236 ; CHECK-NEXT:    vinserti32x8 $1, %ymm0, %zmm0, %zmm1 {%k1}
 237 ; CHECK-NEXT:    vpaddd %zmm1, %zmm2, %zmm1
 238 ; CHECK-NEXT:    vinserti32x8 $1, %ymm0, %zmm0, %zmm0 {%k1} {z}
 239 ; CHECK-NEXT:    vpaddd %zmm1, %zmm0, %zmm0
 240 ; CHECK-NEXT:    retq
 241
 242   %res1 = call <16 x i32> @llvm.x86.avx512.mask.broadcasti32x8.512(<8 x i32> %x0, <16 x i32> %x2, i16 -1)
 243   %res2 = call <16 x i32> @llvm.x86.avx512.mask.broadcasti32x8.512(<8 x i32> %x0, <16 x i32> %x2, i16 %mask)
 244   %res3 = call <16 x i32> @llvm.x86.avx512.mask.broadcasti32x8.512(<8 x i32> %x0, <16 x i32> zeroinitializer, i16 %mask)
 245   %res4 = add <16 x i32> %res1, %res2
 246   %res5 = add <16 x i32> %res3, %res4
 247   ret <16 x i32> %res5
 248 }
 249
 250 define <16 x i32>@test_int_x86_avx512_mask_broadcasti32x8_512_load(<8 x i32>* %x0ptr, <16 x i32> %x2, i16 %mask) {
 251 ; CHECK-LABEL: test_int_x86_avx512_mask_broadcasti32x8_512_load:
 252 ; CHECK:       ## BB#0:
 253 ; CHECK-NEXT:    kmovw %esi, %k1
 254 ; CHECK-NEXT:    vbroadcasti32x8 {{.*#+}} zmm0 {%k1} = mem[0,1,2,3,4,5,6,7,0,1,2,3,4,5,6,7]
 255 ; CHECK-NEXT:    retq
 256
 257   %x0 = load <8 x i32>, <8 x i32>* %x0ptr
 258   %res = call <16 x i32> @llvm.x86.avx512.mask.broadcasti32x8.512(<8 x i32> %x0, <16 x i32> %x2, i16 %mask)
 259   ret <16 x i32> %res
 260 }
 261
 262 declare <8 x i64> @llvm.x86.avx512.mask.broadcasti64x2.512(<2 x i64>, <8 x i64>, i8)
 263
 264 define <8 x i64>@test_int_x86_avx512_mask_broadcasti64x2_512(<2 x i64> %x0, <8 x i64> %x2, i8 %mask) {
 265 ; CHECK-LABEL: test_int_x86_avx512_mask_broadcasti64x2_512:
 266 ; CHECK:       ## BB#0:
 267 ; CHECK-NEXT:    ## kill: %xmm0<def> %xmm0<kill> %ymm0<def>
 268 ; CHECK-NEXT:    vinserti128 $1, %xmm0, %ymm0, %ymm0
 269 ; CHECK-NEXT:    vinserti64x4 $1, %ymm0, %zmm0, %zmm2
 270 ; CHECK-NEXT:    kmovw %edi, %k1
 271 ; CHECK-NEXT:    vinserti64x4 $1, %ymm0, %zmm0, %zmm1 {%k1}
 272 ; CHECK-NEXT:    vpaddq %zmm1, %zmm2, %zmm1
 273 ; CHECK-NEXT:    vinserti64x4 $1, %ymm0, %zmm0, %zmm0 {%k1} {z}
 274 ; CHECK-NEXT:    vpaddq %zmm1, %zmm0, %zmm0
 275 ; CHECK-NEXT:    retq
 276
 277   %res1 = call <8 x i64> @llvm.x86.avx512.mask.broadcasti64x2.512(<2 x i64> %x0, <8 x i64> %x2, i8 -1)
 278   %res2 = call <8 x i64> @llvm.x86.avx512.mask.broadcasti64x2.512(<2 x i64> %x0, <8 x i64> %x2, i8 %mask)
 279   %res3 = call <8 x i64> @llvm.x86.avx512.mask.broadcasti64x2.512(<2 x i64> %x0, <8 x i64> zeroinitializer, i8 %mask)
 280   %res4 = add <8 x i64> %res1, %res2
 281   %res5 = add <8 x i64> %res3, %res4
 282   ret <8 x i64> %res5
 283 }
 284
 285 define <8 x i64>@test_int_x86_avx512_mask_broadcasti64x2_512_load(<2 x i64>* %x0ptr, <8 x i64> %x2, i8 %mask) {
 286 ; CHECK-LABEL: test_int_x86_avx512_mask_broadcasti64x2_512_load:
 287 ; CHECK:       ## BB#0:
 288 ; CHECK-NEXT:    kmovw %esi, %k1
 289 ; CHECK-NEXT:    vbroadcasti64x2 {{.*#+}} zmm0 {%k1} = mem[0,1,0,1,0,1,0,1]
 290 ; CHECK-NEXT:    retq
 291
 292   %x0 = load <2 x i64>, <2 x i64>* %x0ptr
 293   %res = call <8 x i64> @llvm.x86.avx512.mask.broadcasti64x2.512(<2 x i64> %x0, <8 x i64> %x2, i8 %mask)
 294   ret <8 x i64> %res
 295 }
 296
 297 declare <16 x float> @llvm.x86.avx512.mask.broadcastf32x2.512(<4 x float>, <16 x float>, i16)
 298
 299 define <16 x float>@test_int_x86_avx512_mask_broadcastf32x2_512(<4 x float> %x0, <16 x float> %x2, i16 %x3) {
 300 ; CHECK-LABEL: test_int_x86_avx512_mask_broadcastf32x2_512:
 301 ; CHECK:       ## BB#0:
 302 ; CHECK-NEXT:    ## kill: %xmm0<def> %xmm0<kill> %ymm0<def>
 303 ; CHECK-NEXT:    vinsertf128 $1, %xmm0, %ymm0, %ymm0
 304 ; CHECK-NEXT:    vinsertf64x4 $1, %ymm0, %zmm0, %zmm2
 305 ; CHECK-NEXT:    kmovw %edi, %k1
 306 ; CHECK-NEXT:    vinsertf32x8 $1, %ymm0, %zmm0, %zmm1 {%k1}
 307 ; CHECK-NEXT:    vinsertf32x8 $1, %ymm0, %zmm0, %zmm0 {%k1} {z}
 308 ; CHECK-NEXT:    vaddps %zmm0, %zmm1, %zmm0
 309 ; CHECK-NEXT:    vaddps %zmm2, %zmm0, %zmm0
 310 ; CHECK-NEXT:    retq
 311   %res = call <16 x float> @llvm.x86.avx512.mask.broadcastf32x2.512(<4 x float>  %x0, <16 x float> %x2, i16 %x3)
 312   %res1 = call <16 x float> @llvm.x86.avx512.mask.broadcastf32x2.512(<4 x float> %x0, <16 x float> zeroinitializer, i16 %x3)
 313   %res2 = call <16 x float> @llvm.x86.avx512.mask.broadcastf32x2.512(<4 x float> %x0, <16 x float> %x2, i16 -1)
 314   %res3 = fadd <16 x float> %res, %res1
 315   %res4 = fadd <16 x float> %res3, %res2
 316   ret <16 x float> %res4
 317 }
 318
 319 declare <16 x i32> @llvm.x86.avx512.mask.broadcasti32x2.512(<4 x i32>, <16 x i32>, i16)
 320
 321 define <16 x i32>@test_int_x86_avx512_mask_broadcasti32x2_512(<4 x i32> %x0, <16 x i32> %x2, i16 %x3) {
 322 ; CHECK-LABEL: test_int_x86_avx512_mask_broadcasti32x2_512:
 323 ; CHECK:       ## BB#0:
 324 ; CHECK-NEXT:    ## kill: %xmm0<def> %xmm0<kill> %ymm0<def>
 325 ; CHECK-NEXT:    vinserti128 $1, %xmm0, %ymm0, %ymm0
 326 ; CHECK-NEXT:    vinserti64x4 $1, %ymm0, %zmm0, %zmm2
 327 ; CHECK-NEXT:    kmovw %edi, %k1
 328 ; CHECK-NEXT:    vinserti32x8 $1, %ymm0, %zmm0, %zmm1 {%k1}
 329 ; CHECK-NEXT:    vinserti32x8 $1, %ymm0, %zmm0, %zmm0 {%k1} {z}
 330 ; CHECK-NEXT:    vpaddd %zmm0, %zmm1, %zmm0
 331 ; CHECK-NEXT:    vpaddd %zmm2, %zmm0, %zmm0
 332 ; CHECK-NEXT:    retq
 333   %res = call <16 x i32> @llvm.x86.avx512.mask.broadcasti32x2.512(<4 x i32>  %x0, <16 x i32> %x2, i16 %x3)
 334   %res1 = call <16 x i32> @llvm.x86.avx512.mask.broadcasti32x2.512(<4 x i32> %x0, <16 x i32> zeroinitializer, i16 %x3)
 335   %res2 = call <16 x i32> @llvm.x86.avx512.mask.broadcasti32x2.512(<4 x i32> %x0, <16 x i32> %x2, i16 -1)
 336   %res3 = add <16 x i32> %res, %res1
 337   %res4 = add <16 x i32> %res3, %res2
 338   ret <16 x i32> %res4
 339 }
 340