test/CodeGen/X86/vector-reduce-umin.ll

   1 ; NOTE: Assertions have been autogenerated by utils/update_llc_test_checks.py
   2 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse2 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE2
   3 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse4.1 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE41
   4 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx | FileCheck %s --check-prefix=ALL --check-prefix=AVX --check-prefix=AVX1
   5 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx2 | FileCheck %s --check-prefix=ALL --check-prefix=AVX --check-prefix=AVX2
   6 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx512f,+avx512bw | FileCheck %s --check-prefix=ALL --check-prefix=AVX512 --check-prefix=AVX512BW
   7 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx512f,+avx512bw,+avx512vl | FileCheck %s --check-prefix=ALL --check-prefix=AVX512 --check-prefix=AVX512VL
   8
   9 ;
  10 ; vXi64
  11 ;
  12
  13 define i64 @test_v2i64(<2 x i64> %a0) {
  14 ; SSE2-LABEL: test_v2i64:
  15 ; SSE2:       # %bb.0:
  16 ; SSE2-NEXT:    pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
  17 ; SSE2-NEXT:    movdqa {{.*#+}} xmm2 = [9223372039002259456,9223372039002259456]
  18 ; SSE2-NEXT:    movdqa %xmm0, %xmm3
  19 ; SSE2-NEXT:    pxor %xmm2, %xmm3
  20 ; SSE2-NEXT:    pxor %xmm1, %xmm2
  21 ; SSE2-NEXT:    movdqa %xmm2, %xmm4
  22 ; SSE2-NEXT:    pcmpgtd %xmm3, %xmm4
  23 ; SSE2-NEXT:    pshufd {{.*#+}} xmm5 = xmm4[0,0,2,2]
  24 ; SSE2-NEXT:    pcmpeqd %xmm3, %xmm2
  25 ; SSE2-NEXT:    pshufd {{.*#+}} xmm2 = xmm2[1,1,3,3]
  26 ; SSE2-NEXT:    pand %xmm5, %xmm2
  27 ; SSE2-NEXT:    pshufd {{.*#+}} xmm3 = xmm4[1,1,3,3]
  28 ; SSE2-NEXT:    por %xmm2, %xmm3
  29 ; SSE2-NEXT:    pand %xmm3, %xmm0
  30 ; SSE2-NEXT:    pandn %xmm1, %xmm3
  31 ; SSE2-NEXT:    por %xmm0, %xmm3
  32 ; SSE2-NEXT:    movq %xmm3, %rax
  33 ; SSE2-NEXT:    retq
  34 ;
  35 ; SSE41-LABEL: test_v2i64:
  36 ; SSE41:       # %bb.0:
  37 ; SSE41-NEXT:    movdqa %xmm0, %xmm1
  38 ; SSE41-NEXT:    pshufd {{.*#+}} xmm2 = xmm0[2,3,0,1]
  39 ; SSE41-NEXT:    movdqa {{.*#+}} xmm0 = [9223372039002259456,9223372039002259456]
  40 ; SSE41-NEXT:    movdqa %xmm1, %xmm3
  41 ; SSE41-NEXT:    pxor %xmm0, %xmm3
  42 ; SSE41-NEXT:    pxor %xmm2, %xmm0
  43 ; SSE41-NEXT:    movdqa %xmm0, %xmm4
  44 ; SSE41-NEXT:    pcmpgtd %xmm3, %xmm4
  45 ; SSE41-NEXT:    pshufd {{.*#+}} xmm5 = xmm4[0,0,2,2]
  46 ; SSE41-NEXT:    pcmpeqd %xmm3, %xmm0
  47 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm0[1,1,3,3]
  48 ; SSE41-NEXT:    pand %xmm5, %xmm0
  49 ; SSE41-NEXT:    por %xmm4, %xmm0
  50 ; SSE41-NEXT:    blendvpd %xmm0, %xmm1, %xmm2
  51 ; SSE41-NEXT:    movq %xmm2, %rax
  52 ; SSE41-NEXT:    retq
  53 ;
  54 ; AVX-LABEL: test_v2i64:
  55 ; AVX:       # %bb.0:
  56 ; AVX-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
  57 ; AVX-NEXT:    vmovdqa {{.*#+}} xmm2 = [9223372036854775808,9223372036854775808]
  58 ; AVX-NEXT:    vpxor %xmm2, %xmm0, %xmm3
  59 ; AVX-NEXT:    vpxor %xmm2, %xmm1, %xmm2
  60 ; AVX-NEXT:    vpcmpgtq %xmm3, %xmm2, %xmm2
  61 ; AVX-NEXT:    vblendvpd %xmm2, %xmm0, %xmm1, %xmm0
  62 ; AVX-NEXT:    vmovq %xmm0, %rax
  63 ; AVX-NEXT:    retq
  64 ;
  65 ; AVX512BW-LABEL: test_v2i64:
  66 ; AVX512BW:       # %bb.0:
  67 ; AVX512BW-NEXT:    # kill: def $xmm0 killed $xmm0 def $zmm0
  68 ; AVX512BW-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
  69 ; AVX512BW-NEXT:    vpminuq %zmm1, %zmm0, %zmm0
  70 ; AVX512BW-NEXT:    vmovq %xmm0, %rax
  71 ; AVX512BW-NEXT:    vzeroupper
  72 ; AVX512BW-NEXT:    retq
  73 ;
  74 ; AVX512VL-LABEL: test_v2i64:
  75 ; AVX512VL:       # %bb.0:
  76 ; AVX512VL-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
  77 ; AVX512VL-NEXT:    vpminuq %xmm1, %xmm0, %xmm0
  78 ; AVX512VL-NEXT:    vmovq %xmm0, %rax
  79 ; AVX512VL-NEXT:    retq
  80   %1 = call i64 @llvm.experimental.vector.reduce.umin.v2i64(<2 x i64> %a0)
  81   ret i64 %1
  82 }
  83
  84 define i64 @test_v4i64(<4 x i64> %a0) {
  85 ; SSE2-LABEL: test_v4i64:
  86 ; SSE2:       # %bb.0:
  87 ; SSE2-NEXT:    movdqa {{.*#+}} xmm2 = [9223372039002259456,9223372039002259456]
  88 ; SSE2-NEXT:    movdqa %xmm0, %xmm3
  89 ; SSE2-NEXT:    pxor %xmm2, %xmm3
  90 ; SSE2-NEXT:    movdqa %xmm1, %xmm4
  91 ; SSE2-NEXT:    pxor %xmm2, %xmm4
  92 ; SSE2-NEXT:    movdqa %xmm4, %xmm5
  93 ; SSE2-NEXT:    pcmpgtd %xmm3, %xmm5
  94 ; SSE2-NEXT:    pshufd {{.*#+}} xmm6 = xmm5[0,0,2,2]
  95 ; SSE2-NEXT:    pcmpeqd %xmm3, %xmm4
  96 ; SSE2-NEXT:    pshufd {{.*#+}} xmm3 = xmm4[1,1,3,3]
  97 ; SSE2-NEXT:    pand %xmm6, %xmm3
  98 ; SSE2-NEXT:    pshufd {{.*#+}} xmm4 = xmm5[1,1,3,3]
  99 ; SSE2-NEXT:    por %xmm3, %xmm4
 100 ; SSE2-NEXT:    pand %xmm4, %xmm0
 101 ; SSE2-NEXT:    pandn %xmm1, %xmm4
 102 ; SSE2-NEXT:    por %xmm0, %xmm4
 103 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm4[2,3,0,1]
 104 ; SSE2-NEXT:    movdqa %xmm4, %xmm1
 105 ; SSE2-NEXT:    pxor %xmm2, %xmm1
 106 ; SSE2-NEXT:    pxor %xmm0, %xmm2
 107 ; SSE2-NEXT:    movdqa %xmm2, %xmm3
 108 ; SSE2-NEXT:    pcmpgtd %xmm1, %xmm3
 109 ; SSE2-NEXT:    pshufd {{.*#+}} xmm5 = xmm3[0,0,2,2]
 110 ; SSE2-NEXT:    pcmpeqd %xmm1, %xmm2
 111 ; SSE2-NEXT:    pshufd {{.*#+}} xmm1 = xmm2[1,1,3,3]
 112 ; SSE2-NEXT:    pand %xmm5, %xmm1
 113 ; SSE2-NEXT:    pshufd {{.*#+}} xmm2 = xmm3[1,1,3,3]
 114 ; SSE2-NEXT:    por %xmm1, %xmm2
 115 ; SSE2-NEXT:    pand %xmm2, %xmm4
 116 ; SSE2-NEXT:    pandn %xmm0, %xmm2
 117 ; SSE2-NEXT:    por %xmm4, %xmm2
 118 ; SSE2-NEXT:    movq %xmm2, %rax
 119 ; SSE2-NEXT:    retq
 120 ;
 121 ; SSE41-LABEL: test_v4i64:
 122 ; SSE41:       # %bb.0:
 123 ; SSE41-NEXT:    movdqa %xmm0, %xmm2
 124 ; SSE41-NEXT:    movdqa {{.*#+}} xmm3 = [9223372039002259456,9223372039002259456]
 125 ; SSE41-NEXT:    pxor %xmm3, %xmm0
 126 ; SSE41-NEXT:    movdqa %xmm1, %xmm4
 127 ; SSE41-NEXT:    pxor %xmm3, %xmm4
 128 ; SSE41-NEXT:    movdqa %xmm4, %xmm5
 129 ; SSE41-NEXT:    pcmpgtd %xmm0, %xmm5
 130 ; SSE41-NEXT:    pshufd {{.*#+}} xmm6 = xmm5[0,0,2,2]
 131 ; SSE41-NEXT:    pcmpeqd %xmm0, %xmm4
 132 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm4[1,1,3,3]
 133 ; SSE41-NEXT:    pand %xmm6, %xmm0
 134 ; SSE41-NEXT:    por %xmm5, %xmm0
 135 ; SSE41-NEXT:    blendvpd %xmm0, %xmm2, %xmm1
 136 ; SSE41-NEXT:    pshufd {{.*#+}} xmm2 = xmm1[2,3,0,1]
 137 ; SSE41-NEXT:    movdqa %xmm1, %xmm0
 138 ; SSE41-NEXT:    pxor %xmm3, %xmm0
 139 ; SSE41-NEXT:    pxor %xmm2, %xmm3
 140 ; SSE41-NEXT:    movdqa %xmm3, %xmm4
 141 ; SSE41-NEXT:    pcmpgtd %xmm0, %xmm4
 142 ; SSE41-NEXT:    pshufd {{.*#+}} xmm5 = xmm4[0,0,2,2]
 143 ; SSE41-NEXT:    pcmpeqd %xmm0, %xmm3
 144 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm3[1,1,3,3]
 145 ; SSE41-NEXT:    pand %xmm5, %xmm0
 146 ; SSE41-NEXT:    por %xmm4, %xmm0
 147 ; SSE41-NEXT:    blendvpd %xmm0, %xmm1, %xmm2
 148 ; SSE41-NEXT:    movq %xmm2, %rax
 149 ; SSE41-NEXT:    retq
 150 ;
 151 ; AVX1-LABEL: test_v4i64:
 152 ; AVX1:       # %bb.0:
 153 ; AVX1-NEXT:    vmovdqa {{.*#+}} xmm1 = [9223372036854775808,9223372036854775808]
 154 ; AVX1-NEXT:    vpxor %xmm1, %xmm0, %xmm2
 155 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm3
 156 ; AVX1-NEXT:    vpxor %xmm1, %xmm3, %xmm4
 157 ; AVX1-NEXT:    vpcmpgtq %xmm2, %xmm4, %xmm2
 158 ; AVX1-NEXT:    vblendvpd %xmm2, %xmm0, %xmm3, %xmm0
 159 ; AVX1-NEXT:    vpermilps {{.*#+}} xmm2 = xmm0[2,3,0,1]
 160 ; AVX1-NEXT:    vxorpd %xmm1, %xmm0, %xmm3
 161 ; AVX1-NEXT:    vxorpd %xmm1, %xmm2, %xmm1
 162 ; AVX1-NEXT:    vpcmpgtq %xmm3, %xmm1, %xmm1
 163 ; AVX1-NEXT:    vblendvpd %xmm1, %xmm0, %xmm2, %xmm0
 164 ; AVX1-NEXT:    vmovq %xmm0, %rax
 165 ; AVX1-NEXT:    vzeroupper
 166 ; AVX1-NEXT:    retq
 167 ;
 168 ; AVX2-LABEL: test_v4i64:
 169 ; AVX2:       # %bb.0:
 170 ; AVX2-NEXT:    vextracti128 $1, %ymm0, %xmm1
 171 ; AVX2-NEXT:    vpbroadcastq {{.*#+}} ymm2 = [9223372036854775808,9223372036854775808,9223372036854775808,9223372036854775808]
 172 ; AVX2-NEXT:    vpxor %xmm2, %xmm0, %xmm3
 173 ; AVX2-NEXT:    vpxor %xmm2, %xmm1, %xmm4
 174 ; AVX2-NEXT:    vpcmpgtq %xmm3, %xmm4, %xmm3
 175 ; AVX2-NEXT:    vblendvpd %xmm3, %xmm0, %xmm1, %xmm0
 176 ; AVX2-NEXT:    vpermilps {{.*#+}} xmm1 = xmm0[2,3,0,1]
 177 ; AVX2-NEXT:    vxorpd %xmm2, %xmm0, %xmm3
 178 ; AVX2-NEXT:    vxorpd %xmm2, %xmm1, %xmm2
 179 ; AVX2-NEXT:    vpcmpgtq %xmm3, %xmm2, %xmm2
 180 ; AVX2-NEXT:    vblendvpd %xmm2, %xmm0, %xmm1, %xmm0
 181 ; AVX2-NEXT:    vmovq %xmm0, %rax
 182 ; AVX2-NEXT:    vzeroupper
 183 ; AVX2-NEXT:    retq
 184 ;
 185 ; AVX512BW-LABEL: test_v4i64:
 186 ; AVX512BW:       # %bb.0:
 187 ; AVX512BW-NEXT:    # kill: def $ymm0 killed $ymm0 def $zmm0
 188 ; AVX512BW-NEXT:    vextracti128 $1, %ymm0, %xmm1
 189 ; AVX512BW-NEXT:    vpminuq %zmm1, %zmm0, %zmm0
 190 ; AVX512BW-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
 191 ; AVX512BW-NEXT:    vpminuq %zmm1, %zmm0, %zmm0
 192 ; AVX512BW-NEXT:    vmovq %xmm0, %rax
 193 ; AVX512BW-NEXT:    vzeroupper
 194 ; AVX512BW-NEXT:    retq
 195 ;
 196 ; AVX512VL-LABEL: test_v4i64:
 197 ; AVX512VL:       # %bb.0:
 198 ; AVX512VL-NEXT:    vextracti128 $1, %ymm0, %xmm1
 199 ; AVX512VL-NEXT:    vpminuq %xmm1, %xmm0, %xmm0
 200 ; AVX512VL-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
 201 ; AVX512VL-NEXT:    vpminuq %xmm1, %xmm0, %xmm0
 202 ; AVX512VL-NEXT:    vmovq %xmm0, %rax
 203 ; AVX512VL-NEXT:    vzeroupper
 204 ; AVX512VL-NEXT:    retq
 205   %1 = call i64 @llvm.experimental.vector.reduce.umin.v4i64(<4 x i64> %a0)
 206   ret i64 %1
 207 }
 208
 209 define i64 @test_v8i64(<8 x i64> %a0) {
 210 ; SSE2-LABEL: test_v8i64:
 211 ; SSE2:       # %bb.0:
 212 ; SSE2-NEXT:    movdqa {{.*#+}} xmm4 = [9223372039002259456,9223372039002259456]
 213 ; SSE2-NEXT:    movdqa %xmm1, %xmm5
 214 ; SSE2-NEXT:    pxor %xmm4, %xmm5
 215 ; SSE2-NEXT:    movdqa %xmm3, %xmm6
 216 ; SSE2-NEXT:    pxor %xmm4, %xmm6
 217 ; SSE2-NEXT:    movdqa %xmm6, %xmm7
 218 ; SSE2-NEXT:    pcmpgtd %xmm5, %xmm7
 219 ; SSE2-NEXT:    pshufd {{.*#+}} xmm8 = xmm7[0,0,2,2]
 220 ; SSE2-NEXT:    pcmpeqd %xmm5, %xmm6
 221 ; SSE2-NEXT:    pshufd {{.*#+}} xmm6 = xmm6[1,1,3,3]
 222 ; SSE2-NEXT:    pand %xmm8, %xmm6
 223 ; SSE2-NEXT:    pshufd {{.*#+}} xmm5 = xmm7[1,1,3,3]
 224 ; SSE2-NEXT:    por %xmm6, %xmm5
 225 ; SSE2-NEXT:    pand %xmm5, %xmm1
 226 ; SSE2-NEXT:    pandn %xmm3, %xmm5
 227 ; SSE2-NEXT:    por %xmm1, %xmm5
 228 ; SSE2-NEXT:    movdqa %xmm0, %xmm1
 229 ; SSE2-NEXT:    pxor %xmm4, %xmm1
 230 ; SSE2-NEXT:    movdqa %xmm2, %xmm3
 231 ; SSE2-NEXT:    pxor %xmm4, %xmm3
 232 ; SSE2-NEXT:    movdqa %xmm3, %xmm6
 233 ; SSE2-NEXT:    pcmpgtd %xmm1, %xmm6
 234 ; SSE2-NEXT:    pshufd {{.*#+}} xmm7 = xmm6[0,0,2,2]
 235 ; SSE2-NEXT:    pcmpeqd %xmm1, %xmm3
 236 ; SSE2-NEXT:    pshufd {{.*#+}} xmm1 = xmm3[1,1,3,3]
 237 ; SSE2-NEXT:    pand %xmm7, %xmm1
 238 ; SSE2-NEXT:    pshufd {{.*#+}} xmm3 = xmm6[1,1,3,3]
 239 ; SSE2-NEXT:    por %xmm1, %xmm3
 240 ; SSE2-NEXT:    pand %xmm3, %xmm0
 241 ; SSE2-NEXT:    pandn %xmm2, %xmm3
 242 ; SSE2-NEXT:    por %xmm0, %xmm3
 243 ; SSE2-NEXT:    movdqa %xmm3, %xmm0
 244 ; SSE2-NEXT:    pxor %xmm4, %xmm0
 245 ; SSE2-NEXT:    movdqa %xmm5, %xmm1
 246 ; SSE2-NEXT:    pxor %xmm4, %xmm1
 247 ; SSE2-NEXT:    movdqa %xmm1, %xmm2
 248 ; SSE2-NEXT:    pcmpgtd %xmm0, %xmm2
 249 ; SSE2-NEXT:    pshufd {{.*#+}} xmm6 = xmm2[0,0,2,2]
 250 ; SSE2-NEXT:    pcmpeqd %xmm0, %xmm1
 251 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm1[1,1,3,3]
 252 ; SSE2-NEXT:    pand %xmm6, %xmm0
 253 ; SSE2-NEXT:    pshufd {{.*#+}} xmm1 = xmm2[1,1,3,3]
 254 ; SSE2-NEXT:    por %xmm0, %xmm1
 255 ; SSE2-NEXT:    pand %xmm1, %xmm3
 256 ; SSE2-NEXT:    pandn %xmm5, %xmm1
 257 ; SSE2-NEXT:    por %xmm3, %xmm1
 258 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm1[2,3,0,1]
 259 ; SSE2-NEXT:    movdqa %xmm1, %xmm2
 260 ; SSE2-NEXT:    pxor %xmm4, %xmm2
 261 ; SSE2-NEXT:    pxor %xmm0, %xmm4
 262 ; SSE2-NEXT:    movdqa %xmm4, %xmm3
 263 ; SSE2-NEXT:    pcmpgtd %xmm2, %xmm3
 264 ; SSE2-NEXT:    pshufd {{.*#+}} xmm5 = xmm3[0,0,2,2]
 265 ; SSE2-NEXT:    pcmpeqd %xmm2, %xmm4
 266 ; SSE2-NEXT:    pshufd {{.*#+}} xmm2 = xmm4[1,1,3,3]
 267 ; SSE2-NEXT:    pand %xmm5, %xmm2
 268 ; SSE2-NEXT:    pshufd {{.*#+}} xmm3 = xmm3[1,1,3,3]
 269 ; SSE2-NEXT:    por %xmm2, %xmm3
 270 ; SSE2-NEXT:    pand %xmm3, %xmm1
 271 ; SSE2-NEXT:    pandn %xmm0, %xmm3
 272 ; SSE2-NEXT:    por %xmm1, %xmm3
 273 ; SSE2-NEXT:    movq %xmm3, %rax
 274 ; SSE2-NEXT:    retq
 275 ;
 276 ; SSE41-LABEL: test_v8i64:
 277 ; SSE41:       # %bb.0:
 278 ; SSE41-NEXT:    movdqa %xmm0, %xmm8
 279 ; SSE41-NEXT:    movdqa {{.*#+}} xmm5 = [9223372039002259456,9223372039002259456]
 280 ; SSE41-NEXT:    movdqa %xmm1, %xmm0
 281 ; SSE41-NEXT:    pxor %xmm5, %xmm0
 282 ; SSE41-NEXT:    movdqa %xmm3, %xmm6
 283 ; SSE41-NEXT:    pxor %xmm5, %xmm6
 284 ; SSE41-NEXT:    movdqa %xmm6, %xmm7
 285 ; SSE41-NEXT:    pcmpgtd %xmm0, %xmm7
 286 ; SSE41-NEXT:    pshufd {{.*#+}} xmm4 = xmm7[0,0,2,2]
 287 ; SSE41-NEXT:    pcmpeqd %xmm0, %xmm6
 288 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm6[1,1,3,3]
 289 ; SSE41-NEXT:    pand %xmm4, %xmm0
 290 ; SSE41-NEXT:    por %xmm7, %xmm0
 291 ; SSE41-NEXT:    blendvpd %xmm0, %xmm1, %xmm3
 292 ; SSE41-NEXT:    movdqa %xmm8, %xmm0
 293 ; SSE41-NEXT:    pxor %xmm5, %xmm0
 294 ; SSE41-NEXT:    movdqa %xmm2, %xmm1
 295 ; SSE41-NEXT:    pxor %xmm5, %xmm1
 296 ; SSE41-NEXT:    movdqa %xmm1, %xmm4
 297 ; SSE41-NEXT:    pcmpgtd %xmm0, %xmm4
 298 ; SSE41-NEXT:    pshufd {{.*#+}} xmm6 = xmm4[0,0,2,2]
 299 ; SSE41-NEXT:    pcmpeqd %xmm0, %xmm1
 300 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm1[1,1,3,3]
 301 ; SSE41-NEXT:    pand %xmm6, %xmm0
 302 ; SSE41-NEXT:    por %xmm4, %xmm0
 303 ; SSE41-NEXT:    blendvpd %xmm0, %xmm8, %xmm2
 304 ; SSE41-NEXT:    movapd %xmm2, %xmm0
 305 ; SSE41-NEXT:    xorpd %xmm5, %xmm0
 306 ; SSE41-NEXT:    movapd %xmm3, %xmm1
 307 ; SSE41-NEXT:    xorpd %xmm5, %xmm1
 308 ; SSE41-NEXT:    movapd %xmm1, %xmm4
 309 ; SSE41-NEXT:    pcmpgtd %xmm0, %xmm4
 310 ; SSE41-NEXT:    pshufd {{.*#+}} xmm6 = xmm4[0,0,2,2]
 311 ; SSE41-NEXT:    pcmpeqd %xmm0, %xmm1
 312 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm1[1,1,3,3]
 313 ; SSE41-NEXT:    pand %xmm6, %xmm0
 314 ; SSE41-NEXT:    por %xmm4, %xmm0
 315 ; SSE41-NEXT:    blendvpd %xmm0, %xmm2, %xmm3
 316 ; SSE41-NEXT:    pshufd {{.*#+}} xmm1 = xmm3[2,3,0,1]
 317 ; SSE41-NEXT:    movdqa %xmm3, %xmm0
 318 ; SSE41-NEXT:    pxor %xmm5, %xmm0
 319 ; SSE41-NEXT:    pxor %xmm1, %xmm5
 320 ; SSE41-NEXT:    movdqa %xmm5, %xmm2
 321 ; SSE41-NEXT:    pcmpgtd %xmm0, %xmm2
 322 ; SSE41-NEXT:    pshufd {{.*#+}} xmm4 = xmm2[0,0,2,2]
 323 ; SSE41-NEXT:    pcmpeqd %xmm0, %xmm5
 324 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm5[1,1,3,3]
 325 ; SSE41-NEXT:    pand %xmm4, %xmm0
 326 ; SSE41-NEXT:    por %xmm2, %xmm0
 327 ; SSE41-NEXT:    blendvpd %xmm0, %xmm3, %xmm1
 328 ; SSE41-NEXT:    movq %xmm1, %rax
 329 ; SSE41-NEXT:    retq
 330 ;
 331 ; AVX1-LABEL: test_v8i64:
 332 ; AVX1:       # %bb.0:
 333 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
 334 ; AVX1-NEXT:    vmovdqa {{.*#+}} xmm3 = [9223372036854775808,9223372036854775808]
 335 ; AVX1-NEXT:    vpxor %xmm3, %xmm2, %xmm4
 336 ; AVX1-NEXT:    vextractf128 $1, %ymm1, %xmm5
 337 ; AVX1-NEXT:    vpxor %xmm3, %xmm5, %xmm6
 338 ; AVX1-NEXT:    vpcmpgtq %xmm4, %xmm6, %xmm4
 339 ; AVX1-NEXT:    vpxor %xmm3, %xmm0, %xmm6
 340 ; AVX1-NEXT:    vpxor %xmm3, %xmm1, %xmm7
 341 ; AVX1-NEXT:    vpcmpgtq %xmm6, %xmm7, %xmm6
 342 ; AVX1-NEXT:    vblendvpd %xmm6, %xmm0, %xmm1, %xmm0
 343 ; AVX1-NEXT:    vxorpd %xmm3, %xmm0, %xmm1
 344 ; AVX1-NEXT:    vblendvpd %xmm4, %xmm2, %xmm5, %xmm2
 345 ; AVX1-NEXT:    vxorpd %xmm3, %xmm2, %xmm4
 346 ; AVX1-NEXT:    vpcmpgtq %xmm1, %xmm4, %xmm1
 347 ; AVX1-NEXT:    vblendvpd %xmm1, %xmm0, %xmm2, %xmm0
 348 ; AVX1-NEXT:    vpermilps {{.*#+}} xmm1 = xmm0[2,3,0,1]
 349 ; AVX1-NEXT:    vxorpd %xmm3, %xmm0, %xmm2
 350 ; AVX1-NEXT:    vxorpd %xmm3, %xmm1, %xmm3
 351 ; AVX1-NEXT:    vpcmpgtq %xmm2, %xmm3, %xmm2
 352 ; AVX1-NEXT:    vblendvpd %xmm2, %xmm0, %xmm1, %xmm0
 353 ; AVX1-NEXT:    vmovq %xmm0, %rax
 354 ; AVX1-NEXT:    vzeroupper
 355 ; AVX1-NEXT:    retq
 356 ;
 357 ; AVX2-LABEL: test_v8i64:
 358 ; AVX2:       # %bb.0:
 359 ; AVX2-NEXT:    vpbroadcastq {{.*#+}} ymm2 = [9223372036854775808,9223372036854775808,9223372036854775808,9223372036854775808]
 360 ; AVX2-NEXT:    vpxor %ymm2, %ymm0, %ymm3
 361 ; AVX2-NEXT:    vpxor %ymm2, %ymm1, %ymm4
 362 ; AVX2-NEXT:    vpcmpgtq %ymm3, %ymm4, %ymm3
 363 ; AVX2-NEXT:    vblendvpd %ymm3, %ymm0, %ymm1, %ymm0
 364 ; AVX2-NEXT:    vextractf128 $1, %ymm0, %xmm1
 365 ; AVX2-NEXT:    vxorpd %xmm2, %xmm0, %xmm3
 366 ; AVX2-NEXT:    vxorpd %xmm2, %xmm1, %xmm4
 367 ; AVX2-NEXT:    vpcmpgtq %xmm3, %xmm4, %xmm3
 368 ; AVX2-NEXT:    vblendvpd %xmm3, %xmm0, %xmm1, %xmm0
 369 ; AVX2-NEXT:    vpermilps {{.*#+}} xmm1 = xmm0[2,3,0,1]
 370 ; AVX2-NEXT:    vxorpd %xmm2, %xmm0, %xmm3
 371 ; AVX2-NEXT:    vxorpd %xmm2, %xmm1, %xmm2
 372 ; AVX2-NEXT:    vpcmpgtq %xmm3, %xmm2, %xmm2
 373 ; AVX2-NEXT:    vblendvpd %xmm2, %xmm0, %xmm1, %xmm0
 374 ; AVX2-NEXT:    vmovq %xmm0, %rax
 375 ; AVX2-NEXT:    vzeroupper
 376 ; AVX2-NEXT:    retq
 377 ;
 378 ; AVX512BW-LABEL: test_v8i64:
 379 ; AVX512BW:       # %bb.0:
 380 ; AVX512BW-NEXT:    vextracti64x4 $1, %zmm0, %ymm1
 381 ; AVX512BW-NEXT:    vpminuq %zmm1, %zmm0, %zmm0
 382 ; AVX512BW-NEXT:    vextracti128 $1, %ymm0, %xmm1
 383 ; AVX512BW-NEXT:    vpminuq %zmm1, %zmm0, %zmm0
 384 ; AVX512BW-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
 385 ; AVX512BW-NEXT:    vpminuq %zmm1, %zmm0, %zmm0
 386 ; AVX512BW-NEXT:    vmovq %xmm0, %rax
 387 ; AVX512BW-NEXT:    vzeroupper
 388 ; AVX512BW-NEXT:    retq
 389 ;
 390 ; AVX512VL-LABEL: test_v8i64:
 391 ; AVX512VL:       # %bb.0:
 392 ; AVX512VL-NEXT:    vextracti64x4 $1, %zmm0, %ymm1
 393 ; AVX512VL-NEXT:    vpminuq %zmm1, %zmm0, %zmm0
 394 ; AVX512VL-NEXT:    vextracti128 $1, %ymm0, %xmm1
 395 ; AVX512VL-NEXT:    vpminuq %xmm1, %xmm0, %xmm0
 396 ; AVX512VL-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
 397 ; AVX512VL-NEXT:    vpminuq %xmm1, %xmm0, %xmm0
 398 ; AVX512VL-NEXT:    vmovq %xmm0, %rax
 399 ; AVX512VL-NEXT:    vzeroupper
 400 ; AVX512VL-NEXT:    retq
 401   %1 = call i64 @llvm.experimental.vector.reduce.umin.v8i64(<8 x i64> %a0)
 402   ret i64 %1
 403 }
 404
 405 define i64 @test_v16i64(<16 x i64> %a0) {
 406 ; SSE2-LABEL: test_v16i64:
 407 ; SSE2:       # %bb.0:
 408 ; SSE2-NEXT:    movdqa {{.*#+}} xmm8 = [9223372039002259456,9223372039002259456]
 409 ; SSE2-NEXT:    movdqa %xmm2, %xmm9
 410 ; SSE2-NEXT:    pxor %xmm8, %xmm9
 411 ; SSE2-NEXT:    movdqa %xmm6, %xmm10
 412 ; SSE2-NEXT:    pxor %xmm8, %xmm10
 413 ; SSE2-NEXT:    movdqa %xmm10, %xmm11
 414 ; SSE2-NEXT:    pcmpgtd %xmm9, %xmm11
 415 ; SSE2-NEXT:    pshufd {{.*#+}} xmm12 = xmm11[0,0,2,2]
 416 ; SSE2-NEXT:    pcmpeqd %xmm9, %xmm10
 417 ; SSE2-NEXT:    pshufd {{.*#+}} xmm10 = xmm10[1,1,3,3]
 418 ; SSE2-NEXT:    pand %xmm12, %xmm10
 419 ; SSE2-NEXT:    pshufd {{.*#+}} xmm9 = xmm11[1,1,3,3]
 420 ; SSE2-NEXT:    por %xmm10, %xmm9
 421 ; SSE2-NEXT:    pand %xmm9, %xmm2
 422 ; SSE2-NEXT:    pandn %xmm6, %xmm9
 423 ; SSE2-NEXT:    por %xmm2, %xmm9
 424 ; SSE2-NEXT:    movdqa %xmm0, %xmm2
 425 ; SSE2-NEXT:    pxor %xmm8, %xmm2
 426 ; SSE2-NEXT:    movdqa %xmm4, %xmm6
 427 ; SSE2-NEXT:    pxor %xmm8, %xmm6
 428 ; SSE2-NEXT:    movdqa %xmm6, %xmm10
 429 ; SSE2-NEXT:    pcmpgtd %xmm2, %xmm10
 430 ; SSE2-NEXT:    pshufd {{.*#+}} xmm11 = xmm10[0,0,2,2]
 431 ; SSE2-NEXT:    pcmpeqd %xmm2, %xmm6
 432 ; SSE2-NEXT:    pshufd {{.*#+}} xmm6 = xmm6[1,1,3,3]
 433 ; SSE2-NEXT:    pand %xmm11, %xmm6
 434 ; SSE2-NEXT:    pshufd {{.*#+}} xmm2 = xmm10[1,1,3,3]
 435 ; SSE2-NEXT:    por %xmm6, %xmm2
 436 ; SSE2-NEXT:    pand %xmm2, %xmm0
 437 ; SSE2-NEXT:    pandn %xmm4, %xmm2
 438 ; SSE2-NEXT:    por %xmm0, %xmm2
 439 ; SSE2-NEXT:    movdqa %xmm3, %xmm0
 440 ; SSE2-NEXT:    pxor %xmm8, %xmm0
 441 ; SSE2-NEXT:    movdqa %xmm7, %xmm4
 442 ; SSE2-NEXT:    pxor %xmm8, %xmm4
 443 ; SSE2-NEXT:    movdqa %xmm4, %xmm6
 444 ; SSE2-NEXT:    pcmpgtd %xmm0, %xmm6
 445 ; SSE2-NEXT:    pshufd {{.*#+}} xmm10 = xmm6[0,0,2,2]
 446 ; SSE2-NEXT:    pcmpeqd %xmm0, %xmm4
 447 ; SSE2-NEXT:    pshufd {{.*#+}} xmm4 = xmm4[1,1,3,3]
 448 ; SSE2-NEXT:    pand %xmm10, %xmm4
 449 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm6[1,1,3,3]
 450 ; SSE2-NEXT:    por %xmm4, %xmm0
 451 ; SSE2-NEXT:    pand %xmm0, %xmm3
 452 ; SSE2-NEXT:    pandn %xmm7, %xmm0
 453 ; SSE2-NEXT:    por %xmm3, %xmm0
 454 ; SSE2-NEXT:    movdqa %xmm1, %xmm3
 455 ; SSE2-NEXT:    pxor %xmm8, %xmm3
 456 ; SSE2-NEXT:    movdqa %xmm5, %xmm4
 457 ; SSE2-NEXT:    pxor %xmm8, %xmm4
 458 ; SSE2-NEXT:    movdqa %xmm4, %xmm6
 459 ; SSE2-NEXT:    pcmpgtd %xmm3, %xmm6
 460 ; SSE2-NEXT:    pshufd {{.*#+}} xmm7 = xmm6[0,0,2,2]
 461 ; SSE2-NEXT:    pcmpeqd %xmm3, %xmm4
 462 ; SSE2-NEXT:    pshufd {{.*#+}} xmm3 = xmm4[1,1,3,3]
 463 ; SSE2-NEXT:    pand %xmm7, %xmm3
 464 ; SSE2-NEXT:    pshufd {{.*#+}} xmm4 = xmm6[1,1,3,3]
 465 ; SSE2-NEXT:    por %xmm3, %xmm4
 466 ; SSE2-NEXT:    pand %xmm4, %xmm1
 467 ; SSE2-NEXT:    pandn %xmm5, %xmm4
 468 ; SSE2-NEXT:    por %xmm1, %xmm4
 469 ; SSE2-NEXT:    movdqa %xmm4, %xmm1
 470 ; SSE2-NEXT:    pxor %xmm8, %xmm1
 471 ; SSE2-NEXT:    movdqa %xmm0, %xmm3
 472 ; SSE2-NEXT:    pxor %xmm8, %xmm3
 473 ; SSE2-NEXT:    movdqa %xmm3, %xmm5
 474 ; SSE2-NEXT:    pcmpgtd %xmm1, %xmm5
 475 ; SSE2-NEXT:    pshufd {{.*#+}} xmm6 = xmm5[0,0,2,2]
 476 ; SSE2-NEXT:    pcmpeqd %xmm1, %xmm3
 477 ; SSE2-NEXT:    pshufd {{.*#+}} xmm3 = xmm3[1,1,3,3]
 478 ; SSE2-NEXT:    pand %xmm6, %xmm3
 479 ; SSE2-NEXT:    pshufd {{.*#+}} xmm1 = xmm5[1,1,3,3]
 480 ; SSE2-NEXT:    por %xmm3, %xmm1
 481 ; SSE2-NEXT:    pand %xmm1, %xmm4
 482 ; SSE2-NEXT:    pandn %xmm0, %xmm1
 483 ; SSE2-NEXT:    por %xmm4, %xmm1
 484 ; SSE2-NEXT:    movdqa %xmm2, %xmm0
 485 ; SSE2-NEXT:    pxor %xmm8, %xmm0
 486 ; SSE2-NEXT:    movdqa %xmm9, %xmm3
 487 ; SSE2-NEXT:    pxor %xmm8, %xmm3
 488 ; SSE2-NEXT:    movdqa %xmm3, %xmm4
 489 ; SSE2-NEXT:    pcmpgtd %xmm0, %xmm4
 490 ; SSE2-NEXT:    pshufd {{.*#+}} xmm5 = xmm4[0,0,2,2]
 491 ; SSE2-NEXT:    pcmpeqd %xmm0, %xmm3
 492 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm3[1,1,3,3]
 493 ; SSE2-NEXT:    pand %xmm5, %xmm0
 494 ; SSE2-NEXT:    pshufd {{.*#+}} xmm3 = xmm4[1,1,3,3]
 495 ; SSE2-NEXT:    por %xmm0, %xmm3
 496 ; SSE2-NEXT:    pand %xmm3, %xmm2
 497 ; SSE2-NEXT:    pandn %xmm9, %xmm3
 498 ; SSE2-NEXT:    por %xmm2, %xmm3
 499 ; SSE2-NEXT:    movdqa %xmm3, %xmm0
 500 ; SSE2-NEXT:    pxor %xmm8, %xmm0
 501 ; SSE2-NEXT:    movdqa %xmm1, %xmm2
 502 ; SSE2-NEXT:    pxor %xmm8, %xmm2
 503 ; SSE2-NEXT:    movdqa %xmm2, %xmm4
 504 ; SSE2-NEXT:    pcmpgtd %xmm0, %xmm4
 505 ; SSE2-NEXT:    pshufd {{.*#+}} xmm5 = xmm4[0,0,2,2]
 506 ; SSE2-NEXT:    pcmpeqd %xmm0, %xmm2
 507 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm2[1,1,3,3]
 508 ; SSE2-NEXT:    pand %xmm5, %xmm0
 509 ; SSE2-NEXT:    pshufd {{.*#+}} xmm2 = xmm4[1,1,3,3]
 510 ; SSE2-NEXT:    por %xmm0, %xmm2
 511 ; SSE2-NEXT:    pand %xmm2, %xmm3
 512 ; SSE2-NEXT:    pandn %xmm1, %xmm2
 513 ; SSE2-NEXT:    por %xmm3, %xmm2
 514 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm2[2,3,0,1]
 515 ; SSE2-NEXT:    movdqa %xmm2, %xmm1
 516 ; SSE2-NEXT:    pxor %xmm8, %xmm1
 517 ; SSE2-NEXT:    pxor %xmm0, %xmm8
 518 ; SSE2-NEXT:    movdqa %xmm8, %xmm3
 519 ; SSE2-NEXT:    pcmpgtd %xmm1, %xmm3
 520 ; SSE2-NEXT:    pshufd {{.*#+}} xmm4 = xmm3[0,0,2,2]
 521 ; SSE2-NEXT:    pcmpeqd %xmm1, %xmm8
 522 ; SSE2-NEXT:    pshufd {{.*#+}} xmm1 = xmm8[1,1,3,3]
 523 ; SSE2-NEXT:    pand %xmm4, %xmm1
 524 ; SSE2-NEXT:    pshufd {{.*#+}} xmm3 = xmm3[1,1,3,3]
 525 ; SSE2-NEXT:    por %xmm1, %xmm3
 526 ; SSE2-NEXT:    pand %xmm3, %xmm2
 527 ; SSE2-NEXT:    pandn %xmm0, %xmm3
 528 ; SSE2-NEXT:    por %xmm2, %xmm3
 529 ; SSE2-NEXT:    movq %xmm3, %rax
 530 ; SSE2-NEXT:    retq
 531 ;
 532 ; SSE41-LABEL: test_v16i64:
 533 ; SSE41:       # %bb.0:
 534 ; SSE41-NEXT:    movdqa %xmm0, %xmm8
 535 ; SSE41-NEXT:    movdqa {{.*#+}} xmm9 = [9223372039002259456,9223372039002259456]
 536 ; SSE41-NEXT:    movdqa %xmm2, %xmm10
 537 ; SSE41-NEXT:    pxor %xmm9, %xmm10
 538 ; SSE41-NEXT:    movdqa %xmm6, %xmm0
 539 ; SSE41-NEXT:    pxor %xmm9, %xmm0
 540 ; SSE41-NEXT:    movdqa %xmm0, %xmm11
 541 ; SSE41-NEXT:    pcmpgtd %xmm10, %xmm11
 542 ; SSE41-NEXT:    pshufd {{.*#+}} xmm12 = xmm11[0,0,2,2]
 543 ; SSE41-NEXT:    pcmpeqd %xmm10, %xmm0
 544 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm0[1,1,3,3]
 545 ; SSE41-NEXT:    pand %xmm12, %xmm0
 546 ; SSE41-NEXT:    por %xmm11, %xmm0
 547 ; SSE41-NEXT:    blendvpd %xmm0, %xmm2, %xmm6
 548 ; SSE41-NEXT:    movdqa %xmm8, %xmm0
 549 ; SSE41-NEXT:    pxor %xmm9, %xmm0
 550 ; SSE41-NEXT:    movdqa %xmm4, %xmm2
 551 ; SSE41-NEXT:    pxor %xmm9, %xmm2
 552 ; SSE41-NEXT:    movdqa %xmm2, %xmm10
 553 ; SSE41-NEXT:    pcmpgtd %xmm0, %xmm10
 554 ; SSE41-NEXT:    pshufd {{.*#+}} xmm11 = xmm10[0,0,2,2]
 555 ; SSE41-NEXT:    pcmpeqd %xmm0, %xmm2
 556 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm2[1,1,3,3]
 557 ; SSE41-NEXT:    pand %xmm11, %xmm0
 558 ; SSE41-NEXT:    por %xmm10, %xmm0
 559 ; SSE41-NEXT:    blendvpd %xmm0, %xmm8, %xmm4
 560 ; SSE41-NEXT:    movdqa %xmm3, %xmm0
 561 ; SSE41-NEXT:    pxor %xmm9, %xmm0
 562 ; SSE41-NEXT:    movdqa %xmm7, %xmm2
 563 ; SSE41-NEXT:    pxor %xmm9, %xmm2
 564 ; SSE41-NEXT:    movdqa %xmm2, %xmm8
 565 ; SSE41-NEXT:    pcmpgtd %xmm0, %xmm8
 566 ; SSE41-NEXT:    pshufd {{.*#+}} xmm10 = xmm8[0,0,2,2]
 567 ; SSE41-NEXT:    pcmpeqd %xmm0, %xmm2
 568 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm2[1,1,3,3]
 569 ; SSE41-NEXT:    pand %xmm10, %xmm0
 570 ; SSE41-NEXT:    por %xmm8, %xmm0
 571 ; SSE41-NEXT:    blendvpd %xmm0, %xmm3, %xmm7
 572 ; SSE41-NEXT:    movdqa %xmm1, %xmm0
 573 ; SSE41-NEXT:    pxor %xmm9, %xmm0
 574 ; SSE41-NEXT:    movdqa %xmm5, %xmm2
 575 ; SSE41-NEXT:    pxor %xmm9, %xmm2
 576 ; SSE41-NEXT:    movdqa %xmm2, %xmm3
 577 ; SSE41-NEXT:    pcmpgtd %xmm0, %xmm3
 578 ; SSE41-NEXT:    pshufd {{.*#+}} xmm8 = xmm3[0,0,2,2]
 579 ; SSE41-NEXT:    pcmpeqd %xmm0, %xmm2
 580 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm2[1,1,3,3]
 581 ; SSE41-NEXT:    pand %xmm8, %xmm0
 582 ; SSE41-NEXT:    por %xmm3, %xmm0
 583 ; SSE41-NEXT:    blendvpd %xmm0, %xmm1, %xmm5
 584 ; SSE41-NEXT:    movapd %xmm5, %xmm0
 585 ; SSE41-NEXT:    xorpd %xmm9, %xmm0
 586 ; SSE41-NEXT:    movapd %xmm7, %xmm1
 587 ; SSE41-NEXT:    xorpd %xmm9, %xmm1
 588 ; SSE41-NEXT:    movapd %xmm1, %xmm2
 589 ; SSE41-NEXT:    pcmpgtd %xmm0, %xmm2
 590 ; SSE41-NEXT:    pshufd {{.*#+}} xmm3 = xmm2[0,0,2,2]
 591 ; SSE41-NEXT:    pcmpeqd %xmm0, %xmm1
 592 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm1[1,1,3,3]
 593 ; SSE41-NEXT:    pand %xmm3, %xmm0
 594 ; SSE41-NEXT:    por %xmm2, %xmm0
 595 ; SSE41-NEXT:    blendvpd %xmm0, %xmm5, %xmm7
 596 ; SSE41-NEXT:    movapd %xmm4, %xmm0
 597 ; SSE41-NEXT:    xorpd %xmm9, %xmm0
 598 ; SSE41-NEXT:    movapd %xmm6, %xmm1
 599 ; SSE41-NEXT:    xorpd %xmm9, %xmm1
 600 ; SSE41-NEXT:    movapd %xmm1, %xmm2
 601 ; SSE41-NEXT:    pcmpgtd %xmm0, %xmm2
 602 ; SSE41-NEXT:    pshufd {{.*#+}} xmm3 = xmm2[0,0,2,2]
 603 ; SSE41-NEXT:    pcmpeqd %xmm0, %xmm1
 604 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm1[1,1,3,3]
 605 ; SSE41-NEXT:    pand %xmm3, %xmm0
 606 ; SSE41-NEXT:    por %xmm2, %xmm0
 607 ; SSE41-NEXT:    blendvpd %xmm0, %xmm4, %xmm6
 608 ; SSE41-NEXT:    movapd %xmm6, %xmm0
 609 ; SSE41-NEXT:    xorpd %xmm9, %xmm0
 610 ; SSE41-NEXT:    movapd %xmm7, %xmm1
 611 ; SSE41-NEXT:    xorpd %xmm9, %xmm1
 612 ; SSE41-NEXT:    movapd %xmm1, %xmm2
 613 ; SSE41-NEXT:    pcmpgtd %xmm0, %xmm2
 614 ; SSE41-NEXT:    pshufd {{.*#+}} xmm3 = xmm2[0,0,2,2]
 615 ; SSE41-NEXT:    pcmpeqd %xmm0, %xmm1
 616 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm1[1,1,3,3]
 617 ; SSE41-NEXT:    pand %xmm3, %xmm0
 618 ; SSE41-NEXT:    por %xmm2, %xmm0
 619 ; SSE41-NEXT:    blendvpd %xmm0, %xmm6, %xmm7
 620 ; SSE41-NEXT:    pshufd {{.*#+}} xmm1 = xmm7[2,3,0,1]
 621 ; SSE41-NEXT:    movdqa %xmm7, %xmm0
 622 ; SSE41-NEXT:    pxor %xmm9, %xmm0
 623 ; SSE41-NEXT:    pxor %xmm1, %xmm9
 624 ; SSE41-NEXT:    movdqa %xmm9, %xmm2
 625 ; SSE41-NEXT:    pcmpgtd %xmm0, %xmm2
 626 ; SSE41-NEXT:    pshufd {{.*#+}} xmm3 = xmm2[0,0,2,2]
 627 ; SSE41-NEXT:    pcmpeqd %xmm0, %xmm9
 628 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm9[1,1,3,3]
 629 ; SSE41-NEXT:    pand %xmm3, %xmm0
 630 ; SSE41-NEXT:    por %xmm2, %xmm0
 631 ; SSE41-NEXT:    blendvpd %xmm0, %xmm7, %xmm1
 632 ; SSE41-NEXT:    movq %xmm1, %rax
 633 ; SSE41-NEXT:    retq
 634 ;
 635 ; AVX1-LABEL: test_v16i64:
 636 ; AVX1:       # %bb.0:
 637 ; AVX1-NEXT:    vmovdqa {{.*#+}} xmm4 = [9223372036854775808,9223372036854775808]
 638 ; AVX1-NEXT:    vpxor %xmm4, %xmm1, %xmm5
 639 ; AVX1-NEXT:    vpxor %xmm4, %xmm3, %xmm6
 640 ; AVX1-NEXT:    vpcmpgtq %xmm5, %xmm6, %xmm8
 641 ; AVX1-NEXT:    vpxor %xmm4, %xmm0, %xmm6
 642 ; AVX1-NEXT:    vpxor %xmm4, %xmm2, %xmm7
 643 ; AVX1-NEXT:    vpcmpgtq %xmm6, %xmm7, %xmm9
 644 ; AVX1-NEXT:    vextractf128 $1, %ymm1, %xmm12
 645 ; AVX1-NEXT:    vpxor %xmm4, %xmm12, %xmm10
 646 ; AVX1-NEXT:    vextractf128 $1, %ymm3, %xmm13
 647 ; AVX1-NEXT:    vpxor %xmm4, %xmm13, %xmm5
 648 ; AVX1-NEXT:    vpcmpgtq %xmm10, %xmm5, %xmm10
 649 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm5
 650 ; AVX1-NEXT:    vpxor %xmm4, %xmm5, %xmm11
 651 ; AVX1-NEXT:    vextractf128 $1, %ymm2, %xmm7
 652 ; AVX1-NEXT:    vpxor %xmm4, %xmm7, %xmm6
 653 ; AVX1-NEXT:    vpcmpgtq %xmm11, %xmm6, %xmm6
 654 ; AVX1-NEXT:    vblendvpd %xmm6, %xmm5, %xmm7, %xmm5
 655 ; AVX1-NEXT:    vxorpd %xmm4, %xmm5, %xmm11
 656 ; AVX1-NEXT:    vblendvpd %xmm10, %xmm12, %xmm13, %xmm7
 657 ; AVX1-NEXT:    vxorpd %xmm4, %xmm7, %xmm6
 658 ; AVX1-NEXT:    vpcmpgtq %xmm11, %xmm6, %xmm6
 659 ; AVX1-NEXT:    vblendvpd %xmm9, %xmm0, %xmm2, %xmm0
 660 ; AVX1-NEXT:    vxorpd %xmm4, %xmm0, %xmm2
 661 ; AVX1-NEXT:    vblendvpd %xmm8, %xmm1, %xmm3, %xmm1
 662 ; AVX1-NEXT:    vxorpd %xmm4, %xmm1, %xmm3
 663 ; AVX1-NEXT:    vpcmpgtq %xmm2, %xmm3, %xmm2
 664 ; AVX1-NEXT:    vblendvpd %xmm2, %xmm0, %xmm1, %xmm0
 665 ; AVX1-NEXT:    vxorpd %xmm4, %xmm0, %xmm1
 666 ; AVX1-NEXT:    vblendvpd %xmm6, %xmm5, %xmm7, %xmm2
 667 ; AVX1-NEXT:    vxorpd %xmm4, %xmm2, %xmm3
 668 ; AVX1-NEXT:    vpcmpgtq %xmm1, %xmm3, %xmm1
 669 ; AVX1-NEXT:    vblendvpd %xmm1, %xmm0, %xmm2, %xmm0
 670 ; AVX1-NEXT:    vpermilps {{.*#+}} xmm1 = xmm0[2,3,0,1]
 671 ; AVX1-NEXT:    vxorpd %xmm4, %xmm0, %xmm2
 672 ; AVX1-NEXT:    vxorpd %xmm4, %xmm1, %xmm3
 673 ; AVX1-NEXT:    vpcmpgtq %xmm2, %xmm3, %xmm2
 674 ; AVX1-NEXT:    vblendvpd %xmm2, %xmm0, %xmm1, %xmm0
 675 ; AVX1-NEXT:    vmovq %xmm0, %rax
 676 ; AVX1-NEXT:    vzeroupper
 677 ; AVX1-NEXT:    retq
 678 ;
 679 ; AVX2-LABEL: test_v16i64:
 680 ; AVX2:       # %bb.0:
 681 ; AVX2-NEXT:    vpbroadcastq {{.*#+}} ymm4 = [9223372036854775808,9223372036854775808,9223372036854775808,9223372036854775808]
 682 ; AVX2-NEXT:    vpxor %ymm4, %ymm1, %ymm5
 683 ; AVX2-NEXT:    vpxor %ymm4, %ymm3, %ymm6
 684 ; AVX2-NEXT:    vpcmpgtq %ymm5, %ymm6, %ymm5
 685 ; AVX2-NEXT:    vblendvpd %ymm5, %ymm1, %ymm3, %ymm1
 686 ; AVX2-NEXT:    vpxor %ymm4, %ymm0, %ymm3
 687 ; AVX2-NEXT:    vpxor %ymm4, %ymm2, %ymm5
 688 ; AVX2-NEXT:    vpcmpgtq %ymm3, %ymm5, %ymm3
 689 ; AVX2-NEXT:    vblendvpd %ymm3, %ymm0, %ymm2, %ymm0
 690 ; AVX2-NEXT:    vxorpd %ymm4, %ymm0, %ymm2
 691 ; AVX2-NEXT:    vxorpd %ymm4, %ymm1, %ymm3
 692 ; AVX2-NEXT:    vpcmpgtq %ymm2, %ymm3, %ymm2
 693 ; AVX2-NEXT:    vblendvpd %ymm2, %ymm0, %ymm1, %ymm0
 694 ; AVX2-NEXT:    vextractf128 $1, %ymm0, %xmm1
 695 ; AVX2-NEXT:    vxorpd %xmm4, %xmm0, %xmm2
 696 ; AVX2-NEXT:    vxorpd %xmm4, %xmm1, %xmm3
 697 ; AVX2-NEXT:    vpcmpgtq %xmm2, %xmm3, %xmm2
 698 ; AVX2-NEXT:    vblendvpd %xmm2, %xmm0, %xmm1, %xmm0
 699 ; AVX2-NEXT:    vpermilps {{.*#+}} xmm1 = xmm0[2,3,0,1]
 700 ; AVX2-NEXT:    vxorpd %xmm4, %xmm0, %xmm2
 701 ; AVX2-NEXT:    vxorpd %xmm4, %xmm1, %xmm3
 702 ; AVX2-NEXT:    vpcmpgtq %xmm2, %xmm3, %xmm2
 703 ; AVX2-NEXT:    vblendvpd %xmm2, %xmm0, %xmm1, %xmm0
 704 ; AVX2-NEXT:    vmovq %xmm0, %rax
 705 ; AVX2-NEXT:    vzeroupper
 706 ; AVX2-NEXT:    retq
 707 ;
 708 ; AVX512BW-LABEL: test_v16i64:
 709 ; AVX512BW:       # %bb.0:
 710 ; AVX512BW-NEXT:    vpminuq %zmm1, %zmm0, %zmm0
 711 ; AVX512BW-NEXT:    vextracti64x4 $1, %zmm0, %ymm1
 712 ; AVX512BW-NEXT:    vpminuq %zmm1, %zmm0, %zmm0
 713 ; AVX512BW-NEXT:    vextracti128 $1, %ymm0, %xmm1
 714 ; AVX512BW-NEXT:    vpminuq %zmm1, %zmm0, %zmm0
 715 ; AVX512BW-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
 716 ; AVX512BW-NEXT:    vpminuq %zmm1, %zmm0, %zmm0
 717 ; AVX512BW-NEXT:    vmovq %xmm0, %rax
 718 ; AVX512BW-NEXT:    vzeroupper
 719 ; AVX512BW-NEXT:    retq
 720 ;
 721 ; AVX512VL-LABEL: test_v16i64:
 722 ; AVX512VL:       # %bb.0:
 723 ; AVX512VL-NEXT:    vpminuq %zmm1, %zmm0, %zmm0
 724 ; AVX512VL-NEXT:    vextracti64x4 $1, %zmm0, %ymm1
 725 ; AVX512VL-NEXT:    vpminuq %zmm1, %zmm0, %zmm0
 726 ; AVX512VL-NEXT:    vextracti128 $1, %ymm0, %xmm1
 727 ; AVX512VL-NEXT:    vpminuq %xmm1, %xmm0, %xmm0
 728 ; AVX512VL-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
 729 ; AVX512VL-NEXT:    vpminuq %xmm1, %xmm0, %xmm0
 730 ; AVX512VL-NEXT:    vmovq %xmm0, %rax
 731 ; AVX512VL-NEXT:    vzeroupper
 732 ; AVX512VL-NEXT:    retq
 733   %1 = call i64 @llvm.experimental.vector.reduce.umin.v16i64(<16 x i64> %a0)
 734   ret i64 %1
 735 }
 736
 737 ;
 738 ; vXi32
 739 ;
 740
 741 define i32 @test_v2i32(<2 x i32> %a0) {
 742 ; SSE2-LABEL: test_v2i32:
 743 ; SSE2:       # %bb.0:
 744 ; SSE2-NEXT:    movdqa {{.*#+}} xmm1 = [4294967295,0,4294967295,0]
 745 ; SSE2-NEXT:    pand %xmm0, %xmm1
 746 ; SSE2-NEXT:    pxor %xmm2, %xmm2
 747 ; SSE2-NEXT:    punpckhdq {{.*#+}} xmm0 = xmm0[2],xmm2[2],xmm0[3],xmm2[3]
 748 ; SSE2-NEXT:    movdqa {{.*#+}} xmm2 = [2147483648,2147483648]
 749 ; SSE2-NEXT:    movdqa %xmm1, %xmm3
 750 ; SSE2-NEXT:    pxor %xmm2, %xmm3
 751 ; SSE2-NEXT:    pxor %xmm0, %xmm2
 752 ; SSE2-NEXT:    movdqa %xmm2, %xmm4
 753 ; SSE2-NEXT:    pcmpgtd %xmm3, %xmm4
 754 ; SSE2-NEXT:    pshufd {{.*#+}} xmm5 = xmm4[0,0,2,2]
 755 ; SSE2-NEXT:    pcmpeqd %xmm3, %xmm2
 756 ; SSE2-NEXT:    pshufd {{.*#+}} xmm2 = xmm2[1,1,3,3]
 757 ; SSE2-NEXT:    pand %xmm5, %xmm2
 758 ; SSE2-NEXT:    pshufd {{.*#+}} xmm3 = xmm4[1,1,3,3]
 759 ; SSE2-NEXT:    por %xmm2, %xmm3
 760 ; SSE2-NEXT:    pand %xmm3, %xmm1
 761 ; SSE2-NEXT:    pandn %xmm0, %xmm3
 762 ; SSE2-NEXT:    por %xmm1, %xmm3
 763 ; SSE2-NEXT:    movd %xmm3, %eax
 764 ; SSE2-NEXT:    retq
 765 ;
 766 ; SSE41-LABEL: test_v2i32:
 767 ; SSE41:       # %bb.0:
 768 ; SSE41-NEXT:    pxor %xmm1, %xmm1
 769 ; SSE41-NEXT:    pblendw {{.*#+}} xmm1 = xmm0[0,1],xmm1[2,3],xmm0[4,5],xmm1[6,7]
 770 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
 771 ; SSE41-NEXT:    pmovzxdq {{.*#+}} xmm2 = xmm0[0],zero,xmm0[1],zero
 772 ; SSE41-NEXT:    movdqa {{.*#+}} xmm3 = [2147483648,2147483648]
 773 ; SSE41-NEXT:    movdqa %xmm1, %xmm0
 774 ; SSE41-NEXT:    pxor %xmm3, %xmm0
 775 ; SSE41-NEXT:    pxor %xmm2, %xmm3
 776 ; SSE41-NEXT:    movdqa %xmm3, %xmm4
 777 ; SSE41-NEXT:    pcmpeqd %xmm0, %xmm4
 778 ; SSE41-NEXT:    pcmpgtd %xmm0, %xmm3
 779 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm3[0,0,2,2]
 780 ; SSE41-NEXT:    pand %xmm4, %xmm0
 781 ; SSE41-NEXT:    por %xmm3, %xmm0
 782 ; SSE41-NEXT:    blendvpd %xmm0, %xmm1, %xmm2
 783 ; SSE41-NEXT:    movd %xmm2, %eax
 784 ; SSE41-NEXT:    retq
 785 ;
 786 ; AVX1-LABEL: test_v2i32:
 787 ; AVX1:       # %bb.0:
 788 ; AVX1-NEXT:    vpxor %xmm1, %xmm1, %xmm1
 789 ; AVX1-NEXT:    vpblendw {{.*#+}} xmm2 = xmm0[0,1],xmm1[2,3],xmm0[4,5],xmm1[6,7]
 790 ; AVX1-NEXT:    vpunpckhdq {{.*#+}} xmm0 = xmm0[2],xmm1[2],xmm0[3],xmm1[3]
 791 ; AVX1-NEXT:    vpcmpgtq %xmm2, %xmm0, %xmm1
 792 ; AVX1-NEXT:    vblendvpd %xmm1, %xmm2, %xmm0, %xmm0
 793 ; AVX1-NEXT:    vmovd %xmm0, %eax
 794 ; AVX1-NEXT:    retq
 795 ;
 796 ; AVX2-LABEL: test_v2i32:
 797 ; AVX2:       # %bb.0:
 798 ; AVX2-NEXT:    vpxor %xmm1, %xmm1, %xmm1
 799 ; AVX2-NEXT:    vpblendd {{.*#+}} xmm2 = xmm0[0],xmm1[1],xmm0[2],xmm1[3]
 800 ; AVX2-NEXT:    vpunpckhdq {{.*#+}} xmm0 = xmm0[2],xmm1[2],xmm0[3],xmm1[3]
 801 ; AVX2-NEXT:    vpcmpgtq %xmm2, %xmm0, %xmm1
 802 ; AVX2-NEXT:    vblendvpd %xmm1, %xmm2, %xmm0, %xmm0
 803 ; AVX2-NEXT:    vmovd %xmm0, %eax
 804 ; AVX2-NEXT:    retq
 805 ;
 806 ; AVX512BW-LABEL: test_v2i32:
 807 ; AVX512BW:       # %bb.0:
 808 ; AVX512BW-NEXT:    vpxor %xmm1, %xmm1, %xmm1
 809 ; AVX512BW-NEXT:    vpblendd {{.*#+}} xmm2 = xmm0[0],xmm1[1],xmm0[2],xmm1[3]
 810 ; AVX512BW-NEXT:    vpunpckhdq {{.*#+}} xmm0 = xmm0[2],xmm1[2],xmm0[3],xmm1[3]
 811 ; AVX512BW-NEXT:    vpminuq %zmm0, %zmm2, %zmm0
 812 ; AVX512BW-NEXT:    vmovd %xmm0, %eax
 813 ; AVX512BW-NEXT:    vzeroupper
 814 ; AVX512BW-NEXT:    retq
 815 ;
 816 ; AVX512VL-LABEL: test_v2i32:
 817 ; AVX512VL:       # %bb.0:
 818 ; AVX512VL-NEXT:    vpxor %xmm1, %xmm1, %xmm1
 819 ; AVX512VL-NEXT:    vpblendd {{.*#+}} xmm1 = xmm0[0],xmm1[1],xmm0[2],xmm1[3]
 820 ; AVX512VL-NEXT:    vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
 821 ; AVX512VL-NEXT:    vpmovzxdq {{.*#+}} xmm0 = xmm0[0],zero,xmm0[1],zero
 822 ; AVX512VL-NEXT:    vpminuq %xmm0, %xmm1, %xmm0
 823 ; AVX512VL-NEXT:    vmovd %xmm0, %eax
 824 ; AVX512VL-NEXT:    retq
 825   %1 = call i32 @llvm.experimental.vector.reduce.umin.v2i32(<2 x i32> %a0)
 826   ret i32 %1
 827 }
 828
 829 define i32 @test_v4i32(<4 x i32> %a0) {
 830 ; SSE2-LABEL: test_v4i32:
 831 ; SSE2:       # %bb.0:
 832 ; SSE2-NEXT:    pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
 833 ; SSE2-NEXT:    movdqa {{.*#+}} xmm2 = [2147483648,2147483648,2147483648,2147483648]
 834 ; SSE2-NEXT:    movdqa %xmm0, %xmm3
 835 ; SSE2-NEXT:    pxor %xmm2, %xmm3
 836 ; SSE2-NEXT:    movdqa %xmm1, %xmm4
 837 ; SSE2-NEXT:    pxor %xmm2, %xmm4
 838 ; SSE2-NEXT:    pcmpgtd %xmm3, %xmm4
 839 ; SSE2-NEXT:    pand %xmm4, %xmm0
 840 ; SSE2-NEXT:    pandn %xmm1, %xmm4
 841 ; SSE2-NEXT:    por %xmm0, %xmm4
 842 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm4[1,1,2,3]
 843 ; SSE2-NEXT:    movdqa %xmm4, %xmm1
 844 ; SSE2-NEXT:    pxor %xmm2, %xmm1
 845 ; SSE2-NEXT:    pxor %xmm0, %xmm2
 846 ; SSE2-NEXT:    pcmpgtd %xmm1, %xmm2
 847 ; SSE2-NEXT:    pand %xmm2, %xmm4
 848 ; SSE2-NEXT:    pandn %xmm0, %xmm2
 849 ; SSE2-NEXT:    por %xmm4, %xmm2
 850 ; SSE2-NEXT:    movd %xmm2, %eax
 851 ; SSE2-NEXT:    retq
 852 ;
 853 ; SSE41-LABEL: test_v4i32:
 854 ; SSE41:       # %bb.0:
 855 ; SSE41-NEXT:    pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
 856 ; SSE41-NEXT:    pminud %xmm0, %xmm1
 857 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
 858 ; SSE41-NEXT:    pminud %xmm1, %xmm0
 859 ; SSE41-NEXT:    movd %xmm0, %eax
 860 ; SSE41-NEXT:    retq
 861 ;
 862 ; AVX-LABEL: test_v4i32:
 863 ; AVX:       # %bb.0:
 864 ; AVX-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
 865 ; AVX-NEXT:    vpminud %xmm1, %xmm0, %xmm0
 866 ; AVX-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
 867 ; AVX-NEXT:    vpminud %xmm1, %xmm0, %xmm0
 868 ; AVX-NEXT:    vmovd %xmm0, %eax
 869 ; AVX-NEXT:    retq
 870 ;
 871 ; AVX512-LABEL: test_v4i32:
 872 ; AVX512:       # %bb.0:
 873 ; AVX512-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
 874 ; AVX512-NEXT:    vpminud %xmm1, %xmm0, %xmm0
 875 ; AVX512-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
 876 ; AVX512-NEXT:    vpminud %xmm1, %xmm0, %xmm0
 877 ; AVX512-NEXT:    vmovd %xmm0, %eax
 878 ; AVX512-NEXT:    retq
 879   %1 = call i32 @llvm.experimental.vector.reduce.umin.v4i32(<4 x i32> %a0)
 880   ret i32 %1
 881 }
 882
 883 define i32 @test_v8i32(<8 x i32> %a0) {
 884 ; SSE2-LABEL: test_v8i32:
 885 ; SSE2:       # %bb.0:
 886 ; SSE2-NEXT:    movdqa {{.*#+}} xmm2 = [2147483648,2147483648,2147483648,2147483648]
 887 ; SSE2-NEXT:    movdqa %xmm0, %xmm3
 888 ; SSE2-NEXT:    pxor %xmm2, %xmm3
 889 ; SSE2-NEXT:    movdqa %xmm1, %xmm4
 890 ; SSE2-NEXT:    pxor %xmm2, %xmm4
 891 ; SSE2-NEXT:    pcmpgtd %xmm3, %xmm4
 892 ; SSE2-NEXT:    pand %xmm4, %xmm0
 893 ; SSE2-NEXT:    pandn %xmm1, %xmm4
 894 ; SSE2-NEXT:    por %xmm0, %xmm4
 895 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm4[2,3,0,1]
 896 ; SSE2-NEXT:    movdqa %xmm4, %xmm1
 897 ; SSE2-NEXT:    pxor %xmm2, %xmm1
 898 ; SSE2-NEXT:    movdqa %xmm0, %xmm3
 899 ; SSE2-NEXT:    pxor %xmm2, %xmm3
 900 ; SSE2-NEXT:    pcmpgtd %xmm1, %xmm3
 901 ; SSE2-NEXT:    pand %xmm3, %xmm4
 902 ; SSE2-NEXT:    pandn %xmm0, %xmm3
 903 ; SSE2-NEXT:    por %xmm4, %xmm3
 904 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm3[1,1,2,3]
 905 ; SSE2-NEXT:    movdqa %xmm3, %xmm1
 906 ; SSE2-NEXT:    pxor %xmm2, %xmm1
 907 ; SSE2-NEXT:    pxor %xmm0, %xmm2
 908 ; SSE2-NEXT:    pcmpgtd %xmm1, %xmm2
 909 ; SSE2-NEXT:    pand %xmm2, %xmm3
 910 ; SSE2-NEXT:    pandn %xmm0, %xmm2
 911 ; SSE2-NEXT:    por %xmm3, %xmm2
 912 ; SSE2-NEXT:    movd %xmm2, %eax
 913 ; SSE2-NEXT:    retq
 914 ;
 915 ; SSE41-LABEL: test_v8i32:
 916 ; SSE41:       # %bb.0:
 917 ; SSE41-NEXT:    pminud %xmm1, %xmm0
 918 ; SSE41-NEXT:    pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
 919 ; SSE41-NEXT:    pminud %xmm0, %xmm1
 920 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
 921 ; SSE41-NEXT:    pminud %xmm1, %xmm0
 922 ; SSE41-NEXT:    movd %xmm0, %eax
 923 ; SSE41-NEXT:    retq
 924 ;
 925 ; AVX1-LABEL: test_v8i32:
 926 ; AVX1:       # %bb.0:
 927 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm1
 928 ; AVX1-NEXT:    vpminud %xmm1, %xmm0, %xmm0
 929 ; AVX1-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
 930 ; AVX1-NEXT:    vpminud %xmm1, %xmm0, %xmm0
 931 ; AVX1-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
 932 ; AVX1-NEXT:    vpminud %xmm1, %xmm0, %xmm0
 933 ; AVX1-NEXT:    vmovd %xmm0, %eax
 934 ; AVX1-NEXT:    vzeroupper
 935 ; AVX1-NEXT:    retq
 936 ;
 937 ; AVX2-LABEL: test_v8i32:
 938 ; AVX2:       # %bb.0:
 939 ; AVX2-NEXT:    vextracti128 $1, %ymm0, %xmm1
 940 ; AVX2-NEXT:    vpminud %xmm1, %xmm0, %xmm0
 941 ; AVX2-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
 942 ; AVX2-NEXT:    vpminud %xmm1, %xmm0, %xmm0
 943 ; AVX2-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
 944 ; AVX2-NEXT:    vpminud %xmm1, %xmm0, %xmm0
 945 ; AVX2-NEXT:    vmovd %xmm0, %eax
 946 ; AVX2-NEXT:    vzeroupper
 947 ; AVX2-NEXT:    retq
 948 ;
 949 ; AVX512-LABEL: test_v8i32:
 950 ; AVX512:       # %bb.0:
 951 ; AVX512-NEXT:    vextracti128 $1, %ymm0, %xmm1
 952 ; AVX512-NEXT:    vpminud %xmm1, %xmm0, %xmm0
 953 ; AVX512-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
 954 ; AVX512-NEXT:    vpminud %xmm1, %xmm0, %xmm0
 955 ; AVX512-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
 956 ; AVX512-NEXT:    vpminud %xmm1, %xmm0, %xmm0
 957 ; AVX512-NEXT:    vmovd %xmm0, %eax
 958 ; AVX512-NEXT:    vzeroupper
 959 ; AVX512-NEXT:    retq
 960   %1 = call i32 @llvm.experimental.vector.reduce.umin.v8i32(<8 x i32> %a0)
 961   ret i32 %1
 962 }
 963
 964 define i32 @test_v16i32(<16 x i32> %a0) {
 965 ; SSE2-LABEL: test_v16i32:
 966 ; SSE2:       # %bb.0:
 967 ; SSE2-NEXT:    movdqa {{.*#+}} xmm4 = [2147483648,2147483648,2147483648,2147483648]
 968 ; SSE2-NEXT:    movdqa %xmm1, %xmm5
 969 ; SSE2-NEXT:    pxor %xmm4, %xmm5
 970 ; SSE2-NEXT:    movdqa %xmm3, %xmm6
 971 ; SSE2-NEXT:    pxor %xmm4, %xmm6
 972 ; SSE2-NEXT:    pcmpgtd %xmm5, %xmm6
 973 ; SSE2-NEXT:    pand %xmm6, %xmm1
 974 ; SSE2-NEXT:    pandn %xmm3, %xmm6
 975 ; SSE2-NEXT:    por %xmm1, %xmm6
 976 ; SSE2-NEXT:    movdqa %xmm0, %xmm1
 977 ; SSE2-NEXT:    pxor %xmm4, %xmm1
 978 ; SSE2-NEXT:    movdqa %xmm2, %xmm3
 979 ; SSE2-NEXT:    pxor %xmm4, %xmm3
 980 ; SSE2-NEXT:    pcmpgtd %xmm1, %xmm3
 981 ; SSE2-NEXT:    pand %xmm3, %xmm0
 982 ; SSE2-NEXT:    pandn %xmm2, %xmm3
 983 ; SSE2-NEXT:    por %xmm0, %xmm3
 984 ; SSE2-NEXT:    movdqa %xmm3, %xmm0
 985 ; SSE2-NEXT:    pxor %xmm4, %xmm0
 986 ; SSE2-NEXT:    movdqa %xmm6, %xmm1
 987 ; SSE2-NEXT:    pxor %xmm4, %xmm1
 988 ; SSE2-NEXT:    pcmpgtd %xmm0, %xmm1
 989 ; SSE2-NEXT:    pand %xmm1, %xmm3
 990 ; SSE2-NEXT:    pandn %xmm6, %xmm1
 991 ; SSE2-NEXT:    por %xmm3, %xmm1
 992 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm1[2,3,0,1]
 993 ; SSE2-NEXT:    movdqa %xmm1, %xmm2
 994 ; SSE2-NEXT:    pxor %xmm4, %xmm2
 995 ; SSE2-NEXT:    movdqa %xmm0, %xmm3
 996 ; SSE2-NEXT:    pxor %xmm4, %xmm3
 997 ; SSE2-NEXT:    pcmpgtd %xmm2, %xmm3
 998 ; SSE2-NEXT:    pand %xmm3, %xmm1
 999 ; SSE2-NEXT:    pandn %xmm0, %xmm3
1000 ; SSE2-NEXT:    por %xmm1, %xmm3
1001 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm3[1,1,2,3]
1002 ; SSE2-NEXT:    movdqa %xmm3, %xmm1
1003 ; SSE2-NEXT:    pxor %xmm4, %xmm1
1004 ; SSE2-NEXT:    pxor %xmm0, %xmm4
1005 ; SSE2-NEXT:    pcmpgtd %xmm1, %xmm4
1006 ; SSE2-NEXT:    pand %xmm4, %xmm3
1007 ; SSE2-NEXT:    pandn %xmm0, %xmm4
1008 ; SSE2-NEXT:    por %xmm3, %xmm4
1009 ; SSE2-NEXT:    movd %xmm4, %eax
1010 ; SSE2-NEXT:    retq
1011 ;
1012 ; SSE41-LABEL: test_v16i32:
1013 ; SSE41:       # %bb.0:
1014 ; SSE41-NEXT:    pminud %xmm3, %xmm1
1015 ; SSE41-NEXT:    pminud %xmm2, %xmm1
1016 ; SSE41-NEXT:    pminud %xmm0, %xmm1
1017 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm1[2,3,0,1]
1018 ; SSE41-NEXT:    pminud %xmm1, %xmm0
1019 ; SSE41-NEXT:    pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1020 ; SSE41-NEXT:    pminud %xmm0, %xmm1
1021 ; SSE41-NEXT:    movd %xmm1, %eax
1022 ; SSE41-NEXT:    retq
1023 ;
1024 ; AVX1-LABEL: test_v16i32:
1025 ; AVX1:       # %bb.0:
1026 ; AVX1-NEXT:    vextractf128 $1, %ymm1, %xmm2
1027 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm3
1028 ; AVX1-NEXT:    vpminud %xmm2, %xmm3, %xmm2
1029 ; AVX1-NEXT:    vpminud %xmm2, %xmm1, %xmm1
1030 ; AVX1-NEXT:    vpminud %xmm1, %xmm0, %xmm0
1031 ; AVX1-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1032 ; AVX1-NEXT:    vpminud %xmm1, %xmm0, %xmm0
1033 ; AVX1-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1034 ; AVX1-NEXT:    vpminud %xmm1, %xmm0, %xmm0
1035 ; AVX1-NEXT:    vmovd %xmm0, %eax
1036 ; AVX1-NEXT:    vzeroupper
1037 ; AVX1-NEXT:    retq
1038 ;
1039 ; AVX2-LABEL: test_v16i32:
1040 ; AVX2:       # %bb.0:
1041 ; AVX2-NEXT:    vpminud %ymm1, %ymm0, %ymm0
1042 ; AVX2-NEXT:    vextracti128 $1, %ymm0, %xmm1
1043 ; AVX2-NEXT:    vpminud %xmm1, %xmm0, %xmm0
1044 ; AVX2-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1045 ; AVX2-NEXT:    vpminud %xmm1, %xmm0, %xmm0
1046 ; AVX2-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1047 ; AVX2-NEXT:    vpminud %xmm1, %xmm0, %xmm0
1048 ; AVX2-NEXT:    vmovd %xmm0, %eax
1049 ; AVX2-NEXT:    vzeroupper
1050 ; AVX2-NEXT:    retq
1051 ;
1052 ; AVX512-LABEL: test_v16i32:
1053 ; AVX512:       # %bb.0:
1054 ; AVX512-NEXT:    vextracti64x4 $1, %zmm0, %ymm1
1055 ; AVX512-NEXT:    vpminud %zmm1, %zmm0, %zmm0
1056 ; AVX512-NEXT:    vextracti128 $1, %ymm0, %xmm1
1057 ; AVX512-NEXT:    vpminud %xmm1, %xmm0, %xmm0
1058 ; AVX512-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1059 ; AVX512-NEXT:    vpminud %xmm1, %xmm0, %xmm0
1060 ; AVX512-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1061 ; AVX512-NEXT:    vpminud %xmm1, %xmm0, %xmm0
1062 ; AVX512-NEXT:    vmovd %xmm0, %eax
1063 ; AVX512-NEXT:    vzeroupper
1064 ; AVX512-NEXT:    retq
1065   %1 = call i32 @llvm.experimental.vector.reduce.umin.v16i32(<16 x i32> %a0)
1066   ret i32 %1
1067 }
1068
1069 define i32 @test_v32i32(<32 x i32> %a0) {
1070 ; SSE2-LABEL: test_v32i32:
1071 ; SSE2:       # %bb.0:
1072 ; SSE2-NEXT:    movdqa {{.*#+}} xmm8 = [2147483648,2147483648,2147483648,2147483648]
1073 ; SSE2-NEXT:    movdqa %xmm2, %xmm10
1074 ; SSE2-NEXT:    pxor %xmm8, %xmm10
1075 ; SSE2-NEXT:    movdqa %xmm6, %xmm9
1076 ; SSE2-NEXT:    pxor %xmm8, %xmm9
1077 ; SSE2-NEXT:    pcmpgtd %xmm10, %xmm9
1078 ; SSE2-NEXT:    pand %xmm9, %xmm2
1079 ; SSE2-NEXT:    pandn %xmm6, %xmm9
1080 ; SSE2-NEXT:    por %xmm2, %xmm9
1081 ; SSE2-NEXT:    movdqa %xmm0, %xmm6
1082 ; SSE2-NEXT:    pxor %xmm8, %xmm6
1083 ; SSE2-NEXT:    movdqa %xmm4, %xmm2
1084 ; SSE2-NEXT:    pxor %xmm8, %xmm2
1085 ; SSE2-NEXT:    pcmpgtd %xmm6, %xmm2
1086 ; SSE2-NEXT:    pand %xmm2, %xmm0
1087 ; SSE2-NEXT:    pandn %xmm4, %xmm2
1088 ; SSE2-NEXT:    por %xmm0, %xmm2
1089 ; SSE2-NEXT:    movdqa %xmm3, %xmm0
1090 ; SSE2-NEXT:    pxor %xmm8, %xmm0
1091 ; SSE2-NEXT:    movdqa %xmm7, %xmm4
1092 ; SSE2-NEXT:    pxor %xmm8, %xmm4
1093 ; SSE2-NEXT:    pcmpgtd %xmm0, %xmm4
1094 ; SSE2-NEXT:    pand %xmm4, %xmm3
1095 ; SSE2-NEXT:    pandn %xmm7, %xmm4
1096 ; SSE2-NEXT:    por %xmm3, %xmm4
1097 ; SSE2-NEXT:    movdqa %xmm1, %xmm0
1098 ; SSE2-NEXT:    pxor %xmm8, %xmm0
1099 ; SSE2-NEXT:    movdqa %xmm5, %xmm3
1100 ; SSE2-NEXT:    pxor %xmm8, %xmm3
1101 ; SSE2-NEXT:    pcmpgtd %xmm0, %xmm3
1102 ; SSE2-NEXT:    pand %xmm3, %xmm1
1103 ; SSE2-NEXT:    pandn %xmm5, %xmm3
1104 ; SSE2-NEXT:    por %xmm1, %xmm3
1105 ; SSE2-NEXT:    movdqa %xmm3, %xmm0
1106 ; SSE2-NEXT:    pxor %xmm8, %xmm0
1107 ; SSE2-NEXT:    movdqa %xmm4, %xmm1
1108 ; SSE2-NEXT:    pxor %xmm8, %xmm1
1109 ; SSE2-NEXT:    pcmpgtd %xmm0, %xmm1
1110 ; SSE2-NEXT:    pand %xmm1, %xmm3
1111 ; SSE2-NEXT:    pandn %xmm4, %xmm1
1112 ; SSE2-NEXT:    por %xmm3, %xmm1
1113 ; SSE2-NEXT:    movdqa %xmm2, %xmm0
1114 ; SSE2-NEXT:    pxor %xmm8, %xmm0
1115 ; SSE2-NEXT:    movdqa %xmm9, %xmm3
1116 ; SSE2-NEXT:    pxor %xmm8, %xmm3
1117 ; SSE2-NEXT:    pcmpgtd %xmm0, %xmm3
1118 ; SSE2-NEXT:    pand %xmm3, %xmm2
1119 ; SSE2-NEXT:    pandn %xmm9, %xmm3
1120 ; SSE2-NEXT:    por %xmm2, %xmm3
1121 ; SSE2-NEXT:    movdqa %xmm3, %xmm0
1122 ; SSE2-NEXT:    pxor %xmm8, %xmm0
1123 ; SSE2-NEXT:    movdqa %xmm1, %xmm2
1124 ; SSE2-NEXT:    pxor %xmm8, %xmm2
1125 ; SSE2-NEXT:    pcmpgtd %xmm0, %xmm2
1126 ; SSE2-NEXT:    pand %xmm2, %xmm3
1127 ; SSE2-NEXT:    pandn %xmm1, %xmm2
1128 ; SSE2-NEXT:    por %xmm3, %xmm2
1129 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm2[2,3,0,1]
1130 ; SSE2-NEXT:    movdqa %xmm2, %xmm1
1131 ; SSE2-NEXT:    pxor %xmm8, %xmm1
1132 ; SSE2-NEXT:    movdqa %xmm0, %xmm3
1133 ; SSE2-NEXT:    pxor %xmm8, %xmm3
1134 ; SSE2-NEXT:    pcmpgtd %xmm1, %xmm3
1135 ; SSE2-NEXT:    pand %xmm3, %xmm2
1136 ; SSE2-NEXT:    pandn %xmm0, %xmm3
1137 ; SSE2-NEXT:    por %xmm2, %xmm3
1138 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm3[1,1,2,3]
1139 ; SSE2-NEXT:    movdqa %xmm3, %xmm1
1140 ; SSE2-NEXT:    pxor %xmm8, %xmm1
1141 ; SSE2-NEXT:    pxor %xmm0, %xmm8
1142 ; SSE2-NEXT:    pcmpgtd %xmm1, %xmm8
1143 ; SSE2-NEXT:    pand %xmm8, %xmm3
1144 ; SSE2-NEXT:    pandn %xmm0, %xmm8
1145 ; SSE2-NEXT:    por %xmm3, %xmm8
1146 ; SSE2-NEXT:    movd %xmm8, %eax
1147 ; SSE2-NEXT:    retq
1148 ;
1149 ; SSE41-LABEL: test_v32i32:
1150 ; SSE41:       # %bb.0:
1151 ; SSE41-NEXT:    pminud %xmm6, %xmm2
1152 ; SSE41-NEXT:    pminud %xmm7, %xmm3
1153 ; SSE41-NEXT:    pminud %xmm5, %xmm3
1154 ; SSE41-NEXT:    pminud %xmm1, %xmm3
1155 ; SSE41-NEXT:    pminud %xmm4, %xmm2
1156 ; SSE41-NEXT:    pminud %xmm3, %xmm2
1157 ; SSE41-NEXT:    pminud %xmm0, %xmm2
1158 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm2[2,3,0,1]
1159 ; SSE41-NEXT:    pminud %xmm2, %xmm0
1160 ; SSE41-NEXT:    pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1161 ; SSE41-NEXT:    pminud %xmm0, %xmm1
1162 ; SSE41-NEXT:    movd %xmm1, %eax
1163 ; SSE41-NEXT:    retq
1164 ;
1165 ; AVX1-LABEL: test_v32i32:
1166 ; AVX1:       # %bb.0:
1167 ; AVX1-NEXT:    vpminud %xmm3, %xmm1, %xmm4
1168 ; AVX1-NEXT:    vextractf128 $1, %ymm3, %xmm3
1169 ; AVX1-NEXT:    vextractf128 $1, %ymm1, %xmm1
1170 ; AVX1-NEXT:    vpminud %xmm3, %xmm1, %xmm1
1171 ; AVX1-NEXT:    vextractf128 $1, %ymm2, %xmm3
1172 ; AVX1-NEXT:    vpminud %xmm1, %xmm3, %xmm1
1173 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm3
1174 ; AVX1-NEXT:    vpminud %xmm1, %xmm3, %xmm1
1175 ; AVX1-NEXT:    vpminud %xmm4, %xmm2, %xmm2
1176 ; AVX1-NEXT:    vpminud %xmm1, %xmm2, %xmm1
1177 ; AVX1-NEXT:    vpminud %xmm1, %xmm0, %xmm0
1178 ; AVX1-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1179 ; AVX1-NEXT:    vpminud %xmm1, %xmm0, %xmm0
1180 ; AVX1-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1181 ; AVX1-NEXT:    vpminud %xmm1, %xmm0, %xmm0
1182 ; AVX1-NEXT:    vmovd %xmm0, %eax
1183 ; AVX1-NEXT:    vzeroupper
1184 ; AVX1-NEXT:    retq
1185 ;
1186 ; AVX2-LABEL: test_v32i32:
1187 ; AVX2:       # %bb.0:
1188 ; AVX2-NEXT:    vpminud %ymm3, %ymm1, %ymm1
1189 ; AVX2-NEXT:    vpminud %ymm1, %ymm2, %ymm1
1190 ; AVX2-NEXT:    vpminud %ymm1, %ymm0, %ymm0
1191 ; AVX2-NEXT:    vextracti128 $1, %ymm0, %xmm1
1192 ; AVX2-NEXT:    vpminud %xmm1, %xmm0, %xmm0
1193 ; AVX2-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1194 ; AVX2-NEXT:    vpminud %xmm1, %xmm0, %xmm0
1195 ; AVX2-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1196 ; AVX2-NEXT:    vpminud %xmm1, %xmm0, %xmm0
1197 ; AVX2-NEXT:    vmovd %xmm0, %eax
1198 ; AVX2-NEXT:    vzeroupper
1199 ; AVX2-NEXT:    retq
1200 ;
1201 ; AVX512-LABEL: test_v32i32:
1202 ; AVX512:       # %bb.0:
1203 ; AVX512-NEXT:    vpminud %zmm1, %zmm0, %zmm0
1204 ; AVX512-NEXT:    vextracti64x4 $1, %zmm0, %ymm1
1205 ; AVX512-NEXT:    vpminud %zmm1, %zmm0, %zmm0
1206 ; AVX512-NEXT:    vextracti128 $1, %ymm0, %xmm1
1207 ; AVX512-NEXT:    vpminud %xmm1, %xmm0, %xmm0
1208 ; AVX512-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1209 ; AVX512-NEXT:    vpminud %xmm1, %xmm0, %xmm0
1210 ; AVX512-NEXT:    vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1211 ; AVX512-NEXT:    vpminud %xmm1, %xmm0, %xmm0
1212 ; AVX512-NEXT:    vmovd %xmm0, %eax
1213 ; AVX512-NEXT:    vzeroupper
1214 ; AVX512-NEXT:    retq
1215   %1 = call i32 @llvm.experimental.vector.reduce.umin.v32i32(<32 x i32> %a0)
1216   ret i32 %1
1217 }
1218
1219 ;
1220 ; vXi16
1221 ;
1222
1223 define i16 @test_v2i16(<2 x i16> %a0) {
1224 ; SSE2-LABEL: test_v2i16:
1225 ; SSE2:       # %bb.0:
1226 ; SSE2-NEXT:    movdqa {{.*#+}} xmm1 = [65535,0,0,0,65535,0,0,0]
1227 ; SSE2-NEXT:    pand %xmm0, %xmm1
1228 ; SSE2-NEXT:    pxor %xmm2, %xmm2
1229 ; SSE2-NEXT:    punpckhwd {{.*#+}} xmm0 = xmm0[4],xmm2[4],xmm0[5],xmm2[5],xmm0[6],xmm2[6],xmm0[7],xmm2[7]
1230 ; SSE2-NEXT:    punpckldq {{.*#+}} xmm0 = xmm0[0],xmm2[0],xmm0[1],xmm2[1]
1231 ; SSE2-NEXT:    movdqa {{.*#+}} xmm2 = [2147483648,2147483648]
1232 ; SSE2-NEXT:    movdqa %xmm1, %xmm3
1233 ; SSE2-NEXT:    por %xmm2, %xmm3
1234 ; SSE2-NEXT:    por %xmm0, %xmm2
1235 ; SSE2-NEXT:    movdqa %xmm2, %xmm4
1236 ; SSE2-NEXT:    pcmpgtd %xmm3, %xmm4
1237 ; SSE2-NEXT:    pshufd {{.*#+}} xmm5 = xmm4[0,0,2,2]
1238 ; SSE2-NEXT:    pcmpeqd %xmm3, %xmm2
1239 ; SSE2-NEXT:    pshufd {{.*#+}} xmm2 = xmm2[1,1,3,3]
1240 ; SSE2-NEXT:    pand %xmm5, %xmm2
1241 ; SSE2-NEXT:    pshufd {{.*#+}} xmm3 = xmm4[1,1,3,3]
1242 ; SSE2-NEXT:    por %xmm2, %xmm3
1243 ; SSE2-NEXT:    pand %xmm3, %xmm1
1244 ; SSE2-NEXT:    pandn %xmm0, %xmm3
1245 ; SSE2-NEXT:    por %xmm1, %xmm3
1246 ; SSE2-NEXT:    movd %xmm3, %eax
1247 ; SSE2-NEXT:    # kill: def $ax killed $ax killed $eax
1248 ; SSE2-NEXT:    retq
1249 ;
1250 ; SSE41-LABEL: test_v2i16:
1251 ; SSE41:       # %bb.0:
1252 ; SSE41-NEXT:    pxor %xmm1, %xmm1
1253 ; SSE41-NEXT:    pblendw {{.*#+}} xmm1 = xmm0[0],xmm1[1,2,3],xmm0[4],xmm1[5,6,7]
1254 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1255 ; SSE41-NEXT:    pmovzxwq {{.*#+}} xmm2 = xmm0[0],zero,zero,zero,xmm0[1],zero,zero,zero
1256 ; SSE41-NEXT:    movdqa {{.*#+}} xmm3 = [2147483648,2147483648]
1257 ; SSE41-NEXT:    movdqa %xmm1, %xmm0
1258 ; SSE41-NEXT:    por %xmm3, %xmm0
1259 ; SSE41-NEXT:    por %xmm2, %xmm3
1260 ; SSE41-NEXT:    movdqa %xmm3, %xmm4
1261 ; SSE41-NEXT:    pcmpeqd %xmm0, %xmm4
1262 ; SSE41-NEXT:    pcmpgtd %xmm0, %xmm3
1263 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm3[0,0,2,2]
1264 ; SSE41-NEXT:    pand %xmm4, %xmm0
1265 ; SSE41-NEXT:    por %xmm3, %xmm0
1266 ; SSE41-NEXT:    blendvpd %xmm0, %xmm1, %xmm2
1267 ; SSE41-NEXT:    movd %xmm2, %eax
1268 ; SSE41-NEXT:    # kill: def $ax killed $ax killed $eax
1269 ; SSE41-NEXT:    retq
1270 ;
1271 ; AVX-LABEL: test_v2i16:
1272 ; AVX:       # %bb.0:
1273 ; AVX-NEXT:    vpxor %xmm1, %xmm1, %xmm1
1274 ; AVX-NEXT:    vpblendw {{.*#+}} xmm1 = xmm0[0],xmm1[1,2,3],xmm0[4],xmm1[5,6,7]
1275 ; AVX-NEXT:    vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1276 ; AVX-NEXT:    vpmovzxwq {{.*#+}} xmm0 = xmm0[0],zero,zero,zero,xmm0[1],zero,zero,zero
1277 ; AVX-NEXT:    vpcmpgtq %xmm1, %xmm0, %xmm2
1278 ; AVX-NEXT:    vblendvpd %xmm2, %xmm1, %xmm0, %xmm0
1279 ; AVX-NEXT:    vmovd %xmm0, %eax
1280 ; AVX-NEXT:    # kill: def $ax killed $ax killed $eax
1281 ; AVX-NEXT:    retq
1282 ;
1283 ; AVX512BW-LABEL: test_v2i16:
1284 ; AVX512BW:       # %bb.0:
1285 ; AVX512BW-NEXT:    vpxor %xmm1, %xmm1, %xmm1
1286 ; AVX512BW-NEXT:    vpblendw {{.*#+}} xmm1 = xmm0[0],xmm1[1,2,3],xmm0[4],xmm1[5,6,7]
1287 ; AVX512BW-NEXT:    vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1288 ; AVX512BW-NEXT:    vpmovzxwq {{.*#+}} xmm0 = xmm0[0],zero,zero,zero,xmm0[1],zero,zero,zero
1289 ; AVX512BW-NEXT:    vpminuq %zmm0, %zmm1, %zmm0
1290 ; AVX512BW-NEXT:    vmovd %xmm0, %eax
1291 ; AVX512BW-NEXT:    # kill: def $ax killed $ax killed $eax
1292 ; AVX512BW-NEXT:    vzeroupper
1293 ; AVX512BW-NEXT:    retq
1294 ;
1295 ; AVX512VL-LABEL: test_v2i16:
1296 ; AVX512VL:       # %bb.0:
1297 ; AVX512VL-NEXT:    vpxor %xmm1, %xmm1, %xmm1
1298 ; AVX512VL-NEXT:    vpblendw {{.*#+}} xmm1 = xmm0[0],xmm1[1,2,3],xmm0[4],xmm1[5,6,7]
1299 ; AVX512VL-NEXT:    vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1300 ; AVX512VL-NEXT:    vpmovzxwq {{.*#+}} xmm0 = xmm0[0],zero,zero,zero,xmm0[1],zero,zero,zero
1301 ; AVX512VL-NEXT:    vpminuq %xmm0, %xmm1, %xmm0
1302 ; AVX512VL-NEXT:    vmovd %xmm0, %eax
1303 ; AVX512VL-NEXT:    # kill: def $ax killed $ax killed $eax
1304 ; AVX512VL-NEXT:    retq
1305   %1 = call i16 @llvm.experimental.vector.reduce.umin.v2i16(<2 x i16> %a0)
1306   ret i16 %1
1307 }
1308
1309 define i16 @test_v4i16(<4 x i16> %a0) {
1310 ; SSE2-LABEL: test_v4i16:
1311 ; SSE2:       # %bb.0:
1312 ; SSE2-NEXT:    movdqa {{.*#+}} xmm1 = [65535,0,65535,0,65535,0,65535,0]
1313 ; SSE2-NEXT:    pshufd {{.*#+}} xmm2 = xmm0[2,3,0,1]
1314 ; SSE2-NEXT:    pand %xmm1, %xmm0
1315 ; SSE2-NEXT:    pand {{.*}}(%rip), %xmm2
1316 ; SSE2-NEXT:    movdqa %xmm2, %xmm3
1317 ; SSE2-NEXT:    pcmpgtd %xmm0, %xmm3
1318 ; SSE2-NEXT:    pand %xmm3, %xmm0
1319 ; SSE2-NEXT:    pandn %xmm2, %xmm3
1320 ; SSE2-NEXT:    por %xmm0, %xmm3
1321 ; SSE2-NEXT:    pand %xmm3, %xmm1
1322 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm3[1,1,2,3]
1323 ; SSE2-NEXT:    pxor %xmm2, %xmm2
1324 ; SSE2-NEXT:    punpcklwd {{.*#+}} xmm0 = xmm0[0],xmm2[0],xmm0[1],xmm2[1],xmm0[2],xmm2[2],xmm0[3],xmm2[3]
1325 ; SSE2-NEXT:    punpckldq {{.*#+}} xmm0 = xmm0[0],xmm2[0],xmm0[1],xmm2[1]
1326 ; SSE2-NEXT:    movdqa %xmm0, %xmm2
1327 ; SSE2-NEXT:    pcmpgtd %xmm1, %xmm2
1328 ; SSE2-NEXT:    pand %xmm2, %xmm1
1329 ; SSE2-NEXT:    pandn %xmm0, %xmm2
1330 ; SSE2-NEXT:    por %xmm1, %xmm2
1331 ; SSE2-NEXT:    movd %xmm2, %eax
1332 ; SSE2-NEXT:    # kill: def $ax killed $ax killed $eax
1333 ; SSE2-NEXT:    retq
1334 ;
1335 ; SSE41-LABEL: test_v4i16:
1336 ; SSE41:       # %bb.0:
1337 ; SSE41-NEXT:    pxor %xmm1, %xmm1
1338 ; SSE41-NEXT:    pshufd {{.*#+}} xmm2 = xmm0[2,3,0,1]
1339 ; SSE41-NEXT:    pblendw {{.*#+}} xmm0 = xmm0[0],xmm1[1],xmm0[2],xmm1[3],xmm0[4],xmm1[5],xmm0[6],xmm1[7]
1340 ; SSE41-NEXT:    pblendw {{.*#+}} xmm2 = xmm2[0],xmm1[1],xmm2[2],xmm1[3,4,5,6,7]
1341 ; SSE41-NEXT:    pminud %xmm0, %xmm2
1342 ; SSE41-NEXT:    pblendw {{.*#+}} xmm1 = xmm2[0],xmm1[1],xmm2[2],xmm1[3],xmm2[4],xmm1[5],xmm2[6],xmm1[7]
1343 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm2[1,1,2,3]
1344 ; SSE41-NEXT:    pmovzxwq {{.*#+}} xmm0 = xmm0[0],zero,zero,zero,xmm0[1],zero,zero,zero
1345 ; SSE41-NEXT:    pminud %xmm1, %xmm0
1346 ; SSE41-NEXT:    movd %xmm0, %eax
1347 ; SSE41-NEXT:    # kill: def $ax killed $ax killed $eax
1348 ; SSE41-NEXT:    retq
1349 ;
1350 ; AVX-LABEL: test_v4i16:
1351 ; AVX:       # %bb.0:
1352 ; AVX-NEXT:    vpxor %xmm1, %xmm1, %xmm1
1353 ; AVX-NEXT:    vpblendw {{.*#+}} xmm2 = xmm0[0],xmm1[1],xmm0[2],xmm1[3],xmm0[4],xmm1[5],xmm0[6],xmm1[7]
1354 ; AVX-NEXT:    vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1355 ; AVX-NEXT:    vpblendw {{.*#+}} xmm0 = xmm0[0],xmm1[1],xmm0[2],xmm1[3,4,5,6,7]
1356 ; AVX-NEXT:    vpminud %xmm0, %xmm2, %xmm0
1357 ; AVX-NEXT:    vpblendw {{.*#+}} xmm1 = xmm0[0],xmm1[1],xmm0[2],xmm1[3],xmm0[4],xmm1[5],xmm0[6],xmm1[7]
1358 ; AVX-NEXT:    vpshufd {{.*#+}} xmm0 = xmm0[1,1,2,3]
1359 ; AVX-NEXT:    vpmovzxwq {{.*#+}} xmm0 = xmm0[0],zero,zero,zero,xmm0[1],zero,zero,zero
1360 ; AVX-NEXT:    vpminud %xmm0, %xmm1, %xmm0
1361 ; AVX-NEXT:    vmovd %xmm0, %eax
1362 ; AVX-NEXT:    # kill: def $ax killed $ax killed $eax
1363 ; AVX-NEXT:    retq
1364 ;
1365 ; AVX512-LABEL: test_v4i16:
1366 ; AVX512:       # %bb.0:
1367 ; AVX512-NEXT:    vpxor %xmm1, %xmm1, %xmm1
1368 ; AVX512-NEXT:    vpblendw {{.*#+}} xmm2 = xmm0[0],xmm1[1],xmm0[2],xmm1[3],xmm0[4],xmm1[5],xmm0[6],xmm1[7]
1369 ; AVX512-NEXT:    vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1370 ; AVX512-NEXT:    vpblendw {{.*#+}} xmm0 = xmm0[0],xmm1[1],xmm0[2],xmm1[3,4,5,6,7]
1371 ; AVX512-NEXT:    vpminud %xmm0, %xmm2, %xmm0
1372 ; AVX512-NEXT:    vpblendw {{.*#+}} xmm1 = xmm0[0],xmm1[1],xmm0[2],xmm1[3],xmm0[4],xmm1[5],xmm0[6],xmm1[7]
1373 ; AVX512-NEXT:    vpshufd {{.*#+}} xmm0 = xmm0[1,1,2,3]
1374 ; AVX512-NEXT:    vpmovzxwq {{.*#+}} xmm0 = xmm0[0],zero,zero,zero,xmm0[1],zero,zero,zero
1375 ; AVX512-NEXT:    vpminud %xmm0, %xmm1, %xmm0
1376 ; AVX512-NEXT:    vmovd %xmm0, %eax
1377 ; AVX512-NEXT:    # kill: def $ax killed $ax killed $eax
1378 ; AVX512-NEXT:    retq
1379   %1 = call i16 @llvm.experimental.vector.reduce.umin.v4i16(<4 x i16> %a0)
1380   ret i16 %1
1381 }
1382
1383 define i16 @test_v8i16(<8 x i16> %a0) {
1384 ; SSE2-LABEL: test_v8i16:
1385 ; SSE2:       # %bb.0:
1386 ; SSE2-NEXT:    pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1387 ; SSE2-NEXT:    movdqa {{.*#+}} xmm2 = [32768,32768,32768,32768,32768,32768,32768,32768]
1388 ; SSE2-NEXT:    pxor %xmm2, %xmm0
1389 ; SSE2-NEXT:    pxor %xmm2, %xmm1
1390 ; SSE2-NEXT:    pminsw %xmm0, %xmm1
1391 ; SSE2-NEXT:    movdqa %xmm1, %xmm0
1392 ; SSE2-NEXT:    pxor %xmm2, %xmm0
1393 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm0[1,1,2,3]
1394 ; SSE2-NEXT:    pxor %xmm2, %xmm0
1395 ; SSE2-NEXT:    pminsw %xmm1, %xmm0
1396 ; SSE2-NEXT:    movdqa %xmm0, %xmm1
1397 ; SSE2-NEXT:    pxor %xmm2, %xmm1
1398 ; SSE2-NEXT:    psrld $16, %xmm1
1399 ; SSE2-NEXT:    pxor %xmm2, %xmm1
1400 ; SSE2-NEXT:    pminsw %xmm0, %xmm1
1401 ; SSE2-NEXT:    movd %xmm1, %eax
1402 ; SSE2-NEXT:    xorl $32768, %eax # imm = 0x8000
1403 ; SSE2-NEXT:    # kill: def $ax killed $ax killed $eax
1404 ; SSE2-NEXT:    retq
1405 ;
1406 ; SSE41-LABEL: test_v8i16:
1407 ; SSE41:       # %bb.0:
1408 ; SSE41-NEXT:    phminposuw %xmm0, %xmm0
1409 ; SSE41-NEXT:    movd %xmm0, %eax
1410 ; SSE41-NEXT:    # kill: def $ax killed $ax killed $eax
1411 ; SSE41-NEXT:    retq
1412 ;
1413 ; AVX-LABEL: test_v8i16:
1414 ; AVX:       # %bb.0:
1415 ; AVX-NEXT:    vphminposuw %xmm0, %xmm0
1416 ; AVX-NEXT:    vmovd %xmm0, %eax
1417 ; AVX-NEXT:    # kill: def $ax killed $ax killed $eax
1418 ; AVX-NEXT:    retq
1419 ;
1420 ; AVX512-LABEL: test_v8i16:
1421 ; AVX512:       # %bb.0:
1422 ; AVX512-NEXT:    vphminposuw %xmm0, %xmm0
1423 ; AVX512-NEXT:    vmovd %xmm0, %eax
1424 ; AVX512-NEXT:    # kill: def $ax killed $ax killed $eax
1425 ; AVX512-NEXT:    retq
1426   %1 = call i16 @llvm.experimental.vector.reduce.umin.v8i16(<8 x i16> %a0)
1427   ret i16 %1
1428 }
1429
1430 define i16 @test_v16i16(<16 x i16> %a0) {
1431 ; SSE2-LABEL: test_v16i16:
1432 ; SSE2:       # %bb.0:
1433 ; SSE2-NEXT:    movdqa {{.*#+}} xmm2 = [32768,32768,32768,32768,32768,32768,32768,32768]
1434 ; SSE2-NEXT:    pxor %xmm2, %xmm1
1435 ; SSE2-NEXT:    pxor %xmm2, %xmm0
1436 ; SSE2-NEXT:    pminsw %xmm1, %xmm0
1437 ; SSE2-NEXT:    movdqa %xmm0, %xmm1
1438 ; SSE2-NEXT:    pxor %xmm2, %xmm1
1439 ; SSE2-NEXT:    pshufd {{.*#+}} xmm1 = xmm1[2,3,0,1]
1440 ; SSE2-NEXT:    pxor %xmm2, %xmm1
1441 ; SSE2-NEXT:    pminsw %xmm0, %xmm1
1442 ; SSE2-NEXT:    movdqa %xmm1, %xmm0
1443 ; SSE2-NEXT:    pxor %xmm2, %xmm0
1444 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm0[1,1,2,3]
1445 ; SSE2-NEXT:    pxor %xmm2, %xmm0
1446 ; SSE2-NEXT:    pminsw %xmm1, %xmm0
1447 ; SSE2-NEXT:    movdqa %xmm0, %xmm1
1448 ; SSE2-NEXT:    pxor %xmm2, %xmm1
1449 ; SSE2-NEXT:    psrld $16, %xmm1
1450 ; SSE2-NEXT:    pxor %xmm2, %xmm1
1451 ; SSE2-NEXT:    pminsw %xmm0, %xmm1
1452 ; SSE2-NEXT:    movd %xmm1, %eax
1453 ; SSE2-NEXT:    xorl $32768, %eax # imm = 0x8000
1454 ; SSE2-NEXT:    # kill: def $ax killed $ax killed $eax
1455 ; SSE2-NEXT:    retq
1456 ;
1457 ; SSE41-LABEL: test_v16i16:
1458 ; SSE41:       # %bb.0:
1459 ; SSE41-NEXT:    pminuw %xmm1, %xmm0
1460 ; SSE41-NEXT:    phminposuw %xmm0, %xmm0
1461 ; SSE41-NEXT:    movd %xmm0, %eax
1462 ; SSE41-NEXT:    # kill: def $ax killed $ax killed $eax
1463 ; SSE41-NEXT:    retq
1464 ;
1465 ; AVX1-LABEL: test_v16i16:
1466 ; AVX1:       # %bb.0:
1467 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm1
1468 ; AVX1-NEXT:    vpminuw %xmm1, %xmm0, %xmm0
1469 ; AVX1-NEXT:    vphminposuw %xmm0, %xmm0
1470 ; AVX1-NEXT:    vmovd %xmm0, %eax
1471 ; AVX1-NEXT:    # kill: def $ax killed $ax killed $eax
1472 ; AVX1-NEXT:    vzeroupper
1473 ; AVX1-NEXT:    retq
1474 ;
1475 ; AVX2-LABEL: test_v16i16:
1476 ; AVX2:       # %bb.0:
1477 ; AVX2-NEXT:    vextracti128 $1, %ymm0, %xmm1
1478 ; AVX2-NEXT:    vpminuw %xmm1, %xmm0, %xmm0
1479 ; AVX2-NEXT:    vphminposuw %xmm0, %xmm0
1480 ; AVX2-NEXT:    vmovd %xmm0, %eax
1481 ; AVX2-NEXT:    # kill: def $ax killed $ax killed $eax
1482 ; AVX2-NEXT:    vzeroupper
1483 ; AVX2-NEXT:    retq
1484 ;
1485 ; AVX512-LABEL: test_v16i16:
1486 ; AVX512:       # %bb.0:
1487 ; AVX512-NEXT:    vextracti128 $1, %ymm0, %xmm1
1488 ; AVX512-NEXT:    vpminuw %xmm1, %xmm0, %xmm0
1489 ; AVX512-NEXT:    vphminposuw %xmm0, %xmm0
1490 ; AVX512-NEXT:    vmovd %xmm0, %eax
1491 ; AVX512-NEXT:    # kill: def $ax killed $ax killed $eax
1492 ; AVX512-NEXT:    vzeroupper
1493 ; AVX512-NEXT:    retq
1494   %1 = call i16 @llvm.experimental.vector.reduce.umin.v16i16(<16 x i16> %a0)
1495   ret i16 %1
1496 }
1497
1498 define i16 @test_v32i16(<32 x i16> %a0) {
1499 ; SSE2-LABEL: test_v32i16:
1500 ; SSE2:       # %bb.0:
1501 ; SSE2-NEXT:    movdqa {{.*#+}} xmm4 = [32768,32768,32768,32768,32768,32768,32768,32768]
1502 ; SSE2-NEXT:    pxor %xmm4, %xmm3
1503 ; SSE2-NEXT:    pxor %xmm4, %xmm1
1504 ; SSE2-NEXT:    pminsw %xmm3, %xmm1
1505 ; SSE2-NEXT:    pxor %xmm4, %xmm2
1506 ; SSE2-NEXT:    pminsw %xmm1, %xmm2
1507 ; SSE2-NEXT:    pxor %xmm4, %xmm0
1508 ; SSE2-NEXT:    pminsw %xmm2, %xmm0
1509 ; SSE2-NEXT:    movdqa %xmm0, %xmm1
1510 ; SSE2-NEXT:    pxor %xmm4, %xmm1
1511 ; SSE2-NEXT:    pshufd {{.*#+}} xmm1 = xmm1[2,3,0,1]
1512 ; SSE2-NEXT:    pxor %xmm4, %xmm1
1513 ; SSE2-NEXT:    pminsw %xmm0, %xmm1
1514 ; SSE2-NEXT:    movdqa %xmm1, %xmm0
1515 ; SSE2-NEXT:    pxor %xmm4, %xmm0
1516 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm0[1,1,2,3]
1517 ; SSE2-NEXT:    pxor %xmm4, %xmm0
1518 ; SSE2-NEXT:    pminsw %xmm1, %xmm0
1519 ; SSE2-NEXT:    movdqa %xmm0, %xmm1
1520 ; SSE2-NEXT:    pxor %xmm4, %xmm1
1521 ; SSE2-NEXT:    psrld $16, %xmm1
1522 ; SSE2-NEXT:    pxor %xmm4, %xmm1
1523 ; SSE2-NEXT:    pminsw %xmm0, %xmm1
1524 ; SSE2-NEXT:    movd %xmm1, %eax
1525 ; SSE2-NEXT:    xorl $32768, %eax # imm = 0x8000
1526 ; SSE2-NEXT:    # kill: def $ax killed $ax killed $eax
1527 ; SSE2-NEXT:    retq
1528 ;
1529 ; SSE41-LABEL: test_v32i16:
1530 ; SSE41:       # %bb.0:
1531 ; SSE41-NEXT:    pminuw %xmm3, %xmm1
1532 ; SSE41-NEXT:    pminuw %xmm2, %xmm1
1533 ; SSE41-NEXT:    pminuw %xmm0, %xmm1
1534 ; SSE41-NEXT:    phminposuw %xmm1, %xmm0
1535 ; SSE41-NEXT:    movd %xmm0, %eax
1536 ; SSE41-NEXT:    # kill: def $ax killed $ax killed $eax
1537 ; SSE41-NEXT:    retq
1538 ;
1539 ; AVX1-LABEL: test_v32i16:
1540 ; AVX1:       # %bb.0:
1541 ; AVX1-NEXT:    vextractf128 $1, %ymm1, %xmm2
1542 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm3
1543 ; AVX1-NEXT:    vpminuw %xmm2, %xmm3, %xmm2
1544 ; AVX1-NEXT:    vpminuw %xmm2, %xmm1, %xmm1
1545 ; AVX1-NEXT:    vpminuw %xmm1, %xmm0, %xmm0
1546 ; AVX1-NEXT:    vphminposuw %xmm0, %xmm0
1547 ; AVX1-NEXT:    vmovd %xmm0, %eax
1548 ; AVX1-NEXT:    # kill: def $ax killed $ax killed $eax
1549 ; AVX1-NEXT:    vzeroupper
1550 ; AVX1-NEXT:    retq
1551 ;
1552 ; AVX2-LABEL: test_v32i16:
1553 ; AVX2:       # %bb.0:
1554 ; AVX2-NEXT:    vpminuw %ymm1, %ymm0, %ymm0
1555 ; AVX2-NEXT:    vextracti128 $1, %ymm0, %xmm1
1556 ; AVX2-NEXT:    vpminuw %xmm1, %xmm0, %xmm0
1557 ; AVX2-NEXT:    vphminposuw %xmm0, %xmm0
1558 ; AVX2-NEXT:    vmovd %xmm0, %eax
1559 ; AVX2-NEXT:    # kill: def $ax killed $ax killed $eax
1560 ; AVX2-NEXT:    vzeroupper
1561 ; AVX2-NEXT:    retq
1562 ;
1563 ; AVX512-LABEL: test_v32i16:
1564 ; AVX512:       # %bb.0:
1565 ; AVX512-NEXT:    vextracti64x4 $1, %zmm0, %ymm1
1566 ; AVX512-NEXT:    vpminuw %ymm1, %ymm0, %ymm0
1567 ; AVX512-NEXT:    vextracti128 $1, %ymm0, %xmm1
1568 ; AVX512-NEXT:    vpminuw %xmm1, %xmm0, %xmm0
1569 ; AVX512-NEXT:    vphminposuw %xmm0, %xmm0
1570 ; AVX512-NEXT:    vmovd %xmm0, %eax
1571 ; AVX512-NEXT:    # kill: def $ax killed $ax killed $eax
1572 ; AVX512-NEXT:    vzeroupper
1573 ; AVX512-NEXT:    retq
1574   %1 = call i16 @llvm.experimental.vector.reduce.umin.v32i16(<32 x i16> %a0)
1575   ret i16 %1
1576 }
1577
1578 define i16 @test_v64i16(<64 x i16> %a0) {
1579 ; SSE2-LABEL: test_v64i16:
1580 ; SSE2:       # %bb.0:
1581 ; SSE2-NEXT:    movdqa {{.*#+}} xmm8 = [32768,32768,32768,32768,32768,32768,32768,32768]
1582 ; SSE2-NEXT:    pxor %xmm8, %xmm6
1583 ; SSE2-NEXT:    pxor %xmm8, %xmm2
1584 ; SSE2-NEXT:    pminsw %xmm6, %xmm2
1585 ; SSE2-NEXT:    pxor %xmm8, %xmm4
1586 ; SSE2-NEXT:    pminsw %xmm2, %xmm4
1587 ; SSE2-NEXT:    pxor %xmm8, %xmm0
1588 ; SSE2-NEXT:    pxor %xmm8, %xmm7
1589 ; SSE2-NEXT:    pxor %xmm8, %xmm3
1590 ; SSE2-NEXT:    pminsw %xmm7, %xmm3
1591 ; SSE2-NEXT:    pxor %xmm8, %xmm5
1592 ; SSE2-NEXT:    pminsw %xmm3, %xmm5
1593 ; SSE2-NEXT:    pxor %xmm8, %xmm1
1594 ; SSE2-NEXT:    pminsw %xmm5, %xmm1
1595 ; SSE2-NEXT:    pminsw %xmm4, %xmm1
1596 ; SSE2-NEXT:    pminsw %xmm0, %xmm1
1597 ; SSE2-NEXT:    movdqa %xmm1, %xmm0
1598 ; SSE2-NEXT:    pxor %xmm8, %xmm0
1599 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1600 ; SSE2-NEXT:    pxor %xmm8, %xmm0
1601 ; SSE2-NEXT:    pminsw %xmm1, %xmm0
1602 ; SSE2-NEXT:    movdqa %xmm0, %xmm1
1603 ; SSE2-NEXT:    pxor %xmm8, %xmm1
1604 ; SSE2-NEXT:    pshufd {{.*#+}} xmm1 = xmm1[1,1,2,3]
1605 ; SSE2-NEXT:    pxor %xmm8, %xmm1
1606 ; SSE2-NEXT:    pminsw %xmm0, %xmm1
1607 ; SSE2-NEXT:    movdqa %xmm1, %xmm0
1608 ; SSE2-NEXT:    pxor %xmm8, %xmm0
1609 ; SSE2-NEXT:    psrld $16, %xmm0
1610 ; SSE2-NEXT:    pxor %xmm8, %xmm0
1611 ; SSE2-NEXT:    pminsw %xmm1, %xmm0
1612 ; SSE2-NEXT:    movd %xmm0, %eax
1613 ; SSE2-NEXT:    xorl $32768, %eax # imm = 0x8000
1614 ; SSE2-NEXT:    # kill: def $ax killed $ax killed $eax
1615 ; SSE2-NEXT:    retq
1616 ;
1617 ; SSE41-LABEL: test_v64i16:
1618 ; SSE41:       # %bb.0:
1619 ; SSE41-NEXT:    pminuw %xmm7, %xmm3
1620 ; SSE41-NEXT:    pminuw %xmm5, %xmm3
1621 ; SSE41-NEXT:    pminuw %xmm1, %xmm3
1622 ; SSE41-NEXT:    pminuw %xmm6, %xmm2
1623 ; SSE41-NEXT:    pminuw %xmm4, %xmm2
1624 ; SSE41-NEXT:    pminuw %xmm3, %xmm2
1625 ; SSE41-NEXT:    pminuw %xmm0, %xmm2
1626 ; SSE41-NEXT:    phminposuw %xmm2, %xmm0
1627 ; SSE41-NEXT:    movd %xmm0, %eax
1628 ; SSE41-NEXT:    # kill: def $ax killed $ax killed $eax
1629 ; SSE41-NEXT:    retq
1630 ;
1631 ; AVX1-LABEL: test_v64i16:
1632 ; AVX1:       # %bb.0:
1633 ; AVX1-NEXT:    vextractf128 $1, %ymm3, %xmm4
1634 ; AVX1-NEXT:    vextractf128 $1, %ymm1, %xmm5
1635 ; AVX1-NEXT:    vpminuw %xmm4, %xmm5, %xmm4
1636 ; AVX1-NEXT:    vextractf128 $1, %ymm2, %xmm5
1637 ; AVX1-NEXT:    vpminuw %xmm4, %xmm5, %xmm4
1638 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm5
1639 ; AVX1-NEXT:    vpminuw %xmm4, %xmm5, %xmm4
1640 ; AVX1-NEXT:    vpminuw %xmm3, %xmm1, %xmm1
1641 ; AVX1-NEXT:    vpminuw %xmm1, %xmm2, %xmm1
1642 ; AVX1-NEXT:    vpminuw %xmm4, %xmm1, %xmm1
1643 ; AVX1-NEXT:    vpminuw %xmm1, %xmm0, %xmm0
1644 ; AVX1-NEXT:    vphminposuw %xmm0, %xmm0
1645 ; AVX1-NEXT:    vmovd %xmm0, %eax
1646 ; AVX1-NEXT:    # kill: def $ax killed $ax killed $eax
1647 ; AVX1-NEXT:    vzeroupper
1648 ; AVX1-NEXT:    retq
1649 ;
1650 ; AVX2-LABEL: test_v64i16:
1651 ; AVX2:       # %bb.0:
1652 ; AVX2-NEXT:    vpminuw %ymm3, %ymm1, %ymm1
1653 ; AVX2-NEXT:    vpminuw %ymm1, %ymm2, %ymm1
1654 ; AVX2-NEXT:    vpminuw %ymm1, %ymm0, %ymm0
1655 ; AVX2-NEXT:    vextracti128 $1, %ymm0, %xmm1
1656 ; AVX2-NEXT:    vpminuw %xmm1, %xmm0, %xmm0
1657 ; AVX2-NEXT:    vphminposuw %xmm0, %xmm0
1658 ; AVX2-NEXT:    vmovd %xmm0, %eax
1659 ; AVX2-NEXT:    # kill: def $ax killed $ax killed $eax
1660 ; AVX2-NEXT:    vzeroupper
1661 ; AVX2-NEXT:    retq
1662 ;
1663 ; AVX512-LABEL: test_v64i16:
1664 ; AVX512:       # %bb.0:
1665 ; AVX512-NEXT:    vpminuw %zmm1, %zmm0, %zmm0
1666 ; AVX512-NEXT:    vextracti64x4 $1, %zmm0, %ymm1
1667 ; AVX512-NEXT:    vpminuw %ymm1, %ymm0, %ymm0
1668 ; AVX512-NEXT:    vextracti128 $1, %ymm0, %xmm1
1669 ; AVX512-NEXT:    vpminuw %xmm1, %xmm0, %xmm0
1670 ; AVX512-NEXT:    vphminposuw %xmm0, %xmm0
1671 ; AVX512-NEXT:    vmovd %xmm0, %eax
1672 ; AVX512-NEXT:    # kill: def $ax killed $ax killed $eax
1673 ; AVX512-NEXT:    vzeroupper
1674 ; AVX512-NEXT:    retq
1675   %1 = call i16 @llvm.experimental.vector.reduce.umin.v64i16(<64 x i16> %a0)
1676   ret i16 %1
1677 }
1678
1679 ;
1680 ; vXi8
1681 ;
1682
1683 define i8 @test_v2i8(<2 x i8> %a0) {
1684 ; SSE2-LABEL: test_v2i8:
1685 ; SSE2:       # %bb.0:
1686 ; SSE2-NEXT:    movdqa {{.*#+}} xmm1 = [255,0,0,0,0,0,0,0,255,0,0,0,0,0,0,0]
1687 ; SSE2-NEXT:    pand %xmm0, %xmm1
1688 ; SSE2-NEXT:    pxor %xmm2, %xmm2
1689 ; SSE2-NEXT:    punpckhbw {{.*#+}} xmm0 = xmm0[8],xmm2[8],xmm0[9],xmm2[9],xmm0[10],xmm2[10],xmm0[11],xmm2[11],xmm0[12],xmm2[12],xmm0[13],xmm2[13],xmm0[14],xmm2[14],xmm0[15],xmm2[15]
1690 ; SSE2-NEXT:    punpcklwd {{.*#+}} xmm0 = xmm0[0],xmm2[0],xmm0[1],xmm2[1],xmm0[2],xmm2[2],xmm0[3],xmm2[3]
1691 ; SSE2-NEXT:    punpckldq {{.*#+}} xmm0 = xmm0[0],xmm2[0],xmm0[1],xmm2[1]
1692 ; SSE2-NEXT:    movdqa {{.*#+}} xmm2 = [2147483648,2147483648]
1693 ; SSE2-NEXT:    movdqa %xmm1, %xmm3
1694 ; SSE2-NEXT:    por %xmm2, %xmm3
1695 ; SSE2-NEXT:    por %xmm0, %xmm2
1696 ; SSE2-NEXT:    movdqa %xmm2, %xmm4
1697 ; SSE2-NEXT:    pcmpgtd %xmm3, %xmm4
1698 ; SSE2-NEXT:    pshufd {{.*#+}} xmm5 = xmm4[0,0,2,2]
1699 ; SSE2-NEXT:    pcmpeqd %xmm3, %xmm2
1700 ; SSE2-NEXT:    pshufd {{.*#+}} xmm2 = xmm2[1,1,3,3]
1701 ; SSE2-NEXT:    pand %xmm5, %xmm2
1702 ; SSE2-NEXT:    pshufd {{.*#+}} xmm3 = xmm4[1,1,3,3]
1703 ; SSE2-NEXT:    por %xmm2, %xmm3
1704 ; SSE2-NEXT:    pand %xmm3, %xmm1
1705 ; SSE2-NEXT:    pandn %xmm0, %xmm3
1706 ; SSE2-NEXT:    por %xmm1, %xmm3
1707 ; SSE2-NEXT:    movd %xmm3, %eax
1708 ; SSE2-NEXT:    # kill: def $al killed $al killed $eax
1709 ; SSE2-NEXT:    retq
1710 ;
1711 ; SSE41-LABEL: test_v2i8:
1712 ; SSE41:       # %bb.0:
1713 ; SSE41-NEXT:    movdqa %xmm0, %xmm1
1714 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1715 ; SSE41-NEXT:    pand {{.*}}(%rip), %xmm1
1716 ; SSE41-NEXT:    pmovzxbq {{.*#+}} xmm2 = xmm0[0],zero,zero,zero,zero,zero,zero,zero,xmm0[1],zero,zero,zero,zero,zero,zero,zero
1717 ; SSE41-NEXT:    movdqa {{.*#+}} xmm3 = [2147483648,2147483648]
1718 ; SSE41-NEXT:    movdqa %xmm1, %xmm0
1719 ; SSE41-NEXT:    por %xmm3, %xmm0
1720 ; SSE41-NEXT:    por %xmm2, %xmm3
1721 ; SSE41-NEXT:    movdqa %xmm3, %xmm4
1722 ; SSE41-NEXT:    pcmpeqd %xmm0, %xmm4
1723 ; SSE41-NEXT:    pcmpgtd %xmm0, %xmm3
1724 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm3[0,0,2,2]
1725 ; SSE41-NEXT:    pand %xmm4, %xmm0
1726 ; SSE41-NEXT:    por %xmm3, %xmm0
1727 ; SSE41-NEXT:    blendvpd %xmm0, %xmm1, %xmm2
1728 ; SSE41-NEXT:    pextrb $0, %xmm2, %eax
1729 ; SSE41-NEXT:    # kill: def $al killed $al killed $eax
1730 ; SSE41-NEXT:    retq
1731 ;
1732 ; AVX-LABEL: test_v2i8:
1733 ; AVX:       # %bb.0:
1734 ; AVX-NEXT:    vpand {{.*}}(%rip), %xmm0, %xmm1
1735 ; AVX-NEXT:    vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1736 ; AVX-NEXT:    vpmovzxbq {{.*#+}} xmm0 = xmm0[0],zero,zero,zero,zero,zero,zero,zero,xmm0[1],zero,zero,zero,zero,zero,zero,zero
1737 ; AVX-NEXT:    vpcmpgtq %xmm1, %xmm0, %xmm2
1738 ; AVX-NEXT:    vblendvpd %xmm2, %xmm1, %xmm0, %xmm0
1739 ; AVX-NEXT:    vpextrb $0, %xmm0, %eax
1740 ; AVX-NEXT:    # kill: def $al killed $al killed $eax
1741 ; AVX-NEXT:    retq
1742 ;
1743 ; AVX512BW-LABEL: test_v2i8:
1744 ; AVX512BW:       # %bb.0:
1745 ; AVX512BW-NEXT:    vpand {{.*}}(%rip), %xmm0, %xmm1
1746 ; AVX512BW-NEXT:    vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1747 ; AVX512BW-NEXT:    vpmovzxbq {{.*#+}} xmm0 = xmm0[0],zero,zero,zero,zero,zero,zero,zero,xmm0[1],zero,zero,zero,zero,zero,zero,zero
1748 ; AVX512BW-NEXT:    vpminuq %zmm0, %zmm1, %zmm0
1749 ; AVX512BW-NEXT:    vpextrb $0, %xmm0, %eax
1750 ; AVX512BW-NEXT:    # kill: def $al killed $al killed $eax
1751 ; AVX512BW-NEXT:    vzeroupper
1752 ; AVX512BW-NEXT:    retq
1753 ;
1754 ; AVX512VL-LABEL: test_v2i8:
1755 ; AVX512VL:       # %bb.0:
1756 ; AVX512VL-NEXT:    vpand {{.*}}(%rip), %xmm0, %xmm1
1757 ; AVX512VL-NEXT:    vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1758 ; AVX512VL-NEXT:    vpmovzxbq {{.*#+}} xmm0 = xmm0[0],zero,zero,zero,zero,zero,zero,zero,xmm0[1],zero,zero,zero,zero,zero,zero,zero
1759 ; AVX512VL-NEXT:    vpminuq %xmm0, %xmm1, %xmm0
1760 ; AVX512VL-NEXT:    vpextrb $0, %xmm0, %eax
1761 ; AVX512VL-NEXT:    # kill: def $al killed $al killed $eax
1762 ; AVX512VL-NEXT:    retq
1763   %1 = call i8 @llvm.experimental.vector.reduce.umin.v2i8(<2 x i8> %a0)
1764   ret i8 %1
1765 }
1766
1767 define i8 @test_v4i8(<4 x i8> %a0) {
1768 ; SSE2-LABEL: test_v4i8:
1769 ; SSE2:       # %bb.0:
1770 ; SSE2-NEXT:    movdqa {{.*#+}} xmm1 = [255,0,0,0,255,0,0,0,255,0,0,0,255,0,0,0]
1771 ; SSE2-NEXT:    pshufd {{.*#+}} xmm2 = xmm0[2,3,0,1]
1772 ; SSE2-NEXT:    pand %xmm1, %xmm0
1773 ; SSE2-NEXT:    pand {{.*}}(%rip), %xmm2
1774 ; SSE2-NEXT:    movdqa %xmm2, %xmm3
1775 ; SSE2-NEXT:    pcmpgtd %xmm0, %xmm3
1776 ; SSE2-NEXT:    pand %xmm3, %xmm0
1777 ; SSE2-NEXT:    pandn %xmm2, %xmm3
1778 ; SSE2-NEXT:    por %xmm0, %xmm3
1779 ; SSE2-NEXT:    pand %xmm3, %xmm1
1780 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm3[1,1,2,3]
1781 ; SSE2-NEXT:    pxor %xmm2, %xmm2
1782 ; SSE2-NEXT:    punpcklbw {{.*#+}} xmm0 = xmm0[0],xmm2[0],xmm0[1],xmm2[1],xmm0[2],xmm2[2],xmm0[3],xmm2[3],xmm0[4],xmm2[4],xmm0[5],xmm2[5],xmm0[6],xmm2[6],xmm0[7],xmm2[7]
1783 ; SSE2-NEXT:    punpcklwd {{.*#+}} xmm0 = xmm0[0],xmm2[0],xmm0[1],xmm2[1],xmm0[2],xmm2[2],xmm0[3],xmm2[3]
1784 ; SSE2-NEXT:    punpckldq {{.*#+}} xmm0 = xmm0[0],xmm2[0],xmm0[1],xmm2[1]
1785 ; SSE2-NEXT:    movdqa %xmm0, %xmm2
1786 ; SSE2-NEXT:    pcmpgtd %xmm1, %xmm2
1787 ; SSE2-NEXT:    pand %xmm2, %xmm1
1788 ; SSE2-NEXT:    pandn %xmm0, %xmm2
1789 ; SSE2-NEXT:    por %xmm1, %xmm2
1790 ; SSE2-NEXT:    movd %xmm2, %eax
1791 ; SSE2-NEXT:    # kill: def $al killed $al killed $eax
1792 ; SSE2-NEXT:    retq
1793 ;
1794 ; SSE41-LABEL: test_v4i8:
1795 ; SSE41:       # %bb.0:
1796 ; SSE41-NEXT:    movdqa {{.*#+}} xmm1 = [255,0,0,0,255,0,0,0,255,0,0,0,255,0,0,0]
1797 ; SSE41-NEXT:    movdqa %xmm0, %xmm2
1798 ; SSE41-NEXT:    pand %xmm1, %xmm2
1799 ; SSE41-NEXT:    pshufb {{.*#+}} xmm0 = xmm0[8],zero,zero,zero,xmm0[12],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
1800 ; SSE41-NEXT:    pminud %xmm2, %xmm0
1801 ; SSE41-NEXT:    pand %xmm0, %xmm1
1802 ; SSE41-NEXT:    pshufd {{.*#+}} xmm0 = xmm0[1,1,2,3]
1803 ; SSE41-NEXT:    pmovzxbq {{.*#+}} xmm0 = xmm0[0],zero,zero,zero,zero,zero,zero,zero,xmm0[1],zero,zero,zero,zero,zero,zero,zero
1804 ; SSE41-NEXT:    pminud %xmm1, %xmm0
1805 ; SSE41-NEXT:    pextrb $0, %xmm0, %eax
1806 ; SSE41-NEXT:    # kill: def $al killed $al killed $eax
1807 ; SSE41-NEXT:    retq
1808 ;
1809 ; AVX1-LABEL: test_v4i8:
1810 ; AVX1:       # %bb.0:
1811 ; AVX1-NEXT:    vbroadcastss {{.*#+}} xmm1 = [3.57331108E-43,3.57331108E-43,3.57331108E-43,3.57331108E-43]
1812 ; AVX1-NEXT:    vandps %xmm1, %xmm0, %xmm2
1813 ; AVX1-NEXT:    vpshufb {{.*#+}} xmm0 = xmm0[8],zero,zero,zero,xmm0[12],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
1814 ; AVX1-NEXT:    vpminud %xmm0, %xmm2, %xmm0
1815 ; AVX1-NEXT:    vpand %xmm1, %xmm0, %xmm1
1816 ; AVX1-NEXT:    vpshufd {{.*#+}} xmm0 = xmm0[1,1,2,3]
1817 ; AVX1-NEXT:    vpmovzxbq {{.*#+}} xmm0 = xmm0[0],zero,zero,zero,zero,zero,zero,zero,xmm0[1],zero,zero,zero,zero,zero,zero,zero
1818 ; AVX1-NEXT:    vpminud %xmm0, %xmm1, %xmm0
1819 ; AVX1-NEXT:    vpextrb $0, %xmm0, %eax
1820 ; AVX1-NEXT:    # kill: def $al killed $al killed $eax
1821 ; AVX1-NEXT:    retq
1822 ;
1823 ; AVX2-LABEL: test_v4i8:
1824 ; AVX2:       # %bb.0:
1825 ; AVX2-NEXT:    vpbroadcastd {{.*#+}} xmm1 = [255,255,255,255]
1826 ; AVX2-NEXT:    vpand %xmm1, %xmm0, %xmm2
1827 ; AVX2-NEXT:    vpshufb {{.*#+}} xmm0 = xmm0[8],zero,zero,zero,xmm0[12],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
1828 ; AVX2-NEXT:    vpminud %xmm0, %xmm2, %xmm0
1829 ; AVX2-NEXT:    vpand %xmm1, %xmm0, %xmm1
1830 ; AVX2-NEXT:    vpshufd {{.*#+}} xmm0 = xmm0[1,1,2,3]
1831 ; AVX2-NEXT:    vpmovzxbq {{.*#+}} xmm0 = xmm0[0],zero,zero,zero,zero,zero,zero,zero,xmm0[1],zero,zero,zero,zero,zero,zero,zero
1832 ; AVX2-NEXT:    vpminud %xmm0, %xmm1, %xmm0
1833 ; AVX2-NEXT:    vpextrb $0, %xmm0, %eax
1834 ; AVX2-NEXT:    # kill: def $al killed $al killed $eax
1835 ; AVX2-NEXT:    retq
1836 ;
1837 ; AVX512-LABEL: test_v4i8:
1838 ; AVX512:       # %bb.0:
1839 ; AVX512-NEXT:    vpbroadcastd {{.*#+}} xmm1 = [255,255,255,255]
1840 ; AVX512-NEXT:    vpand %xmm1, %xmm0, %xmm2
1841 ; AVX512-NEXT:    vpshufb {{.*#+}} xmm0 = xmm0[8],zero,zero,zero,xmm0[12],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
1842 ; AVX512-NEXT:    vpminud %xmm0, %xmm2, %xmm0
1843 ; AVX512-NEXT:    vpand %xmm1, %xmm0, %xmm1
1844 ; AVX512-NEXT:    vpshufd {{.*#+}} xmm0 = xmm0[1,1,2,3]
1845 ; AVX512-NEXT:    vpmovzxbq {{.*#+}} xmm0 = xmm0[0],zero,zero,zero,zero,zero,zero,zero,xmm0[1],zero,zero,zero,zero,zero,zero,zero
1846 ; AVX512-NEXT:    vpminud %xmm0, %xmm1, %xmm0
1847 ; AVX512-NEXT:    vpextrb $0, %xmm0, %eax
1848 ; AVX512-NEXT:    # kill: def $al killed $al killed $eax
1849 ; AVX512-NEXT:    retq
1850   %1 = call i8 @llvm.experimental.vector.reduce.umin.v4i8(<4 x i8> %a0)
1851   ret i8 %1
1852 }
1853
1854 define i8 @test_v8i8(<8 x i8> %a0) {
1855 ; SSE2-LABEL: test_v8i8:
1856 ; SSE2:       # %bb.0:
1857 ; SSE2-NEXT:    movdqa {{.*#+}} xmm1 = [255,0,255,0,255,0,255,0,255,0,255,0,255,0,255,0]
1858 ; SSE2-NEXT:    pshufd {{.*#+}} xmm2 = xmm0[2,3,0,1]
1859 ; SSE2-NEXT:    pand %xmm1, %xmm0
1860 ; SSE2-NEXT:    pand {{.*}}(%rip), %xmm2
1861 ; SSE2-NEXT:    pminsw %xmm0, %xmm2
1862 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm2[1,1,2,3]
1863 ; SSE2-NEXT:    pand %xmm1, %xmm2
1864 ; SSE2-NEXT:    pand {{.*}}(%rip), %xmm0
1865 ; SSE2-NEXT:    pminsw %xmm2, %xmm0
1866 ; SSE2-NEXT:    pand %xmm0, %xmm1
1867 ; SSE2-NEXT:    psrld $16, %xmm0
1868 ; SSE2-NEXT:    pxor %xmm2, %xmm2
1869 ; SSE2-NEXT:    punpcklbw {{.*#+}} xmm0 = xmm0[0],xmm2[0],xmm0[1],xmm2[1],xmm0[2],xmm2[2],xmm0[3],xmm2[3],xmm0[4],xmm2[4],xmm0[5],xmm2[5],xmm0[6],xmm2[6],xmm0[7],xmm2[7]
1870 ; SSE2-NEXT:    punpcklwd {{.*#+}} xmm0 = xmm0[0],xmm2[0],xmm0[1],xmm2[1],xmm0[2],xmm2[2],xmm0[3],xmm2[3]
1871 ; SSE2-NEXT:    punpckldq {{.*#+}} xmm0 = xmm0[0],xmm2[0],xmm0[1],xmm2[1]
1872 ; SSE2-NEXT:    pminsw %xmm1, %xmm0
1873 ; SSE2-NEXT:    movd %xmm0, %eax
1874 ; SSE2-NEXT:    # kill: def $al killed $al killed $eax
1875 ; SSE2-NEXT:    retq
1876 ;
1877 ; SSE41-LABEL: test_v8i8:
1878 ; SSE41:       # %bb.0:
1879 ; SSE41-NEXT:    movdqa {{.*#+}} xmm1 = [255,0,255,0,255,0,255,0,255,0,255,0,255,0,255,0]
1880 ; SSE41-NEXT:    movdqa %xmm0, %xmm2
1881 ; SSE41-NEXT:    pand %xmm1, %xmm2
1882 ; SSE41-NEXT:    pshufb {{.*#+}} xmm0 = xmm0[8],zero,xmm0[10],zero,xmm0[12],zero,xmm0[14],zero,zero,zero,zero,zero,zero,zero,zero,zero
1883 ; SSE41-NEXT:    pminuw %xmm2, %xmm0
1884 ; SSE41-NEXT:    movdqa %xmm0, %xmm2
1885 ; SSE41-NEXT:    pand %xmm1, %xmm2
1886 ; SSE41-NEXT:    pshufb {{.*#+}} xmm0 = xmm0[4],zero,xmm0[6],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
1887 ; SSE41-NEXT:    pminuw %xmm2, %xmm0
1888 ; SSE41-NEXT:    pand %xmm0, %xmm1
1889 ; SSE41-NEXT:    psrld $16, %xmm0
1890 ; SSE41-NEXT:    pmovzxbq {{.*#+}} xmm0 = xmm0[0],zero,zero,zero,zero,zero,zero,zero,xmm0[1],zero,zero,zero,zero,zero,zero,zero
1891 ; SSE41-NEXT:    pminuw %xmm1, %xmm0
1892 ; SSE41-NEXT:    pextrb $0, %xmm0, %eax
1893 ; SSE41-NEXT:    # kill: def $al killed $al killed $eax
1894 ; SSE41-NEXT:    retq
1895 ;
1896 ; AVX1-LABEL: test_v8i8:
1897 ; AVX1:       # %bb.0:
1898 ; AVX1-NEXT:    vmovdqa {{.*#+}} xmm1 = [255,0,255,0,255,0,255,0,255,0,255,0,255,0,255,0]
1899 ; AVX1-NEXT:    vpand %xmm1, %xmm0, %xmm2
1900 ; AVX1-NEXT:    vpshufb {{.*#+}} xmm0 = xmm0[8],zero,xmm0[10],zero,xmm0[12],zero,xmm0[14],zero,zero,zero,zero,zero,zero,zero,zero,zero
1901 ; AVX1-NEXT:    vpminuw %xmm0, %xmm2, %xmm0
1902 ; AVX1-NEXT:    vpand %xmm1, %xmm0, %xmm2
1903 ; AVX1-NEXT:    vpshufb {{.*#+}} xmm0 = xmm0[4],zero,xmm0[6],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
1904 ; AVX1-NEXT:    vpminuw %xmm0, %xmm2, %xmm0
1905 ; AVX1-NEXT:    vpand %xmm1, %xmm0, %xmm1
1906 ; AVX1-NEXT:    vpsrld $16, %xmm0, %xmm0
1907 ; AVX1-NEXT:    vpmovzxbq {{.*#+}} xmm0 = xmm0[0],zero,zero,zero,zero,zero,zero,zero,xmm0[1],zero,zero,zero,zero,zero,zero,zero
1908 ; AVX1-NEXT:    vpminuw %xmm0, %xmm1, %xmm0
1909 ; AVX1-NEXT:    vpextrb $0, %xmm0, %eax
1910 ; AVX1-NEXT:    # kill: def $al killed $al killed $eax
1911 ; AVX1-NEXT:    retq
1912 ;
1913 ; AVX2-LABEL: test_v8i8:
1914 ; AVX2:       # %bb.0:
1915 ; AVX2-NEXT:    vpbroadcastw {{.*#+}} xmm1 = [255,255,255,255,255,255,255,255]
1916 ; AVX2-NEXT:    vpand %xmm1, %xmm0, %xmm2
1917 ; AVX2-NEXT:    vpshufb {{.*#+}} xmm0 = xmm0[8],zero,xmm0[10],zero,xmm0[12],zero,xmm0[14],zero,zero,zero,zero,zero,zero,zero,zero,zero
1918 ; AVX2-NEXT:    vpminuw %xmm0, %xmm2, %xmm0
1919 ; AVX2-NEXT:    vpand %xmm1, %xmm0, %xmm2
1920 ; AVX2-NEXT:    vpshufb {{.*#+}} xmm0 = xmm0[4],zero,xmm0[6],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
1921 ; AVX2-NEXT:    vpminuw %xmm0, %xmm2, %xmm0
1922 ; AVX2-NEXT:    vpand %xmm1, %xmm0, %xmm1
1923 ; AVX2-NEXT:    vpsrld $16, %xmm0, %xmm0
1924 ; AVX2-NEXT:    vpmovzxbq {{.*#+}} xmm0 = xmm0[0],zero,zero,zero,zero,zero,zero,zero,xmm0[1],zero,zero,zero,zero,zero,zero,zero
1925 ; AVX2-NEXT:    vpminuw %xmm0, %xmm1, %xmm0
1926 ; AVX2-NEXT:    vpextrb $0, %xmm0, %eax
1927 ; AVX2-NEXT:    # kill: def $al killed $al killed $eax
1928 ; AVX2-NEXT:    retq
1929 ;
1930 ; AVX512-LABEL: test_v8i8:
1931 ; AVX512:       # %bb.0:
1932 ; AVX512-NEXT:    vpbroadcastw {{.*#+}} xmm1 = [255,255,255,255,255,255,255,255]
1933 ; AVX512-NEXT:    vpand %xmm1, %xmm0, %xmm2
1934 ; AVX512-NEXT:    vpshufb {{.*#+}} xmm0 = xmm0[8],zero,xmm0[10],zero,xmm0[12],zero,xmm0[14],zero,zero,zero,zero,zero,zero,zero,zero,zero
1935 ; AVX512-NEXT:    vpminuw %xmm0, %xmm2, %xmm0
1936 ; AVX512-NEXT:    vpand %xmm1, %xmm0, %xmm2
1937 ; AVX512-NEXT:    vpshufb {{.*#+}} xmm0 = xmm0[4],zero,xmm0[6],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
1938 ; AVX512-NEXT:    vpminuw %xmm0, %xmm2, %xmm0
1939 ; AVX512-NEXT:    vpand %xmm1, %xmm0, %xmm1
1940 ; AVX512-NEXT:    vpsrld $16, %xmm0, %xmm0
1941 ; AVX512-NEXT:    vpmovzxbq {{.*#+}} xmm0 = xmm0[0],zero,zero,zero,zero,zero,zero,zero,xmm0[1],zero,zero,zero,zero,zero,zero,zero
1942 ; AVX512-NEXT:    vpminuw %xmm0, %xmm1, %xmm0
1943 ; AVX512-NEXT:    vpextrb $0, %xmm0, %eax
1944 ; AVX512-NEXT:    # kill: def $al killed $al killed $eax
1945 ; AVX512-NEXT:    retq
1946   %1 = call i8 @llvm.experimental.vector.reduce.umin.v8i8(<8 x i8> %a0)
1947   ret i8 %1
1948 }
1949
1950 define i8 @test_v16i8(<16 x i8> %a0) {
1951 ; SSE2-LABEL: test_v16i8:
1952 ; SSE2:       # %bb.0:
1953 ; SSE2-NEXT:    pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1954 ; SSE2-NEXT:    pminub %xmm0, %xmm1
1955 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
1956 ; SSE2-NEXT:    pminub %xmm1, %xmm0
1957 ; SSE2-NEXT:    movdqa %xmm0, %xmm1
1958 ; SSE2-NEXT:    psrld $16, %xmm1
1959 ; SSE2-NEXT:    pminub %xmm0, %xmm1
1960 ; SSE2-NEXT:    movdqa %xmm1, %xmm0
1961 ; SSE2-NEXT:    psrlw $8, %xmm0
1962 ; SSE2-NEXT:    pminub %xmm1, %xmm0
1963 ; SSE2-NEXT:    movd %xmm0, %eax
1964 ; SSE2-NEXT:    # kill: def $al killed $al killed $eax
1965 ; SSE2-NEXT:    retq
1966 ;
1967 ; SSE41-LABEL: test_v16i8:
1968 ; SSE41:       # %bb.0:
1969 ; SSE41-NEXT:    movdqa %xmm0, %xmm1
1970 ; SSE41-NEXT:    psrlw $8, %xmm1
1971 ; SSE41-NEXT:    pminub %xmm0, %xmm1
1972 ; SSE41-NEXT:    phminposuw %xmm1, %xmm0
1973 ; SSE41-NEXT:    pextrb $0, %xmm0, %eax
1974 ; SSE41-NEXT:    # kill: def $al killed $al killed $eax
1975 ; SSE41-NEXT:    retq
1976 ;
1977 ; AVX-LABEL: test_v16i8:
1978 ; AVX:       # %bb.0:
1979 ; AVX-NEXT:    vpsrlw $8, %xmm0, %xmm1
1980 ; AVX-NEXT:    vpminub %xmm1, %xmm0, %xmm0
1981 ; AVX-NEXT:    vphminposuw %xmm0, %xmm0
1982 ; AVX-NEXT:    vpextrb $0, %xmm0, %eax
1983 ; AVX-NEXT:    # kill: def $al killed $al killed $eax
1984 ; AVX-NEXT:    retq
1985 ;
1986 ; AVX512-LABEL: test_v16i8:
1987 ; AVX512:       # %bb.0:
1988 ; AVX512-NEXT:    vpsrlw $8, %xmm0, %xmm1
1989 ; AVX512-NEXT:    vpminub %xmm1, %xmm0, %xmm0
1990 ; AVX512-NEXT:    vphminposuw %xmm0, %xmm0
1991 ; AVX512-NEXT:    vpextrb $0, %xmm0, %eax
1992 ; AVX512-NEXT:    # kill: def $al killed $al killed $eax
1993 ; AVX512-NEXT:    retq
1994   %1 = call i8 @llvm.experimental.vector.reduce.umin.v16i8(<16 x i8> %a0)
1995   ret i8 %1
1996 }
1997
1998 define i8 @test_v32i8(<32 x i8> %a0) {
1999 ; SSE2-LABEL: test_v32i8:
2000 ; SSE2:       # %bb.0:
2001 ; SSE2-NEXT:    pminub %xmm1, %xmm0
2002 ; SSE2-NEXT:    pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
2003 ; SSE2-NEXT:    pminub %xmm0, %xmm1
2004 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
2005 ; SSE2-NEXT:    pminub %xmm1, %xmm0
2006 ; SSE2-NEXT:    movdqa %xmm0, %xmm1
2007 ; SSE2-NEXT:    psrld $16, %xmm1
2008 ; SSE2-NEXT:    pminub %xmm0, %xmm1
2009 ; SSE2-NEXT:    movdqa %xmm1, %xmm0
2010 ; SSE2-NEXT:    psrlw $8, %xmm0
2011 ; SSE2-NEXT:    pminub %xmm1, %xmm0
2012 ; SSE2-NEXT:    movd %xmm0, %eax
2013 ; SSE2-NEXT:    # kill: def $al killed $al killed $eax
2014 ; SSE2-NEXT:    retq
2015 ;
2016 ; SSE41-LABEL: test_v32i8:
2017 ; SSE41:       # %bb.0:
2018 ; SSE41-NEXT:    pminub %xmm1, %xmm0
2019 ; SSE41-NEXT:    movdqa %xmm0, %xmm1
2020 ; SSE41-NEXT:    psrlw $8, %xmm1
2021 ; SSE41-NEXT:    pminub %xmm0, %xmm1
2022 ; SSE41-NEXT:    phminposuw %xmm1, %xmm0
2023 ; SSE41-NEXT:    pextrb $0, %xmm0, %eax
2024 ; SSE41-NEXT:    # kill: def $al killed $al killed $eax
2025 ; SSE41-NEXT:    retq
2026 ;
2027 ; AVX1-LABEL: test_v32i8:
2028 ; AVX1:       # %bb.0:
2029 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm1
2030 ; AVX1-NEXT:    vpminub %xmm1, %xmm0, %xmm0
2031 ; AVX1-NEXT:    vpsrlw $8, %xmm0, %xmm1
2032 ; AVX1-NEXT:    vpminub %xmm1, %xmm0, %xmm0
2033 ; AVX1-NEXT:    vphminposuw %xmm0, %xmm0
2034 ; AVX1-NEXT:    vpextrb $0, %xmm0, %eax
2035 ; AVX1-NEXT:    # kill: def $al killed $al killed $eax
2036 ; AVX1-NEXT:    vzeroupper
2037 ; AVX1-NEXT:    retq
2038 ;
2039 ; AVX2-LABEL: test_v32i8:
2040 ; AVX2:       # %bb.0:
2041 ; AVX2-NEXT:    vextracti128 $1, %ymm0, %xmm1
2042 ; AVX2-NEXT:    vpminub %xmm1, %xmm0, %xmm0
2043 ; AVX2-NEXT:    vpsrlw $8, %xmm0, %xmm1
2044 ; AVX2-NEXT:    vpminub %xmm1, %xmm0, %xmm0
2045 ; AVX2-NEXT:    vphminposuw %xmm0, %xmm0
2046 ; AVX2-NEXT:    vpextrb $0, %xmm0, %eax
2047 ; AVX2-NEXT:    # kill: def $al killed $al killed $eax
2048 ; AVX2-NEXT:    vzeroupper
2049 ; AVX2-NEXT:    retq
2050 ;
2051 ; AVX512-LABEL: test_v32i8:
2052 ; AVX512:       # %bb.0:
2053 ; AVX512-NEXT:    vextracti128 $1, %ymm0, %xmm1
2054 ; AVX512-NEXT:    vpminub %xmm1, %xmm0, %xmm0
2055 ; AVX512-NEXT:    vpsrlw $8, %xmm0, %xmm1
2056 ; AVX512-NEXT:    vpminub %xmm1, %xmm0, %xmm0
2057 ; AVX512-NEXT:    vphminposuw %xmm0, %xmm0
2058 ; AVX512-NEXT:    vpextrb $0, %xmm0, %eax
2059 ; AVX512-NEXT:    # kill: def $al killed $al killed $eax
2060 ; AVX512-NEXT:    vzeroupper
2061 ; AVX512-NEXT:    retq
2062   %1 = call i8 @llvm.experimental.vector.reduce.umin.v32i8(<32 x i8> %a0)
2063   ret i8 %1
2064 }
2065
2066 define i8 @test_v64i8(<64 x i8> %a0) {
2067 ; SSE2-LABEL: test_v64i8:
2068 ; SSE2:       # %bb.0:
2069 ; SSE2-NEXT:    pminub %xmm3, %xmm1
2070 ; SSE2-NEXT:    pminub %xmm2, %xmm1
2071 ; SSE2-NEXT:    pminub %xmm0, %xmm1
2072 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm1[2,3,0,1]
2073 ; SSE2-NEXT:    pminub %xmm1, %xmm0
2074 ; SSE2-NEXT:    pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
2075 ; SSE2-NEXT:    pminub %xmm0, %xmm1
2076 ; SSE2-NEXT:    movdqa %xmm1, %xmm0
2077 ; SSE2-NEXT:    psrld $16, %xmm0
2078 ; SSE2-NEXT:    pminub %xmm1, %xmm0
2079 ; SSE2-NEXT:    movdqa %xmm0, %xmm1
2080 ; SSE2-NEXT:    psrlw $8, %xmm1
2081 ; SSE2-NEXT:    pminub %xmm0, %xmm1
2082 ; SSE2-NEXT:    movd %xmm1, %eax
2083 ; SSE2-NEXT:    # kill: def $al killed $al killed $eax
2084 ; SSE2-NEXT:    retq
2085 ;
2086 ; SSE41-LABEL: test_v64i8:
2087 ; SSE41:       # %bb.0:
2088 ; SSE41-NEXT:    pminub %xmm3, %xmm1
2089 ; SSE41-NEXT:    pminub %xmm2, %xmm1
2090 ; SSE41-NEXT:    pminub %xmm0, %xmm1
2091 ; SSE41-NEXT:    movdqa %xmm1, %xmm0
2092 ; SSE41-NEXT:    psrlw $8, %xmm0
2093 ; SSE41-NEXT:    pminub %xmm1, %xmm0
2094 ; SSE41-NEXT:    phminposuw %xmm0, %xmm0
2095 ; SSE41-NEXT:    pextrb $0, %xmm0, %eax
2096 ; SSE41-NEXT:    # kill: def $al killed $al killed $eax
2097 ; SSE41-NEXT:    retq
2098 ;
2099 ; AVX1-LABEL: test_v64i8:
2100 ; AVX1:       # %bb.0:
2101 ; AVX1-NEXT:    vextractf128 $1, %ymm1, %xmm2
2102 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm3
2103 ; AVX1-NEXT:    vpminub %xmm2, %xmm3, %xmm2
2104 ; AVX1-NEXT:    vpminub %xmm2, %xmm1, %xmm1
2105 ; AVX1-NEXT:    vpminub %xmm1, %xmm0, %xmm0
2106 ; AVX1-NEXT:    vpsrlw $8, %xmm0, %xmm1
2107 ; AVX1-NEXT:    vpminub %xmm1, %xmm0, %xmm0
2108 ; AVX1-NEXT:    vphminposuw %xmm0, %xmm0
2109 ; AVX1-NEXT:    vpextrb $0, %xmm0, %eax
2110 ; AVX1-NEXT:    # kill: def $al killed $al killed $eax
2111 ; AVX1-NEXT:    vzeroupper
2112 ; AVX1-NEXT:    retq
2113 ;
2114 ; AVX2-LABEL: test_v64i8:
2115 ; AVX2:       # %bb.0:
2116 ; AVX2-NEXT:    vpminub %ymm1, %ymm0, %ymm0
2117 ; AVX2-NEXT:    vextracti128 $1, %ymm0, %xmm1
2118 ; AVX2-NEXT:    vpminub %xmm1, %xmm0, %xmm0
2119 ; AVX2-NEXT:    vpsrlw $8, %xmm0, %xmm1
2120 ; AVX2-NEXT:    vpminub %xmm1, %xmm0, %xmm0
2121 ; AVX2-NEXT:    vphminposuw %xmm0, %xmm0
2122 ; AVX2-NEXT:    vpextrb $0, %xmm0, %eax
2123 ; AVX2-NEXT:    # kill: def $al killed $al killed $eax
2124 ; AVX2-NEXT:    vzeroupper
2125 ; AVX2-NEXT:    retq
2126 ;
2127 ; AVX512-LABEL: test_v64i8:
2128 ; AVX512:       # %bb.0:
2129 ; AVX512-NEXT:    vextracti64x4 $1, %zmm0, %ymm1
2130 ; AVX512-NEXT:    vpminub %ymm1, %ymm0, %ymm0
2131 ; AVX512-NEXT:    vextracti128 $1, %ymm0, %xmm1
2132 ; AVX512-NEXT:    vpminub %xmm1, %xmm0, %xmm0
2133 ; AVX512-NEXT:    vpsrlw $8, %xmm0, %xmm1
2134 ; AVX512-NEXT:    vpminub %xmm1, %xmm0, %xmm0
2135 ; AVX512-NEXT:    vphminposuw %xmm0, %xmm0
2136 ; AVX512-NEXT:    vpextrb $0, %xmm0, %eax
2137 ; AVX512-NEXT:    # kill: def $al killed $al killed $eax
2138 ; AVX512-NEXT:    vzeroupper
2139 ; AVX512-NEXT:    retq
2140   %1 = call i8 @llvm.experimental.vector.reduce.umin.v64i8(<64 x i8> %a0)
2141   ret i8 %1
2142 }
2143
2144 define i8 @test_v128i8(<128 x i8> %a0) {
2145 ; SSE2-LABEL: test_v128i8:
2146 ; SSE2:       # %bb.0:
2147 ; SSE2-NEXT:    pminub %xmm6, %xmm2
2148 ; SSE2-NEXT:    pminub %xmm7, %xmm3
2149 ; SSE2-NEXT:    pminub %xmm5, %xmm3
2150 ; SSE2-NEXT:    pminub %xmm1, %xmm3
2151 ; SSE2-NEXT:    pminub %xmm4, %xmm2
2152 ; SSE2-NEXT:    pminub %xmm3, %xmm2
2153 ; SSE2-NEXT:    pminub %xmm0, %xmm2
2154 ; SSE2-NEXT:    pshufd {{.*#+}} xmm0 = xmm2[2,3,0,1]
2155 ; SSE2-NEXT:    pminub %xmm2, %xmm0
2156 ; SSE2-NEXT:    pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
2157 ; SSE2-NEXT:    pminub %xmm0, %xmm1
2158 ; SSE2-NEXT:    movdqa %xmm1, %xmm0
2159 ; SSE2-NEXT:    psrld $16, %xmm0
2160 ; SSE2-NEXT:    pminub %xmm1, %xmm0
2161 ; SSE2-NEXT:    movdqa %xmm0, %xmm1
2162 ; SSE2-NEXT:    psrlw $8, %xmm1
2163 ; SSE2-NEXT:    pminub %xmm0, %xmm1
2164 ; SSE2-NEXT:    movd %xmm1, %eax
2165 ; SSE2-NEXT:    # kill: def $al killed $al killed $eax
2166 ; SSE2-NEXT:    retq
2167 ;
2168 ; SSE41-LABEL: test_v128i8:
2169 ; SSE41:       # %bb.0:
2170 ; SSE41-NEXT:    pminub %xmm7, %xmm3
2171 ; SSE41-NEXT:    pminub %xmm5, %xmm3
2172 ; SSE41-NEXT:    pminub %xmm1, %xmm3
2173 ; SSE41-NEXT:    pminub %xmm6, %xmm2
2174 ; SSE41-NEXT:    pminub %xmm4, %xmm2
2175 ; SSE41-NEXT:    pminub %xmm3, %xmm2
2176 ; SSE41-NEXT:    pminub %xmm0, %xmm2
2177 ; SSE41-NEXT:    movdqa %xmm2, %xmm0
2178 ; SSE41-NEXT:    psrlw $8, %xmm0
2179 ; SSE41-NEXT:    pminub %xmm2, %xmm0
2180 ; SSE41-NEXT:    phminposuw %xmm0, %xmm0
2181 ; SSE41-NEXT:    pextrb $0, %xmm0, %eax
2182 ; SSE41-NEXT:    # kill: def $al killed $al killed $eax
2183 ; SSE41-NEXT:    retq
2184 ;
2185 ; AVX1-LABEL: test_v128i8:
2186 ; AVX1:       # %bb.0:
2187 ; AVX1-NEXT:    vextractf128 $1, %ymm3, %xmm4
2188 ; AVX1-NEXT:    vextractf128 $1, %ymm1, %xmm5
2189 ; AVX1-NEXT:    vpminub %xmm4, %xmm5, %xmm4
2190 ; AVX1-NEXT:    vextractf128 $1, %ymm2, %xmm5
2191 ; AVX1-NEXT:    vpminub %xmm4, %xmm5, %xmm4
2192 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm5
2193 ; AVX1-NEXT:    vpminub %xmm4, %xmm5, %xmm4
2194 ; AVX1-NEXT:    vpminub %xmm3, %xmm1, %xmm1
2195 ; AVX1-NEXT:    vpminub %xmm1, %xmm2, %xmm1
2196 ; AVX1-NEXT:    vpminub %xmm4, %xmm1, %xmm1
2197 ; AVX1-NEXT:    vpminub %xmm1, %xmm0, %xmm0
2198 ; AVX1-NEXT:    vpsrlw $8, %xmm0, %xmm1
2199 ; AVX1-NEXT:    vpminub %xmm1, %xmm0, %xmm0
2200 ; AVX1-NEXT:    vphminposuw %xmm0, %xmm0
2201 ; AVX1-NEXT:    vpextrb $0, %xmm0, %eax
2202 ; AVX1-NEXT:    # kill: def $al killed $al killed $eax
2203 ; AVX1-NEXT:    vzeroupper
2204 ; AVX1-NEXT:    retq
2205 ;
2206 ; AVX2-LABEL: test_v128i8:
2207 ; AVX2:       # %bb.0:
2208 ; AVX2-NEXT:    vpminub %ymm3, %ymm1, %ymm1
2209 ; AVX2-NEXT:    vpminub %ymm1, %ymm2, %ymm1
2210 ; AVX2-NEXT:    vpminub %ymm1, %ymm0, %ymm0
2211 ; AVX2-NEXT:    vextracti128 $1, %ymm0, %xmm1
2212 ; AVX2-NEXT:    vpminub %xmm1, %xmm0, %xmm0
2213 ; AVX2-NEXT:    vpsrlw $8, %xmm0, %xmm1
2214 ; AVX2-NEXT:    vpminub %xmm1, %xmm0, %xmm0
2215 ; AVX2-NEXT:    vphminposuw %xmm0, %xmm0
2216 ; AVX2-NEXT:    vpextrb $0, %xmm0, %eax
2217 ; AVX2-NEXT:    # kill: def $al killed $al killed $eax
2218 ; AVX2-NEXT:    vzeroupper
2219 ; AVX2-NEXT:    retq
2220 ;
2221 ; AVX512-LABEL: test_v128i8:
2222 ; AVX512:       # %bb.0:
2223 ; AVX512-NEXT:    vpminub %zmm1, %zmm0, %zmm0
2224 ; AVX512-NEXT:    vextracti64x4 $1, %zmm0, %ymm1
2225 ; AVX512-NEXT:    vpminub %ymm1, %ymm0, %ymm0
2226 ; AVX512-NEXT:    vextracti128 $1, %ymm0, %xmm1
2227 ; AVX512-NEXT:    vpminub %xmm1, %xmm0, %xmm0
2228 ; AVX512-NEXT:    vpsrlw $8, %xmm0, %xmm1
2229 ; AVX512-NEXT:    vpminub %xmm1, %xmm0, %xmm0
2230 ; AVX512-NEXT:    vphminposuw %xmm0, %xmm0
2231 ; AVX512-NEXT:    vpextrb $0, %xmm0, %eax
2232 ; AVX512-NEXT:    # kill: def $al killed $al killed $eax
2233 ; AVX512-NEXT:    vzeroupper
2234 ; AVX512-NEXT:    retq
2235   %1 = call i8 @llvm.experimental.vector.reduce.umin.v128i8(<128 x i8> %a0)
2236   ret i8 %1
2237 }
2238
2239 declare i64 @llvm.experimental.vector.reduce.umin.v2i64(<2 x i64>)
2240 declare i64 @llvm.experimental.vector.reduce.umin.v4i64(<4 x i64>)
2241 declare i64 @llvm.experimental.vector.reduce.umin.v8i64(<8 x i64>)
2242 declare i64 @llvm.experimental.vector.reduce.umin.v16i64(<16 x i64>)
2243
2244 declare i32 @llvm.experimental.vector.reduce.umin.v2i32(<2 x i32>)
2245 declare i32 @llvm.experimental.vector.reduce.umin.v4i32(<4 x i32>)
2246 declare i32 @llvm.experimental.vector.reduce.umin.v8i32(<8 x i32>)
2247 declare i32 @llvm.experimental.vector.reduce.umin.v16i32(<16 x i32>)
2248 declare i32 @llvm.experimental.vector.reduce.umin.v32i32(<32 x i32>)
2249
2250 declare i16 @llvm.experimental.vector.reduce.umin.v2i16(<2 x i16>)
2251 declare i16 @llvm.experimental.vector.reduce.umin.v4i16(<4 x i16>)
2252 declare i16 @llvm.experimental.vector.reduce.umin.v8i16(<8 x i16>)
2253 declare i16 @llvm.experimental.vector.reduce.umin.v16i16(<16 x i16>)
2254 declare i16 @llvm.experimental.vector.reduce.umin.v32i16(<32 x i16>)
2255 declare i16 @llvm.experimental.vector.reduce.umin.v64i16(<64 x i16>)
2256
2257 declare i8 @llvm.experimental.vector.reduce.umin.v2i8(<2 x i8>)
2258 declare i8 @llvm.experimental.vector.reduce.umin.v4i8(<4 x i8>)
2259 declare i8 @llvm.experimental.vector.reduce.umin.v8i8(<8 x i8>)
2260 declare i8 @llvm.experimental.vector.reduce.umin.v16i8(<16 x i8>)
2261 declare i8 @llvm.experimental.vector.reduce.umin.v32i8(<32 x i8>)
2262 declare i8 @llvm.experimental.vector.reduce.umin.v64i8(<64 x i8>)
2263 declare i8 @llvm.experimental.vector.reduce.umin.v128i8(<128 x i8>)