1 ; NOTE: Assertions have been autogenerated by utils/update_llc_test_checks.py
2 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse2 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE2
3 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse4.1 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE41
4 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx | FileCheck %s --check-prefix=ALL --check-prefix=AVX --check-prefix=AVX1
5 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx2 | FileCheck %s --check-prefix=ALL --check-prefix=AVX --check-prefix=AVX2
6 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx512f,+avx512bw | FileCheck %s --check-prefix=ALL --check-prefix=AVX512 --check-prefix=AVX512BW
7 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx512f,+avx512bw,+avx512vl | FileCheck %s --check-prefix=ALL --check-prefix=AVX512 --check-prefix=AVX512VL
13 define i64 @test_v2i64(<2 x i64> %a0) {
14 ; SSE2-LABEL: test_v2i64:
16 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
17 ; SSE2-NEXT: movdqa {{.*#+}} xmm2 = [2147483648,2147483648]
18 ; SSE2-NEXT: movdqa %xmm0, %xmm3
19 ; SSE2-NEXT: pxor %xmm2, %xmm3
20 ; SSE2-NEXT: pxor %xmm1, %xmm2
21 ; SSE2-NEXT: movdqa %xmm3, %xmm4
22 ; SSE2-NEXT: pcmpgtd %xmm2, %xmm4
23 ; SSE2-NEXT: pshufd {{.*#+}} xmm5 = xmm4[0,0,2,2]
24 ; SSE2-NEXT: pcmpeqd %xmm3, %xmm2
25 ; SSE2-NEXT: pshufd {{.*#+}} xmm2 = xmm2[1,1,3,3]
26 ; SSE2-NEXT: pand %xmm5, %xmm2
27 ; SSE2-NEXT: pshufd {{.*#+}} xmm3 = xmm4[1,1,3,3]
28 ; SSE2-NEXT: por %xmm2, %xmm3
29 ; SSE2-NEXT: pand %xmm3, %xmm0
30 ; SSE2-NEXT: pandn %xmm1, %xmm3
31 ; SSE2-NEXT: por %xmm0, %xmm3
32 ; SSE2-NEXT: movq %xmm3, %rax
35 ; SSE41-LABEL: test_v2i64:
37 ; SSE41-NEXT: movdqa %xmm0, %xmm1
38 ; SSE41-NEXT: pshufd {{.*#+}} xmm2 = xmm0[2,3,0,1]
39 ; SSE41-NEXT: movdqa {{.*#+}} xmm3 = [2147483648,2147483648]
40 ; SSE41-NEXT: movdqa %xmm0, %xmm4
41 ; SSE41-NEXT: pxor %xmm3, %xmm4
42 ; SSE41-NEXT: pxor %xmm2, %xmm3
43 ; SSE41-NEXT: movdqa %xmm4, %xmm0
44 ; SSE41-NEXT: pcmpgtd %xmm3, %xmm0
45 ; SSE41-NEXT: pshufd {{.*#+}} xmm5 = xmm0[0,0,2,2]
46 ; SSE41-NEXT: pcmpeqd %xmm4, %xmm3
47 ; SSE41-NEXT: pshufd {{.*#+}} xmm3 = xmm3[1,1,3,3]
48 ; SSE41-NEXT: pand %xmm5, %xmm3
49 ; SSE41-NEXT: por %xmm3, %xmm0
50 ; SSE41-NEXT: blendvpd %xmm0, %xmm1, %xmm2
51 ; SSE41-NEXT: movq %xmm2, %rax
54 ; AVX-LABEL: test_v2i64:
56 ; AVX-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
57 ; AVX-NEXT: vpcmpgtq %xmm1, %xmm0, %xmm2
58 ; AVX-NEXT: vblendvpd %xmm2, %xmm0, %xmm1, %xmm0
59 ; AVX-NEXT: vmovq %xmm0, %rax
62 ; AVX512BW-LABEL: test_v2i64:
64 ; AVX512BW-NEXT: # kill: def $xmm0 killed $xmm0 def $zmm0
65 ; AVX512BW-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
66 ; AVX512BW-NEXT: vpmaxsq %zmm1, %zmm0, %zmm0
67 ; AVX512BW-NEXT: vmovq %xmm0, %rax
68 ; AVX512BW-NEXT: vzeroupper
71 ; AVX512VL-LABEL: test_v2i64:
73 ; AVX512VL-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
74 ; AVX512VL-NEXT: vpmaxsq %xmm1, %xmm0, %xmm0
75 ; AVX512VL-NEXT: vmovq %xmm0, %rax
77 %1 = call i64 @llvm.experimental.vector.reduce.smax.i64.v2i64(<2 x i64> %a0)
81 define i64 @test_v4i64(<4 x i64> %a0) {
82 ; SSE2-LABEL: test_v4i64:
84 ; SSE2-NEXT: movdqa {{.*#+}} xmm2 = [2147483648,2147483648]
85 ; SSE2-NEXT: movdqa %xmm1, %xmm3
86 ; SSE2-NEXT: pxor %xmm2, %xmm3
87 ; SSE2-NEXT: movdqa %xmm0, %xmm4
88 ; SSE2-NEXT: pxor %xmm2, %xmm4
89 ; SSE2-NEXT: movdqa %xmm4, %xmm5
90 ; SSE2-NEXT: pcmpgtd %xmm3, %xmm5
91 ; SSE2-NEXT: pshufd {{.*#+}} xmm6 = xmm5[0,0,2,2]
92 ; SSE2-NEXT: pcmpeqd %xmm3, %xmm4
93 ; SSE2-NEXT: pshufd {{.*#+}} xmm3 = xmm4[1,1,3,3]
94 ; SSE2-NEXT: pand %xmm6, %xmm3
95 ; SSE2-NEXT: pshufd {{.*#+}} xmm4 = xmm5[1,1,3,3]
96 ; SSE2-NEXT: por %xmm3, %xmm4
97 ; SSE2-NEXT: pand %xmm4, %xmm0
98 ; SSE2-NEXT: pandn %xmm1, %xmm4
99 ; SSE2-NEXT: por %xmm0, %xmm4
100 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm4[2,3,0,1]
101 ; SSE2-NEXT: movdqa %xmm4, %xmm1
102 ; SSE2-NEXT: pxor %xmm2, %xmm1
103 ; SSE2-NEXT: pxor %xmm0, %xmm2
104 ; SSE2-NEXT: movdqa %xmm1, %xmm3
105 ; SSE2-NEXT: pcmpgtd %xmm2, %xmm3
106 ; SSE2-NEXT: pshufd {{.*#+}} xmm5 = xmm3[0,0,2,2]
107 ; SSE2-NEXT: pcmpeqd %xmm1, %xmm2
108 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm2[1,1,3,3]
109 ; SSE2-NEXT: pand %xmm5, %xmm1
110 ; SSE2-NEXT: pshufd {{.*#+}} xmm2 = xmm3[1,1,3,3]
111 ; SSE2-NEXT: por %xmm1, %xmm2
112 ; SSE2-NEXT: pand %xmm2, %xmm4
113 ; SSE2-NEXT: pandn %xmm0, %xmm2
114 ; SSE2-NEXT: por %xmm4, %xmm2
115 ; SSE2-NEXT: movq %xmm2, %rax
118 ; SSE41-LABEL: test_v4i64:
120 ; SSE41-NEXT: movdqa %xmm0, %xmm2
121 ; SSE41-NEXT: movdqa {{.*#+}} xmm3 = [2147483648,2147483648]
122 ; SSE41-NEXT: movdqa %xmm1, %xmm4
123 ; SSE41-NEXT: pxor %xmm3, %xmm4
124 ; SSE41-NEXT: movdqa %xmm0, %xmm5
125 ; SSE41-NEXT: pxor %xmm3, %xmm5
126 ; SSE41-NEXT: movdqa %xmm5, %xmm0
127 ; SSE41-NEXT: pcmpgtd %xmm4, %xmm0
128 ; SSE41-NEXT: pshufd {{.*#+}} xmm6 = xmm0[0,0,2,2]
129 ; SSE41-NEXT: pcmpeqd %xmm4, %xmm5
130 ; SSE41-NEXT: pshufd {{.*#+}} xmm4 = xmm5[1,1,3,3]
131 ; SSE41-NEXT: pand %xmm6, %xmm4
132 ; SSE41-NEXT: por %xmm4, %xmm0
133 ; SSE41-NEXT: blendvpd %xmm0, %xmm2, %xmm1
134 ; SSE41-NEXT: pshufd {{.*#+}} xmm2 = xmm1[2,3,0,1]
135 ; SSE41-NEXT: movdqa %xmm1, %xmm0
136 ; SSE41-NEXT: pxor %xmm3, %xmm0
137 ; SSE41-NEXT: pxor %xmm2, %xmm3
138 ; SSE41-NEXT: movdqa %xmm0, %xmm4
139 ; SSE41-NEXT: pcmpgtd %xmm3, %xmm4
140 ; SSE41-NEXT: pshufd {{.*#+}} xmm5 = xmm4[0,0,2,2]
141 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm3
142 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm3[1,1,3,3]
143 ; SSE41-NEXT: pand %xmm5, %xmm0
144 ; SSE41-NEXT: por %xmm4, %xmm0
145 ; SSE41-NEXT: blendvpd %xmm0, %xmm1, %xmm2
146 ; SSE41-NEXT: movq %xmm2, %rax
149 ; AVX1-LABEL: test_v4i64:
151 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm1
152 ; AVX1-NEXT: vpcmpgtq %xmm0, %xmm1, %xmm2
153 ; AVX1-NEXT: vpcmpgtq %xmm1, %xmm0, %xmm3
154 ; AVX1-NEXT: vinsertf128 $1, %xmm2, %ymm3, %ymm2
155 ; AVX1-NEXT: vblendvpd %ymm2, %ymm0, %ymm1, %ymm0
156 ; AVX1-NEXT: vpermilps {{.*#+}} xmm1 = xmm0[2,3,0,1]
157 ; AVX1-NEXT: vpcmpgtq %xmm1, %xmm0, %xmm2
158 ; AVX1-NEXT: vblendvpd %ymm2, %ymm0, %ymm1, %ymm0
159 ; AVX1-NEXT: vmovq %xmm0, %rax
160 ; AVX1-NEXT: vzeroupper
163 ; AVX2-LABEL: test_v4i64:
165 ; AVX2-NEXT: vextracti128 $1, %ymm0, %xmm1
166 ; AVX2-NEXT: vpcmpgtq %ymm1, %ymm0, %ymm2
167 ; AVX2-NEXT: vblendvpd %ymm2, %ymm0, %ymm1, %ymm0
168 ; AVX2-NEXT: vpermilps {{.*#+}} xmm1 = xmm0[2,3,0,1]
169 ; AVX2-NEXT: vpcmpgtq %ymm1, %ymm0, %ymm2
170 ; AVX2-NEXT: vblendvpd %ymm2, %ymm0, %ymm1, %ymm0
171 ; AVX2-NEXT: vmovq %xmm0, %rax
172 ; AVX2-NEXT: vzeroupper
175 ; AVX512BW-LABEL: test_v4i64:
177 ; AVX512BW-NEXT: # kill: def $ymm0 killed $ymm0 def $zmm0
178 ; AVX512BW-NEXT: vextracti128 $1, %ymm0, %xmm1
179 ; AVX512BW-NEXT: vpmaxsq %zmm1, %zmm0, %zmm0
180 ; AVX512BW-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
181 ; AVX512BW-NEXT: vpmaxsq %zmm1, %zmm0, %zmm0
182 ; AVX512BW-NEXT: vmovq %xmm0, %rax
183 ; AVX512BW-NEXT: vzeroupper
184 ; AVX512BW-NEXT: retq
186 ; AVX512VL-LABEL: test_v4i64:
188 ; AVX512VL-NEXT: vextracti128 $1, %ymm0, %xmm1
189 ; AVX512VL-NEXT: vpmaxsq %ymm1, %ymm0, %ymm0
190 ; AVX512VL-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
191 ; AVX512VL-NEXT: vpmaxsq %ymm1, %ymm0, %ymm0
192 ; AVX512VL-NEXT: vmovq %xmm0, %rax
193 ; AVX512VL-NEXT: vzeroupper
194 ; AVX512VL-NEXT: retq
195 %1 = call i64 @llvm.experimental.vector.reduce.smax.i64.v4i64(<4 x i64> %a0)
199 define i64 @test_v8i64(<8 x i64> %a0) {
200 ; SSE2-LABEL: test_v8i64:
202 ; SSE2-NEXT: movdqa {{.*#+}} xmm4 = [2147483648,2147483648]
203 ; SSE2-NEXT: movdqa %xmm2, %xmm5
204 ; SSE2-NEXT: pxor %xmm4, %xmm5
205 ; SSE2-NEXT: movdqa %xmm0, %xmm6
206 ; SSE2-NEXT: pxor %xmm4, %xmm6
207 ; SSE2-NEXT: movdqa %xmm6, %xmm7
208 ; SSE2-NEXT: pcmpgtd %xmm5, %xmm7
209 ; SSE2-NEXT: pshufd {{.*#+}} xmm8 = xmm7[0,0,2,2]
210 ; SSE2-NEXT: pcmpeqd %xmm5, %xmm6
211 ; SSE2-NEXT: pshufd {{.*#+}} xmm6 = xmm6[1,1,3,3]
212 ; SSE2-NEXT: pand %xmm8, %xmm6
213 ; SSE2-NEXT: pshufd {{.*#+}} xmm5 = xmm7[1,1,3,3]
214 ; SSE2-NEXT: por %xmm6, %xmm5
215 ; SSE2-NEXT: pand %xmm5, %xmm0
216 ; SSE2-NEXT: pandn %xmm2, %xmm5
217 ; SSE2-NEXT: por %xmm0, %xmm5
218 ; SSE2-NEXT: movdqa %xmm3, %xmm0
219 ; SSE2-NEXT: pxor %xmm4, %xmm0
220 ; SSE2-NEXT: movdqa %xmm1, %xmm2
221 ; SSE2-NEXT: pxor %xmm4, %xmm2
222 ; SSE2-NEXT: movdqa %xmm2, %xmm6
223 ; SSE2-NEXT: pcmpgtd %xmm0, %xmm6
224 ; SSE2-NEXT: pshufd {{.*#+}} xmm7 = xmm6[0,0,2,2]
225 ; SSE2-NEXT: pcmpeqd %xmm0, %xmm2
226 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm2[1,1,3,3]
227 ; SSE2-NEXT: pand %xmm7, %xmm0
228 ; SSE2-NEXT: pshufd {{.*#+}} xmm2 = xmm6[1,1,3,3]
229 ; SSE2-NEXT: por %xmm0, %xmm2
230 ; SSE2-NEXT: pand %xmm2, %xmm1
231 ; SSE2-NEXT: pandn %xmm3, %xmm2
232 ; SSE2-NEXT: por %xmm1, %xmm2
233 ; SSE2-NEXT: movdqa %xmm2, %xmm0
234 ; SSE2-NEXT: pxor %xmm4, %xmm0
235 ; SSE2-NEXT: movdqa %xmm5, %xmm1
236 ; SSE2-NEXT: pxor %xmm4, %xmm1
237 ; SSE2-NEXT: movdqa %xmm1, %xmm3
238 ; SSE2-NEXT: pcmpgtd %xmm0, %xmm3
239 ; SSE2-NEXT: pshufd {{.*#+}} xmm6 = xmm3[0,0,2,2]
240 ; SSE2-NEXT: pcmpeqd %xmm0, %xmm1
241 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,3,3]
242 ; SSE2-NEXT: pand %xmm6, %xmm0
243 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm3[1,1,3,3]
244 ; SSE2-NEXT: por %xmm0, %xmm1
245 ; SSE2-NEXT: pand %xmm1, %xmm5
246 ; SSE2-NEXT: pandn %xmm2, %xmm1
247 ; SSE2-NEXT: por %xmm5, %xmm1
248 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm1[2,3,0,1]
249 ; SSE2-NEXT: movdqa %xmm1, %xmm2
250 ; SSE2-NEXT: pxor %xmm4, %xmm2
251 ; SSE2-NEXT: pxor %xmm0, %xmm4
252 ; SSE2-NEXT: movdqa %xmm2, %xmm3
253 ; SSE2-NEXT: pcmpgtd %xmm4, %xmm3
254 ; SSE2-NEXT: pshufd {{.*#+}} xmm5 = xmm3[0,0,2,2]
255 ; SSE2-NEXT: pcmpeqd %xmm2, %xmm4
256 ; SSE2-NEXT: pshufd {{.*#+}} xmm2 = xmm4[1,1,3,3]
257 ; SSE2-NEXT: pand %xmm5, %xmm2
258 ; SSE2-NEXT: pshufd {{.*#+}} xmm3 = xmm3[1,1,3,3]
259 ; SSE2-NEXT: por %xmm2, %xmm3
260 ; SSE2-NEXT: pand %xmm3, %xmm1
261 ; SSE2-NEXT: pandn %xmm0, %xmm3
262 ; SSE2-NEXT: por %xmm1, %xmm3
263 ; SSE2-NEXT: movq %xmm3, %rax
266 ; SSE41-LABEL: test_v8i64:
268 ; SSE41-NEXT: movdqa %xmm0, %xmm4
269 ; SSE41-NEXT: movdqa {{.*#+}} xmm5 = [2147483648,2147483648]
270 ; SSE41-NEXT: movdqa %xmm2, %xmm6
271 ; SSE41-NEXT: pxor %xmm5, %xmm6
272 ; SSE41-NEXT: movdqa %xmm0, %xmm7
273 ; SSE41-NEXT: pxor %xmm5, %xmm7
274 ; SSE41-NEXT: movdqa %xmm7, %xmm0
275 ; SSE41-NEXT: pcmpgtd %xmm6, %xmm0
276 ; SSE41-NEXT: pshufd {{.*#+}} xmm8 = xmm0[0,0,2,2]
277 ; SSE41-NEXT: pcmpeqd %xmm6, %xmm7
278 ; SSE41-NEXT: pshufd {{.*#+}} xmm6 = xmm7[1,1,3,3]
279 ; SSE41-NEXT: pand %xmm8, %xmm6
280 ; SSE41-NEXT: por %xmm6, %xmm0
281 ; SSE41-NEXT: blendvpd %xmm0, %xmm4, %xmm2
282 ; SSE41-NEXT: movdqa %xmm3, %xmm0
283 ; SSE41-NEXT: pxor %xmm5, %xmm0
284 ; SSE41-NEXT: movdqa %xmm1, %xmm4
285 ; SSE41-NEXT: pxor %xmm5, %xmm4
286 ; SSE41-NEXT: movdqa %xmm4, %xmm6
287 ; SSE41-NEXT: pcmpgtd %xmm0, %xmm6
288 ; SSE41-NEXT: pshufd {{.*#+}} xmm7 = xmm6[0,0,2,2]
289 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm4
290 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm4[1,1,3,3]
291 ; SSE41-NEXT: pand %xmm7, %xmm0
292 ; SSE41-NEXT: por %xmm6, %xmm0
293 ; SSE41-NEXT: blendvpd %xmm0, %xmm1, %xmm3
294 ; SSE41-NEXT: movapd %xmm3, %xmm0
295 ; SSE41-NEXT: xorpd %xmm5, %xmm0
296 ; SSE41-NEXT: movapd %xmm2, %xmm1
297 ; SSE41-NEXT: xorpd %xmm5, %xmm1
298 ; SSE41-NEXT: movapd %xmm1, %xmm4
299 ; SSE41-NEXT: pcmpgtd %xmm0, %xmm4
300 ; SSE41-NEXT: pshufd {{.*#+}} xmm6 = xmm4[0,0,2,2]
301 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm1
302 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,3,3]
303 ; SSE41-NEXT: pand %xmm6, %xmm0
304 ; SSE41-NEXT: por %xmm4, %xmm0
305 ; SSE41-NEXT: blendvpd %xmm0, %xmm2, %xmm3
306 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm3[2,3,0,1]
307 ; SSE41-NEXT: movdqa %xmm3, %xmm0
308 ; SSE41-NEXT: pxor %xmm5, %xmm0
309 ; SSE41-NEXT: pxor %xmm1, %xmm5
310 ; SSE41-NEXT: movdqa %xmm0, %xmm2
311 ; SSE41-NEXT: pcmpgtd %xmm5, %xmm2
312 ; SSE41-NEXT: pshufd {{.*#+}} xmm4 = xmm2[0,0,2,2]
313 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm5
314 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm5[1,1,3,3]
315 ; SSE41-NEXT: pand %xmm4, %xmm0
316 ; SSE41-NEXT: por %xmm2, %xmm0
317 ; SSE41-NEXT: blendvpd %xmm0, %xmm3, %xmm1
318 ; SSE41-NEXT: movq %xmm1, %rax
321 ; AVX1-LABEL: test_v8i64:
323 ; AVX1-NEXT: vextractf128 $1, %ymm1, %xmm2
324 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm3
325 ; AVX1-NEXT: vpcmpgtq %xmm2, %xmm3, %xmm2
326 ; AVX1-NEXT: vpcmpgtq %xmm1, %xmm0, %xmm3
327 ; AVX1-NEXT: vinsertf128 $1, %xmm2, %ymm3, %ymm2
328 ; AVX1-NEXT: vblendvpd %ymm2, %ymm0, %ymm1, %ymm0
329 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm1
330 ; AVX1-NEXT: vpcmpgtq %xmm1, %xmm0, %xmm2
331 ; AVX1-NEXT: vpcmpgtq %xmm0, %xmm1, %xmm3
332 ; AVX1-NEXT: vinsertf128 $1, %xmm3, %ymm2, %ymm2
333 ; AVX1-NEXT: vblendvpd %ymm2, %ymm0, %ymm1, %ymm0
334 ; AVX1-NEXT: vpermilps {{.*#+}} xmm1 = xmm0[2,3,0,1]
335 ; AVX1-NEXT: vpcmpgtq %xmm1, %xmm0, %xmm2
336 ; AVX1-NEXT: vblendvpd %ymm2, %ymm0, %ymm1, %ymm0
337 ; AVX1-NEXT: vmovq %xmm0, %rax
338 ; AVX1-NEXT: vzeroupper
341 ; AVX2-LABEL: test_v8i64:
343 ; AVX2-NEXT: vpcmpgtq %ymm1, %ymm0, %ymm2
344 ; AVX2-NEXT: vblendvpd %ymm2, %ymm0, %ymm1, %ymm0
345 ; AVX2-NEXT: vextractf128 $1, %ymm0, %xmm1
346 ; AVX2-NEXT: vpcmpgtq %ymm1, %ymm0, %ymm2
347 ; AVX2-NEXT: vblendvpd %ymm2, %ymm0, %ymm1, %ymm0
348 ; AVX2-NEXT: vpermilps {{.*#+}} xmm1 = xmm0[2,3,0,1]
349 ; AVX2-NEXT: vpcmpgtq %ymm1, %ymm0, %ymm2
350 ; AVX2-NEXT: vblendvpd %ymm2, %ymm0, %ymm1, %ymm0
351 ; AVX2-NEXT: vmovq %xmm0, %rax
352 ; AVX2-NEXT: vzeroupper
355 ; AVX512-LABEL: test_v8i64:
357 ; AVX512-NEXT: vextracti64x4 $1, %zmm0, %ymm1
358 ; AVX512-NEXT: vpmaxsq %zmm1, %zmm0, %zmm0
359 ; AVX512-NEXT: vextracti128 $1, %ymm0, %xmm1
360 ; AVX512-NEXT: vpmaxsq %zmm1, %zmm0, %zmm0
361 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
362 ; AVX512-NEXT: vpmaxsq %zmm1, %zmm0, %zmm0
363 ; AVX512-NEXT: vmovq %xmm0, %rax
364 ; AVX512-NEXT: vzeroupper
366 %1 = call i64 @llvm.experimental.vector.reduce.smax.i64.v8i64(<8 x i64> %a0)
370 define i64 @test_v16i64(<16 x i64> %a0) {
371 ; SSE2-LABEL: test_v16i64:
373 ; SSE2-NEXT: movdqa {{.*#+}} xmm8 = [2147483648,2147483648]
374 ; SSE2-NEXT: movdqa %xmm5, %xmm9
375 ; SSE2-NEXT: pxor %xmm8, %xmm9
376 ; SSE2-NEXT: movdqa %xmm1, %xmm10
377 ; SSE2-NEXT: pxor %xmm8, %xmm10
378 ; SSE2-NEXT: movdqa %xmm10, %xmm11
379 ; SSE2-NEXT: pcmpgtd %xmm9, %xmm11
380 ; SSE2-NEXT: pshufd {{.*#+}} xmm12 = xmm11[0,0,2,2]
381 ; SSE2-NEXT: pcmpeqd %xmm9, %xmm10
382 ; SSE2-NEXT: pshufd {{.*#+}} xmm10 = xmm10[1,1,3,3]
383 ; SSE2-NEXT: pand %xmm12, %xmm10
384 ; SSE2-NEXT: pshufd {{.*#+}} xmm9 = xmm11[1,1,3,3]
385 ; SSE2-NEXT: por %xmm10, %xmm9
386 ; SSE2-NEXT: pand %xmm9, %xmm1
387 ; SSE2-NEXT: pandn %xmm5, %xmm9
388 ; SSE2-NEXT: por %xmm1, %xmm9
389 ; SSE2-NEXT: movdqa %xmm7, %xmm1
390 ; SSE2-NEXT: pxor %xmm8, %xmm1
391 ; SSE2-NEXT: movdqa %xmm3, %xmm5
392 ; SSE2-NEXT: pxor %xmm8, %xmm5
393 ; SSE2-NEXT: movdqa %xmm5, %xmm10
394 ; SSE2-NEXT: pcmpgtd %xmm1, %xmm10
395 ; SSE2-NEXT: pshufd {{.*#+}} xmm11 = xmm10[0,0,2,2]
396 ; SSE2-NEXT: pcmpeqd %xmm1, %xmm5
397 ; SSE2-NEXT: pshufd {{.*#+}} xmm5 = xmm5[1,1,3,3]
398 ; SSE2-NEXT: pand %xmm11, %xmm5
399 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm10[1,1,3,3]
400 ; SSE2-NEXT: por %xmm5, %xmm1
401 ; SSE2-NEXT: pand %xmm1, %xmm3
402 ; SSE2-NEXT: pandn %xmm7, %xmm1
403 ; SSE2-NEXT: por %xmm3, %xmm1
404 ; SSE2-NEXT: movdqa %xmm4, %xmm3
405 ; SSE2-NEXT: pxor %xmm8, %xmm3
406 ; SSE2-NEXT: movdqa %xmm0, %xmm5
407 ; SSE2-NEXT: pxor %xmm8, %xmm5
408 ; SSE2-NEXT: movdqa %xmm5, %xmm7
409 ; SSE2-NEXT: pcmpgtd %xmm3, %xmm7
410 ; SSE2-NEXT: pshufd {{.*#+}} xmm10 = xmm7[0,0,2,2]
411 ; SSE2-NEXT: pcmpeqd %xmm3, %xmm5
412 ; SSE2-NEXT: pshufd {{.*#+}} xmm5 = xmm5[1,1,3,3]
413 ; SSE2-NEXT: pand %xmm10, %xmm5
414 ; SSE2-NEXT: pshufd {{.*#+}} xmm3 = xmm7[1,1,3,3]
415 ; SSE2-NEXT: por %xmm5, %xmm3
416 ; SSE2-NEXT: pand %xmm3, %xmm0
417 ; SSE2-NEXT: pandn %xmm4, %xmm3
418 ; SSE2-NEXT: por %xmm0, %xmm3
419 ; SSE2-NEXT: movdqa %xmm6, %xmm0
420 ; SSE2-NEXT: pxor %xmm8, %xmm0
421 ; SSE2-NEXT: movdqa %xmm2, %xmm4
422 ; SSE2-NEXT: pxor %xmm8, %xmm4
423 ; SSE2-NEXT: movdqa %xmm4, %xmm5
424 ; SSE2-NEXT: pcmpgtd %xmm0, %xmm5
425 ; SSE2-NEXT: pshufd {{.*#+}} xmm7 = xmm5[0,0,2,2]
426 ; SSE2-NEXT: pcmpeqd %xmm0, %xmm4
427 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm4[1,1,3,3]
428 ; SSE2-NEXT: pand %xmm7, %xmm0
429 ; SSE2-NEXT: pshufd {{.*#+}} xmm4 = xmm5[1,1,3,3]
430 ; SSE2-NEXT: por %xmm0, %xmm4
431 ; SSE2-NEXT: pand %xmm4, %xmm2
432 ; SSE2-NEXT: pandn %xmm6, %xmm4
433 ; SSE2-NEXT: por %xmm2, %xmm4
434 ; SSE2-NEXT: movdqa %xmm4, %xmm0
435 ; SSE2-NEXT: pxor %xmm8, %xmm0
436 ; SSE2-NEXT: movdqa %xmm3, %xmm2
437 ; SSE2-NEXT: pxor %xmm8, %xmm2
438 ; SSE2-NEXT: movdqa %xmm2, %xmm5
439 ; SSE2-NEXT: pcmpgtd %xmm0, %xmm5
440 ; SSE2-NEXT: pshufd {{.*#+}} xmm6 = xmm5[0,0,2,2]
441 ; SSE2-NEXT: pcmpeqd %xmm0, %xmm2
442 ; SSE2-NEXT: pshufd {{.*#+}} xmm2 = xmm2[1,1,3,3]
443 ; SSE2-NEXT: pand %xmm6, %xmm2
444 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm5[1,1,3,3]
445 ; SSE2-NEXT: por %xmm2, %xmm0
446 ; SSE2-NEXT: pand %xmm0, %xmm3
447 ; SSE2-NEXT: pandn %xmm4, %xmm0
448 ; SSE2-NEXT: por %xmm3, %xmm0
449 ; SSE2-NEXT: movdqa %xmm1, %xmm2
450 ; SSE2-NEXT: pxor %xmm8, %xmm2
451 ; SSE2-NEXT: movdqa %xmm9, %xmm3
452 ; SSE2-NEXT: pxor %xmm8, %xmm3
453 ; SSE2-NEXT: movdqa %xmm3, %xmm4
454 ; SSE2-NEXT: pcmpgtd %xmm2, %xmm4
455 ; SSE2-NEXT: pshufd {{.*#+}} xmm5 = xmm4[0,0,2,2]
456 ; SSE2-NEXT: pcmpeqd %xmm2, %xmm3
457 ; SSE2-NEXT: pshufd {{.*#+}} xmm2 = xmm3[1,1,3,3]
458 ; SSE2-NEXT: pand %xmm5, %xmm2
459 ; SSE2-NEXT: pshufd {{.*#+}} xmm3 = xmm4[1,1,3,3]
460 ; SSE2-NEXT: por %xmm2, %xmm3
461 ; SSE2-NEXT: pand %xmm3, %xmm9
462 ; SSE2-NEXT: pandn %xmm1, %xmm3
463 ; SSE2-NEXT: por %xmm9, %xmm3
464 ; SSE2-NEXT: movdqa %xmm3, %xmm1
465 ; SSE2-NEXT: pxor %xmm8, %xmm1
466 ; SSE2-NEXT: movdqa %xmm0, %xmm2
467 ; SSE2-NEXT: pxor %xmm8, %xmm2
468 ; SSE2-NEXT: movdqa %xmm2, %xmm4
469 ; SSE2-NEXT: pcmpgtd %xmm1, %xmm4
470 ; SSE2-NEXT: pshufd {{.*#+}} xmm5 = xmm4[0,0,2,2]
471 ; SSE2-NEXT: pcmpeqd %xmm1, %xmm2
472 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm2[1,1,3,3]
473 ; SSE2-NEXT: pand %xmm5, %xmm1
474 ; SSE2-NEXT: pshufd {{.*#+}} xmm2 = xmm4[1,1,3,3]
475 ; SSE2-NEXT: por %xmm1, %xmm2
476 ; SSE2-NEXT: pand %xmm2, %xmm0
477 ; SSE2-NEXT: pandn %xmm3, %xmm2
478 ; SSE2-NEXT: por %xmm0, %xmm2
479 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm2[2,3,0,1]
480 ; SSE2-NEXT: movdqa %xmm2, %xmm1
481 ; SSE2-NEXT: pxor %xmm8, %xmm1
482 ; SSE2-NEXT: pxor %xmm0, %xmm8
483 ; SSE2-NEXT: movdqa %xmm1, %xmm3
484 ; SSE2-NEXT: pcmpgtd %xmm8, %xmm3
485 ; SSE2-NEXT: pshufd {{.*#+}} xmm4 = xmm3[0,0,2,2]
486 ; SSE2-NEXT: pcmpeqd %xmm1, %xmm8
487 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm8[1,1,3,3]
488 ; SSE2-NEXT: pand %xmm4, %xmm1
489 ; SSE2-NEXT: pshufd {{.*#+}} xmm3 = xmm3[1,1,3,3]
490 ; SSE2-NEXT: por %xmm1, %xmm3
491 ; SSE2-NEXT: pand %xmm3, %xmm2
492 ; SSE2-NEXT: pandn %xmm0, %xmm3
493 ; SSE2-NEXT: por %xmm2, %xmm3
494 ; SSE2-NEXT: movq %xmm3, %rax
497 ; SSE41-LABEL: test_v16i64:
499 ; SSE41-NEXT: movdqa %xmm0, %xmm8
500 ; SSE41-NEXT: movdqa {{.*#+}} xmm9 = [2147483648,2147483648]
501 ; SSE41-NEXT: movdqa %xmm5, %xmm10
502 ; SSE41-NEXT: pxor %xmm9, %xmm10
503 ; SSE41-NEXT: movdqa %xmm1, %xmm0
504 ; SSE41-NEXT: pxor %xmm9, %xmm0
505 ; SSE41-NEXT: movdqa %xmm0, %xmm11
506 ; SSE41-NEXT: pcmpgtd %xmm10, %xmm11
507 ; SSE41-NEXT: pshufd {{.*#+}} xmm12 = xmm11[0,0,2,2]
508 ; SSE41-NEXT: pcmpeqd %xmm10, %xmm0
509 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm0[1,1,3,3]
510 ; SSE41-NEXT: pand %xmm12, %xmm0
511 ; SSE41-NEXT: por %xmm11, %xmm0
512 ; SSE41-NEXT: blendvpd %xmm0, %xmm1, %xmm5
513 ; SSE41-NEXT: movdqa %xmm7, %xmm0
514 ; SSE41-NEXT: pxor %xmm9, %xmm0
515 ; SSE41-NEXT: movdqa %xmm3, %xmm1
516 ; SSE41-NEXT: pxor %xmm9, %xmm1
517 ; SSE41-NEXT: movdqa %xmm1, %xmm10
518 ; SSE41-NEXT: pcmpgtd %xmm0, %xmm10
519 ; SSE41-NEXT: pshufd {{.*#+}} xmm11 = xmm10[0,0,2,2]
520 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm1
521 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,3,3]
522 ; SSE41-NEXT: pand %xmm11, %xmm0
523 ; SSE41-NEXT: por %xmm10, %xmm0
524 ; SSE41-NEXT: blendvpd %xmm0, %xmm3, %xmm7
525 ; SSE41-NEXT: movdqa %xmm4, %xmm1
526 ; SSE41-NEXT: pxor %xmm9, %xmm1
527 ; SSE41-NEXT: movdqa %xmm8, %xmm3
528 ; SSE41-NEXT: pxor %xmm9, %xmm3
529 ; SSE41-NEXT: movdqa %xmm3, %xmm0
530 ; SSE41-NEXT: pcmpgtd %xmm1, %xmm0
531 ; SSE41-NEXT: pshufd {{.*#+}} xmm10 = xmm0[0,0,2,2]
532 ; SSE41-NEXT: pcmpeqd %xmm1, %xmm3
533 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm3[1,1,3,3]
534 ; SSE41-NEXT: pand %xmm10, %xmm1
535 ; SSE41-NEXT: por %xmm1, %xmm0
536 ; SSE41-NEXT: blendvpd %xmm0, %xmm8, %xmm4
537 ; SSE41-NEXT: movdqa %xmm6, %xmm0
538 ; SSE41-NEXT: pxor %xmm9, %xmm0
539 ; SSE41-NEXT: movdqa %xmm2, %xmm1
540 ; SSE41-NEXT: pxor %xmm9, %xmm1
541 ; SSE41-NEXT: movdqa %xmm1, %xmm3
542 ; SSE41-NEXT: pcmpgtd %xmm0, %xmm3
543 ; SSE41-NEXT: pshufd {{.*#+}} xmm8 = xmm3[0,0,2,2]
544 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm1
545 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,3,3]
546 ; SSE41-NEXT: pand %xmm8, %xmm0
547 ; SSE41-NEXT: por %xmm3, %xmm0
548 ; SSE41-NEXT: blendvpd %xmm0, %xmm2, %xmm6
549 ; SSE41-NEXT: movapd %xmm6, %xmm0
550 ; SSE41-NEXT: xorpd %xmm9, %xmm0
551 ; SSE41-NEXT: movapd %xmm4, %xmm1
552 ; SSE41-NEXT: xorpd %xmm9, %xmm1
553 ; SSE41-NEXT: movapd %xmm1, %xmm2
554 ; SSE41-NEXT: pcmpgtd %xmm0, %xmm2
555 ; SSE41-NEXT: pshufd {{.*#+}} xmm3 = xmm2[0,0,2,2]
556 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm1
557 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,3,3]
558 ; SSE41-NEXT: pand %xmm3, %xmm0
559 ; SSE41-NEXT: por %xmm2, %xmm0
560 ; SSE41-NEXT: blendvpd %xmm0, %xmm4, %xmm6
561 ; SSE41-NEXT: movapd %xmm7, %xmm0
562 ; SSE41-NEXT: xorpd %xmm9, %xmm0
563 ; SSE41-NEXT: movapd %xmm5, %xmm1
564 ; SSE41-NEXT: xorpd %xmm9, %xmm1
565 ; SSE41-NEXT: movapd %xmm1, %xmm2
566 ; SSE41-NEXT: pcmpgtd %xmm0, %xmm2
567 ; SSE41-NEXT: pshufd {{.*#+}} xmm3 = xmm2[0,0,2,2]
568 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm1
569 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,3,3]
570 ; SSE41-NEXT: pand %xmm3, %xmm0
571 ; SSE41-NEXT: por %xmm2, %xmm0
572 ; SSE41-NEXT: blendvpd %xmm0, %xmm5, %xmm7
573 ; SSE41-NEXT: movapd %xmm7, %xmm0
574 ; SSE41-NEXT: xorpd %xmm9, %xmm0
575 ; SSE41-NEXT: movapd %xmm6, %xmm1
576 ; SSE41-NEXT: xorpd %xmm9, %xmm1
577 ; SSE41-NEXT: movapd %xmm1, %xmm2
578 ; SSE41-NEXT: pcmpgtd %xmm0, %xmm2
579 ; SSE41-NEXT: pshufd {{.*#+}} xmm3 = xmm2[0,0,2,2]
580 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm1
581 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,3,3]
582 ; SSE41-NEXT: pand %xmm3, %xmm0
583 ; SSE41-NEXT: por %xmm2, %xmm0
584 ; SSE41-NEXT: blendvpd %xmm0, %xmm6, %xmm7
585 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm7[2,3,0,1]
586 ; SSE41-NEXT: movdqa %xmm7, %xmm0
587 ; SSE41-NEXT: pxor %xmm9, %xmm0
588 ; SSE41-NEXT: pxor %xmm1, %xmm9
589 ; SSE41-NEXT: movdqa %xmm0, %xmm2
590 ; SSE41-NEXT: pcmpgtd %xmm9, %xmm2
591 ; SSE41-NEXT: pshufd {{.*#+}} xmm3 = xmm2[0,0,2,2]
592 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm9
593 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm9[1,1,3,3]
594 ; SSE41-NEXT: pand %xmm3, %xmm0
595 ; SSE41-NEXT: por %xmm2, %xmm0
596 ; SSE41-NEXT: blendvpd %xmm0, %xmm7, %xmm1
597 ; SSE41-NEXT: movq %xmm1, %rax
600 ; AVX1-LABEL: test_v16i64:
602 ; AVX1-NEXT: vextractf128 $1, %ymm2, %xmm4
603 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm5
604 ; AVX1-NEXT: vpcmpgtq %xmm4, %xmm5, %xmm4
605 ; AVX1-NEXT: vpcmpgtq %xmm2, %xmm0, %xmm5
606 ; AVX1-NEXT: vinsertf128 $1, %xmm4, %ymm5, %ymm4
607 ; AVX1-NEXT: vblendvpd %ymm4, %ymm0, %ymm2, %ymm0
608 ; AVX1-NEXT: vextractf128 $1, %ymm3, %xmm2
609 ; AVX1-NEXT: vextractf128 $1, %ymm1, %xmm4
610 ; AVX1-NEXT: vpcmpgtq %xmm2, %xmm4, %xmm2
611 ; AVX1-NEXT: vpcmpgtq %xmm3, %xmm1, %xmm4
612 ; AVX1-NEXT: vinsertf128 $1, %xmm2, %ymm4, %ymm2
613 ; AVX1-NEXT: vblendvpd %ymm2, %ymm1, %ymm3, %ymm1
614 ; AVX1-NEXT: vextractf128 $1, %ymm1, %xmm2
615 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm3
616 ; AVX1-NEXT: vpcmpgtq %xmm2, %xmm3, %xmm2
617 ; AVX1-NEXT: vpcmpgtq %xmm1, %xmm0, %xmm3
618 ; AVX1-NEXT: vinsertf128 $1, %xmm2, %ymm3, %ymm2
619 ; AVX1-NEXT: vblendvpd %ymm2, %ymm0, %ymm1, %ymm0
620 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm1
621 ; AVX1-NEXT: vpcmpgtq %xmm1, %xmm0, %xmm2
622 ; AVX1-NEXT: vpcmpgtq %xmm0, %xmm1, %xmm3
623 ; AVX1-NEXT: vinsertf128 $1, %xmm3, %ymm2, %ymm2
624 ; AVX1-NEXT: vblendvpd %ymm2, %ymm0, %ymm1, %ymm0
625 ; AVX1-NEXT: vpermilps {{.*#+}} xmm1 = xmm0[2,3,0,1]
626 ; AVX1-NEXT: vpcmpgtq %xmm1, %xmm0, %xmm2
627 ; AVX1-NEXT: vblendvpd %ymm2, %ymm0, %ymm1, %ymm0
628 ; AVX1-NEXT: vmovq %xmm0, %rax
629 ; AVX1-NEXT: vzeroupper
632 ; AVX2-LABEL: test_v16i64:
634 ; AVX2-NEXT: vpcmpgtq %ymm3, %ymm1, %ymm4
635 ; AVX2-NEXT: vblendvpd %ymm4, %ymm1, %ymm3, %ymm1
636 ; AVX2-NEXT: vpcmpgtq %ymm2, %ymm0, %ymm3
637 ; AVX2-NEXT: vblendvpd %ymm3, %ymm0, %ymm2, %ymm0
638 ; AVX2-NEXT: vpcmpgtq %ymm1, %ymm0, %ymm2
639 ; AVX2-NEXT: vblendvpd %ymm2, %ymm0, %ymm1, %ymm0
640 ; AVX2-NEXT: vextractf128 $1, %ymm0, %xmm1
641 ; AVX2-NEXT: vpcmpgtq %ymm1, %ymm0, %ymm2
642 ; AVX2-NEXT: vblendvpd %ymm2, %ymm0, %ymm1, %ymm0
643 ; AVX2-NEXT: vpermilps {{.*#+}} xmm1 = xmm0[2,3,0,1]
644 ; AVX2-NEXT: vpcmpgtq %ymm1, %ymm0, %ymm2
645 ; AVX2-NEXT: vblendvpd %ymm2, %ymm0, %ymm1, %ymm0
646 ; AVX2-NEXT: vmovq %xmm0, %rax
647 ; AVX2-NEXT: vzeroupper
650 ; AVX512-LABEL: test_v16i64:
652 ; AVX512-NEXT: vpmaxsq %zmm1, %zmm0, %zmm0
653 ; AVX512-NEXT: vextracti64x4 $1, %zmm0, %ymm1
654 ; AVX512-NEXT: vpmaxsq %zmm1, %zmm0, %zmm0
655 ; AVX512-NEXT: vextracti128 $1, %ymm0, %xmm1
656 ; AVX512-NEXT: vpmaxsq %zmm1, %zmm0, %zmm0
657 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
658 ; AVX512-NEXT: vpmaxsq %zmm1, %zmm0, %zmm0
659 ; AVX512-NEXT: vmovq %xmm0, %rax
660 ; AVX512-NEXT: vzeroupper
662 %1 = call i64 @llvm.experimental.vector.reduce.smax.i64.v16i64(<16 x i64> %a0)
670 define i32 @test_v2i32(<2 x i32> %a0) {
671 ; SSE2-LABEL: test_v2i32:
673 ; SSE2-NEXT: pxor %xmm1, %xmm1
674 ; SSE2-NEXT: punpckhdq {{.*#+}} xmm1 = xmm1[2],xmm0[2],xmm1[3],xmm0[3]
675 ; SSE2-NEXT: psllq $32, %xmm0
676 ; SSE2-NEXT: pshufd {{.*#+}} xmm2 = xmm0[1,3,2,3]
677 ; SSE2-NEXT: psrad $31, %xmm0
678 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm0[1,3,2,3]
679 ; SSE2-NEXT: punpckldq {{.*#+}} xmm2 = xmm2[0],xmm0[0],xmm2[1],xmm0[1]
680 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,3,2,3]
681 ; SSE2-NEXT: psrad $31, %xmm1
682 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm1[1,3,2,3]
683 ; SSE2-NEXT: punpckldq {{.*#+}} xmm0 = xmm0[0],xmm1[0],xmm0[1],xmm1[1]
684 ; SSE2-NEXT: movdqa {{.*#+}} xmm1 = [2147483648,2147483648]
685 ; SSE2-NEXT: movdqa %xmm0, %xmm3
686 ; SSE2-NEXT: pxor %xmm1, %xmm3
687 ; SSE2-NEXT: pxor %xmm2, %xmm1
688 ; SSE2-NEXT: movdqa %xmm1, %xmm4
689 ; SSE2-NEXT: pcmpgtd %xmm3, %xmm4
690 ; SSE2-NEXT: pshufd {{.*#+}} xmm5 = xmm4[0,0,2,2]
691 ; SSE2-NEXT: pcmpeqd %xmm3, %xmm1
692 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm1[1,1,3,3]
693 ; SSE2-NEXT: pand %xmm5, %xmm1
694 ; SSE2-NEXT: pshufd {{.*#+}} xmm3 = xmm4[1,1,3,3]
695 ; SSE2-NEXT: por %xmm1, %xmm3
696 ; SSE2-NEXT: pand %xmm3, %xmm2
697 ; SSE2-NEXT: pandn %xmm0, %xmm3
698 ; SSE2-NEXT: por %xmm2, %xmm3
699 ; SSE2-NEXT: movd %xmm3, %eax
702 ; SSE41-LABEL: test_v2i32:
704 ; SSE41-NEXT: movdqa %xmm0, %xmm1
705 ; SSE41-NEXT: psllq $32, %xmm1
706 ; SSE41-NEXT: psrad $31, %xmm1
707 ; SSE41-NEXT: pblendw {{.*#+}} xmm1 = xmm0[0,1],xmm1[2,3],xmm0[4,5],xmm1[6,7]
708 ; SSE41-NEXT: pshufd {{.*#+}} xmm2 = xmm0[2,2,3,3]
709 ; SSE41-NEXT: pshufd {{.*#+}} xmm3 = xmm0[0,2,2,3]
710 ; SSE41-NEXT: psrad $31, %xmm3
711 ; SSE41-NEXT: pblendw {{.*#+}} xmm3 = xmm2[0,1],xmm3[2,3],xmm2[4,5],xmm3[6,7]
712 ; SSE41-NEXT: movdqa {{.*#+}} xmm2 = [2147483648,2147483648]
713 ; SSE41-NEXT: movdqa %xmm3, %xmm0
714 ; SSE41-NEXT: pxor %xmm2, %xmm0
715 ; SSE41-NEXT: pxor %xmm1, %xmm2
716 ; SSE41-NEXT: movdqa %xmm2, %xmm4
717 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm4
718 ; SSE41-NEXT: pcmpgtd %xmm0, %xmm2
719 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm2[0,0,2,2]
720 ; SSE41-NEXT: pand %xmm4, %xmm0
721 ; SSE41-NEXT: por %xmm2, %xmm0
722 ; SSE41-NEXT: blendvpd %xmm0, %xmm1, %xmm3
723 ; SSE41-NEXT: movd %xmm3, %eax
726 ; AVX1-LABEL: test_v2i32:
728 ; AVX1-NEXT: vpsllq $32, %xmm0, %xmm1
729 ; AVX1-NEXT: vpsrad $31, %xmm1, %xmm1
730 ; AVX1-NEXT: vpblendw {{.*#+}} xmm1 = xmm0[0,1],xmm1[2,3],xmm0[4,5],xmm1[6,7]
731 ; AVX1-NEXT: vpshufd {{.*#+}} xmm2 = xmm0[2,2,3,3]
732 ; AVX1-NEXT: vpshufd {{.*#+}} xmm0 = xmm0[0,2,2,3]
733 ; AVX1-NEXT: vpsrad $31, %xmm0, %xmm0
734 ; AVX1-NEXT: vpblendw {{.*#+}} xmm0 = xmm2[0,1],xmm0[2,3],xmm2[4,5],xmm0[6,7]
735 ; AVX1-NEXT: vpcmpgtq %xmm0, %xmm1, %xmm2
736 ; AVX1-NEXT: vblendvpd %xmm2, %xmm1, %xmm0, %xmm0
737 ; AVX1-NEXT: vmovd %xmm0, %eax
740 ; AVX2-LABEL: test_v2i32:
742 ; AVX2-NEXT: vpsllq $32, %xmm0, %xmm1
743 ; AVX2-NEXT: vpsrad $31, %xmm1, %xmm1
744 ; AVX2-NEXT: vpblendd {{.*#+}} xmm1 = xmm0[0],xmm1[1],xmm0[2],xmm1[3]
745 ; AVX2-NEXT: vpshufd {{.*#+}} xmm2 = xmm0[2,2,3,3]
746 ; AVX2-NEXT: vpshufd {{.*#+}} xmm0 = xmm0[0,2,2,3]
747 ; AVX2-NEXT: vpsrad $31, %xmm0, %xmm0
748 ; AVX2-NEXT: vpblendd {{.*#+}} xmm0 = xmm2[0],xmm0[1],xmm2[2],xmm0[3]
749 ; AVX2-NEXT: vpcmpgtq %xmm0, %xmm1, %xmm2
750 ; AVX2-NEXT: vblendvpd %xmm2, %xmm1, %xmm0, %xmm0
751 ; AVX2-NEXT: vmovd %xmm0, %eax
754 ; AVX512BW-LABEL: test_v2i32:
756 ; AVX512BW-NEXT: vpsllq $32, %xmm0, %xmm1
757 ; AVX512BW-NEXT: vpsraq $32, %zmm1, %zmm1
758 ; AVX512BW-NEXT: vpshufd {{.*#+}} xmm0 = xmm0[0,2,2,3]
759 ; AVX512BW-NEXT: vpsraq $32, %zmm0, %zmm0
760 ; AVX512BW-NEXT: vpmaxsq %zmm0, %zmm1, %zmm0
761 ; AVX512BW-NEXT: vmovd %xmm0, %eax
762 ; AVX512BW-NEXT: vzeroupper
763 ; AVX512BW-NEXT: retq
765 ; AVX512VL-LABEL: test_v2i32:
767 ; AVX512VL-NEXT: vpsllq $32, %xmm0, %xmm1
768 ; AVX512VL-NEXT: vpsraq $32, %xmm1, %xmm1
769 ; AVX512VL-NEXT: vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
770 ; AVX512VL-NEXT: vpsllq $32, %xmm0, %xmm0
771 ; AVX512VL-NEXT: vpsraq $32, %xmm0, %xmm0
772 ; AVX512VL-NEXT: vpmaxsq %xmm0, %xmm1, %xmm0
773 ; AVX512VL-NEXT: vmovd %xmm0, %eax
774 ; AVX512VL-NEXT: retq
775 %1 = call i32 @llvm.experimental.vector.reduce.smax.i32.v2i32(<2 x i32> %a0)
779 define i32 @test_v4i32(<4 x i32> %a0) {
780 ; SSE2-LABEL: test_v4i32:
782 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
783 ; SSE2-NEXT: movdqa %xmm0, %xmm2
784 ; SSE2-NEXT: pcmpgtd %xmm1, %xmm2
785 ; SSE2-NEXT: pand %xmm2, %xmm0
786 ; SSE2-NEXT: pandn %xmm1, %xmm2
787 ; SSE2-NEXT: por %xmm0, %xmm2
788 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm2[1,1,2,3]
789 ; SSE2-NEXT: movdqa %xmm2, %xmm1
790 ; SSE2-NEXT: pcmpgtd %xmm0, %xmm1
791 ; SSE2-NEXT: pand %xmm1, %xmm2
792 ; SSE2-NEXT: pandn %xmm0, %xmm1
793 ; SSE2-NEXT: por %xmm2, %xmm1
794 ; SSE2-NEXT: movd %xmm1, %eax
797 ; SSE41-LABEL: test_v4i32:
799 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
800 ; SSE41-NEXT: pmaxsd %xmm0, %xmm1
801 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
802 ; SSE41-NEXT: pmaxsd %xmm1, %xmm0
803 ; SSE41-NEXT: movd %xmm0, %eax
806 ; AVX-LABEL: test_v4i32:
808 ; AVX-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
809 ; AVX-NEXT: vpmaxsd %xmm1, %xmm0, %xmm0
810 ; AVX-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
811 ; AVX-NEXT: vpmaxsd %xmm1, %xmm0, %xmm0
812 ; AVX-NEXT: vmovd %xmm0, %eax
815 ; AVX512-LABEL: test_v4i32:
817 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
818 ; AVX512-NEXT: vpmaxsd %xmm1, %xmm0, %xmm0
819 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
820 ; AVX512-NEXT: vpmaxsd %xmm1, %xmm0, %xmm0
821 ; AVX512-NEXT: vmovd %xmm0, %eax
823 %1 = call i32 @llvm.experimental.vector.reduce.smax.i32.v4i32(<4 x i32> %a0)
827 define i32 @test_v8i32(<8 x i32> %a0) {
828 ; SSE2-LABEL: test_v8i32:
830 ; SSE2-NEXT: movdqa %xmm0, %xmm2
831 ; SSE2-NEXT: pcmpgtd %xmm1, %xmm2
832 ; SSE2-NEXT: pand %xmm2, %xmm0
833 ; SSE2-NEXT: pandn %xmm1, %xmm2
834 ; SSE2-NEXT: por %xmm0, %xmm2
835 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm2[2,3,0,1]
836 ; SSE2-NEXT: movdqa %xmm2, %xmm1
837 ; SSE2-NEXT: pcmpgtd %xmm0, %xmm1
838 ; SSE2-NEXT: pand %xmm1, %xmm2
839 ; SSE2-NEXT: pandn %xmm0, %xmm1
840 ; SSE2-NEXT: por %xmm2, %xmm1
841 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
842 ; SSE2-NEXT: movdqa %xmm1, %xmm2
843 ; SSE2-NEXT: pcmpgtd %xmm0, %xmm2
844 ; SSE2-NEXT: pand %xmm2, %xmm1
845 ; SSE2-NEXT: pandn %xmm0, %xmm2
846 ; SSE2-NEXT: por %xmm1, %xmm2
847 ; SSE2-NEXT: movd %xmm2, %eax
850 ; SSE41-LABEL: test_v8i32:
852 ; SSE41-NEXT: pmaxsd %xmm1, %xmm0
853 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
854 ; SSE41-NEXT: pmaxsd %xmm0, %xmm1
855 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
856 ; SSE41-NEXT: pmaxsd %xmm1, %xmm0
857 ; SSE41-NEXT: movd %xmm0, %eax
860 ; AVX1-LABEL: test_v8i32:
862 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm1
863 ; AVX1-NEXT: vpmaxsd %xmm1, %xmm0, %xmm0
864 ; AVX1-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
865 ; AVX1-NEXT: vpmaxsd %xmm1, %xmm0, %xmm0
866 ; AVX1-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
867 ; AVX1-NEXT: vpmaxsd %xmm1, %xmm0, %xmm0
868 ; AVX1-NEXT: vmovd %xmm0, %eax
869 ; AVX1-NEXT: vzeroupper
872 ; AVX2-LABEL: test_v8i32:
874 ; AVX2-NEXT: vextracti128 $1, %ymm0, %xmm1
875 ; AVX2-NEXT: vpmaxsd %ymm1, %ymm0, %ymm0
876 ; AVX2-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
877 ; AVX2-NEXT: vpmaxsd %ymm1, %ymm0, %ymm0
878 ; AVX2-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
879 ; AVX2-NEXT: vpmaxsd %ymm1, %ymm0, %ymm0
880 ; AVX2-NEXT: vmovd %xmm0, %eax
881 ; AVX2-NEXT: vzeroupper
884 ; AVX512-LABEL: test_v8i32:
886 ; AVX512-NEXT: vextracti128 $1, %ymm0, %xmm1
887 ; AVX512-NEXT: vpmaxsd %ymm1, %ymm0, %ymm0
888 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
889 ; AVX512-NEXT: vpmaxsd %ymm1, %ymm0, %ymm0
890 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
891 ; AVX512-NEXT: vpmaxsd %ymm1, %ymm0, %ymm0
892 ; AVX512-NEXT: vmovd %xmm0, %eax
893 ; AVX512-NEXT: vzeroupper
895 %1 = call i32 @llvm.experimental.vector.reduce.smax.i32.v8i32(<8 x i32> %a0)
899 define i32 @test_v16i32(<16 x i32> %a0) {
900 ; SSE2-LABEL: test_v16i32:
902 ; SSE2-NEXT: movdqa %xmm1, %xmm4
903 ; SSE2-NEXT: pcmpgtd %xmm3, %xmm4
904 ; SSE2-NEXT: pand %xmm4, %xmm1
905 ; SSE2-NEXT: pandn %xmm3, %xmm4
906 ; SSE2-NEXT: por %xmm1, %xmm4
907 ; SSE2-NEXT: movdqa %xmm0, %xmm1
908 ; SSE2-NEXT: pcmpgtd %xmm2, %xmm1
909 ; SSE2-NEXT: pand %xmm1, %xmm0
910 ; SSE2-NEXT: pandn %xmm2, %xmm1
911 ; SSE2-NEXT: por %xmm0, %xmm1
912 ; SSE2-NEXT: movdqa %xmm1, %xmm0
913 ; SSE2-NEXT: pcmpgtd %xmm4, %xmm0
914 ; SSE2-NEXT: pand %xmm0, %xmm1
915 ; SSE2-NEXT: pandn %xmm4, %xmm0
916 ; SSE2-NEXT: por %xmm1, %xmm0
917 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
918 ; SSE2-NEXT: movdqa %xmm0, %xmm2
919 ; SSE2-NEXT: pcmpgtd %xmm1, %xmm2
920 ; SSE2-NEXT: pand %xmm2, %xmm0
921 ; SSE2-NEXT: pandn %xmm1, %xmm2
922 ; SSE2-NEXT: por %xmm0, %xmm2
923 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm2[1,1,2,3]
924 ; SSE2-NEXT: movdqa %xmm2, %xmm1
925 ; SSE2-NEXT: pcmpgtd %xmm0, %xmm1
926 ; SSE2-NEXT: pand %xmm1, %xmm2
927 ; SSE2-NEXT: pandn %xmm0, %xmm1
928 ; SSE2-NEXT: por %xmm2, %xmm1
929 ; SSE2-NEXT: movd %xmm1, %eax
932 ; SSE41-LABEL: test_v16i32:
934 ; SSE41-NEXT: pmaxsd %xmm3, %xmm1
935 ; SSE41-NEXT: pmaxsd %xmm2, %xmm0
936 ; SSE41-NEXT: pmaxsd %xmm1, %xmm0
937 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
938 ; SSE41-NEXT: pmaxsd %xmm0, %xmm1
939 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
940 ; SSE41-NEXT: pmaxsd %xmm1, %xmm0
941 ; SSE41-NEXT: movd %xmm0, %eax
944 ; AVX1-LABEL: test_v16i32:
946 ; AVX1-NEXT: vextractf128 $1, %ymm1, %xmm2
947 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm3
948 ; AVX1-NEXT: vpmaxsd %xmm2, %xmm3, %xmm2
949 ; AVX1-NEXT: vpmaxsd %xmm1, %xmm0, %xmm0
950 ; AVX1-NEXT: vpmaxsd %xmm2, %xmm0, %xmm0
951 ; AVX1-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
952 ; AVX1-NEXT: vpmaxsd %xmm1, %xmm0, %xmm0
953 ; AVX1-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
954 ; AVX1-NEXT: vpmaxsd %xmm1, %xmm0, %xmm0
955 ; AVX1-NEXT: vmovd %xmm0, %eax
956 ; AVX1-NEXT: vzeroupper
959 ; AVX2-LABEL: test_v16i32:
961 ; AVX2-NEXT: vpmaxsd %ymm1, %ymm0, %ymm0
962 ; AVX2-NEXT: vextracti128 $1, %ymm0, %xmm1
963 ; AVX2-NEXT: vpmaxsd %ymm1, %ymm0, %ymm0
964 ; AVX2-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
965 ; AVX2-NEXT: vpmaxsd %ymm1, %ymm0, %ymm0
966 ; AVX2-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
967 ; AVX2-NEXT: vpmaxsd %ymm1, %ymm0, %ymm0
968 ; AVX2-NEXT: vmovd %xmm0, %eax
969 ; AVX2-NEXT: vzeroupper
972 ; AVX512-LABEL: test_v16i32:
974 ; AVX512-NEXT: vextracti64x4 $1, %zmm0, %ymm1
975 ; AVX512-NEXT: vpmaxsd %zmm1, %zmm0, %zmm0
976 ; AVX512-NEXT: vextracti128 $1, %ymm0, %xmm1
977 ; AVX512-NEXT: vpmaxsd %zmm1, %zmm0, %zmm0
978 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
979 ; AVX512-NEXT: vpmaxsd %zmm1, %zmm0, %zmm0
980 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
981 ; AVX512-NEXT: vpmaxsd %zmm1, %zmm0, %zmm0
982 ; AVX512-NEXT: vmovd %xmm0, %eax
983 ; AVX512-NEXT: vzeroupper
985 %1 = call i32 @llvm.experimental.vector.reduce.smax.i32.v16i32(<16 x i32> %a0)
989 define i32 @test_v32i32(<32 x i32> %a0) {
990 ; SSE2-LABEL: test_v32i32:
992 ; SSE2-NEXT: movdqa %xmm2, %xmm8
993 ; SSE2-NEXT: pcmpgtd %xmm6, %xmm8
994 ; SSE2-NEXT: pand %xmm8, %xmm2
995 ; SSE2-NEXT: pandn %xmm6, %xmm8
996 ; SSE2-NEXT: por %xmm2, %xmm8
997 ; SSE2-NEXT: movdqa %xmm0, %xmm2
998 ; SSE2-NEXT: pcmpgtd %xmm4, %xmm2
999 ; SSE2-NEXT: pand %xmm2, %xmm0
1000 ; SSE2-NEXT: pandn %xmm4, %xmm2
1001 ; SSE2-NEXT: por %xmm0, %xmm2
1002 ; SSE2-NEXT: movdqa %xmm3, %xmm0
1003 ; SSE2-NEXT: pcmpgtd %xmm7, %xmm0
1004 ; SSE2-NEXT: pand %xmm0, %xmm3
1005 ; SSE2-NEXT: pandn %xmm7, %xmm0
1006 ; SSE2-NEXT: por %xmm3, %xmm0
1007 ; SSE2-NEXT: movdqa %xmm1, %xmm3
1008 ; SSE2-NEXT: pcmpgtd %xmm5, %xmm3
1009 ; SSE2-NEXT: pand %xmm3, %xmm1
1010 ; SSE2-NEXT: pandn %xmm5, %xmm3
1011 ; SSE2-NEXT: por %xmm1, %xmm3
1012 ; SSE2-NEXT: movdqa %xmm3, %xmm1
1013 ; SSE2-NEXT: pcmpgtd %xmm0, %xmm1
1014 ; SSE2-NEXT: pand %xmm1, %xmm3
1015 ; SSE2-NEXT: pandn %xmm0, %xmm1
1016 ; SSE2-NEXT: por %xmm3, %xmm1
1017 ; SSE2-NEXT: movdqa %xmm2, %xmm0
1018 ; SSE2-NEXT: pcmpgtd %xmm8, %xmm0
1019 ; SSE2-NEXT: pand %xmm0, %xmm2
1020 ; SSE2-NEXT: pandn %xmm8, %xmm0
1021 ; SSE2-NEXT: por %xmm2, %xmm0
1022 ; SSE2-NEXT: movdqa %xmm0, %xmm2
1023 ; SSE2-NEXT: pcmpgtd %xmm1, %xmm2
1024 ; SSE2-NEXT: pand %xmm2, %xmm0
1025 ; SSE2-NEXT: pandn %xmm1, %xmm2
1026 ; SSE2-NEXT: por %xmm0, %xmm2
1027 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm2[2,3,0,1]
1028 ; SSE2-NEXT: movdqa %xmm2, %xmm1
1029 ; SSE2-NEXT: pcmpgtd %xmm0, %xmm1
1030 ; SSE2-NEXT: pand %xmm1, %xmm2
1031 ; SSE2-NEXT: pandn %xmm0, %xmm1
1032 ; SSE2-NEXT: por %xmm2, %xmm1
1033 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
1034 ; SSE2-NEXT: movdqa %xmm1, %xmm2
1035 ; SSE2-NEXT: pcmpgtd %xmm0, %xmm2
1036 ; SSE2-NEXT: pand %xmm2, %xmm1
1037 ; SSE2-NEXT: pandn %xmm0, %xmm2
1038 ; SSE2-NEXT: por %xmm1, %xmm2
1039 ; SSE2-NEXT: movd %xmm2, %eax
1042 ; SSE41-LABEL: test_v32i32:
1044 ; SSE41-NEXT: pmaxsd %xmm6, %xmm2
1045 ; SSE41-NEXT: pmaxsd %xmm4, %xmm0
1046 ; SSE41-NEXT: pmaxsd %xmm2, %xmm0
1047 ; SSE41-NEXT: pmaxsd %xmm7, %xmm3
1048 ; SSE41-NEXT: pmaxsd %xmm5, %xmm1
1049 ; SSE41-NEXT: pmaxsd %xmm3, %xmm1
1050 ; SSE41-NEXT: pmaxsd %xmm0, %xmm1
1051 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[2,3,0,1]
1052 ; SSE41-NEXT: pmaxsd %xmm1, %xmm0
1053 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1054 ; SSE41-NEXT: pmaxsd %xmm0, %xmm1
1055 ; SSE41-NEXT: movd %xmm1, %eax
1058 ; AVX1-LABEL: test_v32i32:
1060 ; AVX1-NEXT: vpmaxsd %xmm3, %xmm1, %xmm4
1061 ; AVX1-NEXT: vpmaxsd %xmm2, %xmm0, %xmm5
1062 ; AVX1-NEXT: vpmaxsd %xmm4, %xmm5, %xmm4
1063 ; AVX1-NEXT: vextractf128 $1, %ymm3, %xmm3
1064 ; AVX1-NEXT: vextractf128 $1, %ymm1, %xmm1
1065 ; AVX1-NEXT: vpmaxsd %xmm3, %xmm1, %xmm1
1066 ; AVX1-NEXT: vextractf128 $1, %ymm2, %xmm2
1067 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm0
1068 ; AVX1-NEXT: vpmaxsd %xmm2, %xmm0, %xmm0
1069 ; AVX1-NEXT: vpmaxsd %xmm1, %xmm0, %xmm0
1070 ; AVX1-NEXT: vpmaxsd %xmm0, %xmm4, %xmm0
1071 ; AVX1-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1072 ; AVX1-NEXT: vpmaxsd %xmm1, %xmm0, %xmm0
1073 ; AVX1-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1074 ; AVX1-NEXT: vpmaxsd %xmm1, %xmm0, %xmm0
1075 ; AVX1-NEXT: vmovd %xmm0, %eax
1076 ; AVX1-NEXT: vzeroupper
1079 ; AVX2-LABEL: test_v32i32:
1081 ; AVX2-NEXT: vpmaxsd %ymm3, %ymm1, %ymm1
1082 ; AVX2-NEXT: vpmaxsd %ymm2, %ymm0, %ymm0
1083 ; AVX2-NEXT: vpmaxsd %ymm1, %ymm0, %ymm0
1084 ; AVX2-NEXT: vextracti128 $1, %ymm0, %xmm1
1085 ; AVX2-NEXT: vpmaxsd %ymm1, %ymm0, %ymm0
1086 ; AVX2-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1087 ; AVX2-NEXT: vpmaxsd %ymm1, %ymm0, %ymm0
1088 ; AVX2-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1089 ; AVX2-NEXT: vpmaxsd %ymm1, %ymm0, %ymm0
1090 ; AVX2-NEXT: vmovd %xmm0, %eax
1091 ; AVX2-NEXT: vzeroupper
1094 ; AVX512-LABEL: test_v32i32:
1096 ; AVX512-NEXT: vpmaxsd %zmm1, %zmm0, %zmm0
1097 ; AVX512-NEXT: vextracti64x4 $1, %zmm0, %ymm1
1098 ; AVX512-NEXT: vpmaxsd %zmm1, %zmm0, %zmm0
1099 ; AVX512-NEXT: vextracti128 $1, %ymm0, %xmm1
1100 ; AVX512-NEXT: vpmaxsd %zmm1, %zmm0, %zmm0
1101 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1102 ; AVX512-NEXT: vpmaxsd %zmm1, %zmm0, %zmm0
1103 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1104 ; AVX512-NEXT: vpmaxsd %zmm1, %zmm0, %zmm0
1105 ; AVX512-NEXT: vmovd %xmm0, %eax
1106 ; AVX512-NEXT: vzeroupper
1108 %1 = call i32 @llvm.experimental.vector.reduce.smax.i32.v32i32(<32 x i32> %a0)
1116 define i16 @test_v2i16(<2 x i16> %a0) {
1117 ; SSE2-LABEL: test_v2i16:
1119 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1120 ; SSE2-NEXT: psllq $48, %xmm0
1121 ; SSE2-NEXT: movdqa %xmm0, %xmm2
1122 ; SSE2-NEXT: psrad $31, %xmm2
1123 ; SSE2-NEXT: pshufd {{.*#+}} xmm2 = xmm2[1,3,2,3]
1124 ; SSE2-NEXT: psrad $16, %xmm0
1125 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm0[1,3,2,3]
1126 ; SSE2-NEXT: punpckldq {{.*#+}} xmm0 = xmm0[0],xmm2[0],xmm0[1],xmm2[1]
1127 ; SSE2-NEXT: psllq $48, %xmm1
1128 ; SSE2-NEXT: movdqa %xmm1, %xmm2
1129 ; SSE2-NEXT: psrad $31, %xmm2
1130 ; SSE2-NEXT: pshufd {{.*#+}} xmm2 = xmm2[1,3,2,3]
1131 ; SSE2-NEXT: psrad $16, %xmm1
1132 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm1[1,3,2,3]
1133 ; SSE2-NEXT: punpckldq {{.*#+}} xmm1 = xmm1[0],xmm2[0],xmm1[1],xmm2[1]
1134 ; SSE2-NEXT: movdqa {{.*#+}} xmm2 = [2147483648,2147483648]
1135 ; SSE2-NEXT: movdqa %xmm0, %xmm3
1136 ; SSE2-NEXT: pxor %xmm2, %xmm3
1137 ; SSE2-NEXT: pxor %xmm1, %xmm2
1138 ; SSE2-NEXT: movdqa %xmm3, %xmm4
1139 ; SSE2-NEXT: pcmpgtd %xmm2, %xmm4
1140 ; SSE2-NEXT: pshufd {{.*#+}} xmm5 = xmm4[0,0,2,2]
1141 ; SSE2-NEXT: pcmpeqd %xmm3, %xmm2
1142 ; SSE2-NEXT: pshufd {{.*#+}} xmm2 = xmm2[1,1,3,3]
1143 ; SSE2-NEXT: pand %xmm5, %xmm2
1144 ; SSE2-NEXT: pshufd {{.*#+}} xmm3 = xmm4[1,1,3,3]
1145 ; SSE2-NEXT: por %xmm2, %xmm3
1146 ; SSE2-NEXT: pand %xmm3, %xmm0
1147 ; SSE2-NEXT: pandn %xmm1, %xmm3
1148 ; SSE2-NEXT: por %xmm0, %xmm3
1149 ; SSE2-NEXT: movd %xmm3, %eax
1150 ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax
1153 ; SSE41-LABEL: test_v2i16:
1155 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1156 ; SSE41-NEXT: psllq $48, %xmm0
1157 ; SSE41-NEXT: movdqa %xmm0, %xmm2
1158 ; SSE41-NEXT: psrad $31, %xmm2
1159 ; SSE41-NEXT: psrad $16, %xmm0
1160 ; SSE41-NEXT: pshufd {{.*#+}} xmm3 = xmm0[1,1,3,3]
1161 ; SSE41-NEXT: pblendw {{.*#+}} xmm3 = xmm3[0,1],xmm2[2,3],xmm3[4,5],xmm2[6,7]
1162 ; SSE41-NEXT: psllq $48, %xmm1
1163 ; SSE41-NEXT: movdqa %xmm1, %xmm0
1164 ; SSE41-NEXT: psrad $31, %xmm0
1165 ; SSE41-NEXT: psrad $16, %xmm1
1166 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm1[1,1,3,3]
1167 ; SSE41-NEXT: pblendw {{.*#+}} xmm1 = xmm1[0,1],xmm0[2,3],xmm1[4,5],xmm0[6,7]
1168 ; SSE41-NEXT: movdqa {{.*#+}} xmm0 = [2147483648,2147483648]
1169 ; SSE41-NEXT: movdqa %xmm3, %xmm2
1170 ; SSE41-NEXT: pxor %xmm0, %xmm2
1171 ; SSE41-NEXT: pxor %xmm1, %xmm0
1172 ; SSE41-NEXT: movdqa %xmm2, %xmm4
1173 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm4
1174 ; SSE41-NEXT: pcmpgtd %xmm0, %xmm2
1175 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm2[0,0,2,2]
1176 ; SSE41-NEXT: pand %xmm4, %xmm0
1177 ; SSE41-NEXT: por %xmm2, %xmm0
1178 ; SSE41-NEXT: blendvpd %xmm0, %xmm3, %xmm1
1179 ; SSE41-NEXT: movd %xmm1, %eax
1180 ; SSE41-NEXT: # kill: def $ax killed $ax killed $eax
1183 ; AVX1-LABEL: test_v2i16:
1185 ; AVX1-NEXT: vpsllq $48, %xmm0, %xmm1
1186 ; AVX1-NEXT: vpsrad $31, %xmm1, %xmm2
1187 ; AVX1-NEXT: vpsrad $16, %xmm1, %xmm1
1188 ; AVX1-NEXT: vpshufd {{.*#+}} xmm1 = xmm1[1,1,3,3]
1189 ; AVX1-NEXT: vpblendw {{.*#+}} xmm1 = xmm1[0,1],xmm2[2,3],xmm1[4,5],xmm2[6,7]
1190 ; AVX1-NEXT: vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1191 ; AVX1-NEXT: vpsllq $48, %xmm0, %xmm0
1192 ; AVX1-NEXT: vpsrad $31, %xmm0, %xmm2
1193 ; AVX1-NEXT: vpsrad $16, %xmm0, %xmm0
1194 ; AVX1-NEXT: vpshufd {{.*#+}} xmm0 = xmm0[1,1,3,3]
1195 ; AVX1-NEXT: vpblendw {{.*#+}} xmm0 = xmm0[0,1],xmm2[2,3],xmm0[4,5],xmm2[6,7]
1196 ; AVX1-NEXT: vpcmpgtq %xmm0, %xmm1, %xmm2
1197 ; AVX1-NEXT: vblendvpd %xmm2, %xmm1, %xmm0, %xmm0
1198 ; AVX1-NEXT: vmovd %xmm0, %eax
1199 ; AVX1-NEXT: # kill: def $ax killed $ax killed $eax
1202 ; AVX2-LABEL: test_v2i16:
1204 ; AVX2-NEXT: vpsllq $48, %xmm0, %xmm1
1205 ; AVX2-NEXT: vpsrad $31, %xmm1, %xmm2
1206 ; AVX2-NEXT: vpsrad $16, %xmm1, %xmm1
1207 ; AVX2-NEXT: vpshufd {{.*#+}} xmm1 = xmm1[1,1,3,3]
1208 ; AVX2-NEXT: vpblendd {{.*#+}} xmm1 = xmm1[0],xmm2[1],xmm1[2],xmm2[3]
1209 ; AVX2-NEXT: vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1210 ; AVX2-NEXT: vpsllq $48, %xmm0, %xmm0
1211 ; AVX2-NEXT: vpsrad $31, %xmm0, %xmm2
1212 ; AVX2-NEXT: vpsrad $16, %xmm0, %xmm0
1213 ; AVX2-NEXT: vpshufd {{.*#+}} xmm0 = xmm0[1,1,3,3]
1214 ; AVX2-NEXT: vpblendd {{.*#+}} xmm0 = xmm0[0],xmm2[1],xmm0[2],xmm2[3]
1215 ; AVX2-NEXT: vpcmpgtq %xmm0, %xmm1, %xmm2
1216 ; AVX2-NEXT: vblendvpd %xmm2, %xmm1, %xmm0, %xmm0
1217 ; AVX2-NEXT: vmovd %xmm0, %eax
1218 ; AVX2-NEXT: # kill: def $ax killed $ax killed $eax
1221 ; AVX512BW-LABEL: test_v2i16:
1222 ; AVX512BW: # %bb.0:
1223 ; AVX512BW-NEXT: vpsllq $48, %xmm0, %xmm1
1224 ; AVX512BW-NEXT: vpsraq $48, %zmm1, %zmm1
1225 ; AVX512BW-NEXT: vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1226 ; AVX512BW-NEXT: vpsllq $48, %xmm0, %xmm0
1227 ; AVX512BW-NEXT: vpsraq $48, %zmm0, %zmm0
1228 ; AVX512BW-NEXT: vpmaxsq %zmm0, %zmm1, %zmm0
1229 ; AVX512BW-NEXT: vmovd %xmm0, %eax
1230 ; AVX512BW-NEXT: # kill: def $ax killed $ax killed $eax
1231 ; AVX512BW-NEXT: vzeroupper
1232 ; AVX512BW-NEXT: retq
1234 ; AVX512VL-LABEL: test_v2i16:
1235 ; AVX512VL: # %bb.0:
1236 ; AVX512VL-NEXT: vpsllq $48, %xmm0, %xmm1
1237 ; AVX512VL-NEXT: vpsraq $48, %xmm1, %xmm1
1238 ; AVX512VL-NEXT: vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1239 ; AVX512VL-NEXT: vpsllq $48, %xmm0, %xmm0
1240 ; AVX512VL-NEXT: vpsraq $48, %xmm0, %xmm0
1241 ; AVX512VL-NEXT: vpmaxsq %xmm0, %xmm1, %xmm0
1242 ; AVX512VL-NEXT: vmovd %xmm0, %eax
1243 ; AVX512VL-NEXT: # kill: def $ax killed $ax killed $eax
1244 ; AVX512VL-NEXT: retq
1245 %1 = call i16 @llvm.experimental.vector.reduce.smax.i16.v2i16(<2 x i16> %a0)
1249 define i16 @test_v4i16(<4 x i16> %a0) {
1250 ; SSE2-LABEL: test_v4i16:
1252 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1253 ; SSE2-NEXT: pslld $16, %xmm0
1254 ; SSE2-NEXT: psrad $16, %xmm0
1255 ; SSE2-NEXT: pslld $16, %xmm1
1256 ; SSE2-NEXT: psrad $16, %xmm1
1257 ; SSE2-NEXT: movdqa %xmm0, %xmm2
1258 ; SSE2-NEXT: pcmpgtd %xmm1, %xmm2
1259 ; SSE2-NEXT: pand %xmm2, %xmm0
1260 ; SSE2-NEXT: pandn %xmm1, %xmm2
1261 ; SSE2-NEXT: por %xmm0, %xmm2
1262 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm2[1,1,2,3]
1263 ; SSE2-NEXT: pslld $16, %xmm0
1264 ; SSE2-NEXT: psrad $16, %xmm0
1265 ; SSE2-NEXT: movdqa %xmm2, %xmm1
1266 ; SSE2-NEXT: pcmpgtd %xmm0, %xmm1
1267 ; SSE2-NEXT: pand %xmm1, %xmm2
1268 ; SSE2-NEXT: pandn %xmm0, %xmm1
1269 ; SSE2-NEXT: por %xmm2, %xmm1
1270 ; SSE2-NEXT: movd %xmm1, %eax
1271 ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax
1274 ; SSE41-LABEL: test_v4i16:
1276 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1277 ; SSE41-NEXT: pslld $16, %xmm0
1278 ; SSE41-NEXT: psrad $16, %xmm0
1279 ; SSE41-NEXT: pslld $16, %xmm1
1280 ; SSE41-NEXT: psrad $16, %xmm1
1281 ; SSE41-NEXT: pmaxsd %xmm0, %xmm1
1282 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
1283 ; SSE41-NEXT: pslld $16, %xmm0
1284 ; SSE41-NEXT: psrad $16, %xmm0
1285 ; SSE41-NEXT: pmaxsd %xmm1, %xmm0
1286 ; SSE41-NEXT: movd %xmm0, %eax
1287 ; SSE41-NEXT: # kill: def $ax killed $ax killed $eax
1290 ; AVX-LABEL: test_v4i16:
1292 ; AVX-NEXT: vpslld $16, %xmm0, %xmm1
1293 ; AVX-NEXT: vpsrad $16, %xmm1, %xmm1
1294 ; AVX-NEXT: vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1295 ; AVX-NEXT: vpslld $16, %xmm0, %xmm0
1296 ; AVX-NEXT: vpsrad $16, %xmm0, %xmm0
1297 ; AVX-NEXT: vpmaxsd %xmm0, %xmm1, %xmm0
1298 ; AVX-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1299 ; AVX-NEXT: vpslld $16, %xmm1, %xmm1
1300 ; AVX-NEXT: vpsrad $16, %xmm1, %xmm1
1301 ; AVX-NEXT: vpmaxsd %xmm1, %xmm0, %xmm0
1302 ; AVX-NEXT: vmovd %xmm0, %eax
1303 ; AVX-NEXT: # kill: def $ax killed $ax killed $eax
1306 ; AVX512-LABEL: test_v4i16:
1308 ; AVX512-NEXT: vpslld $16, %xmm0, %xmm1
1309 ; AVX512-NEXT: vpsrad $16, %xmm1, %xmm1
1310 ; AVX512-NEXT: vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1311 ; AVX512-NEXT: vpslld $16, %xmm0, %xmm0
1312 ; AVX512-NEXT: vpsrad $16, %xmm0, %xmm0
1313 ; AVX512-NEXT: vpmaxsd %xmm0, %xmm1, %xmm0
1314 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1315 ; AVX512-NEXT: vpslld $16, %xmm1, %xmm1
1316 ; AVX512-NEXT: vpsrad $16, %xmm1, %xmm1
1317 ; AVX512-NEXT: vpmaxsd %xmm1, %xmm0, %xmm0
1318 ; AVX512-NEXT: vmovd %xmm0, %eax
1319 ; AVX512-NEXT: # kill: def $ax killed $ax killed $eax
1321 %1 = call i16 @llvm.experimental.vector.reduce.smax.i16.v4i16(<4 x i16> %a0)
1325 define i16 @test_v8i16(<8 x i16> %a0) {
1326 ; SSE2-LABEL: test_v8i16:
1328 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1329 ; SSE2-NEXT: pmaxsw %xmm0, %xmm1
1330 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
1331 ; SSE2-NEXT: pmaxsw %xmm1, %xmm0
1332 ; SSE2-NEXT: movdqa %xmm0, %xmm1
1333 ; SSE2-NEXT: psrld $16, %xmm1
1334 ; SSE2-NEXT: pmaxsw %xmm0, %xmm1
1335 ; SSE2-NEXT: movd %xmm1, %eax
1336 ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax
1339 ; SSE41-LABEL: test_v8i16:
1341 ; SSE41-NEXT: pxor {{.*}}(%rip), %xmm0
1342 ; SSE41-NEXT: phminposuw %xmm0, %xmm0
1343 ; SSE41-NEXT: movd %xmm0, %eax
1344 ; SSE41-NEXT: xorl $32767, %eax # imm = 0x7FFF
1345 ; SSE41-NEXT: # kill: def $ax killed $ax killed $eax
1348 ; AVX-LABEL: test_v8i16:
1350 ; AVX-NEXT: vpxor {{.*}}(%rip), %xmm0, %xmm0
1351 ; AVX-NEXT: vphminposuw %xmm0, %xmm0
1352 ; AVX-NEXT: vmovd %xmm0, %eax
1353 ; AVX-NEXT: xorl $32767, %eax # imm = 0x7FFF
1354 ; AVX-NEXT: # kill: def $ax killed $ax killed $eax
1357 ; AVX512-LABEL: test_v8i16:
1359 ; AVX512-NEXT: vpxor {{.*}}(%rip), %xmm0, %xmm0
1360 ; AVX512-NEXT: vphminposuw %xmm0, %xmm0
1361 ; AVX512-NEXT: vmovd %xmm0, %eax
1362 ; AVX512-NEXT: xorl $32767, %eax # imm = 0x7FFF
1363 ; AVX512-NEXT: # kill: def $ax killed $ax killed $eax
1365 %1 = call i16 @llvm.experimental.vector.reduce.smax.i16.v8i16(<8 x i16> %a0)
1369 define i16 @test_v16i16(<16 x i16> %a0) {
1370 ; SSE2-LABEL: test_v16i16:
1372 ; SSE2-NEXT: pmaxsw %xmm1, %xmm0
1373 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1374 ; SSE2-NEXT: pmaxsw %xmm0, %xmm1
1375 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
1376 ; SSE2-NEXT: pmaxsw %xmm1, %xmm0
1377 ; SSE2-NEXT: movdqa %xmm0, %xmm1
1378 ; SSE2-NEXT: psrld $16, %xmm1
1379 ; SSE2-NEXT: pmaxsw %xmm0, %xmm1
1380 ; SSE2-NEXT: movd %xmm1, %eax
1381 ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax
1384 ; SSE41-LABEL: test_v16i16:
1386 ; SSE41-NEXT: pmaxsw %xmm1, %xmm0
1387 ; SSE41-NEXT: pxor {{.*}}(%rip), %xmm0
1388 ; SSE41-NEXT: phminposuw %xmm0, %xmm0
1389 ; SSE41-NEXT: movd %xmm0, %eax
1390 ; SSE41-NEXT: xorl $32767, %eax # imm = 0x7FFF
1391 ; SSE41-NEXT: # kill: def $ax killed $ax killed $eax
1394 ; AVX1-LABEL: test_v16i16:
1396 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm1
1397 ; AVX1-NEXT: vpmaxsw %xmm1, %xmm0, %xmm0
1398 ; AVX1-NEXT: vpxor {{.*}}(%rip), %xmm0, %xmm0
1399 ; AVX1-NEXT: vphminposuw %xmm0, %xmm0
1400 ; AVX1-NEXT: vmovd %xmm0, %eax
1401 ; AVX1-NEXT: xorl $32767, %eax # imm = 0x7FFF
1402 ; AVX1-NEXT: # kill: def $ax killed $ax killed $eax
1403 ; AVX1-NEXT: vzeroupper
1406 ; AVX2-LABEL: test_v16i16:
1408 ; AVX2-NEXT: vextracti128 $1, %ymm0, %xmm1
1409 ; AVX2-NEXT: vpmaxsw %xmm1, %xmm0, %xmm0
1410 ; AVX2-NEXT: vpxor {{.*}}(%rip), %xmm0, %xmm0
1411 ; AVX2-NEXT: vphminposuw %xmm0, %xmm0
1412 ; AVX2-NEXT: vmovd %xmm0, %eax
1413 ; AVX2-NEXT: xorl $32767, %eax # imm = 0x7FFF
1414 ; AVX2-NEXT: # kill: def $ax killed $ax killed $eax
1415 ; AVX2-NEXT: vzeroupper
1418 ; AVX512-LABEL: test_v16i16:
1420 ; AVX512-NEXT: vextracti128 $1, %ymm0, %xmm1
1421 ; AVX512-NEXT: vpmaxsw %xmm1, %xmm0, %xmm0
1422 ; AVX512-NEXT: vpxor {{.*}}(%rip), %xmm0, %xmm0
1423 ; AVX512-NEXT: vphminposuw %xmm0, %xmm0
1424 ; AVX512-NEXT: vmovd %xmm0, %eax
1425 ; AVX512-NEXT: xorl $32767, %eax # imm = 0x7FFF
1426 ; AVX512-NEXT: # kill: def $ax killed $ax killed $eax
1427 ; AVX512-NEXT: vzeroupper
1429 %1 = call i16 @llvm.experimental.vector.reduce.smax.i16.v16i16(<16 x i16> %a0)
1433 define i16 @test_v32i16(<32 x i16> %a0) {
1434 ; SSE2-LABEL: test_v32i16:
1436 ; SSE2-NEXT: pmaxsw %xmm3, %xmm1
1437 ; SSE2-NEXT: pmaxsw %xmm2, %xmm0
1438 ; SSE2-NEXT: pmaxsw %xmm1, %xmm0
1439 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1440 ; SSE2-NEXT: pmaxsw %xmm0, %xmm1
1441 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
1442 ; SSE2-NEXT: pmaxsw %xmm1, %xmm0
1443 ; SSE2-NEXT: movdqa %xmm0, %xmm1
1444 ; SSE2-NEXT: psrld $16, %xmm1
1445 ; SSE2-NEXT: pmaxsw %xmm0, %xmm1
1446 ; SSE2-NEXT: movd %xmm1, %eax
1447 ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax
1450 ; SSE41-LABEL: test_v32i16:
1452 ; SSE41-NEXT: pmaxsw %xmm3, %xmm1
1453 ; SSE41-NEXT: pmaxsw %xmm2, %xmm0
1454 ; SSE41-NEXT: pmaxsw %xmm1, %xmm0
1455 ; SSE41-NEXT: pxor {{.*}}(%rip), %xmm0
1456 ; SSE41-NEXT: phminposuw %xmm0, %xmm0
1457 ; SSE41-NEXT: movd %xmm0, %eax
1458 ; SSE41-NEXT: xorl $32767, %eax # imm = 0x7FFF
1459 ; SSE41-NEXT: # kill: def $ax killed $ax killed $eax
1462 ; AVX1-LABEL: test_v32i16:
1464 ; AVX1-NEXT: vextractf128 $1, %ymm1, %xmm2
1465 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm3
1466 ; AVX1-NEXT: vpmaxsw %xmm2, %xmm3, %xmm2
1467 ; AVX1-NEXT: vpmaxsw %xmm1, %xmm0, %xmm0
1468 ; AVX1-NEXT: vpmaxsw %xmm2, %xmm0, %xmm0
1469 ; AVX1-NEXT: vpxor {{.*}}(%rip), %xmm0, %xmm0
1470 ; AVX1-NEXT: vphminposuw %xmm0, %xmm0
1471 ; AVX1-NEXT: vmovd %xmm0, %eax
1472 ; AVX1-NEXT: xorl $32767, %eax # imm = 0x7FFF
1473 ; AVX1-NEXT: # kill: def $ax killed $ax killed $eax
1474 ; AVX1-NEXT: vzeroupper
1477 ; AVX2-LABEL: test_v32i16:
1479 ; AVX2-NEXT: vpmaxsw %ymm1, %ymm0, %ymm0
1480 ; AVX2-NEXT: vextracti128 $1, %ymm0, %xmm1
1481 ; AVX2-NEXT: vpmaxsw %xmm1, %xmm0, %xmm0
1482 ; AVX2-NEXT: vpxor {{.*}}(%rip), %xmm0, %xmm0
1483 ; AVX2-NEXT: vphminposuw %xmm0, %xmm0
1484 ; AVX2-NEXT: vmovd %xmm0, %eax
1485 ; AVX2-NEXT: xorl $32767, %eax # imm = 0x7FFF
1486 ; AVX2-NEXT: # kill: def $ax killed $ax killed $eax
1487 ; AVX2-NEXT: vzeroupper
1490 ; AVX512-LABEL: test_v32i16:
1492 ; AVX512-NEXT: vextracti64x4 $1, %zmm0, %ymm1
1493 ; AVX512-NEXT: vpmaxsw %ymm1, %ymm0, %ymm0
1494 ; AVX512-NEXT: vextracti128 $1, %ymm0, %xmm1
1495 ; AVX512-NEXT: vpmaxsw %xmm1, %xmm0, %xmm0
1496 ; AVX512-NEXT: vpxor {{.*}}(%rip), %xmm0, %xmm0
1497 ; AVX512-NEXT: vphminposuw %xmm0, %xmm0
1498 ; AVX512-NEXT: vmovd %xmm0, %eax
1499 ; AVX512-NEXT: xorl $32767, %eax # imm = 0x7FFF
1500 ; AVX512-NEXT: # kill: def $ax killed $ax killed $eax
1501 ; AVX512-NEXT: vzeroupper
1503 %1 = call i16 @llvm.experimental.vector.reduce.smax.i16.v32i16(<32 x i16> %a0)
1507 define i16 @test_v64i16(<64 x i16> %a0) {
1508 ; SSE2-LABEL: test_v64i16:
1510 ; SSE2-NEXT: pmaxsw %xmm6, %xmm2
1511 ; SSE2-NEXT: pmaxsw %xmm4, %xmm0
1512 ; SSE2-NEXT: pmaxsw %xmm2, %xmm0
1513 ; SSE2-NEXT: pmaxsw %xmm7, %xmm3
1514 ; SSE2-NEXT: pmaxsw %xmm5, %xmm1
1515 ; SSE2-NEXT: pmaxsw %xmm3, %xmm1
1516 ; SSE2-NEXT: pmaxsw %xmm0, %xmm1
1517 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm1[2,3,0,1]
1518 ; SSE2-NEXT: pmaxsw %xmm1, %xmm0
1519 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1520 ; SSE2-NEXT: pmaxsw %xmm0, %xmm1
1521 ; SSE2-NEXT: movdqa %xmm1, %xmm0
1522 ; SSE2-NEXT: psrld $16, %xmm0
1523 ; SSE2-NEXT: pmaxsw %xmm1, %xmm0
1524 ; SSE2-NEXT: movd %xmm0, %eax
1525 ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax
1528 ; SSE41-LABEL: test_v64i16:
1530 ; SSE41-NEXT: pmaxsw %xmm7, %xmm3
1531 ; SSE41-NEXT: pmaxsw %xmm5, %xmm1
1532 ; SSE41-NEXT: pmaxsw %xmm3, %xmm1
1533 ; SSE41-NEXT: pmaxsw %xmm6, %xmm2
1534 ; SSE41-NEXT: pmaxsw %xmm4, %xmm0
1535 ; SSE41-NEXT: pmaxsw %xmm2, %xmm0
1536 ; SSE41-NEXT: pmaxsw %xmm1, %xmm0
1537 ; SSE41-NEXT: pxor {{.*}}(%rip), %xmm0
1538 ; SSE41-NEXT: phminposuw %xmm0, %xmm0
1539 ; SSE41-NEXT: movd %xmm0, %eax
1540 ; SSE41-NEXT: xorl $32767, %eax # imm = 0x7FFF
1541 ; SSE41-NEXT: # kill: def $ax killed $ax killed $eax
1544 ; AVX1-LABEL: test_v64i16:
1546 ; AVX1-NEXT: vextractf128 $1, %ymm3, %xmm4
1547 ; AVX1-NEXT: vextractf128 $1, %ymm1, %xmm5
1548 ; AVX1-NEXT: vpmaxsw %xmm4, %xmm5, %xmm4
1549 ; AVX1-NEXT: vextractf128 $1, %ymm2, %xmm5
1550 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm6
1551 ; AVX1-NEXT: vpmaxsw %xmm5, %xmm6, %xmm5
1552 ; AVX1-NEXT: vpmaxsw %xmm4, %xmm5, %xmm4
1553 ; AVX1-NEXT: vpmaxsw %xmm3, %xmm1, %xmm1
1554 ; AVX1-NEXT: vpmaxsw %xmm2, %xmm0, %xmm0
1555 ; AVX1-NEXT: vpmaxsw %xmm1, %xmm0, %xmm0
1556 ; AVX1-NEXT: vpmaxsw %xmm4, %xmm0, %xmm0
1557 ; AVX1-NEXT: vpxor {{.*}}(%rip), %xmm0, %xmm0
1558 ; AVX1-NEXT: vphminposuw %xmm0, %xmm0
1559 ; AVX1-NEXT: vmovd %xmm0, %eax
1560 ; AVX1-NEXT: xorl $32767, %eax # imm = 0x7FFF
1561 ; AVX1-NEXT: # kill: def $ax killed $ax killed $eax
1562 ; AVX1-NEXT: vzeroupper
1565 ; AVX2-LABEL: test_v64i16:
1567 ; AVX2-NEXT: vpmaxsw %ymm3, %ymm1, %ymm1
1568 ; AVX2-NEXT: vpmaxsw %ymm2, %ymm0, %ymm0
1569 ; AVX2-NEXT: vpmaxsw %ymm1, %ymm0, %ymm0
1570 ; AVX2-NEXT: vextracti128 $1, %ymm0, %xmm1
1571 ; AVX2-NEXT: vpmaxsw %xmm1, %xmm0, %xmm0
1572 ; AVX2-NEXT: vpxor {{.*}}(%rip), %xmm0, %xmm0
1573 ; AVX2-NEXT: vphminposuw %xmm0, %xmm0
1574 ; AVX2-NEXT: vmovd %xmm0, %eax
1575 ; AVX2-NEXT: xorl $32767, %eax # imm = 0x7FFF
1576 ; AVX2-NEXT: # kill: def $ax killed $ax killed $eax
1577 ; AVX2-NEXT: vzeroupper
1580 ; AVX512-LABEL: test_v64i16:
1582 ; AVX512-NEXT: vpmaxsw %zmm1, %zmm0, %zmm0
1583 ; AVX512-NEXT: vextracti64x4 $1, %zmm0, %ymm1
1584 ; AVX512-NEXT: vpmaxsw %ymm1, %ymm0, %ymm0
1585 ; AVX512-NEXT: vextracti128 $1, %ymm0, %xmm1
1586 ; AVX512-NEXT: vpmaxsw %xmm1, %xmm0, %xmm0
1587 ; AVX512-NEXT: vpxor {{.*}}(%rip), %xmm0, %xmm0
1588 ; AVX512-NEXT: vphminposuw %xmm0, %xmm0
1589 ; AVX512-NEXT: vmovd %xmm0, %eax
1590 ; AVX512-NEXT: xorl $32767, %eax # imm = 0x7FFF
1591 ; AVX512-NEXT: # kill: def $ax killed $ax killed $eax
1592 ; AVX512-NEXT: vzeroupper
1594 %1 = call i16 @llvm.experimental.vector.reduce.smax.i16.v64i16(<64 x i16> %a0)
1602 define i8 @test_v2i8(<2 x i8> %a0) {
1603 ; SSE2-LABEL: test_v2i8:
1605 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1606 ; SSE2-NEXT: psllq $56, %xmm0
1607 ; SSE2-NEXT: movdqa %xmm0, %xmm2
1608 ; SSE2-NEXT: psrad $31, %xmm2
1609 ; SSE2-NEXT: pshufd {{.*#+}} xmm2 = xmm2[1,3,2,3]
1610 ; SSE2-NEXT: psrad $24, %xmm0
1611 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm0[1,3,2,3]
1612 ; SSE2-NEXT: punpckldq {{.*#+}} xmm0 = xmm0[0],xmm2[0],xmm0[1],xmm2[1]
1613 ; SSE2-NEXT: psllq $56, %xmm1
1614 ; SSE2-NEXT: movdqa %xmm1, %xmm2
1615 ; SSE2-NEXT: psrad $31, %xmm2
1616 ; SSE2-NEXT: pshufd {{.*#+}} xmm2 = xmm2[1,3,2,3]
1617 ; SSE2-NEXT: psrad $24, %xmm1
1618 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm1[1,3,2,3]
1619 ; SSE2-NEXT: punpckldq {{.*#+}} xmm1 = xmm1[0],xmm2[0],xmm1[1],xmm2[1]
1620 ; SSE2-NEXT: movdqa {{.*#+}} xmm2 = [2147483648,2147483648]
1621 ; SSE2-NEXT: movdqa %xmm0, %xmm3
1622 ; SSE2-NEXT: pxor %xmm2, %xmm3
1623 ; SSE2-NEXT: pxor %xmm1, %xmm2
1624 ; SSE2-NEXT: movdqa %xmm3, %xmm4
1625 ; SSE2-NEXT: pcmpgtd %xmm2, %xmm4
1626 ; SSE2-NEXT: pshufd {{.*#+}} xmm5 = xmm4[0,0,2,2]
1627 ; SSE2-NEXT: pcmpeqd %xmm3, %xmm2
1628 ; SSE2-NEXT: pshufd {{.*#+}} xmm2 = xmm2[1,1,3,3]
1629 ; SSE2-NEXT: pand %xmm5, %xmm2
1630 ; SSE2-NEXT: pshufd {{.*#+}} xmm3 = xmm4[1,1,3,3]
1631 ; SSE2-NEXT: por %xmm2, %xmm3
1632 ; SSE2-NEXT: pand %xmm3, %xmm0
1633 ; SSE2-NEXT: pandn %xmm1, %xmm3
1634 ; SSE2-NEXT: por %xmm0, %xmm3
1635 ; SSE2-NEXT: movd %xmm3, %eax
1636 ; SSE2-NEXT: # kill: def $al killed $al killed $eax
1639 ; SSE41-LABEL: test_v2i8:
1641 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1642 ; SSE41-NEXT: psllq $56, %xmm0
1643 ; SSE41-NEXT: movdqa %xmm0, %xmm2
1644 ; SSE41-NEXT: psrad $31, %xmm2
1645 ; SSE41-NEXT: psrad $24, %xmm0
1646 ; SSE41-NEXT: pshufd {{.*#+}} xmm3 = xmm0[1,1,3,3]
1647 ; SSE41-NEXT: pblendw {{.*#+}} xmm3 = xmm3[0,1],xmm2[2,3],xmm3[4,5],xmm2[6,7]
1648 ; SSE41-NEXT: psllq $56, %xmm1
1649 ; SSE41-NEXT: movdqa %xmm1, %xmm0
1650 ; SSE41-NEXT: psrad $31, %xmm0
1651 ; SSE41-NEXT: psrad $24, %xmm1
1652 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm1[1,1,3,3]
1653 ; SSE41-NEXT: pblendw {{.*#+}} xmm1 = xmm1[0,1],xmm0[2,3],xmm1[4,5],xmm0[6,7]
1654 ; SSE41-NEXT: movdqa {{.*#+}} xmm0 = [2147483648,2147483648]
1655 ; SSE41-NEXT: movdqa %xmm3, %xmm2
1656 ; SSE41-NEXT: pxor %xmm0, %xmm2
1657 ; SSE41-NEXT: pxor %xmm1, %xmm0
1658 ; SSE41-NEXT: movdqa %xmm2, %xmm4
1659 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm4
1660 ; SSE41-NEXT: pcmpgtd %xmm0, %xmm2
1661 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm2[0,0,2,2]
1662 ; SSE41-NEXT: pand %xmm4, %xmm0
1663 ; SSE41-NEXT: por %xmm2, %xmm0
1664 ; SSE41-NEXT: blendvpd %xmm0, %xmm3, %xmm1
1665 ; SSE41-NEXT: pextrb $0, %xmm1, %eax
1666 ; SSE41-NEXT: # kill: def $al killed $al killed $eax
1669 ; AVX1-LABEL: test_v2i8:
1671 ; AVX1-NEXT: vpsllq $56, %xmm0, %xmm1
1672 ; AVX1-NEXT: vpsrad $31, %xmm1, %xmm2
1673 ; AVX1-NEXT: vpsrad $24, %xmm1, %xmm1
1674 ; AVX1-NEXT: vpshufd {{.*#+}} xmm1 = xmm1[1,1,3,3]
1675 ; AVX1-NEXT: vpblendw {{.*#+}} xmm1 = xmm1[0,1],xmm2[2,3],xmm1[4,5],xmm2[6,7]
1676 ; AVX1-NEXT: vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1677 ; AVX1-NEXT: vpsllq $56, %xmm0, %xmm0
1678 ; AVX1-NEXT: vpsrad $31, %xmm0, %xmm2
1679 ; AVX1-NEXT: vpsrad $24, %xmm0, %xmm0
1680 ; AVX1-NEXT: vpshufd {{.*#+}} xmm0 = xmm0[1,1,3,3]
1681 ; AVX1-NEXT: vpblendw {{.*#+}} xmm0 = xmm0[0,1],xmm2[2,3],xmm0[4,5],xmm2[6,7]
1682 ; AVX1-NEXT: vpcmpgtq %xmm0, %xmm1, %xmm2
1683 ; AVX1-NEXT: vblendvpd %xmm2, %xmm1, %xmm0, %xmm0
1684 ; AVX1-NEXT: vpextrb $0, %xmm0, %eax
1685 ; AVX1-NEXT: # kill: def $al killed $al killed $eax
1688 ; AVX2-LABEL: test_v2i8:
1690 ; AVX2-NEXT: vpsllq $56, %xmm0, %xmm1
1691 ; AVX2-NEXT: vpsrad $31, %xmm1, %xmm2
1692 ; AVX2-NEXT: vpsrad $24, %xmm1, %xmm1
1693 ; AVX2-NEXT: vpshufd {{.*#+}} xmm1 = xmm1[1,1,3,3]
1694 ; AVX2-NEXT: vpblendd {{.*#+}} xmm1 = xmm1[0],xmm2[1],xmm1[2],xmm2[3]
1695 ; AVX2-NEXT: vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1696 ; AVX2-NEXT: vpsllq $56, %xmm0, %xmm0
1697 ; AVX2-NEXT: vpsrad $31, %xmm0, %xmm2
1698 ; AVX2-NEXT: vpsrad $24, %xmm0, %xmm0
1699 ; AVX2-NEXT: vpshufd {{.*#+}} xmm0 = xmm0[1,1,3,3]
1700 ; AVX2-NEXT: vpblendd {{.*#+}} xmm0 = xmm0[0],xmm2[1],xmm0[2],xmm2[3]
1701 ; AVX2-NEXT: vpcmpgtq %xmm0, %xmm1, %xmm2
1702 ; AVX2-NEXT: vblendvpd %xmm2, %xmm1, %xmm0, %xmm0
1703 ; AVX2-NEXT: vpextrb $0, %xmm0, %eax
1704 ; AVX2-NEXT: # kill: def $al killed $al killed $eax
1707 ; AVX512BW-LABEL: test_v2i8:
1708 ; AVX512BW: # %bb.0:
1709 ; AVX512BW-NEXT: vpsllq $56, %xmm0, %xmm1
1710 ; AVX512BW-NEXT: vpsraq $56, %zmm1, %zmm1
1711 ; AVX512BW-NEXT: vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1712 ; AVX512BW-NEXT: vpsllq $56, %xmm0, %xmm0
1713 ; AVX512BW-NEXT: vpsraq $56, %zmm0, %zmm0
1714 ; AVX512BW-NEXT: vpmaxsq %zmm0, %zmm1, %zmm0
1715 ; AVX512BW-NEXT: vpextrb $0, %xmm0, %eax
1716 ; AVX512BW-NEXT: # kill: def $al killed $al killed $eax
1717 ; AVX512BW-NEXT: vzeroupper
1718 ; AVX512BW-NEXT: retq
1720 ; AVX512VL-LABEL: test_v2i8:
1721 ; AVX512VL: # %bb.0:
1722 ; AVX512VL-NEXT: vpsllq $56, %xmm0, %xmm1
1723 ; AVX512VL-NEXT: vpsraq $56, %xmm1, %xmm1
1724 ; AVX512VL-NEXT: vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1725 ; AVX512VL-NEXT: vpsllq $56, %xmm0, %xmm0
1726 ; AVX512VL-NEXT: vpsraq $56, %xmm0, %xmm0
1727 ; AVX512VL-NEXT: vpmaxsq %xmm0, %xmm1, %xmm0
1728 ; AVX512VL-NEXT: vpextrb $0, %xmm0, %eax
1729 ; AVX512VL-NEXT: # kill: def $al killed $al killed $eax
1730 ; AVX512VL-NEXT: retq
1731 %1 = call i8 @llvm.experimental.vector.reduce.smax.i8.v2i8(<2 x i8> %a0)
1735 define i8 @test_v4i8(<4 x i8> %a0) {
1736 ; SSE2-LABEL: test_v4i8:
1738 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1739 ; SSE2-NEXT: pslld $24, %xmm0
1740 ; SSE2-NEXT: psrad $24, %xmm0
1741 ; SSE2-NEXT: pslld $24, %xmm1
1742 ; SSE2-NEXT: psrad $24, %xmm1
1743 ; SSE2-NEXT: movdqa %xmm0, %xmm2
1744 ; SSE2-NEXT: pcmpgtd %xmm1, %xmm2
1745 ; SSE2-NEXT: pand %xmm2, %xmm0
1746 ; SSE2-NEXT: pandn %xmm1, %xmm2
1747 ; SSE2-NEXT: por %xmm0, %xmm2
1748 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm2[1,1,2,3]
1749 ; SSE2-NEXT: pslld $24, %xmm0
1750 ; SSE2-NEXT: psrad $24, %xmm0
1751 ; SSE2-NEXT: movdqa %xmm2, %xmm1
1752 ; SSE2-NEXT: pcmpgtd %xmm0, %xmm1
1753 ; SSE2-NEXT: pand %xmm1, %xmm2
1754 ; SSE2-NEXT: pandn %xmm0, %xmm1
1755 ; SSE2-NEXT: por %xmm2, %xmm1
1756 ; SSE2-NEXT: movd %xmm1, %eax
1757 ; SSE2-NEXT: # kill: def $al killed $al killed $eax
1760 ; SSE41-LABEL: test_v4i8:
1762 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1763 ; SSE41-NEXT: pslld $24, %xmm0
1764 ; SSE41-NEXT: psrad $24, %xmm0
1765 ; SSE41-NEXT: pslld $24, %xmm1
1766 ; SSE41-NEXT: psrad $24, %xmm1
1767 ; SSE41-NEXT: pmaxsd %xmm0, %xmm1
1768 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
1769 ; SSE41-NEXT: pslld $24, %xmm0
1770 ; SSE41-NEXT: psrad $24, %xmm0
1771 ; SSE41-NEXT: pmaxsd %xmm1, %xmm0
1772 ; SSE41-NEXT: pextrb $0, %xmm0, %eax
1773 ; SSE41-NEXT: # kill: def $al killed $al killed $eax
1776 ; AVX-LABEL: test_v4i8:
1778 ; AVX-NEXT: vpslld $24, %xmm0, %xmm1
1779 ; AVX-NEXT: vpsrad $24, %xmm1, %xmm1
1780 ; AVX-NEXT: vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1781 ; AVX-NEXT: vpslld $24, %xmm0, %xmm0
1782 ; AVX-NEXT: vpsrad $24, %xmm0, %xmm0
1783 ; AVX-NEXT: vpmaxsd %xmm0, %xmm1, %xmm0
1784 ; AVX-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1785 ; AVX-NEXT: vpslld $24, %xmm1, %xmm1
1786 ; AVX-NEXT: vpsrad $24, %xmm1, %xmm1
1787 ; AVX-NEXT: vpmaxsd %xmm1, %xmm0, %xmm0
1788 ; AVX-NEXT: vpextrb $0, %xmm0, %eax
1789 ; AVX-NEXT: # kill: def $al killed $al killed $eax
1792 ; AVX512-LABEL: test_v4i8:
1794 ; AVX512-NEXT: vpslld $24, %xmm0, %xmm1
1795 ; AVX512-NEXT: vpsrad $24, %xmm1, %xmm1
1796 ; AVX512-NEXT: vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1797 ; AVX512-NEXT: vpslld $24, %xmm0, %xmm0
1798 ; AVX512-NEXT: vpsrad $24, %xmm0, %xmm0
1799 ; AVX512-NEXT: vpmaxsd %xmm0, %xmm1, %xmm0
1800 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1801 ; AVX512-NEXT: vpslld $24, %xmm1, %xmm1
1802 ; AVX512-NEXT: vpsrad $24, %xmm1, %xmm1
1803 ; AVX512-NEXT: vpmaxsd %xmm1, %xmm0, %xmm0
1804 ; AVX512-NEXT: vpextrb $0, %xmm0, %eax
1805 ; AVX512-NEXT: # kill: def $al killed $al killed $eax
1807 %1 = call i8 @llvm.experimental.vector.reduce.smax.i8.v4i8(<4 x i8> %a0)
1811 define i8 @test_v8i8(<8 x i8> %a0) {
1812 ; SSE2-LABEL: test_v8i8:
1814 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1815 ; SSE2-NEXT: psllw $8, %xmm0
1816 ; SSE2-NEXT: psraw $8, %xmm0
1817 ; SSE2-NEXT: psllw $8, %xmm1
1818 ; SSE2-NEXT: psraw $8, %xmm1
1819 ; SSE2-NEXT: pmaxsw %xmm0, %xmm1
1820 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
1821 ; SSE2-NEXT: psllw $8, %xmm0
1822 ; SSE2-NEXT: psraw $8, %xmm0
1823 ; SSE2-NEXT: pmaxsw %xmm1, %xmm0
1824 ; SSE2-NEXT: movdqa %xmm0, %xmm1
1825 ; SSE2-NEXT: psrld $16, %xmm1
1826 ; SSE2-NEXT: psllw $8, %xmm1
1827 ; SSE2-NEXT: psraw $8, %xmm1
1828 ; SSE2-NEXT: pmaxsw %xmm0, %xmm1
1829 ; SSE2-NEXT: movd %xmm1, %eax
1830 ; SSE2-NEXT: # kill: def $al killed $al killed $eax
1833 ; SSE41-LABEL: test_v8i8:
1835 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1836 ; SSE41-NEXT: psllw $8, %xmm0
1837 ; SSE41-NEXT: psraw $8, %xmm0
1838 ; SSE41-NEXT: psllw $8, %xmm1
1839 ; SSE41-NEXT: psraw $8, %xmm1
1840 ; SSE41-NEXT: pmaxsw %xmm0, %xmm1
1841 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
1842 ; SSE41-NEXT: psllw $8, %xmm0
1843 ; SSE41-NEXT: psraw $8, %xmm0
1844 ; SSE41-NEXT: pmaxsw %xmm1, %xmm0
1845 ; SSE41-NEXT: movdqa %xmm0, %xmm1
1846 ; SSE41-NEXT: psrld $16, %xmm1
1847 ; SSE41-NEXT: psllw $8, %xmm1
1848 ; SSE41-NEXT: psraw $8, %xmm1
1849 ; SSE41-NEXT: pmaxsw %xmm0, %xmm1
1850 ; SSE41-NEXT: pextrb $0, %xmm1, %eax
1851 ; SSE41-NEXT: # kill: def $al killed $al killed $eax
1854 ; AVX-LABEL: test_v8i8:
1856 ; AVX-NEXT: vpsllw $8, %xmm0, %xmm1
1857 ; AVX-NEXT: vpsraw $8, %xmm1, %xmm1
1858 ; AVX-NEXT: vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1859 ; AVX-NEXT: vpsllw $8, %xmm0, %xmm0
1860 ; AVX-NEXT: vpsraw $8, %xmm0, %xmm0
1861 ; AVX-NEXT: vpmaxsw %xmm0, %xmm1, %xmm0
1862 ; AVX-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1863 ; AVX-NEXT: vpsllw $8, %xmm1, %xmm1
1864 ; AVX-NEXT: vpsraw $8, %xmm1, %xmm1
1865 ; AVX-NEXT: vpmaxsw %xmm1, %xmm0, %xmm0
1866 ; AVX-NEXT: vpsrld $16, %xmm0, %xmm1
1867 ; AVX-NEXT: vpsllw $8, %xmm1, %xmm1
1868 ; AVX-NEXT: vpsraw $8, %xmm1, %xmm1
1869 ; AVX-NEXT: vpmaxsw %xmm1, %xmm0, %xmm0
1870 ; AVX-NEXT: vpextrb $0, %xmm0, %eax
1871 ; AVX-NEXT: # kill: def $al killed $al killed $eax
1874 ; AVX512-LABEL: test_v8i8:
1876 ; AVX512-NEXT: vpsllw $8, %xmm0, %xmm1
1877 ; AVX512-NEXT: vpsraw $8, %xmm1, %xmm1
1878 ; AVX512-NEXT: vpshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1879 ; AVX512-NEXT: vpsllw $8, %xmm0, %xmm0
1880 ; AVX512-NEXT: vpsraw $8, %xmm0, %xmm0
1881 ; AVX512-NEXT: vpmaxsw %xmm0, %xmm1, %xmm0
1882 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1883 ; AVX512-NEXT: vpsllw $8, %xmm1, %xmm1
1884 ; AVX512-NEXT: vpsraw $8, %xmm1, %xmm1
1885 ; AVX512-NEXT: vpmaxsw %xmm1, %xmm0, %xmm0
1886 ; AVX512-NEXT: vpsrld $16, %xmm0, %xmm1
1887 ; AVX512-NEXT: vpsllw $8, %xmm1, %xmm1
1888 ; AVX512-NEXT: vpsraw $8, %xmm1, %xmm1
1889 ; AVX512-NEXT: vpmaxsw %xmm1, %xmm0, %xmm0
1890 ; AVX512-NEXT: vpextrb $0, %xmm0, %eax
1891 ; AVX512-NEXT: # kill: def $al killed $al killed $eax
1893 %1 = call i8 @llvm.experimental.vector.reduce.smax.i8.v8i8(<8 x i8> %a0)
1897 define i8 @test_v16i8(<16 x i8> %a0) {
1898 ; SSE2-LABEL: test_v16i8:
1900 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1901 ; SSE2-NEXT: movdqa %xmm0, %xmm2
1902 ; SSE2-NEXT: pcmpgtb %xmm1, %xmm2
1903 ; SSE2-NEXT: pand %xmm2, %xmm0
1904 ; SSE2-NEXT: pandn %xmm1, %xmm2
1905 ; SSE2-NEXT: por %xmm0, %xmm2
1906 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm2[1,1,2,3]
1907 ; SSE2-NEXT: movdqa %xmm2, %xmm1
1908 ; SSE2-NEXT: pcmpgtb %xmm0, %xmm1
1909 ; SSE2-NEXT: pand %xmm1, %xmm2
1910 ; SSE2-NEXT: pandn %xmm0, %xmm1
1911 ; SSE2-NEXT: por %xmm2, %xmm1
1912 ; SSE2-NEXT: movdqa %xmm1, %xmm0
1913 ; SSE2-NEXT: psrld $16, %xmm0
1914 ; SSE2-NEXT: movdqa %xmm1, %xmm2
1915 ; SSE2-NEXT: pcmpgtb %xmm0, %xmm2
1916 ; SSE2-NEXT: pand %xmm2, %xmm1
1917 ; SSE2-NEXT: pandn %xmm0, %xmm2
1918 ; SSE2-NEXT: por %xmm1, %xmm2
1919 ; SSE2-NEXT: movdqa %xmm2, %xmm0
1920 ; SSE2-NEXT: psrlw $8, %xmm0
1921 ; SSE2-NEXT: movdqa %xmm2, %xmm1
1922 ; SSE2-NEXT: pcmpgtb %xmm0, %xmm1
1923 ; SSE2-NEXT: pand %xmm1, %xmm2
1924 ; SSE2-NEXT: pandn %xmm0, %xmm1
1925 ; SSE2-NEXT: por %xmm2, %xmm1
1926 ; SSE2-NEXT: movd %xmm1, %eax
1927 ; SSE2-NEXT: # kill: def $al killed $al killed $eax
1930 ; SSE41-LABEL: test_v16i8:
1932 ; SSE41-NEXT: pxor {{.*}}(%rip), %xmm0
1933 ; SSE41-NEXT: movdqa %xmm0, %xmm1
1934 ; SSE41-NEXT: psrlw $8, %xmm1
1935 ; SSE41-NEXT: pminub %xmm0, %xmm1
1936 ; SSE41-NEXT: phminposuw %xmm1, %xmm0
1937 ; SSE41-NEXT: pextrb $0, %xmm0, %eax
1938 ; SSE41-NEXT: xorb $127, %al
1939 ; SSE41-NEXT: # kill: def $al killed $al killed $eax
1942 ; AVX-LABEL: test_v16i8:
1944 ; AVX-NEXT: vpxor {{.*}}(%rip), %xmm0, %xmm0
1945 ; AVX-NEXT: vpsrlw $8, %xmm0, %xmm1
1946 ; AVX-NEXT: vpminub %xmm1, %xmm0, %xmm0
1947 ; AVX-NEXT: vphminposuw %xmm0, %xmm0
1948 ; AVX-NEXT: vpextrb $0, %xmm0, %eax
1949 ; AVX-NEXT: xorb $127, %al
1950 ; AVX-NEXT: # kill: def $al killed $al killed $eax
1953 ; AVX512-LABEL: test_v16i8:
1955 ; AVX512-NEXT: vpxor {{.*}}(%rip), %xmm0, %xmm0
1956 ; AVX512-NEXT: vpsrlw $8, %xmm0, %xmm1
1957 ; AVX512-NEXT: vpminub %xmm1, %xmm0, %xmm0
1958 ; AVX512-NEXT: vphminposuw %xmm0, %xmm0
1959 ; AVX512-NEXT: vpextrb $0, %xmm0, %eax
1960 ; AVX512-NEXT: xorb $127, %al
1961 ; AVX512-NEXT: # kill: def $al killed $al killed $eax
1963 %1 = call i8 @llvm.experimental.vector.reduce.smax.i8.v16i8(<16 x i8> %a0)
1967 define i8 @test_v32i8(<32 x i8> %a0) {
1968 ; SSE2-LABEL: test_v32i8:
1970 ; SSE2-NEXT: movdqa %xmm0, %xmm2
1971 ; SSE2-NEXT: pcmpgtb %xmm1, %xmm2
1972 ; SSE2-NEXT: pand %xmm2, %xmm0
1973 ; SSE2-NEXT: pandn %xmm1, %xmm2
1974 ; SSE2-NEXT: por %xmm0, %xmm2
1975 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm2[2,3,0,1]
1976 ; SSE2-NEXT: movdqa %xmm2, %xmm1
1977 ; SSE2-NEXT: pcmpgtb %xmm0, %xmm1
1978 ; SSE2-NEXT: pand %xmm1, %xmm2
1979 ; SSE2-NEXT: pandn %xmm0, %xmm1
1980 ; SSE2-NEXT: por %xmm2, %xmm1
1981 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
1982 ; SSE2-NEXT: movdqa %xmm1, %xmm2
1983 ; SSE2-NEXT: pcmpgtb %xmm0, %xmm2
1984 ; SSE2-NEXT: pand %xmm2, %xmm1
1985 ; SSE2-NEXT: pandn %xmm0, %xmm2
1986 ; SSE2-NEXT: por %xmm1, %xmm2
1987 ; SSE2-NEXT: movdqa %xmm2, %xmm0
1988 ; SSE2-NEXT: psrld $16, %xmm0
1989 ; SSE2-NEXT: movdqa %xmm2, %xmm1
1990 ; SSE2-NEXT: pcmpgtb %xmm0, %xmm1
1991 ; SSE2-NEXT: pand %xmm1, %xmm2
1992 ; SSE2-NEXT: pandn %xmm0, %xmm1
1993 ; SSE2-NEXT: por %xmm2, %xmm1
1994 ; SSE2-NEXT: movdqa %xmm1, %xmm0
1995 ; SSE2-NEXT: psrlw $8, %xmm0
1996 ; SSE2-NEXT: movdqa %xmm1, %xmm2
1997 ; SSE2-NEXT: pcmpgtb %xmm0, %xmm2
1998 ; SSE2-NEXT: pand %xmm2, %xmm1
1999 ; SSE2-NEXT: pandn %xmm0, %xmm2
2000 ; SSE2-NEXT: por %xmm1, %xmm2
2001 ; SSE2-NEXT: movd %xmm2, %eax
2002 ; SSE2-NEXT: # kill: def $al killed $al killed $eax
2005 ; SSE41-LABEL: test_v32i8:
2007 ; SSE41-NEXT: pmaxsb %xmm1, %xmm0
2008 ; SSE41-NEXT: pxor {{.*}}(%rip), %xmm0
2009 ; SSE41-NEXT: movdqa %xmm0, %xmm1
2010 ; SSE41-NEXT: psrlw $8, %xmm1
2011 ; SSE41-NEXT: pminub %xmm0, %xmm1
2012 ; SSE41-NEXT: phminposuw %xmm1, %xmm0
2013 ; SSE41-NEXT: pextrb $0, %xmm0, %eax
2014 ; SSE41-NEXT: xorb $127, %al
2015 ; SSE41-NEXT: # kill: def $al killed $al killed $eax
2018 ; AVX1-LABEL: test_v32i8:
2020 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm1
2021 ; AVX1-NEXT: vpmaxsb %xmm1, %xmm0, %xmm0
2022 ; AVX1-NEXT: vpxor {{.*}}(%rip), %xmm0, %xmm0
2023 ; AVX1-NEXT: vpsrlw $8, %xmm0, %xmm1
2024 ; AVX1-NEXT: vpminub %xmm1, %xmm0, %xmm0
2025 ; AVX1-NEXT: vphminposuw %xmm0, %xmm0
2026 ; AVX1-NEXT: vpextrb $0, %xmm0, %eax
2027 ; AVX1-NEXT: xorb $127, %al
2028 ; AVX1-NEXT: # kill: def $al killed $al killed $eax
2029 ; AVX1-NEXT: vzeroupper
2032 ; AVX2-LABEL: test_v32i8:
2034 ; AVX2-NEXT: vextracti128 $1, %ymm0, %xmm1
2035 ; AVX2-NEXT: vpmaxsb %xmm1, %xmm0, %xmm0
2036 ; AVX2-NEXT: vpxor {{.*}}(%rip), %xmm0, %xmm0
2037 ; AVX2-NEXT: vpsrlw $8, %xmm0, %xmm1
2038 ; AVX2-NEXT: vpminub %xmm1, %xmm0, %xmm0
2039 ; AVX2-NEXT: vphminposuw %xmm0, %xmm0
2040 ; AVX2-NEXT: vpextrb $0, %xmm0, %eax
2041 ; AVX2-NEXT: xorb $127, %al
2042 ; AVX2-NEXT: # kill: def $al killed $al killed $eax
2043 ; AVX2-NEXT: vzeroupper
2046 ; AVX512-LABEL: test_v32i8:
2048 ; AVX512-NEXT: vextracti128 $1, %ymm0, %xmm1
2049 ; AVX512-NEXT: vpmaxsb %xmm1, %xmm0, %xmm0
2050 ; AVX512-NEXT: vpxor {{.*}}(%rip), %xmm0, %xmm0
2051 ; AVX512-NEXT: vpsrlw $8, %xmm0, %xmm1
2052 ; AVX512-NEXT: vpminub %xmm1, %xmm0, %xmm0
2053 ; AVX512-NEXT: vphminposuw %xmm0, %xmm0
2054 ; AVX512-NEXT: vpextrb $0, %xmm0, %eax
2055 ; AVX512-NEXT: xorb $127, %al
2056 ; AVX512-NEXT: # kill: def $al killed $al killed $eax
2057 ; AVX512-NEXT: vzeroupper
2059 %1 = call i8 @llvm.experimental.vector.reduce.smax.i8.v32i8(<32 x i8> %a0)
2063 define i8 @test_v64i8(<64 x i8> %a0) {
2064 ; SSE2-LABEL: test_v64i8:
2066 ; SSE2-NEXT: movdqa %xmm1, %xmm4
2067 ; SSE2-NEXT: pcmpgtb %xmm3, %xmm4
2068 ; SSE2-NEXT: pand %xmm4, %xmm1
2069 ; SSE2-NEXT: pandn %xmm3, %xmm4
2070 ; SSE2-NEXT: por %xmm1, %xmm4
2071 ; SSE2-NEXT: movdqa %xmm0, %xmm1
2072 ; SSE2-NEXT: pcmpgtb %xmm2, %xmm1
2073 ; SSE2-NEXT: pand %xmm1, %xmm0
2074 ; SSE2-NEXT: pandn %xmm2, %xmm1
2075 ; SSE2-NEXT: por %xmm0, %xmm1
2076 ; SSE2-NEXT: movdqa %xmm1, %xmm0
2077 ; SSE2-NEXT: pcmpgtb %xmm4, %xmm0
2078 ; SSE2-NEXT: pand %xmm0, %xmm1
2079 ; SSE2-NEXT: pandn %xmm4, %xmm0
2080 ; SSE2-NEXT: por %xmm1, %xmm0
2081 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
2082 ; SSE2-NEXT: movdqa %xmm0, %xmm2
2083 ; SSE2-NEXT: pcmpgtb %xmm1, %xmm2
2084 ; SSE2-NEXT: pand %xmm2, %xmm0
2085 ; SSE2-NEXT: pandn %xmm1, %xmm2
2086 ; SSE2-NEXT: por %xmm0, %xmm2
2087 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm2[1,1,2,3]
2088 ; SSE2-NEXT: movdqa %xmm2, %xmm1
2089 ; SSE2-NEXT: pcmpgtb %xmm0, %xmm1
2090 ; SSE2-NEXT: pand %xmm1, %xmm2
2091 ; SSE2-NEXT: pandn %xmm0, %xmm1
2092 ; SSE2-NEXT: por %xmm2, %xmm1
2093 ; SSE2-NEXT: movdqa %xmm1, %xmm0
2094 ; SSE2-NEXT: psrld $16, %xmm0
2095 ; SSE2-NEXT: movdqa %xmm1, %xmm2
2096 ; SSE2-NEXT: pcmpgtb %xmm0, %xmm2
2097 ; SSE2-NEXT: pand %xmm2, %xmm1
2098 ; SSE2-NEXT: pandn %xmm0, %xmm2
2099 ; SSE2-NEXT: por %xmm1, %xmm2
2100 ; SSE2-NEXT: movdqa %xmm2, %xmm0
2101 ; SSE2-NEXT: psrlw $8, %xmm0
2102 ; SSE2-NEXT: movdqa %xmm2, %xmm1
2103 ; SSE2-NEXT: pcmpgtb %xmm0, %xmm1
2104 ; SSE2-NEXT: pand %xmm1, %xmm2
2105 ; SSE2-NEXT: pandn %xmm0, %xmm1
2106 ; SSE2-NEXT: por %xmm2, %xmm1
2107 ; SSE2-NEXT: movd %xmm1, %eax
2108 ; SSE2-NEXT: # kill: def $al killed $al killed $eax
2111 ; SSE41-LABEL: test_v64i8:
2113 ; SSE41-NEXT: pmaxsb %xmm3, %xmm1
2114 ; SSE41-NEXT: pmaxsb %xmm2, %xmm0
2115 ; SSE41-NEXT: pmaxsb %xmm1, %xmm0
2116 ; SSE41-NEXT: pxor {{.*}}(%rip), %xmm0
2117 ; SSE41-NEXT: movdqa %xmm0, %xmm1
2118 ; SSE41-NEXT: psrlw $8, %xmm1
2119 ; SSE41-NEXT: pminub %xmm0, %xmm1
2120 ; SSE41-NEXT: phminposuw %xmm1, %xmm0
2121 ; SSE41-NEXT: pextrb $0, %xmm0, %eax
2122 ; SSE41-NEXT: xorb $127, %al
2123 ; SSE41-NEXT: # kill: def $al killed $al killed $eax
2126 ; AVX1-LABEL: test_v64i8:
2128 ; AVX1-NEXT: vextractf128 $1, %ymm1, %xmm2
2129 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm3
2130 ; AVX1-NEXT: vpmaxsb %xmm2, %xmm3, %xmm2
2131 ; AVX1-NEXT: vpmaxsb %xmm1, %xmm0, %xmm0
2132 ; AVX1-NEXT: vpmaxsb %xmm2, %xmm0, %xmm0
2133 ; AVX1-NEXT: vpxor {{.*}}(%rip), %xmm0, %xmm0
2134 ; AVX1-NEXT: vpsrlw $8, %xmm0, %xmm1
2135 ; AVX1-NEXT: vpminub %xmm1, %xmm0, %xmm0
2136 ; AVX1-NEXT: vphminposuw %xmm0, %xmm0
2137 ; AVX1-NEXT: vpextrb $0, %xmm0, %eax
2138 ; AVX1-NEXT: xorb $127, %al
2139 ; AVX1-NEXT: # kill: def $al killed $al killed $eax
2140 ; AVX1-NEXT: vzeroupper
2143 ; AVX2-LABEL: test_v64i8:
2145 ; AVX2-NEXT: vpmaxsb %ymm1, %ymm0, %ymm0
2146 ; AVX2-NEXT: vextracti128 $1, %ymm0, %xmm1
2147 ; AVX2-NEXT: vpmaxsb %xmm1, %xmm0, %xmm0
2148 ; AVX2-NEXT: vpxor {{.*}}(%rip), %xmm0, %xmm0
2149 ; AVX2-NEXT: vpsrlw $8, %xmm0, %xmm1
2150 ; AVX2-NEXT: vpminub %xmm1, %xmm0, %xmm0
2151 ; AVX2-NEXT: vphminposuw %xmm0, %xmm0
2152 ; AVX2-NEXT: vpextrb $0, %xmm0, %eax
2153 ; AVX2-NEXT: xorb $127, %al
2154 ; AVX2-NEXT: # kill: def $al killed $al killed $eax
2155 ; AVX2-NEXT: vzeroupper
2158 ; AVX512-LABEL: test_v64i8:
2160 ; AVX512-NEXT: vextracti64x4 $1, %zmm0, %ymm1
2161 ; AVX512-NEXT: vpmaxsb %ymm1, %ymm0, %ymm0
2162 ; AVX512-NEXT: vextracti128 $1, %ymm0, %xmm1
2163 ; AVX512-NEXT: vpmaxsb %xmm1, %xmm0, %xmm0
2164 ; AVX512-NEXT: vpxor {{.*}}(%rip), %xmm0, %xmm0
2165 ; AVX512-NEXT: vpsrlw $8, %xmm0, %xmm1
2166 ; AVX512-NEXT: vpminub %xmm1, %xmm0, %xmm0
2167 ; AVX512-NEXT: vphminposuw %xmm0, %xmm0
2168 ; AVX512-NEXT: vpextrb $0, %xmm0, %eax
2169 ; AVX512-NEXT: xorb $127, %al
2170 ; AVX512-NEXT: # kill: def $al killed $al killed $eax
2171 ; AVX512-NEXT: vzeroupper
2173 %1 = call i8 @llvm.experimental.vector.reduce.smax.i8.v64i8(<64 x i8> %a0)
2177 define i8 @test_v128i8(<128 x i8> %a0) {
2178 ; SSE2-LABEL: test_v128i8:
2180 ; SSE2-NEXT: movdqa %xmm2, %xmm8
2181 ; SSE2-NEXT: pcmpgtb %xmm6, %xmm8
2182 ; SSE2-NEXT: pand %xmm8, %xmm2
2183 ; SSE2-NEXT: pandn %xmm6, %xmm8
2184 ; SSE2-NEXT: por %xmm2, %xmm8
2185 ; SSE2-NEXT: movdqa %xmm0, %xmm2
2186 ; SSE2-NEXT: pcmpgtb %xmm4, %xmm2
2187 ; SSE2-NEXT: pand %xmm2, %xmm0
2188 ; SSE2-NEXT: pandn %xmm4, %xmm2
2189 ; SSE2-NEXT: por %xmm0, %xmm2
2190 ; SSE2-NEXT: movdqa %xmm3, %xmm0
2191 ; SSE2-NEXT: pcmpgtb %xmm7, %xmm0
2192 ; SSE2-NEXT: pand %xmm0, %xmm3
2193 ; SSE2-NEXT: pandn %xmm7, %xmm0
2194 ; SSE2-NEXT: por %xmm3, %xmm0
2195 ; SSE2-NEXT: movdqa %xmm1, %xmm3
2196 ; SSE2-NEXT: pcmpgtb %xmm5, %xmm3
2197 ; SSE2-NEXT: pand %xmm3, %xmm1
2198 ; SSE2-NEXT: pandn %xmm5, %xmm3
2199 ; SSE2-NEXT: por %xmm1, %xmm3
2200 ; SSE2-NEXT: movdqa %xmm3, %xmm1
2201 ; SSE2-NEXT: pcmpgtb %xmm0, %xmm1
2202 ; SSE2-NEXT: pand %xmm1, %xmm3
2203 ; SSE2-NEXT: pandn %xmm0, %xmm1
2204 ; SSE2-NEXT: por %xmm3, %xmm1
2205 ; SSE2-NEXT: movdqa %xmm2, %xmm0
2206 ; SSE2-NEXT: pcmpgtb %xmm8, %xmm0
2207 ; SSE2-NEXT: pand %xmm0, %xmm2
2208 ; SSE2-NEXT: pandn %xmm8, %xmm0
2209 ; SSE2-NEXT: por %xmm2, %xmm0
2210 ; SSE2-NEXT: movdqa %xmm0, %xmm2
2211 ; SSE2-NEXT: pcmpgtb %xmm1, %xmm2
2212 ; SSE2-NEXT: pand %xmm2, %xmm0
2213 ; SSE2-NEXT: pandn %xmm1, %xmm2
2214 ; SSE2-NEXT: por %xmm0, %xmm2
2215 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm2[2,3,0,1]
2216 ; SSE2-NEXT: movdqa %xmm2, %xmm1
2217 ; SSE2-NEXT: pcmpgtb %xmm0, %xmm1
2218 ; SSE2-NEXT: pand %xmm1, %xmm2
2219 ; SSE2-NEXT: pandn %xmm0, %xmm1
2220 ; SSE2-NEXT: por %xmm2, %xmm1
2221 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
2222 ; SSE2-NEXT: movdqa %xmm1, %xmm2
2223 ; SSE2-NEXT: pcmpgtb %xmm0, %xmm2
2224 ; SSE2-NEXT: pand %xmm2, %xmm1
2225 ; SSE2-NEXT: pandn %xmm0, %xmm2
2226 ; SSE2-NEXT: por %xmm1, %xmm2
2227 ; SSE2-NEXT: movdqa %xmm2, %xmm0
2228 ; SSE2-NEXT: psrld $16, %xmm0
2229 ; SSE2-NEXT: movdqa %xmm2, %xmm1
2230 ; SSE2-NEXT: pcmpgtb %xmm0, %xmm1
2231 ; SSE2-NEXT: pand %xmm1, %xmm2
2232 ; SSE2-NEXT: pandn %xmm0, %xmm1
2233 ; SSE2-NEXT: por %xmm2, %xmm1
2234 ; SSE2-NEXT: movdqa %xmm1, %xmm0
2235 ; SSE2-NEXT: psrlw $8, %xmm0
2236 ; SSE2-NEXT: movdqa %xmm1, %xmm2
2237 ; SSE2-NEXT: pcmpgtb %xmm0, %xmm2
2238 ; SSE2-NEXT: pand %xmm2, %xmm1
2239 ; SSE2-NEXT: pandn %xmm0, %xmm2
2240 ; SSE2-NEXT: por %xmm1, %xmm2
2241 ; SSE2-NEXT: movd %xmm2, %eax
2242 ; SSE2-NEXT: # kill: def $al killed $al killed $eax
2245 ; SSE41-LABEL: test_v128i8:
2247 ; SSE41-NEXT: pmaxsb %xmm7, %xmm3
2248 ; SSE41-NEXT: pmaxsb %xmm5, %xmm1
2249 ; SSE41-NEXT: pmaxsb %xmm3, %xmm1
2250 ; SSE41-NEXT: pmaxsb %xmm6, %xmm2
2251 ; SSE41-NEXT: pmaxsb %xmm4, %xmm0
2252 ; SSE41-NEXT: pmaxsb %xmm2, %xmm0
2253 ; SSE41-NEXT: pmaxsb %xmm1, %xmm0
2254 ; SSE41-NEXT: pxor {{.*}}(%rip), %xmm0
2255 ; SSE41-NEXT: movdqa %xmm0, %xmm1
2256 ; SSE41-NEXT: psrlw $8, %xmm1
2257 ; SSE41-NEXT: pminub %xmm0, %xmm1
2258 ; SSE41-NEXT: phminposuw %xmm1, %xmm0
2259 ; SSE41-NEXT: pextrb $0, %xmm0, %eax
2260 ; SSE41-NEXT: xorb $127, %al
2261 ; SSE41-NEXT: # kill: def $al killed $al killed $eax
2264 ; AVX1-LABEL: test_v128i8:
2266 ; AVX1-NEXT: vextractf128 $1, %ymm3, %xmm4
2267 ; AVX1-NEXT: vextractf128 $1, %ymm1, %xmm5
2268 ; AVX1-NEXT: vpmaxsb %xmm4, %xmm5, %xmm4
2269 ; AVX1-NEXT: vextractf128 $1, %ymm2, %xmm5
2270 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm6
2271 ; AVX1-NEXT: vpmaxsb %xmm5, %xmm6, %xmm5
2272 ; AVX1-NEXT: vpmaxsb %xmm4, %xmm5, %xmm4
2273 ; AVX1-NEXT: vpmaxsb %xmm3, %xmm1, %xmm1
2274 ; AVX1-NEXT: vpmaxsb %xmm2, %xmm0, %xmm0
2275 ; AVX1-NEXT: vpmaxsb %xmm1, %xmm0, %xmm0
2276 ; AVX1-NEXT: vpmaxsb %xmm4, %xmm0, %xmm0
2277 ; AVX1-NEXT: vpxor {{.*}}(%rip), %xmm0, %xmm0
2278 ; AVX1-NEXT: vpsrlw $8, %xmm0, %xmm1
2279 ; AVX1-NEXT: vpminub %xmm1, %xmm0, %xmm0
2280 ; AVX1-NEXT: vphminposuw %xmm0, %xmm0
2281 ; AVX1-NEXT: vpextrb $0, %xmm0, %eax
2282 ; AVX1-NEXT: xorb $127, %al
2283 ; AVX1-NEXT: # kill: def $al killed $al killed $eax
2284 ; AVX1-NEXT: vzeroupper
2287 ; AVX2-LABEL: test_v128i8:
2289 ; AVX2-NEXT: vpmaxsb %ymm3, %ymm1, %ymm1
2290 ; AVX2-NEXT: vpmaxsb %ymm2, %ymm0, %ymm0
2291 ; AVX2-NEXT: vpmaxsb %ymm1, %ymm0, %ymm0
2292 ; AVX2-NEXT: vextracti128 $1, %ymm0, %xmm1
2293 ; AVX2-NEXT: vpmaxsb %xmm1, %xmm0, %xmm0
2294 ; AVX2-NEXT: vpxor {{.*}}(%rip), %xmm0, %xmm0
2295 ; AVX2-NEXT: vpsrlw $8, %xmm0, %xmm1
2296 ; AVX2-NEXT: vpminub %xmm1, %xmm0, %xmm0
2297 ; AVX2-NEXT: vphminposuw %xmm0, %xmm0
2298 ; AVX2-NEXT: vpextrb $0, %xmm0, %eax
2299 ; AVX2-NEXT: xorb $127, %al
2300 ; AVX2-NEXT: # kill: def $al killed $al killed $eax
2301 ; AVX2-NEXT: vzeroupper
2304 ; AVX512-LABEL: test_v128i8:
2306 ; AVX512-NEXT: vpmaxsb %zmm1, %zmm0, %zmm0
2307 ; AVX512-NEXT: vextracti64x4 $1, %zmm0, %ymm1
2308 ; AVX512-NEXT: vpmaxsb %ymm1, %ymm0, %ymm0
2309 ; AVX512-NEXT: vextracti128 $1, %ymm0, %xmm1
2310 ; AVX512-NEXT: vpmaxsb %xmm1, %xmm0, %xmm0
2311 ; AVX512-NEXT: vpxor {{.*}}(%rip), %xmm0, %xmm0
2312 ; AVX512-NEXT: vpsrlw $8, %xmm0, %xmm1
2313 ; AVX512-NEXT: vpminub %xmm1, %xmm0, %xmm0
2314 ; AVX512-NEXT: vphminposuw %xmm0, %xmm0
2315 ; AVX512-NEXT: vpextrb $0, %xmm0, %eax
2316 ; AVX512-NEXT: xorb $127, %al
2317 ; AVX512-NEXT: # kill: def $al killed $al killed $eax
2318 ; AVX512-NEXT: vzeroupper
2320 %1 = call i8 @llvm.experimental.vector.reduce.smax.i8.v128i8(<128 x i8> %a0)
2324 declare i64 @llvm.experimental.vector.reduce.smax.i64.v2i64(<2 x i64>)
2325 declare i64 @llvm.experimental.vector.reduce.smax.i64.v4i64(<4 x i64>)
2326 declare i64 @llvm.experimental.vector.reduce.smax.i64.v8i64(<8 x i64>)
2327 declare i64 @llvm.experimental.vector.reduce.smax.i64.v16i64(<16 x i64>)
2329 declare i32 @llvm.experimental.vector.reduce.smax.i32.v2i32(<2 x i32>)
2330 declare i32 @llvm.experimental.vector.reduce.smax.i32.v4i32(<4 x i32>)
2331 declare i32 @llvm.experimental.vector.reduce.smax.i32.v8i32(<8 x i32>)
2332 declare i32 @llvm.experimental.vector.reduce.smax.i32.v16i32(<16 x i32>)
2333 declare i32 @llvm.experimental.vector.reduce.smax.i32.v32i32(<32 x i32>)
2335 declare i16 @llvm.experimental.vector.reduce.smax.i16.v2i16(<2 x i16>)
2336 declare i16 @llvm.experimental.vector.reduce.smax.i16.v4i16(<4 x i16>)
2337 declare i16 @llvm.experimental.vector.reduce.smax.i16.v8i16(<8 x i16>)
2338 declare i16 @llvm.experimental.vector.reduce.smax.i16.v16i16(<16 x i16>)
2339 declare i16 @llvm.experimental.vector.reduce.smax.i16.v32i16(<32 x i16>)
2340 declare i16 @llvm.experimental.vector.reduce.smax.i16.v64i16(<64 x i16>)
2342 declare i8 @llvm.experimental.vector.reduce.smax.i8.v2i8(<2 x i8>)
2343 declare i8 @llvm.experimental.vector.reduce.smax.i8.v4i8(<4 x i8>)
2344 declare i8 @llvm.experimental.vector.reduce.smax.i8.v8i8(<8 x i8>)
2345 declare i8 @llvm.experimental.vector.reduce.smax.i8.v16i8(<16 x i8>)
2346 declare i8 @llvm.experimental.vector.reduce.smax.i8.v32i8(<32 x i8>)
2347 declare i8 @llvm.experimental.vector.reduce.smax.i8.v64i8(<64 x i8>)
2348 declare i8 @llvm.experimental.vector.reduce.smax.i8.v128i8(<128 x i8>)