| blob | 87539af50aa72b1ed4cf981351c6ed9052c4ae15 |
1 ; NOTE: Assertions have been autogenerated by utils/update_llc_test_checks.py
2 ; RUN: llc < %s -x86-experimental-vector-widening-legalization -mtriple=x86_64-unknown-unknown -mattr=+sse2 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE2
3 ; RUN: llc < %s -x86-experimental-vector-widening-legalization -mtriple=x86_64-unknown-unknown -mattr=+sse4.1 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE41
4 ; RUN: llc < %s -x86-experimental-vector-widening-legalization -mtriple=x86_64-unknown-unknown -mattr=+avx | FileCheck %s --check-prefix=ALL --check-prefix=AVX --check-prefix=AVX1
5 ; RUN: llc < %s -x86-experimental-vector-widening-legalization -mtriple=x86_64-unknown-unknown -mattr=+avx2 | FileCheck %s --check-prefix=ALL --check-prefix=AVX --check-prefix=AVX2
6 ; RUN: llc < %s -x86-experimental-vector-widening-legalization -mtriple=x86_64-unknown-unknown -mattr=+avx512f,+avx512bw | FileCheck %s --check-prefix=ALL --check-prefix=AVX512 --check-prefix=AVX512BW
7 ; RUN: llc < %s -x86-experimental-vector-widening-legalization -mtriple=x86_64-unknown-unknown -mattr=+avx512f,+avx512bw,+avx512vl | FileCheck %s --check-prefix=ALL --check-prefix=AVX512 --check-prefix=AVX512VL
9 ;
10 ; vXi64
11 ;
13 define i64 @test_v2i64(<2 x i64> %a0) {
14 ; SSE2-LABEL: test_v2i64:
15 ; SSE2: # %bb.0:
16 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
17 ; SSE2-NEXT: movdqa {{.*#+}} xmm2 = [9223372039002259456,9223372039002259456]
18 ; SSE2-NEXT: movdqa %xmm0, %xmm3
19 ; SSE2-NEXT: pxor %xmm2, %xmm3
20 ; SSE2-NEXT: pxor %xmm1, %xmm2
21 ; SSE2-NEXT: movdqa %xmm3, %xmm4
22 ; SSE2-NEXT: pcmpgtd %xmm2, %xmm4
23 ; SSE2-NEXT: pshufd {{.*#+}} xmm5 = xmm4[0,0,2,2]
24 ; SSE2-NEXT: pcmpeqd %xmm3, %xmm2
25 ; SSE2-NEXT: pshufd {{.*#+}} xmm2 = xmm2[1,1,3,3]
26 ; SSE2-NEXT: pand %xmm5, %xmm2
27 ; SSE2-NEXT: pshufd {{.*#+}} xmm3 = xmm4[1,1,3,3]
28 ; SSE2-NEXT: por %xmm2, %xmm3
29 ; SSE2-NEXT: pand %xmm3, %xmm0
30 ; SSE2-NEXT: pandn %xmm1, %xmm3
31 ; SSE2-NEXT: por %xmm0, %xmm3
32 ; SSE2-NEXT: movq %xmm3, %rax
33 ; SSE2-NEXT: retq
34 ;
35 ; SSE41-LABEL: test_v2i64:
36 ; SSE41: # %bb.0:
37 ; SSE41-NEXT: movdqa %xmm0, %xmm1
38 ; SSE41-NEXT: pshufd {{.*#+}} xmm2 = xmm0[2,3,0,1]
39 ; SSE41-NEXT: movdqa {{.*#+}} xmm3 = [9223372039002259456,9223372039002259456]
40 ; SSE41-NEXT: movdqa %xmm0, %xmm4
41 ; SSE41-NEXT: pxor %xmm3, %xmm4
42 ; SSE41-NEXT: pxor %xmm2, %xmm3
43 ; SSE41-NEXT: movdqa %xmm4, %xmm0
44 ; SSE41-NEXT: pcmpgtd %xmm3, %xmm0
45 ; SSE41-NEXT: pshufd {{.*#+}} xmm5 = xmm0[0,0,2,2]
46 ; SSE41-NEXT: pcmpeqd %xmm4, %xmm3
47 ; SSE41-NEXT: pshufd {{.*#+}} xmm3 = xmm3[1,1,3,3]
48 ; SSE41-NEXT: pand %xmm5, %xmm3
49 ; SSE41-NEXT: por %xmm3, %xmm0
50 ; SSE41-NEXT: blendvpd %xmm0, %xmm1, %xmm2
51 ; SSE41-NEXT: movq %xmm2, %rax
52 ; SSE41-NEXT: retq
53 ;
54 ; AVX-LABEL: test_v2i64:
55 ; AVX: # %bb.0:
56 ; AVX-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
57 ; AVX-NEXT: vmovdqa {{.*#+}} xmm2 = [9223372036854775808,9223372036854775808]
58 ; AVX-NEXT: vpxor %xmm2, %xmm0, %xmm3
59 ; AVX-NEXT: vpxor %xmm2, %xmm1, %xmm2
60 ; AVX-NEXT: vpcmpgtq %xmm2, %xmm3, %xmm2
61 ; AVX-NEXT: vblendvpd %xmm2, %xmm0, %xmm1, %xmm0
62 ; AVX-NEXT: vmovq %xmm0, %rax
63 ; AVX-NEXT: retq
64 ;
65 ; AVX512BW-LABEL: test_v2i64:
66 ; AVX512BW: # %bb.0:
67 ; AVX512BW-NEXT: # kill: def $xmm0 killed $xmm0 def $zmm0
68 ; AVX512BW-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
69 ; AVX512BW-NEXT: vpmaxuq %zmm1, %zmm0, %zmm0
70 ; AVX512BW-NEXT: vmovq %xmm0, %rax
71 ; AVX512BW-NEXT: vzeroupper
72 ; AVX512BW-NEXT: retq
73 ;
74 ; AVX512VL-LABEL: test_v2i64:
75 ; AVX512VL: # %bb.0:
76 ; AVX512VL-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
77 ; AVX512VL-NEXT: vpmaxuq %xmm1, %xmm0, %xmm0
78 ; AVX512VL-NEXT: vmovq %xmm0, %rax
79 ; AVX512VL-NEXT: retq
80 %1 = call i64 @llvm.experimental.vector.reduce.umax.v2i64(<2 x i64> %a0)
81 ret i64 %1
82 }
84 define i64 @test_v4i64(<4 x i64> %a0) {
85 ; SSE2-LABEL: test_v4i64:
86 ; SSE2: # %bb.0:
87 ; SSE2-NEXT: movdqa {{.*#+}} xmm2 = [9223372039002259456,9223372039002259456]
88 ; SSE2-NEXT: movdqa %xmm1, %xmm3
89 ; SSE2-NEXT: pxor %xmm2, %xmm3
90 ; SSE2-NEXT: movdqa %xmm0, %xmm4
91 ; SSE2-NEXT: pxor %xmm2, %xmm4
92 ; SSE2-NEXT: movdqa %xmm4, %xmm5
93 ; SSE2-NEXT: pcmpgtd %xmm3, %xmm5
94 ; SSE2-NEXT: pshufd {{.*#+}} xmm6 = xmm5[0,0,2,2]
95 ; SSE2-NEXT: pcmpeqd %xmm3, %xmm4
96 ; SSE2-NEXT: pshufd {{.*#+}} xmm3 = xmm4[1,1,3,3]
97 ; SSE2-NEXT: pand %xmm6, %xmm3
98 ; SSE2-NEXT: pshufd {{.*#+}} xmm4 = xmm5[1,1,3,3]
99 ; SSE2-NEXT: por %xmm3, %xmm4
100 ; SSE2-NEXT: pand %xmm4, %xmm0
101 ; SSE2-NEXT: pandn %xmm1, %xmm4
102 ; SSE2-NEXT: por %xmm0, %xmm4
103 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm4[2,3,0,1]
104 ; SSE2-NEXT: movdqa %xmm4, %xmm1
105 ; SSE2-NEXT: pxor %xmm2, %xmm1
106 ; SSE2-NEXT: pxor %xmm0, %xmm2
107 ; SSE2-NEXT: movdqa %xmm1, %xmm3
108 ; SSE2-NEXT: pcmpgtd %xmm2, %xmm3
109 ; SSE2-NEXT: pshufd {{.*#+}} xmm5 = xmm3[0,0,2,2]
110 ; SSE2-NEXT: pcmpeqd %xmm1, %xmm2
111 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm2[1,1,3,3]
112 ; SSE2-NEXT: pand %xmm5, %xmm1
113 ; SSE2-NEXT: pshufd {{.*#+}} xmm2 = xmm3[1,1,3,3]
114 ; SSE2-NEXT: por %xmm1, %xmm2
115 ; SSE2-NEXT: pand %xmm2, %xmm4
116 ; SSE2-NEXT: pandn %xmm0, %xmm2
117 ; SSE2-NEXT: por %xmm4, %xmm2
118 ; SSE2-NEXT: movq %xmm2, %rax
119 ; SSE2-NEXT: retq
120 ;
121 ; SSE41-LABEL: test_v4i64:
122 ; SSE41: # %bb.0:
123 ; SSE41-NEXT: movdqa %xmm0, %xmm2
124 ; SSE41-NEXT: movdqa {{.*#+}} xmm3 = [9223372039002259456,9223372039002259456]
125 ; SSE41-NEXT: movdqa %xmm1, %xmm4
126 ; SSE41-NEXT: pxor %xmm3, %xmm4
127 ; SSE41-NEXT: movdqa %xmm0, %xmm5
128 ; SSE41-NEXT: pxor %xmm3, %xmm5
129 ; SSE41-NEXT: movdqa %xmm5, %xmm0
130 ; SSE41-NEXT: pcmpgtd %xmm4, %xmm0
131 ; SSE41-NEXT: pshufd {{.*#+}} xmm6 = xmm0[0,0,2,2]
132 ; SSE41-NEXT: pcmpeqd %xmm4, %xmm5
133 ; SSE41-NEXT: pshufd {{.*#+}} xmm4 = xmm5[1,1,3,3]
134 ; SSE41-NEXT: pand %xmm6, %xmm4
135 ; SSE41-NEXT: por %xmm4, %xmm0
136 ; SSE41-NEXT: blendvpd %xmm0, %xmm2, %xmm1
137 ; SSE41-NEXT: pshufd {{.*#+}} xmm2 = xmm1[2,3,0,1]
138 ; SSE41-NEXT: movdqa %xmm1, %xmm0
139 ; SSE41-NEXT: pxor %xmm3, %xmm0
140 ; SSE41-NEXT: pxor %xmm2, %xmm3
141 ; SSE41-NEXT: movdqa %xmm0, %xmm4
142 ; SSE41-NEXT: pcmpgtd %xmm3, %xmm4
143 ; SSE41-NEXT: pshufd {{.*#+}} xmm5 = xmm4[0,0,2,2]
144 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm3
145 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm3[1,1,3,3]
146 ; SSE41-NEXT: pand %xmm5, %xmm0
147 ; SSE41-NEXT: por %xmm4, %xmm0
148 ; SSE41-NEXT: blendvpd %xmm0, %xmm1, %xmm2
149 ; SSE41-NEXT: movq %xmm2, %rax
150 ; SSE41-NEXT: retq
151 ;
152 ; AVX1-LABEL: test_v4i64:
153 ; AVX1: # %bb.0:
154 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm1
155 ; AVX1-NEXT: vmovdqa {{.*#+}} xmm2 = [9223372036854775808,9223372036854775808]
156 ; AVX1-NEXT: vpxor %xmm2, %xmm1, %xmm3
157 ; AVX1-NEXT: vpxor %xmm2, %xmm0, %xmm4
158 ; AVX1-NEXT: vpcmpgtq %xmm3, %xmm4, %xmm3
159 ; AVX1-NEXT: vblendvpd %xmm3, %xmm0, %xmm1, %xmm0
160 ; AVX1-NEXT: vpermilps {{.*#+}} xmm1 = xmm0[2,3,0,1]
161 ; AVX1-NEXT: vxorpd %xmm2, %xmm0, %xmm3
162 ; AVX1-NEXT: vxorpd %xmm2, %xmm1, %xmm2
163 ; AVX1-NEXT: vpcmpgtq %xmm2, %xmm3, %xmm2
164 ; AVX1-NEXT: vblendvpd %xmm2, %xmm0, %xmm1, %xmm0
165 ; AVX1-NEXT: vmovq %xmm0, %rax
166 ; AVX1-NEXT: vzeroupper
167 ; AVX1-NEXT: retq
168 ;
169 ; AVX2-LABEL: test_v4i64:
170 ; AVX2: # %bb.0:
171 ; AVX2-NEXT: vextracti128 $1, %ymm0, %xmm1
172 ; AVX2-NEXT: vpbroadcastq {{.*#+}} ymm2 = [9223372036854775808,9223372036854775808,9223372036854775808,9223372036854775808]
173 ; AVX2-NEXT: vpxor %xmm2, %xmm1, %xmm3
174 ; AVX2-NEXT: vpxor %xmm2, %xmm0, %xmm4
175 ; AVX2-NEXT: vpcmpgtq %xmm3, %xmm4, %xmm3
176 ; AVX2-NEXT: vblendvpd %xmm3, %xmm0, %xmm1, %xmm0
177 ; AVX2-NEXT: vpermilps {{.*#+}} xmm1 = xmm0[2,3,0,1]
178 ; AVX2-NEXT: vxorpd %xmm2, %xmm0, %xmm3
179 ; AVX2-NEXT: vxorpd %xmm2, %xmm1, %xmm2
180 ; AVX2-NEXT: vpcmpgtq %xmm2, %xmm3, %xmm2
181 ; AVX2-NEXT: vblendvpd %xmm2, %xmm0, %xmm1, %xmm0
182 ; AVX2-NEXT: vmovq %xmm0, %rax
183 ; AVX2-NEXT: vzeroupper
184 ; AVX2-NEXT: retq
185 ;
186 ; AVX512BW-LABEL: test_v4i64:
187 ; AVX512BW: # %bb.0:
188 ; AVX512BW-NEXT: # kill: def $ymm0 killed $ymm0 def $zmm0
189 ; AVX512BW-NEXT: vextracti128 $1, %ymm0, %xmm1
190 ; AVX512BW-NEXT: vpmaxuq %zmm1, %zmm0, %zmm0
191 ; AVX512BW-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
192 ; AVX512BW-NEXT: vpmaxuq %zmm1, %zmm0, %zmm0
193 ; AVX512BW-NEXT: vmovq %xmm0, %rax
194 ; AVX512BW-NEXT: vzeroupper
195 ; AVX512BW-NEXT: retq
196 ;
197 ; AVX512VL-LABEL: test_v4i64:
198 ; AVX512VL: # %bb.0:
199 ; AVX512VL-NEXT: vextracti128 $1, %ymm0, %xmm1
200 ; AVX512VL-NEXT: vpmaxuq %xmm1, %xmm0, %xmm0
201 ; AVX512VL-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
202 ; AVX512VL-NEXT: vpmaxuq %xmm1, %xmm0, %xmm0
203 ; AVX512VL-NEXT: vmovq %xmm0, %rax
204 ; AVX512VL-NEXT: vzeroupper
205 ; AVX512VL-NEXT: retq
206 %1 = call i64 @llvm.experimental.vector.reduce.umax.v4i64(<4 x i64> %a0)
207 ret i64 %1
208 }
210 define i64 @test_v8i64(<8 x i64> %a0) {
211 ; SSE2-LABEL: test_v8i64:
212 ; SSE2: # %bb.0:
213 ; SSE2-NEXT: movdqa {{.*#+}} xmm4 = [9223372039002259456,9223372039002259456]
214 ; SSE2-NEXT: movdqa %xmm2, %xmm5
215 ; SSE2-NEXT: pxor %xmm4, %xmm5
216 ; SSE2-NEXT: movdqa %xmm0, %xmm6
217 ; SSE2-NEXT: pxor %xmm4, %xmm6
218 ; SSE2-NEXT: movdqa %xmm6, %xmm7
219 ; SSE2-NEXT: pcmpgtd %xmm5, %xmm7
220 ; SSE2-NEXT: pshufd {{.*#+}} xmm8 = xmm7[0,0,2,2]
221 ; SSE2-NEXT: pcmpeqd %xmm5, %xmm6
222 ; SSE2-NEXT: pshufd {{.*#+}} xmm6 = xmm6[1,1,3,3]
223 ; SSE2-NEXT: pand %xmm8, %xmm6
224 ; SSE2-NEXT: pshufd {{.*#+}} xmm5 = xmm7[1,1,3,3]
225 ; SSE2-NEXT: por %xmm6, %xmm5
226 ; SSE2-NEXT: pand %xmm5, %xmm0
227 ; SSE2-NEXT: pandn %xmm2, %xmm5
228 ; SSE2-NEXT: por %xmm0, %xmm5
229 ; SSE2-NEXT: movdqa %xmm3, %xmm0
230 ; SSE2-NEXT: pxor %xmm4, %xmm0
231 ; SSE2-NEXT: movdqa %xmm1, %xmm2
232 ; SSE2-NEXT: pxor %xmm4, %xmm2
233 ; SSE2-NEXT: movdqa %xmm2, %xmm6
234 ; SSE2-NEXT: pcmpgtd %xmm0, %xmm6
235 ; SSE2-NEXT: pshufd {{.*#+}} xmm7 = xmm6[0,0,2,2]
236 ; SSE2-NEXT: pcmpeqd %xmm0, %xmm2
237 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm2[1,1,3,3]
238 ; SSE2-NEXT: pand %xmm7, %xmm0
239 ; SSE2-NEXT: pshufd {{.*#+}} xmm2 = xmm6[1,1,3,3]
240 ; SSE2-NEXT: por %xmm0, %xmm2
241 ; SSE2-NEXT: pand %xmm2, %xmm1
242 ; SSE2-NEXT: pandn %xmm3, %xmm2
243 ; SSE2-NEXT: por %xmm1, %xmm2
244 ; SSE2-NEXT: movdqa %xmm2, %xmm0
245 ; SSE2-NEXT: pxor %xmm4, %xmm0
246 ; SSE2-NEXT: movdqa %xmm5, %xmm1
247 ; SSE2-NEXT: pxor %xmm4, %xmm1
248 ; SSE2-NEXT: movdqa %xmm1, %xmm3
249 ; SSE2-NEXT: pcmpgtd %xmm0, %xmm3
250 ; SSE2-NEXT: pshufd {{.*#+}} xmm6 = xmm3[0,0,2,2]
251 ; SSE2-NEXT: pcmpeqd %xmm0, %xmm1
252 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,3,3]
253 ; SSE2-NEXT: pand %xmm6, %xmm0
254 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm3[1,1,3,3]
255 ; SSE2-NEXT: por %xmm0, %xmm1
256 ; SSE2-NEXT: pand %xmm1, %xmm5
257 ; SSE2-NEXT: pandn %xmm2, %xmm1
258 ; SSE2-NEXT: por %xmm5, %xmm1
259 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm1[2,3,0,1]
260 ; SSE2-NEXT: movdqa %xmm1, %xmm2
261 ; SSE2-NEXT: pxor %xmm4, %xmm2
262 ; SSE2-NEXT: pxor %xmm0, %xmm4
263 ; SSE2-NEXT: movdqa %xmm2, %xmm3
264 ; SSE2-NEXT: pcmpgtd %xmm4, %xmm3
265 ; SSE2-NEXT: pshufd {{.*#+}} xmm5 = xmm3[0,0,2,2]
266 ; SSE2-NEXT: pcmpeqd %xmm2, %xmm4
267 ; SSE2-NEXT: pshufd {{.*#+}} xmm2 = xmm4[1,1,3,3]
268 ; SSE2-NEXT: pand %xmm5, %xmm2
269 ; SSE2-NEXT: pshufd {{.*#+}} xmm3 = xmm3[1,1,3,3]
270 ; SSE2-NEXT: por %xmm2, %xmm3
271 ; SSE2-NEXT: pand %xmm3, %xmm1
272 ; SSE2-NEXT: pandn %xmm0, %xmm3
273 ; SSE2-NEXT: por %xmm1, %xmm3
274 ; SSE2-NEXT: movq %xmm3, %rax
275 ; SSE2-NEXT: retq
276 ;
277 ; SSE41-LABEL: test_v8i64:
278 ; SSE41: # %bb.0:
279 ; SSE41-NEXT: movdqa %xmm0, %xmm4
280 ; SSE41-NEXT: movdqa {{.*#+}} xmm5 = [9223372039002259456,9223372039002259456]
281 ; SSE41-NEXT: movdqa %xmm2, %xmm6
282 ; SSE41-NEXT: pxor %xmm5, %xmm6
283 ; SSE41-NEXT: movdqa %xmm0, %xmm7
284 ; SSE41-NEXT: pxor %xmm5, %xmm7
285 ; SSE41-NEXT: movdqa %xmm7, %xmm0
286 ; SSE41-NEXT: pcmpgtd %xmm6, %xmm0
287 ; SSE41-NEXT: pshufd {{.*#+}} xmm8 = xmm0[0,0,2,2]
288 ; SSE41-NEXT: pcmpeqd %xmm6, %xmm7
289 ; SSE41-NEXT: pshufd {{.*#+}} xmm6 = xmm7[1,1,3,3]
290 ; SSE41-NEXT: pand %xmm8, %xmm6
291 ; SSE41-NEXT: por %xmm6, %xmm0
292 ; SSE41-NEXT: blendvpd %xmm0, %xmm4, %xmm2
293 ; SSE41-NEXT: movdqa %xmm3, %xmm0
294 ; SSE41-NEXT: pxor %xmm5, %xmm0
295 ; SSE41-NEXT: movdqa %xmm1, %xmm4
296 ; SSE41-NEXT: pxor %xmm5, %xmm4
297 ; SSE41-NEXT: movdqa %xmm4, %xmm6
298 ; SSE41-NEXT: pcmpgtd %xmm0, %xmm6
299 ; SSE41-NEXT: pshufd {{.*#+}} xmm7 = xmm6[0,0,2,2]
300 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm4
301 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm4[1,1,3,3]
302 ; SSE41-NEXT: pand %xmm7, %xmm0
303 ; SSE41-NEXT: por %xmm6, %xmm0
304 ; SSE41-NEXT: blendvpd %xmm0, %xmm1, %xmm3
305 ; SSE41-NEXT: movapd %xmm3, %xmm0
306 ; SSE41-NEXT: xorpd %xmm5, %xmm0
307 ; SSE41-NEXT: movapd %xmm2, %xmm1
308 ; SSE41-NEXT: xorpd %xmm5, %xmm1
309 ; SSE41-NEXT: movapd %xmm1, %xmm4
310 ; SSE41-NEXT: pcmpgtd %xmm0, %xmm4
311 ; SSE41-NEXT: pshufd {{.*#+}} xmm6 = xmm4[0,0,2,2]
312 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm1
313 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,3,3]
314 ; SSE41-NEXT: pand %xmm6, %xmm0
315 ; SSE41-NEXT: por %xmm4, %xmm0
316 ; SSE41-NEXT: blendvpd %xmm0, %xmm2, %xmm3
317 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm3[2,3,0,1]
318 ; SSE41-NEXT: movdqa %xmm3, %xmm0
319 ; SSE41-NEXT: pxor %xmm5, %xmm0
320 ; SSE41-NEXT: pxor %xmm1, %xmm5
321 ; SSE41-NEXT: movdqa %xmm0, %xmm2
322 ; SSE41-NEXT: pcmpgtd %xmm5, %xmm2
323 ; SSE41-NEXT: pshufd {{.*#+}} xmm4 = xmm2[0,0,2,2]
324 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm5
325 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm5[1,1,3,3]
326 ; SSE41-NEXT: pand %xmm4, %xmm0
327 ; SSE41-NEXT: por %xmm2, %xmm0
328 ; SSE41-NEXT: blendvpd %xmm0, %xmm3, %xmm1
329 ; SSE41-NEXT: movq %xmm1, %rax
330 ; SSE41-NEXT: retq
331 ;
332 ; AVX1-LABEL: test_v8i64:
333 ; AVX1: # %bb.0:
334 ; AVX1-NEXT: vmovdqa {{.*#+}} xmm2 = [9223372036854775808,9223372036854775808]
335 ; AVX1-NEXT: vpxor %xmm2, %xmm1, %xmm3
336 ; AVX1-NEXT: vpxor %xmm2, %xmm0, %xmm4
337 ; AVX1-NEXT: vpcmpgtq %xmm3, %xmm4, %xmm3
338 ; AVX1-NEXT: vextractf128 $1, %ymm1, %xmm4
339 ; AVX1-NEXT: vpxor %xmm2, %xmm4, %xmm5
340 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm6
341 ; AVX1-NEXT: vpxor %xmm2, %xmm6, %xmm7
342 ; AVX1-NEXT: vpcmpgtq %xmm5, %xmm7, %xmm5
343 ; AVX1-NEXT: vblendvpd %xmm5, %xmm6, %xmm4, %xmm4
344 ; AVX1-NEXT: vxorpd %xmm2, %xmm4, %xmm5
345 ; AVX1-NEXT: vblendvpd %xmm3, %xmm0, %xmm1, %xmm0
346 ; AVX1-NEXT: vxorpd %xmm2, %xmm0, %xmm1
347 ; AVX1-NEXT: vpcmpgtq %xmm5, %xmm1, %xmm1
348 ; AVX1-NEXT: vblendvpd %xmm1, %xmm0, %xmm4, %xmm0
349 ; AVX1-NEXT: vpermilps {{.*#+}} xmm1 = xmm0[2,3,0,1]
350 ; AVX1-NEXT: vxorpd %xmm2, %xmm0, %xmm3
351 ; AVX1-NEXT: vxorpd %xmm2, %xmm1, %xmm2
352 ; AVX1-NEXT: vpcmpgtq %xmm2, %xmm3, %xmm2
353 ; AVX1-NEXT: vblendvpd %xmm2, %xmm0, %xmm1, %xmm0
354 ; AVX1-NEXT: vmovq %xmm0, %rax
355 ; AVX1-NEXT: vzeroupper
356 ; AVX1-NEXT: retq
357 ;
358 ; AVX2-LABEL: test_v8i64:
359 ; AVX2: # %bb.0:
360 ; AVX2-NEXT: vpbroadcastq {{.*#+}} ymm2 = [9223372036854775808,9223372036854775808,9223372036854775808,9223372036854775808]
361 ; AVX2-NEXT: vpxor %ymm2, %ymm1, %ymm3
362 ; AVX2-NEXT: vpxor %ymm2, %ymm0, %ymm4
363 ; AVX2-NEXT: vpcmpgtq %ymm3, %ymm4, %ymm3
364 ; AVX2-NEXT: vblendvpd %ymm3, %ymm0, %ymm1, %ymm0
365 ; AVX2-NEXT: vextractf128 $1, %ymm0, %xmm1
366 ; AVX2-NEXT: vxorpd %xmm2, %xmm1, %xmm3
367 ; AVX2-NEXT: vxorpd %xmm2, %xmm0, %xmm4
368 ; AVX2-NEXT: vpcmpgtq %xmm3, %xmm4, %xmm3
369 ; AVX2-NEXT: vblendvpd %xmm3, %xmm0, %xmm1, %xmm0
370 ; AVX2-NEXT: vpermilps {{.*#+}} xmm1 = xmm0[2,3,0,1]
371 ; AVX2-NEXT: vxorpd %xmm2, %xmm0, %xmm3
372 ; AVX2-NEXT: vxorpd %xmm2, %xmm1, %xmm2
373 ; AVX2-NEXT: vpcmpgtq %xmm2, %xmm3, %xmm2
374 ; AVX2-NEXT: vblendvpd %xmm2, %xmm0, %xmm1, %xmm0
375 ; AVX2-NEXT: vmovq %xmm0, %rax
376 ; AVX2-NEXT: vzeroupper
377 ; AVX2-NEXT: retq
378 ;
379 ; AVX512BW-LABEL: test_v8i64:
380 ; AVX512BW: # %bb.0:
381 ; AVX512BW-NEXT: vextracti64x4 $1, %zmm0, %ymm1
382 ; AVX512BW-NEXT: vpmaxuq %zmm1, %zmm0, %zmm0
383 ; AVX512BW-NEXT: vextracti128 $1, %ymm0, %xmm1
384 ; AVX512BW-NEXT: vpmaxuq %zmm1, %zmm0, %zmm0
385 ; AVX512BW-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
386 ; AVX512BW-NEXT: vpmaxuq %zmm1, %zmm0, %zmm0
387 ; AVX512BW-NEXT: vmovq %xmm0, %rax
388 ; AVX512BW-NEXT: vzeroupper
389 ; AVX512BW-NEXT: retq
390 ;
391 ; AVX512VL-LABEL: test_v8i64:
392 ; AVX512VL: # %bb.0:
393 ; AVX512VL-NEXT: vextracti64x4 $1, %zmm0, %ymm1
394 ; AVX512VL-NEXT: vpmaxuq %zmm1, %zmm0, %zmm0
395 ; AVX512VL-NEXT: vextracti128 $1, %ymm0, %xmm1
396 ; AVX512VL-NEXT: vpmaxuq %xmm1, %xmm0, %xmm0
397 ; AVX512VL-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
398 ; AVX512VL-NEXT: vpmaxuq %xmm1, %xmm0, %xmm0
399 ; AVX512VL-NEXT: vmovq %xmm0, %rax
400 ; AVX512VL-NEXT: vzeroupper
401 ; AVX512VL-NEXT: retq
402 %1 = call i64 @llvm.experimental.vector.reduce.umax.v8i64(<8 x i64> %a0)
403 ret i64 %1
404 }
406 define i64 @test_v16i64(<16 x i64> %a0) {
407 ; SSE2-LABEL: test_v16i64:
408 ; SSE2: # %bb.0:
409 ; SSE2-NEXT: movdqa {{.*#+}} xmm8 = [9223372039002259456,9223372039002259456]
410 ; SSE2-NEXT: movdqa %xmm5, %xmm9
411 ; SSE2-NEXT: pxor %xmm8, %xmm9
412 ; SSE2-NEXT: movdqa %xmm1, %xmm10
413 ; SSE2-NEXT: pxor %xmm8, %xmm10
414 ; SSE2-NEXT: movdqa %xmm10, %xmm11
415 ; SSE2-NEXT: pcmpgtd %xmm9, %xmm11
416 ; SSE2-NEXT: pshufd {{.*#+}} xmm12 = xmm11[0,0,2,2]
417 ; SSE2-NEXT: pcmpeqd %xmm9, %xmm10
418 ; SSE2-NEXT: pshufd {{.*#+}} xmm10 = xmm10[1,1,3,3]
419 ; SSE2-NEXT: pand %xmm12, %xmm10
420 ; SSE2-NEXT: pshufd {{.*#+}} xmm9 = xmm11[1,1,3,3]
421 ; SSE2-NEXT: por %xmm10, %xmm9
422 ; SSE2-NEXT: pand %xmm9, %xmm1
423 ; SSE2-NEXT: pandn %xmm5, %xmm9
424 ; SSE2-NEXT: por %xmm1, %xmm9
425 ; SSE2-NEXT: movdqa %xmm7, %xmm1
426 ; SSE2-NEXT: pxor %xmm8, %xmm1
427 ; SSE2-NEXT: movdqa %xmm3, %xmm5
428 ; SSE2-NEXT: pxor %xmm8, %xmm5
429 ; SSE2-NEXT: movdqa %xmm5, %xmm10
430 ; SSE2-NEXT: pcmpgtd %xmm1, %xmm10
431 ; SSE2-NEXT: pshufd {{.*#+}} xmm11 = xmm10[0,0,2,2]
432 ; SSE2-NEXT: pcmpeqd %xmm1, %xmm5
433 ; SSE2-NEXT: pshufd {{.*#+}} xmm5 = xmm5[1,1,3,3]
434 ; SSE2-NEXT: pand %xmm11, %xmm5
435 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm10[1,1,3,3]
436 ; SSE2-NEXT: por %xmm5, %xmm1
437 ; SSE2-NEXT: pand %xmm1, %xmm3
438 ; SSE2-NEXT: pandn %xmm7, %xmm1
439 ; SSE2-NEXT: por %xmm3, %xmm1
440 ; SSE2-NEXT: movdqa %xmm4, %xmm3
441 ; SSE2-NEXT: pxor %xmm8, %xmm3
442 ; SSE2-NEXT: movdqa %xmm0, %xmm5
443 ; SSE2-NEXT: pxor %xmm8, %xmm5
444 ; SSE2-NEXT: movdqa %xmm5, %xmm7
445 ; SSE2-NEXT: pcmpgtd %xmm3, %xmm7
446 ; SSE2-NEXT: pshufd {{.*#+}} xmm10 = xmm7[0,0,2,2]
447 ; SSE2-NEXT: pcmpeqd %xmm3, %xmm5
448 ; SSE2-NEXT: pshufd {{.*#+}} xmm5 = xmm5[1,1,3,3]
449 ; SSE2-NEXT: pand %xmm10, %xmm5
450 ; SSE2-NEXT: pshufd {{.*#+}} xmm3 = xmm7[1,1,3,3]
451 ; SSE2-NEXT: por %xmm5, %xmm3
452 ; SSE2-NEXT: pand %xmm3, %xmm0
453 ; SSE2-NEXT: pandn %xmm4, %xmm3
454 ; SSE2-NEXT: por %xmm0, %xmm3
455 ; SSE2-NEXT: movdqa %xmm6, %xmm0
456 ; SSE2-NEXT: pxor %xmm8, %xmm0
457 ; SSE2-NEXT: movdqa %xmm2, %xmm4
458 ; SSE2-NEXT: pxor %xmm8, %xmm4
459 ; SSE2-NEXT: movdqa %xmm4, %xmm5
460 ; SSE2-NEXT: pcmpgtd %xmm0, %xmm5
461 ; SSE2-NEXT: pshufd {{.*#+}} xmm7 = xmm5[0,0,2,2]
462 ; SSE2-NEXT: pcmpeqd %xmm0, %xmm4
463 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm4[1,1,3,3]
464 ; SSE2-NEXT: pand %xmm7, %xmm0
465 ; SSE2-NEXT: pshufd {{.*#+}} xmm4 = xmm5[1,1,3,3]
466 ; SSE2-NEXT: por %xmm0, %xmm4
467 ; SSE2-NEXT: pand %xmm4, %xmm2
468 ; SSE2-NEXT: pandn %xmm6, %xmm4
469 ; SSE2-NEXT: por %xmm2, %xmm4
470 ; SSE2-NEXT: movdqa %xmm4, %xmm0
471 ; SSE2-NEXT: pxor %xmm8, %xmm0
472 ; SSE2-NEXT: movdqa %xmm3, %xmm2
473 ; SSE2-NEXT: pxor %xmm8, %xmm2
474 ; SSE2-NEXT: movdqa %xmm2, %xmm5
475 ; SSE2-NEXT: pcmpgtd %xmm0, %xmm5
476 ; SSE2-NEXT: pshufd {{.*#+}} xmm6 = xmm5[0,0,2,2]
477 ; SSE2-NEXT: pcmpeqd %xmm0, %xmm2
478 ; SSE2-NEXT: pshufd {{.*#+}} xmm2 = xmm2[1,1,3,3]
479 ; SSE2-NEXT: pand %xmm6, %xmm2
480 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm5[1,1,3,3]
481 ; SSE2-NEXT: por %xmm2, %xmm0
482 ; SSE2-NEXT: pand %xmm0, %xmm3
483 ; SSE2-NEXT: pandn %xmm4, %xmm0
484 ; SSE2-NEXT: por %xmm3, %xmm0
485 ; SSE2-NEXT: movdqa %xmm1, %xmm2
486 ; SSE2-NEXT: pxor %xmm8, %xmm2
487 ; SSE2-NEXT: movdqa %xmm9, %xmm3
488 ; SSE2-NEXT: pxor %xmm8, %xmm3
489 ; SSE2-NEXT: movdqa %xmm3, %xmm4
490 ; SSE2-NEXT: pcmpgtd %xmm2, %xmm4
491 ; SSE2-NEXT: pshufd {{.*#+}} xmm5 = xmm4[0,0,2,2]
492 ; SSE2-NEXT: pcmpeqd %xmm2, %xmm3
493 ; SSE2-NEXT: pshufd {{.*#+}} xmm2 = xmm3[1,1,3,3]
494 ; SSE2-NEXT: pand %xmm5, %xmm2
495 ; SSE2-NEXT: pshufd {{.*#+}} xmm3 = xmm4[1,1,3,3]
496 ; SSE2-NEXT: por %xmm2, %xmm3
497 ; SSE2-NEXT: pand %xmm3, %xmm9
498 ; SSE2-NEXT: pandn %xmm1, %xmm3
499 ; SSE2-NEXT: por %xmm9, %xmm3
500 ; SSE2-NEXT: movdqa %xmm3, %xmm1
501 ; SSE2-NEXT: pxor %xmm8, %xmm1
502 ; SSE2-NEXT: movdqa %xmm0, %xmm2
503 ; SSE2-NEXT: pxor %xmm8, %xmm2
504 ; SSE2-NEXT: movdqa %xmm2, %xmm4
505 ; SSE2-NEXT: pcmpgtd %xmm1, %xmm4
506 ; SSE2-NEXT: pshufd {{.*#+}} xmm5 = xmm4[0,0,2,2]
507 ; SSE2-NEXT: pcmpeqd %xmm1, %xmm2
508 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm2[1,1,3,3]
509 ; SSE2-NEXT: pand %xmm5, %xmm1
510 ; SSE2-NEXT: pshufd {{.*#+}} xmm2 = xmm4[1,1,3,3]
511 ; SSE2-NEXT: por %xmm1, %xmm2
512 ; SSE2-NEXT: pand %xmm2, %xmm0
513 ; SSE2-NEXT: pandn %xmm3, %xmm2
514 ; SSE2-NEXT: por %xmm0, %xmm2
515 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm2[2,3,0,1]
516 ; SSE2-NEXT: movdqa %xmm2, %xmm1
517 ; SSE2-NEXT: pxor %xmm8, %xmm1
518 ; SSE2-NEXT: pxor %xmm0, %xmm8
519 ; SSE2-NEXT: movdqa %xmm1, %xmm3
520 ; SSE2-NEXT: pcmpgtd %xmm8, %xmm3
521 ; SSE2-NEXT: pshufd {{.*#+}} xmm4 = xmm3[0,0,2,2]
522 ; SSE2-NEXT: pcmpeqd %xmm1, %xmm8
523 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm8[1,1,3,3]
524 ; SSE2-NEXT: pand %xmm4, %xmm1
525 ; SSE2-NEXT: pshufd {{.*#+}} xmm3 = xmm3[1,1,3,3]
526 ; SSE2-NEXT: por %xmm1, %xmm3
527 ; SSE2-NEXT: pand %xmm3, %xmm2
528 ; SSE2-NEXT: pandn %xmm0, %xmm3
529 ; SSE2-NEXT: por %xmm2, %xmm3
530 ; SSE2-NEXT: movq %xmm3, %rax
531 ; SSE2-NEXT: retq
532 ;
533 ; SSE41-LABEL: test_v16i64:
534 ; SSE41: # %bb.0:
535 ; SSE41-NEXT: movdqa %xmm0, %xmm8
536 ; SSE41-NEXT: movdqa {{.*#+}} xmm9 = [9223372039002259456,9223372039002259456]
537 ; SSE41-NEXT: movdqa %xmm5, %xmm10
538 ; SSE41-NEXT: pxor %xmm9, %xmm10
539 ; SSE41-NEXT: movdqa %xmm1, %xmm0
540 ; SSE41-NEXT: pxor %xmm9, %xmm0
541 ; SSE41-NEXT: movdqa %xmm0, %xmm11
542 ; SSE41-NEXT: pcmpgtd %xmm10, %xmm11
543 ; SSE41-NEXT: pshufd {{.*#+}} xmm12 = xmm11[0,0,2,2]
544 ; SSE41-NEXT: pcmpeqd %xmm10, %xmm0
545 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm0[1,1,3,3]
546 ; SSE41-NEXT: pand %xmm12, %xmm0
547 ; SSE41-NEXT: por %xmm11, %xmm0
548 ; SSE41-NEXT: blendvpd %xmm0, %xmm1, %xmm5
549 ; SSE41-NEXT: movdqa %xmm7, %xmm0
550 ; SSE41-NEXT: pxor %xmm9, %xmm0
551 ; SSE41-NEXT: movdqa %xmm3, %xmm1
552 ; SSE41-NEXT: pxor %xmm9, %xmm1
553 ; SSE41-NEXT: movdqa %xmm1, %xmm10
554 ; SSE41-NEXT: pcmpgtd %xmm0, %xmm10
555 ; SSE41-NEXT: pshufd {{.*#+}} xmm11 = xmm10[0,0,2,2]
556 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm1
557 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,3,3]
558 ; SSE41-NEXT: pand %xmm11, %xmm0
559 ; SSE41-NEXT: por %xmm10, %xmm0
560 ; SSE41-NEXT: blendvpd %xmm0, %xmm3, %xmm7
561 ; SSE41-NEXT: movdqa %xmm4, %xmm1
562 ; SSE41-NEXT: pxor %xmm9, %xmm1
563 ; SSE41-NEXT: movdqa %xmm8, %xmm3
564 ; SSE41-NEXT: pxor %xmm9, %xmm3
565 ; SSE41-NEXT: movdqa %xmm3, %xmm0
566 ; SSE41-NEXT: pcmpgtd %xmm1, %xmm0
567 ; SSE41-NEXT: pshufd {{.*#+}} xmm10 = xmm0[0,0,2,2]
568 ; SSE41-NEXT: pcmpeqd %xmm1, %xmm3
569 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm3[1,1,3,3]
570 ; SSE41-NEXT: pand %xmm10, %xmm1
571 ; SSE41-NEXT: por %xmm1, %xmm0
572 ; SSE41-NEXT: blendvpd %xmm0, %xmm8, %xmm4
573 ; SSE41-NEXT: movdqa %xmm6, %xmm0
574 ; SSE41-NEXT: pxor %xmm9, %xmm0
575 ; SSE41-NEXT: movdqa %xmm2, %xmm1
576 ; SSE41-NEXT: pxor %xmm9, %xmm1
577 ; SSE41-NEXT: movdqa %xmm1, %xmm3
578 ; SSE41-NEXT: pcmpgtd %xmm0, %xmm3
579 ; SSE41-NEXT: pshufd {{.*#+}} xmm8 = xmm3[0,0,2,2]
580 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm1
581 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,3,3]
582 ; SSE41-NEXT: pand %xmm8, %xmm0
583 ; SSE41-NEXT: por %xmm3, %xmm0
584 ; SSE41-NEXT: blendvpd %xmm0, %xmm2, %xmm6
585 ; SSE41-NEXT: movapd %xmm6, %xmm0
586 ; SSE41-NEXT: xorpd %xmm9, %xmm0
587 ; SSE41-NEXT: movapd %xmm4, %xmm1
588 ; SSE41-NEXT: xorpd %xmm9, %xmm1
589 ; SSE41-NEXT: movapd %xmm1, %xmm2
590 ; SSE41-NEXT: pcmpgtd %xmm0, %xmm2
591 ; SSE41-NEXT: pshufd {{.*#+}} xmm3 = xmm2[0,0,2,2]
592 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm1
593 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,3,3]
594 ; SSE41-NEXT: pand %xmm3, %xmm0
595 ; SSE41-NEXT: por %xmm2, %xmm0
596 ; SSE41-NEXT: blendvpd %xmm0, %xmm4, %xmm6
597 ; SSE41-NEXT: movapd %xmm7, %xmm0
598 ; SSE41-NEXT: xorpd %xmm9, %xmm0
599 ; SSE41-NEXT: movapd %xmm5, %xmm1
600 ; SSE41-NEXT: xorpd %xmm9, %xmm1
601 ; SSE41-NEXT: movapd %xmm1, %xmm2
602 ; SSE41-NEXT: pcmpgtd %xmm0, %xmm2
603 ; SSE41-NEXT: pshufd {{.*#+}} xmm3 = xmm2[0,0,2,2]
604 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm1
605 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,3,3]
606 ; SSE41-NEXT: pand %xmm3, %xmm0
607 ; SSE41-NEXT: por %xmm2, %xmm0
608 ; SSE41-NEXT: blendvpd %xmm0, %xmm5, %xmm7
609 ; SSE41-NEXT: movapd %xmm7, %xmm0
610 ; SSE41-NEXT: xorpd %xmm9, %xmm0
611 ; SSE41-NEXT: movapd %xmm6, %xmm1
612 ; SSE41-NEXT: xorpd %xmm9, %xmm1
613 ; SSE41-NEXT: movapd %xmm1, %xmm2
614 ; SSE41-NEXT: pcmpgtd %xmm0, %xmm2
615 ; SSE41-NEXT: pshufd {{.*#+}} xmm3 = xmm2[0,0,2,2]
616 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm1
617 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,3,3]
618 ; SSE41-NEXT: pand %xmm3, %xmm0
619 ; SSE41-NEXT: por %xmm2, %xmm0
620 ; SSE41-NEXT: blendvpd %xmm0, %xmm6, %xmm7
621 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm7[2,3,0,1]
622 ; SSE41-NEXT: movdqa %xmm7, %xmm0
623 ; SSE41-NEXT: pxor %xmm9, %xmm0
624 ; SSE41-NEXT: pxor %xmm1, %xmm9
625 ; SSE41-NEXT: movdqa %xmm0, %xmm2
626 ; SSE41-NEXT: pcmpgtd %xmm9, %xmm2
627 ; SSE41-NEXT: pshufd {{.*#+}} xmm3 = xmm2[0,0,2,2]
628 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm9
629 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm9[1,1,3,3]
630 ; SSE41-NEXT: pand %xmm3, %xmm0
631 ; SSE41-NEXT: por %xmm2, %xmm0
632 ; SSE41-NEXT: blendvpd %xmm0, %xmm7, %xmm1
633 ; SSE41-NEXT: movq %xmm1, %rax
634 ; SSE41-NEXT: retq
635 ;
636 ; AVX1-LABEL: test_v16i64:
637 ; AVX1: # %bb.0:
638 ; AVX1-NEXT: vextractf128 $1, %ymm2, %xmm8
639 ; AVX1-NEXT: vmovdqa {{.*#+}} xmm4 = [9223372036854775808,9223372036854775808]
640 ; AVX1-NEXT: vpxor %xmm4, %xmm8, %xmm6
641 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm10
642 ; AVX1-NEXT: vpxor %xmm4, %xmm10, %xmm5
643 ; AVX1-NEXT: vpcmpgtq %xmm6, %xmm5, %xmm9
644 ; AVX1-NEXT: vextractf128 $1, %ymm3, %xmm11
645 ; AVX1-NEXT: vpxor %xmm4, %xmm11, %xmm5
646 ; AVX1-NEXT: vextractf128 $1, %ymm1, %xmm7
647 ; AVX1-NEXT: vpxor %xmm4, %xmm7, %xmm6
648 ; AVX1-NEXT: vpcmpgtq %xmm5, %xmm6, %xmm12
649 ; AVX1-NEXT: vpxor %xmm4, %xmm2, %xmm6
650 ; AVX1-NEXT: vpxor %xmm4, %xmm0, %xmm5
651 ; AVX1-NEXT: vpcmpgtq %xmm6, %xmm5, %xmm13
652 ; AVX1-NEXT: vpxor %xmm4, %xmm3, %xmm6
653 ; AVX1-NEXT: vpxor %xmm4, %xmm1, %xmm5
654 ; AVX1-NEXT: vpcmpgtq %xmm6, %xmm5, %xmm5
655 ; AVX1-NEXT: vblendvpd %xmm5, %xmm1, %xmm3, %xmm1
656 ; AVX1-NEXT: vxorpd %xmm4, %xmm1, %xmm3
657 ; AVX1-NEXT: vblendvpd %xmm13, %xmm0, %xmm2, %xmm0
658 ; AVX1-NEXT: vxorpd %xmm4, %xmm0, %xmm2
659 ; AVX1-NEXT: vpcmpgtq %xmm3, %xmm2, %xmm2
660 ; AVX1-NEXT: vblendvpd %xmm12, %xmm7, %xmm11, %xmm3
661 ; AVX1-NEXT: vxorpd %xmm4, %xmm3, %xmm5
662 ; AVX1-NEXT: vblendvpd %xmm9, %xmm10, %xmm8, %xmm6
663 ; AVX1-NEXT: vxorpd %xmm4, %xmm6, %xmm7
664 ; AVX1-NEXT: vpcmpgtq %xmm5, %xmm7, %xmm5
665 ; AVX1-NEXT: vblendvpd %xmm5, %xmm6, %xmm3, %xmm3
666 ; AVX1-NEXT: vxorpd %xmm4, %xmm3, %xmm5
667 ; AVX1-NEXT: vblendvpd %xmm2, %xmm0, %xmm1, %xmm0
668 ; AVX1-NEXT: vxorpd %xmm4, %xmm0, %xmm1
669 ; AVX1-NEXT: vpcmpgtq %xmm5, %xmm1, %xmm1
670 ; AVX1-NEXT: vblendvpd %xmm1, %xmm0, %xmm3, %xmm0
671 ; AVX1-NEXT: vpermilps {{.*#+}} xmm1 = xmm0[2,3,0,1]
672 ; AVX1-NEXT: vxorpd %xmm4, %xmm0, %xmm2
673 ; AVX1-NEXT: vxorpd %xmm4, %xmm1, %xmm3
674 ; AVX1-NEXT: vpcmpgtq %xmm3, %xmm2, %xmm2
675 ; AVX1-NEXT: vblendvpd %xmm2, %xmm0, %xmm1, %xmm0
676 ; AVX1-NEXT: vmovq %xmm0, %rax
677 ; AVX1-NEXT: vzeroupper
678 ; AVX1-NEXT: retq
679 ;
680 ; AVX2-LABEL: test_v16i64:
681 ; AVX2: # %bb.0:
682 ; AVX2-NEXT: vpbroadcastq {{.*#+}} ymm4 = [9223372036854775808,9223372036854775808,9223372036854775808,9223372036854775808]
683 ; AVX2-NEXT: vpxor %ymm4, %ymm2, %ymm5
684 ; AVX2-NEXT: vpxor %ymm4, %ymm0, %ymm6
685 ; AVX2-NEXT: vpcmpgtq %ymm5, %ymm6, %ymm5
686 ; AVX2-NEXT: vblendvpd %ymm5, %ymm0, %ymm2, %ymm0
687 ; AVX2-NEXT: vpxor %ymm4, %ymm3, %ymm2
688 ; AVX2-NEXT: vpxor %ymm4, %ymm1, %ymm5
689 ; AVX2-NEXT: vpcmpgtq %ymm2, %ymm5, %ymm2
690 ; AVX2-NEXT: vblendvpd %ymm2, %ymm1, %ymm3, %ymm1
691 ; AVX2-NEXT: vxorpd %ymm4, %ymm1, %ymm2
692 ; AVX2-NEXT: vxorpd %ymm4, %ymm0, %ymm3
693 ; AVX2-NEXT: vpcmpgtq %ymm2, %ymm3, %ymm2
694 ; AVX2-NEXT: vblendvpd %ymm2, %ymm0, %ymm1, %ymm0
695 ; AVX2-NEXT: vextractf128 $1, %ymm0, %xmm1
696 ; AVX2-NEXT: vxorpd %xmm4, %xmm1, %xmm2
697 ; AVX2-NEXT: vxorpd %xmm4, %xmm0, %xmm3
698 ; AVX2-NEXT: vpcmpgtq %xmm2, %xmm3, %xmm2
699 ; AVX2-NEXT: vblendvpd %xmm2, %xmm0, %xmm1, %xmm0
700 ; AVX2-NEXT: vpermilps {{.*#+}} xmm1 = xmm0[2,3,0,1]
701 ; AVX2-NEXT: vxorpd %xmm4, %xmm0, %xmm2
702 ; AVX2-NEXT: vxorpd %xmm4, %xmm1, %xmm3
703 ; AVX2-NEXT: vpcmpgtq %xmm3, %xmm2, %xmm2
704 ; AVX2-NEXT: vblendvpd %xmm2, %xmm0, %xmm1, %xmm0
705 ; AVX2-NEXT: vmovq %xmm0, %rax
706 ; AVX2-NEXT: vzeroupper
707 ; AVX2-NEXT: retq
708 ;
709 ; AVX512BW-LABEL: test_v16i64:
710 ; AVX512BW: # %bb.0:
711 ; AVX512BW-NEXT: vpmaxuq %zmm1, %zmm0, %zmm0
712 ; AVX512BW-NEXT: vextracti64x4 $1, %zmm0, %ymm1
713 ; AVX512BW-NEXT: vpmaxuq %zmm1, %zmm0, %zmm0
714 ; AVX512BW-NEXT: vextracti128 $1, %ymm0, %xmm1
715 ; AVX512BW-NEXT: vpmaxuq %zmm1, %zmm0, %zmm0
716 ; AVX512BW-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
717 ; AVX512BW-NEXT: vpmaxuq %zmm1, %zmm0, %zmm0
718 ; AVX512BW-NEXT: vmovq %xmm0, %rax
719 ; AVX512BW-NEXT: vzeroupper
720 ; AVX512BW-NEXT: retq
721 ;
722 ; AVX512VL-LABEL: test_v16i64:
723 ; AVX512VL: # %bb.0:
724 ; AVX512VL-NEXT: vpmaxuq %zmm1, %zmm0, %zmm0
725 ; AVX512VL-NEXT: vextracti64x4 $1, %zmm0, %ymm1
726 ; AVX512VL-NEXT: vpmaxuq %zmm1, %zmm0, %zmm0
727 ; AVX512VL-NEXT: vextracti128 $1, %ymm0, %xmm1
728 ; AVX512VL-NEXT: vpmaxuq %xmm1, %xmm0, %xmm0
729 ; AVX512VL-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
730 ; AVX512VL-NEXT: vpmaxuq %xmm1, %xmm0, %xmm0
731 ; AVX512VL-NEXT: vmovq %xmm0, %rax
732 ; AVX512VL-NEXT: vzeroupper
733 ; AVX512VL-NEXT: retq
734 %1 = call i64 @llvm.experimental.vector.reduce.umax.v16i64(<16 x i64> %a0)
735 ret i64 %1
736 }
738 ;
739 ; vXi32
740 ;
742 define i32 @test_v2i32(<2 x i32> %a0) {
743 ; SSE2-LABEL: test_v2i32:
744 ; SSE2: # %bb.0:
745 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
746 ; SSE2-NEXT: movdqa {{.*#+}} xmm2 = [2147483648,2147483648,2147483648,2147483648]
747 ; SSE2-NEXT: movdqa %xmm0, %xmm3
748 ; SSE2-NEXT: pxor %xmm2, %xmm3
749 ; SSE2-NEXT: pxor %xmm1, %xmm2
750 ; SSE2-NEXT: pcmpgtd %xmm2, %xmm3
751 ; SSE2-NEXT: pand %xmm3, %xmm0
752 ; SSE2-NEXT: pandn %xmm1, %xmm3
753 ; SSE2-NEXT: por %xmm0, %xmm3
754 ; SSE2-NEXT: movd %xmm3, %eax
755 ; SSE2-NEXT: retq
756 ;
757 ; SSE41-LABEL: test_v2i32:
758 ; SSE41: # %bb.0:
759 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
760 ; SSE41-NEXT: pmaxud %xmm0, %xmm1
761 ; SSE41-NEXT: movd %xmm1, %eax
762 ; SSE41-NEXT: retq
763 ;
764 ; AVX-LABEL: test_v2i32:
765 ; AVX: # %bb.0:
766 ; AVX-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
767 ; AVX-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
768 ; AVX-NEXT: vmovd %xmm0, %eax
769 ; AVX-NEXT: retq
770 ;
771 ; AVX512-LABEL: test_v2i32:
772 ; AVX512: # %bb.0:
773 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
774 ; AVX512-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
775 ; AVX512-NEXT: vmovd %xmm0, %eax
776 ; AVX512-NEXT: retq
777 %1 = call i32 @llvm.experimental.vector.reduce.umax.v2i32(<2 x i32> %a0)
778 ret i32 %1
779 }
781 define i32 @test_v4i32(<4 x i32> %a0) {
782 ; SSE2-LABEL: test_v4i32:
783 ; SSE2: # %bb.0:
784 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
785 ; SSE2-NEXT: movdqa {{.*#+}} xmm2 = [2147483648,2147483648,2147483648,2147483648]
786 ; SSE2-NEXT: movdqa %xmm0, %xmm3
787 ; SSE2-NEXT: pxor %xmm2, %xmm3
788 ; SSE2-NEXT: movdqa %xmm1, %xmm4
789 ; SSE2-NEXT: pxor %xmm2, %xmm4
790 ; SSE2-NEXT: pcmpgtd %xmm4, %xmm3
791 ; SSE2-NEXT: pand %xmm3, %xmm0
792 ; SSE2-NEXT: pandn %xmm1, %xmm3
793 ; SSE2-NEXT: por %xmm0, %xmm3
794 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm3[1,1,2,3]
795 ; SSE2-NEXT: movdqa %xmm3, %xmm1
796 ; SSE2-NEXT: pxor %xmm2, %xmm1
797 ; SSE2-NEXT: pxor %xmm0, %xmm2
798 ; SSE2-NEXT: pcmpgtd %xmm2, %xmm1
799 ; SSE2-NEXT: pand %xmm1, %xmm3
800 ; SSE2-NEXT: pandn %xmm0, %xmm1
801 ; SSE2-NEXT: por %xmm3, %xmm1
802 ; SSE2-NEXT: movd %xmm1, %eax
803 ; SSE2-NEXT: retq
804 ;
805 ; SSE41-LABEL: test_v4i32:
806 ; SSE41: # %bb.0:
807 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
808 ; SSE41-NEXT: pmaxud %xmm0, %xmm1
809 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
810 ; SSE41-NEXT: pmaxud %xmm1, %xmm0
811 ; SSE41-NEXT: movd %xmm0, %eax
812 ; SSE41-NEXT: retq
813 ;
814 ; AVX-LABEL: test_v4i32:
815 ; AVX: # %bb.0:
816 ; AVX-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
817 ; AVX-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
818 ; AVX-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
819 ; AVX-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
820 ; AVX-NEXT: vmovd %xmm0, %eax
821 ; AVX-NEXT: retq
822 ;
823 ; AVX512-LABEL: test_v4i32:
824 ; AVX512: # %bb.0:
825 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
826 ; AVX512-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
827 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
828 ; AVX512-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
829 ; AVX512-NEXT: vmovd %xmm0, %eax
830 ; AVX512-NEXT: retq
831 %1 = call i32 @llvm.experimental.vector.reduce.umax.v4i32(<4 x i32> %a0)
832 ret i32 %1
833 }
835 define i32 @test_v8i32(<8 x i32> %a0) {
836 ; SSE2-LABEL: test_v8i32:
837 ; SSE2: # %bb.0:
838 ; SSE2-NEXT: movdqa {{.*#+}} xmm2 = [2147483648,2147483648,2147483648,2147483648]
839 ; SSE2-NEXT: movdqa %xmm1, %xmm3
840 ; SSE2-NEXT: pxor %xmm2, %xmm3
841 ; SSE2-NEXT: movdqa %xmm0, %xmm4
842 ; SSE2-NEXT: pxor %xmm2, %xmm4
843 ; SSE2-NEXT: pcmpgtd %xmm3, %xmm4
844 ; SSE2-NEXT: pand %xmm4, %xmm0
845 ; SSE2-NEXT: pandn %xmm1, %xmm4
846 ; SSE2-NEXT: por %xmm0, %xmm4
847 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm4[2,3,0,1]
848 ; SSE2-NEXT: movdqa %xmm4, %xmm1
849 ; SSE2-NEXT: pxor %xmm2, %xmm1
850 ; SSE2-NEXT: movdqa %xmm0, %xmm3
851 ; SSE2-NEXT: pxor %xmm2, %xmm3
852 ; SSE2-NEXT: pcmpgtd %xmm3, %xmm1
853 ; SSE2-NEXT: pand %xmm1, %xmm4
854 ; SSE2-NEXT: pandn %xmm0, %xmm1
855 ; SSE2-NEXT: por %xmm4, %xmm1
856 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
857 ; SSE2-NEXT: movdqa %xmm1, %xmm3
858 ; SSE2-NEXT: pxor %xmm2, %xmm3
859 ; SSE2-NEXT: pxor %xmm0, %xmm2
860 ; SSE2-NEXT: pcmpgtd %xmm2, %xmm3
861 ; SSE2-NEXT: pand %xmm3, %xmm1
862 ; SSE2-NEXT: pandn %xmm0, %xmm3
863 ; SSE2-NEXT: por %xmm1, %xmm3
864 ; SSE2-NEXT: movd %xmm3, %eax
865 ; SSE2-NEXT: retq
866 ;
867 ; SSE41-LABEL: test_v8i32:
868 ; SSE41: # %bb.0:
869 ; SSE41-NEXT: pmaxud %xmm1, %xmm0
870 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
871 ; SSE41-NEXT: pmaxud %xmm0, %xmm1
872 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
873 ; SSE41-NEXT: pmaxud %xmm1, %xmm0
874 ; SSE41-NEXT: movd %xmm0, %eax
875 ; SSE41-NEXT: retq
876 ;
877 ; AVX1-LABEL: test_v8i32:
878 ; AVX1: # %bb.0:
879 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm1
880 ; AVX1-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
881 ; AVX1-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
882 ; AVX1-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
883 ; AVX1-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
884 ; AVX1-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
885 ; AVX1-NEXT: vmovd %xmm0, %eax
886 ; AVX1-NEXT: vzeroupper
887 ; AVX1-NEXT: retq
888 ;
889 ; AVX2-LABEL: test_v8i32:
890 ; AVX2: # %bb.0:
891 ; AVX2-NEXT: vextracti128 $1, %ymm0, %xmm1
892 ; AVX2-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
893 ; AVX2-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
894 ; AVX2-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
895 ; AVX2-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
896 ; AVX2-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
897 ; AVX2-NEXT: vmovd %xmm0, %eax
898 ; AVX2-NEXT: vzeroupper
899 ; AVX2-NEXT: retq
900 ;
901 ; AVX512-LABEL: test_v8i32:
902 ; AVX512: # %bb.0:
903 ; AVX512-NEXT: vextracti128 $1, %ymm0, %xmm1
904 ; AVX512-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
905 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
906 ; AVX512-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
907 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
908 ; AVX512-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
909 ; AVX512-NEXT: vmovd %xmm0, %eax
910 ; AVX512-NEXT: vzeroupper
911 ; AVX512-NEXT: retq
912 %1 = call i32 @llvm.experimental.vector.reduce.umax.v8i32(<8 x i32> %a0)
913 ret i32 %1
914 }
916 define i32 @test_v16i32(<16 x i32> %a0) {
917 ; SSE2-LABEL: test_v16i32:
918 ; SSE2: # %bb.0:
919 ; SSE2-NEXT: movdqa {{.*#+}} xmm4 = [2147483648,2147483648,2147483648,2147483648]
920 ; SSE2-NEXT: movdqa %xmm2, %xmm6
921 ; SSE2-NEXT: pxor %xmm4, %xmm6
922 ; SSE2-NEXT: movdqa %xmm0, %xmm5
923 ; SSE2-NEXT: pxor %xmm4, %xmm5
924 ; SSE2-NEXT: pcmpgtd %xmm6, %xmm5
925 ; SSE2-NEXT: pand %xmm5, %xmm0
926 ; SSE2-NEXT: pandn %xmm2, %xmm5
927 ; SSE2-NEXT: por %xmm0, %xmm5
928 ; SSE2-NEXT: movdqa %xmm3, %xmm0
929 ; SSE2-NEXT: pxor %xmm4, %xmm0
930 ; SSE2-NEXT: movdqa %xmm1, %xmm2
931 ; SSE2-NEXT: pxor %xmm4, %xmm2
932 ; SSE2-NEXT: pcmpgtd %xmm0, %xmm2
933 ; SSE2-NEXT: pand %xmm2, %xmm1
934 ; SSE2-NEXT: pandn %xmm3, %xmm2
935 ; SSE2-NEXT: por %xmm1, %xmm2
936 ; SSE2-NEXT: movdqa %xmm2, %xmm0
937 ; SSE2-NEXT: pxor %xmm4, %xmm0
938 ; SSE2-NEXT: movdqa %xmm5, %xmm1
939 ; SSE2-NEXT: pxor %xmm4, %xmm1
940 ; SSE2-NEXT: pcmpgtd %xmm0, %xmm1
941 ; SSE2-NEXT: pand %xmm1, %xmm5
942 ; SSE2-NEXT: pandn %xmm2, %xmm1
943 ; SSE2-NEXT: por %xmm5, %xmm1
944 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm1[2,3,0,1]
945 ; SSE2-NEXT: movdqa %xmm1, %xmm2
946 ; SSE2-NEXT: pxor %xmm4, %xmm2
947 ; SSE2-NEXT: movdqa %xmm0, %xmm3
948 ; SSE2-NEXT: pxor %xmm4, %xmm3
949 ; SSE2-NEXT: pcmpgtd %xmm3, %xmm2
950 ; SSE2-NEXT: pand %xmm2, %xmm1
951 ; SSE2-NEXT: pandn %xmm0, %xmm2
952 ; SSE2-NEXT: por %xmm1, %xmm2
953 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm2[1,1,2,3]
954 ; SSE2-NEXT: movdqa %xmm2, %xmm1
955 ; SSE2-NEXT: pxor %xmm4, %xmm1
956 ; SSE2-NEXT: pxor %xmm0, %xmm4
957 ; SSE2-NEXT: pcmpgtd %xmm4, %xmm1
958 ; SSE2-NEXT: pand %xmm1, %xmm2
959 ; SSE2-NEXT: pandn %xmm0, %xmm1
960 ; SSE2-NEXT: por %xmm2, %xmm1
961 ; SSE2-NEXT: movd %xmm1, %eax
962 ; SSE2-NEXT: retq
963 ;
964 ; SSE41-LABEL: test_v16i32:
965 ; SSE41: # %bb.0:
966 ; SSE41-NEXT: pmaxud %xmm3, %xmm1
967 ; SSE41-NEXT: pmaxud %xmm2, %xmm1
968 ; SSE41-NEXT: pmaxud %xmm0, %xmm1
969 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[2,3,0,1]
970 ; SSE41-NEXT: pmaxud %xmm1, %xmm0
971 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
972 ; SSE41-NEXT: pmaxud %xmm0, %xmm1
973 ; SSE41-NEXT: movd %xmm1, %eax
974 ; SSE41-NEXT: retq
975 ;
976 ; AVX1-LABEL: test_v16i32:
977 ; AVX1: # %bb.0:
978 ; AVX1-NEXT: vextractf128 $1, %ymm1, %xmm2
979 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm3
980 ; AVX1-NEXT: vpmaxud %xmm2, %xmm3, %xmm2
981 ; AVX1-NEXT: vpmaxud %xmm2, %xmm1, %xmm1
982 ; AVX1-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
983 ; AVX1-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
984 ; AVX1-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
985 ; AVX1-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
986 ; AVX1-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
987 ; AVX1-NEXT: vmovd %xmm0, %eax
988 ; AVX1-NEXT: vzeroupper
989 ; AVX1-NEXT: retq
990 ;
991 ; AVX2-LABEL: test_v16i32:
992 ; AVX2: # %bb.0:
993 ; AVX2-NEXT: vpmaxud %ymm1, %ymm0, %ymm0
994 ; AVX2-NEXT: vextracti128 $1, %ymm0, %xmm1
995 ; AVX2-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
996 ; AVX2-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
997 ; AVX2-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
998 ; AVX2-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
999 ; AVX2-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
1000 ; AVX2-NEXT: vmovd %xmm0, %eax
1001 ; AVX2-NEXT: vzeroupper
1002 ; AVX2-NEXT: retq
1003 ;
1004 ; AVX512-LABEL: test_v16i32:
1005 ; AVX512: # %bb.0:
1006 ; AVX512-NEXT: vextracti64x4 $1, %zmm0, %ymm1
1007 ; AVX512-NEXT: vpmaxud %zmm1, %zmm0, %zmm0
1008 ; AVX512-NEXT: vextracti128 $1, %ymm0, %xmm1
1009 ; AVX512-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
1010 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1011 ; AVX512-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
1012 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1013 ; AVX512-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
1014 ; AVX512-NEXT: vmovd %xmm0, %eax
1015 ; AVX512-NEXT: vzeroupper
1016 ; AVX512-NEXT: retq
1017 %1 = call i32 @llvm.experimental.vector.reduce.umax.v16i32(<16 x i32> %a0)
1018 ret i32 %1
1019 }
1021 define i32 @test_v32i32(<32 x i32> %a0) {
1022 ; SSE2-LABEL: test_v32i32:
1023 ; SSE2: # %bb.0:
1024 ; SSE2-NEXT: movdqa {{.*#+}} xmm8 = [2147483648,2147483648,2147483648,2147483648]
1025 ; SSE2-NEXT: movdqa %xmm5, %xmm10
1026 ; SSE2-NEXT: pxor %xmm8, %xmm10
1027 ; SSE2-NEXT: movdqa %xmm1, %xmm9
1028 ; SSE2-NEXT: pxor %xmm8, %xmm9
1029 ; SSE2-NEXT: pcmpgtd %xmm10, %xmm9
1030 ; SSE2-NEXT: pand %xmm9, %xmm1
1031 ; SSE2-NEXT: pandn %xmm5, %xmm9
1032 ; SSE2-NEXT: por %xmm1, %xmm9
1033 ; SSE2-NEXT: movdqa %xmm7, %xmm5
1034 ; SSE2-NEXT: pxor %xmm8, %xmm5
1035 ; SSE2-NEXT: movdqa %xmm3, %xmm1
1036 ; SSE2-NEXT: pxor %xmm8, %xmm1
1037 ; SSE2-NEXT: pcmpgtd %xmm5, %xmm1
1038 ; SSE2-NEXT: pand %xmm1, %xmm3
1039 ; SSE2-NEXT: pandn %xmm7, %xmm1
1040 ; SSE2-NEXT: por %xmm3, %xmm1
1041 ; SSE2-NEXT: movdqa %xmm4, %xmm5
1042 ; SSE2-NEXT: pxor %xmm8, %xmm5
1043 ; SSE2-NEXT: movdqa %xmm0, %xmm3
1044 ; SSE2-NEXT: pxor %xmm8, %xmm3
1045 ; SSE2-NEXT: pcmpgtd %xmm5, %xmm3
1046 ; SSE2-NEXT: pand %xmm3, %xmm0
1047 ; SSE2-NEXT: pandn %xmm4, %xmm3
1048 ; SSE2-NEXT: por %xmm0, %xmm3
1049 ; SSE2-NEXT: movdqa %xmm6, %xmm0
1050 ; SSE2-NEXT: pxor %xmm8, %xmm0
1051 ; SSE2-NEXT: movdqa %xmm2, %xmm4
1052 ; SSE2-NEXT: pxor %xmm8, %xmm4
1053 ; SSE2-NEXT: pcmpgtd %xmm0, %xmm4
1054 ; SSE2-NEXT: pand %xmm4, %xmm2
1055 ; SSE2-NEXT: pandn %xmm6, %xmm4
1056 ; SSE2-NEXT: por %xmm2, %xmm4
1057 ; SSE2-NEXT: movdqa %xmm4, %xmm2
1058 ; SSE2-NEXT: pxor %xmm8, %xmm2
1059 ; SSE2-NEXT: movdqa %xmm3, %xmm0
1060 ; SSE2-NEXT: pxor %xmm8, %xmm0
1061 ; SSE2-NEXT: pcmpgtd %xmm2, %xmm0
1062 ; SSE2-NEXT: pand %xmm0, %xmm3
1063 ; SSE2-NEXT: pandn %xmm4, %xmm0
1064 ; SSE2-NEXT: por %xmm3, %xmm0
1065 ; SSE2-NEXT: movdqa %xmm1, %xmm2
1066 ; SSE2-NEXT: pxor %xmm8, %xmm2
1067 ; SSE2-NEXT: movdqa %xmm9, %xmm3
1068 ; SSE2-NEXT: pxor %xmm8, %xmm3
1069 ; SSE2-NEXT: pcmpgtd %xmm2, %xmm3
1070 ; SSE2-NEXT: pand %xmm3, %xmm9
1071 ; SSE2-NEXT: pandn %xmm1, %xmm3
1072 ; SSE2-NEXT: por %xmm9, %xmm3
1073 ; SSE2-NEXT: movdqa %xmm3, %xmm1
1074 ; SSE2-NEXT: pxor %xmm8, %xmm1
1075 ; SSE2-NEXT: movdqa %xmm0, %xmm2
1076 ; SSE2-NEXT: pxor %xmm8, %xmm2
1077 ; SSE2-NEXT: pcmpgtd %xmm1, %xmm2
1078 ; SSE2-NEXT: pand %xmm2, %xmm0
1079 ; SSE2-NEXT: pandn %xmm3, %xmm2
1080 ; SSE2-NEXT: por %xmm0, %xmm2
1081 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm2[2,3,0,1]
1082 ; SSE2-NEXT: movdqa %xmm2, %xmm1
1083 ; SSE2-NEXT: pxor %xmm8, %xmm1
1084 ; SSE2-NEXT: movdqa %xmm0, %xmm3
1085 ; SSE2-NEXT: pxor %xmm8, %xmm3
1086 ; SSE2-NEXT: pcmpgtd %xmm3, %xmm1
1087 ; SSE2-NEXT: pand %xmm1, %xmm2
1088 ; SSE2-NEXT: pandn %xmm0, %xmm1
1089 ; SSE2-NEXT: por %xmm2, %xmm1
1090 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
1091 ; SSE2-NEXT: movdqa %xmm1, %xmm2
1092 ; SSE2-NEXT: pxor %xmm8, %xmm2
1093 ; SSE2-NEXT: pxor %xmm0, %xmm8
1094 ; SSE2-NEXT: pcmpgtd %xmm8, %xmm2
1095 ; SSE2-NEXT: pand %xmm2, %xmm1
1096 ; SSE2-NEXT: pandn %xmm0, %xmm2
1097 ; SSE2-NEXT: por %xmm1, %xmm2
1098 ; SSE2-NEXT: movd %xmm2, %eax
1099 ; SSE2-NEXT: retq
1100 ;
1101 ; SSE41-LABEL: test_v32i32:
1102 ; SSE41: # %bb.0:
1103 ; SSE41-NEXT: pmaxud %xmm6, %xmm2
1104 ; SSE41-NEXT: pmaxud %xmm7, %xmm3
1105 ; SSE41-NEXT: pmaxud %xmm5, %xmm3
1106 ; SSE41-NEXT: pmaxud %xmm1, %xmm3
1107 ; SSE41-NEXT: pmaxud %xmm4, %xmm2
1108 ; SSE41-NEXT: pmaxud %xmm3, %xmm2
1109 ; SSE41-NEXT: pmaxud %xmm0, %xmm2
1110 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm2[2,3,0,1]
1111 ; SSE41-NEXT: pmaxud %xmm2, %xmm0
1112 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1113 ; SSE41-NEXT: pmaxud %xmm0, %xmm1
1114 ; SSE41-NEXT: movd %xmm1, %eax
1115 ; SSE41-NEXT: retq
1116 ;
1117 ; AVX1-LABEL: test_v32i32:
1118 ; AVX1: # %bb.0:
1119 ; AVX1-NEXT: vpmaxud %xmm3, %xmm1, %xmm4
1120 ; AVX1-NEXT: vextractf128 $1, %ymm3, %xmm3
1121 ; AVX1-NEXT: vextractf128 $1, %ymm1, %xmm1
1122 ; AVX1-NEXT: vpmaxud %xmm3, %xmm1, %xmm1
1123 ; AVX1-NEXT: vextractf128 $1, %ymm2, %xmm3
1124 ; AVX1-NEXT: vpmaxud %xmm1, %xmm3, %xmm1
1125 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm3
1126 ; AVX1-NEXT: vpmaxud %xmm1, %xmm3, %xmm1
1127 ; AVX1-NEXT: vpmaxud %xmm4, %xmm2, %xmm2
1128 ; AVX1-NEXT: vpmaxud %xmm1, %xmm2, %xmm1
1129 ; AVX1-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
1130 ; AVX1-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1131 ; AVX1-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
1132 ; AVX1-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1133 ; AVX1-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
1134 ; AVX1-NEXT: vmovd %xmm0, %eax
1135 ; AVX1-NEXT: vzeroupper
1136 ; AVX1-NEXT: retq
1137 ;
1138 ; AVX2-LABEL: test_v32i32:
1139 ; AVX2: # %bb.0:
1140 ; AVX2-NEXT: vpmaxud %ymm3, %ymm1, %ymm1
1141 ; AVX2-NEXT: vpmaxud %ymm1, %ymm2, %ymm1
1142 ; AVX2-NEXT: vpmaxud %ymm1, %ymm0, %ymm0
1143 ; AVX2-NEXT: vextracti128 $1, %ymm0, %xmm1
1144 ; AVX2-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
1145 ; AVX2-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1146 ; AVX2-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
1147 ; AVX2-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1148 ; AVX2-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
1149 ; AVX2-NEXT: vmovd %xmm0, %eax
1150 ; AVX2-NEXT: vzeroupper
1151 ; AVX2-NEXT: retq
1152 ;
1153 ; AVX512-LABEL: test_v32i32:
1154 ; AVX512: # %bb.0:
1155 ; AVX512-NEXT: vpmaxud %zmm1, %zmm0, %zmm0
1156 ; AVX512-NEXT: vextracti64x4 $1, %zmm0, %ymm1
1157 ; AVX512-NEXT: vpmaxud %zmm1, %zmm0, %zmm0
1158 ; AVX512-NEXT: vextracti128 $1, %ymm0, %xmm1
1159 ; AVX512-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
1160 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1161 ; AVX512-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
1162 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1163 ; AVX512-NEXT: vpmaxud %xmm1, %xmm0, %xmm0
1164 ; AVX512-NEXT: vmovd %xmm0, %eax
1165 ; AVX512-NEXT: vzeroupper
1166 ; AVX512-NEXT: retq
1167 %1 = call i32 @llvm.experimental.vector.reduce.umax.v32i32(<32 x i32> %a0)
1168 ret i32 %1
1169 }
1171 ;
1172 ; vXi16
1173 ;
1175 define i16 @test_v2i16(<2 x i16> %a0) {
1176 ; SSE2-LABEL: test_v2i16:
1177 ; SSE2: # %bb.0:
1178 ; SSE2-NEXT: movdqa %xmm0, %xmm1
1179 ; SSE2-NEXT: psrld $16, %xmm1
1180 ; SSE2-NEXT: movdqa {{.*#+}} xmm2 = [32768,32768,32768,32768,32768,32768,32768,32768]
1181 ; SSE2-NEXT: pxor %xmm2, %xmm0
1182 ; SSE2-NEXT: pxor %xmm2, %xmm1
1183 ; SSE2-NEXT: pmaxsw %xmm0, %xmm1
1184 ; SSE2-NEXT: movd %xmm1, %eax
1185 ; SSE2-NEXT: xorl $32768, %eax # imm = 0x8000
1186 ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax
1187 ; SSE2-NEXT: retq
1188 ;
1189 ; SSE41-LABEL: test_v2i16:
1190 ; SSE41: # %bb.0:
1191 ; SSE41-NEXT: movdqa %xmm0, %xmm1
1192 ; SSE41-NEXT: psrld $16, %xmm1
1193 ; SSE41-NEXT: pmaxuw %xmm0, %xmm1
1194 ; SSE41-NEXT: movd %xmm1, %eax
1195 ; SSE41-NEXT: # kill: def $ax killed $ax killed $eax
1196 ; SSE41-NEXT: retq
1197 ;
1198 ; AVX-LABEL: test_v2i16:
1199 ; AVX: # %bb.0:
1200 ; AVX-NEXT: vpsrld $16, %xmm0, %xmm1
1201 ; AVX-NEXT: vpmaxuw %xmm1, %xmm0, %xmm0
1202 ; AVX-NEXT: vmovd %xmm0, %eax
1203 ; AVX-NEXT: # kill: def $ax killed $ax killed $eax
1204 ; AVX-NEXT: retq
1205 ;
1206 ; AVX512-LABEL: test_v2i16:
1207 ; AVX512: # %bb.0:
1208 ; AVX512-NEXT: vpsrld $16, %xmm0, %xmm1
1209 ; AVX512-NEXT: vpmaxuw %xmm1, %xmm0, %xmm0
1210 ; AVX512-NEXT: vmovd %xmm0, %eax
1211 ; AVX512-NEXT: # kill: def $ax killed $ax killed $eax
1212 ; AVX512-NEXT: retq
1213 %1 = call i16 @llvm.experimental.vector.reduce.umax.v2i16(<2 x i16> %a0)
1214 ret i16 %1
1215 }
1217 define i16 @test_v4i16(<4 x i16> %a0) {
1218 ; SSE2-LABEL: test_v4i16:
1219 ; SSE2: # %bb.0:
1220 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1221 ; SSE2-NEXT: movdqa {{.*#+}} xmm2 = [32768,32768,32768,32768,32768,32768,32768,32768]
1222 ; SSE2-NEXT: pxor %xmm2, %xmm0
1223 ; SSE2-NEXT: pxor %xmm2, %xmm1
1224 ; SSE2-NEXT: pmaxsw %xmm0, %xmm1
1225 ; SSE2-NEXT: movdqa %xmm1, %xmm0
1226 ; SSE2-NEXT: pxor %xmm2, %xmm0
1227 ; SSE2-NEXT: psrld $16, %xmm0
1228 ; SSE2-NEXT: pxor %xmm2, %xmm0
1229 ; SSE2-NEXT: pmaxsw %xmm1, %xmm0
1230 ; SSE2-NEXT: movd %xmm0, %eax
1231 ; SSE2-NEXT: xorl $32768, %eax # imm = 0x8000
1232 ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax
1233 ; SSE2-NEXT: retq
1234 ;
1235 ; SSE41-LABEL: test_v4i16:
1236 ; SSE41: # %bb.0:
1237 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1238 ; SSE41-NEXT: pmaxuw %xmm0, %xmm1
1239 ; SSE41-NEXT: movdqa %xmm1, %xmm0
1240 ; SSE41-NEXT: psrld $16, %xmm0
1241 ; SSE41-NEXT: pmaxuw %xmm1, %xmm0
1242 ; SSE41-NEXT: movd %xmm0, %eax
1243 ; SSE41-NEXT: # kill: def $ax killed $ax killed $eax
1244 ; SSE41-NEXT: retq
1245 ;
1246 ; AVX-LABEL: test_v4i16:
1247 ; AVX: # %bb.0:
1248 ; AVX-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1249 ; AVX-NEXT: vpmaxuw %xmm1, %xmm0, %xmm0
1250 ; AVX-NEXT: vpsrld $16, %xmm0, %xmm1
1251 ; AVX-NEXT: vpmaxuw %xmm1, %xmm0, %xmm0
1252 ; AVX-NEXT: vmovd %xmm0, %eax
1253 ; AVX-NEXT: # kill: def $ax killed $ax killed $eax
1254 ; AVX-NEXT: retq
1255 ;
1256 ; AVX512-LABEL: test_v4i16:
1257 ; AVX512: # %bb.0:
1258 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1259 ; AVX512-NEXT: vpmaxuw %xmm1, %xmm0, %xmm0
1260 ; AVX512-NEXT: vpsrld $16, %xmm0, %xmm1
1261 ; AVX512-NEXT: vpmaxuw %xmm1, %xmm0, %xmm0
1262 ; AVX512-NEXT: vmovd %xmm0, %eax
1263 ; AVX512-NEXT: # kill: def $ax killed $ax killed $eax
1264 ; AVX512-NEXT: retq
1265 %1 = call i16 @llvm.experimental.vector.reduce.umax.v4i16(<4 x i16> %a0)
1266 ret i16 %1
1267 }
1269 define i16 @test_v8i16(<8 x i16> %a0) {
1270 ; SSE2-LABEL: test_v8i16:
1271 ; SSE2: # %bb.0:
1272 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1273 ; SSE2-NEXT: movdqa {{.*#+}} xmm2 = [32768,32768,32768,32768,32768,32768,32768,32768]
1274 ; SSE2-NEXT: pxor %xmm2, %xmm0
1275 ; SSE2-NEXT: pxor %xmm2, %xmm1
1276 ; SSE2-NEXT: pmaxsw %xmm0, %xmm1
1277 ; SSE2-NEXT: movdqa %xmm1, %xmm0
1278 ; SSE2-NEXT: pxor %xmm2, %xmm0
1279 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm0[1,1,2,3]
1280 ; SSE2-NEXT: pxor %xmm2, %xmm0
1281 ; SSE2-NEXT: pmaxsw %xmm1, %xmm0
1282 ; SSE2-NEXT: movdqa %xmm0, %xmm1
1283 ; SSE2-NEXT: pxor %xmm2, %xmm1
1284 ; SSE2-NEXT: psrld $16, %xmm1
1285 ; SSE2-NEXT: pxor %xmm2, %xmm1
1286 ; SSE2-NEXT: pmaxsw %xmm0, %xmm1
1287 ; SSE2-NEXT: movd %xmm1, %eax
1288 ; SSE2-NEXT: xorl $32768, %eax # imm = 0x8000
1289 ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax
1290 ; SSE2-NEXT: retq
1291 ;
1292 ; SSE41-LABEL: test_v8i16:
1293 ; SSE41: # %bb.0:
1294 ; SSE41-NEXT: pcmpeqd %xmm1, %xmm1
1295 ; SSE41-NEXT: pxor %xmm0, %xmm1
1296 ; SSE41-NEXT: phminposuw %xmm1, %xmm0
1297 ; SSE41-NEXT: movd %xmm0, %eax
1298 ; SSE41-NEXT: notl %eax
1299 ; SSE41-NEXT: # kill: def $ax killed $ax killed $eax
1300 ; SSE41-NEXT: retq
1301 ;
1302 ; AVX-LABEL: test_v8i16:
1303 ; AVX: # %bb.0:
1304 ; AVX-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
1305 ; AVX-NEXT: vpxor %xmm1, %xmm0, %xmm0
1306 ; AVX-NEXT: vphminposuw %xmm0, %xmm0
1307 ; AVX-NEXT: vmovd %xmm0, %eax
1308 ; AVX-NEXT: notl %eax
1309 ; AVX-NEXT: # kill: def $ax killed $ax killed $eax
1310 ; AVX-NEXT: retq
1311 ;
1312 ; AVX512BW-LABEL: test_v8i16:
1313 ; AVX512BW: # %bb.0:
1314 ; AVX512BW-NEXT: # kill: def $xmm0 killed $xmm0 def $zmm0
1315 ; AVX512BW-NEXT: vpternlogq $15, %zmm0, %zmm0, %zmm0
1316 ; AVX512BW-NEXT: vphminposuw %xmm0, %xmm0
1317 ; AVX512BW-NEXT: vmovd %xmm0, %eax
1318 ; AVX512BW-NEXT: notl %eax
1319 ; AVX512BW-NEXT: # kill: def $ax killed $ax killed $eax
1320 ; AVX512BW-NEXT: vzeroupper
1321 ; AVX512BW-NEXT: retq
1322 ;
1323 ; AVX512VL-LABEL: test_v8i16:
1324 ; AVX512VL: # %bb.0:
1325 ; AVX512VL-NEXT: vpternlogq $15, %xmm0, %xmm0, %xmm0
1326 ; AVX512VL-NEXT: vphminposuw %xmm0, %xmm0
1327 ; AVX512VL-NEXT: vmovd %xmm0, %eax
1328 ; AVX512VL-NEXT: notl %eax
1329 ; AVX512VL-NEXT: # kill: def $ax killed $ax killed $eax
1330 ; AVX512VL-NEXT: retq
1331 %1 = call i16 @llvm.experimental.vector.reduce.umax.v8i16(<8 x i16> %a0)
1332 ret i16 %1
1333 }
1335 define i16 @test_v16i16(<16 x i16> %a0) {
1336 ; SSE2-LABEL: test_v16i16:
1337 ; SSE2: # %bb.0:
1338 ; SSE2-NEXT: movdqa {{.*#+}} xmm2 = [32768,32768,32768,32768,32768,32768,32768,32768]
1339 ; SSE2-NEXT: pxor %xmm2, %xmm1
1340 ; SSE2-NEXT: pxor %xmm2, %xmm0
1341 ; SSE2-NEXT: pmaxsw %xmm1, %xmm0
1342 ; SSE2-NEXT: movdqa %xmm0, %xmm1
1343 ; SSE2-NEXT: pxor %xmm2, %xmm1
1344 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm1[2,3,0,1]
1345 ; SSE2-NEXT: pxor %xmm2, %xmm1
1346 ; SSE2-NEXT: pmaxsw %xmm0, %xmm1
1347 ; SSE2-NEXT: movdqa %xmm1, %xmm0
1348 ; SSE2-NEXT: pxor %xmm2, %xmm0
1349 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm0[1,1,2,3]
1350 ; SSE2-NEXT: pxor %xmm2, %xmm0
1351 ; SSE2-NEXT: pmaxsw %xmm1, %xmm0
1352 ; SSE2-NEXT: movdqa %xmm0, %xmm1
1353 ; SSE2-NEXT: pxor %xmm2, %xmm1
1354 ; SSE2-NEXT: psrld $16, %xmm1
1355 ; SSE2-NEXT: pxor %xmm2, %xmm1
1356 ; SSE2-NEXT: pmaxsw %xmm0, %xmm1
1357 ; SSE2-NEXT: movd %xmm1, %eax
1358 ; SSE2-NEXT: xorl $32768, %eax # imm = 0x8000
1359 ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax
1360 ; SSE2-NEXT: retq
1361 ;
1362 ; SSE41-LABEL: test_v16i16:
1363 ; SSE41: # %bb.0:
1364 ; SSE41-NEXT: pmaxuw %xmm1, %xmm0
1365 ; SSE41-NEXT: pcmpeqd %xmm1, %xmm1
1366 ; SSE41-NEXT: pxor %xmm0, %xmm1
1367 ; SSE41-NEXT: phminposuw %xmm1, %xmm0
1368 ; SSE41-NEXT: movd %xmm0, %eax
1369 ; SSE41-NEXT: notl %eax
1370 ; SSE41-NEXT: # kill: def $ax killed $ax killed $eax
1371 ; SSE41-NEXT: retq
1372 ;
1373 ; AVX1-LABEL: test_v16i16:
1374 ; AVX1: # %bb.0:
1375 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm1
1376 ; AVX1-NEXT: vpmaxuw %xmm1, %xmm0, %xmm0
1377 ; AVX1-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
1378 ; AVX1-NEXT: vpxor %xmm1, %xmm0, %xmm0
1379 ; AVX1-NEXT: vphminposuw %xmm0, %xmm0
1380 ; AVX1-NEXT: vmovd %xmm0, %eax
1381 ; AVX1-NEXT: notl %eax
1382 ; AVX1-NEXT: # kill: def $ax killed $ax killed $eax
1383 ; AVX1-NEXT: vzeroupper
1384 ; AVX1-NEXT: retq
1385 ;
1386 ; AVX2-LABEL: test_v16i16:
1387 ; AVX2: # %bb.0:
1388 ; AVX2-NEXT: vextracti128 $1, %ymm0, %xmm1
1389 ; AVX2-NEXT: vpmaxuw %xmm1, %xmm0, %xmm0
1390 ; AVX2-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
1391 ; AVX2-NEXT: vpxor %xmm1, %xmm0, %xmm0
1392 ; AVX2-NEXT: vphminposuw %xmm0, %xmm0
1393 ; AVX2-NEXT: vmovd %xmm0, %eax
1394 ; AVX2-NEXT: notl %eax
1395 ; AVX2-NEXT: # kill: def $ax killed $ax killed $eax
1396 ; AVX2-NEXT: vzeroupper
1397 ; AVX2-NEXT: retq
1398 ;
1399 ; AVX512BW-LABEL: test_v16i16:
1400 ; AVX512BW: # %bb.0:
1401 ; AVX512BW-NEXT: vextracti128 $1, %ymm0, %xmm1
1402 ; AVX512BW-NEXT: vpmaxuw %xmm1, %xmm0, %xmm0
1403 ; AVX512BW-NEXT: vpternlogq $15, %zmm0, %zmm0, %zmm0
1404 ; AVX512BW-NEXT: vphminposuw %xmm0, %xmm0
1405 ; AVX512BW-NEXT: vmovd %xmm0, %eax
1406 ; AVX512BW-NEXT: notl %eax
1407 ; AVX512BW-NEXT: # kill: def $ax killed $ax killed $eax
1408 ; AVX512BW-NEXT: vzeroupper
1409 ; AVX512BW-NEXT: retq
1410 ;
1411 ; AVX512VL-LABEL: test_v16i16:
1412 ; AVX512VL: # %bb.0:
1413 ; AVX512VL-NEXT: vextracti128 $1, %ymm0, %xmm1
1414 ; AVX512VL-NEXT: vpmaxuw %xmm1, %xmm0, %xmm0
1415 ; AVX512VL-NEXT: vpternlogq $15, %xmm0, %xmm0, %xmm0
1416 ; AVX512VL-NEXT: vphminposuw %xmm0, %xmm0
1417 ; AVX512VL-NEXT: vmovd %xmm0, %eax
1418 ; AVX512VL-NEXT: notl %eax
1419 ; AVX512VL-NEXT: # kill: def $ax killed $ax killed $eax
1420 ; AVX512VL-NEXT: vzeroupper
1421 ; AVX512VL-NEXT: retq
1422 %1 = call i16 @llvm.experimental.vector.reduce.umax.v16i16(<16 x i16> %a0)
1423 ret i16 %1
1424 }
1426 define i16 @test_v32i16(<32 x i16> %a0) {
1427 ; SSE2-LABEL: test_v32i16:
1428 ; SSE2: # %bb.0:
1429 ; SSE2-NEXT: movdqa {{.*#+}} xmm4 = [32768,32768,32768,32768,32768,32768,32768,32768]
1430 ; SSE2-NEXT: pxor %xmm4, %xmm3
1431 ; SSE2-NEXT: pxor %xmm4, %xmm1
1432 ; SSE2-NEXT: pmaxsw %xmm3, %xmm1
1433 ; SSE2-NEXT: pxor %xmm4, %xmm2
1434 ; SSE2-NEXT: pmaxsw %xmm1, %xmm2
1435 ; SSE2-NEXT: pxor %xmm4, %xmm0
1436 ; SSE2-NEXT: pmaxsw %xmm2, %xmm0
1437 ; SSE2-NEXT: movdqa %xmm0, %xmm1
1438 ; SSE2-NEXT: pxor %xmm4, %xmm1
1439 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm1[2,3,0,1]
1440 ; SSE2-NEXT: pxor %xmm4, %xmm1
1441 ; SSE2-NEXT: pmaxsw %xmm0, %xmm1
1442 ; SSE2-NEXT: movdqa %xmm1, %xmm0
1443 ; SSE2-NEXT: pxor %xmm4, %xmm0
1444 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm0[1,1,2,3]
1445 ; SSE2-NEXT: pxor %xmm4, %xmm0
1446 ; SSE2-NEXT: pmaxsw %xmm1, %xmm0
1447 ; SSE2-NEXT: movdqa %xmm0, %xmm1
1448 ; SSE2-NEXT: pxor %xmm4, %xmm1
1449 ; SSE2-NEXT: psrld $16, %xmm1
1450 ; SSE2-NEXT: pxor %xmm4, %xmm1
1451 ; SSE2-NEXT: pmaxsw %xmm0, %xmm1
1452 ; SSE2-NEXT: movd %xmm1, %eax
1453 ; SSE2-NEXT: xorl $32768, %eax # imm = 0x8000
1454 ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax
1455 ; SSE2-NEXT: retq
1456 ;
1457 ; SSE41-LABEL: test_v32i16:
1458 ; SSE41: # %bb.0:
1459 ; SSE41-NEXT: pmaxuw %xmm3, %xmm1
1460 ; SSE41-NEXT: pmaxuw %xmm2, %xmm1
1461 ; SSE41-NEXT: pmaxuw %xmm0, %xmm1
1462 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm0
1463 ; SSE41-NEXT: pxor %xmm1, %xmm0
1464 ; SSE41-NEXT: phminposuw %xmm0, %xmm0
1465 ; SSE41-NEXT: movd %xmm0, %eax
1466 ; SSE41-NEXT: notl %eax
1467 ; SSE41-NEXT: # kill: def $ax killed $ax killed $eax
1468 ; SSE41-NEXT: retq
1469 ;
1470 ; AVX1-LABEL: test_v32i16:
1471 ; AVX1: # %bb.0:
1472 ; AVX1-NEXT: vextractf128 $1, %ymm1, %xmm2
1473 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm3
1474 ; AVX1-NEXT: vpmaxuw %xmm2, %xmm3, %xmm2
1475 ; AVX1-NEXT: vpmaxuw %xmm2, %xmm1, %xmm1
1476 ; AVX1-NEXT: vpmaxuw %xmm1, %xmm0, %xmm0
1477 ; AVX1-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
1478 ; AVX1-NEXT: vpxor %xmm1, %xmm0, %xmm0
1479 ; AVX1-NEXT: vphminposuw %xmm0, %xmm0
1480 ; AVX1-NEXT: vmovd %xmm0, %eax
1481 ; AVX1-NEXT: notl %eax
1482 ; AVX1-NEXT: # kill: def $ax killed $ax killed $eax
1483 ; AVX1-NEXT: vzeroupper
1484 ; AVX1-NEXT: retq
1485 ;
1486 ; AVX2-LABEL: test_v32i16:
1487 ; AVX2: # %bb.0:
1488 ; AVX2-NEXT: vpmaxuw %ymm1, %ymm0, %ymm0
1489 ; AVX2-NEXT: vextracti128 $1, %ymm0, %xmm1
1490 ; AVX2-NEXT: vpmaxuw %xmm1, %xmm0, %xmm0
1491 ; AVX2-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
1492 ; AVX2-NEXT: vpxor %xmm1, %xmm0, %xmm0
1493 ; AVX2-NEXT: vphminposuw %xmm0, %xmm0
1494 ; AVX2-NEXT: vmovd %xmm0, %eax
1495 ; AVX2-NEXT: notl %eax
1496 ; AVX2-NEXT: # kill: def $ax killed $ax killed $eax
1497 ; AVX2-NEXT: vzeroupper
1498 ; AVX2-NEXT: retq
1499 ;
1500 ; AVX512BW-LABEL: test_v32i16:
1501 ; AVX512BW: # %bb.0:
1502 ; AVX512BW-NEXT: vextracti64x4 $1, %zmm0, %ymm1
1503 ; AVX512BW-NEXT: vpmaxuw %ymm1, %ymm0, %ymm0
1504 ; AVX512BW-NEXT: vextracti128 $1, %ymm0, %xmm1
1505 ; AVX512BW-NEXT: vpmaxuw %xmm1, %xmm0, %xmm0
1506 ; AVX512BW-NEXT: vpternlogq $15, %zmm0, %zmm0, %zmm0
1507 ; AVX512BW-NEXT: vphminposuw %xmm0, %xmm0
1508 ; AVX512BW-NEXT: vmovd %xmm0, %eax
1509 ; AVX512BW-NEXT: notl %eax
1510 ; AVX512BW-NEXT: # kill: def $ax killed $ax killed $eax
1511 ; AVX512BW-NEXT: vzeroupper
1512 ; AVX512BW-NEXT: retq
1513 ;
1514 ; AVX512VL-LABEL: test_v32i16:
1515 ; AVX512VL: # %bb.0:
1516 ; AVX512VL-NEXT: vextracti64x4 $1, %zmm0, %ymm1
1517 ; AVX512VL-NEXT: vpmaxuw %ymm1, %ymm0, %ymm0
1518 ; AVX512VL-NEXT: vextracti128 $1, %ymm0, %xmm1
1519 ; AVX512VL-NEXT: vpmaxuw %xmm1, %xmm0, %xmm0
1520 ; AVX512VL-NEXT: vpternlogq $15, %xmm0, %xmm0, %xmm0
1521 ; AVX512VL-NEXT: vphminposuw %xmm0, %xmm0
1522 ; AVX512VL-NEXT: vmovd %xmm0, %eax
1523 ; AVX512VL-NEXT: notl %eax
1524 ; AVX512VL-NEXT: # kill: def $ax killed $ax killed $eax
1525 ; AVX512VL-NEXT: vzeroupper
1526 ; AVX512VL-NEXT: retq
1527 %1 = call i16 @llvm.experimental.vector.reduce.umax.v32i16(<32 x i16> %a0)
1528 ret i16 %1
1529 }
1531 define i16 @test_v64i16(<64 x i16> %a0) {
1532 ; SSE2-LABEL: test_v64i16:
1533 ; SSE2: # %bb.0:
1534 ; SSE2-NEXT: movdqa {{.*#+}} xmm8 = [32768,32768,32768,32768,32768,32768,32768,32768]
1535 ; SSE2-NEXT: pxor %xmm8, %xmm6
1536 ; SSE2-NEXT: pxor %xmm8, %xmm2
1537 ; SSE2-NEXT: pmaxsw %xmm6, %xmm2
1538 ; SSE2-NEXT: pxor %xmm8, %xmm4
1539 ; SSE2-NEXT: pmaxsw %xmm2, %xmm4
1540 ; SSE2-NEXT: pxor %xmm8, %xmm0
1541 ; SSE2-NEXT: pxor %xmm8, %xmm7
1542 ; SSE2-NEXT: pxor %xmm8, %xmm3
1543 ; SSE2-NEXT: pmaxsw %xmm7, %xmm3
1544 ; SSE2-NEXT: pxor %xmm8, %xmm5
1545 ; SSE2-NEXT: pmaxsw %xmm3, %xmm5
1546 ; SSE2-NEXT: pxor %xmm8, %xmm1
1547 ; SSE2-NEXT: pmaxsw %xmm5, %xmm1
1548 ; SSE2-NEXT: pmaxsw %xmm4, %xmm1
1549 ; SSE2-NEXT: pmaxsw %xmm0, %xmm1
1550 ; SSE2-NEXT: movdqa %xmm1, %xmm0
1551 ; SSE2-NEXT: pxor %xmm8, %xmm0
1552 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
1553 ; SSE2-NEXT: pxor %xmm8, %xmm0
1554 ; SSE2-NEXT: pmaxsw %xmm1, %xmm0
1555 ; SSE2-NEXT: movdqa %xmm0, %xmm1
1556 ; SSE2-NEXT: pxor %xmm8, %xmm1
1557 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm1[1,1,2,3]
1558 ; SSE2-NEXT: pxor %xmm8, %xmm1
1559 ; SSE2-NEXT: pmaxsw %xmm0, %xmm1
1560 ; SSE2-NEXT: movdqa %xmm1, %xmm0
1561 ; SSE2-NEXT: pxor %xmm8, %xmm0
1562 ; SSE2-NEXT: psrld $16, %xmm0
1563 ; SSE2-NEXT: pxor %xmm8, %xmm0
1564 ; SSE2-NEXT: pmaxsw %xmm1, %xmm0
1565 ; SSE2-NEXT: movd %xmm0, %eax
1566 ; SSE2-NEXT: xorl $32768, %eax # imm = 0x8000
1567 ; SSE2-NEXT: # kill: def $ax killed $ax killed $eax
1568 ; SSE2-NEXT: retq
1569 ;
1570 ; SSE41-LABEL: test_v64i16:
1571 ; SSE41: # %bb.0:
1572 ; SSE41-NEXT: pmaxuw %xmm7, %xmm3
1573 ; SSE41-NEXT: pmaxuw %xmm5, %xmm3
1574 ; SSE41-NEXT: pmaxuw %xmm1, %xmm3
1575 ; SSE41-NEXT: pmaxuw %xmm6, %xmm2
1576 ; SSE41-NEXT: pmaxuw %xmm4, %xmm2
1577 ; SSE41-NEXT: pmaxuw %xmm3, %xmm2
1578 ; SSE41-NEXT: pmaxuw %xmm0, %xmm2
1579 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm0
1580 ; SSE41-NEXT: pxor %xmm2, %xmm0
1581 ; SSE41-NEXT: phminposuw %xmm0, %xmm0
1582 ; SSE41-NEXT: movd %xmm0, %eax
1583 ; SSE41-NEXT: notl %eax
1584 ; SSE41-NEXT: # kill: def $ax killed $ax killed $eax
1585 ; SSE41-NEXT: retq
1586 ;
1587 ; AVX1-LABEL: test_v64i16:
1588 ; AVX1: # %bb.0:
1589 ; AVX1-NEXT: vextractf128 $1, %ymm3, %xmm4
1590 ; AVX1-NEXT: vextractf128 $1, %ymm1, %xmm5
1591 ; AVX1-NEXT: vpmaxuw %xmm4, %xmm5, %xmm4
1592 ; AVX1-NEXT: vextractf128 $1, %ymm2, %xmm5
1593 ; AVX1-NEXT: vpmaxuw %xmm4, %xmm5, %xmm4
1594 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm5
1595 ; AVX1-NEXT: vpmaxuw %xmm4, %xmm5, %xmm4
1596 ; AVX1-NEXT: vpmaxuw %xmm3, %xmm1, %xmm1
1597 ; AVX1-NEXT: vpmaxuw %xmm1, %xmm2, %xmm1
1598 ; AVX1-NEXT: vpmaxuw %xmm4, %xmm1, %xmm1
1599 ; AVX1-NEXT: vpmaxuw %xmm1, %xmm0, %xmm0
1600 ; AVX1-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
1601 ; AVX1-NEXT: vpxor %xmm1, %xmm0, %xmm0
1602 ; AVX1-NEXT: vphminposuw %xmm0, %xmm0
1603 ; AVX1-NEXT: vmovd %xmm0, %eax
1604 ; AVX1-NEXT: notl %eax
1605 ; AVX1-NEXT: # kill: def $ax killed $ax killed $eax
1606 ; AVX1-NEXT: vzeroupper
1607 ; AVX1-NEXT: retq
1608 ;
1609 ; AVX2-LABEL: test_v64i16:
1610 ; AVX2: # %bb.0:
1611 ; AVX2-NEXT: vpmaxuw %ymm3, %ymm1, %ymm1
1612 ; AVX2-NEXT: vpmaxuw %ymm1, %ymm2, %ymm1
1613 ; AVX2-NEXT: vpmaxuw %ymm1, %ymm0, %ymm0
1614 ; AVX2-NEXT: vextracti128 $1, %ymm0, %xmm1
1615 ; AVX2-NEXT: vpmaxuw %xmm1, %xmm0, %xmm0
1616 ; AVX2-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
1617 ; AVX2-NEXT: vpxor %xmm1, %xmm0, %xmm0
1618 ; AVX2-NEXT: vphminposuw %xmm0, %xmm0
1619 ; AVX2-NEXT: vmovd %xmm0, %eax
1620 ; AVX2-NEXT: notl %eax
1621 ; AVX2-NEXT: # kill: def $ax killed $ax killed $eax
1622 ; AVX2-NEXT: vzeroupper
1623 ; AVX2-NEXT: retq
1624 ;
1625 ; AVX512BW-LABEL: test_v64i16:
1626 ; AVX512BW: # %bb.0:
1627 ; AVX512BW-NEXT: vpmaxuw %zmm1, %zmm0, %zmm0
1628 ; AVX512BW-NEXT: vextracti64x4 $1, %zmm0, %ymm1
1629 ; AVX512BW-NEXT: vpmaxuw %ymm1, %ymm0, %ymm0
1630 ; AVX512BW-NEXT: vextracti128 $1, %ymm0, %xmm1
1631 ; AVX512BW-NEXT: vpmaxuw %xmm1, %xmm0, %xmm0
1632 ; AVX512BW-NEXT: vpternlogq $15, %zmm0, %zmm0, %zmm0
1633 ; AVX512BW-NEXT: vphminposuw %xmm0, %xmm0
1634 ; AVX512BW-NEXT: vmovd %xmm0, %eax
1635 ; AVX512BW-NEXT: notl %eax
1636 ; AVX512BW-NEXT: # kill: def $ax killed $ax killed $eax
1637 ; AVX512BW-NEXT: vzeroupper
1638 ; AVX512BW-NEXT: retq
1639 ;
1640 ; AVX512VL-LABEL: test_v64i16:
1641 ; AVX512VL: # %bb.0:
1642 ; AVX512VL-NEXT: vpmaxuw %zmm1, %zmm0, %zmm0
1643 ; AVX512VL-NEXT: vextracti64x4 $1, %zmm0, %ymm1
1644 ; AVX512VL-NEXT: vpmaxuw %ymm1, %ymm0, %ymm0
1645 ; AVX512VL-NEXT: vextracti128 $1, %ymm0, %xmm1
1646 ; AVX512VL-NEXT: vpmaxuw %xmm1, %xmm0, %xmm0
1647 ; AVX512VL-NEXT: vpternlogq $15, %xmm0, %xmm0, %xmm0
1648 ; AVX512VL-NEXT: vphminposuw %xmm0, %xmm0
1649 ; AVX512VL-NEXT: vmovd %xmm0, %eax
1650 ; AVX512VL-NEXT: notl %eax
1651 ; AVX512VL-NEXT: # kill: def $ax killed $ax killed $eax
1652 ; AVX512VL-NEXT: vzeroupper
1653 ; AVX512VL-NEXT: retq
1654 %1 = call i16 @llvm.experimental.vector.reduce.umax.v64i16(<64 x i16> %a0)
1655 ret i16 %1
1656 }
1658 ;
1659 ; vXi8
1660 ;
1662 define i8 @test_v2i8(<2 x i8> %a0) {
1663 ; SSE2-LABEL: test_v2i8:
1664 ; SSE2: # %bb.0:
1665 ; SSE2-NEXT: movdqa %xmm0, %xmm1
1666 ; SSE2-NEXT: psrlw $8, %xmm1
1667 ; SSE2-NEXT: pmaxub %xmm0, %xmm1
1668 ; SSE2-NEXT: movd %xmm1, %eax
1669 ; SSE2-NEXT: # kill: def $al killed $al killed $eax
1670 ; SSE2-NEXT: retq
1671 ;
1672 ; SSE41-LABEL: test_v2i8:
1673 ; SSE41: # %bb.0:
1674 ; SSE41-NEXT: movdqa %xmm0, %xmm1
1675 ; SSE41-NEXT: psrlw $8, %xmm1
1676 ; SSE41-NEXT: pmaxub %xmm0, %xmm1
1677 ; SSE41-NEXT: pextrb $0, %xmm1, %eax
1678 ; SSE41-NEXT: # kill: def $al killed $al killed $eax
1679 ; SSE41-NEXT: retq
1680 ;
1681 ; AVX-LABEL: test_v2i8:
1682 ; AVX: # %bb.0:
1683 ; AVX-NEXT: vpsrlw $8, %xmm0, %xmm1
1684 ; AVX-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
1685 ; AVX-NEXT: vpextrb $0, %xmm0, %eax
1686 ; AVX-NEXT: # kill: def $al killed $al killed $eax
1687 ; AVX-NEXT: retq
1688 ;
1689 ; AVX512-LABEL: test_v2i8:
1690 ; AVX512: # %bb.0:
1691 ; AVX512-NEXT: vpsrlw $8, %xmm0, %xmm1
1692 ; AVX512-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
1693 ; AVX512-NEXT: vpextrb $0, %xmm0, %eax
1694 ; AVX512-NEXT: # kill: def $al killed $al killed $eax
1695 ; AVX512-NEXT: retq
1696 %1 = call i8 @llvm.experimental.vector.reduce.umax.v2i8(<2 x i8> %a0)
1697 ret i8 %1
1698 }
1700 define i8 @test_v4i8(<4 x i8> %a0) {
1701 ; SSE2-LABEL: test_v4i8:
1702 ; SSE2: # %bb.0:
1703 ; SSE2-NEXT: movdqa %xmm0, %xmm1
1704 ; SSE2-NEXT: psrld $16, %xmm1
1705 ; SSE2-NEXT: pmaxub %xmm0, %xmm1
1706 ; SSE2-NEXT: movdqa %xmm1, %xmm0
1707 ; SSE2-NEXT: psrlw $8, %xmm0
1708 ; SSE2-NEXT: pmaxub %xmm1, %xmm0
1709 ; SSE2-NEXT: movd %xmm0, %eax
1710 ; SSE2-NEXT: # kill: def $al killed $al killed $eax
1711 ; SSE2-NEXT: retq
1712 ;
1713 ; SSE41-LABEL: test_v4i8:
1714 ; SSE41: # %bb.0:
1715 ; SSE41-NEXT: movdqa %xmm0, %xmm1
1716 ; SSE41-NEXT: psrld $16, %xmm1
1717 ; SSE41-NEXT: pmaxub %xmm0, %xmm1
1718 ; SSE41-NEXT: movdqa %xmm1, %xmm0
1719 ; SSE41-NEXT: psrlw $8, %xmm0
1720 ; SSE41-NEXT: pmaxub %xmm1, %xmm0
1721 ; SSE41-NEXT: pextrb $0, %xmm0, %eax
1722 ; SSE41-NEXT: # kill: def $al killed $al killed $eax
1723 ; SSE41-NEXT: retq
1724 ;
1725 ; AVX-LABEL: test_v4i8:
1726 ; AVX: # %bb.0:
1727 ; AVX-NEXT: vpsrld $16, %xmm0, %xmm1
1728 ; AVX-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
1729 ; AVX-NEXT: vpsrlw $8, %xmm0, %xmm1
1730 ; AVX-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
1731 ; AVX-NEXT: vpextrb $0, %xmm0, %eax
1732 ; AVX-NEXT: # kill: def $al killed $al killed $eax
1733 ; AVX-NEXT: retq
1734 ;
1735 ; AVX512-LABEL: test_v4i8:
1736 ; AVX512: # %bb.0:
1737 ; AVX512-NEXT: vpsrld $16, %xmm0, %xmm1
1738 ; AVX512-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
1739 ; AVX512-NEXT: vpsrlw $8, %xmm0, %xmm1
1740 ; AVX512-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
1741 ; AVX512-NEXT: vpextrb $0, %xmm0, %eax
1742 ; AVX512-NEXT: # kill: def $al killed $al killed $eax
1743 ; AVX512-NEXT: retq
1744 %1 = call i8 @llvm.experimental.vector.reduce.umax.v4i8(<4 x i8> %a0)
1745 ret i8 %1
1746 }
1748 define i8 @test_v8i8(<8 x i8> %a0) {
1749 ; SSE2-LABEL: test_v8i8:
1750 ; SSE2: # %bb.0:
1751 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1752 ; SSE2-NEXT: pmaxub %xmm0, %xmm1
1753 ; SSE2-NEXT: movdqa %xmm1, %xmm0
1754 ; SSE2-NEXT: psrld $16, %xmm0
1755 ; SSE2-NEXT: pmaxub %xmm1, %xmm0
1756 ; SSE2-NEXT: movdqa %xmm0, %xmm1
1757 ; SSE2-NEXT: psrlw $8, %xmm1
1758 ; SSE2-NEXT: pmaxub %xmm0, %xmm1
1759 ; SSE2-NEXT: movd %xmm1, %eax
1760 ; SSE2-NEXT: # kill: def $al killed $al killed $eax
1761 ; SSE2-NEXT: retq
1762 ;
1763 ; SSE41-LABEL: test_v8i8:
1764 ; SSE41: # %bb.0:
1765 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1766 ; SSE41-NEXT: pmaxub %xmm0, %xmm1
1767 ; SSE41-NEXT: movdqa %xmm1, %xmm0
1768 ; SSE41-NEXT: psrld $16, %xmm0
1769 ; SSE41-NEXT: pmaxub %xmm1, %xmm0
1770 ; SSE41-NEXT: movdqa %xmm0, %xmm1
1771 ; SSE41-NEXT: psrlw $8, %xmm1
1772 ; SSE41-NEXT: pmaxub %xmm0, %xmm1
1773 ; SSE41-NEXT: pextrb $0, %xmm1, %eax
1774 ; SSE41-NEXT: # kill: def $al killed $al killed $eax
1775 ; SSE41-NEXT: retq
1776 ;
1777 ; AVX-LABEL: test_v8i8:
1778 ; AVX: # %bb.0:
1779 ; AVX-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1780 ; AVX-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
1781 ; AVX-NEXT: vpsrld $16, %xmm0, %xmm1
1782 ; AVX-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
1783 ; AVX-NEXT: vpsrlw $8, %xmm0, %xmm1
1784 ; AVX-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
1785 ; AVX-NEXT: vpextrb $0, %xmm0, %eax
1786 ; AVX-NEXT: # kill: def $al killed $al killed $eax
1787 ; AVX-NEXT: retq
1788 ;
1789 ; AVX512-LABEL: test_v8i8:
1790 ; AVX512: # %bb.0:
1791 ; AVX512-NEXT: vpshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1792 ; AVX512-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
1793 ; AVX512-NEXT: vpsrld $16, %xmm0, %xmm1
1794 ; AVX512-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
1795 ; AVX512-NEXT: vpsrlw $8, %xmm0, %xmm1
1796 ; AVX512-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
1797 ; AVX512-NEXT: vpextrb $0, %xmm0, %eax
1798 ; AVX512-NEXT: # kill: def $al killed $al killed $eax
1799 ; AVX512-NEXT: retq
1800 %1 = call i8 @llvm.experimental.vector.reduce.umax.v8i8(<8 x i8> %a0)
1801 ret i8 %1
1802 }
1804 define i8 @test_v16i8(<16 x i8> %a0) {
1805 ; SSE2-LABEL: test_v16i8:
1806 ; SSE2: # %bb.0:
1807 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1808 ; SSE2-NEXT: pmaxub %xmm0, %xmm1
1809 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
1810 ; SSE2-NEXT: pmaxub %xmm1, %xmm0
1811 ; SSE2-NEXT: movdqa %xmm0, %xmm1
1812 ; SSE2-NEXT: psrld $16, %xmm1
1813 ; SSE2-NEXT: pmaxub %xmm0, %xmm1
1814 ; SSE2-NEXT: movdqa %xmm1, %xmm0
1815 ; SSE2-NEXT: psrlw $8, %xmm0
1816 ; SSE2-NEXT: pmaxub %xmm1, %xmm0
1817 ; SSE2-NEXT: movd %xmm0, %eax
1818 ; SSE2-NEXT: # kill: def $al killed $al killed $eax
1819 ; SSE2-NEXT: retq
1820 ;
1821 ; SSE41-LABEL: test_v16i8:
1822 ; SSE41: # %bb.0:
1823 ; SSE41-NEXT: pcmpeqd %xmm1, %xmm1
1824 ; SSE41-NEXT: pxor %xmm0, %xmm1
1825 ; SSE41-NEXT: movdqa %xmm1, %xmm0
1826 ; SSE41-NEXT: psrlw $8, %xmm0
1827 ; SSE41-NEXT: pminub %xmm1, %xmm0
1828 ; SSE41-NEXT: phminposuw %xmm0, %xmm0
1829 ; SSE41-NEXT: pextrb $0, %xmm0, %eax
1830 ; SSE41-NEXT: notb %al
1831 ; SSE41-NEXT: # kill: def $al killed $al killed $eax
1832 ; SSE41-NEXT: retq
1833 ;
1834 ; AVX-LABEL: test_v16i8:
1835 ; AVX: # %bb.0:
1836 ; AVX-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
1837 ; AVX-NEXT: vpxor %xmm1, %xmm0, %xmm0
1838 ; AVX-NEXT: vpsrlw $8, %xmm0, %xmm1
1839 ; AVX-NEXT: vpminub %xmm1, %xmm0, %xmm0
1840 ; AVX-NEXT: vphminposuw %xmm0, %xmm0
1841 ; AVX-NEXT: vpextrb $0, %xmm0, %eax
1842 ; AVX-NEXT: notb %al
1843 ; AVX-NEXT: # kill: def $al killed $al killed $eax
1844 ; AVX-NEXT: retq
1845 ;
1846 ; AVX512BW-LABEL: test_v16i8:
1847 ; AVX512BW: # %bb.0:
1848 ; AVX512BW-NEXT: # kill: def $xmm0 killed $xmm0 def $zmm0
1849 ; AVX512BW-NEXT: vpternlogq $15, %zmm0, %zmm0, %zmm0
1850 ; AVX512BW-NEXT: vpsrlw $8, %xmm0, %xmm1
1851 ; AVX512BW-NEXT: vpminub %xmm1, %xmm0, %xmm0
1852 ; AVX512BW-NEXT: vphminposuw %xmm0, %xmm0
1853 ; AVX512BW-NEXT: vpextrb $0, %xmm0, %eax
1854 ; AVX512BW-NEXT: notb %al
1855 ; AVX512BW-NEXT: # kill: def $al killed $al killed $eax
1856 ; AVX512BW-NEXT: vzeroupper
1857 ; AVX512BW-NEXT: retq
1858 ;
1859 ; AVX512VL-LABEL: test_v16i8:
1860 ; AVX512VL: # %bb.0:
1861 ; AVX512VL-NEXT: vpternlogq $15, %xmm0, %xmm0, %xmm0
1862 ; AVX512VL-NEXT: vpsrlw $8, %xmm0, %xmm1
1863 ; AVX512VL-NEXT: vpminub %xmm1, %xmm0, %xmm0
1864 ; AVX512VL-NEXT: vphminposuw %xmm0, %xmm0
1865 ; AVX512VL-NEXT: vpextrb $0, %xmm0, %eax
1866 ; AVX512VL-NEXT: notb %al
1867 ; AVX512VL-NEXT: # kill: def $al killed $al killed $eax
1868 ; AVX512VL-NEXT: retq
1869 %1 = call i8 @llvm.experimental.vector.reduce.umax.v16i8(<16 x i8> %a0)
1870 ret i8 %1
1871 }
1873 define i8 @test_v32i8(<32 x i8> %a0) {
1874 ; SSE2-LABEL: test_v32i8:
1875 ; SSE2: # %bb.0:
1876 ; SSE2-NEXT: pmaxub %xmm1, %xmm0
1877 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[2,3,0,1]
1878 ; SSE2-NEXT: pmaxub %xmm0, %xmm1
1879 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,2,3]
1880 ; SSE2-NEXT: pmaxub %xmm1, %xmm0
1881 ; SSE2-NEXT: movdqa %xmm0, %xmm1
1882 ; SSE2-NEXT: psrld $16, %xmm1
1883 ; SSE2-NEXT: pmaxub %xmm0, %xmm1
1884 ; SSE2-NEXT: movdqa %xmm1, %xmm0
1885 ; SSE2-NEXT: psrlw $8, %xmm0
1886 ; SSE2-NEXT: pmaxub %xmm1, %xmm0
1887 ; SSE2-NEXT: movd %xmm0, %eax
1888 ; SSE2-NEXT: # kill: def $al killed $al killed $eax
1889 ; SSE2-NEXT: retq
1890 ;
1891 ; SSE41-LABEL: test_v32i8:
1892 ; SSE41: # %bb.0:
1893 ; SSE41-NEXT: pmaxub %xmm1, %xmm0
1894 ; SSE41-NEXT: pcmpeqd %xmm1, %xmm1
1895 ; SSE41-NEXT: pxor %xmm0, %xmm1
1896 ; SSE41-NEXT: movdqa %xmm1, %xmm0
1897 ; SSE41-NEXT: psrlw $8, %xmm0
1898 ; SSE41-NEXT: pminub %xmm1, %xmm0
1899 ; SSE41-NEXT: phminposuw %xmm0, %xmm0
1900 ; SSE41-NEXT: pextrb $0, %xmm0, %eax
1901 ; SSE41-NEXT: notb %al
1902 ; SSE41-NEXT: # kill: def $al killed $al killed $eax
1903 ; SSE41-NEXT: retq
1904 ;
1905 ; AVX1-LABEL: test_v32i8:
1906 ; AVX1: # %bb.0:
1907 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm1
1908 ; AVX1-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
1909 ; AVX1-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
1910 ; AVX1-NEXT: vpxor %xmm1, %xmm0, %xmm0
1911 ; AVX1-NEXT: vpsrlw $8, %xmm0, %xmm1
1912 ; AVX1-NEXT: vpminub %xmm1, %xmm0, %xmm0
1913 ; AVX1-NEXT: vphminposuw %xmm0, %xmm0
1914 ; AVX1-NEXT: vpextrb $0, %xmm0, %eax
1915 ; AVX1-NEXT: notb %al
1916 ; AVX1-NEXT: # kill: def $al killed $al killed $eax
1917 ; AVX1-NEXT: vzeroupper
1918 ; AVX1-NEXT: retq
1919 ;
1920 ; AVX2-LABEL: test_v32i8:
1921 ; AVX2: # %bb.0:
1922 ; AVX2-NEXT: vextracti128 $1, %ymm0, %xmm1
1923 ; AVX2-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
1924 ; AVX2-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
1925 ; AVX2-NEXT: vpxor %xmm1, %xmm0, %xmm0
1926 ; AVX2-NEXT: vpsrlw $8, %xmm0, %xmm1
1927 ; AVX2-NEXT: vpminub %xmm1, %xmm0, %xmm0
1928 ; AVX2-NEXT: vphminposuw %xmm0, %xmm0
1929 ; AVX2-NEXT: vpextrb $0, %xmm0, %eax
1930 ; AVX2-NEXT: notb %al
1931 ; AVX2-NEXT: # kill: def $al killed $al killed $eax
1932 ; AVX2-NEXT: vzeroupper
1933 ; AVX2-NEXT: retq
1934 ;
1935 ; AVX512BW-LABEL: test_v32i8:
1936 ; AVX512BW: # %bb.0:
1937 ; AVX512BW-NEXT: vextracti128 $1, %ymm0, %xmm1
1938 ; AVX512BW-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
1939 ; AVX512BW-NEXT: vpternlogq $15, %zmm0, %zmm0, %zmm0
1940 ; AVX512BW-NEXT: vpsrlw $8, %xmm0, %xmm1
1941 ; AVX512BW-NEXT: vpminub %xmm1, %xmm0, %xmm0
1942 ; AVX512BW-NEXT: vphminposuw %xmm0, %xmm0
1943 ; AVX512BW-NEXT: vpextrb $0, %xmm0, %eax
1944 ; AVX512BW-NEXT: notb %al
1945 ; AVX512BW-NEXT: # kill: def $al killed $al killed $eax
1946 ; AVX512BW-NEXT: vzeroupper
1947 ; AVX512BW-NEXT: retq
1948 ;
1949 ; AVX512VL-LABEL: test_v32i8:
1950 ; AVX512VL: # %bb.0:
1951 ; AVX512VL-NEXT: vextracti128 $1, %ymm0, %xmm1
1952 ; AVX512VL-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
1953 ; AVX512VL-NEXT: vpternlogq $15, %xmm0, %xmm0, %xmm0
1954 ; AVX512VL-NEXT: vpsrlw $8, %xmm0, %xmm1
1955 ; AVX512VL-NEXT: vpminub %xmm1, %xmm0, %xmm0
1956 ; AVX512VL-NEXT: vphminposuw %xmm0, %xmm0
1957 ; AVX512VL-NEXT: vpextrb $0, %xmm0, %eax
1958 ; AVX512VL-NEXT: notb %al
1959 ; AVX512VL-NEXT: # kill: def $al killed $al killed $eax
1960 ; AVX512VL-NEXT: vzeroupper
1961 ; AVX512VL-NEXT: retq
1962 %1 = call i8 @llvm.experimental.vector.reduce.umax.v32i8(<32 x i8> %a0)
1963 ret i8 %1
1964 }
1966 define i8 @test_v64i8(<64 x i8> %a0) {
1967 ; SSE2-LABEL: test_v64i8:
1968 ; SSE2: # %bb.0:
1969 ; SSE2-NEXT: pmaxub %xmm3, %xmm1
1970 ; SSE2-NEXT: pmaxub %xmm2, %xmm1
1971 ; SSE2-NEXT: pmaxub %xmm0, %xmm1
1972 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm1[2,3,0,1]
1973 ; SSE2-NEXT: pmaxub %xmm1, %xmm0
1974 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
1975 ; SSE2-NEXT: pmaxub %xmm0, %xmm1
1976 ; SSE2-NEXT: movdqa %xmm1, %xmm0
1977 ; SSE2-NEXT: psrld $16, %xmm0
1978 ; SSE2-NEXT: pmaxub %xmm1, %xmm0
1979 ; SSE2-NEXT: movdqa %xmm0, %xmm1
1980 ; SSE2-NEXT: psrlw $8, %xmm1
1981 ; SSE2-NEXT: pmaxub %xmm0, %xmm1
1982 ; SSE2-NEXT: movd %xmm1, %eax
1983 ; SSE2-NEXT: # kill: def $al killed $al killed $eax
1984 ; SSE2-NEXT: retq
1985 ;
1986 ; SSE41-LABEL: test_v64i8:
1987 ; SSE41: # %bb.0:
1988 ; SSE41-NEXT: pmaxub %xmm3, %xmm1
1989 ; SSE41-NEXT: pmaxub %xmm2, %xmm1
1990 ; SSE41-NEXT: pmaxub %xmm0, %xmm1
1991 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm0
1992 ; SSE41-NEXT: pxor %xmm1, %xmm0
1993 ; SSE41-NEXT: movdqa %xmm0, %xmm1
1994 ; SSE41-NEXT: psrlw $8, %xmm1
1995 ; SSE41-NEXT: pminub %xmm0, %xmm1
1996 ; SSE41-NEXT: phminposuw %xmm1, %xmm0
1997 ; SSE41-NEXT: pextrb $0, %xmm0, %eax
1998 ; SSE41-NEXT: notb %al
1999 ; SSE41-NEXT: # kill: def $al killed $al killed $eax
2000 ; SSE41-NEXT: retq
2001 ;
2002 ; AVX1-LABEL: test_v64i8:
2003 ; AVX1: # %bb.0:
2004 ; AVX1-NEXT: vextractf128 $1, %ymm1, %xmm2
2005 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm3
2006 ; AVX1-NEXT: vpmaxub %xmm2, %xmm3, %xmm2
2007 ; AVX1-NEXT: vpmaxub %xmm2, %xmm1, %xmm1
2008 ; AVX1-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
2009 ; AVX1-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
2010 ; AVX1-NEXT: vpxor %xmm1, %xmm0, %xmm0
2011 ; AVX1-NEXT: vpsrlw $8, %xmm0, %xmm1
2012 ; AVX1-NEXT: vpminub %xmm1, %xmm0, %xmm0
2013 ; AVX1-NEXT: vphminposuw %xmm0, %xmm0
2014 ; AVX1-NEXT: vpextrb $0, %xmm0, %eax
2015 ; AVX1-NEXT: notb %al
2016 ; AVX1-NEXT: # kill: def $al killed $al killed $eax
2017 ; AVX1-NEXT: vzeroupper
2018 ; AVX1-NEXT: retq
2019 ;
2020 ; AVX2-LABEL: test_v64i8:
2021 ; AVX2: # %bb.0:
2022 ; AVX2-NEXT: vpmaxub %ymm1, %ymm0, %ymm0
2023 ; AVX2-NEXT: vextracti128 $1, %ymm0, %xmm1
2024 ; AVX2-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
2025 ; AVX2-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
2026 ; AVX2-NEXT: vpxor %xmm1, %xmm0, %xmm0
2027 ; AVX2-NEXT: vpsrlw $8, %xmm0, %xmm1
2028 ; AVX2-NEXT: vpminub %xmm1, %xmm0, %xmm0
2029 ; AVX2-NEXT: vphminposuw %xmm0, %xmm0
2030 ; AVX2-NEXT: vpextrb $0, %xmm0, %eax
2031 ; AVX2-NEXT: notb %al
2032 ; AVX2-NEXT: # kill: def $al killed $al killed $eax
2033 ; AVX2-NEXT: vzeroupper
2034 ; AVX2-NEXT: retq
2035 ;
2036 ; AVX512BW-LABEL: test_v64i8:
2037 ; AVX512BW: # %bb.0:
2038 ; AVX512BW-NEXT: vextracti64x4 $1, %zmm0, %ymm1
2039 ; AVX512BW-NEXT: vpmaxub %ymm1, %ymm0, %ymm0
2040 ; AVX512BW-NEXT: vextracti128 $1, %ymm0, %xmm1
2041 ; AVX512BW-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
2042 ; AVX512BW-NEXT: vpternlogq $15, %zmm0, %zmm0, %zmm0
2043 ; AVX512BW-NEXT: vpsrlw $8, %xmm0, %xmm1
2044 ; AVX512BW-NEXT: vpminub %xmm1, %xmm0, %xmm0
2045 ; AVX512BW-NEXT: vphminposuw %xmm0, %xmm0
2046 ; AVX512BW-NEXT: vpextrb $0, %xmm0, %eax
2047 ; AVX512BW-NEXT: notb %al
2048 ; AVX512BW-NEXT: # kill: def $al killed $al killed $eax
2049 ; AVX512BW-NEXT: vzeroupper
2050 ; AVX512BW-NEXT: retq
2051 ;
2052 ; AVX512VL-LABEL: test_v64i8:
2053 ; AVX512VL: # %bb.0:
2054 ; AVX512VL-NEXT: vextracti64x4 $1, %zmm0, %ymm1
2055 ; AVX512VL-NEXT: vpmaxub %ymm1, %ymm0, %ymm0
2056 ; AVX512VL-NEXT: vextracti128 $1, %ymm0, %xmm1
2057 ; AVX512VL-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
2058 ; AVX512VL-NEXT: vpternlogq $15, %xmm0, %xmm0, %xmm0
2059 ; AVX512VL-NEXT: vpsrlw $8, %xmm0, %xmm1
2060 ; AVX512VL-NEXT: vpminub %xmm1, %xmm0, %xmm0
2061 ; AVX512VL-NEXT: vphminposuw %xmm0, %xmm0
2062 ; AVX512VL-NEXT: vpextrb $0, %xmm0, %eax
2063 ; AVX512VL-NEXT: notb %al
2064 ; AVX512VL-NEXT: # kill: def $al killed $al killed $eax
2065 ; AVX512VL-NEXT: vzeroupper
2066 ; AVX512VL-NEXT: retq
2067 %1 = call i8 @llvm.experimental.vector.reduce.umax.v64i8(<64 x i8> %a0)
2068 ret i8 %1
2069 }
2071 define i8 @test_v128i8(<128 x i8> %a0) {
2072 ; SSE2-LABEL: test_v128i8:
2073 ; SSE2: # %bb.0:
2074 ; SSE2-NEXT: pmaxub %xmm6, %xmm2
2075 ; SSE2-NEXT: pmaxub %xmm7, %xmm3
2076 ; SSE2-NEXT: pmaxub %xmm5, %xmm3
2077 ; SSE2-NEXT: pmaxub %xmm1, %xmm3
2078 ; SSE2-NEXT: pmaxub %xmm4, %xmm2
2079 ; SSE2-NEXT: pmaxub %xmm3, %xmm2
2080 ; SSE2-NEXT: pmaxub %xmm0, %xmm2
2081 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm2[2,3,0,1]
2082 ; SSE2-NEXT: pmaxub %xmm2, %xmm0
2083 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,2,3]
2084 ; SSE2-NEXT: pmaxub %xmm0, %xmm1
2085 ; SSE2-NEXT: movdqa %xmm1, %xmm0
2086 ; SSE2-NEXT: psrld $16, %xmm0
2087 ; SSE2-NEXT: pmaxub %xmm1, %xmm0
2088 ; SSE2-NEXT: movdqa %xmm0, %xmm1
2089 ; SSE2-NEXT: psrlw $8, %xmm1
2090 ; SSE2-NEXT: pmaxub %xmm0, %xmm1
2091 ; SSE2-NEXT: movd %xmm1, %eax
2092 ; SSE2-NEXT: # kill: def $al killed $al killed $eax
2093 ; SSE2-NEXT: retq
2094 ;
2095 ; SSE41-LABEL: test_v128i8:
2096 ; SSE41: # %bb.0:
2097 ; SSE41-NEXT: pmaxub %xmm7, %xmm3
2098 ; SSE41-NEXT: pmaxub %xmm5, %xmm3
2099 ; SSE41-NEXT: pmaxub %xmm1, %xmm3
2100 ; SSE41-NEXT: pmaxub %xmm6, %xmm2
2101 ; SSE41-NEXT: pmaxub %xmm4, %xmm2
2102 ; SSE41-NEXT: pmaxub %xmm3, %xmm2
2103 ; SSE41-NEXT: pmaxub %xmm0, %xmm2
2104 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm0
2105 ; SSE41-NEXT: pxor %xmm2, %xmm0
2106 ; SSE41-NEXT: movdqa %xmm0, %xmm1
2107 ; SSE41-NEXT: psrlw $8, %xmm1
2108 ; SSE41-NEXT: pminub %xmm0, %xmm1
2109 ; SSE41-NEXT: phminposuw %xmm1, %xmm0
2110 ; SSE41-NEXT: pextrb $0, %xmm0, %eax
2111 ; SSE41-NEXT: notb %al
2112 ; SSE41-NEXT: # kill: def $al killed $al killed $eax
2113 ; SSE41-NEXT: retq
2114 ;
2115 ; AVX1-LABEL: test_v128i8:
2116 ; AVX1: # %bb.0:
2117 ; AVX1-NEXT: vextractf128 $1, %ymm3, %xmm4
2118 ; AVX1-NEXT: vextractf128 $1, %ymm1, %xmm5
2119 ; AVX1-NEXT: vpmaxub %xmm4, %xmm5, %xmm4
2120 ; AVX1-NEXT: vextractf128 $1, %ymm2, %xmm5
2121 ; AVX1-NEXT: vpmaxub %xmm4, %xmm5, %xmm4
2122 ; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm5
2123 ; AVX1-NEXT: vpmaxub %xmm4, %xmm5, %xmm4
2124 ; AVX1-NEXT: vpmaxub %xmm3, %xmm1, %xmm1
2125 ; AVX1-NEXT: vpmaxub %xmm1, %xmm2, %xmm1
2126 ; AVX1-NEXT: vpmaxub %xmm4, %xmm1, %xmm1
2127 ; AVX1-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
2128 ; AVX1-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
2129 ; AVX1-NEXT: vpxor %xmm1, %xmm0, %xmm0
2130 ; AVX1-NEXT: vpsrlw $8, %xmm0, %xmm1
2131 ; AVX1-NEXT: vpminub %xmm1, %xmm0, %xmm0
2132 ; AVX1-NEXT: vphminposuw %xmm0, %xmm0
2133 ; AVX1-NEXT: vpextrb $0, %xmm0, %eax
2134 ; AVX1-NEXT: notb %al
2135 ; AVX1-NEXT: # kill: def $al killed $al killed $eax
2136 ; AVX1-NEXT: vzeroupper
2137 ; AVX1-NEXT: retq
2138 ;
2139 ; AVX2-LABEL: test_v128i8:
2140 ; AVX2: # %bb.0:
2141 ; AVX2-NEXT: vpmaxub %ymm3, %ymm1, %ymm1
2142 ; AVX2-NEXT: vpmaxub %ymm1, %ymm2, %ymm1
2143 ; AVX2-NEXT: vpmaxub %ymm1, %ymm0, %ymm0
2144 ; AVX2-NEXT: vextracti128 $1, %ymm0, %xmm1
2145 ; AVX2-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
2146 ; AVX2-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
2147 ; AVX2-NEXT: vpxor %xmm1, %xmm0, %xmm0
2148 ; AVX2-NEXT: vpsrlw $8, %xmm0, %xmm1
2149 ; AVX2-NEXT: vpminub %xmm1, %xmm0, %xmm0
2150 ; AVX2-NEXT: vphminposuw %xmm0, %xmm0
2151 ; AVX2-NEXT: vpextrb $0, %xmm0, %eax
2152 ; AVX2-NEXT: notb %al
2153 ; AVX2-NEXT: # kill: def $al killed $al killed $eax
2154 ; AVX2-NEXT: vzeroupper
2155 ; AVX2-NEXT: retq
2156 ;
2157 ; AVX512BW-LABEL: test_v128i8:
2158 ; AVX512BW: # %bb.0:
2159 ; AVX512BW-NEXT: vpmaxub %zmm1, %zmm0, %zmm0
2160 ; AVX512BW-NEXT: vextracti64x4 $1, %zmm0, %ymm1
2161 ; AVX512BW-NEXT: vpmaxub %ymm1, %ymm0, %ymm0
2162 ; AVX512BW-NEXT: vextracti128 $1, %ymm0, %xmm1
2163 ; AVX512BW-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
2164 ; AVX512BW-NEXT: vpternlogq $15, %zmm0, %zmm0, %zmm0
2165 ; AVX512BW-NEXT: vpsrlw $8, %xmm0, %xmm1
2166 ; AVX512BW-NEXT: vpminub %xmm1, %xmm0, %xmm0
2167 ; AVX512BW-NEXT: vphminposuw %xmm0, %xmm0
2168 ; AVX512BW-NEXT: vpextrb $0, %xmm0, %eax
2169 ; AVX512BW-NEXT: notb %al
2170 ; AVX512BW-NEXT: # kill: def $al killed $al killed $eax
2171 ; AVX512BW-NEXT: vzeroupper
2172 ; AVX512BW-NEXT: retq
2173 ;
2174 ; AVX512VL-LABEL: test_v128i8:
2175 ; AVX512VL: # %bb.0:
2176 ; AVX512VL-NEXT: vpmaxub %zmm1, %zmm0, %zmm0
2177 ; AVX512VL-NEXT: vextracti64x4 $1, %zmm0, %ymm1
2178 ; AVX512VL-NEXT: vpmaxub %ymm1, %ymm0, %ymm0
2179 ; AVX512VL-NEXT: vextracti128 $1, %ymm0, %xmm1
2180 ; AVX512VL-NEXT: vpmaxub %xmm1, %xmm0, %xmm0
2181 ; AVX512VL-NEXT: vpternlogq $15, %xmm0, %xmm0, %xmm0
2182 ; AVX512VL-NEXT: vpsrlw $8, %xmm0, %xmm1
2183 ; AVX512VL-NEXT: vpminub %xmm1, %xmm0, %xmm0
2184 ; AVX512VL-NEXT: vphminposuw %xmm0, %xmm0
2185 ; AVX512VL-NEXT: vpextrb $0, %xmm0, %eax
2186 ; AVX512VL-NEXT: notb %al
2187 ; AVX512VL-NEXT: # kill: def $al killed $al killed $eax
2188 ; AVX512VL-NEXT: vzeroupper
2189 ; AVX512VL-NEXT: retq
2190 %1 = call i8 @llvm.experimental.vector.reduce.umax.v128i8(<128 x i8> %a0)
2191 ret i8 %1
2192 }
2194 declare i64 @llvm.experimental.vector.reduce.umax.v2i64(<2 x i64>)
2195 declare i64 @llvm.experimental.vector.reduce.umax.v4i64(<4 x i64>)
2196 declare i64 @llvm.experimental.vector.reduce.umax.v8i64(<8 x i64>)
2197 declare i64 @llvm.experimental.vector.reduce.umax.v16i64(<16 x i64>)
2199 declare i32 @llvm.experimental.vector.reduce.umax.v2i32(<2 x i32>)
2200 declare i32 @llvm.experimental.vector.reduce.umax.v4i32(<4 x i32>)
2201 declare i32 @llvm.experimental.vector.reduce.umax.v8i32(<8 x i32>)
2202 declare i32 @llvm.experimental.vector.reduce.umax.v16i32(<16 x i32>)
2203 declare i32 @llvm.experimental.vector.reduce.umax.v32i32(<32 x i32>)
2205 declare i16 @llvm.experimental.vector.reduce.umax.v2i16(<2 x i16>)
2206 declare i16 @llvm.experimental.vector.reduce.umax.v4i16(<4 x i16>)
2207 declare i16 @llvm.experimental.vector.reduce.umax.v8i16(<8 x i16>)
2208 declare i16 @llvm.experimental.vector.reduce.umax.v16i16(<16 x i16>)
2209 declare i16 @llvm.experimental.vector.reduce.umax.v32i16(<32 x i16>)
2210 declare i16 @llvm.experimental.vector.reduce.umax.v64i16(<64 x i16>)
2212 declare i8 @llvm.experimental.vector.reduce.umax.v2i8(<2 x i8>)
2213 declare i8 @llvm.experimental.vector.reduce.umax.v4i8(<4 x i8>)
2214 declare i8 @llvm.experimental.vector.reduce.umax.v8i8(<8 x i8>)
2215 declare i8 @llvm.experimental.vector.reduce.umax.v16i8(<16 x i8>)
2216 declare i8 @llvm.experimental.vector.reduce.umax.v32i8(<32 x i8>)
2217 declare i8 @llvm.experimental.vector.reduce.umax.v64i8(<64 x i8>)
2218 declare i8 @llvm.experimental.vector.reduce.umax.v128i8(<128 x i8>)