1 ; NOTE: Assertions have been autogenerated by utils/update_llc_test_checks.py
2 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse2 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE2
3 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse4.1 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE41
4 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+sse4.2 | FileCheck %s --check-prefix=ALL --check-prefix=SSE --check-prefix=SSE42
5 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx | FileCheck %s --check-prefix=ALL --check-prefix=AVX --check-prefix=AVX1
6 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx2 | FileCheck %s --check-prefix=ALL --check-prefix=AVX --check-prefix=AVX2
7 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx,+xop | FileCheck %s --check-prefix=ALL --check-prefix=XOP --check-prefix=XOPAVX1
8 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx2,+xop | FileCheck %s --check-prefix=ALL --check-prefix=XOP --check-prefix=XOPAVX2
9 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx512f | FileCheck %s --check-prefix=ALL --check-prefix=AVX --check-prefix=AVX512 --check-prefix=AVX512F
10 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mattr=+avx512bw | FileCheck %s --check-prefix=ALL --check-prefix=AVX --check-prefix=AVX512 --check-prefix=AVX512BW
16 define <2 x i64> @eq_v2i64(<2 x i64> %a, <2 x i64> %b) nounwind {
17 ; SSE2-LABEL: eq_v2i64:
19 ; SSE2-NEXT: pcmpeqd %xmm1, %xmm0
20 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,0,3,2]
21 ; SSE2-NEXT: pand %xmm1, %xmm0
24 ; SSE41-LABEL: eq_v2i64:
26 ; SSE41-NEXT: pcmpeqq %xmm1, %xmm0
29 ; SSE42-LABEL: eq_v2i64:
31 ; SSE42-NEXT: pcmpeqq %xmm1, %xmm0
34 ; AVX-LABEL: eq_v2i64:
36 ; AVX-NEXT: vpcmpeqq %xmm1, %xmm0, %xmm0
39 ; XOP-LABEL: eq_v2i64:
41 ; XOP-NEXT: vpcomeqq %xmm1, %xmm0, %xmm0
43 %1 = icmp eq <2 x i64> %a, %b
44 %2 = sext <2 x i1> %1 to <2 x i64>
48 define <4 x i32> @eq_v4i32(<4 x i32> %a, <4 x i32> %b) nounwind {
49 ; SSE-LABEL: eq_v4i32:
51 ; SSE-NEXT: pcmpeqd %xmm1, %xmm0
54 ; AVX-LABEL: eq_v4i32:
56 ; AVX-NEXT: vpcmpeqd %xmm1, %xmm0, %xmm0
59 ; XOP-LABEL: eq_v4i32:
61 ; XOP-NEXT: vpcomeqd %xmm1, %xmm0, %xmm0
63 %1 = icmp eq <4 x i32> %a, %b
64 %2 = sext <4 x i1> %1 to <4 x i32>
68 define <8 x i16> @eq_v8i16(<8 x i16> %a, <8 x i16> %b) nounwind {
69 ; SSE-LABEL: eq_v8i16:
71 ; SSE-NEXT: pcmpeqw %xmm1, %xmm0
74 ; AVX-LABEL: eq_v8i16:
76 ; AVX-NEXT: vpcmpeqw %xmm1, %xmm0, %xmm0
79 ; XOP-LABEL: eq_v8i16:
81 ; XOP-NEXT: vpcomeqw %xmm1, %xmm0, %xmm0
83 %1 = icmp eq <8 x i16> %a, %b
84 %2 = sext <8 x i1> %1 to <8 x i16>
88 define <16 x i8> @eq_v16i8(<16 x i8> %a, <16 x i8> %b) nounwind {
89 ; SSE-LABEL: eq_v16i8:
91 ; SSE-NEXT: pcmpeqb %xmm1, %xmm0
94 ; AVX-LABEL: eq_v16i8:
96 ; AVX-NEXT: vpcmpeqb %xmm1, %xmm0, %xmm0
99 ; XOP-LABEL: eq_v16i8:
101 ; XOP-NEXT: vpcomeqb %xmm1, %xmm0, %xmm0
103 %1 = icmp eq <16 x i8> %a, %b
104 %2 = sext <16 x i1> %1 to <16 x i8>
112 define <2 x i64> @ne_v2i64(<2 x i64> %a, <2 x i64> %b) nounwind {
113 ; SSE2-LABEL: ne_v2i64:
115 ; SSE2-NEXT: pcmpeqd %xmm1, %xmm0
116 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,0,3,2]
117 ; SSE2-NEXT: pand %xmm1, %xmm0
118 ; SSE2-NEXT: pcmpeqd %xmm1, %xmm1
119 ; SSE2-NEXT: pxor %xmm1, %xmm0
122 ; SSE41-LABEL: ne_v2i64:
124 ; SSE41-NEXT: pcmpeqq %xmm1, %xmm0
125 ; SSE41-NEXT: pcmpeqd %xmm1, %xmm1
126 ; SSE41-NEXT: pxor %xmm1, %xmm0
129 ; SSE42-LABEL: ne_v2i64:
131 ; SSE42-NEXT: pcmpeqq %xmm1, %xmm0
132 ; SSE42-NEXT: pcmpeqd %xmm1, %xmm1
133 ; SSE42-NEXT: pxor %xmm1, %xmm0
136 ; AVX1-LABEL: ne_v2i64:
138 ; AVX1-NEXT: vpcmpeqq %xmm1, %xmm0, %xmm0
139 ; AVX1-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
140 ; AVX1-NEXT: vpxor %xmm1, %xmm0, %xmm0
143 ; AVX2-LABEL: ne_v2i64:
145 ; AVX2-NEXT: vpcmpeqq %xmm1, %xmm0, %xmm0
146 ; AVX2-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
147 ; AVX2-NEXT: vpxor %xmm1, %xmm0, %xmm0
150 ; XOP-LABEL: ne_v2i64:
152 ; XOP-NEXT: vpcomneqq %xmm1, %xmm0, %xmm0
155 ; AVX512-LABEL: ne_v2i64:
157 ; AVX512-NEXT: vpcmpeqq %xmm1, %xmm0, %xmm0
158 ; AVX512-NEXT: vpternlogq $15, %zmm0, %zmm0, %zmm0
159 ; AVX512-NEXT: # kill: def $xmm0 killed $xmm0 killed $zmm0
160 ; AVX512-NEXT: vzeroupper
162 %1 = icmp ne <2 x i64> %a, %b
163 %2 = sext <2 x i1> %1 to <2 x i64>
167 define <4 x i32> @ne_v4i32(<4 x i32> %a, <4 x i32> %b) nounwind {
168 ; SSE-LABEL: ne_v4i32:
170 ; SSE-NEXT: pcmpeqd %xmm1, %xmm0
171 ; SSE-NEXT: pcmpeqd %xmm1, %xmm1
172 ; SSE-NEXT: pxor %xmm1, %xmm0
175 ; AVX1-LABEL: ne_v4i32:
177 ; AVX1-NEXT: vpcmpeqd %xmm1, %xmm0, %xmm0
178 ; AVX1-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
179 ; AVX1-NEXT: vpxor %xmm1, %xmm0, %xmm0
182 ; AVX2-LABEL: ne_v4i32:
184 ; AVX2-NEXT: vpcmpeqd %xmm1, %xmm0, %xmm0
185 ; AVX2-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
186 ; AVX2-NEXT: vpxor %xmm1, %xmm0, %xmm0
189 ; XOP-LABEL: ne_v4i32:
191 ; XOP-NEXT: vpcomneqd %xmm1, %xmm0, %xmm0
194 ; AVX512-LABEL: ne_v4i32:
196 ; AVX512-NEXT: vpcmpeqd %xmm1, %xmm0, %xmm0
197 ; AVX512-NEXT: vpternlogq $15, %zmm0, %zmm0, %zmm0
198 ; AVX512-NEXT: # kill: def $xmm0 killed $xmm0 killed $zmm0
199 ; AVX512-NEXT: vzeroupper
201 %1 = icmp ne <4 x i32> %a, %b
202 %2 = sext <4 x i1> %1 to <4 x i32>
206 define <8 x i16> @ne_v8i16(<8 x i16> %a, <8 x i16> %b) nounwind {
207 ; SSE-LABEL: ne_v8i16:
209 ; SSE-NEXT: pcmpeqw %xmm1, %xmm0
210 ; SSE-NEXT: pcmpeqd %xmm1, %xmm1
211 ; SSE-NEXT: pxor %xmm1, %xmm0
214 ; AVX1-LABEL: ne_v8i16:
216 ; AVX1-NEXT: vpcmpeqw %xmm1, %xmm0, %xmm0
217 ; AVX1-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
218 ; AVX1-NEXT: vpxor %xmm1, %xmm0, %xmm0
221 ; AVX2-LABEL: ne_v8i16:
223 ; AVX2-NEXT: vpcmpeqw %xmm1, %xmm0, %xmm0
224 ; AVX2-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
225 ; AVX2-NEXT: vpxor %xmm1, %xmm0, %xmm0
228 ; XOP-LABEL: ne_v8i16:
230 ; XOP-NEXT: vpcomneqw %xmm1, %xmm0, %xmm0
233 ; AVX512-LABEL: ne_v8i16:
235 ; AVX512-NEXT: vpcmpeqw %xmm1, %xmm0, %xmm0
236 ; AVX512-NEXT: vpternlogq $15, %zmm0, %zmm0, %zmm0
237 ; AVX512-NEXT: # kill: def $xmm0 killed $xmm0 killed $zmm0
238 ; AVX512-NEXT: vzeroupper
240 %1 = icmp ne <8 x i16> %a, %b
241 %2 = sext <8 x i1> %1 to <8 x i16>
245 define <16 x i8> @ne_v16i8(<16 x i8> %a, <16 x i8> %b) nounwind {
246 ; SSE-LABEL: ne_v16i8:
248 ; SSE-NEXT: pcmpeqb %xmm1, %xmm0
249 ; SSE-NEXT: pcmpeqd %xmm1, %xmm1
250 ; SSE-NEXT: pxor %xmm1, %xmm0
253 ; AVX1-LABEL: ne_v16i8:
255 ; AVX1-NEXT: vpcmpeqb %xmm1, %xmm0, %xmm0
256 ; AVX1-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
257 ; AVX1-NEXT: vpxor %xmm1, %xmm0, %xmm0
260 ; AVX2-LABEL: ne_v16i8:
262 ; AVX2-NEXT: vpcmpeqb %xmm1, %xmm0, %xmm0
263 ; AVX2-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
264 ; AVX2-NEXT: vpxor %xmm1, %xmm0, %xmm0
267 ; XOP-LABEL: ne_v16i8:
269 ; XOP-NEXT: vpcomneqb %xmm1, %xmm0, %xmm0
272 ; AVX512-LABEL: ne_v16i8:
274 ; AVX512-NEXT: vpcmpeqb %xmm1, %xmm0, %xmm0
275 ; AVX512-NEXT: vpternlogq $15, %zmm0, %zmm0, %zmm0
276 ; AVX512-NEXT: # kill: def $xmm0 killed $xmm0 killed $zmm0
277 ; AVX512-NEXT: vzeroupper
279 %1 = icmp ne <16 x i8> %a, %b
280 %2 = sext <16 x i1> %1 to <16 x i8>
285 ; Greater Than Or Equal
288 define <2 x i64> @ge_v2i64(<2 x i64> %a, <2 x i64> %b) nounwind {
289 ; SSE2-LABEL: ge_v2i64:
291 ; SSE2-NEXT: movdqa {{.*#+}} xmm2 = [2147483648,2147483648]
292 ; SSE2-NEXT: pxor %xmm2, %xmm0
293 ; SSE2-NEXT: pxor %xmm2, %xmm1
294 ; SSE2-NEXT: movdqa %xmm1, %xmm2
295 ; SSE2-NEXT: pcmpgtd %xmm0, %xmm2
296 ; SSE2-NEXT: pshufd {{.*#+}} xmm3 = xmm2[0,0,2,2]
297 ; SSE2-NEXT: pcmpeqd %xmm0, %xmm1
298 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,3,3]
299 ; SSE2-NEXT: pand %xmm3, %xmm0
300 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm2[1,1,3,3]
301 ; SSE2-NEXT: por %xmm0, %xmm1
302 ; SSE2-NEXT: pcmpeqd %xmm0, %xmm0
303 ; SSE2-NEXT: pxor %xmm1, %xmm0
306 ; SSE41-LABEL: ge_v2i64:
308 ; SSE41-NEXT: movdqa {{.*#+}} xmm2 = [2147483648,2147483648]
309 ; SSE41-NEXT: pxor %xmm2, %xmm0
310 ; SSE41-NEXT: pxor %xmm2, %xmm1
311 ; SSE41-NEXT: movdqa %xmm1, %xmm2
312 ; SSE41-NEXT: pcmpgtd %xmm0, %xmm2
313 ; SSE41-NEXT: pshufd {{.*#+}} xmm3 = xmm2[0,0,2,2]
314 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm1
315 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm1[1,1,3,3]
316 ; SSE41-NEXT: pand %xmm3, %xmm0
317 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm2[1,1,3,3]
318 ; SSE41-NEXT: por %xmm0, %xmm1
319 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm0
320 ; SSE41-NEXT: pxor %xmm1, %xmm0
323 ; SSE42-LABEL: ge_v2i64:
325 ; SSE42-NEXT: pcmpgtq %xmm0, %xmm1
326 ; SSE42-NEXT: pcmpeqd %xmm0, %xmm0
327 ; SSE42-NEXT: pxor %xmm1, %xmm0
330 ; AVX1-LABEL: ge_v2i64:
332 ; AVX1-NEXT: vpcmpgtq %xmm0, %xmm1, %xmm0
333 ; AVX1-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
334 ; AVX1-NEXT: vpxor %xmm1, %xmm0, %xmm0
337 ; AVX2-LABEL: ge_v2i64:
339 ; AVX2-NEXT: vpcmpgtq %xmm0, %xmm1, %xmm0
340 ; AVX2-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
341 ; AVX2-NEXT: vpxor %xmm1, %xmm0, %xmm0
344 ; XOP-LABEL: ge_v2i64:
346 ; XOP-NEXT: vpcomgeq %xmm1, %xmm0, %xmm0
349 ; AVX512-LABEL: ge_v2i64:
351 ; AVX512-NEXT: vpcmpgtq %xmm0, %xmm1, %xmm0
352 ; AVX512-NEXT: vpternlogq $15, %zmm0, %zmm0, %zmm0
353 ; AVX512-NEXT: # kill: def $xmm0 killed $xmm0 killed $zmm0
354 ; AVX512-NEXT: vzeroupper
356 %1 = icmp sge <2 x i64> %a, %b
357 %2 = sext <2 x i1> %1 to <2 x i64>
361 define <4 x i32> @ge_v4i32(<4 x i32> %a, <4 x i32> %b) nounwind {
362 ; SSE-LABEL: ge_v4i32:
364 ; SSE-NEXT: pcmpgtd %xmm0, %xmm1
365 ; SSE-NEXT: pcmpeqd %xmm0, %xmm0
366 ; SSE-NEXT: pxor %xmm1, %xmm0
369 ; AVX1-LABEL: ge_v4i32:
371 ; AVX1-NEXT: vpcmpgtd %xmm0, %xmm1, %xmm0
372 ; AVX1-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
373 ; AVX1-NEXT: vpxor %xmm1, %xmm0, %xmm0
376 ; AVX2-LABEL: ge_v4i32:
378 ; AVX2-NEXT: vpcmpgtd %xmm0, %xmm1, %xmm0
379 ; AVX2-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
380 ; AVX2-NEXT: vpxor %xmm1, %xmm0, %xmm0
383 ; XOP-LABEL: ge_v4i32:
385 ; XOP-NEXT: vpcomged %xmm1, %xmm0, %xmm0
388 ; AVX512-LABEL: ge_v4i32:
390 ; AVX512-NEXT: vpcmpgtd %xmm0, %xmm1, %xmm0
391 ; AVX512-NEXT: vpternlogq $15, %zmm0, %zmm0, %zmm0
392 ; AVX512-NEXT: # kill: def $xmm0 killed $xmm0 killed $zmm0
393 ; AVX512-NEXT: vzeroupper
395 %1 = icmp sge <4 x i32> %a, %b
396 %2 = sext <4 x i1> %1 to <4 x i32>
400 define <8 x i16> @ge_v8i16(<8 x i16> %a, <8 x i16> %b) nounwind {
401 ; SSE-LABEL: ge_v8i16:
403 ; SSE-NEXT: pcmpgtw %xmm0, %xmm1
404 ; SSE-NEXT: pcmpeqd %xmm0, %xmm0
405 ; SSE-NEXT: pxor %xmm1, %xmm0
408 ; AVX1-LABEL: ge_v8i16:
410 ; AVX1-NEXT: vpcmpgtw %xmm0, %xmm1, %xmm0
411 ; AVX1-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
412 ; AVX1-NEXT: vpxor %xmm1, %xmm0, %xmm0
415 ; AVX2-LABEL: ge_v8i16:
417 ; AVX2-NEXT: vpcmpgtw %xmm0, %xmm1, %xmm0
418 ; AVX2-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
419 ; AVX2-NEXT: vpxor %xmm1, %xmm0, %xmm0
422 ; XOP-LABEL: ge_v8i16:
424 ; XOP-NEXT: vpcomgew %xmm1, %xmm0, %xmm0
427 ; AVX512-LABEL: ge_v8i16:
429 ; AVX512-NEXT: vpcmpgtw %xmm0, %xmm1, %xmm0
430 ; AVX512-NEXT: vpternlogq $15, %zmm0, %zmm0, %zmm0
431 ; AVX512-NEXT: # kill: def $xmm0 killed $xmm0 killed $zmm0
432 ; AVX512-NEXT: vzeroupper
434 %1 = icmp sge <8 x i16> %a, %b
435 %2 = sext <8 x i1> %1 to <8 x i16>
439 define <16 x i8> @ge_v16i8(<16 x i8> %a, <16 x i8> %b) nounwind {
440 ; SSE-LABEL: ge_v16i8:
442 ; SSE-NEXT: pcmpgtb %xmm0, %xmm1
443 ; SSE-NEXT: pcmpeqd %xmm0, %xmm0
444 ; SSE-NEXT: pxor %xmm1, %xmm0
447 ; AVX1-LABEL: ge_v16i8:
449 ; AVX1-NEXT: vpcmpgtb %xmm0, %xmm1, %xmm0
450 ; AVX1-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
451 ; AVX1-NEXT: vpxor %xmm1, %xmm0, %xmm0
454 ; AVX2-LABEL: ge_v16i8:
456 ; AVX2-NEXT: vpcmpgtb %xmm0, %xmm1, %xmm0
457 ; AVX2-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
458 ; AVX2-NEXT: vpxor %xmm1, %xmm0, %xmm0
461 ; XOP-LABEL: ge_v16i8:
463 ; XOP-NEXT: vpcomgeb %xmm1, %xmm0, %xmm0
466 ; AVX512-LABEL: ge_v16i8:
468 ; AVX512-NEXT: vpcmpgtb %xmm0, %xmm1, %xmm0
469 ; AVX512-NEXT: vpternlogq $15, %zmm0, %zmm0, %zmm0
470 ; AVX512-NEXT: # kill: def $xmm0 killed $xmm0 killed $zmm0
471 ; AVX512-NEXT: vzeroupper
473 %1 = icmp sge <16 x i8> %a, %b
474 %2 = sext <16 x i1> %1 to <16 x i8>
482 define <2 x i64> @gt_v2i64(<2 x i64> %a, <2 x i64> %b) nounwind {
483 ; SSE2-LABEL: gt_v2i64:
485 ; SSE2-NEXT: movdqa {{.*#+}} xmm2 = [2147483648,2147483648]
486 ; SSE2-NEXT: pxor %xmm2, %xmm1
487 ; SSE2-NEXT: pxor %xmm2, %xmm0
488 ; SSE2-NEXT: movdqa %xmm0, %xmm2
489 ; SSE2-NEXT: pcmpgtd %xmm1, %xmm2
490 ; SSE2-NEXT: pshufd {{.*#+}} xmm3 = xmm2[0,0,2,2]
491 ; SSE2-NEXT: pcmpeqd %xmm1, %xmm0
492 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,3,3]
493 ; SSE2-NEXT: pand %xmm3, %xmm1
494 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm2[1,1,3,3]
495 ; SSE2-NEXT: por %xmm1, %xmm0
498 ; SSE41-LABEL: gt_v2i64:
500 ; SSE41-NEXT: movdqa {{.*#+}} xmm2 = [2147483648,2147483648]
501 ; SSE41-NEXT: pxor %xmm2, %xmm1
502 ; SSE41-NEXT: pxor %xmm2, %xmm0
503 ; SSE41-NEXT: movdqa %xmm0, %xmm2
504 ; SSE41-NEXT: pcmpgtd %xmm1, %xmm2
505 ; SSE41-NEXT: pshufd {{.*#+}} xmm3 = xmm2[0,0,2,2]
506 ; SSE41-NEXT: pcmpeqd %xmm1, %xmm0
507 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,1,3,3]
508 ; SSE41-NEXT: pand %xmm3, %xmm1
509 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm2[1,1,3,3]
510 ; SSE41-NEXT: por %xmm1, %xmm0
513 ; SSE42-LABEL: gt_v2i64:
515 ; SSE42-NEXT: pcmpgtq %xmm1, %xmm0
518 ; AVX-LABEL: gt_v2i64:
520 ; AVX-NEXT: vpcmpgtq %xmm1, %xmm0, %xmm0
523 ; XOP-LABEL: gt_v2i64:
525 ; XOP-NEXT: vpcomgtq %xmm1, %xmm0, %xmm0
527 %1 = icmp sgt <2 x i64> %a, %b
528 %2 = sext <2 x i1> %1 to <2 x i64>
532 define <4 x i32> @gt_v4i32(<4 x i32> %a, <4 x i32> %b) nounwind {
533 ; SSE-LABEL: gt_v4i32:
535 ; SSE-NEXT: pcmpgtd %xmm1, %xmm0
538 ; AVX-LABEL: gt_v4i32:
540 ; AVX-NEXT: vpcmpgtd %xmm1, %xmm0, %xmm0
543 ; XOP-LABEL: gt_v4i32:
545 ; XOP-NEXT: vpcomgtd %xmm1, %xmm0, %xmm0
547 %1 = icmp sgt <4 x i32> %a, %b
548 %2 = sext <4 x i1> %1 to <4 x i32>
552 define <8 x i16> @gt_v8i16(<8 x i16> %a, <8 x i16> %b) nounwind {
553 ; SSE-LABEL: gt_v8i16:
555 ; SSE-NEXT: pcmpgtw %xmm1, %xmm0
558 ; AVX-LABEL: gt_v8i16:
560 ; AVX-NEXT: vpcmpgtw %xmm1, %xmm0, %xmm0
563 ; XOP-LABEL: gt_v8i16:
565 ; XOP-NEXT: vpcomgtw %xmm1, %xmm0, %xmm0
567 %1 = icmp sgt <8 x i16> %a, %b
568 %2 = sext <8 x i1> %1 to <8 x i16>
572 define <16 x i8> @gt_v16i8(<16 x i8> %a, <16 x i8> %b) nounwind {
573 ; SSE-LABEL: gt_v16i8:
575 ; SSE-NEXT: pcmpgtb %xmm1, %xmm0
578 ; AVX-LABEL: gt_v16i8:
580 ; AVX-NEXT: vpcmpgtb %xmm1, %xmm0, %xmm0
583 ; XOP-LABEL: gt_v16i8:
585 ; XOP-NEXT: vpcomgtb %xmm1, %xmm0, %xmm0
587 %1 = icmp sgt <16 x i8> %a, %b
588 %2 = sext <16 x i1> %1 to <16 x i8>
596 define <2 x i64> @le_v2i64(<2 x i64> %a, <2 x i64> %b) nounwind {
597 ; SSE2-LABEL: le_v2i64:
599 ; SSE2-NEXT: movdqa {{.*#+}} xmm2 = [2147483648,2147483648]
600 ; SSE2-NEXT: pxor %xmm2, %xmm1
601 ; SSE2-NEXT: pxor %xmm2, %xmm0
602 ; SSE2-NEXT: movdqa %xmm0, %xmm2
603 ; SSE2-NEXT: pcmpgtd %xmm1, %xmm2
604 ; SSE2-NEXT: pshufd {{.*#+}} xmm3 = xmm2[0,0,2,2]
605 ; SSE2-NEXT: pcmpeqd %xmm1, %xmm0
606 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm0[1,1,3,3]
607 ; SSE2-NEXT: pand %xmm3, %xmm0
608 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm2[1,1,3,3]
609 ; SSE2-NEXT: por %xmm0, %xmm1
610 ; SSE2-NEXT: pcmpeqd %xmm0, %xmm0
611 ; SSE2-NEXT: pxor %xmm1, %xmm0
614 ; SSE41-LABEL: le_v2i64:
616 ; SSE41-NEXT: movdqa {{.*#+}} xmm2 = [2147483648,2147483648]
617 ; SSE41-NEXT: pxor %xmm2, %xmm1
618 ; SSE41-NEXT: pxor %xmm2, %xmm0
619 ; SSE41-NEXT: movdqa %xmm0, %xmm2
620 ; SSE41-NEXT: pcmpgtd %xmm1, %xmm2
621 ; SSE41-NEXT: pshufd {{.*#+}} xmm3 = xmm2[0,0,2,2]
622 ; SSE41-NEXT: pcmpeqd %xmm1, %xmm0
623 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm0[1,1,3,3]
624 ; SSE41-NEXT: pand %xmm3, %xmm0
625 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm2[1,1,3,3]
626 ; SSE41-NEXT: por %xmm0, %xmm1
627 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm0
628 ; SSE41-NEXT: pxor %xmm1, %xmm0
631 ; SSE42-LABEL: le_v2i64:
633 ; SSE42-NEXT: pcmpgtq %xmm1, %xmm0
634 ; SSE42-NEXT: pcmpeqd %xmm1, %xmm1
635 ; SSE42-NEXT: pxor %xmm1, %xmm0
638 ; AVX1-LABEL: le_v2i64:
640 ; AVX1-NEXT: vpcmpgtq %xmm1, %xmm0, %xmm0
641 ; AVX1-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
642 ; AVX1-NEXT: vpxor %xmm1, %xmm0, %xmm0
645 ; AVX2-LABEL: le_v2i64:
647 ; AVX2-NEXT: vpcmpgtq %xmm1, %xmm0, %xmm0
648 ; AVX2-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
649 ; AVX2-NEXT: vpxor %xmm1, %xmm0, %xmm0
652 ; XOP-LABEL: le_v2i64:
654 ; XOP-NEXT: vpcomleq %xmm1, %xmm0, %xmm0
657 ; AVX512-LABEL: le_v2i64:
659 ; AVX512-NEXT: vpcmpgtq %xmm1, %xmm0, %xmm0
660 ; AVX512-NEXT: vpternlogq $15, %zmm0, %zmm0, %zmm0
661 ; AVX512-NEXT: # kill: def $xmm0 killed $xmm0 killed $zmm0
662 ; AVX512-NEXT: vzeroupper
664 %1 = icmp sle <2 x i64> %a, %b
665 %2 = sext <2 x i1> %1 to <2 x i64>
669 define <4 x i32> @le_v4i32(<4 x i32> %a, <4 x i32> %b) nounwind {
670 ; SSE-LABEL: le_v4i32:
672 ; SSE-NEXT: pcmpgtd %xmm1, %xmm0
673 ; SSE-NEXT: pcmpeqd %xmm1, %xmm1
674 ; SSE-NEXT: pxor %xmm1, %xmm0
677 ; AVX1-LABEL: le_v4i32:
679 ; AVX1-NEXT: vpcmpgtd %xmm1, %xmm0, %xmm0
680 ; AVX1-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
681 ; AVX1-NEXT: vpxor %xmm1, %xmm0, %xmm0
684 ; AVX2-LABEL: le_v4i32:
686 ; AVX2-NEXT: vpcmpgtd %xmm1, %xmm0, %xmm0
687 ; AVX2-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
688 ; AVX2-NEXT: vpxor %xmm1, %xmm0, %xmm0
691 ; XOP-LABEL: le_v4i32:
693 ; XOP-NEXT: vpcomled %xmm1, %xmm0, %xmm0
696 ; AVX512-LABEL: le_v4i32:
698 ; AVX512-NEXT: vpcmpgtd %xmm1, %xmm0, %xmm0
699 ; AVX512-NEXT: vpternlogq $15, %zmm0, %zmm0, %zmm0
700 ; AVX512-NEXT: # kill: def $xmm0 killed $xmm0 killed $zmm0
701 ; AVX512-NEXT: vzeroupper
703 %1 = icmp sle <4 x i32> %a, %b
704 %2 = sext <4 x i1> %1 to <4 x i32>
708 define <8 x i16> @le_v8i16(<8 x i16> %a, <8 x i16> %b) nounwind {
709 ; SSE-LABEL: le_v8i16:
711 ; SSE-NEXT: pcmpgtw %xmm1, %xmm0
712 ; SSE-NEXT: pcmpeqd %xmm1, %xmm1
713 ; SSE-NEXT: pxor %xmm1, %xmm0
716 ; AVX1-LABEL: le_v8i16:
718 ; AVX1-NEXT: vpcmpgtw %xmm1, %xmm0, %xmm0
719 ; AVX1-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
720 ; AVX1-NEXT: vpxor %xmm1, %xmm0, %xmm0
723 ; AVX2-LABEL: le_v8i16:
725 ; AVX2-NEXT: vpcmpgtw %xmm1, %xmm0, %xmm0
726 ; AVX2-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
727 ; AVX2-NEXT: vpxor %xmm1, %xmm0, %xmm0
730 ; XOP-LABEL: le_v8i16:
732 ; XOP-NEXT: vpcomlew %xmm1, %xmm0, %xmm0
735 ; AVX512-LABEL: le_v8i16:
737 ; AVX512-NEXT: vpcmpgtw %xmm1, %xmm0, %xmm0
738 ; AVX512-NEXT: vpternlogq $15, %zmm0, %zmm0, %zmm0
739 ; AVX512-NEXT: # kill: def $xmm0 killed $xmm0 killed $zmm0
740 ; AVX512-NEXT: vzeroupper
742 %1 = icmp sle <8 x i16> %a, %b
743 %2 = sext <8 x i1> %1 to <8 x i16>
747 define <16 x i8> @le_v16i8(<16 x i8> %a, <16 x i8> %b) nounwind {
748 ; SSE-LABEL: le_v16i8:
750 ; SSE-NEXT: pcmpgtb %xmm1, %xmm0
751 ; SSE-NEXT: pcmpeqd %xmm1, %xmm1
752 ; SSE-NEXT: pxor %xmm1, %xmm0
755 ; AVX1-LABEL: le_v16i8:
757 ; AVX1-NEXT: vpcmpgtb %xmm1, %xmm0, %xmm0
758 ; AVX1-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
759 ; AVX1-NEXT: vpxor %xmm1, %xmm0, %xmm0
762 ; AVX2-LABEL: le_v16i8:
764 ; AVX2-NEXT: vpcmpgtb %xmm1, %xmm0, %xmm0
765 ; AVX2-NEXT: vpcmpeqd %xmm1, %xmm1, %xmm1
766 ; AVX2-NEXT: vpxor %xmm1, %xmm0, %xmm0
769 ; XOP-LABEL: le_v16i8:
771 ; XOP-NEXT: vpcomleb %xmm1, %xmm0, %xmm0
774 ; AVX512-LABEL: le_v16i8:
776 ; AVX512-NEXT: vpcmpgtb %xmm1, %xmm0, %xmm0
777 ; AVX512-NEXT: vpternlogq $15, %zmm0, %zmm0, %zmm0
778 ; AVX512-NEXT: # kill: def $xmm0 killed $xmm0 killed $zmm0
779 ; AVX512-NEXT: vzeroupper
781 %1 = icmp sle <16 x i8> %a, %b
782 %2 = sext <16 x i1> %1 to <16 x i8>
790 define <2 x i64> @lt_v2i64(<2 x i64> %a, <2 x i64> %b) nounwind {
791 ; SSE2-LABEL: lt_v2i64:
793 ; SSE2-NEXT: movdqa {{.*#+}} xmm2 = [2147483648,2147483648]
794 ; SSE2-NEXT: pxor %xmm2, %xmm0
795 ; SSE2-NEXT: pxor %xmm2, %xmm1
796 ; SSE2-NEXT: movdqa %xmm1, %xmm2
797 ; SSE2-NEXT: pcmpgtd %xmm0, %xmm2
798 ; SSE2-NEXT: pshufd {{.*#+}} xmm3 = xmm2[0,0,2,2]
799 ; SSE2-NEXT: pcmpeqd %xmm0, %xmm1
800 ; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm1[1,1,3,3]
801 ; SSE2-NEXT: pand %xmm3, %xmm1
802 ; SSE2-NEXT: pshufd {{.*#+}} xmm0 = xmm2[1,1,3,3]
803 ; SSE2-NEXT: por %xmm1, %xmm0
806 ; SSE41-LABEL: lt_v2i64:
808 ; SSE41-NEXT: movdqa {{.*#+}} xmm2 = [2147483648,2147483648]
809 ; SSE41-NEXT: pxor %xmm2, %xmm0
810 ; SSE41-NEXT: pxor %xmm2, %xmm1
811 ; SSE41-NEXT: movdqa %xmm1, %xmm2
812 ; SSE41-NEXT: pcmpgtd %xmm0, %xmm2
813 ; SSE41-NEXT: pshufd {{.*#+}} xmm3 = xmm2[0,0,2,2]
814 ; SSE41-NEXT: pcmpeqd %xmm0, %xmm1
815 ; SSE41-NEXT: pshufd {{.*#+}} xmm1 = xmm1[1,1,3,3]
816 ; SSE41-NEXT: pand %xmm3, %xmm1
817 ; SSE41-NEXT: pshufd {{.*#+}} xmm0 = xmm2[1,1,3,3]
818 ; SSE41-NEXT: por %xmm1, %xmm0
821 ; SSE42-LABEL: lt_v2i64:
823 ; SSE42-NEXT: pcmpgtq %xmm0, %xmm1
824 ; SSE42-NEXT: movdqa %xmm1, %xmm0
827 ; AVX-LABEL: lt_v2i64:
829 ; AVX-NEXT: vpcmpgtq %xmm0, %xmm1, %xmm0
832 ; XOP-LABEL: lt_v2i64:
834 ; XOP-NEXT: vpcomltq %xmm1, %xmm0, %xmm0
836 %1 = icmp slt <2 x i64> %a, %b
837 %2 = sext <2 x i1> %1 to <2 x i64>
841 define <4 x i32> @lt_v4i32(<4 x i32> %a, <4 x i32> %b) nounwind {
842 ; SSE-LABEL: lt_v4i32:
844 ; SSE-NEXT: pcmpgtd %xmm0, %xmm1
845 ; SSE-NEXT: movdqa %xmm1, %xmm0
848 ; AVX-LABEL: lt_v4i32:
850 ; AVX-NEXT: vpcmpgtd %xmm0, %xmm1, %xmm0
853 ; XOP-LABEL: lt_v4i32:
855 ; XOP-NEXT: vpcomltd %xmm1, %xmm0, %xmm0
857 %1 = icmp slt <4 x i32> %a, %b
858 %2 = sext <4 x i1> %1 to <4 x i32>
862 define <8 x i16> @lt_v8i16(<8 x i16> %a, <8 x i16> %b) nounwind {
863 ; SSE-LABEL: lt_v8i16:
865 ; SSE-NEXT: pcmpgtw %xmm0, %xmm1
866 ; SSE-NEXT: movdqa %xmm1, %xmm0
869 ; AVX-LABEL: lt_v8i16:
871 ; AVX-NEXT: vpcmpgtw %xmm0, %xmm1, %xmm0
874 ; XOP-LABEL: lt_v8i16:
876 ; XOP-NEXT: vpcomltw %xmm1, %xmm0, %xmm0
878 %1 = icmp slt <8 x i16> %a, %b
879 %2 = sext <8 x i1> %1 to <8 x i16>
883 define <16 x i8> @lt_v16i8(<16 x i8> %a, <16 x i8> %b) nounwind {
884 ; SSE-LABEL: lt_v16i8:
886 ; SSE-NEXT: pcmpgtb %xmm0, %xmm1
887 ; SSE-NEXT: movdqa %xmm1, %xmm0
890 ; AVX-LABEL: lt_v16i8:
892 ; AVX-NEXT: vpcmpgtb %xmm0, %xmm1, %xmm0
895 ; XOP-LABEL: lt_v16i8:
897 ; XOP-NEXT: vpcomltb %xmm1, %xmm0, %xmm0
899 %1 = icmp slt <16 x i8> %a, %b
900 %2 = sext <16 x i1> %1 to <16 x i8>