[ARM] MVE compare vector splat combine
[llvm-complete.git] / test / CodeGen / Thumb2 / mve-vcmpfz.ll
bloba75f89636b436c3730880e385f9f7eba23b30dc9
1 ; NOTE: Assertions have been autogenerated by utils/update_llc_test_checks.py
2 ; RUN: llc -mtriple=thumbv8.1m.main-arm-none-eabi -mattr=+mve,+fullfp16 -verify-machineinstrs %s -o - | FileCheck %s --check-prefix=CHECK --check-prefix=CHECK-MVE
3 ; RUN: llc -mtriple=thumbv8.1m.main-arm-none-eabi -mattr=+mve.fp -verify-machineinstrs %s -o - | FileCheck %s --check-prefix=CHECK --check-prefix=CHECK-MVEFP
5 define arm_aapcs_vfpcc <4 x float> @vcmp_oeq_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
6 ; CHECK-MVE-LABEL: vcmp_oeq_v4f32:
7 ; CHECK-MVE:       @ %bb.0: @ %entry
8 ; CHECK-MVE-NEXT:    vcmp.f32 s1, #0
9 ; CHECK-MVE-NEXT:    movs r1, #0
10 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
11 ; CHECK-MVE-NEXT:    it eq
12 ; CHECK-MVE-NEXT:    moveq r1, #1
13 ; CHECK-MVE-NEXT:    cmp r1, #0
14 ; CHECK-MVE-NEXT:    vcmp.f32 s0, #0
15 ; CHECK-MVE-NEXT:    it ne
16 ; CHECK-MVE-NEXT:    movne r1, #1
17 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
18 ; CHECK-MVE-NEXT:    mov.w r2, #0
19 ; CHECK-MVE-NEXT:    vcmp.f32 s3, #0
20 ; CHECK-MVE-NEXT:    it eq
21 ; CHECK-MVE-NEXT:    moveq r2, #1
22 ; CHECK-MVE-NEXT:    cmp r2, #0
23 ; CHECK-MVE-NEXT:    it ne
24 ; CHECK-MVE-NEXT:    movne r2, #1
25 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
26 ; CHECK-MVE-NEXT:    mov.w r3, #0
27 ; CHECK-MVE-NEXT:    vcmp.f32 s2, #0
28 ; CHECK-MVE-NEXT:    it eq
29 ; CHECK-MVE-NEXT:    moveq r3, #1
30 ; CHECK-MVE-NEXT:    cmp r3, #0
31 ; CHECK-MVE-NEXT:    it ne
32 ; CHECK-MVE-NEXT:    movne r3, #1
33 ; CHECK-MVE-NEXT:    movs r0, #0
34 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
35 ; CHECK-MVE-NEXT:    it eq
36 ; CHECK-MVE-NEXT:    moveq r0, #1
37 ; CHECK-MVE-NEXT:    cmp r0, #0
38 ; CHECK-MVE-NEXT:    it ne
39 ; CHECK-MVE-NEXT:    movne r0, #1
40 ; CHECK-MVE-NEXT:    cmp r3, #0
41 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
42 ; CHECK-MVE-NEXT:    cmp r0, #0
43 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
44 ; CHECK-MVE-NEXT:    cmp r1, #0
45 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
46 ; CHECK-MVE-NEXT:    cmp r2, #0
47 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
48 ; CHECK-MVE-NEXT:    bx lr
50 ; CHECK-MVEFP-LABEL: vcmp_oeq_v4f32:
51 ; CHECK-MVEFP:       @ %bb.0: @ %entry
52 ; CHECK-MVEFP-NEXT:    vcmp.f32 eq, q0, zr
53 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
54 ; CHECK-MVEFP-NEXT:    bx lr
55 entry:
56   %c = fcmp oeq <4 x float> %src, zeroinitializer
57   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
58   ret <4 x float> %s
61 define arm_aapcs_vfpcc <4 x float> @vcmp_one_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
62 ; CHECK-MVE-LABEL: vcmp_one_v4f32:
63 ; CHECK-MVE:       @ %bb.0: @ %entry
64 ; CHECK-MVE-NEXT:    vcmp.f32 s1, #0
65 ; CHECK-MVE-NEXT:    movs r1, #0
66 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
67 ; CHECK-MVE-NEXT:    vcmp.f32 s1, #0
68 ; CHECK-MVE-NEXT:    it mi
69 ; CHECK-MVE-NEXT:    movmi r1, #1
70 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
71 ; CHECK-MVE-NEXT:    it gt
72 ; CHECK-MVE-NEXT:    movgt r1, #1
73 ; CHECK-MVE-NEXT:    cmp r1, #0
74 ; CHECK-MVE-NEXT:    vcmp.f32 s0, #0
75 ; CHECK-MVE-NEXT:    mov.w r2, #0
76 ; CHECK-MVE-NEXT:    it ne
77 ; CHECK-MVE-NEXT:    movne r1, #1
78 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
79 ; CHECK-MVE-NEXT:    it mi
80 ; CHECK-MVE-NEXT:    movmi r2, #1
81 ; CHECK-MVE-NEXT:    vcmp.f32 s3, #0
82 ; CHECK-MVE-NEXT:    it gt
83 ; CHECK-MVE-NEXT:    movgt r2, #1
84 ; CHECK-MVE-NEXT:    cmp r2, #0
85 ; CHECK-MVE-NEXT:    mov.w r3, #0
86 ; CHECK-MVE-NEXT:    it ne
87 ; CHECK-MVE-NEXT:    movne r2, #1
88 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
89 ; CHECK-MVE-NEXT:    it mi
90 ; CHECK-MVE-NEXT:    movmi r3, #1
91 ; CHECK-MVE-NEXT:    it gt
92 ; CHECK-MVE-NEXT:    movgt r3, #1
93 ; CHECK-MVE-NEXT:    cmp r3, #0
94 ; CHECK-MVE-NEXT:    mov.w r0, #0
95 ; CHECK-MVE-NEXT:    vcmp.f32 s2, #0
96 ; CHECK-MVE-NEXT:    it ne
97 ; CHECK-MVE-NEXT:    movne r3, #1
98 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
99 ; CHECK-MVE-NEXT:    it mi
100 ; CHECK-MVE-NEXT:    movmi r0, #1
101 ; CHECK-MVE-NEXT:    it gt
102 ; CHECK-MVE-NEXT:    movgt r0, #1
103 ; CHECK-MVE-NEXT:    cmp r0, #0
104 ; CHECK-MVE-NEXT:    it ne
105 ; CHECK-MVE-NEXT:    movne r0, #1
106 ; CHECK-MVE-NEXT:    cmp r3, #0
107 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
108 ; CHECK-MVE-NEXT:    cmp r0, #0
109 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
110 ; CHECK-MVE-NEXT:    cmp r1, #0
111 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
112 ; CHECK-MVE-NEXT:    cmp r2, #0
113 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
114 ; CHECK-MVE-NEXT:    bx lr
116 ; CHECK-MVEFP-LABEL: vcmp_one_v4f32:
117 ; CHECK-MVEFP:       @ %bb.0: @ %entry
118 ; CHECK-MVEFP-NEXT:    vmov.i32 q3, #0x0
119 ; CHECK-MVEFP-NEXT:    movw r1, #65535
120 ; CHECK-MVEFP-NEXT:    vcmp.f32 le, q3, q0
121 ; CHECK-MVEFP-NEXT:    vpst
122 ; CHECK-MVEFP-NEXT:    vcmpt.f32 le, q0, q3
123 ; CHECK-MVEFP-NEXT:    vmrs r0, p0
124 ; CHECK-MVEFP-NEXT:    eors r0, r1
125 ; CHECK-MVEFP-NEXT:    vmsr p0, r0
126 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
127 ; CHECK-MVEFP-NEXT:    bx lr
128 entry:
129   %c = fcmp one <4 x float> %src, zeroinitializer
130   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
131   ret <4 x float> %s
134 define arm_aapcs_vfpcc <4 x float> @vcmp_ogt_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
135 ; CHECK-MVE-LABEL: vcmp_ogt_v4f32:
136 ; CHECK-MVE:       @ %bb.0: @ %entry
137 ; CHECK-MVE-NEXT:    vcmpe.f32 s1, #0
138 ; CHECK-MVE-NEXT:    movs r1, #0
139 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
140 ; CHECK-MVE-NEXT:    it gt
141 ; CHECK-MVE-NEXT:    movgt r1, #1
142 ; CHECK-MVE-NEXT:    cmp r1, #0
143 ; CHECK-MVE-NEXT:    vcmpe.f32 s0, #0
144 ; CHECK-MVE-NEXT:    it ne
145 ; CHECK-MVE-NEXT:    movne r1, #1
146 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
147 ; CHECK-MVE-NEXT:    mov.w r2, #0
148 ; CHECK-MVE-NEXT:    vcmpe.f32 s3, #0
149 ; CHECK-MVE-NEXT:    it gt
150 ; CHECK-MVE-NEXT:    movgt r2, #1
151 ; CHECK-MVE-NEXT:    cmp r2, #0
152 ; CHECK-MVE-NEXT:    it ne
153 ; CHECK-MVE-NEXT:    movne r2, #1
154 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
155 ; CHECK-MVE-NEXT:    mov.w r3, #0
156 ; CHECK-MVE-NEXT:    vcmpe.f32 s2, #0
157 ; CHECK-MVE-NEXT:    it gt
158 ; CHECK-MVE-NEXT:    movgt r3, #1
159 ; CHECK-MVE-NEXT:    cmp r3, #0
160 ; CHECK-MVE-NEXT:    it ne
161 ; CHECK-MVE-NEXT:    movne r3, #1
162 ; CHECK-MVE-NEXT:    movs r0, #0
163 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
164 ; CHECK-MVE-NEXT:    it gt
165 ; CHECK-MVE-NEXT:    movgt r0, #1
166 ; CHECK-MVE-NEXT:    cmp r0, #0
167 ; CHECK-MVE-NEXT:    it ne
168 ; CHECK-MVE-NEXT:    movne r0, #1
169 ; CHECK-MVE-NEXT:    cmp r3, #0
170 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
171 ; CHECK-MVE-NEXT:    cmp r0, #0
172 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
173 ; CHECK-MVE-NEXT:    cmp r1, #0
174 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
175 ; CHECK-MVE-NEXT:    cmp r2, #0
176 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
177 ; CHECK-MVE-NEXT:    bx lr
179 ; CHECK-MVEFP-LABEL: vcmp_ogt_v4f32:
180 ; CHECK-MVEFP:       @ %bb.0: @ %entry
181 ; CHECK-MVEFP-NEXT:    vcmp.f32 gt, q0, zr
182 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
183 ; CHECK-MVEFP-NEXT:    bx lr
184 entry:
185   %c = fcmp ogt <4 x float> %src, zeroinitializer
186   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
187   ret <4 x float> %s
190 define arm_aapcs_vfpcc <4 x float> @vcmp_oge_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
191 ; CHECK-MVE-LABEL: vcmp_oge_v4f32:
192 ; CHECK-MVE:       @ %bb.0: @ %entry
193 ; CHECK-MVE-NEXT:    vcmpe.f32 s1, #0
194 ; CHECK-MVE-NEXT:    movs r1, #0
195 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
196 ; CHECK-MVE-NEXT:    it ge
197 ; CHECK-MVE-NEXT:    movge r1, #1
198 ; CHECK-MVE-NEXT:    cmp r1, #0
199 ; CHECK-MVE-NEXT:    vcmpe.f32 s0, #0
200 ; CHECK-MVE-NEXT:    it ne
201 ; CHECK-MVE-NEXT:    movne r1, #1
202 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
203 ; CHECK-MVE-NEXT:    mov.w r2, #0
204 ; CHECK-MVE-NEXT:    vcmpe.f32 s3, #0
205 ; CHECK-MVE-NEXT:    it ge
206 ; CHECK-MVE-NEXT:    movge r2, #1
207 ; CHECK-MVE-NEXT:    cmp r2, #0
208 ; CHECK-MVE-NEXT:    it ne
209 ; CHECK-MVE-NEXT:    movne r2, #1
210 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
211 ; CHECK-MVE-NEXT:    mov.w r3, #0
212 ; CHECK-MVE-NEXT:    vcmpe.f32 s2, #0
213 ; CHECK-MVE-NEXT:    it ge
214 ; CHECK-MVE-NEXT:    movge r3, #1
215 ; CHECK-MVE-NEXT:    cmp r3, #0
216 ; CHECK-MVE-NEXT:    it ne
217 ; CHECK-MVE-NEXT:    movne r3, #1
218 ; CHECK-MVE-NEXT:    movs r0, #0
219 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
220 ; CHECK-MVE-NEXT:    it ge
221 ; CHECK-MVE-NEXT:    movge r0, #1
222 ; CHECK-MVE-NEXT:    cmp r0, #0
223 ; CHECK-MVE-NEXT:    it ne
224 ; CHECK-MVE-NEXT:    movne r0, #1
225 ; CHECK-MVE-NEXT:    cmp r3, #0
226 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
227 ; CHECK-MVE-NEXT:    cmp r0, #0
228 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
229 ; CHECK-MVE-NEXT:    cmp r1, #0
230 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
231 ; CHECK-MVE-NEXT:    cmp r2, #0
232 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
233 ; CHECK-MVE-NEXT:    bx lr
235 ; CHECK-MVEFP-LABEL: vcmp_oge_v4f32:
236 ; CHECK-MVEFP:       @ %bb.0: @ %entry
237 ; CHECK-MVEFP-NEXT:    vcmp.f32 ge, q0, zr
238 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
239 ; CHECK-MVEFP-NEXT:    bx lr
240 entry:
241   %c = fcmp oge <4 x float> %src, zeroinitializer
242   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
243   ret <4 x float> %s
246 define arm_aapcs_vfpcc <4 x float> @vcmp_olt_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
247 ; CHECK-MVE-LABEL: vcmp_olt_v4f32:
248 ; CHECK-MVE:       @ %bb.0: @ %entry
249 ; CHECK-MVE-NEXT:    vcmpe.f32 s1, #0
250 ; CHECK-MVE-NEXT:    movs r1, #0
251 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
252 ; CHECK-MVE-NEXT:    it mi
253 ; CHECK-MVE-NEXT:    movmi r1, #1
254 ; CHECK-MVE-NEXT:    cmp r1, #0
255 ; CHECK-MVE-NEXT:    vcmpe.f32 s0, #0
256 ; CHECK-MVE-NEXT:    it ne
257 ; CHECK-MVE-NEXT:    movne r1, #1
258 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
259 ; CHECK-MVE-NEXT:    mov.w r2, #0
260 ; CHECK-MVE-NEXT:    vcmpe.f32 s3, #0
261 ; CHECK-MVE-NEXT:    it mi
262 ; CHECK-MVE-NEXT:    movmi r2, #1
263 ; CHECK-MVE-NEXT:    cmp r2, #0
264 ; CHECK-MVE-NEXT:    it ne
265 ; CHECK-MVE-NEXT:    movne r2, #1
266 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
267 ; CHECK-MVE-NEXT:    mov.w r3, #0
268 ; CHECK-MVE-NEXT:    vcmpe.f32 s2, #0
269 ; CHECK-MVE-NEXT:    it mi
270 ; CHECK-MVE-NEXT:    movmi r3, #1
271 ; CHECK-MVE-NEXT:    cmp r3, #0
272 ; CHECK-MVE-NEXT:    it ne
273 ; CHECK-MVE-NEXT:    movne r3, #1
274 ; CHECK-MVE-NEXT:    movs r0, #0
275 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
276 ; CHECK-MVE-NEXT:    it mi
277 ; CHECK-MVE-NEXT:    movmi r0, #1
278 ; CHECK-MVE-NEXT:    cmp r0, #0
279 ; CHECK-MVE-NEXT:    it ne
280 ; CHECK-MVE-NEXT:    movne r0, #1
281 ; CHECK-MVE-NEXT:    cmp r3, #0
282 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
283 ; CHECK-MVE-NEXT:    cmp r0, #0
284 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
285 ; CHECK-MVE-NEXT:    cmp r1, #0
286 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
287 ; CHECK-MVE-NEXT:    cmp r2, #0
288 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
289 ; CHECK-MVE-NEXT:    bx lr
291 ; CHECK-MVEFP-LABEL: vcmp_olt_v4f32:
292 ; CHECK-MVEFP:       @ %bb.0: @ %entry
293 ; CHECK-MVEFP-NEXT:    vcmp.f32 lt, q0, zr
294 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
295 ; CHECK-MVEFP-NEXT:    bx lr
296 entry:
297   %c = fcmp olt <4 x float> %src, zeroinitializer
298   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
299   ret <4 x float> %s
302 define arm_aapcs_vfpcc <4 x float> @vcmp_ole_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
303 ; CHECK-MVE-LABEL: vcmp_ole_v4f32:
304 ; CHECK-MVE:       @ %bb.0: @ %entry
305 ; CHECK-MVE-NEXT:    vcmpe.f32 s1, #0
306 ; CHECK-MVE-NEXT:    movs r1, #0
307 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
308 ; CHECK-MVE-NEXT:    it ls
309 ; CHECK-MVE-NEXT:    movls r1, #1
310 ; CHECK-MVE-NEXT:    cmp r1, #0
311 ; CHECK-MVE-NEXT:    vcmpe.f32 s0, #0
312 ; CHECK-MVE-NEXT:    it ne
313 ; CHECK-MVE-NEXT:    movne r1, #1
314 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
315 ; CHECK-MVE-NEXT:    mov.w r2, #0
316 ; CHECK-MVE-NEXT:    vcmpe.f32 s3, #0
317 ; CHECK-MVE-NEXT:    it ls
318 ; CHECK-MVE-NEXT:    movls r2, #1
319 ; CHECK-MVE-NEXT:    cmp r2, #0
320 ; CHECK-MVE-NEXT:    it ne
321 ; CHECK-MVE-NEXT:    movne r2, #1
322 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
323 ; CHECK-MVE-NEXT:    mov.w r3, #0
324 ; CHECK-MVE-NEXT:    vcmpe.f32 s2, #0
325 ; CHECK-MVE-NEXT:    it ls
326 ; CHECK-MVE-NEXT:    movls r3, #1
327 ; CHECK-MVE-NEXT:    cmp r3, #0
328 ; CHECK-MVE-NEXT:    it ne
329 ; CHECK-MVE-NEXT:    movne r3, #1
330 ; CHECK-MVE-NEXT:    movs r0, #0
331 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
332 ; CHECK-MVE-NEXT:    it ls
333 ; CHECK-MVE-NEXT:    movls r0, #1
334 ; CHECK-MVE-NEXT:    cmp r0, #0
335 ; CHECK-MVE-NEXT:    it ne
336 ; CHECK-MVE-NEXT:    movne r0, #1
337 ; CHECK-MVE-NEXT:    cmp r3, #0
338 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
339 ; CHECK-MVE-NEXT:    cmp r0, #0
340 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
341 ; CHECK-MVE-NEXT:    cmp r1, #0
342 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
343 ; CHECK-MVE-NEXT:    cmp r2, #0
344 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
345 ; CHECK-MVE-NEXT:    bx lr
347 ; CHECK-MVEFP-LABEL: vcmp_ole_v4f32:
348 ; CHECK-MVEFP:       @ %bb.0: @ %entry
349 ; CHECK-MVEFP-NEXT:    vcmp.f32 le, q0, zr
350 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
351 ; CHECK-MVEFP-NEXT:    bx lr
352 entry:
353   %c = fcmp ole <4 x float> %src, zeroinitializer
354   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
355   ret <4 x float> %s
358 define arm_aapcs_vfpcc <4 x float> @vcmp_ueq_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
359 ; CHECK-MVE-LABEL: vcmp_ueq_v4f32:
360 ; CHECK-MVE:       @ %bb.0: @ %entry
361 ; CHECK-MVE-NEXT:    vcmp.f32 s1, #0
362 ; CHECK-MVE-NEXT:    movs r1, #0
363 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
364 ; CHECK-MVE-NEXT:    vcmp.f32 s1, #0
365 ; CHECK-MVE-NEXT:    it eq
366 ; CHECK-MVE-NEXT:    moveq r1, #1
367 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
368 ; CHECK-MVE-NEXT:    it vs
369 ; CHECK-MVE-NEXT:    movvs r1, #1
370 ; CHECK-MVE-NEXT:    cmp r1, #0
371 ; CHECK-MVE-NEXT:    vcmp.f32 s0, #0
372 ; CHECK-MVE-NEXT:    mov.w r2, #0
373 ; CHECK-MVE-NEXT:    it ne
374 ; CHECK-MVE-NEXT:    movne r1, #1
375 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
376 ; CHECK-MVE-NEXT:    it eq
377 ; CHECK-MVE-NEXT:    moveq r2, #1
378 ; CHECK-MVE-NEXT:    vcmp.f32 s3, #0
379 ; CHECK-MVE-NEXT:    it vs
380 ; CHECK-MVE-NEXT:    movvs r2, #1
381 ; CHECK-MVE-NEXT:    cmp r2, #0
382 ; CHECK-MVE-NEXT:    mov.w r3, #0
383 ; CHECK-MVE-NEXT:    it ne
384 ; CHECK-MVE-NEXT:    movne r2, #1
385 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
386 ; CHECK-MVE-NEXT:    it eq
387 ; CHECK-MVE-NEXT:    moveq r3, #1
388 ; CHECK-MVE-NEXT:    it vs
389 ; CHECK-MVE-NEXT:    movvs r3, #1
390 ; CHECK-MVE-NEXT:    cmp r3, #0
391 ; CHECK-MVE-NEXT:    mov.w r0, #0
392 ; CHECK-MVE-NEXT:    vcmp.f32 s2, #0
393 ; CHECK-MVE-NEXT:    it ne
394 ; CHECK-MVE-NEXT:    movne r3, #1
395 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
396 ; CHECK-MVE-NEXT:    it eq
397 ; CHECK-MVE-NEXT:    moveq r0, #1
398 ; CHECK-MVE-NEXT:    it vs
399 ; CHECK-MVE-NEXT:    movvs r0, #1
400 ; CHECK-MVE-NEXT:    cmp r0, #0
401 ; CHECK-MVE-NEXT:    it ne
402 ; CHECK-MVE-NEXT:    movne r0, #1
403 ; CHECK-MVE-NEXT:    cmp r3, #0
404 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
405 ; CHECK-MVE-NEXT:    cmp r0, #0
406 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
407 ; CHECK-MVE-NEXT:    cmp r1, #0
408 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
409 ; CHECK-MVE-NEXT:    cmp r2, #0
410 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
411 ; CHECK-MVE-NEXT:    bx lr
413 ; CHECK-MVEFP-LABEL: vcmp_ueq_v4f32:
414 ; CHECK-MVEFP:       @ %bb.0: @ %entry
415 ; CHECK-MVEFP-NEXT:    vmov.i32 q3, #0x0
416 ; CHECK-MVEFP-NEXT:    vcmp.f32 le, q3, q0
417 ; CHECK-MVEFP-NEXT:    vpst
418 ; CHECK-MVEFP-NEXT:    vcmpt.f32 le, q0, q3
419 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
420 ; CHECK-MVEFP-NEXT:    bx lr
421 entry:
422   %c = fcmp ueq <4 x float> %src, zeroinitializer
423   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
424   ret <4 x float> %s
427 define arm_aapcs_vfpcc <4 x float> @vcmp_une_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
428 ; CHECK-MVE-LABEL: vcmp_une_v4f32:
429 ; CHECK-MVE:       @ %bb.0: @ %entry
430 ; CHECK-MVE-NEXT:    vcmp.f32 s1, #0
431 ; CHECK-MVE-NEXT:    movs r1, #0
432 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
433 ; CHECK-MVE-NEXT:    it ne
434 ; CHECK-MVE-NEXT:    movne r1, #1
435 ; CHECK-MVE-NEXT:    cmp r1, #0
436 ; CHECK-MVE-NEXT:    vcmp.f32 s0, #0
437 ; CHECK-MVE-NEXT:    it ne
438 ; CHECK-MVE-NEXT:    movne r1, #1
439 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
440 ; CHECK-MVE-NEXT:    mov.w r2, #0
441 ; CHECK-MVE-NEXT:    vcmp.f32 s3, #0
442 ; CHECK-MVE-NEXT:    it ne
443 ; CHECK-MVE-NEXT:    movne r2, #1
444 ; CHECK-MVE-NEXT:    cmp r2, #0
445 ; CHECK-MVE-NEXT:    it ne
446 ; CHECK-MVE-NEXT:    movne r2, #1
447 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
448 ; CHECK-MVE-NEXT:    mov.w r3, #0
449 ; CHECK-MVE-NEXT:    vcmp.f32 s2, #0
450 ; CHECK-MVE-NEXT:    it ne
451 ; CHECK-MVE-NEXT:    movne r3, #1
452 ; CHECK-MVE-NEXT:    cmp r3, #0
453 ; CHECK-MVE-NEXT:    it ne
454 ; CHECK-MVE-NEXT:    movne r3, #1
455 ; CHECK-MVE-NEXT:    movs r0, #0
456 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
457 ; CHECK-MVE-NEXT:    it ne
458 ; CHECK-MVE-NEXT:    movne r0, #1
459 ; CHECK-MVE-NEXT:    cmp r0, #0
460 ; CHECK-MVE-NEXT:    it ne
461 ; CHECK-MVE-NEXT:    movne r0, #1
462 ; CHECK-MVE-NEXT:    cmp r3, #0
463 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
464 ; CHECK-MVE-NEXT:    cmp r0, #0
465 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
466 ; CHECK-MVE-NEXT:    cmp r1, #0
467 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
468 ; CHECK-MVE-NEXT:    cmp r2, #0
469 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
470 ; CHECK-MVE-NEXT:    bx lr
472 ; CHECK-MVEFP-LABEL: vcmp_une_v4f32:
473 ; CHECK-MVEFP:       @ %bb.0: @ %entry
474 ; CHECK-MVEFP-NEXT:    vcmp.f32 ne, q0, zr
475 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
476 ; CHECK-MVEFP-NEXT:    bx lr
477 entry:
478   %c = fcmp une <4 x float> %src, zeroinitializer
479   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
480   ret <4 x float> %s
483 define arm_aapcs_vfpcc <4 x float> @vcmp_ugt_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
484 ; CHECK-MVE-LABEL: vcmp_ugt_v4f32:
485 ; CHECK-MVE:       @ %bb.0: @ %entry
486 ; CHECK-MVE-NEXT:    vcmpe.f32 s1, #0
487 ; CHECK-MVE-NEXT:    movs r1, #0
488 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
489 ; CHECK-MVE-NEXT:    it hi
490 ; CHECK-MVE-NEXT:    movhi r1, #1
491 ; CHECK-MVE-NEXT:    cmp r1, #0
492 ; CHECK-MVE-NEXT:    vcmpe.f32 s0, #0
493 ; CHECK-MVE-NEXT:    it ne
494 ; CHECK-MVE-NEXT:    movne r1, #1
495 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
496 ; CHECK-MVE-NEXT:    mov.w r2, #0
497 ; CHECK-MVE-NEXT:    vcmpe.f32 s3, #0
498 ; CHECK-MVE-NEXT:    it hi
499 ; CHECK-MVE-NEXT:    movhi r2, #1
500 ; CHECK-MVE-NEXT:    cmp r2, #0
501 ; CHECK-MVE-NEXT:    it ne
502 ; CHECK-MVE-NEXT:    movne r2, #1
503 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
504 ; CHECK-MVE-NEXT:    mov.w r3, #0
505 ; CHECK-MVE-NEXT:    vcmpe.f32 s2, #0
506 ; CHECK-MVE-NEXT:    it hi
507 ; CHECK-MVE-NEXT:    movhi r3, #1
508 ; CHECK-MVE-NEXT:    cmp r3, #0
509 ; CHECK-MVE-NEXT:    it ne
510 ; CHECK-MVE-NEXT:    movne r3, #1
511 ; CHECK-MVE-NEXT:    movs r0, #0
512 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
513 ; CHECK-MVE-NEXT:    it hi
514 ; CHECK-MVE-NEXT:    movhi r0, #1
515 ; CHECK-MVE-NEXT:    cmp r0, #0
516 ; CHECK-MVE-NEXT:    it ne
517 ; CHECK-MVE-NEXT:    movne r0, #1
518 ; CHECK-MVE-NEXT:    cmp r3, #0
519 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
520 ; CHECK-MVE-NEXT:    cmp r0, #0
521 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
522 ; CHECK-MVE-NEXT:    cmp r1, #0
523 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
524 ; CHECK-MVE-NEXT:    cmp r2, #0
525 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
526 ; CHECK-MVE-NEXT:    bx lr
528 ; CHECK-MVEFP-LABEL: vcmp_ugt_v4f32:
529 ; CHECK-MVEFP:       @ %bb.0: @ %entry
530 ; CHECK-MVEFP-NEXT:    vcmp.f32 le, q0, zr
531 ; CHECK-MVEFP-NEXT:    movw r0, #65535
532 ; CHECK-MVEFP-NEXT:    vmrs r1, p0
533 ; CHECK-MVEFP-NEXT:    eors r0, r1
534 ; CHECK-MVEFP-NEXT:    vmsr p0, r0
535 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
536 ; CHECK-MVEFP-NEXT:    bx lr
537 entry:
538   %c = fcmp ugt <4 x float> %src, zeroinitializer
539   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
540   ret <4 x float> %s
543 define arm_aapcs_vfpcc <4 x float> @vcmp_uge_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
544 ; CHECK-MVE-LABEL: vcmp_uge_v4f32:
545 ; CHECK-MVE:       @ %bb.0: @ %entry
546 ; CHECK-MVE-NEXT:    vcmpe.f32 s1, #0
547 ; CHECK-MVE-NEXT:    movs r1, #0
548 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
549 ; CHECK-MVE-NEXT:    it pl
550 ; CHECK-MVE-NEXT:    movpl r1, #1
551 ; CHECK-MVE-NEXT:    cmp r1, #0
552 ; CHECK-MVE-NEXT:    vcmpe.f32 s0, #0
553 ; CHECK-MVE-NEXT:    it ne
554 ; CHECK-MVE-NEXT:    movne r1, #1
555 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
556 ; CHECK-MVE-NEXT:    mov.w r2, #0
557 ; CHECK-MVE-NEXT:    vcmpe.f32 s3, #0
558 ; CHECK-MVE-NEXT:    it pl
559 ; CHECK-MVE-NEXT:    movpl r2, #1
560 ; CHECK-MVE-NEXT:    cmp r2, #0
561 ; CHECK-MVE-NEXT:    it ne
562 ; CHECK-MVE-NEXT:    movne r2, #1
563 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
564 ; CHECK-MVE-NEXT:    mov.w r3, #0
565 ; CHECK-MVE-NEXT:    vcmpe.f32 s2, #0
566 ; CHECK-MVE-NEXT:    it pl
567 ; CHECK-MVE-NEXT:    movpl r3, #1
568 ; CHECK-MVE-NEXT:    cmp r3, #0
569 ; CHECK-MVE-NEXT:    it ne
570 ; CHECK-MVE-NEXT:    movne r3, #1
571 ; CHECK-MVE-NEXT:    movs r0, #0
572 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
573 ; CHECK-MVE-NEXT:    it pl
574 ; CHECK-MVE-NEXT:    movpl r0, #1
575 ; CHECK-MVE-NEXT:    cmp r0, #0
576 ; CHECK-MVE-NEXT:    it ne
577 ; CHECK-MVE-NEXT:    movne r0, #1
578 ; CHECK-MVE-NEXT:    cmp r3, #0
579 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
580 ; CHECK-MVE-NEXT:    cmp r0, #0
581 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
582 ; CHECK-MVE-NEXT:    cmp r1, #0
583 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
584 ; CHECK-MVE-NEXT:    cmp r2, #0
585 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
586 ; CHECK-MVE-NEXT:    bx lr
588 ; CHECK-MVEFP-LABEL: vcmp_uge_v4f32:
589 ; CHECK-MVEFP:       @ %bb.0: @ %entry
590 ; CHECK-MVEFP-NEXT:    vcmp.f32 lt, q0, zr
591 ; CHECK-MVEFP-NEXT:    movw r0, #65535
592 ; CHECK-MVEFP-NEXT:    vmrs r1, p0
593 ; CHECK-MVEFP-NEXT:    eors r0, r1
594 ; CHECK-MVEFP-NEXT:    vmsr p0, r0
595 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
596 ; CHECK-MVEFP-NEXT:    bx lr
597 entry:
598   %c = fcmp uge <4 x float> %src, zeroinitializer
599   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
600   ret <4 x float> %s
603 define arm_aapcs_vfpcc <4 x float> @vcmp_ult_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
604 ; CHECK-MVE-LABEL: vcmp_ult_v4f32:
605 ; CHECK-MVE:       @ %bb.0: @ %entry
606 ; CHECK-MVE-NEXT:    vcmpe.f32 s1, #0
607 ; CHECK-MVE-NEXT:    movs r1, #0
608 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
609 ; CHECK-MVE-NEXT:    it lt
610 ; CHECK-MVE-NEXT:    movlt r1, #1
611 ; CHECK-MVE-NEXT:    cmp r1, #0
612 ; CHECK-MVE-NEXT:    vcmpe.f32 s0, #0
613 ; CHECK-MVE-NEXT:    it ne
614 ; CHECK-MVE-NEXT:    movne r1, #1
615 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
616 ; CHECK-MVE-NEXT:    mov.w r2, #0
617 ; CHECK-MVE-NEXT:    vcmpe.f32 s3, #0
618 ; CHECK-MVE-NEXT:    it lt
619 ; CHECK-MVE-NEXT:    movlt r2, #1
620 ; CHECK-MVE-NEXT:    cmp r2, #0
621 ; CHECK-MVE-NEXT:    it ne
622 ; CHECK-MVE-NEXT:    movne r2, #1
623 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
624 ; CHECK-MVE-NEXT:    mov.w r3, #0
625 ; CHECK-MVE-NEXT:    vcmpe.f32 s2, #0
626 ; CHECK-MVE-NEXT:    it lt
627 ; CHECK-MVE-NEXT:    movlt r3, #1
628 ; CHECK-MVE-NEXT:    cmp r3, #0
629 ; CHECK-MVE-NEXT:    it ne
630 ; CHECK-MVE-NEXT:    movne r3, #1
631 ; CHECK-MVE-NEXT:    movs r0, #0
632 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
633 ; CHECK-MVE-NEXT:    it lt
634 ; CHECK-MVE-NEXT:    movlt r0, #1
635 ; CHECK-MVE-NEXT:    cmp r0, #0
636 ; CHECK-MVE-NEXT:    it ne
637 ; CHECK-MVE-NEXT:    movne r0, #1
638 ; CHECK-MVE-NEXT:    cmp r3, #0
639 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
640 ; CHECK-MVE-NEXT:    cmp r0, #0
641 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
642 ; CHECK-MVE-NEXT:    cmp r1, #0
643 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
644 ; CHECK-MVE-NEXT:    cmp r2, #0
645 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
646 ; CHECK-MVE-NEXT:    bx lr
648 ; CHECK-MVEFP-LABEL: vcmp_ult_v4f32:
649 ; CHECK-MVEFP:       @ %bb.0: @ %entry
650 ; CHECK-MVEFP-NEXT:    vcmp.f32 ge, q0, zr
651 ; CHECK-MVEFP-NEXT:    movw r0, #65535
652 ; CHECK-MVEFP-NEXT:    vmrs r1, p0
653 ; CHECK-MVEFP-NEXT:    eors r0, r1
654 ; CHECK-MVEFP-NEXT:    vmsr p0, r0
655 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
656 ; CHECK-MVEFP-NEXT:    bx lr
657 entry:
658   %c = fcmp ult <4 x float> %src, zeroinitializer
659   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
660   ret <4 x float> %s
663 define arm_aapcs_vfpcc <4 x float> @vcmp_ule_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
664 ; CHECK-MVE-LABEL: vcmp_ule_v4f32:
665 ; CHECK-MVE:       @ %bb.0: @ %entry
666 ; CHECK-MVE-NEXT:    vcmpe.f32 s1, #0
667 ; CHECK-MVE-NEXT:    movs r1, #0
668 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
669 ; CHECK-MVE-NEXT:    it le
670 ; CHECK-MVE-NEXT:    movle r1, #1
671 ; CHECK-MVE-NEXT:    cmp r1, #0
672 ; CHECK-MVE-NEXT:    vcmpe.f32 s0, #0
673 ; CHECK-MVE-NEXT:    it ne
674 ; CHECK-MVE-NEXT:    movne r1, #1
675 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
676 ; CHECK-MVE-NEXT:    mov.w r2, #0
677 ; CHECK-MVE-NEXT:    vcmpe.f32 s3, #0
678 ; CHECK-MVE-NEXT:    it le
679 ; CHECK-MVE-NEXT:    movle r2, #1
680 ; CHECK-MVE-NEXT:    cmp r2, #0
681 ; CHECK-MVE-NEXT:    it ne
682 ; CHECK-MVE-NEXT:    movne r2, #1
683 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
684 ; CHECK-MVE-NEXT:    mov.w r3, #0
685 ; CHECK-MVE-NEXT:    vcmpe.f32 s2, #0
686 ; CHECK-MVE-NEXT:    it le
687 ; CHECK-MVE-NEXT:    movle r3, #1
688 ; CHECK-MVE-NEXT:    cmp r3, #0
689 ; CHECK-MVE-NEXT:    it ne
690 ; CHECK-MVE-NEXT:    movne r3, #1
691 ; CHECK-MVE-NEXT:    movs r0, #0
692 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
693 ; CHECK-MVE-NEXT:    it le
694 ; CHECK-MVE-NEXT:    movle r0, #1
695 ; CHECK-MVE-NEXT:    cmp r0, #0
696 ; CHECK-MVE-NEXT:    it ne
697 ; CHECK-MVE-NEXT:    movne r0, #1
698 ; CHECK-MVE-NEXT:    cmp r3, #0
699 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
700 ; CHECK-MVE-NEXT:    cmp r0, #0
701 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
702 ; CHECK-MVE-NEXT:    cmp r1, #0
703 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
704 ; CHECK-MVE-NEXT:    cmp r2, #0
705 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
706 ; CHECK-MVE-NEXT:    bx lr
708 ; CHECK-MVEFP-LABEL: vcmp_ule_v4f32:
709 ; CHECK-MVEFP:       @ %bb.0: @ %entry
710 ; CHECK-MVEFP-NEXT:    vcmp.f32 gt, q0, zr
711 ; CHECK-MVEFP-NEXT:    movw r0, #65535
712 ; CHECK-MVEFP-NEXT:    vmrs r1, p0
713 ; CHECK-MVEFP-NEXT:    eors r0, r1
714 ; CHECK-MVEFP-NEXT:    vmsr p0, r0
715 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
716 ; CHECK-MVEFP-NEXT:    bx lr
717 entry:
718   %c = fcmp ule <4 x float> %src, zeroinitializer
719   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
720   ret <4 x float> %s
723 define arm_aapcs_vfpcc <4 x float> @vcmp_ord_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
724 ; CHECK-MVE-LABEL: vcmp_ord_v4f32:
725 ; CHECK-MVE:       @ %bb.0: @ %entry
726 ; CHECK-MVE-NEXT:    vcmpe.f32 s1, s1
727 ; CHECK-MVE-NEXT:    movs r1, #0
728 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
729 ; CHECK-MVE-NEXT:    it vc
730 ; CHECK-MVE-NEXT:    movvc r1, #1
731 ; CHECK-MVE-NEXT:    cmp r1, #0
732 ; CHECK-MVE-NEXT:    vcmpe.f32 s0, s0
733 ; CHECK-MVE-NEXT:    it ne
734 ; CHECK-MVE-NEXT:    movne r1, #1
735 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
736 ; CHECK-MVE-NEXT:    mov.w r2, #0
737 ; CHECK-MVE-NEXT:    vcmpe.f32 s3, s3
738 ; CHECK-MVE-NEXT:    it vc
739 ; CHECK-MVE-NEXT:    movvc r2, #1
740 ; CHECK-MVE-NEXT:    cmp r2, #0
741 ; CHECK-MVE-NEXT:    it ne
742 ; CHECK-MVE-NEXT:    movne r2, #1
743 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
744 ; CHECK-MVE-NEXT:    mov.w r3, #0
745 ; CHECK-MVE-NEXT:    vcmpe.f32 s2, s2
746 ; CHECK-MVE-NEXT:    it vc
747 ; CHECK-MVE-NEXT:    movvc r3, #1
748 ; CHECK-MVE-NEXT:    cmp r3, #0
749 ; CHECK-MVE-NEXT:    it ne
750 ; CHECK-MVE-NEXT:    movne r3, #1
751 ; CHECK-MVE-NEXT:    movs r0, #0
752 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
753 ; CHECK-MVE-NEXT:    it vc
754 ; CHECK-MVE-NEXT:    movvc r0, #1
755 ; CHECK-MVE-NEXT:    cmp r0, #0
756 ; CHECK-MVE-NEXT:    it ne
757 ; CHECK-MVE-NEXT:    movne r0, #1
758 ; CHECK-MVE-NEXT:    cmp r3, #0
759 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
760 ; CHECK-MVE-NEXT:    cmp r0, #0
761 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
762 ; CHECK-MVE-NEXT:    cmp r1, #0
763 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
764 ; CHECK-MVE-NEXT:    cmp r2, #0
765 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
766 ; CHECK-MVE-NEXT:    bx lr
768 ; CHECK-MVEFP-LABEL: vcmp_ord_v4f32:
769 ; CHECK-MVEFP:       @ %bb.0: @ %entry
770 ; CHECK-MVEFP-NEXT:    vmov.i32 q3, #0x0
771 ; CHECK-MVEFP-NEXT:    movw r1, #65535
772 ; CHECK-MVEFP-NEXT:    vcmp.f32 le, q3, q0
773 ; CHECK-MVEFP-NEXT:    vpst
774 ; CHECK-MVEFP-NEXT:    vcmpt.f32 lt, q0, q3
775 ; CHECK-MVEFP-NEXT:    vmrs r0, p0
776 ; CHECK-MVEFP-NEXT:    eors r0, r1
777 ; CHECK-MVEFP-NEXT:    vmsr p0, r0
778 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
779 ; CHECK-MVEFP-NEXT:    bx lr
780 entry:
781   %c = fcmp ord <4 x float> %src, zeroinitializer
782   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
783   ret <4 x float> %s
786 define arm_aapcs_vfpcc <4 x float> @vcmp_uno_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
787 ; CHECK-MVE-LABEL: vcmp_uno_v4f32:
788 ; CHECK-MVE:       @ %bb.0: @ %entry
789 ; CHECK-MVE-NEXT:    vcmpe.f32 s1, s1
790 ; CHECK-MVE-NEXT:    movs r1, #0
791 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
792 ; CHECK-MVE-NEXT:    it vs
793 ; CHECK-MVE-NEXT:    movvs r1, #1
794 ; CHECK-MVE-NEXT:    cmp r1, #0
795 ; CHECK-MVE-NEXT:    vcmpe.f32 s0, s0
796 ; CHECK-MVE-NEXT:    it ne
797 ; CHECK-MVE-NEXT:    movne r1, #1
798 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
799 ; CHECK-MVE-NEXT:    mov.w r2, #0
800 ; CHECK-MVE-NEXT:    vcmpe.f32 s3, s3
801 ; CHECK-MVE-NEXT:    it vs
802 ; CHECK-MVE-NEXT:    movvs r2, #1
803 ; CHECK-MVE-NEXT:    cmp r2, #0
804 ; CHECK-MVE-NEXT:    it ne
805 ; CHECK-MVE-NEXT:    movne r2, #1
806 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
807 ; CHECK-MVE-NEXT:    mov.w r3, #0
808 ; CHECK-MVE-NEXT:    vcmpe.f32 s2, s2
809 ; CHECK-MVE-NEXT:    it vs
810 ; CHECK-MVE-NEXT:    movvs r3, #1
811 ; CHECK-MVE-NEXT:    cmp r3, #0
812 ; CHECK-MVE-NEXT:    it ne
813 ; CHECK-MVE-NEXT:    movne r3, #1
814 ; CHECK-MVE-NEXT:    movs r0, #0
815 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
816 ; CHECK-MVE-NEXT:    it vs
817 ; CHECK-MVE-NEXT:    movvs r0, #1
818 ; CHECK-MVE-NEXT:    cmp r0, #0
819 ; CHECK-MVE-NEXT:    it ne
820 ; CHECK-MVE-NEXT:    movne r0, #1
821 ; CHECK-MVE-NEXT:    cmp r3, #0
822 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
823 ; CHECK-MVE-NEXT:    cmp r0, #0
824 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
825 ; CHECK-MVE-NEXT:    cmp r1, #0
826 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
827 ; CHECK-MVE-NEXT:    cmp r2, #0
828 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
829 ; CHECK-MVE-NEXT:    bx lr
831 ; CHECK-MVEFP-LABEL: vcmp_uno_v4f32:
832 ; CHECK-MVEFP:       @ %bb.0: @ %entry
833 ; CHECK-MVEFP-NEXT:    vmov.i32 q3, #0x0
834 ; CHECK-MVEFP-NEXT:    vcmp.f32 le, q3, q0
835 ; CHECK-MVEFP-NEXT:    vpst
836 ; CHECK-MVEFP-NEXT:    vcmpt.f32 lt, q0, q3
837 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
838 ; CHECK-MVEFP-NEXT:    bx lr
839 entry:
840   %c = fcmp uno <4 x float> %src, zeroinitializer
841   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
842   ret <4 x float> %s
847 define arm_aapcs_vfpcc <8 x half> @vcmp_oeq_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
848 ; CHECK-MVE-LABEL: vcmp_oeq_v8f16:
849 ; CHECK-MVE:       @ %bb.0: @ %entry
850 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
851 ; CHECK-MVE-NEXT:    vpush {d8, d9}
852 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
853 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
854 ; CHECK-MVE-NEXT:    vmov s12, r1
855 ; CHECK-MVE-NEXT:    movs r1, #0
856 ; CHECK-MVE-NEXT:    vcmp.f16 s12, #0
857 ; CHECK-MVE-NEXT:    vmov s12, r2
858 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
859 ; CHECK-MVE-NEXT:    it eq
860 ; CHECK-MVE-NEXT:    moveq r1, #1
861 ; CHECK-MVE-NEXT:    cmp r1, #0
862 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
863 ; CHECK-MVE-NEXT:    it ne
864 ; CHECK-MVE-NEXT:    movne r1, #1
865 ; CHECK-MVE-NEXT:    vmov s14, r2
866 ; CHECK-MVE-NEXT:    cmp r1, #0
867 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
868 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
869 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
870 ; CHECK-MVE-NEXT:    vmov r1, s12
871 ; CHECK-MVE-NEXT:    movs r0, #0
872 ; CHECK-MVE-NEXT:    vmov s12, r2
873 ; CHECK-MVE-NEXT:    movs r2, #0
874 ; CHECK-MVE-NEXT:    vcmp.f16 s12, #0
875 ; CHECK-MVE-NEXT:    vmov s12, r3
876 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
877 ; CHECK-MVE-NEXT:    it eq
878 ; CHECK-MVE-NEXT:    moveq r2, #1
879 ; CHECK-MVE-NEXT:    cmp r2, #0
880 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
881 ; CHECK-MVE-NEXT:    it ne
882 ; CHECK-MVE-NEXT:    movne r2, #1
883 ; CHECK-MVE-NEXT:    vmov s14, r3
884 ; CHECK-MVE-NEXT:    cmp r2, #0
885 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
886 ; CHECK-MVE-NEXT:    vmov r2, s12
887 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
888 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
889 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
890 ; CHECK-MVE-NEXT:    vmov s16, r1
891 ; CHECK-MVE-NEXT:    movs r1, #0
892 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
893 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
894 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
895 ; CHECK-MVE-NEXT:    it eq
896 ; CHECK-MVE-NEXT:    moveq r1, #1
897 ; CHECK-MVE-NEXT:    cmp r1, #0
898 ; CHECK-MVE-NEXT:    vmov s16, r2
899 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
900 ; CHECK-MVE-NEXT:    it ne
901 ; CHECK-MVE-NEXT:    movne r1, #1
902 ; CHECK-MVE-NEXT:    vmov s18, r2
903 ; CHECK-MVE-NEXT:    cmp r1, #0
904 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
905 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
906 ; CHECK-MVE-NEXT:    vmov r1, s16
907 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
908 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
909 ; CHECK-MVE-NEXT:    vmov s16, r1
910 ; CHECK-MVE-NEXT:    movs r1, #0
911 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
912 ; CHECK-MVE-NEXT:    vmov s16, r2
913 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
914 ; CHECK-MVE-NEXT:    it eq
915 ; CHECK-MVE-NEXT:    moveq r1, #1
916 ; CHECK-MVE-NEXT:    cmp r1, #0
917 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
918 ; CHECK-MVE-NEXT:    it ne
919 ; CHECK-MVE-NEXT:    movne r1, #1
920 ; CHECK-MVE-NEXT:    vmov s18, r2
921 ; CHECK-MVE-NEXT:    cmp r1, #0
922 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
923 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
924 ; CHECK-MVE-NEXT:    vmov r1, s16
925 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
926 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
927 ; CHECK-MVE-NEXT:    vmov s16, r1
928 ; CHECK-MVE-NEXT:    movs r1, #0
929 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
930 ; CHECK-MVE-NEXT:    vmov s16, r2
931 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
932 ; CHECK-MVE-NEXT:    it eq
933 ; CHECK-MVE-NEXT:    moveq r1, #1
934 ; CHECK-MVE-NEXT:    cmp r1, #0
935 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
936 ; CHECK-MVE-NEXT:    it ne
937 ; CHECK-MVE-NEXT:    movne r1, #1
938 ; CHECK-MVE-NEXT:    vmov s18, r2
939 ; CHECK-MVE-NEXT:    cmp r1, #0
940 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
941 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
942 ; CHECK-MVE-NEXT:    vmov r1, s16
943 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
944 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
945 ; CHECK-MVE-NEXT:    vmov s16, r1
946 ; CHECK-MVE-NEXT:    movs r1, #0
947 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
948 ; CHECK-MVE-NEXT:    vmov s16, r2
949 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
950 ; CHECK-MVE-NEXT:    it eq
951 ; CHECK-MVE-NEXT:    moveq r1, #1
952 ; CHECK-MVE-NEXT:    cmp r1, #0
953 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
954 ; CHECK-MVE-NEXT:    it ne
955 ; CHECK-MVE-NEXT:    movne r1, #1
956 ; CHECK-MVE-NEXT:    vmov s18, r2
957 ; CHECK-MVE-NEXT:    cmp r1, #0
958 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
959 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
960 ; CHECK-MVE-NEXT:    vmov r1, s16
961 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
962 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
963 ; CHECK-MVE-NEXT:    vmov s16, r1
964 ; CHECK-MVE-NEXT:    movs r1, #0
965 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
966 ; CHECK-MVE-NEXT:    vmov s16, r2
967 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
968 ; CHECK-MVE-NEXT:    it eq
969 ; CHECK-MVE-NEXT:    moveq r1, #1
970 ; CHECK-MVE-NEXT:    cmp r1, #0
971 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
972 ; CHECK-MVE-NEXT:    it ne
973 ; CHECK-MVE-NEXT:    movne r1, #1
974 ; CHECK-MVE-NEXT:    vmov s18, r2
975 ; CHECK-MVE-NEXT:    cmp r1, #0
976 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
977 ; CHECK-MVE-NEXT:    vmov r1, s16
978 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
979 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
980 ; CHECK-MVE-NEXT:    vmov s0, r1
981 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
982 ; CHECK-MVE-NEXT:    vcmp.f16 s0, #0
983 ; CHECK-MVE-NEXT:    vmov s0, r1
984 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
985 ; CHECK-MVE-NEXT:    it eq
986 ; CHECK-MVE-NEXT:    moveq r0, #1
987 ; CHECK-MVE-NEXT:    cmp r0, #0
988 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
989 ; CHECK-MVE-NEXT:    it ne
990 ; CHECK-MVE-NEXT:    movne r0, #1
991 ; CHECK-MVE-NEXT:    vmov s2, r1
992 ; CHECK-MVE-NEXT:    cmp r0, #0
993 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
994 ; CHECK-MVE-NEXT:    vmov r0, s0
995 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
996 ; CHECK-MVE-NEXT:    vmov q0, q3
997 ; CHECK-MVE-NEXT:    vpop {d8, d9}
998 ; CHECK-MVE-NEXT:    bx lr
1000 ; CHECK-MVEFP-LABEL: vcmp_oeq_v8f16:
1001 ; CHECK-MVEFP:       @ %bb.0: @ %entry
1002 ; CHECK-MVEFP-NEXT:    vcmp.f16 eq, q0, zr
1003 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
1004 ; CHECK-MVEFP-NEXT:    bx lr
1005 entry:
1006   %c = fcmp oeq <8 x half> %src, zeroinitializer
1007   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
1008   ret <8 x half> %s
1011 define arm_aapcs_vfpcc <8 x half> @vcmp_one_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
1012 ; CHECK-MVE-LABEL: vcmp_one_v8f16:
1013 ; CHECK-MVE:       @ %bb.0: @ %entry
1014 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
1015 ; CHECK-MVE-NEXT:    vpush {d8, d9}
1016 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
1017 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
1018 ; CHECK-MVE-NEXT:    vmov s12, r1
1019 ; CHECK-MVE-NEXT:    movs r1, #0
1020 ; CHECK-MVE-NEXT:    vcmp.f16 s12, #0
1021 ; CHECK-MVE-NEXT:    vmov s12, r2
1022 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1023 ; CHECK-MVE-NEXT:    it mi
1024 ; CHECK-MVE-NEXT:    movmi r1, #1
1025 ; CHECK-MVE-NEXT:    it gt
1026 ; CHECK-MVE-NEXT:    movgt r1, #1
1027 ; CHECK-MVE-NEXT:    cmp r1, #0
1028 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
1029 ; CHECK-MVE-NEXT:    it ne
1030 ; CHECK-MVE-NEXT:    movne r1, #1
1031 ; CHECK-MVE-NEXT:    vmov s14, r2
1032 ; CHECK-MVE-NEXT:    cmp r1, #0
1033 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1034 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
1035 ; CHECK-MVE-NEXT:    vmov r1, s12
1036 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
1037 ; CHECK-MVE-NEXT:    vmov s12, r2
1038 ; CHECK-MVE-NEXT:    movs r2, #0
1039 ; CHECK-MVE-NEXT:    vcmp.f16 s12, #0
1040 ; CHECK-MVE-NEXT:    vmov s12, r3
1041 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1042 ; CHECK-MVE-NEXT:    it mi
1043 ; CHECK-MVE-NEXT:    movmi r2, #1
1044 ; CHECK-MVE-NEXT:    it gt
1045 ; CHECK-MVE-NEXT:    movgt r2, #1
1046 ; CHECK-MVE-NEXT:    cmp r2, #0
1047 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
1048 ; CHECK-MVE-NEXT:    it ne
1049 ; CHECK-MVE-NEXT:    movne r2, #1
1050 ; CHECK-MVE-NEXT:    vmov s14, r3
1051 ; CHECK-MVE-NEXT:    cmp r2, #0
1052 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1053 ; CHECK-MVE-NEXT:    movs r0, #0
1054 ; CHECK-MVE-NEXT:    vmov r2, s12
1055 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
1056 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
1057 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
1058 ; CHECK-MVE-NEXT:    vmov s16, r1
1059 ; CHECK-MVE-NEXT:    movs r1, #0
1060 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
1061 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
1062 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1063 ; CHECK-MVE-NEXT:    it mi
1064 ; CHECK-MVE-NEXT:    movmi r1, #1
1065 ; CHECK-MVE-NEXT:    it gt
1066 ; CHECK-MVE-NEXT:    movgt r1, #1
1067 ; CHECK-MVE-NEXT:    cmp r1, #0
1068 ; CHECK-MVE-NEXT:    vmov s16, r2
1069 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
1070 ; CHECK-MVE-NEXT:    it ne
1071 ; CHECK-MVE-NEXT:    movne r1, #1
1072 ; CHECK-MVE-NEXT:    vmov s18, r2
1073 ; CHECK-MVE-NEXT:    cmp r1, #0
1074 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
1075 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1076 ; CHECK-MVE-NEXT:    vmov r1, s16
1077 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
1078 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
1079 ; CHECK-MVE-NEXT:    vmov s16, r1
1080 ; CHECK-MVE-NEXT:    movs r1, #0
1081 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
1082 ; CHECK-MVE-NEXT:    vmov s16, r2
1083 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1084 ; CHECK-MVE-NEXT:    it mi
1085 ; CHECK-MVE-NEXT:    movmi r1, #1
1086 ; CHECK-MVE-NEXT:    it gt
1087 ; CHECK-MVE-NEXT:    movgt r1, #1
1088 ; CHECK-MVE-NEXT:    cmp r1, #0
1089 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
1090 ; CHECK-MVE-NEXT:    it ne
1091 ; CHECK-MVE-NEXT:    movne r1, #1
1092 ; CHECK-MVE-NEXT:    vmov s18, r2
1093 ; CHECK-MVE-NEXT:    cmp r1, #0
1094 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1095 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
1096 ; CHECK-MVE-NEXT:    vmov r1, s16
1097 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
1098 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
1099 ; CHECK-MVE-NEXT:    vmov s16, r1
1100 ; CHECK-MVE-NEXT:    movs r1, #0
1101 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
1102 ; CHECK-MVE-NEXT:    vmov s16, r2
1103 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1104 ; CHECK-MVE-NEXT:    it mi
1105 ; CHECK-MVE-NEXT:    movmi r1, #1
1106 ; CHECK-MVE-NEXT:    it gt
1107 ; CHECK-MVE-NEXT:    movgt r1, #1
1108 ; CHECK-MVE-NEXT:    cmp r1, #0
1109 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
1110 ; CHECK-MVE-NEXT:    it ne
1111 ; CHECK-MVE-NEXT:    movne r1, #1
1112 ; CHECK-MVE-NEXT:    vmov s18, r2
1113 ; CHECK-MVE-NEXT:    cmp r1, #0
1114 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1115 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
1116 ; CHECK-MVE-NEXT:    vmov r1, s16
1117 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
1118 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
1119 ; CHECK-MVE-NEXT:    vmov s16, r1
1120 ; CHECK-MVE-NEXT:    movs r1, #0
1121 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
1122 ; CHECK-MVE-NEXT:    vmov s16, r2
1123 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1124 ; CHECK-MVE-NEXT:    it mi
1125 ; CHECK-MVE-NEXT:    movmi r1, #1
1126 ; CHECK-MVE-NEXT:    it gt
1127 ; CHECK-MVE-NEXT:    movgt r1, #1
1128 ; CHECK-MVE-NEXT:    cmp r1, #0
1129 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
1130 ; CHECK-MVE-NEXT:    it ne
1131 ; CHECK-MVE-NEXT:    movne r1, #1
1132 ; CHECK-MVE-NEXT:    vmov s18, r2
1133 ; CHECK-MVE-NEXT:    cmp r1, #0
1134 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1135 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
1136 ; CHECK-MVE-NEXT:    vmov r1, s16
1137 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
1138 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
1139 ; CHECK-MVE-NEXT:    vmov s16, r1
1140 ; CHECK-MVE-NEXT:    movs r1, #0
1141 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
1142 ; CHECK-MVE-NEXT:    vmov s16, r2
1143 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1144 ; CHECK-MVE-NEXT:    it mi
1145 ; CHECK-MVE-NEXT:    movmi r1, #1
1146 ; CHECK-MVE-NEXT:    it gt
1147 ; CHECK-MVE-NEXT:    movgt r1, #1
1148 ; CHECK-MVE-NEXT:    cmp r1, #0
1149 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
1150 ; CHECK-MVE-NEXT:    it ne
1151 ; CHECK-MVE-NEXT:    movne r1, #1
1152 ; CHECK-MVE-NEXT:    vmov s18, r2
1153 ; CHECK-MVE-NEXT:    cmp r1, #0
1154 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1155 ; CHECK-MVE-NEXT:    vmov r1, s16
1156 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
1157 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
1158 ; CHECK-MVE-NEXT:    vmov s0, r1
1159 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
1160 ; CHECK-MVE-NEXT:    vcmp.f16 s0, #0
1161 ; CHECK-MVE-NEXT:    vmov s0, r1
1162 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1163 ; CHECK-MVE-NEXT:    it mi
1164 ; CHECK-MVE-NEXT:    movmi r0, #1
1165 ; CHECK-MVE-NEXT:    it gt
1166 ; CHECK-MVE-NEXT:    movgt r0, #1
1167 ; CHECK-MVE-NEXT:    cmp r0, #0
1168 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
1169 ; CHECK-MVE-NEXT:    it ne
1170 ; CHECK-MVE-NEXT:    movne r0, #1
1171 ; CHECK-MVE-NEXT:    vmov s2, r1
1172 ; CHECK-MVE-NEXT:    cmp r0, #0
1173 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
1174 ; CHECK-MVE-NEXT:    vmov r0, s0
1175 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
1176 ; CHECK-MVE-NEXT:    vmov q0, q3
1177 ; CHECK-MVE-NEXT:    vpop {d8, d9}
1178 ; CHECK-MVE-NEXT:    bx lr
1180 ; CHECK-MVEFP-LABEL: vcmp_one_v8f16:
1181 ; CHECK-MVEFP:       @ %bb.0: @ %entry
1182 ; CHECK-MVEFP-NEXT:    vmov.i32 q3, #0x0
1183 ; CHECK-MVEFP-NEXT:    movw r1, #65535
1184 ; CHECK-MVEFP-NEXT:    vcmp.f16 le, q3, q0
1185 ; CHECK-MVEFP-NEXT:    vpst
1186 ; CHECK-MVEFP-NEXT:    vcmpt.f16 le, q0, q3
1187 ; CHECK-MVEFP-NEXT:    vmrs r0, p0
1188 ; CHECK-MVEFP-NEXT:    eors r0, r1
1189 ; CHECK-MVEFP-NEXT:    vmsr p0, r0
1190 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
1191 ; CHECK-MVEFP-NEXT:    bx lr
1192 entry:
1193   %c = fcmp one <8 x half> %src, zeroinitializer
1194   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
1195   ret <8 x half> %s
1198 define arm_aapcs_vfpcc <8 x half> @vcmp_ogt_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
1199 ; CHECK-MVE-LABEL: vcmp_ogt_v8f16:
1200 ; CHECK-MVE:       @ %bb.0: @ %entry
1201 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
1202 ; CHECK-MVE-NEXT:    vpush {d8, d9}
1203 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
1204 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
1205 ; CHECK-MVE-NEXT:    vmov s12, r1
1206 ; CHECK-MVE-NEXT:    movs r1, #0
1207 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
1208 ; CHECK-MVE-NEXT:    vmov s12, r2
1209 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1210 ; CHECK-MVE-NEXT:    it gt
1211 ; CHECK-MVE-NEXT:    movgt r1, #1
1212 ; CHECK-MVE-NEXT:    cmp r1, #0
1213 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
1214 ; CHECK-MVE-NEXT:    it ne
1215 ; CHECK-MVE-NEXT:    movne r1, #1
1216 ; CHECK-MVE-NEXT:    vmov s14, r2
1217 ; CHECK-MVE-NEXT:    cmp r1, #0
1218 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
1219 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1220 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
1221 ; CHECK-MVE-NEXT:    vmov r1, s12
1222 ; CHECK-MVE-NEXT:    movs r0, #0
1223 ; CHECK-MVE-NEXT:    vmov s12, r2
1224 ; CHECK-MVE-NEXT:    movs r2, #0
1225 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
1226 ; CHECK-MVE-NEXT:    vmov s12, r3
1227 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1228 ; CHECK-MVE-NEXT:    it gt
1229 ; CHECK-MVE-NEXT:    movgt r2, #1
1230 ; CHECK-MVE-NEXT:    cmp r2, #0
1231 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
1232 ; CHECK-MVE-NEXT:    it ne
1233 ; CHECK-MVE-NEXT:    movne r2, #1
1234 ; CHECK-MVE-NEXT:    vmov s14, r3
1235 ; CHECK-MVE-NEXT:    cmp r2, #0
1236 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1237 ; CHECK-MVE-NEXT:    vmov r2, s12
1238 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
1239 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
1240 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
1241 ; CHECK-MVE-NEXT:    vmov s16, r1
1242 ; CHECK-MVE-NEXT:    movs r1, #0
1243 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1244 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
1245 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1246 ; CHECK-MVE-NEXT:    it gt
1247 ; CHECK-MVE-NEXT:    movgt r1, #1
1248 ; CHECK-MVE-NEXT:    cmp r1, #0
1249 ; CHECK-MVE-NEXT:    vmov s16, r2
1250 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
1251 ; CHECK-MVE-NEXT:    it ne
1252 ; CHECK-MVE-NEXT:    movne r1, #1
1253 ; CHECK-MVE-NEXT:    vmov s18, r2
1254 ; CHECK-MVE-NEXT:    cmp r1, #0
1255 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1256 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
1257 ; CHECK-MVE-NEXT:    vmov r1, s16
1258 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
1259 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
1260 ; CHECK-MVE-NEXT:    vmov s16, r1
1261 ; CHECK-MVE-NEXT:    movs r1, #0
1262 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1263 ; CHECK-MVE-NEXT:    vmov s16, r2
1264 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1265 ; CHECK-MVE-NEXT:    it gt
1266 ; CHECK-MVE-NEXT:    movgt r1, #1
1267 ; CHECK-MVE-NEXT:    cmp r1, #0
1268 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
1269 ; CHECK-MVE-NEXT:    it ne
1270 ; CHECK-MVE-NEXT:    movne r1, #1
1271 ; CHECK-MVE-NEXT:    vmov s18, r2
1272 ; CHECK-MVE-NEXT:    cmp r1, #0
1273 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
1274 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1275 ; CHECK-MVE-NEXT:    vmov r1, s16
1276 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
1277 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
1278 ; CHECK-MVE-NEXT:    vmov s16, r1
1279 ; CHECK-MVE-NEXT:    movs r1, #0
1280 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1281 ; CHECK-MVE-NEXT:    vmov s16, r2
1282 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1283 ; CHECK-MVE-NEXT:    it gt
1284 ; CHECK-MVE-NEXT:    movgt r1, #1
1285 ; CHECK-MVE-NEXT:    cmp r1, #0
1286 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
1287 ; CHECK-MVE-NEXT:    it ne
1288 ; CHECK-MVE-NEXT:    movne r1, #1
1289 ; CHECK-MVE-NEXT:    vmov s18, r2
1290 ; CHECK-MVE-NEXT:    cmp r1, #0
1291 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
1292 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1293 ; CHECK-MVE-NEXT:    vmov r1, s16
1294 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
1295 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
1296 ; CHECK-MVE-NEXT:    vmov s16, r1
1297 ; CHECK-MVE-NEXT:    movs r1, #0
1298 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1299 ; CHECK-MVE-NEXT:    vmov s16, r2
1300 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1301 ; CHECK-MVE-NEXT:    it gt
1302 ; CHECK-MVE-NEXT:    movgt r1, #1
1303 ; CHECK-MVE-NEXT:    cmp r1, #0
1304 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
1305 ; CHECK-MVE-NEXT:    it ne
1306 ; CHECK-MVE-NEXT:    movne r1, #1
1307 ; CHECK-MVE-NEXT:    vmov s18, r2
1308 ; CHECK-MVE-NEXT:    cmp r1, #0
1309 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
1310 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1311 ; CHECK-MVE-NEXT:    vmov r1, s16
1312 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
1313 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
1314 ; CHECK-MVE-NEXT:    vmov s16, r1
1315 ; CHECK-MVE-NEXT:    movs r1, #0
1316 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1317 ; CHECK-MVE-NEXT:    vmov s16, r2
1318 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1319 ; CHECK-MVE-NEXT:    it gt
1320 ; CHECK-MVE-NEXT:    movgt r1, #1
1321 ; CHECK-MVE-NEXT:    cmp r1, #0
1322 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
1323 ; CHECK-MVE-NEXT:    it ne
1324 ; CHECK-MVE-NEXT:    movne r1, #1
1325 ; CHECK-MVE-NEXT:    vmov s18, r2
1326 ; CHECK-MVE-NEXT:    cmp r1, #0
1327 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1328 ; CHECK-MVE-NEXT:    vmov r1, s16
1329 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
1330 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
1331 ; CHECK-MVE-NEXT:    vmov s0, r1
1332 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
1333 ; CHECK-MVE-NEXT:    vcmpe.f16 s0, #0
1334 ; CHECK-MVE-NEXT:    vmov s0, r1
1335 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1336 ; CHECK-MVE-NEXT:    it gt
1337 ; CHECK-MVE-NEXT:    movgt r0, #1
1338 ; CHECK-MVE-NEXT:    cmp r0, #0
1339 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
1340 ; CHECK-MVE-NEXT:    it ne
1341 ; CHECK-MVE-NEXT:    movne r0, #1
1342 ; CHECK-MVE-NEXT:    vmov s2, r1
1343 ; CHECK-MVE-NEXT:    cmp r0, #0
1344 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
1345 ; CHECK-MVE-NEXT:    vmov r0, s0
1346 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
1347 ; CHECK-MVE-NEXT:    vmov q0, q3
1348 ; CHECK-MVE-NEXT:    vpop {d8, d9}
1349 ; CHECK-MVE-NEXT:    bx lr
1351 ; CHECK-MVEFP-LABEL: vcmp_ogt_v8f16:
1352 ; CHECK-MVEFP:       @ %bb.0: @ %entry
1353 ; CHECK-MVEFP-NEXT:    vcmp.f16 gt, q0, zr
1354 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
1355 ; CHECK-MVEFP-NEXT:    bx lr
1356 entry:
1357   %c = fcmp ogt <8 x half> %src, zeroinitializer
1358   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
1359   ret <8 x half> %s
1362 define arm_aapcs_vfpcc <8 x half> @vcmp_oge_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
1363 ; CHECK-MVE-LABEL: vcmp_oge_v8f16:
1364 ; CHECK-MVE:       @ %bb.0: @ %entry
1365 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
1366 ; CHECK-MVE-NEXT:    vpush {d8, d9}
1367 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
1368 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
1369 ; CHECK-MVE-NEXT:    vmov s12, r1
1370 ; CHECK-MVE-NEXT:    movs r1, #0
1371 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
1372 ; CHECK-MVE-NEXT:    vmov s12, r2
1373 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1374 ; CHECK-MVE-NEXT:    it ge
1375 ; CHECK-MVE-NEXT:    movge r1, #1
1376 ; CHECK-MVE-NEXT:    cmp r1, #0
1377 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
1378 ; CHECK-MVE-NEXT:    it ne
1379 ; CHECK-MVE-NEXT:    movne r1, #1
1380 ; CHECK-MVE-NEXT:    vmov s14, r2
1381 ; CHECK-MVE-NEXT:    cmp r1, #0
1382 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
1383 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1384 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
1385 ; CHECK-MVE-NEXT:    vmov r1, s12
1386 ; CHECK-MVE-NEXT:    movs r0, #0
1387 ; CHECK-MVE-NEXT:    vmov s12, r2
1388 ; CHECK-MVE-NEXT:    movs r2, #0
1389 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
1390 ; CHECK-MVE-NEXT:    vmov s12, r3
1391 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1392 ; CHECK-MVE-NEXT:    it ge
1393 ; CHECK-MVE-NEXT:    movge r2, #1
1394 ; CHECK-MVE-NEXT:    cmp r2, #0
1395 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
1396 ; CHECK-MVE-NEXT:    it ne
1397 ; CHECK-MVE-NEXT:    movne r2, #1
1398 ; CHECK-MVE-NEXT:    vmov s14, r3
1399 ; CHECK-MVE-NEXT:    cmp r2, #0
1400 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1401 ; CHECK-MVE-NEXT:    vmov r2, s12
1402 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
1403 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
1404 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
1405 ; CHECK-MVE-NEXT:    vmov s16, r1
1406 ; CHECK-MVE-NEXT:    movs r1, #0
1407 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1408 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
1409 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1410 ; CHECK-MVE-NEXT:    it ge
1411 ; CHECK-MVE-NEXT:    movge r1, #1
1412 ; CHECK-MVE-NEXT:    cmp r1, #0
1413 ; CHECK-MVE-NEXT:    vmov s16, r2
1414 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
1415 ; CHECK-MVE-NEXT:    it ne
1416 ; CHECK-MVE-NEXT:    movne r1, #1
1417 ; CHECK-MVE-NEXT:    vmov s18, r2
1418 ; CHECK-MVE-NEXT:    cmp r1, #0
1419 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1420 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
1421 ; CHECK-MVE-NEXT:    vmov r1, s16
1422 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
1423 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
1424 ; CHECK-MVE-NEXT:    vmov s16, r1
1425 ; CHECK-MVE-NEXT:    movs r1, #0
1426 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1427 ; CHECK-MVE-NEXT:    vmov s16, r2
1428 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1429 ; CHECK-MVE-NEXT:    it ge
1430 ; CHECK-MVE-NEXT:    movge r1, #1
1431 ; CHECK-MVE-NEXT:    cmp r1, #0
1432 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
1433 ; CHECK-MVE-NEXT:    it ne
1434 ; CHECK-MVE-NEXT:    movne r1, #1
1435 ; CHECK-MVE-NEXT:    vmov s18, r2
1436 ; CHECK-MVE-NEXT:    cmp r1, #0
1437 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
1438 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1439 ; CHECK-MVE-NEXT:    vmov r1, s16
1440 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
1441 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
1442 ; CHECK-MVE-NEXT:    vmov s16, r1
1443 ; CHECK-MVE-NEXT:    movs r1, #0
1444 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1445 ; CHECK-MVE-NEXT:    vmov s16, r2
1446 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1447 ; CHECK-MVE-NEXT:    it ge
1448 ; CHECK-MVE-NEXT:    movge r1, #1
1449 ; CHECK-MVE-NEXT:    cmp r1, #0
1450 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
1451 ; CHECK-MVE-NEXT:    it ne
1452 ; CHECK-MVE-NEXT:    movne r1, #1
1453 ; CHECK-MVE-NEXT:    vmov s18, r2
1454 ; CHECK-MVE-NEXT:    cmp r1, #0
1455 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
1456 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1457 ; CHECK-MVE-NEXT:    vmov r1, s16
1458 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
1459 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
1460 ; CHECK-MVE-NEXT:    vmov s16, r1
1461 ; CHECK-MVE-NEXT:    movs r1, #0
1462 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1463 ; CHECK-MVE-NEXT:    vmov s16, r2
1464 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1465 ; CHECK-MVE-NEXT:    it ge
1466 ; CHECK-MVE-NEXT:    movge r1, #1
1467 ; CHECK-MVE-NEXT:    cmp r1, #0
1468 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
1469 ; CHECK-MVE-NEXT:    it ne
1470 ; CHECK-MVE-NEXT:    movne r1, #1
1471 ; CHECK-MVE-NEXT:    vmov s18, r2
1472 ; CHECK-MVE-NEXT:    cmp r1, #0
1473 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
1474 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1475 ; CHECK-MVE-NEXT:    vmov r1, s16
1476 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
1477 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
1478 ; CHECK-MVE-NEXT:    vmov s16, r1
1479 ; CHECK-MVE-NEXT:    movs r1, #0
1480 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1481 ; CHECK-MVE-NEXT:    vmov s16, r2
1482 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1483 ; CHECK-MVE-NEXT:    it ge
1484 ; CHECK-MVE-NEXT:    movge r1, #1
1485 ; CHECK-MVE-NEXT:    cmp r1, #0
1486 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
1487 ; CHECK-MVE-NEXT:    it ne
1488 ; CHECK-MVE-NEXT:    movne r1, #1
1489 ; CHECK-MVE-NEXT:    vmov s18, r2
1490 ; CHECK-MVE-NEXT:    cmp r1, #0
1491 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1492 ; CHECK-MVE-NEXT:    vmov r1, s16
1493 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
1494 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
1495 ; CHECK-MVE-NEXT:    vmov s0, r1
1496 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
1497 ; CHECK-MVE-NEXT:    vcmpe.f16 s0, #0
1498 ; CHECK-MVE-NEXT:    vmov s0, r1
1499 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1500 ; CHECK-MVE-NEXT:    it ge
1501 ; CHECK-MVE-NEXT:    movge r0, #1
1502 ; CHECK-MVE-NEXT:    cmp r0, #0
1503 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
1504 ; CHECK-MVE-NEXT:    it ne
1505 ; CHECK-MVE-NEXT:    movne r0, #1
1506 ; CHECK-MVE-NEXT:    vmov s2, r1
1507 ; CHECK-MVE-NEXT:    cmp r0, #0
1508 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
1509 ; CHECK-MVE-NEXT:    vmov r0, s0
1510 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
1511 ; CHECK-MVE-NEXT:    vmov q0, q3
1512 ; CHECK-MVE-NEXT:    vpop {d8, d9}
1513 ; CHECK-MVE-NEXT:    bx lr
1515 ; CHECK-MVEFP-LABEL: vcmp_oge_v8f16:
1516 ; CHECK-MVEFP:       @ %bb.0: @ %entry
1517 ; CHECK-MVEFP-NEXT:    vcmp.f16 ge, q0, zr
1518 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
1519 ; CHECK-MVEFP-NEXT:    bx lr
1520 entry:
1521   %c = fcmp oge <8 x half> %src, zeroinitializer
1522   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
1523   ret <8 x half> %s
1526 define arm_aapcs_vfpcc <8 x half> @vcmp_olt_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
1527 ; CHECK-MVE-LABEL: vcmp_olt_v8f16:
1528 ; CHECK-MVE:       @ %bb.0: @ %entry
1529 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
1530 ; CHECK-MVE-NEXT:    vpush {d8, d9}
1531 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
1532 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
1533 ; CHECK-MVE-NEXT:    vmov s12, r1
1534 ; CHECK-MVE-NEXT:    movs r1, #0
1535 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
1536 ; CHECK-MVE-NEXT:    vmov s12, r2
1537 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1538 ; CHECK-MVE-NEXT:    it mi
1539 ; CHECK-MVE-NEXT:    movmi r1, #1
1540 ; CHECK-MVE-NEXT:    cmp r1, #0
1541 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
1542 ; CHECK-MVE-NEXT:    it ne
1543 ; CHECK-MVE-NEXT:    movne r1, #1
1544 ; CHECK-MVE-NEXT:    vmov s14, r2
1545 ; CHECK-MVE-NEXT:    cmp r1, #0
1546 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
1547 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1548 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
1549 ; CHECK-MVE-NEXT:    vmov r1, s12
1550 ; CHECK-MVE-NEXT:    movs r0, #0
1551 ; CHECK-MVE-NEXT:    vmov s12, r2
1552 ; CHECK-MVE-NEXT:    movs r2, #0
1553 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
1554 ; CHECK-MVE-NEXT:    vmov s12, r3
1555 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1556 ; CHECK-MVE-NEXT:    it mi
1557 ; CHECK-MVE-NEXT:    movmi r2, #1
1558 ; CHECK-MVE-NEXT:    cmp r2, #0
1559 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
1560 ; CHECK-MVE-NEXT:    it ne
1561 ; CHECK-MVE-NEXT:    movne r2, #1
1562 ; CHECK-MVE-NEXT:    vmov s14, r3
1563 ; CHECK-MVE-NEXT:    cmp r2, #0
1564 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1565 ; CHECK-MVE-NEXT:    vmov r2, s12
1566 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
1567 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
1568 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
1569 ; CHECK-MVE-NEXT:    vmov s16, r1
1570 ; CHECK-MVE-NEXT:    movs r1, #0
1571 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1572 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
1573 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1574 ; CHECK-MVE-NEXT:    it mi
1575 ; CHECK-MVE-NEXT:    movmi r1, #1
1576 ; CHECK-MVE-NEXT:    cmp r1, #0
1577 ; CHECK-MVE-NEXT:    vmov s16, r2
1578 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
1579 ; CHECK-MVE-NEXT:    it ne
1580 ; CHECK-MVE-NEXT:    movne r1, #1
1581 ; CHECK-MVE-NEXT:    vmov s18, r2
1582 ; CHECK-MVE-NEXT:    cmp r1, #0
1583 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1584 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
1585 ; CHECK-MVE-NEXT:    vmov r1, s16
1586 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
1587 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
1588 ; CHECK-MVE-NEXT:    vmov s16, r1
1589 ; CHECK-MVE-NEXT:    movs r1, #0
1590 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1591 ; CHECK-MVE-NEXT:    vmov s16, r2
1592 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1593 ; CHECK-MVE-NEXT:    it mi
1594 ; CHECK-MVE-NEXT:    movmi r1, #1
1595 ; CHECK-MVE-NEXT:    cmp r1, #0
1596 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
1597 ; CHECK-MVE-NEXT:    it ne
1598 ; CHECK-MVE-NEXT:    movne r1, #1
1599 ; CHECK-MVE-NEXT:    vmov s18, r2
1600 ; CHECK-MVE-NEXT:    cmp r1, #0
1601 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
1602 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1603 ; CHECK-MVE-NEXT:    vmov r1, s16
1604 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
1605 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
1606 ; CHECK-MVE-NEXT:    vmov s16, r1
1607 ; CHECK-MVE-NEXT:    movs r1, #0
1608 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1609 ; CHECK-MVE-NEXT:    vmov s16, r2
1610 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1611 ; CHECK-MVE-NEXT:    it mi
1612 ; CHECK-MVE-NEXT:    movmi r1, #1
1613 ; CHECK-MVE-NEXT:    cmp r1, #0
1614 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
1615 ; CHECK-MVE-NEXT:    it ne
1616 ; CHECK-MVE-NEXT:    movne r1, #1
1617 ; CHECK-MVE-NEXT:    vmov s18, r2
1618 ; CHECK-MVE-NEXT:    cmp r1, #0
1619 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
1620 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1621 ; CHECK-MVE-NEXT:    vmov r1, s16
1622 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
1623 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
1624 ; CHECK-MVE-NEXT:    vmov s16, r1
1625 ; CHECK-MVE-NEXT:    movs r1, #0
1626 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1627 ; CHECK-MVE-NEXT:    vmov s16, r2
1628 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1629 ; CHECK-MVE-NEXT:    it mi
1630 ; CHECK-MVE-NEXT:    movmi r1, #1
1631 ; CHECK-MVE-NEXT:    cmp r1, #0
1632 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
1633 ; CHECK-MVE-NEXT:    it ne
1634 ; CHECK-MVE-NEXT:    movne r1, #1
1635 ; CHECK-MVE-NEXT:    vmov s18, r2
1636 ; CHECK-MVE-NEXT:    cmp r1, #0
1637 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
1638 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1639 ; CHECK-MVE-NEXT:    vmov r1, s16
1640 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
1641 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
1642 ; CHECK-MVE-NEXT:    vmov s16, r1
1643 ; CHECK-MVE-NEXT:    movs r1, #0
1644 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1645 ; CHECK-MVE-NEXT:    vmov s16, r2
1646 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1647 ; CHECK-MVE-NEXT:    it mi
1648 ; CHECK-MVE-NEXT:    movmi r1, #1
1649 ; CHECK-MVE-NEXT:    cmp r1, #0
1650 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
1651 ; CHECK-MVE-NEXT:    it ne
1652 ; CHECK-MVE-NEXT:    movne r1, #1
1653 ; CHECK-MVE-NEXT:    vmov s18, r2
1654 ; CHECK-MVE-NEXT:    cmp r1, #0
1655 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1656 ; CHECK-MVE-NEXT:    vmov r1, s16
1657 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
1658 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
1659 ; CHECK-MVE-NEXT:    vmov s0, r1
1660 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
1661 ; CHECK-MVE-NEXT:    vcmpe.f16 s0, #0
1662 ; CHECK-MVE-NEXT:    vmov s0, r1
1663 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1664 ; CHECK-MVE-NEXT:    it mi
1665 ; CHECK-MVE-NEXT:    movmi r0, #1
1666 ; CHECK-MVE-NEXT:    cmp r0, #0
1667 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
1668 ; CHECK-MVE-NEXT:    it ne
1669 ; CHECK-MVE-NEXT:    movne r0, #1
1670 ; CHECK-MVE-NEXT:    vmov s2, r1
1671 ; CHECK-MVE-NEXT:    cmp r0, #0
1672 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
1673 ; CHECK-MVE-NEXT:    vmov r0, s0
1674 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
1675 ; CHECK-MVE-NEXT:    vmov q0, q3
1676 ; CHECK-MVE-NEXT:    vpop {d8, d9}
1677 ; CHECK-MVE-NEXT:    bx lr
1679 ; CHECK-MVEFP-LABEL: vcmp_olt_v8f16:
1680 ; CHECK-MVEFP:       @ %bb.0: @ %entry
1681 ; CHECK-MVEFP-NEXT:    vcmp.f16 lt, q0, zr
1682 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
1683 ; CHECK-MVEFP-NEXT:    bx lr
1684 entry:
1685   %c = fcmp olt <8 x half> %src, zeroinitializer
1686   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
1687   ret <8 x half> %s
1690 define arm_aapcs_vfpcc <8 x half> @vcmp_ole_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
1691 ; CHECK-MVE-LABEL: vcmp_ole_v8f16:
1692 ; CHECK-MVE:       @ %bb.0: @ %entry
1693 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
1694 ; CHECK-MVE-NEXT:    vpush {d8, d9}
1695 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
1696 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
1697 ; CHECK-MVE-NEXT:    vmov s12, r1
1698 ; CHECK-MVE-NEXT:    movs r1, #0
1699 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
1700 ; CHECK-MVE-NEXT:    vmov s12, r2
1701 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1702 ; CHECK-MVE-NEXT:    it ls
1703 ; CHECK-MVE-NEXT:    movls r1, #1
1704 ; CHECK-MVE-NEXT:    cmp r1, #0
1705 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
1706 ; CHECK-MVE-NEXT:    it ne
1707 ; CHECK-MVE-NEXT:    movne r1, #1
1708 ; CHECK-MVE-NEXT:    vmov s14, r2
1709 ; CHECK-MVE-NEXT:    cmp r1, #0
1710 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
1711 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1712 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
1713 ; CHECK-MVE-NEXT:    vmov r1, s12
1714 ; CHECK-MVE-NEXT:    movs r0, #0
1715 ; CHECK-MVE-NEXT:    vmov s12, r2
1716 ; CHECK-MVE-NEXT:    movs r2, #0
1717 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
1718 ; CHECK-MVE-NEXT:    vmov s12, r3
1719 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1720 ; CHECK-MVE-NEXT:    it ls
1721 ; CHECK-MVE-NEXT:    movls r2, #1
1722 ; CHECK-MVE-NEXT:    cmp r2, #0
1723 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
1724 ; CHECK-MVE-NEXT:    it ne
1725 ; CHECK-MVE-NEXT:    movne r2, #1
1726 ; CHECK-MVE-NEXT:    vmov s14, r3
1727 ; CHECK-MVE-NEXT:    cmp r2, #0
1728 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1729 ; CHECK-MVE-NEXT:    vmov r2, s12
1730 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
1731 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
1732 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
1733 ; CHECK-MVE-NEXT:    vmov s16, r1
1734 ; CHECK-MVE-NEXT:    movs r1, #0
1735 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1736 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
1737 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1738 ; CHECK-MVE-NEXT:    it ls
1739 ; CHECK-MVE-NEXT:    movls r1, #1
1740 ; CHECK-MVE-NEXT:    cmp r1, #0
1741 ; CHECK-MVE-NEXT:    vmov s16, r2
1742 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
1743 ; CHECK-MVE-NEXT:    it ne
1744 ; CHECK-MVE-NEXT:    movne r1, #1
1745 ; CHECK-MVE-NEXT:    vmov s18, r2
1746 ; CHECK-MVE-NEXT:    cmp r1, #0
1747 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1748 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
1749 ; CHECK-MVE-NEXT:    vmov r1, s16
1750 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
1751 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
1752 ; CHECK-MVE-NEXT:    vmov s16, r1
1753 ; CHECK-MVE-NEXT:    movs r1, #0
1754 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1755 ; CHECK-MVE-NEXT:    vmov s16, r2
1756 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1757 ; CHECK-MVE-NEXT:    it ls
1758 ; CHECK-MVE-NEXT:    movls r1, #1
1759 ; CHECK-MVE-NEXT:    cmp r1, #0
1760 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
1761 ; CHECK-MVE-NEXT:    it ne
1762 ; CHECK-MVE-NEXT:    movne r1, #1
1763 ; CHECK-MVE-NEXT:    vmov s18, r2
1764 ; CHECK-MVE-NEXT:    cmp r1, #0
1765 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
1766 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1767 ; CHECK-MVE-NEXT:    vmov r1, s16
1768 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
1769 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
1770 ; CHECK-MVE-NEXT:    vmov s16, r1
1771 ; CHECK-MVE-NEXT:    movs r1, #0
1772 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1773 ; CHECK-MVE-NEXT:    vmov s16, r2
1774 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1775 ; CHECK-MVE-NEXT:    it ls
1776 ; CHECK-MVE-NEXT:    movls r1, #1
1777 ; CHECK-MVE-NEXT:    cmp r1, #0
1778 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
1779 ; CHECK-MVE-NEXT:    it ne
1780 ; CHECK-MVE-NEXT:    movne r1, #1
1781 ; CHECK-MVE-NEXT:    vmov s18, r2
1782 ; CHECK-MVE-NEXT:    cmp r1, #0
1783 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
1784 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1785 ; CHECK-MVE-NEXT:    vmov r1, s16
1786 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
1787 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
1788 ; CHECK-MVE-NEXT:    vmov s16, r1
1789 ; CHECK-MVE-NEXT:    movs r1, #0
1790 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1791 ; CHECK-MVE-NEXT:    vmov s16, r2
1792 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1793 ; CHECK-MVE-NEXT:    it ls
1794 ; CHECK-MVE-NEXT:    movls r1, #1
1795 ; CHECK-MVE-NEXT:    cmp r1, #0
1796 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
1797 ; CHECK-MVE-NEXT:    it ne
1798 ; CHECK-MVE-NEXT:    movne r1, #1
1799 ; CHECK-MVE-NEXT:    vmov s18, r2
1800 ; CHECK-MVE-NEXT:    cmp r1, #0
1801 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
1802 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1803 ; CHECK-MVE-NEXT:    vmov r1, s16
1804 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
1805 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
1806 ; CHECK-MVE-NEXT:    vmov s16, r1
1807 ; CHECK-MVE-NEXT:    movs r1, #0
1808 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1809 ; CHECK-MVE-NEXT:    vmov s16, r2
1810 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1811 ; CHECK-MVE-NEXT:    it ls
1812 ; CHECK-MVE-NEXT:    movls r1, #1
1813 ; CHECK-MVE-NEXT:    cmp r1, #0
1814 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
1815 ; CHECK-MVE-NEXT:    it ne
1816 ; CHECK-MVE-NEXT:    movne r1, #1
1817 ; CHECK-MVE-NEXT:    vmov s18, r2
1818 ; CHECK-MVE-NEXT:    cmp r1, #0
1819 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1820 ; CHECK-MVE-NEXT:    vmov r1, s16
1821 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
1822 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
1823 ; CHECK-MVE-NEXT:    vmov s0, r1
1824 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
1825 ; CHECK-MVE-NEXT:    vcmpe.f16 s0, #0
1826 ; CHECK-MVE-NEXT:    vmov s0, r1
1827 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1828 ; CHECK-MVE-NEXT:    it ls
1829 ; CHECK-MVE-NEXT:    movls r0, #1
1830 ; CHECK-MVE-NEXT:    cmp r0, #0
1831 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
1832 ; CHECK-MVE-NEXT:    it ne
1833 ; CHECK-MVE-NEXT:    movne r0, #1
1834 ; CHECK-MVE-NEXT:    vmov s2, r1
1835 ; CHECK-MVE-NEXT:    cmp r0, #0
1836 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
1837 ; CHECK-MVE-NEXT:    vmov r0, s0
1838 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
1839 ; CHECK-MVE-NEXT:    vmov q0, q3
1840 ; CHECK-MVE-NEXT:    vpop {d8, d9}
1841 ; CHECK-MVE-NEXT:    bx lr
1843 ; CHECK-MVEFP-LABEL: vcmp_ole_v8f16:
1844 ; CHECK-MVEFP:       @ %bb.0: @ %entry
1845 ; CHECK-MVEFP-NEXT:    vcmp.f16 le, q0, zr
1846 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
1847 ; CHECK-MVEFP-NEXT:    bx lr
1848 entry:
1849   %c = fcmp ole <8 x half> %src, zeroinitializer
1850   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
1851   ret <8 x half> %s
1854 define arm_aapcs_vfpcc <8 x half> @vcmp_ueq_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
1855 ; CHECK-MVE-LABEL: vcmp_ueq_v8f16:
1856 ; CHECK-MVE:       @ %bb.0: @ %entry
1857 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
1858 ; CHECK-MVE-NEXT:    vpush {d8, d9}
1859 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
1860 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
1861 ; CHECK-MVE-NEXT:    vmov s12, r1
1862 ; CHECK-MVE-NEXT:    movs r1, #0
1863 ; CHECK-MVE-NEXT:    vcmp.f16 s12, #0
1864 ; CHECK-MVE-NEXT:    vmov s12, r2
1865 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1866 ; CHECK-MVE-NEXT:    it eq
1867 ; CHECK-MVE-NEXT:    moveq r1, #1
1868 ; CHECK-MVE-NEXT:    it vs
1869 ; CHECK-MVE-NEXT:    movvs r1, #1
1870 ; CHECK-MVE-NEXT:    cmp r1, #0
1871 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
1872 ; CHECK-MVE-NEXT:    it ne
1873 ; CHECK-MVE-NEXT:    movne r1, #1
1874 ; CHECK-MVE-NEXT:    vmov s14, r2
1875 ; CHECK-MVE-NEXT:    cmp r1, #0
1876 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1877 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
1878 ; CHECK-MVE-NEXT:    vmov r1, s12
1879 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
1880 ; CHECK-MVE-NEXT:    vmov s12, r2
1881 ; CHECK-MVE-NEXT:    movs r2, #0
1882 ; CHECK-MVE-NEXT:    vcmp.f16 s12, #0
1883 ; CHECK-MVE-NEXT:    vmov s12, r3
1884 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1885 ; CHECK-MVE-NEXT:    it eq
1886 ; CHECK-MVE-NEXT:    moveq r2, #1
1887 ; CHECK-MVE-NEXT:    it vs
1888 ; CHECK-MVE-NEXT:    movvs r2, #1
1889 ; CHECK-MVE-NEXT:    cmp r2, #0
1890 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
1891 ; CHECK-MVE-NEXT:    it ne
1892 ; CHECK-MVE-NEXT:    movne r2, #1
1893 ; CHECK-MVE-NEXT:    vmov s14, r3
1894 ; CHECK-MVE-NEXT:    cmp r2, #0
1895 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1896 ; CHECK-MVE-NEXT:    movs r0, #0
1897 ; CHECK-MVE-NEXT:    vmov r2, s12
1898 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
1899 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
1900 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
1901 ; CHECK-MVE-NEXT:    vmov s16, r1
1902 ; CHECK-MVE-NEXT:    movs r1, #0
1903 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
1904 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
1905 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1906 ; CHECK-MVE-NEXT:    it eq
1907 ; CHECK-MVE-NEXT:    moveq r1, #1
1908 ; CHECK-MVE-NEXT:    it vs
1909 ; CHECK-MVE-NEXT:    movvs r1, #1
1910 ; CHECK-MVE-NEXT:    cmp r1, #0
1911 ; CHECK-MVE-NEXT:    vmov s16, r2
1912 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
1913 ; CHECK-MVE-NEXT:    it ne
1914 ; CHECK-MVE-NEXT:    movne r1, #1
1915 ; CHECK-MVE-NEXT:    vmov s18, r2
1916 ; CHECK-MVE-NEXT:    cmp r1, #0
1917 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
1918 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1919 ; CHECK-MVE-NEXT:    vmov r1, s16
1920 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
1921 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
1922 ; CHECK-MVE-NEXT:    vmov s16, r1
1923 ; CHECK-MVE-NEXT:    movs r1, #0
1924 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
1925 ; CHECK-MVE-NEXT:    vmov s16, r2
1926 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1927 ; CHECK-MVE-NEXT:    it eq
1928 ; CHECK-MVE-NEXT:    moveq r1, #1
1929 ; CHECK-MVE-NEXT:    it vs
1930 ; CHECK-MVE-NEXT:    movvs r1, #1
1931 ; CHECK-MVE-NEXT:    cmp r1, #0
1932 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
1933 ; CHECK-MVE-NEXT:    it ne
1934 ; CHECK-MVE-NEXT:    movne r1, #1
1935 ; CHECK-MVE-NEXT:    vmov s18, r2
1936 ; CHECK-MVE-NEXT:    cmp r1, #0
1937 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1938 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
1939 ; CHECK-MVE-NEXT:    vmov r1, s16
1940 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
1941 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
1942 ; CHECK-MVE-NEXT:    vmov s16, r1
1943 ; CHECK-MVE-NEXT:    movs r1, #0
1944 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
1945 ; CHECK-MVE-NEXT:    vmov s16, r2
1946 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1947 ; CHECK-MVE-NEXT:    it eq
1948 ; CHECK-MVE-NEXT:    moveq r1, #1
1949 ; CHECK-MVE-NEXT:    it vs
1950 ; CHECK-MVE-NEXT:    movvs r1, #1
1951 ; CHECK-MVE-NEXT:    cmp r1, #0
1952 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
1953 ; CHECK-MVE-NEXT:    it ne
1954 ; CHECK-MVE-NEXT:    movne r1, #1
1955 ; CHECK-MVE-NEXT:    vmov s18, r2
1956 ; CHECK-MVE-NEXT:    cmp r1, #0
1957 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1958 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
1959 ; CHECK-MVE-NEXT:    vmov r1, s16
1960 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
1961 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
1962 ; CHECK-MVE-NEXT:    vmov s16, r1
1963 ; CHECK-MVE-NEXT:    movs r1, #0
1964 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
1965 ; CHECK-MVE-NEXT:    vmov s16, r2
1966 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1967 ; CHECK-MVE-NEXT:    it eq
1968 ; CHECK-MVE-NEXT:    moveq r1, #1
1969 ; CHECK-MVE-NEXT:    it vs
1970 ; CHECK-MVE-NEXT:    movvs r1, #1
1971 ; CHECK-MVE-NEXT:    cmp r1, #0
1972 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
1973 ; CHECK-MVE-NEXT:    it ne
1974 ; CHECK-MVE-NEXT:    movne r1, #1
1975 ; CHECK-MVE-NEXT:    vmov s18, r2
1976 ; CHECK-MVE-NEXT:    cmp r1, #0
1977 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1978 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
1979 ; CHECK-MVE-NEXT:    vmov r1, s16
1980 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
1981 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
1982 ; CHECK-MVE-NEXT:    vmov s16, r1
1983 ; CHECK-MVE-NEXT:    movs r1, #0
1984 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
1985 ; CHECK-MVE-NEXT:    vmov s16, r2
1986 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1987 ; CHECK-MVE-NEXT:    it eq
1988 ; CHECK-MVE-NEXT:    moveq r1, #1
1989 ; CHECK-MVE-NEXT:    it vs
1990 ; CHECK-MVE-NEXT:    movvs r1, #1
1991 ; CHECK-MVE-NEXT:    cmp r1, #0
1992 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
1993 ; CHECK-MVE-NEXT:    it ne
1994 ; CHECK-MVE-NEXT:    movne r1, #1
1995 ; CHECK-MVE-NEXT:    vmov s18, r2
1996 ; CHECK-MVE-NEXT:    cmp r1, #0
1997 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1998 ; CHECK-MVE-NEXT:    vmov r1, s16
1999 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
2000 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
2001 ; CHECK-MVE-NEXT:    vmov s0, r1
2002 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
2003 ; CHECK-MVE-NEXT:    vcmp.f16 s0, #0
2004 ; CHECK-MVE-NEXT:    vmov s0, r1
2005 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2006 ; CHECK-MVE-NEXT:    it eq
2007 ; CHECK-MVE-NEXT:    moveq r0, #1
2008 ; CHECK-MVE-NEXT:    it vs
2009 ; CHECK-MVE-NEXT:    movvs r0, #1
2010 ; CHECK-MVE-NEXT:    cmp r0, #0
2011 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
2012 ; CHECK-MVE-NEXT:    it ne
2013 ; CHECK-MVE-NEXT:    movne r0, #1
2014 ; CHECK-MVE-NEXT:    vmov s2, r1
2015 ; CHECK-MVE-NEXT:    cmp r0, #0
2016 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
2017 ; CHECK-MVE-NEXT:    vmov r0, s0
2018 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
2019 ; CHECK-MVE-NEXT:    vmov q0, q3
2020 ; CHECK-MVE-NEXT:    vpop {d8, d9}
2021 ; CHECK-MVE-NEXT:    bx lr
2023 ; CHECK-MVEFP-LABEL: vcmp_ueq_v8f16:
2024 ; CHECK-MVEFP:       @ %bb.0: @ %entry
2025 ; CHECK-MVEFP-NEXT:    vmov.i32 q3, #0x0
2026 ; CHECK-MVEFP-NEXT:    vcmp.f16 le, q3, q0
2027 ; CHECK-MVEFP-NEXT:    vpst
2028 ; CHECK-MVEFP-NEXT:    vcmpt.f16 le, q0, q3
2029 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
2030 ; CHECK-MVEFP-NEXT:    bx lr
2031 entry:
2032   %c = fcmp ueq <8 x half> %src, zeroinitializer
2033   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
2034   ret <8 x half> %s
2037 define arm_aapcs_vfpcc <8 x half> @vcmp_une_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
2038 ; CHECK-MVE-LABEL: vcmp_une_v8f16:
2039 ; CHECK-MVE:       @ %bb.0: @ %entry
2040 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
2041 ; CHECK-MVE-NEXT:    vpush {d8, d9}
2042 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
2043 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
2044 ; CHECK-MVE-NEXT:    vmov s12, r1
2045 ; CHECK-MVE-NEXT:    movs r1, #0
2046 ; CHECK-MVE-NEXT:    vcmp.f16 s12, #0
2047 ; CHECK-MVE-NEXT:    vmov s12, r2
2048 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2049 ; CHECK-MVE-NEXT:    it ne
2050 ; CHECK-MVE-NEXT:    movne r1, #1
2051 ; CHECK-MVE-NEXT:    cmp r1, #0
2052 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
2053 ; CHECK-MVE-NEXT:    it ne
2054 ; CHECK-MVE-NEXT:    movne r1, #1
2055 ; CHECK-MVE-NEXT:    vmov s14, r2
2056 ; CHECK-MVE-NEXT:    cmp r1, #0
2057 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
2058 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2059 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
2060 ; CHECK-MVE-NEXT:    vmov r1, s12
2061 ; CHECK-MVE-NEXT:    movs r0, #0
2062 ; CHECK-MVE-NEXT:    vmov s12, r2
2063 ; CHECK-MVE-NEXT:    movs r2, #0
2064 ; CHECK-MVE-NEXT:    vcmp.f16 s12, #0
2065 ; CHECK-MVE-NEXT:    vmov s12, r3
2066 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2067 ; CHECK-MVE-NEXT:    it ne
2068 ; CHECK-MVE-NEXT:    movne r2, #1
2069 ; CHECK-MVE-NEXT:    cmp r2, #0
2070 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
2071 ; CHECK-MVE-NEXT:    it ne
2072 ; CHECK-MVE-NEXT:    movne r2, #1
2073 ; CHECK-MVE-NEXT:    vmov s14, r3
2074 ; CHECK-MVE-NEXT:    cmp r2, #0
2075 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2076 ; CHECK-MVE-NEXT:    vmov r2, s12
2077 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
2078 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
2079 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
2080 ; CHECK-MVE-NEXT:    vmov s16, r1
2081 ; CHECK-MVE-NEXT:    movs r1, #0
2082 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
2083 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
2084 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2085 ; CHECK-MVE-NEXT:    it ne
2086 ; CHECK-MVE-NEXT:    movne r1, #1
2087 ; CHECK-MVE-NEXT:    cmp r1, #0
2088 ; CHECK-MVE-NEXT:    vmov s16, r2
2089 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
2090 ; CHECK-MVE-NEXT:    it ne
2091 ; CHECK-MVE-NEXT:    movne r1, #1
2092 ; CHECK-MVE-NEXT:    vmov s18, r2
2093 ; CHECK-MVE-NEXT:    cmp r1, #0
2094 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2095 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
2096 ; CHECK-MVE-NEXT:    vmov r1, s16
2097 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
2098 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
2099 ; CHECK-MVE-NEXT:    vmov s16, r1
2100 ; CHECK-MVE-NEXT:    movs r1, #0
2101 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
2102 ; CHECK-MVE-NEXT:    vmov s16, r2
2103 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2104 ; CHECK-MVE-NEXT:    it ne
2105 ; CHECK-MVE-NEXT:    movne r1, #1
2106 ; CHECK-MVE-NEXT:    cmp r1, #0
2107 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
2108 ; CHECK-MVE-NEXT:    it ne
2109 ; CHECK-MVE-NEXT:    movne r1, #1
2110 ; CHECK-MVE-NEXT:    vmov s18, r2
2111 ; CHECK-MVE-NEXT:    cmp r1, #0
2112 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
2113 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2114 ; CHECK-MVE-NEXT:    vmov r1, s16
2115 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
2116 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
2117 ; CHECK-MVE-NEXT:    vmov s16, r1
2118 ; CHECK-MVE-NEXT:    movs r1, #0
2119 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
2120 ; CHECK-MVE-NEXT:    vmov s16, r2
2121 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2122 ; CHECK-MVE-NEXT:    it ne
2123 ; CHECK-MVE-NEXT:    movne r1, #1
2124 ; CHECK-MVE-NEXT:    cmp r1, #0
2125 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
2126 ; CHECK-MVE-NEXT:    it ne
2127 ; CHECK-MVE-NEXT:    movne r1, #1
2128 ; CHECK-MVE-NEXT:    vmov s18, r2
2129 ; CHECK-MVE-NEXT:    cmp r1, #0
2130 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
2131 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2132 ; CHECK-MVE-NEXT:    vmov r1, s16
2133 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
2134 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
2135 ; CHECK-MVE-NEXT:    vmov s16, r1
2136 ; CHECK-MVE-NEXT:    movs r1, #0
2137 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
2138 ; CHECK-MVE-NEXT:    vmov s16, r2
2139 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2140 ; CHECK-MVE-NEXT:    it ne
2141 ; CHECK-MVE-NEXT:    movne r1, #1
2142 ; CHECK-MVE-NEXT:    cmp r1, #0
2143 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
2144 ; CHECK-MVE-NEXT:    it ne
2145 ; CHECK-MVE-NEXT:    movne r1, #1
2146 ; CHECK-MVE-NEXT:    vmov s18, r2
2147 ; CHECK-MVE-NEXT:    cmp r1, #0
2148 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
2149 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2150 ; CHECK-MVE-NEXT:    vmov r1, s16
2151 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
2152 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
2153 ; CHECK-MVE-NEXT:    vmov s16, r1
2154 ; CHECK-MVE-NEXT:    movs r1, #0
2155 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
2156 ; CHECK-MVE-NEXT:    vmov s16, r2
2157 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2158 ; CHECK-MVE-NEXT:    it ne
2159 ; CHECK-MVE-NEXT:    movne r1, #1
2160 ; CHECK-MVE-NEXT:    cmp r1, #0
2161 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
2162 ; CHECK-MVE-NEXT:    it ne
2163 ; CHECK-MVE-NEXT:    movne r1, #1
2164 ; CHECK-MVE-NEXT:    vmov s18, r2
2165 ; CHECK-MVE-NEXT:    cmp r1, #0
2166 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2167 ; CHECK-MVE-NEXT:    vmov r1, s16
2168 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
2169 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
2170 ; CHECK-MVE-NEXT:    vmov s0, r1
2171 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
2172 ; CHECK-MVE-NEXT:    vcmp.f16 s0, #0
2173 ; CHECK-MVE-NEXT:    vmov s0, r1
2174 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2175 ; CHECK-MVE-NEXT:    it ne
2176 ; CHECK-MVE-NEXT:    movne r0, #1
2177 ; CHECK-MVE-NEXT:    cmp r0, #0
2178 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
2179 ; CHECK-MVE-NEXT:    it ne
2180 ; CHECK-MVE-NEXT:    movne r0, #1
2181 ; CHECK-MVE-NEXT:    vmov s2, r1
2182 ; CHECK-MVE-NEXT:    cmp r0, #0
2183 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
2184 ; CHECK-MVE-NEXT:    vmov r0, s0
2185 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
2186 ; CHECK-MVE-NEXT:    vmov q0, q3
2187 ; CHECK-MVE-NEXT:    vpop {d8, d9}
2188 ; CHECK-MVE-NEXT:    bx lr
2190 ; CHECK-MVEFP-LABEL: vcmp_une_v8f16:
2191 ; CHECK-MVEFP:       @ %bb.0: @ %entry
2192 ; CHECK-MVEFP-NEXT:    vcmp.f16 ne, q0, zr
2193 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
2194 ; CHECK-MVEFP-NEXT:    bx lr
2195 entry:
2196   %c = fcmp une <8 x half> %src, zeroinitializer
2197   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
2198   ret <8 x half> %s
2201 define arm_aapcs_vfpcc <8 x half> @vcmp_ugt_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
2202 ; CHECK-MVE-LABEL: vcmp_ugt_v8f16:
2203 ; CHECK-MVE:       @ %bb.0: @ %entry
2204 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
2205 ; CHECK-MVE-NEXT:    vpush {d8, d9}
2206 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
2207 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
2208 ; CHECK-MVE-NEXT:    vmov s12, r1
2209 ; CHECK-MVE-NEXT:    movs r1, #0
2210 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
2211 ; CHECK-MVE-NEXT:    vmov s12, r2
2212 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2213 ; CHECK-MVE-NEXT:    it hi
2214 ; CHECK-MVE-NEXT:    movhi r1, #1
2215 ; CHECK-MVE-NEXT:    cmp r1, #0
2216 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
2217 ; CHECK-MVE-NEXT:    it ne
2218 ; CHECK-MVE-NEXT:    movne r1, #1
2219 ; CHECK-MVE-NEXT:    vmov s14, r2
2220 ; CHECK-MVE-NEXT:    cmp r1, #0
2221 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
2222 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2223 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
2224 ; CHECK-MVE-NEXT:    vmov r1, s12
2225 ; CHECK-MVE-NEXT:    movs r0, #0
2226 ; CHECK-MVE-NEXT:    vmov s12, r2
2227 ; CHECK-MVE-NEXT:    movs r2, #0
2228 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
2229 ; CHECK-MVE-NEXT:    vmov s12, r3
2230 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2231 ; CHECK-MVE-NEXT:    it hi
2232 ; CHECK-MVE-NEXT:    movhi r2, #1
2233 ; CHECK-MVE-NEXT:    cmp r2, #0
2234 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
2235 ; CHECK-MVE-NEXT:    it ne
2236 ; CHECK-MVE-NEXT:    movne r2, #1
2237 ; CHECK-MVE-NEXT:    vmov s14, r3
2238 ; CHECK-MVE-NEXT:    cmp r2, #0
2239 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2240 ; CHECK-MVE-NEXT:    vmov r2, s12
2241 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
2242 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
2243 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
2244 ; CHECK-MVE-NEXT:    vmov s16, r1
2245 ; CHECK-MVE-NEXT:    movs r1, #0
2246 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2247 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
2248 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2249 ; CHECK-MVE-NEXT:    it hi
2250 ; CHECK-MVE-NEXT:    movhi r1, #1
2251 ; CHECK-MVE-NEXT:    cmp r1, #0
2252 ; CHECK-MVE-NEXT:    vmov s16, r2
2253 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
2254 ; CHECK-MVE-NEXT:    it ne
2255 ; CHECK-MVE-NEXT:    movne r1, #1
2256 ; CHECK-MVE-NEXT:    vmov s18, r2
2257 ; CHECK-MVE-NEXT:    cmp r1, #0
2258 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2259 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
2260 ; CHECK-MVE-NEXT:    vmov r1, s16
2261 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
2262 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
2263 ; CHECK-MVE-NEXT:    vmov s16, r1
2264 ; CHECK-MVE-NEXT:    movs r1, #0
2265 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2266 ; CHECK-MVE-NEXT:    vmov s16, r2
2267 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2268 ; CHECK-MVE-NEXT:    it hi
2269 ; CHECK-MVE-NEXT:    movhi r1, #1
2270 ; CHECK-MVE-NEXT:    cmp r1, #0
2271 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
2272 ; CHECK-MVE-NEXT:    it ne
2273 ; CHECK-MVE-NEXT:    movne r1, #1
2274 ; CHECK-MVE-NEXT:    vmov s18, r2
2275 ; CHECK-MVE-NEXT:    cmp r1, #0
2276 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
2277 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2278 ; CHECK-MVE-NEXT:    vmov r1, s16
2279 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
2280 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
2281 ; CHECK-MVE-NEXT:    vmov s16, r1
2282 ; CHECK-MVE-NEXT:    movs r1, #0
2283 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2284 ; CHECK-MVE-NEXT:    vmov s16, r2
2285 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2286 ; CHECK-MVE-NEXT:    it hi
2287 ; CHECK-MVE-NEXT:    movhi r1, #1
2288 ; CHECK-MVE-NEXT:    cmp r1, #0
2289 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
2290 ; CHECK-MVE-NEXT:    it ne
2291 ; CHECK-MVE-NEXT:    movne r1, #1
2292 ; CHECK-MVE-NEXT:    vmov s18, r2
2293 ; CHECK-MVE-NEXT:    cmp r1, #0
2294 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
2295 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2296 ; CHECK-MVE-NEXT:    vmov r1, s16
2297 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
2298 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
2299 ; CHECK-MVE-NEXT:    vmov s16, r1
2300 ; CHECK-MVE-NEXT:    movs r1, #0
2301 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2302 ; CHECK-MVE-NEXT:    vmov s16, r2
2303 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2304 ; CHECK-MVE-NEXT:    it hi
2305 ; CHECK-MVE-NEXT:    movhi r1, #1
2306 ; CHECK-MVE-NEXT:    cmp r1, #0
2307 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
2308 ; CHECK-MVE-NEXT:    it ne
2309 ; CHECK-MVE-NEXT:    movne r1, #1
2310 ; CHECK-MVE-NEXT:    vmov s18, r2
2311 ; CHECK-MVE-NEXT:    cmp r1, #0
2312 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
2313 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2314 ; CHECK-MVE-NEXT:    vmov r1, s16
2315 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
2316 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
2317 ; CHECK-MVE-NEXT:    vmov s16, r1
2318 ; CHECK-MVE-NEXT:    movs r1, #0
2319 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2320 ; CHECK-MVE-NEXT:    vmov s16, r2
2321 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2322 ; CHECK-MVE-NEXT:    it hi
2323 ; CHECK-MVE-NEXT:    movhi r1, #1
2324 ; CHECK-MVE-NEXT:    cmp r1, #0
2325 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
2326 ; CHECK-MVE-NEXT:    it ne
2327 ; CHECK-MVE-NEXT:    movne r1, #1
2328 ; CHECK-MVE-NEXT:    vmov s18, r2
2329 ; CHECK-MVE-NEXT:    cmp r1, #0
2330 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2331 ; CHECK-MVE-NEXT:    vmov r1, s16
2332 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
2333 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
2334 ; CHECK-MVE-NEXT:    vmov s0, r1
2335 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
2336 ; CHECK-MVE-NEXT:    vcmpe.f16 s0, #0
2337 ; CHECK-MVE-NEXT:    vmov s0, r1
2338 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2339 ; CHECK-MVE-NEXT:    it hi
2340 ; CHECK-MVE-NEXT:    movhi r0, #1
2341 ; CHECK-MVE-NEXT:    cmp r0, #0
2342 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
2343 ; CHECK-MVE-NEXT:    it ne
2344 ; CHECK-MVE-NEXT:    movne r0, #1
2345 ; CHECK-MVE-NEXT:    vmov s2, r1
2346 ; CHECK-MVE-NEXT:    cmp r0, #0
2347 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
2348 ; CHECK-MVE-NEXT:    vmov r0, s0
2349 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
2350 ; CHECK-MVE-NEXT:    vmov q0, q3
2351 ; CHECK-MVE-NEXT:    vpop {d8, d9}
2352 ; CHECK-MVE-NEXT:    bx lr
2354 ; CHECK-MVEFP-LABEL: vcmp_ugt_v8f16:
2355 ; CHECK-MVEFP:       @ %bb.0: @ %entry
2356 ; CHECK-MVEFP-NEXT:    vcmp.f16 le, q0, zr
2357 ; CHECK-MVEFP-NEXT:    movw r0, #65535
2358 ; CHECK-MVEFP-NEXT:    vmrs r1, p0
2359 ; CHECK-MVEFP-NEXT:    eors r0, r1
2360 ; CHECK-MVEFP-NEXT:    vmsr p0, r0
2361 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
2362 ; CHECK-MVEFP-NEXT:    bx lr
2363 entry:
2364   %c = fcmp ugt <8 x half> %src, zeroinitializer
2365   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
2366   ret <8 x half> %s
2369 define arm_aapcs_vfpcc <8 x half> @vcmp_uge_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
2370 ; CHECK-MVE-LABEL: vcmp_uge_v8f16:
2371 ; CHECK-MVE:       @ %bb.0: @ %entry
2372 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
2373 ; CHECK-MVE-NEXT:    vpush {d8, d9}
2374 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
2375 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
2376 ; CHECK-MVE-NEXT:    vmov s12, r1
2377 ; CHECK-MVE-NEXT:    movs r1, #0
2378 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
2379 ; CHECK-MVE-NEXT:    vmov s12, r2
2380 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2381 ; CHECK-MVE-NEXT:    it pl
2382 ; CHECK-MVE-NEXT:    movpl r1, #1
2383 ; CHECK-MVE-NEXT:    cmp r1, #0
2384 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
2385 ; CHECK-MVE-NEXT:    it ne
2386 ; CHECK-MVE-NEXT:    movne r1, #1
2387 ; CHECK-MVE-NEXT:    vmov s14, r2
2388 ; CHECK-MVE-NEXT:    cmp r1, #0
2389 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
2390 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2391 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
2392 ; CHECK-MVE-NEXT:    vmov r1, s12
2393 ; CHECK-MVE-NEXT:    movs r0, #0
2394 ; CHECK-MVE-NEXT:    vmov s12, r2
2395 ; CHECK-MVE-NEXT:    movs r2, #0
2396 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
2397 ; CHECK-MVE-NEXT:    vmov s12, r3
2398 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2399 ; CHECK-MVE-NEXT:    it pl
2400 ; CHECK-MVE-NEXT:    movpl r2, #1
2401 ; CHECK-MVE-NEXT:    cmp r2, #0
2402 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
2403 ; CHECK-MVE-NEXT:    it ne
2404 ; CHECK-MVE-NEXT:    movne r2, #1
2405 ; CHECK-MVE-NEXT:    vmov s14, r3
2406 ; CHECK-MVE-NEXT:    cmp r2, #0
2407 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2408 ; CHECK-MVE-NEXT:    vmov r2, s12
2409 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
2410 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
2411 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
2412 ; CHECK-MVE-NEXT:    vmov s16, r1
2413 ; CHECK-MVE-NEXT:    movs r1, #0
2414 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2415 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
2416 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2417 ; CHECK-MVE-NEXT:    it pl
2418 ; CHECK-MVE-NEXT:    movpl r1, #1
2419 ; CHECK-MVE-NEXT:    cmp r1, #0
2420 ; CHECK-MVE-NEXT:    vmov s16, r2
2421 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
2422 ; CHECK-MVE-NEXT:    it ne
2423 ; CHECK-MVE-NEXT:    movne r1, #1
2424 ; CHECK-MVE-NEXT:    vmov s18, r2
2425 ; CHECK-MVE-NEXT:    cmp r1, #0
2426 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2427 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
2428 ; CHECK-MVE-NEXT:    vmov r1, s16
2429 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
2430 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
2431 ; CHECK-MVE-NEXT:    vmov s16, r1
2432 ; CHECK-MVE-NEXT:    movs r1, #0
2433 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2434 ; CHECK-MVE-NEXT:    vmov s16, r2
2435 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2436 ; CHECK-MVE-NEXT:    it pl
2437 ; CHECK-MVE-NEXT:    movpl r1, #1
2438 ; CHECK-MVE-NEXT:    cmp r1, #0
2439 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
2440 ; CHECK-MVE-NEXT:    it ne
2441 ; CHECK-MVE-NEXT:    movne r1, #1
2442 ; CHECK-MVE-NEXT:    vmov s18, r2
2443 ; CHECK-MVE-NEXT:    cmp r1, #0
2444 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
2445 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2446 ; CHECK-MVE-NEXT:    vmov r1, s16
2447 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
2448 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
2449 ; CHECK-MVE-NEXT:    vmov s16, r1
2450 ; CHECK-MVE-NEXT:    movs r1, #0
2451 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2452 ; CHECK-MVE-NEXT:    vmov s16, r2
2453 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2454 ; CHECK-MVE-NEXT:    it pl
2455 ; CHECK-MVE-NEXT:    movpl r1, #1
2456 ; CHECK-MVE-NEXT:    cmp r1, #0
2457 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
2458 ; CHECK-MVE-NEXT:    it ne
2459 ; CHECK-MVE-NEXT:    movne r1, #1
2460 ; CHECK-MVE-NEXT:    vmov s18, r2
2461 ; CHECK-MVE-NEXT:    cmp r1, #0
2462 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
2463 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2464 ; CHECK-MVE-NEXT:    vmov r1, s16
2465 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
2466 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
2467 ; CHECK-MVE-NEXT:    vmov s16, r1
2468 ; CHECK-MVE-NEXT:    movs r1, #0
2469 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2470 ; CHECK-MVE-NEXT:    vmov s16, r2
2471 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2472 ; CHECK-MVE-NEXT:    it pl
2473 ; CHECK-MVE-NEXT:    movpl r1, #1
2474 ; CHECK-MVE-NEXT:    cmp r1, #0
2475 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
2476 ; CHECK-MVE-NEXT:    it ne
2477 ; CHECK-MVE-NEXT:    movne r1, #1
2478 ; CHECK-MVE-NEXT:    vmov s18, r2
2479 ; CHECK-MVE-NEXT:    cmp r1, #0
2480 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
2481 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2482 ; CHECK-MVE-NEXT:    vmov r1, s16
2483 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
2484 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
2485 ; CHECK-MVE-NEXT:    vmov s16, r1
2486 ; CHECK-MVE-NEXT:    movs r1, #0
2487 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2488 ; CHECK-MVE-NEXT:    vmov s16, r2
2489 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2490 ; CHECK-MVE-NEXT:    it pl
2491 ; CHECK-MVE-NEXT:    movpl r1, #1
2492 ; CHECK-MVE-NEXT:    cmp r1, #0
2493 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
2494 ; CHECK-MVE-NEXT:    it ne
2495 ; CHECK-MVE-NEXT:    movne r1, #1
2496 ; CHECK-MVE-NEXT:    vmov s18, r2
2497 ; CHECK-MVE-NEXT:    cmp r1, #0
2498 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2499 ; CHECK-MVE-NEXT:    vmov r1, s16
2500 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
2501 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
2502 ; CHECK-MVE-NEXT:    vmov s0, r1
2503 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
2504 ; CHECK-MVE-NEXT:    vcmpe.f16 s0, #0
2505 ; CHECK-MVE-NEXT:    vmov s0, r1
2506 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2507 ; CHECK-MVE-NEXT:    it pl
2508 ; CHECK-MVE-NEXT:    movpl r0, #1
2509 ; CHECK-MVE-NEXT:    cmp r0, #0
2510 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
2511 ; CHECK-MVE-NEXT:    it ne
2512 ; CHECK-MVE-NEXT:    movne r0, #1
2513 ; CHECK-MVE-NEXT:    vmov s2, r1
2514 ; CHECK-MVE-NEXT:    cmp r0, #0
2515 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
2516 ; CHECK-MVE-NEXT:    vmov r0, s0
2517 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
2518 ; CHECK-MVE-NEXT:    vmov q0, q3
2519 ; CHECK-MVE-NEXT:    vpop {d8, d9}
2520 ; CHECK-MVE-NEXT:    bx lr
2522 ; CHECK-MVEFP-LABEL: vcmp_uge_v8f16:
2523 ; CHECK-MVEFP:       @ %bb.0: @ %entry
2524 ; CHECK-MVEFP-NEXT:    vcmp.f16 lt, q0, zr
2525 ; CHECK-MVEFP-NEXT:    movw r0, #65535
2526 ; CHECK-MVEFP-NEXT:    vmrs r1, p0
2527 ; CHECK-MVEFP-NEXT:    eors r0, r1
2528 ; CHECK-MVEFP-NEXT:    vmsr p0, r0
2529 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
2530 ; CHECK-MVEFP-NEXT:    bx lr
2531 entry:
2532   %c = fcmp uge <8 x half> %src, zeroinitializer
2533   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
2534   ret <8 x half> %s
2537 define arm_aapcs_vfpcc <8 x half> @vcmp_ult_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
2538 ; CHECK-MVE-LABEL: vcmp_ult_v8f16:
2539 ; CHECK-MVE:       @ %bb.0: @ %entry
2540 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
2541 ; CHECK-MVE-NEXT:    vpush {d8, d9}
2542 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
2543 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
2544 ; CHECK-MVE-NEXT:    vmov s12, r1
2545 ; CHECK-MVE-NEXT:    movs r1, #0
2546 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
2547 ; CHECK-MVE-NEXT:    vmov s12, r2
2548 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2549 ; CHECK-MVE-NEXT:    it lt
2550 ; CHECK-MVE-NEXT:    movlt r1, #1
2551 ; CHECK-MVE-NEXT:    cmp r1, #0
2552 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
2553 ; CHECK-MVE-NEXT:    it ne
2554 ; CHECK-MVE-NEXT:    movne r1, #1
2555 ; CHECK-MVE-NEXT:    vmov s14, r2
2556 ; CHECK-MVE-NEXT:    cmp r1, #0
2557 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
2558 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2559 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
2560 ; CHECK-MVE-NEXT:    vmov r1, s12
2561 ; CHECK-MVE-NEXT:    movs r0, #0
2562 ; CHECK-MVE-NEXT:    vmov s12, r2
2563 ; CHECK-MVE-NEXT:    movs r2, #0
2564 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
2565 ; CHECK-MVE-NEXT:    vmov s12, r3
2566 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2567 ; CHECK-MVE-NEXT:    it lt
2568 ; CHECK-MVE-NEXT:    movlt r2, #1
2569 ; CHECK-MVE-NEXT:    cmp r2, #0
2570 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
2571 ; CHECK-MVE-NEXT:    it ne
2572 ; CHECK-MVE-NEXT:    movne r2, #1
2573 ; CHECK-MVE-NEXT:    vmov s14, r3
2574 ; CHECK-MVE-NEXT:    cmp r2, #0
2575 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2576 ; CHECK-MVE-NEXT:    vmov r2, s12
2577 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
2578 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
2579 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
2580 ; CHECK-MVE-NEXT:    vmov s16, r1
2581 ; CHECK-MVE-NEXT:    movs r1, #0
2582 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2583 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
2584 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2585 ; CHECK-MVE-NEXT:    it lt
2586 ; CHECK-MVE-NEXT:    movlt r1, #1
2587 ; CHECK-MVE-NEXT:    cmp r1, #0
2588 ; CHECK-MVE-NEXT:    vmov s16, r2
2589 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
2590 ; CHECK-MVE-NEXT:    it ne
2591 ; CHECK-MVE-NEXT:    movne r1, #1
2592 ; CHECK-MVE-NEXT:    vmov s18, r2
2593 ; CHECK-MVE-NEXT:    cmp r1, #0
2594 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2595 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
2596 ; CHECK-MVE-NEXT:    vmov r1, s16
2597 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
2598 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
2599 ; CHECK-MVE-NEXT:    vmov s16, r1
2600 ; CHECK-MVE-NEXT:    movs r1, #0
2601 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2602 ; CHECK-MVE-NEXT:    vmov s16, r2
2603 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2604 ; CHECK-MVE-NEXT:    it lt
2605 ; CHECK-MVE-NEXT:    movlt r1, #1
2606 ; CHECK-MVE-NEXT:    cmp r1, #0
2607 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
2608 ; CHECK-MVE-NEXT:    it ne
2609 ; CHECK-MVE-NEXT:    movne r1, #1
2610 ; CHECK-MVE-NEXT:    vmov s18, r2
2611 ; CHECK-MVE-NEXT:    cmp r1, #0
2612 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
2613 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2614 ; CHECK-MVE-NEXT:    vmov r1, s16
2615 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
2616 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
2617 ; CHECK-MVE-NEXT:    vmov s16, r1
2618 ; CHECK-MVE-NEXT:    movs r1, #0
2619 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2620 ; CHECK-MVE-NEXT:    vmov s16, r2
2621 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2622 ; CHECK-MVE-NEXT:    it lt
2623 ; CHECK-MVE-NEXT:    movlt r1, #1
2624 ; CHECK-MVE-NEXT:    cmp r1, #0
2625 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
2626 ; CHECK-MVE-NEXT:    it ne
2627 ; CHECK-MVE-NEXT:    movne r1, #1
2628 ; CHECK-MVE-NEXT:    vmov s18, r2
2629 ; CHECK-MVE-NEXT:    cmp r1, #0
2630 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
2631 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2632 ; CHECK-MVE-NEXT:    vmov r1, s16
2633 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
2634 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
2635 ; CHECK-MVE-NEXT:    vmov s16, r1
2636 ; CHECK-MVE-NEXT:    movs r1, #0
2637 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2638 ; CHECK-MVE-NEXT:    vmov s16, r2
2639 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2640 ; CHECK-MVE-NEXT:    it lt
2641 ; CHECK-MVE-NEXT:    movlt r1, #1
2642 ; CHECK-MVE-NEXT:    cmp r1, #0
2643 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
2644 ; CHECK-MVE-NEXT:    it ne
2645 ; CHECK-MVE-NEXT:    movne r1, #1
2646 ; CHECK-MVE-NEXT:    vmov s18, r2
2647 ; CHECK-MVE-NEXT:    cmp r1, #0
2648 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
2649 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2650 ; CHECK-MVE-NEXT:    vmov r1, s16
2651 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
2652 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
2653 ; CHECK-MVE-NEXT:    vmov s16, r1
2654 ; CHECK-MVE-NEXT:    movs r1, #0
2655 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2656 ; CHECK-MVE-NEXT:    vmov s16, r2
2657 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2658 ; CHECK-MVE-NEXT:    it lt
2659 ; CHECK-MVE-NEXT:    movlt r1, #1
2660 ; CHECK-MVE-NEXT:    cmp r1, #0
2661 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
2662 ; CHECK-MVE-NEXT:    it ne
2663 ; CHECK-MVE-NEXT:    movne r1, #1
2664 ; CHECK-MVE-NEXT:    vmov s18, r2
2665 ; CHECK-MVE-NEXT:    cmp r1, #0
2666 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2667 ; CHECK-MVE-NEXT:    vmov r1, s16
2668 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
2669 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
2670 ; CHECK-MVE-NEXT:    vmov s0, r1
2671 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
2672 ; CHECK-MVE-NEXT:    vcmpe.f16 s0, #0
2673 ; CHECK-MVE-NEXT:    vmov s0, r1
2674 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2675 ; CHECK-MVE-NEXT:    it lt
2676 ; CHECK-MVE-NEXT:    movlt r0, #1
2677 ; CHECK-MVE-NEXT:    cmp r0, #0
2678 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
2679 ; CHECK-MVE-NEXT:    it ne
2680 ; CHECK-MVE-NEXT:    movne r0, #1
2681 ; CHECK-MVE-NEXT:    vmov s2, r1
2682 ; CHECK-MVE-NEXT:    cmp r0, #0
2683 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
2684 ; CHECK-MVE-NEXT:    vmov r0, s0
2685 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
2686 ; CHECK-MVE-NEXT:    vmov q0, q3
2687 ; CHECK-MVE-NEXT:    vpop {d8, d9}
2688 ; CHECK-MVE-NEXT:    bx lr
2690 ; CHECK-MVEFP-LABEL: vcmp_ult_v8f16:
2691 ; CHECK-MVEFP:       @ %bb.0: @ %entry
2692 ; CHECK-MVEFP-NEXT:    vcmp.f16 ge, q0, zr
2693 ; CHECK-MVEFP-NEXT:    movw r0, #65535
2694 ; CHECK-MVEFP-NEXT:    vmrs r1, p0
2695 ; CHECK-MVEFP-NEXT:    eors r0, r1
2696 ; CHECK-MVEFP-NEXT:    vmsr p0, r0
2697 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
2698 ; CHECK-MVEFP-NEXT:    bx lr
2699 entry:
2700   %c = fcmp ult <8 x half> %src, zeroinitializer
2701   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
2702   ret <8 x half> %s
2705 define arm_aapcs_vfpcc <8 x half> @vcmp_ule_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
2706 ; CHECK-MVE-LABEL: vcmp_ule_v8f16:
2707 ; CHECK-MVE:       @ %bb.0: @ %entry
2708 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
2709 ; CHECK-MVE-NEXT:    vpush {d8, d9}
2710 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
2711 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
2712 ; CHECK-MVE-NEXT:    vmov s12, r1
2713 ; CHECK-MVE-NEXT:    movs r1, #0
2714 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
2715 ; CHECK-MVE-NEXT:    vmov s12, r2
2716 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2717 ; CHECK-MVE-NEXT:    it le
2718 ; CHECK-MVE-NEXT:    movle r1, #1
2719 ; CHECK-MVE-NEXT:    cmp r1, #0
2720 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
2721 ; CHECK-MVE-NEXT:    it ne
2722 ; CHECK-MVE-NEXT:    movne r1, #1
2723 ; CHECK-MVE-NEXT:    vmov s14, r2
2724 ; CHECK-MVE-NEXT:    cmp r1, #0
2725 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
2726 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2727 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
2728 ; CHECK-MVE-NEXT:    vmov r1, s12
2729 ; CHECK-MVE-NEXT:    movs r0, #0
2730 ; CHECK-MVE-NEXT:    vmov s12, r2
2731 ; CHECK-MVE-NEXT:    movs r2, #0
2732 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
2733 ; CHECK-MVE-NEXT:    vmov s12, r3
2734 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2735 ; CHECK-MVE-NEXT:    it le
2736 ; CHECK-MVE-NEXT:    movle r2, #1
2737 ; CHECK-MVE-NEXT:    cmp r2, #0
2738 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
2739 ; CHECK-MVE-NEXT:    it ne
2740 ; CHECK-MVE-NEXT:    movne r2, #1
2741 ; CHECK-MVE-NEXT:    vmov s14, r3
2742 ; CHECK-MVE-NEXT:    cmp r2, #0
2743 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2744 ; CHECK-MVE-NEXT:    vmov r2, s12
2745 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
2746 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
2747 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
2748 ; CHECK-MVE-NEXT:    vmov s16, r1
2749 ; CHECK-MVE-NEXT:    movs r1, #0
2750 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2751 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
2752 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2753 ; CHECK-MVE-NEXT:    it le
2754 ; CHECK-MVE-NEXT:    movle r1, #1
2755 ; CHECK-MVE-NEXT:    cmp r1, #0
2756 ; CHECK-MVE-NEXT:    vmov s16, r2
2757 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
2758 ; CHECK-MVE-NEXT:    it ne
2759 ; CHECK-MVE-NEXT:    movne r1, #1
2760 ; CHECK-MVE-NEXT:    vmov s18, r2
2761 ; CHECK-MVE-NEXT:    cmp r1, #0
2762 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2763 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
2764 ; CHECK-MVE-NEXT:    vmov r1, s16
2765 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
2766 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
2767 ; CHECK-MVE-NEXT:    vmov s16, r1
2768 ; CHECK-MVE-NEXT:    movs r1, #0
2769 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2770 ; CHECK-MVE-NEXT:    vmov s16, r2
2771 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2772 ; CHECK-MVE-NEXT:    it le
2773 ; CHECK-MVE-NEXT:    movle r1, #1
2774 ; CHECK-MVE-NEXT:    cmp r1, #0
2775 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
2776 ; CHECK-MVE-NEXT:    it ne
2777 ; CHECK-MVE-NEXT:    movne r1, #1
2778 ; CHECK-MVE-NEXT:    vmov s18, r2
2779 ; CHECK-MVE-NEXT:    cmp r1, #0
2780 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
2781 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2782 ; CHECK-MVE-NEXT:    vmov r1, s16
2783 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
2784 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
2785 ; CHECK-MVE-NEXT:    vmov s16, r1
2786 ; CHECK-MVE-NEXT:    movs r1, #0
2787 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2788 ; CHECK-MVE-NEXT:    vmov s16, r2
2789 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2790 ; CHECK-MVE-NEXT:    it le
2791 ; CHECK-MVE-NEXT:    movle r1, #1
2792 ; CHECK-MVE-NEXT:    cmp r1, #0
2793 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
2794 ; CHECK-MVE-NEXT:    it ne
2795 ; CHECK-MVE-NEXT:    movne r1, #1
2796 ; CHECK-MVE-NEXT:    vmov s18, r2
2797 ; CHECK-MVE-NEXT:    cmp r1, #0
2798 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
2799 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2800 ; CHECK-MVE-NEXT:    vmov r1, s16
2801 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
2802 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
2803 ; CHECK-MVE-NEXT:    vmov s16, r1
2804 ; CHECK-MVE-NEXT:    movs r1, #0
2805 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2806 ; CHECK-MVE-NEXT:    vmov s16, r2
2807 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2808 ; CHECK-MVE-NEXT:    it le
2809 ; CHECK-MVE-NEXT:    movle r1, #1
2810 ; CHECK-MVE-NEXT:    cmp r1, #0
2811 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
2812 ; CHECK-MVE-NEXT:    it ne
2813 ; CHECK-MVE-NEXT:    movne r1, #1
2814 ; CHECK-MVE-NEXT:    vmov s18, r2
2815 ; CHECK-MVE-NEXT:    cmp r1, #0
2816 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
2817 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2818 ; CHECK-MVE-NEXT:    vmov r1, s16
2819 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
2820 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
2821 ; CHECK-MVE-NEXT:    vmov s16, r1
2822 ; CHECK-MVE-NEXT:    movs r1, #0
2823 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2824 ; CHECK-MVE-NEXT:    vmov s16, r2
2825 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2826 ; CHECK-MVE-NEXT:    it le
2827 ; CHECK-MVE-NEXT:    movle r1, #1
2828 ; CHECK-MVE-NEXT:    cmp r1, #0
2829 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
2830 ; CHECK-MVE-NEXT:    it ne
2831 ; CHECK-MVE-NEXT:    movne r1, #1
2832 ; CHECK-MVE-NEXT:    vmov s18, r2
2833 ; CHECK-MVE-NEXT:    cmp r1, #0
2834 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2835 ; CHECK-MVE-NEXT:    vmov r1, s16
2836 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
2837 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
2838 ; CHECK-MVE-NEXT:    vmov s0, r1
2839 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
2840 ; CHECK-MVE-NEXT:    vcmpe.f16 s0, #0
2841 ; CHECK-MVE-NEXT:    vmov s0, r1
2842 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2843 ; CHECK-MVE-NEXT:    it le
2844 ; CHECK-MVE-NEXT:    movle r0, #1
2845 ; CHECK-MVE-NEXT:    cmp r0, #0
2846 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
2847 ; CHECK-MVE-NEXT:    it ne
2848 ; CHECK-MVE-NEXT:    movne r0, #1
2849 ; CHECK-MVE-NEXT:    vmov s2, r1
2850 ; CHECK-MVE-NEXT:    cmp r0, #0
2851 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
2852 ; CHECK-MVE-NEXT:    vmov r0, s0
2853 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
2854 ; CHECK-MVE-NEXT:    vmov q0, q3
2855 ; CHECK-MVE-NEXT:    vpop {d8, d9}
2856 ; CHECK-MVE-NEXT:    bx lr
2858 ; CHECK-MVEFP-LABEL: vcmp_ule_v8f16:
2859 ; CHECK-MVEFP:       @ %bb.0: @ %entry
2860 ; CHECK-MVEFP-NEXT:    vcmp.f16 gt, q0, zr
2861 ; CHECK-MVEFP-NEXT:    movw r0, #65535
2862 ; CHECK-MVEFP-NEXT:    vmrs r1, p0
2863 ; CHECK-MVEFP-NEXT:    eors r0, r1
2864 ; CHECK-MVEFP-NEXT:    vmsr p0, r0
2865 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
2866 ; CHECK-MVEFP-NEXT:    bx lr
2867 entry:
2868   %c = fcmp ule <8 x half> %src, zeroinitializer
2869   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
2870   ret <8 x half> %s
2873 define arm_aapcs_vfpcc <8 x half> @vcmp_ord_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
2874 ; CHECK-MVE-LABEL: vcmp_ord_v8f16:
2875 ; CHECK-MVE:       @ %bb.0: @ %entry
2876 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
2877 ; CHECK-MVE-NEXT:    vpush {d8, d9}
2878 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
2879 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
2880 ; CHECK-MVE-NEXT:    vmov s12, r1
2881 ; CHECK-MVE-NEXT:    movs r1, #0
2882 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, s12
2883 ; CHECK-MVE-NEXT:    vmov s12, r2
2884 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2885 ; CHECK-MVE-NEXT:    it vc
2886 ; CHECK-MVE-NEXT:    movvc r1, #1
2887 ; CHECK-MVE-NEXT:    cmp r1, #0
2888 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
2889 ; CHECK-MVE-NEXT:    it ne
2890 ; CHECK-MVE-NEXT:    movne r1, #1
2891 ; CHECK-MVE-NEXT:    vmov s14, r2
2892 ; CHECK-MVE-NEXT:    cmp r1, #0
2893 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
2894 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2895 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
2896 ; CHECK-MVE-NEXT:    vmov r1, s12
2897 ; CHECK-MVE-NEXT:    movs r0, #0
2898 ; CHECK-MVE-NEXT:    vmov s12, r2
2899 ; CHECK-MVE-NEXT:    movs r2, #0
2900 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, s12
2901 ; CHECK-MVE-NEXT:    vmov s12, r3
2902 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2903 ; CHECK-MVE-NEXT:    it vc
2904 ; CHECK-MVE-NEXT:    movvc r2, #1
2905 ; CHECK-MVE-NEXT:    cmp r2, #0
2906 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
2907 ; CHECK-MVE-NEXT:    it ne
2908 ; CHECK-MVE-NEXT:    movne r2, #1
2909 ; CHECK-MVE-NEXT:    vmov s14, r3
2910 ; CHECK-MVE-NEXT:    cmp r2, #0
2911 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2912 ; CHECK-MVE-NEXT:    vmov r2, s12
2913 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
2914 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
2915 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
2916 ; CHECK-MVE-NEXT:    vmov s16, r1
2917 ; CHECK-MVE-NEXT:    movs r1, #0
2918 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, s16
2919 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
2920 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2921 ; CHECK-MVE-NEXT:    it vc
2922 ; CHECK-MVE-NEXT:    movvc r1, #1
2923 ; CHECK-MVE-NEXT:    cmp r1, #0
2924 ; CHECK-MVE-NEXT:    vmov s16, r2
2925 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
2926 ; CHECK-MVE-NEXT:    it ne
2927 ; CHECK-MVE-NEXT:    movne r1, #1
2928 ; CHECK-MVE-NEXT:    vmov s18, r2
2929 ; CHECK-MVE-NEXT:    cmp r1, #0
2930 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2931 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
2932 ; CHECK-MVE-NEXT:    vmov r1, s16
2933 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
2934 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
2935 ; CHECK-MVE-NEXT:    vmov s16, r1
2936 ; CHECK-MVE-NEXT:    movs r1, #0
2937 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, s16
2938 ; CHECK-MVE-NEXT:    vmov s16, r2
2939 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2940 ; CHECK-MVE-NEXT:    it vc
2941 ; CHECK-MVE-NEXT:    movvc r1, #1
2942 ; CHECK-MVE-NEXT:    cmp r1, #0
2943 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
2944 ; CHECK-MVE-NEXT:    it ne
2945 ; CHECK-MVE-NEXT:    movne r1, #1
2946 ; CHECK-MVE-NEXT:    vmov s18, r2
2947 ; CHECK-MVE-NEXT:    cmp r1, #0
2948 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
2949 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2950 ; CHECK-MVE-NEXT:    vmov r1, s16
2951 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
2952 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
2953 ; CHECK-MVE-NEXT:    vmov s16, r1
2954 ; CHECK-MVE-NEXT:    movs r1, #0
2955 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, s16
2956 ; CHECK-MVE-NEXT:    vmov s16, r2
2957 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2958 ; CHECK-MVE-NEXT:    it vc
2959 ; CHECK-MVE-NEXT:    movvc r1, #1
2960 ; CHECK-MVE-NEXT:    cmp r1, #0
2961 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
2962 ; CHECK-MVE-NEXT:    it ne
2963 ; CHECK-MVE-NEXT:    movne r1, #1
2964 ; CHECK-MVE-NEXT:    vmov s18, r2
2965 ; CHECK-MVE-NEXT:    cmp r1, #0
2966 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
2967 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2968 ; CHECK-MVE-NEXT:    vmov r1, s16
2969 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
2970 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
2971 ; CHECK-MVE-NEXT:    vmov s16, r1
2972 ; CHECK-MVE-NEXT:    movs r1, #0
2973 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, s16
2974 ; CHECK-MVE-NEXT:    vmov s16, r2
2975 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2976 ; CHECK-MVE-NEXT:    it vc
2977 ; CHECK-MVE-NEXT:    movvc r1, #1
2978 ; CHECK-MVE-NEXT:    cmp r1, #0
2979 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
2980 ; CHECK-MVE-NEXT:    it ne
2981 ; CHECK-MVE-NEXT:    movne r1, #1
2982 ; CHECK-MVE-NEXT:    vmov s18, r2
2983 ; CHECK-MVE-NEXT:    cmp r1, #0
2984 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
2985 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2986 ; CHECK-MVE-NEXT:    vmov r1, s16
2987 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
2988 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
2989 ; CHECK-MVE-NEXT:    vmov s16, r1
2990 ; CHECK-MVE-NEXT:    movs r1, #0
2991 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, s16
2992 ; CHECK-MVE-NEXT:    vmov s16, r2
2993 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2994 ; CHECK-MVE-NEXT:    it vc
2995 ; CHECK-MVE-NEXT:    movvc r1, #1
2996 ; CHECK-MVE-NEXT:    cmp r1, #0
2997 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
2998 ; CHECK-MVE-NEXT:    it ne
2999 ; CHECK-MVE-NEXT:    movne r1, #1
3000 ; CHECK-MVE-NEXT:    vmov s18, r2
3001 ; CHECK-MVE-NEXT:    cmp r1, #0
3002 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
3003 ; CHECK-MVE-NEXT:    vmov r1, s16
3004 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
3005 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
3006 ; CHECK-MVE-NEXT:    vmov s0, r1
3007 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
3008 ; CHECK-MVE-NEXT:    vcmpe.f16 s0, s0
3009 ; CHECK-MVE-NEXT:    vmov s0, r1
3010 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
3011 ; CHECK-MVE-NEXT:    it vc
3012 ; CHECK-MVE-NEXT:    movvc r0, #1
3013 ; CHECK-MVE-NEXT:    cmp r0, #0
3014 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
3015 ; CHECK-MVE-NEXT:    it ne
3016 ; CHECK-MVE-NEXT:    movne r0, #1
3017 ; CHECK-MVE-NEXT:    vmov s2, r1
3018 ; CHECK-MVE-NEXT:    cmp r0, #0
3019 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
3020 ; CHECK-MVE-NEXT:    vmov r0, s0
3021 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
3022 ; CHECK-MVE-NEXT:    vmov q0, q3
3023 ; CHECK-MVE-NEXT:    vpop {d8, d9}
3024 ; CHECK-MVE-NEXT:    bx lr
3026 ; CHECK-MVEFP-LABEL: vcmp_ord_v8f16:
3027 ; CHECK-MVEFP:       @ %bb.0: @ %entry
3028 ; CHECK-MVEFP-NEXT:    vmov.i32 q3, #0x0
3029 ; CHECK-MVEFP-NEXT:    movw r1, #65535
3030 ; CHECK-MVEFP-NEXT:    vcmp.f16 le, q3, q0
3031 ; CHECK-MVEFP-NEXT:    vpst
3032 ; CHECK-MVEFP-NEXT:    vcmpt.f16 lt, q0, q3
3033 ; CHECK-MVEFP-NEXT:    vmrs r0, p0
3034 ; CHECK-MVEFP-NEXT:    eors r0, r1
3035 ; CHECK-MVEFP-NEXT:    vmsr p0, r0
3036 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
3037 ; CHECK-MVEFP-NEXT:    bx lr
3038 entry:
3039   %c = fcmp ord <8 x half> %src, zeroinitializer
3040   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
3041   ret <8 x half> %s
3044 define arm_aapcs_vfpcc <8 x half> @vcmp_uno_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
3045 ; CHECK-MVE-LABEL: vcmp_uno_v8f16:
3046 ; CHECK-MVE:       @ %bb.0: @ %entry
3047 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
3048 ; CHECK-MVE-NEXT:    vpush {d8, d9}
3049 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
3050 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
3051 ; CHECK-MVE-NEXT:    vmov s12, r1
3052 ; CHECK-MVE-NEXT:    movs r1, #0
3053 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, s12
3054 ; CHECK-MVE-NEXT:    vmov s12, r2
3055 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
3056 ; CHECK-MVE-NEXT:    it vs
3057 ; CHECK-MVE-NEXT:    movvs r1, #1
3058 ; CHECK-MVE-NEXT:    cmp r1, #0
3059 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
3060 ; CHECK-MVE-NEXT:    it ne
3061 ; CHECK-MVE-NEXT:    movne r1, #1
3062 ; CHECK-MVE-NEXT:    vmov s14, r2
3063 ; CHECK-MVE-NEXT:    cmp r1, #0
3064 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
3065 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
3066 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
3067 ; CHECK-MVE-NEXT:    vmov r1, s12
3068 ; CHECK-MVE-NEXT:    movs r0, #0
3069 ; CHECK-MVE-NEXT:    vmov s12, r2
3070 ; CHECK-MVE-NEXT:    movs r2, #0
3071 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, s12
3072 ; CHECK-MVE-NEXT:    vmov s12, r3
3073 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
3074 ; CHECK-MVE-NEXT:    it vs
3075 ; CHECK-MVE-NEXT:    movvs r2, #1
3076 ; CHECK-MVE-NEXT:    cmp r2, #0
3077 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
3078 ; CHECK-MVE-NEXT:    it ne
3079 ; CHECK-MVE-NEXT:    movne r2, #1
3080 ; CHECK-MVE-NEXT:    vmov s14, r3
3081 ; CHECK-MVE-NEXT:    cmp r2, #0
3082 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
3083 ; CHECK-MVE-NEXT:    vmov r2, s12
3084 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
3085 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
3086 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
3087 ; CHECK-MVE-NEXT:    vmov s16, r1
3088 ; CHECK-MVE-NEXT:    movs r1, #0
3089 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, s16
3090 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
3091 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
3092 ; CHECK-MVE-NEXT:    it vs
3093 ; CHECK-MVE-NEXT:    movvs r1, #1
3094 ; CHECK-MVE-NEXT:    cmp r1, #0
3095 ; CHECK-MVE-NEXT:    vmov s16, r2
3096 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
3097 ; CHECK-MVE-NEXT:    it ne
3098 ; CHECK-MVE-NEXT:    movne r1, #1
3099 ; CHECK-MVE-NEXT:    vmov s18, r2
3100 ; CHECK-MVE-NEXT:    cmp r1, #0
3101 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
3102 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
3103 ; CHECK-MVE-NEXT:    vmov r1, s16
3104 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
3105 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
3106 ; CHECK-MVE-NEXT:    vmov s16, r1
3107 ; CHECK-MVE-NEXT:    movs r1, #0
3108 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, s16
3109 ; CHECK-MVE-NEXT:    vmov s16, r2
3110 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
3111 ; CHECK-MVE-NEXT:    it vs
3112 ; CHECK-MVE-NEXT:    movvs r1, #1
3113 ; CHECK-MVE-NEXT:    cmp r1, #0
3114 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
3115 ; CHECK-MVE-NEXT:    it ne
3116 ; CHECK-MVE-NEXT:    movne r1, #1
3117 ; CHECK-MVE-NEXT:    vmov s18, r2
3118 ; CHECK-MVE-NEXT:    cmp r1, #0
3119 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
3120 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
3121 ; CHECK-MVE-NEXT:    vmov r1, s16
3122 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
3123 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
3124 ; CHECK-MVE-NEXT:    vmov s16, r1
3125 ; CHECK-MVE-NEXT:    movs r1, #0
3126 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, s16
3127 ; CHECK-MVE-NEXT:    vmov s16, r2
3128 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
3129 ; CHECK-MVE-NEXT:    it vs
3130 ; CHECK-MVE-NEXT:    movvs r1, #1
3131 ; CHECK-MVE-NEXT:    cmp r1, #0
3132 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
3133 ; CHECK-MVE-NEXT:    it ne
3134 ; CHECK-MVE-NEXT:    movne r1, #1
3135 ; CHECK-MVE-NEXT:    vmov s18, r2
3136 ; CHECK-MVE-NEXT:    cmp r1, #0
3137 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
3138 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
3139 ; CHECK-MVE-NEXT:    vmov r1, s16
3140 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
3141 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
3142 ; CHECK-MVE-NEXT:    vmov s16, r1
3143 ; CHECK-MVE-NEXT:    movs r1, #0
3144 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, s16
3145 ; CHECK-MVE-NEXT:    vmov s16, r2
3146 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
3147 ; CHECK-MVE-NEXT:    it vs
3148 ; CHECK-MVE-NEXT:    movvs r1, #1
3149 ; CHECK-MVE-NEXT:    cmp r1, #0
3150 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
3151 ; CHECK-MVE-NEXT:    it ne
3152 ; CHECK-MVE-NEXT:    movne r1, #1
3153 ; CHECK-MVE-NEXT:    vmov s18, r2
3154 ; CHECK-MVE-NEXT:    cmp r1, #0
3155 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
3156 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
3157 ; CHECK-MVE-NEXT:    vmov r1, s16
3158 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
3159 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
3160 ; CHECK-MVE-NEXT:    vmov s16, r1
3161 ; CHECK-MVE-NEXT:    movs r1, #0
3162 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, s16
3163 ; CHECK-MVE-NEXT:    vmov s16, r2
3164 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
3165 ; CHECK-MVE-NEXT:    it vs
3166 ; CHECK-MVE-NEXT:    movvs r1, #1
3167 ; CHECK-MVE-NEXT:    cmp r1, #0
3168 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
3169 ; CHECK-MVE-NEXT:    it ne
3170 ; CHECK-MVE-NEXT:    movne r1, #1
3171 ; CHECK-MVE-NEXT:    vmov s18, r2
3172 ; CHECK-MVE-NEXT:    cmp r1, #0
3173 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
3174 ; CHECK-MVE-NEXT:    vmov r1, s16
3175 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
3176 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
3177 ; CHECK-MVE-NEXT:    vmov s0, r1
3178 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
3179 ; CHECK-MVE-NEXT:    vcmpe.f16 s0, s0
3180 ; CHECK-MVE-NEXT:    vmov s0, r1
3181 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
3182 ; CHECK-MVE-NEXT:    it vs
3183 ; CHECK-MVE-NEXT:    movvs r0, #1
3184 ; CHECK-MVE-NEXT:    cmp r0, #0
3185 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
3186 ; CHECK-MVE-NEXT:    it ne
3187 ; CHECK-MVE-NEXT:    movne r0, #1
3188 ; CHECK-MVE-NEXT:    vmov s2, r1
3189 ; CHECK-MVE-NEXT:    cmp r0, #0
3190 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
3191 ; CHECK-MVE-NEXT:    vmov r0, s0
3192 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
3193 ; CHECK-MVE-NEXT:    vmov q0, q3
3194 ; CHECK-MVE-NEXT:    vpop {d8, d9}
3195 ; CHECK-MVE-NEXT:    bx lr
3197 ; CHECK-MVEFP-LABEL: vcmp_uno_v8f16:
3198 ; CHECK-MVEFP:       @ %bb.0: @ %entry
3199 ; CHECK-MVEFP-NEXT:    vmov.i32 q3, #0x0
3200 ; CHECK-MVEFP-NEXT:    vcmp.f16 le, q3, q0
3201 ; CHECK-MVEFP-NEXT:    vpst
3202 ; CHECK-MVEFP-NEXT:    vcmpt.f16 lt, q0, q3
3203 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
3204 ; CHECK-MVEFP-NEXT:    bx lr
3205 entry:
3206   %c = fcmp uno <8 x half> %src, zeroinitializer
3207   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
3208   ret <8 x half> %s