llvm/test/CodeGen/AArch64/sve-intrinsics-while.ll

   1 ; NOTE: Assertions have been autogenerated by utils/update_llc_test_checks.py
   2 ; RUN: llc -mtriple=aarch64-linux-gnu -mattr=+sve < %s | FileCheck %s
   3 ; RUN: llc -mtriple=aarch64-linux-gnu -mattr=+sme < %s | FileCheck %s
   4
   5 ;
   6 ; WHILELE
   7 ;
   8
   9 define <vscale x 16 x i1> @whilele_b_ww(i32 %a, i32 %b) {
  10 ; CHECK-LABEL: whilele_b_ww:
  11 ; CHECK:       // %bb.0:
  12 ; CHECK-NEXT:    whilele p0.b, w0, w1
  13 ; CHECK-NEXT:    ret
  14   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilele.nxv16i1.i32(i32 %a, i32 %b)
  15   ret <vscale x 16 x i1> %out
  16 }
  17
  18 define <vscale x 16 x i1> @whilele_b_xx(i64 %a, i64 %b) {
  19 ; CHECK-LABEL: whilele_b_xx:
  20 ; CHECK:       // %bb.0:
  21 ; CHECK-NEXT:    whilele p0.b, x0, x1
  22 ; CHECK-NEXT:    ret
  23   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilele.nxv16i1.i64(i64 %a, i64 %b)
  24   ret <vscale x 16 x i1> %out
  25 }
  26
  27 define <vscale x 8 x i1> @whilele_h_ww(i32 %a, i32 %b) {
  28 ; CHECK-LABEL: whilele_h_ww:
  29 ; CHECK:       // %bb.0:
  30 ; CHECK-NEXT:    whilele p0.h, w0, w1
  31 ; CHECK-NEXT:    ret
  32   %out = call <vscale x 8 x i1> @llvm.aarch64.sve.whilele.nxv8i1.i32(i32 %a, i32 %b)
  33   ret <vscale x 8 x i1> %out
  34 }
  35
  36 define <vscale x 8 x i1> @whilele_h_xx(i64 %a, i64 %b) {
  37 ; CHECK-LABEL: whilele_h_xx:
  38 ; CHECK:       // %bb.0:
  39 ; CHECK-NEXT:    whilele p0.h, x0, x1
  40 ; CHECK-NEXT:    ret
  41   %out = call <vscale x 8 x i1> @llvm.aarch64.sve.whilele.nxv8i1.i64(i64 %a, i64 %b)
  42   ret <vscale x 8 x i1> %out
  43 }
  44
  45 define <vscale x 4 x i1> @whilele_s_ww(i32 %a, i32 %b) {
  46 ; CHECK-LABEL: whilele_s_ww:
  47 ; CHECK:       // %bb.0:
  48 ; CHECK-NEXT:    whilele p0.s, w0, w1
  49 ; CHECK-NEXT:    ret
  50   %out = call <vscale x 4 x i1> @llvm.aarch64.sve.whilele.nxv4i1.i32(i32 %a, i32 %b)
  51   ret <vscale x 4 x i1> %out
  52 }
  53
  54 define <vscale x 4 x i1> @whilele_s_xx(i64 %a, i64 %b) {
  55 ; CHECK-LABEL: whilele_s_xx:
  56 ; CHECK:       // %bb.0:
  57 ; CHECK-NEXT:    whilele p0.s, x0, x1
  58 ; CHECK-NEXT:    ret
  59   %out = call <vscale x 4 x i1> @llvm.aarch64.sve.whilele.nxv4i1.i64(i64 %a, i64 %b)
  60   ret <vscale x 4 x i1> %out
  61 }
  62
  63 define <vscale x 2 x i1> @whilele_d_ww(i32 %a, i32 %b) {
  64 ; CHECK-LABEL: whilele_d_ww:
  65 ; CHECK:       // %bb.0:
  66 ; CHECK-NEXT:    whilele p0.d, w0, w1
  67 ; CHECK-NEXT:    ret
  68   %out = call <vscale x 2 x i1> @llvm.aarch64.sve.whilele.nxv2i1.i32(i32 %a, i32 %b)
  69   ret <vscale x 2 x i1> %out
  70 }
  71
  72 define <vscale x 2 x i1> @whilele_d_xx(i64 %a, i64 %b) {
  73 ; CHECK-LABEL: whilele_d_xx:
  74 ; CHECK:       // %bb.0:
  75 ; CHECK-NEXT:    whilele p0.d, x0, x1
  76 ; CHECK-NEXT:    ret
  77   %out = call <vscale x 2 x i1> @llvm.aarch64.sve.whilele.nxv2i1.i64(i64 %a, i64 %b)
  78   ret <vscale x 2 x i1> %out
  79 }
  80
  81 define <vscale x 2 x i1> @whilele_d_ii_dont_fold_to_ptrue_larger_than_minvec() {
  82 ; CHECK-LABEL: whilele_d_ii_dont_fold_to_ptrue_larger_than_minvec:
  83 ; CHECK:       // %bb.0:
  84 ; CHECK-NEXT:    mov w8, #3
  85 ; CHECK-NEXT:    whilele p0.d, xzr, x8
  86 ; CHECK-NEXT:    ret
  87   %out = call <vscale x 2 x i1> @llvm.aarch64.sve.whilele.nxv2i1.i64(i64 0, i64 3)
  88   ret <vscale x 2 x i1> %out
  89 }
  90
  91 define <vscale x 16 x i1> @whilele_b_ii() {
  92 ; CHECK-LABEL: whilele_b_ii:
  93 ; CHECK:       // %bb.0: // %entry
  94 ; CHECK-NEXT:    ptrue p0.b, vl6
  95 ; CHECK-NEXT:    ret
  96 entry:
  97   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilele.nxv16i1.i64(i64 -2, i64 3)
  98   ret <vscale x 16 x i1> %out
  99 }
 100
 101 define <vscale x 16 x i1> @whilele_b_ii_dont_fold_to_ptrue_nonexistent_vl9() {
 102 ; CHECK-LABEL: whilele_b_ii_dont_fold_to_ptrue_nonexistent_vl9:
 103 ; CHECK:       // %bb.0: // %entry
 104 ; CHECK-NEXT:    mov w8, #9
 105 ; CHECK-NEXT:    whilele p0.b, xzr, x8
 106 ; CHECK-NEXT:    ret
 107 entry:
 108   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilele.nxv16i1.i64(i64 0, i64 9)
 109   ret <vscale x 16 x i1> %out
 110 }
 111
 112 define <vscale x 16 x i1> @whilele_b_vl_maximum() vscale_range(16, 16) {
 113 ; CHECK-LABEL: whilele_b_vl_maximum:
 114 ; CHECK:       // %bb.0:
 115 ; CHECK-NEXT:    ptrue p0.b, vl256
 116 ; CHECK-NEXT:    ret
 117   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilele.nxv16i1.i64(i64 0, i64 255)
 118   ret <vscale x 16 x i1> %out
 119 }
 120
 121 define <vscale x 16 x i1> @whilele_b_ii_dont_fold_to_ptrue_overflow() {
 122 ; CHECK-LABEL: whilele_b_ii_dont_fold_to_ptrue_overflow:
 123 ; CHECK:       // %bb.0: // %entry
 124 ; CHECK-NEXT:    mov w8, #2
 125 ; CHECK-NEXT:    mov w9, #2147483647
 126 ; CHECK-NEXT:    movk w8, #32768, lsl #16
 127 ; CHECK-NEXT:    whilele p0.b, w9, w8
 128 ; CHECK-NEXT:    ret
 129 entry:
 130   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilele.nxv16i1.i32(i32 2147483647, i32 -2147483646)
 131   ret <vscale x 16 x i1> %out
 132 }
 133
 134 define <vscale x 16 x i1> @whilele_b_ii_dont_fold_to_ptrue_increment_overflow() {
 135 ; CHECK-LABEL: whilele_b_ii_dont_fold_to_ptrue_increment_overflow:
 136 ; CHECK:       // %bb.0: // %entry
 137 ; CHECK-NEXT:    mov w8, #2147483647
 138 ; CHECK-NEXT:    whilele p0.b, wzr, w8
 139 ; CHECK-NEXT:    ret
 140 entry:
 141   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilele.nxv16i1.i32(i32 0, i32 2147483647)
 142   ret <vscale x 16 x i1> %out
 143 }
 144
 145 ;
 146 ; WHILELO
 147 ;
 148
 149 define <vscale x 16 x i1> @whilelo_b_ww(i32 %a, i32 %b) {
 150 ; CHECK-LABEL: whilelo_b_ww:
 151 ; CHECK:       // %bb.0:
 152 ; CHECK-NEXT:    whilelo p0.b, w0, w1
 153 ; CHECK-NEXT:    ret
 154   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilelo.nxv16i1.i32(i32 %a, i32 %b)
 155   ret <vscale x 16 x i1> %out
 156 }
 157
 158 define <vscale x 16 x i1> @whilelo_b_xx(i64 %a, i64 %b) {
 159 ; CHECK-LABEL: whilelo_b_xx:
 160 ; CHECK:       // %bb.0:
 161 ; CHECK-NEXT:    whilelo p0.b, x0, x1
 162 ; CHECK-NEXT:    ret
 163   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilelo.nxv16i1.i64(i64 %a, i64 %b)
 164   ret <vscale x 16 x i1> %out
 165 }
 166
 167 define <vscale x 8 x i1> @whilelo_h_ww(i32 %a, i32 %b) {
 168 ; CHECK-LABEL: whilelo_h_ww:
 169 ; CHECK:       // %bb.0:
 170 ; CHECK-NEXT:    whilelo p0.h, w0, w1
 171 ; CHECK-NEXT:    ret
 172   %out = call <vscale x 8 x i1> @llvm.aarch64.sve.whilelo.nxv8i1.i32(i32 %a, i32 %b)
 173   ret <vscale x 8 x i1> %out
 174 }
 175
 176 define <vscale x 8 x i1> @whilelo_h_xx(i64 %a, i64 %b) {
 177 ; CHECK-LABEL: whilelo_h_xx:
 178 ; CHECK:       // %bb.0:
 179 ; CHECK-NEXT:    whilelo p0.h, x0, x1
 180 ; CHECK-NEXT:    ret
 181   %out = call <vscale x 8 x i1> @llvm.aarch64.sve.whilelo.nxv8i1.i64(i64 %a, i64 %b)
 182   ret <vscale x 8 x i1> %out
 183 }
 184
 185 define <vscale x 4 x i1> @whilelo_s_ww(i32 %a, i32 %b) {
 186 ; CHECK-LABEL: whilelo_s_ww:
 187 ; CHECK:       // %bb.0:
 188 ; CHECK-NEXT:    whilelo p0.s, w0, w1
 189 ; CHECK-NEXT:    ret
 190   %out = call <vscale x 4 x i1> @llvm.aarch64.sve.whilelo.nxv4i1.i32(i32 %a, i32 %b)
 191   ret <vscale x 4 x i1> %out
 192 }
 193
 194 define <vscale x 4 x i1> @whilelo_s_xx(i64 %a, i64 %b) {
 195 ; CHECK-LABEL: whilelo_s_xx:
 196 ; CHECK:       // %bb.0:
 197 ; CHECK-NEXT:    whilelo p0.s, x0, x1
 198 ; CHECK-NEXT:    ret
 199   %out = call <vscale x 4 x i1> @llvm.aarch64.sve.whilelo.nxv4i1.i64(i64 %a, i64 %b)
 200   ret <vscale x 4 x i1> %out
 201 }
 202
 203 define <vscale x 2 x i1> @whilelo_d_ww(i32 %a, i32 %b) {
 204 ; CHECK-LABEL: whilelo_d_ww:
 205 ; CHECK:       // %bb.0:
 206 ; CHECK-NEXT:    whilelo p0.d, w0, w1
 207 ; CHECK-NEXT:    ret
 208   %out = call <vscale x 2 x i1> @llvm.aarch64.sve.whilelo.nxv2i1.i32(i32 %a, i32 %b)
 209   ret <vscale x 2 x i1> %out
 210 }
 211
 212 define <vscale x 2 x i1> @whilelo_d_xx(i64 %a, i64 %b) {
 213 ; CHECK-LABEL: whilelo_d_xx:
 214 ; CHECK:       // %bb.0:
 215 ; CHECK-NEXT:    whilelo p0.d, x0, x1
 216 ; CHECK-NEXT:    ret
 217   %out = call <vscale x 2 x i1> @llvm.aarch64.sve.whilelo.nxv2i1.i64(i64 %a, i64 %b)
 218   ret <vscale x 2 x i1> %out
 219 }
 220
 221 define <vscale x 2 x i1> @whilelo_d_ii_dont_fold_to_ptrue_larger_than_minvec() {
 222 ; CHECK-LABEL: whilelo_d_ii_dont_fold_to_ptrue_larger_than_minvec:
 223 ; CHECK:       // %bb.0:
 224 ; CHECK-NEXT:    mov w8, #3
 225 ; CHECK-NEXT:    whilelo p0.d, xzr, x8
 226 ; CHECK-NEXT:    ret
 227   %out = call <vscale x 2 x i1> @llvm.aarch64.sve.whilelo.nxv2i1.i64(i64 0, i64 3)
 228   ret <vscale x 2 x i1> %out
 229 }
 230
 231 define <vscale x 16 x i1> @whilelo_b_ii() {
 232 ; CHECK-LABEL: whilelo_b_ii:
 233 ; CHECK:       // %bb.0: // %entry
 234 ; CHECK-NEXT:    ptrue p0.b, vl6
 235 ; CHECK-NEXT:    ret
 236 entry:
 237   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilelo.nxv16i1.i64(i64 2, i64 8)
 238   ret <vscale x 16 x i1> %out
 239 }
 240
 241 define <vscale x 16 x i1> @whilelo_b_ii_dont_fold_to_ptrue_nonexistent_vl9() {
 242 ; CHECK-LABEL: whilelo_b_ii_dont_fold_to_ptrue_nonexistent_vl9:
 243 ; CHECK:       // %bb.0: // %entry
 244 ; CHECK-NEXT:    mov w8, #9
 245 ; CHECK-NEXT:    whilelo p0.b, xzr, x8
 246 ; CHECK-NEXT:    ret
 247 entry:
 248   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilelo.nxv16i1.i64(i64 0, i64 9)
 249   ret <vscale x 16 x i1> %out
 250 }
 251
 252 define <vscale x 16 x i1> @whilelo_b_vl_maximum() vscale_range(16, 16) {
 253 ; CHECK-LABEL: whilelo_b_vl_maximum:
 254 ; CHECK:       // %bb.0:
 255 ; CHECK-NEXT:    ptrue p0.b, vl256
 256 ; CHECK-NEXT:    ret
 257   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilelo.nxv16i1.i64(i64 0, i64 256)
 258   ret <vscale x 16 x i1> %out
 259 }
 260
 261 define <vscale x 16 x i1> @whilelo_b_ii_dont_fold_to_ptrue_overflow() {
 262 ; CHECK-LABEL: whilelo_b_ii_dont_fold_to_ptrue_overflow:
 263 ; CHECK:       // %bb.0: // %entry
 264 ; CHECK-NEXT:    mov w8, #6
 265 ; CHECK-NEXT:    mov w9, #-1
 266 ; CHECK-NEXT:    whilelo p0.b, w9, w8
 267 ; CHECK-NEXT:    ret
 268 entry:
 269   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilelo.nxv16i1.i32(i32 4294967295, i32 6)
 270   ret <vscale x 16 x i1> %out
 271 }
 272
 273 ;
 274 ; WHILELS
 275 ;
 276
 277 define <vscale x 16 x i1> @whilels_b_ww(i32 %a, i32 %b) {
 278 ; CHECK-LABEL: whilels_b_ww:
 279 ; CHECK:       // %bb.0:
 280 ; CHECK-NEXT:    whilels p0.b, w0, w1
 281 ; CHECK-NEXT:    ret
 282   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilels.nxv16i1.i32(i32 %a, i32 %b)
 283   ret <vscale x 16 x i1> %out
 284 }
 285
 286 define <vscale x 16 x i1> @whilels_b_xx(i64 %a, i64 %b) {
 287 ; CHECK-LABEL: whilels_b_xx:
 288 ; CHECK:       // %bb.0:
 289 ; CHECK-NEXT:    whilels p0.b, x0, x1
 290 ; CHECK-NEXT:    ret
 291   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilels.nxv16i1.i64(i64 %a, i64 %b)
 292   ret <vscale x 16 x i1> %out
 293 }
 294
 295 define <vscale x 8 x i1> @whilels_h_ww(i32 %a, i32 %b) {
 296 ; CHECK-LABEL: whilels_h_ww:
 297 ; CHECK:       // %bb.0:
 298 ; CHECK-NEXT:    whilels p0.h, w0, w1
 299 ; CHECK-NEXT:    ret
 300   %out = call <vscale x 8 x i1> @llvm.aarch64.sve.whilels.nxv8i1.i32(i32 %a, i32 %b)
 301   ret <vscale x 8 x i1> %out
 302 }
 303
 304 define <vscale x 8 x i1> @whilels_h_xx(i64 %a, i64 %b) {
 305 ; CHECK-LABEL: whilels_h_xx:
 306 ; CHECK:       // %bb.0:
 307 ; CHECK-NEXT:    whilels p0.h, x0, x1
 308 ; CHECK-NEXT:    ret
 309   %out = call <vscale x 8 x i1> @llvm.aarch64.sve.whilels.nxv8i1.i64(i64 %a, i64 %b)
 310   ret <vscale x 8 x i1> %out
 311 }
 312
 313 define <vscale x 4 x i1> @whilels_s_ww(i32 %a, i32 %b) {
 314 ; CHECK-LABEL: whilels_s_ww:
 315 ; CHECK:       // %bb.0:
 316 ; CHECK-NEXT:    whilels p0.s, w0, w1
 317 ; CHECK-NEXT:    ret
 318   %out = call <vscale x 4 x i1> @llvm.aarch64.sve.whilels.nxv4i1.i32(i32 %a, i32 %b)
 319   ret <vscale x 4 x i1> %out
 320 }
 321
 322 define <vscale x 4 x i1> @whilels_s_xx(i64 %a, i64 %b) {
 323 ; CHECK-LABEL: whilels_s_xx:
 324 ; CHECK:       // %bb.0:
 325 ; CHECK-NEXT:    whilels p0.s, x0, x1
 326 ; CHECK-NEXT:    ret
 327   %out = call <vscale x 4 x i1> @llvm.aarch64.sve.whilels.nxv4i1.i64(i64 %a, i64 %b)
 328   ret <vscale x 4 x i1> %out
 329 }
 330
 331 define <vscale x 2 x i1> @whilels_d_ww(i32 %a, i32 %b) {
 332 ; CHECK-LABEL: whilels_d_ww:
 333 ; CHECK:       // %bb.0:
 334 ; CHECK-NEXT:    whilels p0.d, w0, w1
 335 ; CHECK-NEXT:    ret
 336   %out = call <vscale x 2 x i1> @llvm.aarch64.sve.whilels.nxv2i1.i32(i32 %a, i32 %b)
 337   ret <vscale x 2 x i1> %out
 338 }
 339
 340 define <vscale x 2 x i1> @whilels_d_xx(i64 %a, i64 %b) {
 341 ; CHECK-LABEL: whilels_d_xx:
 342 ; CHECK:       // %bb.0:
 343 ; CHECK-NEXT:    whilels p0.d, x0, x1
 344 ; CHECK-NEXT:    ret
 345   %out = call <vscale x 2 x i1> @llvm.aarch64.sve.whilels.nxv2i1.i64(i64 %a, i64 %b)
 346   ret <vscale x 2 x i1> %out
 347 }
 348
 349 define <vscale x 2 x i1> @whilels_d_ii_dont_fold_to_ptrue_larger_than_minvec() {
 350 ; CHECK-LABEL: whilels_d_ii_dont_fold_to_ptrue_larger_than_minvec:
 351 ; CHECK:       // %bb.0:
 352 ; CHECK-NEXT:    mov w8, #3
 353 ; CHECK-NEXT:    whilels p0.d, xzr, x8
 354 ; CHECK-NEXT:    ret
 355   %out = call <vscale x 2 x i1> @llvm.aarch64.sve.whilels.nxv2i1.i64(i64 0, i64 3)
 356   ret <vscale x 2 x i1> %out
 357 }
 358
 359 define <vscale x 16 x i1> @whilels_b_ii() {
 360 ; CHECK-LABEL: whilels_b_ii:
 361 ; CHECK:       // %bb.0: // %entry
 362 ; CHECK-NEXT:    ptrue p0.b, vl7
 363 ; CHECK-NEXT:    ret
 364 entry:
 365   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilels.nxv16i1.i64(i64 2, i64 8)
 366   ret <vscale x 16 x i1> %out
 367 }
 368
 369 define <vscale x 16 x i1> @whilels_b_ii_dont_fold_to_ptrue_nonexistent_vl9() {
 370 ; CHECK-LABEL: whilels_b_ii_dont_fold_to_ptrue_nonexistent_vl9:
 371 ; CHECK:       // %bb.0: // %entry
 372 ; CHECK-NEXT:    mov w8, #9
 373 ; CHECK-NEXT:    whilels p0.b, xzr, x8
 374 ; CHECK-NEXT:    ret
 375 entry:
 376   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilels.nxv16i1.i64(i64 0, i64 9)
 377   ret <vscale x 16 x i1> %out
 378 }
 379
 380 define <vscale x 16 x i1> @whilels_b_ii_vl_maximum() vscale_range(16, 16) {
 381 ; CHECK-LABEL: whilels_b_ii_vl_maximum:
 382 ; CHECK:       // %bb.0:
 383 ; CHECK-NEXT:    ptrue p0.b, vl256
 384 ; CHECK-NEXT:    ret
 385   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilels.nxv16i1.i64(i64 0, i64 255)
 386   ret <vscale x 16 x i1> %out
 387 }
 388
 389 define <vscale x 16 x i1> @whilels_b_ii_dont_fold_to_ptrue_overflow() {
 390 ; CHECK-LABEL: whilels_b_ii_dont_fold_to_ptrue_overflow:
 391 ; CHECK:       // %bb.0: // %entry
 392 ; CHECK-NEXT:    mov w8, #6
 393 ; CHECK-NEXT:    mov w9, #-1
 394 ; CHECK-NEXT:    whilels p0.b, w9, w8
 395 ; CHECK-NEXT:    ret
 396 entry:
 397   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilels.nxv16i1.i32(i32 4294967295, i32 6)
 398   ret <vscale x 16 x i1> %out
 399 }
 400
 401 define <vscale x 16 x i1> @whilels_b_ii_dont_fold_to_ptrue_increment_overflow() {
 402 ; CHECK-LABEL: whilels_b_ii_dont_fold_to_ptrue_increment_overflow:
 403 ; CHECK:       // %bb.0: // %entry
 404 ; CHECK-NEXT:    mov w8, #-1
 405 ; CHECK-NEXT:    whilels p0.b, wzr, w8
 406 ; CHECK-NEXT:    ret
 407 entry:
 408   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilels.nxv16i1.i32(i32 0, i32 4294967295)
 409   ret <vscale x 16 x i1> %out
 410 }
 411
 412 ;
 413 ; WHILELT
 414 ;
 415
 416 define <vscale x 16 x i1> @whilelt_b_ww(i32 %a, i32 %b) {
 417 ; CHECK-LABEL: whilelt_b_ww:
 418 ; CHECK:       // %bb.0:
 419 ; CHECK-NEXT:    whilelt p0.b, w0, w1
 420 ; CHECK-NEXT:    ret
 421   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilelt.nxv16i1.i32(i32 %a, i32 %b)
 422   ret <vscale x 16 x i1> %out
 423 }
 424
 425 define <vscale x 16 x i1> @whilelt_b_xx(i64 %a, i64 %b) {
 426 ; CHECK-LABEL: whilelt_b_xx:
 427 ; CHECK:       // %bb.0:
 428 ; CHECK-NEXT:    whilelt p0.b, x0, x1
 429 ; CHECK-NEXT:    ret
 430   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilelt.nxv16i1.i64(i64 %a, i64 %b)
 431   ret <vscale x 16 x i1> %out
 432 }
 433
 434 define <vscale x 8 x i1> @whilelt_h_ww(i32 %a, i32 %b) {
 435 ; CHECK-LABEL: whilelt_h_ww:
 436 ; CHECK:       // %bb.0:
 437 ; CHECK-NEXT:    whilelt p0.h, w0, w1
 438 ; CHECK-NEXT:    ret
 439   %out = call <vscale x 8 x i1> @llvm.aarch64.sve.whilelt.nxv8i1.i32(i32 %a, i32 %b)
 440   ret <vscale x 8 x i1> %out
 441 }
 442
 443 define <vscale x 8 x i1> @whilelt_h_xx(i64 %a, i64 %b) {
 444 ; CHECK-LABEL: whilelt_h_xx:
 445 ; CHECK:       // %bb.0:
 446 ; CHECK-NEXT:    whilelt p0.h, x0, x1
 447 ; CHECK-NEXT:    ret
 448   %out = call <vscale x 8 x i1> @llvm.aarch64.sve.whilelt.nxv8i1.i64(i64 %a, i64 %b)
 449   ret <vscale x 8 x i1> %out
 450 }
 451
 452 define <vscale x 4 x i1> @whilelt_s_ww(i32 %a, i32 %b) {
 453 ; CHECK-LABEL: whilelt_s_ww:
 454 ; CHECK:       // %bb.0:
 455 ; CHECK-NEXT:    whilelt p0.s, w0, w1
 456 ; CHECK-NEXT:    ret
 457   %out = call <vscale x 4 x i1> @llvm.aarch64.sve.whilelt.nxv4i1.i32(i32 %a, i32 %b)
 458   ret <vscale x 4 x i1> %out
 459 }
 460
 461 define <vscale x 4 x i1> @whilelt_s_xx(i64 %a, i64 %b) {
 462 ; CHECK-LABEL: whilelt_s_xx:
 463 ; CHECK:       // %bb.0:
 464 ; CHECK-NEXT:    whilelt p0.s, x0, x1
 465 ; CHECK-NEXT:    ret
 466   %out = call <vscale x 4 x i1> @llvm.aarch64.sve.whilelt.nxv4i1.i64(i64 %a, i64 %b)
 467   ret <vscale x 4 x i1> %out
 468 }
 469
 470 define <vscale x 2 x i1> @whilelt_d_ww(i32 %a, i32 %b) {
 471 ; CHECK-LABEL: whilelt_d_ww:
 472 ; CHECK:       // %bb.0:
 473 ; CHECK-NEXT:    whilelt p0.d, w0, w1
 474 ; CHECK-NEXT:    ret
 475   %out = call <vscale x 2 x i1> @llvm.aarch64.sve.whilelt.nxv2i1.i32(i32 %a, i32 %b)
 476   ret <vscale x 2 x i1> %out
 477 }
 478
 479 define <vscale x 2 x i1> @whilelt_d_xx(i64 %a, i64 %b) {
 480 ; CHECK-LABEL: whilelt_d_xx:
 481 ; CHECK:       // %bb.0:
 482 ; CHECK-NEXT:    whilelt p0.d, x0, x1
 483 ; CHECK-NEXT:    ret
 484   %out = call <vscale x 2 x i1> @llvm.aarch64.sve.whilelt.nxv2i1.i64(i64 %a, i64 %b)
 485   ret <vscale x 2 x i1> %out
 486 }
 487
 488 define <vscale x 2 x i1> @whilelt_d_ii_dont_fold_to_ptrue_larger_than_minvec() {
 489 ; CHECK-LABEL: whilelt_d_ii_dont_fold_to_ptrue_larger_than_minvec:
 490 ; CHECK:       // %bb.0:
 491 ; CHECK-NEXT:    mov w8, #3
 492 ; CHECK-NEXT:    whilelt p0.d, xzr, x8
 493 ; CHECK-NEXT:    ret
 494   %out = call <vscale x 2 x i1> @llvm.aarch64.sve.whilelt.nxv2i1.i64(i64 0, i64 3)
 495   ret <vscale x 2 x i1> %out
 496 }
 497
 498 define <vscale x 16 x i1> @whilelt_b_ii() {
 499 ; CHECK-LABEL: whilelt_b_ii:
 500 ; CHECK:       // %bb.0: // %entry
 501 ; CHECK-NEXT:    ptrue p0.b, vl5
 502 ; CHECK-NEXT:    ret
 503 entry:
 504   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilelt.nxv16i1.i64(i64 -2, i64 3)
 505   ret <vscale x 16 x i1> %out
 506 }
 507
 508 define <vscale x 16 x i1> @whilelt_b_ii_dont_fold_to_ptrue_nonexistent_vl9() {
 509 ; CHECK-LABEL: whilelt_b_ii_dont_fold_to_ptrue_nonexistent_vl9:
 510 ; CHECK:       // %bb.0: // %entry
 511 ; CHECK-NEXT:    mov w8, #9
 512 ; CHECK-NEXT:    whilelt p0.b, xzr, x8
 513 ; CHECK-NEXT:    ret
 514 entry:
 515   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilelt.nxv16i1.i64(i64 0, i64 9)
 516   ret <vscale x 16 x i1> %out
 517 }
 518
 519 define <vscale x 16 x i1> @whilelt_b_ii_vl_maximum() vscale_range(16, 16) {
 520 ; CHECK-LABEL: whilelt_b_ii_vl_maximum:
 521 ; CHECK:       // %bb.0:
 522 ; CHECK-NEXT:    ptrue p0.b, vl256
 523 ; CHECK-NEXT:    ret
 524   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilelt.nxv16i1.i64(i64 0, i64 256)
 525   ret <vscale x 16 x i1> %out
 526 }
 527
 528 define <vscale x 16 x i1> @whilelt_b_ii_dont_fold_to_ptrue_overflow() {
 529 ; CHECK-LABEL: whilelt_b_ii_dont_fold_to_ptrue_overflow:
 530 ; CHECK:       // %bb.0: // %entry
 531 ; CHECK-NEXT:    mov w8, #2
 532 ; CHECK-NEXT:    mov w9, #2147483647
 533 ; CHECK-NEXT:    movk w8, #32768, lsl #16
 534 ; CHECK-NEXT:    whilelt p0.b, w9, w8
 535 ; CHECK-NEXT:    ret
 536 entry:
 537   %out = call <vscale x 16 x i1> @llvm.aarch64.sve.whilelt.nxv16i1.i32(i32 2147483647, i32 -2147483646)
 538   ret <vscale x 16 x i1> %out
 539 }
 540
 541 declare <vscale x 16 x i1> @llvm.aarch64.sve.whilele.nxv16i1.i32(i32, i32)
 542 declare <vscale x 16 x i1> @llvm.aarch64.sve.whilele.nxv16i1.i64(i64, i64)
 543 declare <vscale x 8 x i1> @llvm.aarch64.sve.whilele.nxv8i1.i32(i32, i32)
 544 declare <vscale x 8 x i1> @llvm.aarch64.sve.whilele.nxv8i1.i64(i64, i64)
 545 declare <vscale x 4 x i1> @llvm.aarch64.sve.whilele.nxv4i1.i32(i32, i32)
 546 declare <vscale x 4 x i1> @llvm.aarch64.sve.whilele.nxv4i1.i64(i64, i64)
 547 declare <vscale x 2 x i1> @llvm.aarch64.sve.whilele.nxv2i1.i32(i32, i32)
 548 declare <vscale x 2 x i1> @llvm.aarch64.sve.whilele.nxv2i1.i64(i64, i64)
 549
 550 declare <vscale x 16 x i1> @llvm.aarch64.sve.whilelo.nxv16i1.i32(i32, i32)
 551 declare <vscale x 16 x i1> @llvm.aarch64.sve.whilelo.nxv16i1.i64(i64, i64)
 552 declare <vscale x 8 x i1> @llvm.aarch64.sve.whilelo.nxv8i1.i32(i32, i32)
 553 declare <vscale x 8 x i1> @llvm.aarch64.sve.whilelo.nxv8i1.i64(i64, i64)
 554 declare <vscale x 4 x i1> @llvm.aarch64.sve.whilelo.nxv4i1.i32(i32, i32)
 555 declare <vscale x 4 x i1> @llvm.aarch64.sve.whilelo.nxv4i1.i64(i64, i64)
 556 declare <vscale x 2 x i1> @llvm.aarch64.sve.whilelo.nxv2i1.i32(i32, i32)
 557 declare <vscale x 2 x i1> @llvm.aarch64.sve.whilelo.nxv2i1.i64(i64, i64)
 558
 559 declare <vscale x 16 x i1> @llvm.aarch64.sve.whilels.nxv16i1.i32(i32, i32)
 560 declare <vscale x 16 x i1> @llvm.aarch64.sve.whilels.nxv16i1.i64(i64, i64)
 561 declare <vscale x 8 x i1> @llvm.aarch64.sve.whilels.nxv8i1.i32(i32, i32)
 562 declare <vscale x 8 x i1> @llvm.aarch64.sve.whilels.nxv8i1.i64(i64, i64)
 563 declare <vscale x 4 x i1> @llvm.aarch64.sve.whilels.nxv4i1.i32(i32, i32)
 564 declare <vscale x 4 x i1> @llvm.aarch64.sve.whilels.nxv4i1.i64(i64, i64)
 565 declare <vscale x 2 x i1> @llvm.aarch64.sve.whilels.nxv2i1.i32(i32, i32)
 566 declare <vscale x 2 x i1> @llvm.aarch64.sve.whilels.nxv2i1.i64(i64, i64)
 567
 568 declare <vscale x 16 x i1> @llvm.aarch64.sve.whilelt.nxv16i1.i32(i32, i32)
 569 declare <vscale x 16 x i1> @llvm.aarch64.sve.whilelt.nxv16i1.i64(i64, i64)
 570 declare <vscale x 8 x i1> @llvm.aarch64.sve.whilelt.nxv8i1.i32(i32, i32)
 571 declare <vscale x 8 x i1> @llvm.aarch64.sve.whilelt.nxv8i1.i64(i64, i64)
 572 declare <vscale x 4 x i1> @llvm.aarch64.sve.whilelt.nxv4i1.i32(i32, i32)
 573 declare <vscale x 4 x i1> @llvm.aarch64.sve.whilelt.nxv4i1.i64(i64, i64)
 574 declare <vscale x 2 x i1> @llvm.aarch64.sve.whilelt.nxv2i1.i32(i32, i32)
 575 declare <vscale x 2 x i1> @llvm.aarch64.sve.whilelt.nxv2i1.i64(i64, i64)