llvm/test/CodeGen/AArch64/GlobalISel/legalize-memcpy-et-al.mir

   1 # NOTE: Assertions have been autogenerated by utils/update_mir_test_checks.py
   2 # RUN: llc -mtriple=aarch64-- -run-pass=legalizer -verify-machineinstrs %s -o - | FileCheck %s
   3 # RUN: llc -debugify-and-strip-all-safe -mtriple=aarch64-- -run-pass=legalizer -verify-machineinstrs %s -o - | FileCheck %s
   4 ---
   5 name:            test_memcpy
   6 tracksRegLiveness: true
   7 body:             |
   8   bb.1:
   9     liveins: $w2, $x0, $x1
  10
  11     ; CHECK-LABEL: name: test_memcpy
  12     ; CHECK: liveins: $w2, $x0, $x1
  13     ; CHECK-NEXT: {{  $}}
  14     ; CHECK-NEXT: [[COPY:%[0-9]+]]:_(p0) = COPY $x0
  15     ; CHECK-NEXT: [[COPY1:%[0-9]+]]:_(p0) = COPY $x1
  16     ; CHECK-NEXT: [[COPY2:%[0-9]+]]:_(s32) = COPY $w2
  17     ; CHECK-NEXT: [[ZEXT:%[0-9]+]]:_(s64) = G_ZEXT [[COPY2]](s32)
  18     ; CHECK-NEXT: ADJCALLSTACKDOWN 0, 0, implicit-def $sp, implicit $sp
  19     ; CHECK-NEXT: $x0 = COPY [[COPY]](p0)
  20     ; CHECK-NEXT: $x1 = COPY [[COPY1]](p0)
  21     ; CHECK-NEXT: $x2 = COPY [[ZEXT]](s64)
  22     ; CHECK-NEXT: BL &memcpy, csr_aarch64_aapcs_thisreturn, implicit-def $lr, implicit $sp, implicit $x0, implicit $x1, implicit $x2
  23     ; CHECK-NEXT: ADJCALLSTACKUP 0, 0, implicit-def $sp, implicit $sp
  24     ; CHECK-NEXT: RET_ReallyLR
  25     %0:_(p0) = COPY $x0
  26     %1:_(p0) = COPY $x1
  27     %2:_(s32) = COPY $w2
  28     %3:_(s64) = G_ZEXT %2(s32)
  29     G_MEMCPY %0(p0), %1(p0), %3(s64), 0 :: (store unknown-size), (load unknown-size)
  30     RET_ReallyLR
  31
  32 ...
  33 ---
  34 name:            test_memcpy_tail
  35 tracksRegLiveness: true
  36 body:             |
  37   bb.1:
  38     liveins: $w2, $x0, $x1
  39
  40     ; CHECK-LABEL: name: test_memcpy_tail
  41     ; CHECK: liveins: $w2, $x0, $x1
  42     ; CHECK-NEXT: {{  $}}
  43     ; CHECK-NEXT: [[COPY:%[0-9]+]]:_(p0) = COPY $x0
  44     ; CHECK-NEXT: [[COPY1:%[0-9]+]]:_(p0) = COPY $x1
  45     ; CHECK-NEXT: [[COPY2:%[0-9]+]]:_(s32) = COPY $w2
  46     ; CHECK-NEXT: [[ZEXT:%[0-9]+]]:_(s64) = G_ZEXT [[COPY2]](s32)
  47     ; CHECK-NEXT: $x0 = COPY [[COPY]](p0)
  48     ; CHECK-NEXT: $x1 = COPY [[COPY1]](p0)
  49     ; CHECK-NEXT: $x2 = COPY [[ZEXT]](s64)
  50     ; CHECK-NEXT: TCRETURNdi &memcpy, 0, csr_aarch64_aapcs, implicit $sp, implicit $x0, implicit $x1, implicit $x2
  51     %0:_(p0) = COPY $x0
  52     %1:_(p0) = COPY $x1
  53     %2:_(s32) = COPY $w2
  54     %3:_(s64) = G_ZEXT %2(s32)
  55     G_MEMCPY %0(p0), %1(p0), %3(s64), 1 :: (store unknown-size), (load unknown-size)
  56     RET_ReallyLR
  57
  58 ...
  59 ---
  60 name:            test_memmove
  61 tracksRegLiveness: true
  62 body:             |
  63   bb.1:
  64     liveins: $w2, $x0, $x1
  65
  66     ; CHECK-LABEL: name: test_memmove
  67     ; CHECK: liveins: $w2, $x0, $x1
  68     ; CHECK-NEXT: {{  $}}
  69     ; CHECK-NEXT: [[COPY:%[0-9]+]]:_(p0) = COPY $x0
  70     ; CHECK-NEXT: [[COPY1:%[0-9]+]]:_(p0) = COPY $x1
  71     ; CHECK-NEXT: [[COPY2:%[0-9]+]]:_(s32) = COPY $w2
  72     ; CHECK-NEXT: [[ZEXT:%[0-9]+]]:_(s64) = G_ZEXT [[COPY2]](s32)
  73     ; CHECK-NEXT: ADJCALLSTACKDOWN 0, 0, implicit-def $sp, implicit $sp
  74     ; CHECK-NEXT: $x0 = COPY [[COPY]](p0)
  75     ; CHECK-NEXT: $x1 = COPY [[COPY1]](p0)
  76     ; CHECK-NEXT: $x2 = COPY [[ZEXT]](s64)
  77     ; CHECK-NEXT: BL &memmove, csr_aarch64_aapcs_thisreturn, implicit-def $lr, implicit $sp, implicit $x0, implicit $x1, implicit $x2
  78     ; CHECK-NEXT: ADJCALLSTACKUP 0, 0, implicit-def $sp, implicit $sp
  79     ; CHECK-NEXT: RET_ReallyLR
  80     %0:_(p0) = COPY $x0
  81     %1:_(p0) = COPY $x1
  82     %2:_(s32) = COPY $w2
  83     %3:_(s64) = G_ZEXT %2(s32)
  84     G_MEMMOVE %0(p0), %1(p0), %3(s64), 0 :: (store unknown-size), (load unknown-size)
  85     RET_ReallyLR
  86
  87 ...
  88 ---
  89 name:            test_memset
  90 tracksRegLiveness: true
  91 body:             |
  92   bb.1:
  93     liveins: $w1, $w2, $x0
  94
  95     ; CHECK-LABEL: name: test_memset
  96     ; CHECK: liveins: $w1, $w2, $x0
  97     ; CHECK-NEXT: {{  $}}
  98     ; CHECK-NEXT: [[COPY:%[0-9]+]]:_(p0) = COPY $x0
  99     ; CHECK-NEXT: [[COPY1:%[0-9]+]]:_(s32) = COPY $w1
 100     ; CHECK-NEXT: [[COPY2:%[0-9]+]]:_(s32) = COPY $w2
 101     ; CHECK-NEXT: [[ZEXT:%[0-9]+]]:_(s64) = G_ZEXT [[COPY2]](s32)
 102     ; CHECK-NEXT: ADJCALLSTACKDOWN 0, 0, implicit-def $sp, implicit $sp
 103     ; CHECK-NEXT: $x0 = COPY [[COPY]](p0)
 104     ; CHECK-NEXT: $w1 = COPY [[COPY1]](s32)
 105     ; CHECK-NEXT: $x2 = COPY [[ZEXT]](s64)
 106     ; CHECK-NEXT: BL &memset, csr_aarch64_aapcs_thisreturn, implicit-def $lr, implicit $sp, implicit $x0, implicit $w1, implicit $x2
 107     ; CHECK-NEXT: ADJCALLSTACKUP 0, 0, implicit-def $sp, implicit $sp
 108     ; CHECK-NEXT: RET_ReallyLR
 109     %0:_(p0) = COPY $x0
 110     %1:_(s32) = COPY $w1
 111     %2:_(s32) = COPY $w2
 112     %3:_(s8) = G_TRUNC %1(s32)
 113     %4:_(s64) = G_ZEXT %2(s32)
 114     G_MEMSET %0(p0), %3(s8), %4(s64), 0 :: (store unknown-size)
 115     RET_ReallyLR
 116
 117 ...
 118 ---
 119 name:            no_tail_call
 120 tracksRegLiveness: true
 121 body:             |
 122   bb.1:
 123     liveins: $w2, $x0, $x1
 124
 125     ; CHECK-LABEL: name: no_tail_call
 126     ; CHECK: liveins: $w2, $x0, $x1
 127     ; CHECK-NEXT: {{  $}}
 128     ; CHECK-NEXT: [[COPY:%[0-9]+]]:_(p0) = COPY $x1
 129     ; CHECK-NEXT: [[COPY1:%[0-9]+]]:_(p0) = COPY $x0
 130     ; CHECK-NEXT: [[COPY2:%[0-9]+]]:_(s32) = COPY $w2
 131     ; CHECK-NEXT: [[ZEXT:%[0-9]+]]:_(s64) = G_ZEXT [[COPY2]](s32)
 132     ; CHECK-NEXT: ADJCALLSTACKDOWN 0, 0, implicit-def $sp, implicit $sp
 133     ; CHECK-NEXT: $x0 = COPY [[COPY]](p0)
 134     ; CHECK-NEXT: $x1 = COPY [[COPY1]](p0)
 135     ; CHECK-NEXT: $x2 = COPY [[ZEXT]](s64)
 136     ; CHECK-NEXT: BL &memcpy, csr_aarch64_aapcs_thisreturn, implicit-def $lr, implicit $sp, implicit $x0, implicit $x1, implicit $x2
 137     ; CHECK-NEXT: ADJCALLSTACKUP 0, 0, implicit-def $sp, implicit $sp
 138     ; CHECK-NEXT: $x0 = COPY [[ZEXT]](s64)
 139     ; CHECK-NEXT: RET_ReallyLR implicit $x0
 140     %0:_(p0) = COPY $x1
 141     %1:_(p0) = COPY $x0
 142     %2:_(s32) = COPY $w2
 143     %3:_(s64) = G_ZEXT %2(s32)
 144     G_MEMCPY %0(p0), %1(p0), %3(s64), 1 :: (store unknown-size), (load unknown-size)
 145     $x0 = COPY %3
 146     RET_ReallyLR implicit $x0
 147
 148 ...
 149 ---
 150 name:            dont_tc_twice
 151 tracksRegLiveness: true
 152 body:             |
 153   bb.1:
 154     liveins: $w2, $x0, $x1
 155     ; CHECK-LABEL: name: dont_tc_twice
 156     ; CHECK: liveins: $w2, $x0, $x1
 157     ; CHECK-NEXT: {{  $}}
 158     ; CHECK-NEXT: [[COPY:%[0-9]+]]:_(p0) = COPY $x0
 159     ; CHECK-NEXT: [[COPY1:%[0-9]+]]:_(p0) = COPY $x1
 160     ; CHECK-NEXT: [[COPY2:%[0-9]+]]:_(s32) = COPY $w2
 161     ; CHECK-NEXT: [[ZEXT:%[0-9]+]]:_(s64) = G_ZEXT [[COPY2]](s32)
 162     ; CHECK-NEXT: ADJCALLSTACKDOWN 0, 0, implicit-def $sp, implicit $sp
 163     ; CHECK-NEXT: $x0 = COPY [[COPY]](p0)
 164     ; CHECK-NEXT: $x1 = COPY [[COPY1]](p0)
 165     ; CHECK-NEXT: $x2 = COPY [[ZEXT]](s64)
 166     ; CHECK-NEXT: BL &memcpy, csr_aarch64_aapcs_thisreturn, implicit-def $lr, implicit $sp, implicit $x0, implicit $x1, implicit $x2
 167     ; CHECK-NEXT: ADJCALLSTACKUP 0, 0, implicit-def $sp, implicit $sp
 168     ; CHECK-NEXT: TCRETURNdi &memset, 0, csr_aarch64_aapcs, implicit $sp
 169     %0:_(p0) = COPY $x0
 170     %1:_(p0) = COPY $x1
 171     %2:_(s32) = COPY $w2
 172     %4:_(s1) = G_CONSTANT i1 false
 173     %3:_(s64) = G_ZEXT %2(s32)
 174     G_MEMCPY %0(p0), %1(p0), %3(s64), 1 :: (store unknown-size), (load unknown-size)
 175     TCRETURNdi &memset, 0, csr_aarch64_aapcs, implicit $sp
 176
 177 ...
 178 ---
 179 name:            tail_with_copy_ret
 180 alignment:       4
 181 tracksRegLiveness: true
 182 registers:
 183   - { id: 0, class: _ }
 184   - { id: 1, class: _ }
 185   - { id: 2, class: _ }
 186 liveins:
 187   - { reg: '$x0' }
 188   - { reg: '$x1' }
 189   - { reg: '$x2' }
 190 frameInfo:
 191   maxAlignment:    1
 192 machineFunctionInfo: {}
 193 body:             |
 194   bb.1.entry:
 195     liveins: $x0, $x1, $x2
 196
 197     ; CHECK-LABEL: name: tail_with_copy_ret
 198     ; CHECK: liveins: $x0, $x1, $x2
 199     ; CHECK-NEXT: {{  $}}
 200     ; CHECK-NEXT: [[COPY:%[0-9]+]]:_(p0) = COPY $x0
 201     ; CHECK-NEXT: [[COPY1:%[0-9]+]]:_(p0) = COPY $x1
 202     ; CHECK-NEXT: [[COPY2:%[0-9]+]]:_(s64) = COPY $x2
 203     ; CHECK-NEXT: $x0 = COPY [[COPY]](p0)
 204     ; CHECK-NEXT: $x1 = COPY [[COPY1]](p0)
 205     ; CHECK-NEXT: $x2 = COPY [[COPY2]](s64)
 206     ; CHECK-NEXT: TCRETURNdi &memcpy, 0, csr_aarch64_aapcs, implicit $sp, implicit $x0, implicit $x1, implicit $x2
 207     %0:_(p0) = COPY $x0
 208     %1:_(p0) = COPY $x1
 209     %2:_(s64) = COPY $x2
 210     G_MEMCPY %0(p0), %1(p0), %2(s64), 1 :: (store (s8)), (load (s8))
 211     $x0 = COPY %0(p0)
 212     RET_ReallyLR implicit $x0
 213
 214 ...
 215 ---
 216 name:            dont_tc_mismatched_copies
 217 alignment:       4
 218 tracksRegLiveness: true
 219 registers:
 220   - { id: 0, class: _ }
 221   - { id: 1, class: _ }
 222   - { id: 2, class: _ }
 223 liveins:
 224   - { reg: '$x0' }
 225   - { reg: '$x1' }
 226   - { reg: '$x2' }
 227 frameInfo:
 228   maxAlignment:    1
 229 machineFunctionInfo: {}
 230 body:             |
 231   bb.1.entry:
 232     liveins: $x0, $x1, $x2
 233
 234     ; CHECK-LABEL: name: dont_tc_mismatched_copies
 235     ; CHECK: liveins: $x0, $x1, $x2
 236     ; CHECK-NEXT: {{  $}}
 237     ; CHECK-NEXT: [[COPY:%[0-9]+]]:_(p0) = COPY $x0
 238     ; CHECK-NEXT: [[COPY1:%[0-9]+]]:_(p0) = COPY $x1
 239     ; CHECK-NEXT: [[COPY2:%[0-9]+]]:_(s64) = COPY $x2
 240     ; CHECK-NEXT: ADJCALLSTACKDOWN 0, 0, implicit-def $sp, implicit $sp
 241     ; CHECK-NEXT: $x0 = COPY [[COPY]](p0)
 242     ; CHECK-NEXT: $x1 = COPY [[COPY1]](p0)
 243     ; CHECK-NEXT: $x2 = COPY [[COPY2]](s64)
 244     ; CHECK-NEXT: BL &memcpy, csr_aarch64_aapcs_thisreturn, implicit-def $lr, implicit $sp, implicit $x0, implicit $x1, implicit $x2
 245     ; CHECK-NEXT: ADJCALLSTACKUP 0, 0, implicit-def $sp, implicit $sp
 246     ; CHECK-NEXT: $x1 = COPY [[COPY]](p0)
 247     ; CHECK-NEXT: RET_ReallyLR implicit $x0
 248     %0:_(p0) = COPY $x0
 249     %1:_(p0) = COPY $x1
 250     %2:_(s64) = COPY $x2
 251     G_MEMCPY %0(p0), %1(p0), %2(s64), 1 :: (store (s8)), (load (s8))
 252     $x1 = COPY %0(p0)
 253     RET_ReallyLR implicit $x0
 254
 255 ...
 256 ---
 257 name:            dont_tc_extra_copy
 258 alignment:       4
 259 tracksRegLiveness: true
 260 registers:
 261   - { id: 0, class: _ }
 262   - { id: 1, class: _ }
 263   - { id: 2, class: _ }
 264 liveins:
 265   - { reg: '$x0' }
 266   - { reg: '$x1' }
 267   - { reg: '$x2' }
 268 frameInfo:
 269   maxAlignment:    1
 270 machineFunctionInfo: {}
 271 body:             |
 272   bb.1.entry:
 273     liveins: $x0, $x1, $x2
 274
 275     ; CHECK-LABEL: name: dont_tc_extra_copy
 276     ; CHECK: liveins: $x0, $x1, $x2
 277     ; CHECK-NEXT: {{  $}}
 278     ; CHECK-NEXT: [[COPY:%[0-9]+]]:_(p0) = COPY $x0
 279     ; CHECK-NEXT: [[COPY1:%[0-9]+]]:_(p0) = COPY $x1
 280     ; CHECK-NEXT: [[COPY2:%[0-9]+]]:_(s64) = COPY $x2
 281     ; CHECK-NEXT: ADJCALLSTACKDOWN 0, 0, implicit-def $sp, implicit $sp
 282     ; CHECK-NEXT: $x0 = COPY [[COPY]](p0)
 283     ; CHECK-NEXT: $x1 = COPY [[COPY1]](p0)
 284     ; CHECK-NEXT: $x2 = COPY [[COPY2]](s64)
 285     ; CHECK-NEXT: BL &memcpy, csr_aarch64_aapcs_thisreturn, implicit-def $lr, implicit $sp, implicit $x0, implicit $x1, implicit $x2
 286     ; CHECK-NEXT: ADJCALLSTACKUP 0, 0, implicit-def $sp, implicit $sp
 287     ; CHECK-NEXT: $x0 = COPY [[COPY]](p0)
 288     ; CHECK-NEXT: $x0 = COPY [[COPY]](p0)
 289     ; CHECK-NEXT: RET_ReallyLR implicit $x0
 290     %0:_(p0) = COPY $x0
 291     %1:_(p0) = COPY $x1
 292     %2:_(s64) = COPY $x2
 293     G_MEMCPY %0(p0), %1(p0), %2(s64), 1 :: (store (s8)), (load (s8))
 294     $x0 = COPY %0(p0)
 295     $x0 = COPY %0(p0)
 296     RET_ReallyLR implicit $x0
 297
 298 ...
 299 ---
 300 name:            dont_tc_mismatched_ret
 301 alignment:       4
 302 tracksRegLiveness: true
 303 registers:
 304   - { id: 0, class: _ }
 305   - { id: 1, class: _ }
 306   - { id: 2, class: _ }
 307 liveins:
 308   - { reg: '$x0' }
 309   - { reg: '$x1' }
 310   - { reg: '$x2' }
 311 frameInfo:
 312   maxAlignment:    1
 313 machineFunctionInfo: {}
 314 body:             |
 315   bb.1.entry:
 316     liveins: $x0, $x1, $x2
 317
 318     ; CHECK-LABEL: name: dont_tc_mismatched_ret
 319     ; CHECK: liveins: $x0, $x1, $x2
 320     ; CHECK-NEXT: {{  $}}
 321     ; CHECK-NEXT: [[COPY:%[0-9]+]]:_(p0) = COPY $x1
 322     ; CHECK-NEXT: [[COPY1:%[0-9]+]]:_(p0) = COPY $x0
 323     ; CHECK-NEXT: [[COPY2:%[0-9]+]]:_(s64) = COPY $x2
 324     ; CHECK-NEXT: ADJCALLSTACKDOWN 0, 0, implicit-def $sp, implicit $sp
 325     ; CHECK-NEXT: $x0 = COPY [[COPY]](p0)
 326     ; CHECK-NEXT: $x1 = COPY [[COPY1]](p0)
 327     ; CHECK-NEXT: $x2 = COPY [[COPY2]](s64)
 328     ; CHECK-NEXT: BL &memcpy, csr_aarch64_aapcs_thisreturn, implicit-def $lr, implicit $sp, implicit $x0, implicit $x1, implicit $x2
 329     ; CHECK-NEXT: ADJCALLSTACKUP 0, 0, implicit-def $sp, implicit $sp
 330     ; CHECK-NEXT: $x1 = COPY [[COPY]](p0)
 331     ; CHECK-NEXT: RET_ReallyLR implicit $x0
 332     %0:_(p0) = COPY $x1
 333     %1:_(p0) = COPY $x0
 334     %2:_(s64) = COPY $x2
 335     G_MEMCPY %0(p0), %1(p0), %2(s64), 1 :: (store (s8)), (load (s8))
 336     $x1 = COPY %0(p0)
 337     RET_ReallyLR implicit $x0
 338
 339 ...
 340 ---
 341 name:            dont_tc_ret_void_copy
 342 alignment:       4
 343 tracksRegLiveness: true
 344 registers:
 345   - { id: 0, class: _ }
 346   - { id: 1, class: _ }
 347   - { id: 2, class: _ }
 348 liveins:
 349   - { reg: '$x0' }
 350   - { reg: '$x1' }
 351   - { reg: '$x2' }
 352 frameInfo:
 353   maxAlignment:    1
 354 machineFunctionInfo: {}
 355 body:             |
 356   bb.1.entry:
 357     liveins: $x0, $x1, $x2
 358
 359     ; CHECK-LABEL: name: dont_tc_ret_void_copy
 360     ; CHECK: liveins: $x0, $x1, $x2
 361     ; CHECK-NEXT: {{  $}}
 362     ; CHECK-NEXT: [[COPY:%[0-9]+]]:_(p0) = COPY $x0
 363     ; CHECK-NEXT: [[COPY1:%[0-9]+]]:_(p0) = COPY $x1
 364     ; CHECK-NEXT: [[COPY2:%[0-9]+]]:_(s64) = COPY $x2
 365     ; CHECK-NEXT: ADJCALLSTACKDOWN 0, 0, implicit-def $sp, implicit $sp
 366     ; CHECK-NEXT: $x0 = COPY [[COPY]](p0)
 367     ; CHECK-NEXT: $x1 = COPY [[COPY1]](p0)
 368     ; CHECK-NEXT: $x2 = COPY [[COPY2]](s64)
 369     ; CHECK-NEXT: BL &memcpy, csr_aarch64_aapcs_thisreturn, implicit-def $lr, implicit $sp, implicit $x0, implicit $x1, implicit $x2
 370     ; CHECK-NEXT: ADJCALLSTACKUP 0, 0, implicit-def $sp, implicit $sp
 371     ; CHECK-NEXT: $x0 = COPY [[COPY]](p0)
 372     ; CHECK-NEXT: RET_ReallyLR
 373     %0:_(p0) = COPY $x0
 374     %1:_(p0) = COPY $x1
 375     %2:_(s64) = COPY $x2
 376     G_MEMCPY %0(p0), %1(p0), %2(s64), 1 :: (store (s8)), (load (s8))
 377     $x0 = COPY %0(p0)
 378     RET_ReallyLR