llvm/test/CodeGen/AMDGPU/issue98474-virtregrewriter-live-out-undef-subregisters.mir

   1 # NOTE: Assertions have been autogenerated by utils/update_mir_test_checks.py UTC_ARGS: --version 5
   2 # RUN: llc -mtriple=amdgcn-amd-amdpal -mcpu=gfx900 -start-before=greedy,2 -stop-after=tailduplication -verify-machineinstrs -o - %s | FileCheck %s
   3
   4 # The partial def of %0 introduces a live out undef def of %0.sub1
   5 # into bb.3. We need to maintain this liveness with an explicit def of
   6 # the physical subregister. Without this, a verifier error would
   7 # appear after tail duplication.
   8
   9 ---
  10 name:            undef_subreg_def_live_out_tailduplicate_vreg64_undef_sub1
  11 tracksRegLiveness: true
  12 machineFunctionInfo:
  13   isEntryFunction: true
  14   scratchRSrcReg:  '$sgpr96_sgpr97_sgpr98_sgpr99'
  15   stackPtrOffsetReg: '$sgpr32'
  16 body:             |
  17   ; CHECK-LABEL: name: undef_subreg_def_live_out_tailduplicate_vreg64_undef_sub1
  18   ; CHECK: bb.0:
  19   ; CHECK-NEXT:   successors: %bb.2(0x40000000), %bb.1(0x40000000)
  20   ; CHECK-NEXT:   liveins: $sgpr0
  21   ; CHECK-NEXT: {{  $}}
  22   ; CHECK-NEXT:   S_CMP_EQ_U32 $sgpr0, 0, implicit-def $scc
  23   ; CHECK-NEXT:   S_CBRANCH_SCC0 %bb.2, implicit killed $scc
  24   ; CHECK-NEXT: {{  $}}
  25   ; CHECK-NEXT: bb.1:
  26   ; CHECK-NEXT:   renamable $vgpr0 = V_MOV_B32_e32 0, implicit $exec, implicit-def $vgpr1
  27   ; CHECK-NEXT:   EXP 0, killed renamable $vgpr0, renamable $vgpr1, undef renamable $vgpr0, undef renamable $vgpr0, 0, 0, 0, implicit $exec
  28   ; CHECK-NEXT:   S_ENDPGM 0
  29   ; CHECK-NEXT: {{  $}}
  30   ; CHECK-NEXT: bb.2:
  31   ; CHECK-NEXT:   S_NOP 0, implicit-def $sgpr4_sgpr5_sgpr6_sgpr7
  32   ; CHECK-NEXT:   renamable $vgpr0 = V_MOV_B32_e32 0, implicit $exec
  33   ; CHECK-NEXT:   renamable $vgpr0_vgpr1 = BUFFER_LOAD_FORMAT_XY_IDXEN killed renamable $vgpr0, $sgpr4_sgpr5_sgpr6_sgpr7, 0, 0, 0, 0, implicit $exec :: (dereferenceable load (s64), addrspace 8)
  34   ; CHECK-NEXT:   EXP 0, killed renamable $vgpr0, renamable $vgpr1, undef renamable $vgpr0, undef renamable $vgpr0, 0, 0, 0, implicit $exec
  35   ; CHECK-NEXT:   S_ENDPGM 0
  36   bb.0:
  37     liveins: $sgpr0
  38
  39     S_CMP_EQ_U32 killed $sgpr0, 0, implicit-def $scc
  40     S_CBRANCH_SCC0 %bb.2, implicit killed $scc
  41
  42   bb.1:
  43     undef %0.sub0:vreg_64 = V_MOV_B32_e32 0, implicit $exec
  44     S_BRANCH %bb.3
  45
  46   bb.2:
  47     S_NOP 0, implicit-def $sgpr4_sgpr5_sgpr6_sgpr7
  48     %1:vgpr_32 = V_MOV_B32_e32 0, implicit $exec
  49     %0:vreg_64 = BUFFER_LOAD_FORMAT_XY_IDXEN killed %1, $sgpr4_sgpr5_sgpr6_sgpr7, 0, 0, 0, 0, implicit $exec :: (dereferenceable load (s64), addrspace 8)
  50
  51   bb.3:
  52     EXP 0, killed %0.sub0, killed %0.sub1, undef %2:vgpr_32, undef %2:vgpr_32, 0, 0, 0, implicit $exec
  53     S_ENDPGM 0
  54
  55 ...
  56
  57 ---
  58 name:            undef_subreg_def_live_out_tailduplicate_vreg96_undef_sub1_sub2
  59 tracksRegLiveness: true
  60 machineFunctionInfo:
  61   isEntryFunction: true
  62   scratchRSrcReg:  '$sgpr96_sgpr97_sgpr98_sgpr99'
  63   stackPtrOffsetReg: '$sgpr32'
  64 body:             |
  65   ; CHECK-LABEL: name: undef_subreg_def_live_out_tailduplicate_vreg96_undef_sub1_sub2
  66   ; CHECK: bb.0:
  67   ; CHECK-NEXT:   successors: %bb.2(0x40000000), %bb.1(0x40000000)
  68   ; CHECK-NEXT:   liveins: $sgpr0
  69   ; CHECK-NEXT: {{  $}}
  70   ; CHECK-NEXT:   S_CMP_EQ_U32 $sgpr0, 0, implicit-def $scc
  71   ; CHECK-NEXT:   S_CBRANCH_SCC0 %bb.2, implicit killed $scc
  72   ; CHECK-NEXT: {{  $}}
  73   ; CHECK-NEXT: bb.1:
  74   ; CHECK-NEXT:   renamable $vgpr0 = V_MOV_B32_e32 0, implicit $exec, implicit-def $vgpr1_vgpr2
  75   ; CHECK-NEXT:   EXP 0, killed renamable $vgpr0, renamable $vgpr1, renamable $vgpr2, undef renamable $vgpr0, 0, 0, 0, implicit $exec
  76   ; CHECK-NEXT:   S_ENDPGM 0
  77   ; CHECK-NEXT: {{  $}}
  78   ; CHECK-NEXT: bb.2:
  79   ; CHECK-NEXT:   S_NOP 0, implicit-def $sgpr4_sgpr5_sgpr6_sgpr7
  80   ; CHECK-NEXT:   renamable $vgpr0 = V_MOV_B32_e32 0, implicit $exec
  81   ; CHECK-NEXT:   renamable $vgpr0_vgpr1_vgpr2 = BUFFER_LOAD_FORMAT_XYZ_IDXEN killed renamable $vgpr0, $sgpr4_sgpr5_sgpr6_sgpr7, 0, 0, 0, 0, implicit $exec :: (dereferenceable load (s96), align 16, addrspace 8)
  82   ; CHECK-NEXT:   EXP 0, killed renamable $vgpr0, renamable $vgpr1, renamable $vgpr2, undef renamable $vgpr0, 0, 0, 0, implicit $exec
  83   ; CHECK-NEXT:   S_ENDPGM 0
  84   bb.0:
  85     liveins: $sgpr0
  86
  87     S_CMP_EQ_U32 killed $sgpr0, 0, implicit-def $scc
  88     S_CBRANCH_SCC0 %bb.2, implicit killed $scc
  89
  90   bb.1:
  91     undef %0.sub0:vreg_96 = V_MOV_B32_e32 0, implicit $exec
  92     S_BRANCH %bb.3
  93
  94   bb.2:
  95     S_NOP 0, implicit-def $sgpr4_sgpr5_sgpr6_sgpr7
  96     %1:vgpr_32 = V_MOV_B32_e32 0, implicit $exec
  97     %0:vreg_96 = BUFFER_LOAD_FORMAT_XYZ_IDXEN killed %1, $sgpr4_sgpr5_sgpr6_sgpr7, 0, 0, 0, 0, implicit $exec :: (dereferenceable load (s96), addrspace 8)
  98
  99   bb.3:
 100     EXP 0, killed %0.sub0, killed %0.sub1, killed %0.sub2, undef %2:vgpr_32, 0, 0, 0, implicit $exec
 101     S_ENDPGM 0
 102
 103 ...
 104
 105 ---
 106 name:            undef_subreg_def_live_out_tailduplicate_vreg96_undef_sub0_sub2
 107 tracksRegLiveness: true
 108 machineFunctionInfo:
 109   isEntryFunction: true
 110   scratchRSrcReg:  '$sgpr96_sgpr97_sgpr98_sgpr99'
 111   stackPtrOffsetReg: '$sgpr32'
 112 body:             |
 113   ; CHECK-LABEL: name: undef_subreg_def_live_out_tailduplicate_vreg96_undef_sub0_sub2
 114   ; CHECK: bb.0:
 115   ; CHECK-NEXT:   successors: %bb.2(0x40000000), %bb.1(0x40000000)
 116   ; CHECK-NEXT:   liveins: $sgpr0
 117   ; CHECK-NEXT: {{  $}}
 118   ; CHECK-NEXT:   S_CMP_EQ_U32 $sgpr0, 0, implicit-def $scc
 119   ; CHECK-NEXT:   S_CBRANCH_SCC0 %bb.2, implicit killed $scc
 120   ; CHECK-NEXT: {{  $}}
 121   ; CHECK-NEXT: bb.1:
 122   ; CHECK-NEXT:   renamable $vgpr1 = V_MOV_B32_e32 0, implicit $exec, implicit-def $vgpr2, implicit-def $vgpr0
 123   ; CHECK-NEXT:   EXP 0, killed renamable $vgpr0, renamable $vgpr1, renamable $vgpr2, undef renamable $vgpr0, 0, 0, 0, implicit $exec
 124   ; CHECK-NEXT:   S_ENDPGM 0
 125   ; CHECK-NEXT: {{  $}}
 126   ; CHECK-NEXT: bb.2:
 127   ; CHECK-NEXT:   S_NOP 0, implicit-def $sgpr4_sgpr5_sgpr6_sgpr7
 128   ; CHECK-NEXT:   renamable $vgpr0 = V_MOV_B32_e32 0, implicit $exec
 129   ; CHECK-NEXT:   renamable $vgpr0_vgpr1_vgpr2 = BUFFER_LOAD_FORMAT_XYZ_IDXEN killed renamable $vgpr0, $sgpr4_sgpr5_sgpr6_sgpr7, 0, 0, 0, 0, implicit $exec :: (dereferenceable load (s96), align 16, addrspace 8)
 130   ; CHECK-NEXT:   EXP 0, killed renamable $vgpr0, renamable $vgpr1, renamable $vgpr2, undef renamable $vgpr0, 0, 0, 0, implicit $exec
 131   ; CHECK-NEXT:   S_ENDPGM 0
 132   bb.0:
 133     liveins: $sgpr0
 134
 135     S_CMP_EQ_U32 killed $sgpr0, 0, implicit-def $scc
 136     S_CBRANCH_SCC0 %bb.2, implicit killed $scc
 137
 138   bb.1:
 139     undef %0.sub1:vreg_96 = V_MOV_B32_e32 0, implicit $exec
 140     S_BRANCH %bb.3
 141
 142   bb.2:
 143     S_NOP 0, implicit-def $sgpr4_sgpr5_sgpr6_sgpr7
 144     %1:vgpr_32 = V_MOV_B32_e32 0, implicit $exec
 145     %0:vreg_96 = BUFFER_LOAD_FORMAT_XYZ_IDXEN killed %1, $sgpr4_sgpr5_sgpr6_sgpr7, 0, 0, 0, 0, implicit $exec :: (dereferenceable load (s96), addrspace 8)
 146
 147   bb.3:
 148     EXP 0, killed %0.sub0, killed %0.sub1, killed %0.sub2, undef %2:vgpr_32, 0, 0, 0, implicit $exec
 149     S_ENDPGM 0
 150
 151 ...
 152
 153 # Test another use of the value before the block end.
 154 ---
 155 name:            undef_subreg_def_live_out_tailduplicate_vreg64_undef_sub1_undef_use_in_def_block
 156 tracksRegLiveness: true
 157 machineFunctionInfo:
 158   isEntryFunction: true
 159   scratchRSrcReg:  '$sgpr96_sgpr97_sgpr98_sgpr99'
 160   stackPtrOffsetReg: '$sgpr32'
 161 body:             |
 162   ; CHECK-LABEL: name: undef_subreg_def_live_out_tailduplicate_vreg64_undef_sub1_undef_use_in_def_block
 163   ; CHECK: bb.0:
 164   ; CHECK-NEXT:   successors: %bb.2(0x40000000), %bb.1(0x40000000)
 165   ; CHECK-NEXT:   liveins: $sgpr0
 166   ; CHECK-NEXT: {{  $}}
 167   ; CHECK-NEXT:   S_CMP_EQ_U32 $sgpr0, 0, implicit-def $scc
 168   ; CHECK-NEXT:   S_CBRANCH_SCC0 %bb.2, implicit killed $scc
 169   ; CHECK-NEXT: {{  $}}
 170   ; CHECK-NEXT: bb.1:
 171   ; CHECK-NEXT:   renamable $vgpr0 = V_MOV_B32_e32 0, implicit $exec, implicit-def $vgpr1
 172   ; CHECK-NEXT:   S_NOP 0, implicit renamable $vgpr0_vgpr1
 173   ; CHECK-NEXT:   EXP 0, killed renamable $vgpr0, renamable $vgpr1, undef renamable $vgpr0, undef renamable $vgpr0, 0, 0, 0, implicit $exec
 174   ; CHECK-NEXT:   S_ENDPGM 0
 175   ; CHECK-NEXT: {{  $}}
 176   ; CHECK-NEXT: bb.2:
 177   ; CHECK-NEXT:   S_NOP 0, implicit-def $sgpr4_sgpr5_sgpr6_sgpr7
 178   ; CHECK-NEXT:   renamable $vgpr0 = V_MOV_B32_e32 0, implicit $exec
 179   ; CHECK-NEXT:   renamable $vgpr0_vgpr1 = BUFFER_LOAD_FORMAT_XY_IDXEN killed renamable $vgpr0, $sgpr4_sgpr5_sgpr6_sgpr7, 0, 0, 0, 0, implicit $exec :: (dereferenceable load (s64), addrspace 8)
 180   ; CHECK-NEXT:   EXP 0, killed renamable $vgpr0, renamable $vgpr1, undef renamable $vgpr0, undef renamable $vgpr0, 0, 0, 0, implicit $exec
 181   ; CHECK-NEXT:   S_ENDPGM 0
 182   bb.0:
 183     liveins: $sgpr0
 184
 185     S_CMP_EQ_U32 killed $sgpr0, 0, implicit-def $scc
 186     S_CBRANCH_SCC0 %bb.2, implicit killed $scc
 187
 188   bb.1:
 189     undef %0.sub0:vreg_64 = V_MOV_B32_e32 0, implicit $exec
 190     S_NOP 0, implicit %0
 191     S_BRANCH %bb.3
 192
 193   bb.2:
 194     S_NOP 0, implicit-def $sgpr4_sgpr5_sgpr6_sgpr7
 195     %1:vgpr_32 = V_MOV_B32_e32 0, implicit $exec
 196     %0:vreg_64 = BUFFER_LOAD_FORMAT_XY_IDXEN killed %1, $sgpr4_sgpr5_sgpr6_sgpr7, 0, 0, 0, 0, implicit $exec :: (dereferenceable load (s64), addrspace 8)
 197
 198   bb.3:
 199     EXP 0, killed %0.sub0, killed %0.sub1, undef %2:vgpr_32, undef %2:vgpr_32, 0, 0, 0, implicit $exec
 200     S_ENDPGM 0
 201
 202 ...
 203
 204 # The undef subregister is not live out, no implicit def should be added for it
 205 ---
 206 name:            undef_subreg_def_live_out_tailduplicate_vreg64_undef_sub1_no_phi_use
 207 tracksRegLiveness: true
 208 machineFunctionInfo:
 209   isEntryFunction: true
 210   scratchRSrcReg:  '$sgpr96_sgpr97_sgpr98_sgpr99'
 211   stackPtrOffsetReg: '$sgpr32'
 212 body:             |
 213   ; CHECK-LABEL: name: undef_subreg_def_live_out_tailduplicate_vreg64_undef_sub1_no_phi_use
 214   ; CHECK: bb.0:
 215   ; CHECK-NEXT:   successors: %bb.2(0x40000000), %bb.1(0x40000000)
 216   ; CHECK-NEXT:   liveins: $sgpr0
 217   ; CHECK-NEXT: {{  $}}
 218   ; CHECK-NEXT:   S_CMP_EQ_U32 $sgpr0, 0, implicit-def $scc
 219   ; CHECK-NEXT:   S_CBRANCH_SCC0 %bb.2, implicit killed $scc
 220   ; CHECK-NEXT: {{  $}}
 221   ; CHECK-NEXT: bb.1:
 222   ; CHECK-NEXT:   renamable $vgpr0 = V_MOV_B32_e32 0, implicit $exec
 223   ; CHECK-NEXT:   EXP 0, killed renamable $vgpr0, renamable $vgpr0, undef renamable $vgpr0, undef renamable $vgpr0, 0, 0, 0, implicit $exec
 224   ; CHECK-NEXT:   S_ENDPGM 0
 225   ; CHECK-NEXT: {{  $}}
 226   ; CHECK-NEXT: bb.2:
 227   ; CHECK-NEXT:   S_NOP 0, implicit-def $sgpr4_sgpr5_sgpr6_sgpr7
 228   ; CHECK-NEXT:   renamable $vgpr0 = V_MOV_B32_e32 0, implicit $exec
 229   ; CHECK-NEXT:   renamable $vgpr0_vgpr1 = BUFFER_LOAD_FORMAT_XY_IDXEN killed renamable $vgpr0, $sgpr4_sgpr5_sgpr6_sgpr7, 0, 0, 0, 0, implicit $exec :: (dereferenceable load (s64), addrspace 8)
 230   ; CHECK-NEXT:   EXP 0, killed renamable $vgpr0, renamable $vgpr0, undef renamable $vgpr0, undef renamable $vgpr0, 0, 0, 0, implicit $exec
 231   ; CHECK-NEXT:   S_ENDPGM 0
 232   bb.0:
 233     liveins: $sgpr0
 234
 235     S_CMP_EQ_U32 killed $sgpr0, 0, implicit-def $scc
 236     S_CBRANCH_SCC0 %bb.2, implicit killed $scc
 237
 238   bb.1:
 239     undef %0.sub0:vreg_64 = V_MOV_B32_e32 0, implicit $exec
 240     S_BRANCH %bb.3
 241
 242   bb.2:
 243     S_NOP 0, implicit-def $sgpr4_sgpr5_sgpr6_sgpr7
 244     %1:vgpr_32 = V_MOV_B32_e32 0, implicit $exec
 245     %0:vreg_64 = BUFFER_LOAD_FORMAT_XY_IDXEN killed %1, $sgpr4_sgpr5_sgpr6_sgpr7, 0, 0, 0, 0, implicit $exec :: (dereferenceable load (s64), addrspace 8)
 246
 247   bb.3:
 248     EXP 0, killed %0.sub0, killed %0.sub0, undef %2:vgpr_32, undef %2:vgpr_32, 0, 0, 0, implicit $exec
 249     S_ENDPGM 0
 250
 251 ...
 252
 253 # In bb.2, %0 should be assigned to vgpr0_vgpr1. Make sure the value
 254 # copied from $vgpr0 into %3 isn't clobbered by the undef phi def for
 255 # %0.sub1.
 256 ---
 257 name:            assigned_physreg_subregister_interference
 258 tracksRegLiveness: true
 259 frameInfo:
 260   adjustsStack: true
 261 machineFunctionInfo:
 262   scratchRSrcReg:  '$sgpr0_sgpr1_sgpr2_sgpr3'
 263   frameOffsetReg:  '$sgpr33'
 264   stackPtrOffsetReg: '$sgpr32'
 265   wwmReservedRegs:
 266     - '$vgpr63'
 267 body:             |
 268   ; CHECK-LABEL: name: assigned_physreg_subregister_interference
 269   ; CHECK: bb.0:
 270   ; CHECK-NEXT:   successors: %bb.1(0x80000000)
 271   ; CHECK-NEXT:   liveins: $sgpr30, $sgpr31, $sgpr34, $sgpr35, $sgpr36, $sgpr37, $vgpr0, $vgpr1
 272   ; CHECK-NEXT: {{  $}}
 273   ; CHECK-NEXT:   $sgpr4_sgpr5 = S_OR_SAVEEXEC_B64 -1, implicit-def $exec, implicit-def dead $scc, implicit $exec
 274   ; CHECK-NEXT:   BUFFER_STORE_DWORD_OFFSET killed $vgpr40, $sgpr0_sgpr1_sgpr2_sgpr3, $sgpr32, 0, 0, 0, implicit $exec :: (store (s32) into %stack.0, addrspace 5)
 275   ; CHECK-NEXT:   $exec = S_MOV_B64 killed $sgpr4_sgpr5
 276   ; CHECK-NEXT:   $vgpr40 = SI_SPILL_S32_TO_VGPR $sgpr30, 0, $vgpr40
 277   ; CHECK-NEXT:   $vgpr40 = SI_SPILL_S32_TO_VGPR $sgpr31, 1, $vgpr40
 278   ; CHECK-NEXT:   $vgpr40 = SI_SPILL_S32_TO_VGPR $sgpr34, 2, $vgpr40
 279   ; CHECK-NEXT:   $vgpr40 = SI_SPILL_S32_TO_VGPR $sgpr35, 3, $vgpr40
 280   ; CHECK-NEXT:   $vgpr40 = SI_SPILL_S32_TO_VGPR $sgpr36, 4, $vgpr40
 281   ; CHECK-NEXT:   $vgpr40 = SI_SPILL_S32_TO_VGPR $sgpr37, 5, $vgpr40
 282   ; CHECK-NEXT:   renamable $sgpr34_sgpr35 = S_MOV_B64 $exec
 283   ; CHECK-NEXT: {{  $}}
 284   ; CHECK-NEXT: bb.1:
 285   ; CHECK-NEXT:   successors: %bb.1(0x40000000), %bb.2(0x40000000)
 286   ; CHECK-NEXT:   liveins: $sgpr34_sgpr35, $vgpr0_vgpr1:0x000000000000000F
 287   ; CHECK-NEXT: {{  $}}
 288   ; CHECK-NEXT:   renamable $sgpr4 = V_READFIRSTLANE_B32 $vgpr0, implicit $exec
 289   ; CHECK-NEXT:   renamable $sgpr5 = V_READFIRSTLANE_B32 $vgpr1, implicit $exec
 290   ; CHECK-NEXT:   renamable $vcc = V_CMP_EQ_U64_e64 $sgpr4_sgpr5, killed $vgpr0_vgpr1, implicit $exec
 291   ; CHECK-NEXT:   renamable $sgpr36_sgpr37 = S_AND_SAVEEXEC_B64 killed renamable $vcc, implicit-def $exec, implicit-def dead $scc, implicit $exec
 292   ; CHECK-NEXT:   dead $sgpr30_sgpr31 = noconvergent SI_CALL killed renamable $sgpr4_sgpr5, 0, csr_amdgpu, implicit $sgpr0_sgpr1_sgpr2_sgpr3, implicit-def $vgpr0
 293   ; CHECK-NEXT:   renamable $vgpr1 = COPY $vgpr0, implicit $exec
 294   ; CHECK-NEXT:   renamable $vgpr0 = V_MOV_B32_e32 123, implicit $exec
 295   ; CHECK-NEXT:   $exec = S_XOR_B64 $exec, renamable $sgpr36_sgpr37, implicit-def dead $scc
 296   ; CHECK-NEXT:   S_CBRANCH_EXECNZ %bb.1, implicit $exec
 297   ; CHECK-NEXT: {{  $}}
 298   ; CHECK-NEXT: bb.2:
 299   ; CHECK-NEXT:   liveins: $vgpr1, $sgpr34_sgpr35
 300   ; CHECK-NEXT: {{  $}}
 301   ; CHECK-NEXT:   $exec = COPY renamable $sgpr34_sgpr35
 302   ; CHECK-NEXT:   renamable $vgpr0 = V_ADD_U32_e32 1, killed $vgpr1, implicit $exec
 303   ; CHECK-NEXT:   $sgpr37 = SI_RESTORE_S32_FROM_VGPR $vgpr40, 5
 304   ; CHECK-NEXT:   $sgpr36 = SI_RESTORE_S32_FROM_VGPR $vgpr40, 4
 305   ; CHECK-NEXT:   $sgpr35 = SI_RESTORE_S32_FROM_VGPR $vgpr40, 3
 306   ; CHECK-NEXT:   $sgpr34 = SI_RESTORE_S32_FROM_VGPR $vgpr40, 2
 307   ; CHECK-NEXT:   $sgpr31 = SI_RESTORE_S32_FROM_VGPR $vgpr40, 1
 308   ; CHECK-NEXT:   $sgpr30 = SI_RESTORE_S32_FROM_VGPR $vgpr40, 0
 309   ; CHECK-NEXT:   $sgpr4_sgpr5 = S_OR_SAVEEXEC_B64 -1, implicit-def $exec, implicit-def dead $scc, implicit $exec
 310   ; CHECK-NEXT:   $vgpr40 = BUFFER_LOAD_DWORD_OFFSET $sgpr0_sgpr1_sgpr2_sgpr3, $sgpr32, 0, 0, 0, implicit $exec :: (load (s32) from %stack.0, addrspace 5)
 311   ; CHECK-NEXT:   $exec = S_MOV_B64 killed $sgpr4_sgpr5
 312   ; CHECK-NEXT:   SI_RETURN implicit $vgpr0
 313   bb.0:
 314     liveins: $sgpr30, $sgpr31, $sgpr34, $sgpr35, $sgpr36, $sgpr37, $vgpr0, $vgpr1, $vgpr63
 315
 316     $vgpr63 = SI_SPILL_S32_TO_VGPR killed $sgpr30, 0, $vgpr63
 317     $vgpr63 = SI_SPILL_S32_TO_VGPR killed $sgpr31, 1, $vgpr63
 318     $vgpr63 = SI_SPILL_S32_TO_VGPR killed $sgpr34, 2, $vgpr63
 319     $vgpr63 = SI_SPILL_S32_TO_VGPR killed $sgpr35, 3, $vgpr63
 320     $vgpr63 = SI_SPILL_S32_TO_VGPR killed $sgpr36, 4, $vgpr63
 321     $vgpr63 = SI_SPILL_S32_TO_VGPR killed $sgpr37, 5, $vgpr63
 322     undef %0.sub0:vreg_64 = COPY $vgpr0
 323     %0.sub1:vreg_64 = COPY $vgpr1
 324     ADJCALLSTACKUP 0, 0, implicit-def dead $scc, implicit-def $sgpr32, implicit $sgpr32
 325     renamable $sgpr34_sgpr35 = S_MOV_B64 $exec
 326
 327   bb.1:
 328     liveins: $vgpr63, $sgpr34_sgpr35
 329
 330     renamable $sgpr4 = V_READFIRSTLANE_B32 %0.sub0, implicit $exec
 331     renamable $sgpr5 = V_READFIRSTLANE_B32 %0.sub1, implicit $exec
 332     renamable $vcc = V_CMP_EQ_U64_e64 $sgpr4_sgpr5, %0, implicit $exec
 333     renamable $sgpr36_sgpr37 = S_AND_SAVEEXEC_B64 killed renamable $vcc, implicit-def $exec, implicit-def dead $scc, implicit $exec
 334
 335   bb.2:
 336     liveins: $vgpr63, $sgpr4_sgpr5:0x000000000000000F, $sgpr34_sgpr35, $sgpr36_sgpr37
 337
 338     dead $sgpr30_sgpr31 = noconvergent SI_CALL killed renamable $sgpr4_sgpr5, 0, csr_amdgpu, implicit $sgpr0_sgpr1_sgpr2_sgpr3, implicit-def $vgpr0
 339     %3:vgpr_32 = COPY $vgpr0
 340     undef %0.sub0:vreg_64 = V_MOV_B32_e32 123, implicit $exec
 341     $exec = S_XOR_B64_term $exec, killed renamable $sgpr36_sgpr37, implicit-def dead $scc
 342     S_CBRANCH_EXECNZ %bb.1, implicit $exec
 343
 344   bb.3:
 345     liveins: $vgpr63, $sgpr34_sgpr35
 346
 347     $exec = S_MOV_B64_term killed renamable $sgpr34_sgpr35
 348
 349   bb.4:
 350     liveins: $vgpr63
 351
 352     ADJCALLSTACKDOWN 0, 0, implicit-def dead $scc, implicit-def $sgpr32, implicit $sgpr32
 353     %6:vgpr_32 = V_ADD_U32_e32 1, %3, implicit $exec
 354     $vgpr0 = COPY %6
 355     $sgpr37 = SI_RESTORE_S32_FROM_VGPR $vgpr63, 5
 356     $sgpr36 = SI_RESTORE_S32_FROM_VGPR $vgpr63, 4
 357     $sgpr35 = SI_RESTORE_S32_FROM_VGPR $vgpr63, 3
 358     $sgpr34 = SI_RESTORE_S32_FROM_VGPR $vgpr63, 2
 359     $sgpr31 = SI_RESTORE_S32_FROM_VGPR $vgpr63, 1
 360     $sgpr30 = SI_RESTORE_S32_FROM_VGPR $vgpr63, 0
 361     SI_RETURN implicit $vgpr0
 362
 363 ...