llvm/test/Transforms/LoopUnroll/ARM/multi-blocks.ll

   1 ; NOTE: Assertions have been autogenerated by utils/update_test_checks.py
   2 ; RUN: opt -mtriple=thumbv8m.main -mcpu=cortex-m33 -loop-unroll -S < %s -o - | FileCheck %s
   3 ; RUN: opt -mtriple=thumbv7em -mcpu=cortex-m7 -loop-unroll -S < %s -o - | FileCheck %s
   4
   5 define void @test_three_blocks(i32* nocapture %Output,
   6 ;
   7 ; CHECK-LABEL: @test_three_blocks(
   8 ; CHECK-NEXT:  entry:
   9 ; CHECK-NEXT:    [[CMP8:%.*]] = icmp eq i32 [[MAXJ:%.*]], 0
  10 ; CHECK-NEXT:    br i1 [[CMP8]], label [[FOR_COND_CLEANUP:%.*]], label [[FOR_BODY_PREHEADER:%.*]]
  11 ; CHECK:       for.body.preheader:
  12 ; CHECK-NEXT:    [[TMP0:%.*]] = add i32 [[MAXJ]], -1
  13 ; CHECK-NEXT:    [[XTRAITER:%.*]] = and i32 [[MAXJ]], 3
  14 ; CHECK-NEXT:    [[TMP1:%.*]] = icmp ult i32 [[TMP0]], 3
  15 ; CHECK-NEXT:    br i1 [[TMP1]], label [[FOR_COND_CLEANUP_LOOPEXIT_UNR_LCSSA:%.*]], label [[FOR_BODY_PREHEADER_NEW:%.*]]
  16 ; CHECK:       for.body.preheader.new:
  17 ; CHECK-NEXT:    [[UNROLL_ITER:%.*]] = sub i32 [[MAXJ]], [[XTRAITER]]
  18 ; CHECK-NEXT:    br label [[FOR_BODY:%.*]]
  19 ; CHECK:       for.cond.cleanup.loopexit.unr-lcssa.loopexit:
  20 ; CHECK-NEXT:    [[TEMP_1_LCSSA_PH_PH:%.*]] = phi i32 [ [[TEMP_1_3:%.*]], [[FOR_INC_3:%.*]] ]
  21 ; CHECK-NEXT:    [[J_010_UNR_PH:%.*]] = phi i32 [ [[INC_3:%.*]], [[FOR_INC_3]] ]
  22 ; CHECK-NEXT:    [[TEMP_09_UNR_PH:%.*]] = phi i32 [ [[TEMP_1_3]], [[FOR_INC_3]] ]
  23 ; CHECK-NEXT:    br label [[FOR_COND_CLEANUP_LOOPEXIT_UNR_LCSSA]]
  24 ; CHECK:       for.cond.cleanup.loopexit.unr-lcssa:
  25 ; CHECK-NEXT:    [[TEMP_1_LCSSA_PH:%.*]] = phi i32 [ undef, [[FOR_BODY_PREHEADER]] ], [ [[TEMP_1_LCSSA_PH_PH]], [[FOR_COND_CLEANUP_LOOPEXIT_UNR_LCSSA_LOOPEXIT:%.*]] ]
  26 ; CHECK-NEXT:    [[J_010_UNR:%.*]] = phi i32 [ 0, [[FOR_BODY_PREHEADER]] ], [ [[J_010_UNR_PH]], [[FOR_COND_CLEANUP_LOOPEXIT_UNR_LCSSA_LOOPEXIT]] ]
  27 ; CHECK-NEXT:    [[TEMP_09_UNR:%.*]] = phi i32 [ 0, [[FOR_BODY_PREHEADER]] ], [ [[TEMP_09_UNR_PH]], [[FOR_COND_CLEANUP_LOOPEXIT_UNR_LCSSA_LOOPEXIT]] ]
  28 ; CHECK-NEXT:    [[LCMP_MOD:%.*]] = icmp ne i32 [[XTRAITER]], 0
  29 ; CHECK-NEXT:    br i1 [[LCMP_MOD]], label [[FOR_BODY_EPIL_PREHEADER:%.*]], label [[FOR_COND_CLEANUP_LOOPEXIT:%.*]]
  30 ; CHECK:       for.body.epil.preheader:
  31 ; CHECK-NEXT:    br label [[FOR_BODY_EPIL:%.*]]
  32 ; CHECK:       for.body.epil:
  33 ; CHECK-NEXT:    [[ARRAYIDX_EPIL:%.*]] = getelementptr inbounds i32, i32* [[CONDITION:%.*]], i32 [[J_010_UNR]]
  34 ; CHECK-NEXT:    [[TMP2:%.*]] = load i32, i32* [[ARRAYIDX_EPIL]], align 4
  35 ; CHECK-NEXT:    [[TOBOOL_EPIL:%.*]] = icmp eq i32 [[TMP2]], 0
  36 ; CHECK-NEXT:    br i1 [[TOBOOL_EPIL]], label [[FOR_INC_EPIL:%.*]], label [[IF_THEN_EPIL:%.*]]
  37 ; CHECK:       if.then.epil:
  38 ; CHECK-NEXT:    [[ARRAYIDX1_EPIL:%.*]] = getelementptr inbounds i32, i32* [[INPUT:%.*]], i32 [[J_010_UNR]]
  39 ; CHECK-NEXT:    [[TMP3:%.*]] = load i32, i32* [[ARRAYIDX1_EPIL]], align 4
  40 ; CHECK-NEXT:    [[ADD_EPIL:%.*]] = add i32 [[TMP3]], [[TEMP_09_UNR]]
  41 ; CHECK-NEXT:    br label [[FOR_INC_EPIL]]
  42 ; CHECK:       for.inc.epil:
  43 ; CHECK-NEXT:    [[TEMP_1_EPIL:%.*]] = phi i32 [ [[ADD_EPIL]], [[IF_THEN_EPIL]] ], [ [[TEMP_09_UNR]], [[FOR_BODY_EPIL]] ]
  44 ; CHECK-NEXT:    [[INC_EPIL:%.*]] = add nuw i32 [[J_010_UNR]], 1
  45 ; CHECK-NEXT:    [[EPIL_ITER_CMP:%.*]] = icmp ne i32 1, [[XTRAITER]]
  46 ; CHECK-NEXT:    br i1 [[EPIL_ITER_CMP]], label [[FOR_BODY_EPIL_1:%.*]], label [[FOR_COND_CLEANUP_LOOPEXIT_EPILOG_LCSSA:%.*]]
  47 ; CHECK:       for.body.epil.1:
  48 ; CHECK-NEXT:    [[ARRAYIDX_EPIL_1:%.*]] = getelementptr inbounds i32, i32* [[CONDITION]], i32 [[INC_EPIL]]
  49 ; CHECK-NEXT:    [[TMP4:%.*]] = load i32, i32* [[ARRAYIDX_EPIL_1]], align 4
  50 ; CHECK-NEXT:    [[TOBOOL_EPIL_1:%.*]] = icmp eq i32 [[TMP4]], 0
  51 ; CHECK-NEXT:    br i1 [[TOBOOL_EPIL_1]], label [[FOR_INC_EPIL_1:%.*]], label [[IF_THEN_EPIL_1:%.*]]
  52 ; CHECK:       if.then.epil.1:
  53 ; CHECK-NEXT:    [[ARRAYIDX1_EPIL_1:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[INC_EPIL]]
  54 ; CHECK-NEXT:    [[TMP5:%.*]] = load i32, i32* [[ARRAYIDX1_EPIL_1]], align 4
  55 ; CHECK-NEXT:    [[ADD_EPIL_1:%.*]] = add i32 [[TMP5]], [[TEMP_1_EPIL]]
  56 ; CHECK-NEXT:    br label [[FOR_INC_EPIL_1]]
  57 ; CHECK:       for.inc.epil.1:
  58 ; CHECK-NEXT:    [[TEMP_1_EPIL_1:%.*]] = phi i32 [ [[ADD_EPIL_1]], [[IF_THEN_EPIL_1]] ], [ [[TEMP_1_EPIL]], [[FOR_BODY_EPIL_1]] ]
  59 ; CHECK-NEXT:    [[INC_EPIL_1:%.*]] = add nuw i32 [[INC_EPIL]], 1
  60 ; CHECK-NEXT:    [[EPIL_ITER_CMP_1:%.*]] = icmp ne i32 2, [[XTRAITER]]
  61 ; CHECK-NEXT:    br i1 [[EPIL_ITER_CMP_1]], label [[FOR_BODY_EPIL_2:%.*]], label [[FOR_COND_CLEANUP_LOOPEXIT_EPILOG_LCSSA]]
  62 ; CHECK:       for.body.epil.2:
  63 ; CHECK-NEXT:    [[ARRAYIDX_EPIL_2:%.*]] = getelementptr inbounds i32, i32* [[CONDITION]], i32 [[INC_EPIL_1]]
  64 ; CHECK-NEXT:    [[TMP6:%.*]] = load i32, i32* [[ARRAYIDX_EPIL_2]], align 4
  65 ; CHECK-NEXT:    [[TOBOOL_EPIL_2:%.*]] = icmp eq i32 [[TMP6]], 0
  66 ; CHECK-NEXT:    br i1 [[TOBOOL_EPIL_2]], label [[FOR_INC_EPIL_2:%.*]], label [[IF_THEN_EPIL_2:%.*]]
  67 ; CHECK:       if.then.epil.2:
  68 ; CHECK-NEXT:    [[ARRAYIDX1_EPIL_2:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[INC_EPIL_1]]
  69 ; CHECK-NEXT:    [[TMP7:%.*]] = load i32, i32* [[ARRAYIDX1_EPIL_2]], align 4
  70 ; CHECK-NEXT:    [[ADD_EPIL_2:%.*]] = add i32 [[TMP7]], [[TEMP_1_EPIL_1]]
  71 ; CHECK-NEXT:    br label [[FOR_INC_EPIL_2]]
  72 ; CHECK:       for.inc.epil.2:
  73 ; CHECK-NEXT:    [[TEMP_1_EPIL_2:%.*]] = phi i32 [ [[ADD_EPIL_2]], [[IF_THEN_EPIL_2]] ], [ [[TEMP_1_EPIL_1]], [[FOR_BODY_EPIL_2]] ]
  74 ; CHECK-NEXT:    br label [[FOR_COND_CLEANUP_LOOPEXIT_EPILOG_LCSSA]]
  75 ; CHECK:       for.cond.cleanup.loopexit.epilog-lcssa:
  76 ; CHECK-NEXT:    [[TEMP_1_LCSSA_PH1:%.*]] = phi i32 [ [[TEMP_1_EPIL]], [[FOR_INC_EPIL]] ], [ [[TEMP_1_EPIL_1]], [[FOR_INC_EPIL_1]] ], [ [[TEMP_1_EPIL_2]], [[FOR_INC_EPIL_2]] ]
  77 ; CHECK-NEXT:    br label [[FOR_COND_CLEANUP_LOOPEXIT]]
  78 ; CHECK:       for.cond.cleanup.loopexit:
  79 ; CHECK-NEXT:    [[TEMP_1_LCSSA:%.*]] = phi i32 [ [[TEMP_1_LCSSA_PH]], [[FOR_COND_CLEANUP_LOOPEXIT_UNR_LCSSA]] ], [ [[TEMP_1_LCSSA_PH1]], [[FOR_COND_CLEANUP_LOOPEXIT_EPILOG_LCSSA]] ]
  80 ; CHECK-NEXT:    br label [[FOR_COND_CLEANUP]]
  81 ; CHECK:       for.cond.cleanup:
  82 ; CHECK-NEXT:    [[TEMP_0_LCSSA:%.*]] = phi i32 [ 0, [[ENTRY:%.*]] ], [ [[TEMP_1_LCSSA]], [[FOR_COND_CLEANUP_LOOPEXIT]] ]
  83 ; CHECK-NEXT:    store i32 [[TEMP_0_LCSSA]], i32* [[OUTPUT:%.*]], align 4
  84 ; CHECK-NEXT:    ret void
  85 ; CHECK:       for.body:
  86 ; CHECK-NEXT:    [[J_010:%.*]] = phi i32 [ 0, [[FOR_BODY_PREHEADER_NEW]] ], [ [[INC_3]], [[FOR_INC_3]] ]
  87 ; CHECK-NEXT:    [[TEMP_09:%.*]] = phi i32 [ 0, [[FOR_BODY_PREHEADER_NEW]] ], [ [[TEMP_1_3]], [[FOR_INC_3]] ]
  88 ; CHECK-NEXT:    [[NITER:%.*]] = phi i32 [ 0, [[FOR_BODY_PREHEADER_NEW]] ], [ [[NITER_NEXT_3:%.*]], [[FOR_INC_3]] ]
  89 ; CHECK-NEXT:    [[ARRAYIDX:%.*]] = getelementptr inbounds i32, i32* [[CONDITION]], i32 [[J_010]]
  90 ; CHECK-NEXT:    [[TMP8:%.*]] = load i32, i32* [[ARRAYIDX]], align 4
  91 ; CHECK-NEXT:    [[TOBOOL:%.*]] = icmp eq i32 [[TMP8]], 0
  92 ; CHECK-NEXT:    br i1 [[TOBOOL]], label [[FOR_INC:%.*]], label [[IF_THEN:%.*]]
  93 ; CHECK:       if.then:
  94 ; CHECK-NEXT:    [[ARRAYIDX1:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[J_010]]
  95 ; CHECK-NEXT:    [[TMP9:%.*]] = load i32, i32* [[ARRAYIDX1]], align 4
  96 ; CHECK-NEXT:    [[ADD:%.*]] = add i32 [[TMP9]], [[TEMP_09]]
  97 ; CHECK-NEXT:    br label [[FOR_INC]]
  98 ; CHECK:       for.inc:
  99 ; CHECK-NEXT:    [[TEMP_1:%.*]] = phi i32 [ [[ADD]], [[IF_THEN]] ], [ [[TEMP_09]], [[FOR_BODY]] ]
 100 ; CHECK-NEXT:    [[INC:%.*]] = add nuw nsw i32 [[J_010]], 1
 101 ; CHECK-NEXT:    [[NITER_NEXT:%.*]] = add nuw nsw i32 [[NITER]], 1
 102 ; CHECK-NEXT:    [[ARRAYIDX_1:%.*]] = getelementptr inbounds i32, i32* [[CONDITION]], i32 [[INC]]
 103 ; CHECK-NEXT:    [[TMP10:%.*]] = load i32, i32* [[ARRAYIDX_1]], align 4
 104 ; CHECK-NEXT:    [[TOBOOL_1:%.*]] = icmp eq i32 [[TMP10]], 0
 105 ; CHECK-NEXT:    br i1 [[TOBOOL_1]], label [[FOR_INC_1:%.*]], label [[IF_THEN_1:%.*]]
 106 ; CHECK:       if.then.1:
 107 ; CHECK-NEXT:    [[ARRAYIDX1_1:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[INC]]
 108 ; CHECK-NEXT:    [[TMP11:%.*]] = load i32, i32* [[ARRAYIDX1_1]], align 4
 109 ; CHECK-NEXT:    [[ADD_1:%.*]] = add i32 [[TMP11]], [[TEMP_1]]
 110 ; CHECK-NEXT:    br label [[FOR_INC_1]]
 111 ; CHECK:       for.inc.1:
 112 ; CHECK-NEXT:    [[TEMP_1_1:%.*]] = phi i32 [ [[ADD_1]], [[IF_THEN_1]] ], [ [[TEMP_1]], [[FOR_INC]] ]
 113 ; CHECK-NEXT:    [[INC_1:%.*]] = add nuw nsw i32 [[INC]], 1
 114 ; CHECK-NEXT:    [[NITER_NEXT_1:%.*]] = add nuw nsw i32 [[NITER_NEXT]], 1
 115 ; CHECK-NEXT:    [[ARRAYIDX_2:%.*]] = getelementptr inbounds i32, i32* [[CONDITION]], i32 [[INC_1]]
 116 ; CHECK-NEXT:    [[TMP12:%.*]] = load i32, i32* [[ARRAYIDX_2]], align 4
 117 ; CHECK-NEXT:    [[TOBOOL_2:%.*]] = icmp eq i32 [[TMP12]], 0
 118 ; CHECK-NEXT:    br i1 [[TOBOOL_2]], label [[FOR_INC_2:%.*]], label [[IF_THEN_2:%.*]]
 119 ; CHECK:       if.then.2:
 120 ; CHECK-NEXT:    [[ARRAYIDX1_2:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[INC_1]]
 121 ; CHECK-NEXT:    [[TMP13:%.*]] = load i32, i32* [[ARRAYIDX1_2]], align 4
 122 ; CHECK-NEXT:    [[ADD_2:%.*]] = add i32 [[TMP13]], [[TEMP_1_1]]
 123 ; CHECK-NEXT:    br label [[FOR_INC_2]]
 124 ; CHECK:       for.inc.2:
 125 ; CHECK-NEXT:    [[TEMP_1_2:%.*]] = phi i32 [ [[ADD_2]], [[IF_THEN_2]] ], [ [[TEMP_1_1]], [[FOR_INC_1]] ]
 126 ; CHECK-NEXT:    [[INC_2:%.*]] = add nuw nsw i32 [[INC_1]], 1
 127 ; CHECK-NEXT:    [[NITER_NEXT_2:%.*]] = add nuw nsw i32 [[NITER_NEXT_1]], 1
 128 ; CHECK-NEXT:    [[ARRAYIDX_3:%.*]] = getelementptr inbounds i32, i32* [[CONDITION]], i32 [[INC_2]]
 129 ; CHECK-NEXT:    [[TMP14:%.*]] = load i32, i32* [[ARRAYIDX_3]], align 4
 130 ; CHECK-NEXT:    [[TOBOOL_3:%.*]] = icmp eq i32 [[TMP14]], 0
 131 ; CHECK-NEXT:    br i1 [[TOBOOL_3]], label [[FOR_INC_3]], label [[IF_THEN_3:%.*]]
 132 ; CHECK:       if.then.3:
 133 ; CHECK-NEXT:    [[ARRAYIDX1_3:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[INC_2]]
 134 ; CHECK-NEXT:    [[TMP15:%.*]] = load i32, i32* [[ARRAYIDX1_3]], align 4
 135 ; CHECK-NEXT:    [[ADD_3:%.*]] = add i32 [[TMP15]], [[TEMP_1_2]]
 136 ; CHECK-NEXT:    br label [[FOR_INC_3]]
 137 ; CHECK:       for.inc.3:
 138 ; CHECK-NEXT:    [[TEMP_1_3]] = phi i32 [ [[ADD_3]], [[IF_THEN_3]] ], [ [[TEMP_1_2]], [[FOR_INC_2]] ]
 139 ; CHECK-NEXT:    [[INC_3]] = add nuw i32 [[INC_2]], 1
 140 ; CHECK-NEXT:    [[NITER_NEXT_3]] = add i32 [[NITER_NEXT_2]], 1
 141 ; CHECK-NEXT:    [[NITER_NCMP_3:%.*]] = icmp eq i32 [[NITER_NEXT_3]], [[UNROLL_ITER]]
 142 ; CHECK-NEXT:    br i1 [[NITER_NCMP_3]], label [[FOR_COND_CLEANUP_LOOPEXIT_UNR_LCSSA_LOOPEXIT]], label [[FOR_BODY]]
 143 ;
 144   i32* nocapture readonly %Condition,
 145   i32* nocapture readonly %Input,
 146   i32 %MaxJ) {
 147 entry:
 148   %cmp8 = icmp eq i32 %MaxJ, 0
 149   br i1 %cmp8, label %for.cond.cleanup, label %for.body.preheader
 150
 151 for.body.preheader:                               ; preds = %entry
 152   br label %for.body
 153
 154 for.cond.cleanup:                                 ; preds = %for.inc, %entry
 155   %temp.0.lcssa = phi i32 [ 0, %entry ], [ %temp.1, %for.inc ]
 156   store i32 %temp.0.lcssa, i32* %Output, align 4
 157   ret void
 158
 159 for.body:                                         ; preds = %for.body.preheader, %for.inc
 160   %j.010 = phi i32 [ %inc, %for.inc ], [ 0, %for.body.preheader ]
 161   %temp.09 = phi i32 [ %temp.1, %for.inc ], [ 0, %for.body.preheader ]
 162   %arrayidx = getelementptr inbounds i32, i32* %Condition, i32 %j.010
 163   %0 = load i32, i32* %arrayidx, align 4
 164   %tobool = icmp eq i32 %0, 0
 165   br i1 %tobool, label %for.inc, label %if.then
 166
 167 if.then:                                          ; preds = %for.body
 168   %arrayidx1 = getelementptr inbounds i32, i32* %Input, i32 %j.010
 169   %1 = load i32, i32* %arrayidx1, align 4
 170   %add = add i32 %1, %temp.09
 171   br label %for.inc
 172
 173 for.inc:                                          ; preds = %for.body, %if.then
 174   %temp.1 = phi i32 [ %add, %if.then ], [ %temp.09, %for.body ]
 175   %inc = add nuw i32 %j.010, 1
 176   %exitcond = icmp eq i32 %inc, %MaxJ
 177   br i1 %exitcond, label %for.cond.cleanup, label %for.body
 178 }
 179
 180 define void @test_two_exits(i32* nocapture %Output,
 181 ;
 182 ; CHECK-LABEL: @test_two_exits(
 183 ; CHECK-NEXT:  entry:
 184 ; CHECK-NEXT:    [[CMP14:%.*]] = icmp eq i32 [[MAXJ:%.*]], 0
 185 ; CHECK-NEXT:    br i1 [[CMP14]], label [[CLEANUP:%.*]], label [[FOR_BODY_PREHEADER:%.*]]
 186 ; CHECK:       for.body.preheader:
 187 ; CHECK-NEXT:    br label [[FOR_BODY:%.*]]
 188 ; CHECK:       for.body:
 189 ; CHECK-NEXT:    [[J_016:%.*]] = phi i32 [ 0, [[FOR_BODY_PREHEADER]] ], [ [[INC_3:%.*]], [[IF_END_3:%.*]] ]
 190 ; CHECK-NEXT:    [[TEMP_015:%.*]] = phi i32 [ 0, [[FOR_BODY_PREHEADER]] ], [ [[TEMP_0_ADD_3:%.*]], [[IF_END_3]] ]
 191 ; CHECK-NEXT:    [[ARRAYIDX:%.*]] = getelementptr inbounds i32, i32* [[INPUT:%.*]], i32 [[J_016]]
 192 ; CHECK-NEXT:    [[TMP0:%.*]] = load i32, i32* [[ARRAYIDX]], align 4
 193 ; CHECK-NEXT:    [[CMP1:%.*]] = icmp ugt i32 [[TMP0]], 65535
 194 ; CHECK-NEXT:    br i1 [[CMP1]], label [[CLEANUP_LOOPEXIT:%.*]], label [[IF_END:%.*]]
 195 ; CHECK:       if.end:
 196 ; CHECK-NEXT:    [[ARRAYIDX2:%.*]] = getelementptr inbounds i32, i32* [[CONDITION:%.*]], i32 [[J_016]]
 197 ; CHECK-NEXT:    [[TMP1:%.*]] = load i32, i32* [[ARRAYIDX2]], align 4
 198 ; CHECK-NEXT:    [[TOBOOL:%.*]] = icmp eq i32 [[TMP1]], 0
 199 ; CHECK-NEXT:    [[ADD:%.*]] = select i1 [[TOBOOL]], i32 0, i32 [[TMP0]]
 200 ; CHECK-NEXT:    [[TEMP_0_ADD:%.*]] = add i32 [[ADD]], [[TEMP_015]]
 201 ; CHECK-NEXT:    [[INC:%.*]] = add nuw nsw i32 [[J_016]], 1
 202 ; CHECK-NEXT:    [[CMP:%.*]] = icmp ult i32 [[INC]], [[MAXJ]]
 203 ; CHECK-NEXT:    br i1 [[CMP]], label [[FOR_BODY_1:%.*]], label [[CLEANUP_LOOPEXIT]]
 204 ; CHECK:       for.body.1:
 205 ; CHECK-NEXT:    [[ARRAYIDX_1:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[INC]]
 206 ; CHECK-NEXT:    [[TMP2:%.*]] = load i32, i32* [[ARRAYIDX_1]], align 4
 207 ; CHECK-NEXT:    [[CMP1_1:%.*]] = icmp ugt i32 [[TMP2]], 65535
 208 ; CHECK-NEXT:    br i1 [[CMP1_1]], label [[CLEANUP_LOOPEXIT]], label [[IF_END_1:%.*]]
 209 ; CHECK:       if.end.1:
 210 ; CHECK-NEXT:    [[ARRAYIDX2_1:%.*]] = getelementptr inbounds i32, i32* [[CONDITION]], i32 [[INC]]
 211 ; CHECK-NEXT:    [[TMP3:%.*]] = load i32, i32* [[ARRAYIDX2_1]], align 4
 212 ; CHECK-NEXT:    [[TOBOOL_1:%.*]] = icmp eq i32 [[TMP3]], 0
 213 ; CHECK-NEXT:    [[ADD_1:%.*]] = select i1 [[TOBOOL_1]], i32 0, i32 [[TMP2]]
 214 ; CHECK-NEXT:    [[TEMP_0_ADD_1:%.*]] = add i32 [[ADD_1]], [[TEMP_0_ADD]]
 215 ; CHECK-NEXT:    [[INC_1:%.*]] = add nuw nsw i32 [[INC]], 1
 216 ; CHECK-NEXT:    [[CMP_1:%.*]] = icmp ult i32 [[INC_1]], [[MAXJ]]
 217 ; CHECK-NEXT:    br i1 [[CMP_1]], label [[FOR_BODY_2:%.*]], label [[CLEANUP_LOOPEXIT]]
 218 ; CHECK:       for.body.2:
 219 ; CHECK-NEXT:    [[ARRAYIDX_2:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[INC_1]]
 220 ; CHECK-NEXT:    [[TMP4:%.*]] = load i32, i32* [[ARRAYIDX_2]], align 4
 221 ; CHECK-NEXT:    [[CMP1_2:%.*]] = icmp ugt i32 [[TMP4]], 65535
 222 ; CHECK-NEXT:    br i1 [[CMP1_2]], label [[CLEANUP_LOOPEXIT]], label [[IF_END_2:%.*]]
 223 ; CHECK:       if.end.2:
 224 ; CHECK-NEXT:    [[ARRAYIDX2_2:%.*]] = getelementptr inbounds i32, i32* [[CONDITION]], i32 [[INC_1]]
 225 ; CHECK-NEXT:    [[TMP5:%.*]] = load i32, i32* [[ARRAYIDX2_2]], align 4
 226 ; CHECK-NEXT:    [[TOBOOL_2:%.*]] = icmp eq i32 [[TMP5]], 0
 227 ; CHECK-NEXT:    [[ADD_2:%.*]] = select i1 [[TOBOOL_2]], i32 0, i32 [[TMP4]]
 228 ; CHECK-NEXT:    [[TEMP_0_ADD_2:%.*]] = add i32 [[ADD_2]], [[TEMP_0_ADD_1]]
 229 ; CHECK-NEXT:    [[INC_2:%.*]] = add nuw nsw i32 [[INC_1]], 1
 230 ; CHECK-NEXT:    [[CMP_2:%.*]] = icmp ult i32 [[INC_2]], [[MAXJ]]
 231 ; CHECK-NEXT:    br i1 [[CMP_2]], label [[FOR_BODY_3:%.*]], label [[CLEANUP_LOOPEXIT]]
 232 ; CHECK:       for.body.3:
 233 ; CHECK-NEXT:    [[ARRAYIDX_3:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[INC_2]]
 234 ; CHECK-NEXT:    [[TMP6:%.*]] = load i32, i32* [[ARRAYIDX_3]], align 4
 235 ; CHECK-NEXT:    [[CMP1_3:%.*]] = icmp ugt i32 [[TMP6]], 65535
 236 ; CHECK-NEXT:    br i1 [[CMP1_3]], label [[CLEANUP_LOOPEXIT]], label [[IF_END_3]]
 237 ; CHECK:       if.end.3:
 238 ; CHECK-NEXT:    [[ARRAYIDX2_3:%.*]] = getelementptr inbounds i32, i32* [[CONDITION]], i32 [[INC_2]]
 239 ; CHECK-NEXT:    [[TMP7:%.*]] = load i32, i32* [[ARRAYIDX2_3]], align 4
 240 ; CHECK-NEXT:    [[TOBOOL_3:%.*]] = icmp eq i32 [[TMP7]], 0
 241 ; CHECK-NEXT:    [[ADD_3:%.*]] = select i1 [[TOBOOL_3]], i32 0, i32 [[TMP6]]
 242 ; CHECK-NEXT:    [[TEMP_0_ADD_3]] = add i32 [[ADD_3]], [[TEMP_0_ADD_2]]
 243 ; CHECK-NEXT:    [[INC_3]] = add nuw i32 [[INC_2]], 1
 244 ; CHECK-NEXT:    [[CMP_3:%.*]] = icmp ult i32 [[INC_3]], [[MAXJ]]
 245 ; CHECK-NEXT:    br i1 [[CMP_3]], label [[FOR_BODY]], label [[CLEANUP_LOOPEXIT]]
 246 ; CHECK:       cleanup.loopexit:
 247 ; CHECK-NEXT:    [[TEMP_0_LCSSA_PH:%.*]] = phi i32 [ [[TEMP_0_ADD]], [[IF_END]] ], [ [[TEMP_015]], [[FOR_BODY]] ], [ [[TEMP_0_ADD]], [[FOR_BODY_1]] ], [ [[TEMP_0_ADD_1]], [[IF_END_1]] ], [ [[TEMP_0_ADD_1]], [[FOR_BODY_2]] ], [ [[TEMP_0_ADD_2]], [[IF_END_2]] ], [ [[TEMP_0_ADD_2]], [[FOR_BODY_3]] ], [ [[TEMP_0_ADD_3]], [[IF_END_3]] ]
 248 ; CHECK-NEXT:    br label [[CLEANUP]]
 249 ; CHECK:       cleanup:
 250 ; CHECK-NEXT:    [[TEMP_0_LCSSA:%.*]] = phi i32 [ 0, [[ENTRY:%.*]] ], [ [[TEMP_0_LCSSA_PH]], [[CLEANUP_LOOPEXIT]] ]
 251 ; CHECK-NEXT:    store i32 [[TEMP_0_LCSSA]], i32* [[OUTPUT:%.*]], align 4
 252 ; CHECK-NEXT:    ret void
 253 ;
 254   i32* nocapture readonly %Condition,
 255   i32* nocapture readonly %Input,
 256   i32 %MaxJ) {
 257 entry:
 258   %cmp14 = icmp eq i32 %MaxJ, 0
 259   br i1 %cmp14, label %cleanup, label %for.body.preheader
 260
 261 for.body.preheader:                               ; preds = %entry
 262   br label %for.body
 263
 264 for.body:                                         ; preds = %for.body.preheader, %if.end
 265   %j.016 = phi i32 [ %inc, %if.end ], [ 0, %for.body.preheader ]
 266   %temp.015 = phi i32 [ %temp.0.add, %if.end ], [ 0, %for.body.preheader ]
 267   %arrayidx = getelementptr inbounds i32, i32* %Input, i32 %j.016
 268   %0 = load i32, i32* %arrayidx, align 4
 269   %cmp1 = icmp ugt i32 %0, 65535
 270   br i1 %cmp1, label %cleanup, label %if.end
 271
 272 if.end:                                           ; preds = %for.body
 273   %arrayidx2 = getelementptr inbounds i32, i32* %Condition, i32 %j.016
 274   %1 = load i32, i32* %arrayidx2, align 4
 275   %tobool = icmp eq i32 %1, 0
 276   %add = select i1 %tobool, i32 0, i32 %0
 277   %temp.0.add = add i32 %add, %temp.015
 278   %inc = add nuw i32 %j.016, 1
 279   %cmp = icmp ult i32 %inc, %MaxJ
 280   br i1 %cmp, label %for.body, label %cleanup
 281
 282 cleanup:                                          ; preds = %if.end, %for.body, %entry
 283   %temp.0.lcssa = phi i32 [ 0, %entry ], [ %temp.015, %for.body ], [ %temp.0.add, %if.end ]
 284   store i32 %temp.0.lcssa, i32* %Output, align 4
 285   ret void
 286 }
 287
 288 define void @test_three_exits(i32* nocapture %Output,
 289 ;
 290 ; CHECK-LABEL: @test_three_exits(
 291 ; CHECK-NEXT:  entry:
 292 ; CHECK-NEXT:    [[CMP20:%.*]] = icmp eq i32 [[MAXJ:%.*]], 0
 293 ; CHECK-NEXT:    br i1 [[CMP20]], label [[CLEANUP:%.*]], label [[FOR_BODY_PREHEADER:%.*]]
 294 ; CHECK:       for.body.preheader:
 295 ; CHECK-NEXT:    br label [[FOR_BODY:%.*]]
 296 ; CHECK:       for.body:
 297 ; CHECK-NEXT:    [[J_022:%.*]] = phi i32 [ [[INC:%.*]], [[IF_END5:%.*]] ], [ 0, [[FOR_BODY_PREHEADER]] ]
 298 ; CHECK-NEXT:    [[TEMP_021:%.*]] = phi i32 [ [[TEMP_0_ADD:%.*]], [[IF_END5]] ], [ 0, [[FOR_BODY_PREHEADER]] ]
 299 ; CHECK-NEXT:    [[ARRAYIDX:%.*]] = getelementptr inbounds i32, i32* [[CONDITION:%.*]], i32 [[J_022]]
 300 ; CHECK-NEXT:    [[TMP0:%.*]] = load i32, i32* [[ARRAYIDX]], align 4
 301 ; CHECK-NEXT:    [[CMP1:%.*]] = icmp ugt i32 [[TMP0]], 65535
 302 ; CHECK-NEXT:    br i1 [[CMP1]], label [[CLEANUP_LOOPEXIT:%.*]], label [[IF_END:%.*]]
 303 ; CHECK:       if.end:
 304 ; CHECK-NEXT:    [[ARRAYIDX2:%.*]] = getelementptr inbounds i32, i32* [[INPUT:%.*]], i32 [[J_022]]
 305 ; CHECK-NEXT:    [[TMP1:%.*]] = load i32, i32* [[ARRAYIDX2]], align 4
 306 ; CHECK-NEXT:    [[CMP3:%.*]] = icmp ugt i32 [[TMP1]], 65535
 307 ; CHECK-NEXT:    br i1 [[CMP3]], label [[CLEANUP_LOOPEXIT]], label [[IF_END5]]
 308 ; CHECK:       if.end5:
 309 ; CHECK-NEXT:    [[TOBOOL:%.*]] = icmp eq i32 [[TMP0]], 0
 310 ; CHECK-NEXT:    [[ADD:%.*]] = select i1 [[TOBOOL]], i32 0, i32 [[TMP1]]
 311 ; CHECK-NEXT:    [[TEMP_0_ADD]] = add i32 [[ADD]], [[TEMP_021]]
 312 ; CHECK-NEXT:    [[INC]] = add nuw i32 [[J_022]], 1
 313 ; CHECK-NEXT:    [[CMP:%.*]] = icmp ult i32 [[INC]], [[MAXJ]]
 314 ; CHECK-NEXT:    br i1 [[CMP]], label [[FOR_BODY]], label [[CLEANUP_LOOPEXIT]]
 315 ; CHECK:       cleanup.loopexit:
 316 ; CHECK-NEXT:    [[TEMP_0_LCSSA_PH:%.*]] = phi i32 [ [[TEMP_0_ADD]], [[IF_END5]] ], [ [[TEMP_021]], [[FOR_BODY]] ], [ [[TEMP_021]], [[IF_END]] ]
 317 ; CHECK-NEXT:    br label [[CLEANUP]]
 318 ; CHECK:       cleanup:
 319 ; CHECK-NEXT:    [[TEMP_0_LCSSA:%.*]] = phi i32 [ 0, [[ENTRY:%.*]] ], [ [[TEMP_0_LCSSA_PH]], [[CLEANUP_LOOPEXIT]] ]
 320 ; CHECK-NEXT:    store i32 [[TEMP_0_LCSSA]], i32* [[OUTPUT:%.*]], align 4
 321 ; CHECK-NEXT:    ret void
 322 ;
 323   i32* nocapture readonly %Condition,
 324   i32* nocapture readonly %Input,
 325   i32 %MaxJ) {
 326 entry:
 327   %cmp20 = icmp eq i32 %MaxJ, 0
 328   br i1 %cmp20, label %cleanup, label %for.body.preheader
 329
 330 for.body.preheader:                               ; preds = %entry
 331   br label %for.body
 332
 333 for.body:                                         ; preds = %for.body.preheader, %if.end5
 334   %j.022 = phi i32 [ %inc, %if.end5 ], [ 0, %for.body.preheader ]
 335   %temp.021 = phi i32 [ %temp.0.add, %if.end5 ], [ 0, %for.body.preheader ]
 336   %arrayidx = getelementptr inbounds i32, i32* %Condition, i32 %j.022
 337   %0 = load i32, i32* %arrayidx, align 4
 338   %cmp1 = icmp ugt i32 %0, 65535
 339   br i1 %cmp1, label %cleanup, label %if.end
 340
 341 if.end:                                           ; preds = %for.body
 342   %arrayidx2 = getelementptr inbounds i32, i32* %Input, i32 %j.022
 343   %1 = load i32, i32* %arrayidx2, align 4
 344   %cmp3 = icmp ugt i32 %1, 65535
 345   br i1 %cmp3, label %cleanup, label %if.end5
 346
 347 if.end5:                                          ; preds = %if.end
 348   %tobool = icmp eq i32 %0, 0
 349   %add = select i1 %tobool, i32 0, i32 %1
 350   %temp.0.add = add i32 %add, %temp.021
 351   %inc = add nuw i32 %j.022, 1
 352   %cmp = icmp ult i32 %inc, %MaxJ
 353   br i1 %cmp, label %for.body, label %cleanup
 354
 355 cleanup:                                          ; preds = %if.end5, %for.body, %if.end, %entry
 356   %temp.0.lcssa = phi i32 [ 0, %entry ], [ %temp.021, %if.end ], [ %temp.021, %for.body ], [ %temp.0.add, %if.end5 ]
 357   store i32 %temp.0.lcssa, i32* %Output, align 4
 358   ret void
 359 }
 360
 361 define void @test_four_blocks(i32* nocapture %Output,
 362 ;
 363 ; CHECK-LABEL: @test_four_blocks(
 364 ; CHECK-NEXT:  entry:
 365 ; CHECK-NEXT:    [[CMP25:%.*]] = icmp ugt i32 [[MAXJ:%.*]], 1
 366 ; CHECK-NEXT:    br i1 [[CMP25]], label [[FOR_BODY_LR_PH:%.*]], label [[FOR_COND_CLEANUP:%.*]]
 367 ; CHECK:       for.body.lr.ph:
 368 ; CHECK-NEXT:    [[DOTPRE:%.*]] = load i32, i32* [[INPUT:%.*]], align 4
 369 ; CHECK-NEXT:    [[TMP0:%.*]] = add i32 [[MAXJ]], -1
 370 ; CHECK-NEXT:    [[TMP1:%.*]] = add i32 [[MAXJ]], -2
 371 ; CHECK-NEXT:    [[XTRAITER:%.*]] = and i32 [[TMP0]], 3
 372 ; CHECK-NEXT:    [[TMP2:%.*]] = icmp ult i32 [[TMP1]], 3
 373 ; CHECK-NEXT:    br i1 [[TMP2]], label [[FOR_COND_CLEANUP_LOOPEXIT_UNR_LCSSA:%.*]], label [[FOR_BODY_LR_PH_NEW:%.*]]
 374 ; CHECK:       for.body.lr.ph.new:
 375 ; CHECK-NEXT:    [[UNROLL_ITER:%.*]] = sub i32 [[TMP0]], [[XTRAITER]]
 376 ; CHECK-NEXT:    br label [[FOR_BODY:%.*]]
 377 ; CHECK:       for.cond.cleanup.loopexit.unr-lcssa.loopexit:
 378 ; CHECK-NEXT:    [[TEMP_1_LCSSA_PH_PH:%.*]] = phi i32 [ [[TEMP_1_3:%.*]], [[FOR_INC_3:%.*]] ]
 379 ; CHECK-NEXT:    [[DOTUNR_PH:%.*]] = phi i32 [ [[TMP23:%.*]], [[FOR_INC_3]] ]
 380 ; CHECK-NEXT:    [[J_027_UNR_PH:%.*]] = phi i32 [ [[INC_3:%.*]], [[FOR_INC_3]] ]
 381 ; CHECK-NEXT:    [[TEMP_026_UNR_PH:%.*]] = phi i32 [ [[TEMP_1_3]], [[FOR_INC_3]] ]
 382 ; CHECK-NEXT:    br label [[FOR_COND_CLEANUP_LOOPEXIT_UNR_LCSSA]]
 383 ; CHECK:       for.cond.cleanup.loopexit.unr-lcssa:
 384 ; CHECK-NEXT:    [[TEMP_1_LCSSA_PH:%.*]] = phi i32 [ undef, [[FOR_BODY_LR_PH]] ], [ [[TEMP_1_LCSSA_PH_PH]], [[FOR_COND_CLEANUP_LOOPEXIT_UNR_LCSSA_LOOPEXIT:%.*]] ]
 385 ; CHECK-NEXT:    [[DOTUNR:%.*]] = phi i32 [ [[DOTPRE]], [[FOR_BODY_LR_PH]] ], [ [[DOTUNR_PH]], [[FOR_COND_CLEANUP_LOOPEXIT_UNR_LCSSA_LOOPEXIT]] ]
 386 ; CHECK-NEXT:    [[J_027_UNR:%.*]] = phi i32 [ 1, [[FOR_BODY_LR_PH]] ], [ [[J_027_UNR_PH]], [[FOR_COND_CLEANUP_LOOPEXIT_UNR_LCSSA_LOOPEXIT]] ]
 387 ; CHECK-NEXT:    [[TEMP_026_UNR:%.*]] = phi i32 [ 0, [[FOR_BODY_LR_PH]] ], [ [[TEMP_026_UNR_PH]], [[FOR_COND_CLEANUP_LOOPEXIT_UNR_LCSSA_LOOPEXIT]] ]
 388 ; CHECK-NEXT:    [[LCMP_MOD:%.*]] = icmp ne i32 [[XTRAITER]], 0
 389 ; CHECK-NEXT:    br i1 [[LCMP_MOD]], label [[FOR_BODY_EPIL_PREHEADER:%.*]], label [[FOR_COND_CLEANUP_LOOPEXIT:%.*]]
 390 ; CHECK:       for.body.epil.preheader:
 391 ; CHECK-NEXT:    br label [[FOR_BODY_EPIL:%.*]]
 392 ; CHECK:       for.body.epil:
 393 ; CHECK-NEXT:    [[ARRAYIDX_EPIL:%.*]] = getelementptr inbounds i32, i32* [[CONDITION:%.*]], i32 [[J_027_UNR]]
 394 ; CHECK-NEXT:    [[TMP3:%.*]] = load i32, i32* [[ARRAYIDX_EPIL]], align 4
 395 ; CHECK-NEXT:    [[CMP1_EPIL:%.*]] = icmp ugt i32 [[TMP3]], 65535
 396 ; CHECK-NEXT:    [[ARRAYIDX2_EPIL:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[J_027_UNR]]
 397 ; CHECK-NEXT:    [[TMP4:%.*]] = load i32, i32* [[ARRAYIDX2_EPIL]], align 4
 398 ; CHECK-NEXT:    [[CMP4_EPIL:%.*]] = icmp ugt i32 [[TMP4]], [[DOTUNR]]
 399 ; CHECK-NEXT:    br i1 [[CMP1_EPIL]], label [[IF_THEN_EPIL:%.*]], label [[IF_ELSE_EPIL:%.*]]
 400 ; CHECK:       if.else.epil:
 401 ; CHECK-NEXT:    [[NOT_CMP4_EPIL:%.*]] = xor i1 [[CMP4_EPIL]], true
 402 ; CHECK-NEXT:    [[SUB_EPIL:%.*]] = sext i1 [[NOT_CMP4_EPIL]] to i32
 403 ; CHECK-NEXT:    [[SUB10_SINK_EPIL:%.*]] = add i32 [[J_027_UNR]], [[SUB_EPIL]]
 404 ; CHECK-NEXT:    [[ARRAYIDX11_EPIL:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[SUB10_SINK_EPIL]]
 405 ; CHECK-NEXT:    [[TMP5:%.*]] = load i32, i32* [[ARRAYIDX11_EPIL]], align 4
 406 ; CHECK-NEXT:    [[SUB13_EPIL:%.*]] = sub i32 [[TEMP_026_UNR]], [[TMP5]]
 407 ; CHECK-NEXT:    br label [[FOR_INC_EPIL:%.*]]
 408 ; CHECK:       if.then.epil:
 409 ; CHECK-NEXT:    [[COND_EPIL:%.*]] = zext i1 [[CMP4_EPIL]] to i32
 410 ; CHECK-NEXT:    [[ADD_EPIL:%.*]] = add i32 [[TEMP_026_UNR]], [[COND_EPIL]]
 411 ; CHECK-NEXT:    br label [[FOR_INC_EPIL]]
 412 ; CHECK:       for.inc.epil:
 413 ; CHECK-NEXT:    [[TEMP_1_EPIL:%.*]] = phi i32 [ [[ADD_EPIL]], [[IF_THEN_EPIL]] ], [ [[SUB13_EPIL]], [[IF_ELSE_EPIL]] ]
 414 ; CHECK-NEXT:    [[INC_EPIL:%.*]] = add nuw i32 [[J_027_UNR]], 1
 415 ; CHECK-NEXT:    [[EPIL_ITER_CMP:%.*]] = icmp ne i32 1, [[XTRAITER]]
 416 ; CHECK-NEXT:    br i1 [[EPIL_ITER_CMP]], label [[FOR_BODY_EPIL_1:%.*]], label [[FOR_COND_CLEANUP_LOOPEXIT_EPILOG_LCSSA:%.*]]
 417 ; CHECK:       for.body.epil.1:
 418 ; CHECK-NEXT:    [[ARRAYIDX_EPIL_1:%.*]] = getelementptr inbounds i32, i32* [[CONDITION]], i32 [[INC_EPIL]]
 419 ; CHECK-NEXT:    [[TMP6:%.*]] = load i32, i32* [[ARRAYIDX_EPIL_1]], align 4
 420 ; CHECK-NEXT:    [[CMP1_EPIL_1:%.*]] = icmp ugt i32 [[TMP6]], 65535
 421 ; CHECK-NEXT:    [[ARRAYIDX2_EPIL_1:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[INC_EPIL]]
 422 ; CHECK-NEXT:    [[TMP7:%.*]] = load i32, i32* [[ARRAYIDX2_EPIL_1]], align 4
 423 ; CHECK-NEXT:    [[CMP4_EPIL_1:%.*]] = icmp ugt i32 [[TMP7]], [[TMP4]]
 424 ; CHECK-NEXT:    br i1 [[CMP1_EPIL_1]], label [[IF_THEN_EPIL_1:%.*]], label [[IF_ELSE_EPIL_1:%.*]]
 425 ; CHECK:       if.else.epil.1:
 426 ; CHECK-NEXT:    [[NOT_CMP4_EPIL_1:%.*]] = xor i1 [[CMP4_EPIL_1]], true
 427 ; CHECK-NEXT:    [[SUB_EPIL_1:%.*]] = sext i1 [[NOT_CMP4_EPIL_1]] to i32
 428 ; CHECK-NEXT:    [[SUB10_SINK_EPIL_1:%.*]] = add i32 [[INC_EPIL]], [[SUB_EPIL_1]]
 429 ; CHECK-NEXT:    [[ARRAYIDX11_EPIL_1:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[SUB10_SINK_EPIL_1]]
 430 ; CHECK-NEXT:    [[TMP8:%.*]] = load i32, i32* [[ARRAYIDX11_EPIL_1]], align 4
 431 ; CHECK-NEXT:    [[SUB13_EPIL_1:%.*]] = sub i32 [[TEMP_1_EPIL]], [[TMP8]]
 432 ; CHECK-NEXT:    br label [[FOR_INC_EPIL_1:%.*]]
 433 ; CHECK:       if.then.epil.1:
 434 ; CHECK-NEXT:    [[COND_EPIL_1:%.*]] = zext i1 [[CMP4_EPIL_1]] to i32
 435 ; CHECK-NEXT:    [[ADD_EPIL_1:%.*]] = add i32 [[TEMP_1_EPIL]], [[COND_EPIL_1]]
 436 ; CHECK-NEXT:    br label [[FOR_INC_EPIL_1]]
 437 ; CHECK:       for.inc.epil.1:
 438 ; CHECK-NEXT:    [[TEMP_1_EPIL_1:%.*]] = phi i32 [ [[ADD_EPIL_1]], [[IF_THEN_EPIL_1]] ], [ [[SUB13_EPIL_1]], [[IF_ELSE_EPIL_1]] ]
 439 ; CHECK-NEXT:    [[INC_EPIL_1:%.*]] = add nuw i32 [[INC_EPIL]], 1
 440 ; CHECK-NEXT:    [[EPIL_ITER_CMP_1:%.*]] = icmp ne i32 2, [[XTRAITER]]
 441 ; CHECK-NEXT:    br i1 [[EPIL_ITER_CMP_1]], label [[FOR_BODY_EPIL_2:%.*]], label [[FOR_COND_CLEANUP_LOOPEXIT_EPILOG_LCSSA]]
 442 ; CHECK:       for.body.epil.2:
 443 ; CHECK-NEXT:    [[ARRAYIDX_EPIL_2:%.*]] = getelementptr inbounds i32, i32* [[CONDITION]], i32 [[INC_EPIL_1]]
 444 ; CHECK-NEXT:    [[TMP9:%.*]] = load i32, i32* [[ARRAYIDX_EPIL_2]], align 4
 445 ; CHECK-NEXT:    [[CMP1_EPIL_2:%.*]] = icmp ugt i32 [[TMP9]], 65535
 446 ; CHECK-NEXT:    [[ARRAYIDX2_EPIL_2:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[INC_EPIL_1]]
 447 ; CHECK-NEXT:    [[TMP10:%.*]] = load i32, i32* [[ARRAYIDX2_EPIL_2]], align 4
 448 ; CHECK-NEXT:    [[CMP4_EPIL_2:%.*]] = icmp ugt i32 [[TMP10]], [[TMP7]]
 449 ; CHECK-NEXT:    br i1 [[CMP1_EPIL_2]], label [[IF_THEN_EPIL_2:%.*]], label [[IF_ELSE_EPIL_2:%.*]]
 450 ; CHECK:       if.else.epil.2:
 451 ; CHECK-NEXT:    [[NOT_CMP4_EPIL_2:%.*]] = xor i1 [[CMP4_EPIL_2]], true
 452 ; CHECK-NEXT:    [[SUB_EPIL_2:%.*]] = sext i1 [[NOT_CMP4_EPIL_2]] to i32
 453 ; CHECK-NEXT:    [[SUB10_SINK_EPIL_2:%.*]] = add i32 [[INC_EPIL_1]], [[SUB_EPIL_2]]
 454 ; CHECK-NEXT:    [[ARRAYIDX11_EPIL_2:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[SUB10_SINK_EPIL_2]]
 455 ; CHECK-NEXT:    [[TMP11:%.*]] = load i32, i32* [[ARRAYIDX11_EPIL_2]], align 4
 456 ; CHECK-NEXT:    [[SUB13_EPIL_2:%.*]] = sub i32 [[TEMP_1_EPIL_1]], [[TMP11]]
 457 ; CHECK-NEXT:    br label [[FOR_INC_EPIL_2:%.*]]
 458 ; CHECK:       if.then.epil.2:
 459 ; CHECK-NEXT:    [[COND_EPIL_2:%.*]] = zext i1 [[CMP4_EPIL_2]] to i32
 460 ; CHECK-NEXT:    [[ADD_EPIL_2:%.*]] = add i32 [[TEMP_1_EPIL_1]], [[COND_EPIL_2]]
 461 ; CHECK-NEXT:    br label [[FOR_INC_EPIL_2]]
 462 ; CHECK:       for.inc.epil.2:
 463 ; CHECK-NEXT:    [[TEMP_1_EPIL_2:%.*]] = phi i32 [ [[ADD_EPIL_2]], [[IF_THEN_EPIL_2]] ], [ [[SUB13_EPIL_2]], [[IF_ELSE_EPIL_2]] ]
 464 ; CHECK-NEXT:    br label [[FOR_COND_CLEANUP_LOOPEXIT_EPILOG_LCSSA]]
 465 ; CHECK:       for.cond.cleanup.loopexit.epilog-lcssa:
 466 ; CHECK-NEXT:    [[TEMP_1_LCSSA_PH1:%.*]] = phi i32 [ [[TEMP_1_EPIL]], [[FOR_INC_EPIL]] ], [ [[TEMP_1_EPIL_1]], [[FOR_INC_EPIL_1]] ], [ [[TEMP_1_EPIL_2]], [[FOR_INC_EPIL_2]] ]
 467 ; CHECK-NEXT:    br label [[FOR_COND_CLEANUP_LOOPEXIT]]
 468 ; CHECK:       for.cond.cleanup.loopexit:
 469 ; CHECK-NEXT:    [[TEMP_1_LCSSA:%.*]] = phi i32 [ [[TEMP_1_LCSSA_PH]], [[FOR_COND_CLEANUP_LOOPEXIT_UNR_LCSSA]] ], [ [[TEMP_1_LCSSA_PH1]], [[FOR_COND_CLEANUP_LOOPEXIT_EPILOG_LCSSA]] ]
 470 ; CHECK-NEXT:    br label [[FOR_COND_CLEANUP]]
 471 ; CHECK:       for.cond.cleanup:
 472 ; CHECK-NEXT:    [[TEMP_0_LCSSA:%.*]] = phi i32 [ 0, [[ENTRY:%.*]] ], [ [[TEMP_1_LCSSA]], [[FOR_COND_CLEANUP_LOOPEXIT]] ]
 473 ; CHECK-NEXT:    store i32 [[TEMP_0_LCSSA]], i32* [[OUTPUT:%.*]], align 4
 474 ; CHECK-NEXT:    ret void
 475 ; CHECK:       for.body:
 476 ; CHECK-NEXT:    [[TMP12:%.*]] = phi i32 [ [[DOTPRE]], [[FOR_BODY_LR_PH_NEW]] ], [ [[TMP23]], [[FOR_INC_3]] ]
 477 ; CHECK-NEXT:    [[J_027:%.*]] = phi i32 [ 1, [[FOR_BODY_LR_PH_NEW]] ], [ [[INC_3]], [[FOR_INC_3]] ]
 478 ; CHECK-NEXT:    [[TEMP_026:%.*]] = phi i32 [ 0, [[FOR_BODY_LR_PH_NEW]] ], [ [[TEMP_1_3]], [[FOR_INC_3]] ]
 479 ; CHECK-NEXT:    [[NITER:%.*]] = phi i32 [ 0, [[FOR_BODY_LR_PH_NEW]] ], [ [[NITER_NEXT_3:%.*]], [[FOR_INC_3]] ]
 480 ; CHECK-NEXT:    [[ARRAYIDX:%.*]] = getelementptr inbounds i32, i32* [[CONDITION]], i32 [[J_027]]
 481 ; CHECK-NEXT:    [[TMP13:%.*]] = load i32, i32* [[ARRAYIDX]], align 4
 482 ; CHECK-NEXT:    [[CMP1:%.*]] = icmp ugt i32 [[TMP13]], 65535
 483 ; CHECK-NEXT:    [[ARRAYIDX2:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[J_027]]
 484 ; CHECK-NEXT:    [[TMP14:%.*]] = load i32, i32* [[ARRAYIDX2]], align 4
 485 ; CHECK-NEXT:    [[CMP4:%.*]] = icmp ugt i32 [[TMP14]], [[TMP12]]
 486 ; CHECK-NEXT:    br i1 [[CMP1]], label [[IF_THEN:%.*]], label [[IF_ELSE:%.*]]
 487 ; CHECK:       if.then:
 488 ; CHECK-NEXT:    [[COND:%.*]] = zext i1 [[CMP4]] to i32
 489 ; CHECK-NEXT:    [[ADD:%.*]] = add i32 [[TEMP_026]], [[COND]]
 490 ; CHECK-NEXT:    br label [[FOR_INC:%.*]]
 491 ; CHECK:       if.else:
 492 ; CHECK-NEXT:    [[NOT_CMP4:%.*]] = xor i1 [[CMP4]], true
 493 ; CHECK-NEXT:    [[SUB:%.*]] = sext i1 [[NOT_CMP4]] to i32
 494 ; CHECK-NEXT:    [[SUB10_SINK:%.*]] = add i32 [[J_027]], [[SUB]]
 495 ; CHECK-NEXT:    [[ARRAYIDX11:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[SUB10_SINK]]
 496 ; CHECK-NEXT:    [[TMP15:%.*]] = load i32, i32* [[ARRAYIDX11]], align 4
 497 ; CHECK-NEXT:    [[SUB13:%.*]] = sub i32 [[TEMP_026]], [[TMP15]]
 498 ; CHECK-NEXT:    br label [[FOR_INC]]
 499 ; CHECK:       for.inc:
 500 ; CHECK-NEXT:    [[TEMP_1:%.*]] = phi i32 [ [[ADD]], [[IF_THEN]] ], [ [[SUB13]], [[IF_ELSE]] ]
 501 ; CHECK-NEXT:    [[INC:%.*]] = add nuw nsw i32 [[J_027]], 1
 502 ; CHECK-NEXT:    [[NITER_NEXT:%.*]] = add nuw nsw i32 [[NITER]], 1
 503 ; CHECK-NEXT:    [[ARRAYIDX_1:%.*]] = getelementptr inbounds i32, i32* [[CONDITION]], i32 [[INC]]
 504 ; CHECK-NEXT:    [[TMP16:%.*]] = load i32, i32* [[ARRAYIDX_1]], align 4
 505 ; CHECK-NEXT:    [[CMP1_1:%.*]] = icmp ugt i32 [[TMP16]], 65535
 506 ; CHECK-NEXT:    [[ARRAYIDX2_1:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[INC]]
 507 ; CHECK-NEXT:    [[TMP17:%.*]] = load i32, i32* [[ARRAYIDX2_1]], align 4
 508 ; CHECK-NEXT:    [[CMP4_1:%.*]] = icmp ugt i32 [[TMP17]], [[TMP14]]
 509 ; CHECK-NEXT:    br i1 [[CMP1_1]], label [[IF_THEN_1:%.*]], label [[IF_ELSE_1:%.*]]
 510 ; CHECK:       if.else.1:
 511 ; CHECK-NEXT:    [[NOT_CMP4_1:%.*]] = xor i1 [[CMP4_1]], true
 512 ; CHECK-NEXT:    [[SUB_1:%.*]] = sext i1 [[NOT_CMP4_1]] to i32
 513 ; CHECK-NEXT:    [[SUB10_SINK_1:%.*]] = add i32 [[INC]], [[SUB_1]]
 514 ; CHECK-NEXT:    [[ARRAYIDX11_1:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[SUB10_SINK_1]]
 515 ; CHECK-NEXT:    [[TMP18:%.*]] = load i32, i32* [[ARRAYIDX11_1]], align 4
 516 ; CHECK-NEXT:    [[SUB13_1:%.*]] = sub i32 [[TEMP_1]], [[TMP18]]
 517 ; CHECK-NEXT:    br label [[FOR_INC_1:%.*]]
 518 ; CHECK:       if.then.1:
 519 ; CHECK-NEXT:    [[COND_1:%.*]] = zext i1 [[CMP4_1]] to i32
 520 ; CHECK-NEXT:    [[ADD_1:%.*]] = add i32 [[TEMP_1]], [[COND_1]]
 521 ; CHECK-NEXT:    br label [[FOR_INC_1]]
 522 ; CHECK:       for.inc.1:
 523 ; CHECK-NEXT:    [[TEMP_1_1:%.*]] = phi i32 [ [[ADD_1]], [[IF_THEN_1]] ], [ [[SUB13_1]], [[IF_ELSE_1]] ]
 524 ; CHECK-NEXT:    [[INC_1:%.*]] = add nuw nsw i32 [[INC]], 1
 525 ; CHECK-NEXT:    [[NITER_NEXT_1:%.*]] = add nuw nsw i32 [[NITER_NEXT]], 1
 526 ; CHECK-NEXT:    [[ARRAYIDX_2:%.*]] = getelementptr inbounds i32, i32* [[CONDITION]], i32 [[INC_1]]
 527 ; CHECK-NEXT:    [[TMP19:%.*]] = load i32, i32* [[ARRAYIDX_2]], align 4
 528 ; CHECK-NEXT:    [[CMP1_2:%.*]] = icmp ugt i32 [[TMP19]], 65535
 529 ; CHECK-NEXT:    [[ARRAYIDX2_2:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[INC_1]]
 530 ; CHECK-NEXT:    [[TMP20:%.*]] = load i32, i32* [[ARRAYIDX2_2]], align 4
 531 ; CHECK-NEXT:    [[CMP4_2:%.*]] = icmp ugt i32 [[TMP20]], [[TMP17]]
 532 ; CHECK-NEXT:    br i1 [[CMP1_2]], label [[IF_THEN_2:%.*]], label [[IF_ELSE_2:%.*]]
 533 ; CHECK:       if.else.2:
 534 ; CHECK-NEXT:    [[NOT_CMP4_2:%.*]] = xor i1 [[CMP4_2]], true
 535 ; CHECK-NEXT:    [[SUB_2:%.*]] = sext i1 [[NOT_CMP4_2]] to i32
 536 ; CHECK-NEXT:    [[SUB10_SINK_2:%.*]] = add i32 [[INC_1]], [[SUB_2]]
 537 ; CHECK-NEXT:    [[ARRAYIDX11_2:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[SUB10_SINK_2]]
 538 ; CHECK-NEXT:    [[TMP21:%.*]] = load i32, i32* [[ARRAYIDX11_2]], align 4
 539 ; CHECK-NEXT:    [[SUB13_2:%.*]] = sub i32 [[TEMP_1_1]], [[TMP21]]
 540 ; CHECK-NEXT:    br label [[FOR_INC_2:%.*]]
 541 ; CHECK:       if.then.2:
 542 ; CHECK-NEXT:    [[COND_2:%.*]] = zext i1 [[CMP4_2]] to i32
 543 ; CHECK-NEXT:    [[ADD_2:%.*]] = add i32 [[TEMP_1_1]], [[COND_2]]
 544 ; CHECK-NEXT:    br label [[FOR_INC_2]]
 545 ; CHECK:       for.inc.2:
 546 ; CHECK-NEXT:    [[TEMP_1_2:%.*]] = phi i32 [ [[ADD_2]], [[IF_THEN_2]] ], [ [[SUB13_2]], [[IF_ELSE_2]] ]
 547 ; CHECK-NEXT:    [[INC_2:%.*]] = add nuw i32 [[INC_1]], 1
 548 ; CHECK-NEXT:    [[NITER_NEXT_2:%.*]] = add nuw nsw i32 [[NITER_NEXT_1]], 1
 549 ; CHECK-NEXT:    [[ARRAYIDX_3:%.*]] = getelementptr inbounds i32, i32* [[CONDITION]], i32 [[INC_2]]
 550 ; CHECK-NEXT:    [[TMP22:%.*]] = load i32, i32* [[ARRAYIDX_3]], align 4
 551 ; CHECK-NEXT:    [[CMP1_3:%.*]] = icmp ugt i32 [[TMP22]], 65535
 552 ; CHECK-NEXT:    [[ARRAYIDX2_3:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[INC_2]]
 553 ; CHECK-NEXT:    [[TMP23]] = load i32, i32* [[ARRAYIDX2_3]], align 4
 554 ; CHECK-NEXT:    [[CMP4_3:%.*]] = icmp ugt i32 [[TMP23]], [[TMP20]]
 555 ; CHECK-NEXT:    br i1 [[CMP1_3]], label [[IF_THEN_3:%.*]], label [[IF_ELSE_3:%.*]]
 556 ; CHECK:       if.else.3:
 557 ; CHECK-NEXT:    [[NOT_CMP4_3:%.*]] = xor i1 [[CMP4_3]], true
 558 ; CHECK-NEXT:    [[SUB_3:%.*]] = sext i1 [[NOT_CMP4_3]] to i32
 559 ; CHECK-NEXT:    [[SUB10_SINK_3:%.*]] = add i32 [[INC_2]], [[SUB_3]]
 560 ; CHECK-NEXT:    [[ARRAYIDX11_3:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[SUB10_SINK_3]]
 561 ; CHECK-NEXT:    [[TMP24:%.*]] = load i32, i32* [[ARRAYIDX11_3]], align 4
 562 ; CHECK-NEXT:    [[SUB13_3:%.*]] = sub i32 [[TEMP_1_2]], [[TMP24]]
 563 ; CHECK-NEXT:    br label [[FOR_INC_3]]
 564 ; CHECK:       if.then.3:
 565 ; CHECK-NEXT:    [[COND_3:%.*]] = zext i1 [[CMP4_3]] to i32
 566 ; CHECK-NEXT:    [[ADD_3:%.*]] = add i32 [[TEMP_1_2]], [[COND_3]]
 567 ; CHECK-NEXT:    br label [[FOR_INC_3]]
 568 ; CHECK:       for.inc.3:
 569 ; CHECK-NEXT:    [[TEMP_1_3]] = phi i32 [ [[ADD_3]], [[IF_THEN_3]] ], [ [[SUB13_3]], [[IF_ELSE_3]] ]
 570 ; CHECK-NEXT:    [[INC_3]] = add nuw nsw i32 [[INC_2]], 1
 571 ; CHECK-NEXT:    [[NITER_NEXT_3]] = add i32 [[NITER_NEXT_2]], 1
 572 ; CHECK-NEXT:    [[NITER_NCMP_3:%.*]] = icmp eq i32 [[NITER_NEXT_3]], [[UNROLL_ITER]]
 573 ; CHECK-NEXT:    br i1 [[NITER_NCMP_3]], label [[FOR_COND_CLEANUP_LOOPEXIT_UNR_LCSSA_LOOPEXIT]], label [[FOR_BODY]]
 574 ;
 575   i32* nocapture readonly %Condition,
 576   i32* nocapture readonly %Input,
 577   i32 %MaxJ) {
 578 entry:
 579   %cmp25 = icmp ugt i32 %MaxJ, 1
 580   br i1 %cmp25, label %for.body.lr.ph, label %for.cond.cleanup
 581
 582 for.body.lr.ph:                                   ; preds = %entry
 583   %.pre = load i32, i32* %Input, align 4
 584   br label %for.body
 585
 586 for.cond.cleanup:                                 ; preds = %for.inc, %entry
 587   %temp.0.lcssa = phi i32 [ 0, %entry ], [ %temp.1, %for.inc ]
 588   store i32 %temp.0.lcssa, i32* %Output, align 4
 589   ret void
 590
 591 for.body:                                         ; preds = %for.inc, %for.body.lr.ph
 592   %0 = phi i32 [ %.pre, %for.body.lr.ph ], [ %2, %for.inc ]
 593   %j.027 = phi i32 [ 1, %for.body.lr.ph ], [ %inc, %for.inc ]
 594   %temp.026 = phi i32 [ 0, %for.body.lr.ph ], [ %temp.1, %for.inc ]
 595   %arrayidx = getelementptr inbounds i32, i32* %Condition, i32 %j.027
 596   %1 = load i32, i32* %arrayidx, align 4
 597   %cmp1 = icmp ugt i32 %1, 65535
 598   %arrayidx2 = getelementptr inbounds i32, i32* %Input, i32 %j.027
 599   %2 = load i32, i32* %arrayidx2, align 4
 600   %cmp4 = icmp ugt i32 %2, %0
 601   br i1 %cmp1, label %if.then, label %if.else
 602
 603 if.then:                                          ; preds = %for.body
 604   %cond = zext i1 %cmp4 to i32
 605   %add = add i32 %temp.026, %cond
 606   br label %for.inc
 607
 608 if.else:                                          ; preds = %for.body
 609   %not.cmp4 = xor i1 %cmp4, true
 610   %sub = sext i1 %not.cmp4 to i32
 611   %sub10.sink = add i32 %j.027, %sub
 612   %arrayidx11 = getelementptr inbounds i32, i32* %Input, i32 %sub10.sink
 613   %3 = load i32, i32* %arrayidx11, align 4
 614   %sub13 = sub i32 %temp.026, %3
 615   br label %for.inc
 616
 617 for.inc:                                          ; preds = %if.then, %if.else
 618   %temp.1 = phi i32 [ %add, %if.then ], [ %sub13, %if.else ]
 619   %inc = add nuw i32 %j.027, 1
 620   %exitcond = icmp eq i32 %inc, %MaxJ
 621   br i1 %exitcond, label %for.cond.cleanup, label %for.body
 622 }
 623
 624 define void @test_five_blocks(i32* nocapture %Output,
 625 ;
 626 ; CHECK-LABEL: @test_five_blocks(
 627 ; CHECK-NEXT:  entry:
 628 ; CHECK-NEXT:    [[CMP24:%.*]] = icmp ugt i32 [[MAXJ:%.*]], 1
 629 ; CHECK-NEXT:    br i1 [[CMP24]], label [[FOR_BODY_PREHEADER:%.*]], label [[CLEANUP:%.*]]
 630 ; CHECK:       for.body.preheader:
 631 ; CHECK-NEXT:    br label [[FOR_BODY:%.*]]
 632 ; CHECK:       for.body:
 633 ; CHECK-NEXT:    [[J_026:%.*]] = phi i32 [ [[INC:%.*]], [[FOR_INC:%.*]] ], [ 1, [[FOR_BODY_PREHEADER]] ]
 634 ; CHECK-NEXT:    [[TEMP_025:%.*]] = phi i32 [ [[TEMP_1:%.*]], [[FOR_INC]] ], [ 0, [[FOR_BODY_PREHEADER]] ]
 635 ; CHECK-NEXT:    [[ARRAYIDX:%.*]] = getelementptr inbounds i32, i32* [[INPUT:%.*]], i32 [[J_026]]
 636 ; CHECK-NEXT:    [[TMP0:%.*]] = load i32, i32* [[ARRAYIDX]], align 4
 637 ; CHECK-NEXT:    [[ADD:%.*]] = add i32 [[TMP0]], [[TEMP_025]]
 638 ; CHECK-NEXT:    [[CMP1:%.*]] = icmp ugt i32 [[ADD]], 16777215
 639 ; CHECK-NEXT:    br i1 [[CMP1]], label [[CLEANUP_LOOPEXIT:%.*]], label [[IF_END:%.*]]
 640 ; CHECK:       if.end:
 641 ; CHECK-NEXT:    [[ARRAYIDX2:%.*]] = getelementptr inbounds i32, i32* [[CONDITION:%.*]], i32 [[J_026]]
 642 ; CHECK-NEXT:    [[TMP1:%.*]] = load i32, i32* [[ARRAYIDX2]], align 4
 643 ; CHECK-NEXT:    [[CMP3:%.*]] = icmp ugt i32 [[TMP1]], 65535
 644 ; CHECK-NEXT:    br i1 [[CMP3]], label [[IF_THEN4:%.*]], label [[IF_ELSE:%.*]]
 645 ; CHECK:       if.then4:
 646 ; CHECK-NEXT:    [[SUB:%.*]] = add i32 [[J_026]], -1
 647 ; CHECK-NEXT:    [[ARRAYIDX6:%.*]] = getelementptr inbounds i32, i32* [[INPUT]], i32 [[SUB]]
 648 ; CHECK-NEXT:    [[TMP2:%.*]] = load i32, i32* [[ARRAYIDX6]], align 4
 649 ; CHECK-NEXT:    [[CMP7:%.*]] = icmp ugt i32 [[TMP0]], [[TMP2]]
 650 ; CHECK-NEXT:    [[COND:%.*]] = zext i1 [[CMP7]] to i32
 651 ; CHECK-NEXT:    [[ADD8:%.*]] = add i32 [[ADD]], [[COND]]
 652 ; CHECK-NEXT:    br label [[FOR_INC]]
 653 ; CHECK:       if.else:
 654 ; CHECK-NEXT:    [[AND:%.*]] = and i32 [[ADD]], [[TMP0]]
 655 ; CHECK-NEXT:    br label [[FOR_INC]]
 656 ; CHECK:       for.inc:
 657 ; CHECK-NEXT:    [[TEMP_1]] = phi i32 [ [[ADD8]], [[IF_THEN4]] ], [ [[AND]], [[IF_ELSE]] ]
 658 ; CHECK-NEXT:    [[INC]] = add nuw i32 [[J_026]], 1
 659 ; CHECK-NEXT:    [[CMP:%.*]] = icmp ult i32 [[INC]], [[MAXJ]]
 660 ; CHECK-NEXT:    br i1 [[CMP]], label [[FOR_BODY]], label [[CLEANUP_LOOPEXIT]]
 661 ; CHECK:       cleanup.loopexit:
 662 ; CHECK-NEXT:    [[TEMP_2_PH:%.*]] = phi i32 [ [[TEMP_1]], [[FOR_INC]] ], [ [[ADD]], [[FOR_BODY]] ]
 663 ; CHECK-NEXT:    br label [[CLEANUP]]
 664 ; CHECK:       cleanup:
 665 ; CHECK-NEXT:    [[TEMP_2:%.*]] = phi i32 [ 0, [[ENTRY:%.*]] ], [ [[TEMP_2_PH]], [[CLEANUP_LOOPEXIT]] ]
 666 ; CHECK-NEXT:    store i32 [[TEMP_2]], i32* [[OUTPUT:%.*]], align 4
 667 ; CHECK-NEXT:    ret void
 668 ;
 669   i32* nocapture readonly %Condition,
 670   i32* nocapture readonly %Input,
 671   i32 %MaxJ) {
 672 entry:
 673   %cmp24 = icmp ugt i32 %MaxJ, 1
 674   br i1 %cmp24, label %for.body.preheader, label %cleanup
 675
 676 for.body.preheader:                               ; preds = %entry
 677   br label %for.body
 678
 679 for.body:                                         ; preds = %for.body.preheader, %for.inc
 680   %j.026 = phi i32 [ %inc, %for.inc ], [ 1, %for.body.preheader ]
 681   %temp.025 = phi i32 [ %temp.1, %for.inc ], [ 0, %for.body.preheader ]
 682   %arrayidx = getelementptr inbounds i32, i32* %Input, i32 %j.026
 683   %0 = load i32, i32* %arrayidx, align 4
 684   %add = add i32 %0, %temp.025
 685   %cmp1 = icmp ugt i32 %add, 16777215
 686   br i1 %cmp1, label %cleanup, label %if.end
 687
 688 if.end:                                           ; preds = %for.body
 689   %arrayidx2 = getelementptr inbounds i32, i32* %Condition, i32 %j.026
 690   %1 = load i32, i32* %arrayidx2, align 4
 691   %cmp3 = icmp ugt i32 %1, 65535
 692   br i1 %cmp3, label %if.then4, label %if.else
 693
 694 if.then4:                                         ; preds = %if.end
 695   %sub = add i32 %j.026, -1
 696   %arrayidx6 = getelementptr inbounds i32, i32* %Input, i32 %sub
 697   %2 = load i32, i32* %arrayidx6, align 4
 698   %cmp7 = icmp ugt i32 %0, %2
 699   %cond = zext i1 %cmp7 to i32
 700   %add8 = add i32 %add, %cond
 701   br label %for.inc
 702
 703 if.else:                                          ; preds = %if.end
 704   %and = and i32 %add, %0
 705   br label %for.inc
 706
 707 for.inc:                                          ; preds = %if.then4, %if.else
 708   %temp.1 = phi i32 [ %add8, %if.then4 ], [ %and, %if.else ]
 709   %inc = add nuw i32 %j.026, 1
 710   %cmp = icmp ult i32 %inc, %MaxJ
 711   br i1 %cmp, label %for.body, label %cleanup
 712
 713 cleanup:                                          ; preds = %for.inc, %for.body, %entry
 714   %temp.2 = phi i32 [ 0, %entry ], [ %add, %for.body ], [ %temp.1, %for.inc ]
 715   store i32 %temp.2, i32* %Output, align 4
 716   ret void
 717 }
 718
 719 %struct.Node = type { %struct.Node*, i32 }
 720 define void @iterate_inc(%struct.Node* %n, i32 %limit) {
 721 ;
 722 ; CHECK-LABEL: @iterate_inc(
 723 ; CHECK-NEXT:  entry:
 724 ; CHECK-NEXT:    [[TOBOOL5:%.*]] = icmp eq %struct.Node* [[N:%.*]], null
 725 ; CHECK-NEXT:    br i1 [[TOBOOL5]], label [[WHILE_END:%.*]], label [[LAND_RHS_PREHEADER:%.*]]
 726 ; CHECK:       land.rhs.preheader:
 727 ; CHECK-NEXT:    br label [[LAND_RHS:%.*]]
 728 ; CHECK:       land.rhs:
 729 ; CHECK-NEXT:    [[LIST_ADDR_06:%.*]] = phi %struct.Node* [ [[N]], [[LAND_RHS_PREHEADER]] ], [ [[TMP11:%.*]], [[WHILE_BODY_3:%.*]] ]
 730 ; CHECK-NEXT:    [[VAL:%.*]] = getelementptr inbounds [[STRUCT_NODE:%.*]], %struct.Node* [[LIST_ADDR_06]], i32 0, i32 1
 731 ; CHECK-NEXT:    [[TMP0:%.*]] = load i32, i32* [[VAL]], align 4
 732 ; CHECK-NEXT:    [[CMP:%.*]] = icmp slt i32 [[TMP0]], [[LIMIT:%.*]]
 733 ; CHECK-NEXT:    br i1 [[CMP]], label [[WHILE_BODY:%.*]], label [[WHILE_END_LOOPEXIT:%.*]]
 734 ; CHECK:       while.body:
 735 ; CHECK-NEXT:    [[INC:%.*]] = add nsw i32 [[TMP0]], 1
 736 ; CHECK-NEXT:    store i32 [[INC]], i32* [[VAL]], align 4
 737 ; CHECK-NEXT:    [[TMP1:%.*]] = bitcast %struct.Node* [[LIST_ADDR_06]] to %struct.Node**
 738 ; CHECK-NEXT:    [[TMP2:%.*]] = load %struct.Node*, %struct.Node** [[TMP1]], align 4
 739 ; CHECK-NEXT:    [[TOBOOL:%.*]] = icmp eq %struct.Node* [[TMP2]], null
 740 ; CHECK-NEXT:    br i1 [[TOBOOL]], label [[WHILE_END_LOOPEXIT]], label [[LAND_RHS_1:%.*]]
 741 ; CHECK:       land.rhs.1:
 742 ; CHECK-NEXT:    [[VAL_1:%.*]] = getelementptr inbounds [[STRUCT_NODE]], %struct.Node* [[TMP2]], i32 0, i32 1
 743 ; CHECK-NEXT:    [[TMP3:%.*]] = load i32, i32* [[VAL_1]], align 4
 744 ; CHECK-NEXT:    [[CMP_1:%.*]] = icmp slt i32 [[TMP3]], [[LIMIT]]
 745 ; CHECK-NEXT:    br i1 [[CMP_1]], label [[WHILE_BODY_1:%.*]], label [[WHILE_END_LOOPEXIT]]
 746 ; CHECK:       while.body.1:
 747 ; CHECK-NEXT:    [[INC_1:%.*]] = add nsw i32 [[TMP3]], 1
 748 ; CHECK-NEXT:    store i32 [[INC_1]], i32* [[VAL_1]], align 4
 749 ; CHECK-NEXT:    [[TMP4:%.*]] = bitcast %struct.Node* [[TMP2]] to %struct.Node**
 750 ; CHECK-NEXT:    [[TMP5:%.*]] = load %struct.Node*, %struct.Node** [[TMP4]], align 4
 751 ; CHECK-NEXT:    [[TOBOOL_1:%.*]] = icmp eq %struct.Node* [[TMP5]], null
 752 ; CHECK-NEXT:    br i1 [[TOBOOL_1]], label [[WHILE_END_LOOPEXIT]], label [[LAND_RHS_2:%.*]]
 753 ; CHECK:       land.rhs.2:
 754 ; CHECK-NEXT:    [[VAL_2:%.*]] = getelementptr inbounds [[STRUCT_NODE]], %struct.Node* [[TMP5]], i32 0, i32 1
 755 ; CHECK-NEXT:    [[TMP6:%.*]] = load i32, i32* [[VAL_2]], align 4
 756 ; CHECK-NEXT:    [[CMP_2:%.*]] = icmp slt i32 [[TMP6]], [[LIMIT]]
 757 ; CHECK-NEXT:    br i1 [[CMP_2]], label [[WHILE_BODY_2:%.*]], label [[WHILE_END_LOOPEXIT]]
 758 ; CHECK:       while.body.2:
 759 ; CHECK-NEXT:    [[INC_2:%.*]] = add nsw i32 [[TMP6]], 1
 760 ; CHECK-NEXT:    store i32 [[INC_2]], i32* [[VAL_2]], align 4
 761 ; CHECK-NEXT:    [[TMP7:%.*]] = bitcast %struct.Node* [[TMP5]] to %struct.Node**
 762 ; CHECK-NEXT:    [[TMP8:%.*]] = load %struct.Node*, %struct.Node** [[TMP7]], align 4
 763 ; CHECK-NEXT:    [[TOBOOL_2:%.*]] = icmp eq %struct.Node* [[TMP8]], null
 764 ; CHECK-NEXT:    br i1 [[TOBOOL_2]], label [[WHILE_END_LOOPEXIT]], label [[LAND_RHS_3:%.*]]
 765 ; CHECK:       land.rhs.3:
 766 ; CHECK-NEXT:    [[VAL_3:%.*]] = getelementptr inbounds [[STRUCT_NODE]], %struct.Node* [[TMP8]], i32 0, i32 1
 767 ; CHECK-NEXT:    [[TMP9:%.*]] = load i32, i32* [[VAL_3]], align 4
 768 ; CHECK-NEXT:    [[CMP_3:%.*]] = icmp slt i32 [[TMP9]], [[LIMIT]]
 769 ; CHECK-NEXT:    br i1 [[CMP_3]], label [[WHILE_BODY_3]], label [[WHILE_END_LOOPEXIT]]
 770 ; CHECK:       while.body.3:
 771 ; CHECK-NEXT:    [[INC_3:%.*]] = add nsw i32 [[TMP9]], 1
 772 ; CHECK-NEXT:    store i32 [[INC_3]], i32* [[VAL_3]], align 4
 773 ; CHECK-NEXT:    [[TMP10:%.*]] = bitcast %struct.Node* [[TMP8]] to %struct.Node**
 774 ; CHECK-NEXT:    [[TMP11]] = load %struct.Node*, %struct.Node** [[TMP10]], align 4
 775 ; CHECK-NEXT:    [[TOBOOL_3:%.*]] = icmp eq %struct.Node* [[TMP11]], null
 776 ; CHECK-NEXT:    br i1 [[TOBOOL_3]], label [[WHILE_END_LOOPEXIT]], label [[LAND_RHS]]
 777 ; CHECK:       while.end.loopexit:
 778 ; CHECK-NEXT:    br label [[WHILE_END]]
 779 ; CHECK:       while.end:
 780 ; CHECK-NEXT:    ret void
 781 ;
 782 entry:
 783   %tobool5 = icmp eq %struct.Node* %n, null
 784   br i1 %tobool5, label %while.end, label %land.rhs.preheader
 785
 786 land.rhs.preheader:                               ; preds = %entry
 787   br label %land.rhs
 788
 789 land.rhs:                                         ; preds = %land.rhs.preheader, %while.body
 790   %list.addr.06 = phi %struct.Node* [ %2, %while.body ], [ %n, %land.rhs.preheader ]
 791   %val = getelementptr inbounds %struct.Node, %struct.Node* %list.addr.06, i32 0, i32 1
 792   %0 = load i32, i32* %val, align 4
 793   %cmp = icmp slt i32 %0, %limit
 794   br i1 %cmp, label %while.body, label %while.end
 795
 796 while.body:                                       ; preds = %land.rhs
 797   %inc = add nsw i32 %0, 1
 798   store i32 %inc, i32* %val, align 4
 799   %1 = bitcast %struct.Node* %list.addr.06 to %struct.Node**
 800   %2 = load %struct.Node*, %struct.Node** %1, align 4
 801   %tobool = icmp eq %struct.Node* %2, null
 802   br i1 %tobool, label %while.end, label %land.rhs
 803
 804 while.end:                                        ; preds = %land.rhs, %while.body, %entry
 805   ret void
 806 }