llvm/test/Transforms/LoopVectorize/outer-loop-vec-phi-predecessor-order.ll

   1 ; NOTE: Assertions have been autogenerated by utils/update_test_checks.py
   2 ; RUN: opt -enable-vplan-native-path -loop-vectorize -S %s | FileCheck %s
   3
   4 ; Make sure phi nodes are generated correctly, even if the use list order of
   5 ; the predecessors in the scalar code does not match the order in the generated
   6 ; vector blocks.
   7
   8 ; Test from PR45958.
   9
  10 define void @test([2000 x i32]* %src, i64 %n) {
  11 ; CHECK-LABEL: @test(
  12 ; CHECK-NEXT:  entry:
  13 ; CHECK-NEXT:    [[MIN_ITERS_CHECK:%.*]] = icmp ult i64 [[N:%.*]], 4
  14 ; CHECK-NEXT:    br i1 [[MIN_ITERS_CHECK]], label [[SCALAR_PH:%.*]], label [[VECTOR_PH:%.*]]
  15 ; CHECK:       vector.ph:
  16 ; CHECK-NEXT:    [[N_MOD_VF:%.*]] = urem i64 [[N]], 4
  17 ; CHECK-NEXT:    [[N_VEC:%.*]] = sub i64 [[N]], [[N_MOD_VF]]
  18 ; CHECK-NEXT:    [[BROADCAST_SPLATINSERT:%.*]] = insertelement <4 x i64> poison, i64 [[N]], i32 0
  19 ; CHECK-NEXT:    [[BROADCAST_SPLAT:%.*]] = shufflevector <4 x i64> [[BROADCAST_SPLATINSERT]], <4 x i64> poison, <4 x i32> zeroinitializer
  20 ; CHECK-NEXT:    br label [[VECTOR_BODY:%.*]]
  21 ; CHECK:       vector.body:
  22 ; CHECK-NEXT:    [[INDEX:%.*]] = phi i64 [ 0, [[VECTOR_PH]] ], [ [[INDEX_NEXT:%.*]], [[LOOP_1_LATCH5:%.*]] ]
  23 ; CHECK-NEXT:    [[VEC_IND:%.*]] = phi <4 x i64> [ <i64 0, i64 1, i64 2, i64 3>, [[VECTOR_PH]] ], [ [[VEC_IND_NEXT:%.*]], [[LOOP_1_LATCH5]] ]
  24 ; CHECK-NEXT:    br label [[LOOP_2_HEADER1:%.*]]
  25 ; CHECK:       loop.2.header1:
  26 ; CHECK-NEXT:    [[VEC_PHI:%.*]] = phi <4 x i64> [ zeroinitializer, [[VECTOR_BODY]] ], [ [[TMP5:%.*]], [[LOOP_2_LATCH4:%.*]] ]
  27 ; CHECK-NEXT:    br label [[LOOP_32:%.*]]
  28 ; CHECK:       loop.32:
  29 ; CHECK-NEXT:    [[VEC_PHI3:%.*]] = phi <4 x i64> [ zeroinitializer, [[LOOP_2_HEADER1]] ], [ [[TMP2:%.*]], [[LOOP_32]] ]
  30 ; CHECK-NEXT:    [[TMP0:%.*]] = getelementptr inbounds [2000 x i32], [2000 x i32]* [[SRC:%.*]], <4 x i64> [[VEC_IND]], <4 x i64> [[VEC_PHI3]]
  31 ; CHECK-NEXT:    [[WIDE_MASKED_GATHER:%.*]] = call <4 x i32> @llvm.masked.gather.v4i32.v4p0i32(<4 x i32*> [[TMP0]], i32 4, <4 x i1> <i1 true, i1 true, i1 true, i1 true>, <4 x i32> undef)
  32 ; CHECK-NEXT:    [[TMP1:%.*]] = mul nsw <4 x i32> [[WIDE_MASKED_GATHER]], <i32 10, i32 10, i32 10, i32 10>
  33 ; CHECK-NEXT:    call void @llvm.masked.scatter.v4i32.v4p0i32(<4 x i32> [[TMP1]], <4 x i32*> [[TMP0]], i32 4, <4 x i1> <i1 true, i1 true, i1 true, i1 true>)
  34 ; CHECK-NEXT:    [[TMP2]] = add nuw nsw <4 x i64> [[VEC_PHI3]], <i64 1, i64 1, i64 1, i64 1>
  35 ; CHECK-NEXT:    [[TMP3:%.*]] = icmp eq <4 x i64> [[TMP2]], [[BROADCAST_SPLAT]]
  36 ; CHECK-NEXT:    [[TMP4:%.*]] = extractelement <4 x i1> [[TMP3]], i32 0
  37 ; CHECK-NEXT:    br i1 [[TMP4]], label [[LOOP_2_LATCH4]], label [[LOOP_32]]
  38 ; CHECK:       loop.2.latch4:
  39 ; CHECK-NEXT:    [[TMP5]] = add nuw nsw <4 x i64> [[VEC_PHI]], <i64 1, i64 1, i64 1, i64 1>
  40 ; CHECK-NEXT:    [[TMP6:%.*]] = icmp eq <4 x i64> [[TMP5]], [[BROADCAST_SPLAT]]
  41 ; CHECK-NEXT:    [[TMP7:%.*]] = extractelement <4 x i1> [[TMP6]], i32 0
  42 ; CHECK-NEXT:    br i1 [[TMP7]], label [[LOOP_1_LATCH5]], label [[LOOP_2_HEADER1]]
  43 ; CHECK:       loop.1.latch5:
  44 ; CHECK-NEXT:    [[TMP8:%.*]] = add nuw nsw <4 x i64> [[VEC_IND]], <i64 1, i64 1, i64 1, i64 1>
  45 ; CHECK-NEXT:    [[TMP9:%.*]] = icmp eq <4 x i64> [[TMP8]], [[BROADCAST_SPLAT]]
  46 ; CHECK-NEXT:    [[TMP10:%.*]] = extractelement <4 x i1> [[TMP9]], i32 0
  47 ; CHECK-NEXT:    [[INDEX_NEXT]] = add nuw i64 [[INDEX]], 4
  48 ; CHECK-NEXT:    [[VEC_IND_NEXT]] = add <4 x i64> [[VEC_IND]], <i64 4, i64 4, i64 4, i64 4>
  49 ; CHECK-NEXT:    [[TMP11:%.*]] = icmp eq i64 [[INDEX_NEXT]], [[N_VEC]]
  50 ; CHECK-NEXT:    br i1 [[TMP11]], label [[MIDDLE_BLOCK:%.*]], label [[VECTOR_BODY]], [[LOOP0:!llvm.loop !.*]]
  51 ; CHECK:       middle.block:
  52 ; CHECK-NEXT:    [[CMP_N:%.*]] = icmp eq i64 [[N]], [[N_VEC]]
  53 ; CHECK-NEXT:    br i1 [[CMP_N]], label [[EXIT:%.*]], label [[SCALAR_PH]]
  54 ; CHECK:       scalar.ph:
  55 ; CHECK-NEXT:    [[BC_RESUME_VAL:%.*]] = phi i64 [ [[N_VEC]], [[MIDDLE_BLOCK]] ], [ 0, [[ENTRY:%.*]] ]
  56 ; CHECK-NEXT:    br label [[LOOP_1_HEADER:%.*]]
  57 ; CHECK:       loop.1.header:
  58 ; CHECK-NEXT:    [[IV_1:%.*]] = phi i64 [ [[BC_RESUME_VAL]], [[SCALAR_PH]] ], [ [[IV_1_NEXT:%.*]], [[LOOP_1_LATCH:%.*]] ]
  59 ; CHECK-NEXT:    br label [[LOOP_2_HEADER:%.*]]
  60 ; CHECK:       loop.2.header:
  61 ; CHECK-NEXT:    [[IV_2:%.*]] = phi i64 [ 0, [[LOOP_1_HEADER]] ], [ [[IV_2_NEXT:%.*]], [[LOOP_2_LATCH:%.*]] ]
  62 ; CHECK-NEXT:    br label [[LOOP_3:%.*]]
  63 ; CHECK:       loop.3:
  64 ; CHECK-NEXT:    [[IV_3:%.*]] = phi i64 [ 0, [[LOOP_2_HEADER]] ], [ [[IV_3_NEXT:%.*]], [[LOOP_3]] ]
  65 ; CHECK-NEXT:    [[GEP_SRC:%.*]] = getelementptr inbounds [2000 x i32], [2000 x i32]* [[SRC]], i64 [[IV_1]], i64 [[IV_3]]
  66 ; CHECK-NEXT:    [[L1:%.*]] = load i32, i32* [[GEP_SRC]], align 4
  67 ; CHECK-NEXT:    [[MUL:%.*]] = mul nsw i32 [[L1]], 10
  68 ; CHECK-NEXT:    store i32 [[MUL]], i32* [[GEP_SRC]], align 4
  69 ; CHECK-NEXT:    [[IV_3_NEXT]] = add nuw nsw i64 [[IV_3]], 1
  70 ; CHECK-NEXT:    [[EC_3:%.*]] = icmp eq i64 [[IV_3_NEXT]], [[N]]
  71 ; CHECK-NEXT:    br i1 [[EC_3]], label [[LOOP_2_LATCH]], label [[LOOP_3]]
  72 ; CHECK:       loop.2.latch:
  73 ; CHECK-NEXT:    [[IV_2_NEXT]] = add nuw nsw i64 [[IV_2]], 1
  74 ; CHECK-NEXT:    [[EC_2:%.*]] = icmp eq i64 [[IV_2_NEXT]], [[N]]
  75 ; CHECK-NEXT:    br i1 [[EC_2]], label [[LOOP_1_LATCH]], label [[LOOP_2_HEADER]]
  76 ; CHECK:       loop.1.latch:
  77 ; CHECK-NEXT:    [[IV_1_NEXT]] = add nuw nsw i64 [[IV_1]], 1
  78 ; CHECK-NEXT:    [[EC_1:%.*]] = icmp eq i64 [[IV_1_NEXT]], [[N]]
  79 ; CHECK-NEXT:    br i1 [[EC_1]], label [[EXIT]], label [[LOOP_1_HEADER]], [[LOOP2:!llvm.loop !.*]]
  80 ; CHECK:       exit:
  81 ; CHECK-NEXT:    ret void
  82 ;
  83 entry:
  84   br label %loop.1.header
  85
  86 loop.1.header:
  87   %iv.1 = phi i64 [ 0, %entry ], [ %iv.1.next, %loop.1.latch ]
  88   br label %loop.2.header
  89
  90 loop.2.header:
  91   %iv.2 = phi i64 [ 0, %loop.1.header ], [ %iv.2.next, %loop.2.latch ]
  92   br label %loop.3
  93
  94 loop.3:
  95   %iv.3 = phi i64 [ 0, %loop.2.header ], [ %iv.3.next, %loop.3 ]
  96   %gep.src = getelementptr inbounds [2000 x i32], [2000 x i32]* %src, i64 %iv.1, i64 %iv.3
  97   %l1 = load i32, i32* %gep.src, align 4
  98   %mul = mul nsw i32 %l1, 10
  99   store i32 %mul, i32* %gep.src, align 4
 100   %iv.3.next = add nuw nsw i64 %iv.3, 1
 101   %ec.3 = icmp eq i64 %iv.3.next, %n
 102   br i1 %ec.3, label %loop.2.latch, label %loop.3
 103
 104 loop.2.latch:
 105   %iv.2.next = add nuw nsw i64 %iv.2, 1
 106   %ec.2 = icmp eq i64 %iv.2.next, %n
 107   br i1 %ec.2, label %loop.1.latch, label %loop.2.header
 108
 109 loop.1.latch:
 110   %iv.1.next = add nuw nsw i64 %iv.1, 1
 111   %ec.1 = icmp eq i64 %iv.1.next, %n
 112   br i1 %ec.1, label %exit, label %loop.1.header, !llvm.loop !0
 113
 114 exit:                                             ; preds = %loop.1.latch
 115   ret void
 116
 117 ; uselistorder directives
 118   uselistorder label %loop.3, { 1, 0 }
 119   uselistorder label %loop.2.header, { 1, 0 }
 120 }
 121
 122 !0 = distinct !{!0, !1, !2}
 123 !1 = !{!"llvm.loop.vectorize.width", i32 4}
 124 !2 = !{!"llvm.loop.vectorize.enable", i1 true}