test/Transforms/InstCombine/canonicalize-constant-low-bit-mask-and-icmp-sgt-to-icmp-sgt.ll

   1 ; NOTE: Assertions have been autogenerated by utils/update_test_checks.py
   2 ; RUN: opt < %s -instcombine -S | FileCheck %s
   3
   4 ; https://bugs.llvm.org/show_bug.cgi?id=38123
   5
   6 ; Pattern:
   7 ;   x s> x & C
   8 ; Should be transformed into:
   9 ;   x s> C
  10 ; Iff: isPowerOf2(C + 1)
  11 ; C must not be -1, but may be 0.
  12
  13 ; NOTE: this pattern is not commutative!
  14
  15 declare i8 @gen8()
  16 declare <2 x i8> @gen2x8()
  17 declare <3 x i8> @gen3x8()
  18
  19 ; ============================================================================ ;
  20 ; Basic positive tests
  21 ; ============================================================================ ;
  22
  23 define i1 @p0() {
  24 ; CHECK-LABEL: @p0(
  25 ; CHECK-NEXT:    [[X:%.*]] = call i8 @gen8()
  26 ; CHECK-NEXT:    [[TMP1:%.*]] = icmp sgt i8 [[X]], 3
  27 ; CHECK-NEXT:    ret i1 [[TMP1]]
  28 ;
  29   %x = call i8 @gen8()
  30   %tmp0 = and i8 %x, 3
  31   %ret = icmp sgt i8 %x, %tmp0
  32   ret i1 %ret
  33 }
  34
  35 ; ============================================================================ ;
  36 ; Vector tests
  37 ; ============================================================================ ;
  38
  39 define <2 x i1> @p1_vec_splat() {
  40 ; CHECK-LABEL: @p1_vec_splat(
  41 ; CHECK-NEXT:    [[X:%.*]] = call <2 x i8> @gen2x8()
  42 ; CHECK-NEXT:    [[TMP1:%.*]] = icmp sgt <2 x i8> [[X]], <i8 3, i8 3>
  43 ; CHECK-NEXT:    ret <2 x i1> [[TMP1]]
  44 ;
  45   %x = call <2 x i8> @gen2x8()
  46   %tmp0 = and <2 x i8> %x, <i8 3, i8 3>
  47   %ret = icmp sgt <2 x i8> %x, %tmp0
  48   ret <2 x i1> %ret
  49 }
  50
  51 define <2 x i1> @p2_vec_nonsplat() {
  52 ; CHECK-LABEL: @p2_vec_nonsplat(
  53 ; CHECK-NEXT:    [[X:%.*]] = call <2 x i8> @gen2x8()
  54 ; CHECK-NEXT:    [[TMP1:%.*]] = icmp sgt <2 x i8> [[X]], <i8 3, i8 15>
  55 ; CHECK-NEXT:    ret <2 x i1> [[TMP1]]
  56 ;
  57   %x = call <2 x i8> @gen2x8()
  58   %tmp0 = and <2 x i8> %x, <i8 3, i8 15> ; doesn't have to be splat.
  59   %ret = icmp sgt <2 x i8> %x, %tmp0
  60   ret <2 x i1> %ret
  61 }
  62
  63 define <2 x i1> @p2_vec_nonsplat_edgecase() {
  64 ; CHECK-LABEL: @p2_vec_nonsplat_edgecase(
  65 ; CHECK-NEXT:    [[X:%.*]] = call <2 x i8> @gen2x8()
  66 ; CHECK-NEXT:    [[TMP0:%.*]] = and <2 x i8> [[X]], <i8 3, i8 0>
  67 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt <2 x i8> [[X]], [[TMP0]]
  68 ; CHECK-NEXT:    ret <2 x i1> [[RET]]
  69 ;
  70   %x = call <2 x i8> @gen2x8()
  71   %tmp0 = and <2 x i8> %x, <i8 3, i8 0>
  72   %ret = icmp sgt <2 x i8> %x, %tmp0
  73   ret <2 x i1> %ret
  74 }
  75
  76 define <3 x i1> @p3_vec_splat_undef() {
  77 ; CHECK-LABEL: @p3_vec_splat_undef(
  78 ; CHECK-NEXT:    [[X:%.*]] = call <3 x i8> @gen3x8()
  79 ; CHECK-NEXT:    [[TMP1:%.*]] = icmp sgt <3 x i8> [[X]], <i8 3, i8 undef, i8 3>
  80 ; CHECK-NEXT:    ret <3 x i1> [[TMP1]]
  81 ;
  82   %x = call <3 x i8> @gen3x8()
  83   %tmp0 = and <3 x i8> %x, <i8 3, i8 undef, i8 3>
  84   %ret = icmp sgt <3 x i8> %x, %tmp0
  85   ret <3 x i1> %ret
  86 }
  87
  88 ; ============================================================================ ;
  89 ; One-use tests. We don't care about multi-uses here.
  90 ; ============================================================================ ;
  91
  92 declare void @use8(i8)
  93
  94 define i1 @oneuse0() {
  95 ; CHECK-LABEL: @oneuse0(
  96 ; CHECK-NEXT:    [[X:%.*]] = call i8 @gen8()
  97 ; CHECK-NEXT:    [[TMP0:%.*]] = and i8 [[X]], 3
  98 ; CHECK-NEXT:    call void @use8(i8 [[TMP0]])
  99 ; CHECK-NEXT:    [[TMP1:%.*]] = icmp sgt i8 [[X]], 3
 100 ; CHECK-NEXT:    ret i1 [[TMP1]]
 101 ;
 102   %x = call i8 @gen8()
 103   %tmp0 = and i8 %x, 3
 104   call void @use8(i8 %tmp0)
 105   %ret = icmp sgt i8 %x, %tmp0
 106   ret i1 %ret
 107 }
 108
 109 ; ============================================================================ ;
 110 ; Negative tests
 111 ; ============================================================================ ;
 112
 113 ; Commutativity tests.
 114
 115 define i1 @c0(i8 %x) {
 116 ; CHECK-LABEL: @c0(
 117 ; CHECK-NEXT:    [[TMP0:%.*]] = and i8 [[X:%.*]], 3
 118 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt i8 [[TMP0]], [[X]]
 119 ; CHECK-NEXT:    ret i1 [[RET]]
 120 ;
 121   %tmp0 = and i8 %x, 3
 122   %ret = icmp sgt i8 %tmp0, %x ; swapped order
 123   ret i1 %ret
 124 }
 125
 126 ; ============================================================================ ;
 127 ; Rest of negative tests
 128 ; ============================================================================ ;
 129
 130 define i1 @n0() {
 131 ; CHECK-LABEL: @n0(
 132 ; CHECK-NEXT:    [[X:%.*]] = call i8 @gen8()
 133 ; CHECK-NEXT:    [[TMP0:%.*]] = and i8 [[X]], 4
 134 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt i8 [[X]], [[TMP0]]
 135 ; CHECK-NEXT:    ret i1 [[RET]]
 136 ;
 137   %x = call i8 @gen8()
 138   %tmp0 = and i8 %x, 4 ; power-of-two, but invalid.
 139   %ret = icmp sgt i8 %x, %tmp0
 140   ret i1 %ret
 141 }
 142
 143 define i1 @n1(i8 %y, i8 %notx) {
 144 ; CHECK-LABEL: @n1(
 145 ; CHECK-NEXT:    [[X:%.*]] = call i8 @gen8()
 146 ; CHECK-NEXT:    [[TMP0:%.*]] = and i8 [[X]], 3
 147 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt i8 [[TMP0]], [[NOTX:%.*]]
 148 ; CHECK-NEXT:    ret i1 [[RET]]
 149 ;
 150   %x = call i8 @gen8()
 151   %tmp0 = and i8 %x, 3
 152   %ret = icmp sgt i8 %tmp0, %notx ; not %x
 153   ret i1 %ret
 154 }
 155
 156 define <2 x i1> @n2() {
 157 ; CHECK-LABEL: @n2(
 158 ; CHECK-NEXT:    [[X:%.*]] = call <2 x i8> @gen2x8()
 159 ; CHECK-NEXT:    [[TMP0:%.*]] = and <2 x i8> [[X]], <i8 3, i8 16>
 160 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt <2 x i8> [[X]], [[TMP0]]
 161 ; CHECK-NEXT:    ret <2 x i1> [[RET]]
 162 ;
 163   %x = call <2 x i8> @gen2x8()
 164   %tmp0 = and <2 x i8> %x, <i8 3, i8 16> ; only the first one is valid.
 165   %ret = icmp sgt <2 x i8> %x, %tmp0
 166   ret <2 x i1> %ret
 167 }
 168
 169 ; ============================================================================ ;
 170 ; Potential miscompiles.
 171 ; ============================================================================ ;
 172
 173 define i1 @pv(i8 %y) {
 174 ; CHECK-LABEL: @pv(
 175 ; CHECK-NEXT:    [[X:%.*]] = call i8 @gen8()
 176 ; CHECK-NEXT:    [[TMP0:%.*]] = lshr i8 -1, [[Y:%.*]]
 177 ; CHECK-NEXT:    [[TMP1:%.*]] = and i8 [[TMP0]], [[X]]
 178 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt i8 [[X]], [[TMP1]]
 179 ; CHECK-NEXT:    ret i1 [[RET]]
 180 ;
 181   %x = call i8 @gen8()
 182   %tmp0 = lshr i8 -1, %y
 183   %tmp1 = and i8 %tmp0, %x
 184   %ret = icmp sgt i8 %x, %tmp1
 185   ret i1 %ret
 186 }
 187
 188 define <2 x i1> @n3_vec() {
 189 ; CHECK-LABEL: @n3_vec(
 190 ; CHECK-NEXT:    [[X:%.*]] = call <2 x i8> @gen2x8()
 191 ; CHECK-NEXT:    [[TMP0:%.*]] = and <2 x i8> [[X]], <i8 3, i8 -1>
 192 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt <2 x i8> [[X]], [[TMP0]]
 193 ; CHECK-NEXT:    ret <2 x i1> [[RET]]
 194 ;
 195   %x = call <2 x i8> @gen2x8()
 196   %tmp0 = and <2 x i8> %x, <i8 3, i8 -1>
 197   %ret = icmp sgt <2 x i8> %x, %tmp0
 198   ret <2 x i1> %ret
 199 }
 200
 201 define <3 x i1> @n4_vec() {
 202 ; CHECK-LABEL: @n4_vec(
 203 ; CHECK-NEXT:    [[X:%.*]] = call <3 x i8> @gen3x8()
 204 ; CHECK-NEXT:    [[TMP0:%.*]] = and <3 x i8> [[X]], <i8 3, i8 undef, i8 -1>
 205 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt <3 x i8> [[X]], [[TMP0]]
 206 ; CHECK-NEXT:    ret <3 x i1> [[RET]]
 207 ;
 208   %x = call <3 x i8> @gen3x8()
 209   %tmp0 = and <3 x i8> %x, <i8 3, i8 undef, i8 -1>
 210   %ret = icmp sgt <3 x i8> %x, %tmp0
 211   ret <3 x i1> %ret
 212 }
 213
 214 ; Commutativity tests with variable
 215
 216 ; Ok, this one should fold. We only testing commutativity of 'and'.
 217 define i1 @cv0_GOOD(i8 %y) {
 218 ; CHECK-LABEL: @cv0_GOOD(
 219 ; CHECK-NEXT:    [[X:%.*]] = call i8 @gen8()
 220 ; CHECK-NEXT:    [[TMP0:%.*]] = lshr i8 -1, [[Y:%.*]]
 221 ; CHECK-NEXT:    [[TMP1:%.*]] = and i8 [[TMP0]], [[X]]
 222 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt i8 [[X]], [[TMP1]]
 223 ; CHECK-NEXT:    ret i1 [[RET]]
 224 ;
 225   %x = call i8 @gen8()
 226   %tmp0 = lshr i8 -1, %y
 227   %tmp1 = and i8 %tmp0, %x ; swapped order
 228   %ret = icmp sgt i8 %x, %tmp1
 229   ret i1 %ret
 230 }
 231
 232 define i1 @cv1(i8 %y) {
 233 ; CHECK-LABEL: @cv1(
 234 ; CHECK-NEXT:    [[X:%.*]] = call i8 @gen8()
 235 ; CHECK-NEXT:    [[TMP0:%.*]] = lshr i8 -1, [[Y:%.*]]
 236 ; CHECK-NEXT:    [[TMP1:%.*]] = and i8 [[X]], [[TMP0]]
 237 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt i8 [[TMP1]], [[X]]
 238 ; CHECK-NEXT:    ret i1 [[RET]]
 239 ;
 240   %x = call i8 @gen8()
 241   %tmp0 = lshr i8 -1, %y
 242   %tmp1 = and i8 %x, %tmp0
 243   %ret = icmp sgt i8 %tmp1, %x ; swapped order
 244   ret i1 %ret
 245 }
 246
 247 define i1 @cv2(i8 %x, i8 %y) {
 248 ; CHECK-LABEL: @cv2(
 249 ; CHECK-NEXT:    [[TMP0:%.*]] = lshr i8 -1, [[Y:%.*]]
 250 ; CHECK-NEXT:    [[TMP1:%.*]] = and i8 [[TMP0]], [[X:%.*]]
 251 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt i8 [[TMP1]], [[X]]
 252 ; CHECK-NEXT:    ret i1 [[RET]]
 253 ;
 254   %tmp0 = lshr i8 -1, %y
 255   %tmp1 = and i8 %tmp0, %x ; swapped order
 256   %ret = icmp sgt i8 %tmp1, %x ; swapped order
 257   ret i1 %ret
 258 }