llvm/test/Transforms/InstCombine/canonicalize-constant-low-bit-mask-and-icmp-sgt-to-icmp-sgt.ll

   1 ; NOTE: Assertions have been autogenerated by utils/update_test_checks.py
   2 ; RUN: opt < %s -passes=instcombine -S | FileCheck %s
   3
   4 ; https://bugs.llvm.org/show_bug.cgi?id=38123
   5
   6 ; Pattern:
   7 ;   x s> x & C
   8 ; Should be transformed into:
   9 ;   x s> C
  10 ; Iff: isPowerOf2(C + 1)
  11 ; C must not be -1, but may be 0.
  12
  13 ; NOTE: this pattern is not commutative!
  14
  15 declare i8 @gen8()
  16 declare <2 x i8> @gen2x8()
  17 declare <3 x i8> @gen3x8()
  18
  19 ; ============================================================================ ;
  20 ; Basic positive tests
  21 ; ============================================================================ ;
  22
  23 define i1 @p0() {
  24 ; CHECK-LABEL: @p0(
  25 ; CHECK-NEXT:    [[X:%.*]] = call i8 @gen8()
  26 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt i8 [[X]], 3
  27 ; CHECK-NEXT:    ret i1 [[RET]]
  28 ;
  29   %x = call i8 @gen8()
  30   %tmp0 = and i8 %x, 3
  31   %ret = icmp sgt i8 %x, %tmp0
  32   ret i1 %ret
  33 }
  34
  35 ; ============================================================================ ;
  36 ; Vector tests
  37 ; ============================================================================ ;
  38
  39 define <2 x i1> @p1_vec_splat() {
  40 ; CHECK-LABEL: @p1_vec_splat(
  41 ; CHECK-NEXT:    [[X:%.*]] = call <2 x i8> @gen2x8()
  42 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt <2 x i8> [[X]], splat (i8 3)
  43 ; CHECK-NEXT:    ret <2 x i1> [[RET]]
  44 ;
  45   %x = call <2 x i8> @gen2x8()
  46   %tmp0 = and <2 x i8> %x, <i8 3, i8 3>
  47   %ret = icmp sgt <2 x i8> %x, %tmp0
  48   ret <2 x i1> %ret
  49 }
  50
  51 define <2 x i1> @p2_vec_nonsplat() {
  52 ; CHECK-LABEL: @p2_vec_nonsplat(
  53 ; CHECK-NEXT:    [[X:%.*]] = call <2 x i8> @gen2x8()
  54 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt <2 x i8> [[X]], <i8 3, i8 15>
  55 ; CHECK-NEXT:    ret <2 x i1> [[RET]]
  56 ;
  57   %x = call <2 x i8> @gen2x8()
  58   %tmp0 = and <2 x i8> %x, <i8 3, i8 15> ; doesn't have to be splat.
  59   %ret = icmp sgt <2 x i8> %x, %tmp0
  60   ret <2 x i1> %ret
  61 }
  62
  63 define <2 x i1> @p2_vec_nonsplat_edgecase() {
  64 ; CHECK-LABEL: @p2_vec_nonsplat_edgecase(
  65 ; CHECK-NEXT:    [[X:%.*]] = call <2 x i8> @gen2x8()
  66 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt <2 x i8> [[X]], <i8 3, i8 0>
  67 ; CHECK-NEXT:    ret <2 x i1> [[RET]]
  68 ;
  69   %x = call <2 x i8> @gen2x8()
  70   %tmp0 = and <2 x i8> %x, <i8 3, i8 0>
  71   %ret = icmp sgt <2 x i8> %x, %tmp0
  72   ret <2 x i1> %ret
  73 }
  74
  75 define <3 x i1> @p3_vec_splat_poison() {
  76 ; CHECK-LABEL: @p3_vec_splat_poison(
  77 ; CHECK-NEXT:    [[X:%.*]] = call <3 x i8> @gen3x8()
  78 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt <3 x i8> [[X]], <i8 3, i8 poison, i8 3>
  79 ; CHECK-NEXT:    ret <3 x i1> [[RET]]
  80 ;
  81   %x = call <3 x i8> @gen3x8()
  82   %tmp0 = and <3 x i8> %x, <i8 3, i8 poison, i8 3>
  83   %ret = icmp sgt <3 x i8> %x, %tmp0
  84   ret <3 x i1> %ret
  85 }
  86
  87 define <3 x i1> @p3_vec_nonsplat_poison() {
  88 ; CHECK-LABEL: @p3_vec_nonsplat_poison(
  89 ; CHECK-NEXT:    [[X:%.*]] = call <3 x i8> @gen3x8()
  90 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt <3 x i8> [[X]], <i8 15, i8 3, i8 poison>
  91 ; CHECK-NEXT:    ret <3 x i1> [[RET]]
  92 ;
  93   %x = call <3 x i8> @gen3x8()
  94   %tmp0 = and <3 x i8> %x, <i8 15, i8 3, i8 poison>
  95   %ret = icmp sgt <3 x i8> %x, %tmp0
  96   ret <3 x i1> %ret
  97 }
  98
  99 ; ============================================================================ ;
 100 ; One-use tests. We don't care about multi-uses here.
 101 ; ============================================================================ ;
 102
 103 declare void @use8(i8)
 104
 105 define i1 @oneuse0() {
 106 ; CHECK-LABEL: @oneuse0(
 107 ; CHECK-NEXT:    [[X:%.*]] = call i8 @gen8()
 108 ; CHECK-NEXT:    [[TMP0:%.*]] = and i8 [[X]], 3
 109 ; CHECK-NEXT:    call void @use8(i8 [[TMP0]])
 110 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt i8 [[X]], 3
 111 ; CHECK-NEXT:    ret i1 [[RET]]
 112 ;
 113   %x = call i8 @gen8()
 114   %tmp0 = and i8 %x, 3
 115   call void @use8(i8 %tmp0)
 116   %ret = icmp sgt i8 %x, %tmp0
 117   ret i1 %ret
 118 }
 119
 120 ; ============================================================================ ;
 121 ; Negative tests
 122 ; ============================================================================ ;
 123
 124 ; Commutativity tests.
 125
 126 define i1 @c0(i8 %x) {
 127 ; CHECK-LABEL: @c0(
 128 ; CHECK-NEXT:    [[RET:%.*]] = icmp slt i8 [[X:%.*]], 0
 129 ; CHECK-NEXT:    ret i1 [[RET]]
 130 ;
 131   %tmp0 = and i8 %x, 3
 132   %ret = icmp sgt i8 %tmp0, %x ; swapped order
 133   ret i1 %ret
 134 }
 135
 136 ; ============================================================================ ;
 137 ; Rest of negative tests
 138 ; ============================================================================ ;
 139
 140 define i1 @n0() {
 141 ; CHECK-LABEL: @n0(
 142 ; CHECK-NEXT:    [[X:%.*]] = call i8 @gen8()
 143 ; CHECK-NEXT:    [[TMP0:%.*]] = and i8 [[X]], 4
 144 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt i8 [[X]], [[TMP0]]
 145 ; CHECK-NEXT:    ret i1 [[RET]]
 146 ;
 147   %x = call i8 @gen8()
 148   %tmp0 = and i8 %x, 4 ; power-of-two, but invalid.
 149   %ret = icmp sgt i8 %x, %tmp0
 150   ret i1 %ret
 151 }
 152
 153 define i1 @n1(i8 %y, i8 %notx) {
 154 ; CHECK-LABEL: @n1(
 155 ; CHECK-NEXT:    [[X:%.*]] = call i8 @gen8()
 156 ; CHECK-NEXT:    [[TMP0:%.*]] = and i8 [[X]], 3
 157 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt i8 [[TMP0]], [[NOTX:%.*]]
 158 ; CHECK-NEXT:    ret i1 [[RET]]
 159 ;
 160   %x = call i8 @gen8()
 161   %tmp0 = and i8 %x, 3
 162   %ret = icmp sgt i8 %tmp0, %notx ; not %x
 163   ret i1 %ret
 164 }
 165
 166 define <2 x i1> @n2() {
 167 ; CHECK-LABEL: @n2(
 168 ; CHECK-NEXT:    [[X:%.*]] = call <2 x i8> @gen2x8()
 169 ; CHECK-NEXT:    [[TMP0:%.*]] = and <2 x i8> [[X]], <i8 3, i8 16>
 170 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt <2 x i8> [[X]], [[TMP0]]
 171 ; CHECK-NEXT:    ret <2 x i1> [[RET]]
 172 ;
 173   %x = call <2 x i8> @gen2x8()
 174   %tmp0 = and <2 x i8> %x, <i8 3, i8 16> ; only the first one is valid.
 175   %ret = icmp sgt <2 x i8> %x, %tmp0
 176   ret <2 x i1> %ret
 177 }
 178
 179 ; ============================================================================ ;
 180 ; Potential miscompiles.
 181 ; ============================================================================ ;
 182
 183 define i1 @pv(i8 %y) {
 184 ; CHECK-LABEL: @pv(
 185 ; CHECK-NEXT:    [[X:%.*]] = call i8 @gen8()
 186 ; CHECK-NEXT:    [[TMP0:%.*]] = lshr i8 -1, [[Y:%.*]]
 187 ; CHECK-NEXT:    [[TMP1:%.*]] = and i8 [[TMP0]], [[X]]
 188 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt i8 [[X]], [[TMP1]]
 189 ; CHECK-NEXT:    ret i1 [[RET]]
 190 ;
 191   %x = call i8 @gen8()
 192   %tmp0 = lshr i8 -1, %y
 193   %tmp1 = and i8 %tmp0, %x
 194   %ret = icmp sgt i8 %x, %tmp1
 195   ret i1 %ret
 196 }
 197
 198 define <2 x i1> @n3_vec() {
 199 ; CHECK-LABEL: @n3_vec(
 200 ; CHECK-NEXT:    [[X:%.*]] = call <2 x i8> @gen2x8()
 201 ; CHECK-NEXT:    [[TMP0:%.*]] = and <2 x i8> [[X]], <i8 3, i8 -1>
 202 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt <2 x i8> [[X]], [[TMP0]]
 203 ; CHECK-NEXT:    ret <2 x i1> [[RET]]
 204 ;
 205   %x = call <2 x i8> @gen2x8()
 206   %tmp0 = and <2 x i8> %x, <i8 3, i8 -1>
 207   %ret = icmp sgt <2 x i8> %x, %tmp0
 208   ret <2 x i1> %ret
 209 }
 210
 211 define <3 x i1> @n4_vec() {
 212 ; CHECK-LABEL: @n4_vec(
 213 ; CHECK-NEXT:    [[X:%.*]] = call <3 x i8> @gen3x8()
 214 ; CHECK-NEXT:    [[TMP0:%.*]] = and <3 x i8> [[X]], <i8 3, i8 poison, i8 -1>
 215 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt <3 x i8> [[X]], [[TMP0]]
 216 ; CHECK-NEXT:    ret <3 x i1> [[RET]]
 217 ;
 218   %x = call <3 x i8> @gen3x8()
 219   %tmp0 = and <3 x i8> %x, <i8 3, i8 poison, i8 -1>
 220   %ret = icmp sgt <3 x i8> %x, %tmp0
 221   ret <3 x i1> %ret
 222 }
 223
 224 ; Commutativity tests with variable
 225
 226 ; Ok, this one should fold. We only testing commutativity of 'and'.
 227 define i1 @cv0_GOOD(i8 %y) {
 228 ; CHECK-LABEL: @cv0_GOOD(
 229 ; CHECK-NEXT:    [[X:%.*]] = call i8 @gen8()
 230 ; CHECK-NEXT:    [[TMP0:%.*]] = lshr i8 -1, [[Y:%.*]]
 231 ; CHECK-NEXT:    [[TMP1:%.*]] = and i8 [[TMP0]], [[X]]
 232 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt i8 [[X]], [[TMP1]]
 233 ; CHECK-NEXT:    ret i1 [[RET]]
 234 ;
 235   %x = call i8 @gen8()
 236   %tmp0 = lshr i8 -1, %y
 237   %tmp1 = and i8 %tmp0, %x ; swapped order
 238   %ret = icmp sgt i8 %x, %tmp1
 239   ret i1 %ret
 240 }
 241
 242 define i1 @cv1(i8 %y) {
 243 ; CHECK-LABEL: @cv1(
 244 ; CHECK-NEXT:    [[X:%.*]] = call i8 @gen8()
 245 ; CHECK-NEXT:    [[TMP0:%.*]] = lshr i8 -1, [[Y:%.*]]
 246 ; CHECK-NEXT:    [[TMP1:%.*]] = and i8 [[X]], [[TMP0]]
 247 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt i8 [[TMP1]], [[X]]
 248 ; CHECK-NEXT:    ret i1 [[RET]]
 249 ;
 250   %x = call i8 @gen8()
 251   %tmp0 = lshr i8 -1, %y
 252   %tmp1 = and i8 %x, %tmp0
 253   %ret = icmp sgt i8 %tmp1, %x ; swapped order
 254   ret i1 %ret
 255 }
 256
 257 define i1 @cv2(i8 %x, i8 %y) {
 258 ; CHECK-LABEL: @cv2(
 259 ; CHECK-NEXT:    [[TMP0:%.*]] = lshr i8 -1, [[Y:%.*]]
 260 ; CHECK-NEXT:    [[TMP1:%.*]] = and i8 [[TMP0]], [[X:%.*]]
 261 ; CHECK-NEXT:    [[RET:%.*]] = icmp sgt i8 [[TMP1]], [[X]]
 262 ; CHECK-NEXT:    ret i1 [[RET]]
 263 ;
 264   %tmp0 = lshr i8 -1, %y
 265   %tmp1 = and i8 %tmp0, %x ; swapped order
 266   %ret = icmp sgt i8 %tmp1, %x ; swapped order
 267   ret i1 %ret
 268 }