llvm/test/Transforms/InstCombine/icmp-custom-dl.ll

   1 ; NOTE: Assertions have been autogenerated by utils/update_test_checks.py
   2 ; RUN: opt < %s -instcombine -S | FileCheck %s
   3
   4 target datalayout = "e-p:40:64:64:32-p1:16:16:16-p2:32:32:32-p3:64:64:64-i1:8:8-i8:8:8-i16:16:16-i32:32:32-i64:64:64-f32:32:32-f64:64:64-v64:64:64-v128:128:128-a0:0:64-s0:64:64-f80:128:128-n8:16:32:64"
   5
   6 declare i32 @test58_d(i64 )
   7
   8 define i1 @test59(i8* %foo) {
   9 ; CHECK-LABEL: @test59(
  10 ; CHECK-NEXT:    [[GEP1:%.*]] = getelementptr inbounds i8, i8* [[FOO:%.*]], i32 8
  11 ; CHECK-NEXT:    [[TMP1:%.*]] = ptrtoint i8* [[GEP1]] to i40
  12 ; CHECK-NEXT:    [[USE:%.*]] = zext i40 [[TMP1]] to i64
  13 ; CHECK-NEXT:    [[CALL:%.*]] = call i32 @test58_d(i64 [[USE]])
  14 ; CHECK-NEXT:    ret i1 true
  15 ;
  16   %bit = bitcast i8* %foo to i32*
  17   %gep1 = getelementptr inbounds i32, i32* %bit, i64 2
  18   %gep2 = getelementptr inbounds i8, i8* %foo, i64 10
  19   %cast1 = bitcast i32* %gep1 to i8*
  20   %cmp = icmp ult i8* %cast1, %gep2
  21   %use = ptrtoint i8* %cast1 to i64
  22   %call = call i32 @test58_d(i64 %use)
  23   ret i1 %cmp
  24 }
  25
  26 define i1 @test59_as1(i8 addrspace(1)* %foo) {
  27 ; CHECK-LABEL: @test59_as1(
  28 ; CHECK-NEXT:    [[GEP1:%.*]] = getelementptr inbounds i8, i8 addrspace(1)* [[FOO:%.*]], i16 8
  29 ; CHECK-NEXT:    [[TMP1:%.*]] = ptrtoint i8 addrspace(1)* [[GEP1]] to i16
  30 ; CHECK-NEXT:    [[USE:%.*]] = zext i16 [[TMP1]] to i64
  31 ; CHECK-NEXT:    [[CALL:%.*]] = call i32 @test58_d(i64 [[USE]])
  32 ; CHECK-NEXT:    ret i1 true
  33 ;
  34   %bit = bitcast i8 addrspace(1)* %foo to i32 addrspace(1)*
  35   %gep1 = getelementptr inbounds i32, i32 addrspace(1)* %bit, i64 2
  36   %gep2 = getelementptr inbounds i8, i8 addrspace(1)* %foo, i64 10
  37   %cast1 = bitcast i32 addrspace(1)* %gep1 to i8 addrspace(1)*
  38   %cmp = icmp ult i8 addrspace(1)* %cast1, %gep2
  39   %use = ptrtoint i8 addrspace(1)* %cast1 to i64
  40   %call = call i32 @test58_d(i64 %use)
  41   ret i1 %cmp
  42 }
  43
  44 define i1 @test60(i8* %foo, i64 %i, i64 %j) {
  45 ; CHECK-LABEL: @test60(
  46 ; CHECK-NEXT:    [[TMP1:%.*]] = trunc i64 [[I:%.*]] to i32
  47 ; CHECK-NEXT:    [[TMP2:%.*]] = trunc i64 [[J:%.*]] to i32
  48 ; CHECK-NEXT:    [[GEP1_IDX:%.*]] = shl nsw i32 [[TMP1]], 2
  49 ; CHECK-NEXT:    [[TMP3:%.*]] = icmp slt i32 [[GEP1_IDX]], [[TMP2]]
  50 ; CHECK-NEXT:    ret i1 [[TMP3]]
  51 ;
  52   %bit = bitcast i8* %foo to i32*
  53   %gep1 = getelementptr inbounds i32, i32* %bit, i64 %i
  54   %gep2 = getelementptr inbounds i8, i8* %foo, i64 %j
  55   %cast1 = bitcast i32* %gep1 to i8*
  56   %cmp = icmp ult i8* %cast1, %gep2
  57   ret i1 %cmp
  58 }
  59
  60 define i1 @test60_as1(i8 addrspace(1)* %foo, i64 %i, i64 %j) {
  61 ; CHECK-LABEL: @test60_as1(
  62 ; CHECK-NEXT:    [[TMP1:%.*]] = trunc i64 [[I:%.*]] to i16
  63 ; CHECK-NEXT:    [[TMP2:%.*]] = trunc i64 [[J:%.*]] to i16
  64 ; CHECK-NEXT:    [[GEP1_IDX:%.*]] = shl nsw i16 [[TMP1]], 2
  65 ; CHECK-NEXT:    [[TMP3:%.*]] = icmp slt i16 [[GEP1_IDX]], [[TMP2]]
  66 ; CHECK-NEXT:    ret i1 [[TMP3]]
  67 ;
  68   %bit = bitcast i8 addrspace(1)* %foo to i32 addrspace(1)*
  69   %gep1 = getelementptr inbounds i32, i32 addrspace(1)* %bit, i64 %i
  70   %gep2 = getelementptr inbounds i8, i8 addrspace(1)* %foo, i64 %j
  71   %cast1 = bitcast i32 addrspace(1)* %gep1 to i8 addrspace(1)*
  72   %cmp = icmp ult i8 addrspace(1)* %cast1, %gep2
  73   ret i1 %cmp
  74 }
  75
  76 ; Same as test60, but look through an addrspacecast instead of a
  77 ; bitcast. This uses the same sized addrspace.
  78 define i1 @test60_addrspacecast(i8* %foo, i64 %i, i64 %j) {
  79 ; CHECK-LABEL: @test60_addrspacecast(
  80 ; CHECK-NEXT:    [[TMP1:%.*]] = trunc i64 [[J:%.*]] to i32
  81 ; CHECK-NEXT:    [[I_TR:%.*]] = trunc i64 [[I:%.*]] to i32
  82 ; CHECK-NEXT:    [[TMP2:%.*]] = shl i32 [[I_TR]], 2
  83 ; CHECK-NEXT:    [[TMP3:%.*]] = icmp slt i32 [[TMP2]], [[TMP1]]
  84 ; CHECK-NEXT:    ret i1 [[TMP3]]
  85 ;
  86   %bit = addrspacecast i8* %foo to i32 addrspace(3)*
  87   %gep1 = getelementptr inbounds i32, i32 addrspace(3)* %bit, i64 %i
  88   %gep2 = getelementptr inbounds i8, i8* %foo, i64 %j
  89   %cast1 = addrspacecast i32 addrspace(3)* %gep1 to i8*
  90   %cmp = icmp ult i8* %cast1, %gep2
  91   ret i1 %cmp
  92 }
  93
  94 define i1 @test60_addrspacecast_smaller(i8* %foo, i16 %i, i64 %j) {
  95 ; CHECK-LABEL: @test60_addrspacecast_smaller(
  96 ; CHECK-NEXT:    [[GEP1_IDX:%.*]] = shl nsw i16 [[I:%.*]], 2
  97 ; CHECK-NEXT:    [[TMP1:%.*]] = trunc i64 [[J:%.*]] to i16
  98 ; CHECK-NEXT:    [[TMP2:%.*]] = icmp slt i16 [[GEP1_IDX]], [[TMP1]]
  99 ; CHECK-NEXT:    ret i1 [[TMP2]]
 100 ;
 101   %bit = addrspacecast i8* %foo to i32 addrspace(1)*
 102   %gep1 = getelementptr inbounds i32, i32 addrspace(1)* %bit, i16 %i
 103   %gep2 = getelementptr inbounds i8, i8* %foo, i64 %j
 104   %cast1 = addrspacecast i32 addrspace(1)* %gep1 to i8*
 105   %cmp = icmp ult i8* %cast1, %gep2
 106   ret i1 %cmp
 107 }
 108
 109 define i1 @test60_addrspacecast_larger(i8 addrspace(1)* %foo, i32 %i, i16 %j) {
 110 ; CHECK-LABEL: @test60_addrspacecast_larger(
 111 ; CHECK-NEXT:    [[I_TR:%.*]] = trunc i32 [[I:%.*]] to i16
 112 ; CHECK-NEXT:    [[TMP1:%.*]] = shl i16 [[I_TR]], 2
 113 ; CHECK-NEXT:    [[TMP2:%.*]] = icmp slt i16 [[TMP1]], [[J:%.*]]
 114 ; CHECK-NEXT:    ret i1 [[TMP2]]
 115 ;
 116   %bit = addrspacecast i8 addrspace(1)* %foo to i32 addrspace(2)*
 117   %gep1 = getelementptr inbounds i32, i32 addrspace(2)* %bit, i32 %i
 118   %gep2 = getelementptr inbounds i8, i8 addrspace(1)* %foo, i16 %j
 119   %cast1 = addrspacecast i32 addrspace(2)* %gep1 to i8 addrspace(1)*
 120   %cmp = icmp ult i8 addrspace(1)* %cast1, %gep2
 121   ret i1 %cmp
 122 }
 123
 124 define i1 @test61(i8* %foo, i64 %i, i64 %j) {
 125 ; CHECK-LABEL: @test61(
 126 ; CHECK-NEXT:    [[BIT:%.*]] = bitcast i8* [[FOO:%.*]] to i32*
 127 ; CHECK-NEXT:    [[TMP1:%.*]] = trunc i64 [[I:%.*]] to i32
 128 ; CHECK-NEXT:    [[GEP1:%.*]] = getelementptr i32, i32* [[BIT]], i32 [[TMP1]]
 129 ; CHECK-NEXT:    [[TMP2:%.*]] = trunc i64 [[J:%.*]] to i32
 130 ; CHECK-NEXT:    [[GEP2:%.*]] = getelementptr i8, i8* [[FOO]], i32 [[TMP2]]
 131 ; CHECK-NEXT:    [[CAST1:%.*]] = bitcast i32* [[GEP1]] to i8*
 132 ; CHECK-NEXT:    [[CMP:%.*]] = icmp ugt i8* [[GEP2]], [[CAST1]]
 133 ; CHECK-NEXT:    ret i1 [[CMP]]
 134 ;
 135   %bit = bitcast i8* %foo to i32*
 136   %gep1 = getelementptr i32, i32* %bit, i64 %i
 137   %gep2 = getelementptr  i8,  i8* %foo, i64 %j
 138   %cast1 = bitcast i32* %gep1 to i8*
 139   %cmp = icmp ult i8* %cast1, %gep2
 140   ret i1 %cmp
 141 ; Don't transform non-inbounds GEPs.
 142 }
 143
 144 define i1 @test61_as1(i8 addrspace(1)* %foo, i16 %i, i16 %j) {
 145 ; CHECK-LABEL: @test61_as1(
 146 ; CHECK-NEXT:    [[BIT:%.*]] = bitcast i8 addrspace(1)* [[FOO:%.*]] to i32 addrspace(1)*
 147 ; CHECK-NEXT:    [[GEP1:%.*]] = getelementptr i32, i32 addrspace(1)* [[BIT]], i16 [[I:%.*]]
 148 ; CHECK-NEXT:    [[GEP2:%.*]] = getelementptr i8, i8 addrspace(1)* [[FOO]], i16 [[J:%.*]]
 149 ; CHECK-NEXT:    [[CAST1:%.*]] = bitcast i32 addrspace(1)* [[GEP1]] to i8 addrspace(1)*
 150 ; CHECK-NEXT:    [[CMP:%.*]] = icmp ugt i8 addrspace(1)* [[GEP2]], [[CAST1]]
 151 ; CHECK-NEXT:    ret i1 [[CMP]]
 152 ;
 153   %bit = bitcast i8 addrspace(1)* %foo to i32 addrspace(1)*
 154   %gep1 = getelementptr i32, i32 addrspace(1)* %bit, i16 %i
 155   %gep2 = getelementptr i8, i8 addrspace(1)* %foo, i16 %j
 156   %cast1 = bitcast i32 addrspace(1)* %gep1 to i8 addrspace(1)*
 157   %cmp = icmp ult i8 addrspace(1)* %cast1, %gep2
 158   ret i1 %cmp
 159 ; Don't transform non-inbounds GEPs.
 160 }
 161
 162 ; Negative test: GEP inbounds may cross sign boundary.
 163 define i1 @test62(i8* %a) {
 164 ; CHECK-LABEL: @test62(
 165 ; CHECK-NEXT:    [[ARRAYIDX1:%.*]] = getelementptr inbounds i8, i8* [[A:%.*]], i32 1
 166 ; CHECK-NEXT:    [[ARRAYIDX2:%.*]] = getelementptr inbounds i8, i8* [[A]], i32 10
 167 ; CHECK-NEXT:    [[CMP:%.*]] = icmp slt i8* [[ARRAYIDX1]], [[ARRAYIDX2]]
 168 ; CHECK-NEXT:    ret i1 [[CMP]]
 169 ;
 170   %arrayidx1 = getelementptr inbounds i8, i8* %a, i64 1
 171   %arrayidx2 = getelementptr inbounds i8, i8* %a, i64 10
 172   %cmp = icmp slt i8* %arrayidx1, %arrayidx2
 173   ret i1 %cmp
 174 }
 175
 176 define i1 @test62_as1(i8 addrspace(1)* %a) {
 177 ; CHECK-LABEL: @test62_as1(
 178 ; CHECK-NEXT:    [[ARRAYIDX1:%.*]] = getelementptr inbounds i8, i8 addrspace(1)* [[A:%.*]], i16 1
 179 ; CHECK-NEXT:    [[ARRAYIDX2:%.*]] = getelementptr inbounds i8, i8 addrspace(1)* [[A]], i16 10
 180 ; CHECK-NEXT:    [[CMP:%.*]] = icmp slt i8 addrspace(1)* [[ARRAYIDX1]], [[ARRAYIDX2]]
 181 ; CHECK-NEXT:    ret i1 [[CMP]]
 182 ;
 183   %arrayidx1 = getelementptr inbounds i8, i8 addrspace(1)* %a, i64 1
 184   %arrayidx2 = getelementptr inbounds i8, i8 addrspace(1)* %a, i64 10
 185   %cmp = icmp slt i8 addrspace(1)* %arrayidx1, %arrayidx2
 186   ret i1 %cmp
 187 }
 188
 189
 190 ; Variation of the above with an ashr
 191 define i1 @icmp_and_ashr_multiuse(i32 %X) {
 192 ; CHECK-LABEL: @icmp_and_ashr_multiuse(
 193 ; CHECK-NEXT:    [[TMP1:%.*]] = and i32 [[X:%.*]], 240
 194 ; CHECK-NEXT:    [[TOBOOL:%.*]] = icmp ne i32 [[TMP1]], 224
 195 ; CHECK-NEXT:    [[TMP2:%.*]] = and i32 [[X]], 496
 196 ; CHECK-NEXT:    [[TOBOOL2:%.*]] = icmp ne i32 [[TMP2]], 432
 197 ; CHECK-NEXT:    [[AND3:%.*]] = and i1 [[TOBOOL]], [[TOBOOL2]]
 198 ; CHECK-NEXT:    ret i1 [[AND3]]
 199 ;
 200   %shr = ashr i32 %X, 4
 201   %and = and i32 %shr, 15
 202   %and2 = and i32 %shr, 31 ; second use of the shift
 203   %tobool = icmp ne i32 %and, 14
 204   %tobool2 = icmp ne i32 %and2, 27
 205   %and3 = and i1 %tobool, %tobool2
 206   ret i1 %and3
 207 }
 208
 209 define i1 @icmp_and_ashr_multiuse_logical(i32 %X) {
 210 ; CHECK-LABEL: @icmp_and_ashr_multiuse_logical(
 211 ; CHECK-NEXT:    [[TMP1:%.*]] = and i32 [[X:%.*]], 240
 212 ; CHECK-NEXT:    [[TOBOOL:%.*]] = icmp ne i32 [[TMP1]], 224
 213 ; CHECK-NEXT:    [[TMP2:%.*]] = and i32 [[X]], 496
 214 ; CHECK-NEXT:    [[TOBOOL2:%.*]] = icmp ne i32 [[TMP2]], 432
 215 ; CHECK-NEXT:    [[AND3:%.*]] = and i1 [[TOBOOL]], [[TOBOOL2]]
 216 ; CHECK-NEXT:    ret i1 [[AND3]]
 217 ;
 218   %shr = ashr i32 %X, 4
 219   %and = and i32 %shr, 15
 220   %and2 = and i32 %shr, 31 ; second use of the shift
 221   %tobool = icmp ne i32 %and, 14
 222   %tobool2 = icmp ne i32 %and2, 27
 223   %and3 = select i1 %tobool, i1 %tobool2, i1 false
 224   ret i1 %and3
 225 }
 226
 227 define i1 @icmp_lshr_and_overshift(i8 %X) {
 228 ; CHECK-LABEL: @icmp_lshr_and_overshift(
 229 ; CHECK-NEXT:    [[TOBOOL:%.*]] = icmp ugt i8 [[X:%.*]], 31
 230 ; CHECK-NEXT:    ret i1 [[TOBOOL]]
 231 ;
 232   %shr = lshr i8 %X, 5
 233   %and = and i8 %shr, 15
 234   %tobool = icmp ne i8 %and, 0
 235   ret i1 %tobool
 236 }
 237
 238 ; We shouldn't simplify this because the and uses bits that are shifted in.
 239 define i1 @icmp_ashr_and_overshift(i8 %X) {
 240 ; CHECK-LABEL: @icmp_ashr_and_overshift(
 241 ; CHECK-NEXT:    [[SHR:%.*]] = ashr i8 [[X:%.*]], 5
 242 ; CHECK-NEXT:    [[AND:%.*]] = and i8 [[SHR]], 15
 243 ; CHECK-NEXT:    [[TOBOOL:%.*]] = icmp ne i8 [[AND]], 0
 244 ; CHECK-NEXT:    ret i1 [[TOBOOL]]
 245 ;
 246   %shr = ashr i8 %X, 5
 247   %and = and i8 %shr, 15
 248   %tobool = icmp ne i8 %and, 0
 249   ret i1 %tobool
 250 }
 251
 252 ; PR16244
 253 define i1 @test71(i8* %x) {
 254 ; CHECK-LABEL: @test71(
 255 ; CHECK-NEXT:    ret i1 false
 256 ;
 257   %a = getelementptr i8, i8* %x, i64 8
 258   %b = getelementptr inbounds i8, i8* %x, i64 8
 259   %c = icmp ugt i8* %a, %b
 260   ret i1 %c
 261 }
 262
 263 define i1 @test71_as1(i8 addrspace(1)* %x) {
 264 ; CHECK-LABEL: @test71_as1(
 265 ; CHECK-NEXT:    ret i1 false
 266 ;
 267   %a = getelementptr i8, i8 addrspace(1)* %x, i64 8
 268   %b = getelementptr inbounds i8, i8 addrspace(1)* %x, i64 8
 269   %c = icmp ugt i8 addrspace(1)* %a, %b
 270   ret i1 %c
 271 }
 272