[sanitizer] Improve FreeBSD ASLR detection
[llvm-project.git] / llvm / test / Transforms / InstCombine / memset-1.ll
blob81d31aa86c197de995ee60545645b82966f8b801
1 ; NOTE: Assertions have been autogenerated by utils/update_test_checks.py
2 ; Test that the memset library call simplifier works correctly.
4 ; RUN: opt < %s -instcombine -S | FileCheck %s
6 target datalayout = "e-p:32:32:32-i1:8:8-i8:8:8-i16:16:16-i32:32:32-i64:32:64-f32:32:32-f64:32:64-v64:64:64-v128:128:128-a0:0:64-f80:128:128"
8 declare i8* @memset(i8*, i32, i32)
9 declare void @llvm.memset.p0i8.i32(i8* nocapture writeonly, i8, i32, i32, i1)
10 declare noalias i8* @malloc(i32) #1
12 ; Check memset(mem1, val, size) -> llvm.memset(mem1, val, size, 1).
14 define i8* @test_simplify1(i8* %mem, i32 %val, i32 %size) {
15 ; CHECK-LABEL: @test_simplify1(
16 ; CHECK-NEXT:    [[TMP1:%.*]] = trunc i32 [[VAL:%.*]] to i8
17 ; CHECK-NEXT:    call void @llvm.memset.p0i8.i32(i8* align 1 [[MEM:%.*]], i8 [[TMP1]], i32 [[SIZE:%.*]], i1 false)
18 ; CHECK-NEXT:    ret i8* [[MEM]]
20   %ret = call i8* @memset(i8* %mem, i32 %val, i32 %size)
21   ret i8* %ret
24 define i8* @test_simplify1_tail(i8* %mem, i32 %val, i32 %size) {
25 ; CHECK-LABEL: @test_simplify1_tail(
26 ; CHECK-NEXT:    [[TMP1:%.*]] = trunc i32 [[VAL:%.*]] to i8
27 ; CHECK-NEXT:    tail call void @llvm.memset.p0i8.i32(i8* align 1 [[MEM:%.*]], i8 [[TMP1]], i32 [[SIZE:%.*]], i1 false)
28 ; CHECK-NEXT:    ret i8* [[MEM]]
30   %ret = tail call i8* @memset(i8* %mem, i32 %val, i32 %size)
31   ret i8* %ret
34 define i8* @test_simplify1_musttail(i8* %mem, i32 %val, i32 %size) {
35 ; CHECK-LABEL: @test_simplify1_musttail(
36 ; CHECK-NEXT:    %ret = musttail call i8* @memset(i8* %mem, i32 %val, i32 %size)
37 ; CHECK-NEXT:    ret i8* %ret
39   %ret = musttail call i8* @memset(i8* %mem, i32 %val, i32 %size)
40   ret i8* %ret
43 ; Malloc + memset pattern is now handled by DSE in a more general way.
45 define i8* @pr25892_lite(i32 %size) #0 {
46 ; CHECK-LABEL: @pr25892_lite(
47 ; CHECK-NEXT:    [[CALL:%.*]] = call i8* @malloc(i32 [[SIZE:%.*]])
48 ; CHECK-NEXT:    call void @llvm.memset.p0i8.i32(i8* align 1 [[CALL]], i8 0, i32 [[SIZE]], i1 false)
50   %call1 = call i8* @malloc(i32 %size) #1
51   %call2 = call i8* @memset(i8* %call1, i32 0, i32 %size) #1
52   ret i8* %call2
55 ; A memset intrinsic should be handled similarly to a memset() libcall.
56 ; Notice that malloc + memset pattern is now handled by DSE in a more general way.
58 define i8* @malloc_and_memset_intrinsic(i32 %n) #0 {
59 ; CHECK-LABEL: @malloc_and_memset_intrinsic(
60 ; CHECK-NEXT:    [[CALL:%.*]] = call i8* @malloc(i32 [[N:%.*]])
61 ; CHECK-NEXT:    call void @llvm.memset.p0i8.i32(i8* align 1 [[CALL]], i8 0, i32 [[N]], i1 false)
62 ; CHECK-NEXT:    ret i8* [[CALL]]
64   %call = call i8* @malloc(i32 %n)
65   call void @llvm.memset.p0i8.i32(i8* %call, i8 0, i32 %n, i32 1, i1 false)
66   ret i8* %call
69 ; This should not create a calloc and should not crash the compiler.
70 ; Notice that malloc + memset pattern is now handled by DSE in a more general way.
72 define i8* @notmalloc_memset(i32 %size, i8*(i32)* %notmalloc) {
73 ; CHECK-LABEL: @notmalloc_memset(
74 ; CHECK-NEXT:    [[CALL1:%.*]] = call i8* [[NOTMALLOC:%.*]](i32 [[SIZE:%.*]]) [[ATTR0:#.*]]
75 ; CHECK-NEXT:    call void @llvm.memset.p0i8.i32(i8* align 1 [[CALL1]], i8 0, i32 [[SIZE]], i1 false) [[ATTR0]]
76 ; CHECK-NEXT:    ret i8* [[CALL1]]
78   %call1 = call i8* %notmalloc(i32 %size) #1
79   %call2 = call i8* @memset(i8* %call1, i32 0, i32 %size) #1
80   ret i8* %call2
83 ; This doesn't fire currently because the malloc has more than one use.
84 ; Notice that malloc + memset pattern is now handled by DSE in a more general way.
86 define float* @pr25892(i32 %size) #0 {
87 ; CHECK-LABEL: @pr25892(
88 ; CHECK-NEXT:  entry:
89 ; CHECK-NEXT:    [[CALL:%.*]] = tail call i8* @malloc(i32 [[SIZE:%.*]]) [[ATTR0]]
90 ; CHECK-NEXT:    [[CMP:%.*]] = icmp eq i8* [[CALL]], null
91 ; CHECK-NEXT:    br i1 [[CMP]], label [[CLEANUP:%.*]], label [[IF_END:%.*]]
92 ; CHECK:       if.end:
93 ; CHECK-NEXT:    [[BC:%.*]] = bitcast i8* [[CALL]] to float*
94 ; CHECK-NEXT:    call void @llvm.memset.p0i8.i32(i8* nonnull align 1 [[CALL]], i8 0, i32 [[SIZE]], i1 false) [[ATTR0]]
95 ; CHECK-NEXT:    br label [[CLEANUP]]
96 ; CHECK:       cleanup:
97 ; CHECK-NEXT:    [[RETVAL_0:%.*]] = phi float* [ [[BC]], [[IF_END]] ], [ null, [[ENTRY:%.*]] ]
98 ; CHECK-NEXT:    ret float* [[RETVAL_0]]
100 entry:
101   %call = tail call i8* @malloc(i32 %size) #1
102   %cmp = icmp eq i8* %call, null
103   br i1 %cmp, label %cleanup, label %if.end
104 if.end:
105   %bc = bitcast i8* %call to float*
106   %call2 = tail call i8* @memset(i8* nonnull %call, i32 0, i32 %size) #1
107   br label %cleanup
108 cleanup:
109   %retval.0 = phi float* [ %bc, %if.end ], [ null, %entry ]
110   ret float* %retval.0
113 ; If there's a calloc transform, the store must also be eliminated.
115 define i8* @buffer_is_modified_then_memset(i32 %size) {
116 ; CHECK-LABEL: @buffer_is_modified_then_memset(
117 ; CHECK-NEXT:    [[PTR:%.*]] = tail call i8* @malloc(i32 [[SIZE:%.*]]) [[ATTR0]]
118 ; CHECK-NEXT:    store i8 1, i8* [[PTR]], align 1
119 ; CHECK-NEXT:    call void @llvm.memset.p0i8.i32(i8* nonnull align 1 [[PTR]], i8 0, i32 [[SIZE]], i1 false) [[ATTR0]]
120 ; CHECK-NEXT:    ret i8* [[PTR]]
122   %ptr = tail call i8* @malloc(i32 %size) #1
123   store i8 1, i8* %ptr           ;; fdata[0] = 1;
124   %memset = tail call i8* @memset(i8* nonnull %ptr, i32 0, i32 %size) #1
125   ret i8* %memset
128 define i8* @memset_size_select(i1 %b, i8* %ptr) {
129 ; CHECK-LABEL: @memset_size_select(
130 ; CHECK-NEXT:    [[SIZE:%.*]] = select i1 [[B:%.*]], i32 10, i32 50
131 ; CHECK-NEXT:    call void @llvm.memset.p0i8.i32(i8* noundef nonnull align 1 dereferenceable(10) [[PTR:%.*]], i8 0, i32 [[SIZE]], i1 false) [[ATTR0]]
132 ; CHECK-NEXT:    ret i8* [[PTR]]
134   %size = select i1 %b, i32 10, i32 50
135   %memset = tail call i8* @memset(i8* nonnull %ptr, i32 0, i32 %size) #1
136   ret i8* %memset
140 define i8* @memset_size_select2(i1 %b, i8* %ptr) {
141 ; CHECK-LABEL: @memset_size_select2(
142 ; CHECK-NEXT:    [[SIZE:%.*]] = select i1 [[B:%.*]], i32 10, i32 50
143 ; CHECK-NEXT:    call void @llvm.memset.p0i8.i32(i8* noundef nonnull align 1 dereferenceable(80) [[PTR:%.*]], i8 0, i32 [[SIZE]], i1 false) [[ATTR0]]
144 ; CHECK-NEXT:    ret i8* [[PTR]]
146   %size = select i1 %b, i32 10, i32 50
147   %memset = tail call i8* @memset(i8* nonnull dereferenceable(80) %ptr, i32 0, i32 %size) #1
148   ret i8* %memset
151 define i8* @memset_size_select3(i1 %b, i8* %ptr) {
152 ; CHECK-LABEL: @memset_size_select3(
153 ; CHECK-NEXT:    [[SIZE:%.*]] = select i1 [[B:%.*]], i32 10, i32 50
154 ; CHECK-NEXT:    call void @llvm.memset.p0i8.i32(i8* noundef nonnull align 1 dereferenceable(40) [[PTR:%.*]], i8 0, i32 [[SIZE]], i1 false)
155 ; CHECK-NEXT:    ret i8* [[PTR]]
157   %size = select i1 %b, i32 10, i32 50
158   %memset = tail call i8* @memset(i8* dereferenceable_or_null(40) %ptr, i32 0, i32 %size)
159   ret i8* %memset
162 define i8* @memset_size_select4(i1 %b, i8* %ptr) {
163 ; CHECK-LABEL: @memset_size_select4(
164 ; CHECK-NEXT:    [[SIZE:%.*]] = select i1 [[B:%.*]], i32 10, i32 50
165 ; CHECK-NEXT:    call void @llvm.memset.p0i8.i32(i8* noundef nonnull align 1 dereferenceable(40) [[PTR:%.*]], i8 0, i32 [[SIZE]], i1 false) [[ATTR0]]
166 ; CHECK-NEXT:    ret i8* [[PTR]]
168   %size = select i1 %b, i32 10, i32 50
169   %memset = tail call i8* @memset(i8* nonnull dereferenceable_or_null(40) %ptr, i32 0, i32 %size) #1
170   ret i8* %memset
173 define i8* @memset_size_ashr(i1 %b, i8* %ptr, i32 %v) {
174 ; CHECK-LABEL: @memset_size_ashr(
175 ; CHECK-NEXT:    [[SIZE:%.*]] = ashr i32 -2, [[V:%.*]]
176 ; CHECK-NEXT:    call void @llvm.memset.p0i8.i32(i8* noundef nonnull align 1 [[PTR:%.*]], i8 0, i32 [[SIZE]], i1 false) [[ATTR0]]
177 ; CHECK-NEXT:    ret i8* [[PTR]]
179   %size = ashr i32 -2, %v
180   %memset = tail call i8* @memset(i8* nonnull %ptr, i32 0, i32 %size) #1
181   ret i8* %memset
184 define i8* @memset_attrs1(i1 %b, i8* %ptr, i32 %size) {
185 ; CHECK-LABEL: @memset_attrs1(
186 ; CHECK-NEXT:    call void @llvm.memset.p0i8.i32(i8* align 1 dereferenceable_or_null(40) [[PTR:%.*]], i8 0, i32 [[SIZE:%.*]], i1 false) [[ATTR0]]
187 ; CHECK-NEXT:    ret i8* [[PTR]]
189   %memset = tail call i8* @memset(i8* dereferenceable_or_null(40) %ptr, i32 0, i32 %size) #1
190   ret i8* %memset
193 ; be sure to drop nonnull since size is unknown and can be 0
194 ; do not change dereferenceable attribute
195 define i8* @memset_attrs2(i1 %b, i8* %ptr, i32 %size) {
196 ; CHECK-LABEL: @memset_attrs2(
197 ; CHECK-NEXT:    call void @llvm.memset.p0i8.i32(i8* nonnull align 1 dereferenceable(40) [[PTR:%.*]], i8 0, i32 [[SIZE:%.*]], i1 false) [[ATTR0]]
198 ; CHECK-NEXT:    ret i8* [[PTR]]
200   %memset = tail call i8* @memset(i8* nonnull dereferenceable(40) %ptr, i32 0, i32 %size) #1
201   ret i8* %memset
204 ; size is unknown, just copy attrs, no changes in attrs
205 define i8* @memset_attrs3(i1 %b, i8* %ptr, i32 %size) {
206 ; CHECK-LABEL: @memset_attrs3(
207 ; CHECK-NEXT:    call void @llvm.memset.p0i8.i32(i8* nonnull align 1 dereferenceable_or_null(40) [[PTR:%.*]], i8 0, i32 [[SIZE:%.*]], i1 false) [[ATTR0]]
208 ; CHECK-NEXT:    ret i8* [[PTR]]
210   %memset = tail call i8* @memset(i8* nonnull dereferenceable_or_null(40) %ptr, i32 0, i32 %size) #1
211   ret i8* %memset
214 ; be sure to drop nonnull since size is unknown and can be 0
215 define i8* @memset_attrs4(i1 %b, i8* %ptr, i32 %size) {
216 ; CHECK-LABEL: @memset_attrs4(
217 ; CHECK-NEXT:    call void @llvm.memset.p0i8.i32(i8* nonnull align 1 [[PTR:%.*]], i8 0, i32 [[SIZE:%.*]], i1 false) [[ATTR0]]
218 ; CHECK-NEXT:    ret i8* [[PTR]]
220   %memset = tail call i8* @memset(i8* nonnull %ptr, i32 0, i32 %size) #1
221   ret i8* %memset
224 define i8* @test_no_incompatible_attr(i8* %mem, i32 %val, i32 %size) {
225 ; CHECK-LABEL: @test_no_incompatible_attr(
226 ; CHECK-NEXT:    [[TMP1:%.*]] = trunc i32 [[VAL:%.*]] to i8
227 ; CHECK-NEXT:    call void @llvm.memset.p0i8.i32(i8* align 1 [[MEM:%.*]], i8 [[TMP1]], i32 [[SIZE:%.*]], i1 false)
228 ; CHECK-NEXT:    ret i8* [[MEM]]
230   %ret = call dereferenceable(1) i8* @memset(i8* %mem, i32 %val, i32 %size)
231   ret i8* %ret
234 attributes #0 = { nounwind ssp uwtable }
235 attributes #1 = { nounwind }
236 attributes #2 = { nounwind readnone }