1 ; RUN: llc %s -o - -mtriple=armv8 -mattr=+crypto,+fuse-aes -enable-misched -disable-post-ra | FileCheck %s
3 declare <16 x i8> @llvm.arm.neon.aese(<16 x i8> %d, <16 x i8> %k)
4 declare <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %d)
5 declare <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %d, <16 x i8> %k)
6 declare <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %d)
8 define void @aesea(<16 x i8>* %a0, <16 x i8>* %b0, <16 x i8>* %c0, <16 x i8> %d, <16 x i8> %e) {
9 %d0 = load <16 x i8>, <16 x i8>* %a0
10 %a1 = getelementptr inbounds <16 x i8>, <16 x i8>* %a0, i64 1
11 %d1 = load <16 x i8>, <16 x i8>* %a1
12 %a2 = getelementptr inbounds <16 x i8>, <16 x i8>* %a0, i64 2
13 %d2 = load <16 x i8>, <16 x i8>* %a2
14 %a3 = getelementptr inbounds <16 x i8>, <16 x i8>* %a0, i64 3
15 %d3 = load <16 x i8>, <16 x i8>* %a3
16 %k0 = load <16 x i8>, <16 x i8>* %b0
17 %e00 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %d0, <16 x i8> %k0)
18 %f00 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e00)
19 %e01 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %d1, <16 x i8> %k0)
20 %f01 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e01)
21 %e02 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %d2, <16 x i8> %k0)
22 %f02 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e02)
23 %e03 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %d3, <16 x i8> %k0)
24 %f03 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e03)
25 %b1 = getelementptr inbounds <16 x i8>, <16 x i8>* %b0, i64 1
26 %k1 = load <16 x i8>, <16 x i8>* %b1
27 %e10 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f00, <16 x i8> %k1)
28 %f10 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e00)
29 %e11 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f01, <16 x i8> %k1)
30 %f11 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e01)
31 %e12 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f02, <16 x i8> %k1)
32 %f12 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e02)
33 %e13 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f03, <16 x i8> %k1)
34 %f13 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e03)
35 %b2 = getelementptr inbounds <16 x i8>, <16 x i8>* %b0, i64 2
36 %k2 = load <16 x i8>, <16 x i8>* %b2
37 %e20 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f10, <16 x i8> %k2)
38 %f20 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e10)
39 %e21 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f11, <16 x i8> %k2)
40 %f21 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e11)
41 %e22 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f12, <16 x i8> %k2)
42 %f22 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e12)
43 %e23 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f13, <16 x i8> %k2)
44 %f23 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e13)
45 %b3 = getelementptr inbounds <16 x i8>, <16 x i8>* %b0, i64 3
46 %k3 = load <16 x i8>, <16 x i8>* %b3
47 %e30 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f20, <16 x i8> %k3)
48 %f30 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e20)
49 %e31 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f21, <16 x i8> %k3)
50 %f31 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e21)
51 %e32 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f22, <16 x i8> %k3)
52 %f32 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e22)
53 %e33 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f23, <16 x i8> %k3)
54 %f33 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e23)
55 %g0 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f30, <16 x i8> %d)
56 %h0 = xor <16 x i8> %g0, %e
57 %g1 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f31, <16 x i8> %d)
58 %h1 = xor <16 x i8> %g1, %e
59 %g2 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f32, <16 x i8> %d)
60 %h2 = xor <16 x i8> %g2, %e
61 %g3 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f33, <16 x i8> %d)
62 %h3 = xor <16 x i8> %g3, %e
63 store <16 x i8> %h0, <16 x i8>* %c0
64 %c1 = getelementptr inbounds <16 x i8>, <16 x i8>* %c0, i64 1
65 store <16 x i8> %h1, <16 x i8>* %c1
66 %c2 = getelementptr inbounds <16 x i8>, <16 x i8>* %c0, i64 2
67 store <16 x i8> %h2, <16 x i8>* %c2
68 %c3 = getelementptr inbounds <16 x i8>, <16 x i8>* %c0, i64 3
69 store <16 x i8> %h3, <16 x i8>* %c3
73 ; CHECK: aese.8 [[QA:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
74 ; CHECK-NEXT: aesmc.8 {{q[0-9][0-9]?}}, [[QA]]
76 ; CHECK: aese.8 [[QB:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
77 ; CHECK-NEXT: aesmc.8 {{q[0-9][0-9]?}}, [[QB]]
79 ; CHECK: aese.8 {{q[0-9][0-9]?}}, {{q[0-9][0-9]?}}
80 ; CHECK: aese.8 [[QC:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
81 ; CHECK-NEXT: aesmc.8 {{q[0-9][0-9]?}}, [[QC]]
83 ; CHECK: aese.8 [[QD:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
84 ; CHECK-NEXT: aesmc.8 {{q[0-9][0-9]?}}, [[QD]]
86 ; CHECK: aese.8 [[QE:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
87 ; CHECK-NEXT: aesmc.8 {{q[0-9][0-9]?}}, [[QE]]
89 ; CHECK: aese.8 [[QF:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
90 ; CHECK-NEXT: aesmc.8 {{q[0-9][0-9]?}}, [[QF]]
92 ; CHECK: aese.8 {{q[0-9][0-9]?}}, {{q[0-9][0-9]?}}
93 ; CHECK: aese.8 [[QG:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
94 ; CHECK-NEXT: aesmc.8 {{q[0-9][0-9]?}}, [[QG]]
96 ; CHECK: aese.8 {{q[0-9][0-9]?}}, {{q[0-9][0-9]?}}
98 ; CHECK: aese.8 [[QH:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
99 ; CHECK-NEXT: aesmc.8 {{q[0-9][0-9]?}}, [[QH]]
102 define void @aesda(<16 x i8>* %a0, <16 x i8>* %b0, <16 x i8>* %c0, <16 x i8> %d, <16 x i8> %e) {
103 %d0 = load <16 x i8>, <16 x i8>* %a0
104 %a1 = getelementptr inbounds <16 x i8>, <16 x i8>* %a0, i64 1
105 %d1 = load <16 x i8>, <16 x i8>* %a1
106 %a2 = getelementptr inbounds <16 x i8>, <16 x i8>* %a0, i64 2
107 %d2 = load <16 x i8>, <16 x i8>* %a2
108 %a3 = getelementptr inbounds <16 x i8>, <16 x i8>* %a0, i64 3
109 %d3 = load <16 x i8>, <16 x i8>* %a3
110 %k0 = load <16 x i8>, <16 x i8>* %b0
111 %e00 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %d0, <16 x i8> %k0)
112 %f00 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e00)
113 %e01 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %d1, <16 x i8> %k0)
114 %f01 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e01)
115 %e02 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %d2, <16 x i8> %k0)
116 %f02 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e02)
117 %e03 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %d3, <16 x i8> %k0)
118 %f03 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e03)
119 %b1 = getelementptr inbounds <16 x i8>, <16 x i8>* %b0, i64 1
120 %k1 = load <16 x i8>, <16 x i8>* %b1
121 %e10 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f00, <16 x i8> %k1)
122 %f10 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e00)
123 %e11 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f01, <16 x i8> %k1)
124 %f11 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e01)
125 %e12 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f02, <16 x i8> %k1)
126 %f12 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e02)
127 %e13 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f03, <16 x i8> %k1)
128 %f13 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e03)
129 %b2 = getelementptr inbounds <16 x i8>, <16 x i8>* %b0, i64 2
130 %k2 = load <16 x i8>, <16 x i8>* %b2
131 %e20 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f10, <16 x i8> %k2)
132 %f20 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e10)
133 %e21 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f11, <16 x i8> %k2)
134 %f21 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e11)
135 %e22 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f12, <16 x i8> %k2)
136 %f22 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e12)
137 %e23 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f13, <16 x i8> %k2)
138 %f23 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e13)
139 %b3 = getelementptr inbounds <16 x i8>, <16 x i8>* %b0, i64 3
140 %k3 = load <16 x i8>, <16 x i8>* %b3
141 %e30 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f20, <16 x i8> %k3)
142 %f30 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e20)
143 %e31 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f21, <16 x i8> %k3)
144 %f31 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e21)
145 %e32 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f22, <16 x i8> %k3)
146 %f32 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e22)
147 %e33 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f23, <16 x i8> %k3)
148 %f33 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e23)
149 %g0 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f30, <16 x i8> %d)
150 %h0 = xor <16 x i8> %g0, %e
151 %g1 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f31, <16 x i8> %d)
152 %h1 = xor <16 x i8> %g1, %e
153 %g2 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f32, <16 x i8> %d)
154 %h2 = xor <16 x i8> %g2, %e
155 %g3 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f33, <16 x i8> %d)
156 %h3 = xor <16 x i8> %g3, %e
157 store <16 x i8> %h0, <16 x i8>* %c0
158 %c1 = getelementptr inbounds <16 x i8>, <16 x i8>* %c0, i64 1
159 store <16 x i8> %h1, <16 x i8>* %c1
160 %c2 = getelementptr inbounds <16 x i8>, <16 x i8>* %c0, i64 2
161 store <16 x i8> %h2, <16 x i8>* %c2
162 %c3 = getelementptr inbounds <16 x i8>, <16 x i8>* %c0, i64 3
163 store <16 x i8> %h3, <16 x i8>* %c3
166 ; CHECK-LABEL: aesda:
167 ; CHECK: aesd.8 [[QA:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
168 ; CHECK-NEXT: aesimc.8 {{q[0-9][0-9]?}}, [[QA]]
170 ; CHECK: aesd.8 [[QB:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
171 ; CHECK-NEXT: aesimc.8 {{q[0-9][0-9]?}}, [[QB]]
173 ; CHECK: aesd.8 {{q[0-9][0-9]?}}, {{q[0-9][0-9]?}}
174 ; CHECK: aesd.8 [[QC:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
175 ; CHECK-NEXT: aesimc.8 {{q[0-9][0-9]?}}, [[QC]]
177 ; CHECK: aesd.8 [[QD:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
178 ; CHECK-NEXT: aesimc.8 {{q[0-9][0-9]?}}, [[QD]]
180 ; CHECK: aesd.8 [[QE:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
181 ; CHECK-NEXT: aesimc.8 {{q[0-9][0-9]?}}, [[QE]]
183 ; CHECK: aesd.8 [[QF:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
184 ; CHECK-NEXT: aesimc.8 {{q[0-9][0-9]?}}, [[QF]]
186 ; CHECK: aesd.8 {{q[0-9][0-9]?}}, {{q[0-9][0-9]?}}
187 ; CHECK: aesd.8 [[QG:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
188 ; CHECK-NEXT: aesimc.8 {{q[0-9][0-9]?}}, [[QG]]
190 ; CHECK: aesd.8 {{q[0-9][0-9]?}}, {{q[0-9][0-9]?}}
191 ; CHECK: aesd.8 [[QH:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
192 ; CHECK-NEXT: aesimc.8 {{q[0-9][0-9]?}}, [[QH]]
195 define void @aes_load_store(<16 x i8> *%p1, <16 x i8> *%p2 , <16 x i8> *%p3) {
197 %x1 = alloca <16 x i8>, align 16
198 %x2 = alloca <16 x i8>, align 16
199 %x3 = alloca <16 x i8>, align 16
200 %x4 = alloca <16 x i8>, align 16
201 %x5 = alloca <16 x i8>, align 16
202 %in1 = load <16 x i8>, <16 x i8>* %p1, align 16
203 store <16 x i8> %in1, <16 x i8>* %x1, align 16
204 %aese1 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %in1, <16 x i8> %in1) #2
205 store <16 x i8> %aese1, <16 x i8>* %x2, align 16
206 %in2 = load <16 x i8>, <16 x i8>* %p2, align 16
207 %aesmc1= call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %aese1) #2
208 store <16 x i8> %aesmc1, <16 x i8>* %x3, align 16
209 %aese2 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %in1, <16 x i8> %in2) #2
210 store <16 x i8> %aese2, <16 x i8>* %x4, align 16
211 %aesmc2= call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %aese2) #2
212 store <16 x i8> %aesmc2, <16 x i8>* %x5, align 16
215 ; CHECK-LABEL: aes_load_store:
216 ; CHECK: aese.8 [[QA:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
217 ; CHECK-NEXT: aesmc.8 {{q[0-9][0-9]?}}, [[QA]]
219 ; CHECK: aese.8 [[QB:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
220 ; CHECK-NEXT: aesmc.8 {{q[0-9][0-9]?}}, [[QB]]