test/CodeGen/X86/bitreverse.ll

   1 ; NOTE: Assertions have been autogenerated by utils/update_llc_test_checks.py
   2 ; RUN: llc < %s -mtriple=i686-unknown | FileCheck %s --check-prefix=X86
   3 ; RUN: llc < %s -mtriple=x86_64-unknown | FileCheck %s --check-prefix=X64
   4
   5 ; These tests just check that the plumbing is in place for @llvm.bitreverse. The
   6 ; actual output is massive at the moment as llvm.bitreverse is not yet legal.
   7
   8 declare <2 x i16> @llvm.bitreverse.v2i16(<2 x i16>) readnone
   9
  10 define <2 x i16> @test_bitreverse_v2i16(<2 x i16> %a) nounwind {
  11 ; X86-LABEL: test_bitreverse_v2i16:
  12 ; X86:       # %bb.0:
  13 ; X86-NEXT:    movzwl {{[0-9]+}}(%esp), %ecx
  14 ; X86-NEXT:    movzwl {{[0-9]+}}(%esp), %eax
  15 ; X86-NEXT:    rolw $8, %ax
  16 ; X86-NEXT:    movl %eax, %edx
  17 ; X86-NEXT:    andl $3855, %edx # imm = 0xF0F
  18 ; X86-NEXT:    shll $4, %edx
  19 ; X86-NEXT:    andl $61680, %eax # imm = 0xF0F0
  20 ; X86-NEXT:    shrl $4, %eax
  21 ; X86-NEXT:    orl %edx, %eax
  22 ; X86-NEXT:    movl %eax, %edx
  23 ; X86-NEXT:    andl $13107, %edx # imm = 0x3333
  24 ; X86-NEXT:    andl $52428, %eax # imm = 0xCCCC
  25 ; X86-NEXT:    shrl $2, %eax
  26 ; X86-NEXT:    leal (%eax,%edx,4), %eax
  27 ; X86-NEXT:    movl %eax, %edx
  28 ; X86-NEXT:    andl $21845, %edx # imm = 0x5555
  29 ; X86-NEXT:    andl $43690, %eax # imm = 0xAAAA
  30 ; X86-NEXT:    shrl %eax
  31 ; X86-NEXT:    leal (%eax,%edx,2), %eax
  32 ; X86-NEXT:    rolw $8, %cx
  33 ; X86-NEXT:    movl %ecx, %edx
  34 ; X86-NEXT:    andl $3855, %edx # imm = 0xF0F
  35 ; X86-NEXT:    shll $4, %edx
  36 ; X86-NEXT:    andl $61680, %ecx # imm = 0xF0F0
  37 ; X86-NEXT:    shrl $4, %ecx
  38 ; X86-NEXT:    orl %edx, %ecx
  39 ; X86-NEXT:    movl %ecx, %edx
  40 ; X86-NEXT:    andl $13107, %edx # imm = 0x3333
  41 ; X86-NEXT:    andl $52428, %ecx # imm = 0xCCCC
  42 ; X86-NEXT:    shrl $2, %ecx
  43 ; X86-NEXT:    leal (%ecx,%edx,4), %ecx
  44 ; X86-NEXT:    movl %ecx, %edx
  45 ; X86-NEXT:    andl $21845, %edx # imm = 0x5555
  46 ; X86-NEXT:    andl $43690, %ecx # imm = 0xAAAA
  47 ; X86-NEXT:    shrl %ecx
  48 ; X86-NEXT:    leal (%ecx,%edx,2), %edx
  49 ; X86-NEXT:    # kill: def $ax killed $ax killed $eax
  50 ; X86-NEXT:    # kill: def $dx killed $dx killed $edx
  51 ; X86-NEXT:    retl
  52 ;
  53 ; X64-LABEL: test_bitreverse_v2i16:
  54 ; X64:       # %bb.0:
  55 ; X64-NEXT:    pxor %xmm1, %xmm1
  56 ; X64-NEXT:    movdqa %xmm0, %xmm2
  57 ; X64-NEXT:    punpckhbw {{.*#+}} xmm2 = xmm2[8],xmm1[8],xmm2[9],xmm1[9],xmm2[10],xmm1[10],xmm2[11],xmm1[11],xmm2[12],xmm1[12],xmm2[13],xmm1[13],xmm2[14],xmm1[14],xmm2[15],xmm1[15]
  58 ; X64-NEXT:    pshufd {{.*#+}} xmm2 = xmm2[2,3,0,1]
  59 ; X64-NEXT:    pshuflw {{.*#+}} xmm2 = xmm2[3,2,1,0,4,5,6,7]
  60 ; X64-NEXT:    pshufhw {{.*#+}} xmm2 = xmm2[0,1,2,3,7,6,5,4]
  61 ; X64-NEXT:    punpcklbw {{.*#+}} xmm0 = xmm0[0],xmm1[0],xmm0[1],xmm1[1],xmm0[2],xmm1[2],xmm0[3],xmm1[3],xmm0[4],xmm1[4],xmm0[5],xmm1[5],xmm0[6],xmm1[6],xmm0[7],xmm1[7]
  62 ; X64-NEXT:    pshufd {{.*#+}} xmm0 = xmm0[2,3,0,1]
  63 ; X64-NEXT:    pshuflw {{.*#+}} xmm0 = xmm0[3,2,1,0,4,5,6,7]
  64 ; X64-NEXT:    pshufhw {{.*#+}} xmm1 = xmm0[0,1,2,3,7,6,5,4]
  65 ; X64-NEXT:    packuswb %xmm2, %xmm1
  66 ; X64-NEXT:    movdqa {{.*#+}} xmm0 = [15,15,15,15,15,15,15,15,15,15,15,15,15,15,15,15]
  67 ; X64-NEXT:    movdqa %xmm1, %xmm2
  68 ; X64-NEXT:    pand %xmm0, %xmm2
  69 ; X64-NEXT:    psllw $4, %xmm2
  70 ; X64-NEXT:    pand {{.*}}(%rip), %xmm1
  71 ; X64-NEXT:    psrlw $4, %xmm1
  72 ; X64-NEXT:    pand %xmm0, %xmm1
  73 ; X64-NEXT:    pandn %xmm2, %xmm0
  74 ; X64-NEXT:    por %xmm1, %xmm0
  75 ; X64-NEXT:    movdqa {{.*#+}} xmm1 = [51,51,51,51,51,51,51,51,51,51,51,51,51,51,51,51]
  76 ; X64-NEXT:    pand %xmm0, %xmm1
  77 ; X64-NEXT:    psllw $2, %xmm1
  78 ; X64-NEXT:    pand {{.*}}(%rip), %xmm1
  79 ; X64-NEXT:    pand {{.*}}(%rip), %xmm0
  80 ; X64-NEXT:    psrlw $2, %xmm0
  81 ; X64-NEXT:    pand {{.*}}(%rip), %xmm0
  82 ; X64-NEXT:    por %xmm1, %xmm0
  83 ; X64-NEXT:    movdqa {{.*#+}} xmm1 = [85,85,85,85,85,85,85,85,85,85,85,85,85,85,85,85]
  84 ; X64-NEXT:    pand %xmm0, %xmm1
  85 ; X64-NEXT:    paddb %xmm1, %xmm1
  86 ; X64-NEXT:    pand {{.*}}(%rip), %xmm0
  87 ; X64-NEXT:    psrlw $1, %xmm0
  88 ; X64-NEXT:    pand {{.*}}(%rip), %xmm0
  89 ; X64-NEXT:    por %xmm1, %xmm0
  90 ; X64-NEXT:    psrlq $48, %xmm0
  91 ; X64-NEXT:    retq
  92   %b = call <2 x i16> @llvm.bitreverse.v2i16(<2 x i16> %a)
  93   ret <2 x i16> %b
  94 }
  95
  96 declare i64 @llvm.bitreverse.i64(i64) readnone
  97
  98 define i64 @test_bitreverse_i64(i64 %a) nounwind {
  99 ; X86-LABEL: test_bitreverse_i64:
 100 ; X86:       # %bb.0:
 101 ; X86-NEXT:    movl {{[0-9]+}}(%esp), %ecx
 102 ; X86-NEXT:    movl {{[0-9]+}}(%esp), %eax
 103 ; X86-NEXT:    bswapl %eax
 104 ; X86-NEXT:    movl %eax, %edx
 105 ; X86-NEXT:    andl $252645135, %edx # imm = 0xF0F0F0F
 106 ; X86-NEXT:    shll $4, %edx
 107 ; X86-NEXT:    andl $-252645136, %eax # imm = 0xF0F0F0F0
 108 ; X86-NEXT:    shrl $4, %eax
 109 ; X86-NEXT:    orl %edx, %eax
 110 ; X86-NEXT:    movl %eax, %edx
 111 ; X86-NEXT:    andl $858993459, %edx # imm = 0x33333333
 112 ; X86-NEXT:    andl $-858993460, %eax # imm = 0xCCCCCCCC
 113 ; X86-NEXT:    shrl $2, %eax
 114 ; X86-NEXT:    leal (%eax,%edx,4), %eax
 115 ; X86-NEXT:    movl %eax, %edx
 116 ; X86-NEXT:    andl $1431655765, %edx # imm = 0x55555555
 117 ; X86-NEXT:    andl $-1431655766, %eax # imm = 0xAAAAAAAA
 118 ; X86-NEXT:    shrl %eax
 119 ; X86-NEXT:    leal (%eax,%edx,2), %eax
 120 ; X86-NEXT:    bswapl %ecx
 121 ; X86-NEXT:    movl %ecx, %edx
 122 ; X86-NEXT:    andl $252645135, %edx # imm = 0xF0F0F0F
 123 ; X86-NEXT:    shll $4, %edx
 124 ; X86-NEXT:    andl $-252645136, %ecx # imm = 0xF0F0F0F0
 125 ; X86-NEXT:    shrl $4, %ecx
 126 ; X86-NEXT:    orl %edx, %ecx
 127 ; X86-NEXT:    movl %ecx, %edx
 128 ; X86-NEXT:    andl $858993459, %edx # imm = 0x33333333
 129 ; X86-NEXT:    andl $-858993460, %ecx # imm = 0xCCCCCCCC
 130 ; X86-NEXT:    shrl $2, %ecx
 131 ; X86-NEXT:    leal (%ecx,%edx,4), %ecx
 132 ; X86-NEXT:    movl %ecx, %edx
 133 ; X86-NEXT:    andl $1431655765, %edx # imm = 0x55555555
 134 ; X86-NEXT:    andl $-1431655766, %ecx # imm = 0xAAAAAAAA
 135 ; X86-NEXT:    shrl %ecx
 136 ; X86-NEXT:    leal (%ecx,%edx,2), %edx
 137 ; X86-NEXT:    retl
 138 ;
 139 ; X64-LABEL: test_bitreverse_i64:
 140 ; X64:       # %bb.0:
 141 ; X64-NEXT:    bswapq %rdi
 142 ; X64-NEXT:    movabsq $1085102592571150095, %rax # imm = 0xF0F0F0F0F0F0F0F
 143 ; X64-NEXT:    andq %rdi, %rax
 144 ; X64-NEXT:    shlq $4, %rax
 145 ; X64-NEXT:    movabsq $-1085102592571150096, %rcx # imm = 0xF0F0F0F0F0F0F0F0
 146 ; X64-NEXT:    andq %rdi, %rcx
 147 ; X64-NEXT:    shrq $4, %rcx
 148 ; X64-NEXT:    orq %rax, %rcx
 149 ; X64-NEXT:    movabsq $3689348814741910323, %rax # imm = 0x3333333333333333
 150 ; X64-NEXT:    andq %rcx, %rax
 151 ; X64-NEXT:    movabsq $-3689348814741910324, %rdx # imm = 0xCCCCCCCCCCCCCCCC
 152 ; X64-NEXT:    andq %rcx, %rdx
 153 ; X64-NEXT:    shrq $2, %rdx
 154 ; X64-NEXT:    leaq (%rdx,%rax,4), %rax
 155 ; X64-NEXT:    movabsq $6148914691236517205, %rcx # imm = 0x5555555555555555
 156 ; X64-NEXT:    andq %rax, %rcx
 157 ; X64-NEXT:    movabsq $-6148914691236517206, %rdx # imm = 0xAAAAAAAAAAAAAAAA
 158 ; X64-NEXT:    andq %rax, %rdx
 159 ; X64-NEXT:    shrq %rdx
 160 ; X64-NEXT:    leaq (%rdx,%rcx,2), %rax
 161 ; X64-NEXT:    retq
 162   %b = call i64 @llvm.bitreverse.i64(i64 %a)
 163   ret i64 %b
 164 }
 165
 166 declare i32 @llvm.bitreverse.i32(i32) readnone
 167
 168 define i32 @test_bitreverse_i32(i32 %a) nounwind {
 169 ; X86-LABEL: test_bitreverse_i32:
 170 ; X86:       # %bb.0:
 171 ; X86-NEXT:    movl {{[0-9]+}}(%esp), %eax
 172 ; X86-NEXT:    bswapl %eax
 173 ; X86-NEXT:    movl %eax, %ecx
 174 ; X86-NEXT:    andl $252645135, %ecx # imm = 0xF0F0F0F
 175 ; X86-NEXT:    shll $4, %ecx
 176 ; X86-NEXT:    andl $-252645136, %eax # imm = 0xF0F0F0F0
 177 ; X86-NEXT:    shrl $4, %eax
 178 ; X86-NEXT:    orl %ecx, %eax
 179 ; X86-NEXT:    movl %eax, %ecx
 180 ; X86-NEXT:    andl $858993459, %ecx # imm = 0x33333333
 181 ; X86-NEXT:    andl $-858993460, %eax # imm = 0xCCCCCCCC
 182 ; X86-NEXT:    shrl $2, %eax
 183 ; X86-NEXT:    leal (%eax,%ecx,4), %eax
 184 ; X86-NEXT:    movl %eax, %ecx
 185 ; X86-NEXT:    andl $1431655765, %ecx # imm = 0x55555555
 186 ; X86-NEXT:    andl $-1431655766, %eax # imm = 0xAAAAAAAA
 187 ; X86-NEXT:    shrl %eax
 188 ; X86-NEXT:    leal (%eax,%ecx,2), %eax
 189 ; X86-NEXT:    retl
 190 ;
 191 ; X64-LABEL: test_bitreverse_i32:
 192 ; X64:       # %bb.0:
 193 ; X64-NEXT:    # kill: def $edi killed $edi def $rdi
 194 ; X64-NEXT:    bswapl %edi
 195 ; X64-NEXT:    movl %edi, %eax
 196 ; X64-NEXT:    andl $252645135, %eax # imm = 0xF0F0F0F
 197 ; X64-NEXT:    shll $4, %eax
 198 ; X64-NEXT:    andl $-252645136, %edi # imm = 0xF0F0F0F0
 199 ; X64-NEXT:    shrl $4, %edi
 200 ; X64-NEXT:    orl %eax, %edi
 201 ; X64-NEXT:    movl %edi, %eax
 202 ; X64-NEXT:    andl $858993459, %eax # imm = 0x33333333
 203 ; X64-NEXT:    andl $-858993460, %edi # imm = 0xCCCCCCCC
 204 ; X64-NEXT:    shrl $2, %edi
 205 ; X64-NEXT:    leal (%rdi,%rax,4), %eax
 206 ; X64-NEXT:    movl %eax, %ecx
 207 ; X64-NEXT:    andl $1431655765, %ecx # imm = 0x55555555
 208 ; X64-NEXT:    andl $-1431655766, %eax # imm = 0xAAAAAAAA
 209 ; X64-NEXT:    shrl %eax
 210 ; X64-NEXT:    leal (%rax,%rcx,2), %eax
 211 ; X64-NEXT:    retq
 212   %b = call i32 @llvm.bitreverse.i32(i32 %a)
 213   ret i32 %b
 214 }
 215
 216 declare i24 @llvm.bitreverse.i24(i24) readnone
 217
 218 define i24 @test_bitreverse_i24(i24 %a) nounwind {
 219 ; X86-LABEL: test_bitreverse_i24:
 220 ; X86:       # %bb.0:
 221 ; X86-NEXT:    movl {{[0-9]+}}(%esp), %eax
 222 ; X86-NEXT:    bswapl %eax
 223 ; X86-NEXT:    movl %eax, %ecx
 224 ; X86-NEXT:    andl $252645135, %ecx # imm = 0xF0F0F0F
 225 ; X86-NEXT:    shll $4, %ecx
 226 ; X86-NEXT:    andl $-252645136, %eax # imm = 0xF0F0F0F0
 227 ; X86-NEXT:    shrl $4, %eax
 228 ; X86-NEXT:    orl %ecx, %eax
 229 ; X86-NEXT:    movl %eax, %ecx
 230 ; X86-NEXT:    andl $858993459, %ecx # imm = 0x33333333
 231 ; X86-NEXT:    andl $-858993460, %eax # imm = 0xCCCCCCCC
 232 ; X86-NEXT:    shrl $2, %eax
 233 ; X86-NEXT:    leal (%eax,%ecx,4), %eax
 234 ; X86-NEXT:    movl %eax, %ecx
 235 ; X86-NEXT:    andl $1431655680, %ecx # imm = 0x55555500
 236 ; X86-NEXT:    andl $-1431655936, %eax # imm = 0xAAAAAA00
 237 ; X86-NEXT:    shrl %eax
 238 ; X86-NEXT:    leal (%eax,%ecx,2), %eax
 239 ; X86-NEXT:    shrl $8, %eax
 240 ; X86-NEXT:    retl
 241 ;
 242 ; X64-LABEL: test_bitreverse_i24:
 243 ; X64:       # %bb.0:
 244 ; X64-NEXT:    # kill: def $edi killed $edi def $rdi
 245 ; X64-NEXT:    bswapl %edi
 246 ; X64-NEXT:    movl %edi, %eax
 247 ; X64-NEXT:    andl $252645135, %eax # imm = 0xF0F0F0F
 248 ; X64-NEXT:    shll $4, %eax
 249 ; X64-NEXT:    andl $-252645136, %edi # imm = 0xF0F0F0F0
 250 ; X64-NEXT:    shrl $4, %edi
 251 ; X64-NEXT:    orl %eax, %edi
 252 ; X64-NEXT:    movl %edi, %eax
 253 ; X64-NEXT:    andl $858993459, %eax # imm = 0x33333333
 254 ; X64-NEXT:    andl $-858993460, %edi # imm = 0xCCCCCCCC
 255 ; X64-NEXT:    shrl $2, %edi
 256 ; X64-NEXT:    leal (%rdi,%rax,4), %eax
 257 ; X64-NEXT:    movl %eax, %ecx
 258 ; X64-NEXT:    andl $1431655680, %ecx # imm = 0x55555500
 259 ; X64-NEXT:    andl $-1431655936, %eax # imm = 0xAAAAAA00
 260 ; X64-NEXT:    shrl %eax
 261 ; X64-NEXT:    leal (%rax,%rcx,2), %eax
 262 ; X64-NEXT:    shrl $8, %eax
 263 ; X64-NEXT:    retq
 264   %b = call i24 @llvm.bitreverse.i24(i24 %a)
 265   ret i24 %b
 266 }
 267
 268 declare i16 @llvm.bitreverse.i16(i16) readnone
 269
 270 define i16 @test_bitreverse_i16(i16 %a) nounwind {
 271 ; X86-LABEL: test_bitreverse_i16:
 272 ; X86:       # %bb.0:
 273 ; X86-NEXT:    movzwl {{[0-9]+}}(%esp), %eax
 274 ; X86-NEXT:    rolw $8, %ax
 275 ; X86-NEXT:    movl %eax, %ecx
 276 ; X86-NEXT:    andl $3855, %ecx # imm = 0xF0F
 277 ; X86-NEXT:    shll $4, %ecx
 278 ; X86-NEXT:    andl $61680, %eax # imm = 0xF0F0
 279 ; X86-NEXT:    shrl $4, %eax
 280 ; X86-NEXT:    orl %ecx, %eax
 281 ; X86-NEXT:    movl %eax, %ecx
 282 ; X86-NEXT:    andl $13107, %ecx # imm = 0x3333
 283 ; X86-NEXT:    andl $52428, %eax # imm = 0xCCCC
 284 ; X86-NEXT:    shrl $2, %eax
 285 ; X86-NEXT:    leal (%eax,%ecx,4), %eax
 286 ; X86-NEXT:    movl %eax, %ecx
 287 ; X86-NEXT:    andl $21845, %ecx # imm = 0x5555
 288 ; X86-NEXT:    andl $43690, %eax # imm = 0xAAAA
 289 ; X86-NEXT:    shrl %eax
 290 ; X86-NEXT:    leal (%eax,%ecx,2), %eax
 291 ; X86-NEXT:    # kill: def $ax killed $ax killed $eax
 292 ; X86-NEXT:    retl
 293 ;
 294 ; X64-LABEL: test_bitreverse_i16:
 295 ; X64:       # %bb.0:
 296 ; X64-NEXT:    # kill: def $edi killed $edi def $rdi
 297 ; X64-NEXT:    rolw $8, %di
 298 ; X64-NEXT:    movl %edi, %eax
 299 ; X64-NEXT:    andl $3855, %eax # imm = 0xF0F
 300 ; X64-NEXT:    shll $4, %eax
 301 ; X64-NEXT:    andl $61680, %edi # imm = 0xF0F0
 302 ; X64-NEXT:    shrl $4, %edi
 303 ; X64-NEXT:    orl %eax, %edi
 304 ; X64-NEXT:    movl %edi, %eax
 305 ; X64-NEXT:    andl $13107, %eax # imm = 0x3333
 306 ; X64-NEXT:    andl $52428, %edi # imm = 0xCCCC
 307 ; X64-NEXT:    shrl $2, %edi
 308 ; X64-NEXT:    leal (%rdi,%rax,4), %eax
 309 ; X64-NEXT:    movl %eax, %ecx
 310 ; X64-NEXT:    andl $21845, %ecx # imm = 0x5555
 311 ; X64-NEXT:    andl $43690, %eax # imm = 0xAAAA
 312 ; X64-NEXT:    shrl %eax
 313 ; X64-NEXT:    leal (%rax,%rcx,2), %eax
 314 ; X64-NEXT:    # kill: def $ax killed $ax killed $eax
 315 ; X64-NEXT:    retq
 316   %b = call i16 @llvm.bitreverse.i16(i16 %a)
 317   ret i16 %b
 318 }
 319
 320 declare i8 @llvm.bitreverse.i8(i8) readnone
 321
 322 define i8 @test_bitreverse_i8(i8 %a) {
 323 ; X86-LABEL: test_bitreverse_i8:
 324 ; X86:       # %bb.0:
 325 ; X86-NEXT:    movb {{[0-9]+}}(%esp), %al
 326 ; X86-NEXT:    rolb $4, %al
 327 ; X86-NEXT:    movl %eax, %ecx
 328 ; X86-NEXT:    andb $51, %cl
 329 ; X86-NEXT:    shlb $2, %cl
 330 ; X86-NEXT:    andb $-52, %al
 331 ; X86-NEXT:    shrb $2, %al
 332 ; X86-NEXT:    orb %cl, %al
 333 ; X86-NEXT:    movl %eax, %ecx
 334 ; X86-NEXT:    andb $85, %cl
 335 ; X86-NEXT:    addb %cl, %cl
 336 ; X86-NEXT:    andb $-86, %al
 337 ; X86-NEXT:    shrb %al
 338 ; X86-NEXT:    orb %cl, %al
 339 ; X86-NEXT:    retl
 340 ;
 341 ; X64-LABEL: test_bitreverse_i8:
 342 ; X64:       # %bb.0:
 343 ; X64-NEXT:    movl %edi, %eax
 344 ; X64-NEXT:    rolb $4, %al
 345 ; X64-NEXT:    movl %eax, %ecx
 346 ; X64-NEXT:    andb $51, %cl
 347 ; X64-NEXT:    shlb $2, %cl
 348 ; X64-NEXT:    andb $-52, %al
 349 ; X64-NEXT:    shrb $2, %al
 350 ; X64-NEXT:    orb %cl, %al
 351 ; X64-NEXT:    movl %eax, %ecx
 352 ; X64-NEXT:    andb $85, %cl
 353 ; X64-NEXT:    addb %cl, %cl
 354 ; X64-NEXT:    andb $-86, %al
 355 ; X64-NEXT:    shrb %al
 356 ; X64-NEXT:    orb %cl, %al
 357 ; X64-NEXT:    # kill: def $al killed $al killed $eax
 358 ; X64-NEXT:    retq
 359   %b = call i8 @llvm.bitreverse.i8(i8 %a)
 360   ret i8 %b
 361 }
 362
 363 declare i4 @llvm.bitreverse.i4(i4) readnone
 364
 365 define i4 @test_bitreverse_i4(i4 %a) {
 366 ; X86-LABEL: test_bitreverse_i4:
 367 ; X86:       # %bb.0:
 368 ; X86-NEXT:    movb {{[0-9]+}}(%esp), %al
 369 ; X86-NEXT:    rolb $4, %al
 370 ; X86-NEXT:    movl %eax, %ecx
 371 ; X86-NEXT:    andb $51, %cl
 372 ; X86-NEXT:    shlb $2, %cl
 373 ; X86-NEXT:    andb $-52, %al
 374 ; X86-NEXT:    shrb $2, %al
 375 ; X86-NEXT:    orb %cl, %al
 376 ; X86-NEXT:    movl %eax, %ecx
 377 ; X86-NEXT:    andb $80, %cl
 378 ; X86-NEXT:    addb %cl, %cl
 379 ; X86-NEXT:    andb $-96, %al
 380 ; X86-NEXT:    shrb %al
 381 ; X86-NEXT:    orb %cl, %al
 382 ; X86-NEXT:    shrb $4, %al
 383 ; X86-NEXT:    retl
 384 ;
 385 ; X64-LABEL: test_bitreverse_i4:
 386 ; X64:       # %bb.0:
 387 ; X64-NEXT:    movl %edi, %eax
 388 ; X64-NEXT:    rolb $4, %al
 389 ; X64-NEXT:    movl %eax, %ecx
 390 ; X64-NEXT:    andb $51, %cl
 391 ; X64-NEXT:    shlb $2, %cl
 392 ; X64-NEXT:    andb $-52, %al
 393 ; X64-NEXT:    shrb $2, %al
 394 ; X64-NEXT:    orb %cl, %al
 395 ; X64-NEXT:    movl %eax, %ecx
 396 ; X64-NEXT:    andb $80, %cl
 397 ; X64-NEXT:    addb %cl, %cl
 398 ; X64-NEXT:    andb $-96, %al
 399 ; X64-NEXT:    shrb %al
 400 ; X64-NEXT:    orb %cl, %al
 401 ; X64-NEXT:    shrb $4, %al
 402 ; X64-NEXT:    # kill: def $al killed $al killed $eax
 403 ; X64-NEXT:    retq
 404   %b = call i4 @llvm.bitreverse.i4(i4 %a)
 405   ret i4 %b
 406 }
 407
 408 ; These tests check that bitreverse(constant) calls are folded
 409
 410 define <2 x i16> @fold_v2i16() {
 411 ; X86-LABEL: fold_v2i16:
 412 ; X86:       # %bb.0:
 413 ; X86-NEXT:    movw $-4096, %ax # imm = 0xF000
 414 ; X86-NEXT:    movw $240, %dx
 415 ; X86-NEXT:    retl
 416 ;
 417 ; X64-LABEL: fold_v2i16:
 418 ; X64:       # %bb.0:
 419 ; X64-NEXT:    movaps {{.*#+}} xmm0 = [61440,240]
 420 ; X64-NEXT:    retq
 421   %b = call <2 x i16> @llvm.bitreverse.v2i16(<2 x i16> <i16 15, i16 3840>)
 422   ret <2 x i16> %b
 423 }
 424
 425 define i24 @fold_i24() {
 426 ; X86-LABEL: fold_i24:
 427 ; X86:       # %bb.0:
 428 ; X86-NEXT:    movl $2048, %eax # imm = 0x800
 429 ; X86-NEXT:    retl
 430 ;
 431 ; X64-LABEL: fold_i24:
 432 ; X64:       # %bb.0:
 433 ; X64-NEXT:    movl $2048, %eax # imm = 0x800
 434 ; X64-NEXT:    retq
 435   %b = call i24 @llvm.bitreverse.i24(i24 4096)
 436   ret i24 %b
 437 }
 438
 439 define i8 @fold_i8() {
 440 ; X86-LABEL: fold_i8:
 441 ; X86:       # %bb.0:
 442 ; X86-NEXT:    movb $-16, %al
 443 ; X86-NEXT:    retl
 444 ;
 445 ; X64-LABEL: fold_i8:
 446 ; X64:       # %bb.0:
 447 ; X64-NEXT:    movb $-16, %al
 448 ; X64-NEXT:    retq
 449   %b = call i8 @llvm.bitreverse.i8(i8 15)
 450   ret i8 %b
 451 }
 452
 453 define i4 @fold_i4() {
 454 ; X86-LABEL: fold_i4:
 455 ; X86:       # %bb.0:
 456 ; X86-NEXT:    movb $1, %al
 457 ; X86-NEXT:    retl
 458 ;
 459 ; X64-LABEL: fold_i4:
 460 ; X64:       # %bb.0:
 461 ; X64-NEXT:    movb $1, %al
 462 ; X64-NEXT:    retq
 463   %b = call i4 @llvm.bitreverse.i4(i4 8)
 464   ret i4 %b
 465 }
 466
 467 ; These tests check that bitreverse(bitreverse()) calls are removed
 468
 469 define i8 @identity_i8(i8 %a) {
 470 ; X86-LABEL: identity_i8:
 471 ; X86:       # %bb.0:
 472 ; X86-NEXT:    movb {{[0-9]+}}(%esp), %al
 473 ; X86-NEXT:    retl
 474 ;
 475 ; X64-LABEL: identity_i8:
 476 ; X64:       # %bb.0:
 477 ; X64-NEXT:    movl %edi, %eax
 478 ; X64-NEXT:    # kill: def $al killed $al killed $eax
 479 ; X64-NEXT:    retq
 480   %b = call i8 @llvm.bitreverse.i8(i8 %a)
 481   %c = call i8 @llvm.bitreverse.i8(i8 %b)
 482   ret i8 %c
 483 }
 484
 485 define <2 x i16> @identity_v2i16(<2 x i16> %a) {
 486 ; X86-LABEL: identity_v2i16:
 487 ; X86:       # %bb.0:
 488 ; X86-NEXT:    movzwl {{[0-9]+}}(%esp), %eax
 489 ; X86-NEXT:    movzwl {{[0-9]+}}(%esp), %edx
 490 ; X86-NEXT:    retl
 491 ;
 492 ; X64-LABEL: identity_v2i16:
 493 ; X64:       # %bb.0:
 494 ; X64-NEXT:    retq
 495   %b = call <2 x i16> @llvm.bitreverse.v2i16(<2 x i16> %a)
 496   %c = call <2 x i16> @llvm.bitreverse.v2i16(<2 x i16> %b)
 497   ret <2 x i16> %c
 498 }
 499
 500 ; These tests check that bitreverse(undef) calls are removed
 501
 502 define i8 @undef_i8() {
 503 ; X86-LABEL: undef_i8:
 504 ; X86:       # %bb.0:
 505 ; X86-NEXT:    retl
 506 ;
 507 ; X64-LABEL: undef_i8:
 508 ; X64:       # %bb.0:
 509 ; X64-NEXT:    retq
 510   %b = call i8 @llvm.bitreverse.i8(i8 undef)
 511   ret i8 %b
 512 }
 513
 514 define <2 x i16> @undef_v2i16() {
 515 ; X86-LABEL: undef_v2i16:
 516 ; X86:       # %bb.0:
 517 ; X86-NEXT:    retl
 518 ;
 519 ; X64-LABEL: undef_v2i16:
 520 ; X64:       # %bb.0:
 521 ; X64-NEXT:    retq
 522   %b = call <2 x i16> @llvm.bitreverse.v2i16(<2 x i16> undef)
 523   ret <2 x i16> %b
 524 }
 525
 526 ; Make sure we don't assert during type legalization promoting a large
 527 ; bitreverse due to the need for a large shift that won't fit in the i8 returned
 528 ; from getShiftAmountTy.
 529 define i528 @large_promotion(i528 %A) nounwind {
 530 ; X86-LABEL: large_promotion:
 531 ; X86:       # %bb.0:
 532 ; X86-NEXT:    pushl %ebp
 533 ; X86-NEXT:    pushl %ebx
 534 ; X86-NEXT:    pushl %edi
 535 ; X86-NEXT:    pushl %esi
 536 ; X86-NEXT:    subl $56, %esp
 537 ; X86-NEXT:    movl {{[0-9]+}}(%esp), %eax
 538 ; X86-NEXT:    movl {{[0-9]+}}(%esp), %ecx
 539 ; X86-NEXT:    movl {{[0-9]+}}(%esp), %edx
 540 ; X86-NEXT:    movl {{[0-9]+}}(%esp), %esi
 541 ; X86-NEXT:    movl {{[0-9]+}}(%esp), %edi
 542 ; X86-NEXT:    movl {{[0-9]+}}(%esp), %ebx
 543 ; X86-NEXT:    bswapl %ebx
 544 ; X86-NEXT:    movl %ebx, %ebp
 545 ; X86-NEXT:    andl $252645135, %ebp # imm = 0xF0F0F0F
 546 ; X86-NEXT:    shll $4, %ebp
 547 ; X86-NEXT:    andl $-252645136, %ebx # imm = 0xF0F0F0F0
 548 ; X86-NEXT:    shrl $4, %ebx
 549 ; X86-NEXT:    orl %ebp, %ebx
 550 ; X86-NEXT:    movl %ebx, %ebp
 551 ; X86-NEXT:    andl $858993459, %ebp # imm = 0x33333333
 552 ; X86-NEXT:    andl $-858993460, %ebx # imm = 0xCCCCCCCC
 553 ; X86-NEXT:    shrl $2, %ebx
 554 ; X86-NEXT:    leal (%ebx,%ebp,4), %ebx
 555 ; X86-NEXT:    movl %ebx, %ebp
 556 ; X86-NEXT:    andl $1431633920, %ebp # imm = 0x55550000
 557 ; X86-NEXT:    andl $-1431699456, %ebx # imm = 0xAAAA0000
 558 ; X86-NEXT:    shrl %ebx
 559 ; X86-NEXT:    leal (%ebx,%ebp,2), %ebx
 560 ; X86-NEXT:    movl %ebx, (%esp) # 4-byte Spill
 561 ; X86-NEXT:    bswapl %edi
 562 ; X86-NEXT:    movl %edi, %ebx
 563 ; X86-NEXT:    andl $252645135, %ebx # imm = 0xF0F0F0F
 564 ; X86-NEXT:    shll $4, %ebx
 565 ; X86-NEXT:    andl $-252645136, %edi # imm = 0xF0F0F0F0
 566 ; X86-NEXT:    shrl $4, %edi
 567 ; X86-NEXT:    orl %ebx, %edi
 568 ; X86-NEXT:    movl %edi, %ebx
 569 ; X86-NEXT:    andl $858993459, %ebx # imm = 0x33333333
 570 ; X86-NEXT:    andl $-858993460, %edi # imm = 0xCCCCCCCC
 571 ; X86-NEXT:    shrl $2, %edi
 572 ; X86-NEXT:    leal (%edi,%ebx,4), %edi
 573 ; X86-NEXT:    movl %edi, %ebx
 574 ; X86-NEXT:    andl $1431655765, %ebx # imm = 0x55555555
 575 ; X86-NEXT:    andl $-1431655766, %edi # imm = 0xAAAAAAAA
 576 ; X86-NEXT:    shrl %edi
 577 ; X86-NEXT:    leal (%edi,%ebx,2), %edi
 578 ; X86-NEXT:    movl %edi, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 579 ; X86-NEXT:    bswapl %esi
 580 ; X86-NEXT:    movl %esi, %edi
 581 ; X86-NEXT:    andl $252645135, %edi # imm = 0xF0F0F0F
 582 ; X86-NEXT:    shll $4, %edi
 583 ; X86-NEXT:    andl $-252645136, %esi # imm = 0xF0F0F0F0
 584 ; X86-NEXT:    shrl $4, %esi
 585 ; X86-NEXT:    orl %edi, %esi
 586 ; X86-NEXT:    movl %esi, %edi
 587 ; X86-NEXT:    andl $858993459, %edi # imm = 0x33333333
 588 ; X86-NEXT:    andl $-858993460, %esi # imm = 0xCCCCCCCC
 589 ; X86-NEXT:    shrl $2, %esi
 590 ; X86-NEXT:    leal (%esi,%edi,4), %esi
 591 ; X86-NEXT:    movl %esi, %edi
 592 ; X86-NEXT:    andl $1431655765, %edi # imm = 0x55555555
 593 ; X86-NEXT:    andl $-1431655766, %esi # imm = 0xAAAAAAAA
 594 ; X86-NEXT:    shrl %esi
 595 ; X86-NEXT:    leal (%esi,%edi,2), %ebx
 596 ; X86-NEXT:    bswapl %edx
 597 ; X86-NEXT:    movl %edx, %esi
 598 ; X86-NEXT:    andl $252645135, %esi # imm = 0xF0F0F0F
 599 ; X86-NEXT:    shll $4, %esi
 600 ; X86-NEXT:    andl $-252645136, %edx # imm = 0xF0F0F0F0
 601 ; X86-NEXT:    shrl $4, %edx
 602 ; X86-NEXT:    orl %esi, %edx
 603 ; X86-NEXT:    movl %edx, %esi
 604 ; X86-NEXT:    andl $858993459, %esi # imm = 0x33333333
 605 ; X86-NEXT:    andl $-858993460, %edx # imm = 0xCCCCCCCC
 606 ; X86-NEXT:    shrl $2, %edx
 607 ; X86-NEXT:    leal (%edx,%esi,4), %edx
 608 ; X86-NEXT:    movl %edx, %esi
 609 ; X86-NEXT:    andl $1431655765, %esi # imm = 0x55555555
 610 ; X86-NEXT:    andl $-1431655766, %edx # imm = 0xAAAAAAAA
 611 ; X86-NEXT:    shrl %edx
 612 ; X86-NEXT:    leal (%edx,%esi,2), %edx
 613 ; X86-NEXT:    movl %edx, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 614 ; X86-NEXT:    bswapl %ecx
 615 ; X86-NEXT:    movl %ecx, %edx
 616 ; X86-NEXT:    andl $252645135, %edx # imm = 0xF0F0F0F
 617 ; X86-NEXT:    shll $4, %edx
 618 ; X86-NEXT:    andl $-252645136, %ecx # imm = 0xF0F0F0F0
 619 ; X86-NEXT:    shrl $4, %ecx
 620 ; X86-NEXT:    orl %edx, %ecx
 621 ; X86-NEXT:    movl %ecx, %edx
 622 ; X86-NEXT:    andl $858993459, %edx # imm = 0x33333333
 623 ; X86-NEXT:    andl $-858993460, %ecx # imm = 0xCCCCCCCC
 624 ; X86-NEXT:    shrl $2, %ecx
 625 ; X86-NEXT:    leal (%ecx,%edx,4), %ecx
 626 ; X86-NEXT:    movl %ecx, %edx
 627 ; X86-NEXT:    andl $1431655765, %edx # imm = 0x55555555
 628 ; X86-NEXT:    andl $-1431655766, %ecx # imm = 0xAAAAAAAA
 629 ; X86-NEXT:    shrl %ecx
 630 ; X86-NEXT:    leal (%ecx,%edx,2), %ecx
 631 ; X86-NEXT:    movl %ecx, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 632 ; X86-NEXT:    bswapl %eax
 633 ; X86-NEXT:    movl %eax, %ecx
 634 ; X86-NEXT:    andl $252645135, %ecx # imm = 0xF0F0F0F
 635 ; X86-NEXT:    shll $4, %ecx
 636 ; X86-NEXT:    andl $-252645136, %eax # imm = 0xF0F0F0F0
 637 ; X86-NEXT:    shrl $4, %eax
 638 ; X86-NEXT:    orl %ecx, %eax
 639 ; X86-NEXT:    movl %eax, %ecx
 640 ; X86-NEXT:    andl $858993459, %ecx # imm = 0x33333333
 641 ; X86-NEXT:    andl $-858993460, %eax # imm = 0xCCCCCCCC
 642 ; X86-NEXT:    shrl $2, %eax
 643 ; X86-NEXT:    leal (%eax,%ecx,4), %eax
 644 ; X86-NEXT:    movl %eax, %ecx
 645 ; X86-NEXT:    andl $1431655765, %ecx # imm = 0x55555555
 646 ; X86-NEXT:    andl $-1431655766, %eax # imm = 0xAAAAAAAA
 647 ; X86-NEXT:    shrl %eax
 648 ; X86-NEXT:    leal (%eax,%ecx,2), %eax
 649 ; X86-NEXT:    movl %eax, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 650 ; X86-NEXT:    movl {{[0-9]+}}(%esp), %eax
 651 ; X86-NEXT:    bswapl %eax
 652 ; X86-NEXT:    movl %eax, %ecx
 653 ; X86-NEXT:    andl $252645135, %ecx # imm = 0xF0F0F0F
 654 ; X86-NEXT:    shll $4, %ecx
 655 ; X86-NEXT:    andl $-252645136, %eax # imm = 0xF0F0F0F0
 656 ; X86-NEXT:    shrl $4, %eax
 657 ; X86-NEXT:    orl %ecx, %eax
 658 ; X86-NEXT:    movl %eax, %ecx
 659 ; X86-NEXT:    andl $858993459, %ecx # imm = 0x33333333
 660 ; X86-NEXT:    andl $-858993460, %eax # imm = 0xCCCCCCCC
 661 ; X86-NEXT:    shrl $2, %eax
 662 ; X86-NEXT:    leal (%eax,%ecx,4), %eax
 663 ; X86-NEXT:    movl %eax, %ecx
 664 ; X86-NEXT:    andl $1431655765, %ecx # imm = 0x55555555
 665 ; X86-NEXT:    andl $-1431655766, %eax # imm = 0xAAAAAAAA
 666 ; X86-NEXT:    shrl %eax
 667 ; X86-NEXT:    leal (%eax,%ecx,2), %eax
 668 ; X86-NEXT:    movl %eax, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 669 ; X86-NEXT:    movl {{[0-9]+}}(%esp), %eax
 670 ; X86-NEXT:    bswapl %eax
 671 ; X86-NEXT:    movl %eax, %ecx
 672 ; X86-NEXT:    andl $252645135, %ecx # imm = 0xF0F0F0F
 673 ; X86-NEXT:    shll $4, %ecx
 674 ; X86-NEXT:    andl $-252645136, %eax # imm = 0xF0F0F0F0
 675 ; X86-NEXT:    shrl $4, %eax
 676 ; X86-NEXT:    orl %ecx, %eax
 677 ; X86-NEXT:    movl %eax, %ecx
 678 ; X86-NEXT:    andl $858993459, %ecx # imm = 0x33333333
 679 ; X86-NEXT:    andl $-858993460, %eax # imm = 0xCCCCCCCC
 680 ; X86-NEXT:    shrl $2, %eax
 681 ; X86-NEXT:    leal (%eax,%ecx,4), %eax
 682 ; X86-NEXT:    movl %eax, %ecx
 683 ; X86-NEXT:    andl $1431655765, %ecx # imm = 0x55555555
 684 ; X86-NEXT:    andl $-1431655766, %eax # imm = 0xAAAAAAAA
 685 ; X86-NEXT:    shrl %eax
 686 ; X86-NEXT:    leal (%eax,%ecx,2), %eax
 687 ; X86-NEXT:    movl %eax, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 688 ; X86-NEXT:    movl {{[0-9]+}}(%esp), %eax
 689 ; X86-NEXT:    bswapl %eax
 690 ; X86-NEXT:    movl %eax, %ecx
 691 ; X86-NEXT:    andl $252645135, %ecx # imm = 0xF0F0F0F
 692 ; X86-NEXT:    shll $4, %ecx
 693 ; X86-NEXT:    andl $-252645136, %eax # imm = 0xF0F0F0F0
 694 ; X86-NEXT:    shrl $4, %eax
 695 ; X86-NEXT:    orl %ecx, %eax
 696 ; X86-NEXT:    movl %eax, %ecx
 697 ; X86-NEXT:    andl $858993459, %ecx # imm = 0x33333333
 698 ; X86-NEXT:    andl $-858993460, %eax # imm = 0xCCCCCCCC
 699 ; X86-NEXT:    shrl $2, %eax
 700 ; X86-NEXT:    leal (%eax,%ecx,4), %eax
 701 ; X86-NEXT:    movl %eax, %ecx
 702 ; X86-NEXT:    andl $1431655765, %ecx # imm = 0x55555555
 703 ; X86-NEXT:    andl $-1431655766, %eax # imm = 0xAAAAAAAA
 704 ; X86-NEXT:    shrl %eax
 705 ; X86-NEXT:    leal (%eax,%ecx,2), %eax
 706 ; X86-NEXT:    movl %eax, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 707 ; X86-NEXT:    movl {{[0-9]+}}(%esp), %eax
 708 ; X86-NEXT:    bswapl %eax
 709 ; X86-NEXT:    movl %eax, %ecx
 710 ; X86-NEXT:    andl $252645135, %ecx # imm = 0xF0F0F0F
 711 ; X86-NEXT:    shll $4, %ecx
 712 ; X86-NEXT:    andl $-252645136, %eax # imm = 0xF0F0F0F0
 713 ; X86-NEXT:    shrl $4, %eax
 714 ; X86-NEXT:    orl %ecx, %eax
 715 ; X86-NEXT:    movl %eax, %ecx
 716 ; X86-NEXT:    andl $858993459, %ecx # imm = 0x33333333
 717 ; X86-NEXT:    andl $-858993460, %eax # imm = 0xCCCCCCCC
 718 ; X86-NEXT:    shrl $2, %eax
 719 ; X86-NEXT:    leal (%eax,%ecx,4), %eax
 720 ; X86-NEXT:    movl %eax, %ecx
 721 ; X86-NEXT:    andl $1431655765, %ecx # imm = 0x55555555
 722 ; X86-NEXT:    andl $-1431655766, %eax # imm = 0xAAAAAAAA
 723 ; X86-NEXT:    shrl %eax
 724 ; X86-NEXT:    leal (%eax,%ecx,2), %eax
 725 ; X86-NEXT:    movl %eax, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 726 ; X86-NEXT:    movl {{[0-9]+}}(%esp), %eax
 727 ; X86-NEXT:    bswapl %eax
 728 ; X86-NEXT:    movl %eax, %ecx
 729 ; X86-NEXT:    andl $252645135, %ecx # imm = 0xF0F0F0F
 730 ; X86-NEXT:    shll $4, %ecx
 731 ; X86-NEXT:    andl $-252645136, %eax # imm = 0xF0F0F0F0
 732 ; X86-NEXT:    shrl $4, %eax
 733 ; X86-NEXT:    orl %ecx, %eax
 734 ; X86-NEXT:    movl %eax, %ecx
 735 ; X86-NEXT:    andl $858993459, %ecx # imm = 0x33333333
 736 ; X86-NEXT:    andl $-858993460, %eax # imm = 0xCCCCCCCC
 737 ; X86-NEXT:    shrl $2, %eax
 738 ; X86-NEXT:    leal (%eax,%ecx,4), %eax
 739 ; X86-NEXT:    movl %eax, %ecx
 740 ; X86-NEXT:    andl $1431655765, %ecx # imm = 0x55555555
 741 ; X86-NEXT:    andl $-1431655766, %eax # imm = 0xAAAAAAAA
 742 ; X86-NEXT:    shrl %eax
 743 ; X86-NEXT:    leal (%eax,%ecx,2), %eax
 744 ; X86-NEXT:    movl %eax, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 745 ; X86-NEXT:    movl {{[0-9]+}}(%esp), %eax
 746 ; X86-NEXT:    bswapl %eax
 747 ; X86-NEXT:    movl %eax, %ecx
 748 ; X86-NEXT:    andl $252645135, %ecx # imm = 0xF0F0F0F
 749 ; X86-NEXT:    shll $4, %ecx
 750 ; X86-NEXT:    andl $-252645136, %eax # imm = 0xF0F0F0F0
 751 ; X86-NEXT:    shrl $4, %eax
 752 ; X86-NEXT:    orl %ecx, %eax
 753 ; X86-NEXT:    movl %eax, %ecx
 754 ; X86-NEXT:    andl $858993459, %ecx # imm = 0x33333333
 755 ; X86-NEXT:    andl $-858993460, %eax # imm = 0xCCCCCCCC
 756 ; X86-NEXT:    shrl $2, %eax
 757 ; X86-NEXT:    leal (%eax,%ecx,4), %eax
 758 ; X86-NEXT:    movl %eax, %ecx
 759 ; X86-NEXT:    andl $1431655765, %ecx # imm = 0x55555555
 760 ; X86-NEXT:    andl $-1431655766, %eax # imm = 0xAAAAAAAA
 761 ; X86-NEXT:    shrl %eax
 762 ; X86-NEXT:    leal (%eax,%ecx,2), %eax
 763 ; X86-NEXT:    movl %eax, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 764 ; X86-NEXT:    movl {{[0-9]+}}(%esp), %eax
 765 ; X86-NEXT:    bswapl %eax
 766 ; X86-NEXT:    movl %eax, %ecx
 767 ; X86-NEXT:    andl $252645135, %ecx # imm = 0xF0F0F0F
 768 ; X86-NEXT:    shll $4, %ecx
 769 ; X86-NEXT:    andl $-252645136, %eax # imm = 0xF0F0F0F0
 770 ; X86-NEXT:    shrl $4, %eax
 771 ; X86-NEXT:    orl %ecx, %eax
 772 ; X86-NEXT:    movl %eax, %ecx
 773 ; X86-NEXT:    andl $858993459, %ecx # imm = 0x33333333
 774 ; X86-NEXT:    andl $-858993460, %eax # imm = 0xCCCCCCCC
 775 ; X86-NEXT:    shrl $2, %eax
 776 ; X86-NEXT:    leal (%eax,%ecx,4), %eax
 777 ; X86-NEXT:    movl %eax, %ecx
 778 ; X86-NEXT:    andl $1431655765, %ecx # imm = 0x55555555
 779 ; X86-NEXT:    andl $-1431655766, %eax # imm = 0xAAAAAAAA
 780 ; X86-NEXT:    shrl %eax
 781 ; X86-NEXT:    leal (%eax,%ecx,2), %eax
 782 ; X86-NEXT:    movl %eax, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 783 ; X86-NEXT:    movl {{[0-9]+}}(%esp), %eax
 784 ; X86-NEXT:    bswapl %eax
 785 ; X86-NEXT:    movl %eax, %ecx
 786 ; X86-NEXT:    andl $252645135, %ecx # imm = 0xF0F0F0F
 787 ; X86-NEXT:    shll $4, %ecx
 788 ; X86-NEXT:    andl $-252645136, %eax # imm = 0xF0F0F0F0
 789 ; X86-NEXT:    shrl $4, %eax
 790 ; X86-NEXT:    orl %ecx, %eax
 791 ; X86-NEXT:    movl %eax, %ecx
 792 ; X86-NEXT:    andl $858993459, %ecx # imm = 0x33333333
 793 ; X86-NEXT:    andl $-858993460, %eax # imm = 0xCCCCCCCC
 794 ; X86-NEXT:    shrl $2, %eax
 795 ; X86-NEXT:    leal (%eax,%ecx,4), %eax
 796 ; X86-NEXT:    movl %eax, %ecx
 797 ; X86-NEXT:    andl $1431655765, %ecx # imm = 0x55555555
 798 ; X86-NEXT:    andl $-1431655766, %eax # imm = 0xAAAAAAAA
 799 ; X86-NEXT:    shrl %eax
 800 ; X86-NEXT:    leal (%eax,%ecx,2), %eax
 801 ; X86-NEXT:    movl %eax, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 802 ; X86-NEXT:    movl {{[0-9]+}}(%esp), %eax
 803 ; X86-NEXT:    bswapl %eax
 804 ; X86-NEXT:    movl %eax, %ecx
 805 ; X86-NEXT:    andl $252645135, %ecx # imm = 0xF0F0F0F
 806 ; X86-NEXT:    shll $4, %ecx
 807 ; X86-NEXT:    andl $-252645136, %eax # imm = 0xF0F0F0F0
 808 ; X86-NEXT:    shrl $4, %eax
 809 ; X86-NEXT:    orl %ecx, %eax
 810 ; X86-NEXT:    movl %eax, %ecx
 811 ; X86-NEXT:    andl $858993459, %ecx # imm = 0x33333333
 812 ; X86-NEXT:    andl $-858993460, %eax # imm = 0xCCCCCCCC
 813 ; X86-NEXT:    shrl $2, %eax
 814 ; X86-NEXT:    leal (%eax,%ecx,4), %eax
 815 ; X86-NEXT:    movl %eax, %ecx
 816 ; X86-NEXT:    andl $1431655765, %ecx # imm = 0x55555555
 817 ; X86-NEXT:    andl $-1431655766, %eax # imm = 0xAAAAAAAA
 818 ; X86-NEXT:    shrl %eax
 819 ; X86-NEXT:    leal (%eax,%ecx,2), %eax
 820 ; X86-NEXT:    movl %eax, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 821 ; X86-NEXT:    movl {{[0-9]+}}(%esp), %eax
 822 ; X86-NEXT:    bswapl %eax
 823 ; X86-NEXT:    movl %eax, %ecx
 824 ; X86-NEXT:    andl $252645135, %ecx # imm = 0xF0F0F0F
 825 ; X86-NEXT:    shll $4, %ecx
 826 ; X86-NEXT:    andl $-252645136, %eax # imm = 0xF0F0F0F0
 827 ; X86-NEXT:    shrl $4, %eax
 828 ; X86-NEXT:    orl %ecx, %eax
 829 ; X86-NEXT:    movl %eax, %ecx
 830 ; X86-NEXT:    andl $858993459, %ecx # imm = 0x33333333
 831 ; X86-NEXT:    andl $-858993460, %eax # imm = 0xCCCCCCCC
 832 ; X86-NEXT:    shrl $2, %eax
 833 ; X86-NEXT:    leal (%eax,%ecx,4), %eax
 834 ; X86-NEXT:    movl %eax, %ecx
 835 ; X86-NEXT:    andl $1431655765, %ecx # imm = 0x55555555
 836 ; X86-NEXT:    andl $-1431655766, %eax # imm = 0xAAAAAAAA
 837 ; X86-NEXT:    shrl %eax
 838 ; X86-NEXT:    leal (%eax,%ecx,2), %edi
 839 ; X86-NEXT:    movl {{[0-9]+}}(%esp), %eax
 840 ; X86-NEXT:    bswapl %eax
 841 ; X86-NEXT:    movl %eax, %ecx
 842 ; X86-NEXT:    andl $252645135, %ecx # imm = 0xF0F0F0F
 843 ; X86-NEXT:    shll $4, %ecx
 844 ; X86-NEXT:    andl $-252645136, %eax # imm = 0xF0F0F0F0
 845 ; X86-NEXT:    shrl $4, %eax
 846 ; X86-NEXT:    orl %ecx, %eax
 847 ; X86-NEXT:    movl %eax, %ecx
 848 ; X86-NEXT:    andl $858993459, %ecx # imm = 0x33333333
 849 ; X86-NEXT:    andl $-858993460, %eax # imm = 0xCCCCCCCC
 850 ; X86-NEXT:    shrl $2, %eax
 851 ; X86-NEXT:    leal (%eax,%ecx,4), %eax
 852 ; X86-NEXT:    movl %eax, %ecx
 853 ; X86-NEXT:    andl $1431655765, %ecx # imm = 0x55555555
 854 ; X86-NEXT:    andl $-1431655766, %eax # imm = 0xAAAAAAAA
 855 ; X86-NEXT:    shrl %eax
 856 ; X86-NEXT:    leal (%eax,%ecx,2), %edx
 857 ; X86-NEXT:    movl (%esp), %esi # 4-byte Reload
 858 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %eax # 4-byte Reload
 859 ; X86-NEXT:    shrdl $16, %eax, %esi
 860 ; X86-NEXT:    shrdl $16, %ebx, %eax
 861 ; X86-NEXT:    movl %eax, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 862 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %ecx # 4-byte Reload
 863 ; X86-NEXT:    shrdl $16, %ecx, %ebx
 864 ; X86-NEXT:    movl %ebx, (%esp) # 4-byte Spill
 865 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %eax # 4-byte Reload
 866 ; X86-NEXT:    shrdl $16, %eax, %ecx
 867 ; X86-NEXT:    movl %ecx, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 868 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %ecx # 4-byte Reload
 869 ; X86-NEXT:    shrdl $16, %ecx, %eax
 870 ; X86-NEXT:    movl %eax, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 871 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %eax # 4-byte Reload
 872 ; X86-NEXT:    shrdl $16, %eax, %ecx
 873 ; X86-NEXT:    movl %ecx, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 874 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %ecx # 4-byte Reload
 875 ; X86-NEXT:    shrdl $16, %ecx, %eax
 876 ; X86-NEXT:    movl %eax, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 877 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %eax # 4-byte Reload
 878 ; X86-NEXT:    shrdl $16, %eax, %ecx
 879 ; X86-NEXT:    movl %ecx, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 880 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %ecx # 4-byte Reload
 881 ; X86-NEXT:    shrdl $16, %ecx, %eax
 882 ; X86-NEXT:    movl %eax, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 883 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %eax # 4-byte Reload
 884 ; X86-NEXT:    shrdl $16, %eax, %ecx
 885 ; X86-NEXT:    movl %ecx, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 886 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %ecx # 4-byte Reload
 887 ; X86-NEXT:    shrdl $16, %ecx, %eax
 888 ; X86-NEXT:    movl %eax, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 889 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %ebp # 4-byte Reload
 890 ; X86-NEXT:    shrdl $16, %ebp, %ecx
 891 ; X86-NEXT:    movl %ecx, {{[-0-9]+}}(%e{{[sb]}}p) # 4-byte Spill
 892 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %ebx # 4-byte Reload
 893 ; X86-NEXT:    shrdl $16, %ebx, %ebp
 894 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %eax # 4-byte Reload
 895 ; X86-NEXT:    shrdl $16, %eax, %ebx
 896 ; X86-NEXT:    shrdl $16, %edi, %eax
 897 ; X86-NEXT:    movl %eax, %ecx
 898 ; X86-NEXT:    shrdl $16, %edx, %edi
 899 ; X86-NEXT:    movl {{[0-9]+}}(%esp), %eax
 900 ; X86-NEXT:    movl %edi, 60(%eax)
 901 ; X86-NEXT:    movl %ecx, 56(%eax)
 902 ; X86-NEXT:    movl %ebx, 52(%eax)
 903 ; X86-NEXT:    movl %ebp, 48(%eax)
 904 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %ecx # 4-byte Reload
 905 ; X86-NEXT:    movl %ecx, 44(%eax)
 906 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %ecx # 4-byte Reload
 907 ; X86-NEXT:    movl %ecx, 40(%eax)
 908 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %ecx # 4-byte Reload
 909 ; X86-NEXT:    movl %ecx, 36(%eax)
 910 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %ecx # 4-byte Reload
 911 ; X86-NEXT:    movl %ecx, 32(%eax)
 912 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %ecx # 4-byte Reload
 913 ; X86-NEXT:    movl %ecx, 28(%eax)
 914 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %ecx # 4-byte Reload
 915 ; X86-NEXT:    movl %ecx, 24(%eax)
 916 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %ecx # 4-byte Reload
 917 ; X86-NEXT:    movl %ecx, 20(%eax)
 918 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %ecx # 4-byte Reload
 919 ; X86-NEXT:    movl %ecx, 16(%eax)
 920 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %ecx # 4-byte Reload
 921 ; X86-NEXT:    movl %ecx, 12(%eax)
 922 ; X86-NEXT:    movl (%esp), %ecx # 4-byte Reload
 923 ; X86-NEXT:    movl %ecx, 8(%eax)
 924 ; X86-NEXT:    movl {{[-0-9]+}}(%e{{[sb]}}p), %ecx # 4-byte Reload
 925 ; X86-NEXT:    movl %ecx, 4(%eax)
 926 ; X86-NEXT:    movl %esi, (%eax)
 927 ; X86-NEXT:    shrl $16, %edx
 928 ; X86-NEXT:    movw %dx, 64(%eax)
 929 ; X86-NEXT:    addl $56, %esp
 930 ; X86-NEXT:    popl %esi
 931 ; X86-NEXT:    popl %edi
 932 ; X86-NEXT:    popl %ebx
 933 ; X86-NEXT:    popl %ebp
 934 ; X86-NEXT:    retl $4
 935 ;
 936 ; X64-LABEL: large_promotion:
 937 ; X64:       # %bb.0:
 938 ; X64-NEXT:    pushq %rbp
 939 ; X64-NEXT:    pushq %r15
 940 ; X64-NEXT:    pushq %r14
 941 ; X64-NEXT:    pushq %r13
 942 ; X64-NEXT:    pushq %r12
 943 ; X64-NEXT:    pushq %rbx
 944 ; X64-NEXT:    movq %rdi, %r12
 945 ; X64-NEXT:    movq {{[0-9]+}}(%rsp), %rbp
 946 ; X64-NEXT:    movq {{[0-9]+}}(%rsp), %rbx
 947 ; X64-NEXT:    bswapq %rbx
 948 ; X64-NEXT:    movabsq $1085102592571150095, %r13 # imm = 0xF0F0F0F0F0F0F0F
 949 ; X64-NEXT:    movq %rbx, %r10
 950 ; X64-NEXT:    andq %r13, %r10
 951 ; X64-NEXT:    shlq $4, %r10
 952 ; X64-NEXT:    movabsq $-1085102592571150096, %rax # imm = 0xF0F0F0F0F0F0F0F0
 953 ; X64-NEXT:    andq %rax, %rbx
 954 ; X64-NEXT:    shrq $4, %rbx
 955 ; X64-NEXT:    orq %r10, %rbx
 956 ; X64-NEXT:    movabsq $3689348814741910323, %r11 # imm = 0x3333333333333333
 957 ; X64-NEXT:    movq %rbx, %r10
 958 ; X64-NEXT:    andq %r11, %r10
 959 ; X64-NEXT:    movabsq $-3689348814741910324, %r14 # imm = 0xCCCCCCCCCCCCCCCC
 960 ; X64-NEXT:    andq %r14, %rbx
 961 ; X64-NEXT:    shrq $2, %rbx
 962 ; X64-NEXT:    leaq (%rbx,%r10,4), %r10
 963 ; X64-NEXT:    movabsq $6148820866244280320, %rbx # imm = 0x5555000000000000
 964 ; X64-NEXT:    andq %r10, %rbx
 965 ; X64-NEXT:    movabsq $-6149102341220990976, %rdi # imm = 0xAAAA000000000000
 966 ; X64-NEXT:    andq %r10, %rdi
 967 ; X64-NEXT:    shrq %rdi
 968 ; X64-NEXT:    leaq (%rdi,%rbx,2), %rdi
 969 ; X64-NEXT:    movq %rdi, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
 970 ; X64-NEXT:    bswapq %rbp
 971 ; X64-NEXT:    movq %rbp, %rdi
 972 ; X64-NEXT:    andq %r13, %rdi
 973 ; X64-NEXT:    shlq $4, %rdi
 974 ; X64-NEXT:    andq %rax, %rbp
 975 ; X64-NEXT:    shrq $4, %rbp
 976 ; X64-NEXT:    orq %rdi, %rbp
 977 ; X64-NEXT:    movq %rbp, %rdi
 978 ; X64-NEXT:    andq %r11, %rdi
 979 ; X64-NEXT:    andq %r14, %rbp
 980 ; X64-NEXT:    shrq $2, %rbp
 981 ; X64-NEXT:    leaq (%rbp,%rdi,4), %rbp
 982 ; X64-NEXT:    movabsq $6148914691236517205, %rbx # imm = 0x5555555555555555
 983 ; X64-NEXT:    movq %rbp, %r10
 984 ; X64-NEXT:    andq %rbx, %r10
 985 ; X64-NEXT:    movabsq $-6148914691236517206, %rdi # imm = 0xAAAAAAAAAAAAAAAA
 986 ; X64-NEXT:    andq %rdi, %rbp
 987 ; X64-NEXT:    shrq %rbp
 988 ; X64-NEXT:    leaq (%rbp,%r10,2), %rbp
 989 ; X64-NEXT:    movq %rbp, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
 990 ; X64-NEXT:    movq {{[0-9]+}}(%rsp), %rbp
 991 ; X64-NEXT:    bswapq %rbp
 992 ; X64-NEXT:    movq %rbp, %r10
 993 ; X64-NEXT:    andq %r13, %r10
 994 ; X64-NEXT:    shlq $4, %r10
 995 ; X64-NEXT:    andq %rax, %rbp
 996 ; X64-NEXT:    movq %rax, %r15
 997 ; X64-NEXT:    shrq $4, %rbp
 998 ; X64-NEXT:    orq %r10, %rbp
 999 ; X64-NEXT:    movq %rbp, %r10
1000 ; X64-NEXT:    andq %r11, %r10
1001 ; X64-NEXT:    andq %r14, %rbp
1002 ; X64-NEXT:    shrq $2, %rbp
1003 ; X64-NEXT:    leaq (%rbp,%r10,4), %rbp
1004 ; X64-NEXT:    movq %rbp, %r10
1005 ; X64-NEXT:    andq %rbx, %r10
1006 ; X64-NEXT:    andq %rdi, %rbp
1007 ; X64-NEXT:    shrq %rbp
1008 ; X64-NEXT:    leaq (%rbp,%r10,2), %rbp
1009 ; X64-NEXT:    movq {{[0-9]+}}(%rsp), %r10
1010 ; X64-NEXT:    bswapq %r10
1011 ; X64-NEXT:    movq %r10, %rax
1012 ; X64-NEXT:    andq %r13, %rax
1013 ; X64-NEXT:    shlq $4, %rax
1014 ; X64-NEXT:    movq %r15, %rdi
1015 ; X64-NEXT:    andq %r15, %r10
1016 ; X64-NEXT:    shrq $4, %r10
1017 ; X64-NEXT:    orq %rax, %r10
1018 ; X64-NEXT:    movq %r10, %rax
1019 ; X64-NEXT:    andq %r11, %rax
1020 ; X64-NEXT:    andq %r14, %r10
1021 ; X64-NEXT:    shrq $2, %r10
1022 ; X64-NEXT:    leaq (%r10,%rax,4), %rax
1023 ; X64-NEXT:    movq %rax, %r10
1024 ; X64-NEXT:    andq %rbx, %r10
1025 ; X64-NEXT:    movabsq $-6148914691236517206, %r15 # imm = 0xAAAAAAAAAAAAAAAA
1026 ; X64-NEXT:    andq %r15, %rax
1027 ; X64-NEXT:    shrq %rax
1028 ; X64-NEXT:    leaq (%rax,%r10,2), %r10
1029 ; X64-NEXT:    bswapq %r9
1030 ; X64-NEXT:    movq %r9, %rax
1031 ; X64-NEXT:    andq %r13, %rax
1032 ; X64-NEXT:    shlq $4, %rax
1033 ; X64-NEXT:    andq %rdi, %r9
1034 ; X64-NEXT:    shrq $4, %r9
1035 ; X64-NEXT:    orq %rax, %r9
1036 ; X64-NEXT:    movq %r9, %rax
1037 ; X64-NEXT:    andq %r11, %rax
1038 ; X64-NEXT:    andq %r14, %r9
1039 ; X64-NEXT:    shrq $2, %r9
1040 ; X64-NEXT:    leaq (%r9,%rax,4), %rax
1041 ; X64-NEXT:    movq %rax, %r9
1042 ; X64-NEXT:    andq %rbx, %r9
1043 ; X64-NEXT:    andq %r15, %rax
1044 ; X64-NEXT:    shrq %rax
1045 ; X64-NEXT:    leaq (%rax,%r9,2), %r9
1046 ; X64-NEXT:    bswapq %r8
1047 ; X64-NEXT:    movq %r8, %rax
1048 ; X64-NEXT:    andq %r13, %rax
1049 ; X64-NEXT:    shlq $4, %rax
1050 ; X64-NEXT:    andq %rdi, %r8
1051 ; X64-NEXT:    shrq $4, %r8
1052 ; X64-NEXT:    orq %rax, %r8
1053 ; X64-NEXT:    movq %r8, %rax
1054 ; X64-NEXT:    andq %r11, %rax
1055 ; X64-NEXT:    andq %r14, %r8
1056 ; X64-NEXT:    shrq $2, %r8
1057 ; X64-NEXT:    leaq (%r8,%rax,4), %rax
1058 ; X64-NEXT:    movq %rax, %r8
1059 ; X64-NEXT:    andq %rbx, %r8
1060 ; X64-NEXT:    andq %r15, %rax
1061 ; X64-NEXT:    shrq %rax
1062 ; X64-NEXT:    leaq (%rax,%r8,2), %r8
1063 ; X64-NEXT:    bswapq %rcx
1064 ; X64-NEXT:    movq %rcx, %rax
1065 ; X64-NEXT:    andq %r13, %rax
1066 ; X64-NEXT:    shlq $4, %rax
1067 ; X64-NEXT:    andq %rdi, %rcx
1068 ; X64-NEXT:    shrq $4, %rcx
1069 ; X64-NEXT:    orq %rax, %rcx
1070 ; X64-NEXT:    movq %rcx, %rax
1071 ; X64-NEXT:    andq %r11, %rax
1072 ; X64-NEXT:    andq %r14, %rcx
1073 ; X64-NEXT:    shrq $2, %rcx
1074 ; X64-NEXT:    leaq (%rcx,%rax,4), %rax
1075 ; X64-NEXT:    movq %rax, %rcx
1076 ; X64-NEXT:    andq %rbx, %rcx
1077 ; X64-NEXT:    andq %r15, %rax
1078 ; X64-NEXT:    shrq %rax
1079 ; X64-NEXT:    leaq (%rax,%rcx,2), %rcx
1080 ; X64-NEXT:    bswapq %rdx
1081 ; X64-NEXT:    movq %rdx, %rax
1082 ; X64-NEXT:    andq %r13, %rax
1083 ; X64-NEXT:    shlq $4, %rax
1084 ; X64-NEXT:    andq %rdi, %rdx
1085 ; X64-NEXT:    shrq $4, %rdx
1086 ; X64-NEXT:    orq %rax, %rdx
1087 ; X64-NEXT:    movq %rdx, %rax
1088 ; X64-NEXT:    andq %r11, %rax
1089 ; X64-NEXT:    andq %r14, %rdx
1090 ; X64-NEXT:    shrq $2, %rdx
1091 ; X64-NEXT:    leaq (%rdx,%rax,4), %rax
1092 ; X64-NEXT:    movq %rax, %rdx
1093 ; X64-NEXT:    andq %rbx, %rdx
1094 ; X64-NEXT:    andq %r15, %rax
1095 ; X64-NEXT:    shrq %rax
1096 ; X64-NEXT:    leaq (%rax,%rdx,2), %rax
1097 ; X64-NEXT:    bswapq %rsi
1098 ; X64-NEXT:    andq %rsi, %r13
1099 ; X64-NEXT:    andq %rdi, %rsi
1100 ; X64-NEXT:    shlq $4, %r13
1101 ; X64-NEXT:    shrq $4, %rsi
1102 ; X64-NEXT:    orq %r13, %rsi
1103 ; X64-NEXT:    andq %rsi, %r11
1104 ; X64-NEXT:    andq %r14, %rsi
1105 ; X64-NEXT:    shrq $2, %rsi
1106 ; X64-NEXT:    leaq (%rsi,%r11,4), %rdx
1107 ; X64-NEXT:    andq %rdx, %rbx
1108 ; X64-NEXT:    andq %r15, %rdx
1109 ; X64-NEXT:    shrq %rdx
1110 ; X64-NEXT:    leaq (%rdx,%rbx,2), %rdx
1111 ; X64-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rsi # 8-byte Reload
1112 ; X64-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rdi # 8-byte Reload
1113 ; X64-NEXT:    shrdq $48, %rdi, %rsi
1114 ; X64-NEXT:    shrdq $48, %rbp, %rdi
1115 ; X64-NEXT:    shrdq $48, %r10, %rbp
1116 ; X64-NEXT:    shrdq $48, %r9, %r10
1117 ; X64-NEXT:    shrdq $48, %r8, %r9
1118 ; X64-NEXT:    shrdq $48, %rcx, %r8
1119 ; X64-NEXT:    shrdq $48, %rax, %rcx
1120 ; X64-NEXT:    shrdq $48, %rdx, %rax
1121 ; X64-NEXT:    movq %rax, 56(%r12)
1122 ; X64-NEXT:    movq %rcx, 48(%r12)
1123 ; X64-NEXT:    movq %r8, 40(%r12)
1124 ; X64-NEXT:    movq %r9, 32(%r12)
1125 ; X64-NEXT:    movq %r10, 24(%r12)
1126 ; X64-NEXT:    movq %rbp, 16(%r12)
1127 ; X64-NEXT:    movq %rdi, 8(%r12)
1128 ; X64-NEXT:    movq %rsi, (%r12)
1129 ; X64-NEXT:    shrq $48, %rdx
1130 ; X64-NEXT:    movw %dx, 64(%r12)
1131 ; X64-NEXT:    movq %r12, %rax
1132 ; X64-NEXT:    popq %rbx
1133 ; X64-NEXT:    popq %r12
1134 ; X64-NEXT:    popq %r13
1135 ; X64-NEXT:    popq %r14
1136 ; X64-NEXT:    popq %r15
1137 ; X64-NEXT:    popq %rbp
1138 ; X64-NEXT:    retq
1139   %Z = call i528 @llvm.bitreverse.i528(i528 %A)
1140   ret i528 %Z
1141 }
1142 declare i528 @llvm.bitreverse.i528(i528)