llvm/test/CodeGen/AArch64/sve-fixed-length-vector-shuffle-tbl.ll

   1 ; NOTE: Assertions have been autogenerated by utils/update_llc_test_checks.py
   2 ; RUN: llc -mattr=+sve2 -force-streaming-compatible-sve -aarch64-sve-vector-bits-min=128 -aarch64-sve-vector-bits-max=128  < %s | FileCheck %s -check-prefixes=CHECK,SVE2_128
   3 ; RUN: llc -mattr=+sve2 -force-streaming-compatible-sve -aarch64-sve-vector-bits-min=128 < %s | FileCheck %s -check-prefixes=CHECK,SVE2_128_NOMAX
   4
   5 target triple = "aarch64-unknown-linux-gnu"
   6
   7 ; SVE2_128: .LCPI0_0:
   8 ; SVE2_128-NEXT:        .byte   0                               // 0x0
   9 ; SVE2_128-NEXT:        .byte   7                               // 0x7
  10 ; SVE2_128-NEXT:        .byte   2                               // 0x2
  11 ; SVE2_128-NEXT:        .byte   3                               // 0x3
  12 ; SVE2_128-NEXT:        .byte   4                               // 0x4
  13 ; SVE2_128-NEXT:        .byte   5                               // 0x5
  14 ; SVE2_128-NEXT:        .byte   6                               // 0x6
  15 ; SVE2_128-NEXT:        .byte   7                               // 0x7
  16 ; SVE2_128-NEXT:        .byte   255                             // 0xff
  17 ; SVE2_128-NEXT:        .byte   255                             // 0xff
  18 define <8 x i8> @shuffle_index_indices_from_op1(ptr %a, ptr %b) {
  19 ; CHECK-LABEL: shuffle_index_indices_from_op1:
  20 ; CHECK:       // %bb.0:
  21 ; CHECK-NEXT:    adrp x8, .LCPI0_0
  22 ; CHECK-NEXT:    ldr d0, [x0]
  23 ; CHECK-NEXT:    ldr q1, [x8, :lo12:.LCPI0_0]
  24 ; CHECK-NEXT:    tbl z0.b, { z0.b }, z1.b
  25 ; CHECK-NEXT:    // kill: def $d0 killed $d0 killed $z0
  26 ; CHECK-NEXT:    ret
  27   %op1 = load <8 x i8>, ptr %a
  28   %op2 = load <8 x i8>, ptr %b
  29   %1 = shufflevector <8 x i8> %op1, <8 x i8> %op2, <8 x i32> <i32 0, i32 7, i32 2, i32 3, i32 4, i32 5, i32 6, i32 7>
  30   ret <8 x i8> %1
  31 }
  32
  33 ; SVE2_128: .LCPI1_0:
  34 ; SVE2_128-NEXT:        .byte   0                               // 0x0
  35 ; SVE2_128-NEXT:        .byte   1                               // 0x1
  36 ; SVE2_128-NEXT:        .byte   1                               // 0x1
  37 ; SVE2_128-NEXT:        .byte   3                               // 0x3
  38 ; SVE2_128-NEXT:        .byte   4                               // 0x4
  39 ; SVE2_128-NEXT:        .byte   7                               // 0x7
  40 ; SVE2_128-NEXT:        .byte   6                               // 0x6
  41 ; SVE2_128-NEXT:        .byte   7                               // 0x7
  42 ; SVE2_128-NEXT:        .byte   255                             // 0xff
  43 ; SVE2_128-NEXT:        .byte   255                             // 0xff
  44 define <8 x i8> @shuffle_index_indices_from_op2(ptr %a, ptr %b) {
  45 ; CHECK-LABEL: shuffle_index_indices_from_op2:
  46 ; CHECK:       // %bb.0:
  47 ; CHECK-NEXT:    adrp x8, .LCPI1_0
  48 ; CHECK-NEXT:    ldr d0, [x1]
  49 ; CHECK-NEXT:    ldr q1, [x8, :lo12:.LCPI1_0]
  50 ; CHECK-NEXT:    tbl z0.b, { z0.b }, z1.b
  51 ; CHECK-NEXT:    // kill: def $d0 killed $d0 killed $z0
  52 ; CHECK-NEXT:    ret
  53   %op1 = load <8 x i8>, ptr %a
  54   %op2 = load <8 x i8>, ptr %b
  55   %1 = shufflevector <8 x i8> %op1, <8 x i8> %op2, <8 x i32> <i32 8, i32 9, i32 9, i32 11, i32 12, i32 15, i32 14, i32 15>
  56   ret <8 x i8> %1
  57 }
  58
  59 ; SVE2_128: .LCPI2_0:
  60 ; SVE2_128-NEXT:        .byte   1                               // 0x1
  61 ; SVE2_128-NEXT:        .byte   17                              // 0x11
  62 ; SVE2_128-NEXT:        .byte   18                              // 0x12
  63 ; SVE2_128-NEXT:        .byte   19                              // 0x13
  64 ; SVE2_128-NEXT:        .byte   20                              // 0x14
  65 ; SVE2_128-NEXT:        .byte   20                              // 0x14
  66 ; SVE2_128-NEXT:        .byte   22                              // 0x16
  67 ; SVE2_128-NEXT:        .byte   23                              // 0x17
  68 ; SVE2_128-NEXT:        .byte   255                             // 0xff
  69 ; SVE2_128-NEXT:        .byte   255                             // 0xff
  70 define <8 x i8> @shuffle_index_indices_from_both_ops(ptr %a, ptr %b) {
  71 ; SVE2_128-LABEL: shuffle_index_indices_from_both_ops:
  72 ; SVE2_128:       // %bb.0:
  73 ; SVE2_128-NEXT:    adrp x8, .LCPI2_0
  74 ; SVE2_128-NEXT:    ldr d0, [x0]
  75 ; SVE2_128-NEXT:    ldr d1, [x1]
  76 ; SVE2_128-NEXT:    ldr q2, [x8, :lo12:.LCPI2_0]
  77 ; SVE2_128-NEXT:    tbl z0.b, { z0.b, z1.b }, z2.b
  78 ; SVE2_128-NEXT:    // kill: def $d0 killed $d0 killed $z0
  79 ; SVE2_128-NEXT:    ret
  80 ;
  81 ; SVE2_128_NOMAX-LABEL: shuffle_index_indices_from_both_ops:
  82 ; SVE2_128_NOMAX:       // %bb.0:
  83 ; SVE2_128_NOMAX-NEXT:    sub sp, sp, #16
  84 ; SVE2_128_NOMAX-NEXT:    .cfi_def_cfa_offset 16
  85 ; SVE2_128_NOMAX-NEXT:    ldr d0, [x1]
  86 ; SVE2_128_NOMAX-NEXT:    mov z1.b, z0.b[7]
  87 ; SVE2_128_NOMAX-NEXT:    mov z2.b, z0.b[6]
  88 ; SVE2_128_NOMAX-NEXT:    mov z3.b, z0.b[4]
  89 ; SVE2_128_NOMAX-NEXT:    fmov w8, s1
  90 ; SVE2_128_NOMAX-NEXT:    ldr d1, [x0]
  91 ; SVE2_128_NOMAX-NEXT:    fmov w9, s2
  92 ; SVE2_128_NOMAX-NEXT:    mov z2.b, z0.b[3]
  93 ; SVE2_128_NOMAX-NEXT:    mov z1.b, z1.b[1]
  94 ; SVE2_128_NOMAX-NEXT:    strb w8, [sp, #15]
  95 ; SVE2_128_NOMAX-NEXT:    fmov w8, s3
  96 ; SVE2_128_NOMAX-NEXT:    mov z3.b, z0.b[2]
  97 ; SVE2_128_NOMAX-NEXT:    strb w9, [sp, #14]
  98 ; SVE2_128_NOMAX-NEXT:    mov z0.b, z0.b[1]
  99 ; SVE2_128_NOMAX-NEXT:    fmov w9, s2
 100 ; SVE2_128_NOMAX-NEXT:    strb w8, [sp, #13]
 101 ; SVE2_128_NOMAX-NEXT:    strb w8, [sp, #12]
 102 ; SVE2_128_NOMAX-NEXT:    fmov w8, s3
 103 ; SVE2_128_NOMAX-NEXT:    strb w9, [sp, #11]
 104 ; SVE2_128_NOMAX-NEXT:    fmov w9, s0
 105 ; SVE2_128_NOMAX-NEXT:    strb w8, [sp, #10]
 106 ; SVE2_128_NOMAX-NEXT:    fmov w8, s1
 107 ; SVE2_128_NOMAX-NEXT:    strb w9, [sp, #9]
 108 ; SVE2_128_NOMAX-NEXT:    strb w8, [sp, #8]
 109 ; SVE2_128_NOMAX-NEXT:    ldr d0, [sp, #8]
 110 ; SVE2_128_NOMAX-NEXT:    add sp, sp, #16
 111 ; SVE2_128_NOMAX-NEXT:    ret
 112   %op1 = load <8 x i8>, ptr %a
 113   %op2 = load <8 x i8>, ptr %b
 114   %1 = shufflevector <8 x i8> %op1, <8 x i8> %op2, <8 x i32> <i32 1, i32 9, i32 10, i32 11, i32 12, i32 12, i32 14, i32 15>
 115   ret <8 x i8> %1
 116 }
 117
 118 ; SVE2_128: .LCPI3_0:
 119 ; SVE2_128-NEXT:        .byte   1                               // 0x1
 120 ; SVE2_128-NEXT:        .byte   17                              // 0x11
 121 ; SVE2_128-NEXT:        .byte   18                              // 0x12
 122 ; SVE2_128-NEXT:        .byte   19                              // 0x13
 123 ; SVE2_128-NEXT:        .byte   20                              // 0x14
 124 ; SVE2_128-NEXT:        .byte   20                              // 0x14
 125 ; SVE2_128-NEXT:        .byte   22                              // 0x16
 126 ; SVE2_128-NEXT:        .byte   0                               // 0x0
 127 ; SVE2_128-NEXT:        .byte   255                             // 0xff
 128 ; SVE2_128-NEXT:        .byte   255                             // 0xff
 129 define <8 x i8> @shuffle_index_poison_value(ptr %a, ptr %b) {
 130 ; SVE2_128-LABEL: shuffle_index_poison_value:
 131 ; SVE2_128:       // %bb.0:
 132 ; SVE2_128-NEXT:    adrp x8, .LCPI3_0
 133 ; SVE2_128-NEXT:    ldr d0, [x0]
 134 ; SVE2_128-NEXT:    ldr d1, [x1]
 135 ; SVE2_128-NEXT:    ldr q2, [x8, :lo12:.LCPI3_0]
 136 ; SVE2_128-NEXT:    tbl z0.b, { z0.b, z1.b }, z2.b
 137 ; SVE2_128-NEXT:    // kill: def $d0 killed $d0 killed $z0
 138 ; SVE2_128-NEXT:    ret
 139 ;
 140 ; SVE2_128_NOMAX-LABEL: shuffle_index_poison_value:
 141 ; SVE2_128_NOMAX:       // %bb.0:
 142 ; SVE2_128_NOMAX-NEXT:    sub sp, sp, #16
 143 ; SVE2_128_NOMAX-NEXT:    .cfi_def_cfa_offset 16
 144 ; SVE2_128_NOMAX-NEXT:    ldr d0, [x1]
 145 ; SVE2_128_NOMAX-NEXT:    ldr d3, [x0]
 146 ; SVE2_128_NOMAX-NEXT:    mov z1.b, z0.b[6]
 147 ; SVE2_128_NOMAX-NEXT:    mov z2.b, z0.b[4]
 148 ; SVE2_128_NOMAX-NEXT:    fmov w8, s1
 149 ; SVE2_128_NOMAX-NEXT:    mov z1.b, z0.b[3]
 150 ; SVE2_128_NOMAX-NEXT:    fmov w9, s2
 151 ; SVE2_128_NOMAX-NEXT:    mov z2.b, z0.b[2]
 152 ; SVE2_128_NOMAX-NEXT:    mov z0.b, z0.b[1]
 153 ; SVE2_128_NOMAX-NEXT:    strb w8, [sp, #14]
 154 ; SVE2_128_NOMAX-NEXT:    fmov w8, s1
 155 ; SVE2_128_NOMAX-NEXT:    mov z1.b, z3.b[1]
 156 ; SVE2_128_NOMAX-NEXT:    strb w9, [sp, #13]
 157 ; SVE2_128_NOMAX-NEXT:    strb w9, [sp, #12]
 158 ; SVE2_128_NOMAX-NEXT:    fmov w9, s2
 159 ; SVE2_128_NOMAX-NEXT:    strb w8, [sp, #11]
 160 ; SVE2_128_NOMAX-NEXT:    fmov w8, s0
 161 ; SVE2_128_NOMAX-NEXT:    strb w9, [sp, #10]
 162 ; SVE2_128_NOMAX-NEXT:    fmov w9, s1
 163 ; SVE2_128_NOMAX-NEXT:    strb w8, [sp, #9]
 164 ; SVE2_128_NOMAX-NEXT:    strb w9, [sp, #8]
 165 ; SVE2_128_NOMAX-NEXT:    ldr d0, [sp, #8]
 166 ; SVE2_128_NOMAX-NEXT:    add sp, sp, #16
 167 ; SVE2_128_NOMAX-NEXT:    ret
 168   %op1 = load <8 x i8>, ptr %a
 169   %op2 = load <8 x i8>, ptr %b
 170   %1 = shufflevector <8 x i8> %op1, <8 x i8> %op2, <8 x i32> <i32 1, i32 9, i32 10, i32 11, i32 12, i32 12, i32 14, i32 poison>
 171   ret <8 x i8> %1
 172 }
 173
 174 define <8 x i8> @shuffle_op1_poison(ptr %a, ptr %b) {
 175 ; CHECK-LABEL: shuffle_op1_poison:
 176 ; CHECK:       // %bb.0:
 177 ; CHECK-NEXT:    adrp x8, .LCPI4_0
 178 ; CHECK-NEXT:    ldr d0, [x1]
 179 ; CHECK-NEXT:    ldr q1, [x8, :lo12:.LCPI4_0]
 180 ; CHECK-NEXT:    tbl z0.b, { z0.b }, z1.b
 181 ; CHECK-NEXT:    // kill: def $d0 killed $d0 killed $z0
 182 ; CHECK-NEXT:    ret
 183   %op2 = load <8 x i8>, ptr %b
 184   %1 = shufflevector <8 x i8> poison, <8 x i8> %op2, <8 x i32> <i32 1, i32 9, i32 10, i32 11, i32 12, i32 12, i32 14, i32 15>
 185   ret <8 x i8> %1
 186 }
 187
 188 ; In this function, we could not represent indexes for the second operand
 189 ; because for i8 type, the maximum constant in the mask is 256.
 190 define <8 x i8> @negative_test_shuffle_index_size_op_both_maxhw(ptr %a, ptr %b) "target-features"="+sve2" vscale_range(16,16) {
 191 ; CHECK-LABEL: negative_test_shuffle_index_size_op_both_maxhw:
 192 ; CHECK:       // %bb.0:
 193 ; CHECK-NEXT:    sub sp, sp, #16
 194 ; CHECK-NEXT:    .cfi_def_cfa_offset 16
 195 ; CHECK-NEXT:    ldr d0, [x1]
 196 ; CHECK-NEXT:    mov z1.b, z0.b[7]
 197 ; CHECK-NEXT:    mov z2.b, z0.b[6]
 198 ; CHECK-NEXT:    mov z3.b, z0.b[4]
 199 ; CHECK-NEXT:    fmov w8, s1
 200 ; CHECK-NEXT:    ldr d1, [x0]
 201 ; CHECK-NEXT:    fmov w9, s2
 202 ; CHECK-NEXT:    mov z2.b, z0.b[3]
 203 ; CHECK-NEXT:    mov z1.b, z1.b[1]
 204 ; CHECK-NEXT:    strb w8, [sp, #15]
 205 ; CHECK-NEXT:    fmov w8, s3
 206 ; CHECK-NEXT:    mov z3.b, z0.b[2]
 207 ; CHECK-NEXT:    strb w9, [sp, #14]
 208 ; CHECK-NEXT:    mov z0.b, z0.b[1]
 209 ; CHECK-NEXT:    fmov w9, s2
 210 ; CHECK-NEXT:    strb w8, [sp, #13]
 211 ; CHECK-NEXT:    strb w8, [sp, #12]
 212 ; CHECK-NEXT:    fmov w8, s3
 213 ; CHECK-NEXT:    strb w9, [sp, #11]
 214 ; CHECK-NEXT:    fmov w9, s0
 215 ; CHECK-NEXT:    strb w8, [sp, #10]
 216 ; CHECK-NEXT:    fmov w8, s1
 217 ; CHECK-NEXT:    strb w9, [sp, #9]
 218 ; CHECK-NEXT:    strb w8, [sp, #8]
 219 ; CHECK-NEXT:    ldr d0, [sp, #8]
 220 ; CHECK-NEXT:    add sp, sp, #16
 221 ; CHECK-NEXT:    ret
 222   %op1 = load <8 x i8>, ptr %a
 223   %op2 = load <8 x i8>, ptr %b
 224   %1 = shufflevector <8 x i8> %op1, <8 x i8> %op2, <8 x i32> <i32 1, i32 9, i32 10, i32 11, i32 12, i32 12, i32 14, i32 15>
 225   ret <8 x i8> %1
 226 }
 227
 228 ; CHECK: .LCPI6_0:
 229 ; CHECK-NEXT:        .byte   0                               // 0x0
 230 ; CHECK-NEXT:        .byte   7                               // 0x7
 231 ; CHECK-NEXT:        .byte   2                               // 0x2
 232 ; CHECK-NEXT:        .byte   3                               // 0x3
 233 ; CHECK-NEXT:        .byte   4                               // 0x4
 234 ; CHECK-NEXT:        .byte   5                               // 0x5
 235 ; CHECK-NEXT:        .byte   6                               // 0x6
 236 ; CHECK-NEXT:        .byte   7                               // 0x7
 237 ; CHECK-NEXT:        .byte   255                             // 0xff
 238 ; CHECK-NEXT:        .byte   255                             // 0xff
 239 define <8 x i8> @shuffle_index_size_op1_maxhw(ptr %a, ptr %b) "target-features"="+sve2" vscale_range(16,16) {
 240 ; CHECK-LABEL: shuffle_index_size_op1_maxhw:
 241 ; CHECK:       // %bb.0:
 242 ; CHECK-NEXT:    ptrue p0.b
 243 ; CHECK-NEXT:    adrp x8, .LCPI6_0
 244 ; CHECK-NEXT:    add x8, x8, :lo12:.LCPI6_0
 245 ; CHECK-NEXT:    ldr d0, [x0]
 246 ; CHECK-NEXT:    ld1b { z1.b }, p0/z, [x8]
 247 ; CHECK-NEXT:    tbl z0.b, { z0.b }, z1.b
 248 ; CHECK-NEXT:    // kill: def $d0 killed $d0 killed $z0
 249 ; CHECK-NEXT:    ret
 250   %op1 = load <8 x i8>, ptr %a
 251   %op2 = load <8 x i8>, ptr %b
 252   %1 = shufflevector <8 x i8> %op1, <8 x i8> %op2, <8 x i32> <i32 0, i32 7, i32 2, i32 3, i32 4, i32 5, i32 6, i32 7>
 253   ret <8 x i8> %1
 254 }