llvm/test/CodeGen/RISCV/rvv/fixed-vectors-fp-interleave.ll

   1 ; NOTE: Assertions have been autogenerated by utils/update_llc_test_checks.py
   2 ; RUN: llc -mtriple=riscv32 -mattr=+v,+zfh,+zvfh,+m,+zvl128b -verify-machineinstrs < %s | FileCheck %s --check-prefixes=CHECK,V128,RV32-V128
   3 ; RUN: llc -mtriple=riscv64 -mattr=+v,+zfh,+zvfh,+m,+zvl128b -verify-machineinstrs < %s | FileCheck %s --check-prefixes=CHECK,V128,RV64-V128
   4 ; RUN: llc -mtriple=riscv32 -mattr=+v,+zfh,+zvfh,+m,+zvl512b -verify-machineinstrs < %s | FileCheck %s --check-prefixes=CHECK,V512,RV32-V512
   5 ; RUN: llc -mtriple=riscv64 -mattr=+v,+zfh,+zvfh,+m,+zvl512b -verify-machineinstrs < %s | FileCheck %s --check-prefixes=CHECK,V512,RV64-V512
   6
   7 ; Test optimizing interleaves to widening arithmetic.
   8
   9 define <4 x half> @interleave_v2f16(<2 x half> %x, <2 x half> %y) {
  10 ; CHECK-LABEL: interleave_v2f16:
  11 ; CHECK:       # %bb.0:
  12 ; CHECK-NEXT:    vsetivli zero, 2, e16, mf4, ta, ma
  13 ; CHECK-NEXT:    vwaddu.vv v10, v8, v9
  14 ; CHECK-NEXT:    li a0, -1
  15 ; CHECK-NEXT:    vwmaccu.vx v10, a0, v9
  16 ; CHECK-NEXT:    vmv1r.v v8, v10
  17 ; CHECK-NEXT:    ret
  18   %a = shufflevector <2 x half> %x, <2 x half> %y, <4 x i32> <i32 0, i32 2, i32 1, i32 3>
  19   ret <4 x half> %a
  20 }
  21
  22 ; Vector order switched for coverage.
  23 define <4 x float> @interleave_v2f32(<2 x float> %x, <2 x float> %y) {
  24 ; CHECK-LABEL: interleave_v2f32:
  25 ; CHECK:       # %bb.0:
  26 ; CHECK-NEXT:    vsetivli zero, 2, e32, mf2, ta, ma
  27 ; CHECK-NEXT:    vwaddu.vv v10, v9, v8
  28 ; CHECK-NEXT:    li a0, -1
  29 ; CHECK-NEXT:    vwmaccu.vx v10, a0, v8
  30 ; CHECK-NEXT:    vmv1r.v v8, v10
  31 ; CHECK-NEXT:    ret
  32   %a = shufflevector <2 x float> %x, <2 x float> %y, <4 x i32> <i32 2, i32 0, i32 3, i32 1>
  33   ret <4 x float> %a
  34 }
  35
  36 ; One vXf64 test case to very that we don't optimize it.
  37 ; FIXME: Is there better codegen we can do here?
  38 define <4 x double> @interleave_v2f64(<2 x double> %x, <2 x double> %y) {
  39 ; V128-LABEL: interleave_v2f64:
  40 ; V128:       # %bb.0:
  41 ; V128-NEXT:    vmv1r.v v12, v9
  42 ; V128-NEXT:    vsetivli zero, 4, e16, mf2, ta, ma
  43 ; V128-NEXT:    vid.v v9
  44 ; V128-NEXT:    vsrl.vi v14, v9, 1
  45 ; V128-NEXT:    vsetvli zero, zero, e64, m2, ta, ma
  46 ; V128-NEXT:    vrgatherei16.vv v10, v8, v14
  47 ; V128-NEXT:    vsetivli zero, 1, e8, mf8, ta, ma
  48 ; V128-NEXT:    vmv.v.i v0, 10
  49 ; V128-NEXT:    vsetivli zero, 4, e64, m2, ta, mu
  50 ; V128-NEXT:    vrgatherei16.vv v10, v12, v14, v0.t
  51 ; V128-NEXT:    vmv.v.v v8, v10
  52 ; V128-NEXT:    ret
  53 ;
  54 ; RV32-V512-LABEL: interleave_v2f64:
  55 ; RV32-V512:       # %bb.0:
  56 ; RV32-V512-NEXT:    vsetivli zero, 4, e16, mf4, ta, ma
  57 ; RV32-V512-NEXT:    vid.v v10
  58 ; RV32-V512-NEXT:    vsrl.vi v11, v10, 1
  59 ; RV32-V512-NEXT:    vmv.v.i v0, 10
  60 ; RV32-V512-NEXT:    vsetvli zero, zero, e64, m1, ta, mu
  61 ; RV32-V512-NEXT:    vrgatherei16.vv v10, v8, v11
  62 ; RV32-V512-NEXT:    vrgatherei16.vv v10, v9, v11, v0.t
  63 ; RV32-V512-NEXT:    vmv.v.v v8, v10
  64 ; RV32-V512-NEXT:    ret
  65 ;
  66 ; RV64-V512-LABEL: interleave_v2f64:
  67 ; RV64-V512:       # %bb.0:
  68 ; RV64-V512-NEXT:    vsetivli zero, 4, e64, m1, ta, mu
  69 ; RV64-V512-NEXT:    vid.v v10
  70 ; RV64-V512-NEXT:    vsrl.vi v11, v10, 1
  71 ; RV64-V512-NEXT:    vmv.v.i v0, 10
  72 ; RV64-V512-NEXT:    vrgather.vv v10, v8, v11
  73 ; RV64-V512-NEXT:    vrgather.vv v10, v9, v11, v0.t
  74 ; RV64-V512-NEXT:    vmv.v.v v8, v10
  75 ; RV64-V512-NEXT:    ret
  76   %a = shufflevector <2 x double> %x, <2 x double> %y, <4 x i32> <i32 0, i32 2, i32 1, i32 3>
  77   ret <4 x double> %a
  78 }
  79
  80 ; Undef elements for coverage
  81 define <8 x half> @interleave_v4f16(<4 x half> %x, <4 x half> %y) {
  82 ; V128-LABEL: interleave_v4f16:
  83 ; V128:       # %bb.0:
  84 ; V128-NEXT:    vsetivli zero, 4, e16, mf2, ta, ma
  85 ; V128-NEXT:    vwaddu.vv v10, v8, v9
  86 ; V128-NEXT:    li a0, -1
  87 ; V128-NEXT:    vwmaccu.vx v10, a0, v9
  88 ; V128-NEXT:    vmv1r.v v8, v10
  89 ; V128-NEXT:    ret
  90 ;
  91 ; V512-LABEL: interleave_v4f16:
  92 ; V512:       # %bb.0:
  93 ; V512-NEXT:    vsetivli zero, 4, e16, mf4, ta, ma
  94 ; V512-NEXT:    vwaddu.vv v10, v8, v9
  95 ; V512-NEXT:    li a0, -1
  96 ; V512-NEXT:    vwmaccu.vx v10, a0, v9
  97 ; V512-NEXT:    vmv1r.v v8, v10
  98 ; V512-NEXT:    ret
  99   %a = shufflevector <4 x half> %x, <4 x half> %y, <8 x i32> <i32 0, i32 4, i32 undef, i32 5, i32 2, i32 undef, i32 3, i32 7>
 100   ret <8 x half> %a
 101 }
 102
 103 define <8 x float> @interleave_v4f32(<4 x float> %x, <4 x float> %y) {
 104 ; V128-LABEL: interleave_v4f32:
 105 ; V128:       # %bb.0:
 106 ; V128-NEXT:    vsetivli zero, 4, e32, m1, ta, ma
 107 ; V128-NEXT:    vwaddu.vv v10, v8, v9
 108 ; V128-NEXT:    li a0, -1
 109 ; V128-NEXT:    vwmaccu.vx v10, a0, v9
 110 ; V128-NEXT:    vmv2r.v v8, v10
 111 ; V128-NEXT:    ret
 112 ;
 113 ; V512-LABEL: interleave_v4f32:
 114 ; V512:       # %bb.0:
 115 ; V512-NEXT:    vsetivli zero, 4, e32, mf2, ta, ma
 116 ; V512-NEXT:    vwaddu.vv v10, v8, v9
 117 ; V512-NEXT:    li a0, -1
 118 ; V512-NEXT:    vwmaccu.vx v10, a0, v9
 119 ; V512-NEXT:    vmv1r.v v8, v10
 120 ; V512-NEXT:    ret
 121   %a = shufflevector <4 x float> %x, <4 x float> %y, <8 x i32> <i32 0, i32 4, i32 1, i32 5, i32 2, i32 6, i32 3, i32 7>
 122   ret <8 x float> %a
 123 }
 124
 125 ; Vector order switched for coverage.
 126 define <16 x half> @interleave_v8f16(<8 x half> %x, <8 x half> %y) {
 127 ; V128-LABEL: interleave_v8f16:
 128 ; V128:       # %bb.0:
 129 ; V128-NEXT:    vsetivli zero, 8, e16, m1, ta, ma
 130 ; V128-NEXT:    vwaddu.vv v10, v9, v8
 131 ; V128-NEXT:    li a0, -1
 132 ; V128-NEXT:    vwmaccu.vx v10, a0, v8
 133 ; V128-NEXT:    vmv2r.v v8, v10
 134 ; V128-NEXT:    ret
 135 ;
 136 ; V512-LABEL: interleave_v8f16:
 137 ; V512:       # %bb.0:
 138 ; V512-NEXT:    vsetivli zero, 8, e16, mf4, ta, ma
 139 ; V512-NEXT:    vwaddu.vv v10, v9, v8
 140 ; V512-NEXT:    li a0, -1
 141 ; V512-NEXT:    vwmaccu.vx v10, a0, v8
 142 ; V512-NEXT:    vmv1r.v v8, v10
 143 ; V512-NEXT:    ret
 144   %a = shufflevector <8 x half> %x, <8 x half> %y, <16 x i32> <i32 8, i32 0, i32 9, i32 1, i32 10, i32 2, i32 11, i32 3, i32 12, i32 4, i32 13, i32 5, i32 14, i32 6, i32 15, i32 7>
 145   ret <16 x half> %a
 146 }
 147
 148 define <16 x float> @interleave_v8f32(<8 x float> %x, <8 x float> %y) {
 149 ; V128-LABEL: interleave_v8f32:
 150 ; V128:       # %bb.0:
 151 ; V128-NEXT:    vsetivli zero, 8, e32, m2, ta, ma
 152 ; V128-NEXT:    vwaddu.vv v12, v8, v10
 153 ; V128-NEXT:    li a0, -1
 154 ; V128-NEXT:    vwmaccu.vx v12, a0, v10
 155 ; V128-NEXT:    vmv4r.v v8, v12
 156 ; V128-NEXT:    ret
 157 ;
 158 ; V512-LABEL: interleave_v8f32:
 159 ; V512:       # %bb.0:
 160 ; V512-NEXT:    vsetivli zero, 8, e32, mf2, ta, ma
 161 ; V512-NEXT:    vwaddu.vv v10, v8, v9
 162 ; V512-NEXT:    li a0, -1
 163 ; V512-NEXT:    vwmaccu.vx v10, a0, v9
 164 ; V512-NEXT:    vmv1r.v v8, v10
 165 ; V512-NEXT:    ret
 166   %a = shufflevector <8 x float> %x, <8 x float> %y, <16 x i32> <i32 0, i32 8, i32 1, i32 9, i32 2, i32 10, i32 3, i32 11, i32 4, i32 12, i32 5, i32 13, i32 6, i32 14, i32 7, i32 15>
 167   ret <16 x float> %a
 168 }
 169
 170 define <32 x half> @interleave_v16f16(<16 x half> %x, <16 x half> %y) {
 171 ; V128-LABEL: interleave_v16f16:
 172 ; V128:       # %bb.0:
 173 ; V128-NEXT:    vsetivli zero, 16, e16, m2, ta, ma
 174 ; V128-NEXT:    vwaddu.vv v12, v8, v10
 175 ; V128-NEXT:    li a0, -1
 176 ; V128-NEXT:    vwmaccu.vx v12, a0, v10
 177 ; V128-NEXT:    vmv4r.v v8, v12
 178 ; V128-NEXT:    ret
 179 ;
 180 ; V512-LABEL: interleave_v16f16:
 181 ; V512:       # %bb.0:
 182 ; V512-NEXT:    vsetivli zero, 16, e16, mf2, ta, ma
 183 ; V512-NEXT:    vwaddu.vv v10, v8, v9
 184 ; V512-NEXT:    li a0, -1
 185 ; V512-NEXT:    vwmaccu.vx v10, a0, v9
 186 ; V512-NEXT:    vmv1r.v v8, v10
 187 ; V512-NEXT:    ret
 188   %a = shufflevector <16 x half> %x, <16 x half> %y, <32 x i32> <i32 0, i32 16, i32 1, i32 17, i32 2, i32 18, i32 3, i32 19, i32 4, i32 20, i32 5, i32 21, i32 6, i32 22, i32 7, i32 23, i32 8, i32 24, i32 9, i32 25, i32 10, i32 26, i32 11, i32 27, i32 12, i32 28, i32 13, i32 29, i32 14, i32 30, i32 15, i32 31>
 189   ret <32 x half> %a
 190 }
 191
 192 define <32 x float> @interleave_v16f32(<16 x float> %x, <16 x float> %y) {
 193 ; V128-LABEL: interleave_v16f32:
 194 ; V128:       # %bb.0:
 195 ; V128-NEXT:    vsetivli zero, 16, e32, m4, ta, ma
 196 ; V128-NEXT:    vwaddu.vv v16, v8, v12
 197 ; V128-NEXT:    li a0, -1
 198 ; V128-NEXT:    vwmaccu.vx v16, a0, v12
 199 ; V128-NEXT:    vmv8r.v v8, v16
 200 ; V128-NEXT:    ret
 201 ;
 202 ; V512-LABEL: interleave_v16f32:
 203 ; V512:       # %bb.0:
 204 ; V512-NEXT:    vsetivli zero, 16, e32, m1, ta, ma
 205 ; V512-NEXT:    vwaddu.vv v10, v8, v9
 206 ; V512-NEXT:    li a0, -1
 207 ; V512-NEXT:    vwmaccu.vx v10, a0, v9
 208 ; V512-NEXT:    vmv2r.v v8, v10
 209 ; V512-NEXT:    ret
 210   %a = shufflevector <16 x float> %x, <16 x float> %y, <32 x i32> <i32 0, i32 16, i32 1, i32 17, i32 2, i32 18, i32 3, i32 19, i32 4, i32 20, i32 5, i32 21, i32 6, i32 22, i32 7, i32 23, i32 8, i32 24, i32 9, i32 25, i32 10, i32 26, i32 11, i32 27, i32 12, i32 28, i32 13, i32 29, i32 14, i32 30, i32 15, i32 31>
 211   ret <32 x float> %a
 212 }
 213
 214 define <64 x half> @interleave_v32f16(<32 x half> %x, <32 x half> %y) {
 215 ; V128-LABEL: interleave_v32f16:
 216 ; V128:       # %bb.0:
 217 ; V128-NEXT:    li a0, 32
 218 ; V128-NEXT:    vsetvli zero, a0, e16, m4, ta, ma
 219 ; V128-NEXT:    vwaddu.vv v16, v8, v12
 220 ; V128-NEXT:    li a0, -1
 221 ; V128-NEXT:    vwmaccu.vx v16, a0, v12
 222 ; V128-NEXT:    vmv8r.v v8, v16
 223 ; V128-NEXT:    ret
 224 ;
 225 ; V512-LABEL: interleave_v32f16:
 226 ; V512:       # %bb.0:
 227 ; V512-NEXT:    li a0, 32
 228 ; V512-NEXT:    vsetvli zero, a0, e16, m1, ta, ma
 229 ; V512-NEXT:    vwaddu.vv v10, v8, v9
 230 ; V512-NEXT:    li a0, -1
 231 ; V512-NEXT:    vwmaccu.vx v10, a0, v9
 232 ; V512-NEXT:    vmv2r.v v8, v10
 233 ; V512-NEXT:    ret
 234   %a = shufflevector <32 x half> %x, <32 x half> %y, <64 x i32> <i32 0, i32 32, i32 1, i32 33, i32 2, i32 34, i32 3, i32 35, i32 4, i32 36, i32 5, i32 37, i32 6, i32 38, i32 7, i32 39, i32 8, i32 40, i32 9, i32 41, i32 10, i32 42, i32 11, i32 43, i32 12, i32 44, i32 13, i32 45, i32 14, i32 46, i32 15, i32 47, i32 16, i32 48, i32 17, i32 49, i32 18, i32 50, i32 19, i32 51, i32 20, i32 52, i32 21, i32 53, i32 22, i32 54, i32 23, i32 55, i32 24, i32 56, i32 25, i32 57, i32 26, i32 58, i32 27, i32 59, i32 28, i32 60, i32 29, i32 61, i32 30, i32 62, i32 31, i32 63>
 235   ret <64 x half> %a
 236 }
 237
 238 define <64 x float> @interleave_v32f32(<32 x float> %x, <32 x float> %y) {
 239 ; V128-LABEL: interleave_v32f32:
 240 ; V128:       # %bb.0:
 241 ; V128-NEXT:    addi sp, sp, -16
 242 ; V128-NEXT:    .cfi_def_cfa_offset 16
 243 ; V128-NEXT:    csrr a0, vlenb
 244 ; V128-NEXT:    slli a0, a0, 3
 245 ; V128-NEXT:    sub sp, sp, a0
 246 ; V128-NEXT:    .cfi_escape 0x0f, 0x0d, 0x72, 0x00, 0x11, 0x10, 0x22, 0x11, 0x08, 0x92, 0xa2, 0x38, 0x00, 0x1e, 0x22 # sp + 16 + 8 * vlenb
 247 ; V128-NEXT:    vmv8r.v v0, v16
 248 ; V128-NEXT:    addi a0, sp, 16
 249 ; V128-NEXT:    vs8r.v v16, (a0) # Unknown-size Folded Spill
 250 ; V128-NEXT:    vmv8r.v v16, v8
 251 ; V128-NEXT:    vsetivli zero, 16, e32, m8, ta, ma
 252 ; V128-NEXT:    vslidedown.vi v8, v0, 16
 253 ; V128-NEXT:    vsetivli zero, 16, e32, m4, ta, ma
 254 ; V128-NEXT:    vwaddu.vv v24, v0, v8
 255 ; V128-NEXT:    li a0, -1
 256 ; V128-NEXT:    vwmaccu.vx v24, a0, v8
 257 ; V128-NEXT:    vsetivli zero, 16, e32, m8, ta, ma
 258 ; V128-NEXT:    vslidedown.vi v0, v16, 16
 259 ; V128-NEXT:    vsetivli zero, 16, e32, m4, ta, ma
 260 ; V128-NEXT:    vwaddu.vv v8, v0, v16
 261 ; V128-NEXT:    vwmaccu.vx v8, a0, v16
 262 ; V128-NEXT:    lui a1, 699051
 263 ; V128-NEXT:    addi a1, a1, -1366
 264 ; V128-NEXT:    vmv.s.x v0, a1
 265 ; V128-NEXT:    li a1, 32
 266 ; V128-NEXT:    vsetvli zero, a1, e32, m8, ta, ma
 267 ; V128-NEXT:    vmerge.vvm v24, v8, v24, v0
 268 ; V128-NEXT:    addi a1, sp, 16
 269 ; V128-NEXT:    vl8r.v v8, (a1) # Unknown-size Folded Reload
 270 ; V128-NEXT:    vsetivli zero, 16, e32, m4, ta, ma
 271 ; V128-NEXT:    vwaddu.vv v0, v16, v8
 272 ; V128-NEXT:    vwmaccu.vx v0, a0, v8
 273 ; V128-NEXT:    vmv8r.v v8, v0
 274 ; V128-NEXT:    vmv8r.v v16, v24
 275 ; V128-NEXT:    csrr a0, vlenb
 276 ; V128-NEXT:    slli a0, a0, 3
 277 ; V128-NEXT:    add sp, sp, a0
 278 ; V128-NEXT:    addi sp, sp, 16
 279 ; V128-NEXT:    ret
 280 ;
 281 ; V512-LABEL: interleave_v32f32:
 282 ; V512:       # %bb.0:
 283 ; V512-NEXT:    li a0, 32
 284 ; V512-NEXT:    vsetvli zero, a0, e32, m2, ta, ma
 285 ; V512-NEXT:    vwaddu.vv v12, v8, v10
 286 ; V512-NEXT:    li a0, -1
 287 ; V512-NEXT:    vwmaccu.vx v12, a0, v10
 288 ; V512-NEXT:    vmv4r.v v8, v12
 289 ; V512-NEXT:    ret
 290   %a = shufflevector <32 x float> %x, <32 x float> %y, <64 x i32> <i32 0, i32 32, i32 1, i32 33, i32 2, i32 34, i32 3, i32 35, i32 4, i32 36, i32 5, i32 37, i32 6, i32 38, i32 7, i32 39, i32 8, i32 40, i32 9, i32 41, i32 10, i32 42, i32 11, i32 43, i32 12, i32 44, i32 13, i32 45, i32 14, i32 46, i32 15, i32 47, i32 16, i32 48, i32 17, i32 49, i32 18, i32 50, i32 19, i32 51, i32 20, i32 52, i32 21, i32 53, i32 22, i32 54, i32 23, i32 55, i32 24, i32 56, i32 25, i32 57, i32 26, i32 58, i32 27, i32 59, i32 28, i32 60, i32 29, i32 61, i32 30, i32 62, i32 31, i32 63>
 291   ret <64 x float> %a
 292 }
 293
 294 define <4 x half> @unary_interleave_v4f16(<4 x half> %x) {
 295 ; V128-LABEL: unary_interleave_v4f16:
 296 ; V128:       # %bb.0:
 297 ; V128-NEXT:    vsetivli zero, 2, e16, mf2, ta, ma
 298 ; V128-NEXT:    vslidedown.vi v10, v8, 2
 299 ; V128-NEXT:    vsetivli zero, 2, e16, mf4, ta, ma
 300 ; V128-NEXT:    vwaddu.vv v9, v8, v10
 301 ; V128-NEXT:    li a0, -1
 302 ; V128-NEXT:    vwmaccu.vx v9, a0, v10
 303 ; V128-NEXT:    vmv1r.v v8, v9
 304 ; V128-NEXT:    ret
 305 ;
 306 ; V512-LABEL: unary_interleave_v4f16:
 307 ; V512:       # %bb.0:
 308 ; V512-NEXT:    vsetivli zero, 2, e16, mf4, ta, ma
 309 ; V512-NEXT:    vslidedown.vi v10, v8, 2
 310 ; V512-NEXT:    vwaddu.vv v9, v8, v10
 311 ; V512-NEXT:    li a0, -1
 312 ; V512-NEXT:    vwmaccu.vx v9, a0, v10
 313 ; V512-NEXT:    vmv1r.v v8, v9
 314 ; V512-NEXT:    ret
 315   %a = shufflevector <4 x half> %x, <4 x half> poison, <4 x i32> <i32 0, i32 2, i32 1, i32 3>
 316   ret <4 x half> %a
 317 }
 318
 319 define <4 x float> @unary_interleave_v4f32(<4 x float> %x) {
 320 ; V128-LABEL: unary_interleave_v4f32:
 321 ; V128:       # %bb.0:
 322 ; V128-NEXT:    vsetivli zero, 2, e32, m1, ta, ma
 323 ; V128-NEXT:    vslidedown.vi v10, v8, 2
 324 ; V128-NEXT:    vsetivli zero, 2, e32, mf2, ta, ma
 325 ; V128-NEXT:    vwaddu.vv v9, v8, v10
 326 ; V128-NEXT:    li a0, -1
 327 ; V128-NEXT:    vwmaccu.vx v9, a0, v10
 328 ; V128-NEXT:    vmv1r.v v8, v9
 329 ; V128-NEXT:    ret
 330 ;
 331 ; V512-LABEL: unary_interleave_v4f32:
 332 ; V512:       # %bb.0:
 333 ; V512-NEXT:    vsetivli zero, 2, e32, mf2, ta, ma
 334 ; V512-NEXT:    vslidedown.vi v10, v8, 2
 335 ; V512-NEXT:    vwaddu.vv v9, v8, v10
 336 ; V512-NEXT:    li a0, -1
 337 ; V512-NEXT:    vwmaccu.vx v9, a0, v10
 338 ; V512-NEXT:    vmv1r.v v8, v9
 339 ; V512-NEXT:    ret
 340   %a = shufflevector <4 x float> %x, <4 x float> poison, <4 x i32> <i32 0, i32 2, i32 1, i32 3>
 341   ret <4 x float> %a
 342 }
 343
 344 ; FIXME: Is there better codegen we can do here?
 345 define <4 x double> @unary_interleave_v4f64(<4 x double> %x) {
 346 ; V128-LABEL: unary_interleave_v4f64:
 347 ; V128:       # %bb.0:
 348 ; V128-NEXT:    lui a0, 12304
 349 ; V128-NEXT:    addi a0, a0, 512
 350 ; V128-NEXT:    vsetivli zero, 4, e32, m1, ta, ma
 351 ; V128-NEXT:    vmv.s.x v10, a0
 352 ; V128-NEXT:    vsetvli zero, zero, e16, mf2, ta, ma
 353 ; V128-NEXT:    vsext.vf2 v12, v10
 354 ; V128-NEXT:    vsetvli zero, zero, e64, m2, ta, ma
 355 ; V128-NEXT:    vrgatherei16.vv v10, v8, v12
 356 ; V128-NEXT:    vmv.v.v v8, v10
 357 ; V128-NEXT:    ret
 358 ;
 359 ; RV32-V512-LABEL: unary_interleave_v4f64:
 360 ; RV32-V512:       # %bb.0:
 361 ; RV32-V512-NEXT:    lui a0, 12304
 362 ; RV32-V512-NEXT:    addi a0, a0, 512
 363 ; RV32-V512-NEXT:    vsetivli zero, 4, e32, m1, ta, ma
 364 ; RV32-V512-NEXT:    vmv.s.x v9, a0
 365 ; RV32-V512-NEXT:    vsetivli zero, 4, e16, mf4, ta, ma
 366 ; RV32-V512-NEXT:    vsext.vf2 v10, v9
 367 ; RV32-V512-NEXT:    vsetvli zero, zero, e64, m1, ta, ma
 368 ; RV32-V512-NEXT:    vrgatherei16.vv v9, v8, v10
 369 ; RV32-V512-NEXT:    vmv.v.v v8, v9
 370 ; RV32-V512-NEXT:    ret
 371 ;
 372 ; RV64-V512-LABEL: unary_interleave_v4f64:
 373 ; RV64-V512:       # %bb.0:
 374 ; RV64-V512-NEXT:    lui a0, 12304
 375 ; RV64-V512-NEXT:    addi a0, a0, 512
 376 ; RV64-V512-NEXT:    vsetivli zero, 4, e64, m1, ta, ma
 377 ; RV64-V512-NEXT:    vmv.s.x v9, a0
 378 ; RV64-V512-NEXT:    vsext.vf8 v10, v9
 379 ; RV64-V512-NEXT:    vrgather.vv v9, v8, v10
 380 ; RV64-V512-NEXT:    vmv.v.v v8, v9
 381 ; RV64-V512-NEXT:    ret
 382   %a = shufflevector <4 x double> %x, <4 x double> poison, <4 x i32> <i32 0, i32 2, i32 1, i32 3>
 383   ret <4 x double> %a
 384 }
 385
 386 define <8 x half> @unary_interleave_v8f16(<8 x half> %x) {
 387 ; V128-LABEL: unary_interleave_v8f16:
 388 ; V128:       # %bb.0:
 389 ; V128-NEXT:    vsetivli zero, 4, e16, m1, ta, ma
 390 ; V128-NEXT:    vslidedown.vi v10, v8, 4
 391 ; V128-NEXT:    vsetivli zero, 4, e16, mf2, ta, ma
 392 ; V128-NEXT:    vwaddu.vv v9, v8, v10
 393 ; V128-NEXT:    li a0, -1
 394 ; V128-NEXT:    vwmaccu.vx v9, a0, v10
 395 ; V128-NEXT:    vmv1r.v v8, v9
 396 ; V128-NEXT:    ret
 397 ;
 398 ; V512-LABEL: unary_interleave_v8f16:
 399 ; V512:       # %bb.0:
 400 ; V512-NEXT:    vsetivli zero, 4, e16, mf4, ta, ma
 401 ; V512-NEXT:    vslidedown.vi v10, v8, 4
 402 ; V512-NEXT:    vwaddu.vv v9, v8, v10
 403 ; V512-NEXT:    li a0, -1
 404 ; V512-NEXT:    vwmaccu.vx v9, a0, v10
 405 ; V512-NEXT:    vmv1r.v v8, v9
 406 ; V512-NEXT:    ret
 407   %a = shufflevector <8 x half> %x, <8 x half> poison, <8 x i32> <i32 0, i32 4, i32 undef, i32 5, i32 2, i32 undef, i32 3, i32 7>
 408   ret <8 x half> %a
 409 }
 410
 411 define <8 x float> @unary_interleave_v8f32(<8 x float> %x) {
 412 ; V128-LABEL: unary_interleave_v8f32:
 413 ; V128:       # %bb.0:
 414 ; V128-NEXT:    vsetivli zero, 4, e32, m2, ta, ma
 415 ; V128-NEXT:    vslidedown.vi v12, v8, 4
 416 ; V128-NEXT:    vsetivli zero, 4, e32, m1, ta, ma
 417 ; V128-NEXT:    vwaddu.vv v10, v12, v8
 418 ; V128-NEXT:    li a0, -1
 419 ; V128-NEXT:    vwmaccu.vx v10, a0, v8
 420 ; V128-NEXT:    vmv2r.v v8, v10
 421 ; V128-NEXT:    ret
 422 ;
 423 ; V512-LABEL: unary_interleave_v8f32:
 424 ; V512:       # %bb.0:
 425 ; V512-NEXT:    vsetivli zero, 4, e32, mf2, ta, ma
 426 ; V512-NEXT:    vslidedown.vi v10, v8, 4
 427 ; V512-NEXT:    vwaddu.vv v9, v10, v8
 428 ; V512-NEXT:    li a0, -1
 429 ; V512-NEXT:    vwmaccu.vx v9, a0, v8
 430 ; V512-NEXT:    vmv1r.v v8, v9
 431 ; V512-NEXT:    ret
 432   %a = shufflevector <8 x float> %x, <8 x float> poison, <8 x i32> <i32 4, i32 0, i32 undef, i32 1, i32 6, i32 undef, i32 7, i32 3>
 433   ret <8 x float> %a
 434 }
 435 ;; NOTE: These prefixes are unused and the list is autogenerated. Do not add tests below this line:
 436 ; RV32-V128: {{.*}}
 437 ; RV64-V128: {{.*}}