llvm/test/CodeGen/RISCV/rvv/vfadd-vp.ll

   1 ; NOTE: Assertions have been autogenerated by utils/update_llc_test_checks.py
   2 ; RUN: llc -mtriple=riscv32 -mattr=+d,+zfh,+zvfh,+v -target-abi=ilp32d \
   3 ; RUN:     -verify-machineinstrs < %s | FileCheck %s --check-prefixes=CHECK,ZVFH
   4 ; RUN: llc -mtriple=riscv64 -mattr=+d,+zfh,+zvfh,+v -target-abi=lp64d \
   5 ; RUN:     -verify-machineinstrs < %s | FileCheck %s --check-prefixes=CHECK,ZVFH
   6 ; RUN: llc -mtriple=riscv32 -mattr=+d,+zfhmin,+zvfhmin,+v -target-abi=ilp32d \
   7 ; RUN:     -verify-machineinstrs < %s | FileCheck %s --check-prefixes=CHECK,ZVFHMIN
   8 ; RUN: llc -mtriple=riscv64 -mattr=+d,+zfhmin,+zvfhmin,+v -target-abi=lp64d \
   9 ; RUN:     -verify-machineinstrs < %s | FileCheck %s --check-prefixes=CHECK,ZVFHMIN
  10
  11 declare <vscale x 1 x half> @llvm.vp.fadd.nxv1f16(<vscale x 1 x half>, <vscale x 1 x half>, <vscale x 1 x i1>, i32)
  12
  13 define <vscale x 1 x half> @vfadd_vv_nxv1f16(<vscale x 1 x half> %va, <vscale x 1 x half> %b, <vscale x 1 x i1> %m, i32 zeroext %evl) {
  14 ; ZVFH-LABEL: vfadd_vv_nxv1f16:
  15 ; ZVFH:       # %bb.0:
  16 ; ZVFH-NEXT:    vsetvli zero, a0, e16, mf4, ta, ma
  17 ; ZVFH-NEXT:    vfadd.vv v8, v8, v9, v0.t
  18 ; ZVFH-NEXT:    ret
  19 ;
  20 ; ZVFHMIN-LABEL: vfadd_vv_nxv1f16:
  21 ; ZVFHMIN:       # %bb.0:
  22 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e16, mf4, ta, ma
  23 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v10, v9
  24 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v9, v8
  25 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, mf2, ta, ma
  26 ; ZVFHMIN-NEXT:    vfadd.vv v9, v9, v10, v0.t
  27 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, mf4, ta, ma
  28 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v9
  29 ; ZVFHMIN-NEXT:    ret
  30   %v = call <vscale x 1 x half> @llvm.vp.fadd.nxv1f16(<vscale x 1 x half> %va, <vscale x 1 x half> %b, <vscale x 1 x i1> %m, i32 %evl)
  31   ret <vscale x 1 x half> %v
  32 }
  33
  34 define <vscale x 1 x half> @vfadd_vv_nxv1f16_unmasked(<vscale x 1 x half> %va, <vscale x 1 x half> %b, i32 zeroext %evl) {
  35 ; ZVFH-LABEL: vfadd_vv_nxv1f16_unmasked:
  36 ; ZVFH:       # %bb.0:
  37 ; ZVFH-NEXT:    vsetvli zero, a0, e16, mf4, ta, ma
  38 ; ZVFH-NEXT:    vfadd.vv v8, v8, v9
  39 ; ZVFH-NEXT:    ret
  40 ;
  41 ; ZVFHMIN-LABEL: vfadd_vv_nxv1f16_unmasked:
  42 ; ZVFHMIN:       # %bb.0:
  43 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e16, mf4, ta, ma
  44 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v10, v9
  45 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v9, v8
  46 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, mf2, ta, ma
  47 ; ZVFHMIN-NEXT:    vfadd.vv v9, v9, v10
  48 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, mf4, ta, ma
  49 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v9
  50 ; ZVFHMIN-NEXT:    ret
  51   %v = call <vscale x 1 x half> @llvm.vp.fadd.nxv1f16(<vscale x 1 x half> %va, <vscale x 1 x half> %b, <vscale x 1 x i1> splat (i1 true), i32 %evl)
  52   ret <vscale x 1 x half> %v
  53 }
  54
  55 define <vscale x 1 x half> @vfadd_vf_nxv1f16(<vscale x 1 x half> %va, half %b, <vscale x 1 x i1> %m, i32 zeroext %evl) {
  56 ; ZVFH-LABEL: vfadd_vf_nxv1f16:
  57 ; ZVFH:       # %bb.0:
  58 ; ZVFH-NEXT:    vsetvli zero, a0, e16, mf4, ta, ma
  59 ; ZVFH-NEXT:    vfadd.vf v8, v8, fa0, v0.t
  60 ; ZVFH-NEXT:    ret
  61 ;
  62 ; ZVFHMIN-LABEL: vfadd_vf_nxv1f16:
  63 ; ZVFHMIN:       # %bb.0:
  64 ; ZVFHMIN-NEXT:    fcvt.s.h fa5, fa0
  65 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e32, mf2, ta, ma
  66 ; ZVFHMIN-NEXT:    vfmv.v.f v9, fa5
  67 ; ZVFHMIN-NEXT:    vsetvli zero, zero, e16, mf4, ta, ma
  68 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v10, v9
  69 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v9, v8
  70 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v8, v10
  71 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, mf2, ta, ma
  72 ; ZVFHMIN-NEXT:    vfadd.vv v9, v9, v8, v0.t
  73 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, mf4, ta, ma
  74 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v9
  75 ; ZVFHMIN-NEXT:    ret
  76   %elt.head = insertelement <vscale x 1 x half> poison, half %b, i32 0
  77   %vb = shufflevector <vscale x 1 x half> %elt.head, <vscale x 1 x half> poison, <vscale x 1 x i32> zeroinitializer
  78   %v = call <vscale x 1 x half> @llvm.vp.fadd.nxv1f16(<vscale x 1 x half> %va, <vscale x 1 x half> %vb, <vscale x 1 x i1> %m, i32 %evl)
  79   ret <vscale x 1 x half> %v
  80 }
  81
  82 define <vscale x 1 x half> @vfadd_vf_nxv1f16_commute(<vscale x 1 x half> %va, half %b, <vscale x 1 x i1> %m, i32 zeroext %evl) {
  83 ; ZVFH-LABEL: vfadd_vf_nxv1f16_commute:
  84 ; ZVFH:       # %bb.0:
  85 ; ZVFH-NEXT:    vsetvli zero, a0, e16, mf4, ta, ma
  86 ; ZVFH-NEXT:    vfadd.vf v8, v8, fa0, v0.t
  87 ; ZVFH-NEXT:    ret
  88 ;
  89 ; ZVFHMIN-LABEL: vfadd_vf_nxv1f16_commute:
  90 ; ZVFHMIN:       # %bb.0:
  91 ; ZVFHMIN-NEXT:    fcvt.s.h fa5, fa0
  92 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e32, mf2, ta, ma
  93 ; ZVFHMIN-NEXT:    vfmv.v.f v9, fa5
  94 ; ZVFHMIN-NEXT:    vsetvli zero, zero, e16, mf4, ta, ma
  95 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v10, v9
  96 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v9, v8
  97 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v8, v10
  98 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, mf2, ta, ma
  99 ; ZVFHMIN-NEXT:    vfadd.vv v9, v8, v9, v0.t
 100 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, mf4, ta, ma
 101 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v9
 102 ; ZVFHMIN-NEXT:    ret
 103   %elt.head = insertelement <vscale x 1 x half> poison, half %b, i32 0
 104   %vb = shufflevector <vscale x 1 x half> %elt.head, <vscale x 1 x half> poison, <vscale x 1 x i32> zeroinitializer
 105   %v = call <vscale x 1 x half> @llvm.vp.fadd.nxv1f16(<vscale x 1 x half> %vb, <vscale x 1 x half> %va, <vscale x 1 x i1> %m, i32 %evl)
 106   ret <vscale x 1 x half> %v
 107 }
 108
 109 define <vscale x 1 x half> @vfadd_vf_nxv1f16_unmasked(<vscale x 1 x half> %va, half %b, i32 zeroext %evl) {
 110 ; ZVFH-LABEL: vfadd_vf_nxv1f16_unmasked:
 111 ; ZVFH:       # %bb.0:
 112 ; ZVFH-NEXT:    vsetvli zero, a0, e16, mf4, ta, ma
 113 ; ZVFH-NEXT:    vfadd.vf v8, v8, fa0
 114 ; ZVFH-NEXT:    ret
 115 ;
 116 ; ZVFHMIN-LABEL: vfadd_vf_nxv1f16_unmasked:
 117 ; ZVFHMIN:       # %bb.0:
 118 ; ZVFHMIN-NEXT:    fcvt.s.h fa5, fa0
 119 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e32, mf2, ta, ma
 120 ; ZVFHMIN-NEXT:    vfmv.v.f v9, fa5
 121 ; ZVFHMIN-NEXT:    vsetvli zero, zero, e16, mf4, ta, ma
 122 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v10, v9
 123 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v9, v8
 124 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v8, v10
 125 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, mf2, ta, ma
 126 ; ZVFHMIN-NEXT:    vfadd.vv v9, v9, v8
 127 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, mf4, ta, ma
 128 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v9
 129 ; ZVFHMIN-NEXT:    ret
 130   %elt.head = insertelement <vscale x 1 x half> poison, half %b, i32 0
 131   %vb = shufflevector <vscale x 1 x half> %elt.head, <vscale x 1 x half> poison, <vscale x 1 x i32> zeroinitializer
 132   %v = call <vscale x 1 x half> @llvm.vp.fadd.nxv1f16(<vscale x 1 x half> %va, <vscale x 1 x half> %vb, <vscale x 1 x i1> splat (i1 true), i32 %evl)
 133   ret <vscale x 1 x half> %v
 134 }
 135
 136 define <vscale x 1 x half> @vfadd_vf_nxv1f16_unmasked_commute(<vscale x 1 x half> %va, half %b, i32 zeroext %evl) {
 137 ; ZVFH-LABEL: vfadd_vf_nxv1f16_unmasked_commute:
 138 ; ZVFH:       # %bb.0:
 139 ; ZVFH-NEXT:    vsetvli zero, a0, e16, mf4, ta, ma
 140 ; ZVFH-NEXT:    vfadd.vf v8, v8, fa0
 141 ; ZVFH-NEXT:    ret
 142 ;
 143 ; ZVFHMIN-LABEL: vfadd_vf_nxv1f16_unmasked_commute:
 144 ; ZVFHMIN:       # %bb.0:
 145 ; ZVFHMIN-NEXT:    fcvt.s.h fa5, fa0
 146 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e32, mf2, ta, ma
 147 ; ZVFHMIN-NEXT:    vfmv.v.f v9, fa5
 148 ; ZVFHMIN-NEXT:    vsetvli zero, zero, e16, mf4, ta, ma
 149 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v10, v9
 150 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v9, v8
 151 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v8, v10
 152 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, mf2, ta, ma
 153 ; ZVFHMIN-NEXT:    vfadd.vv v9, v8, v9
 154 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, mf4, ta, ma
 155 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v9
 156 ; ZVFHMIN-NEXT:    ret
 157   %elt.head = insertelement <vscale x 1 x half> poison, half %b, i32 0
 158   %vb = shufflevector <vscale x 1 x half> %elt.head, <vscale x 1 x half> poison, <vscale x 1 x i32> zeroinitializer
 159   %v = call <vscale x 1 x half> @llvm.vp.fadd.nxv1f16(<vscale x 1 x half> %vb, <vscale x 1 x half> %va, <vscale x 1 x i1> splat (i1 true), i32 %evl)
 160   ret <vscale x 1 x half> %v
 161 }
 162
 163 declare <vscale x 2 x half> @llvm.vp.fadd.nxv2f16(<vscale x 2 x half>, <vscale x 2 x half>, <vscale x 2 x i1>, i32)
 164
 165 define <vscale x 2 x half> @vfadd_vv_nxv2f16(<vscale x 2 x half> %va, <vscale x 2 x half> %b, <vscale x 2 x i1> %m, i32 zeroext %evl) {
 166 ; ZVFH-LABEL: vfadd_vv_nxv2f16:
 167 ; ZVFH:       # %bb.0:
 168 ; ZVFH-NEXT:    vsetvli zero, a0, e16, mf2, ta, ma
 169 ; ZVFH-NEXT:    vfadd.vv v8, v8, v9, v0.t
 170 ; ZVFH-NEXT:    ret
 171 ;
 172 ; ZVFHMIN-LABEL: vfadd_vv_nxv2f16:
 173 ; ZVFHMIN:       # %bb.0:
 174 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e16, mf2, ta, ma
 175 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v10, v9
 176 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v9, v8
 177 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, m1, ta, ma
 178 ; ZVFHMIN-NEXT:    vfadd.vv v9, v9, v10, v0.t
 179 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, mf2, ta, ma
 180 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v9
 181 ; ZVFHMIN-NEXT:    ret
 182   %v = call <vscale x 2 x half> @llvm.vp.fadd.nxv2f16(<vscale x 2 x half> %va, <vscale x 2 x half> %b, <vscale x 2 x i1> %m, i32 %evl)
 183   ret <vscale x 2 x half> %v
 184 }
 185
 186 define <vscale x 2 x half> @vfadd_vv_nxv2f16_unmasked(<vscale x 2 x half> %va, <vscale x 2 x half> %b, i32 zeroext %evl) {
 187 ; ZVFH-LABEL: vfadd_vv_nxv2f16_unmasked:
 188 ; ZVFH:       # %bb.0:
 189 ; ZVFH-NEXT:    vsetvli zero, a0, e16, mf2, ta, ma
 190 ; ZVFH-NEXT:    vfadd.vv v8, v8, v9
 191 ; ZVFH-NEXT:    ret
 192 ;
 193 ; ZVFHMIN-LABEL: vfadd_vv_nxv2f16_unmasked:
 194 ; ZVFHMIN:       # %bb.0:
 195 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e16, mf2, ta, ma
 196 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v10, v9
 197 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v9, v8
 198 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, m1, ta, ma
 199 ; ZVFHMIN-NEXT:    vfadd.vv v9, v9, v10
 200 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, mf2, ta, ma
 201 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v9
 202 ; ZVFHMIN-NEXT:    ret
 203   %v = call <vscale x 2 x half> @llvm.vp.fadd.nxv2f16(<vscale x 2 x half> %va, <vscale x 2 x half> %b, <vscale x 2 x i1> splat (i1 true), i32 %evl)
 204   ret <vscale x 2 x half> %v
 205 }
 206
 207 define <vscale x 2 x half> @vfadd_vf_nxv2f16(<vscale x 2 x half> %va, half %b, <vscale x 2 x i1> %m, i32 zeroext %evl) {
 208 ; ZVFH-LABEL: vfadd_vf_nxv2f16:
 209 ; ZVFH:       # %bb.0:
 210 ; ZVFH-NEXT:    vsetvli zero, a0, e16, mf2, ta, ma
 211 ; ZVFH-NEXT:    vfadd.vf v8, v8, fa0, v0.t
 212 ; ZVFH-NEXT:    ret
 213 ;
 214 ; ZVFHMIN-LABEL: vfadd_vf_nxv2f16:
 215 ; ZVFHMIN:       # %bb.0:
 216 ; ZVFHMIN-NEXT:    fcvt.s.h fa5, fa0
 217 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e32, m1, ta, ma
 218 ; ZVFHMIN-NEXT:    vfmv.v.f v9, fa5
 219 ; ZVFHMIN-NEXT:    vsetvli zero, zero, e16, mf2, ta, ma
 220 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v10, v9
 221 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v9, v8
 222 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v8, v10
 223 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, m1, ta, ma
 224 ; ZVFHMIN-NEXT:    vfadd.vv v9, v9, v8, v0.t
 225 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, mf2, ta, ma
 226 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v9
 227 ; ZVFHMIN-NEXT:    ret
 228   %elt.head = insertelement <vscale x 2 x half> poison, half %b, i32 0
 229   %vb = shufflevector <vscale x 2 x half> %elt.head, <vscale x 2 x half> poison, <vscale x 2 x i32> zeroinitializer
 230   %v = call <vscale x 2 x half> @llvm.vp.fadd.nxv2f16(<vscale x 2 x half> %va, <vscale x 2 x half> %vb, <vscale x 2 x i1> %m, i32 %evl)
 231   ret <vscale x 2 x half> %v
 232 }
 233
 234 define <vscale x 2 x half> @vfadd_vf_nxv2f16_unmasked(<vscale x 2 x half> %va, half %b, i32 zeroext %evl) {
 235 ; ZVFH-LABEL: vfadd_vf_nxv2f16_unmasked:
 236 ; ZVFH:       # %bb.0:
 237 ; ZVFH-NEXT:    vsetvli zero, a0, e16, mf2, ta, ma
 238 ; ZVFH-NEXT:    vfadd.vf v8, v8, fa0
 239 ; ZVFH-NEXT:    ret
 240 ;
 241 ; ZVFHMIN-LABEL: vfadd_vf_nxv2f16_unmasked:
 242 ; ZVFHMIN:       # %bb.0:
 243 ; ZVFHMIN-NEXT:    fcvt.s.h fa5, fa0
 244 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e32, m1, ta, ma
 245 ; ZVFHMIN-NEXT:    vfmv.v.f v9, fa5
 246 ; ZVFHMIN-NEXT:    vsetvli zero, zero, e16, mf2, ta, ma
 247 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v10, v9
 248 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v9, v8
 249 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v8, v10
 250 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, m1, ta, ma
 251 ; ZVFHMIN-NEXT:    vfadd.vv v9, v9, v8
 252 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, mf2, ta, ma
 253 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v9
 254 ; ZVFHMIN-NEXT:    ret
 255   %elt.head = insertelement <vscale x 2 x half> poison, half %b, i32 0
 256   %vb = shufflevector <vscale x 2 x half> %elt.head, <vscale x 2 x half> poison, <vscale x 2 x i32> zeroinitializer
 257   %v = call <vscale x 2 x half> @llvm.vp.fadd.nxv2f16(<vscale x 2 x half> %va, <vscale x 2 x half> %vb, <vscale x 2 x i1> splat (i1 true), i32 %evl)
 258   ret <vscale x 2 x half> %v
 259 }
 260
 261 declare <vscale x 4 x half> @llvm.vp.fadd.nxv4f16(<vscale x 4 x half>, <vscale x 4 x half>, <vscale x 4 x i1>, i32)
 262
 263 define <vscale x 4 x half> @vfadd_vv_nxv4f16(<vscale x 4 x half> %va, <vscale x 4 x half> %b, <vscale x 4 x i1> %m, i32 zeroext %evl) {
 264 ; ZVFH-LABEL: vfadd_vv_nxv4f16:
 265 ; ZVFH:       # %bb.0:
 266 ; ZVFH-NEXT:    vsetvli zero, a0, e16, m1, ta, ma
 267 ; ZVFH-NEXT:    vfadd.vv v8, v8, v9, v0.t
 268 ; ZVFH-NEXT:    ret
 269 ;
 270 ; ZVFHMIN-LABEL: vfadd_vv_nxv4f16:
 271 ; ZVFHMIN:       # %bb.0:
 272 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e16, m1, ta, ma
 273 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v10, v9
 274 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v12, v8
 275 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, m2, ta, ma
 276 ; ZVFHMIN-NEXT:    vfadd.vv v10, v12, v10, v0.t
 277 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, m1, ta, ma
 278 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v10
 279 ; ZVFHMIN-NEXT:    ret
 280   %v = call <vscale x 4 x half> @llvm.vp.fadd.nxv4f16(<vscale x 4 x half> %va, <vscale x 4 x half> %b, <vscale x 4 x i1> %m, i32 %evl)
 281   ret <vscale x 4 x half> %v
 282 }
 283
 284 define <vscale x 4 x half> @vfadd_vv_nxv4f16_unmasked(<vscale x 4 x half> %va, <vscale x 4 x half> %b, i32 zeroext %evl) {
 285 ; ZVFH-LABEL: vfadd_vv_nxv4f16_unmasked:
 286 ; ZVFH:       # %bb.0:
 287 ; ZVFH-NEXT:    vsetvli zero, a0, e16, m1, ta, ma
 288 ; ZVFH-NEXT:    vfadd.vv v8, v8, v9
 289 ; ZVFH-NEXT:    ret
 290 ;
 291 ; ZVFHMIN-LABEL: vfadd_vv_nxv4f16_unmasked:
 292 ; ZVFHMIN:       # %bb.0:
 293 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e16, m1, ta, ma
 294 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v10, v9
 295 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v12, v8
 296 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, m2, ta, ma
 297 ; ZVFHMIN-NEXT:    vfadd.vv v10, v12, v10
 298 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, m1, ta, ma
 299 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v10
 300 ; ZVFHMIN-NEXT:    ret
 301   %v = call <vscale x 4 x half> @llvm.vp.fadd.nxv4f16(<vscale x 4 x half> %va, <vscale x 4 x half> %b, <vscale x 4 x i1> splat (i1 true), i32 %evl)
 302   ret <vscale x 4 x half> %v
 303 }
 304
 305 define <vscale x 4 x half> @vfadd_vf_nxv4f16(<vscale x 4 x half> %va, half %b, <vscale x 4 x i1> %m, i32 zeroext %evl) {
 306 ; ZVFH-LABEL: vfadd_vf_nxv4f16:
 307 ; ZVFH:       # %bb.0:
 308 ; ZVFH-NEXT:    vsetvli zero, a0, e16, m1, ta, ma
 309 ; ZVFH-NEXT:    vfadd.vf v8, v8, fa0, v0.t
 310 ; ZVFH-NEXT:    ret
 311 ;
 312 ; ZVFHMIN-LABEL: vfadd_vf_nxv4f16:
 313 ; ZVFHMIN:       # %bb.0:
 314 ; ZVFHMIN-NEXT:    fcvt.s.h fa5, fa0
 315 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e32, m2, ta, ma
 316 ; ZVFHMIN-NEXT:    vfmv.v.f v10, fa5
 317 ; ZVFHMIN-NEXT:    vsetvli zero, zero, e16, m1, ta, ma
 318 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v9, v10
 319 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v10, v8
 320 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v12, v9
 321 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, m2, ta, ma
 322 ; ZVFHMIN-NEXT:    vfadd.vv v10, v10, v12, v0.t
 323 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, m1, ta, ma
 324 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v10
 325 ; ZVFHMIN-NEXT:    ret
 326   %elt.head = insertelement <vscale x 4 x half> poison, half %b, i32 0
 327   %vb = shufflevector <vscale x 4 x half> %elt.head, <vscale x 4 x half> poison, <vscale x 4 x i32> zeroinitializer
 328   %v = call <vscale x 4 x half> @llvm.vp.fadd.nxv4f16(<vscale x 4 x half> %va, <vscale x 4 x half> %vb, <vscale x 4 x i1> %m, i32 %evl)
 329   ret <vscale x 4 x half> %v
 330 }
 331
 332 define <vscale x 4 x half> @vfadd_vf_nxv4f16_unmasked(<vscale x 4 x half> %va, half %b, i32 zeroext %evl) {
 333 ; ZVFH-LABEL: vfadd_vf_nxv4f16_unmasked:
 334 ; ZVFH:       # %bb.0:
 335 ; ZVFH-NEXT:    vsetvli zero, a0, e16, m1, ta, ma
 336 ; ZVFH-NEXT:    vfadd.vf v8, v8, fa0
 337 ; ZVFH-NEXT:    ret
 338 ;
 339 ; ZVFHMIN-LABEL: vfadd_vf_nxv4f16_unmasked:
 340 ; ZVFHMIN:       # %bb.0:
 341 ; ZVFHMIN-NEXT:    fcvt.s.h fa5, fa0
 342 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e32, m2, ta, ma
 343 ; ZVFHMIN-NEXT:    vfmv.v.f v10, fa5
 344 ; ZVFHMIN-NEXT:    vsetvli zero, zero, e16, m1, ta, ma
 345 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v9, v10
 346 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v10, v8
 347 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v12, v9
 348 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, m2, ta, ma
 349 ; ZVFHMIN-NEXT:    vfadd.vv v10, v10, v12
 350 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, m1, ta, ma
 351 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v10
 352 ; ZVFHMIN-NEXT:    ret
 353   %elt.head = insertelement <vscale x 4 x half> poison, half %b, i32 0
 354   %vb = shufflevector <vscale x 4 x half> %elt.head, <vscale x 4 x half> poison, <vscale x 4 x i32> zeroinitializer
 355   %v = call <vscale x 4 x half> @llvm.vp.fadd.nxv4f16(<vscale x 4 x half> %va, <vscale x 4 x half> %vb, <vscale x 4 x i1> splat (i1 true), i32 %evl)
 356   ret <vscale x 4 x half> %v
 357 }
 358
 359 declare <vscale x 8 x half> @llvm.vp.fadd.nxv8f16(<vscale x 8 x half>, <vscale x 8 x half>, <vscale x 8 x i1>, i32)
 360
 361 define <vscale x 8 x half> @vfadd_vv_nxv8f16(<vscale x 8 x half> %va, <vscale x 8 x half> %b, <vscale x 8 x i1> %m, i32 zeroext %evl) {
 362 ; ZVFH-LABEL: vfadd_vv_nxv8f16:
 363 ; ZVFH:       # %bb.0:
 364 ; ZVFH-NEXT:    vsetvli zero, a0, e16, m2, ta, ma
 365 ; ZVFH-NEXT:    vfadd.vv v8, v8, v10, v0.t
 366 ; ZVFH-NEXT:    ret
 367 ;
 368 ; ZVFHMIN-LABEL: vfadd_vv_nxv8f16:
 369 ; ZVFHMIN:       # %bb.0:
 370 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e16, m2, ta, ma
 371 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v12, v10
 372 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v16, v8
 373 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, m4, ta, ma
 374 ; ZVFHMIN-NEXT:    vfadd.vv v12, v16, v12, v0.t
 375 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, m2, ta, ma
 376 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v12
 377 ; ZVFHMIN-NEXT:    ret
 378   %v = call <vscale x 8 x half> @llvm.vp.fadd.nxv8f16(<vscale x 8 x half> %va, <vscale x 8 x half> %b, <vscale x 8 x i1> %m, i32 %evl)
 379   ret <vscale x 8 x half> %v
 380 }
 381
 382 define <vscale x 8 x half> @vfadd_vv_nxv8f16_unmasked(<vscale x 8 x half> %va, <vscale x 8 x half> %b, i32 zeroext %evl) {
 383 ; ZVFH-LABEL: vfadd_vv_nxv8f16_unmasked:
 384 ; ZVFH:       # %bb.0:
 385 ; ZVFH-NEXT:    vsetvli zero, a0, e16, m2, ta, ma
 386 ; ZVFH-NEXT:    vfadd.vv v8, v8, v10
 387 ; ZVFH-NEXT:    ret
 388 ;
 389 ; ZVFHMIN-LABEL: vfadd_vv_nxv8f16_unmasked:
 390 ; ZVFHMIN:       # %bb.0:
 391 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e16, m2, ta, ma
 392 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v12, v10
 393 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v16, v8
 394 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, m4, ta, ma
 395 ; ZVFHMIN-NEXT:    vfadd.vv v12, v16, v12
 396 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, m2, ta, ma
 397 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v12
 398 ; ZVFHMIN-NEXT:    ret
 399   %v = call <vscale x 8 x half> @llvm.vp.fadd.nxv8f16(<vscale x 8 x half> %va, <vscale x 8 x half> %b, <vscale x 8 x i1> splat (i1 true), i32 %evl)
 400   ret <vscale x 8 x half> %v
 401 }
 402
 403 define <vscale x 8 x half> @vfadd_vf_nxv8f16(<vscale x 8 x half> %va, half %b, <vscale x 8 x i1> %m, i32 zeroext %evl) {
 404 ; ZVFH-LABEL: vfadd_vf_nxv8f16:
 405 ; ZVFH:       # %bb.0:
 406 ; ZVFH-NEXT:    vsetvli zero, a0, e16, m2, ta, ma
 407 ; ZVFH-NEXT:    vfadd.vf v8, v8, fa0, v0.t
 408 ; ZVFH-NEXT:    ret
 409 ;
 410 ; ZVFHMIN-LABEL: vfadd_vf_nxv8f16:
 411 ; ZVFHMIN:       # %bb.0:
 412 ; ZVFHMIN-NEXT:    fcvt.s.h fa5, fa0
 413 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e32, m4, ta, ma
 414 ; ZVFHMIN-NEXT:    vfmv.v.f v12, fa5
 415 ; ZVFHMIN-NEXT:    vsetvli zero, zero, e16, m2, ta, ma
 416 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v10, v12
 417 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v12, v8
 418 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v16, v10
 419 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, m4, ta, ma
 420 ; ZVFHMIN-NEXT:    vfadd.vv v12, v12, v16, v0.t
 421 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, m2, ta, ma
 422 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v12
 423 ; ZVFHMIN-NEXT:    ret
 424   %elt.head = insertelement <vscale x 8 x half> poison, half %b, i32 0
 425   %vb = shufflevector <vscale x 8 x half> %elt.head, <vscale x 8 x half> poison, <vscale x 8 x i32> zeroinitializer
 426   %v = call <vscale x 8 x half> @llvm.vp.fadd.nxv8f16(<vscale x 8 x half> %va, <vscale x 8 x half> %vb, <vscale x 8 x i1> %m, i32 %evl)
 427   ret <vscale x 8 x half> %v
 428 }
 429
 430 define <vscale x 8 x half> @vfadd_vf_nxv8f16_unmasked(<vscale x 8 x half> %va, half %b, i32 zeroext %evl) {
 431 ; ZVFH-LABEL: vfadd_vf_nxv8f16_unmasked:
 432 ; ZVFH:       # %bb.0:
 433 ; ZVFH-NEXT:    vsetvli zero, a0, e16, m2, ta, ma
 434 ; ZVFH-NEXT:    vfadd.vf v8, v8, fa0
 435 ; ZVFH-NEXT:    ret
 436 ;
 437 ; ZVFHMIN-LABEL: vfadd_vf_nxv8f16_unmasked:
 438 ; ZVFHMIN:       # %bb.0:
 439 ; ZVFHMIN-NEXT:    fcvt.s.h fa5, fa0
 440 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e32, m4, ta, ma
 441 ; ZVFHMIN-NEXT:    vfmv.v.f v12, fa5
 442 ; ZVFHMIN-NEXT:    vsetvli zero, zero, e16, m2, ta, ma
 443 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v10, v12
 444 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v12, v8
 445 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v16, v10
 446 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, m4, ta, ma
 447 ; ZVFHMIN-NEXT:    vfadd.vv v12, v12, v16
 448 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, m2, ta, ma
 449 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v12
 450 ; ZVFHMIN-NEXT:    ret
 451   %elt.head = insertelement <vscale x 8 x half> poison, half %b, i32 0
 452   %vb = shufflevector <vscale x 8 x half> %elt.head, <vscale x 8 x half> poison, <vscale x 8 x i32> zeroinitializer
 453   %v = call <vscale x 8 x half> @llvm.vp.fadd.nxv8f16(<vscale x 8 x half> %va, <vscale x 8 x half> %vb, <vscale x 8 x i1> splat (i1 true), i32 %evl)
 454   ret <vscale x 8 x half> %v
 455 }
 456
 457 declare <vscale x 16 x half> @llvm.vp.fadd.nxv16f16(<vscale x 16 x half>, <vscale x 16 x half>, <vscale x 16 x i1>, i32)
 458
 459 define <vscale x 16 x half> @vfadd_vv_nxv16f16(<vscale x 16 x half> %va, <vscale x 16 x half> %b, <vscale x 16 x i1> %m, i32 zeroext %evl) {
 460 ; ZVFH-LABEL: vfadd_vv_nxv16f16:
 461 ; ZVFH:       # %bb.0:
 462 ; ZVFH-NEXT:    vsetvli zero, a0, e16, m4, ta, ma
 463 ; ZVFH-NEXT:    vfadd.vv v8, v8, v12, v0.t
 464 ; ZVFH-NEXT:    ret
 465 ;
 466 ; ZVFHMIN-LABEL: vfadd_vv_nxv16f16:
 467 ; ZVFHMIN:       # %bb.0:
 468 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e16, m4, ta, ma
 469 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v16, v12
 470 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v24, v8
 471 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, m8, ta, ma
 472 ; ZVFHMIN-NEXT:    vfadd.vv v16, v24, v16, v0.t
 473 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, m4, ta, ma
 474 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v16
 475 ; ZVFHMIN-NEXT:    ret
 476   %v = call <vscale x 16 x half> @llvm.vp.fadd.nxv16f16(<vscale x 16 x half> %va, <vscale x 16 x half> %b, <vscale x 16 x i1> %m, i32 %evl)
 477   ret <vscale x 16 x half> %v
 478 }
 479
 480 define <vscale x 16 x half> @vfadd_vv_nxv16f16_unmasked(<vscale x 16 x half> %va, <vscale x 16 x half> %b, i32 zeroext %evl) {
 481 ; ZVFH-LABEL: vfadd_vv_nxv16f16_unmasked:
 482 ; ZVFH:       # %bb.0:
 483 ; ZVFH-NEXT:    vsetvli zero, a0, e16, m4, ta, ma
 484 ; ZVFH-NEXT:    vfadd.vv v8, v8, v12
 485 ; ZVFH-NEXT:    ret
 486 ;
 487 ; ZVFHMIN-LABEL: vfadd_vv_nxv16f16_unmasked:
 488 ; ZVFHMIN:       # %bb.0:
 489 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e16, m4, ta, ma
 490 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v16, v12
 491 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v24, v8
 492 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, m8, ta, ma
 493 ; ZVFHMIN-NEXT:    vfadd.vv v16, v24, v16
 494 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, m4, ta, ma
 495 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v16
 496 ; ZVFHMIN-NEXT:    ret
 497   %v = call <vscale x 16 x half> @llvm.vp.fadd.nxv16f16(<vscale x 16 x half> %va, <vscale x 16 x half> %b, <vscale x 16 x i1> splat (i1 true), i32 %evl)
 498   ret <vscale x 16 x half> %v
 499 }
 500
 501 define <vscale x 16 x half> @vfadd_vf_nxv16f16(<vscale x 16 x half> %va, half %b, <vscale x 16 x i1> %m, i32 zeroext %evl) {
 502 ; ZVFH-LABEL: vfadd_vf_nxv16f16:
 503 ; ZVFH:       # %bb.0:
 504 ; ZVFH-NEXT:    vsetvli zero, a0, e16, m4, ta, ma
 505 ; ZVFH-NEXT:    vfadd.vf v8, v8, fa0, v0.t
 506 ; ZVFH-NEXT:    ret
 507 ;
 508 ; ZVFHMIN-LABEL: vfadd_vf_nxv16f16:
 509 ; ZVFHMIN:       # %bb.0:
 510 ; ZVFHMIN-NEXT:    fcvt.s.h fa5, fa0
 511 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e32, m8, ta, ma
 512 ; ZVFHMIN-NEXT:    vfmv.v.f v16, fa5
 513 ; ZVFHMIN-NEXT:    vsetvli zero, zero, e16, m4, ta, ma
 514 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v12, v16
 515 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v16, v8
 516 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v24, v12
 517 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, m8, ta, ma
 518 ; ZVFHMIN-NEXT:    vfadd.vv v16, v16, v24, v0.t
 519 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, m4, ta, ma
 520 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v16
 521 ; ZVFHMIN-NEXT:    ret
 522   %elt.head = insertelement <vscale x 16 x half> poison, half %b, i32 0
 523   %vb = shufflevector <vscale x 16 x half> %elt.head, <vscale x 16 x half> poison, <vscale x 16 x i32> zeroinitializer
 524   %v = call <vscale x 16 x half> @llvm.vp.fadd.nxv16f16(<vscale x 16 x half> %va, <vscale x 16 x half> %vb, <vscale x 16 x i1> %m, i32 %evl)
 525   ret <vscale x 16 x half> %v
 526 }
 527
 528 define <vscale x 16 x half> @vfadd_vf_nxv16f16_unmasked(<vscale x 16 x half> %va, half %b, i32 zeroext %evl) {
 529 ; ZVFH-LABEL: vfadd_vf_nxv16f16_unmasked:
 530 ; ZVFH:       # %bb.0:
 531 ; ZVFH-NEXT:    vsetvli zero, a0, e16, m4, ta, ma
 532 ; ZVFH-NEXT:    vfadd.vf v8, v8, fa0
 533 ; ZVFH-NEXT:    ret
 534 ;
 535 ; ZVFHMIN-LABEL: vfadd_vf_nxv16f16_unmasked:
 536 ; ZVFHMIN:       # %bb.0:
 537 ; ZVFHMIN-NEXT:    fcvt.s.h fa5, fa0
 538 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e32, m8, ta, ma
 539 ; ZVFHMIN-NEXT:    vfmv.v.f v16, fa5
 540 ; ZVFHMIN-NEXT:    vsetvli zero, zero, e16, m4, ta, ma
 541 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v12, v16
 542 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v16, v8
 543 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v24, v12
 544 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, m8, ta, ma
 545 ; ZVFHMIN-NEXT:    vfadd.vv v16, v16, v24
 546 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, m4, ta, ma
 547 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v16
 548 ; ZVFHMIN-NEXT:    ret
 549   %elt.head = insertelement <vscale x 16 x half> poison, half %b, i32 0
 550   %vb = shufflevector <vscale x 16 x half> %elt.head, <vscale x 16 x half> poison, <vscale x 16 x i32> zeroinitializer
 551   %v = call <vscale x 16 x half> @llvm.vp.fadd.nxv16f16(<vscale x 16 x half> %va, <vscale x 16 x half> %vb, <vscale x 16 x i1> splat (i1 true), i32 %evl)
 552   ret <vscale x 16 x half> %v
 553 }
 554
 555 declare <vscale x 32 x half> @llvm.vp.fadd.nxv32f16(<vscale x 32 x half>, <vscale x 32 x half>, <vscale x 32 x i1>, i32)
 556
 557 define <vscale x 32 x half> @vfadd_vv_nxv32f16(<vscale x 32 x half> %va, <vscale x 32 x half> %b, <vscale x 32 x i1> %m, i32 zeroext %evl) {
 558 ; ZVFH-LABEL: vfadd_vv_nxv32f16:
 559 ; ZVFH:       # %bb.0:
 560 ; ZVFH-NEXT:    vsetvli zero, a0, e16, m8, ta, ma
 561 ; ZVFH-NEXT:    vfadd.vv v8, v8, v16, v0.t
 562 ; ZVFH-NEXT:    ret
 563 ;
 564 ; ZVFHMIN-LABEL: vfadd_vv_nxv32f16:
 565 ; ZVFHMIN:       # %bb.0:
 566 ; ZVFHMIN-NEXT:    addi sp, sp, -16
 567 ; ZVFHMIN-NEXT:    .cfi_def_cfa_offset 16
 568 ; ZVFHMIN-NEXT:    csrr a1, vlenb
 569 ; ZVFHMIN-NEXT:    slli a1, a1, 3
 570 ; ZVFHMIN-NEXT:    sub sp, sp, a1
 571 ; ZVFHMIN-NEXT:    .cfi_escape 0x0f, 0x0d, 0x72, 0x00, 0x11, 0x10, 0x22, 0x11, 0x08, 0x92, 0xa2, 0x38, 0x00, 0x1e, 0x22 # sp + 16 + 8 * vlenb
 572 ; ZVFHMIN-NEXT:    vmv1r.v v7, v0
 573 ; ZVFHMIN-NEXT:    csrr a2, vlenb
 574 ; ZVFHMIN-NEXT:    slli a1, a2, 1
 575 ; ZVFHMIN-NEXT:    sub a3, a0, a1
 576 ; ZVFHMIN-NEXT:    sltu a4, a0, a3
 577 ; ZVFHMIN-NEXT:    addi a4, a4, -1
 578 ; ZVFHMIN-NEXT:    and a3, a4, a3
 579 ; ZVFHMIN-NEXT:    srli a2, a2, 2
 580 ; ZVFHMIN-NEXT:    vsetvli a4, zero, e8, mf2, ta, ma
 581 ; ZVFHMIN-NEXT:    vslidedown.vx v0, v0, a2
 582 ; ZVFHMIN-NEXT:    addi a2, sp, 16
 583 ; ZVFHMIN-NEXT:    vs8r.v v16, (a2) # Unknown-size Folded Spill
 584 ; ZVFHMIN-NEXT:    vsetvli a2, zero, e16, m4, ta, ma
 585 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v24, v20
 586 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v16, v12
 587 ; ZVFHMIN-NEXT:    vsetvli zero, a3, e32, m8, ta, ma
 588 ; ZVFHMIN-NEXT:    vfadd.vv v16, v16, v24, v0.t
 589 ; ZVFHMIN-NEXT:    vsetvli a2, zero, e16, m4, ta, ma
 590 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v12, v16
 591 ; ZVFHMIN-NEXT:    bltu a0, a1, .LBB22_2
 592 ; ZVFHMIN-NEXT:  # %bb.1:
 593 ; ZVFHMIN-NEXT:    mv a0, a1
 594 ; ZVFHMIN-NEXT:  .LBB22_2:
 595 ; ZVFHMIN-NEXT:    addi a1, sp, 16
 596 ; ZVFHMIN-NEXT:    vl8r.v v24, (a1) # Unknown-size Folded Reload
 597 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v16, v24
 598 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v24, v8
 599 ; ZVFHMIN-NEXT:    vmv1r.v v0, v7
 600 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, m8, ta, ma
 601 ; ZVFHMIN-NEXT:    vfadd.vv v16, v24, v16, v0.t
 602 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, m4, ta, ma
 603 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v16
 604 ; ZVFHMIN-NEXT:    csrr a0, vlenb
 605 ; ZVFHMIN-NEXT:    slli a0, a0, 3
 606 ; ZVFHMIN-NEXT:    add sp, sp, a0
 607 ; ZVFHMIN-NEXT:    addi sp, sp, 16
 608 ; ZVFHMIN-NEXT:    ret
 609   %v = call <vscale x 32 x half> @llvm.vp.fadd.nxv32f16(<vscale x 32 x half> %va, <vscale x 32 x half> %b, <vscale x 32 x i1> %m, i32 %evl)
 610   ret <vscale x 32 x half> %v
 611 }
 612
 613 define <vscale x 32 x half> @vfadd_vv_nxv32f16_unmasked(<vscale x 32 x half> %va, <vscale x 32 x half> %b, i32 zeroext %evl) {
 614 ; ZVFH-LABEL: vfadd_vv_nxv32f16_unmasked:
 615 ; ZVFH:       # %bb.0:
 616 ; ZVFH-NEXT:    vsetvli zero, a0, e16, m8, ta, ma
 617 ; ZVFH-NEXT:    vfadd.vv v8, v8, v16
 618 ; ZVFH-NEXT:    ret
 619 ;
 620 ; ZVFHMIN-LABEL: vfadd_vv_nxv32f16_unmasked:
 621 ; ZVFHMIN:       # %bb.0:
 622 ; ZVFHMIN-NEXT:    addi sp, sp, -16
 623 ; ZVFHMIN-NEXT:    .cfi_def_cfa_offset 16
 624 ; ZVFHMIN-NEXT:    csrr a1, vlenb
 625 ; ZVFHMIN-NEXT:    slli a1, a1, 3
 626 ; ZVFHMIN-NEXT:    sub sp, sp, a1
 627 ; ZVFHMIN-NEXT:    .cfi_escape 0x0f, 0x0d, 0x72, 0x00, 0x11, 0x10, 0x22, 0x11, 0x08, 0x92, 0xa2, 0x38, 0x00, 0x1e, 0x22 # sp + 16 + 8 * vlenb
 628 ; ZVFHMIN-NEXT:    csrr a2, vlenb
 629 ; ZVFHMIN-NEXT:    slli a1, a2, 1
 630 ; ZVFHMIN-NEXT:    sub a3, a0, a1
 631 ; ZVFHMIN-NEXT:    sltu a4, a0, a3
 632 ; ZVFHMIN-NEXT:    addi a4, a4, -1
 633 ; ZVFHMIN-NEXT:    and a3, a4, a3
 634 ; ZVFHMIN-NEXT:    srli a2, a2, 2
 635 ; ZVFHMIN-NEXT:    vsetvli a4, zero, e8, m4, ta, ma
 636 ; ZVFHMIN-NEXT:    vmset.m v24
 637 ; ZVFHMIN-NEXT:    vsetvli a4, zero, e8, mf2, ta, ma
 638 ; ZVFHMIN-NEXT:    vslidedown.vx v0, v24, a2
 639 ; ZVFHMIN-NEXT:    addi a2, sp, 16
 640 ; ZVFHMIN-NEXT:    vs8r.v v16, (a2) # Unknown-size Folded Spill
 641 ; ZVFHMIN-NEXT:    vsetvli a2, zero, e16, m4, ta, ma
 642 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v24, v20
 643 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v16, v12
 644 ; ZVFHMIN-NEXT:    vsetvli zero, a3, e32, m8, ta, ma
 645 ; ZVFHMIN-NEXT:    vfadd.vv v16, v16, v24, v0.t
 646 ; ZVFHMIN-NEXT:    vsetvli a2, zero, e16, m4, ta, ma
 647 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v12, v16
 648 ; ZVFHMIN-NEXT:    bltu a0, a1, .LBB23_2
 649 ; ZVFHMIN-NEXT:  # %bb.1:
 650 ; ZVFHMIN-NEXT:    mv a0, a1
 651 ; ZVFHMIN-NEXT:  .LBB23_2:
 652 ; ZVFHMIN-NEXT:    addi a1, sp, 16
 653 ; ZVFHMIN-NEXT:    vl8r.v v24, (a1) # Unknown-size Folded Reload
 654 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v16, v24
 655 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v24, v8
 656 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, m8, ta, ma
 657 ; ZVFHMIN-NEXT:    vfadd.vv v16, v24, v16
 658 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, m4, ta, ma
 659 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v16
 660 ; ZVFHMIN-NEXT:    csrr a0, vlenb
 661 ; ZVFHMIN-NEXT:    slli a0, a0, 3
 662 ; ZVFHMIN-NEXT:    add sp, sp, a0
 663 ; ZVFHMIN-NEXT:    addi sp, sp, 16
 664 ; ZVFHMIN-NEXT:    ret
 665   %v = call <vscale x 32 x half> @llvm.vp.fadd.nxv32f16(<vscale x 32 x half> %va, <vscale x 32 x half> %b, <vscale x 32 x i1> splat (i1 true), i32 %evl)
 666   ret <vscale x 32 x half> %v
 667 }
 668
 669 define <vscale x 32 x half> @vfadd_vf_nxv32f16(<vscale x 32 x half> %va, half %b, <vscale x 32 x i1> %m, i32 zeroext %evl) {
 670 ; ZVFH-LABEL: vfadd_vf_nxv32f16:
 671 ; ZVFH:       # %bb.0:
 672 ; ZVFH-NEXT:    vsetvli zero, a0, e16, m8, ta, ma
 673 ; ZVFH-NEXT:    vfadd.vf v8, v8, fa0, v0.t
 674 ; ZVFH-NEXT:    ret
 675 ;
 676 ; ZVFHMIN-LABEL: vfadd_vf_nxv32f16:
 677 ; ZVFHMIN:       # %bb.0:
 678 ; ZVFHMIN-NEXT:    addi sp, sp, -16
 679 ; ZVFHMIN-NEXT:    .cfi_def_cfa_offset 16
 680 ; ZVFHMIN-NEXT:    csrr a1, vlenb
 681 ; ZVFHMIN-NEXT:    slli a1, a1, 2
 682 ; ZVFHMIN-NEXT:    sub sp, sp, a1
 683 ; ZVFHMIN-NEXT:    .cfi_escape 0x0f, 0x0d, 0x72, 0x00, 0x11, 0x10, 0x22, 0x11, 0x04, 0x92, 0xa2, 0x38, 0x00, 0x1e, 0x22 # sp + 16 + 4 * vlenb
 684 ; ZVFHMIN-NEXT:    vmv1r.v v7, v0
 685 ; ZVFHMIN-NEXT:    fcvt.s.h fa5, fa0
 686 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e32, m8, ta, ma
 687 ; ZVFHMIN-NEXT:    vfmv.v.f v24, fa5
 688 ; ZVFHMIN-NEXT:    vsetvli zero, zero, e16, m4, ta, ma
 689 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v16, v24
 690 ; ZVFHMIN-NEXT:    addi a1, sp, 16
 691 ; ZVFHMIN-NEXT:    vs4r.v v16, (a1) # Unknown-size Folded Spill
 692 ; ZVFHMIN-NEXT:    csrr a2, vlenb
 693 ; ZVFHMIN-NEXT:    slli a1, a2, 1
 694 ; ZVFHMIN-NEXT:    sub a3, a0, a1
 695 ; ZVFHMIN-NEXT:    sltu a4, a0, a3
 696 ; ZVFHMIN-NEXT:    addi a4, a4, -1
 697 ; ZVFHMIN-NEXT:    and a3, a4, a3
 698 ; ZVFHMIN-NEXT:    srli a2, a2, 2
 699 ; ZVFHMIN-NEXT:    vsetvli a4, zero, e8, mf2, ta, ma
 700 ; ZVFHMIN-NEXT:    vslidedown.vx v0, v0, a2
 701 ; ZVFHMIN-NEXT:    vsetvli a2, zero, e16, m4, ta, ma
 702 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v16, v12
 703 ; ZVFHMIN-NEXT:    addi a2, sp, 16
 704 ; ZVFHMIN-NEXT:    vl4r.v v12, (a2) # Unknown-size Folded Reload
 705 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v24, v12
 706 ; ZVFHMIN-NEXT:    vsetvli zero, a3, e32, m8, ta, ma
 707 ; ZVFHMIN-NEXT:    vfadd.vv v16, v16, v24, v0.t
 708 ; ZVFHMIN-NEXT:    vsetvli a2, zero, e16, m4, ta, ma
 709 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v12, v16
 710 ; ZVFHMIN-NEXT:    bltu a0, a1, .LBB24_2
 711 ; ZVFHMIN-NEXT:  # %bb.1:
 712 ; ZVFHMIN-NEXT:    mv a0, a1
 713 ; ZVFHMIN-NEXT:  .LBB24_2:
 714 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v16, v8
 715 ; ZVFHMIN-NEXT:    vmv1r.v v0, v7
 716 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, m8, ta, ma
 717 ; ZVFHMIN-NEXT:    vfadd.vv v16, v16, v24, v0.t
 718 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, m4, ta, ma
 719 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v16
 720 ; ZVFHMIN-NEXT:    csrr a0, vlenb
 721 ; ZVFHMIN-NEXT:    slli a0, a0, 2
 722 ; ZVFHMIN-NEXT:    add sp, sp, a0
 723 ; ZVFHMIN-NEXT:    addi sp, sp, 16
 724 ; ZVFHMIN-NEXT:    ret
 725   %elt.head = insertelement <vscale x 32 x half> poison, half %b, i32 0
 726   %vb = shufflevector <vscale x 32 x half> %elt.head, <vscale x 32 x half> poison, <vscale x 32 x i32> zeroinitializer
 727   %v = call <vscale x 32 x half> @llvm.vp.fadd.nxv32f16(<vscale x 32 x half> %va, <vscale x 32 x half> %vb, <vscale x 32 x i1> %m, i32 %evl)
 728   ret <vscale x 32 x half> %v
 729 }
 730
 731 define <vscale x 32 x half> @vfadd_vf_nxv32f16_unmasked(<vscale x 32 x half> %va, half %b, i32 zeroext %evl) {
 732 ; ZVFH-LABEL: vfadd_vf_nxv32f16_unmasked:
 733 ; ZVFH:       # %bb.0:
 734 ; ZVFH-NEXT:    vsetvli zero, a0, e16, m8, ta, ma
 735 ; ZVFH-NEXT:    vfadd.vf v8, v8, fa0
 736 ; ZVFH-NEXT:    ret
 737 ;
 738 ; ZVFHMIN-LABEL: vfadd_vf_nxv32f16_unmasked:
 739 ; ZVFHMIN:       # %bb.0:
 740 ; ZVFHMIN-NEXT:    fcvt.s.h fa5, fa0
 741 ; ZVFHMIN-NEXT:    vsetvli a1, zero, e32, m8, ta, ma
 742 ; ZVFHMIN-NEXT:    vfmv.v.f v16, fa5
 743 ; ZVFHMIN-NEXT:    vsetvli zero, zero, e16, m4, ta, ma
 744 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v4, v16
 745 ; ZVFHMIN-NEXT:    csrr a2, vlenb
 746 ; ZVFHMIN-NEXT:    slli a1, a2, 1
 747 ; ZVFHMIN-NEXT:    sub a3, a0, a1
 748 ; ZVFHMIN-NEXT:    sltu a4, a0, a3
 749 ; ZVFHMIN-NEXT:    addi a4, a4, -1
 750 ; ZVFHMIN-NEXT:    and a3, a4, a3
 751 ; ZVFHMIN-NEXT:    srli a2, a2, 2
 752 ; ZVFHMIN-NEXT:    vsetvli a4, zero, e8, m4, ta, ma
 753 ; ZVFHMIN-NEXT:    vmset.m v16
 754 ; ZVFHMIN-NEXT:    vsetvli a4, zero, e8, mf2, ta, ma
 755 ; ZVFHMIN-NEXT:    vslidedown.vx v0, v16, a2
 756 ; ZVFHMIN-NEXT:    vsetvli a2, zero, e16, m4, ta, ma
 757 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v24, v12
 758 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v16, v4
 759 ; ZVFHMIN-NEXT:    vsetvli zero, a3, e32, m8, ta, ma
 760 ; ZVFHMIN-NEXT:    vfadd.vv v24, v24, v16, v0.t
 761 ; ZVFHMIN-NEXT:    vsetvli a2, zero, e16, m4, ta, ma
 762 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v12, v24
 763 ; ZVFHMIN-NEXT:    bltu a0, a1, .LBB25_2
 764 ; ZVFHMIN-NEXT:  # %bb.1:
 765 ; ZVFHMIN-NEXT:    mv a0, a1
 766 ; ZVFHMIN-NEXT:  .LBB25_2:
 767 ; ZVFHMIN-NEXT:    vfwcvt.f.f.v v24, v8
 768 ; ZVFHMIN-NEXT:    vsetvli zero, a0, e32, m8, ta, ma
 769 ; ZVFHMIN-NEXT:    vfadd.vv v16, v24, v16
 770 ; ZVFHMIN-NEXT:    vsetvli a0, zero, e16, m4, ta, ma
 771 ; ZVFHMIN-NEXT:    vfncvt.f.f.w v8, v16
 772 ; ZVFHMIN-NEXT:    ret
 773   %elt.head = insertelement <vscale x 32 x half> poison, half %b, i32 0
 774   %vb = shufflevector <vscale x 32 x half> %elt.head, <vscale x 32 x half> poison, <vscale x 32 x i32> zeroinitializer
 775   %v = call <vscale x 32 x half> @llvm.vp.fadd.nxv32f16(<vscale x 32 x half> %va, <vscale x 32 x half> %vb, <vscale x 32 x i1> splat (i1 true), i32 %evl)
 776   ret <vscale x 32 x half> %v
 777 }
 778
 779 declare <vscale x 1 x float> @llvm.vp.fadd.nxv1f32(<vscale x 1 x float>, <vscale x 1 x float>, <vscale x 1 x i1>, i32)
 780
 781 define <vscale x 1 x float> @vfadd_vv_nxv1f32(<vscale x 1 x float> %va, <vscale x 1 x float> %b, <vscale x 1 x i1> %m, i32 zeroext %evl) {
 782 ; CHECK-LABEL: vfadd_vv_nxv1f32:
 783 ; CHECK:       # %bb.0:
 784 ; CHECK-NEXT:    vsetvli zero, a0, e32, mf2, ta, ma
 785 ; CHECK-NEXT:    vfadd.vv v8, v8, v9, v0.t
 786 ; CHECK-NEXT:    ret
 787   %v = call <vscale x 1 x float> @llvm.vp.fadd.nxv1f32(<vscale x 1 x float> %va, <vscale x 1 x float> %b, <vscale x 1 x i1> %m, i32 %evl)
 788   ret <vscale x 1 x float> %v
 789 }
 790
 791 define <vscale x 1 x float> @vfadd_vv_nxv1f32_unmasked(<vscale x 1 x float> %va, <vscale x 1 x float> %b, i32 zeroext %evl) {
 792 ; CHECK-LABEL: vfadd_vv_nxv1f32_unmasked:
 793 ; CHECK:       # %bb.0:
 794 ; CHECK-NEXT:    vsetvli zero, a0, e32, mf2, ta, ma
 795 ; CHECK-NEXT:    vfadd.vv v8, v8, v9
 796 ; CHECK-NEXT:    ret
 797   %v = call <vscale x 1 x float> @llvm.vp.fadd.nxv1f32(<vscale x 1 x float> %va, <vscale x 1 x float> %b, <vscale x 1 x i1> splat (i1 true), i32 %evl)
 798   ret <vscale x 1 x float> %v
 799 }
 800
 801 define <vscale x 1 x float> @vfadd_vf_nxv1f32(<vscale x 1 x float> %va, float %b, <vscale x 1 x i1> %m, i32 zeroext %evl) {
 802 ; CHECK-LABEL: vfadd_vf_nxv1f32:
 803 ; CHECK:       # %bb.0:
 804 ; CHECK-NEXT:    vsetvli zero, a0, e32, mf2, ta, ma
 805 ; CHECK-NEXT:    vfadd.vf v8, v8, fa0, v0.t
 806 ; CHECK-NEXT:    ret
 807   %elt.head = insertelement <vscale x 1 x float> poison, float %b, i32 0
 808   %vb = shufflevector <vscale x 1 x float> %elt.head, <vscale x 1 x float> poison, <vscale x 1 x i32> zeroinitializer
 809   %v = call <vscale x 1 x float> @llvm.vp.fadd.nxv1f32(<vscale x 1 x float> %va, <vscale x 1 x float> %vb, <vscale x 1 x i1> %m, i32 %evl)
 810   ret <vscale x 1 x float> %v
 811 }
 812
 813 define <vscale x 1 x float> @vfadd_vf_nxv1f32_unmasked(<vscale x 1 x float> %va, float %b, i32 zeroext %evl) {
 814 ; CHECK-LABEL: vfadd_vf_nxv1f32_unmasked:
 815 ; CHECK:       # %bb.0:
 816 ; CHECK-NEXT:    vsetvli zero, a0, e32, mf2, ta, ma
 817 ; CHECK-NEXT:    vfadd.vf v8, v8, fa0
 818 ; CHECK-NEXT:    ret
 819   %elt.head = insertelement <vscale x 1 x float> poison, float %b, i32 0
 820   %vb = shufflevector <vscale x 1 x float> %elt.head, <vscale x 1 x float> poison, <vscale x 1 x i32> zeroinitializer
 821   %v = call <vscale x 1 x float> @llvm.vp.fadd.nxv1f32(<vscale x 1 x float> %va, <vscale x 1 x float> %vb, <vscale x 1 x i1> splat (i1 true), i32 %evl)
 822   ret <vscale x 1 x float> %v
 823 }
 824
 825 declare <vscale x 2 x float> @llvm.vp.fadd.nxv2f32(<vscale x 2 x float>, <vscale x 2 x float>, <vscale x 2 x i1>, i32)
 826
 827 define <vscale x 2 x float> @vfadd_vv_nxv2f32(<vscale x 2 x float> %va, <vscale x 2 x float> %b, <vscale x 2 x i1> %m, i32 zeroext %evl) {
 828 ; CHECK-LABEL: vfadd_vv_nxv2f32:
 829 ; CHECK:       # %bb.0:
 830 ; CHECK-NEXT:    vsetvli zero, a0, e32, m1, ta, ma
 831 ; CHECK-NEXT:    vfadd.vv v8, v8, v9, v0.t
 832 ; CHECK-NEXT:    ret
 833   %v = call <vscale x 2 x float> @llvm.vp.fadd.nxv2f32(<vscale x 2 x float> %va, <vscale x 2 x float> %b, <vscale x 2 x i1> %m, i32 %evl)
 834   ret <vscale x 2 x float> %v
 835 }
 836
 837 define <vscale x 2 x float> @vfadd_vv_nxv2f32_unmasked(<vscale x 2 x float> %va, <vscale x 2 x float> %b, i32 zeroext %evl) {
 838 ; CHECK-LABEL: vfadd_vv_nxv2f32_unmasked:
 839 ; CHECK:       # %bb.0:
 840 ; CHECK-NEXT:    vsetvli zero, a0, e32, m1, ta, ma
 841 ; CHECK-NEXT:    vfadd.vv v8, v8, v9
 842 ; CHECK-NEXT:    ret
 843   %v = call <vscale x 2 x float> @llvm.vp.fadd.nxv2f32(<vscale x 2 x float> %va, <vscale x 2 x float> %b, <vscale x 2 x i1> splat (i1 true), i32 %evl)
 844   ret <vscale x 2 x float> %v
 845 }
 846
 847 define <vscale x 2 x float> @vfadd_vf_nxv2f32(<vscale x 2 x float> %va, float %b, <vscale x 2 x i1> %m, i32 zeroext %evl) {
 848 ; CHECK-LABEL: vfadd_vf_nxv2f32:
 849 ; CHECK:       # %bb.0:
 850 ; CHECK-NEXT:    vsetvli zero, a0, e32, m1, ta, ma
 851 ; CHECK-NEXT:    vfadd.vf v8, v8, fa0, v0.t
 852 ; CHECK-NEXT:    ret
 853   %elt.head = insertelement <vscale x 2 x float> poison, float %b, i32 0
 854   %vb = shufflevector <vscale x 2 x float> %elt.head, <vscale x 2 x float> poison, <vscale x 2 x i32> zeroinitializer
 855   %v = call <vscale x 2 x float> @llvm.vp.fadd.nxv2f32(<vscale x 2 x float> %va, <vscale x 2 x float> %vb, <vscale x 2 x i1> %m, i32 %evl)
 856   ret <vscale x 2 x float> %v
 857 }
 858
 859 define <vscale x 2 x float> @vfadd_vf_nxv2f32_unmasked(<vscale x 2 x float> %va, float %b, i32 zeroext %evl) {
 860 ; CHECK-LABEL: vfadd_vf_nxv2f32_unmasked:
 861 ; CHECK:       # %bb.0:
 862 ; CHECK-NEXT:    vsetvli zero, a0, e32, m1, ta, ma
 863 ; CHECK-NEXT:    vfadd.vf v8, v8, fa0
 864 ; CHECK-NEXT:    ret
 865   %elt.head = insertelement <vscale x 2 x float> poison, float %b, i32 0
 866   %vb = shufflevector <vscale x 2 x float> %elt.head, <vscale x 2 x float> poison, <vscale x 2 x i32> zeroinitializer
 867   %v = call <vscale x 2 x float> @llvm.vp.fadd.nxv2f32(<vscale x 2 x float> %va, <vscale x 2 x float> %vb, <vscale x 2 x i1> splat (i1 true), i32 %evl)
 868   ret <vscale x 2 x float> %v
 869 }
 870
 871 declare <vscale x 4 x float> @llvm.vp.fadd.nxv4f32(<vscale x 4 x float>, <vscale x 4 x float>, <vscale x 4 x i1>, i32)
 872
 873 define <vscale x 4 x float> @vfadd_vv_nxv4f32(<vscale x 4 x float> %va, <vscale x 4 x float> %b, <vscale x 4 x i1> %m, i32 zeroext %evl) {
 874 ; CHECK-LABEL: vfadd_vv_nxv4f32:
 875 ; CHECK:       # %bb.0:
 876 ; CHECK-NEXT:    vsetvli zero, a0, e32, m2, ta, ma
 877 ; CHECK-NEXT:    vfadd.vv v8, v8, v10, v0.t
 878 ; CHECK-NEXT:    ret
 879   %v = call <vscale x 4 x float> @llvm.vp.fadd.nxv4f32(<vscale x 4 x float> %va, <vscale x 4 x float> %b, <vscale x 4 x i1> %m, i32 %evl)
 880   ret <vscale x 4 x float> %v
 881 }
 882
 883 define <vscale x 4 x float> @vfadd_vv_nxv4f32_unmasked(<vscale x 4 x float> %va, <vscale x 4 x float> %b, i32 zeroext %evl) {
 884 ; CHECK-LABEL: vfadd_vv_nxv4f32_unmasked:
 885 ; CHECK:       # %bb.0:
 886 ; CHECK-NEXT:    vsetvli zero, a0, e32, m2, ta, ma
 887 ; CHECK-NEXT:    vfadd.vv v8, v8, v10
 888 ; CHECK-NEXT:    ret
 889   %v = call <vscale x 4 x float> @llvm.vp.fadd.nxv4f32(<vscale x 4 x float> %va, <vscale x 4 x float> %b, <vscale x 4 x i1> splat (i1 true), i32 %evl)
 890   ret <vscale x 4 x float> %v
 891 }
 892
 893 define <vscale x 4 x float> @vfadd_vf_nxv4f32(<vscale x 4 x float> %va, float %b, <vscale x 4 x i1> %m, i32 zeroext %evl) {
 894 ; CHECK-LABEL: vfadd_vf_nxv4f32:
 895 ; CHECK:       # %bb.0:
 896 ; CHECK-NEXT:    vsetvli zero, a0, e32, m2, ta, ma
 897 ; CHECK-NEXT:    vfadd.vf v8, v8, fa0, v0.t
 898 ; CHECK-NEXT:    ret
 899   %elt.head = insertelement <vscale x 4 x float> poison, float %b, i32 0
 900   %vb = shufflevector <vscale x 4 x float> %elt.head, <vscale x 4 x float> poison, <vscale x 4 x i32> zeroinitializer
 901   %v = call <vscale x 4 x float> @llvm.vp.fadd.nxv4f32(<vscale x 4 x float> %va, <vscale x 4 x float> %vb, <vscale x 4 x i1> %m, i32 %evl)
 902   ret <vscale x 4 x float> %v
 903 }
 904
 905 define <vscale x 4 x float> @vfadd_vf_nxv4f32_unmasked(<vscale x 4 x float> %va, float %b, i32 zeroext %evl) {
 906 ; CHECK-LABEL: vfadd_vf_nxv4f32_unmasked:
 907 ; CHECK:       # %bb.0:
 908 ; CHECK-NEXT:    vsetvli zero, a0, e32, m2, ta, ma
 909 ; CHECK-NEXT:    vfadd.vf v8, v8, fa0
 910 ; CHECK-NEXT:    ret
 911   %elt.head = insertelement <vscale x 4 x float> poison, float %b, i32 0
 912   %vb = shufflevector <vscale x 4 x float> %elt.head, <vscale x 4 x float> poison, <vscale x 4 x i32> zeroinitializer
 913   %v = call <vscale x 4 x float> @llvm.vp.fadd.nxv4f32(<vscale x 4 x float> %va, <vscale x 4 x float> %vb, <vscale x 4 x i1> splat (i1 true), i32 %evl)
 914   ret <vscale x 4 x float> %v
 915 }
 916
 917 declare <vscale x 8 x float> @llvm.vp.fadd.nxv8f32(<vscale x 8 x float>, <vscale x 8 x float>, <vscale x 8 x i1>, i32)
 918
 919 define <vscale x 8 x float> @vfadd_vv_nxv8f32(<vscale x 8 x float> %va, <vscale x 8 x float> %b, <vscale x 8 x i1> %m, i32 zeroext %evl) {
 920 ; CHECK-LABEL: vfadd_vv_nxv8f32:
 921 ; CHECK:       # %bb.0:
 922 ; CHECK-NEXT:    vsetvli zero, a0, e32, m4, ta, ma
 923 ; CHECK-NEXT:    vfadd.vv v8, v8, v12, v0.t
 924 ; CHECK-NEXT:    ret
 925   %v = call <vscale x 8 x float> @llvm.vp.fadd.nxv8f32(<vscale x 8 x float> %va, <vscale x 8 x float> %b, <vscale x 8 x i1> %m, i32 %evl)
 926   ret <vscale x 8 x float> %v
 927 }
 928
 929 define <vscale x 8 x float> @vfadd_vv_nxv8f32_unmasked(<vscale x 8 x float> %va, <vscale x 8 x float> %b, i32 zeroext %evl) {
 930 ; CHECK-LABEL: vfadd_vv_nxv8f32_unmasked:
 931 ; CHECK:       # %bb.0:
 932 ; CHECK-NEXT:    vsetvli zero, a0, e32, m4, ta, ma
 933 ; CHECK-NEXT:    vfadd.vv v8, v8, v12
 934 ; CHECK-NEXT:    ret
 935   %v = call <vscale x 8 x float> @llvm.vp.fadd.nxv8f32(<vscale x 8 x float> %va, <vscale x 8 x float> %b, <vscale x 8 x i1> splat (i1 true), i32 %evl)
 936   ret <vscale x 8 x float> %v
 937 }
 938
 939 define <vscale x 8 x float> @vfadd_vf_nxv8f32(<vscale x 8 x float> %va, float %b, <vscale x 8 x i1> %m, i32 zeroext %evl) {
 940 ; CHECK-LABEL: vfadd_vf_nxv8f32:
 941 ; CHECK:       # %bb.0:
 942 ; CHECK-NEXT:    vsetvli zero, a0, e32, m4, ta, ma
 943 ; CHECK-NEXT:    vfadd.vf v8, v8, fa0, v0.t
 944 ; CHECK-NEXT:    ret
 945   %elt.head = insertelement <vscale x 8 x float> poison, float %b, i32 0
 946   %vb = shufflevector <vscale x 8 x float> %elt.head, <vscale x 8 x float> poison, <vscale x 8 x i32> zeroinitializer
 947   %v = call <vscale x 8 x float> @llvm.vp.fadd.nxv8f32(<vscale x 8 x float> %va, <vscale x 8 x float> %vb, <vscale x 8 x i1> %m, i32 %evl)
 948   ret <vscale x 8 x float> %v
 949 }
 950
 951 define <vscale x 8 x float> @vfadd_vf_nxv8f32_unmasked(<vscale x 8 x float> %va, float %b, i32 zeroext %evl) {
 952 ; CHECK-LABEL: vfadd_vf_nxv8f32_unmasked:
 953 ; CHECK:       # %bb.0:
 954 ; CHECK-NEXT:    vsetvli zero, a0, e32, m4, ta, ma
 955 ; CHECK-NEXT:    vfadd.vf v8, v8, fa0
 956 ; CHECK-NEXT:    ret
 957   %elt.head = insertelement <vscale x 8 x float> poison, float %b, i32 0
 958   %vb = shufflevector <vscale x 8 x float> %elt.head, <vscale x 8 x float> poison, <vscale x 8 x i32> zeroinitializer
 959   %v = call <vscale x 8 x float> @llvm.vp.fadd.nxv8f32(<vscale x 8 x float> %va, <vscale x 8 x float> %vb, <vscale x 8 x i1> splat (i1 true), i32 %evl)
 960   ret <vscale x 8 x float> %v
 961 }
 962
 963 declare <vscale x 16 x float> @llvm.vp.fadd.nxv16f32(<vscale x 16 x float>, <vscale x 16 x float>, <vscale x 16 x i1>, i32)
 964
 965 define <vscale x 16 x float> @vfadd_vv_nxv16f32(<vscale x 16 x float> %va, <vscale x 16 x float> %b, <vscale x 16 x i1> %m, i32 zeroext %evl) {
 966 ; CHECK-LABEL: vfadd_vv_nxv16f32:
 967 ; CHECK:       # %bb.0:
 968 ; CHECK-NEXT:    vsetvli zero, a0, e32, m8, ta, ma
 969 ; CHECK-NEXT:    vfadd.vv v8, v8, v16, v0.t
 970 ; CHECK-NEXT:    ret
 971   %v = call <vscale x 16 x float> @llvm.vp.fadd.nxv16f32(<vscale x 16 x float> %va, <vscale x 16 x float> %b, <vscale x 16 x i1> %m, i32 %evl)
 972   ret <vscale x 16 x float> %v
 973 }
 974
 975 define <vscale x 16 x float> @vfadd_vv_nxv16f32_unmasked(<vscale x 16 x float> %va, <vscale x 16 x float> %b, i32 zeroext %evl) {
 976 ; CHECK-LABEL: vfadd_vv_nxv16f32_unmasked:
 977 ; CHECK:       # %bb.0:
 978 ; CHECK-NEXT:    vsetvli zero, a0, e32, m8, ta, ma
 979 ; CHECK-NEXT:    vfadd.vv v8, v8, v16
 980 ; CHECK-NEXT:    ret
 981   %v = call <vscale x 16 x float> @llvm.vp.fadd.nxv16f32(<vscale x 16 x float> %va, <vscale x 16 x float> %b, <vscale x 16 x i1> splat (i1 true), i32 %evl)
 982   ret <vscale x 16 x float> %v
 983 }
 984
 985 define <vscale x 16 x float> @vfadd_vf_nxv16f32(<vscale x 16 x float> %va, float %b, <vscale x 16 x i1> %m, i32 zeroext %evl) {
 986 ; CHECK-LABEL: vfadd_vf_nxv16f32:
 987 ; CHECK:       # %bb.0:
 988 ; CHECK-NEXT:    vsetvli zero, a0, e32, m8, ta, ma
 989 ; CHECK-NEXT:    vfadd.vf v8, v8, fa0, v0.t
 990 ; CHECK-NEXT:    ret
 991   %elt.head = insertelement <vscale x 16 x float> poison, float %b, i32 0
 992   %vb = shufflevector <vscale x 16 x float> %elt.head, <vscale x 16 x float> poison, <vscale x 16 x i32> zeroinitializer
 993   %v = call <vscale x 16 x float> @llvm.vp.fadd.nxv16f32(<vscale x 16 x float> %va, <vscale x 16 x float> %vb, <vscale x 16 x i1> %m, i32 %evl)
 994   ret <vscale x 16 x float> %v
 995 }
 996
 997 define <vscale x 16 x float> @vfadd_vf_nxv16f32_unmasked(<vscale x 16 x float> %va, float %b, i32 zeroext %evl) {
 998 ; CHECK-LABEL: vfadd_vf_nxv16f32_unmasked:
 999 ; CHECK:       # %bb.0:
1000 ; CHECK-NEXT:    vsetvli zero, a0, e32, m8, ta, ma
1001 ; CHECK-NEXT:    vfadd.vf v8, v8, fa0
1002 ; CHECK-NEXT:    ret
1003   %elt.head = insertelement <vscale x 16 x float> poison, float %b, i32 0
1004   %vb = shufflevector <vscale x 16 x float> %elt.head, <vscale x 16 x float> poison, <vscale x 16 x i32> zeroinitializer
1005   %v = call <vscale x 16 x float> @llvm.vp.fadd.nxv16f32(<vscale x 16 x float> %va, <vscale x 16 x float> %vb, <vscale x 16 x i1> splat (i1 true), i32 %evl)
1006   ret <vscale x 16 x float> %v
1007 }
1008
1009 declare <vscale x 1 x double> @llvm.vp.fadd.nxv1f64(<vscale x 1 x double>, <vscale x 1 x double>, <vscale x 1 x i1>, i32)
1010
1011 define <vscale x 1 x double> @vfadd_vv_nxv1f64(<vscale x 1 x double> %va, <vscale x 1 x double> %b, <vscale x 1 x i1> %m, i32 zeroext %evl) {
1012 ; CHECK-LABEL: vfadd_vv_nxv1f64:
1013 ; CHECK:       # %bb.0:
1014 ; CHECK-NEXT:    vsetvli zero, a0, e64, m1, ta, ma
1015 ; CHECK-NEXT:    vfadd.vv v8, v8, v9, v0.t
1016 ; CHECK-NEXT:    ret
1017   %v = call <vscale x 1 x double> @llvm.vp.fadd.nxv1f64(<vscale x 1 x double> %va, <vscale x 1 x double> %b, <vscale x 1 x i1> %m, i32 %evl)
1018   ret <vscale x 1 x double> %v
1019 }
1020
1021 define <vscale x 1 x double> @vfadd_vv_nxv1f64_unmasked(<vscale x 1 x double> %va, <vscale x 1 x double> %b, i32 zeroext %evl) {
1022 ; CHECK-LABEL: vfadd_vv_nxv1f64_unmasked:
1023 ; CHECK:       # %bb.0:
1024 ; CHECK-NEXT:    vsetvli zero, a0, e64, m1, ta, ma
1025 ; CHECK-NEXT:    vfadd.vv v8, v8, v9
1026 ; CHECK-NEXT:    ret
1027   %v = call <vscale x 1 x double> @llvm.vp.fadd.nxv1f64(<vscale x 1 x double> %va, <vscale x 1 x double> %b, <vscale x 1 x i1> splat (i1 true), i32 %evl)
1028   ret <vscale x 1 x double> %v
1029 }
1030
1031 define <vscale x 1 x double> @vfadd_vf_nxv1f64(<vscale x 1 x double> %va, double %b, <vscale x 1 x i1> %m, i32 zeroext %evl) {
1032 ; CHECK-LABEL: vfadd_vf_nxv1f64:
1033 ; CHECK:       # %bb.0:
1034 ; CHECK-NEXT:    vsetvli zero, a0, e64, m1, ta, ma
1035 ; CHECK-NEXT:    vfadd.vf v8, v8, fa0, v0.t
1036 ; CHECK-NEXT:    ret
1037   %elt.head = insertelement <vscale x 1 x double> poison, double %b, i32 0
1038   %vb = shufflevector <vscale x 1 x double> %elt.head, <vscale x 1 x double> poison, <vscale x 1 x i32> zeroinitializer
1039   %v = call <vscale x 1 x double> @llvm.vp.fadd.nxv1f64(<vscale x 1 x double> %va, <vscale x 1 x double> %vb, <vscale x 1 x i1> %m, i32 %evl)
1040   ret <vscale x 1 x double> %v
1041 }
1042
1043 define <vscale x 1 x double> @vfadd_vf_nxv1f64_unmasked(<vscale x 1 x double> %va, double %b, i32 zeroext %evl) {
1044 ; CHECK-LABEL: vfadd_vf_nxv1f64_unmasked:
1045 ; CHECK:       # %bb.0:
1046 ; CHECK-NEXT:    vsetvli zero, a0, e64, m1, ta, ma
1047 ; CHECK-NEXT:    vfadd.vf v8, v8, fa0
1048 ; CHECK-NEXT:    ret
1049   %elt.head = insertelement <vscale x 1 x double> poison, double %b, i32 0
1050   %vb = shufflevector <vscale x 1 x double> %elt.head, <vscale x 1 x double> poison, <vscale x 1 x i32> zeroinitializer
1051   %v = call <vscale x 1 x double> @llvm.vp.fadd.nxv1f64(<vscale x 1 x double> %va, <vscale x 1 x double> %vb, <vscale x 1 x i1> splat (i1 true), i32 %evl)
1052   ret <vscale x 1 x double> %v
1053 }
1054
1055 declare <vscale x 2 x double> @llvm.vp.fadd.nxv2f64(<vscale x 2 x double>, <vscale x 2 x double>, <vscale x 2 x i1>, i32)
1056
1057 define <vscale x 2 x double> @vfadd_vv_nxv2f64(<vscale x 2 x double> %va, <vscale x 2 x double> %b, <vscale x 2 x i1> %m, i32 zeroext %evl) {
1058 ; CHECK-LABEL: vfadd_vv_nxv2f64:
1059 ; CHECK:       # %bb.0:
1060 ; CHECK-NEXT:    vsetvli zero, a0, e64, m2, ta, ma
1061 ; CHECK-NEXT:    vfadd.vv v8, v8, v10, v0.t
1062 ; CHECK-NEXT:    ret
1063   %v = call <vscale x 2 x double> @llvm.vp.fadd.nxv2f64(<vscale x 2 x double> %va, <vscale x 2 x double> %b, <vscale x 2 x i1> %m, i32 %evl)
1064   ret <vscale x 2 x double> %v
1065 }
1066
1067 define <vscale x 2 x double> @vfadd_vv_nxv2f64_unmasked(<vscale x 2 x double> %va, <vscale x 2 x double> %b, i32 zeroext %evl) {
1068 ; CHECK-LABEL: vfadd_vv_nxv2f64_unmasked:
1069 ; CHECK:       # %bb.0:
1070 ; CHECK-NEXT:    vsetvli zero, a0, e64, m2, ta, ma
1071 ; CHECK-NEXT:    vfadd.vv v8, v8, v10
1072 ; CHECK-NEXT:    ret
1073   %v = call <vscale x 2 x double> @llvm.vp.fadd.nxv2f64(<vscale x 2 x double> %va, <vscale x 2 x double> %b, <vscale x 2 x i1> splat (i1 true), i32 %evl)
1074   ret <vscale x 2 x double> %v
1075 }
1076
1077 define <vscale x 2 x double> @vfadd_vf_nxv2f64(<vscale x 2 x double> %va, double %b, <vscale x 2 x i1> %m, i32 zeroext %evl) {
1078 ; CHECK-LABEL: vfadd_vf_nxv2f64:
1079 ; CHECK:       # %bb.0:
1080 ; CHECK-NEXT:    vsetvli zero, a0, e64, m2, ta, ma
1081 ; CHECK-NEXT:    vfadd.vf v8, v8, fa0, v0.t
1082 ; CHECK-NEXT:    ret
1083   %elt.head = insertelement <vscale x 2 x double> poison, double %b, i32 0
1084   %vb = shufflevector <vscale x 2 x double> %elt.head, <vscale x 2 x double> poison, <vscale x 2 x i32> zeroinitializer
1085   %v = call <vscale x 2 x double> @llvm.vp.fadd.nxv2f64(<vscale x 2 x double> %va, <vscale x 2 x double> %vb, <vscale x 2 x i1> %m, i32 %evl)
1086   ret <vscale x 2 x double> %v
1087 }
1088
1089 define <vscale x 2 x double> @vfadd_vf_nxv2f64_unmasked(<vscale x 2 x double> %va, double %b, i32 zeroext %evl) {
1090 ; CHECK-LABEL: vfadd_vf_nxv2f64_unmasked:
1091 ; CHECK:       # %bb.0:
1092 ; CHECK-NEXT:    vsetvli zero, a0, e64, m2, ta, ma
1093 ; CHECK-NEXT:    vfadd.vf v8, v8, fa0
1094 ; CHECK-NEXT:    ret
1095   %elt.head = insertelement <vscale x 2 x double> poison, double %b, i32 0
1096   %vb = shufflevector <vscale x 2 x double> %elt.head, <vscale x 2 x double> poison, <vscale x 2 x i32> zeroinitializer
1097   %v = call <vscale x 2 x double> @llvm.vp.fadd.nxv2f64(<vscale x 2 x double> %va, <vscale x 2 x double> %vb, <vscale x 2 x i1> splat (i1 true), i32 %evl)
1098   ret <vscale x 2 x double> %v
1099 }
1100
1101 declare <vscale x 4 x double> @llvm.vp.fadd.nxv4f64(<vscale x 4 x double>, <vscale x 4 x double>, <vscale x 4 x i1>, i32)
1102
1103 define <vscale x 4 x double> @vfadd_vv_nxv4f64(<vscale x 4 x double> %va, <vscale x 4 x double> %b, <vscale x 4 x i1> %m, i32 zeroext %evl) {
1104 ; CHECK-LABEL: vfadd_vv_nxv4f64:
1105 ; CHECK:       # %bb.0:
1106 ; CHECK-NEXT:    vsetvli zero, a0, e64, m4, ta, ma
1107 ; CHECK-NEXT:    vfadd.vv v8, v8, v12, v0.t
1108 ; CHECK-NEXT:    ret
1109   %v = call <vscale x 4 x double> @llvm.vp.fadd.nxv4f64(<vscale x 4 x double> %va, <vscale x 4 x double> %b, <vscale x 4 x i1> %m, i32 %evl)
1110   ret <vscale x 4 x double> %v
1111 }
1112
1113 define <vscale x 4 x double> @vfadd_vv_nxv4f64_unmasked(<vscale x 4 x double> %va, <vscale x 4 x double> %b, i32 zeroext %evl) {
1114 ; CHECK-LABEL: vfadd_vv_nxv4f64_unmasked:
1115 ; CHECK:       # %bb.0:
1116 ; CHECK-NEXT:    vsetvli zero, a0, e64, m4, ta, ma
1117 ; CHECK-NEXT:    vfadd.vv v8, v8, v12
1118 ; CHECK-NEXT:    ret
1119   %v = call <vscale x 4 x double> @llvm.vp.fadd.nxv4f64(<vscale x 4 x double> %va, <vscale x 4 x double> %b, <vscale x 4 x i1> splat (i1 true), i32 %evl)
1120   ret <vscale x 4 x double> %v
1121 }
1122
1123 define <vscale x 4 x double> @vfadd_vf_nxv4f64(<vscale x 4 x double> %va, double %b, <vscale x 4 x i1> %m, i32 zeroext %evl) {
1124 ; CHECK-LABEL: vfadd_vf_nxv4f64:
1125 ; CHECK:       # %bb.0:
1126 ; CHECK-NEXT:    vsetvli zero, a0, e64, m4, ta, ma
1127 ; CHECK-NEXT:    vfadd.vf v8, v8, fa0, v0.t
1128 ; CHECK-NEXT:    ret
1129   %elt.head = insertelement <vscale x 4 x double> poison, double %b, i32 0
1130   %vb = shufflevector <vscale x 4 x double> %elt.head, <vscale x 4 x double> poison, <vscale x 4 x i32> zeroinitializer
1131   %v = call <vscale x 4 x double> @llvm.vp.fadd.nxv4f64(<vscale x 4 x double> %va, <vscale x 4 x double> %vb, <vscale x 4 x i1> %m, i32 %evl)
1132   ret <vscale x 4 x double> %v
1133 }
1134
1135 define <vscale x 4 x double> @vfadd_vf_nxv4f64_unmasked(<vscale x 4 x double> %va, double %b, i32 zeroext %evl) {
1136 ; CHECK-LABEL: vfadd_vf_nxv4f64_unmasked:
1137 ; CHECK:       # %bb.0:
1138 ; CHECK-NEXT:    vsetvli zero, a0, e64, m4, ta, ma
1139 ; CHECK-NEXT:    vfadd.vf v8, v8, fa0
1140 ; CHECK-NEXT:    ret
1141   %elt.head = insertelement <vscale x 4 x double> poison, double %b, i32 0
1142   %vb = shufflevector <vscale x 4 x double> %elt.head, <vscale x 4 x double> poison, <vscale x 4 x i32> zeroinitializer
1143   %v = call <vscale x 4 x double> @llvm.vp.fadd.nxv4f64(<vscale x 4 x double> %va, <vscale x 4 x double> %vb, <vscale x 4 x i1> splat (i1 true), i32 %evl)
1144   ret <vscale x 4 x double> %v
1145 }
1146
1147 declare <vscale x 7 x double> @llvm.vp.fadd.nxv7f64(<vscale x 7 x double>, <vscale x 7 x double>, <vscale x 7 x i1>, i32)
1148
1149 define <vscale x 7 x double> @vfadd_vv_nxv7f64(<vscale x 7 x double> %va, <vscale x 7 x double> %b, <vscale x 7 x i1> %m, i32 zeroext %evl) {
1150 ; CHECK-LABEL: vfadd_vv_nxv7f64:
1151 ; CHECK:       # %bb.0:
1152 ; CHECK-NEXT:    vsetvli zero, a0, e64, m8, ta, ma
1153 ; CHECK-NEXT:    vfadd.vv v8, v8, v16, v0.t
1154 ; CHECK-NEXT:    ret
1155   %v = call <vscale x 7 x double> @llvm.vp.fadd.nxv7f64(<vscale x 7 x double> %va, <vscale x 7 x double> %b, <vscale x 7 x i1> %m, i32 %evl)
1156   ret <vscale x 7 x double> %v
1157 }
1158
1159 declare <vscale x 8 x double> @llvm.vp.fadd.nxv8f64(<vscale x 8 x double>, <vscale x 8 x double>, <vscale x 8 x i1>, i32)
1160
1161 define <vscale x 8 x double> @vfadd_vv_nxv8f64(<vscale x 8 x double> %va, <vscale x 8 x double> %b, <vscale x 8 x i1> %m, i32 zeroext %evl) {
1162 ; CHECK-LABEL: vfadd_vv_nxv8f64:
1163 ; CHECK:       # %bb.0:
1164 ; CHECK-NEXT:    vsetvli zero, a0, e64, m8, ta, ma
1165 ; CHECK-NEXT:    vfadd.vv v8, v8, v16, v0.t
1166 ; CHECK-NEXT:    ret
1167   %v = call <vscale x 8 x double> @llvm.vp.fadd.nxv8f64(<vscale x 8 x double> %va, <vscale x 8 x double> %b, <vscale x 8 x i1> %m, i32 %evl)
1168   ret <vscale x 8 x double> %v
1169 }
1170
1171 define <vscale x 8 x double> @vfadd_vv_nxv8f64_unmasked(<vscale x 8 x double> %va, <vscale x 8 x double> %b, i32 zeroext %evl) {
1172 ; CHECK-LABEL: vfadd_vv_nxv8f64_unmasked:
1173 ; CHECK:       # %bb.0:
1174 ; CHECK-NEXT:    vsetvli zero, a0, e64, m8, ta, ma
1175 ; CHECK-NEXT:    vfadd.vv v8, v8, v16
1176 ; CHECK-NEXT:    ret
1177   %v = call <vscale x 8 x double> @llvm.vp.fadd.nxv8f64(<vscale x 8 x double> %va, <vscale x 8 x double> %b, <vscale x 8 x i1> splat (i1 true), i32 %evl)
1178   ret <vscale x 8 x double> %v
1179 }
1180
1181 define <vscale x 8 x double> @vfadd_vf_nxv8f64(<vscale x 8 x double> %va, double %b, <vscale x 8 x i1> %m, i32 zeroext %evl) {
1182 ; CHECK-LABEL: vfadd_vf_nxv8f64:
1183 ; CHECK:       # %bb.0:
1184 ; CHECK-NEXT:    vsetvli zero, a0, e64, m8, ta, ma
1185 ; CHECK-NEXT:    vfadd.vf v8, v8, fa0, v0.t
1186 ; CHECK-NEXT:    ret
1187   %elt.head = insertelement <vscale x 8 x double> poison, double %b, i32 0
1188   %vb = shufflevector <vscale x 8 x double> %elt.head, <vscale x 8 x double> poison, <vscale x 8 x i32> zeroinitializer
1189   %v = call <vscale x 8 x double> @llvm.vp.fadd.nxv8f64(<vscale x 8 x double> %va, <vscale x 8 x double> %vb, <vscale x 8 x i1> %m, i32 %evl)
1190   ret <vscale x 8 x double> %v
1191 }
1192
1193 define <vscale x 8 x double> @vfadd_vf_nxv8f64_unmasked(<vscale x 8 x double> %va, double %b, i32 zeroext %evl) {
1194 ; CHECK-LABEL: vfadd_vf_nxv8f64_unmasked:
1195 ; CHECK:       # %bb.0:
1196 ; CHECK-NEXT:    vsetvli zero, a0, e64, m8, ta, ma
1197 ; CHECK-NEXT:    vfadd.vf v8, v8, fa0
1198 ; CHECK-NEXT:    ret
1199   %elt.head = insertelement <vscale x 8 x double> poison, double %b, i32 0
1200   %vb = shufflevector <vscale x 8 x double> %elt.head, <vscale x 8 x double> poison, <vscale x 8 x i32> zeroinitializer
1201   %v = call <vscale x 8 x double> @llvm.vp.fadd.nxv8f64(<vscale x 8 x double> %va, <vscale x 8 x double> %vb, <vscale x 8 x i1> splat (i1 true), i32 %evl)
1202   ret <vscale x 8 x double> %v
1203 }