llvm/test/CodeGen/AMDGPU/function-args.ll

   1 ; RUN: llc -march=amdgcn -mcpu=hawaii -verify-machineinstrs < %s | FileCheck -enable-var-scope -check-prefixes=GCN,CI %s
   2 ; RUN: llc -march=amdgcn -mcpu=fiji -mattr=-flat-for-global -verify-machineinstrs < %s | FileCheck -enable-var-scope -check-prefixes=GCN,VI,GFX89 %s
   3 ; RUN: llc -march=amdgcn -mcpu=gfx900 -mattr=-flat-for-global -verify-machineinstrs < %s | FileCheck -enable-var-scope -check-prefixes=GCN,VI,GFX89 %s
   4
   5 ; GCN-LABEL: {{^}}void_func_i1:
   6 ; GCN: v_and_b32_e32 v0, 1, v0
   7 ; GCN: buffer_store_byte v0, off
   8 define void @void_func_i1(i1 %arg0) #0 {
   9   store i1 %arg0, i1 addrspace(1)* undef
  10   ret void
  11 }
  12
  13 ; GCN-LABEL: {{^}}void_func_i1_zeroext:
  14 ; GCN: s_waitcnt
  15 ; GCN-NEXT: v_or_b32_e32 v0, 12, v0
  16 ; GCN-NOT: v0
  17 ; GCN: buffer_store_dword v0, off
  18 define void @void_func_i1_zeroext(i1 zeroext %arg0) #0 {
  19   %ext = zext i1 %arg0 to i32
  20   %add = add i32 %ext, 12
  21   store i32 %add, i32 addrspace(1)* undef
  22   ret void
  23 }
  24
  25 ; GCN-LABEL: {{^}}void_func_i1_signext:
  26 ; GCN: s_waitcnt
  27 ; GCN-NEXT: v_add_{{i|u}}32_e32 v0, {{(vcc, )?}}12, v0
  28 ; GCN-NOT: v0
  29 ; GCN: buffer_store_dword v0, off
  30 define void @void_func_i1_signext(i1 signext %arg0) #0 {
  31   %ext = sext i1 %arg0 to i32
  32   %add = add i32 %ext, 12
  33   store i32 %add, i32 addrspace(1)* undef
  34   ret void
  35 }
  36
  37 ; GCN-LABEL: {{^}}i1_arg_i1_use:
  38 ; GCN: v_and_b32_e32 v0, 1, v0
  39 ; GCN: v_cmp_eq_u32_e32 vcc, 1, v0
  40 ; GCN: s_xor_b64 s{{\[[0-9]+:[0-9]+\]}}, vcc, -1
  41 define void @i1_arg_i1_use(i1 %arg) #0 {
  42 bb:
  43   br i1 %arg, label %bb2, label %bb1
  44
  45 bb1:
  46   store volatile i32 0, i32 addrspace(1)* undef
  47   br label %bb2
  48
  49 bb2:
  50   ret void
  51 }
  52
  53 ; GCN-LABEL: {{^}}void_func_i8:
  54 ; GCN-NOT: v0
  55 ; GCN: buffer_store_byte v0, off
  56 define void @void_func_i8(i8 %arg0) #0 {
  57   store i8 %arg0, i8 addrspace(1)* undef
  58   ret void
  59 }
  60
  61 ; GCN-LABEL: {{^}}void_func_i8_zeroext:
  62 ; GCN-NOT: and_b32
  63 ; GCN: v_add_{{i|u}}32_e32 v0, {{(vcc, )?}}12, v0
  64 define void @void_func_i8_zeroext(i8 zeroext %arg0) #0 {
  65   %ext = zext i8 %arg0 to i32
  66   %add = add i32 %ext, 12
  67   store i32 %add, i32 addrspace(1)* undef
  68   ret void
  69 }
  70
  71 ; GCN-LABEL: {{^}}void_func_i8_signext:
  72 ; GCN-NOT: v_bfe_i32
  73 ; GCN: v_add_{{i|u}}32_e32 v0, {{(vcc, )?}}12, v0
  74 define void @void_func_i8_signext(i8 signext %arg0) #0 {
  75   %ext = sext i8 %arg0 to i32
  76   %add = add i32 %ext, 12
  77   store i32 %add, i32 addrspace(1)* undef
  78   ret void
  79 }
  80
  81 ; GCN-LABEL: {{^}}void_func_i16:
  82 ; GCN: buffer_store_short v0, off
  83 define void @void_func_i16(i16 %arg0) #0 {
  84   store i16 %arg0, i16 addrspace(1)* undef
  85   ret void
  86 }
  87
  88 ; GCN-LABEL: {{^}}void_func_i16_zeroext:
  89 ; GCN-NOT: v0
  90 ; GCN: v_add_{{i|u}}32_e32 v0, {{(vcc, )?}}12, v0
  91 define void @void_func_i16_zeroext(i16 zeroext %arg0) #0 {
  92   %ext = zext i16 %arg0 to i32
  93   %add = add i32 %ext, 12
  94   store i32 %add, i32 addrspace(1)* undef
  95   ret void
  96 }
  97
  98 ; GCN-LABEL: {{^}}void_func_i16_signext:
  99 ; GCN-NOT: v0
 100 ; GCN: v_add_{{i|u}}32_e32 v0, {{(vcc, )?}}12, v0
 101 define void @void_func_i16_signext(i16 signext %arg0) #0 {
 102   %ext = sext i16 %arg0 to i32
 103   %add = add i32 %ext, 12
 104   store i32 %add, i32 addrspace(1)* undef
 105   ret void
 106 }
 107
 108 ; GCN-LABEL: {{^}}void_func_i32:
 109 ; GCN-NOT: v0
 110 ; GCN: buffer_store_dword v0, off
 111 define void @void_func_i32(i32 %arg0) #0 {
 112   store i32 %arg0, i32 addrspace(1)* undef
 113   ret void
 114 }
 115
 116 ; GCN-LABEL: {{^}}void_func_i64:
 117 ; GCN-NOT: v[0:1]
 118 ; GCN-NOT: v0
 119 ; GCN-NOT: v1
 120 ; GCN: buffer_store_dwordx2 v[0:1], off
 121 define void @void_func_i64(i64 %arg0) #0 {
 122   store i64 %arg0, i64 addrspace(1)* undef
 123   ret void
 124 }
 125
 126 ; GCN-LABEL: {{^}}void_func_f16:
 127 ; VI-NOT: v0
 128 ; CI: v_cvt_f16_f32_e32 v0, v0
 129 ; GCN: buffer_store_short v0, off
 130 define void @void_func_f16(half %arg0) #0 {
 131   store half %arg0, half addrspace(1)* undef
 132   ret void
 133 }
 134
 135 ; GCN-LABEL: {{^}}void_func_f32
 136 ; GCN-NOT: v0
 137 ; GCN: buffer_store_dword v0, off
 138 define void @void_func_f32(float %arg0) #0 {
 139   store float %arg0, float addrspace(1)* undef
 140   ret void
 141 }
 142
 143 ; GCN-LABEL: {{^}}void_func_f64:
 144 ; GCN-NOT: v[0:1]
 145 ; GCN-NOT: v0
 146 ; GCN-NOT: v1
 147 ; GCN: buffer_store_dwordx2 v[0:1], off
 148 define void @void_func_f64(double %arg0) #0 {
 149   store double %arg0, double addrspace(1)* undef
 150   ret void
 151 }
 152
 153 ; GCN-LABEL: {{^}}void_func_v2i32:
 154 ; GCN-NOT: v[0:1]
 155 ; GCN-NOT: v0
 156 ; GCN-NOT: v1
 157 ; GCN: buffer_store_dwordx2 v[0:1], off
 158 define void @void_func_v2i32(<2 x i32> %arg0) #0 {
 159   store <2 x i32> %arg0, <2 x i32> addrspace(1)* undef
 160   ret void
 161 }
 162
 163 ; GCN-LABEL: {{^}}void_func_v3i32:
 164 ; GCN-DAG: buffer_store_dwordx3 v[0:2], off
 165 define void @void_func_v3i32(<3 x i32> %arg0) #0 {
 166   store <3 x i32> %arg0, <3 x i32> addrspace(1)* undef
 167   ret void
 168 }
 169
 170 ; GCN-LABEL: {{^}}void_func_v4i32:
 171 ; GCN: buffer_store_dwordx4 v[0:3], off
 172 define void @void_func_v4i32(<4 x i32> %arg0) #0 {
 173   store <4 x i32> %arg0, <4 x i32> addrspace(1)* undef
 174   ret void
 175 }
 176
 177 ; GCN-LABEL: {{^}}void_func_v5i32:
 178 ; GCN-DAG: buffer_store_dwordx4 v[0:3], off
 179 ; GCN-DAG: buffer_store_dword v4, off
 180 define void @void_func_v5i32(<5 x i32> %arg0) #0 {
 181   store <5 x i32> %arg0, <5 x i32> addrspace(1)* undef
 182   ret void
 183 }
 184
 185 ; GCN-LABEL: {{^}}void_func_v8i32:
 186 ; GCN-DAG: buffer_store_dwordx4 v[0:3], off
 187 ; GCN-DAG: buffer_store_dwordx4 v[4:7], off
 188 define void @void_func_v8i32(<8 x i32> %arg0) #0 {
 189   store <8 x i32> %arg0, <8 x i32> addrspace(1)* undef
 190   ret void
 191 }
 192
 193 ; GCN-LABEL: {{^}}void_func_v16i32:
 194 ; GCN-DAG: buffer_store_dwordx4 v[0:3], off
 195 ; GCN-DAG: buffer_store_dwordx4 v[4:7], off
 196 ; GCN-DAG: buffer_store_dwordx4 v[8:11], off
 197 ; GCN-DAG: buffer_store_dwordx4 v[12:15], off
 198 define void @void_func_v16i32(<16 x i32> %arg0) #0 {
 199   store <16 x i32> %arg0, <16 x i32> addrspace(1)* undef
 200   ret void
 201 }
 202
 203 ; GCN-LABEL: {{^}}void_func_v32i32:
 204 ; GCN-DAG: buffer_store_dwordx4 v[0:3], off
 205 ; GCN-DAG: buffer_store_dwordx4 v[4:7], off
 206 ; GCN-DAG: buffer_store_dwordx4 v[8:11], off
 207 ; GCN-DAG: buffer_store_dwordx4 v[12:15], off
 208 ; GCN-DAG: buffer_store_dwordx4 v[16:19], off
 209 ; GCN-DAG: buffer_store_dwordx4 v[20:23], off
 210 ; GCN-DAG: buffer_store_dwordx4 v[24:27], off
 211 ; GCN-DAG: buffer_store_dwordx4 v[28:31], off
 212 define void @void_func_v32i32(<32 x i32> %arg0) #0 {
 213   store <32 x i32> %arg0, <32 x i32> addrspace(1)* undef
 214   ret void
 215 }
 216
 217 ; 1 over register limit
 218 ; GCN-LABEL: {{^}}void_func_v33i32:
 219 ; GCN-DAG: buffer_store_dwordx4 v[0:3], off
 220 ; GCN-DAG: buffer_store_dwordx4 v[4:7], off
 221 ; GCN-DAG: buffer_store_dwordx4 v[8:11], off
 222 ; GCN-DAG: buffer_store_dwordx4 v[12:15], off
 223 ; GCN-DAG: buffer_load_dword v31, off, s[0:3], s32{{$}}
 224 ; GCN-DAG: buffer_load_dword [[STACKLOAD:v[0-9]+]], off, s[0:3], s32 offset:4
 225 ; GCN-DAG: buffer_store_dwordx4 v[16:19], off
 226 ; GCN-DAG: buffer_store_dwordx4 v[20:23], off
 227 ; GCN-DAG: buffer_store_dwordx4 v[24:27], off
 228 ; GCN-DAG: buffer_store_dwordx4 v[28:31], off
 229 ; GCN: buffer_store_dword [[STACKLOAD]], off
 230 define void @void_func_v33i32(<33 x i32> %arg0) #0 {
 231   store <33 x i32> %arg0, <33 x i32> addrspace(1)* undef
 232   ret void
 233 }
 234
 235 ; GCN-LABEL: {{^}}void_func_v2i64:
 236 ; GCN: buffer_store_dwordx4 v[0:3], off
 237 define void @void_func_v2i64(<2 x i64> %arg0) #0 {
 238   store <2 x i64> %arg0, <2 x i64> addrspace(1)* undef
 239   ret void
 240 }
 241
 242 ; GCN-LABEL: {{^}}void_func_v3i64:
 243 ; GCN-DAG: buffer_store_dwordx4 v[0:3], off
 244 ; GCN-DAG: buffer_store_dwordx2 v[4:5], off
 245 define void @void_func_v3i64(<3 x i64> %arg0) #0 {
 246   store <3 x i64> %arg0, <3 x i64> addrspace(1)* undef
 247   ret void
 248 }
 249
 250 ; GCN-LABEL: {{^}}void_func_v4i64:
 251 ; GCN-DAG: buffer_store_dwordx4 v[0:3], off
 252 ; GCN-DAG: buffer_store_dwordx4 v[4:7], off
 253 define void @void_func_v4i64(<4 x i64> %arg0) #0 {
 254   store <4 x i64> %arg0, <4 x i64> addrspace(1)* undef
 255   ret void
 256 }
 257
 258 ; GCN-LABEL: {{^}}void_func_v5i64:
 259 ; GCN-DAG: buffer_store_dwordx4 v[0:3], off
 260 ; GCN-DAG: buffer_store_dwordx4 v[4:7], off
 261 ; GCN-DAG: buffer_store_dwordx2 v[8:9], off
 262 define void @void_func_v5i64(<5 x i64> %arg0) #0 {
 263   store <5 x i64> %arg0, <5 x i64> addrspace(1)* undef
 264   ret void
 265 }
 266
 267 ; GCN-LABEL: {{^}}void_func_v8i64:
 268 ; GCN-DAG: buffer_store_dwordx4 v[0:3], off
 269 ; GCN-DAG: buffer_store_dwordx4 v[4:7], off
 270 ; GCN-DAG: buffer_store_dwordx4 v[8:11], off
 271 ; GCN-DAG: buffer_store_dwordx4 v[12:15], off
 272 define void @void_func_v8i64(<8 x i64> %arg0) #0 {
 273   store <8 x i64> %arg0, <8 x i64> addrspace(1)* undef
 274   ret void
 275 }
 276
 277 ; GCN-LABEL: {{^}}void_func_v16i64:
 278 ; GCN-DAG: buffer_store_dwordx4 v[0:3], off
 279 ; GCN-DAG: buffer_store_dwordx4 v[4:7], off
 280 ; GCN-DAG: buffer_store_dwordx4 v[8:11], off
 281 ; GCN-DAG: buffer_store_dwordx4 v[12:15], off
 282 ; GCN-DAG: buffer_store_dwordx4 v[16:19], off
 283 ; GCN-DAG: buffer_store_dwordx4 v[20:23], off
 284 ; GCN-DAG: buffer_store_dwordx4 v[24:27], off
 285 ; GCN-DAG: buffer_store_dwordx4 v[28:31], off
 286 define void @void_func_v16i64(<16 x i64> %arg0) #0 {
 287   store <16 x i64> %arg0, <16 x i64> addrspace(1)* undef
 288   ret void
 289 }
 290
 291 ; GCN-LABEL: {{^}}void_func_v2i16:
 292 ; GFX9-NOT: v0
 293 ; GFX9: buffer_store_dword v0, off
 294 define void @void_func_v2i16(<2 x i16> %arg0) #0 {
 295   store <2 x i16> %arg0, <2 x i16> addrspace(1)* undef
 296   ret void
 297 }
 298
 299 ; GCN-LABEL: {{^}}void_func_v3i16:
 300 ; GCN-DAG: buffer_store_dword v{{[0-9]+}}, off
 301 ; GCN-DAG: buffer_store_short v{{[0-9]+}}, off
 302 define void @void_func_v3i16(<3 x i16> %arg0) #0 {
 303   store <3 x i16> %arg0, <3 x i16> addrspace(1)* undef
 304   ret void
 305 }
 306
 307 ; GCN-LABEL: {{^}}void_func_v4i16:
 308 ; GFX9-NOT: v0
 309 ; GFX9-NOT: v1
 310 ; GFX9: buffer_store_dwordx2 v[0:1], off
 311 define void @void_func_v4i16(<4 x i16> %arg0) #0 {
 312   store <4 x i16> %arg0, <4 x i16> addrspace(1)* undef
 313   ret void
 314 }
 315
 316 ; GCN-LABEL: {{^}}void_func_v5i16:
 317 ; CI: v_lshlrev_b32
 318 ; CI: v_and_b32
 319 ; CI: v_lshlrev_b32
 320 ; CI: v_or_b32
 321 ; CI: v_or_b32
 322 ; CI-DAG: buffer_store_short v
 323 ; CI-DAG: buffer_store_dwordx2 v
 324
 325 ; GFX89-DAG: buffer_store_short v2, off,
 326 ; GFX89-DAG: buffer_store_dwordx2 v[0:1], off
 327
 328 define void @void_func_v5i16(<5 x i16> %arg0) #0 {
 329   store <5 x i16> %arg0, <5 x i16> addrspace(1)* undef
 330   ret void
 331 }
 332
 333 ; GCN-LABEL: {{^}}void_func_v8i16:
 334 ; GFX9-DAG: buffer_store_dwordx4 v[0:3], off
 335 define void @void_func_v8i16(<8 x i16> %arg0) #0 {
 336   store <8 x i16> %arg0, <8 x i16> addrspace(1)* undef
 337   ret void
 338 }
 339
 340 ; GCN-LABEL: {{^}}void_func_v16i16:
 341 ; GFX9-DAG: buffer_store_dwordx4 v[0:3], off
 342 ; GFX9-DAG: buffer_store_dwordx4 v[4:7], off
 343 define void @void_func_v16i16(<16 x i16> %arg0) #0 {
 344   store <16 x i16> %arg0, <16 x i16> addrspace(1)* undef
 345   ret void
 346 }
 347
 348 ; GCN-LABEL: {{^}}void_func_v2i24:
 349 ; GCN: v_add_{{i|u}}32_e32 v0, {{(vcc, )?}}v0, v1
 350 define void @void_func_v2i24(<2 x i24> %arg0) #0 {
 351   %elt0 = extractelement <2 x i24> %arg0, i32 0
 352   %elt1 = extractelement <2 x i24> %arg0, i32 1
 353   %add = add i24 %elt0, %elt1
 354   store i24 %add, i24 addrspace(1)* undef
 355   ret void
 356 }
 357
 358 ; GCN-LABEL: {{^}}void_func_v2f32:
 359 ; GCN-NOT: v[0:1]
 360 ; GCN-NOT: v0
 361 ; GCN-NOT: v1
 362 ; GCN: buffer_store_dwordx2 v[0:1], off
 363 define void @void_func_v2f32(<2 x float> %arg0) #0 {
 364   store <2 x float> %arg0, <2 x float> addrspace(1)* undef
 365   ret void
 366 }
 367
 368 ; GCN-LABEL: {{^}}void_func_v3f32:
 369 ; GCN-DAG: buffer_store_dwordx3 v[0:2], off
 370 define void @void_func_v3f32(<3 x float> %arg0) #0 {
 371   store <3 x float> %arg0, <3 x float> addrspace(1)* undef
 372   ret void
 373 }
 374
 375 ; GCN-LABEL: {{^}}void_func_v4f32:
 376 ; GCN: buffer_store_dwordx4 v[0:3], off
 377 define void @void_func_v4f32(<4 x float> %arg0) #0 {
 378   store <4 x float> %arg0, <4 x float> addrspace(1)* undef
 379   ret void
 380 }
 381
 382 ; GCN-LABEL: {{^}}void_func_v8f32:
 383 ; GCN-DAG: buffer_store_dwordx4 v[0:3], off
 384 ; GCN-DAG: buffer_store_dwordx4 v[4:7], off
 385 define void @void_func_v8f32(<8 x float> %arg0) #0 {
 386   store <8 x float> %arg0, <8 x float> addrspace(1)* undef
 387   ret void
 388 }
 389
 390 ; GCN-LABEL: {{^}}void_func_v16f32:
 391 ; GCN-DAG: buffer_store_dwordx4 v[0:3], off
 392 ; GCN-DAG: buffer_store_dwordx4 v[4:7], off
 393 ; GCN-DAG: buffer_store_dwordx4 v[8:11], off
 394 ; GCN-DAG: buffer_store_dwordx4 v[12:15], off
 395 define void @void_func_v16f32(<16 x float> %arg0) #0 {
 396   store <16 x float> %arg0, <16 x float> addrspace(1)* undef
 397   ret void
 398 }
 399
 400 ; GCN-LABEL: {{^}}void_func_v2f64:
 401 ; GCN: buffer_store_dwordx4 v[0:3], off
 402 define void @void_func_v2f64(<2 x double> %arg0) #0 {
 403   store <2 x double> %arg0, <2 x double> addrspace(1)* undef
 404   ret void
 405 }
 406
 407 ; GCN-LABEL: {{^}}void_func_v3f64:
 408 ; GCN-DAG: buffer_store_dwordx4 v[0:3], off
 409 ; GCN-DAG: buffer_store_dwordx2 v[4:5], off
 410 define void @void_func_v3f64(<3 x double> %arg0) #0 {
 411   store <3 x double> %arg0, <3 x double> addrspace(1)* undef
 412   ret void
 413 }
 414
 415 ; GCN-LABEL: {{^}}void_func_v4f64:
 416 ; GCN-DAG: buffer_store_dwordx4 v[0:3], off
 417 ; GCN-DAG: buffer_store_dwordx4 v[4:7], off
 418 define void @void_func_v4f64(<4 x double> %arg0) #0 {
 419   store <4 x double> %arg0, <4 x double> addrspace(1)* undef
 420   ret void
 421 }
 422
 423 ; GCN-LABEL: {{^}}void_func_v8f64:
 424 ; GCN-DAG: buffer_store_dwordx4 v[0:3], off
 425 ; GCN-DAG: buffer_store_dwordx4 v[4:7], off
 426 ; GCN-DAG: buffer_store_dwordx4 v[8:11], off
 427 ; GCN-DAG: buffer_store_dwordx4 v[12:15], off
 428 define void @void_func_v8f64(<8 x double> %arg0) #0 {
 429   store <8 x double> %arg0, <8 x double> addrspace(1)* undef
 430   ret void
 431 }
 432
 433 ; GCN-LABEL: {{^}}void_func_v16f64:
 434 ; GCN-DAG: buffer_store_dwordx4 v[0:3], off
 435 ; GCN-DAG: buffer_store_dwordx4 v[4:7], off
 436 ; GCN-DAG: buffer_store_dwordx4 v[8:11], off
 437 ; GCN-DAG: buffer_store_dwordx4 v[12:15], off
 438 ; GCN-DAG: buffer_store_dwordx4 v[16:19], off
 439 ; GCN-DAG: buffer_store_dwordx4 v[20:23], off
 440 ; GCN-DAG: buffer_store_dwordx4 v[24:27], off
 441 ; GCN-DAG: buffer_store_dwordx4 v[28:31], off
 442 define void @void_func_v16f64(<16 x double> %arg0) #0 {
 443   store <16 x double> %arg0, <16 x double> addrspace(1)* undef
 444   ret void
 445 }
 446
 447 ; GCN-LABEL: {{^}}void_func_v2f16:
 448 ; GFX9-NOT: v0
 449 ; GFX9: buffer_store_dword v0, off
 450 define void @void_func_v2f16(<2 x half> %arg0) #0 {
 451   store <2 x half> %arg0, <2 x half> addrspace(1)* undef
 452   ret void
 453 }
 454
 455 ; FIXME: Different abi if f16 legal
 456 ; GCN-LABEL: {{^}}void_func_v3f16:
 457 ; CI-DAG: v_cvt_f16_f32_e32 v{{[0-9]+}}, v0
 458 ; CI-DAG: v_cvt_f16_f32_e32 v{{[0-9]+}}, v1
 459 ; CI-DAG: v_cvt_f16_f32_e32 v{{[0-9]+}}, v2
 460
 461 ; GFX89-DAG: v0
 462 ; GFX89-DAG: v1
 463
 464 ; GCN-DAG: buffer_store_short
 465 ; GCN-DAG: buffer_store_dword
 466 define void @void_func_v3f16(<3 x half> %arg0) #0 {
 467   store <3 x half> %arg0, <3 x half> addrspace(1)* undef
 468   ret void
 469 }
 470
 471 ; GCN-LABEL: {{^}}void_func_v4f16:
 472 ; GFX9-NOT: v0
 473 ; GFX9-NOT: v1
 474 ; GFX9-NOT: v[0:1]
 475 ; GFX9: buffer_store_dwordx2 v[0:1], off
 476 define void @void_func_v4f16(<4 x half> %arg0) #0 {
 477   store <4 x half> %arg0, <4 x half> addrspace(1)* undef
 478   ret void
 479 }
 480
 481 ; GCN-LABEL: {{^}}void_func_v8f16:
 482 ; GFX9-NOT: v0
 483 ; GFX9-NOT: v1
 484 ; GFX9: buffer_store_dwordx4 v[0:3], off
 485 define void @void_func_v8f16(<8 x half> %arg0) #0 {
 486   store <8 x half> %arg0, <8 x half> addrspace(1)* undef
 487   ret void
 488 }
 489
 490 ; GCN-LABEL: {{^}}void_func_v16f16:
 491 ; GFX9-NOT: v0
 492 ; GFX9-NOT: v1
 493 ; GFX9-DAG: buffer_store_dwordx4 v[0:3], off
 494 ; GFX9-DAG: buffer_store_dwordx4 v[4:7], off
 495 define void @void_func_v16f16(<16 x half> %arg0) #0 {
 496   store <16 x half> %arg0, <16 x half> addrspace(1)* undef
 497   ret void
 498 }
 499
 500 ; Make sure there is no alignment requirement for passed vgprs.
 501 ; GCN-LABEL: {{^}}void_func_i32_i64_i32:
 502 ; GCN-NOT: v0
 503 ; GCN: buffer_store_dword v0, off
 504 ; GCN: buffer_store_dwordx2 v[1:2]
 505 ; GCN: buffer_store_dword v3
 506 define void @void_func_i32_i64_i32(i32 %arg0, i64 %arg1, i32 %arg2) #0 {
 507   store volatile i32 %arg0, i32 addrspace(1)* undef
 508   store volatile i64 %arg1, i64 addrspace(1)* undef
 509   store volatile i32 %arg2, i32 addrspace(1)* undef
 510   ret void
 511 }
 512
 513 ; GCN-LABEL: {{^}}void_func_struct_i32:
 514 ; GCN-NOT: v0
 515 ; GCN: buffer_store_dword v0, off
 516 define void @void_func_struct_i32({ i32 } %arg0) #0 {
 517   store { i32 } %arg0, { i32 } addrspace(1)* undef
 518   ret void
 519 }
 520
 521 ; GCN-LABEL: {{^}}void_func_struct_i8_i32:
 522 ; GCN-DAG: buffer_store_byte v0, off
 523 ; GCN-DAG: buffer_store_dword v1, off
 524 define void @void_func_struct_i8_i32({ i8, i32 } %arg0) #0 {
 525   store { i8, i32 } %arg0, { i8, i32 } addrspace(1)* undef
 526   ret void
 527 }
 528
 529 ; GCN-LABEL: {{^}}void_func_byval_struct_i8_i32:
 530 ; GCN-DAG: buffer_load_ubyte v[[ELT0:[0-9]+]], off, s[0:3], s32{{$}}
 531 ; GCN-DAG: buffer_load_dword v[[ELT1:[0-9]+]], off, s[0:3], s32 offset:4{{$}}
 532 ; GCN-DAG: buffer_store_dword v[[ELT1]]
 533 ; GCN-DAG: buffer_store_byte v[[ELT0]]
 534 define void @void_func_byval_struct_i8_i32({ i8, i32 } addrspace(5)* byval({ i8, i32 }) %arg0) #0 {
 535   %arg0.load = load { i8, i32 }, { i8, i32 } addrspace(5)* %arg0
 536   store { i8, i32 } %arg0.load, { i8, i32 } addrspace(1)* undef
 537   ret void
 538 }
 539
 540 ; GCN-LABEL: {{^}}void_func_byval_struct_i8_i32_x2:
 541 ; GCN: buffer_load_ubyte v[[ELT0_0:[0-9]+]], off, s[0:3], s32 glc{{$}}
 542 ; GCN: buffer_load_dword v[[ELT1_0:[0-9]+]], off, s[0:3], s32 offset:4 glc{{$}}
 543 ; GCN: buffer_load_ubyte v[[ELT0_1:[0-9]+]], off, s[0:3], s32 offset:8 glc{{$}}
 544 ; GCN: buffer_load_dword v[[ELT1_1:[0-9]+]], off, s[0:3], s32 offset:12 glc{{$}}
 545
 546 ; GCN: ds_write_b32 v0, v0
 547 ; GCN: s_setpc_b64
 548 define void @void_func_byval_struct_i8_i32_x2({ i8, i32 } addrspace(5)* byval({ i8, i32 }) %arg0, { i8, i32 } addrspace(5)* byval({ i8, i32 }) %arg1, i32 %arg2) #0 {
 549   %arg0.load = load volatile { i8, i32 }, { i8, i32 } addrspace(5)* %arg0
 550   %arg1.load = load volatile { i8, i32 }, { i8, i32 } addrspace(5)* %arg1
 551   store volatile { i8, i32 } %arg0.load, { i8, i32 } addrspace(1)* undef
 552   store volatile { i8, i32 } %arg1.load, { i8, i32 } addrspace(1)* undef
 553   store volatile i32 %arg2, i32 addrspace(3)* undef
 554   ret void
 555 }
 556
 557 ; GCN-LABEL: {{^}}void_func_byval_i32_byval_i64:
 558 ; GCN-DAG: buffer_load_dword v[[ARG0_LOAD:[0-9]+]], off, s[0:3], s32{{$}}
 559 ; GCN-DAG: buffer_load_dword v[[ARG1_LOAD0:[0-9]+]], off, s[0:3], s32 offset:8{{$}}
 560 ; GCN-DAG: buffer_load_dword v[[ARG1_LOAD1:[0-9]+]], off, s[0:3], s32 offset:12{{$}}
 561 ; GCN-DAG: buffer_store_dword v[[ARG0_LOAD]], off
 562 ; GCN-DAG: buffer_store_dwordx2 v[[[ARG1_LOAD0]]:[[ARG1_LOAD1]]], off
 563 define void @void_func_byval_i32_byval_i64(i32 addrspace(5)* byval(i32) %arg0, i64 addrspace(5)* byval(i64) %arg1) #0 {
 564   %arg0.load = load i32, i32 addrspace(5)* %arg0
 565   %arg1.load = load i64, i64 addrspace(5)* %arg1
 566   store i32 %arg0.load, i32 addrspace(1)* undef
 567   store i64 %arg1.load, i64 addrspace(1)* undef
 568   ret void
 569 }
 570
 571 ; GCN-LABEL: {{^}}void_func_v32i32_i32_i64:
 572 ; GCN-DAG: buffer_store_dwordx4 v[0:3], off
 573 ; GCN-DAG: buffer_store_dwordx4 v[4:7], off
 574 ; GCN-DAG: buffer_store_dwordx4 v[8:11], off
 575 ; GCN-DAG: buffer_store_dwordx4 v[12:15], off
 576 ; GCN-DAG: buffer_store_dwordx4 v[16:19], off
 577 ; GCN-DAG: buffer_store_dwordx4 v[20:23], off
 578 ; GCN-DAG: buffer_store_dwordx4 v[24:27], off
 579 ; GCN-DAG: buffer_store_dwordx4 v[28:31], off
 580 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG0_31:[0-9]+]], off, s[0:3], s32{{$}}
 581 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1:[0-9]+]], off, s[0:3], s32 offset:4{{$}}
 582 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_0:[0-9]+]], off, s[0:3], s32 offset:8
 583 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_1:[0-9]+]], off, s[0:3], s32 offset:12
 584
 585 ; GCN: buffer_store_dword v[[LOAD_ARG1]]
 586 ; GCN: buffer_store_dwordx2 v[[[LOAD_ARG2_0]]:[[LOAD_ARG2_1]]], off
 587 define void @void_func_v32i32_i32_i64(<32 x i32> %arg0, i32 %arg1, i64 %arg2) #0 {
 588   store volatile <32 x i32> %arg0, <32 x i32> addrspace(1)* undef
 589   store volatile i32 %arg1, i32 addrspace(1)* undef
 590   store volatile i64 %arg2, i64 addrspace(1)* undef
 591   ret void
 592 }
 593
 594 ; FIXME: Different ext load types on CI vs. VI
 595 ; GCN-LABEL: {{^}}void_func_v32i32_i1_i8_i16:
 596 ; GCN-DAG: buffer_load_ubyte [[LOAD_ARG1:v[0-9]+]], off, s[0:3], s32 offset:4{{$}}
 597 ; VI-DAG: buffer_load_ushort [[LOAD_ARG2:v[0-9]+]], off, s[0:3], s32 offset:8{{$}}
 598 ; VI-DAG: buffer_load_ushort [[LOAD_ARG3:v[0-9]+]], off, s[0:3], s32 offset:12{{$}}
 599 ; VI-DAG: buffer_load_ushort [[LOAD_ARG4:v[0-9]+]], off, s[0:3], s32 offset:16{{$}}
 600
 601 ; CI-DAG: buffer_load_dword [[LOAD_ARG2:v[0-9]+]], off, s[0:3], s32 offset:8{{$}}
 602 ; CI-DAG: buffer_load_dword [[LOAD_ARG3:v[0-9]+]], off, s[0:3], s32 offset:12{{$}}
 603 ; CI-DAG: buffer_load_dword [[LOAD_ARG4:v[0-9]+]], off, s[0:3], s32 offset:16{{$}}
 604
 605 ; GCN-DAG: v_and_b32_e32 [[TRUNC_ARG1_I1:v[0-9]+]], 1, [[LOAD_ARG1]]
 606 ; CI-DAG: v_cvt_f16_f32_e32 [[CVT_ARG4:v[0-9]+]], [[LOAD_ARG4]]
 607
 608 ; GCN: buffer_store_byte [[TRUNC_ARG1_I1]], off
 609 ; GCN: buffer_store_byte [[LOAD_ARG2]], off
 610 ; GCN: buffer_store_short [[LOAD_ARG3]], off
 611 ; GFX89: buffer_store_short [[LOAD_ARG4]], off
 612
 613 ; CI: buffer_store_short [[CVT_ARG4]], off
 614 define void @void_func_v32i32_i1_i8_i16(<32 x i32> %arg0, i1 %arg1, i8 %arg2, i16 %arg3, half %arg4) #0 {
 615   store volatile <32 x i32> %arg0, <32 x i32> addrspace(1)* undef
 616   store volatile i1 %arg1, i1 addrspace(1)* undef
 617   store volatile i8 %arg2, i8 addrspace(1)* undef
 618   store volatile i16 %arg3, i16 addrspace(1)* undef
 619   store volatile half %arg4, half addrspace(1)* undef
 620   ret void
 621 }
 622
 623 ; GCN-LABEL: {{^}}void_func_v32i32_v2i32_v2f32:
 624 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_0:[0-9]+]], off, s[0:3], s32 offset:4{{$}}
 625 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_1:[0-9]+]], off, s[0:3], s32 offset:8{{$}}
 626 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_0:[0-9]+]], off, s[0:3], s32 offset:12{{$}}
 627 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_1:[0-9]+]], off, s[0:3], s32 offset:16{{$}}
 628
 629 ; GCN: buffer_store_dwordx2 v[[[LOAD_ARG1_0]]:[[LOAD_ARG1_1]]], off
 630 ; GCN: buffer_store_dwordx2 v[[[LOAD_ARG2_0]]:[[LOAD_ARG2_1]]], off
 631 define void @void_func_v32i32_v2i32_v2f32(<32 x i32> %arg0, <2 x i32> %arg1, <2 x float> %arg2) #0 {
 632   store volatile <32 x i32> %arg0, <32 x i32> addrspace(1)* undef
 633   store volatile <2 x i32> %arg1, <2 x i32> addrspace(1)* undef
 634   store volatile <2 x float> %arg2, <2 x float> addrspace(1)* undef
 635   ret void
 636 }
 637
 638 ; GCN-LABEL: {{^}}void_func_v32i32_v2i16_v2f16:
 639 ; GFX9-DAG: buffer_load_dword [[LOAD_ARG1:v[0-9]+]], off, s[0:3], s32 offset:4{{$}}
 640 ; GFX9-DAG: buffer_load_dword [[LOAD_ARG2:v[0-9]+]], off, s[0:3], s32 offset:8{{$}}
 641 ; GFX9: buffer_store_dword [[LOAD_ARG1]], off
 642 ; GFX9: buffer_store_short [[LOAD_ARG2]], off
 643 define void @void_func_v32i32_v2i16_v2f16(<32 x i32> %arg0, <2 x i16> %arg1, <2 x half> %arg2) #0 {
 644   store volatile <32 x i32> %arg0, <32 x i32> addrspace(1)* undef
 645   store volatile <2 x i16> %arg1, <2 x i16> addrspace(1)* undef
 646   store volatile <2 x half> %arg2, <2 x half> addrspace(1)* undef
 647   ret void
 648 }
 649
 650 ; GCN-LABEL: {{^}}void_func_v32i32_v2i64_v2f64:
 651 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_0:[0-9]+]], off, s[0:3], s32 offset:4{{$}}
 652 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_1:[0-9]+]], off, s[0:3], s32 offset:8{{$}}
 653 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_2:[0-9]+]], off, s[0:3], s32 offset:12{{$}}
 654 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_3:[0-9]+]], off, s[0:3], s32 offset:16{{$}}
 655
 656 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_0:[0-9]+]], off, s[0:3], s32 offset:20{{$}}
 657 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_1:[0-9]+]], off, s[0:3], s32 offset:24{{$}}
 658 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_2:[0-9]+]], off, s[0:3], s32 offset:28{{$}}
 659 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_3:[0-9]+]], off, s[0:3], s32 offset:32{{$}}
 660
 661 ; GCN: buffer_store_dwordx4 v[[[LOAD_ARG1_0]]:[[LOAD_ARG1_3]]], off
 662 ; GCN: buffer_store_dwordx4 v[[[LOAD_ARG2_0]]:[[LOAD_ARG2_3]]], off
 663 define void @void_func_v32i32_v2i64_v2f64(<32 x i32> %arg0, <2 x i64> %arg1, <2 x double> %arg2) #0 {
 664   store volatile <32 x i32> %arg0, <32 x i32> addrspace(1)* undef
 665   store volatile <2 x i64> %arg1, <2 x i64> addrspace(1)* undef
 666   store volatile <2 x double> %arg2, <2 x double> addrspace(1)* undef
 667   ret void
 668 }
 669
 670 ; GCN-LABEL: {{^}}void_func_v32i32_v4i32_v4f32:
 671 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_0:[0-9]+]], off, s[0:3], s32 offset:4{{$}}
 672 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_1:[0-9]+]], off, s[0:3], s32 offset:8{{$}}
 673 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_2:[0-9]+]], off, s[0:3], s32 offset:12{{$}}
 674 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_3:[0-9]+]], off, s[0:3], s32 offset:16{{$}}
 675
 676 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_0:[0-9]+]], off, s[0:3], s32 offset:20{{$}}
 677 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_1:[0-9]+]], off, s[0:3], s32 offset:24{{$}}
 678 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_2:[0-9]+]], off, s[0:3], s32 offset:28{{$}}
 679 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_3:[0-9]+]], off, s[0:3], s32 offset:32{{$}}
 680
 681 ; GCN: buffer_store_dwordx4 v[[[LOAD_ARG1_0]]:[[LOAD_ARG1_3]]], off
 682 ; GCN: buffer_store_dwordx4 v[[[LOAD_ARG2_0]]:[[LOAD_ARG2_3]]], off
 683 define void @void_func_v32i32_v4i32_v4f32(<32 x i32> %arg0, <4 x i32> %arg1, <4 x float> %arg2) #0 {
 684   store volatile <32 x i32> %arg0, <32 x i32> addrspace(1)* undef
 685   store volatile <4 x i32> %arg1, <4 x i32> addrspace(1)* undef
 686   store volatile <4 x float> %arg2, <4 x float> addrspace(1)* undef
 687   ret void
 688 }
 689
 690 ; GCN-LABEL: {{^}}void_func_v32i32_v8i32_v8f32:
 691 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_0:[0-9]+]], off, s[0:3], s32 offset:4{{$}}
 692 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_1:[0-9]+]], off, s[0:3], s32 offset:8{{$}}
 693 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_2:[0-9]+]], off, s[0:3], s32 offset:12{{$}}
 694 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_3:[0-9]+]], off, s[0:3], s32 offset:16{{$}}
 695 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_4:[0-9]+]], off, s[0:3], s32 offset:20{{$}}
 696 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_5:[0-9]+]], off, s[0:3], s32 offset:24{{$}}
 697 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_6:[0-9]+]], off, s[0:3], s32 offset:28{{$}}
 698 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_7:[0-9]+]], off, s[0:3], s32 offset:32{{$}}
 699
 700 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_0:[0-9]+]], off, s[0:3], s32 offset:36{{$}}
 701 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_1:[0-9]+]], off, s[0:3], s32 offset:40{{$}}
 702 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_2:[0-9]+]], off, s[0:3], s32 offset:44{{$}}
 703 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_3:[0-9]+]], off, s[0:3], s32 offset:48{{$}}
 704 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_4:[0-9]+]], off, s[0:3], s32 offset:52{{$}}
 705 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_5:[0-9]+]], off, s[0:3], s32 offset:56{{$}}
 706 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_6:[0-9]+]], off, s[0:3], s32 offset:60{{$}}
 707 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_7:[0-9]+]], off, s[0:3], s32 offset:64{{$}}
 708
 709 ; GCN: buffer_store_dwordx4 v[[[LOAD_ARG1_4]]:[[LOAD_ARG1_7]]], off
 710 ; GCN: buffer_store_dwordx4 v[[[LOAD_ARG1_0]]:[[LOAD_ARG1_3]]], off
 711 ; GCN: buffer_store_dwordx4 v[[[LOAD_ARG2_4]]:[[LOAD_ARG2_7]]], off
 712 ; GCN: buffer_store_dwordx4 v[[[LOAD_ARG2_0]]:[[LOAD_ARG2_3]]], off
 713 define void @void_func_v32i32_v8i32_v8f32(<32 x i32> %arg0, <8 x i32> %arg1, <8 x float> %arg2) #0 {
 714   store volatile <32 x i32> %arg0, <32 x i32> addrspace(1)* undef
 715   store volatile <8 x i32> %arg1, <8 x i32> addrspace(1)* undef
 716   store volatile <8 x float> %arg2, <8 x float> addrspace(1)* undef
 717   ret void
 718 }
 719
 720 ; GCN-LABEL: {{^}}void_func_v32i32_v16i32_v16f32:
 721 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_0:[0-9]+]], off, s[0:3], s32{{$}}
 722 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_1:[0-9]+]], off, s[0:3], s32 offset:4{{$}}
 723 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_2:[0-9]+]], off, s[0:3], s32 offset:8{{$}}
 724 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_:[0-9]+]], off, s[0:3], s32 offset:12{{$}}
 725 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_4:[0-9]+]], off, s[0:3], s32 offset:16{{$}}
 726 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_5:[0-9]+]], off, s[0:3], s32 offset:20{{$}}
 727 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_6:[0-9]+]], off, s[0:3], s32 offset:24{{$}}
 728 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_7:[0-9]+]], off, s[0:3], s32 offset:28{{$}}
 729 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_8:[0-9]+]], off, s[0:3], s32 offset:32{{$}}
 730 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_9:[0-9]+]], off, s[0:3], s32 offset:36{{$}}
 731 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_10:[0-9]+]], off, s[0:3], s32 offset:40{{$}}
 732 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_11:[0-9]+]], off, s[0:3], s32 offset:44{{$}}
 733 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_12:[0-9]+]], off, s[0:3], s32 offset:48{{$}}
 734 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_13:[0-9]+]], off, s[0:3], s32 offset:52{{$}}
 735 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG1_14:[0-9]+]], off, s[0:3], s32 offset:56{{$}}
 736 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_15:[0-9]+]], off, s[0:3], s32 offset:60{{$}}
 737
 738 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_0:[0-9]+]], off, s[0:3], s32 offset:64{{$}}
 739 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_1:[0-9]+]], off, s[0:3], s32 offset:68{{$}}
 740 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_2:[0-9]+]], off, s[0:3], s32 offset:72{{$}}
 741 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_3:[0-9]+]], off, s[0:3], s32 offset:76{{$}}
 742 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_4:[0-9]+]], off, s[0:3], s32 offset:80{{$}}
 743 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_5:[0-9]+]], off, s[0:3], s32 offset:84{{$}}
 744 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_6:[0-9]+]], off, s[0:3], s32 offset:88{{$}}
 745 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_7:[0-9]+]], off, s[0:3], s32 offset:92{{$}}
 746 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_8:[0-9]+]], off, s[0:3], s32 offset:96{{$}}
 747 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_9:[0-9]+]], off, s[0:3], s32 offset:100{{$}}
 748 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_10:[0-9]+]], off, s[0:3], s32 offset:104{{$}}
 749 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_11:[0-9]+]], off, s[0:3], s32 offset:108{{$}}
 750 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_12:[0-9]+]], off, s[0:3], s32 offset:112{{$}}
 751 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_13:[0-9]+]], off, s[0:3], s32 offset:116{{$}}
 752 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_14:[0-9]+]], off, s[0:3], s32 offset:120{{$}}
 753 ; GCN-DAG: buffer_load_dword v[[LOAD_ARG2_15:[0-9]+]], off, s[0:3], s32 offset:124{{$}}
 754 define void @void_func_v32i32_v16i32_v16f32(<32 x i32> %arg0, <16 x i32> %arg1, <16 x float> %arg2) #0 {
 755   store volatile <32 x i32> %arg0, <32 x i32> addrspace(1)* undef
 756   store volatile <16 x i32> %arg1, <16 x i32> addrspace(1)* undef
 757   store volatile <16 x float> %arg2, <16 x float> addrspace(1)* undef
 758   ret void
 759 }
 760
 761 ; Make sure v3 isn't a wasted register because of v3 types being promoted to v4
 762 ; GCN-LABEL: {{^}}void_func_v3f32_wasted_reg:
 763 ; GCN: s_waitcnt
 764 ; GCN: ds_write_b32 v{{[0-9]+}}, v0
 765 ; GCN-NEXT: ds_write_b32 v{{[0-9]+}}, v1
 766 ; GCN-NEXT: ds_write_b32 v{{[0-9]+}}, v2
 767 ; GCN-NEXT: ds_write_b32 v{{[0-9]+}}, v3
 768 ; GCN-NEXT: s_waitcnt
 769 ; GCN-NEXT: s_setpc_b64
 770 define void @void_func_v3f32_wasted_reg(<3 x float> %arg0, i32 %arg1) #0 {
 771   %arg0.0 = extractelement <3 x float> %arg0, i32 0
 772   %arg0.1 = extractelement <3 x float> %arg0, i32 1
 773   %arg0.2 = extractelement <3 x float> %arg0, i32 2
 774   store volatile float %arg0.0, float addrspace(3)* undef
 775   store volatile float %arg0.1, float addrspace(3)* undef
 776   store volatile float %arg0.2, float addrspace(3)* undef
 777   store volatile i32 %arg1, i32 addrspace(3)* undef
 778   ret void
 779 }
 780
 781 ; GCN-LABEL: {{^}}void_func_v3i32_wasted_reg:
 782 ; GCN: s_waitcnt
 783 ; GCN: ds_write_b32 v{{[0-9]+}}, v0
 784 ; GCN-NEXT: ds_write_b32 v{{[0-9]+}}, v1
 785 ; GCN-NEXT: ds_write_b32 v{{[0-9]+}}, v2
 786 ; GCN-NEXT: ds_write_b32 v{{[0-9]+}}, v3
 787 ; GCN-NEXT: s_waitcnt
 788 ; GCN-NEXT: s_setpc_b64
 789 define void @void_func_v3i32_wasted_reg(<3 x i32> %arg0, i32 %arg1) #0 {
 790   %arg0.0 = extractelement <3 x i32> %arg0, i32 0
 791   %arg0.1 = extractelement <3 x i32> %arg0, i32 1
 792   %arg0.2 = extractelement <3 x i32> %arg0, i32 2
 793   store volatile i32 %arg0.0, i32 addrspace(3)* undef
 794   store volatile i32 %arg0.1, i32 addrspace(3)* undef
 795   store volatile i32 %arg0.2, i32 addrspace(3)* undef
 796   store volatile i32 %arg1, i32 addrspace(3)* undef
 797   ret void
 798 }
 799
 800 ; Check there is no crash.
 801 ; GCN-LABEL: {{^}}void_func_v16i8:
 802 define void @void_func_v16i8(<16 x i8> %arg0) #0 {
 803   store volatile <16 x i8> %arg0, <16 x i8> addrspace(1)* undef
 804   ret void
 805 }
 806
 807 ; Check there is no crash.
 808 ; GCN-LABEL: {{^}}void_func_v32i32_v16i8:
 809 define void @void_func_v32i32_v16i8(<32 x i32> %arg0, <16 x i8> %arg1) #0 {
 810   store volatile <32 x i32> %arg0, <32 x i32> addrspace(1)* undef
 811   store volatile <16 x i8> %arg1, <16 x i8> addrspace(1)* undef
 812   ret void
 813 }
 814
 815 attributes #0 = { nounwind }