llvm/test/CodeGen/AMDGPU/shufflevector.v4i64.v4i64.ll

   1 ; NOTE: Assertions have been autogenerated by utils/update_llc_test_checks.py UTC_ARGS: --version 5
   2 ; RUN: llc -mtriple=amdgcn-amd-amdhsa -mcpu=gfx900 < %s | FileCheck -check-prefixes=GFX9,GFX900 %s
   3 ; RUN: llc -mtriple=amdgcn-amd-amdhsa -mcpu=gfx90a < %s | FileCheck -check-prefixes=GFX9,GFX90APLUS,GFX90A %s
   4 ; RUN: llc -mtriple=amdgcn-amd-amdhsa -mcpu=gfx940 < %s | FileCheck -check-prefixes=GFX9,GFX90APLUS,GFX940 %s
   5
   6
   7 define void @v_shuffle_v4i64_v4i64__u_u_u_u(ptr addrspace(1) inreg %ptr) {
   8 ; GFX9-LABEL: v_shuffle_v4i64_v4i64__u_u_u_u:
   9 ; GFX9:       ; %bb.0:
  10 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
  11 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
  12   %vec0 = call <4 x i64> asm "; def $0", "=v"()
  13   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> poison
  14   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
  15   ret void
  16 }
  17
  18 define void @v_shuffle_v4i64_v4i64__0_u_u_u(ptr addrspace(1) inreg %ptr) {
  19 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__0_u_u_u:
  20 ; GFX900:       ; %bb.0:
  21 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
  22 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
  23 ; GFX900-NEXT:    ;;#ASMSTART
  24 ; GFX900-NEXT:    ; def v[0:7]
  25 ; GFX900-NEXT:    ;;#ASMEND
  26 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
  27 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
  28 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
  29 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
  30 ;
  31 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__0_u_u_u:
  32 ; GFX90A:       ; %bb.0:
  33 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
  34 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
  35 ; GFX90A-NEXT:    ;;#ASMSTART
  36 ; GFX90A-NEXT:    ; def v[0:7]
  37 ; GFX90A-NEXT:    ;;#ASMEND
  38 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
  39 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
  40 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
  41 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
  42 ;
  43 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__0_u_u_u:
  44 ; GFX940:       ; %bb.0:
  45 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
  46 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
  47 ; GFX940-NEXT:    ;;#ASMSTART
  48 ; GFX940-NEXT:    ; def v[0:7]
  49 ; GFX940-NEXT:    ;;#ASMEND
  50 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
  51 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
  52 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
  53 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
  54   %vec0 = call <4 x i64> asm "; def $0", "=v"()
  55   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 0, i32 poison, i32 poison, i32 poison>
  56   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
  57   ret void
  58 }
  59
  60 define void @v_shuffle_v4i64_v4i64__1_u_u_u(ptr addrspace(1) inreg %ptr) {
  61 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__1_u_u_u:
  62 ; GFX900:       ; %bb.0:
  63 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
  64 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
  65 ; GFX900-NEXT:    ;;#ASMSTART
  66 ; GFX900-NEXT:    ; def v[0:7]
  67 ; GFX900-NEXT:    ;;#ASMEND
  68 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
  69 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
  70 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
  71 ;
  72 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__1_u_u_u:
  73 ; GFX90A:       ; %bb.0:
  74 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
  75 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
  76 ; GFX90A-NEXT:    ;;#ASMSTART
  77 ; GFX90A-NEXT:    ; def v[0:7]
  78 ; GFX90A-NEXT:    ;;#ASMEND
  79 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
  80 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
  81 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
  82 ;
  83 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__1_u_u_u:
  84 ; GFX940:       ; %bb.0:
  85 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
  86 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
  87 ; GFX940-NEXT:    ;;#ASMSTART
  88 ; GFX940-NEXT:    ; def v[0:7]
  89 ; GFX940-NEXT:    ;;#ASMEND
  90 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
  91 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
  92 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
  93   %vec0 = call <4 x i64> asm "; def $0", "=v"()
  94   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 1, i32 poison, i32 poison, i32 poison>
  95   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
  96   ret void
  97 }
  98
  99 define void @v_shuffle_v4i64_v4i64__2_u_u_u(ptr addrspace(1) inreg %ptr) {
 100 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__2_u_u_u:
 101 ; GFX900:       ; %bb.0:
 102 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 103 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
 104 ; GFX900-NEXT:    ;;#ASMSTART
 105 ; GFX900-NEXT:    ; def v[0:7]
 106 ; GFX900-NEXT:    ;;#ASMEND
 107 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
 108 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
 109 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
 110 ;
 111 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__2_u_u_u:
 112 ; GFX90A:       ; %bb.0:
 113 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 114 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
 115 ; GFX90A-NEXT:    ;;#ASMSTART
 116 ; GFX90A-NEXT:    ; def v[0:7]
 117 ; GFX90A-NEXT:    ;;#ASMEND
 118 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
 119 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
 120 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
 121 ;
 122 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__2_u_u_u:
 123 ; GFX940:       ; %bb.0:
 124 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 125 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
 126 ; GFX940-NEXT:    ;;#ASMSTART
 127 ; GFX940-NEXT:    ; def v[0:7]
 128 ; GFX940-NEXT:    ;;#ASMEND
 129 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
 130 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
 131 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
 132   %vec0 = call <4 x i64> asm "; def $0", "=v"()
 133   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 2, i32 poison, i32 poison, i32 poison>
 134   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
 135   ret void
 136 }
 137
 138 define void @v_shuffle_v4i64_v4i64__3_u_u_u(ptr addrspace(1) inreg %ptr) {
 139 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__3_u_u_u:
 140 ; GFX900:       ; %bb.0:
 141 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 142 ; GFX900-NEXT:    ;;#ASMSTART
 143 ; GFX900-NEXT:    ; def v[0:7]
 144 ; GFX900-NEXT:    ;;#ASMEND
 145 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
 146 ; GFX900-NEXT:    v_mov_b32_e32 v0, v6
 147 ; GFX900-NEXT:    v_mov_b32_e32 v1, v7
 148 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
 149 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
 150 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
 151 ;
 152 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__3_u_u_u:
 153 ; GFX90A:       ; %bb.0:
 154 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 155 ; GFX90A-NEXT:    ;;#ASMSTART
 156 ; GFX90A-NEXT:    ; def v[0:7]
 157 ; GFX90A-NEXT:    ;;#ASMEND
 158 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
 159 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v6
 160 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v7
 161 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
 162 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
 163 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
 164 ;
 165 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__3_u_u_u:
 166 ; GFX940:       ; %bb.0:
 167 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 168 ; GFX940-NEXT:    ;;#ASMSTART
 169 ; GFX940-NEXT:    ; def v[0:7]
 170 ; GFX940-NEXT:    ;;#ASMEND
 171 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
 172 ; GFX940-NEXT:    v_mov_b32_e32 v0, v6
 173 ; GFX940-NEXT:    v_mov_b32_e32 v1, v7
 174 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
 175 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
 176 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
 177   %vec0 = call <4 x i64> asm "; def $0", "=v"()
 178   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 3, i32 poison, i32 poison, i32 poison>
 179   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
 180   ret void
 181 }
 182
 183 define void @v_shuffle_v4i64_v4i64__4_u_u_u(ptr addrspace(1) inreg %ptr) {
 184 ; GFX9-LABEL: v_shuffle_v4i64_v4i64__4_u_u_u:
 185 ; GFX9:       ; %bb.0:
 186 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 187 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
 188   %vec0 = call <4 x i64> asm "; def $0", "=v"()
 189   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 4, i32 poison, i32 poison, i32 poison>
 190   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
 191   ret void
 192 }
 193
 194 define void @v_shuffle_v4i64_v4i64__5_u_u_u(ptr addrspace(1) inreg %ptr) {
 195 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__5_u_u_u:
 196 ; GFX900:       ; %bb.0:
 197 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 198 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
 199 ; GFX900-NEXT:    ;;#ASMSTART
 200 ; GFX900-NEXT:    ; def v[0:7]
 201 ; GFX900-NEXT:    ;;#ASMEND
 202 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
 203 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
 204 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
 205 ;
 206 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__5_u_u_u:
 207 ; GFX90A:       ; %bb.0:
 208 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 209 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
 210 ; GFX90A-NEXT:    ;;#ASMSTART
 211 ; GFX90A-NEXT:    ; def v[0:7]
 212 ; GFX90A-NEXT:    ;;#ASMEND
 213 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
 214 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
 215 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
 216 ;
 217 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__5_u_u_u:
 218 ; GFX940:       ; %bb.0:
 219 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 220 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
 221 ; GFX940-NEXT:    ;;#ASMSTART
 222 ; GFX940-NEXT:    ; def v[0:7]
 223 ; GFX940-NEXT:    ;;#ASMEND
 224 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
 225 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
 226 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
 227   %vec0 = call <4 x i64> asm "; def $0", "=v"()
 228   %vec1 = call <4 x i64> asm "; def $0", "=v"()
 229   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 5, i32 poison, i32 poison, i32 poison>
 230   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
 231   ret void
 232 }
 233
 234 define void @v_shuffle_v4i64_v4i64__6_u_u_u(ptr addrspace(1) inreg %ptr) {
 235 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__6_u_u_u:
 236 ; GFX900:       ; %bb.0:
 237 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 238 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
 239 ; GFX900-NEXT:    ;;#ASMSTART
 240 ; GFX900-NEXT:    ; def v[0:7]
 241 ; GFX900-NEXT:    ;;#ASMEND
 242 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
 243 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
 244 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
 245 ;
 246 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__6_u_u_u:
 247 ; GFX90A:       ; %bb.0:
 248 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 249 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
 250 ; GFX90A-NEXT:    ;;#ASMSTART
 251 ; GFX90A-NEXT:    ; def v[0:7]
 252 ; GFX90A-NEXT:    ;;#ASMEND
 253 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
 254 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
 255 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
 256 ;
 257 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__6_u_u_u:
 258 ; GFX940:       ; %bb.0:
 259 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 260 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
 261 ; GFX940-NEXT:    ;;#ASMSTART
 262 ; GFX940-NEXT:    ; def v[0:7]
 263 ; GFX940-NEXT:    ;;#ASMEND
 264 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
 265 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
 266 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
 267   %vec0 = call <4 x i64> asm "; def $0", "=v"()
 268   %vec1 = call <4 x i64> asm "; def $0", "=v"()
 269   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 6, i32 poison, i32 poison, i32 poison>
 270   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
 271   ret void
 272 }
 273
 274 define void @v_shuffle_v4i64_v4i64__7_u_u_u(ptr addrspace(1) inreg %ptr) {
 275 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_u_u_u:
 276 ; GFX900:       ; %bb.0:
 277 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 278 ; GFX900-NEXT:    ;;#ASMSTART
 279 ; GFX900-NEXT:    ; def v[0:7]
 280 ; GFX900-NEXT:    ;;#ASMEND
 281 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
 282 ; GFX900-NEXT:    v_mov_b32_e32 v0, v6
 283 ; GFX900-NEXT:    v_mov_b32_e32 v1, v7
 284 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
 285 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
 286 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
 287 ;
 288 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_u_u_u:
 289 ; GFX90A:       ; %bb.0:
 290 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 291 ; GFX90A-NEXT:    ;;#ASMSTART
 292 ; GFX90A-NEXT:    ; def v[0:7]
 293 ; GFX90A-NEXT:    ;;#ASMEND
 294 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
 295 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v6
 296 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v7
 297 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
 298 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
 299 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
 300 ;
 301 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_u_u_u:
 302 ; GFX940:       ; %bb.0:
 303 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 304 ; GFX940-NEXT:    ;;#ASMSTART
 305 ; GFX940-NEXT:    ; def v[0:7]
 306 ; GFX940-NEXT:    ;;#ASMEND
 307 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
 308 ; GFX940-NEXT:    v_mov_b32_e32 v0, v6
 309 ; GFX940-NEXT:    v_mov_b32_e32 v1, v7
 310 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
 311 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
 312 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
 313   %vec0 = call <4 x i64> asm "; def $0", "=v"()
 314   %vec1 = call <4 x i64> asm "; def $0", "=v"()
 315   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 poison, i32 poison, i32 poison>
 316   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
 317   ret void
 318 }
 319
 320 define void @v_shuffle_v4i64_v4i64__7_0_u_u(ptr addrspace(1) inreg %ptr) {
 321 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_0_u_u:
 322 ; GFX900:       ; %bb.0:
 323 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 324 ; GFX900-NEXT:    ;;#ASMSTART
 325 ; GFX900-NEXT:    ; def v[0:7]
 326 ; GFX900-NEXT:    ;;#ASMEND
 327 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
 328 ; GFX900-NEXT:    v_mov_b32_e32 v8, v6
 329 ; GFX900-NEXT:    v_mov_b32_e32 v9, v7
 330 ; GFX900-NEXT:    ;;#ASMSTART
 331 ; GFX900-NEXT:    ; def v[0:7]
 332 ; GFX900-NEXT:    ;;#ASMEND
 333 ; GFX900-NEXT:    v_mov_b32_e32 v10, v0
 334 ; GFX900-NEXT:    v_mov_b32_e32 v11, v1
 335 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
 336 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
 337 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
 338 ;
 339 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_0_u_u:
 340 ; GFX90A:       ; %bb.0:
 341 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 342 ; GFX90A-NEXT:    ;;#ASMSTART
 343 ; GFX90A-NEXT:    ; def v[0:7]
 344 ; GFX90A-NEXT:    ;;#ASMEND
 345 ; GFX90A-NEXT:    ;;#ASMSTART
 346 ; GFX90A-NEXT:    ; def v[2:9]
 347 ; GFX90A-NEXT:    ;;#ASMEND
 348 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
 349 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v8
 350 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v9
 351 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
 352 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
 353 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[2:5], s[16:17]
 354 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
 355 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
 356 ;
 357 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_0_u_u:
 358 ; GFX940:       ; %bb.0:
 359 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 360 ; GFX940-NEXT:    ;;#ASMSTART
 361 ; GFX940-NEXT:    ; def v[0:7]
 362 ; GFX940-NEXT:    ;;#ASMEND
 363 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
 364 ; GFX940-NEXT:    ;;#ASMSTART
 365 ; GFX940-NEXT:    ; def v[2:9]
 366 ; GFX940-NEXT:    ;;#ASMEND
 367 ; GFX940-NEXT:    s_nop 0
 368 ; GFX940-NEXT:    v_mov_b32_e32 v2, v8
 369 ; GFX940-NEXT:    v_mov_b32_e32 v3, v9
 370 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
 371 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
 372 ; GFX940-NEXT:    global_store_dwordx4 v10, v[2:5], s[0:1] sc0 sc1
 373 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
 374 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
 375   %vec0 = call <4 x i64> asm "; def $0", "=v"()
 376   %vec1 = call <4 x i64> asm "; def $0", "=v"()
 377   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 0, i32 poison, i32 poison>
 378   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
 379   ret void
 380 }
 381
 382 define void @v_shuffle_v4i64_v4i64__7_1_u_u(ptr addrspace(1) inreg %ptr) {
 383 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_1_u_u:
 384 ; GFX900:       ; %bb.0:
 385 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 386 ; GFX900-NEXT:    ;;#ASMSTART
 387 ; GFX900-NEXT:    ; def v[0:7]
 388 ; GFX900-NEXT:    ;;#ASMEND
 389 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
 390 ; GFX900-NEXT:    ;;#ASMSTART
 391 ; GFX900-NEXT:    ; def v[4:11]
 392 ; GFX900-NEXT:    ;;#ASMEND
 393 ; GFX900-NEXT:    v_mov_b32_e32 v0, v10
 394 ; GFX900-NEXT:    v_mov_b32_e32 v1, v11
 395 ; GFX900-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17]
 396 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
 397 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
 398 ;
 399 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_1_u_u:
 400 ; GFX90A:       ; %bb.0:
 401 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 402 ; GFX90A-NEXT:    ;;#ASMSTART
 403 ; GFX90A-NEXT:    ; def v[0:7]
 404 ; GFX90A-NEXT:    ;;#ASMEND
 405 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
 406 ; GFX90A-NEXT:    ;;#ASMSTART
 407 ; GFX90A-NEXT:    ; def v[4:11]
 408 ; GFX90A-NEXT:    ;;#ASMEND
 409 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v10
 410 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v11
 411 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17]
 412 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
 413 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
 414 ;
 415 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_1_u_u:
 416 ; GFX940:       ; %bb.0:
 417 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 418 ; GFX940-NEXT:    ;;#ASMSTART
 419 ; GFX940-NEXT:    ; def v[0:7]
 420 ; GFX940-NEXT:    ;;#ASMEND
 421 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
 422 ; GFX940-NEXT:    ;;#ASMSTART
 423 ; GFX940-NEXT:    ; def v[4:11]
 424 ; GFX940-NEXT:    ;;#ASMEND
 425 ; GFX940-NEXT:    s_nop 0
 426 ; GFX940-NEXT:    v_mov_b32_e32 v0, v10
 427 ; GFX940-NEXT:    v_mov_b32_e32 v1, v11
 428 ; GFX940-NEXT:    global_store_dwordx4 v12, v[0:3], s[0:1] sc0 sc1
 429 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
 430 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
 431   %vec0 = call <4 x i64> asm "; def $0", "=v"()
 432   %vec1 = call <4 x i64> asm "; def $0", "=v"()
 433   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 1, i32 poison, i32 poison>
 434   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
 435   ret void
 436 }
 437
 438 define void @v_shuffle_v4i64_v4i64__7_2_u_u(ptr addrspace(1) inreg %ptr) {
 439 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_2_u_u:
 440 ; GFX900:       ; %bb.0:
 441 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 442 ; GFX900-NEXT:    ;;#ASMSTART
 443 ; GFX900-NEXT:    ; def v[0:7]
 444 ; GFX900-NEXT:    ;;#ASMEND
 445 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
 446 ; GFX900-NEXT:    ;;#ASMSTART
 447 ; GFX900-NEXT:    ; def v[6:13]
 448 ; GFX900-NEXT:    ;;#ASMEND
 449 ; GFX900-NEXT:    v_mov_b32_e32 v2, v12
 450 ; GFX900-NEXT:    v_mov_b32_e32 v3, v13
 451 ; GFX900-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17]
 452 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
 453 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
 454 ;
 455 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_2_u_u:
 456 ; GFX90A:       ; %bb.0:
 457 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 458 ; GFX90A-NEXT:    ;;#ASMSTART
 459 ; GFX90A-NEXT:    ; def v[0:7]
 460 ; GFX90A-NEXT:    ;;#ASMEND
 461 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
 462 ; GFX90A-NEXT:    ;;#ASMSTART
 463 ; GFX90A-NEXT:    ; def v[6:13]
 464 ; GFX90A-NEXT:    ;;#ASMEND
 465 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v12
 466 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v13
 467 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17]
 468 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
 469 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
 470 ;
 471 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_2_u_u:
 472 ; GFX940:       ; %bb.0:
 473 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 474 ; GFX940-NEXT:    ;;#ASMSTART
 475 ; GFX940-NEXT:    ; def v[0:7]
 476 ; GFX940-NEXT:    ;;#ASMEND
 477 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
 478 ; GFX940-NEXT:    ;;#ASMSTART
 479 ; GFX940-NEXT:    ; def v[6:13]
 480 ; GFX940-NEXT:    ;;#ASMEND
 481 ; GFX940-NEXT:    s_nop 0
 482 ; GFX940-NEXT:    v_mov_b32_e32 v2, v12
 483 ; GFX940-NEXT:    v_mov_b32_e32 v3, v13
 484 ; GFX940-NEXT:    global_store_dwordx4 v14, v[2:5], s[0:1] sc0 sc1
 485 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
 486 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
 487   %vec0 = call <4 x i64> asm "; def $0", "=v"()
 488   %vec1 = call <4 x i64> asm "; def $0", "=v"()
 489   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 2, i32 poison, i32 poison>
 490   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
 491   ret void
 492 }
 493
 494 define void @v_shuffle_v4i64_v4i64__7_3_u_u(ptr addrspace(1) inreg %ptr) {
 495 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_3_u_u:
 496 ; GFX900:       ; %bb.0:
 497 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 498 ; GFX900-NEXT:    ;;#ASMSTART
 499 ; GFX900-NEXT:    ; def v[0:7]
 500 ; GFX900-NEXT:    ;;#ASMEND
 501 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
 502 ; GFX900-NEXT:    ;;#ASMSTART
 503 ; GFX900-NEXT:    ; def v[8:15]
 504 ; GFX900-NEXT:    ;;#ASMEND
 505 ; GFX900-NEXT:    v_mov_b32_e32 v4, v14
 506 ; GFX900-NEXT:    v_mov_b32_e32 v5, v15
 507 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17]
 508 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
 509 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
 510 ;
 511 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_3_u_u:
 512 ; GFX90A:       ; %bb.0:
 513 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 514 ; GFX90A-NEXT:    ;;#ASMSTART
 515 ; GFX90A-NEXT:    ; def v[0:7]
 516 ; GFX90A-NEXT:    ;;#ASMEND
 517 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
 518 ; GFX90A-NEXT:    ;;#ASMSTART
 519 ; GFX90A-NEXT:    ; def v[8:15]
 520 ; GFX90A-NEXT:    ;;#ASMEND
 521 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v14
 522 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v15
 523 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17]
 524 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
 525 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
 526 ;
 527 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_3_u_u:
 528 ; GFX940:       ; %bb.0:
 529 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 530 ; GFX940-NEXT:    ;;#ASMSTART
 531 ; GFX940-NEXT:    ; def v[0:7]
 532 ; GFX940-NEXT:    ;;#ASMEND
 533 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
 534 ; GFX940-NEXT:    ;;#ASMSTART
 535 ; GFX940-NEXT:    ; def v[8:15]
 536 ; GFX940-NEXT:    ;;#ASMEND
 537 ; GFX940-NEXT:    s_nop 0
 538 ; GFX940-NEXT:    v_mov_b32_e32 v4, v14
 539 ; GFX940-NEXT:    v_mov_b32_e32 v5, v15
 540 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] sc0 sc1
 541 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
 542 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
 543   %vec0 = call <4 x i64> asm "; def $0", "=v"()
 544   %vec1 = call <4 x i64> asm "; def $0", "=v"()
 545   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 3, i32 poison, i32 poison>
 546   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
 547   ret void
 548 }
 549
 550 define void @v_shuffle_v4i64_v4i64__7_4_u_u(ptr addrspace(1) inreg %ptr) {
 551 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_4_u_u:
 552 ; GFX900:       ; %bb.0:
 553 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 554 ; GFX900-NEXT:    ;;#ASMSTART
 555 ; GFX900-NEXT:    ; def v[0:7]
 556 ; GFX900-NEXT:    ;;#ASMEND
 557 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
 558 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
 559 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
 560 ; GFX900-NEXT:    v_mov_b32_e32 v4, v0
 561 ; GFX900-NEXT:    v_mov_b32_e32 v5, v1
 562 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
 563 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
 564 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
 565 ;
 566 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_4_u_u:
 567 ; GFX90A:       ; %bb.0:
 568 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 569 ; GFX90A-NEXT:    ;;#ASMSTART
 570 ; GFX90A-NEXT:    ; def v[0:7]
 571 ; GFX90A-NEXT:    ;;#ASMEND
 572 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
 573 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
 574 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
 575 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
 576 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
 577 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
 578 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
 579 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
 580 ;
 581 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_4_u_u:
 582 ; GFX940:       ; %bb.0:
 583 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 584 ; GFX940-NEXT:    ;;#ASMSTART
 585 ; GFX940-NEXT:    ; def v[0:7]
 586 ; GFX940-NEXT:    ;;#ASMEND
 587 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
 588 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
 589 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
 590 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
 591 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
 592 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
 593 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
 594 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
 595   %vec0 = call <4 x i64> asm "; def $0", "=v"()
 596   %vec1 = call <4 x i64> asm "; def $0", "=v"()
 597   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 4, i32 poison, i32 poison>
 598   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
 599   ret void
 600 }
 601
 602 define void @v_shuffle_v4i64_v4i64__7_5_u_u(ptr addrspace(1) inreg %ptr) {
 603 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_5_u_u:
 604 ; GFX900:       ; %bb.0:
 605 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 606 ; GFX900-NEXT:    ;;#ASMSTART
 607 ; GFX900-NEXT:    ; def v[0:7]
 608 ; GFX900-NEXT:    ;;#ASMEND
 609 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
 610 ; GFX900-NEXT:    v_mov_b32_e32 v0, v6
 611 ; GFX900-NEXT:    v_mov_b32_e32 v1, v7
 612 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
 613 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
 614 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
 615 ;
 616 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_5_u_u:
 617 ; GFX90A:       ; %bb.0:
 618 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 619 ; GFX90A-NEXT:    ;;#ASMSTART
 620 ; GFX90A-NEXT:    ; def v[0:7]
 621 ; GFX90A-NEXT:    ;;#ASMEND
 622 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
 623 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v6
 624 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v7
 625 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
 626 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
 627 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
 628 ;
 629 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_5_u_u:
 630 ; GFX940:       ; %bb.0:
 631 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 632 ; GFX940-NEXT:    ;;#ASMSTART
 633 ; GFX940-NEXT:    ; def v[0:7]
 634 ; GFX940-NEXT:    ;;#ASMEND
 635 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
 636 ; GFX940-NEXT:    v_mov_b32_e32 v0, v6
 637 ; GFX940-NEXT:    v_mov_b32_e32 v1, v7
 638 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
 639 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
 640 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
 641   %vec0 = call <4 x i64> asm "; def $0", "=v"()
 642   %vec1 = call <4 x i64> asm "; def $0", "=v"()
 643   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 5, i32 poison, i32 poison>
 644   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
 645   ret void
 646 }
 647
 648 define void @v_shuffle_v4i64_v4i64__7_6_u_u(ptr addrspace(1) inreg %ptr) {
 649 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_6_u_u:
 650 ; GFX900:       ; %bb.0:
 651 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 652 ; GFX900-NEXT:    ;;#ASMSTART
 653 ; GFX900-NEXT:    ; def v[0:7]
 654 ; GFX900-NEXT:    ;;#ASMEND
 655 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
 656 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
 657 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
 658 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
 659 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
 660 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
 661 ;
 662 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_6_u_u:
 663 ; GFX90A:       ; %bb.0:
 664 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 665 ; GFX90A-NEXT:    ;;#ASMSTART
 666 ; GFX90A-NEXT:    ; def v[0:7]
 667 ; GFX90A-NEXT:    ;;#ASMEND
 668 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
 669 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
 670 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
 671 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
 672 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
 673 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
 674 ;
 675 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_6_u_u:
 676 ; GFX940:       ; %bb.0:
 677 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 678 ; GFX940-NEXT:    ;;#ASMSTART
 679 ; GFX940-NEXT:    ; def v[0:7]
 680 ; GFX940-NEXT:    ;;#ASMEND
 681 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
 682 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
 683 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
 684 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
 685 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
 686 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
 687   %vec0 = call <4 x i64> asm "; def $0", "=v"()
 688   %vec1 = call <4 x i64> asm "; def $0", "=v"()
 689   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 6, i32 poison, i32 poison>
 690   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
 691   ret void
 692 }
 693
 694 define void @v_shuffle_v4i64_v4i64__7_7_u_u(ptr addrspace(1) inreg %ptr) {
 695 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_u_u:
 696 ; GFX900:       ; %bb.0:
 697 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 698 ; GFX900-NEXT:    ;;#ASMSTART
 699 ; GFX900-NEXT:    ; def v[0:7]
 700 ; GFX900-NEXT:    ;;#ASMEND
 701 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
 702 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
 703 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
 704 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
 705 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
 706 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
 707 ;
 708 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_u_u:
 709 ; GFX90A:       ; %bb.0:
 710 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 711 ; GFX90A-NEXT:    ;;#ASMSTART
 712 ; GFX90A-NEXT:    ; def v[0:7]
 713 ; GFX90A-NEXT:    ;;#ASMEND
 714 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
 715 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
 716 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
 717 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
 718 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
 719 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
 720 ;
 721 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_u_u:
 722 ; GFX940:       ; %bb.0:
 723 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 724 ; GFX940-NEXT:    ;;#ASMSTART
 725 ; GFX940-NEXT:    ; def v[0:7]
 726 ; GFX940-NEXT:    ;;#ASMEND
 727 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
 728 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
 729 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
 730 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
 731 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
 732 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
 733   %vec0 = call <4 x i64> asm "; def $0", "=v"()
 734   %vec1 = call <4 x i64> asm "; def $0", "=v"()
 735   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 poison, i32 poison>
 736   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
 737   ret void
 738 }
 739
 740 define void @v_shuffle_v4i64_v4i64__7_7_0_u(ptr addrspace(1) inreg %ptr) {
 741 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_0_u:
 742 ; GFX900:       ; %bb.0:
 743 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 744 ; GFX900-NEXT:    ;;#ASMSTART
 745 ; GFX900-NEXT:    ; def v[0:7]
 746 ; GFX900-NEXT:    ;;#ASMEND
 747 ; GFX900-NEXT:    ;;#ASMSTART
 748 ; GFX900-NEXT:    ; def v[2:9]
 749 ; GFX900-NEXT:    ;;#ASMEND
 750 ; GFX900-NEXT:    v_mov_b32_e32 v10, 0
 751 ; GFX900-NEXT:    v_mov_b32_e32 v6, v8
 752 ; GFX900-NEXT:    v_mov_b32_e32 v7, v9
 753 ; GFX900-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
 754 ; GFX900-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17]
 755 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
 756 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
 757 ;
 758 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_0_u:
 759 ; GFX90A:       ; %bb.0:
 760 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 761 ; GFX90A-NEXT:    ;;#ASMSTART
 762 ; GFX90A-NEXT:    ; def v[0:7]
 763 ; GFX90A-NEXT:    ;;#ASMEND
 764 ; GFX90A-NEXT:    ;;#ASMSTART
 765 ; GFX90A-NEXT:    ; def v[2:9]
 766 ; GFX90A-NEXT:    ;;#ASMEND
 767 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
 768 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v8
 769 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v9
 770 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
 771 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17]
 772 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
 773 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
 774 ;
 775 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_0_u:
 776 ; GFX940:       ; %bb.0:
 777 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 778 ; GFX940-NEXT:    ;;#ASMSTART
 779 ; GFX940-NEXT:    ; def v[0:7]
 780 ; GFX940-NEXT:    ;;#ASMEND
 781 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
 782 ; GFX940-NEXT:    ;;#ASMSTART
 783 ; GFX940-NEXT:    ; def v[2:9]
 784 ; GFX940-NEXT:    ;;#ASMEND
 785 ; GFX940-NEXT:    global_store_dwordx4 v10, v[0:3], s[0:1] offset:16 sc0 sc1
 786 ; GFX940-NEXT:    v_mov_b32_e32 v6, v8
 787 ; GFX940-NEXT:    v_mov_b32_e32 v7, v9
 788 ; GFX940-NEXT:    global_store_dwordx4 v10, v[6:9], s[0:1] sc0 sc1
 789 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
 790 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
 791   %vec0 = call <4 x i64> asm "; def $0", "=v"()
 792   %vec1 = call <4 x i64> asm "; def $0", "=v"()
 793   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 0, i32 poison>
 794   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
 795   ret void
 796 }
 797
 798 define void @v_shuffle_v4i64_v4i64__7_7_1_u(ptr addrspace(1) inreg %ptr) {
 799 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_1_u:
 800 ; GFX900:       ; %bb.0:
 801 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 802 ; GFX900-NEXT:    ;;#ASMSTART
 803 ; GFX900-NEXT:    ; def v[0:7]
 804 ; GFX900-NEXT:    ;;#ASMEND
 805 ; GFX900-NEXT:    ;;#ASMSTART
 806 ; GFX900-NEXT:    ; def v[4:11]
 807 ; GFX900-NEXT:    ;;#ASMEND
 808 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
 809 ; GFX900-NEXT:    v_mov_b32_e32 v8, v10
 810 ; GFX900-NEXT:    v_mov_b32_e32 v9, v11
 811 ; GFX900-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
 812 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
 813 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
 814 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
 815 ;
 816 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_1_u:
 817 ; GFX90A:       ; %bb.0:
 818 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 819 ; GFX90A-NEXT:    ;;#ASMSTART
 820 ; GFX90A-NEXT:    ; def v[0:7]
 821 ; GFX90A-NEXT:    ;;#ASMEND
 822 ; GFX90A-NEXT:    ;;#ASMSTART
 823 ; GFX90A-NEXT:    ; def v[4:11]
 824 ; GFX90A-NEXT:    ;;#ASMEND
 825 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
 826 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v10
 827 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v11
 828 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
 829 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
 830 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
 831 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
 832 ;
 833 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_1_u:
 834 ; GFX940:       ; %bb.0:
 835 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 836 ; GFX940-NEXT:    ;;#ASMSTART
 837 ; GFX940-NEXT:    ; def v[0:7]
 838 ; GFX940-NEXT:    ;;#ASMEND
 839 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
 840 ; GFX940-NEXT:    ;;#ASMSTART
 841 ; GFX940-NEXT:    ; def v[4:11]
 842 ; GFX940-NEXT:    ;;#ASMEND
 843 ; GFX940-NEXT:    global_store_dwordx4 v12, v[2:5], s[0:1] offset:16 sc0 sc1
 844 ; GFX940-NEXT:    v_mov_b32_e32 v8, v10
 845 ; GFX940-NEXT:    v_mov_b32_e32 v9, v11
 846 ; GFX940-NEXT:    global_store_dwordx4 v12, v[8:11], s[0:1] sc0 sc1
 847 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
 848 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
 849   %vec0 = call <4 x i64> asm "; def $0", "=v"()
 850   %vec1 = call <4 x i64> asm "; def $0", "=v"()
 851   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 1, i32 poison>
 852   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
 853   ret void
 854 }
 855
 856 define void @v_shuffle_v4i64_v4i64__7_7_2_u(ptr addrspace(1) inreg %ptr) {
 857 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_2_u:
 858 ; GFX900:       ; %bb.0:
 859 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 860 ; GFX900-NEXT:    ;;#ASMSTART
 861 ; GFX900-NEXT:    ; def v[0:7]
 862 ; GFX900-NEXT:    ;;#ASMEND
 863 ; GFX900-NEXT:    ;;#ASMSTART
 864 ; GFX900-NEXT:    ; def v[6:13]
 865 ; GFX900-NEXT:    ;;#ASMEND
 866 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
 867 ; GFX900-NEXT:    v_mov_b32_e32 v10, v12
 868 ; GFX900-NEXT:    v_mov_b32_e32 v11, v13
 869 ; GFX900-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
 870 ; GFX900-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
 871 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
 872 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
 873 ;
 874 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_2_u:
 875 ; GFX90A:       ; %bb.0:
 876 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 877 ; GFX90A-NEXT:    ;;#ASMSTART
 878 ; GFX90A-NEXT:    ; def v[0:7]
 879 ; GFX90A-NEXT:    ;;#ASMEND
 880 ; GFX90A-NEXT:    ;;#ASMSTART
 881 ; GFX90A-NEXT:    ; def v[6:13]
 882 ; GFX90A-NEXT:    ;;#ASMEND
 883 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
 884 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v12
 885 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v13
 886 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
 887 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
 888 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
 889 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
 890 ;
 891 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_2_u:
 892 ; GFX940:       ; %bb.0:
 893 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 894 ; GFX940-NEXT:    ;;#ASMSTART
 895 ; GFX940-NEXT:    ; def v[0:7]
 896 ; GFX940-NEXT:    ;;#ASMEND
 897 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
 898 ; GFX940-NEXT:    ;;#ASMSTART
 899 ; GFX940-NEXT:    ; def v[6:13]
 900 ; GFX940-NEXT:    ;;#ASMEND
 901 ; GFX940-NEXT:    global_store_dwordx4 v14, v[4:7], s[0:1] offset:16 sc0 sc1
 902 ; GFX940-NEXT:    v_mov_b32_e32 v10, v12
 903 ; GFX940-NEXT:    v_mov_b32_e32 v11, v13
 904 ; GFX940-NEXT:    global_store_dwordx4 v14, v[10:13], s[0:1] sc0 sc1
 905 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
 906 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
 907   %vec0 = call <4 x i64> asm "; def $0", "=v"()
 908   %vec1 = call <4 x i64> asm "; def $0", "=v"()
 909   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 2, i32 poison>
 910   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
 911   ret void
 912 }
 913
 914 define void @v_shuffle_v4i64_v4i64__7_7_3_u(ptr addrspace(1) inreg %ptr) {
 915 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_3_u:
 916 ; GFX900:       ; %bb.0:
 917 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 918 ; GFX900-NEXT:    ;;#ASMSTART
 919 ; GFX900-NEXT:    ; def v[0:7]
 920 ; GFX900-NEXT:    ;;#ASMEND
 921 ; GFX900-NEXT:    v_mov_b32_e32 v8, v6
 922 ; GFX900-NEXT:    v_mov_b32_e32 v9, v7
 923 ; GFX900-NEXT:    ;;#ASMSTART
 924 ; GFX900-NEXT:    ; def v[0:7]
 925 ; GFX900-NEXT:    ;;#ASMEND
 926 ; GFX900-NEXT:    v_mov_b32_e32 v10, 0
 927 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
 928 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
 929 ; GFX900-NEXT:    global_store_dwordx4 v10, v[8:11], s[16:17] offset:16
 930 ; GFX900-NEXT:    global_store_dwordx4 v10, v[4:7], s[16:17]
 931 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
 932 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
 933 ;
 934 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_3_u:
 935 ; GFX90A:       ; %bb.0:
 936 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 937 ; GFX90A-NEXT:    ;;#ASMSTART
 938 ; GFX90A-NEXT:    ; def v[0:7]
 939 ; GFX90A-NEXT:    ;;#ASMEND
 940 ; GFX90A-NEXT:    ;;#ASMSTART
 941 ; GFX90A-NEXT:    ; def v[8:15]
 942 ; GFX90A-NEXT:    ;;#ASMEND
 943 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
 944 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v6
 945 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v7
 946 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v14
 947 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v15
 948 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[0:3], s[16:17] offset:16
 949 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
 950 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
 951 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
 952 ;
 953 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_3_u:
 954 ; GFX940:       ; %bb.0:
 955 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 956 ; GFX940-NEXT:    ;;#ASMSTART
 957 ; GFX940-NEXT:    ; def v[0:7]
 958 ; GFX940-NEXT:    ;;#ASMEND
 959 ; GFX940-NEXT:    ;;#ASMSTART
 960 ; GFX940-NEXT:    ; def v[8:15]
 961 ; GFX940-NEXT:    ;;#ASMEND
 962 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
 963 ; GFX940-NEXT:    v_mov_b32_e32 v0, v6
 964 ; GFX940-NEXT:    v_mov_b32_e32 v1, v7
 965 ; GFX940-NEXT:    v_mov_b32_e32 v12, v14
 966 ; GFX940-NEXT:    v_mov_b32_e32 v13, v15
 967 ; GFX940-NEXT:    global_store_dwordx4 v16, v[0:3], s[0:1] offset:16 sc0 sc1
 968 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] sc0 sc1
 969 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
 970 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
 971   %vec0 = call <4 x i64> asm "; def $0", "=v"()
 972   %vec1 = call <4 x i64> asm "; def $0", "=v"()
 973   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 3, i32 poison>
 974   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
 975   ret void
 976 }
 977
 978 define void @v_shuffle_v4i64_v4i64__7_7_4_u(ptr addrspace(1) inreg %ptr) {
 979 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_4_u:
 980 ; GFX900:       ; %bb.0:
 981 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 982 ; GFX900-NEXT:    ;;#ASMSTART
 983 ; GFX900-NEXT:    ; def v[0:7]
 984 ; GFX900-NEXT:    ;;#ASMEND
 985 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
 986 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
 987 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
 988 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
 989 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
 990 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
 991 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
 992 ;
 993 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_4_u:
 994 ; GFX90A:       ; %bb.0:
 995 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
 996 ; GFX90A-NEXT:    ;;#ASMSTART
 997 ; GFX90A-NEXT:    ; def v[0:7]
 998 ; GFX90A-NEXT:    ;;#ASMEND
 999 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
1000 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
1001 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
1002 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
1003 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
1004 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
1005 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
1006 ;
1007 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_4_u:
1008 ; GFX940:       ; %bb.0:
1009 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1010 ; GFX940-NEXT:    ;;#ASMSTART
1011 ; GFX940-NEXT:    ; def v[0:7]
1012 ; GFX940-NEXT:    ;;#ASMEND
1013 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
1014 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
1015 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
1016 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
1017 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
1018 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
1019 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
1020   %vec0 = call <4 x i64> asm "; def $0", "=v"()
1021   %vec1 = call <4 x i64> asm "; def $0", "=v"()
1022   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 4, i32 poison>
1023   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
1024   ret void
1025 }
1026
1027 define void @v_shuffle_v4i64_v4i64__7_7_5_u(ptr addrspace(1) inreg %ptr) {
1028 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_5_u:
1029 ; GFX900:       ; %bb.0:
1030 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1031 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
1032 ; GFX900-NEXT:    ;;#ASMSTART
1033 ; GFX900-NEXT:    ; def v[0:7]
1034 ; GFX900-NEXT:    ;;#ASMEND
1035 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
1036 ; GFX900-NEXT:    s_nop 0
1037 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
1038 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
1039 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
1040 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
1041 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
1042 ;
1043 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_5_u:
1044 ; GFX90A:       ; %bb.0:
1045 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1046 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
1047 ; GFX90A-NEXT:    ;;#ASMSTART
1048 ; GFX90A-NEXT:    ; def v[0:7]
1049 ; GFX90A-NEXT:    ;;#ASMEND
1050 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
1051 ; GFX90A-NEXT:    s_nop 0
1052 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
1053 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
1054 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
1055 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
1056 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
1057 ;
1058 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_5_u:
1059 ; GFX940:       ; %bb.0:
1060 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1061 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
1062 ; GFX940-NEXT:    ;;#ASMSTART
1063 ; GFX940-NEXT:    ; def v[0:7]
1064 ; GFX940-NEXT:    ;;#ASMEND
1065 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
1066 ; GFX940-NEXT:    s_nop 1
1067 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
1068 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
1069 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
1070 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
1071 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
1072   %vec0 = call <4 x i64> asm "; def $0", "=v"()
1073   %vec1 = call <4 x i64> asm "; def $0", "=v"()
1074   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 5, i32 poison>
1075   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
1076   ret void
1077 }
1078
1079 define void @v_shuffle_v4i64_v4i64__7_7_6_u(ptr addrspace(1) inreg %ptr) {
1080 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_6_u:
1081 ; GFX900:       ; %bb.0:
1082 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1083 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
1084 ; GFX900-NEXT:    ;;#ASMSTART
1085 ; GFX900-NEXT:    ; def v[0:7]
1086 ; GFX900-NEXT:    ;;#ASMEND
1087 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
1088 ; GFX900-NEXT:    s_nop 0
1089 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
1090 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
1091 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
1092 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
1093 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
1094 ;
1095 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_6_u:
1096 ; GFX90A:       ; %bb.0:
1097 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1098 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
1099 ; GFX90A-NEXT:    ;;#ASMSTART
1100 ; GFX90A-NEXT:    ; def v[0:7]
1101 ; GFX90A-NEXT:    ;;#ASMEND
1102 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
1103 ; GFX90A-NEXT:    s_nop 0
1104 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
1105 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
1106 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
1107 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
1108 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
1109 ;
1110 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_6_u:
1111 ; GFX940:       ; %bb.0:
1112 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1113 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
1114 ; GFX940-NEXT:    ;;#ASMSTART
1115 ; GFX940-NEXT:    ; def v[0:7]
1116 ; GFX940-NEXT:    ;;#ASMEND
1117 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
1118 ; GFX940-NEXT:    s_nop 1
1119 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
1120 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
1121 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
1122 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
1123 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
1124   %vec0 = call <4 x i64> asm "; def $0", "=v"()
1125   %vec1 = call <4 x i64> asm "; def $0", "=v"()
1126   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 6, i32 poison>
1127   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
1128   ret void
1129 }
1130
1131 define void @v_shuffle_v4i64_v4i64__7_7_7_u(ptr addrspace(1) inreg %ptr) {
1132 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_7_u:
1133 ; GFX900:       ; %bb.0:
1134 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1135 ; GFX900-NEXT:    ;;#ASMSTART
1136 ; GFX900-NEXT:    ; def v[0:7]
1137 ; GFX900-NEXT:    ;;#ASMEND
1138 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
1139 ; GFX900-NEXT:    v_mov_b32_e32 v0, v6
1140 ; GFX900-NEXT:    v_mov_b32_e32 v1, v7
1141 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
1142 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
1143 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
1144 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
1145 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
1146 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
1147 ;
1148 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_7_u:
1149 ; GFX90A:       ; %bb.0:
1150 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1151 ; GFX90A-NEXT:    ;;#ASMSTART
1152 ; GFX90A-NEXT:    ; def v[0:7]
1153 ; GFX90A-NEXT:    ;;#ASMEND
1154 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
1155 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v6
1156 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v7
1157 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
1158 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
1159 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
1160 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
1161 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
1162 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
1163 ;
1164 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_7_u:
1165 ; GFX940:       ; %bb.0:
1166 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1167 ; GFX940-NEXT:    ;;#ASMSTART
1168 ; GFX940-NEXT:    ; def v[0:7]
1169 ; GFX940-NEXT:    ;;#ASMEND
1170 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
1171 ; GFX940-NEXT:    v_mov_b32_e32 v0, v6
1172 ; GFX940-NEXT:    v_mov_b32_e32 v1, v7
1173 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
1174 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
1175 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
1176 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
1177 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
1178 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
1179   %vec0 = call <4 x i64> asm "; def $0", "=v"()
1180   %vec1 = call <4 x i64> asm "; def $0", "=v"()
1181   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 7, i32 poison>
1182   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
1183   ret void
1184 }
1185
1186 define void @v_shuffle_v4i64_v4i64__7_7_7_0(ptr addrspace(1) inreg %ptr) {
1187 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_7_0:
1188 ; GFX900:       ; %bb.0:
1189 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1190 ; GFX900-NEXT:    ;;#ASMSTART
1191 ; GFX900-NEXT:    ; def v[0:7]
1192 ; GFX900-NEXT:    ;;#ASMEND
1193 ; GFX900-NEXT:    v_mov_b32_e32 v10, v0
1194 ; GFX900-NEXT:    v_mov_b32_e32 v11, v1
1195 ; GFX900-NEXT:    ;;#ASMSTART
1196 ; GFX900-NEXT:    ; def v[0:7]
1197 ; GFX900-NEXT:    ;;#ASMEND
1198 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
1199 ; GFX900-NEXT:    v_mov_b32_e32 v8, v6
1200 ; GFX900-NEXT:    v_mov_b32_e32 v9, v7
1201 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
1202 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
1203 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17] offset:16
1204 ; GFX900-NEXT:    global_store_dwordx4 v12, v[4:7], s[16:17]
1205 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
1206 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
1207 ;
1208 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_7_0:
1209 ; GFX90A:       ; %bb.0:
1210 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1211 ; GFX90A-NEXT:    ;;#ASMSTART
1212 ; GFX90A-NEXT:    ; def v[0:7]
1213 ; GFX90A-NEXT:    ;;#ASMEND
1214 ; GFX90A-NEXT:    ;;#ASMSTART
1215 ; GFX90A-NEXT:    ; def v[2:9]
1216 ; GFX90A-NEXT:    ;;#ASMEND
1217 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
1218 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v8
1219 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v9
1220 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
1221 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
1222 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v8
1223 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v9
1224 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[2:5], s[16:17] offset:16
1225 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17]
1226 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
1227 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
1228 ;
1229 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_7_0:
1230 ; GFX940:       ; %bb.0:
1231 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1232 ; GFX940-NEXT:    ;;#ASMSTART
1233 ; GFX940-NEXT:    ; def v[0:7]
1234 ; GFX940-NEXT:    ;;#ASMEND
1235 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
1236 ; GFX940-NEXT:    ;;#ASMSTART
1237 ; GFX940-NEXT:    ; def v[2:9]
1238 ; GFX940-NEXT:    ;;#ASMEND
1239 ; GFX940-NEXT:    s_nop 0
1240 ; GFX940-NEXT:    v_mov_b32_e32 v2, v8
1241 ; GFX940-NEXT:    v_mov_b32_e32 v3, v9
1242 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
1243 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
1244 ; GFX940-NEXT:    v_mov_b32_e32 v6, v8
1245 ; GFX940-NEXT:    v_mov_b32_e32 v7, v9
1246 ; GFX940-NEXT:    global_store_dwordx4 v10, v[2:5], s[0:1] offset:16 sc0 sc1
1247 ; GFX940-NEXT:    global_store_dwordx4 v10, v[6:9], s[0:1] sc0 sc1
1248 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
1249 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
1250   %vec0 = call <4 x i64> asm "; def $0", "=v"()
1251   %vec1 = call <4 x i64> asm "; def $0", "=v"()
1252   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 7, i32 0>
1253   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
1254   ret void
1255 }
1256
1257 define void @v_shuffle_v4i64_v4i64__7_7_7_1(ptr addrspace(1) inreg %ptr) {
1258 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_7_1:
1259 ; GFX900:       ; %bb.0:
1260 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1261 ; GFX900-NEXT:    ;;#ASMSTART
1262 ; GFX900-NEXT:    ; def v[0:7]
1263 ; GFX900-NEXT:    ;;#ASMEND
1264 ; GFX900-NEXT:    ;;#ASMSTART
1265 ; GFX900-NEXT:    ; def v[4:11]
1266 ; GFX900-NEXT:    ;;#ASMEND
1267 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
1268 ; GFX900-NEXT:    v_mov_b32_e32 v0, v10
1269 ; GFX900-NEXT:    v_mov_b32_e32 v1, v11
1270 ; GFX900-NEXT:    v_mov_b32_e32 v8, v10
1271 ; GFX900-NEXT:    v_mov_b32_e32 v9, v11
1272 ; GFX900-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17] offset:16
1273 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
1274 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
1275 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
1276 ;
1277 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_7_1:
1278 ; GFX90A:       ; %bb.0:
1279 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1280 ; GFX90A-NEXT:    ;;#ASMSTART
1281 ; GFX90A-NEXT:    ; def v[0:7]
1282 ; GFX90A-NEXT:    ;;#ASMEND
1283 ; GFX90A-NEXT:    ;;#ASMSTART
1284 ; GFX90A-NEXT:    ; def v[4:11]
1285 ; GFX90A-NEXT:    ;;#ASMEND
1286 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
1287 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v10
1288 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v11
1289 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v10
1290 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v11
1291 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17] offset:16
1292 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
1293 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
1294 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
1295 ;
1296 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_7_1:
1297 ; GFX940:       ; %bb.0:
1298 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1299 ; GFX940-NEXT:    ;;#ASMSTART
1300 ; GFX940-NEXT:    ; def v[0:7]
1301 ; GFX940-NEXT:    ;;#ASMEND
1302 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
1303 ; GFX940-NEXT:    ;;#ASMSTART
1304 ; GFX940-NEXT:    ; def v[4:11]
1305 ; GFX940-NEXT:    ;;#ASMEND
1306 ; GFX940-NEXT:    s_nop 0
1307 ; GFX940-NEXT:    v_mov_b32_e32 v0, v10
1308 ; GFX940-NEXT:    v_mov_b32_e32 v1, v11
1309 ; GFX940-NEXT:    v_mov_b32_e32 v8, v10
1310 ; GFX940-NEXT:    v_mov_b32_e32 v9, v11
1311 ; GFX940-NEXT:    global_store_dwordx4 v12, v[0:3], s[0:1] offset:16 sc0 sc1
1312 ; GFX940-NEXT:    global_store_dwordx4 v12, v[8:11], s[0:1] sc0 sc1
1313 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
1314 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
1315   %vec0 = call <4 x i64> asm "; def $0", "=v"()
1316   %vec1 = call <4 x i64> asm "; def $0", "=v"()
1317   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 7, i32 1>
1318   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
1319   ret void
1320 }
1321
1322 define void @v_shuffle_v4i64_v4i64__7_7_7_2(ptr addrspace(1) inreg %ptr) {
1323 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_7_2:
1324 ; GFX900:       ; %bb.0:
1325 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1326 ; GFX900-NEXT:    ;;#ASMSTART
1327 ; GFX900-NEXT:    ; def v[0:7]
1328 ; GFX900-NEXT:    ;;#ASMEND
1329 ; GFX900-NEXT:    ;;#ASMSTART
1330 ; GFX900-NEXT:    ; def v[6:13]
1331 ; GFX900-NEXT:    ;;#ASMEND
1332 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
1333 ; GFX900-NEXT:    v_mov_b32_e32 v2, v12
1334 ; GFX900-NEXT:    v_mov_b32_e32 v3, v13
1335 ; GFX900-NEXT:    v_mov_b32_e32 v10, v12
1336 ; GFX900-NEXT:    v_mov_b32_e32 v11, v13
1337 ; GFX900-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17] offset:16
1338 ; GFX900-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
1339 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
1340 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
1341 ;
1342 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_7_2:
1343 ; GFX90A:       ; %bb.0:
1344 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1345 ; GFX90A-NEXT:    ;;#ASMSTART
1346 ; GFX90A-NEXT:    ; def v[0:7]
1347 ; GFX90A-NEXT:    ;;#ASMEND
1348 ; GFX90A-NEXT:    ;;#ASMSTART
1349 ; GFX90A-NEXT:    ; def v[6:13]
1350 ; GFX90A-NEXT:    ;;#ASMEND
1351 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
1352 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v12
1353 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v13
1354 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v12
1355 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v13
1356 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17] offset:16
1357 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
1358 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
1359 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
1360 ;
1361 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_7_2:
1362 ; GFX940:       ; %bb.0:
1363 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1364 ; GFX940-NEXT:    ;;#ASMSTART
1365 ; GFX940-NEXT:    ; def v[0:7]
1366 ; GFX940-NEXT:    ;;#ASMEND
1367 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
1368 ; GFX940-NEXT:    ;;#ASMSTART
1369 ; GFX940-NEXT:    ; def v[6:13]
1370 ; GFX940-NEXT:    ;;#ASMEND
1371 ; GFX940-NEXT:    s_nop 0
1372 ; GFX940-NEXT:    v_mov_b32_e32 v2, v12
1373 ; GFX940-NEXT:    v_mov_b32_e32 v3, v13
1374 ; GFX940-NEXT:    v_mov_b32_e32 v10, v12
1375 ; GFX940-NEXT:    v_mov_b32_e32 v11, v13
1376 ; GFX940-NEXT:    global_store_dwordx4 v14, v[2:5], s[0:1] offset:16 sc0 sc1
1377 ; GFX940-NEXT:    global_store_dwordx4 v14, v[10:13], s[0:1] sc0 sc1
1378 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
1379 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
1380   %vec0 = call <4 x i64> asm "; def $0", "=v"()
1381   %vec1 = call <4 x i64> asm "; def $0", "=v"()
1382   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 7, i32 2>
1383   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
1384   ret void
1385 }
1386
1387 define void @v_shuffle_v4i64_v4i64__7_7_7_3(ptr addrspace(1) inreg %ptr) {
1388 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_7_3:
1389 ; GFX900:       ; %bb.0:
1390 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1391 ; GFX900-NEXT:    ;;#ASMSTART
1392 ; GFX900-NEXT:    ; def v[0:7]
1393 ; GFX900-NEXT:    ;;#ASMEND
1394 ; GFX900-NEXT:    ;;#ASMSTART
1395 ; GFX900-NEXT:    ; def v[8:15]
1396 ; GFX900-NEXT:    ;;#ASMEND
1397 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
1398 ; GFX900-NEXT:    v_mov_b32_e32 v4, v14
1399 ; GFX900-NEXT:    v_mov_b32_e32 v5, v15
1400 ; GFX900-NEXT:    v_mov_b32_e32 v12, v14
1401 ; GFX900-NEXT:    v_mov_b32_e32 v13, v15
1402 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
1403 ; GFX900-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
1404 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
1405 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
1406 ;
1407 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_7_3:
1408 ; GFX90A:       ; %bb.0:
1409 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1410 ; GFX90A-NEXT:    ;;#ASMSTART
1411 ; GFX90A-NEXT:    ; def v[0:7]
1412 ; GFX90A-NEXT:    ;;#ASMEND
1413 ; GFX90A-NEXT:    ;;#ASMSTART
1414 ; GFX90A-NEXT:    ; def v[8:15]
1415 ; GFX90A-NEXT:    ;;#ASMEND
1416 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
1417 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v14
1418 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v15
1419 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v14
1420 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v15
1421 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
1422 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
1423 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
1424 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
1425 ;
1426 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_7_3:
1427 ; GFX940:       ; %bb.0:
1428 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1429 ; GFX940-NEXT:    ;;#ASMSTART
1430 ; GFX940-NEXT:    ; def v[0:7]
1431 ; GFX940-NEXT:    ;;#ASMEND
1432 ; GFX940-NEXT:    ;;#ASMSTART
1433 ; GFX940-NEXT:    ; def v[8:15]
1434 ; GFX940-NEXT:    ;;#ASMEND
1435 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
1436 ; GFX940-NEXT:    v_mov_b32_e32 v4, v14
1437 ; GFX940-NEXT:    v_mov_b32_e32 v5, v15
1438 ; GFX940-NEXT:    v_mov_b32_e32 v12, v14
1439 ; GFX940-NEXT:    v_mov_b32_e32 v13, v15
1440 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] offset:16 sc0 sc1
1441 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] sc0 sc1
1442 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
1443 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
1444   %vec0 = call <4 x i64> asm "; def $0", "=v"()
1445   %vec1 = call <4 x i64> asm "; def $0", "=v"()
1446   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 7, i32 3>
1447   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
1448   ret void
1449 }
1450
1451 define void @v_shuffle_v4i64_v4i64__7_7_7_4(ptr addrspace(1) inreg %ptr) {
1452 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_7_4:
1453 ; GFX900:       ; %bb.0:
1454 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1455 ; GFX900-NEXT:    ;;#ASMSTART
1456 ; GFX900-NEXT:    ; def v[0:7]
1457 ; GFX900-NEXT:    ;;#ASMEND
1458 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
1459 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
1460 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
1461 ; GFX900-NEXT:    v_mov_b32_e32 v4, v0
1462 ; GFX900-NEXT:    v_mov_b32_e32 v5, v1
1463 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
1464 ; GFX900-NEXT:    s_nop 0
1465 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
1466 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
1467 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
1468 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
1469 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
1470 ;
1471 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_7_4:
1472 ; GFX90A:       ; %bb.0:
1473 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1474 ; GFX90A-NEXT:    ;;#ASMSTART
1475 ; GFX90A-NEXT:    ; def v[0:7]
1476 ; GFX90A-NEXT:    ;;#ASMEND
1477 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
1478 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
1479 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
1480 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
1481 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
1482 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
1483 ; GFX90A-NEXT:    s_nop 0
1484 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
1485 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
1486 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
1487 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
1488 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
1489 ;
1490 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_7_4:
1491 ; GFX940:       ; %bb.0:
1492 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1493 ; GFX940-NEXT:    ;;#ASMSTART
1494 ; GFX940-NEXT:    ; def v[0:7]
1495 ; GFX940-NEXT:    ;;#ASMEND
1496 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
1497 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
1498 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
1499 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
1500 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
1501 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
1502 ; GFX940-NEXT:    s_nop 1
1503 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
1504 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
1505 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
1506 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
1507 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
1508   %vec0 = call <4 x i64> asm "; def $0", "=v"()
1509   %vec1 = call <4 x i64> asm "; def $0", "=v"()
1510   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 7, i32 4>
1511   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
1512   ret void
1513 }
1514
1515 define void @v_shuffle_v4i64_v4i64__7_7_7_5(ptr addrspace(1) inreg %ptr) {
1516 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_7_5:
1517 ; GFX900:       ; %bb.0:
1518 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1519 ; GFX900-NEXT:    ;;#ASMSTART
1520 ; GFX900-NEXT:    ; def v[0:7]
1521 ; GFX900-NEXT:    ;;#ASMEND
1522 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
1523 ; GFX900-NEXT:    v_mov_b32_e32 v0, v6
1524 ; GFX900-NEXT:    v_mov_b32_e32 v1, v7
1525 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
1526 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
1527 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
1528 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
1529 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
1530 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
1531 ;
1532 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_7_5:
1533 ; GFX90A:       ; %bb.0:
1534 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1535 ; GFX90A-NEXT:    ;;#ASMSTART
1536 ; GFX90A-NEXT:    ; def v[0:7]
1537 ; GFX90A-NEXT:    ;;#ASMEND
1538 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
1539 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v6
1540 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v7
1541 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
1542 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
1543 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
1544 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
1545 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
1546 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
1547 ;
1548 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_7_5:
1549 ; GFX940:       ; %bb.0:
1550 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1551 ; GFX940-NEXT:    ;;#ASMSTART
1552 ; GFX940-NEXT:    ; def v[0:7]
1553 ; GFX940-NEXT:    ;;#ASMEND
1554 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
1555 ; GFX940-NEXT:    v_mov_b32_e32 v0, v6
1556 ; GFX940-NEXT:    v_mov_b32_e32 v1, v7
1557 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
1558 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
1559 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
1560 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
1561 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
1562 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
1563   %vec0 = call <4 x i64> asm "; def $0", "=v"()
1564   %vec1 = call <4 x i64> asm "; def $0", "=v"()
1565   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 7, i32 5>
1566   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
1567   ret void
1568 }
1569
1570 define void @v_shuffle_v4i64_v4i64__7_7_7_6(ptr addrspace(1) inreg %ptr) {
1571 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_7_6:
1572 ; GFX900:       ; %bb.0:
1573 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1574 ; GFX900-NEXT:    ;;#ASMSTART
1575 ; GFX900-NEXT:    ; def v[0:7]
1576 ; GFX900-NEXT:    ;;#ASMEND
1577 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
1578 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
1579 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
1580 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
1581 ; GFX900-NEXT:    s_nop 0
1582 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
1583 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
1584 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
1585 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
1586 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
1587 ;
1588 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_7_6:
1589 ; GFX90A:       ; %bb.0:
1590 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1591 ; GFX90A-NEXT:    ;;#ASMSTART
1592 ; GFX90A-NEXT:    ; def v[0:7]
1593 ; GFX90A-NEXT:    ;;#ASMEND
1594 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
1595 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
1596 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
1597 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
1598 ; GFX90A-NEXT:    s_nop 0
1599 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
1600 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
1601 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
1602 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
1603 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
1604 ;
1605 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_7_6:
1606 ; GFX940:       ; %bb.0:
1607 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1608 ; GFX940-NEXT:    ;;#ASMSTART
1609 ; GFX940-NEXT:    ; def v[0:7]
1610 ; GFX940-NEXT:    ;;#ASMEND
1611 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
1612 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
1613 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
1614 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
1615 ; GFX940-NEXT:    s_nop 1
1616 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
1617 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
1618 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
1619 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
1620 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
1621   %vec0 = call <4 x i64> asm "; def $0", "=v"()
1622   %vec1 = call <4 x i64> asm "; def $0", "=v"()
1623   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 7, i32 6>
1624   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
1625   ret void
1626 }
1627
1628 define void @v_shuffle_v4i64_v4i64__7_7_7_7(ptr addrspace(1) inreg %ptr) {
1629 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_7_7:
1630 ; GFX900:       ; %bb.0:
1631 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1632 ; GFX900-NEXT:    ;;#ASMSTART
1633 ; GFX900-NEXT:    ; def v[0:7]
1634 ; GFX900-NEXT:    ;;#ASMEND
1635 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
1636 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
1637 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
1638 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
1639 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
1640 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
1641 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
1642 ;
1643 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_7_7:
1644 ; GFX90A:       ; %bb.0:
1645 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1646 ; GFX90A-NEXT:    ;;#ASMSTART
1647 ; GFX90A-NEXT:    ; def v[0:7]
1648 ; GFX90A-NEXT:    ;;#ASMEND
1649 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
1650 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
1651 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
1652 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
1653 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
1654 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
1655 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
1656 ;
1657 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_7_7:
1658 ; GFX940:       ; %bb.0:
1659 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1660 ; GFX940-NEXT:    ;;#ASMSTART
1661 ; GFX940-NEXT:    ; def v[0:7]
1662 ; GFX940-NEXT:    ;;#ASMEND
1663 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
1664 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
1665 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
1666 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
1667 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
1668 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
1669 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
1670   %vec0 = call <4 x i64> asm "; def $0", "=v"()
1671   %vec1 = call <4 x i64> asm "; def $0", "=v"()
1672   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 7, i32 7>
1673   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
1674   ret void
1675 }
1676
1677 define void @v_shuffle_v4i64_v4i64__u_0_0_0(ptr addrspace(1) inreg %ptr) {
1678 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__u_0_0_0:
1679 ; GFX900:       ; %bb.0:
1680 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1681 ; GFX900-NEXT:    ;;#ASMSTART
1682 ; GFX900-NEXT:    ; def v[0:7]
1683 ; GFX900-NEXT:    ;;#ASMEND
1684 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
1685 ; GFX900-NEXT:    v_mov_b32_e32 v2, v0
1686 ; GFX900-NEXT:    v_mov_b32_e32 v3, v1
1687 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
1688 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
1689 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
1690 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
1691 ;
1692 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__u_0_0_0:
1693 ; GFX90A:       ; %bb.0:
1694 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1695 ; GFX90A-NEXT:    ;;#ASMSTART
1696 ; GFX90A-NEXT:    ; def v[0:7]
1697 ; GFX90A-NEXT:    ;;#ASMEND
1698 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
1699 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v0
1700 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v1
1701 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
1702 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
1703 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
1704 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
1705 ;
1706 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__u_0_0_0:
1707 ; GFX940:       ; %bb.0:
1708 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1709 ; GFX940-NEXT:    ;;#ASMSTART
1710 ; GFX940-NEXT:    ; def v[0:7]
1711 ; GFX940-NEXT:    ;;#ASMEND
1712 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
1713 ; GFX940-NEXT:    v_mov_b32_e32 v2, v0
1714 ; GFX940-NEXT:    v_mov_b32_e32 v3, v1
1715 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
1716 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
1717 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
1718 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
1719   %vec0 = call <4 x i64> asm "; def $0", "=v"()
1720   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 poison, i32 0, i32 0, i32 0>
1721   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
1722   ret void
1723 }
1724
1725 define void @v_shuffle_v4i64_v4i64__0_0_0_0(ptr addrspace(1) inreg %ptr) {
1726 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__0_0_0_0:
1727 ; GFX900:       ; %bb.0:
1728 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1729 ; GFX900-NEXT:    ;;#ASMSTART
1730 ; GFX900-NEXT:    ; def v[0:7]
1731 ; GFX900-NEXT:    ;;#ASMEND
1732 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
1733 ; GFX900-NEXT:    v_mov_b32_e32 v2, v0
1734 ; GFX900-NEXT:    v_mov_b32_e32 v3, v1
1735 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
1736 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
1737 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
1738 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
1739 ;
1740 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__0_0_0_0:
1741 ; GFX90A:       ; %bb.0:
1742 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1743 ; GFX90A-NEXT:    ;;#ASMSTART
1744 ; GFX90A-NEXT:    ; def v[0:7]
1745 ; GFX90A-NEXT:    ;;#ASMEND
1746 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
1747 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v0
1748 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v1
1749 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
1750 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
1751 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
1752 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
1753 ;
1754 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__0_0_0_0:
1755 ; GFX940:       ; %bb.0:
1756 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1757 ; GFX940-NEXT:    ;;#ASMSTART
1758 ; GFX940-NEXT:    ; def v[0:7]
1759 ; GFX940-NEXT:    ;;#ASMEND
1760 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
1761 ; GFX940-NEXT:    v_mov_b32_e32 v2, v0
1762 ; GFX940-NEXT:    v_mov_b32_e32 v3, v1
1763 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
1764 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
1765 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
1766 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
1767   %vec0 = call <4 x i64> asm "; def $0", "=v"()
1768   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> zeroinitializer
1769   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
1770   ret void
1771 }
1772
1773 define void @v_shuffle_v4i64_v4i64__1_0_0_0(ptr addrspace(1) inreg %ptr) {
1774 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__1_0_0_0:
1775 ; GFX900:       ; %bb.0:
1776 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1777 ; GFX900-NEXT:    ;;#ASMSTART
1778 ; GFX900-NEXT:    ; def v[0:7]
1779 ; GFX900-NEXT:    ;;#ASMEND
1780 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
1781 ; GFX900-NEXT:    v_mov_b32_e32 v4, v0
1782 ; GFX900-NEXT:    v_mov_b32_e32 v5, v1
1783 ; GFX900-NEXT:    v_mov_b32_e32 v6, v0
1784 ; GFX900-NEXT:    v_mov_b32_e32 v7, v1
1785 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
1786 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
1787 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
1788 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
1789 ;
1790 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__1_0_0_0:
1791 ; GFX90A:       ; %bb.0:
1792 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1793 ; GFX90A-NEXT:    ;;#ASMSTART
1794 ; GFX90A-NEXT:    ; def v[0:7]
1795 ; GFX90A-NEXT:    ;;#ASMEND
1796 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
1797 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
1798 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
1799 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v0
1800 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v1
1801 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
1802 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
1803 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
1804 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
1805 ;
1806 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__1_0_0_0:
1807 ; GFX940:       ; %bb.0:
1808 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1809 ; GFX940-NEXT:    ;;#ASMSTART
1810 ; GFX940-NEXT:    ; def v[0:7]
1811 ; GFX940-NEXT:    ;;#ASMEND
1812 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
1813 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
1814 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
1815 ; GFX940-NEXT:    v_mov_b32_e32 v6, v0
1816 ; GFX940-NEXT:    v_mov_b32_e32 v7, v1
1817 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
1818 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
1819 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
1820 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
1821   %vec0 = call <4 x i64> asm "; def $0", "=v"()
1822   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 1, i32 0, i32 0, i32 0>
1823   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
1824   ret void
1825 }
1826
1827 define void @v_shuffle_v4i64_v4i64__2_0_0_0(ptr addrspace(1) inreg %ptr) {
1828 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__2_0_0_0:
1829 ; GFX900:       ; %bb.0:
1830 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1831 ; GFX900-NEXT:    ;;#ASMSTART
1832 ; GFX900-NEXT:    ; def v[0:7]
1833 ; GFX900-NEXT:    ;;#ASMEND
1834 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
1835 ; GFX900-NEXT:    v_mov_b32_e32 v2, v0
1836 ; GFX900-NEXT:    v_mov_b32_e32 v3, v1
1837 ; GFX900-NEXT:    v_mov_b32_e32 v6, v0
1838 ; GFX900-NEXT:    v_mov_b32_e32 v7, v1
1839 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
1840 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
1841 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
1842 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
1843 ;
1844 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__2_0_0_0:
1845 ; GFX90A:       ; %bb.0:
1846 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1847 ; GFX90A-NEXT:    ;;#ASMSTART
1848 ; GFX90A-NEXT:    ; def v[0:7]
1849 ; GFX90A-NEXT:    ;;#ASMEND
1850 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
1851 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v0
1852 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v1
1853 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v0
1854 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v1
1855 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
1856 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
1857 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
1858 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
1859 ;
1860 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__2_0_0_0:
1861 ; GFX940:       ; %bb.0:
1862 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1863 ; GFX940-NEXT:    ;;#ASMSTART
1864 ; GFX940-NEXT:    ; def v[0:7]
1865 ; GFX940-NEXT:    ;;#ASMEND
1866 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
1867 ; GFX940-NEXT:    v_mov_b32_e32 v2, v0
1868 ; GFX940-NEXT:    v_mov_b32_e32 v3, v1
1869 ; GFX940-NEXT:    v_mov_b32_e32 v6, v0
1870 ; GFX940-NEXT:    v_mov_b32_e32 v7, v1
1871 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
1872 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
1873 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
1874 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
1875   %vec0 = call <4 x i64> asm "; def $0", "=v"()
1876   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 2, i32 0, i32 0, i32 0>
1877   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
1878   ret void
1879 }
1880
1881 define void @v_shuffle_v4i64_v4i64__3_0_0_0(ptr addrspace(1) inreg %ptr) {
1882 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__3_0_0_0:
1883 ; GFX900:       ; %bb.0:
1884 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1885 ; GFX900-NEXT:    ;;#ASMSTART
1886 ; GFX900-NEXT:    ; def v[0:7]
1887 ; GFX900-NEXT:    ;;#ASMEND
1888 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
1889 ; GFX900-NEXT:    v_mov_b32_e32 v2, v0
1890 ; GFX900-NEXT:    v_mov_b32_e32 v3, v1
1891 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
1892 ; GFX900-NEXT:    v_mov_b32_e32 v4, v0
1893 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
1894 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
1895 ; GFX900-NEXT:    v_mov_b32_e32 v5, v1
1896 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
1897 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
1898 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
1899 ;
1900 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__3_0_0_0:
1901 ; GFX90A:       ; %bb.0:
1902 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1903 ; GFX90A-NEXT:    ;;#ASMSTART
1904 ; GFX90A-NEXT:    ; def v[0:7]
1905 ; GFX90A-NEXT:    ;;#ASMEND
1906 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
1907 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v0
1908 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v1
1909 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
1910 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
1911 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
1912 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
1913 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
1914 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
1915 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
1916 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
1917 ;
1918 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__3_0_0_0:
1919 ; GFX940:       ; %bb.0:
1920 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1921 ; GFX940-NEXT:    ;;#ASMSTART
1922 ; GFX940-NEXT:    ; def v[0:7]
1923 ; GFX940-NEXT:    ;;#ASMEND
1924 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
1925 ; GFX940-NEXT:    v_mov_b32_e32 v2, v0
1926 ; GFX940-NEXT:    v_mov_b32_e32 v3, v1
1927 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
1928 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
1929 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
1930 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
1931 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
1932 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
1933 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
1934 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
1935   %vec0 = call <4 x i64> asm "; def $0", "=v"()
1936   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 3, i32 0, i32 0, i32 0>
1937   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
1938   ret void
1939 }
1940
1941 define void @v_shuffle_v4i64_v4i64__4_0_0_0(ptr addrspace(1) inreg %ptr) {
1942 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__4_0_0_0:
1943 ; GFX900:       ; %bb.0:
1944 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1945 ; GFX900-NEXT:    ;;#ASMSTART
1946 ; GFX900-NEXT:    ; def v[0:7]
1947 ; GFX900-NEXT:    ;;#ASMEND
1948 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
1949 ; GFX900-NEXT:    v_mov_b32_e32 v2, v0
1950 ; GFX900-NEXT:    v_mov_b32_e32 v3, v1
1951 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
1952 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
1953 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
1954 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
1955 ;
1956 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__4_0_0_0:
1957 ; GFX90A:       ; %bb.0:
1958 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1959 ; GFX90A-NEXT:    ;;#ASMSTART
1960 ; GFX90A-NEXT:    ; def v[0:7]
1961 ; GFX90A-NEXT:    ;;#ASMEND
1962 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
1963 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v0
1964 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v1
1965 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
1966 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
1967 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
1968 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
1969 ;
1970 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__4_0_0_0:
1971 ; GFX940:       ; %bb.0:
1972 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1973 ; GFX940-NEXT:    ;;#ASMSTART
1974 ; GFX940-NEXT:    ; def v[0:7]
1975 ; GFX940-NEXT:    ;;#ASMEND
1976 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
1977 ; GFX940-NEXT:    v_mov_b32_e32 v2, v0
1978 ; GFX940-NEXT:    v_mov_b32_e32 v3, v1
1979 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
1980 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
1981 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
1982 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
1983   %vec0 = call <4 x i64> asm "; def $0", "=v"()
1984   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 4, i32 0, i32 0, i32 0>
1985   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
1986   ret void
1987 }
1988
1989 define void @v_shuffle_v4i64_v4i64__5_0_0_0(ptr addrspace(1) inreg %ptr) {
1990 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__5_0_0_0:
1991 ; GFX900:       ; %bb.0:
1992 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
1993 ; GFX900-NEXT:    ;;#ASMSTART
1994 ; GFX900-NEXT:    ; def v[0:7]
1995 ; GFX900-NEXT:    ;;#ASMEND
1996 ; GFX900-NEXT:    ;;#ASMSTART
1997 ; GFX900-NEXT:    ; def v[2:9]
1998 ; GFX900-NEXT:    ;;#ASMEND
1999 ; GFX900-NEXT:    v_mov_b32_e32 v10, 0
2000 ; GFX900-NEXT:    v_mov_b32_e32 v2, v0
2001 ; GFX900-NEXT:    v_mov_b32_e32 v3, v1
2002 ; GFX900-NEXT:    v_mov_b32_e32 v6, v0
2003 ; GFX900-NEXT:    v_mov_b32_e32 v7, v1
2004 ; GFX900-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
2005 ; GFX900-NEXT:    global_store_dwordx4 v10, v[4:7], s[16:17]
2006 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
2007 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
2008 ;
2009 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__5_0_0_0:
2010 ; GFX90A:       ; %bb.0:
2011 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2012 ; GFX90A-NEXT:    ;;#ASMSTART
2013 ; GFX90A-NEXT:    ; def v[0:7]
2014 ; GFX90A-NEXT:    ;;#ASMEND
2015 ; GFX90A-NEXT:    ;;#ASMSTART
2016 ; GFX90A-NEXT:    ; def v[2:9]
2017 ; GFX90A-NEXT:    ;;#ASMEND
2018 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
2019 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v0
2020 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v1
2021 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v0
2022 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v1
2023 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
2024 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[4:7], s[16:17]
2025 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
2026 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
2027 ;
2028 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__5_0_0_0:
2029 ; GFX940:       ; %bb.0:
2030 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2031 ; GFX940-NEXT:    ;;#ASMSTART
2032 ; GFX940-NEXT:    ; def v[0:7]
2033 ; GFX940-NEXT:    ;;#ASMEND
2034 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
2035 ; GFX940-NEXT:    ;;#ASMSTART
2036 ; GFX940-NEXT:    ; def v[2:9]
2037 ; GFX940-NEXT:    ;;#ASMEND
2038 ; GFX940-NEXT:    s_nop 0
2039 ; GFX940-NEXT:    v_mov_b32_e32 v2, v0
2040 ; GFX940-NEXT:    v_mov_b32_e32 v3, v1
2041 ; GFX940-NEXT:    v_mov_b32_e32 v6, v0
2042 ; GFX940-NEXT:    v_mov_b32_e32 v7, v1
2043 ; GFX940-NEXT:    global_store_dwordx4 v10, v[0:3], s[0:1] offset:16 sc0 sc1
2044 ; GFX940-NEXT:    global_store_dwordx4 v10, v[4:7], s[0:1] sc0 sc1
2045 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
2046 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
2047   %vec0 = call <4 x i64> asm "; def $0", "=v"()
2048   %vec1 = call <4 x i64> asm "; def $0", "=v"()
2049   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 5, i32 0, i32 0, i32 0>
2050   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
2051   ret void
2052 }
2053
2054 define void @v_shuffle_v4i64_v4i64__6_0_0_0(ptr addrspace(1) inreg %ptr) {
2055 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__6_0_0_0:
2056 ; GFX900:       ; %bb.0:
2057 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2058 ; GFX900-NEXT:    ;;#ASMSTART
2059 ; GFX900-NEXT:    ; def v[0:7]
2060 ; GFX900-NEXT:    ;;#ASMEND
2061 ; GFX900-NEXT:    ;;#ASMSTART
2062 ; GFX900-NEXT:    ; def v[2:9]
2063 ; GFX900-NEXT:    ;;#ASMEND
2064 ; GFX900-NEXT:    v_mov_b32_e32 v10, 0
2065 ; GFX900-NEXT:    v_mov_b32_e32 v2, v0
2066 ; GFX900-NEXT:    v_mov_b32_e32 v3, v1
2067 ; GFX900-NEXT:    v_mov_b32_e32 v8, v0
2068 ; GFX900-NEXT:    v_mov_b32_e32 v9, v1
2069 ; GFX900-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
2070 ; GFX900-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17]
2071 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
2072 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
2073 ;
2074 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__6_0_0_0:
2075 ; GFX90A:       ; %bb.0:
2076 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2077 ; GFX90A-NEXT:    ;;#ASMSTART
2078 ; GFX90A-NEXT:    ; def v[0:7]
2079 ; GFX90A-NEXT:    ;;#ASMEND
2080 ; GFX90A-NEXT:    ;;#ASMSTART
2081 ; GFX90A-NEXT:    ; def v[2:9]
2082 ; GFX90A-NEXT:    ;;#ASMEND
2083 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
2084 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v0
2085 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v1
2086 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v0
2087 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v1
2088 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
2089 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17]
2090 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
2091 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
2092 ;
2093 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__6_0_0_0:
2094 ; GFX940:       ; %bb.0:
2095 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2096 ; GFX940-NEXT:    ;;#ASMSTART
2097 ; GFX940-NEXT:    ; def v[0:7]
2098 ; GFX940-NEXT:    ;;#ASMEND
2099 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
2100 ; GFX940-NEXT:    ;;#ASMSTART
2101 ; GFX940-NEXT:    ; def v[2:9]
2102 ; GFX940-NEXT:    ;;#ASMEND
2103 ; GFX940-NEXT:    s_nop 0
2104 ; GFX940-NEXT:    v_mov_b32_e32 v2, v0
2105 ; GFX940-NEXT:    v_mov_b32_e32 v3, v1
2106 ; GFX940-NEXT:    v_mov_b32_e32 v8, v0
2107 ; GFX940-NEXT:    v_mov_b32_e32 v9, v1
2108 ; GFX940-NEXT:    global_store_dwordx4 v10, v[0:3], s[0:1] offset:16 sc0 sc1
2109 ; GFX940-NEXT:    global_store_dwordx4 v10, v[6:9], s[0:1] sc0 sc1
2110 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
2111 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
2112   %vec0 = call <4 x i64> asm "; def $0", "=v"()
2113   %vec1 = call <4 x i64> asm "; def $0", "=v"()
2114   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 6, i32 0, i32 0, i32 0>
2115   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
2116   ret void
2117 }
2118
2119 define void @v_shuffle_v4i64_v4i64__7_0_0_0(ptr addrspace(1) inreg %ptr) {
2120 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_0_0_0:
2121 ; GFX900:       ; %bb.0:
2122 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2123 ; GFX900-NEXT:    ;;#ASMSTART
2124 ; GFX900-NEXT:    ; def v[0:7]
2125 ; GFX900-NEXT:    ;;#ASMEND
2126 ; GFX900-NEXT:    v_mov_b32_e32 v8, v6
2127 ; GFX900-NEXT:    v_mov_b32_e32 v9, v7
2128 ; GFX900-NEXT:    ;;#ASMSTART
2129 ; GFX900-NEXT:    ; def v[0:7]
2130 ; GFX900-NEXT:    ;;#ASMEND
2131 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
2132 ; GFX900-NEXT:    v_mov_b32_e32 v2, v0
2133 ; GFX900-NEXT:    v_mov_b32_e32 v3, v1
2134 ; GFX900-NEXT:    v_mov_b32_e32 v10, v0
2135 ; GFX900-NEXT:    v_mov_b32_e32 v11, v1
2136 ; GFX900-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17] offset:16
2137 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
2138 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
2139 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
2140 ;
2141 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_0_0_0:
2142 ; GFX90A:       ; %bb.0:
2143 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2144 ; GFX90A-NEXT:    ;;#ASMSTART
2145 ; GFX90A-NEXT:    ; def v[0:7]
2146 ; GFX90A-NEXT:    ;;#ASMEND
2147 ; GFX90A-NEXT:    ;;#ASMSTART
2148 ; GFX90A-NEXT:    ; def v[2:9]
2149 ; GFX90A-NEXT:    ;;#ASMEND
2150 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
2151 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v0
2152 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v1
2153 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
2154 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
2155 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v8
2156 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v9
2157 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
2158 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[2:5], s[16:17]
2159 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
2160 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
2161 ;
2162 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_0_0_0:
2163 ; GFX940:       ; %bb.0:
2164 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2165 ; GFX940-NEXT:    ;;#ASMSTART
2166 ; GFX940-NEXT:    ; def v[0:7]
2167 ; GFX940-NEXT:    ;;#ASMEND
2168 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
2169 ; GFX940-NEXT:    ;;#ASMSTART
2170 ; GFX940-NEXT:    ; def v[2:9]
2171 ; GFX940-NEXT:    ;;#ASMEND
2172 ; GFX940-NEXT:    s_nop 0
2173 ; GFX940-NEXT:    v_mov_b32_e32 v2, v0
2174 ; GFX940-NEXT:    v_mov_b32_e32 v3, v1
2175 ; GFX940-NEXT:    global_store_dwordx4 v10, v[0:3], s[0:1] offset:16 sc0 sc1
2176 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
2177 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
2178 ; GFX940-NEXT:    v_mov_b32_e32 v2, v8
2179 ; GFX940-NEXT:    v_mov_b32_e32 v3, v9
2180 ; GFX940-NEXT:    global_store_dwordx4 v10, v[2:5], s[0:1] sc0 sc1
2181 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
2182 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
2183   %vec0 = call <4 x i64> asm "; def $0", "=v"()
2184   %vec1 = call <4 x i64> asm "; def $0", "=v"()
2185   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 0, i32 0, i32 0>
2186   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
2187   ret void
2188 }
2189
2190 define void @v_shuffle_v4i64_v4i64__7_u_0_0(ptr addrspace(1) inreg %ptr) {
2191 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_u_0_0:
2192 ; GFX900:       ; %bb.0:
2193 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2194 ; GFX900-NEXT:    ;;#ASMSTART
2195 ; GFX900-NEXT:    ; def v[0:7]
2196 ; GFX900-NEXT:    ;;#ASMEND
2197 ; GFX900-NEXT:    ;;#ASMSTART
2198 ; GFX900-NEXT:    ; def v[2:9]
2199 ; GFX900-NEXT:    ;;#ASMEND
2200 ; GFX900-NEXT:    v_mov_b32_e32 v10, 0
2201 ; GFX900-NEXT:    v_mov_b32_e32 v2, v0
2202 ; GFX900-NEXT:    v_mov_b32_e32 v3, v1
2203 ; GFX900-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
2204 ; GFX900-NEXT:    s_nop 0
2205 ; GFX900-NEXT:    v_mov_b32_e32 v0, v8
2206 ; GFX900-NEXT:    v_mov_b32_e32 v1, v9
2207 ; GFX900-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17]
2208 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
2209 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
2210 ;
2211 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_u_0_0:
2212 ; GFX90A:       ; %bb.0:
2213 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2214 ; GFX90A-NEXT:    ;;#ASMSTART
2215 ; GFX90A-NEXT:    ; def v[0:7]
2216 ; GFX90A-NEXT:    ;;#ASMEND
2217 ; GFX90A-NEXT:    ;;#ASMSTART
2218 ; GFX90A-NEXT:    ; def v[2:9]
2219 ; GFX90A-NEXT:    ;;#ASMEND
2220 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
2221 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v0
2222 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v1
2223 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
2224 ; GFX90A-NEXT:    s_nop 0
2225 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v8
2226 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v9
2227 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17]
2228 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
2229 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
2230 ;
2231 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_u_0_0:
2232 ; GFX940:       ; %bb.0:
2233 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2234 ; GFX940-NEXT:    ;;#ASMSTART
2235 ; GFX940-NEXT:    ; def v[0:7]
2236 ; GFX940-NEXT:    ;;#ASMEND
2237 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
2238 ; GFX940-NEXT:    ;;#ASMSTART
2239 ; GFX940-NEXT:    ; def v[2:9]
2240 ; GFX940-NEXT:    ;;#ASMEND
2241 ; GFX940-NEXT:    s_nop 0
2242 ; GFX940-NEXT:    v_mov_b32_e32 v2, v0
2243 ; GFX940-NEXT:    v_mov_b32_e32 v3, v1
2244 ; GFX940-NEXT:    global_store_dwordx4 v10, v[0:3], s[0:1] offset:16 sc0 sc1
2245 ; GFX940-NEXT:    s_nop 1
2246 ; GFX940-NEXT:    v_mov_b32_e32 v0, v8
2247 ; GFX940-NEXT:    v_mov_b32_e32 v1, v9
2248 ; GFX940-NEXT:    global_store_dwordx4 v10, v[0:3], s[0:1] sc0 sc1
2249 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
2250 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
2251   %vec0 = call <4 x i64> asm "; def $0", "=v"()
2252   %vec1 = call <4 x i64> asm "; def $0", "=v"()
2253   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 poison, i32 0, i32 0>
2254   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
2255   ret void
2256 }
2257
2258 define void @v_shuffle_v4i64_v4i64__7_1_0_0(ptr addrspace(1) inreg %ptr) {
2259 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_1_0_0:
2260 ; GFX900:       ; %bb.0:
2261 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2262 ; GFX900-NEXT:    ;;#ASMSTART
2263 ; GFX900-NEXT:    ; def v[0:7]
2264 ; GFX900-NEXT:    ;;#ASMEND
2265 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
2266 ; GFX900-NEXT:    v_mov_b32_e32 v4, v0
2267 ; GFX900-NEXT:    v_mov_b32_e32 v5, v1
2268 ; GFX900-NEXT:    v_mov_b32_e32 v6, v0
2269 ; GFX900-NEXT:    v_mov_b32_e32 v7, v1
2270 ; GFX900-NEXT:    global_store_dwordx4 v12, v[4:7], s[16:17] offset:16
2271 ; GFX900-NEXT:    s_nop 0
2272 ; GFX900-NEXT:    ;;#ASMSTART
2273 ; GFX900-NEXT:    ; def v[4:11]
2274 ; GFX900-NEXT:    ;;#ASMEND
2275 ; GFX900-NEXT:    v_mov_b32_e32 v0, v10
2276 ; GFX900-NEXT:    v_mov_b32_e32 v1, v11
2277 ; GFX900-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17]
2278 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
2279 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
2280 ;
2281 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_1_0_0:
2282 ; GFX90A:       ; %bb.0:
2283 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2284 ; GFX90A-NEXT:    ;;#ASMSTART
2285 ; GFX90A-NEXT:    ; def v[0:7]
2286 ; GFX90A-NEXT:    ;;#ASMEND
2287 ; GFX90A-NEXT:    ;;#ASMSTART
2288 ; GFX90A-NEXT:    ; def v[4:11]
2289 ; GFX90A-NEXT:    ;;#ASMEND
2290 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
2291 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
2292 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
2293 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v0
2294 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v1
2295 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v10
2296 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v11
2297 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[4:7], s[16:17] offset:16
2298 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17]
2299 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
2300 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
2301 ;
2302 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_1_0_0:
2303 ; GFX940:       ; %bb.0:
2304 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2305 ; GFX940-NEXT:    ;;#ASMSTART
2306 ; GFX940-NEXT:    ; def v[0:7]
2307 ; GFX940-NEXT:    ;;#ASMEND
2308 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
2309 ; GFX940-NEXT:    ;;#ASMSTART
2310 ; GFX940-NEXT:    ; def v[4:11]
2311 ; GFX940-NEXT:    ;;#ASMEND
2312 ; GFX940-NEXT:    s_nop 0
2313 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
2314 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
2315 ; GFX940-NEXT:    v_mov_b32_e32 v6, v0
2316 ; GFX940-NEXT:    v_mov_b32_e32 v7, v1
2317 ; GFX940-NEXT:    v_mov_b32_e32 v0, v10
2318 ; GFX940-NEXT:    v_mov_b32_e32 v1, v11
2319 ; GFX940-NEXT:    global_store_dwordx4 v12, v[4:7], s[0:1] offset:16 sc0 sc1
2320 ; GFX940-NEXT:    global_store_dwordx4 v12, v[0:3], s[0:1] sc0 sc1
2321 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
2322 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
2323   %vec0 = call <4 x i64> asm "; def $0", "=v"()
2324   %vec1 = call <4 x i64> asm "; def $0", "=v"()
2325   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 1, i32 0, i32 0>
2326   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
2327   ret void
2328 }
2329
2330 define void @v_shuffle_v4i64_v4i64__7_2_0_0(ptr addrspace(1) inreg %ptr) {
2331 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_2_0_0:
2332 ; GFX900:       ; %bb.0:
2333 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2334 ; GFX900-NEXT:    ;;#ASMSTART
2335 ; GFX900-NEXT:    ; def v[0:7]
2336 ; GFX900-NEXT:    ;;#ASMEND
2337 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
2338 ; GFX900-NEXT:    v_mov_b32_e32 v2, v0
2339 ; GFX900-NEXT:    v_mov_b32_e32 v3, v1
2340 ; GFX900-NEXT:    ;;#ASMSTART
2341 ; GFX900-NEXT:    ; def v[6:13]
2342 ; GFX900-NEXT:    ;;#ASMEND
2343 ; GFX900-NEXT:    global_store_dwordx4 v14, v[0:3], s[16:17] offset:16
2344 ; GFX900-NEXT:    s_nop 0
2345 ; GFX900-NEXT:    v_mov_b32_e32 v2, v12
2346 ; GFX900-NEXT:    v_mov_b32_e32 v3, v13
2347 ; GFX900-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17]
2348 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
2349 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
2350 ;
2351 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_2_0_0:
2352 ; GFX90A:       ; %bb.0:
2353 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2354 ; GFX90A-NEXT:    ;;#ASMSTART
2355 ; GFX90A-NEXT:    ; def v[0:7]
2356 ; GFX90A-NEXT:    ;;#ASMEND
2357 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
2358 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v0
2359 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v1
2360 ; GFX90A-NEXT:    ;;#ASMSTART
2361 ; GFX90A-NEXT:    ; def v[6:13]
2362 ; GFX90A-NEXT:    ;;#ASMEND
2363 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[0:3], s[16:17] offset:16
2364 ; GFX90A-NEXT:    s_nop 0
2365 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v12
2366 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v13
2367 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17]
2368 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
2369 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
2370 ;
2371 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_2_0_0:
2372 ; GFX940:       ; %bb.0:
2373 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2374 ; GFX940-NEXT:    ;;#ASMSTART
2375 ; GFX940-NEXT:    ; def v[0:7]
2376 ; GFX940-NEXT:    ;;#ASMEND
2377 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
2378 ; GFX940-NEXT:    v_mov_b32_e32 v2, v0
2379 ; GFX940-NEXT:    v_mov_b32_e32 v3, v1
2380 ; GFX940-NEXT:    ;;#ASMSTART
2381 ; GFX940-NEXT:    ; def v[6:13]
2382 ; GFX940-NEXT:    ;;#ASMEND
2383 ; GFX940-NEXT:    global_store_dwordx4 v14, v[0:3], s[0:1] offset:16 sc0 sc1
2384 ; GFX940-NEXT:    s_nop 1
2385 ; GFX940-NEXT:    v_mov_b32_e32 v2, v12
2386 ; GFX940-NEXT:    v_mov_b32_e32 v3, v13
2387 ; GFX940-NEXT:    global_store_dwordx4 v14, v[2:5], s[0:1] sc0 sc1
2388 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
2389 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
2390   %vec0 = call <4 x i64> asm "; def $0", "=v"()
2391   %vec1 = call <4 x i64> asm "; def $0", "=v"()
2392   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 2, i32 0, i32 0>
2393   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
2394   ret void
2395 }
2396
2397 define void @v_shuffle_v4i64_v4i64__7_3_0_0(ptr addrspace(1) inreg %ptr) {
2398 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_3_0_0:
2399 ; GFX900:       ; %bb.0:
2400 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2401 ; GFX900-NEXT:    ;;#ASMSTART
2402 ; GFX900-NEXT:    ; def v[0:7]
2403 ; GFX900-NEXT:    ;;#ASMEND
2404 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
2405 ; GFX900-NEXT:    ;;#ASMSTART
2406 ; GFX900-NEXT:    ; def v[8:15]
2407 ; GFX900-NEXT:    ;;#ASMEND
2408 ; GFX900-NEXT:    v_mov_b32_e32 v2, v0
2409 ; GFX900-NEXT:    v_mov_b32_e32 v3, v1
2410 ; GFX900-NEXT:    v_mov_b32_e32 v4, v14
2411 ; GFX900-NEXT:    v_mov_b32_e32 v5, v15
2412 ; GFX900-NEXT:    global_store_dwordx4 v16, v[0:3], s[16:17] offset:16
2413 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17]
2414 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
2415 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
2416 ;
2417 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_3_0_0:
2418 ; GFX90A:       ; %bb.0:
2419 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2420 ; GFX90A-NEXT:    ;;#ASMSTART
2421 ; GFX90A-NEXT:    ; def v[0:7]
2422 ; GFX90A-NEXT:    ;;#ASMEND
2423 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
2424 ; GFX90A-NEXT:    ;;#ASMSTART
2425 ; GFX90A-NEXT:    ; def v[8:15]
2426 ; GFX90A-NEXT:    ;;#ASMEND
2427 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v0
2428 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v1
2429 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v14
2430 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v15
2431 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[0:3], s[16:17] offset:16
2432 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17]
2433 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
2434 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
2435 ;
2436 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_3_0_0:
2437 ; GFX940:       ; %bb.0:
2438 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2439 ; GFX940-NEXT:    ;;#ASMSTART
2440 ; GFX940-NEXT:    ; def v[0:7]
2441 ; GFX940-NEXT:    ;;#ASMEND
2442 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
2443 ; GFX940-NEXT:    ;;#ASMSTART
2444 ; GFX940-NEXT:    ; def v[8:15]
2445 ; GFX940-NEXT:    ;;#ASMEND
2446 ; GFX940-NEXT:    v_mov_b32_e32 v2, v0
2447 ; GFX940-NEXT:    v_mov_b32_e32 v3, v1
2448 ; GFX940-NEXT:    v_mov_b32_e32 v4, v14
2449 ; GFX940-NEXT:    v_mov_b32_e32 v5, v15
2450 ; GFX940-NEXT:    global_store_dwordx4 v16, v[0:3], s[0:1] offset:16 sc0 sc1
2451 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] sc0 sc1
2452 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
2453 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
2454   %vec0 = call <4 x i64> asm "; def $0", "=v"()
2455   %vec1 = call <4 x i64> asm "; def $0", "=v"()
2456   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 3, i32 0, i32 0>
2457   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
2458   ret void
2459 }
2460
2461 define void @v_shuffle_v4i64_v4i64__7_4_0_0(ptr addrspace(1) inreg %ptr) {
2462 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_4_0_0:
2463 ; GFX900:       ; %bb.0:
2464 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2465 ; GFX900-NEXT:    ;;#ASMSTART
2466 ; GFX900-NEXT:    ; def v[0:7]
2467 ; GFX900-NEXT:    ;;#ASMEND
2468 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
2469 ; GFX900-NEXT:    v_mov_b32_e32 v2, v0
2470 ; GFX900-NEXT:    v_mov_b32_e32 v3, v1
2471 ; GFX900-NEXT:    ;;#ASMSTART
2472 ; GFX900-NEXT:    ; def v[4:11]
2473 ; GFX900-NEXT:    ;;#ASMEND
2474 ; GFX900-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17] offset:16
2475 ; GFX900-NEXT:    s_nop 0
2476 ; GFX900-NEXT:    v_mov_b32_e32 v0, v10
2477 ; GFX900-NEXT:    v_mov_b32_e32 v1, v11
2478 ; GFX900-NEXT:    v_mov_b32_e32 v2, v4
2479 ; GFX900-NEXT:    v_mov_b32_e32 v3, v5
2480 ; GFX900-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17]
2481 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
2482 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
2483 ;
2484 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_4_0_0:
2485 ; GFX90A:       ; %bb.0:
2486 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2487 ; GFX90A-NEXT:    ;;#ASMSTART
2488 ; GFX90A-NEXT:    ; def v[0:7]
2489 ; GFX90A-NEXT:    ;;#ASMEND
2490 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
2491 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v0
2492 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v1
2493 ; GFX90A-NEXT:    ;;#ASMSTART
2494 ; GFX90A-NEXT:    ; def v[4:11]
2495 ; GFX90A-NEXT:    ;;#ASMEND
2496 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17] offset:16
2497 ; GFX90A-NEXT:    s_nop 0
2498 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v10
2499 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v11
2500 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v4
2501 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v5
2502 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17]
2503 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
2504 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
2505 ;
2506 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_4_0_0:
2507 ; GFX940:       ; %bb.0:
2508 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2509 ; GFX940-NEXT:    ;;#ASMSTART
2510 ; GFX940-NEXT:    ; def v[0:7]
2511 ; GFX940-NEXT:    ;;#ASMEND
2512 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
2513 ; GFX940-NEXT:    v_mov_b32_e32 v2, v0
2514 ; GFX940-NEXT:    v_mov_b32_e32 v3, v1
2515 ; GFX940-NEXT:    ;;#ASMSTART
2516 ; GFX940-NEXT:    ; def v[4:11]
2517 ; GFX940-NEXT:    ;;#ASMEND
2518 ; GFX940-NEXT:    global_store_dwordx4 v12, v[0:3], s[0:1] offset:16 sc0 sc1
2519 ; GFX940-NEXT:    s_nop 1
2520 ; GFX940-NEXT:    v_mov_b32_e32 v0, v10
2521 ; GFX940-NEXT:    v_mov_b32_e32 v1, v11
2522 ; GFX940-NEXT:    v_mov_b32_e32 v2, v4
2523 ; GFX940-NEXT:    v_mov_b32_e32 v3, v5
2524 ; GFX940-NEXT:    global_store_dwordx4 v12, v[0:3], s[0:1] sc0 sc1
2525 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
2526 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
2527   %vec0 = call <4 x i64> asm "; def $0", "=v"()
2528   %vec1 = call <4 x i64> asm "; def $0", "=v"()
2529   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 4, i32 0, i32 0>
2530   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
2531   ret void
2532 }
2533
2534 define void @v_shuffle_v4i64_v4i64__7_5_0_0(ptr addrspace(1) inreg %ptr) {
2535 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_5_0_0:
2536 ; GFX900:       ; %bb.0:
2537 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2538 ; GFX900-NEXT:    ;;#ASMSTART
2539 ; GFX900-NEXT:    ; def v[0:7]
2540 ; GFX900-NEXT:    ;;#ASMEND
2541 ; GFX900-NEXT:    ;;#ASMSTART
2542 ; GFX900-NEXT:    ; def v[2:9]
2543 ; GFX900-NEXT:    ;;#ASMEND
2544 ; GFX900-NEXT:    v_mov_b32_e32 v10, 0
2545 ; GFX900-NEXT:    v_mov_b32_e32 v2, v0
2546 ; GFX900-NEXT:    v_mov_b32_e32 v3, v1
2547 ; GFX900-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
2548 ; GFX900-NEXT:    s_nop 0
2549 ; GFX900-NEXT:    v_mov_b32_e32 v2, v8
2550 ; GFX900-NEXT:    v_mov_b32_e32 v3, v9
2551 ; GFX900-NEXT:    global_store_dwordx4 v10, v[2:5], s[16:17]
2552 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
2553 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
2554 ;
2555 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_5_0_0:
2556 ; GFX90A:       ; %bb.0:
2557 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2558 ; GFX90A-NEXT:    ;;#ASMSTART
2559 ; GFX90A-NEXT:    ; def v[0:7]
2560 ; GFX90A-NEXT:    ;;#ASMEND
2561 ; GFX90A-NEXT:    ;;#ASMSTART
2562 ; GFX90A-NEXT:    ; def v[2:9]
2563 ; GFX90A-NEXT:    ;;#ASMEND
2564 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
2565 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v0
2566 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v1
2567 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
2568 ; GFX90A-NEXT:    s_nop 0
2569 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v8
2570 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v9
2571 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[2:5], s[16:17]
2572 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
2573 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
2574 ;
2575 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_5_0_0:
2576 ; GFX940:       ; %bb.0:
2577 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2578 ; GFX940-NEXT:    ;;#ASMSTART
2579 ; GFX940-NEXT:    ; def v[0:7]
2580 ; GFX940-NEXT:    ;;#ASMEND
2581 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
2582 ; GFX940-NEXT:    ;;#ASMSTART
2583 ; GFX940-NEXT:    ; def v[2:9]
2584 ; GFX940-NEXT:    ;;#ASMEND
2585 ; GFX940-NEXT:    s_nop 0
2586 ; GFX940-NEXT:    v_mov_b32_e32 v2, v0
2587 ; GFX940-NEXT:    v_mov_b32_e32 v3, v1
2588 ; GFX940-NEXT:    global_store_dwordx4 v10, v[0:3], s[0:1] offset:16 sc0 sc1
2589 ; GFX940-NEXT:    s_nop 1
2590 ; GFX940-NEXT:    v_mov_b32_e32 v2, v8
2591 ; GFX940-NEXT:    v_mov_b32_e32 v3, v9
2592 ; GFX940-NEXT:    global_store_dwordx4 v10, v[2:5], s[0:1] sc0 sc1
2593 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
2594 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
2595   %vec0 = call <4 x i64> asm "; def $0", "=v"()
2596   %vec1 = call <4 x i64> asm "; def $0", "=v"()
2597   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 5, i32 0, i32 0>
2598   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
2599   ret void
2600 }
2601
2602 define void @v_shuffle_v4i64_v4i64__7_6_0_0(ptr addrspace(1) inreg %ptr) {
2603 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_6_0_0:
2604 ; GFX900:       ; %bb.0:
2605 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2606 ; GFX900-NEXT:    ;;#ASMSTART
2607 ; GFX900-NEXT:    ; def v[0:7]
2608 ; GFX900-NEXT:    ;;#ASMEND
2609 ; GFX900-NEXT:    ;;#ASMSTART
2610 ; GFX900-NEXT:    ; def v[2:9]
2611 ; GFX900-NEXT:    ;;#ASMEND
2612 ; GFX900-NEXT:    v_mov_b32_e32 v10, 0
2613 ; GFX900-NEXT:    v_mov_b32_e32 v2, v0
2614 ; GFX900-NEXT:    v_mov_b32_e32 v3, v1
2615 ; GFX900-NEXT:    v_mov_b32_e32 v4, v8
2616 ; GFX900-NEXT:    v_mov_b32_e32 v5, v9
2617 ; GFX900-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
2618 ; GFX900-NEXT:    global_store_dwordx4 v10, v[4:7], s[16:17]
2619 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
2620 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
2621 ;
2622 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_6_0_0:
2623 ; GFX90A:       ; %bb.0:
2624 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2625 ; GFX90A-NEXT:    ;;#ASMSTART
2626 ; GFX90A-NEXT:    ; def v[0:7]
2627 ; GFX90A-NEXT:    ;;#ASMEND
2628 ; GFX90A-NEXT:    ;;#ASMSTART
2629 ; GFX90A-NEXT:    ; def v[2:9]
2630 ; GFX90A-NEXT:    ;;#ASMEND
2631 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
2632 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v0
2633 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v1
2634 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v8
2635 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v9
2636 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
2637 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[4:7], s[16:17]
2638 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
2639 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
2640 ;
2641 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_6_0_0:
2642 ; GFX940:       ; %bb.0:
2643 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2644 ; GFX940-NEXT:    ;;#ASMSTART
2645 ; GFX940-NEXT:    ; def v[0:7]
2646 ; GFX940-NEXT:    ;;#ASMEND
2647 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
2648 ; GFX940-NEXT:    ;;#ASMSTART
2649 ; GFX940-NEXT:    ; def v[2:9]
2650 ; GFX940-NEXT:    ;;#ASMEND
2651 ; GFX940-NEXT:    s_nop 0
2652 ; GFX940-NEXT:    v_mov_b32_e32 v2, v0
2653 ; GFX940-NEXT:    v_mov_b32_e32 v3, v1
2654 ; GFX940-NEXT:    v_mov_b32_e32 v4, v8
2655 ; GFX940-NEXT:    v_mov_b32_e32 v5, v9
2656 ; GFX940-NEXT:    global_store_dwordx4 v10, v[0:3], s[0:1] offset:16 sc0 sc1
2657 ; GFX940-NEXT:    global_store_dwordx4 v10, v[4:7], s[0:1] sc0 sc1
2658 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
2659 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
2660   %vec0 = call <4 x i64> asm "; def $0", "=v"()
2661   %vec1 = call <4 x i64> asm "; def $0", "=v"()
2662   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 6, i32 0, i32 0>
2663   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
2664   ret void
2665 }
2666
2667 define void @v_shuffle_v4i64_v4i64__7_7_0_0(ptr addrspace(1) inreg %ptr) {
2668 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_0_0:
2669 ; GFX900:       ; %bb.0:
2670 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2671 ; GFX900-NEXT:    ;;#ASMSTART
2672 ; GFX900-NEXT:    ; def v[0:7]
2673 ; GFX900-NEXT:    ;;#ASMEND
2674 ; GFX900-NEXT:    ;;#ASMSTART
2675 ; GFX900-NEXT:    ; def v[2:9]
2676 ; GFX900-NEXT:    ;;#ASMEND
2677 ; GFX900-NEXT:    v_mov_b32_e32 v10, 0
2678 ; GFX900-NEXT:    v_mov_b32_e32 v2, v0
2679 ; GFX900-NEXT:    v_mov_b32_e32 v3, v1
2680 ; GFX900-NEXT:    v_mov_b32_e32 v6, v8
2681 ; GFX900-NEXT:    v_mov_b32_e32 v7, v9
2682 ; GFX900-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
2683 ; GFX900-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17]
2684 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
2685 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
2686 ;
2687 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_0_0:
2688 ; GFX90A:       ; %bb.0:
2689 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2690 ; GFX90A-NEXT:    ;;#ASMSTART
2691 ; GFX90A-NEXT:    ; def v[0:7]
2692 ; GFX90A-NEXT:    ;;#ASMEND
2693 ; GFX90A-NEXT:    ;;#ASMSTART
2694 ; GFX90A-NEXT:    ; def v[2:9]
2695 ; GFX90A-NEXT:    ;;#ASMEND
2696 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
2697 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v0
2698 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v1
2699 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v8
2700 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v9
2701 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
2702 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17]
2703 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
2704 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
2705 ;
2706 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_0_0:
2707 ; GFX940:       ; %bb.0:
2708 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2709 ; GFX940-NEXT:    ;;#ASMSTART
2710 ; GFX940-NEXT:    ; def v[0:7]
2711 ; GFX940-NEXT:    ;;#ASMEND
2712 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
2713 ; GFX940-NEXT:    ;;#ASMSTART
2714 ; GFX940-NEXT:    ; def v[2:9]
2715 ; GFX940-NEXT:    ;;#ASMEND
2716 ; GFX940-NEXT:    s_nop 0
2717 ; GFX940-NEXT:    v_mov_b32_e32 v2, v0
2718 ; GFX940-NEXT:    v_mov_b32_e32 v3, v1
2719 ; GFX940-NEXT:    v_mov_b32_e32 v6, v8
2720 ; GFX940-NEXT:    v_mov_b32_e32 v7, v9
2721 ; GFX940-NEXT:    global_store_dwordx4 v10, v[0:3], s[0:1] offset:16 sc0 sc1
2722 ; GFX940-NEXT:    global_store_dwordx4 v10, v[6:9], s[0:1] sc0 sc1
2723 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
2724 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
2725   %vec0 = call <4 x i64> asm "; def $0", "=v"()
2726   %vec1 = call <4 x i64> asm "; def $0", "=v"()
2727   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 0, i32 0>
2728   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
2729   ret void
2730 }
2731
2732 define void @v_shuffle_v4i64_v4i64__7_7_u_0(ptr addrspace(1) inreg %ptr) {
2733 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_u_0:
2734 ; GFX900:       ; %bb.0:
2735 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2736 ; GFX900-NEXT:    ;;#ASMSTART
2737 ; GFX900-NEXT:    ; def v[0:7]
2738 ; GFX900-NEXT:    ;;#ASMEND
2739 ; GFX900-NEXT:    v_mov_b32_e32 v8, v0
2740 ; GFX900-NEXT:    v_mov_b32_e32 v9, v1
2741 ; GFX900-NEXT:    ;;#ASMSTART
2742 ; GFX900-NEXT:    ; def v[0:7]
2743 ; GFX900-NEXT:    ;;#ASMEND
2744 ; GFX900-NEXT:    v_mov_b32_e32 v10, 0
2745 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
2746 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
2747 ; GFX900-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17] offset:16
2748 ; GFX900-NEXT:    global_store_dwordx4 v10, v[4:7], s[16:17]
2749 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
2750 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
2751 ;
2752 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_u_0:
2753 ; GFX90A:       ; %bb.0:
2754 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2755 ; GFX90A-NEXT:    ;;#ASMSTART
2756 ; GFX90A-NEXT:    ; def v[0:7]
2757 ; GFX90A-NEXT:    ;;#ASMEND
2758 ; GFX90A-NEXT:    ;;#ASMSTART
2759 ; GFX90A-NEXT:    ; def v[2:9]
2760 ; GFX90A-NEXT:    ;;#ASMEND
2761 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
2762 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v0
2763 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v1
2764 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v8
2765 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v9
2766 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
2767 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17]
2768 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
2769 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
2770 ;
2771 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_u_0:
2772 ; GFX940:       ; %bb.0:
2773 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2774 ; GFX940-NEXT:    ;;#ASMSTART
2775 ; GFX940-NEXT:    ; def v[0:7]
2776 ; GFX940-NEXT:    ;;#ASMEND
2777 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
2778 ; GFX940-NEXT:    ;;#ASMSTART
2779 ; GFX940-NEXT:    ; def v[2:9]
2780 ; GFX940-NEXT:    ;;#ASMEND
2781 ; GFX940-NEXT:    s_nop 0
2782 ; GFX940-NEXT:    v_mov_b32_e32 v2, v0
2783 ; GFX940-NEXT:    v_mov_b32_e32 v3, v1
2784 ; GFX940-NEXT:    v_mov_b32_e32 v6, v8
2785 ; GFX940-NEXT:    v_mov_b32_e32 v7, v9
2786 ; GFX940-NEXT:    global_store_dwordx4 v10, v[0:3], s[0:1] offset:16 sc0 sc1
2787 ; GFX940-NEXT:    global_store_dwordx4 v10, v[6:9], s[0:1] sc0 sc1
2788 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
2789 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
2790   %vec0 = call <4 x i64> asm "; def $0", "=v"()
2791   %vec1 = call <4 x i64> asm "; def $0", "=v"()
2792   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 poison, i32 0>
2793   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
2794   ret void
2795 }
2796
2797 define void @v_shuffle_v4i64_v4i64__7_7_1_0(ptr addrspace(1) inreg %ptr) {
2798 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_1_0:
2799 ; GFX900:       ; %bb.0:
2800 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2801 ; GFX900-NEXT:    ;;#ASMSTART
2802 ; GFX900-NEXT:    ; def v[0:7]
2803 ; GFX900-NEXT:    ;;#ASMEND
2804 ; GFX900-NEXT:    ;;#ASMSTART
2805 ; GFX900-NEXT:    ; def v[4:11]
2806 ; GFX900-NEXT:    ;;#ASMEND
2807 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
2808 ; GFX900-NEXT:    v_mov_b32_e32 v4, v0
2809 ; GFX900-NEXT:    v_mov_b32_e32 v5, v1
2810 ; GFX900-NEXT:    v_mov_b32_e32 v8, v10
2811 ; GFX900-NEXT:    v_mov_b32_e32 v9, v11
2812 ; GFX900-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
2813 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
2814 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
2815 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
2816 ;
2817 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_1_0:
2818 ; GFX90A:       ; %bb.0:
2819 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2820 ; GFX90A-NEXT:    ;;#ASMSTART
2821 ; GFX90A-NEXT:    ; def v[0:7]
2822 ; GFX90A-NEXT:    ;;#ASMEND
2823 ; GFX90A-NEXT:    ;;#ASMSTART
2824 ; GFX90A-NEXT:    ; def v[4:11]
2825 ; GFX90A-NEXT:    ;;#ASMEND
2826 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
2827 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
2828 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
2829 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v10
2830 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v11
2831 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
2832 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
2833 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
2834 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
2835 ;
2836 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_1_0:
2837 ; GFX940:       ; %bb.0:
2838 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2839 ; GFX940-NEXT:    ;;#ASMSTART
2840 ; GFX940-NEXT:    ; def v[0:7]
2841 ; GFX940-NEXT:    ;;#ASMEND
2842 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
2843 ; GFX940-NEXT:    ;;#ASMSTART
2844 ; GFX940-NEXT:    ; def v[4:11]
2845 ; GFX940-NEXT:    ;;#ASMEND
2846 ; GFX940-NEXT:    s_nop 0
2847 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
2848 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
2849 ; GFX940-NEXT:    v_mov_b32_e32 v8, v10
2850 ; GFX940-NEXT:    v_mov_b32_e32 v9, v11
2851 ; GFX940-NEXT:    global_store_dwordx4 v12, v[2:5], s[0:1] offset:16 sc0 sc1
2852 ; GFX940-NEXT:    global_store_dwordx4 v12, v[8:11], s[0:1] sc0 sc1
2853 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
2854 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
2855   %vec0 = call <4 x i64> asm "; def $0", "=v"()
2856   %vec1 = call <4 x i64> asm "; def $0", "=v"()
2857   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 1, i32 0>
2858   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
2859   ret void
2860 }
2861
2862 define void @v_shuffle_v4i64_v4i64__7_7_2_0(ptr addrspace(1) inreg %ptr) {
2863 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_2_0:
2864 ; GFX900:       ; %bb.0:
2865 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2866 ; GFX900-NEXT:    ;;#ASMSTART
2867 ; GFX900-NEXT:    ; def v[0:7]
2868 ; GFX900-NEXT:    ;;#ASMEND
2869 ; GFX900-NEXT:    ;;#ASMSTART
2870 ; GFX900-NEXT:    ; def v[6:13]
2871 ; GFX900-NEXT:    ;;#ASMEND
2872 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
2873 ; GFX900-NEXT:    v_mov_b32_e32 v6, v0
2874 ; GFX900-NEXT:    v_mov_b32_e32 v7, v1
2875 ; GFX900-NEXT:    v_mov_b32_e32 v10, v12
2876 ; GFX900-NEXT:    v_mov_b32_e32 v11, v13
2877 ; GFX900-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
2878 ; GFX900-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
2879 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
2880 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
2881 ;
2882 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_2_0:
2883 ; GFX90A:       ; %bb.0:
2884 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2885 ; GFX90A-NEXT:    ;;#ASMSTART
2886 ; GFX90A-NEXT:    ; def v[0:7]
2887 ; GFX90A-NEXT:    ;;#ASMEND
2888 ; GFX90A-NEXT:    ;;#ASMSTART
2889 ; GFX90A-NEXT:    ; def v[6:13]
2890 ; GFX90A-NEXT:    ;;#ASMEND
2891 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
2892 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v0
2893 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v1
2894 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v12
2895 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v13
2896 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
2897 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
2898 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
2899 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
2900 ;
2901 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_2_0:
2902 ; GFX940:       ; %bb.0:
2903 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2904 ; GFX940-NEXT:    ;;#ASMSTART
2905 ; GFX940-NEXT:    ; def v[0:7]
2906 ; GFX940-NEXT:    ;;#ASMEND
2907 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
2908 ; GFX940-NEXT:    ;;#ASMSTART
2909 ; GFX940-NEXT:    ; def v[6:13]
2910 ; GFX940-NEXT:    ;;#ASMEND
2911 ; GFX940-NEXT:    s_nop 0
2912 ; GFX940-NEXT:    v_mov_b32_e32 v6, v0
2913 ; GFX940-NEXT:    v_mov_b32_e32 v7, v1
2914 ; GFX940-NEXT:    v_mov_b32_e32 v10, v12
2915 ; GFX940-NEXT:    v_mov_b32_e32 v11, v13
2916 ; GFX940-NEXT:    global_store_dwordx4 v14, v[4:7], s[0:1] offset:16 sc0 sc1
2917 ; GFX940-NEXT:    global_store_dwordx4 v14, v[10:13], s[0:1] sc0 sc1
2918 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
2919 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
2920   %vec0 = call <4 x i64> asm "; def $0", "=v"()
2921   %vec1 = call <4 x i64> asm "; def $0", "=v"()
2922   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 2, i32 0>
2923   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
2924   ret void
2925 }
2926
2927 define void @v_shuffle_v4i64_v4i64__7_7_3_0(ptr addrspace(1) inreg %ptr) {
2928 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_3_0:
2929 ; GFX900:       ; %bb.0:
2930 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2931 ; GFX900-NEXT:    ;;#ASMSTART
2932 ; GFX900-NEXT:    ; def v[0:7]
2933 ; GFX900-NEXT:    ;;#ASMEND
2934 ; GFX900-NEXT:    v_mov_b32_e32 v8, v6
2935 ; GFX900-NEXT:    v_mov_b32_e32 v9, v7
2936 ; GFX900-NEXT:    v_mov_b32_e32 v10, v0
2937 ; GFX900-NEXT:    v_mov_b32_e32 v11, v1
2938 ; GFX900-NEXT:    ;;#ASMSTART
2939 ; GFX900-NEXT:    ; def v[0:7]
2940 ; GFX900-NEXT:    ;;#ASMEND
2941 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
2942 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
2943 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
2944 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17] offset:16
2945 ; GFX900-NEXT:    global_store_dwordx4 v12, v[4:7], s[16:17]
2946 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
2947 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
2948 ;
2949 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_3_0:
2950 ; GFX90A:       ; %bb.0:
2951 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2952 ; GFX90A-NEXT:    ;;#ASMSTART
2953 ; GFX90A-NEXT:    ; def v[0:7]
2954 ; GFX90A-NEXT:    ;;#ASMEND
2955 ; GFX90A-NEXT:    ;;#ASMSTART
2956 ; GFX90A-NEXT:    ; def v[8:15]
2957 ; GFX90A-NEXT:    ;;#ASMEND
2958 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
2959 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
2960 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
2961 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
2962 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
2963 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v14
2964 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v15
2965 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[2:5], s[16:17] offset:16
2966 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
2967 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
2968 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
2969 ;
2970 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_3_0:
2971 ; GFX940:       ; %bb.0:
2972 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
2973 ; GFX940-NEXT:    ;;#ASMSTART
2974 ; GFX940-NEXT:    ; def v[0:7]
2975 ; GFX940-NEXT:    ;;#ASMEND
2976 ; GFX940-NEXT:    ;;#ASMSTART
2977 ; GFX940-NEXT:    ; def v[8:15]
2978 ; GFX940-NEXT:    ;;#ASMEND
2979 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
2980 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
2981 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
2982 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
2983 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
2984 ; GFX940-NEXT:    v_mov_b32_e32 v12, v14
2985 ; GFX940-NEXT:    v_mov_b32_e32 v13, v15
2986 ; GFX940-NEXT:    global_store_dwordx4 v16, v[2:5], s[0:1] offset:16 sc0 sc1
2987 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] sc0 sc1
2988 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
2989 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
2990   %vec0 = call <4 x i64> asm "; def $0", "=v"()
2991   %vec1 = call <4 x i64> asm "; def $0", "=v"()
2992   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 3, i32 0>
2993   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
2994   ret void
2995 }
2996
2997 define void @v_shuffle_v4i64_v4i64__7_7_4_0(ptr addrspace(1) inreg %ptr) {
2998 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_4_0:
2999 ; GFX900:       ; %bb.0:
3000 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3001 ; GFX900-NEXT:    ;;#ASMSTART
3002 ; GFX900-NEXT:    ; def v[0:7]
3003 ; GFX900-NEXT:    ;;#ASMEND
3004 ; GFX900-NEXT:    ;;#ASMSTART
3005 ; GFX900-NEXT:    ; def v[2:9]
3006 ; GFX900-NEXT:    ;;#ASMEND
3007 ; GFX900-NEXT:    v_mov_b32_e32 v10, 0
3008 ; GFX900-NEXT:    v_mov_b32_e32 v4, v0
3009 ; GFX900-NEXT:    v_mov_b32_e32 v5, v1
3010 ; GFX900-NEXT:    v_mov_b32_e32 v6, v8
3011 ; GFX900-NEXT:    v_mov_b32_e32 v7, v9
3012 ; GFX900-NEXT:    global_store_dwordx4 v10, v[2:5], s[16:17] offset:16
3013 ; GFX900-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17]
3014 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
3015 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
3016 ;
3017 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_4_0:
3018 ; GFX90A:       ; %bb.0:
3019 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3020 ; GFX90A-NEXT:    ;;#ASMSTART
3021 ; GFX90A-NEXT:    ; def v[0:7]
3022 ; GFX90A-NEXT:    ;;#ASMEND
3023 ; GFX90A-NEXT:    ;;#ASMSTART
3024 ; GFX90A-NEXT:    ; def v[2:9]
3025 ; GFX90A-NEXT:    ;;#ASMEND
3026 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
3027 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
3028 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
3029 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v8
3030 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v9
3031 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[2:5], s[16:17] offset:16
3032 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17]
3033 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
3034 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
3035 ;
3036 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_4_0:
3037 ; GFX940:       ; %bb.0:
3038 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3039 ; GFX940-NEXT:    ;;#ASMSTART
3040 ; GFX940-NEXT:    ; def v[0:7]
3041 ; GFX940-NEXT:    ;;#ASMEND
3042 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
3043 ; GFX940-NEXT:    ;;#ASMSTART
3044 ; GFX940-NEXT:    ; def v[2:9]
3045 ; GFX940-NEXT:    ;;#ASMEND
3046 ; GFX940-NEXT:    s_nop 0
3047 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
3048 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
3049 ; GFX940-NEXT:    v_mov_b32_e32 v6, v8
3050 ; GFX940-NEXT:    v_mov_b32_e32 v7, v9
3051 ; GFX940-NEXT:    global_store_dwordx4 v10, v[2:5], s[0:1] offset:16 sc0 sc1
3052 ; GFX940-NEXT:    global_store_dwordx4 v10, v[6:9], s[0:1] sc0 sc1
3053 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
3054 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
3055   %vec0 = call <4 x i64> asm "; def $0", "=v"()
3056   %vec1 = call <4 x i64> asm "; def $0", "=v"()
3057   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 4, i32 0>
3058   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
3059   ret void
3060 }
3061
3062 define void @v_shuffle_v4i64_v4i64__7_7_5_0(ptr addrspace(1) inreg %ptr) {
3063 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_5_0:
3064 ; GFX900:       ; %bb.0:
3065 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3066 ; GFX900-NEXT:    ;;#ASMSTART
3067 ; GFX900-NEXT:    ; def v[0:7]
3068 ; GFX900-NEXT:    ;;#ASMEND
3069 ; GFX900-NEXT:    ;;#ASMSTART
3070 ; GFX900-NEXT:    ; def v[2:9]
3071 ; GFX900-NEXT:    ;;#ASMEND
3072 ; GFX900-NEXT:    v_mov_b32_e32 v10, 0
3073 ; GFX900-NEXT:    v_mov_b32_e32 v6, v0
3074 ; GFX900-NEXT:    v_mov_b32_e32 v7, v1
3075 ; GFX900-NEXT:    global_store_dwordx4 v10, v[4:7], s[16:17] offset:16
3076 ; GFX900-NEXT:    s_nop 0
3077 ; GFX900-NEXT:    v_mov_b32_e32 v6, v8
3078 ; GFX900-NEXT:    v_mov_b32_e32 v7, v9
3079 ; GFX900-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17]
3080 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
3081 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
3082 ;
3083 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_5_0:
3084 ; GFX90A:       ; %bb.0:
3085 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3086 ; GFX90A-NEXT:    ;;#ASMSTART
3087 ; GFX90A-NEXT:    ; def v[0:7]
3088 ; GFX90A-NEXT:    ;;#ASMEND
3089 ; GFX90A-NEXT:    ;;#ASMSTART
3090 ; GFX90A-NEXT:    ; def v[2:9]
3091 ; GFX90A-NEXT:    ;;#ASMEND
3092 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
3093 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v0
3094 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v1
3095 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[4:7], s[16:17] offset:16
3096 ; GFX90A-NEXT:    s_nop 0
3097 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v8
3098 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v9
3099 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17]
3100 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
3101 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
3102 ;
3103 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_5_0:
3104 ; GFX940:       ; %bb.0:
3105 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3106 ; GFX940-NEXT:    ;;#ASMSTART
3107 ; GFX940-NEXT:    ; def v[0:7]
3108 ; GFX940-NEXT:    ;;#ASMEND
3109 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
3110 ; GFX940-NEXT:    ;;#ASMSTART
3111 ; GFX940-NEXT:    ; def v[2:9]
3112 ; GFX940-NEXT:    ;;#ASMEND
3113 ; GFX940-NEXT:    s_nop 0
3114 ; GFX940-NEXT:    v_mov_b32_e32 v6, v0
3115 ; GFX940-NEXT:    v_mov_b32_e32 v7, v1
3116 ; GFX940-NEXT:    global_store_dwordx4 v10, v[4:7], s[0:1] offset:16 sc0 sc1
3117 ; GFX940-NEXT:    s_nop 1
3118 ; GFX940-NEXT:    v_mov_b32_e32 v6, v8
3119 ; GFX940-NEXT:    v_mov_b32_e32 v7, v9
3120 ; GFX940-NEXT:    global_store_dwordx4 v10, v[6:9], s[0:1] sc0 sc1
3121 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
3122 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
3123   %vec0 = call <4 x i64> asm "; def $0", "=v"()
3124   %vec1 = call <4 x i64> asm "; def $0", "=v"()
3125   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 5, i32 0>
3126   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
3127   ret void
3128 }
3129
3130 define void @v_shuffle_v4i64_v4i64__7_7_6_0(ptr addrspace(1) inreg %ptr) {
3131 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_6_0:
3132 ; GFX900:       ; %bb.0:
3133 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3134 ; GFX900-NEXT:    ;;#ASMSTART
3135 ; GFX900-NEXT:    ; def v[0:7]
3136 ; GFX900-NEXT:    ;;#ASMEND
3137 ; GFX900-NEXT:    v_mov_b32_e32 v10, v0
3138 ; GFX900-NEXT:    v_mov_b32_e32 v11, v1
3139 ; GFX900-NEXT:    ;;#ASMSTART
3140 ; GFX900-NEXT:    ; def v[0:7]
3141 ; GFX900-NEXT:    ;;#ASMEND
3142 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
3143 ; GFX900-NEXT:    v_mov_b32_e32 v8, v4
3144 ; GFX900-NEXT:    v_mov_b32_e32 v9, v5
3145 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
3146 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
3147 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17] offset:16
3148 ; GFX900-NEXT:    global_store_dwordx4 v12, v[4:7], s[16:17]
3149 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
3150 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
3151 ;
3152 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_6_0:
3153 ; GFX90A:       ; %bb.0:
3154 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3155 ; GFX90A-NEXT:    ;;#ASMSTART
3156 ; GFX90A-NEXT:    ; def v[0:7]
3157 ; GFX90A-NEXT:    ;;#ASMEND
3158 ; GFX90A-NEXT:    ;;#ASMSTART
3159 ; GFX90A-NEXT:    ; def v[2:9]
3160 ; GFX90A-NEXT:    ;;#ASMEND
3161 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
3162 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
3163 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
3164 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
3165 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
3166 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v8
3167 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v9
3168 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[2:5], s[16:17] offset:16
3169 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17]
3170 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
3171 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
3172 ;
3173 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_6_0:
3174 ; GFX940:       ; %bb.0:
3175 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3176 ; GFX940-NEXT:    ;;#ASMSTART
3177 ; GFX940-NEXT:    ; def v[0:7]
3178 ; GFX940-NEXT:    ;;#ASMEND
3179 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
3180 ; GFX940-NEXT:    ;;#ASMSTART
3181 ; GFX940-NEXT:    ; def v[2:9]
3182 ; GFX940-NEXT:    ;;#ASMEND
3183 ; GFX940-NEXT:    s_nop 0
3184 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
3185 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
3186 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
3187 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
3188 ; GFX940-NEXT:    v_mov_b32_e32 v6, v8
3189 ; GFX940-NEXT:    v_mov_b32_e32 v7, v9
3190 ; GFX940-NEXT:    global_store_dwordx4 v10, v[2:5], s[0:1] offset:16 sc0 sc1
3191 ; GFX940-NEXT:    global_store_dwordx4 v10, v[6:9], s[0:1] sc0 sc1
3192 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
3193 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
3194   %vec0 = call <4 x i64> asm "; def $0", "=v"()
3195   %vec1 = call <4 x i64> asm "; def $0", "=v"()
3196   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 6, i32 0>
3197   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
3198   ret void
3199 }
3200
3201 define void @v_shuffle_v4i64_v4i64__u_1_1_1(ptr addrspace(1) inreg %ptr) {
3202 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__u_1_1_1:
3203 ; GFX900:       ; %bb.0:
3204 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3205 ; GFX900-NEXT:    ;;#ASMSTART
3206 ; GFX900-NEXT:    ; def v[0:7]
3207 ; GFX900-NEXT:    ;;#ASMEND
3208 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
3209 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
3210 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
3211 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
3212 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
3213 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
3214 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
3215 ;
3216 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__u_1_1_1:
3217 ; GFX90A:       ; %bb.0:
3218 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3219 ; GFX90A-NEXT:    ;;#ASMSTART
3220 ; GFX90A-NEXT:    ; def v[0:7]
3221 ; GFX90A-NEXT:    ;;#ASMEND
3222 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
3223 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
3224 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
3225 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
3226 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
3227 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
3228 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
3229 ;
3230 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__u_1_1_1:
3231 ; GFX940:       ; %bb.0:
3232 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3233 ; GFX940-NEXT:    ;;#ASMSTART
3234 ; GFX940-NEXT:    ; def v[0:7]
3235 ; GFX940-NEXT:    ;;#ASMEND
3236 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
3237 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
3238 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
3239 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
3240 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
3241 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
3242 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
3243   %vec0 = call <4 x i64> asm "; def $0", "=v"()
3244   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 poison, i32 1, i32 1, i32 1>
3245   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
3246   ret void
3247 }
3248
3249 define void @v_shuffle_v4i64_v4i64__0_1_1_1(ptr addrspace(1) inreg %ptr) {
3250 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__0_1_1_1:
3251 ; GFX900:       ; %bb.0:
3252 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3253 ; GFX900-NEXT:    ;;#ASMSTART
3254 ; GFX900-NEXT:    ; def v[0:7]
3255 ; GFX900-NEXT:    ;;#ASMEND
3256 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
3257 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
3258 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
3259 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
3260 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
3261 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
3262 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
3263 ;
3264 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__0_1_1_1:
3265 ; GFX90A:       ; %bb.0:
3266 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3267 ; GFX90A-NEXT:    ;;#ASMSTART
3268 ; GFX90A-NEXT:    ; def v[0:7]
3269 ; GFX90A-NEXT:    ;;#ASMEND
3270 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
3271 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
3272 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
3273 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
3274 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
3275 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
3276 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
3277 ;
3278 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__0_1_1_1:
3279 ; GFX940:       ; %bb.0:
3280 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3281 ; GFX940-NEXT:    ;;#ASMSTART
3282 ; GFX940-NEXT:    ; def v[0:7]
3283 ; GFX940-NEXT:    ;;#ASMEND
3284 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
3285 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
3286 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
3287 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
3288 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
3289 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
3290 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
3291   %vec0 = call <4 x i64> asm "; def $0", "=v"()
3292   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 0, i32 1, i32 1, i32 1>
3293   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
3294   ret void
3295 }
3296
3297 define void @v_shuffle_v4i64_v4i64__1_1_1_1(ptr addrspace(1) inreg %ptr) {
3298 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__1_1_1_1:
3299 ; GFX900:       ; %bb.0:
3300 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3301 ; GFX900-NEXT:    ;;#ASMSTART
3302 ; GFX900-NEXT:    ; def v[0:7]
3303 ; GFX900-NEXT:    ;;#ASMEND
3304 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
3305 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
3306 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
3307 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
3308 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
3309 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
3310 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
3311 ;
3312 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__1_1_1_1:
3313 ; GFX90A:       ; %bb.0:
3314 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3315 ; GFX90A-NEXT:    ;;#ASMSTART
3316 ; GFX90A-NEXT:    ; def v[0:7]
3317 ; GFX90A-NEXT:    ;;#ASMEND
3318 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
3319 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
3320 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
3321 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
3322 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
3323 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
3324 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
3325 ;
3326 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__1_1_1_1:
3327 ; GFX940:       ; %bb.0:
3328 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3329 ; GFX940-NEXT:    ;;#ASMSTART
3330 ; GFX940-NEXT:    ; def v[0:7]
3331 ; GFX940-NEXT:    ;;#ASMEND
3332 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
3333 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
3334 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
3335 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
3336 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
3337 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
3338 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
3339   %vec0 = call <4 x i64> asm "; def $0", "=v"()
3340   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 1, i32 1, i32 1, i32 1>
3341   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
3342   ret void
3343 }
3344
3345 define void @v_shuffle_v4i64_v4i64__2_1_1_1(ptr addrspace(1) inreg %ptr) {
3346 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__2_1_1_1:
3347 ; GFX900:       ; %bb.0:
3348 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3349 ; GFX900-NEXT:    ;;#ASMSTART
3350 ; GFX900-NEXT:    ; def v[0:7]
3351 ; GFX900-NEXT:    ;;#ASMEND
3352 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
3353 ; GFX900-NEXT:    v_mov_b32_e32 v0, v2
3354 ; GFX900-NEXT:    v_mov_b32_e32 v1, v3
3355 ; GFX900-NEXT:    v_mov_b32_e32 v6, v2
3356 ; GFX900-NEXT:    v_mov_b32_e32 v7, v3
3357 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
3358 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
3359 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
3360 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
3361 ;
3362 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__2_1_1_1:
3363 ; GFX90A:       ; %bb.0:
3364 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3365 ; GFX90A-NEXT:    ;;#ASMSTART
3366 ; GFX90A-NEXT:    ; def v[0:7]
3367 ; GFX90A-NEXT:    ;;#ASMEND
3368 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
3369 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v2
3370 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v3
3371 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v2
3372 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v3
3373 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
3374 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
3375 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
3376 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
3377 ;
3378 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__2_1_1_1:
3379 ; GFX940:       ; %bb.0:
3380 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3381 ; GFX940-NEXT:    ;;#ASMSTART
3382 ; GFX940-NEXT:    ; def v[0:7]
3383 ; GFX940-NEXT:    ;;#ASMEND
3384 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
3385 ; GFX940-NEXT:    v_mov_b32_e32 v0, v2
3386 ; GFX940-NEXT:    v_mov_b32_e32 v1, v3
3387 ; GFX940-NEXT:    v_mov_b32_e32 v6, v2
3388 ; GFX940-NEXT:    v_mov_b32_e32 v7, v3
3389 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
3390 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
3391 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
3392 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
3393   %vec0 = call <4 x i64> asm "; def $0", "=v"()
3394   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 2, i32 1, i32 1, i32 1>
3395   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
3396   ret void
3397 }
3398
3399 define void @v_shuffle_v4i64_v4i64__3_1_1_1(ptr addrspace(1) inreg %ptr) {
3400 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__3_1_1_1:
3401 ; GFX900:       ; %bb.0:
3402 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3403 ; GFX900-NEXT:    ;;#ASMSTART
3404 ; GFX900-NEXT:    ; def v[0:7]
3405 ; GFX900-NEXT:    ;;#ASMEND
3406 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
3407 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
3408 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
3409 ; GFX900-NEXT:    v_mov_b32_e32 v0, v6
3410 ; GFX900-NEXT:    v_mov_b32_e32 v1, v7
3411 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
3412 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
3413 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
3414 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
3415 ;
3416 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__3_1_1_1:
3417 ; GFX90A:       ; %bb.0:
3418 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3419 ; GFX90A-NEXT:    ;;#ASMSTART
3420 ; GFX90A-NEXT:    ; def v[0:7]
3421 ; GFX90A-NEXT:    ;;#ASMEND
3422 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
3423 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
3424 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
3425 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v6
3426 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v7
3427 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
3428 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
3429 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
3430 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
3431 ;
3432 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__3_1_1_1:
3433 ; GFX940:       ; %bb.0:
3434 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3435 ; GFX940-NEXT:    ;;#ASMSTART
3436 ; GFX940-NEXT:    ; def v[0:7]
3437 ; GFX940-NEXT:    ;;#ASMEND
3438 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
3439 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
3440 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
3441 ; GFX940-NEXT:    v_mov_b32_e32 v0, v6
3442 ; GFX940-NEXT:    v_mov_b32_e32 v1, v7
3443 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
3444 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
3445 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
3446 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
3447   %vec0 = call <4 x i64> asm "; def $0", "=v"()
3448   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 3, i32 1, i32 1, i32 1>
3449   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
3450   ret void
3451 }
3452
3453 define void @v_shuffle_v4i64_v4i64__4_1_1_1(ptr addrspace(1) inreg %ptr) {
3454 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__4_1_1_1:
3455 ; GFX900:       ; %bb.0:
3456 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3457 ; GFX900-NEXT:    ;;#ASMSTART
3458 ; GFX900-NEXT:    ; def v[0:7]
3459 ; GFX900-NEXT:    ;;#ASMEND
3460 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
3461 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
3462 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
3463 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
3464 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
3465 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
3466 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
3467 ;
3468 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__4_1_1_1:
3469 ; GFX90A:       ; %bb.0:
3470 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3471 ; GFX90A-NEXT:    ;;#ASMSTART
3472 ; GFX90A-NEXT:    ; def v[0:7]
3473 ; GFX90A-NEXT:    ;;#ASMEND
3474 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
3475 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
3476 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
3477 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
3478 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
3479 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
3480 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
3481 ;
3482 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__4_1_1_1:
3483 ; GFX940:       ; %bb.0:
3484 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3485 ; GFX940-NEXT:    ;;#ASMSTART
3486 ; GFX940-NEXT:    ; def v[0:7]
3487 ; GFX940-NEXT:    ;;#ASMEND
3488 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
3489 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
3490 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
3491 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
3492 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
3493 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
3494 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
3495   %vec0 = call <4 x i64> asm "; def $0", "=v"()
3496   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 4, i32 1, i32 1, i32 1>
3497   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
3498   ret void
3499 }
3500
3501 define void @v_shuffle_v4i64_v4i64__5_1_1_1(ptr addrspace(1) inreg %ptr) {
3502 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__5_1_1_1:
3503 ; GFX900:       ; %bb.0:
3504 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3505 ; GFX900-NEXT:    ;;#ASMSTART
3506 ; GFX900-NEXT:    ; def v[0:7]
3507 ; GFX900-NEXT:    ;;#ASMEND
3508 ; GFX900-NEXT:    ;;#ASMSTART
3509 ; GFX900-NEXT:    ; def v[4:11]
3510 ; GFX900-NEXT:    ;;#ASMEND
3511 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
3512 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
3513 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
3514 ; GFX900-NEXT:    v_mov_b32_e32 v8, v2
3515 ; GFX900-NEXT:    v_mov_b32_e32 v9, v3
3516 ; GFX900-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
3517 ; GFX900-NEXT:    global_store_dwordx4 v12, v[6:9], s[16:17]
3518 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
3519 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
3520 ;
3521 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__5_1_1_1:
3522 ; GFX90A:       ; %bb.0:
3523 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3524 ; GFX90A-NEXT:    ;;#ASMSTART
3525 ; GFX90A-NEXT:    ; def v[0:7]
3526 ; GFX90A-NEXT:    ;;#ASMEND
3527 ; GFX90A-NEXT:    ;;#ASMSTART
3528 ; GFX90A-NEXT:    ; def v[4:11]
3529 ; GFX90A-NEXT:    ;;#ASMEND
3530 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
3531 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
3532 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
3533 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v2
3534 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v3
3535 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
3536 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[6:9], s[16:17]
3537 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
3538 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
3539 ;
3540 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__5_1_1_1:
3541 ; GFX940:       ; %bb.0:
3542 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3543 ; GFX940-NEXT:    ;;#ASMSTART
3544 ; GFX940-NEXT:    ; def v[0:7]
3545 ; GFX940-NEXT:    ;;#ASMEND
3546 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
3547 ; GFX940-NEXT:    ;;#ASMSTART
3548 ; GFX940-NEXT:    ; def v[4:11]
3549 ; GFX940-NEXT:    ;;#ASMEND
3550 ; GFX940-NEXT:    s_nop 0
3551 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
3552 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
3553 ; GFX940-NEXT:    v_mov_b32_e32 v8, v2
3554 ; GFX940-NEXT:    v_mov_b32_e32 v9, v3
3555 ; GFX940-NEXT:    global_store_dwordx4 v12, v[2:5], s[0:1] offset:16 sc0 sc1
3556 ; GFX940-NEXT:    global_store_dwordx4 v12, v[6:9], s[0:1] sc0 sc1
3557 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
3558 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
3559   %vec0 = call <4 x i64> asm "; def $0", "=v"()
3560   %vec1 = call <4 x i64> asm "; def $0", "=v"()
3561   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 5, i32 1, i32 1, i32 1>
3562   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
3563   ret void
3564 }
3565
3566 define void @v_shuffle_v4i64_v4i64__6_1_1_1(ptr addrspace(1) inreg %ptr) {
3567 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__6_1_1_1:
3568 ; GFX900:       ; %bb.0:
3569 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3570 ; GFX900-NEXT:    ;;#ASMSTART
3571 ; GFX900-NEXT:    ; def v[0:7]
3572 ; GFX900-NEXT:    ;;#ASMEND
3573 ; GFX900-NEXT:    ;;#ASMSTART
3574 ; GFX900-NEXT:    ; def v[4:11]
3575 ; GFX900-NEXT:    ;;#ASMEND
3576 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
3577 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
3578 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
3579 ; GFX900-NEXT:    v_mov_b32_e32 v10, v2
3580 ; GFX900-NEXT:    v_mov_b32_e32 v11, v3
3581 ; GFX900-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
3582 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
3583 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
3584 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
3585 ;
3586 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__6_1_1_1:
3587 ; GFX90A:       ; %bb.0:
3588 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3589 ; GFX90A-NEXT:    ;;#ASMSTART
3590 ; GFX90A-NEXT:    ; def v[0:7]
3591 ; GFX90A-NEXT:    ;;#ASMEND
3592 ; GFX90A-NEXT:    ;;#ASMSTART
3593 ; GFX90A-NEXT:    ; def v[4:11]
3594 ; GFX90A-NEXT:    ;;#ASMEND
3595 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
3596 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
3597 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
3598 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v2
3599 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v3
3600 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
3601 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
3602 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
3603 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
3604 ;
3605 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__6_1_1_1:
3606 ; GFX940:       ; %bb.0:
3607 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3608 ; GFX940-NEXT:    ;;#ASMSTART
3609 ; GFX940-NEXT:    ; def v[0:7]
3610 ; GFX940-NEXT:    ;;#ASMEND
3611 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
3612 ; GFX940-NEXT:    ;;#ASMSTART
3613 ; GFX940-NEXT:    ; def v[4:11]
3614 ; GFX940-NEXT:    ;;#ASMEND
3615 ; GFX940-NEXT:    s_nop 0
3616 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
3617 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
3618 ; GFX940-NEXT:    v_mov_b32_e32 v10, v2
3619 ; GFX940-NEXT:    v_mov_b32_e32 v11, v3
3620 ; GFX940-NEXT:    global_store_dwordx4 v12, v[2:5], s[0:1] offset:16 sc0 sc1
3621 ; GFX940-NEXT:    global_store_dwordx4 v12, v[8:11], s[0:1] sc0 sc1
3622 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
3623 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
3624   %vec0 = call <4 x i64> asm "; def $0", "=v"()
3625   %vec1 = call <4 x i64> asm "; def $0", "=v"()
3626   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 6, i32 1, i32 1, i32 1>
3627   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
3628   ret void
3629 }
3630
3631 define void @v_shuffle_v4i64_v4i64__7_1_1_1(ptr addrspace(1) inreg %ptr) {
3632 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_1_1_1:
3633 ; GFX900:       ; %bb.0:
3634 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3635 ; GFX900-NEXT:    ;;#ASMSTART
3636 ; GFX900-NEXT:    ; def v[0:7]
3637 ; GFX900-NEXT:    ;;#ASMEND
3638 ; GFX900-NEXT:    ;;#ASMSTART
3639 ; GFX900-NEXT:    ; def v[4:11]
3640 ; GFX900-NEXT:    ;;#ASMEND
3641 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
3642 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
3643 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
3644 ; GFX900-NEXT:    v_mov_b32_e32 v0, v10
3645 ; GFX900-NEXT:    v_mov_b32_e32 v1, v11
3646 ; GFX900-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
3647 ; GFX900-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17]
3648 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
3649 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
3650 ;
3651 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_1_1_1:
3652 ; GFX90A:       ; %bb.0:
3653 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3654 ; GFX90A-NEXT:    ;;#ASMSTART
3655 ; GFX90A-NEXT:    ; def v[0:7]
3656 ; GFX90A-NEXT:    ;;#ASMEND
3657 ; GFX90A-NEXT:    ;;#ASMSTART
3658 ; GFX90A-NEXT:    ; def v[4:11]
3659 ; GFX90A-NEXT:    ;;#ASMEND
3660 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
3661 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
3662 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
3663 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v10
3664 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v11
3665 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
3666 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17]
3667 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
3668 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
3669 ;
3670 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_1_1_1:
3671 ; GFX940:       ; %bb.0:
3672 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3673 ; GFX940-NEXT:    ;;#ASMSTART
3674 ; GFX940-NEXT:    ; def v[0:7]
3675 ; GFX940-NEXT:    ;;#ASMEND
3676 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
3677 ; GFX940-NEXT:    ;;#ASMSTART
3678 ; GFX940-NEXT:    ; def v[4:11]
3679 ; GFX940-NEXT:    ;;#ASMEND
3680 ; GFX940-NEXT:    s_nop 0
3681 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
3682 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
3683 ; GFX940-NEXT:    v_mov_b32_e32 v0, v10
3684 ; GFX940-NEXT:    v_mov_b32_e32 v1, v11
3685 ; GFX940-NEXT:    global_store_dwordx4 v12, v[2:5], s[0:1] offset:16 sc0 sc1
3686 ; GFX940-NEXT:    global_store_dwordx4 v12, v[0:3], s[0:1] sc0 sc1
3687 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
3688 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
3689   %vec0 = call <4 x i64> asm "; def $0", "=v"()
3690   %vec1 = call <4 x i64> asm "; def $0", "=v"()
3691   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 1, i32 1, i32 1>
3692   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
3693   ret void
3694 }
3695
3696 define void @v_shuffle_v4i64_v4i64__7_u_1_1(ptr addrspace(1) inreg %ptr) {
3697 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_u_1_1:
3698 ; GFX900:       ; %bb.0:
3699 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3700 ; GFX900-NEXT:    ;;#ASMSTART
3701 ; GFX900-NEXT:    ; def v[0:7]
3702 ; GFX900-NEXT:    ;;#ASMEND
3703 ; GFX900-NEXT:    ;;#ASMSTART
3704 ; GFX900-NEXT:    ; def v[4:11]
3705 ; GFX900-NEXT:    ;;#ASMEND
3706 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
3707 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
3708 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
3709 ; GFX900-NEXT:    v_mov_b32_e32 v0, v10
3710 ; GFX900-NEXT:    v_mov_b32_e32 v1, v11
3711 ; GFX900-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
3712 ; GFX900-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17]
3713 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
3714 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
3715 ;
3716 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_u_1_1:
3717 ; GFX90A:       ; %bb.0:
3718 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3719 ; GFX90A-NEXT:    ;;#ASMSTART
3720 ; GFX90A-NEXT:    ; def v[0:7]
3721 ; GFX90A-NEXT:    ;;#ASMEND
3722 ; GFX90A-NEXT:    ;;#ASMSTART
3723 ; GFX90A-NEXT:    ; def v[4:11]
3724 ; GFX90A-NEXT:    ;;#ASMEND
3725 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
3726 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
3727 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
3728 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v10
3729 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v11
3730 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
3731 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17]
3732 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
3733 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
3734 ;
3735 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_u_1_1:
3736 ; GFX940:       ; %bb.0:
3737 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3738 ; GFX940-NEXT:    ;;#ASMSTART
3739 ; GFX940-NEXT:    ; def v[0:7]
3740 ; GFX940-NEXT:    ;;#ASMEND
3741 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
3742 ; GFX940-NEXT:    ;;#ASMSTART
3743 ; GFX940-NEXT:    ; def v[4:11]
3744 ; GFX940-NEXT:    ;;#ASMEND
3745 ; GFX940-NEXT:    s_nop 0
3746 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
3747 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
3748 ; GFX940-NEXT:    v_mov_b32_e32 v0, v10
3749 ; GFX940-NEXT:    v_mov_b32_e32 v1, v11
3750 ; GFX940-NEXT:    global_store_dwordx4 v12, v[2:5], s[0:1] offset:16 sc0 sc1
3751 ; GFX940-NEXT:    global_store_dwordx4 v12, v[0:3], s[0:1] sc0 sc1
3752 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
3753 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
3754   %vec0 = call <4 x i64> asm "; def $0", "=v"()
3755   %vec1 = call <4 x i64> asm "; def $0", "=v"()
3756   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 poison, i32 1, i32 1>
3757   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
3758   ret void
3759 }
3760
3761 define void @v_shuffle_v4i64_v4i64__7_0_1_1(ptr addrspace(1) inreg %ptr) {
3762 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_0_1_1:
3763 ; GFX900:       ; %bb.0:
3764 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3765 ; GFX900-NEXT:    ;;#ASMSTART
3766 ; GFX900-NEXT:    ; def v[0:7]
3767 ; GFX900-NEXT:    ;;#ASMEND
3768 ; GFX900-NEXT:    v_mov_b32_e32 v8, v6
3769 ; GFX900-NEXT:    v_mov_b32_e32 v9, v7
3770 ; GFX900-NEXT:    ;;#ASMSTART
3771 ; GFX900-NEXT:    ; def v[0:7]
3772 ; GFX900-NEXT:    ;;#ASMEND
3773 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
3774 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
3775 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
3776 ; GFX900-NEXT:    v_mov_b32_e32 v10, v0
3777 ; GFX900-NEXT:    v_mov_b32_e32 v11, v1
3778 ; GFX900-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
3779 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
3780 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
3781 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
3782 ;
3783 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_0_1_1:
3784 ; GFX90A:       ; %bb.0:
3785 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3786 ; GFX90A-NEXT:    ;;#ASMSTART
3787 ; GFX90A-NEXT:    ; def v[0:7]
3788 ; GFX90A-NEXT:    ;;#ASMEND
3789 ; GFX90A-NEXT:    ;;#ASMSTART
3790 ; GFX90A-NEXT:    ; def v[4:11]
3791 ; GFX90A-NEXT:    ;;#ASMEND
3792 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
3793 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
3794 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
3795 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
3796 ; GFX90A-NEXT:    s_nop 0
3797 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v10
3798 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v11
3799 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
3800 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
3801 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17]
3802 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
3803 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
3804 ;
3805 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_0_1_1:
3806 ; GFX940:       ; %bb.0:
3807 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3808 ; GFX940-NEXT:    ;;#ASMSTART
3809 ; GFX940-NEXT:    ; def v[0:7]
3810 ; GFX940-NEXT:    ;;#ASMEND
3811 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
3812 ; GFX940-NEXT:    ;;#ASMSTART
3813 ; GFX940-NEXT:    ; def v[4:11]
3814 ; GFX940-NEXT:    ;;#ASMEND
3815 ; GFX940-NEXT:    s_nop 0
3816 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
3817 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
3818 ; GFX940-NEXT:    global_store_dwordx4 v12, v[2:5], s[0:1] offset:16 sc0 sc1
3819 ; GFX940-NEXT:    s_nop 1
3820 ; GFX940-NEXT:    v_mov_b32_e32 v2, v10
3821 ; GFX940-NEXT:    v_mov_b32_e32 v3, v11
3822 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
3823 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
3824 ; GFX940-NEXT:    global_store_dwordx4 v12, v[2:5], s[0:1] sc0 sc1
3825 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
3826 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
3827   %vec0 = call <4 x i64> asm "; def $0", "=v"()
3828   %vec1 = call <4 x i64> asm "; def $0", "=v"()
3829   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 0, i32 1, i32 1>
3830   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
3831   ret void
3832 }
3833
3834 define void @v_shuffle_v4i64_v4i64__7_2_1_1(ptr addrspace(1) inreg %ptr) {
3835 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_2_1_1:
3836 ; GFX900:       ; %bb.0:
3837 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3838 ; GFX900-NEXT:    ;;#ASMSTART
3839 ; GFX900-NEXT:    ; def v[0:7]
3840 ; GFX900-NEXT:    ;;#ASMEND
3841 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
3842 ; GFX900-NEXT:    v_mov_b32_e32 v0, v2
3843 ; GFX900-NEXT:    v_mov_b32_e32 v1, v3
3844 ; GFX900-NEXT:    ;;#ASMSTART
3845 ; GFX900-NEXT:    ; def v[6:13]
3846 ; GFX900-NEXT:    ;;#ASMEND
3847 ; GFX900-NEXT:    global_store_dwordx4 v14, v[0:3], s[16:17] offset:16
3848 ; GFX900-NEXT:    s_nop 0
3849 ; GFX900-NEXT:    v_mov_b32_e32 v2, v12
3850 ; GFX900-NEXT:    v_mov_b32_e32 v3, v13
3851 ; GFX900-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17]
3852 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
3853 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
3854 ;
3855 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_2_1_1:
3856 ; GFX90A:       ; %bb.0:
3857 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3858 ; GFX90A-NEXT:    ;;#ASMSTART
3859 ; GFX90A-NEXT:    ; def v[0:7]
3860 ; GFX90A-NEXT:    ;;#ASMEND
3861 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
3862 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v2
3863 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v3
3864 ; GFX90A-NEXT:    ;;#ASMSTART
3865 ; GFX90A-NEXT:    ; def v[6:13]
3866 ; GFX90A-NEXT:    ;;#ASMEND
3867 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[0:3], s[16:17] offset:16
3868 ; GFX90A-NEXT:    s_nop 0
3869 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v12
3870 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v13
3871 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17]
3872 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
3873 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
3874 ;
3875 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_2_1_1:
3876 ; GFX940:       ; %bb.0:
3877 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3878 ; GFX940-NEXT:    ;;#ASMSTART
3879 ; GFX940-NEXT:    ; def v[0:7]
3880 ; GFX940-NEXT:    ;;#ASMEND
3881 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
3882 ; GFX940-NEXT:    v_mov_b32_e32 v0, v2
3883 ; GFX940-NEXT:    v_mov_b32_e32 v1, v3
3884 ; GFX940-NEXT:    ;;#ASMSTART
3885 ; GFX940-NEXT:    ; def v[6:13]
3886 ; GFX940-NEXT:    ;;#ASMEND
3887 ; GFX940-NEXT:    global_store_dwordx4 v14, v[0:3], s[0:1] offset:16 sc0 sc1
3888 ; GFX940-NEXT:    s_nop 1
3889 ; GFX940-NEXT:    v_mov_b32_e32 v2, v12
3890 ; GFX940-NEXT:    v_mov_b32_e32 v3, v13
3891 ; GFX940-NEXT:    global_store_dwordx4 v14, v[2:5], s[0:1] sc0 sc1
3892 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
3893 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
3894   %vec0 = call <4 x i64> asm "; def $0", "=v"()
3895   %vec1 = call <4 x i64> asm "; def $0", "=v"()
3896   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 2, i32 1, i32 1>
3897   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
3898   ret void
3899 }
3900
3901 define void @v_shuffle_v4i64_v4i64__7_3_1_1(ptr addrspace(1) inreg %ptr) {
3902 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_3_1_1:
3903 ; GFX900:       ; %bb.0:
3904 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3905 ; GFX900-NEXT:    ;;#ASMSTART
3906 ; GFX900-NEXT:    ; def v[0:7]
3907 ; GFX900-NEXT:    ;;#ASMEND
3908 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
3909 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
3910 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
3911 ; GFX900-NEXT:    ;;#ASMSTART
3912 ; GFX900-NEXT:    ; def v[8:15]
3913 ; GFX900-NEXT:    ;;#ASMEND
3914 ; GFX900-NEXT:    global_store_dwordx4 v16, v[2:5], s[16:17] offset:16
3915 ; GFX900-NEXT:    s_nop 0
3916 ; GFX900-NEXT:    v_mov_b32_e32 v4, v14
3917 ; GFX900-NEXT:    v_mov_b32_e32 v5, v15
3918 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17]
3919 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
3920 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
3921 ;
3922 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_3_1_1:
3923 ; GFX90A:       ; %bb.0:
3924 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3925 ; GFX90A-NEXT:    ;;#ASMSTART
3926 ; GFX90A-NEXT:    ; def v[0:7]
3927 ; GFX90A-NEXT:    ;;#ASMEND
3928 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
3929 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
3930 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
3931 ; GFX90A-NEXT:    ;;#ASMSTART
3932 ; GFX90A-NEXT:    ; def v[8:15]
3933 ; GFX90A-NEXT:    ;;#ASMEND
3934 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[2:5], s[16:17] offset:16
3935 ; GFX90A-NEXT:    s_nop 0
3936 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v14
3937 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v15
3938 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17]
3939 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
3940 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
3941 ;
3942 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_3_1_1:
3943 ; GFX940:       ; %bb.0:
3944 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3945 ; GFX940-NEXT:    ;;#ASMSTART
3946 ; GFX940-NEXT:    ; def v[0:7]
3947 ; GFX940-NEXT:    ;;#ASMEND
3948 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
3949 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
3950 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
3951 ; GFX940-NEXT:    ;;#ASMSTART
3952 ; GFX940-NEXT:    ; def v[8:15]
3953 ; GFX940-NEXT:    ;;#ASMEND
3954 ; GFX940-NEXT:    global_store_dwordx4 v16, v[2:5], s[0:1] offset:16 sc0 sc1
3955 ; GFX940-NEXT:    s_nop 1
3956 ; GFX940-NEXT:    v_mov_b32_e32 v4, v14
3957 ; GFX940-NEXT:    v_mov_b32_e32 v5, v15
3958 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] sc0 sc1
3959 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
3960 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
3961   %vec0 = call <4 x i64> asm "; def $0", "=v"()
3962   %vec1 = call <4 x i64> asm "; def $0", "=v"()
3963   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 3, i32 1, i32 1>
3964   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
3965   ret void
3966 }
3967
3968 define void @v_shuffle_v4i64_v4i64__7_4_1_1(ptr addrspace(1) inreg %ptr) {
3969 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_4_1_1:
3970 ; GFX900:       ; %bb.0:
3971 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3972 ; GFX900-NEXT:    ;;#ASMSTART
3973 ; GFX900-NEXT:    ; def v[0:7]
3974 ; GFX900-NEXT:    ;;#ASMEND
3975 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
3976 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
3977 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
3978 ; GFX900-NEXT:    ;;#ASMSTART
3979 ; GFX900-NEXT:    ; def v[6:13]
3980 ; GFX900-NEXT:    ;;#ASMEND
3981 ; GFX900-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17] offset:16
3982 ; GFX900-NEXT:    v_mov_b32_e32 v0, v12
3983 ; GFX900-NEXT:    v_mov_b32_e32 v1, v13
3984 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
3985 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
3986 ; GFX900-NEXT:    global_store_dwordx4 v14, v[0:3], s[16:17]
3987 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
3988 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
3989 ;
3990 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_4_1_1:
3991 ; GFX90A:       ; %bb.0:
3992 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
3993 ; GFX90A-NEXT:    ;;#ASMSTART
3994 ; GFX90A-NEXT:    ; def v[0:7]
3995 ; GFX90A-NEXT:    ;;#ASMEND
3996 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
3997 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
3998 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
3999 ; GFX90A-NEXT:    ;;#ASMSTART
4000 ; GFX90A-NEXT:    ; def v[6:13]
4001 ; GFX90A-NEXT:    ;;#ASMEND
4002 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17] offset:16
4003 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v12
4004 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v13
4005 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
4006 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
4007 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[0:3], s[16:17]
4008 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
4009 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
4010 ;
4011 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_4_1_1:
4012 ; GFX940:       ; %bb.0:
4013 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4014 ; GFX940-NEXT:    ;;#ASMSTART
4015 ; GFX940-NEXT:    ; def v[0:7]
4016 ; GFX940-NEXT:    ;;#ASMEND
4017 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
4018 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
4019 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
4020 ; GFX940-NEXT:    ;;#ASMSTART
4021 ; GFX940-NEXT:    ; def v[6:13]
4022 ; GFX940-NEXT:    ;;#ASMEND
4023 ; GFX940-NEXT:    global_store_dwordx4 v14, v[2:5], s[0:1] offset:16 sc0 sc1
4024 ; GFX940-NEXT:    v_mov_b32_e32 v0, v12
4025 ; GFX940-NEXT:    v_mov_b32_e32 v1, v13
4026 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
4027 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
4028 ; GFX940-NEXT:    global_store_dwordx4 v14, v[0:3], s[0:1] sc0 sc1
4029 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
4030 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
4031   %vec0 = call <4 x i64> asm "; def $0", "=v"()
4032   %vec1 = call <4 x i64> asm "; def $0", "=v"()
4033   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 4, i32 1, i32 1>
4034   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
4035   ret void
4036 }
4037
4038 define void @v_shuffle_v4i64_v4i64__7_5_1_1(ptr addrspace(1) inreg %ptr) {
4039 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_5_1_1:
4040 ; GFX900:       ; %bb.0:
4041 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4042 ; GFX900-NEXT:    ;;#ASMSTART
4043 ; GFX900-NEXT:    ; def v[0:7]
4044 ; GFX900-NEXT:    ;;#ASMEND
4045 ; GFX900-NEXT:    ;;#ASMSTART
4046 ; GFX900-NEXT:    ; def v[4:11]
4047 ; GFX900-NEXT:    ;;#ASMEND
4048 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
4049 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
4050 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
4051 ; GFX900-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
4052 ; GFX900-NEXT:    s_nop 0
4053 ; GFX900-NEXT:    v_mov_b32_e32 v4, v10
4054 ; GFX900-NEXT:    v_mov_b32_e32 v5, v11
4055 ; GFX900-NEXT:    global_store_dwordx4 v12, v[4:7], s[16:17]
4056 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
4057 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
4058 ;
4059 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_5_1_1:
4060 ; GFX90A:       ; %bb.0:
4061 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4062 ; GFX90A-NEXT:    ;;#ASMSTART
4063 ; GFX90A-NEXT:    ; def v[0:7]
4064 ; GFX90A-NEXT:    ;;#ASMEND
4065 ; GFX90A-NEXT:    ;;#ASMSTART
4066 ; GFX90A-NEXT:    ; def v[4:11]
4067 ; GFX90A-NEXT:    ;;#ASMEND
4068 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
4069 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
4070 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
4071 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
4072 ; GFX90A-NEXT:    s_nop 0
4073 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v10
4074 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v11
4075 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[4:7], s[16:17]
4076 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
4077 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
4078 ;
4079 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_5_1_1:
4080 ; GFX940:       ; %bb.0:
4081 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4082 ; GFX940-NEXT:    ;;#ASMSTART
4083 ; GFX940-NEXT:    ; def v[0:7]
4084 ; GFX940-NEXT:    ;;#ASMEND
4085 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
4086 ; GFX940-NEXT:    ;;#ASMSTART
4087 ; GFX940-NEXT:    ; def v[4:11]
4088 ; GFX940-NEXT:    ;;#ASMEND
4089 ; GFX940-NEXT:    s_nop 0
4090 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
4091 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
4092 ; GFX940-NEXT:    global_store_dwordx4 v12, v[2:5], s[0:1] offset:16 sc0 sc1
4093 ; GFX940-NEXT:    s_nop 1
4094 ; GFX940-NEXT:    v_mov_b32_e32 v4, v10
4095 ; GFX940-NEXT:    v_mov_b32_e32 v5, v11
4096 ; GFX940-NEXT:    global_store_dwordx4 v12, v[4:7], s[0:1] sc0 sc1
4097 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
4098 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
4099   %vec0 = call <4 x i64> asm "; def $0", "=v"()
4100   %vec1 = call <4 x i64> asm "; def $0", "=v"()
4101   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 5, i32 1, i32 1>
4102   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
4103   ret void
4104 }
4105
4106 define void @v_shuffle_v4i64_v4i64__7_6_1_1(ptr addrspace(1) inreg %ptr) {
4107 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_6_1_1:
4108 ; GFX900:       ; %bb.0:
4109 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4110 ; GFX900-NEXT:    ;;#ASMSTART
4111 ; GFX900-NEXT:    ; def v[0:7]
4112 ; GFX900-NEXT:    ;;#ASMEND
4113 ; GFX900-NEXT:    ;;#ASMSTART
4114 ; GFX900-NEXT:    ; def v[4:11]
4115 ; GFX900-NEXT:    ;;#ASMEND
4116 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
4117 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
4118 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
4119 ; GFX900-NEXT:    v_mov_b32_e32 v6, v10
4120 ; GFX900-NEXT:    v_mov_b32_e32 v7, v11
4121 ; GFX900-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
4122 ; GFX900-NEXT:    global_store_dwordx4 v12, v[6:9], s[16:17]
4123 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
4124 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
4125 ;
4126 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_6_1_1:
4127 ; GFX90A:       ; %bb.0:
4128 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4129 ; GFX90A-NEXT:    ;;#ASMSTART
4130 ; GFX90A-NEXT:    ; def v[0:7]
4131 ; GFX90A-NEXT:    ;;#ASMEND
4132 ; GFX90A-NEXT:    ;;#ASMSTART
4133 ; GFX90A-NEXT:    ; def v[4:11]
4134 ; GFX90A-NEXT:    ;;#ASMEND
4135 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
4136 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
4137 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
4138 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v10
4139 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v11
4140 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
4141 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[6:9], s[16:17]
4142 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
4143 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
4144 ;
4145 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_6_1_1:
4146 ; GFX940:       ; %bb.0:
4147 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4148 ; GFX940-NEXT:    ;;#ASMSTART
4149 ; GFX940-NEXT:    ; def v[0:7]
4150 ; GFX940-NEXT:    ;;#ASMEND
4151 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
4152 ; GFX940-NEXT:    ;;#ASMSTART
4153 ; GFX940-NEXT:    ; def v[4:11]
4154 ; GFX940-NEXT:    ;;#ASMEND
4155 ; GFX940-NEXT:    s_nop 0
4156 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
4157 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
4158 ; GFX940-NEXT:    v_mov_b32_e32 v6, v10
4159 ; GFX940-NEXT:    v_mov_b32_e32 v7, v11
4160 ; GFX940-NEXT:    global_store_dwordx4 v12, v[2:5], s[0:1] offset:16 sc0 sc1
4161 ; GFX940-NEXT:    global_store_dwordx4 v12, v[6:9], s[0:1] sc0 sc1
4162 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
4163 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
4164   %vec0 = call <4 x i64> asm "; def $0", "=v"()
4165   %vec1 = call <4 x i64> asm "; def $0", "=v"()
4166   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 6, i32 1, i32 1>
4167   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
4168   ret void
4169 }
4170
4171 define void @v_shuffle_v4i64_v4i64__7_7_1_1(ptr addrspace(1) inreg %ptr) {
4172 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_1_1:
4173 ; GFX900:       ; %bb.0:
4174 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4175 ; GFX900-NEXT:    ;;#ASMSTART
4176 ; GFX900-NEXT:    ; def v[0:7]
4177 ; GFX900-NEXT:    ;;#ASMEND
4178 ; GFX900-NEXT:    ;;#ASMSTART
4179 ; GFX900-NEXT:    ; def v[4:11]
4180 ; GFX900-NEXT:    ;;#ASMEND
4181 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
4182 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
4183 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
4184 ; GFX900-NEXT:    v_mov_b32_e32 v8, v10
4185 ; GFX900-NEXT:    v_mov_b32_e32 v9, v11
4186 ; GFX900-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
4187 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
4188 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
4189 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
4190 ;
4191 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_1_1:
4192 ; GFX90A:       ; %bb.0:
4193 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4194 ; GFX90A-NEXT:    ;;#ASMSTART
4195 ; GFX90A-NEXT:    ; def v[0:7]
4196 ; GFX90A-NEXT:    ;;#ASMEND
4197 ; GFX90A-NEXT:    ;;#ASMSTART
4198 ; GFX90A-NEXT:    ; def v[4:11]
4199 ; GFX90A-NEXT:    ;;#ASMEND
4200 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
4201 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
4202 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
4203 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v10
4204 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v11
4205 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
4206 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
4207 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
4208 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
4209 ;
4210 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_1_1:
4211 ; GFX940:       ; %bb.0:
4212 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4213 ; GFX940-NEXT:    ;;#ASMSTART
4214 ; GFX940-NEXT:    ; def v[0:7]
4215 ; GFX940-NEXT:    ;;#ASMEND
4216 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
4217 ; GFX940-NEXT:    ;;#ASMSTART
4218 ; GFX940-NEXT:    ; def v[4:11]
4219 ; GFX940-NEXT:    ;;#ASMEND
4220 ; GFX940-NEXT:    s_nop 0
4221 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
4222 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
4223 ; GFX940-NEXT:    v_mov_b32_e32 v8, v10
4224 ; GFX940-NEXT:    v_mov_b32_e32 v9, v11
4225 ; GFX940-NEXT:    global_store_dwordx4 v12, v[2:5], s[0:1] offset:16 sc0 sc1
4226 ; GFX940-NEXT:    global_store_dwordx4 v12, v[8:11], s[0:1] sc0 sc1
4227 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
4228 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
4229   %vec0 = call <4 x i64> asm "; def $0", "=v"()
4230   %vec1 = call <4 x i64> asm "; def $0", "=v"()
4231   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 1, i32 1>
4232   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
4233   ret void
4234 }
4235
4236 define void @v_shuffle_v4i64_v4i64__7_7_u_1(ptr addrspace(1) inreg %ptr) {
4237 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_u_1:
4238 ; GFX900:       ; %bb.0:
4239 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4240 ; GFX900-NEXT:    ;;#ASMSTART
4241 ; GFX900-NEXT:    ; def v[0:7]
4242 ; GFX900-NEXT:    ;;#ASMEND
4243 ; GFX900-NEXT:    ;;#ASMSTART
4244 ; GFX900-NEXT:    ; def v[4:11]
4245 ; GFX900-NEXT:    ;;#ASMEND
4246 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
4247 ; GFX900-NEXT:    v_mov_b32_e32 v8, v10
4248 ; GFX900-NEXT:    v_mov_b32_e32 v9, v11
4249 ; GFX900-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17] offset:16
4250 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
4251 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
4252 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
4253 ;
4254 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_u_1:
4255 ; GFX90A:       ; %bb.0:
4256 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4257 ; GFX90A-NEXT:    ;;#ASMSTART
4258 ; GFX90A-NEXT:    ; def v[0:7]
4259 ; GFX90A-NEXT:    ;;#ASMEND
4260 ; GFX90A-NEXT:    ;;#ASMSTART
4261 ; GFX90A-NEXT:    ; def v[4:11]
4262 ; GFX90A-NEXT:    ;;#ASMEND
4263 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
4264 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v10
4265 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v11
4266 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17] offset:16
4267 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
4268 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
4269 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
4270 ;
4271 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_u_1:
4272 ; GFX940:       ; %bb.0:
4273 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4274 ; GFX940-NEXT:    ;;#ASMSTART
4275 ; GFX940-NEXT:    ; def v[0:7]
4276 ; GFX940-NEXT:    ;;#ASMEND
4277 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
4278 ; GFX940-NEXT:    ;;#ASMSTART
4279 ; GFX940-NEXT:    ; def v[4:11]
4280 ; GFX940-NEXT:    ;;#ASMEND
4281 ; GFX940-NEXT:    global_store_dwordx4 v12, v[0:3], s[0:1] offset:16 sc0 sc1
4282 ; GFX940-NEXT:    v_mov_b32_e32 v8, v10
4283 ; GFX940-NEXT:    v_mov_b32_e32 v9, v11
4284 ; GFX940-NEXT:    global_store_dwordx4 v12, v[8:11], s[0:1] sc0 sc1
4285 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
4286 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
4287   %vec0 = call <4 x i64> asm "; def $0", "=v"()
4288   %vec1 = call <4 x i64> asm "; def $0", "=v"()
4289   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 poison, i32 1>
4290   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
4291   ret void
4292 }
4293
4294 define void @v_shuffle_v4i64_v4i64__7_7_0_1(ptr addrspace(1) inreg %ptr) {
4295 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_0_1:
4296 ; GFX900:       ; %bb.0:
4297 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4298 ; GFX900-NEXT:    ;;#ASMSTART
4299 ; GFX900-NEXT:    ; def v[0:7]
4300 ; GFX900-NEXT:    ;;#ASMEND
4301 ; GFX900-NEXT:    ;;#ASMSTART
4302 ; GFX900-NEXT:    ; def v[4:11]
4303 ; GFX900-NEXT:    ;;#ASMEND
4304 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
4305 ; GFX900-NEXT:    v_mov_b32_e32 v8, v10
4306 ; GFX900-NEXT:    v_mov_b32_e32 v9, v11
4307 ; GFX900-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17] offset:16
4308 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
4309 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
4310 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
4311 ;
4312 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_0_1:
4313 ; GFX90A:       ; %bb.0:
4314 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4315 ; GFX90A-NEXT:    ;;#ASMSTART
4316 ; GFX90A-NEXT:    ; def v[0:7]
4317 ; GFX90A-NEXT:    ;;#ASMEND
4318 ; GFX90A-NEXT:    ;;#ASMSTART
4319 ; GFX90A-NEXT:    ; def v[4:11]
4320 ; GFX90A-NEXT:    ;;#ASMEND
4321 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
4322 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v10
4323 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v11
4324 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17] offset:16
4325 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
4326 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
4327 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
4328 ;
4329 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_0_1:
4330 ; GFX940:       ; %bb.0:
4331 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4332 ; GFX940-NEXT:    ;;#ASMSTART
4333 ; GFX940-NEXT:    ; def v[0:7]
4334 ; GFX940-NEXT:    ;;#ASMEND
4335 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
4336 ; GFX940-NEXT:    ;;#ASMSTART
4337 ; GFX940-NEXT:    ; def v[4:11]
4338 ; GFX940-NEXT:    ;;#ASMEND
4339 ; GFX940-NEXT:    global_store_dwordx4 v12, v[0:3], s[0:1] offset:16 sc0 sc1
4340 ; GFX940-NEXT:    v_mov_b32_e32 v8, v10
4341 ; GFX940-NEXT:    v_mov_b32_e32 v9, v11
4342 ; GFX940-NEXT:    global_store_dwordx4 v12, v[8:11], s[0:1] sc0 sc1
4343 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
4344 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
4345   %vec0 = call <4 x i64> asm "; def $0", "=v"()
4346   %vec1 = call <4 x i64> asm "; def $0", "=v"()
4347   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 0, i32 1>
4348   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
4349   ret void
4350 }
4351
4352 define void @v_shuffle_v4i64_v4i64__7_7_2_1(ptr addrspace(1) inreg %ptr) {
4353 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_2_1:
4354 ; GFX900:       ; %bb.0:
4355 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4356 ; GFX900-NEXT:    ;;#ASMSTART
4357 ; GFX900-NEXT:    ; def v[0:7]
4358 ; GFX900-NEXT:    ;;#ASMEND
4359 ; GFX900-NEXT:    ;;#ASMSTART
4360 ; GFX900-NEXT:    ; def v[6:13]
4361 ; GFX900-NEXT:    ;;#ASMEND
4362 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
4363 ; GFX900-NEXT:    v_mov_b32_e32 v6, v2
4364 ; GFX900-NEXT:    v_mov_b32_e32 v7, v3
4365 ; GFX900-NEXT:    v_mov_b32_e32 v10, v12
4366 ; GFX900-NEXT:    v_mov_b32_e32 v11, v13
4367 ; GFX900-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
4368 ; GFX900-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
4369 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
4370 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
4371 ;
4372 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_2_1:
4373 ; GFX90A:       ; %bb.0:
4374 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4375 ; GFX90A-NEXT:    ;;#ASMSTART
4376 ; GFX90A-NEXT:    ; def v[0:7]
4377 ; GFX90A-NEXT:    ;;#ASMEND
4378 ; GFX90A-NEXT:    ;;#ASMSTART
4379 ; GFX90A-NEXT:    ; def v[6:13]
4380 ; GFX90A-NEXT:    ;;#ASMEND
4381 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
4382 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v2
4383 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v3
4384 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v12
4385 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v13
4386 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
4387 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
4388 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
4389 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
4390 ;
4391 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_2_1:
4392 ; GFX940:       ; %bb.0:
4393 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4394 ; GFX940-NEXT:    ;;#ASMSTART
4395 ; GFX940-NEXT:    ; def v[0:7]
4396 ; GFX940-NEXT:    ;;#ASMEND
4397 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
4398 ; GFX940-NEXT:    ;;#ASMSTART
4399 ; GFX940-NEXT:    ; def v[6:13]
4400 ; GFX940-NEXT:    ;;#ASMEND
4401 ; GFX940-NEXT:    s_nop 0
4402 ; GFX940-NEXT:    v_mov_b32_e32 v6, v2
4403 ; GFX940-NEXT:    v_mov_b32_e32 v7, v3
4404 ; GFX940-NEXT:    v_mov_b32_e32 v10, v12
4405 ; GFX940-NEXT:    v_mov_b32_e32 v11, v13
4406 ; GFX940-NEXT:    global_store_dwordx4 v14, v[4:7], s[0:1] offset:16 sc0 sc1
4407 ; GFX940-NEXT:    global_store_dwordx4 v14, v[10:13], s[0:1] sc0 sc1
4408 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
4409 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
4410   %vec0 = call <4 x i64> asm "; def $0", "=v"()
4411   %vec1 = call <4 x i64> asm "; def $0", "=v"()
4412   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 2, i32 1>
4413   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
4414   ret void
4415 }
4416
4417 define void @v_shuffle_v4i64_v4i64__7_7_3_1(ptr addrspace(1) inreg %ptr) {
4418 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_3_1:
4419 ; GFX900:       ; %bb.0:
4420 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4421 ; GFX900-NEXT:    ;;#ASMSTART
4422 ; GFX900-NEXT:    ; def v[0:7]
4423 ; GFX900-NEXT:    ;;#ASMEND
4424 ; GFX900-NEXT:    ;;#ASMSTART
4425 ; GFX900-NEXT:    ; def v[8:15]
4426 ; GFX900-NEXT:    ;;#ASMEND
4427 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
4428 ; GFX900-NEXT:    v_mov_b32_e32 v0, v6
4429 ; GFX900-NEXT:    v_mov_b32_e32 v1, v7
4430 ; GFX900-NEXT:    v_mov_b32_e32 v12, v14
4431 ; GFX900-NEXT:    v_mov_b32_e32 v13, v15
4432 ; GFX900-NEXT:    global_store_dwordx4 v16, v[0:3], s[16:17] offset:16
4433 ; GFX900-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
4434 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
4435 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
4436 ;
4437 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_3_1:
4438 ; GFX90A:       ; %bb.0:
4439 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4440 ; GFX90A-NEXT:    ;;#ASMSTART
4441 ; GFX90A-NEXT:    ; def v[0:7]
4442 ; GFX90A-NEXT:    ;;#ASMEND
4443 ; GFX90A-NEXT:    ;;#ASMSTART
4444 ; GFX90A-NEXT:    ; def v[8:15]
4445 ; GFX90A-NEXT:    ;;#ASMEND
4446 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
4447 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v6
4448 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v7
4449 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v14
4450 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v15
4451 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[0:3], s[16:17] offset:16
4452 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
4453 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
4454 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
4455 ;
4456 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_3_1:
4457 ; GFX940:       ; %bb.0:
4458 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4459 ; GFX940-NEXT:    ;;#ASMSTART
4460 ; GFX940-NEXT:    ; def v[0:7]
4461 ; GFX940-NEXT:    ;;#ASMEND
4462 ; GFX940-NEXT:    ;;#ASMSTART
4463 ; GFX940-NEXT:    ; def v[8:15]
4464 ; GFX940-NEXT:    ;;#ASMEND
4465 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
4466 ; GFX940-NEXT:    v_mov_b32_e32 v0, v6
4467 ; GFX940-NEXT:    v_mov_b32_e32 v1, v7
4468 ; GFX940-NEXT:    v_mov_b32_e32 v12, v14
4469 ; GFX940-NEXT:    v_mov_b32_e32 v13, v15
4470 ; GFX940-NEXT:    global_store_dwordx4 v16, v[0:3], s[0:1] offset:16 sc0 sc1
4471 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] sc0 sc1
4472 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
4473 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
4474   %vec0 = call <4 x i64> asm "; def $0", "=v"()
4475   %vec1 = call <4 x i64> asm "; def $0", "=v"()
4476   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 3, i32 1>
4477   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
4478   ret void
4479 }
4480
4481 define void @v_shuffle_v4i64_v4i64__7_7_4_1(ptr addrspace(1) inreg %ptr) {
4482 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_4_1:
4483 ; GFX900:       ; %bb.0:
4484 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4485 ; GFX900-NEXT:    ;;#ASMSTART
4486 ; GFX900-NEXT:    ; def v[0:7]
4487 ; GFX900-NEXT:    ;;#ASMEND
4488 ; GFX900-NEXT:    ;;#ASMSTART
4489 ; GFX900-NEXT:    ; def v[4:11]
4490 ; GFX900-NEXT:    ;;#ASMEND
4491 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
4492 ; GFX900-NEXT:    v_mov_b32_e32 v6, v2
4493 ; GFX900-NEXT:    v_mov_b32_e32 v7, v3
4494 ; GFX900-NEXT:    v_mov_b32_e32 v8, v10
4495 ; GFX900-NEXT:    v_mov_b32_e32 v9, v11
4496 ; GFX900-NEXT:    global_store_dwordx4 v12, v[4:7], s[16:17] offset:16
4497 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
4498 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
4499 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
4500 ;
4501 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_4_1:
4502 ; GFX90A:       ; %bb.0:
4503 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4504 ; GFX90A-NEXT:    ;;#ASMSTART
4505 ; GFX90A-NEXT:    ; def v[0:7]
4506 ; GFX90A-NEXT:    ;;#ASMEND
4507 ; GFX90A-NEXT:    ;;#ASMSTART
4508 ; GFX90A-NEXT:    ; def v[4:11]
4509 ; GFX90A-NEXT:    ;;#ASMEND
4510 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
4511 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v2
4512 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v3
4513 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v10
4514 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v11
4515 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[4:7], s[16:17] offset:16
4516 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
4517 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
4518 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
4519 ;
4520 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_4_1:
4521 ; GFX940:       ; %bb.0:
4522 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4523 ; GFX940-NEXT:    ;;#ASMSTART
4524 ; GFX940-NEXT:    ; def v[0:7]
4525 ; GFX940-NEXT:    ;;#ASMEND
4526 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
4527 ; GFX940-NEXT:    ;;#ASMSTART
4528 ; GFX940-NEXT:    ; def v[4:11]
4529 ; GFX940-NEXT:    ;;#ASMEND
4530 ; GFX940-NEXT:    s_nop 0
4531 ; GFX940-NEXT:    v_mov_b32_e32 v6, v2
4532 ; GFX940-NEXT:    v_mov_b32_e32 v7, v3
4533 ; GFX940-NEXT:    v_mov_b32_e32 v8, v10
4534 ; GFX940-NEXT:    v_mov_b32_e32 v9, v11
4535 ; GFX940-NEXT:    global_store_dwordx4 v12, v[4:7], s[0:1] offset:16 sc0 sc1
4536 ; GFX940-NEXT:    global_store_dwordx4 v12, v[8:11], s[0:1] sc0 sc1
4537 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
4538 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
4539   %vec0 = call <4 x i64> asm "; def $0", "=v"()
4540   %vec1 = call <4 x i64> asm "; def $0", "=v"()
4541   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 4, i32 1>
4542   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
4543   ret void
4544 }
4545
4546 define void @v_shuffle_v4i64_v4i64__7_7_5_1(ptr addrspace(1) inreg %ptr) {
4547 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_5_1:
4548 ; GFX900:       ; %bb.0:
4549 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4550 ; GFX900-NEXT:    ;;#ASMSTART
4551 ; GFX900-NEXT:    ; def v[0:7]
4552 ; GFX900-NEXT:    ;;#ASMEND
4553 ; GFX900-NEXT:    ;;#ASMSTART
4554 ; GFX900-NEXT:    ; def v[4:11]
4555 ; GFX900-NEXT:    ;;#ASMEND
4556 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
4557 ; GFX900-NEXT:    v_mov_b32_e32 v8, v2
4558 ; GFX900-NEXT:    v_mov_b32_e32 v9, v3
4559 ; GFX900-NEXT:    global_store_dwordx4 v12, v[6:9], s[16:17] offset:16
4560 ; GFX900-NEXT:    s_nop 0
4561 ; GFX900-NEXT:    v_mov_b32_e32 v8, v10
4562 ; GFX900-NEXT:    v_mov_b32_e32 v9, v11
4563 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
4564 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
4565 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
4566 ;
4567 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_5_1:
4568 ; GFX90A:       ; %bb.0:
4569 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4570 ; GFX90A-NEXT:    ;;#ASMSTART
4571 ; GFX90A-NEXT:    ; def v[0:7]
4572 ; GFX90A-NEXT:    ;;#ASMEND
4573 ; GFX90A-NEXT:    ;;#ASMSTART
4574 ; GFX90A-NEXT:    ; def v[4:11]
4575 ; GFX90A-NEXT:    ;;#ASMEND
4576 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
4577 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v2
4578 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v3
4579 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[6:9], s[16:17] offset:16
4580 ; GFX90A-NEXT:    s_nop 0
4581 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v10
4582 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v11
4583 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
4584 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
4585 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
4586 ;
4587 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_5_1:
4588 ; GFX940:       ; %bb.0:
4589 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4590 ; GFX940-NEXT:    ;;#ASMSTART
4591 ; GFX940-NEXT:    ; def v[0:7]
4592 ; GFX940-NEXT:    ;;#ASMEND
4593 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
4594 ; GFX940-NEXT:    ;;#ASMSTART
4595 ; GFX940-NEXT:    ; def v[4:11]
4596 ; GFX940-NEXT:    ;;#ASMEND
4597 ; GFX940-NEXT:    s_nop 0
4598 ; GFX940-NEXT:    v_mov_b32_e32 v8, v2
4599 ; GFX940-NEXT:    v_mov_b32_e32 v9, v3
4600 ; GFX940-NEXT:    global_store_dwordx4 v12, v[6:9], s[0:1] offset:16 sc0 sc1
4601 ; GFX940-NEXT:    s_nop 1
4602 ; GFX940-NEXT:    v_mov_b32_e32 v8, v10
4603 ; GFX940-NEXT:    v_mov_b32_e32 v9, v11
4604 ; GFX940-NEXT:    global_store_dwordx4 v12, v[8:11], s[0:1] sc0 sc1
4605 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
4606 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
4607   %vec0 = call <4 x i64> asm "; def $0", "=v"()
4608   %vec1 = call <4 x i64> asm "; def $0", "=v"()
4609   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 5, i32 1>
4610   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
4611   ret void
4612 }
4613
4614 define void @v_shuffle_v4i64_v4i64__7_7_6_1(ptr addrspace(1) inreg %ptr) {
4615 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_6_1:
4616 ; GFX900:       ; %bb.0:
4617 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4618 ; GFX900-NEXT:    ;;#ASMSTART
4619 ; GFX900-NEXT:    ; def v[0:7]
4620 ; GFX900-NEXT:    ;;#ASMEND
4621 ; GFX900-NEXT:    ;;#ASMSTART
4622 ; GFX900-NEXT:    ; def v[4:11]
4623 ; GFX900-NEXT:    ;;#ASMEND
4624 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
4625 ; GFX900-NEXT:    v_mov_b32_e32 v0, v8
4626 ; GFX900-NEXT:    v_mov_b32_e32 v1, v9
4627 ; GFX900-NEXT:    v_mov_b32_e32 v8, v10
4628 ; GFX900-NEXT:    v_mov_b32_e32 v9, v11
4629 ; GFX900-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17] offset:16
4630 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
4631 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
4632 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
4633 ;
4634 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_6_1:
4635 ; GFX90A:       ; %bb.0:
4636 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4637 ; GFX90A-NEXT:    ;;#ASMSTART
4638 ; GFX90A-NEXT:    ; def v[0:7]
4639 ; GFX90A-NEXT:    ;;#ASMEND
4640 ; GFX90A-NEXT:    ;;#ASMSTART
4641 ; GFX90A-NEXT:    ; def v[4:11]
4642 ; GFX90A-NEXT:    ;;#ASMEND
4643 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
4644 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v8
4645 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v9
4646 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v10
4647 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v11
4648 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17] offset:16
4649 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
4650 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
4651 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
4652 ;
4653 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_6_1:
4654 ; GFX940:       ; %bb.0:
4655 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4656 ; GFX940-NEXT:    ;;#ASMSTART
4657 ; GFX940-NEXT:    ; def v[0:7]
4658 ; GFX940-NEXT:    ;;#ASMEND
4659 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
4660 ; GFX940-NEXT:    ;;#ASMSTART
4661 ; GFX940-NEXT:    ; def v[4:11]
4662 ; GFX940-NEXT:    ;;#ASMEND
4663 ; GFX940-NEXT:    s_nop 0
4664 ; GFX940-NEXT:    v_mov_b32_e32 v0, v8
4665 ; GFX940-NEXT:    v_mov_b32_e32 v1, v9
4666 ; GFX940-NEXT:    v_mov_b32_e32 v8, v10
4667 ; GFX940-NEXT:    v_mov_b32_e32 v9, v11
4668 ; GFX940-NEXT:    global_store_dwordx4 v12, v[0:3], s[0:1] offset:16 sc0 sc1
4669 ; GFX940-NEXT:    global_store_dwordx4 v12, v[8:11], s[0:1] sc0 sc1
4670 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
4671 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
4672   %vec0 = call <4 x i64> asm "; def $0", "=v"()
4673   %vec1 = call <4 x i64> asm "; def $0", "=v"()
4674   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 6, i32 1>
4675   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
4676   ret void
4677 }
4678
4679 define void @v_shuffle_v4i64_v4i64__u_2_2_2(ptr addrspace(1) inreg %ptr) {
4680 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__u_2_2_2:
4681 ; GFX900:       ; %bb.0:
4682 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4683 ; GFX900-NEXT:    ;;#ASMSTART
4684 ; GFX900-NEXT:    ; def v[0:7]
4685 ; GFX900-NEXT:    ;;#ASMEND
4686 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
4687 ; GFX900-NEXT:    v_mov_b32_e32 v6, v4
4688 ; GFX900-NEXT:    v_mov_b32_e32 v7, v5
4689 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
4690 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
4691 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
4692 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
4693 ;
4694 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__u_2_2_2:
4695 ; GFX90A:       ; %bb.0:
4696 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4697 ; GFX90A-NEXT:    ;;#ASMSTART
4698 ; GFX90A-NEXT:    ; def v[0:7]
4699 ; GFX90A-NEXT:    ;;#ASMEND
4700 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
4701 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v4
4702 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v5
4703 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
4704 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
4705 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
4706 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
4707 ;
4708 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__u_2_2_2:
4709 ; GFX940:       ; %bb.0:
4710 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4711 ; GFX940-NEXT:    ;;#ASMSTART
4712 ; GFX940-NEXT:    ; def v[0:7]
4713 ; GFX940-NEXT:    ;;#ASMEND
4714 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
4715 ; GFX940-NEXT:    v_mov_b32_e32 v6, v4
4716 ; GFX940-NEXT:    v_mov_b32_e32 v7, v5
4717 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
4718 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
4719 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
4720 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
4721   %vec0 = call <4 x i64> asm "; def $0", "=v"()
4722   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 poison, i32 2, i32 2, i32 2>
4723   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
4724   ret void
4725 }
4726
4727 define void @v_shuffle_v4i64_v4i64__0_2_2_2(ptr addrspace(1) inreg %ptr) {
4728 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__0_2_2_2:
4729 ; GFX900:       ; %bb.0:
4730 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4731 ; GFX900-NEXT:    ;;#ASMSTART
4732 ; GFX900-NEXT:    ; def v[0:7]
4733 ; GFX900-NEXT:    ;;#ASMEND
4734 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
4735 ; GFX900-NEXT:    v_mov_b32_e32 v6, v4
4736 ; GFX900-NEXT:    v_mov_b32_e32 v7, v5
4737 ; GFX900-NEXT:    v_mov_b32_e32 v2, v4
4738 ; GFX900-NEXT:    v_mov_b32_e32 v3, v5
4739 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
4740 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
4741 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
4742 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
4743 ;
4744 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__0_2_2_2:
4745 ; GFX90A:       ; %bb.0:
4746 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4747 ; GFX90A-NEXT:    ;;#ASMSTART
4748 ; GFX90A-NEXT:    ; def v[0:7]
4749 ; GFX90A-NEXT:    ;;#ASMEND
4750 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
4751 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v4
4752 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v5
4753 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v4
4754 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v5
4755 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
4756 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
4757 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
4758 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
4759 ;
4760 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__0_2_2_2:
4761 ; GFX940:       ; %bb.0:
4762 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4763 ; GFX940-NEXT:    ;;#ASMSTART
4764 ; GFX940-NEXT:    ; def v[0:7]
4765 ; GFX940-NEXT:    ;;#ASMEND
4766 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
4767 ; GFX940-NEXT:    v_mov_b32_e32 v6, v4
4768 ; GFX940-NEXT:    v_mov_b32_e32 v7, v5
4769 ; GFX940-NEXT:    v_mov_b32_e32 v2, v4
4770 ; GFX940-NEXT:    v_mov_b32_e32 v3, v5
4771 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
4772 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
4773 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
4774 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
4775   %vec0 = call <4 x i64> asm "; def $0", "=v"()
4776   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 0, i32 2, i32 2, i32 2>
4777   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
4778   ret void
4779 }
4780
4781 define void @v_shuffle_v4i64_v4i64__1_2_2_2(ptr addrspace(1) inreg %ptr) {
4782 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__1_2_2_2:
4783 ; GFX900:       ; %bb.0:
4784 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4785 ; GFX900-NEXT:    ;;#ASMSTART
4786 ; GFX900-NEXT:    ; def v[0:7]
4787 ; GFX900-NEXT:    ;;#ASMEND
4788 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
4789 ; GFX900-NEXT:    v_mov_b32_e32 v6, v4
4790 ; GFX900-NEXT:    v_mov_b32_e32 v7, v5
4791 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
4792 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
4793 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
4794 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
4795 ;
4796 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__1_2_2_2:
4797 ; GFX90A:       ; %bb.0:
4798 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4799 ; GFX90A-NEXT:    ;;#ASMSTART
4800 ; GFX90A-NEXT:    ; def v[0:7]
4801 ; GFX90A-NEXT:    ;;#ASMEND
4802 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
4803 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v4
4804 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v5
4805 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
4806 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
4807 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
4808 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
4809 ;
4810 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__1_2_2_2:
4811 ; GFX940:       ; %bb.0:
4812 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4813 ; GFX940-NEXT:    ;;#ASMSTART
4814 ; GFX940-NEXT:    ; def v[0:7]
4815 ; GFX940-NEXT:    ;;#ASMEND
4816 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
4817 ; GFX940-NEXT:    v_mov_b32_e32 v6, v4
4818 ; GFX940-NEXT:    v_mov_b32_e32 v7, v5
4819 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
4820 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
4821 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
4822 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
4823   %vec0 = call <4 x i64> asm "; def $0", "=v"()
4824   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 1, i32 2, i32 2, i32 2>
4825   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
4826   ret void
4827 }
4828
4829 define void @v_shuffle_v4i64_v4i64__2_2_2_2(ptr addrspace(1) inreg %ptr) {
4830 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__2_2_2_2:
4831 ; GFX900:       ; %bb.0:
4832 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4833 ; GFX900-NEXT:    ;;#ASMSTART
4834 ; GFX900-NEXT:    ; def v[0:7]
4835 ; GFX900-NEXT:    ;;#ASMEND
4836 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
4837 ; GFX900-NEXT:    v_mov_b32_e32 v6, v4
4838 ; GFX900-NEXT:    v_mov_b32_e32 v7, v5
4839 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
4840 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
4841 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
4842 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
4843 ;
4844 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__2_2_2_2:
4845 ; GFX90A:       ; %bb.0:
4846 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4847 ; GFX90A-NEXT:    ;;#ASMSTART
4848 ; GFX90A-NEXT:    ; def v[0:7]
4849 ; GFX90A-NEXT:    ;;#ASMEND
4850 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
4851 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v4
4852 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v5
4853 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
4854 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
4855 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
4856 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
4857 ;
4858 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__2_2_2_2:
4859 ; GFX940:       ; %bb.0:
4860 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4861 ; GFX940-NEXT:    ;;#ASMSTART
4862 ; GFX940-NEXT:    ; def v[0:7]
4863 ; GFX940-NEXT:    ;;#ASMEND
4864 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
4865 ; GFX940-NEXT:    v_mov_b32_e32 v6, v4
4866 ; GFX940-NEXT:    v_mov_b32_e32 v7, v5
4867 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
4868 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
4869 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
4870 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
4871   %vec0 = call <4 x i64> asm "; def $0", "=v"()
4872   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 2, i32 2, i32 2, i32 2>
4873   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
4874   ret void
4875 }
4876
4877 define void @v_shuffle_v4i64_v4i64__3_2_2_2(ptr addrspace(1) inreg %ptr) {
4878 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__3_2_2_2:
4879 ; GFX900:       ; %bb.0:
4880 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4881 ; GFX900-NEXT:    ;;#ASMSTART
4882 ; GFX900-NEXT:    ; def v[0:7]
4883 ; GFX900-NEXT:    ;;#ASMEND
4884 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
4885 ; GFX900-NEXT:    v_mov_b32_e32 v2, v4
4886 ; GFX900-NEXT:    v_mov_b32_e32 v3, v5
4887 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
4888 ; GFX900-NEXT:    s_nop 0
4889 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
4890 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
4891 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
4892 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
4893 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
4894 ;
4895 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__3_2_2_2:
4896 ; GFX90A:       ; %bb.0:
4897 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4898 ; GFX90A-NEXT:    ;;#ASMSTART
4899 ; GFX90A-NEXT:    ; def v[0:7]
4900 ; GFX90A-NEXT:    ;;#ASMEND
4901 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
4902 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v4
4903 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v5
4904 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
4905 ; GFX90A-NEXT:    s_nop 0
4906 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
4907 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
4908 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
4909 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
4910 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
4911 ;
4912 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__3_2_2_2:
4913 ; GFX940:       ; %bb.0:
4914 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4915 ; GFX940-NEXT:    ;;#ASMSTART
4916 ; GFX940-NEXT:    ; def v[0:7]
4917 ; GFX940-NEXT:    ;;#ASMEND
4918 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
4919 ; GFX940-NEXT:    v_mov_b32_e32 v2, v4
4920 ; GFX940-NEXT:    v_mov_b32_e32 v3, v5
4921 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
4922 ; GFX940-NEXT:    s_nop 1
4923 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
4924 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
4925 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
4926 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
4927 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
4928   %vec0 = call <4 x i64> asm "; def $0", "=v"()
4929   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 3, i32 2, i32 2, i32 2>
4930   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
4931   ret void
4932 }
4933
4934 define void @v_shuffle_v4i64_v4i64__4_2_2_2(ptr addrspace(1) inreg %ptr) {
4935 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__4_2_2_2:
4936 ; GFX900:       ; %bb.0:
4937 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4938 ; GFX900-NEXT:    ;;#ASMSTART
4939 ; GFX900-NEXT:    ; def v[0:7]
4940 ; GFX900-NEXT:    ;;#ASMEND
4941 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
4942 ; GFX900-NEXT:    v_mov_b32_e32 v6, v4
4943 ; GFX900-NEXT:    v_mov_b32_e32 v7, v5
4944 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
4945 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
4946 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
4947 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
4948 ;
4949 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__4_2_2_2:
4950 ; GFX90A:       ; %bb.0:
4951 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4952 ; GFX90A-NEXT:    ;;#ASMSTART
4953 ; GFX90A-NEXT:    ; def v[0:7]
4954 ; GFX90A-NEXT:    ;;#ASMEND
4955 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
4956 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v4
4957 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v5
4958 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
4959 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
4960 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
4961 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
4962 ;
4963 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__4_2_2_2:
4964 ; GFX940:       ; %bb.0:
4965 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4966 ; GFX940-NEXT:    ;;#ASMSTART
4967 ; GFX940-NEXT:    ; def v[0:7]
4968 ; GFX940-NEXT:    ;;#ASMEND
4969 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
4970 ; GFX940-NEXT:    v_mov_b32_e32 v6, v4
4971 ; GFX940-NEXT:    v_mov_b32_e32 v7, v5
4972 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
4973 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
4974 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
4975 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
4976   %vec0 = call <4 x i64> asm "; def $0", "=v"()
4977   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 4, i32 2, i32 2, i32 2>
4978   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
4979   ret void
4980 }
4981
4982 define void @v_shuffle_v4i64_v4i64__5_2_2_2(ptr addrspace(1) inreg %ptr) {
4983 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__5_2_2_2:
4984 ; GFX900:       ; %bb.0:
4985 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
4986 ; GFX900-NEXT:    ;;#ASMSTART
4987 ; GFX900-NEXT:    ; def v[0:7]
4988 ; GFX900-NEXT:    ;;#ASMEND
4989 ; GFX900-NEXT:    ;;#ASMSTART
4990 ; GFX900-NEXT:    ; def v[6:13]
4991 ; GFX900-NEXT:    ;;#ASMEND
4992 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
4993 ; GFX900-NEXT:    v_mov_b32_e32 v6, v4
4994 ; GFX900-NEXT:    v_mov_b32_e32 v7, v5
4995 ; GFX900-NEXT:    v_mov_b32_e32 v10, v4
4996 ; GFX900-NEXT:    v_mov_b32_e32 v11, v5
4997 ; GFX900-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
4998 ; GFX900-NEXT:    global_store_dwordx4 v14, v[8:11], s[16:17]
4999 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
5000 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
5001 ;
5002 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__5_2_2_2:
5003 ; GFX90A:       ; %bb.0:
5004 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5005 ; GFX90A-NEXT:    ;;#ASMSTART
5006 ; GFX90A-NEXT:    ; def v[0:7]
5007 ; GFX90A-NEXT:    ;;#ASMEND
5008 ; GFX90A-NEXT:    ;;#ASMSTART
5009 ; GFX90A-NEXT:    ; def v[6:13]
5010 ; GFX90A-NEXT:    ;;#ASMEND
5011 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
5012 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v4
5013 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v5
5014 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v4
5015 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v5
5016 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
5017 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[8:11], s[16:17]
5018 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
5019 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
5020 ;
5021 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__5_2_2_2:
5022 ; GFX940:       ; %bb.0:
5023 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5024 ; GFX940-NEXT:    ;;#ASMSTART
5025 ; GFX940-NEXT:    ; def v[0:7]
5026 ; GFX940-NEXT:    ;;#ASMEND
5027 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
5028 ; GFX940-NEXT:    ;;#ASMSTART
5029 ; GFX940-NEXT:    ; def v[6:13]
5030 ; GFX940-NEXT:    ;;#ASMEND
5031 ; GFX940-NEXT:    s_nop 0
5032 ; GFX940-NEXT:    v_mov_b32_e32 v6, v4
5033 ; GFX940-NEXT:    v_mov_b32_e32 v7, v5
5034 ; GFX940-NEXT:    v_mov_b32_e32 v10, v4
5035 ; GFX940-NEXT:    v_mov_b32_e32 v11, v5
5036 ; GFX940-NEXT:    global_store_dwordx4 v14, v[4:7], s[0:1] offset:16 sc0 sc1
5037 ; GFX940-NEXT:    global_store_dwordx4 v14, v[8:11], s[0:1] sc0 sc1
5038 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
5039 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
5040   %vec0 = call <4 x i64> asm "; def $0", "=v"()
5041   %vec1 = call <4 x i64> asm "; def $0", "=v"()
5042   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 5, i32 2, i32 2, i32 2>
5043   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
5044   ret void
5045 }
5046
5047 define void @v_shuffle_v4i64_v4i64__6_2_2_2(ptr addrspace(1) inreg %ptr) {
5048 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__6_2_2_2:
5049 ; GFX900:       ; %bb.0:
5050 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5051 ; GFX900-NEXT:    ;;#ASMSTART
5052 ; GFX900-NEXT:    ; def v[0:7]
5053 ; GFX900-NEXT:    ;;#ASMEND
5054 ; GFX900-NEXT:    ;;#ASMSTART
5055 ; GFX900-NEXT:    ; def v[6:13]
5056 ; GFX900-NEXT:    ;;#ASMEND
5057 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
5058 ; GFX900-NEXT:    v_mov_b32_e32 v6, v4
5059 ; GFX900-NEXT:    v_mov_b32_e32 v7, v5
5060 ; GFX900-NEXT:    v_mov_b32_e32 v12, v4
5061 ; GFX900-NEXT:    v_mov_b32_e32 v13, v5
5062 ; GFX900-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
5063 ; GFX900-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
5064 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
5065 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
5066 ;
5067 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__6_2_2_2:
5068 ; GFX90A:       ; %bb.0:
5069 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5070 ; GFX90A-NEXT:    ;;#ASMSTART
5071 ; GFX90A-NEXT:    ; def v[0:7]
5072 ; GFX90A-NEXT:    ;;#ASMEND
5073 ; GFX90A-NEXT:    ;;#ASMSTART
5074 ; GFX90A-NEXT:    ; def v[6:13]
5075 ; GFX90A-NEXT:    ;;#ASMEND
5076 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
5077 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v4
5078 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v5
5079 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v4
5080 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v5
5081 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
5082 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
5083 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
5084 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
5085 ;
5086 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__6_2_2_2:
5087 ; GFX940:       ; %bb.0:
5088 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5089 ; GFX940-NEXT:    ;;#ASMSTART
5090 ; GFX940-NEXT:    ; def v[0:7]
5091 ; GFX940-NEXT:    ;;#ASMEND
5092 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
5093 ; GFX940-NEXT:    ;;#ASMSTART
5094 ; GFX940-NEXT:    ; def v[6:13]
5095 ; GFX940-NEXT:    ;;#ASMEND
5096 ; GFX940-NEXT:    s_nop 0
5097 ; GFX940-NEXT:    v_mov_b32_e32 v6, v4
5098 ; GFX940-NEXT:    v_mov_b32_e32 v7, v5
5099 ; GFX940-NEXT:    v_mov_b32_e32 v12, v4
5100 ; GFX940-NEXT:    v_mov_b32_e32 v13, v5
5101 ; GFX940-NEXT:    global_store_dwordx4 v14, v[4:7], s[0:1] offset:16 sc0 sc1
5102 ; GFX940-NEXT:    global_store_dwordx4 v14, v[10:13], s[0:1] sc0 sc1
5103 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
5104 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
5105   %vec0 = call <4 x i64> asm "; def $0", "=v"()
5106   %vec1 = call <4 x i64> asm "; def $0", "=v"()
5107   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 6, i32 2, i32 2, i32 2>
5108   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
5109   ret void
5110 }
5111
5112 define void @v_shuffle_v4i64_v4i64__7_2_2_2(ptr addrspace(1) inreg %ptr) {
5113 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_2_2_2:
5114 ; GFX900:       ; %bb.0:
5115 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5116 ; GFX900-NEXT:    ;;#ASMSTART
5117 ; GFX900-NEXT:    ; def v[0:7]
5118 ; GFX900-NEXT:    ;;#ASMEND
5119 ; GFX900-NEXT:    ;;#ASMSTART
5120 ; GFX900-NEXT:    ; def v[6:13]
5121 ; GFX900-NEXT:    ;;#ASMEND
5122 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
5123 ; GFX900-NEXT:    v_mov_b32_e32 v6, v4
5124 ; GFX900-NEXT:    v_mov_b32_e32 v7, v5
5125 ; GFX900-NEXT:    v_mov_b32_e32 v2, v12
5126 ; GFX900-NEXT:    v_mov_b32_e32 v3, v13
5127 ; GFX900-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
5128 ; GFX900-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17]
5129 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
5130 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
5131 ;
5132 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_2_2_2:
5133 ; GFX90A:       ; %bb.0:
5134 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5135 ; GFX90A-NEXT:    ;;#ASMSTART
5136 ; GFX90A-NEXT:    ; def v[0:7]
5137 ; GFX90A-NEXT:    ;;#ASMEND
5138 ; GFX90A-NEXT:    ;;#ASMSTART
5139 ; GFX90A-NEXT:    ; def v[6:13]
5140 ; GFX90A-NEXT:    ;;#ASMEND
5141 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
5142 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v4
5143 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v5
5144 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v12
5145 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v13
5146 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
5147 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17]
5148 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
5149 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
5150 ;
5151 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_2_2_2:
5152 ; GFX940:       ; %bb.0:
5153 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5154 ; GFX940-NEXT:    ;;#ASMSTART
5155 ; GFX940-NEXT:    ; def v[0:7]
5156 ; GFX940-NEXT:    ;;#ASMEND
5157 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
5158 ; GFX940-NEXT:    ;;#ASMSTART
5159 ; GFX940-NEXT:    ; def v[6:13]
5160 ; GFX940-NEXT:    ;;#ASMEND
5161 ; GFX940-NEXT:    s_nop 0
5162 ; GFX940-NEXT:    v_mov_b32_e32 v6, v4
5163 ; GFX940-NEXT:    v_mov_b32_e32 v7, v5
5164 ; GFX940-NEXT:    v_mov_b32_e32 v2, v12
5165 ; GFX940-NEXT:    v_mov_b32_e32 v3, v13
5166 ; GFX940-NEXT:    global_store_dwordx4 v14, v[4:7], s[0:1] offset:16 sc0 sc1
5167 ; GFX940-NEXT:    global_store_dwordx4 v14, v[2:5], s[0:1] sc0 sc1
5168 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
5169 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
5170   %vec0 = call <4 x i64> asm "; def $0", "=v"()
5171   %vec1 = call <4 x i64> asm "; def $0", "=v"()
5172   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 2, i32 2, i32 2>
5173   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
5174   ret void
5175 }
5176
5177 define void @v_shuffle_v4i64_v4i64__7_u_2_2(ptr addrspace(1) inreg %ptr) {
5178 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_u_2_2:
5179 ; GFX900:       ; %bb.0:
5180 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5181 ; GFX900-NEXT:    ;;#ASMSTART
5182 ; GFX900-NEXT:    ; def v[0:7]
5183 ; GFX900-NEXT:    ;;#ASMEND
5184 ; GFX900-NEXT:    ;;#ASMSTART
5185 ; GFX900-NEXT:    ; def v[6:13]
5186 ; GFX900-NEXT:    ;;#ASMEND
5187 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
5188 ; GFX900-NEXT:    v_mov_b32_e32 v6, v4
5189 ; GFX900-NEXT:    v_mov_b32_e32 v7, v5
5190 ; GFX900-NEXT:    v_mov_b32_e32 v0, v12
5191 ; GFX900-NEXT:    v_mov_b32_e32 v1, v13
5192 ; GFX900-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
5193 ; GFX900-NEXT:    global_store_dwordx4 v14, v[0:3], s[16:17]
5194 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
5195 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
5196 ;
5197 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_u_2_2:
5198 ; GFX90A:       ; %bb.0:
5199 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5200 ; GFX90A-NEXT:    ;;#ASMSTART
5201 ; GFX90A-NEXT:    ; def v[0:7]
5202 ; GFX90A-NEXT:    ;;#ASMEND
5203 ; GFX90A-NEXT:    ;;#ASMSTART
5204 ; GFX90A-NEXT:    ; def v[6:13]
5205 ; GFX90A-NEXT:    ;;#ASMEND
5206 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
5207 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v4
5208 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v5
5209 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v12
5210 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v13
5211 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
5212 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[0:3], s[16:17]
5213 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
5214 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
5215 ;
5216 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_u_2_2:
5217 ; GFX940:       ; %bb.0:
5218 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5219 ; GFX940-NEXT:    ;;#ASMSTART
5220 ; GFX940-NEXT:    ; def v[0:7]
5221 ; GFX940-NEXT:    ;;#ASMEND
5222 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
5223 ; GFX940-NEXT:    ;;#ASMSTART
5224 ; GFX940-NEXT:    ; def v[6:13]
5225 ; GFX940-NEXT:    ;;#ASMEND
5226 ; GFX940-NEXT:    s_nop 0
5227 ; GFX940-NEXT:    v_mov_b32_e32 v6, v4
5228 ; GFX940-NEXT:    v_mov_b32_e32 v7, v5
5229 ; GFX940-NEXT:    v_mov_b32_e32 v0, v12
5230 ; GFX940-NEXT:    v_mov_b32_e32 v1, v13
5231 ; GFX940-NEXT:    global_store_dwordx4 v14, v[4:7], s[0:1] offset:16 sc0 sc1
5232 ; GFX940-NEXT:    global_store_dwordx4 v14, v[0:3], s[0:1] sc0 sc1
5233 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
5234 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
5235   %vec0 = call <4 x i64> asm "; def $0", "=v"()
5236   %vec1 = call <4 x i64> asm "; def $0", "=v"()
5237   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 poison, i32 2, i32 2>
5238   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
5239   ret void
5240 }
5241
5242 define void @v_shuffle_v4i64_v4i64__7_0_2_2(ptr addrspace(1) inreg %ptr) {
5243 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_0_2_2:
5244 ; GFX900:       ; %bb.0:
5245 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5246 ; GFX900-NEXT:    ;;#ASMSTART
5247 ; GFX900-NEXT:    ; def v[0:7]
5248 ; GFX900-NEXT:    ;;#ASMEND
5249 ; GFX900-NEXT:    v_mov_b32_e32 v8, v6
5250 ; GFX900-NEXT:    v_mov_b32_e32 v9, v7
5251 ; GFX900-NEXT:    ;;#ASMSTART
5252 ; GFX900-NEXT:    ; def v[0:7]
5253 ; GFX900-NEXT:    ;;#ASMEND
5254 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
5255 ; GFX900-NEXT:    v_mov_b32_e32 v6, v4
5256 ; GFX900-NEXT:    v_mov_b32_e32 v7, v5
5257 ; GFX900-NEXT:    v_mov_b32_e32 v10, v0
5258 ; GFX900-NEXT:    v_mov_b32_e32 v11, v1
5259 ; GFX900-NEXT:    global_store_dwordx4 v12, v[4:7], s[16:17] offset:16
5260 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
5261 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
5262 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
5263 ;
5264 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_0_2_2:
5265 ; GFX90A:       ; %bb.0:
5266 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5267 ; GFX90A-NEXT:    ;;#ASMSTART
5268 ; GFX90A-NEXT:    ; def v[0:7]
5269 ; GFX90A-NEXT:    ;;#ASMEND
5270 ; GFX90A-NEXT:    ;;#ASMSTART
5271 ; GFX90A-NEXT:    ; def v[6:13]
5272 ; GFX90A-NEXT:    ;;#ASMEND
5273 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
5274 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v4
5275 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v5
5276 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
5277 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v12
5278 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v13
5279 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
5280 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
5281 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17]
5282 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
5283 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
5284 ;
5285 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_0_2_2:
5286 ; GFX940:       ; %bb.0:
5287 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5288 ; GFX940-NEXT:    ;;#ASMSTART
5289 ; GFX940-NEXT:    ; def v[0:7]
5290 ; GFX940-NEXT:    ;;#ASMEND
5291 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
5292 ; GFX940-NEXT:    ;;#ASMSTART
5293 ; GFX940-NEXT:    ; def v[6:13]
5294 ; GFX940-NEXT:    ;;#ASMEND
5295 ; GFX940-NEXT:    s_nop 0
5296 ; GFX940-NEXT:    v_mov_b32_e32 v6, v4
5297 ; GFX940-NEXT:    v_mov_b32_e32 v7, v5
5298 ; GFX940-NEXT:    global_store_dwordx4 v14, v[4:7], s[0:1] offset:16 sc0 sc1
5299 ; GFX940-NEXT:    v_mov_b32_e32 v2, v12
5300 ; GFX940-NEXT:    v_mov_b32_e32 v3, v13
5301 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
5302 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
5303 ; GFX940-NEXT:    global_store_dwordx4 v14, v[2:5], s[0:1] sc0 sc1
5304 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
5305 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
5306   %vec0 = call <4 x i64> asm "; def $0", "=v"()
5307   %vec1 = call <4 x i64> asm "; def $0", "=v"()
5308   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 0, i32 2, i32 2>
5309   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
5310   ret void
5311 }
5312
5313 define void @v_shuffle_v4i64_v4i64__7_1_2_2(ptr addrspace(1) inreg %ptr) {
5314 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_1_2_2:
5315 ; GFX900:       ; %bb.0:
5316 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5317 ; GFX900-NEXT:    ;;#ASMSTART
5318 ; GFX900-NEXT:    ; def v[0:7]
5319 ; GFX900-NEXT:    ;;#ASMEND
5320 ; GFX900-NEXT:    ;;#ASMSTART
5321 ; GFX900-NEXT:    ; def v[6:13]
5322 ; GFX900-NEXT:    ;;#ASMEND
5323 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
5324 ; GFX900-NEXT:    v_mov_b32_e32 v6, v4
5325 ; GFX900-NEXT:    v_mov_b32_e32 v7, v5
5326 ; GFX900-NEXT:    v_mov_b32_e32 v0, v12
5327 ; GFX900-NEXT:    v_mov_b32_e32 v1, v13
5328 ; GFX900-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
5329 ; GFX900-NEXT:    global_store_dwordx4 v14, v[0:3], s[16:17]
5330 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
5331 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
5332 ;
5333 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_1_2_2:
5334 ; GFX90A:       ; %bb.0:
5335 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5336 ; GFX90A-NEXT:    ;;#ASMSTART
5337 ; GFX90A-NEXT:    ; def v[0:7]
5338 ; GFX90A-NEXT:    ;;#ASMEND
5339 ; GFX90A-NEXT:    ;;#ASMSTART
5340 ; GFX90A-NEXT:    ; def v[6:13]
5341 ; GFX90A-NEXT:    ;;#ASMEND
5342 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
5343 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v4
5344 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v5
5345 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v12
5346 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v13
5347 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
5348 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[0:3], s[16:17]
5349 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
5350 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
5351 ;
5352 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_1_2_2:
5353 ; GFX940:       ; %bb.0:
5354 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5355 ; GFX940-NEXT:    ;;#ASMSTART
5356 ; GFX940-NEXT:    ; def v[0:7]
5357 ; GFX940-NEXT:    ;;#ASMEND
5358 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
5359 ; GFX940-NEXT:    ;;#ASMSTART
5360 ; GFX940-NEXT:    ; def v[6:13]
5361 ; GFX940-NEXT:    ;;#ASMEND
5362 ; GFX940-NEXT:    s_nop 0
5363 ; GFX940-NEXT:    v_mov_b32_e32 v6, v4
5364 ; GFX940-NEXT:    v_mov_b32_e32 v7, v5
5365 ; GFX940-NEXT:    v_mov_b32_e32 v0, v12
5366 ; GFX940-NEXT:    v_mov_b32_e32 v1, v13
5367 ; GFX940-NEXT:    global_store_dwordx4 v14, v[4:7], s[0:1] offset:16 sc0 sc1
5368 ; GFX940-NEXT:    global_store_dwordx4 v14, v[0:3], s[0:1] sc0 sc1
5369 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
5370 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
5371   %vec0 = call <4 x i64> asm "; def $0", "=v"()
5372   %vec1 = call <4 x i64> asm "; def $0", "=v"()
5373   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 1, i32 2, i32 2>
5374   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
5375   ret void
5376 }
5377
5378 define void @v_shuffle_v4i64_v4i64__7_3_2_2(ptr addrspace(1) inreg %ptr) {
5379 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_3_2_2:
5380 ; GFX900:       ; %bb.0:
5381 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5382 ; GFX900-NEXT:    ;;#ASMSTART
5383 ; GFX900-NEXT:    ; def v[0:7]
5384 ; GFX900-NEXT:    ;;#ASMEND
5385 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
5386 ; GFX900-NEXT:    v_mov_b32_e32 v2, v4
5387 ; GFX900-NEXT:    v_mov_b32_e32 v3, v5
5388 ; GFX900-NEXT:    ;;#ASMSTART
5389 ; GFX900-NEXT:    ; def v[8:15]
5390 ; GFX900-NEXT:    ;;#ASMEND
5391 ; GFX900-NEXT:    global_store_dwordx4 v16, v[2:5], s[16:17] offset:16
5392 ; GFX900-NEXT:    s_nop 0
5393 ; GFX900-NEXT:    v_mov_b32_e32 v4, v14
5394 ; GFX900-NEXT:    v_mov_b32_e32 v5, v15
5395 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17]
5396 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
5397 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
5398 ;
5399 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_3_2_2:
5400 ; GFX90A:       ; %bb.0:
5401 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5402 ; GFX90A-NEXT:    ;;#ASMSTART
5403 ; GFX90A-NEXT:    ; def v[0:7]
5404 ; GFX90A-NEXT:    ;;#ASMEND
5405 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
5406 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v4
5407 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v5
5408 ; GFX90A-NEXT:    ;;#ASMSTART
5409 ; GFX90A-NEXT:    ; def v[8:15]
5410 ; GFX90A-NEXT:    ;;#ASMEND
5411 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[2:5], s[16:17] offset:16
5412 ; GFX90A-NEXT:    s_nop 0
5413 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v14
5414 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v15
5415 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17]
5416 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
5417 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
5418 ;
5419 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_3_2_2:
5420 ; GFX940:       ; %bb.0:
5421 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5422 ; GFX940-NEXT:    ;;#ASMSTART
5423 ; GFX940-NEXT:    ; def v[0:7]
5424 ; GFX940-NEXT:    ;;#ASMEND
5425 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
5426 ; GFX940-NEXT:    v_mov_b32_e32 v2, v4
5427 ; GFX940-NEXT:    v_mov_b32_e32 v3, v5
5428 ; GFX940-NEXT:    ;;#ASMSTART
5429 ; GFX940-NEXT:    ; def v[8:15]
5430 ; GFX940-NEXT:    ;;#ASMEND
5431 ; GFX940-NEXT:    global_store_dwordx4 v16, v[2:5], s[0:1] offset:16 sc0 sc1
5432 ; GFX940-NEXT:    s_nop 1
5433 ; GFX940-NEXT:    v_mov_b32_e32 v4, v14
5434 ; GFX940-NEXT:    v_mov_b32_e32 v5, v15
5435 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] sc0 sc1
5436 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
5437 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
5438   %vec0 = call <4 x i64> asm "; def $0", "=v"()
5439   %vec1 = call <4 x i64> asm "; def $0", "=v"()
5440   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 3, i32 2, i32 2>
5441   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
5442   ret void
5443 }
5444
5445 define void @v_shuffle_v4i64_v4i64__7_4_2_2(ptr addrspace(1) inreg %ptr) {
5446 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_4_2_2:
5447 ; GFX900:       ; %bb.0:
5448 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5449 ; GFX900-NEXT:    ;;#ASMSTART
5450 ; GFX900-NEXT:    ; def v[0:7]
5451 ; GFX900-NEXT:    ;;#ASMEND
5452 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
5453 ; GFX900-NEXT:    ;;#ASMSTART
5454 ; GFX900-NEXT:    ; def v[8:15]
5455 ; GFX900-NEXT:    ;;#ASMEND
5456 ; GFX900-NEXT:    v_mov_b32_e32 v6, v4
5457 ; GFX900-NEXT:    v_mov_b32_e32 v7, v5
5458 ; GFX900-NEXT:    v_mov_b32_e32 v0, v14
5459 ; GFX900-NEXT:    v_mov_b32_e32 v1, v15
5460 ; GFX900-NEXT:    v_mov_b32_e32 v2, v8
5461 ; GFX900-NEXT:    v_mov_b32_e32 v3, v9
5462 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
5463 ; GFX900-NEXT:    global_store_dwordx4 v16, v[0:3], s[16:17]
5464 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
5465 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
5466 ;
5467 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_4_2_2:
5468 ; GFX90A:       ; %bb.0:
5469 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5470 ; GFX90A-NEXT:    ;;#ASMSTART
5471 ; GFX90A-NEXT:    ; def v[0:7]
5472 ; GFX90A-NEXT:    ;;#ASMEND
5473 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
5474 ; GFX90A-NEXT:    ;;#ASMSTART
5475 ; GFX90A-NEXT:    ; def v[8:15]
5476 ; GFX90A-NEXT:    ;;#ASMEND
5477 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v4
5478 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v5
5479 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v14
5480 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v15
5481 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v8
5482 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v9
5483 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
5484 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[0:3], s[16:17]
5485 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
5486 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
5487 ;
5488 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_4_2_2:
5489 ; GFX940:       ; %bb.0:
5490 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5491 ; GFX940-NEXT:    ;;#ASMSTART
5492 ; GFX940-NEXT:    ; def v[0:7]
5493 ; GFX940-NEXT:    ;;#ASMEND
5494 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
5495 ; GFX940-NEXT:    ;;#ASMSTART
5496 ; GFX940-NEXT:    ; def v[8:15]
5497 ; GFX940-NEXT:    ;;#ASMEND
5498 ; GFX940-NEXT:    v_mov_b32_e32 v6, v4
5499 ; GFX940-NEXT:    v_mov_b32_e32 v7, v5
5500 ; GFX940-NEXT:    v_mov_b32_e32 v0, v14
5501 ; GFX940-NEXT:    v_mov_b32_e32 v1, v15
5502 ; GFX940-NEXT:    v_mov_b32_e32 v2, v8
5503 ; GFX940-NEXT:    v_mov_b32_e32 v3, v9
5504 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] offset:16 sc0 sc1
5505 ; GFX940-NEXT:    global_store_dwordx4 v16, v[0:3], s[0:1] sc0 sc1
5506 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
5507 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
5508   %vec0 = call <4 x i64> asm "; def $0", "=v"()
5509   %vec1 = call <4 x i64> asm "; def $0", "=v"()
5510   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 4, i32 2, i32 2>
5511   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
5512   ret void
5513 }
5514
5515 define void @v_shuffle_v4i64_v4i64__7_5_2_2(ptr addrspace(1) inreg %ptr) {
5516 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_5_2_2:
5517 ; GFX900:       ; %bb.0:
5518 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5519 ; GFX900-NEXT:    ;;#ASMSTART
5520 ; GFX900-NEXT:    ; def v[0:7]
5521 ; GFX900-NEXT:    ;;#ASMEND
5522 ; GFX900-NEXT:    ;;#ASMSTART
5523 ; GFX900-NEXT:    ; def v[6:13]
5524 ; GFX900-NEXT:    ;;#ASMEND
5525 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
5526 ; GFX900-NEXT:    v_mov_b32_e32 v6, v4
5527 ; GFX900-NEXT:    v_mov_b32_e32 v7, v5
5528 ; GFX900-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
5529 ; GFX900-NEXT:    s_nop 0
5530 ; GFX900-NEXT:    v_mov_b32_e32 v6, v12
5531 ; GFX900-NEXT:    v_mov_b32_e32 v7, v13
5532 ; GFX900-NEXT:    global_store_dwordx4 v14, v[6:9], s[16:17]
5533 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
5534 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
5535 ;
5536 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_5_2_2:
5537 ; GFX90A:       ; %bb.0:
5538 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5539 ; GFX90A-NEXT:    ;;#ASMSTART
5540 ; GFX90A-NEXT:    ; def v[0:7]
5541 ; GFX90A-NEXT:    ;;#ASMEND
5542 ; GFX90A-NEXT:    ;;#ASMSTART
5543 ; GFX90A-NEXT:    ; def v[6:13]
5544 ; GFX90A-NEXT:    ;;#ASMEND
5545 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
5546 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v4
5547 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v5
5548 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
5549 ; GFX90A-NEXT:    s_nop 0
5550 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v12
5551 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v13
5552 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[6:9], s[16:17]
5553 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
5554 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
5555 ;
5556 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_5_2_2:
5557 ; GFX940:       ; %bb.0:
5558 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5559 ; GFX940-NEXT:    ;;#ASMSTART
5560 ; GFX940-NEXT:    ; def v[0:7]
5561 ; GFX940-NEXT:    ;;#ASMEND
5562 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
5563 ; GFX940-NEXT:    ;;#ASMSTART
5564 ; GFX940-NEXT:    ; def v[6:13]
5565 ; GFX940-NEXT:    ;;#ASMEND
5566 ; GFX940-NEXT:    s_nop 0
5567 ; GFX940-NEXT:    v_mov_b32_e32 v6, v4
5568 ; GFX940-NEXT:    v_mov_b32_e32 v7, v5
5569 ; GFX940-NEXT:    global_store_dwordx4 v14, v[4:7], s[0:1] offset:16 sc0 sc1
5570 ; GFX940-NEXT:    s_nop 1
5571 ; GFX940-NEXT:    v_mov_b32_e32 v6, v12
5572 ; GFX940-NEXT:    v_mov_b32_e32 v7, v13
5573 ; GFX940-NEXT:    global_store_dwordx4 v14, v[6:9], s[0:1] sc0 sc1
5574 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
5575 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
5576   %vec0 = call <4 x i64> asm "; def $0", "=v"()
5577   %vec1 = call <4 x i64> asm "; def $0", "=v"()
5578   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 5, i32 2, i32 2>
5579   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
5580   ret void
5581 }
5582
5583 define void @v_shuffle_v4i64_v4i64__7_6_2_2(ptr addrspace(1) inreg %ptr) {
5584 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_6_2_2:
5585 ; GFX900:       ; %bb.0:
5586 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5587 ; GFX900-NEXT:    ;;#ASMSTART
5588 ; GFX900-NEXT:    ; def v[0:7]
5589 ; GFX900-NEXT:    ;;#ASMEND
5590 ; GFX900-NEXT:    ;;#ASMSTART
5591 ; GFX900-NEXT:    ; def v[6:13]
5592 ; GFX900-NEXT:    ;;#ASMEND
5593 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
5594 ; GFX900-NEXT:    v_mov_b32_e32 v6, v4
5595 ; GFX900-NEXT:    v_mov_b32_e32 v7, v5
5596 ; GFX900-NEXT:    v_mov_b32_e32 v8, v12
5597 ; GFX900-NEXT:    v_mov_b32_e32 v9, v13
5598 ; GFX900-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
5599 ; GFX900-NEXT:    global_store_dwordx4 v14, v[8:11], s[16:17]
5600 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
5601 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
5602 ;
5603 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_6_2_2:
5604 ; GFX90A:       ; %bb.0:
5605 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5606 ; GFX90A-NEXT:    ;;#ASMSTART
5607 ; GFX90A-NEXT:    ; def v[0:7]
5608 ; GFX90A-NEXT:    ;;#ASMEND
5609 ; GFX90A-NEXT:    ;;#ASMSTART
5610 ; GFX90A-NEXT:    ; def v[6:13]
5611 ; GFX90A-NEXT:    ;;#ASMEND
5612 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
5613 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v4
5614 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v5
5615 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v12
5616 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v13
5617 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
5618 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[8:11], s[16:17]
5619 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
5620 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
5621 ;
5622 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_6_2_2:
5623 ; GFX940:       ; %bb.0:
5624 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5625 ; GFX940-NEXT:    ;;#ASMSTART
5626 ; GFX940-NEXT:    ; def v[0:7]
5627 ; GFX940-NEXT:    ;;#ASMEND
5628 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
5629 ; GFX940-NEXT:    ;;#ASMSTART
5630 ; GFX940-NEXT:    ; def v[6:13]
5631 ; GFX940-NEXT:    ;;#ASMEND
5632 ; GFX940-NEXT:    s_nop 0
5633 ; GFX940-NEXT:    v_mov_b32_e32 v6, v4
5634 ; GFX940-NEXT:    v_mov_b32_e32 v7, v5
5635 ; GFX940-NEXT:    v_mov_b32_e32 v8, v12
5636 ; GFX940-NEXT:    v_mov_b32_e32 v9, v13
5637 ; GFX940-NEXT:    global_store_dwordx4 v14, v[4:7], s[0:1] offset:16 sc0 sc1
5638 ; GFX940-NEXT:    global_store_dwordx4 v14, v[8:11], s[0:1] sc0 sc1
5639 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
5640 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
5641   %vec0 = call <4 x i64> asm "; def $0", "=v"()
5642   %vec1 = call <4 x i64> asm "; def $0", "=v"()
5643   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 6, i32 2, i32 2>
5644   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
5645   ret void
5646 }
5647
5648 define void @v_shuffle_v4i64_v4i64__7_7_2_2(ptr addrspace(1) inreg %ptr) {
5649 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_2_2:
5650 ; GFX900:       ; %bb.0:
5651 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5652 ; GFX900-NEXT:    ;;#ASMSTART
5653 ; GFX900-NEXT:    ; def v[0:7]
5654 ; GFX900-NEXT:    ;;#ASMEND
5655 ; GFX900-NEXT:    ;;#ASMSTART
5656 ; GFX900-NEXT:    ; def v[6:13]
5657 ; GFX900-NEXT:    ;;#ASMEND
5658 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
5659 ; GFX900-NEXT:    v_mov_b32_e32 v6, v4
5660 ; GFX900-NEXT:    v_mov_b32_e32 v7, v5
5661 ; GFX900-NEXT:    v_mov_b32_e32 v10, v12
5662 ; GFX900-NEXT:    v_mov_b32_e32 v11, v13
5663 ; GFX900-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
5664 ; GFX900-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
5665 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
5666 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
5667 ;
5668 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_2_2:
5669 ; GFX90A:       ; %bb.0:
5670 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5671 ; GFX90A-NEXT:    ;;#ASMSTART
5672 ; GFX90A-NEXT:    ; def v[0:7]
5673 ; GFX90A-NEXT:    ;;#ASMEND
5674 ; GFX90A-NEXT:    ;;#ASMSTART
5675 ; GFX90A-NEXT:    ; def v[6:13]
5676 ; GFX90A-NEXT:    ;;#ASMEND
5677 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
5678 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v4
5679 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v5
5680 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v12
5681 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v13
5682 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
5683 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
5684 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
5685 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
5686 ;
5687 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_2_2:
5688 ; GFX940:       ; %bb.0:
5689 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5690 ; GFX940-NEXT:    ;;#ASMSTART
5691 ; GFX940-NEXT:    ; def v[0:7]
5692 ; GFX940-NEXT:    ;;#ASMEND
5693 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
5694 ; GFX940-NEXT:    ;;#ASMSTART
5695 ; GFX940-NEXT:    ; def v[6:13]
5696 ; GFX940-NEXT:    ;;#ASMEND
5697 ; GFX940-NEXT:    s_nop 0
5698 ; GFX940-NEXT:    v_mov_b32_e32 v6, v4
5699 ; GFX940-NEXT:    v_mov_b32_e32 v7, v5
5700 ; GFX940-NEXT:    v_mov_b32_e32 v10, v12
5701 ; GFX940-NEXT:    v_mov_b32_e32 v11, v13
5702 ; GFX940-NEXT:    global_store_dwordx4 v14, v[4:7], s[0:1] offset:16 sc0 sc1
5703 ; GFX940-NEXT:    global_store_dwordx4 v14, v[10:13], s[0:1] sc0 sc1
5704 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
5705 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
5706   %vec0 = call <4 x i64> asm "; def $0", "=v"()
5707   %vec1 = call <4 x i64> asm "; def $0", "=v"()
5708   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 2, i32 2>
5709   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
5710   ret void
5711 }
5712
5713 define void @v_shuffle_v4i64_v4i64__7_7_u_2(ptr addrspace(1) inreg %ptr) {
5714 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_u_2:
5715 ; GFX900:       ; %bb.0:
5716 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5717 ; GFX900-NEXT:    ;;#ASMSTART
5718 ; GFX900-NEXT:    ; def v[0:7]
5719 ; GFX900-NEXT:    ;;#ASMEND
5720 ; GFX900-NEXT:    ;;#ASMSTART
5721 ; GFX900-NEXT:    ; def v[6:13]
5722 ; GFX900-NEXT:    ;;#ASMEND
5723 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
5724 ; GFX900-NEXT:    v_mov_b32_e32 v10, v12
5725 ; GFX900-NEXT:    v_mov_b32_e32 v11, v13
5726 ; GFX900-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17] offset:16
5727 ; GFX900-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
5728 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
5729 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
5730 ;
5731 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_u_2:
5732 ; GFX90A:       ; %bb.0:
5733 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5734 ; GFX90A-NEXT:    ;;#ASMSTART
5735 ; GFX90A-NEXT:    ; def v[0:7]
5736 ; GFX90A-NEXT:    ;;#ASMEND
5737 ; GFX90A-NEXT:    ;;#ASMSTART
5738 ; GFX90A-NEXT:    ; def v[6:13]
5739 ; GFX90A-NEXT:    ;;#ASMEND
5740 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
5741 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v12
5742 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v13
5743 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17] offset:16
5744 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
5745 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
5746 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
5747 ;
5748 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_u_2:
5749 ; GFX940:       ; %bb.0:
5750 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5751 ; GFX940-NEXT:    ;;#ASMSTART
5752 ; GFX940-NEXT:    ; def v[0:7]
5753 ; GFX940-NEXT:    ;;#ASMEND
5754 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
5755 ; GFX940-NEXT:    ;;#ASMSTART
5756 ; GFX940-NEXT:    ; def v[6:13]
5757 ; GFX940-NEXT:    ;;#ASMEND
5758 ; GFX940-NEXT:    global_store_dwordx4 v14, v[2:5], s[0:1] offset:16 sc0 sc1
5759 ; GFX940-NEXT:    v_mov_b32_e32 v10, v12
5760 ; GFX940-NEXT:    v_mov_b32_e32 v11, v13
5761 ; GFX940-NEXT:    global_store_dwordx4 v14, v[10:13], s[0:1] sc0 sc1
5762 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
5763 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
5764   %vec0 = call <4 x i64> asm "; def $0", "=v"()
5765   %vec1 = call <4 x i64> asm "; def $0", "=v"()
5766   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 poison, i32 2>
5767   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
5768   ret void
5769 }
5770
5771 define void @v_shuffle_v4i64_v4i64__7_7_0_2(ptr addrspace(1) inreg %ptr) {
5772 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_0_2:
5773 ; GFX900:       ; %bb.0:
5774 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5775 ; GFX900-NEXT:    ;;#ASMSTART
5776 ; GFX900-NEXT:    ; def v[0:7]
5777 ; GFX900-NEXT:    ;;#ASMEND
5778 ; GFX900-NEXT:    ;;#ASMSTART
5779 ; GFX900-NEXT:    ; def v[6:13]
5780 ; GFX900-NEXT:    ;;#ASMEND
5781 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
5782 ; GFX900-NEXT:    v_mov_b32_e32 v2, v4
5783 ; GFX900-NEXT:    v_mov_b32_e32 v3, v5
5784 ; GFX900-NEXT:    v_mov_b32_e32 v10, v12
5785 ; GFX900-NEXT:    v_mov_b32_e32 v11, v13
5786 ; GFX900-NEXT:    global_store_dwordx4 v14, v[0:3], s[16:17] offset:16
5787 ; GFX900-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
5788 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
5789 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
5790 ;
5791 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_0_2:
5792 ; GFX90A:       ; %bb.0:
5793 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5794 ; GFX90A-NEXT:    ;;#ASMSTART
5795 ; GFX90A-NEXT:    ; def v[0:7]
5796 ; GFX90A-NEXT:    ;;#ASMEND
5797 ; GFX90A-NEXT:    ;;#ASMSTART
5798 ; GFX90A-NEXT:    ; def v[6:13]
5799 ; GFX90A-NEXT:    ;;#ASMEND
5800 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
5801 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v4
5802 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v5
5803 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v12
5804 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v13
5805 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[0:3], s[16:17] offset:16
5806 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
5807 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
5808 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
5809 ;
5810 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_0_2:
5811 ; GFX940:       ; %bb.0:
5812 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5813 ; GFX940-NEXT:    ;;#ASMSTART
5814 ; GFX940-NEXT:    ; def v[0:7]
5815 ; GFX940-NEXT:    ;;#ASMEND
5816 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
5817 ; GFX940-NEXT:    ;;#ASMSTART
5818 ; GFX940-NEXT:    ; def v[6:13]
5819 ; GFX940-NEXT:    ;;#ASMEND
5820 ; GFX940-NEXT:    v_mov_b32_e32 v2, v4
5821 ; GFX940-NEXT:    v_mov_b32_e32 v3, v5
5822 ; GFX940-NEXT:    v_mov_b32_e32 v10, v12
5823 ; GFX940-NEXT:    v_mov_b32_e32 v11, v13
5824 ; GFX940-NEXT:    global_store_dwordx4 v14, v[0:3], s[0:1] offset:16 sc0 sc1
5825 ; GFX940-NEXT:    global_store_dwordx4 v14, v[10:13], s[0:1] sc0 sc1
5826 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
5827 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
5828   %vec0 = call <4 x i64> asm "; def $0", "=v"()
5829   %vec1 = call <4 x i64> asm "; def $0", "=v"()
5830   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 0, i32 2>
5831   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
5832   ret void
5833 }
5834
5835 define void @v_shuffle_v4i64_v4i64__7_7_1_2(ptr addrspace(1) inreg %ptr) {
5836 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_1_2:
5837 ; GFX900:       ; %bb.0:
5838 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5839 ; GFX900-NEXT:    ;;#ASMSTART
5840 ; GFX900-NEXT:    ; def v[0:7]
5841 ; GFX900-NEXT:    ;;#ASMEND
5842 ; GFX900-NEXT:    ;;#ASMSTART
5843 ; GFX900-NEXT:    ; def v[6:13]
5844 ; GFX900-NEXT:    ;;#ASMEND
5845 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
5846 ; GFX900-NEXT:    v_mov_b32_e32 v10, v12
5847 ; GFX900-NEXT:    v_mov_b32_e32 v11, v13
5848 ; GFX900-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17] offset:16
5849 ; GFX900-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
5850 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
5851 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
5852 ;
5853 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_1_2:
5854 ; GFX90A:       ; %bb.0:
5855 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5856 ; GFX90A-NEXT:    ;;#ASMSTART
5857 ; GFX90A-NEXT:    ; def v[0:7]
5858 ; GFX90A-NEXT:    ;;#ASMEND
5859 ; GFX90A-NEXT:    ;;#ASMSTART
5860 ; GFX90A-NEXT:    ; def v[6:13]
5861 ; GFX90A-NEXT:    ;;#ASMEND
5862 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
5863 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v12
5864 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v13
5865 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17] offset:16
5866 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
5867 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
5868 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
5869 ;
5870 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_1_2:
5871 ; GFX940:       ; %bb.0:
5872 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5873 ; GFX940-NEXT:    ;;#ASMSTART
5874 ; GFX940-NEXT:    ; def v[0:7]
5875 ; GFX940-NEXT:    ;;#ASMEND
5876 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
5877 ; GFX940-NEXT:    ;;#ASMSTART
5878 ; GFX940-NEXT:    ; def v[6:13]
5879 ; GFX940-NEXT:    ;;#ASMEND
5880 ; GFX940-NEXT:    global_store_dwordx4 v14, v[2:5], s[0:1] offset:16 sc0 sc1
5881 ; GFX940-NEXT:    v_mov_b32_e32 v10, v12
5882 ; GFX940-NEXT:    v_mov_b32_e32 v11, v13
5883 ; GFX940-NEXT:    global_store_dwordx4 v14, v[10:13], s[0:1] sc0 sc1
5884 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
5885 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
5886   %vec0 = call <4 x i64> asm "; def $0", "=v"()
5887   %vec1 = call <4 x i64> asm "; def $0", "=v"()
5888   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 1, i32 2>
5889   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
5890   ret void
5891 }
5892
5893 define void @v_shuffle_v4i64_v4i64__7_7_3_2(ptr addrspace(1) inreg %ptr) {
5894 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_3_2:
5895 ; GFX900:       ; %bb.0:
5896 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5897 ; GFX900-NEXT:    ;;#ASMSTART
5898 ; GFX900-NEXT:    ; def v[0:7]
5899 ; GFX900-NEXT:    ;;#ASMEND
5900 ; GFX900-NEXT:    ;;#ASMSTART
5901 ; GFX900-NEXT:    ; def v[8:15]
5902 ; GFX900-NEXT:    ;;#ASMEND
5903 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
5904 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
5905 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
5906 ; GFX900-NEXT:    v_mov_b32_e32 v12, v14
5907 ; GFX900-NEXT:    v_mov_b32_e32 v13, v15
5908 ; GFX900-NEXT:    global_store_dwordx4 v16, v[2:5], s[16:17] offset:16
5909 ; GFX900-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
5910 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
5911 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
5912 ;
5913 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_3_2:
5914 ; GFX90A:       ; %bb.0:
5915 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5916 ; GFX90A-NEXT:    ;;#ASMSTART
5917 ; GFX90A-NEXT:    ; def v[0:7]
5918 ; GFX90A-NEXT:    ;;#ASMEND
5919 ; GFX90A-NEXT:    ;;#ASMSTART
5920 ; GFX90A-NEXT:    ; def v[8:15]
5921 ; GFX90A-NEXT:    ;;#ASMEND
5922 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
5923 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
5924 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
5925 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v14
5926 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v15
5927 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[2:5], s[16:17] offset:16
5928 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
5929 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
5930 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
5931 ;
5932 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_3_2:
5933 ; GFX940:       ; %bb.0:
5934 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5935 ; GFX940-NEXT:    ;;#ASMSTART
5936 ; GFX940-NEXT:    ; def v[0:7]
5937 ; GFX940-NEXT:    ;;#ASMEND
5938 ; GFX940-NEXT:    ;;#ASMSTART
5939 ; GFX940-NEXT:    ; def v[8:15]
5940 ; GFX940-NEXT:    ;;#ASMEND
5941 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
5942 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
5943 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
5944 ; GFX940-NEXT:    v_mov_b32_e32 v12, v14
5945 ; GFX940-NEXT:    v_mov_b32_e32 v13, v15
5946 ; GFX940-NEXT:    global_store_dwordx4 v16, v[2:5], s[0:1] offset:16 sc0 sc1
5947 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] sc0 sc1
5948 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
5949 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
5950   %vec0 = call <4 x i64> asm "; def $0", "=v"()
5951   %vec1 = call <4 x i64> asm "; def $0", "=v"()
5952   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 3, i32 2>
5953   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
5954   ret void
5955 }
5956
5957 define void @v_shuffle_v4i64_v4i64__7_7_4_2(ptr addrspace(1) inreg %ptr) {
5958 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_4_2:
5959 ; GFX900:       ; %bb.0:
5960 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5961 ; GFX900-NEXT:    ;;#ASMSTART
5962 ; GFX900-NEXT:    ; def v[0:7]
5963 ; GFX900-NEXT:    ;;#ASMEND
5964 ; GFX900-NEXT:    ;;#ASMSTART
5965 ; GFX900-NEXT:    ; def v[6:13]
5966 ; GFX900-NEXT:    ;;#ASMEND
5967 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
5968 ; GFX900-NEXT:    v_mov_b32_e32 v8, v4
5969 ; GFX900-NEXT:    v_mov_b32_e32 v9, v5
5970 ; GFX900-NEXT:    v_mov_b32_e32 v10, v12
5971 ; GFX900-NEXT:    v_mov_b32_e32 v11, v13
5972 ; GFX900-NEXT:    global_store_dwordx4 v14, v[6:9], s[16:17] offset:16
5973 ; GFX900-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
5974 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
5975 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
5976 ;
5977 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_4_2:
5978 ; GFX90A:       ; %bb.0:
5979 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5980 ; GFX90A-NEXT:    ;;#ASMSTART
5981 ; GFX90A-NEXT:    ; def v[0:7]
5982 ; GFX90A-NEXT:    ;;#ASMEND
5983 ; GFX90A-NEXT:    ;;#ASMSTART
5984 ; GFX90A-NEXT:    ; def v[6:13]
5985 ; GFX90A-NEXT:    ;;#ASMEND
5986 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
5987 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v4
5988 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v5
5989 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v12
5990 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v13
5991 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[6:9], s[16:17] offset:16
5992 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
5993 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
5994 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
5995 ;
5996 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_4_2:
5997 ; GFX940:       ; %bb.0:
5998 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
5999 ; GFX940-NEXT:    ;;#ASMSTART
6000 ; GFX940-NEXT:    ; def v[0:7]
6001 ; GFX940-NEXT:    ;;#ASMEND
6002 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
6003 ; GFX940-NEXT:    ;;#ASMSTART
6004 ; GFX940-NEXT:    ; def v[6:13]
6005 ; GFX940-NEXT:    ;;#ASMEND
6006 ; GFX940-NEXT:    s_nop 0
6007 ; GFX940-NEXT:    v_mov_b32_e32 v8, v4
6008 ; GFX940-NEXT:    v_mov_b32_e32 v9, v5
6009 ; GFX940-NEXT:    v_mov_b32_e32 v10, v12
6010 ; GFX940-NEXT:    v_mov_b32_e32 v11, v13
6011 ; GFX940-NEXT:    global_store_dwordx4 v14, v[6:9], s[0:1] offset:16 sc0 sc1
6012 ; GFX940-NEXT:    global_store_dwordx4 v14, v[10:13], s[0:1] sc0 sc1
6013 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
6014 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
6015   %vec0 = call <4 x i64> asm "; def $0", "=v"()
6016   %vec1 = call <4 x i64> asm "; def $0", "=v"()
6017   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 4, i32 2>
6018   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
6019   ret void
6020 }
6021
6022 define void @v_shuffle_v4i64_v4i64__7_7_5_2(ptr addrspace(1) inreg %ptr) {
6023 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_5_2:
6024 ; GFX900:       ; %bb.0:
6025 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6026 ; GFX900-NEXT:    ;;#ASMSTART
6027 ; GFX900-NEXT:    ; def v[0:7]
6028 ; GFX900-NEXT:    ;;#ASMEND
6029 ; GFX900-NEXT:    ;;#ASMSTART
6030 ; GFX900-NEXT:    ; def v[6:13]
6031 ; GFX900-NEXT:    ;;#ASMEND
6032 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
6033 ; GFX900-NEXT:    v_mov_b32_e32 v10, v4
6034 ; GFX900-NEXT:    v_mov_b32_e32 v11, v5
6035 ; GFX900-NEXT:    global_store_dwordx4 v14, v[8:11], s[16:17] offset:16
6036 ; GFX900-NEXT:    s_nop 0
6037 ; GFX900-NEXT:    v_mov_b32_e32 v10, v12
6038 ; GFX900-NEXT:    v_mov_b32_e32 v11, v13
6039 ; GFX900-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
6040 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
6041 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
6042 ;
6043 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_5_2:
6044 ; GFX90A:       ; %bb.0:
6045 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6046 ; GFX90A-NEXT:    ;;#ASMSTART
6047 ; GFX90A-NEXT:    ; def v[0:7]
6048 ; GFX90A-NEXT:    ;;#ASMEND
6049 ; GFX90A-NEXT:    ;;#ASMSTART
6050 ; GFX90A-NEXT:    ; def v[6:13]
6051 ; GFX90A-NEXT:    ;;#ASMEND
6052 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
6053 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v4
6054 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v5
6055 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[8:11], s[16:17] offset:16
6056 ; GFX90A-NEXT:    s_nop 0
6057 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v12
6058 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v13
6059 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
6060 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
6061 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
6062 ;
6063 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_5_2:
6064 ; GFX940:       ; %bb.0:
6065 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6066 ; GFX940-NEXT:    ;;#ASMSTART
6067 ; GFX940-NEXT:    ; def v[0:7]
6068 ; GFX940-NEXT:    ;;#ASMEND
6069 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
6070 ; GFX940-NEXT:    ;;#ASMSTART
6071 ; GFX940-NEXT:    ; def v[6:13]
6072 ; GFX940-NEXT:    ;;#ASMEND
6073 ; GFX940-NEXT:    s_nop 0
6074 ; GFX940-NEXT:    v_mov_b32_e32 v10, v4
6075 ; GFX940-NEXT:    v_mov_b32_e32 v11, v5
6076 ; GFX940-NEXT:    global_store_dwordx4 v14, v[8:11], s[0:1] offset:16 sc0 sc1
6077 ; GFX940-NEXT:    s_nop 1
6078 ; GFX940-NEXT:    v_mov_b32_e32 v10, v12
6079 ; GFX940-NEXT:    v_mov_b32_e32 v11, v13
6080 ; GFX940-NEXT:    global_store_dwordx4 v14, v[10:13], s[0:1] sc0 sc1
6081 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
6082 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
6083   %vec0 = call <4 x i64> asm "; def $0", "=v"()
6084   %vec1 = call <4 x i64> asm "; def $0", "=v"()
6085   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 5, i32 2>
6086   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
6087   ret void
6088 }
6089
6090 define void @v_shuffle_v4i64_v4i64__7_7_6_2(ptr addrspace(1) inreg %ptr) {
6091 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_6_2:
6092 ; GFX900:       ; %bb.0:
6093 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6094 ; GFX900-NEXT:    ;;#ASMSTART
6095 ; GFX900-NEXT:    ; def v[0:7]
6096 ; GFX900-NEXT:    ;;#ASMEND
6097 ; GFX900-NEXT:    ;;#ASMSTART
6098 ; GFX900-NEXT:    ; def v[6:13]
6099 ; GFX900-NEXT:    ;;#ASMEND
6100 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
6101 ; GFX900-NEXT:    v_mov_b32_e32 v2, v10
6102 ; GFX900-NEXT:    v_mov_b32_e32 v3, v11
6103 ; GFX900-NEXT:    v_mov_b32_e32 v10, v12
6104 ; GFX900-NEXT:    v_mov_b32_e32 v11, v13
6105 ; GFX900-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17] offset:16
6106 ; GFX900-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
6107 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
6108 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
6109 ;
6110 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_6_2:
6111 ; GFX90A:       ; %bb.0:
6112 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6113 ; GFX90A-NEXT:    ;;#ASMSTART
6114 ; GFX90A-NEXT:    ; def v[0:7]
6115 ; GFX90A-NEXT:    ;;#ASMEND
6116 ; GFX90A-NEXT:    ;;#ASMSTART
6117 ; GFX90A-NEXT:    ; def v[6:13]
6118 ; GFX90A-NEXT:    ;;#ASMEND
6119 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
6120 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v10
6121 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v11
6122 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v12
6123 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v13
6124 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17] offset:16
6125 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
6126 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
6127 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
6128 ;
6129 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_6_2:
6130 ; GFX940:       ; %bb.0:
6131 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6132 ; GFX940-NEXT:    ;;#ASMSTART
6133 ; GFX940-NEXT:    ; def v[0:7]
6134 ; GFX940-NEXT:    ;;#ASMEND
6135 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
6136 ; GFX940-NEXT:    ;;#ASMSTART
6137 ; GFX940-NEXT:    ; def v[6:13]
6138 ; GFX940-NEXT:    ;;#ASMEND
6139 ; GFX940-NEXT:    s_nop 0
6140 ; GFX940-NEXT:    v_mov_b32_e32 v2, v10
6141 ; GFX940-NEXT:    v_mov_b32_e32 v3, v11
6142 ; GFX940-NEXT:    v_mov_b32_e32 v10, v12
6143 ; GFX940-NEXT:    v_mov_b32_e32 v11, v13
6144 ; GFX940-NEXT:    global_store_dwordx4 v14, v[2:5], s[0:1] offset:16 sc0 sc1
6145 ; GFX940-NEXT:    global_store_dwordx4 v14, v[10:13], s[0:1] sc0 sc1
6146 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
6147 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
6148   %vec0 = call <4 x i64> asm "; def $0", "=v"()
6149   %vec1 = call <4 x i64> asm "; def $0", "=v"()
6150   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 6, i32 2>
6151   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
6152   ret void
6153 }
6154
6155 define void @v_shuffle_v4i64_v4i64__u_3_3_3(ptr addrspace(1) inreg %ptr) {
6156 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__u_3_3_3:
6157 ; GFX900:       ; %bb.0:
6158 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6159 ; GFX900-NEXT:    ;;#ASMSTART
6160 ; GFX900-NEXT:    ; def v[0:7]
6161 ; GFX900-NEXT:    ;;#ASMEND
6162 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
6163 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
6164 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
6165 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
6166 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
6167 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
6168 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
6169 ;
6170 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__u_3_3_3:
6171 ; GFX90A:       ; %bb.0:
6172 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6173 ; GFX90A-NEXT:    ;;#ASMSTART
6174 ; GFX90A-NEXT:    ; def v[0:7]
6175 ; GFX90A-NEXT:    ;;#ASMEND
6176 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
6177 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
6178 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
6179 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
6180 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
6181 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
6182 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
6183 ;
6184 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__u_3_3_3:
6185 ; GFX940:       ; %bb.0:
6186 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6187 ; GFX940-NEXT:    ;;#ASMSTART
6188 ; GFX940-NEXT:    ; def v[0:7]
6189 ; GFX940-NEXT:    ;;#ASMEND
6190 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
6191 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
6192 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
6193 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
6194 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
6195 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
6196 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
6197   %vec0 = call <4 x i64> asm "; def $0", "=v"()
6198   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 poison, i32 3, i32 3, i32 3>
6199   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
6200   ret void
6201 }
6202
6203 define void @v_shuffle_v4i64_v4i64__0_3_3_3(ptr addrspace(1) inreg %ptr) {
6204 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__0_3_3_3:
6205 ; GFX900:       ; %bb.0:
6206 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6207 ; GFX900-NEXT:    ;;#ASMSTART
6208 ; GFX900-NEXT:    ; def v[0:7]
6209 ; GFX900-NEXT:    ;;#ASMEND
6210 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
6211 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
6212 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
6213 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
6214 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
6215 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
6216 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
6217 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
6218 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
6219 ;
6220 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__0_3_3_3:
6221 ; GFX90A:       ; %bb.0:
6222 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6223 ; GFX90A-NEXT:    ;;#ASMSTART
6224 ; GFX90A-NEXT:    ; def v[0:7]
6225 ; GFX90A-NEXT:    ;;#ASMEND
6226 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
6227 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
6228 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
6229 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
6230 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
6231 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
6232 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
6233 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
6234 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
6235 ;
6236 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__0_3_3_3:
6237 ; GFX940:       ; %bb.0:
6238 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6239 ; GFX940-NEXT:    ;;#ASMSTART
6240 ; GFX940-NEXT:    ; def v[0:7]
6241 ; GFX940-NEXT:    ;;#ASMEND
6242 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
6243 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
6244 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
6245 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
6246 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
6247 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
6248 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
6249 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
6250 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
6251   %vec0 = call <4 x i64> asm "; def $0", "=v"()
6252   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 0, i32 3, i32 3, i32 3>
6253   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
6254   ret void
6255 }
6256
6257 define void @v_shuffle_v4i64_v4i64__1_3_3_3(ptr addrspace(1) inreg %ptr) {
6258 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__1_3_3_3:
6259 ; GFX900:       ; %bb.0:
6260 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6261 ; GFX900-NEXT:    ;;#ASMSTART
6262 ; GFX900-NEXT:    ; def v[0:7]
6263 ; GFX900-NEXT:    ;;#ASMEND
6264 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
6265 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
6266 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
6267 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
6268 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
6269 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
6270 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
6271 ;
6272 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__1_3_3_3:
6273 ; GFX90A:       ; %bb.0:
6274 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6275 ; GFX90A-NEXT:    ;;#ASMSTART
6276 ; GFX90A-NEXT:    ; def v[0:7]
6277 ; GFX90A-NEXT:    ;;#ASMEND
6278 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
6279 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
6280 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
6281 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
6282 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
6283 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
6284 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
6285 ;
6286 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__1_3_3_3:
6287 ; GFX940:       ; %bb.0:
6288 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6289 ; GFX940-NEXT:    ;;#ASMSTART
6290 ; GFX940-NEXT:    ; def v[0:7]
6291 ; GFX940-NEXT:    ;;#ASMEND
6292 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
6293 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
6294 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
6295 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
6296 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
6297 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
6298 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
6299   %vec0 = call <4 x i64> asm "; def $0", "=v"()
6300   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 1, i32 3, i32 3, i32 3>
6301   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
6302   ret void
6303 }
6304
6305 define void @v_shuffle_v4i64_v4i64__2_3_3_3(ptr addrspace(1) inreg %ptr) {
6306 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__2_3_3_3:
6307 ; GFX900:       ; %bb.0:
6308 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6309 ; GFX900-NEXT:    ;;#ASMSTART
6310 ; GFX900-NEXT:    ; def v[0:7]
6311 ; GFX900-NEXT:    ;;#ASMEND
6312 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
6313 ; GFX900-NEXT:    v_mov_b32_e32 v0, v6
6314 ; GFX900-NEXT:    v_mov_b32_e32 v1, v7
6315 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
6316 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
6317 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
6318 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
6319 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
6320 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
6321 ;
6322 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__2_3_3_3:
6323 ; GFX90A:       ; %bb.0:
6324 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6325 ; GFX90A-NEXT:    ;;#ASMSTART
6326 ; GFX90A-NEXT:    ; def v[0:7]
6327 ; GFX90A-NEXT:    ;;#ASMEND
6328 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
6329 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v6
6330 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v7
6331 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
6332 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
6333 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
6334 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
6335 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
6336 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
6337 ;
6338 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__2_3_3_3:
6339 ; GFX940:       ; %bb.0:
6340 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6341 ; GFX940-NEXT:    ;;#ASMSTART
6342 ; GFX940-NEXT:    ; def v[0:7]
6343 ; GFX940-NEXT:    ;;#ASMEND
6344 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
6345 ; GFX940-NEXT:    v_mov_b32_e32 v0, v6
6346 ; GFX940-NEXT:    v_mov_b32_e32 v1, v7
6347 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
6348 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
6349 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
6350 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
6351 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
6352 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
6353   %vec0 = call <4 x i64> asm "; def $0", "=v"()
6354   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 2, i32 3, i32 3, i32 3>
6355   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
6356   ret void
6357 }
6358
6359 define void @v_shuffle_v4i64_v4i64__3_3_3_3(ptr addrspace(1) inreg %ptr) {
6360 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__3_3_3_3:
6361 ; GFX900:       ; %bb.0:
6362 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6363 ; GFX900-NEXT:    ;;#ASMSTART
6364 ; GFX900-NEXT:    ; def v[0:7]
6365 ; GFX900-NEXT:    ;;#ASMEND
6366 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
6367 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
6368 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
6369 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
6370 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
6371 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
6372 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
6373 ;
6374 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__3_3_3_3:
6375 ; GFX90A:       ; %bb.0:
6376 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6377 ; GFX90A-NEXT:    ;;#ASMSTART
6378 ; GFX90A-NEXT:    ; def v[0:7]
6379 ; GFX90A-NEXT:    ;;#ASMEND
6380 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
6381 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
6382 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
6383 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
6384 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
6385 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
6386 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
6387 ;
6388 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__3_3_3_3:
6389 ; GFX940:       ; %bb.0:
6390 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6391 ; GFX940-NEXT:    ;;#ASMSTART
6392 ; GFX940-NEXT:    ; def v[0:7]
6393 ; GFX940-NEXT:    ;;#ASMEND
6394 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
6395 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
6396 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
6397 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
6398 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
6399 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
6400 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
6401   %vec0 = call <4 x i64> asm "; def $0", "=v"()
6402   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 3, i32 3, i32 3, i32 3>
6403   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
6404   ret void
6405 }
6406
6407 define void @v_shuffle_v4i64_v4i64__4_3_3_3(ptr addrspace(1) inreg %ptr) {
6408 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__4_3_3_3:
6409 ; GFX900:       ; %bb.0:
6410 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6411 ; GFX900-NEXT:    ;;#ASMSTART
6412 ; GFX900-NEXT:    ; def v[0:7]
6413 ; GFX900-NEXT:    ;;#ASMEND
6414 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
6415 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
6416 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
6417 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
6418 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
6419 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
6420 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
6421 ;
6422 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__4_3_3_3:
6423 ; GFX90A:       ; %bb.0:
6424 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6425 ; GFX90A-NEXT:    ;;#ASMSTART
6426 ; GFX90A-NEXT:    ; def v[0:7]
6427 ; GFX90A-NEXT:    ;;#ASMEND
6428 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
6429 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
6430 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
6431 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
6432 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
6433 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
6434 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
6435 ;
6436 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__4_3_3_3:
6437 ; GFX940:       ; %bb.0:
6438 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6439 ; GFX940-NEXT:    ;;#ASMSTART
6440 ; GFX940-NEXT:    ; def v[0:7]
6441 ; GFX940-NEXT:    ;;#ASMEND
6442 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
6443 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
6444 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
6445 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
6446 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
6447 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
6448 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
6449   %vec0 = call <4 x i64> asm "; def $0", "=v"()
6450   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 4, i32 3, i32 3, i32 3>
6451   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
6452   ret void
6453 }
6454
6455 define void @v_shuffle_v4i64_v4i64__5_3_3_3(ptr addrspace(1) inreg %ptr) {
6456 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__5_3_3_3:
6457 ; GFX900:       ; %bb.0:
6458 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6459 ; GFX900-NEXT:    ;;#ASMSTART
6460 ; GFX900-NEXT:    ; def v[0:7]
6461 ; GFX900-NEXT:    ;;#ASMEND
6462 ; GFX900-NEXT:    ;;#ASMSTART
6463 ; GFX900-NEXT:    ; def v[8:15]
6464 ; GFX900-NEXT:    ;;#ASMEND
6465 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
6466 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
6467 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
6468 ; GFX900-NEXT:    v_mov_b32_e32 v12, v6
6469 ; GFX900-NEXT:    v_mov_b32_e32 v13, v7
6470 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
6471 ; GFX900-NEXT:    global_store_dwordx4 v16, v[10:13], s[16:17]
6472 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
6473 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
6474 ;
6475 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__5_3_3_3:
6476 ; GFX90A:       ; %bb.0:
6477 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6478 ; GFX90A-NEXT:    ;;#ASMSTART
6479 ; GFX90A-NEXT:    ; def v[0:7]
6480 ; GFX90A-NEXT:    ;;#ASMEND
6481 ; GFX90A-NEXT:    ;;#ASMSTART
6482 ; GFX90A-NEXT:    ; def v[8:15]
6483 ; GFX90A-NEXT:    ;;#ASMEND
6484 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
6485 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
6486 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
6487 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v6
6488 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v7
6489 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
6490 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[10:13], s[16:17]
6491 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
6492 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
6493 ;
6494 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__5_3_3_3:
6495 ; GFX940:       ; %bb.0:
6496 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6497 ; GFX940-NEXT:    ;;#ASMSTART
6498 ; GFX940-NEXT:    ; def v[0:7]
6499 ; GFX940-NEXT:    ;;#ASMEND
6500 ; GFX940-NEXT:    ;;#ASMSTART
6501 ; GFX940-NEXT:    ; def v[8:15]
6502 ; GFX940-NEXT:    ;;#ASMEND
6503 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
6504 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
6505 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
6506 ; GFX940-NEXT:    v_mov_b32_e32 v12, v6
6507 ; GFX940-NEXT:    v_mov_b32_e32 v13, v7
6508 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] offset:16 sc0 sc1
6509 ; GFX940-NEXT:    global_store_dwordx4 v16, v[10:13], s[0:1] sc0 sc1
6510 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
6511 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
6512   %vec0 = call <4 x i64> asm "; def $0", "=v"()
6513   %vec1 = call <4 x i64> asm "; def $0", "=v"()
6514   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 5, i32 3, i32 3, i32 3>
6515   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
6516   ret void
6517 }
6518
6519 define void @v_shuffle_v4i64_v4i64__6_3_3_3(ptr addrspace(1) inreg %ptr) {
6520 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__6_3_3_3:
6521 ; GFX900:       ; %bb.0:
6522 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6523 ; GFX900-NEXT:    ;;#ASMSTART
6524 ; GFX900-NEXT:    ; def v[0:7]
6525 ; GFX900-NEXT:    ;;#ASMEND
6526 ; GFX900-NEXT:    ;;#ASMSTART
6527 ; GFX900-NEXT:    ; def v[8:15]
6528 ; GFX900-NEXT:    ;;#ASMEND
6529 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
6530 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
6531 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
6532 ; GFX900-NEXT:    v_mov_b32_e32 v14, v6
6533 ; GFX900-NEXT:    v_mov_b32_e32 v15, v7
6534 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
6535 ; GFX900-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
6536 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
6537 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
6538 ;
6539 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__6_3_3_3:
6540 ; GFX90A:       ; %bb.0:
6541 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6542 ; GFX90A-NEXT:    ;;#ASMSTART
6543 ; GFX90A-NEXT:    ; def v[0:7]
6544 ; GFX90A-NEXT:    ;;#ASMEND
6545 ; GFX90A-NEXT:    ;;#ASMSTART
6546 ; GFX90A-NEXT:    ; def v[8:15]
6547 ; GFX90A-NEXT:    ;;#ASMEND
6548 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
6549 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
6550 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
6551 ; GFX90A-NEXT:    v_mov_b32_e32 v14, v6
6552 ; GFX90A-NEXT:    v_mov_b32_e32 v15, v7
6553 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
6554 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
6555 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
6556 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
6557 ;
6558 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__6_3_3_3:
6559 ; GFX940:       ; %bb.0:
6560 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6561 ; GFX940-NEXT:    ;;#ASMSTART
6562 ; GFX940-NEXT:    ; def v[0:7]
6563 ; GFX940-NEXT:    ;;#ASMEND
6564 ; GFX940-NEXT:    ;;#ASMSTART
6565 ; GFX940-NEXT:    ; def v[8:15]
6566 ; GFX940-NEXT:    ;;#ASMEND
6567 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
6568 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
6569 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
6570 ; GFX940-NEXT:    v_mov_b32_e32 v14, v6
6571 ; GFX940-NEXT:    v_mov_b32_e32 v15, v7
6572 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] offset:16 sc0 sc1
6573 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] sc0 sc1
6574 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
6575 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
6576   %vec0 = call <4 x i64> asm "; def $0", "=v"()
6577   %vec1 = call <4 x i64> asm "; def $0", "=v"()
6578   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 6, i32 3, i32 3, i32 3>
6579   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
6580   ret void
6581 }
6582
6583 define void @v_shuffle_v4i64_v4i64__7_3_3_3(ptr addrspace(1) inreg %ptr) {
6584 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_3_3_3:
6585 ; GFX900:       ; %bb.0:
6586 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6587 ; GFX900-NEXT:    ;;#ASMSTART
6588 ; GFX900-NEXT:    ; def v[0:7]
6589 ; GFX900-NEXT:    ;;#ASMEND
6590 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
6591 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
6592 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
6593 ; GFX900-NEXT:    ;;#ASMSTART
6594 ; GFX900-NEXT:    ; def v[8:15]
6595 ; GFX900-NEXT:    ;;#ASMEND
6596 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
6597 ; GFX900-NEXT:    s_nop 0
6598 ; GFX900-NEXT:    v_mov_b32_e32 v4, v14
6599 ; GFX900-NEXT:    v_mov_b32_e32 v5, v15
6600 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17]
6601 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
6602 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
6603 ;
6604 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_3_3_3:
6605 ; GFX90A:       ; %bb.0:
6606 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6607 ; GFX90A-NEXT:    ;;#ASMSTART
6608 ; GFX90A-NEXT:    ; def v[0:7]
6609 ; GFX90A-NEXT:    ;;#ASMEND
6610 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
6611 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
6612 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
6613 ; GFX90A-NEXT:    ;;#ASMSTART
6614 ; GFX90A-NEXT:    ; def v[8:15]
6615 ; GFX90A-NEXT:    ;;#ASMEND
6616 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
6617 ; GFX90A-NEXT:    s_nop 0
6618 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v14
6619 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v15
6620 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17]
6621 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
6622 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
6623 ;
6624 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_3_3_3:
6625 ; GFX940:       ; %bb.0:
6626 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6627 ; GFX940-NEXT:    ;;#ASMSTART
6628 ; GFX940-NEXT:    ; def v[0:7]
6629 ; GFX940-NEXT:    ;;#ASMEND
6630 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
6631 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
6632 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
6633 ; GFX940-NEXT:    ;;#ASMSTART
6634 ; GFX940-NEXT:    ; def v[8:15]
6635 ; GFX940-NEXT:    ;;#ASMEND
6636 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] offset:16 sc0 sc1
6637 ; GFX940-NEXT:    s_nop 1
6638 ; GFX940-NEXT:    v_mov_b32_e32 v4, v14
6639 ; GFX940-NEXT:    v_mov_b32_e32 v5, v15
6640 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] sc0 sc1
6641 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
6642 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
6643   %vec0 = call <4 x i64> asm "; def $0", "=v"()
6644   %vec1 = call <4 x i64> asm "; def $0", "=v"()
6645   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 3, i32 3, i32 3>
6646   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
6647   ret void
6648 }
6649
6650 define void @v_shuffle_v4i64_v4i64__7_u_3_3(ptr addrspace(1) inreg %ptr) {
6651 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_u_3_3:
6652 ; GFX900:       ; %bb.0:
6653 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6654 ; GFX900-NEXT:    ;;#ASMSTART
6655 ; GFX900-NEXT:    ; def v[0:7]
6656 ; GFX900-NEXT:    ;;#ASMEND
6657 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
6658 ; GFX900-NEXT:    ;;#ASMSTART
6659 ; GFX900-NEXT:    ; def v[8:15]
6660 ; GFX900-NEXT:    ;;#ASMEND
6661 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
6662 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
6663 ; GFX900-NEXT:    v_mov_b32_e32 v0, v14
6664 ; GFX900-NEXT:    v_mov_b32_e32 v1, v15
6665 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
6666 ; GFX900-NEXT:    global_store_dwordx4 v16, v[0:3], s[16:17]
6667 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
6668 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
6669 ;
6670 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_u_3_3:
6671 ; GFX90A:       ; %bb.0:
6672 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6673 ; GFX90A-NEXT:    ;;#ASMSTART
6674 ; GFX90A-NEXT:    ; def v[0:7]
6675 ; GFX90A-NEXT:    ;;#ASMEND
6676 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
6677 ; GFX90A-NEXT:    ;;#ASMSTART
6678 ; GFX90A-NEXT:    ; def v[8:15]
6679 ; GFX90A-NEXT:    ;;#ASMEND
6680 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
6681 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
6682 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v14
6683 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v15
6684 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
6685 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[0:3], s[16:17]
6686 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
6687 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
6688 ;
6689 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_u_3_3:
6690 ; GFX940:       ; %bb.0:
6691 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6692 ; GFX940-NEXT:    ;;#ASMSTART
6693 ; GFX940-NEXT:    ; def v[0:7]
6694 ; GFX940-NEXT:    ;;#ASMEND
6695 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
6696 ; GFX940-NEXT:    ;;#ASMSTART
6697 ; GFX940-NEXT:    ; def v[8:15]
6698 ; GFX940-NEXT:    ;;#ASMEND
6699 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
6700 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
6701 ; GFX940-NEXT:    v_mov_b32_e32 v0, v14
6702 ; GFX940-NEXT:    v_mov_b32_e32 v1, v15
6703 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] offset:16 sc0 sc1
6704 ; GFX940-NEXT:    global_store_dwordx4 v16, v[0:3], s[0:1] sc0 sc1
6705 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
6706 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
6707   %vec0 = call <4 x i64> asm "; def $0", "=v"()
6708   %vec1 = call <4 x i64> asm "; def $0", "=v"()
6709   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 poison, i32 3, i32 3>
6710   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
6711   ret void
6712 }
6713
6714 define void @v_shuffle_v4i64_v4i64__7_0_3_3(ptr addrspace(1) inreg %ptr) {
6715 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_0_3_3:
6716 ; GFX900:       ; %bb.0:
6717 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6718 ; GFX900-NEXT:    ;;#ASMSTART
6719 ; GFX900-NEXT:    ; def v[0:7]
6720 ; GFX900-NEXT:    ;;#ASMEND
6721 ; GFX900-NEXT:    v_mov_b32_e32 v8, v6
6722 ; GFX900-NEXT:    v_mov_b32_e32 v9, v7
6723 ; GFX900-NEXT:    ;;#ASMSTART
6724 ; GFX900-NEXT:    ; def v[0:7]
6725 ; GFX900-NEXT:    ;;#ASMEND
6726 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
6727 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
6728 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
6729 ; GFX900-NEXT:    v_mov_b32_e32 v10, v0
6730 ; GFX900-NEXT:    v_mov_b32_e32 v11, v1
6731 ; GFX900-NEXT:    global_store_dwordx4 v12, v[4:7], s[16:17] offset:16
6732 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
6733 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
6734 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
6735 ;
6736 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_0_3_3:
6737 ; GFX90A:       ; %bb.0:
6738 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6739 ; GFX90A-NEXT:    ;;#ASMSTART
6740 ; GFX90A-NEXT:    ; def v[0:7]
6741 ; GFX90A-NEXT:    ;;#ASMEND
6742 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
6743 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
6744 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
6745 ; GFX90A-NEXT:    ;;#ASMSTART
6746 ; GFX90A-NEXT:    ; def v[8:15]
6747 ; GFX90A-NEXT:    ;;#ASMEND
6748 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
6749 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v14
6750 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v15
6751 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
6752 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
6753 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[2:5], s[16:17]
6754 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
6755 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
6756 ;
6757 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_0_3_3:
6758 ; GFX940:       ; %bb.0:
6759 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6760 ; GFX940-NEXT:    ;;#ASMSTART
6761 ; GFX940-NEXT:    ; def v[0:7]
6762 ; GFX940-NEXT:    ;;#ASMEND
6763 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
6764 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
6765 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
6766 ; GFX940-NEXT:    ;;#ASMSTART
6767 ; GFX940-NEXT:    ; def v[8:15]
6768 ; GFX940-NEXT:    ;;#ASMEND
6769 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] offset:16 sc0 sc1
6770 ; GFX940-NEXT:    v_mov_b32_e32 v2, v14
6771 ; GFX940-NEXT:    v_mov_b32_e32 v3, v15
6772 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
6773 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
6774 ; GFX940-NEXT:    global_store_dwordx4 v16, v[2:5], s[0:1] sc0 sc1
6775 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
6776 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
6777   %vec0 = call <4 x i64> asm "; def $0", "=v"()
6778   %vec1 = call <4 x i64> asm "; def $0", "=v"()
6779   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 0, i32 3, i32 3>
6780   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
6781   ret void
6782 }
6783
6784 define void @v_shuffle_v4i64_v4i64__7_1_3_3(ptr addrspace(1) inreg %ptr) {
6785 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_1_3_3:
6786 ; GFX900:       ; %bb.0:
6787 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6788 ; GFX900-NEXT:    ;;#ASMSTART
6789 ; GFX900-NEXT:    ; def v[0:7]
6790 ; GFX900-NEXT:    ;;#ASMEND
6791 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
6792 ; GFX900-NEXT:    ;;#ASMSTART
6793 ; GFX900-NEXT:    ; def v[8:15]
6794 ; GFX900-NEXT:    ;;#ASMEND
6795 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
6796 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
6797 ; GFX900-NEXT:    v_mov_b32_e32 v0, v14
6798 ; GFX900-NEXT:    v_mov_b32_e32 v1, v15
6799 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
6800 ; GFX900-NEXT:    global_store_dwordx4 v16, v[0:3], s[16:17]
6801 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
6802 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
6803 ;
6804 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_1_3_3:
6805 ; GFX90A:       ; %bb.0:
6806 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6807 ; GFX90A-NEXT:    ;;#ASMSTART
6808 ; GFX90A-NEXT:    ; def v[0:7]
6809 ; GFX90A-NEXT:    ;;#ASMEND
6810 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
6811 ; GFX90A-NEXT:    ;;#ASMSTART
6812 ; GFX90A-NEXT:    ; def v[8:15]
6813 ; GFX90A-NEXT:    ;;#ASMEND
6814 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
6815 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
6816 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v14
6817 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v15
6818 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
6819 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[0:3], s[16:17]
6820 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
6821 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
6822 ;
6823 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_1_3_3:
6824 ; GFX940:       ; %bb.0:
6825 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6826 ; GFX940-NEXT:    ;;#ASMSTART
6827 ; GFX940-NEXT:    ; def v[0:7]
6828 ; GFX940-NEXT:    ;;#ASMEND
6829 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
6830 ; GFX940-NEXT:    ;;#ASMSTART
6831 ; GFX940-NEXT:    ; def v[8:15]
6832 ; GFX940-NEXT:    ;;#ASMEND
6833 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
6834 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
6835 ; GFX940-NEXT:    v_mov_b32_e32 v0, v14
6836 ; GFX940-NEXT:    v_mov_b32_e32 v1, v15
6837 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] offset:16 sc0 sc1
6838 ; GFX940-NEXT:    global_store_dwordx4 v16, v[0:3], s[0:1] sc0 sc1
6839 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
6840 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
6841   %vec0 = call <4 x i64> asm "; def $0", "=v"()
6842   %vec1 = call <4 x i64> asm "; def $0", "=v"()
6843   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 1, i32 3, i32 3>
6844   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
6845   ret void
6846 }
6847
6848 define void @v_shuffle_v4i64_v4i64__7_2_3_3(ptr addrspace(1) inreg %ptr) {
6849 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_2_3_3:
6850 ; GFX900:       ; %bb.0:
6851 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6852 ; GFX900-NEXT:    ;;#ASMSTART
6853 ; GFX900-NEXT:    ; def v[0:7]
6854 ; GFX900-NEXT:    ;;#ASMEND
6855 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
6856 ; GFX900-NEXT:    v_mov_b32_e32 v0, v6
6857 ; GFX900-NEXT:    v_mov_b32_e32 v1, v7
6858 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
6859 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
6860 ; GFX900-NEXT:    global_store_dwordx4 v14, v[0:3], s[16:17] offset:16
6861 ; GFX900-NEXT:    ;;#ASMSTART
6862 ; GFX900-NEXT:    ; def v[6:13]
6863 ; GFX900-NEXT:    ;;#ASMEND
6864 ; GFX900-NEXT:    s_nop 0
6865 ; GFX900-NEXT:    v_mov_b32_e32 v2, v12
6866 ; GFX900-NEXT:    v_mov_b32_e32 v3, v13
6867 ; GFX900-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17]
6868 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
6869 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
6870 ;
6871 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_2_3_3:
6872 ; GFX90A:       ; %bb.0:
6873 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6874 ; GFX90A-NEXT:    ;;#ASMSTART
6875 ; GFX90A-NEXT:    ; def v[0:7]
6876 ; GFX90A-NEXT:    ;;#ASMEND
6877 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
6878 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v6
6879 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v7
6880 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
6881 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
6882 ; GFX90A-NEXT:    ;;#ASMSTART
6883 ; GFX90A-NEXT:    ; def v[8:15]
6884 ; GFX90A-NEXT:    ;;#ASMEND
6885 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[0:3], s[16:17] offset:16
6886 ; GFX90A-NEXT:    s_nop 0
6887 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v14
6888 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v15
6889 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[2:5], s[16:17]
6890 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
6891 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
6892 ;
6893 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_2_3_3:
6894 ; GFX940:       ; %bb.0:
6895 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6896 ; GFX940-NEXT:    ;;#ASMSTART
6897 ; GFX940-NEXT:    ; def v[0:7]
6898 ; GFX940-NEXT:    ;;#ASMEND
6899 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
6900 ; GFX940-NEXT:    v_mov_b32_e32 v0, v6
6901 ; GFX940-NEXT:    v_mov_b32_e32 v1, v7
6902 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
6903 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
6904 ; GFX940-NEXT:    ;;#ASMSTART
6905 ; GFX940-NEXT:    ; def v[8:15]
6906 ; GFX940-NEXT:    ;;#ASMEND
6907 ; GFX940-NEXT:    global_store_dwordx4 v16, v[0:3], s[0:1] offset:16 sc0 sc1
6908 ; GFX940-NEXT:    s_nop 1
6909 ; GFX940-NEXT:    v_mov_b32_e32 v2, v14
6910 ; GFX940-NEXT:    v_mov_b32_e32 v3, v15
6911 ; GFX940-NEXT:    global_store_dwordx4 v16, v[2:5], s[0:1] sc0 sc1
6912 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
6913 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
6914   %vec0 = call <4 x i64> asm "; def $0", "=v"()
6915   %vec1 = call <4 x i64> asm "; def $0", "=v"()
6916   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 2, i32 3, i32 3>
6917   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
6918   ret void
6919 }
6920
6921 define void @v_shuffle_v4i64_v4i64__7_4_3_3(ptr addrspace(1) inreg %ptr) {
6922 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_4_3_3:
6923 ; GFX900:       ; %bb.0:
6924 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6925 ; GFX900-NEXT:    ;;#ASMSTART
6926 ; GFX900-NEXT:    ; def v[0:7]
6927 ; GFX900-NEXT:    ;;#ASMEND
6928 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
6929 ; GFX900-NEXT:    ;;#ASMSTART
6930 ; GFX900-NEXT:    ; def v[8:15]
6931 ; GFX900-NEXT:    ;;#ASMEND
6932 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
6933 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
6934 ; GFX900-NEXT:    v_mov_b32_e32 v0, v14
6935 ; GFX900-NEXT:    v_mov_b32_e32 v1, v15
6936 ; GFX900-NEXT:    v_mov_b32_e32 v2, v8
6937 ; GFX900-NEXT:    v_mov_b32_e32 v3, v9
6938 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
6939 ; GFX900-NEXT:    global_store_dwordx4 v16, v[0:3], s[16:17]
6940 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
6941 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
6942 ;
6943 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_4_3_3:
6944 ; GFX90A:       ; %bb.0:
6945 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6946 ; GFX90A-NEXT:    ;;#ASMSTART
6947 ; GFX90A-NEXT:    ; def v[0:7]
6948 ; GFX90A-NEXT:    ;;#ASMEND
6949 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
6950 ; GFX90A-NEXT:    ;;#ASMSTART
6951 ; GFX90A-NEXT:    ; def v[8:15]
6952 ; GFX90A-NEXT:    ;;#ASMEND
6953 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
6954 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
6955 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v14
6956 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v15
6957 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v8
6958 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v9
6959 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
6960 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[0:3], s[16:17]
6961 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
6962 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
6963 ;
6964 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_4_3_3:
6965 ; GFX940:       ; %bb.0:
6966 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6967 ; GFX940-NEXT:    ;;#ASMSTART
6968 ; GFX940-NEXT:    ; def v[0:7]
6969 ; GFX940-NEXT:    ;;#ASMEND
6970 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
6971 ; GFX940-NEXT:    ;;#ASMSTART
6972 ; GFX940-NEXT:    ; def v[8:15]
6973 ; GFX940-NEXT:    ;;#ASMEND
6974 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
6975 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
6976 ; GFX940-NEXT:    v_mov_b32_e32 v0, v14
6977 ; GFX940-NEXT:    v_mov_b32_e32 v1, v15
6978 ; GFX940-NEXT:    v_mov_b32_e32 v2, v8
6979 ; GFX940-NEXT:    v_mov_b32_e32 v3, v9
6980 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] offset:16 sc0 sc1
6981 ; GFX940-NEXT:    global_store_dwordx4 v16, v[0:3], s[0:1] sc0 sc1
6982 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
6983 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
6984   %vec0 = call <4 x i64> asm "; def $0", "=v"()
6985   %vec1 = call <4 x i64> asm "; def $0", "=v"()
6986   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 4, i32 3, i32 3>
6987   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
6988   ret void
6989 }
6990
6991 define void @v_shuffle_v4i64_v4i64__7_5_3_3(ptr addrspace(1) inreg %ptr) {
6992 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_5_3_3:
6993 ; GFX900:       ; %bb.0:
6994 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
6995 ; GFX900-NEXT:    ;;#ASMSTART
6996 ; GFX900-NEXT:    ; def v[0:7]
6997 ; GFX900-NEXT:    ;;#ASMEND
6998 ; GFX900-NEXT:    ;;#ASMSTART
6999 ; GFX900-NEXT:    ; def v[8:15]
7000 ; GFX900-NEXT:    ;;#ASMEND
7001 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
7002 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
7003 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
7004 ; GFX900-NEXT:    v_mov_b32_e32 v8, v14
7005 ; GFX900-NEXT:    v_mov_b32_e32 v9, v15
7006 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
7007 ; GFX900-NEXT:    global_store_dwordx4 v16, v[8:11], s[16:17]
7008 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
7009 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
7010 ;
7011 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_5_3_3:
7012 ; GFX90A:       ; %bb.0:
7013 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7014 ; GFX90A-NEXT:    ;;#ASMSTART
7015 ; GFX90A-NEXT:    ; def v[0:7]
7016 ; GFX90A-NEXT:    ;;#ASMEND
7017 ; GFX90A-NEXT:    ;;#ASMSTART
7018 ; GFX90A-NEXT:    ; def v[8:15]
7019 ; GFX90A-NEXT:    ;;#ASMEND
7020 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
7021 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
7022 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
7023 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v14
7024 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v15
7025 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
7026 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[8:11], s[16:17]
7027 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
7028 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
7029 ;
7030 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_5_3_3:
7031 ; GFX940:       ; %bb.0:
7032 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7033 ; GFX940-NEXT:    ;;#ASMSTART
7034 ; GFX940-NEXT:    ; def v[0:7]
7035 ; GFX940-NEXT:    ;;#ASMEND
7036 ; GFX940-NEXT:    ;;#ASMSTART
7037 ; GFX940-NEXT:    ; def v[8:15]
7038 ; GFX940-NEXT:    ;;#ASMEND
7039 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
7040 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
7041 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
7042 ; GFX940-NEXT:    v_mov_b32_e32 v8, v14
7043 ; GFX940-NEXT:    v_mov_b32_e32 v9, v15
7044 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] offset:16 sc0 sc1
7045 ; GFX940-NEXT:    global_store_dwordx4 v16, v[8:11], s[0:1] sc0 sc1
7046 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
7047 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
7048   %vec0 = call <4 x i64> asm "; def $0", "=v"()
7049   %vec1 = call <4 x i64> asm "; def $0", "=v"()
7050   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 5, i32 3, i32 3>
7051   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
7052   ret void
7053 }
7054
7055 define void @v_shuffle_v4i64_v4i64__7_6_3_3(ptr addrspace(1) inreg %ptr) {
7056 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_6_3_3:
7057 ; GFX900:       ; %bb.0:
7058 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7059 ; GFX900-NEXT:    ;;#ASMSTART
7060 ; GFX900-NEXT:    ; def v[0:7]
7061 ; GFX900-NEXT:    ;;#ASMEND
7062 ; GFX900-NEXT:    ;;#ASMSTART
7063 ; GFX900-NEXT:    ; def v[8:15]
7064 ; GFX900-NEXT:    ;;#ASMEND
7065 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
7066 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
7067 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
7068 ; GFX900-NEXT:    v_mov_b32_e32 v10, v14
7069 ; GFX900-NEXT:    v_mov_b32_e32 v11, v15
7070 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
7071 ; GFX900-NEXT:    global_store_dwordx4 v16, v[10:13], s[16:17]
7072 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
7073 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
7074 ;
7075 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_6_3_3:
7076 ; GFX90A:       ; %bb.0:
7077 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7078 ; GFX90A-NEXT:    ;;#ASMSTART
7079 ; GFX90A-NEXT:    ; def v[0:7]
7080 ; GFX90A-NEXT:    ;;#ASMEND
7081 ; GFX90A-NEXT:    ;;#ASMSTART
7082 ; GFX90A-NEXT:    ; def v[8:15]
7083 ; GFX90A-NEXT:    ;;#ASMEND
7084 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
7085 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
7086 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
7087 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v14
7088 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v15
7089 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
7090 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[10:13], s[16:17]
7091 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
7092 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
7093 ;
7094 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_6_3_3:
7095 ; GFX940:       ; %bb.0:
7096 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7097 ; GFX940-NEXT:    ;;#ASMSTART
7098 ; GFX940-NEXT:    ; def v[0:7]
7099 ; GFX940-NEXT:    ;;#ASMEND
7100 ; GFX940-NEXT:    ;;#ASMSTART
7101 ; GFX940-NEXT:    ; def v[8:15]
7102 ; GFX940-NEXT:    ;;#ASMEND
7103 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
7104 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
7105 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
7106 ; GFX940-NEXT:    v_mov_b32_e32 v10, v14
7107 ; GFX940-NEXT:    v_mov_b32_e32 v11, v15
7108 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] offset:16 sc0 sc1
7109 ; GFX940-NEXT:    global_store_dwordx4 v16, v[10:13], s[0:1] sc0 sc1
7110 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
7111 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
7112   %vec0 = call <4 x i64> asm "; def $0", "=v"()
7113   %vec1 = call <4 x i64> asm "; def $0", "=v"()
7114   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 6, i32 3, i32 3>
7115   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
7116   ret void
7117 }
7118
7119 define void @v_shuffle_v4i64_v4i64__7_7_3_3(ptr addrspace(1) inreg %ptr) {
7120 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_3_3:
7121 ; GFX900:       ; %bb.0:
7122 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7123 ; GFX900-NEXT:    ;;#ASMSTART
7124 ; GFX900-NEXT:    ; def v[0:7]
7125 ; GFX900-NEXT:    ;;#ASMEND
7126 ; GFX900-NEXT:    ;;#ASMSTART
7127 ; GFX900-NEXT:    ; def v[8:15]
7128 ; GFX900-NEXT:    ;;#ASMEND
7129 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
7130 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
7131 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
7132 ; GFX900-NEXT:    v_mov_b32_e32 v12, v14
7133 ; GFX900-NEXT:    v_mov_b32_e32 v13, v15
7134 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
7135 ; GFX900-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
7136 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
7137 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
7138 ;
7139 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_3_3:
7140 ; GFX90A:       ; %bb.0:
7141 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7142 ; GFX90A-NEXT:    ;;#ASMSTART
7143 ; GFX90A-NEXT:    ; def v[0:7]
7144 ; GFX90A-NEXT:    ;;#ASMEND
7145 ; GFX90A-NEXT:    ;;#ASMSTART
7146 ; GFX90A-NEXT:    ; def v[8:15]
7147 ; GFX90A-NEXT:    ;;#ASMEND
7148 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
7149 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
7150 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
7151 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v14
7152 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v15
7153 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
7154 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
7155 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
7156 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
7157 ;
7158 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_3_3:
7159 ; GFX940:       ; %bb.0:
7160 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7161 ; GFX940-NEXT:    ;;#ASMSTART
7162 ; GFX940-NEXT:    ; def v[0:7]
7163 ; GFX940-NEXT:    ;;#ASMEND
7164 ; GFX940-NEXT:    ;;#ASMSTART
7165 ; GFX940-NEXT:    ; def v[8:15]
7166 ; GFX940-NEXT:    ;;#ASMEND
7167 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
7168 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
7169 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
7170 ; GFX940-NEXT:    v_mov_b32_e32 v12, v14
7171 ; GFX940-NEXT:    v_mov_b32_e32 v13, v15
7172 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] offset:16 sc0 sc1
7173 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] sc0 sc1
7174 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
7175 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
7176   %vec0 = call <4 x i64> asm "; def $0", "=v"()
7177   %vec1 = call <4 x i64> asm "; def $0", "=v"()
7178   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 3, i32 3>
7179   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
7180   ret void
7181 }
7182
7183 define void @v_shuffle_v4i64_v4i64__7_7_u_3(ptr addrspace(1) inreg %ptr) {
7184 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_u_3:
7185 ; GFX900:       ; %bb.0:
7186 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7187 ; GFX900-NEXT:    ;;#ASMSTART
7188 ; GFX900-NEXT:    ; def v[8:15]
7189 ; GFX900-NEXT:    ;;#ASMEND
7190 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
7191 ; GFX900-NEXT:    v_mov_b32_e32 v12, v14
7192 ; GFX900-NEXT:    v_mov_b32_e32 v13, v15
7193 ; GFX900-NEXT:    ;;#ASMSTART
7194 ; GFX900-NEXT:    ; def v[0:7]
7195 ; GFX900-NEXT:    ;;#ASMEND
7196 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
7197 ; GFX900-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
7198 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
7199 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
7200 ;
7201 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_u_3:
7202 ; GFX90A:       ; %bb.0:
7203 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7204 ; GFX90A-NEXT:    ;;#ASMSTART
7205 ; GFX90A-NEXT:    ; def v[8:15]
7206 ; GFX90A-NEXT:    ;;#ASMEND
7207 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
7208 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v14
7209 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v15
7210 ; GFX90A-NEXT:    ;;#ASMSTART
7211 ; GFX90A-NEXT:    ; def v[0:7]
7212 ; GFX90A-NEXT:    ;;#ASMEND
7213 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
7214 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
7215 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
7216 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
7217 ;
7218 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_u_3:
7219 ; GFX940:       ; %bb.0:
7220 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7221 ; GFX940-NEXT:    ;;#ASMSTART
7222 ; GFX940-NEXT:    ; def v[8:15]
7223 ; GFX940-NEXT:    ;;#ASMEND
7224 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
7225 ; GFX940-NEXT:    v_mov_b32_e32 v12, v14
7226 ; GFX940-NEXT:    v_mov_b32_e32 v13, v15
7227 ; GFX940-NEXT:    ;;#ASMSTART
7228 ; GFX940-NEXT:    ; def v[0:7]
7229 ; GFX940-NEXT:    ;;#ASMEND
7230 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] offset:16 sc0 sc1
7231 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] sc0 sc1
7232 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
7233 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
7234   %vec0 = call <4 x i64> asm "; def $0", "=v"()
7235   %vec1 = call <4 x i64> asm "; def $0", "=v"()
7236   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 poison, i32 3>
7237   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
7238   ret void
7239 }
7240
7241 define void @v_shuffle_v4i64_v4i64__7_7_0_3(ptr addrspace(1) inreg %ptr) {
7242 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_0_3:
7243 ; GFX900:       ; %bb.0:
7244 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7245 ; GFX900-NEXT:    ;;#ASMSTART
7246 ; GFX900-NEXT:    ; def v[0:7]
7247 ; GFX900-NEXT:    ;;#ASMEND
7248 ; GFX900-NEXT:    ;;#ASMSTART
7249 ; GFX900-NEXT:    ; def v[8:15]
7250 ; GFX900-NEXT:    ;;#ASMEND
7251 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
7252 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
7253 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
7254 ; GFX900-NEXT:    v_mov_b32_e32 v12, v14
7255 ; GFX900-NEXT:    v_mov_b32_e32 v13, v15
7256 ; GFX900-NEXT:    global_store_dwordx4 v16, v[0:3], s[16:17] offset:16
7257 ; GFX900-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
7258 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
7259 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
7260 ;
7261 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_0_3:
7262 ; GFX90A:       ; %bb.0:
7263 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7264 ; GFX90A-NEXT:    ;;#ASMSTART
7265 ; GFX90A-NEXT:    ; def v[0:7]
7266 ; GFX90A-NEXT:    ;;#ASMEND
7267 ; GFX90A-NEXT:    ;;#ASMSTART
7268 ; GFX90A-NEXT:    ; def v[8:15]
7269 ; GFX90A-NEXT:    ;;#ASMEND
7270 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
7271 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
7272 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
7273 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v14
7274 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v15
7275 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[0:3], s[16:17] offset:16
7276 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
7277 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
7278 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
7279 ;
7280 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_0_3:
7281 ; GFX940:       ; %bb.0:
7282 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7283 ; GFX940-NEXT:    ;;#ASMSTART
7284 ; GFX940-NEXT:    ; def v[0:7]
7285 ; GFX940-NEXT:    ;;#ASMEND
7286 ; GFX940-NEXT:    ;;#ASMSTART
7287 ; GFX940-NEXT:    ; def v[8:15]
7288 ; GFX940-NEXT:    ;;#ASMEND
7289 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
7290 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
7291 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
7292 ; GFX940-NEXT:    v_mov_b32_e32 v12, v14
7293 ; GFX940-NEXT:    v_mov_b32_e32 v13, v15
7294 ; GFX940-NEXT:    global_store_dwordx4 v16, v[0:3], s[0:1] offset:16 sc0 sc1
7295 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] sc0 sc1
7296 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
7297 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
7298   %vec0 = call <4 x i64> asm "; def $0", "=v"()
7299   %vec1 = call <4 x i64> asm "; def $0", "=v"()
7300   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 0, i32 3>
7301   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
7302   ret void
7303 }
7304
7305 define void @v_shuffle_v4i64_v4i64__7_7_1_3(ptr addrspace(1) inreg %ptr) {
7306 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_1_3:
7307 ; GFX900:       ; %bb.0:
7308 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7309 ; GFX900-NEXT:    ;;#ASMSTART
7310 ; GFX900-NEXT:    ; def v[0:7]
7311 ; GFX900-NEXT:    ;;#ASMEND
7312 ; GFX900-NEXT:    ;;#ASMSTART
7313 ; GFX900-NEXT:    ; def v[8:15]
7314 ; GFX900-NEXT:    ;;#ASMEND
7315 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
7316 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
7317 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
7318 ; GFX900-NEXT:    v_mov_b32_e32 v12, v14
7319 ; GFX900-NEXT:    v_mov_b32_e32 v13, v15
7320 ; GFX900-NEXT:    global_store_dwordx4 v16, v[2:5], s[16:17] offset:16
7321 ; GFX900-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
7322 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
7323 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
7324 ;
7325 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_1_3:
7326 ; GFX90A:       ; %bb.0:
7327 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7328 ; GFX90A-NEXT:    ;;#ASMSTART
7329 ; GFX90A-NEXT:    ; def v[0:7]
7330 ; GFX90A-NEXT:    ;;#ASMEND
7331 ; GFX90A-NEXT:    ;;#ASMSTART
7332 ; GFX90A-NEXT:    ; def v[8:15]
7333 ; GFX90A-NEXT:    ;;#ASMEND
7334 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
7335 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
7336 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
7337 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v14
7338 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v15
7339 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[2:5], s[16:17] offset:16
7340 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
7341 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
7342 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
7343 ;
7344 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_1_3:
7345 ; GFX940:       ; %bb.0:
7346 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7347 ; GFX940-NEXT:    ;;#ASMSTART
7348 ; GFX940-NEXT:    ; def v[0:7]
7349 ; GFX940-NEXT:    ;;#ASMEND
7350 ; GFX940-NEXT:    ;;#ASMSTART
7351 ; GFX940-NEXT:    ; def v[8:15]
7352 ; GFX940-NEXT:    ;;#ASMEND
7353 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
7354 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
7355 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
7356 ; GFX940-NEXT:    v_mov_b32_e32 v12, v14
7357 ; GFX940-NEXT:    v_mov_b32_e32 v13, v15
7358 ; GFX940-NEXT:    global_store_dwordx4 v16, v[2:5], s[0:1] offset:16 sc0 sc1
7359 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] sc0 sc1
7360 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
7361 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
7362   %vec0 = call <4 x i64> asm "; def $0", "=v"()
7363   %vec1 = call <4 x i64> asm "; def $0", "=v"()
7364   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 1, i32 3>
7365   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
7366   ret void
7367 }
7368
7369 define void @v_shuffle_v4i64_v4i64__7_7_2_3(ptr addrspace(1) inreg %ptr) {
7370 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_2_3:
7371 ; GFX900:       ; %bb.0:
7372 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7373 ; GFX900-NEXT:    ;;#ASMSTART
7374 ; GFX900-NEXT:    ; def v[8:15]
7375 ; GFX900-NEXT:    ;;#ASMEND
7376 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
7377 ; GFX900-NEXT:    v_mov_b32_e32 v12, v14
7378 ; GFX900-NEXT:    v_mov_b32_e32 v13, v15
7379 ; GFX900-NEXT:    ;;#ASMSTART
7380 ; GFX900-NEXT:    ; def v[0:7]
7381 ; GFX900-NEXT:    ;;#ASMEND
7382 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
7383 ; GFX900-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
7384 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
7385 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
7386 ;
7387 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_2_3:
7388 ; GFX90A:       ; %bb.0:
7389 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7390 ; GFX90A-NEXT:    ;;#ASMSTART
7391 ; GFX90A-NEXT:    ; def v[8:15]
7392 ; GFX90A-NEXT:    ;;#ASMEND
7393 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
7394 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v14
7395 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v15
7396 ; GFX90A-NEXT:    ;;#ASMSTART
7397 ; GFX90A-NEXT:    ; def v[0:7]
7398 ; GFX90A-NEXT:    ;;#ASMEND
7399 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
7400 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
7401 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
7402 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
7403 ;
7404 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_2_3:
7405 ; GFX940:       ; %bb.0:
7406 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7407 ; GFX940-NEXT:    ;;#ASMSTART
7408 ; GFX940-NEXT:    ; def v[8:15]
7409 ; GFX940-NEXT:    ;;#ASMEND
7410 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
7411 ; GFX940-NEXT:    v_mov_b32_e32 v12, v14
7412 ; GFX940-NEXT:    v_mov_b32_e32 v13, v15
7413 ; GFX940-NEXT:    ;;#ASMSTART
7414 ; GFX940-NEXT:    ; def v[0:7]
7415 ; GFX940-NEXT:    ;;#ASMEND
7416 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] offset:16 sc0 sc1
7417 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] sc0 sc1
7418 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
7419 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
7420   %vec0 = call <4 x i64> asm "; def $0", "=v"()
7421   %vec1 = call <4 x i64> asm "; def $0", "=v"()
7422   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 2, i32 3>
7423   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
7424   ret void
7425 }
7426
7427 define void @v_shuffle_v4i64_v4i64__7_7_4_3(ptr addrspace(1) inreg %ptr) {
7428 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_4_3:
7429 ; GFX900:       ; %bb.0:
7430 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7431 ; GFX900-NEXT:    ;;#ASMSTART
7432 ; GFX900-NEXT:    ; def v[8:15]
7433 ; GFX900-NEXT:    ;;#ASMEND
7434 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
7435 ; GFX900-NEXT:    ;;#ASMSTART
7436 ; GFX900-NEXT:    ; def v[0:7]
7437 ; GFX900-NEXT:    ;;#ASMEND
7438 ; GFX900-NEXT:    v_mov_b32_e32 v10, v6
7439 ; GFX900-NEXT:    v_mov_b32_e32 v11, v7
7440 ; GFX900-NEXT:    v_mov_b32_e32 v12, v14
7441 ; GFX900-NEXT:    v_mov_b32_e32 v13, v15
7442 ; GFX900-NEXT:    global_store_dwordx4 v16, v[8:11], s[16:17] offset:16
7443 ; GFX900-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
7444 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
7445 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
7446 ;
7447 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_4_3:
7448 ; GFX90A:       ; %bb.0:
7449 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7450 ; GFX90A-NEXT:    ;;#ASMSTART
7451 ; GFX90A-NEXT:    ; def v[8:15]
7452 ; GFX90A-NEXT:    ;;#ASMEND
7453 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
7454 ; GFX90A-NEXT:    ;;#ASMSTART
7455 ; GFX90A-NEXT:    ; def v[0:7]
7456 ; GFX90A-NEXT:    ;;#ASMEND
7457 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v6
7458 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v7
7459 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v14
7460 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v15
7461 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[8:11], s[16:17] offset:16
7462 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
7463 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
7464 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
7465 ;
7466 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_4_3:
7467 ; GFX940:       ; %bb.0:
7468 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7469 ; GFX940-NEXT:    ;;#ASMSTART
7470 ; GFX940-NEXT:    ; def v[8:15]
7471 ; GFX940-NEXT:    ;;#ASMEND
7472 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
7473 ; GFX940-NEXT:    ;;#ASMSTART
7474 ; GFX940-NEXT:    ; def v[0:7]
7475 ; GFX940-NEXT:    ;;#ASMEND
7476 ; GFX940-NEXT:    v_mov_b32_e32 v12, v14
7477 ; GFX940-NEXT:    v_mov_b32_e32 v10, v6
7478 ; GFX940-NEXT:    v_mov_b32_e32 v11, v7
7479 ; GFX940-NEXT:    v_mov_b32_e32 v13, v15
7480 ; GFX940-NEXT:    global_store_dwordx4 v16, v[8:11], s[0:1] offset:16 sc0 sc1
7481 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] sc0 sc1
7482 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
7483 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
7484   %vec0 = call <4 x i64> asm "; def $0", "=v"()
7485   %vec1 = call <4 x i64> asm "; def $0", "=v"()
7486   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 4, i32 3>
7487   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
7488   ret void
7489 }
7490
7491 define void @v_shuffle_v4i64_v4i64__7_7_5_3(ptr addrspace(1) inreg %ptr) {
7492 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_5_3:
7493 ; GFX900:       ; %bb.0:
7494 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7495 ; GFX900-NEXT:    ;;#ASMSTART
7496 ; GFX900-NEXT:    ; def v[8:15]
7497 ; GFX900-NEXT:    ;;#ASMEND
7498 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
7499 ; GFX900-NEXT:    ;;#ASMSTART
7500 ; GFX900-NEXT:    ; def v[0:7]
7501 ; GFX900-NEXT:    ;;#ASMEND
7502 ; GFX900-NEXT:    v_mov_b32_e32 v12, v6
7503 ; GFX900-NEXT:    v_mov_b32_e32 v13, v7
7504 ; GFX900-NEXT:    global_store_dwordx4 v16, v[10:13], s[16:17] offset:16
7505 ; GFX900-NEXT:    s_nop 0
7506 ; GFX900-NEXT:    v_mov_b32_e32 v12, v14
7507 ; GFX900-NEXT:    v_mov_b32_e32 v13, v15
7508 ; GFX900-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
7509 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
7510 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
7511 ;
7512 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_5_3:
7513 ; GFX90A:       ; %bb.0:
7514 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7515 ; GFX90A-NEXT:    ;;#ASMSTART
7516 ; GFX90A-NEXT:    ; def v[8:15]
7517 ; GFX90A-NEXT:    ;;#ASMEND
7518 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
7519 ; GFX90A-NEXT:    ;;#ASMSTART
7520 ; GFX90A-NEXT:    ; def v[0:7]
7521 ; GFX90A-NEXT:    ;;#ASMEND
7522 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v6
7523 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v7
7524 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[10:13], s[16:17] offset:16
7525 ; GFX90A-NEXT:    s_nop 0
7526 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v14
7527 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v15
7528 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
7529 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
7530 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
7531 ;
7532 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_5_3:
7533 ; GFX940:       ; %bb.0:
7534 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7535 ; GFX940-NEXT:    ;;#ASMSTART
7536 ; GFX940-NEXT:    ; def v[8:15]
7537 ; GFX940-NEXT:    ;;#ASMEND
7538 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
7539 ; GFX940-NEXT:    ;;#ASMSTART
7540 ; GFX940-NEXT:    ; def v[0:7]
7541 ; GFX940-NEXT:    ;;#ASMEND
7542 ; GFX940-NEXT:    s_nop 0
7543 ; GFX940-NEXT:    v_mov_b32_e32 v12, v6
7544 ; GFX940-NEXT:    v_mov_b32_e32 v13, v7
7545 ; GFX940-NEXT:    global_store_dwordx4 v16, v[10:13], s[0:1] offset:16 sc0 sc1
7546 ; GFX940-NEXT:    s_nop 1
7547 ; GFX940-NEXT:    v_mov_b32_e32 v12, v14
7548 ; GFX940-NEXT:    v_mov_b32_e32 v13, v15
7549 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] sc0 sc1
7550 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
7551 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
7552   %vec0 = call <4 x i64> asm "; def $0", "=v"()
7553   %vec1 = call <4 x i64> asm "; def $0", "=v"()
7554   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 5, i32 3>
7555   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
7556   ret void
7557 }
7558
7559 define void @v_shuffle_v4i64_v4i64__7_7_6_3(ptr addrspace(1) inreg %ptr) {
7560 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_6_3:
7561 ; GFX900:       ; %bb.0:
7562 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7563 ; GFX900-NEXT:    ;;#ASMSTART
7564 ; GFX900-NEXT:    ; def v[0:7]
7565 ; GFX900-NEXT:    ;;#ASMEND
7566 ; GFX900-NEXT:    ;;#ASMSTART
7567 ; GFX900-NEXT:    ; def v[8:15]
7568 ; GFX900-NEXT:    ;;#ASMEND
7569 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
7570 ; GFX900-NEXT:    v_mov_b32_e32 v4, v12
7571 ; GFX900-NEXT:    v_mov_b32_e32 v5, v13
7572 ; GFX900-NEXT:    v_mov_b32_e32 v12, v14
7573 ; GFX900-NEXT:    v_mov_b32_e32 v13, v15
7574 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
7575 ; GFX900-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
7576 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
7577 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
7578 ;
7579 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_6_3:
7580 ; GFX90A:       ; %bb.0:
7581 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7582 ; GFX90A-NEXT:    ;;#ASMSTART
7583 ; GFX90A-NEXT:    ; def v[0:7]
7584 ; GFX90A-NEXT:    ;;#ASMEND
7585 ; GFX90A-NEXT:    ;;#ASMSTART
7586 ; GFX90A-NEXT:    ; def v[8:15]
7587 ; GFX90A-NEXT:    ;;#ASMEND
7588 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
7589 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v12
7590 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v13
7591 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v14
7592 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v15
7593 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17] offset:16
7594 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
7595 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
7596 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
7597 ;
7598 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_6_3:
7599 ; GFX940:       ; %bb.0:
7600 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7601 ; GFX940-NEXT:    ;;#ASMSTART
7602 ; GFX940-NEXT:    ; def v[0:7]
7603 ; GFX940-NEXT:    ;;#ASMEND
7604 ; GFX940-NEXT:    ;;#ASMSTART
7605 ; GFX940-NEXT:    ; def v[8:15]
7606 ; GFX940-NEXT:    ;;#ASMEND
7607 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
7608 ; GFX940-NEXT:    v_mov_b32_e32 v4, v12
7609 ; GFX940-NEXT:    v_mov_b32_e32 v5, v13
7610 ; GFX940-NEXT:    v_mov_b32_e32 v12, v14
7611 ; GFX940-NEXT:    v_mov_b32_e32 v13, v15
7612 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] offset:16 sc0 sc1
7613 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] sc0 sc1
7614 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
7615 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
7616   %vec0 = call <4 x i64> asm "; def $0", "=v"()
7617   %vec1 = call <4 x i64> asm "; def $0", "=v"()
7618   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 6, i32 3>
7619   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
7620   ret void
7621 }
7622
7623 define void @v_shuffle_v4i64_v4i64__u_4_4_4(ptr addrspace(1) inreg %ptr) {
7624 ; GFX9-LABEL: v_shuffle_v4i64_v4i64__u_4_4_4:
7625 ; GFX9:       ; %bb.0:
7626 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7627 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
7628   %vec0 = call <4 x i64> asm "; def $0", "=v"()
7629   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 poison, i32 4, i32 4, i32 4>
7630   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
7631   ret void
7632 }
7633
7634 define void @v_shuffle_v4i64_v4i64__0_4_4_4(ptr addrspace(1) inreg %ptr) {
7635 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__0_4_4_4:
7636 ; GFX900:       ; %bb.0:
7637 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7638 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
7639 ; GFX900-NEXT:    ;;#ASMSTART
7640 ; GFX900-NEXT:    ; def v[0:7]
7641 ; GFX900-NEXT:    ;;#ASMEND
7642 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
7643 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
7644 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
7645 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
7646 ;
7647 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__0_4_4_4:
7648 ; GFX90A:       ; %bb.0:
7649 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7650 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
7651 ; GFX90A-NEXT:    ;;#ASMSTART
7652 ; GFX90A-NEXT:    ; def v[0:7]
7653 ; GFX90A-NEXT:    ;;#ASMEND
7654 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
7655 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
7656 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
7657 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
7658 ;
7659 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__0_4_4_4:
7660 ; GFX940:       ; %bb.0:
7661 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7662 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
7663 ; GFX940-NEXT:    ;;#ASMSTART
7664 ; GFX940-NEXT:    ; def v[0:7]
7665 ; GFX940-NEXT:    ;;#ASMEND
7666 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
7667 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
7668 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
7669 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
7670   %vec0 = call <4 x i64> asm "; def $0", "=v"()
7671   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 0, i32 4, i32 4, i32 4>
7672   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
7673   ret void
7674 }
7675
7676 define void @v_shuffle_v4i64_v4i64__1_4_4_4(ptr addrspace(1) inreg %ptr) {
7677 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__1_4_4_4:
7678 ; GFX900:       ; %bb.0:
7679 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7680 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
7681 ; GFX900-NEXT:    ;;#ASMSTART
7682 ; GFX900-NEXT:    ; def v[0:7]
7683 ; GFX900-NEXT:    ;;#ASMEND
7684 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
7685 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
7686 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
7687 ;
7688 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__1_4_4_4:
7689 ; GFX90A:       ; %bb.0:
7690 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7691 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
7692 ; GFX90A-NEXT:    ;;#ASMSTART
7693 ; GFX90A-NEXT:    ; def v[0:7]
7694 ; GFX90A-NEXT:    ;;#ASMEND
7695 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
7696 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
7697 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
7698 ;
7699 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__1_4_4_4:
7700 ; GFX940:       ; %bb.0:
7701 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7702 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
7703 ; GFX940-NEXT:    ;;#ASMSTART
7704 ; GFX940-NEXT:    ; def v[0:7]
7705 ; GFX940-NEXT:    ;;#ASMEND
7706 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
7707 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
7708 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
7709   %vec0 = call <4 x i64> asm "; def $0", "=v"()
7710   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 1, i32 4, i32 4, i32 4>
7711   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
7712   ret void
7713 }
7714
7715 define void @v_shuffle_v4i64_v4i64__2_4_4_4(ptr addrspace(1) inreg %ptr) {
7716 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__2_4_4_4:
7717 ; GFX900:       ; %bb.0:
7718 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7719 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
7720 ; GFX900-NEXT:    ;;#ASMSTART
7721 ; GFX900-NEXT:    ; def v[0:7]
7722 ; GFX900-NEXT:    ;;#ASMEND
7723 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
7724 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
7725 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
7726 ;
7727 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__2_4_4_4:
7728 ; GFX90A:       ; %bb.0:
7729 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7730 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
7731 ; GFX90A-NEXT:    ;;#ASMSTART
7732 ; GFX90A-NEXT:    ; def v[0:7]
7733 ; GFX90A-NEXT:    ;;#ASMEND
7734 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
7735 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
7736 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
7737 ;
7738 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__2_4_4_4:
7739 ; GFX940:       ; %bb.0:
7740 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7741 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
7742 ; GFX940-NEXT:    ;;#ASMSTART
7743 ; GFX940-NEXT:    ; def v[0:7]
7744 ; GFX940-NEXT:    ;;#ASMEND
7745 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
7746 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
7747 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
7748   %vec0 = call <4 x i64> asm "; def $0", "=v"()
7749   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 2, i32 4, i32 4, i32 4>
7750   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
7751   ret void
7752 }
7753
7754 define void @v_shuffle_v4i64_v4i64__3_4_4_4(ptr addrspace(1) inreg %ptr) {
7755 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__3_4_4_4:
7756 ; GFX900:       ; %bb.0:
7757 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7758 ; GFX900-NEXT:    ;;#ASMSTART
7759 ; GFX900-NEXT:    ; def v[0:7]
7760 ; GFX900-NEXT:    ;;#ASMEND
7761 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
7762 ; GFX900-NEXT:    v_mov_b32_e32 v0, v6
7763 ; GFX900-NEXT:    v_mov_b32_e32 v1, v7
7764 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
7765 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
7766 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
7767 ;
7768 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__3_4_4_4:
7769 ; GFX90A:       ; %bb.0:
7770 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7771 ; GFX90A-NEXT:    ;;#ASMSTART
7772 ; GFX90A-NEXT:    ; def v[0:7]
7773 ; GFX90A-NEXT:    ;;#ASMEND
7774 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
7775 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v6
7776 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v7
7777 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
7778 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
7779 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
7780 ;
7781 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__3_4_4_4:
7782 ; GFX940:       ; %bb.0:
7783 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7784 ; GFX940-NEXT:    ;;#ASMSTART
7785 ; GFX940-NEXT:    ; def v[0:7]
7786 ; GFX940-NEXT:    ;;#ASMEND
7787 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
7788 ; GFX940-NEXT:    v_mov_b32_e32 v0, v6
7789 ; GFX940-NEXT:    v_mov_b32_e32 v1, v7
7790 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
7791 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
7792 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
7793   %vec0 = call <4 x i64> asm "; def $0", "=v"()
7794   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 3, i32 4, i32 4, i32 4>
7795   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
7796   ret void
7797 }
7798
7799 define void @v_shuffle_v4i64_v4i64__4_4_4_4(ptr addrspace(1) inreg %ptr) {
7800 ; GFX9-LABEL: v_shuffle_v4i64_v4i64__4_4_4_4:
7801 ; GFX9:       ; %bb.0:
7802 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7803 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
7804   %vec0 = call <4 x i64> asm "; def $0", "=v"()
7805   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 4, i32 4, i32 4, i32 4>
7806   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
7807   ret void
7808 }
7809
7810 define void @v_shuffle_v4i64_v4i64__5_4_4_4(ptr addrspace(1) inreg %ptr) {
7811 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__5_4_4_4:
7812 ; GFX900:       ; %bb.0:
7813 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7814 ; GFX900-NEXT:    ;;#ASMSTART
7815 ; GFX900-NEXT:    ; def v[0:7]
7816 ; GFX900-NEXT:    ;;#ASMEND
7817 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
7818 ; GFX900-NEXT:    v_mov_b32_e32 v4, v0
7819 ; GFX900-NEXT:    v_mov_b32_e32 v5, v1
7820 ; GFX900-NEXT:    v_mov_b32_e32 v6, v0
7821 ; GFX900-NEXT:    v_mov_b32_e32 v7, v1
7822 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
7823 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
7824 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
7825 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
7826 ;
7827 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__5_4_4_4:
7828 ; GFX90A:       ; %bb.0:
7829 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7830 ; GFX90A-NEXT:    ;;#ASMSTART
7831 ; GFX90A-NEXT:    ; def v[0:7]
7832 ; GFX90A-NEXT:    ;;#ASMEND
7833 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
7834 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
7835 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
7836 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v0
7837 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v1
7838 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
7839 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
7840 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
7841 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
7842 ;
7843 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__5_4_4_4:
7844 ; GFX940:       ; %bb.0:
7845 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7846 ; GFX940-NEXT:    ;;#ASMSTART
7847 ; GFX940-NEXT:    ; def v[0:7]
7848 ; GFX940-NEXT:    ;;#ASMEND
7849 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
7850 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
7851 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
7852 ; GFX940-NEXT:    v_mov_b32_e32 v6, v0
7853 ; GFX940-NEXT:    v_mov_b32_e32 v7, v1
7854 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
7855 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
7856 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
7857 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
7858   %vec0 = call <4 x i64> asm "; def $0", "=v"()
7859   %vec1 = call <4 x i64> asm "; def $0", "=v"()
7860   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 5, i32 4, i32 4, i32 4>
7861   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
7862   ret void
7863 }
7864
7865 define void @v_shuffle_v4i64_v4i64__6_4_4_4(ptr addrspace(1) inreg %ptr) {
7866 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__6_4_4_4:
7867 ; GFX900:       ; %bb.0:
7868 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7869 ; GFX900-NEXT:    ;;#ASMSTART
7870 ; GFX900-NEXT:    ; def v[0:7]
7871 ; GFX900-NEXT:    ;;#ASMEND
7872 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
7873 ; GFX900-NEXT:    v_mov_b32_e32 v2, v0
7874 ; GFX900-NEXT:    v_mov_b32_e32 v3, v1
7875 ; GFX900-NEXT:    v_mov_b32_e32 v6, v0
7876 ; GFX900-NEXT:    v_mov_b32_e32 v7, v1
7877 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
7878 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
7879 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
7880 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
7881 ;
7882 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__6_4_4_4:
7883 ; GFX90A:       ; %bb.0:
7884 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7885 ; GFX90A-NEXT:    ;;#ASMSTART
7886 ; GFX90A-NEXT:    ; def v[0:7]
7887 ; GFX90A-NEXT:    ;;#ASMEND
7888 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
7889 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v0
7890 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v1
7891 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v0
7892 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v1
7893 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
7894 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
7895 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
7896 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
7897 ;
7898 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__6_4_4_4:
7899 ; GFX940:       ; %bb.0:
7900 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7901 ; GFX940-NEXT:    ;;#ASMSTART
7902 ; GFX940-NEXT:    ; def v[0:7]
7903 ; GFX940-NEXT:    ;;#ASMEND
7904 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
7905 ; GFX940-NEXT:    v_mov_b32_e32 v2, v0
7906 ; GFX940-NEXT:    v_mov_b32_e32 v3, v1
7907 ; GFX940-NEXT:    v_mov_b32_e32 v6, v0
7908 ; GFX940-NEXT:    v_mov_b32_e32 v7, v1
7909 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
7910 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
7911 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
7912 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
7913   %vec0 = call <4 x i64> asm "; def $0", "=v"()
7914   %vec1 = call <4 x i64> asm "; def $0", "=v"()
7915   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 6, i32 4, i32 4, i32 4>
7916   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
7917   ret void
7918 }
7919
7920 define void @v_shuffle_v4i64_v4i64__7_4_4_4(ptr addrspace(1) inreg %ptr) {
7921 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_4_4_4:
7922 ; GFX900:       ; %bb.0:
7923 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7924 ; GFX900-NEXT:    ;;#ASMSTART
7925 ; GFX900-NEXT:    ; def v[0:7]
7926 ; GFX900-NEXT:    ;;#ASMEND
7927 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
7928 ; GFX900-NEXT:    v_mov_b32_e32 v2, v0
7929 ; GFX900-NEXT:    v_mov_b32_e32 v3, v1
7930 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
7931 ; GFX900-NEXT:    v_mov_b32_e32 v4, v0
7932 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
7933 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
7934 ; GFX900-NEXT:    v_mov_b32_e32 v5, v1
7935 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
7936 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
7937 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
7938 ;
7939 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_4_4_4:
7940 ; GFX90A:       ; %bb.0:
7941 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7942 ; GFX90A-NEXT:    ;;#ASMSTART
7943 ; GFX90A-NEXT:    ; def v[0:7]
7944 ; GFX90A-NEXT:    ;;#ASMEND
7945 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
7946 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v0
7947 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v1
7948 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
7949 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
7950 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
7951 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
7952 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
7953 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
7954 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
7955 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
7956 ;
7957 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_4_4_4:
7958 ; GFX940:       ; %bb.0:
7959 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7960 ; GFX940-NEXT:    ;;#ASMSTART
7961 ; GFX940-NEXT:    ; def v[0:7]
7962 ; GFX940-NEXT:    ;;#ASMEND
7963 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
7964 ; GFX940-NEXT:    v_mov_b32_e32 v2, v0
7965 ; GFX940-NEXT:    v_mov_b32_e32 v3, v1
7966 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
7967 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
7968 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
7969 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
7970 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
7971 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
7972 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
7973 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
7974   %vec0 = call <4 x i64> asm "; def $0", "=v"()
7975   %vec1 = call <4 x i64> asm "; def $0", "=v"()
7976   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 4, i32 4, i32 4>
7977   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
7978   ret void
7979 }
7980
7981 define void @v_shuffle_v4i64_v4i64__7_u_4_4(ptr addrspace(1) inreg %ptr) {
7982 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_u_4_4:
7983 ; GFX900:       ; %bb.0:
7984 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
7985 ; GFX900-NEXT:    ;;#ASMSTART
7986 ; GFX900-NEXT:    ; def v[0:7]
7987 ; GFX900-NEXT:    ;;#ASMEND
7988 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
7989 ; GFX900-NEXT:    v_mov_b32_e32 v2, v0
7990 ; GFX900-NEXT:    v_mov_b32_e32 v3, v1
7991 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
7992 ; GFX900-NEXT:    s_nop 0
7993 ; GFX900-NEXT:    v_mov_b32_e32 v0, v6
7994 ; GFX900-NEXT:    v_mov_b32_e32 v1, v7
7995 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
7996 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
7997 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
7998 ;
7999 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_u_4_4:
8000 ; GFX90A:       ; %bb.0:
8001 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8002 ; GFX90A-NEXT:    ;;#ASMSTART
8003 ; GFX90A-NEXT:    ; def v[0:7]
8004 ; GFX90A-NEXT:    ;;#ASMEND
8005 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
8006 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v0
8007 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v1
8008 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
8009 ; GFX90A-NEXT:    s_nop 0
8010 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v6
8011 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v7
8012 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
8013 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
8014 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
8015 ;
8016 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_u_4_4:
8017 ; GFX940:       ; %bb.0:
8018 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8019 ; GFX940-NEXT:    ;;#ASMSTART
8020 ; GFX940-NEXT:    ; def v[0:7]
8021 ; GFX940-NEXT:    ;;#ASMEND
8022 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
8023 ; GFX940-NEXT:    v_mov_b32_e32 v2, v0
8024 ; GFX940-NEXT:    v_mov_b32_e32 v3, v1
8025 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
8026 ; GFX940-NEXT:    s_nop 1
8027 ; GFX940-NEXT:    v_mov_b32_e32 v0, v6
8028 ; GFX940-NEXT:    v_mov_b32_e32 v1, v7
8029 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
8030 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
8031 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
8032   %vec0 = call <4 x i64> asm "; def $0", "=v"()
8033   %vec1 = call <4 x i64> asm "; def $0", "=v"()
8034   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 poison, i32 4, i32 4>
8035   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
8036   ret void
8037 }
8038
8039 define void @v_shuffle_v4i64_v4i64__7_0_4_4(ptr addrspace(1) inreg %ptr) {
8040 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_0_4_4:
8041 ; GFX900:       ; %bb.0:
8042 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8043 ; GFX900-NEXT:    ;;#ASMSTART
8044 ; GFX900-NEXT:    ; def v[0:7]
8045 ; GFX900-NEXT:    ;;#ASMEND
8046 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
8047 ; GFX900-NEXT:    v_mov_b32_e32 v2, v0
8048 ; GFX900-NEXT:    v_mov_b32_e32 v3, v1
8049 ; GFX900-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17] offset:16
8050 ; GFX900-NEXT:    v_mov_b32_e32 v8, v6
8051 ; GFX900-NEXT:    v_mov_b32_e32 v9, v7
8052 ; GFX900-NEXT:    ;;#ASMSTART
8053 ; GFX900-NEXT:    ; def v[0:7]
8054 ; GFX900-NEXT:    ;;#ASMEND
8055 ; GFX900-NEXT:    v_mov_b32_e32 v10, v0
8056 ; GFX900-NEXT:    v_mov_b32_e32 v11, v1
8057 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
8058 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
8059 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
8060 ;
8061 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_0_4_4:
8062 ; GFX90A:       ; %bb.0:
8063 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8064 ; GFX90A-NEXT:    ;;#ASMSTART
8065 ; GFX90A-NEXT:    ; def v[0:7]
8066 ; GFX90A-NEXT:    ;;#ASMEND
8067 ; GFX90A-NEXT:    ;;#ASMSTART
8068 ; GFX90A-NEXT:    ; def v[2:9]
8069 ; GFX90A-NEXT:    ;;#ASMEND
8070 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
8071 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
8072 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
8073 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[2:5], s[16:17] offset:16
8074 ; GFX90A-NEXT:    s_nop 0
8075 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v8
8076 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v9
8077 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
8078 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
8079 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[2:5], s[16:17]
8080 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
8081 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
8082 ;
8083 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_0_4_4:
8084 ; GFX940:       ; %bb.0:
8085 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8086 ; GFX940-NEXT:    ;;#ASMSTART
8087 ; GFX940-NEXT:    ; def v[0:7]
8088 ; GFX940-NEXT:    ;;#ASMEND
8089 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
8090 ; GFX940-NEXT:    ;;#ASMSTART
8091 ; GFX940-NEXT:    ; def v[2:9]
8092 ; GFX940-NEXT:    ;;#ASMEND
8093 ; GFX940-NEXT:    s_nop 0
8094 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
8095 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
8096 ; GFX940-NEXT:    global_store_dwordx4 v10, v[2:5], s[0:1] offset:16 sc0 sc1
8097 ; GFX940-NEXT:    s_nop 1
8098 ; GFX940-NEXT:    v_mov_b32_e32 v2, v8
8099 ; GFX940-NEXT:    v_mov_b32_e32 v3, v9
8100 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
8101 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
8102 ; GFX940-NEXT:    global_store_dwordx4 v10, v[2:5], s[0:1] sc0 sc1
8103 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
8104 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
8105   %vec0 = call <4 x i64> asm "; def $0", "=v"()
8106   %vec1 = call <4 x i64> asm "; def $0", "=v"()
8107   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 0, i32 4, i32 4>
8108   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
8109   ret void
8110 }
8111
8112 define void @v_shuffle_v4i64_v4i64__7_1_4_4(ptr addrspace(1) inreg %ptr) {
8113 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_1_4_4:
8114 ; GFX900:       ; %bb.0:
8115 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8116 ; GFX900-NEXT:    ;;#ASMSTART
8117 ; GFX900-NEXT:    ; def v[0:7]
8118 ; GFX900-NEXT:    ;;#ASMEND
8119 ; GFX900-NEXT:    ;;#ASMSTART
8120 ; GFX900-NEXT:    ; def v[4:11]
8121 ; GFX900-NEXT:    ;;#ASMEND
8122 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
8123 ; GFX900-NEXT:    v_mov_b32_e32 v6, v4
8124 ; GFX900-NEXT:    v_mov_b32_e32 v7, v5
8125 ; GFX900-NEXT:    v_mov_b32_e32 v0, v10
8126 ; GFX900-NEXT:    v_mov_b32_e32 v1, v11
8127 ; GFX900-NEXT:    global_store_dwordx4 v12, v[4:7], s[16:17] offset:16
8128 ; GFX900-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17]
8129 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
8130 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
8131 ;
8132 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_1_4_4:
8133 ; GFX90A:       ; %bb.0:
8134 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8135 ; GFX90A-NEXT:    ;;#ASMSTART
8136 ; GFX90A-NEXT:    ; def v[0:7]
8137 ; GFX90A-NEXT:    ;;#ASMEND
8138 ; GFX90A-NEXT:    ;;#ASMSTART
8139 ; GFX90A-NEXT:    ; def v[4:11]
8140 ; GFX90A-NEXT:    ;;#ASMEND
8141 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
8142 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v4
8143 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v5
8144 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v10
8145 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v11
8146 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[4:7], s[16:17] offset:16
8147 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17]
8148 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
8149 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
8150 ;
8151 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_1_4_4:
8152 ; GFX940:       ; %bb.0:
8153 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8154 ; GFX940-NEXT:    ;;#ASMSTART
8155 ; GFX940-NEXT:    ; def v[0:7]
8156 ; GFX940-NEXT:    ;;#ASMEND
8157 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
8158 ; GFX940-NEXT:    ;;#ASMSTART
8159 ; GFX940-NEXT:    ; def v[4:11]
8160 ; GFX940-NEXT:    ;;#ASMEND
8161 ; GFX940-NEXT:    s_nop 0
8162 ; GFX940-NEXT:    v_mov_b32_e32 v6, v4
8163 ; GFX940-NEXT:    v_mov_b32_e32 v7, v5
8164 ; GFX940-NEXT:    v_mov_b32_e32 v0, v10
8165 ; GFX940-NEXT:    v_mov_b32_e32 v1, v11
8166 ; GFX940-NEXT:    global_store_dwordx4 v12, v[4:7], s[0:1] offset:16 sc0 sc1
8167 ; GFX940-NEXT:    global_store_dwordx4 v12, v[0:3], s[0:1] sc0 sc1
8168 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
8169 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
8170   %vec0 = call <4 x i64> asm "; def $0", "=v"()
8171   %vec1 = call <4 x i64> asm "; def $0", "=v"()
8172   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 1, i32 4, i32 4>
8173   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
8174   ret void
8175 }
8176
8177 define void @v_shuffle_v4i64_v4i64__7_2_4_4(ptr addrspace(1) inreg %ptr) {
8178 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_2_4_4:
8179 ; GFX900:       ; %bb.0:
8180 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8181 ; GFX900-NEXT:    ;;#ASMSTART
8182 ; GFX900-NEXT:    ; def v[0:7]
8183 ; GFX900-NEXT:    ;;#ASMEND
8184 ; GFX900-NEXT:    ;;#ASMSTART
8185 ; GFX900-NEXT:    ; def v[6:13]
8186 ; GFX900-NEXT:    ;;#ASMEND
8187 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
8188 ; GFX900-NEXT:    v_mov_b32_e32 v8, v6
8189 ; GFX900-NEXT:    v_mov_b32_e32 v9, v7
8190 ; GFX900-NEXT:    v_mov_b32_e32 v2, v12
8191 ; GFX900-NEXT:    v_mov_b32_e32 v3, v13
8192 ; GFX900-NEXT:    global_store_dwordx4 v14, v[6:9], s[16:17] offset:16
8193 ; GFX900-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17]
8194 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
8195 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
8196 ;
8197 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_2_4_4:
8198 ; GFX90A:       ; %bb.0:
8199 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8200 ; GFX90A-NEXT:    ;;#ASMSTART
8201 ; GFX90A-NEXT:    ; def v[0:7]
8202 ; GFX90A-NEXT:    ;;#ASMEND
8203 ; GFX90A-NEXT:    ;;#ASMSTART
8204 ; GFX90A-NEXT:    ; def v[6:13]
8205 ; GFX90A-NEXT:    ;;#ASMEND
8206 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
8207 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v6
8208 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v7
8209 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v12
8210 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v13
8211 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[6:9], s[16:17] offset:16
8212 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17]
8213 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
8214 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
8215 ;
8216 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_2_4_4:
8217 ; GFX940:       ; %bb.0:
8218 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8219 ; GFX940-NEXT:    ;;#ASMSTART
8220 ; GFX940-NEXT:    ; def v[0:7]
8221 ; GFX940-NEXT:    ;;#ASMEND
8222 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
8223 ; GFX940-NEXT:    ;;#ASMSTART
8224 ; GFX940-NEXT:    ; def v[6:13]
8225 ; GFX940-NEXT:    ;;#ASMEND
8226 ; GFX940-NEXT:    s_nop 0
8227 ; GFX940-NEXT:    v_mov_b32_e32 v8, v6
8228 ; GFX940-NEXT:    v_mov_b32_e32 v9, v7
8229 ; GFX940-NEXT:    v_mov_b32_e32 v2, v12
8230 ; GFX940-NEXT:    v_mov_b32_e32 v3, v13
8231 ; GFX940-NEXT:    global_store_dwordx4 v14, v[6:9], s[0:1] offset:16 sc0 sc1
8232 ; GFX940-NEXT:    global_store_dwordx4 v14, v[2:5], s[0:1] sc0 sc1
8233 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
8234 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
8235   %vec0 = call <4 x i64> asm "; def $0", "=v"()
8236   %vec1 = call <4 x i64> asm "; def $0", "=v"()
8237   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 2, i32 4, i32 4>
8238   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
8239   ret void
8240 }
8241
8242 define void @v_shuffle_v4i64_v4i64__7_3_4_4(ptr addrspace(1) inreg %ptr) {
8243 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_3_4_4:
8244 ; GFX900:       ; %bb.0:
8245 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8246 ; GFX900-NEXT:    ;;#ASMSTART
8247 ; GFX900-NEXT:    ; def v[0:7]
8248 ; GFX900-NEXT:    ;;#ASMEND
8249 ; GFX900-NEXT:    ;;#ASMSTART
8250 ; GFX900-NEXT:    ; def v[8:15]
8251 ; GFX900-NEXT:    ;;#ASMEND
8252 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
8253 ; GFX900-NEXT:    v_mov_b32_e32 v10, v8
8254 ; GFX900-NEXT:    v_mov_b32_e32 v11, v9
8255 ; GFX900-NEXT:    v_mov_b32_e32 v4, v14
8256 ; GFX900-NEXT:    v_mov_b32_e32 v5, v15
8257 ; GFX900-NEXT:    global_store_dwordx4 v16, v[8:11], s[16:17] offset:16
8258 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17]
8259 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
8260 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
8261 ;
8262 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_3_4_4:
8263 ; GFX90A:       ; %bb.0:
8264 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8265 ; GFX90A-NEXT:    ;;#ASMSTART
8266 ; GFX90A-NEXT:    ; def v[0:7]
8267 ; GFX90A-NEXT:    ;;#ASMEND
8268 ; GFX90A-NEXT:    ;;#ASMSTART
8269 ; GFX90A-NEXT:    ; def v[8:15]
8270 ; GFX90A-NEXT:    ;;#ASMEND
8271 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
8272 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v8
8273 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v9
8274 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v14
8275 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v15
8276 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[8:11], s[16:17] offset:16
8277 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17]
8278 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
8279 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
8280 ;
8281 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_3_4_4:
8282 ; GFX940:       ; %bb.0:
8283 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8284 ; GFX940-NEXT:    ;;#ASMSTART
8285 ; GFX940-NEXT:    ; def v[0:7]
8286 ; GFX940-NEXT:    ;;#ASMEND
8287 ; GFX940-NEXT:    ;;#ASMSTART
8288 ; GFX940-NEXT:    ; def v[8:15]
8289 ; GFX940-NEXT:    ;;#ASMEND
8290 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
8291 ; GFX940-NEXT:    v_mov_b32_e32 v10, v8
8292 ; GFX940-NEXT:    v_mov_b32_e32 v11, v9
8293 ; GFX940-NEXT:    v_mov_b32_e32 v4, v14
8294 ; GFX940-NEXT:    v_mov_b32_e32 v5, v15
8295 ; GFX940-NEXT:    global_store_dwordx4 v16, v[8:11], s[0:1] offset:16 sc0 sc1
8296 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] sc0 sc1
8297 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
8298 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
8299   %vec0 = call <4 x i64> asm "; def $0", "=v"()
8300   %vec1 = call <4 x i64> asm "; def $0", "=v"()
8301   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 3, i32 4, i32 4>
8302   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
8303   ret void
8304 }
8305
8306 define void @v_shuffle_v4i64_v4i64__7_5_4_4(ptr addrspace(1) inreg %ptr) {
8307 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_5_4_4:
8308 ; GFX900:       ; %bb.0:
8309 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8310 ; GFX900-NEXT:    ;;#ASMSTART
8311 ; GFX900-NEXT:    ; def v[0:7]
8312 ; GFX900-NEXT:    ;;#ASMEND
8313 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
8314 ; GFX900-NEXT:    v_mov_b32_e32 v8, v0
8315 ; GFX900-NEXT:    v_mov_b32_e32 v9, v1
8316 ; GFX900-NEXT:    v_mov_b32_e32 v10, v0
8317 ; GFX900-NEXT:    v_mov_b32_e32 v11, v1
8318 ; GFX900-NEXT:    v_mov_b32_e32 v0, v6
8319 ; GFX900-NEXT:    v_mov_b32_e32 v1, v7
8320 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17] offset:16
8321 ; GFX900-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17]
8322 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
8323 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
8324 ;
8325 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_5_4_4:
8326 ; GFX90A:       ; %bb.0:
8327 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8328 ; GFX90A-NEXT:    ;;#ASMSTART
8329 ; GFX90A-NEXT:    ; def v[0:7]
8330 ; GFX90A-NEXT:    ;;#ASMEND
8331 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
8332 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v0
8333 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v1
8334 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v0
8335 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v1
8336 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v6
8337 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v7
8338 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17] offset:16
8339 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17]
8340 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
8341 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
8342 ;
8343 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_5_4_4:
8344 ; GFX940:       ; %bb.0:
8345 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8346 ; GFX940-NEXT:    ;;#ASMSTART
8347 ; GFX940-NEXT:    ; def v[0:7]
8348 ; GFX940-NEXT:    ;;#ASMEND
8349 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
8350 ; GFX940-NEXT:    v_mov_b32_e32 v8, v0
8351 ; GFX940-NEXT:    v_mov_b32_e32 v9, v1
8352 ; GFX940-NEXT:    v_mov_b32_e32 v10, v0
8353 ; GFX940-NEXT:    v_mov_b32_e32 v11, v1
8354 ; GFX940-NEXT:    v_mov_b32_e32 v0, v6
8355 ; GFX940-NEXT:    v_mov_b32_e32 v1, v7
8356 ; GFX940-NEXT:    global_store_dwordx4 v12, v[8:11], s[0:1] offset:16 sc0 sc1
8357 ; GFX940-NEXT:    global_store_dwordx4 v12, v[0:3], s[0:1] sc0 sc1
8358 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
8359 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
8360   %vec0 = call <4 x i64> asm "; def $0", "=v"()
8361   %vec1 = call <4 x i64> asm "; def $0", "=v"()
8362   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 5, i32 4, i32 4>
8363   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
8364   ret void
8365 }
8366
8367 define void @v_shuffle_v4i64_v4i64__7_6_4_4(ptr addrspace(1) inreg %ptr) {
8368 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_6_4_4:
8369 ; GFX900:       ; %bb.0:
8370 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8371 ; GFX900-NEXT:    ;;#ASMSTART
8372 ; GFX900-NEXT:    ; def v[0:7]
8373 ; GFX900-NEXT:    ;;#ASMEND
8374 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
8375 ; GFX900-NEXT:    v_mov_b32_e32 v2, v0
8376 ; GFX900-NEXT:    v_mov_b32_e32 v3, v1
8377 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
8378 ; GFX900-NEXT:    s_nop 0
8379 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
8380 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
8381 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
8382 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
8383 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
8384 ;
8385 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_6_4_4:
8386 ; GFX90A:       ; %bb.0:
8387 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8388 ; GFX90A-NEXT:    ;;#ASMSTART
8389 ; GFX90A-NEXT:    ; def v[0:7]
8390 ; GFX90A-NEXT:    ;;#ASMEND
8391 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
8392 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v0
8393 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v1
8394 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
8395 ; GFX90A-NEXT:    s_nop 0
8396 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
8397 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
8398 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
8399 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
8400 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
8401 ;
8402 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_6_4_4:
8403 ; GFX940:       ; %bb.0:
8404 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8405 ; GFX940-NEXT:    ;;#ASMSTART
8406 ; GFX940-NEXT:    ; def v[0:7]
8407 ; GFX940-NEXT:    ;;#ASMEND
8408 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
8409 ; GFX940-NEXT:    v_mov_b32_e32 v2, v0
8410 ; GFX940-NEXT:    v_mov_b32_e32 v3, v1
8411 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
8412 ; GFX940-NEXT:    s_nop 1
8413 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
8414 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
8415 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
8416 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
8417 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
8418   %vec0 = call <4 x i64> asm "; def $0", "=v"()
8419   %vec1 = call <4 x i64> asm "; def $0", "=v"()
8420   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 6, i32 4, i32 4>
8421   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
8422   ret void
8423 }
8424
8425 define void @v_shuffle_v4i64_v4i64__7_7_4_4(ptr addrspace(1) inreg %ptr) {
8426 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_4_4:
8427 ; GFX900:       ; %bb.0:
8428 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8429 ; GFX900-NEXT:    ;;#ASMSTART
8430 ; GFX900-NEXT:    ; def v[0:7]
8431 ; GFX900-NEXT:    ;;#ASMEND
8432 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
8433 ; GFX900-NEXT:    v_mov_b32_e32 v2, v0
8434 ; GFX900-NEXT:    v_mov_b32_e32 v3, v1
8435 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
8436 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
8437 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
8438 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
8439 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
8440 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
8441 ;
8442 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_4_4:
8443 ; GFX90A:       ; %bb.0:
8444 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8445 ; GFX90A-NEXT:    ;;#ASMSTART
8446 ; GFX90A-NEXT:    ; def v[0:7]
8447 ; GFX90A-NEXT:    ;;#ASMEND
8448 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
8449 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v0
8450 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v1
8451 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
8452 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
8453 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
8454 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
8455 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
8456 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
8457 ;
8458 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_4_4:
8459 ; GFX940:       ; %bb.0:
8460 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8461 ; GFX940-NEXT:    ;;#ASMSTART
8462 ; GFX940-NEXT:    ; def v[0:7]
8463 ; GFX940-NEXT:    ;;#ASMEND
8464 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
8465 ; GFX940-NEXT:    v_mov_b32_e32 v2, v0
8466 ; GFX940-NEXT:    v_mov_b32_e32 v3, v1
8467 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
8468 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
8469 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
8470 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
8471 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
8472 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
8473   %vec0 = call <4 x i64> asm "; def $0", "=v"()
8474   %vec1 = call <4 x i64> asm "; def $0", "=v"()
8475   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 4, i32 4>
8476   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
8477   ret void
8478 }
8479
8480 define void @v_shuffle_v4i64_v4i64__7_7_u_4(ptr addrspace(1) inreg %ptr) {
8481 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_u_4:
8482 ; GFX900:       ; %bb.0:
8483 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8484 ; GFX900-NEXT:    ;;#ASMSTART
8485 ; GFX900-NEXT:    ; def v[0:7]
8486 ; GFX900-NEXT:    ;;#ASMEND
8487 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
8488 ; GFX900-NEXT:    v_mov_b32_e32 v2, v0
8489 ; GFX900-NEXT:    v_mov_b32_e32 v3, v1
8490 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
8491 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
8492 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
8493 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
8494 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
8495 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
8496 ;
8497 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_u_4:
8498 ; GFX90A:       ; %bb.0:
8499 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8500 ; GFX90A-NEXT:    ;;#ASMSTART
8501 ; GFX90A-NEXT:    ; def v[0:7]
8502 ; GFX90A-NEXT:    ;;#ASMEND
8503 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
8504 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v0
8505 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v1
8506 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
8507 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
8508 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
8509 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
8510 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
8511 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
8512 ;
8513 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_u_4:
8514 ; GFX940:       ; %bb.0:
8515 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8516 ; GFX940-NEXT:    ;;#ASMSTART
8517 ; GFX940-NEXT:    ; def v[0:7]
8518 ; GFX940-NEXT:    ;;#ASMEND
8519 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
8520 ; GFX940-NEXT:    v_mov_b32_e32 v2, v0
8521 ; GFX940-NEXT:    v_mov_b32_e32 v3, v1
8522 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
8523 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
8524 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
8525 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
8526 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
8527 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
8528   %vec0 = call <4 x i64> asm "; def $0", "=v"()
8529   %vec1 = call <4 x i64> asm "; def $0", "=v"()
8530   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 poison, i32 4>
8531   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
8532   ret void
8533 }
8534
8535 define void @v_shuffle_v4i64_v4i64__7_7_0_4(ptr addrspace(1) inreg %ptr) {
8536 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_0_4:
8537 ; GFX900:       ; %bb.0:
8538 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8539 ; GFX900-NEXT:    ;;#ASMSTART
8540 ; GFX900-NEXT:    ; def v[0:7]
8541 ; GFX900-NEXT:    ;;#ASMEND
8542 ; GFX900-NEXT:    ;;#ASMSTART
8543 ; GFX900-NEXT:    ; def v[2:9]
8544 ; GFX900-NEXT:    ;;#ASMEND
8545 ; GFX900-NEXT:    v_mov_b32_e32 v10, 0
8546 ; GFX900-NEXT:    v_mov_b32_e32 v6, v8
8547 ; GFX900-NEXT:    v_mov_b32_e32 v7, v9
8548 ; GFX900-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
8549 ; GFX900-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17]
8550 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
8551 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
8552 ;
8553 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_0_4:
8554 ; GFX90A:       ; %bb.0:
8555 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8556 ; GFX90A-NEXT:    ;;#ASMSTART
8557 ; GFX90A-NEXT:    ; def v[0:7]
8558 ; GFX90A-NEXT:    ;;#ASMEND
8559 ; GFX90A-NEXT:    ;;#ASMSTART
8560 ; GFX90A-NEXT:    ; def v[2:9]
8561 ; GFX90A-NEXT:    ;;#ASMEND
8562 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
8563 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v8
8564 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v9
8565 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
8566 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17]
8567 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
8568 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
8569 ;
8570 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_0_4:
8571 ; GFX940:       ; %bb.0:
8572 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8573 ; GFX940-NEXT:    ;;#ASMSTART
8574 ; GFX940-NEXT:    ; def v[0:7]
8575 ; GFX940-NEXT:    ;;#ASMEND
8576 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
8577 ; GFX940-NEXT:    ;;#ASMSTART
8578 ; GFX940-NEXT:    ; def v[2:9]
8579 ; GFX940-NEXT:    ;;#ASMEND
8580 ; GFX940-NEXT:    global_store_dwordx4 v10, v[0:3], s[0:1] offset:16 sc0 sc1
8581 ; GFX940-NEXT:    v_mov_b32_e32 v6, v8
8582 ; GFX940-NEXT:    v_mov_b32_e32 v7, v9
8583 ; GFX940-NEXT:    global_store_dwordx4 v10, v[6:9], s[0:1] sc0 sc1
8584 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
8585 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
8586   %vec0 = call <4 x i64> asm "; def $0", "=v"()
8587   %vec1 = call <4 x i64> asm "; def $0", "=v"()
8588   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 0, i32 4>
8589   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
8590   ret void
8591 }
8592
8593 define void @v_shuffle_v4i64_v4i64__7_7_1_4(ptr addrspace(1) inreg %ptr) {
8594 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_1_4:
8595 ; GFX900:       ; %bb.0:
8596 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8597 ; GFX900-NEXT:    ;;#ASMSTART
8598 ; GFX900-NEXT:    ; def v[0:7]
8599 ; GFX900-NEXT:    ;;#ASMEND
8600 ; GFX900-NEXT:    ;;#ASMSTART
8601 ; GFX900-NEXT:    ; def v[4:11]
8602 ; GFX900-NEXT:    ;;#ASMEND
8603 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
8604 ; GFX900-NEXT:    v_mov_b32_e32 v8, v10
8605 ; GFX900-NEXT:    v_mov_b32_e32 v9, v11
8606 ; GFX900-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
8607 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
8608 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
8609 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
8610 ;
8611 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_1_4:
8612 ; GFX90A:       ; %bb.0:
8613 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8614 ; GFX90A-NEXT:    ;;#ASMSTART
8615 ; GFX90A-NEXT:    ; def v[0:7]
8616 ; GFX90A-NEXT:    ;;#ASMEND
8617 ; GFX90A-NEXT:    ;;#ASMSTART
8618 ; GFX90A-NEXT:    ; def v[4:11]
8619 ; GFX90A-NEXT:    ;;#ASMEND
8620 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
8621 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v10
8622 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v11
8623 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
8624 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
8625 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
8626 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
8627 ;
8628 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_1_4:
8629 ; GFX940:       ; %bb.0:
8630 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8631 ; GFX940-NEXT:    ;;#ASMSTART
8632 ; GFX940-NEXT:    ; def v[0:7]
8633 ; GFX940-NEXT:    ;;#ASMEND
8634 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
8635 ; GFX940-NEXT:    ;;#ASMSTART
8636 ; GFX940-NEXT:    ; def v[4:11]
8637 ; GFX940-NEXT:    ;;#ASMEND
8638 ; GFX940-NEXT:    global_store_dwordx4 v12, v[2:5], s[0:1] offset:16 sc0 sc1
8639 ; GFX940-NEXT:    v_mov_b32_e32 v8, v10
8640 ; GFX940-NEXT:    v_mov_b32_e32 v9, v11
8641 ; GFX940-NEXT:    global_store_dwordx4 v12, v[8:11], s[0:1] sc0 sc1
8642 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
8643 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
8644   %vec0 = call <4 x i64> asm "; def $0", "=v"()
8645   %vec1 = call <4 x i64> asm "; def $0", "=v"()
8646   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 1, i32 4>
8647   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
8648   ret void
8649 }
8650
8651 define void @v_shuffle_v4i64_v4i64__7_7_2_4(ptr addrspace(1) inreg %ptr) {
8652 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_2_4:
8653 ; GFX900:       ; %bb.0:
8654 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8655 ; GFX900-NEXT:    ;;#ASMSTART
8656 ; GFX900-NEXT:    ; def v[0:7]
8657 ; GFX900-NEXT:    ;;#ASMEND
8658 ; GFX900-NEXT:    ;;#ASMSTART
8659 ; GFX900-NEXT:    ; def v[6:13]
8660 ; GFX900-NEXT:    ;;#ASMEND
8661 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
8662 ; GFX900-NEXT:    v_mov_b32_e32 v10, v12
8663 ; GFX900-NEXT:    v_mov_b32_e32 v11, v13
8664 ; GFX900-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
8665 ; GFX900-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
8666 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
8667 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
8668 ;
8669 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_2_4:
8670 ; GFX90A:       ; %bb.0:
8671 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8672 ; GFX90A-NEXT:    ;;#ASMSTART
8673 ; GFX90A-NEXT:    ; def v[0:7]
8674 ; GFX90A-NEXT:    ;;#ASMEND
8675 ; GFX90A-NEXT:    ;;#ASMSTART
8676 ; GFX90A-NEXT:    ; def v[6:13]
8677 ; GFX90A-NEXT:    ;;#ASMEND
8678 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
8679 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v12
8680 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v13
8681 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
8682 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
8683 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
8684 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
8685 ;
8686 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_2_4:
8687 ; GFX940:       ; %bb.0:
8688 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8689 ; GFX940-NEXT:    ;;#ASMSTART
8690 ; GFX940-NEXT:    ; def v[0:7]
8691 ; GFX940-NEXT:    ;;#ASMEND
8692 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
8693 ; GFX940-NEXT:    ;;#ASMSTART
8694 ; GFX940-NEXT:    ; def v[6:13]
8695 ; GFX940-NEXT:    ;;#ASMEND
8696 ; GFX940-NEXT:    global_store_dwordx4 v14, v[4:7], s[0:1] offset:16 sc0 sc1
8697 ; GFX940-NEXT:    v_mov_b32_e32 v10, v12
8698 ; GFX940-NEXT:    v_mov_b32_e32 v11, v13
8699 ; GFX940-NEXT:    global_store_dwordx4 v14, v[10:13], s[0:1] sc0 sc1
8700 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
8701 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
8702   %vec0 = call <4 x i64> asm "; def $0", "=v"()
8703   %vec1 = call <4 x i64> asm "; def $0", "=v"()
8704   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 2, i32 4>
8705   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
8706   ret void
8707 }
8708
8709 define void @v_shuffle_v4i64_v4i64__7_7_3_4(ptr addrspace(1) inreg %ptr) {
8710 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_3_4:
8711 ; GFX900:       ; %bb.0:
8712 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8713 ; GFX900-NEXT:    ;;#ASMSTART
8714 ; GFX900-NEXT:    ; def v[0:7]
8715 ; GFX900-NEXT:    ;;#ASMEND
8716 ; GFX900-NEXT:    v_mov_b32_e32 v8, v6
8717 ; GFX900-NEXT:    v_mov_b32_e32 v9, v7
8718 ; GFX900-NEXT:    ;;#ASMSTART
8719 ; GFX900-NEXT:    ; def v[0:7]
8720 ; GFX900-NEXT:    ;;#ASMEND
8721 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
8722 ; GFX900-NEXT:    v_mov_b32_e32 v10, v0
8723 ; GFX900-NEXT:    v_mov_b32_e32 v11, v1
8724 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
8725 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
8726 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17] offset:16
8727 ; GFX900-NEXT:    global_store_dwordx4 v12, v[4:7], s[16:17]
8728 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
8729 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
8730 ;
8731 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_3_4:
8732 ; GFX90A:       ; %bb.0:
8733 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8734 ; GFX90A-NEXT:    ;;#ASMSTART
8735 ; GFX90A-NEXT:    ; def v[0:7]
8736 ; GFX90A-NEXT:    ;;#ASMEND
8737 ; GFX90A-NEXT:    ;;#ASMSTART
8738 ; GFX90A-NEXT:    ; def v[8:15]
8739 ; GFX90A-NEXT:    ;;#ASMEND
8740 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
8741 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v6
8742 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v7
8743 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v8
8744 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v9
8745 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v14
8746 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v15
8747 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[0:3], s[16:17] offset:16
8748 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
8749 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
8750 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
8751 ;
8752 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_3_4:
8753 ; GFX940:       ; %bb.0:
8754 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8755 ; GFX940-NEXT:    ;;#ASMSTART
8756 ; GFX940-NEXT:    ; def v[0:7]
8757 ; GFX940-NEXT:    ;;#ASMEND
8758 ; GFX940-NEXT:    ;;#ASMSTART
8759 ; GFX940-NEXT:    ; def v[8:15]
8760 ; GFX940-NEXT:    ;;#ASMEND
8761 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
8762 ; GFX940-NEXT:    v_mov_b32_e32 v0, v6
8763 ; GFX940-NEXT:    v_mov_b32_e32 v1, v7
8764 ; GFX940-NEXT:    v_mov_b32_e32 v2, v8
8765 ; GFX940-NEXT:    v_mov_b32_e32 v3, v9
8766 ; GFX940-NEXT:    v_mov_b32_e32 v12, v14
8767 ; GFX940-NEXT:    v_mov_b32_e32 v13, v15
8768 ; GFX940-NEXT:    global_store_dwordx4 v16, v[0:3], s[0:1] offset:16 sc0 sc1
8769 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] sc0 sc1
8770 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
8771 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
8772   %vec0 = call <4 x i64> asm "; def $0", "=v"()
8773   %vec1 = call <4 x i64> asm "; def $0", "=v"()
8774   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 3, i32 4>
8775   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
8776   ret void
8777 }
8778
8779 define void @v_shuffle_v4i64_v4i64__7_7_5_4(ptr addrspace(1) inreg %ptr) {
8780 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_5_4:
8781 ; GFX900:       ; %bb.0:
8782 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8783 ; GFX900-NEXT:    ;;#ASMSTART
8784 ; GFX900-NEXT:    ; def v[0:7]
8785 ; GFX900-NEXT:    ;;#ASMEND
8786 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
8787 ; GFX900-NEXT:    v_mov_b32_e32 v4, v0
8788 ; GFX900-NEXT:    v_mov_b32_e32 v5, v1
8789 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
8790 ; GFX900-NEXT:    s_nop 0
8791 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
8792 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
8793 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
8794 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
8795 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
8796 ;
8797 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_5_4:
8798 ; GFX90A:       ; %bb.0:
8799 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8800 ; GFX90A-NEXT:    ;;#ASMSTART
8801 ; GFX90A-NEXT:    ; def v[0:7]
8802 ; GFX90A-NEXT:    ;;#ASMEND
8803 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
8804 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
8805 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
8806 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
8807 ; GFX90A-NEXT:    s_nop 0
8808 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
8809 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
8810 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
8811 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
8812 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
8813 ;
8814 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_5_4:
8815 ; GFX940:       ; %bb.0:
8816 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8817 ; GFX940-NEXT:    ;;#ASMSTART
8818 ; GFX940-NEXT:    ; def v[0:7]
8819 ; GFX940-NEXT:    ;;#ASMEND
8820 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
8821 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
8822 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
8823 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
8824 ; GFX940-NEXT:    s_nop 1
8825 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
8826 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
8827 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
8828 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
8829 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
8830   %vec0 = call <4 x i64> asm "; def $0", "=v"()
8831   %vec1 = call <4 x i64> asm "; def $0", "=v"()
8832   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 5, i32 4>
8833   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
8834   ret void
8835 }
8836
8837 define void @v_shuffle_v4i64_v4i64__7_7_6_4(ptr addrspace(1) inreg %ptr) {
8838 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_6_4:
8839 ; GFX900:       ; %bb.0:
8840 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8841 ; GFX900-NEXT:    ;;#ASMSTART
8842 ; GFX900-NEXT:    ; def v[0:7]
8843 ; GFX900-NEXT:    ;;#ASMEND
8844 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
8845 ; GFX900-NEXT:    v_mov_b32_e32 v2, v4
8846 ; GFX900-NEXT:    v_mov_b32_e32 v3, v5
8847 ; GFX900-NEXT:    v_mov_b32_e32 v4, v0
8848 ; GFX900-NEXT:    v_mov_b32_e32 v5, v1
8849 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
8850 ; GFX900-NEXT:    s_nop 0
8851 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
8852 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
8853 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
8854 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
8855 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
8856 ;
8857 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_6_4:
8858 ; GFX90A:       ; %bb.0:
8859 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8860 ; GFX90A-NEXT:    ;;#ASMSTART
8861 ; GFX90A-NEXT:    ; def v[0:7]
8862 ; GFX90A-NEXT:    ;;#ASMEND
8863 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
8864 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v4
8865 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v5
8866 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
8867 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
8868 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
8869 ; GFX90A-NEXT:    s_nop 0
8870 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
8871 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
8872 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
8873 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
8874 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
8875 ;
8876 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_6_4:
8877 ; GFX940:       ; %bb.0:
8878 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8879 ; GFX940-NEXT:    ;;#ASMSTART
8880 ; GFX940-NEXT:    ; def v[0:7]
8881 ; GFX940-NEXT:    ;;#ASMEND
8882 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
8883 ; GFX940-NEXT:    v_mov_b32_e32 v2, v4
8884 ; GFX940-NEXT:    v_mov_b32_e32 v3, v5
8885 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
8886 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
8887 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
8888 ; GFX940-NEXT:    s_nop 1
8889 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
8890 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
8891 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
8892 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
8893 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
8894   %vec0 = call <4 x i64> asm "; def $0", "=v"()
8895   %vec1 = call <4 x i64> asm "; def $0", "=v"()
8896   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 6, i32 4>
8897   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
8898   ret void
8899 }
8900
8901 define void @v_shuffle_v4i64_v4i64__u_5_5_5(ptr addrspace(1) inreg %ptr) {
8902 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__u_5_5_5:
8903 ; GFX900:       ; %bb.0:
8904 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8905 ; GFX900-NEXT:    ;;#ASMSTART
8906 ; GFX900-NEXT:    ; def v[0:7]
8907 ; GFX900-NEXT:    ;;#ASMEND
8908 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
8909 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
8910 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
8911 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
8912 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
8913 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
8914 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
8915 ;
8916 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__u_5_5_5:
8917 ; GFX90A:       ; %bb.0:
8918 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8919 ; GFX90A-NEXT:    ;;#ASMSTART
8920 ; GFX90A-NEXT:    ; def v[0:7]
8921 ; GFX90A-NEXT:    ;;#ASMEND
8922 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
8923 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
8924 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
8925 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
8926 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
8927 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
8928 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
8929 ;
8930 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__u_5_5_5:
8931 ; GFX940:       ; %bb.0:
8932 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8933 ; GFX940-NEXT:    ;;#ASMSTART
8934 ; GFX940-NEXT:    ; def v[0:7]
8935 ; GFX940-NEXT:    ;;#ASMEND
8936 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
8937 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
8938 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
8939 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
8940 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
8941 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
8942 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
8943   %vec0 = call <4 x i64> asm "; def $0", "=v"()
8944   %vec1 = call <4 x i64> asm "; def $0", "=v"()
8945   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 poison, i32 5, i32 5, i32 5>
8946   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
8947   ret void
8948 }
8949
8950 define void @v_shuffle_v4i64_v4i64__0_5_5_5(ptr addrspace(1) inreg %ptr) {
8951 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__0_5_5_5:
8952 ; GFX900:       ; %bb.0:
8953 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8954 ; GFX900-NEXT:    ;;#ASMSTART
8955 ; GFX900-NEXT:    ; def v[0:7]
8956 ; GFX900-NEXT:    ;;#ASMEND
8957 ; GFX900-NEXT:    ;;#ASMSTART
8958 ; GFX900-NEXT:    ; def v[2:9]
8959 ; GFX900-NEXT:    ;;#ASMEND
8960 ; GFX900-NEXT:    v_mov_b32_e32 v10, 0
8961 ; GFX900-NEXT:    v_mov_b32_e32 v6, v4
8962 ; GFX900-NEXT:    v_mov_b32_e32 v7, v5
8963 ; GFX900-NEXT:    v_mov_b32_e32 v2, v4
8964 ; GFX900-NEXT:    v_mov_b32_e32 v3, v5
8965 ; GFX900-NEXT:    global_store_dwordx4 v10, v[4:7], s[16:17] offset:16
8966 ; GFX900-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17]
8967 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
8968 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
8969 ;
8970 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__0_5_5_5:
8971 ; GFX90A:       ; %bb.0:
8972 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8973 ; GFX90A-NEXT:    ;;#ASMSTART
8974 ; GFX90A-NEXT:    ; def v[0:7]
8975 ; GFX90A-NEXT:    ;;#ASMEND
8976 ; GFX90A-NEXT:    ;;#ASMSTART
8977 ; GFX90A-NEXT:    ; def v[2:9]
8978 ; GFX90A-NEXT:    ;;#ASMEND
8979 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
8980 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v4
8981 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v5
8982 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v4
8983 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v5
8984 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[4:7], s[16:17] offset:16
8985 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17]
8986 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
8987 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
8988 ;
8989 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__0_5_5_5:
8990 ; GFX940:       ; %bb.0:
8991 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
8992 ; GFX940-NEXT:    ;;#ASMSTART
8993 ; GFX940-NEXT:    ; def v[0:7]
8994 ; GFX940-NEXT:    ;;#ASMEND
8995 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
8996 ; GFX940-NEXT:    ;;#ASMSTART
8997 ; GFX940-NEXT:    ; def v[2:9]
8998 ; GFX940-NEXT:    ;;#ASMEND
8999 ; GFX940-NEXT:    s_nop 0
9000 ; GFX940-NEXT:    v_mov_b32_e32 v6, v4
9001 ; GFX940-NEXT:    v_mov_b32_e32 v7, v5
9002 ; GFX940-NEXT:    v_mov_b32_e32 v2, v4
9003 ; GFX940-NEXT:    v_mov_b32_e32 v3, v5
9004 ; GFX940-NEXT:    global_store_dwordx4 v10, v[4:7], s[0:1] offset:16 sc0 sc1
9005 ; GFX940-NEXT:    global_store_dwordx4 v10, v[0:3], s[0:1] sc0 sc1
9006 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
9007 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
9008   %vec0 = call <4 x i64> asm "; def $0", "=v"()
9009   %vec1 = call <4 x i64> asm "; def $0", "=v"()
9010   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 0, i32 5, i32 5, i32 5>
9011   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
9012   ret void
9013 }
9014
9015 define void @v_shuffle_v4i64_v4i64__1_5_5_5(ptr addrspace(1) inreg %ptr) {
9016 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__1_5_5_5:
9017 ; GFX900:       ; %bb.0:
9018 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9019 ; GFX900-NEXT:    ;;#ASMSTART
9020 ; GFX900-NEXT:    ; def v[0:7]
9021 ; GFX900-NEXT:    ;;#ASMEND
9022 ; GFX900-NEXT:    ;;#ASMSTART
9023 ; GFX900-NEXT:    ; def v[4:11]
9024 ; GFX900-NEXT:    ;;#ASMEND
9025 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
9026 ; GFX900-NEXT:    v_mov_b32_e32 v8, v6
9027 ; GFX900-NEXT:    v_mov_b32_e32 v9, v7
9028 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
9029 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
9030 ; GFX900-NEXT:    global_store_dwordx4 v12, v[6:9], s[16:17] offset:16
9031 ; GFX900-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17]
9032 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
9033 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
9034 ;
9035 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__1_5_5_5:
9036 ; GFX90A:       ; %bb.0:
9037 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9038 ; GFX90A-NEXT:    ;;#ASMSTART
9039 ; GFX90A-NEXT:    ; def v[0:7]
9040 ; GFX90A-NEXT:    ;;#ASMEND
9041 ; GFX90A-NEXT:    ;;#ASMSTART
9042 ; GFX90A-NEXT:    ; def v[4:11]
9043 ; GFX90A-NEXT:    ;;#ASMEND
9044 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
9045 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v6
9046 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v7
9047 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
9048 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
9049 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[6:9], s[16:17] offset:16
9050 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17]
9051 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
9052 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
9053 ;
9054 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__1_5_5_5:
9055 ; GFX940:       ; %bb.0:
9056 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9057 ; GFX940-NEXT:    ;;#ASMSTART
9058 ; GFX940-NEXT:    ; def v[0:7]
9059 ; GFX940-NEXT:    ;;#ASMEND
9060 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
9061 ; GFX940-NEXT:    ;;#ASMSTART
9062 ; GFX940-NEXT:    ; def v[4:11]
9063 ; GFX940-NEXT:    ;;#ASMEND
9064 ; GFX940-NEXT:    s_nop 0
9065 ; GFX940-NEXT:    v_mov_b32_e32 v8, v6
9066 ; GFX940-NEXT:    v_mov_b32_e32 v9, v7
9067 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
9068 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
9069 ; GFX940-NEXT:    global_store_dwordx4 v12, v[6:9], s[0:1] offset:16 sc0 sc1
9070 ; GFX940-NEXT:    global_store_dwordx4 v12, v[2:5], s[0:1] sc0 sc1
9071 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
9072 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
9073   %vec0 = call <4 x i64> asm "; def $0", "=v"()
9074   %vec1 = call <4 x i64> asm "; def $0", "=v"()
9075   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 1, i32 5, i32 5, i32 5>
9076   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
9077   ret void
9078 }
9079
9080 define void @v_shuffle_v4i64_v4i64__2_5_5_5(ptr addrspace(1) inreg %ptr) {
9081 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__2_5_5_5:
9082 ; GFX900:       ; %bb.0:
9083 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9084 ; GFX900-NEXT:    ;;#ASMSTART
9085 ; GFX900-NEXT:    ; def v[0:7]
9086 ; GFX900-NEXT:    ;;#ASMEND
9087 ; GFX900-NEXT:    ;;#ASMSTART
9088 ; GFX900-NEXT:    ; def v[6:13]
9089 ; GFX900-NEXT:    ;;#ASMEND
9090 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
9091 ; GFX900-NEXT:    v_mov_b32_e32 v10, v8
9092 ; GFX900-NEXT:    v_mov_b32_e32 v11, v9
9093 ; GFX900-NEXT:    v_mov_b32_e32 v6, v8
9094 ; GFX900-NEXT:    v_mov_b32_e32 v7, v9
9095 ; GFX900-NEXT:    global_store_dwordx4 v14, v[8:11], s[16:17] offset:16
9096 ; GFX900-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17]
9097 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
9098 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
9099 ;
9100 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__2_5_5_5:
9101 ; GFX90A:       ; %bb.0:
9102 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9103 ; GFX90A-NEXT:    ;;#ASMSTART
9104 ; GFX90A-NEXT:    ; def v[0:7]
9105 ; GFX90A-NEXT:    ;;#ASMEND
9106 ; GFX90A-NEXT:    ;;#ASMSTART
9107 ; GFX90A-NEXT:    ; def v[6:13]
9108 ; GFX90A-NEXT:    ;;#ASMEND
9109 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
9110 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v8
9111 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v9
9112 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v8
9113 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v9
9114 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[8:11], s[16:17] offset:16
9115 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17]
9116 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
9117 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
9118 ;
9119 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__2_5_5_5:
9120 ; GFX940:       ; %bb.0:
9121 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9122 ; GFX940-NEXT:    ;;#ASMSTART
9123 ; GFX940-NEXT:    ; def v[0:7]
9124 ; GFX940-NEXT:    ;;#ASMEND
9125 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
9126 ; GFX940-NEXT:    ;;#ASMSTART
9127 ; GFX940-NEXT:    ; def v[6:13]
9128 ; GFX940-NEXT:    ;;#ASMEND
9129 ; GFX940-NEXT:    s_nop 0
9130 ; GFX940-NEXT:    v_mov_b32_e32 v10, v8
9131 ; GFX940-NEXT:    v_mov_b32_e32 v11, v9
9132 ; GFX940-NEXT:    v_mov_b32_e32 v6, v8
9133 ; GFX940-NEXT:    v_mov_b32_e32 v7, v9
9134 ; GFX940-NEXT:    global_store_dwordx4 v14, v[8:11], s[0:1] offset:16 sc0 sc1
9135 ; GFX940-NEXT:    global_store_dwordx4 v14, v[4:7], s[0:1] sc0 sc1
9136 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
9137 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
9138   %vec0 = call <4 x i64> asm "; def $0", "=v"()
9139   %vec1 = call <4 x i64> asm "; def $0", "=v"()
9140   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 2, i32 5, i32 5, i32 5>
9141   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
9142   ret void
9143 }
9144
9145 define void @v_shuffle_v4i64_v4i64__3_5_5_5(ptr addrspace(1) inreg %ptr) {
9146 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__3_5_5_5:
9147 ; GFX900:       ; %bb.0:
9148 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9149 ; GFX900-NEXT:    ;;#ASMSTART
9150 ; GFX900-NEXT:    ; def v[8:15]
9151 ; GFX900-NEXT:    ;;#ASMEND
9152 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
9153 ; GFX900-NEXT:    ;;#ASMSTART
9154 ; GFX900-NEXT:    ; def v[0:7]
9155 ; GFX900-NEXT:    ;;#ASMEND
9156 ; GFX900-NEXT:    v_mov_b32_e32 v12, v10
9157 ; GFX900-NEXT:    v_mov_b32_e32 v13, v11
9158 ; GFX900-NEXT:    v_mov_b32_e32 v8, v6
9159 ; GFX900-NEXT:    v_mov_b32_e32 v9, v7
9160 ; GFX900-NEXT:    global_store_dwordx4 v16, v[10:13], s[16:17] offset:16
9161 ; GFX900-NEXT:    global_store_dwordx4 v16, v[8:11], s[16:17]
9162 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
9163 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
9164 ;
9165 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__3_5_5_5:
9166 ; GFX90A:       ; %bb.0:
9167 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9168 ; GFX90A-NEXT:    ;;#ASMSTART
9169 ; GFX90A-NEXT:    ; def v[8:15]
9170 ; GFX90A-NEXT:    ;;#ASMEND
9171 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
9172 ; GFX90A-NEXT:    ;;#ASMSTART
9173 ; GFX90A-NEXT:    ; def v[0:7]
9174 ; GFX90A-NEXT:    ;;#ASMEND
9175 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v10
9176 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v11
9177 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v6
9178 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v7
9179 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[10:13], s[16:17] offset:16
9180 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[8:11], s[16:17]
9181 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
9182 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
9183 ;
9184 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__3_5_5_5:
9185 ; GFX940:       ; %bb.0:
9186 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9187 ; GFX940-NEXT:    ;;#ASMSTART
9188 ; GFX940-NEXT:    ; def v[8:15]
9189 ; GFX940-NEXT:    ;;#ASMEND
9190 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
9191 ; GFX940-NEXT:    ;;#ASMSTART
9192 ; GFX940-NEXT:    ; def v[0:7]
9193 ; GFX940-NEXT:    ;;#ASMEND
9194 ; GFX940-NEXT:    v_mov_b32_e32 v12, v10
9195 ; GFX940-NEXT:    v_mov_b32_e32 v13, v11
9196 ; GFX940-NEXT:    v_mov_b32_e32 v8, v6
9197 ; GFX940-NEXT:    v_mov_b32_e32 v9, v7
9198 ; GFX940-NEXT:    global_store_dwordx4 v16, v[10:13], s[0:1] offset:16 sc0 sc1
9199 ; GFX940-NEXT:    global_store_dwordx4 v16, v[8:11], s[0:1] sc0 sc1
9200 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
9201 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
9202   %vec0 = call <4 x i64> asm "; def $0", "=v"()
9203   %vec1 = call <4 x i64> asm "; def $0", "=v"()
9204   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 3, i32 5, i32 5, i32 5>
9205   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
9206   ret void
9207 }
9208
9209 define void @v_shuffle_v4i64_v4i64__4_5_5_5(ptr addrspace(1) inreg %ptr) {
9210 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__4_5_5_5:
9211 ; GFX900:       ; %bb.0:
9212 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9213 ; GFX900-NEXT:    ;;#ASMSTART
9214 ; GFX900-NEXT:    ; def v[0:7]
9215 ; GFX900-NEXT:    ;;#ASMEND
9216 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
9217 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
9218 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
9219 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
9220 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
9221 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
9222 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
9223 ;
9224 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__4_5_5_5:
9225 ; GFX90A:       ; %bb.0:
9226 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9227 ; GFX90A-NEXT:    ;;#ASMSTART
9228 ; GFX90A-NEXT:    ; def v[0:7]
9229 ; GFX90A-NEXT:    ;;#ASMEND
9230 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
9231 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
9232 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
9233 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
9234 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
9235 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
9236 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
9237 ;
9238 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__4_5_5_5:
9239 ; GFX940:       ; %bb.0:
9240 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9241 ; GFX940-NEXT:    ;;#ASMSTART
9242 ; GFX940-NEXT:    ; def v[0:7]
9243 ; GFX940-NEXT:    ;;#ASMEND
9244 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
9245 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
9246 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
9247 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
9248 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
9249 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
9250 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
9251   %vec0 = call <4 x i64> asm "; def $0", "=v"()
9252   %vec1 = call <4 x i64> asm "; def $0", "=v"()
9253   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 4, i32 5, i32 5, i32 5>
9254   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
9255   ret void
9256 }
9257
9258 define void @v_shuffle_v4i64_v4i64__5_5_5_5(ptr addrspace(1) inreg %ptr) {
9259 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__5_5_5_5:
9260 ; GFX900:       ; %bb.0:
9261 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9262 ; GFX900-NEXT:    ;;#ASMSTART
9263 ; GFX900-NEXT:    ; def v[0:7]
9264 ; GFX900-NEXT:    ;;#ASMEND
9265 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
9266 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
9267 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
9268 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
9269 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
9270 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
9271 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
9272 ;
9273 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__5_5_5_5:
9274 ; GFX90A:       ; %bb.0:
9275 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9276 ; GFX90A-NEXT:    ;;#ASMSTART
9277 ; GFX90A-NEXT:    ; def v[0:7]
9278 ; GFX90A-NEXT:    ;;#ASMEND
9279 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
9280 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
9281 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
9282 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
9283 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
9284 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
9285 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
9286 ;
9287 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__5_5_5_5:
9288 ; GFX940:       ; %bb.0:
9289 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9290 ; GFX940-NEXT:    ;;#ASMSTART
9291 ; GFX940-NEXT:    ; def v[0:7]
9292 ; GFX940-NEXT:    ;;#ASMEND
9293 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
9294 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
9295 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
9296 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
9297 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
9298 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
9299 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
9300   %vec0 = call <4 x i64> asm "; def $0", "=v"()
9301   %vec1 = call <4 x i64> asm "; def $0", "=v"()
9302   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 5, i32 5, i32 5, i32 5>
9303   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
9304   ret void
9305 }
9306
9307 define void @v_shuffle_v4i64_v4i64__6_5_5_5(ptr addrspace(1) inreg %ptr) {
9308 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__6_5_5_5:
9309 ; GFX900:       ; %bb.0:
9310 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9311 ; GFX900-NEXT:    ;;#ASMSTART
9312 ; GFX900-NEXT:    ; def v[0:7]
9313 ; GFX900-NEXT:    ;;#ASMEND
9314 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
9315 ; GFX900-NEXT:    v_mov_b32_e32 v0, v2
9316 ; GFX900-NEXT:    v_mov_b32_e32 v1, v3
9317 ; GFX900-NEXT:    v_mov_b32_e32 v6, v2
9318 ; GFX900-NEXT:    v_mov_b32_e32 v7, v3
9319 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
9320 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
9321 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
9322 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
9323 ;
9324 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__6_5_5_5:
9325 ; GFX90A:       ; %bb.0:
9326 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9327 ; GFX90A-NEXT:    ;;#ASMSTART
9328 ; GFX90A-NEXT:    ; def v[0:7]
9329 ; GFX90A-NEXT:    ;;#ASMEND
9330 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
9331 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v2
9332 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v3
9333 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v2
9334 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v3
9335 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
9336 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
9337 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
9338 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
9339 ;
9340 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__6_5_5_5:
9341 ; GFX940:       ; %bb.0:
9342 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9343 ; GFX940-NEXT:    ;;#ASMSTART
9344 ; GFX940-NEXT:    ; def v[0:7]
9345 ; GFX940-NEXT:    ;;#ASMEND
9346 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
9347 ; GFX940-NEXT:    v_mov_b32_e32 v0, v2
9348 ; GFX940-NEXT:    v_mov_b32_e32 v1, v3
9349 ; GFX940-NEXT:    v_mov_b32_e32 v6, v2
9350 ; GFX940-NEXT:    v_mov_b32_e32 v7, v3
9351 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
9352 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
9353 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
9354 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
9355   %vec0 = call <4 x i64> asm "; def $0", "=v"()
9356   %vec1 = call <4 x i64> asm "; def $0", "=v"()
9357   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 6, i32 5, i32 5, i32 5>
9358   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
9359   ret void
9360 }
9361
9362 define void @v_shuffle_v4i64_v4i64__7_5_5_5(ptr addrspace(1) inreg %ptr) {
9363 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_5_5_5:
9364 ; GFX900:       ; %bb.0:
9365 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9366 ; GFX900-NEXT:    ;;#ASMSTART
9367 ; GFX900-NEXT:    ; def v[0:7]
9368 ; GFX900-NEXT:    ;;#ASMEND
9369 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
9370 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
9371 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
9372 ; GFX900-NEXT:    v_mov_b32_e32 v0, v6
9373 ; GFX900-NEXT:    v_mov_b32_e32 v1, v7
9374 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
9375 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
9376 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
9377 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
9378 ;
9379 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_5_5_5:
9380 ; GFX90A:       ; %bb.0:
9381 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9382 ; GFX90A-NEXT:    ;;#ASMSTART
9383 ; GFX90A-NEXT:    ; def v[0:7]
9384 ; GFX90A-NEXT:    ;;#ASMEND
9385 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
9386 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
9387 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
9388 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v6
9389 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v7
9390 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
9391 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
9392 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
9393 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
9394 ;
9395 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_5_5_5:
9396 ; GFX940:       ; %bb.0:
9397 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9398 ; GFX940-NEXT:    ;;#ASMSTART
9399 ; GFX940-NEXT:    ; def v[0:7]
9400 ; GFX940-NEXT:    ;;#ASMEND
9401 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
9402 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
9403 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
9404 ; GFX940-NEXT:    v_mov_b32_e32 v0, v6
9405 ; GFX940-NEXT:    v_mov_b32_e32 v1, v7
9406 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
9407 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
9408 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
9409 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
9410   %vec0 = call <4 x i64> asm "; def $0", "=v"()
9411   %vec1 = call <4 x i64> asm "; def $0", "=v"()
9412   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 5, i32 5, i32 5>
9413   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
9414   ret void
9415 }
9416
9417 define void @v_shuffle_v4i64_v4i64__7_u_5_5(ptr addrspace(1) inreg %ptr) {
9418 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_u_5_5:
9419 ; GFX900:       ; %bb.0:
9420 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9421 ; GFX900-NEXT:    ;;#ASMSTART
9422 ; GFX900-NEXT:    ; def v[0:7]
9423 ; GFX900-NEXT:    ;;#ASMEND
9424 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
9425 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
9426 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
9427 ; GFX900-NEXT:    v_mov_b32_e32 v0, v6
9428 ; GFX900-NEXT:    v_mov_b32_e32 v1, v7
9429 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
9430 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
9431 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
9432 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
9433 ;
9434 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_u_5_5:
9435 ; GFX90A:       ; %bb.0:
9436 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9437 ; GFX90A-NEXT:    ;;#ASMSTART
9438 ; GFX90A-NEXT:    ; def v[0:7]
9439 ; GFX90A-NEXT:    ;;#ASMEND
9440 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
9441 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
9442 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
9443 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v6
9444 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v7
9445 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
9446 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
9447 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
9448 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
9449 ;
9450 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_u_5_5:
9451 ; GFX940:       ; %bb.0:
9452 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9453 ; GFX940-NEXT:    ;;#ASMSTART
9454 ; GFX940-NEXT:    ; def v[0:7]
9455 ; GFX940-NEXT:    ;;#ASMEND
9456 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
9457 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
9458 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
9459 ; GFX940-NEXT:    v_mov_b32_e32 v0, v6
9460 ; GFX940-NEXT:    v_mov_b32_e32 v1, v7
9461 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
9462 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
9463 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
9464 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
9465   %vec0 = call <4 x i64> asm "; def $0", "=v"()
9466   %vec1 = call <4 x i64> asm "; def $0", "=v"()
9467   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 poison, i32 5, i32 5>
9468   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
9469   ret void
9470 }
9471
9472 define void @v_shuffle_v4i64_v4i64__7_0_5_5(ptr addrspace(1) inreg %ptr) {
9473 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_0_5_5:
9474 ; GFX900:       ; %bb.0:
9475 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9476 ; GFX900-NEXT:    ;;#ASMSTART
9477 ; GFX900-NEXT:    ; def v[0:7]
9478 ; GFX900-NEXT:    ;;#ASMEND
9479 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
9480 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
9481 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
9482 ; GFX900-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
9483 ; GFX900-NEXT:    v_mov_b32_e32 v8, v6
9484 ; GFX900-NEXT:    v_mov_b32_e32 v9, v7
9485 ; GFX900-NEXT:    ;;#ASMSTART
9486 ; GFX900-NEXT:    ; def v[0:7]
9487 ; GFX900-NEXT:    ;;#ASMEND
9488 ; GFX900-NEXT:    v_mov_b32_e32 v10, v0
9489 ; GFX900-NEXT:    v_mov_b32_e32 v11, v1
9490 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
9491 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
9492 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
9493 ;
9494 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_0_5_5:
9495 ; GFX90A:       ; %bb.0:
9496 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9497 ; GFX90A-NEXT:    ;;#ASMSTART
9498 ; GFX90A-NEXT:    ; def v[0:7]
9499 ; GFX90A-NEXT:    ;;#ASMEND
9500 ; GFX90A-NEXT:    ;;#ASMSTART
9501 ; GFX90A-NEXT:    ; def v[2:9]
9502 ; GFX90A-NEXT:    ;;#ASMEND
9503 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
9504 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v4
9505 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v5
9506 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[4:7], s[16:17] offset:16
9507 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v8
9508 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v9
9509 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
9510 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
9511 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[2:5], s[16:17]
9512 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
9513 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
9514 ;
9515 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_0_5_5:
9516 ; GFX940:       ; %bb.0:
9517 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9518 ; GFX940-NEXT:    ;;#ASMSTART
9519 ; GFX940-NEXT:    ; def v[0:7]
9520 ; GFX940-NEXT:    ;;#ASMEND
9521 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
9522 ; GFX940-NEXT:    ;;#ASMSTART
9523 ; GFX940-NEXT:    ; def v[2:9]
9524 ; GFX940-NEXT:    ;;#ASMEND
9525 ; GFX940-NEXT:    s_nop 0
9526 ; GFX940-NEXT:    v_mov_b32_e32 v6, v4
9527 ; GFX940-NEXT:    v_mov_b32_e32 v7, v5
9528 ; GFX940-NEXT:    global_store_dwordx4 v10, v[4:7], s[0:1] offset:16 sc0 sc1
9529 ; GFX940-NEXT:    v_mov_b32_e32 v2, v8
9530 ; GFX940-NEXT:    v_mov_b32_e32 v3, v9
9531 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
9532 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
9533 ; GFX940-NEXT:    global_store_dwordx4 v10, v[2:5], s[0:1] sc0 sc1
9534 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
9535 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
9536   %vec0 = call <4 x i64> asm "; def $0", "=v"()
9537   %vec1 = call <4 x i64> asm "; def $0", "=v"()
9538   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 0, i32 5, i32 5>
9539   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
9540   ret void
9541 }
9542
9543 define void @v_shuffle_v4i64_v4i64__7_1_5_5(ptr addrspace(1) inreg %ptr) {
9544 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_1_5_5:
9545 ; GFX900:       ; %bb.0:
9546 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9547 ; GFX900-NEXT:    ;;#ASMSTART
9548 ; GFX900-NEXT:    ; def v[0:7]
9549 ; GFX900-NEXT:    ;;#ASMEND
9550 ; GFX900-NEXT:    ;;#ASMSTART
9551 ; GFX900-NEXT:    ; def v[4:11]
9552 ; GFX900-NEXT:    ;;#ASMEND
9553 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
9554 ; GFX900-NEXT:    v_mov_b32_e32 v8, v6
9555 ; GFX900-NEXT:    v_mov_b32_e32 v9, v7
9556 ; GFX900-NEXT:    v_mov_b32_e32 v0, v10
9557 ; GFX900-NEXT:    v_mov_b32_e32 v1, v11
9558 ; GFX900-NEXT:    global_store_dwordx4 v12, v[6:9], s[16:17] offset:16
9559 ; GFX900-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17]
9560 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
9561 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
9562 ;
9563 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_1_5_5:
9564 ; GFX90A:       ; %bb.0:
9565 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9566 ; GFX90A-NEXT:    ;;#ASMSTART
9567 ; GFX90A-NEXT:    ; def v[0:7]
9568 ; GFX90A-NEXT:    ;;#ASMEND
9569 ; GFX90A-NEXT:    ;;#ASMSTART
9570 ; GFX90A-NEXT:    ; def v[4:11]
9571 ; GFX90A-NEXT:    ;;#ASMEND
9572 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
9573 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v6
9574 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v7
9575 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v10
9576 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v11
9577 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[6:9], s[16:17] offset:16
9578 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17]
9579 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
9580 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
9581 ;
9582 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_1_5_5:
9583 ; GFX940:       ; %bb.0:
9584 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9585 ; GFX940-NEXT:    ;;#ASMSTART
9586 ; GFX940-NEXT:    ; def v[0:7]
9587 ; GFX940-NEXT:    ;;#ASMEND
9588 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
9589 ; GFX940-NEXT:    ;;#ASMSTART
9590 ; GFX940-NEXT:    ; def v[4:11]
9591 ; GFX940-NEXT:    ;;#ASMEND
9592 ; GFX940-NEXT:    s_nop 0
9593 ; GFX940-NEXT:    v_mov_b32_e32 v8, v6
9594 ; GFX940-NEXT:    v_mov_b32_e32 v9, v7
9595 ; GFX940-NEXT:    v_mov_b32_e32 v0, v10
9596 ; GFX940-NEXT:    v_mov_b32_e32 v1, v11
9597 ; GFX940-NEXT:    global_store_dwordx4 v12, v[6:9], s[0:1] offset:16 sc0 sc1
9598 ; GFX940-NEXT:    global_store_dwordx4 v12, v[0:3], s[0:1] sc0 sc1
9599 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
9600 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
9601   %vec0 = call <4 x i64> asm "; def $0", "=v"()
9602   %vec1 = call <4 x i64> asm "; def $0", "=v"()
9603   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 1, i32 5, i32 5>
9604   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
9605   ret void
9606 }
9607
9608 define void @v_shuffle_v4i64_v4i64__7_2_5_5(ptr addrspace(1) inreg %ptr) {
9609 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_2_5_5:
9610 ; GFX900:       ; %bb.0:
9611 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9612 ; GFX900-NEXT:    ;;#ASMSTART
9613 ; GFX900-NEXT:    ; def v[0:7]
9614 ; GFX900-NEXT:    ;;#ASMEND
9615 ; GFX900-NEXT:    ;;#ASMSTART
9616 ; GFX900-NEXT:    ; def v[6:13]
9617 ; GFX900-NEXT:    ;;#ASMEND
9618 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
9619 ; GFX900-NEXT:    v_mov_b32_e32 v10, v8
9620 ; GFX900-NEXT:    v_mov_b32_e32 v11, v9
9621 ; GFX900-NEXT:    v_mov_b32_e32 v2, v12
9622 ; GFX900-NEXT:    v_mov_b32_e32 v3, v13
9623 ; GFX900-NEXT:    global_store_dwordx4 v14, v[8:11], s[16:17] offset:16
9624 ; GFX900-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17]
9625 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
9626 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
9627 ;
9628 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_2_5_5:
9629 ; GFX90A:       ; %bb.0:
9630 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9631 ; GFX90A-NEXT:    ;;#ASMSTART
9632 ; GFX90A-NEXT:    ; def v[0:7]
9633 ; GFX90A-NEXT:    ;;#ASMEND
9634 ; GFX90A-NEXT:    ;;#ASMSTART
9635 ; GFX90A-NEXT:    ; def v[6:13]
9636 ; GFX90A-NEXT:    ;;#ASMEND
9637 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
9638 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v8
9639 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v9
9640 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v12
9641 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v13
9642 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[8:11], s[16:17] offset:16
9643 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17]
9644 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
9645 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
9646 ;
9647 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_2_5_5:
9648 ; GFX940:       ; %bb.0:
9649 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9650 ; GFX940-NEXT:    ;;#ASMSTART
9651 ; GFX940-NEXT:    ; def v[0:7]
9652 ; GFX940-NEXT:    ;;#ASMEND
9653 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
9654 ; GFX940-NEXT:    ;;#ASMSTART
9655 ; GFX940-NEXT:    ; def v[6:13]
9656 ; GFX940-NEXT:    ;;#ASMEND
9657 ; GFX940-NEXT:    s_nop 0
9658 ; GFX940-NEXT:    v_mov_b32_e32 v10, v8
9659 ; GFX940-NEXT:    v_mov_b32_e32 v11, v9
9660 ; GFX940-NEXT:    v_mov_b32_e32 v2, v12
9661 ; GFX940-NEXT:    v_mov_b32_e32 v3, v13
9662 ; GFX940-NEXT:    global_store_dwordx4 v14, v[8:11], s[0:1] offset:16 sc0 sc1
9663 ; GFX940-NEXT:    global_store_dwordx4 v14, v[2:5], s[0:1] sc0 sc1
9664 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
9665 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
9666   %vec0 = call <4 x i64> asm "; def $0", "=v"()
9667   %vec1 = call <4 x i64> asm "; def $0", "=v"()
9668   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 2, i32 5, i32 5>
9669   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
9670   ret void
9671 }
9672
9673 define void @v_shuffle_v4i64_v4i64__7_3_5_5(ptr addrspace(1) inreg %ptr) {
9674 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_3_5_5:
9675 ; GFX900:       ; %bb.0:
9676 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9677 ; GFX900-NEXT:    ;;#ASMSTART
9678 ; GFX900-NEXT:    ; def v[0:7]
9679 ; GFX900-NEXT:    ;;#ASMEND
9680 ; GFX900-NEXT:    ;;#ASMSTART
9681 ; GFX900-NEXT:    ; def v[8:15]
9682 ; GFX900-NEXT:    ;;#ASMEND
9683 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
9684 ; GFX900-NEXT:    v_mov_b32_e32 v12, v10
9685 ; GFX900-NEXT:    v_mov_b32_e32 v13, v11
9686 ; GFX900-NEXT:    v_mov_b32_e32 v4, v14
9687 ; GFX900-NEXT:    v_mov_b32_e32 v5, v15
9688 ; GFX900-NEXT:    global_store_dwordx4 v16, v[10:13], s[16:17] offset:16
9689 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17]
9690 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
9691 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
9692 ;
9693 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_3_5_5:
9694 ; GFX90A:       ; %bb.0:
9695 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9696 ; GFX90A-NEXT:    ;;#ASMSTART
9697 ; GFX90A-NEXT:    ; def v[0:7]
9698 ; GFX90A-NEXT:    ;;#ASMEND
9699 ; GFX90A-NEXT:    ;;#ASMSTART
9700 ; GFX90A-NEXT:    ; def v[8:15]
9701 ; GFX90A-NEXT:    ;;#ASMEND
9702 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
9703 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v10
9704 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v11
9705 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v14
9706 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v15
9707 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[10:13], s[16:17] offset:16
9708 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17]
9709 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
9710 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
9711 ;
9712 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_3_5_5:
9713 ; GFX940:       ; %bb.0:
9714 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9715 ; GFX940-NEXT:    ;;#ASMSTART
9716 ; GFX940-NEXT:    ; def v[0:7]
9717 ; GFX940-NEXT:    ;;#ASMEND
9718 ; GFX940-NEXT:    ;;#ASMSTART
9719 ; GFX940-NEXT:    ; def v[8:15]
9720 ; GFX940-NEXT:    ;;#ASMEND
9721 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
9722 ; GFX940-NEXT:    v_mov_b32_e32 v12, v10
9723 ; GFX940-NEXT:    v_mov_b32_e32 v13, v11
9724 ; GFX940-NEXT:    v_mov_b32_e32 v4, v14
9725 ; GFX940-NEXT:    v_mov_b32_e32 v5, v15
9726 ; GFX940-NEXT:    global_store_dwordx4 v16, v[10:13], s[0:1] offset:16 sc0 sc1
9727 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] sc0 sc1
9728 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
9729 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
9730   %vec0 = call <4 x i64> asm "; def $0", "=v"()
9731   %vec1 = call <4 x i64> asm "; def $0", "=v"()
9732   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 3, i32 5, i32 5>
9733   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
9734   ret void
9735 }
9736
9737 define void @v_shuffle_v4i64_v4i64__7_4_5_5(ptr addrspace(1) inreg %ptr) {
9738 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_4_5_5:
9739 ; GFX900:       ; %bb.0:
9740 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9741 ; GFX900-NEXT:    ;;#ASMSTART
9742 ; GFX900-NEXT:    ; def v[0:7]
9743 ; GFX900-NEXT:    ;;#ASMEND
9744 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
9745 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
9746 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
9747 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
9748 ; GFX900-NEXT:    s_nop 0
9749 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
9750 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
9751 ; GFX900-NEXT:    v_mov_b32_e32 v4, v0
9752 ; GFX900-NEXT:    v_mov_b32_e32 v5, v1
9753 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
9754 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
9755 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
9756 ;
9757 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_4_5_5:
9758 ; GFX90A:       ; %bb.0:
9759 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9760 ; GFX90A-NEXT:    ;;#ASMSTART
9761 ; GFX90A-NEXT:    ; def v[0:7]
9762 ; GFX90A-NEXT:    ;;#ASMEND
9763 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
9764 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
9765 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
9766 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
9767 ; GFX90A-NEXT:    s_nop 0
9768 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
9769 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
9770 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
9771 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
9772 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
9773 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
9774 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
9775 ;
9776 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_4_5_5:
9777 ; GFX940:       ; %bb.0:
9778 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9779 ; GFX940-NEXT:    ;;#ASMSTART
9780 ; GFX940-NEXT:    ; def v[0:7]
9781 ; GFX940-NEXT:    ;;#ASMEND
9782 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
9783 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
9784 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
9785 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
9786 ; GFX940-NEXT:    s_nop 1
9787 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
9788 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
9789 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
9790 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
9791 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
9792 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
9793 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
9794   %vec0 = call <4 x i64> asm "; def $0", "=v"()
9795   %vec1 = call <4 x i64> asm "; def $0", "=v"()
9796   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 4, i32 5, i32 5>
9797   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
9798   ret void
9799 }
9800
9801 define void @v_shuffle_v4i64_v4i64__7_6_5_5(ptr addrspace(1) inreg %ptr) {
9802 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_6_5_5:
9803 ; GFX900:       ; %bb.0:
9804 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9805 ; GFX900-NEXT:    ;;#ASMSTART
9806 ; GFX900-NEXT:    ; def v[0:7]
9807 ; GFX900-NEXT:    ;;#ASMEND
9808 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
9809 ; GFX900-NEXT:    v_mov_b32_e32 v0, v2
9810 ; GFX900-NEXT:    v_mov_b32_e32 v1, v3
9811 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
9812 ; GFX900-NEXT:    s_nop 0
9813 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
9814 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
9815 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
9816 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
9817 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
9818 ;
9819 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_6_5_5:
9820 ; GFX90A:       ; %bb.0:
9821 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9822 ; GFX90A-NEXT:    ;;#ASMSTART
9823 ; GFX90A-NEXT:    ; def v[0:7]
9824 ; GFX90A-NEXT:    ;;#ASMEND
9825 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
9826 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v2
9827 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v3
9828 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
9829 ; GFX90A-NEXT:    s_nop 0
9830 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
9831 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
9832 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
9833 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
9834 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
9835 ;
9836 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_6_5_5:
9837 ; GFX940:       ; %bb.0:
9838 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9839 ; GFX940-NEXT:    ;;#ASMSTART
9840 ; GFX940-NEXT:    ; def v[0:7]
9841 ; GFX940-NEXT:    ;;#ASMEND
9842 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
9843 ; GFX940-NEXT:    v_mov_b32_e32 v0, v2
9844 ; GFX940-NEXT:    v_mov_b32_e32 v1, v3
9845 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
9846 ; GFX940-NEXT:    s_nop 1
9847 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
9848 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
9849 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
9850 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
9851 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
9852   %vec0 = call <4 x i64> asm "; def $0", "=v"()
9853   %vec1 = call <4 x i64> asm "; def $0", "=v"()
9854   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 6, i32 5, i32 5>
9855   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
9856   ret void
9857 }
9858
9859 define void @v_shuffle_v4i64_v4i64__7_7_5_5(ptr addrspace(1) inreg %ptr) {
9860 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_5_5:
9861 ; GFX900:       ; %bb.0:
9862 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9863 ; GFX900-NEXT:    ;;#ASMSTART
9864 ; GFX900-NEXT:    ; def v[0:7]
9865 ; GFX900-NEXT:    ;;#ASMEND
9866 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
9867 ; GFX900-NEXT:    v_mov_b32_e32 v4, v2
9868 ; GFX900-NEXT:    v_mov_b32_e32 v5, v3
9869 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
9870 ; GFX900-NEXT:    s_nop 0
9871 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
9872 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
9873 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
9874 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
9875 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
9876 ;
9877 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_5_5:
9878 ; GFX90A:       ; %bb.0:
9879 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9880 ; GFX90A-NEXT:    ;;#ASMSTART
9881 ; GFX90A-NEXT:    ; def v[0:7]
9882 ; GFX90A-NEXT:    ;;#ASMEND
9883 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
9884 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v2
9885 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v3
9886 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
9887 ; GFX90A-NEXT:    s_nop 0
9888 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
9889 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
9890 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
9891 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
9892 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
9893 ;
9894 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_5_5:
9895 ; GFX940:       ; %bb.0:
9896 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9897 ; GFX940-NEXT:    ;;#ASMSTART
9898 ; GFX940-NEXT:    ; def v[0:7]
9899 ; GFX940-NEXT:    ;;#ASMEND
9900 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
9901 ; GFX940-NEXT:    v_mov_b32_e32 v4, v2
9902 ; GFX940-NEXT:    v_mov_b32_e32 v5, v3
9903 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
9904 ; GFX940-NEXT:    s_nop 1
9905 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
9906 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
9907 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
9908 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
9909 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
9910   %vec0 = call <4 x i64> asm "; def $0", "=v"()
9911   %vec1 = call <4 x i64> asm "; def $0", "=v"()
9912   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 5, i32 5>
9913   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
9914   ret void
9915 }
9916
9917 define void @v_shuffle_v4i64_v4i64__7_7_u_5(ptr addrspace(1) inreg %ptr) {
9918 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_u_5:
9919 ; GFX900:       ; %bb.0:
9920 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9921 ; GFX900-NEXT:    ;;#ASMSTART
9922 ; GFX900-NEXT:    ; def v[0:7]
9923 ; GFX900-NEXT:    ;;#ASMEND
9924 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
9925 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
9926 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
9927 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
9928 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
9929 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
9930 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
9931 ;
9932 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_u_5:
9933 ; GFX90A:       ; %bb.0:
9934 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9935 ; GFX90A-NEXT:    ;;#ASMSTART
9936 ; GFX90A-NEXT:    ; def v[0:7]
9937 ; GFX90A-NEXT:    ;;#ASMEND
9938 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
9939 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
9940 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
9941 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
9942 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
9943 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
9944 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
9945 ;
9946 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_u_5:
9947 ; GFX940:       ; %bb.0:
9948 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9949 ; GFX940-NEXT:    ;;#ASMSTART
9950 ; GFX940-NEXT:    ; def v[0:7]
9951 ; GFX940-NEXT:    ;;#ASMEND
9952 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
9953 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
9954 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
9955 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
9956 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
9957 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
9958 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
9959   %vec0 = call <4 x i64> asm "; def $0", "=v"()
9960   %vec1 = call <4 x i64> asm "; def $0", "=v"()
9961   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 poison, i32 5>
9962   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
9963   ret void
9964 }
9965
9966 define void @v_shuffle_v4i64_v4i64__7_7_0_5(ptr addrspace(1) inreg %ptr) {
9967 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_0_5:
9968 ; GFX900:       ; %bb.0:
9969 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9970 ; GFX900-NEXT:    ;;#ASMSTART
9971 ; GFX900-NEXT:    ; def v[0:7]
9972 ; GFX900-NEXT:    ;;#ASMEND
9973 ; GFX900-NEXT:    ;;#ASMSTART
9974 ; GFX900-NEXT:    ; def v[2:9]
9975 ; GFX900-NEXT:    ;;#ASMEND
9976 ; GFX900-NEXT:    v_mov_b32_e32 v10, 0
9977 ; GFX900-NEXT:    v_mov_b32_e32 v2, v4
9978 ; GFX900-NEXT:    v_mov_b32_e32 v3, v5
9979 ; GFX900-NEXT:    v_mov_b32_e32 v6, v8
9980 ; GFX900-NEXT:    v_mov_b32_e32 v7, v9
9981 ; GFX900-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
9982 ; GFX900-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17]
9983 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
9984 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
9985 ;
9986 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_0_5:
9987 ; GFX90A:       ; %bb.0:
9988 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
9989 ; GFX90A-NEXT:    ;;#ASMSTART
9990 ; GFX90A-NEXT:    ; def v[0:7]
9991 ; GFX90A-NEXT:    ;;#ASMEND
9992 ; GFX90A-NEXT:    ;;#ASMSTART
9993 ; GFX90A-NEXT:    ; def v[2:9]
9994 ; GFX90A-NEXT:    ;;#ASMEND
9995 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
9996 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v4
9997 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v5
9998 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v8
9999 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v9
10000 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
10001 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17]
10002 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
10003 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
10004 ;
10005 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_0_5:
10006 ; GFX940:       ; %bb.0:
10007 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10008 ; GFX940-NEXT:    ;;#ASMSTART
10009 ; GFX940-NEXT:    ; def v[0:7]
10010 ; GFX940-NEXT:    ;;#ASMEND
10011 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
10012 ; GFX940-NEXT:    ;;#ASMSTART
10013 ; GFX940-NEXT:    ; def v[2:9]
10014 ; GFX940-NEXT:    ;;#ASMEND
10015 ; GFX940-NEXT:    s_nop 0
10016 ; GFX940-NEXT:    v_mov_b32_e32 v2, v4
10017 ; GFX940-NEXT:    v_mov_b32_e32 v3, v5
10018 ; GFX940-NEXT:    v_mov_b32_e32 v6, v8
10019 ; GFX940-NEXT:    v_mov_b32_e32 v7, v9
10020 ; GFX940-NEXT:    global_store_dwordx4 v10, v[0:3], s[0:1] offset:16 sc0 sc1
10021 ; GFX940-NEXT:    global_store_dwordx4 v10, v[6:9], s[0:1] sc0 sc1
10022 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
10023 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
10024   %vec0 = call <4 x i64> asm "; def $0", "=v"()
10025   %vec1 = call <4 x i64> asm "; def $0", "=v"()
10026   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 0, i32 5>
10027   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
10028   ret void
10029 }
10030
10031 define void @v_shuffle_v4i64_v4i64__7_7_1_5(ptr addrspace(1) inreg %ptr) {
10032 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_1_5:
10033 ; GFX900:       ; %bb.0:
10034 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10035 ; GFX900-NEXT:    ;;#ASMSTART
10036 ; GFX900-NEXT:    ; def v[0:7]
10037 ; GFX900-NEXT:    ;;#ASMEND
10038 ; GFX900-NEXT:    ;;#ASMSTART
10039 ; GFX900-NEXT:    ; def v[4:11]
10040 ; GFX900-NEXT:    ;;#ASMEND
10041 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
10042 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
10043 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
10044 ; GFX900-NEXT:    v_mov_b32_e32 v8, v10
10045 ; GFX900-NEXT:    v_mov_b32_e32 v9, v11
10046 ; GFX900-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
10047 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
10048 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
10049 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
10050 ;
10051 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_1_5:
10052 ; GFX90A:       ; %bb.0:
10053 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10054 ; GFX90A-NEXT:    ;;#ASMSTART
10055 ; GFX90A-NEXT:    ; def v[0:7]
10056 ; GFX90A-NEXT:    ;;#ASMEND
10057 ; GFX90A-NEXT:    ;;#ASMSTART
10058 ; GFX90A-NEXT:    ; def v[4:11]
10059 ; GFX90A-NEXT:    ;;#ASMEND
10060 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
10061 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
10062 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
10063 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v10
10064 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v11
10065 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
10066 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
10067 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
10068 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
10069 ;
10070 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_1_5:
10071 ; GFX940:       ; %bb.0:
10072 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10073 ; GFX940-NEXT:    ;;#ASMSTART
10074 ; GFX940-NEXT:    ; def v[0:7]
10075 ; GFX940-NEXT:    ;;#ASMEND
10076 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
10077 ; GFX940-NEXT:    ;;#ASMSTART
10078 ; GFX940-NEXT:    ; def v[4:11]
10079 ; GFX940-NEXT:    ;;#ASMEND
10080 ; GFX940-NEXT:    s_nop 0
10081 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
10082 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
10083 ; GFX940-NEXT:    v_mov_b32_e32 v8, v10
10084 ; GFX940-NEXT:    v_mov_b32_e32 v9, v11
10085 ; GFX940-NEXT:    global_store_dwordx4 v12, v[2:5], s[0:1] offset:16 sc0 sc1
10086 ; GFX940-NEXT:    global_store_dwordx4 v12, v[8:11], s[0:1] sc0 sc1
10087 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
10088 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
10089   %vec0 = call <4 x i64> asm "; def $0", "=v"()
10090   %vec1 = call <4 x i64> asm "; def $0", "=v"()
10091   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 1, i32 5>
10092   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
10093   ret void
10094 }
10095
10096 define void @v_shuffle_v4i64_v4i64__7_7_2_5(ptr addrspace(1) inreg %ptr) {
10097 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_2_5:
10098 ; GFX900:       ; %bb.0:
10099 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10100 ; GFX900-NEXT:    ;;#ASMSTART
10101 ; GFX900-NEXT:    ; def v[0:7]
10102 ; GFX900-NEXT:    ;;#ASMEND
10103 ; GFX900-NEXT:    ;;#ASMSTART
10104 ; GFX900-NEXT:    ; def v[6:13]
10105 ; GFX900-NEXT:    ;;#ASMEND
10106 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
10107 ; GFX900-NEXT:    v_mov_b32_e32 v6, v8
10108 ; GFX900-NEXT:    v_mov_b32_e32 v7, v9
10109 ; GFX900-NEXT:    v_mov_b32_e32 v10, v12
10110 ; GFX900-NEXT:    v_mov_b32_e32 v11, v13
10111 ; GFX900-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
10112 ; GFX900-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
10113 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
10114 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
10115 ;
10116 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_2_5:
10117 ; GFX90A:       ; %bb.0:
10118 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10119 ; GFX90A-NEXT:    ;;#ASMSTART
10120 ; GFX90A-NEXT:    ; def v[0:7]
10121 ; GFX90A-NEXT:    ;;#ASMEND
10122 ; GFX90A-NEXT:    ;;#ASMSTART
10123 ; GFX90A-NEXT:    ; def v[6:13]
10124 ; GFX90A-NEXT:    ;;#ASMEND
10125 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
10126 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v8
10127 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v9
10128 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v12
10129 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v13
10130 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
10131 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
10132 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
10133 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
10134 ;
10135 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_2_5:
10136 ; GFX940:       ; %bb.0:
10137 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10138 ; GFX940-NEXT:    ;;#ASMSTART
10139 ; GFX940-NEXT:    ; def v[0:7]
10140 ; GFX940-NEXT:    ;;#ASMEND
10141 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
10142 ; GFX940-NEXT:    ;;#ASMSTART
10143 ; GFX940-NEXT:    ; def v[6:13]
10144 ; GFX940-NEXT:    ;;#ASMEND
10145 ; GFX940-NEXT:    s_nop 0
10146 ; GFX940-NEXT:    v_mov_b32_e32 v6, v8
10147 ; GFX940-NEXT:    v_mov_b32_e32 v7, v9
10148 ; GFX940-NEXT:    v_mov_b32_e32 v10, v12
10149 ; GFX940-NEXT:    v_mov_b32_e32 v11, v13
10150 ; GFX940-NEXT:    global_store_dwordx4 v14, v[4:7], s[0:1] offset:16 sc0 sc1
10151 ; GFX940-NEXT:    global_store_dwordx4 v14, v[10:13], s[0:1] sc0 sc1
10152 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
10153 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
10154   %vec0 = call <4 x i64> asm "; def $0", "=v"()
10155   %vec1 = call <4 x i64> asm "; def $0", "=v"()
10156   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 2, i32 5>
10157   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
10158   ret void
10159 }
10160
10161 define void @v_shuffle_v4i64_v4i64__7_7_3_5(ptr addrspace(1) inreg %ptr) {
10162 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_3_5:
10163 ; GFX900:       ; %bb.0:
10164 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10165 ; GFX900-NEXT:    ;;#ASMSTART
10166 ; GFX900-NEXT:    ; def v[8:15]
10167 ; GFX900-NEXT:    ;;#ASMEND
10168 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
10169 ; GFX900-NEXT:    ;;#ASMSTART
10170 ; GFX900-NEXT:    ; def v[0:7]
10171 ; GFX900-NEXT:    ;;#ASMEND
10172 ; GFX900-NEXT:    v_mov_b32_e32 v8, v6
10173 ; GFX900-NEXT:    v_mov_b32_e32 v9, v7
10174 ; GFX900-NEXT:    v_mov_b32_e32 v12, v14
10175 ; GFX900-NEXT:    v_mov_b32_e32 v13, v15
10176 ; GFX900-NEXT:    global_store_dwordx4 v16, v[8:11], s[16:17] offset:16
10177 ; GFX900-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
10178 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
10179 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
10180 ;
10181 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_3_5:
10182 ; GFX90A:       ; %bb.0:
10183 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10184 ; GFX90A-NEXT:    ;;#ASMSTART
10185 ; GFX90A-NEXT:    ; def v[8:15]
10186 ; GFX90A-NEXT:    ;;#ASMEND
10187 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
10188 ; GFX90A-NEXT:    ;;#ASMSTART
10189 ; GFX90A-NEXT:    ; def v[0:7]
10190 ; GFX90A-NEXT:    ;;#ASMEND
10191 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v6
10192 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v7
10193 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v14
10194 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v15
10195 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[8:11], s[16:17] offset:16
10196 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
10197 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
10198 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
10199 ;
10200 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_3_5:
10201 ; GFX940:       ; %bb.0:
10202 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10203 ; GFX940-NEXT:    ;;#ASMSTART
10204 ; GFX940-NEXT:    ; def v[8:15]
10205 ; GFX940-NEXT:    ;;#ASMEND
10206 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
10207 ; GFX940-NEXT:    ;;#ASMSTART
10208 ; GFX940-NEXT:    ; def v[0:7]
10209 ; GFX940-NEXT:    ;;#ASMEND
10210 ; GFX940-NEXT:    v_mov_b32_e32 v12, v14
10211 ; GFX940-NEXT:    v_mov_b32_e32 v8, v6
10212 ; GFX940-NEXT:    v_mov_b32_e32 v9, v7
10213 ; GFX940-NEXT:    v_mov_b32_e32 v13, v15
10214 ; GFX940-NEXT:    global_store_dwordx4 v16, v[8:11], s[0:1] offset:16 sc0 sc1
10215 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] sc0 sc1
10216 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
10217 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
10218   %vec0 = call <4 x i64> asm "; def $0", "=v"()
10219   %vec1 = call <4 x i64> asm "; def $0", "=v"()
10220   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 3, i32 5>
10221   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
10222   ret void
10223 }
10224
10225 define void @v_shuffle_v4i64_v4i64__7_7_4_5(ptr addrspace(1) inreg %ptr) {
10226 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_4_5:
10227 ; GFX900:       ; %bb.0:
10228 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10229 ; GFX900-NEXT:    ;;#ASMSTART
10230 ; GFX900-NEXT:    ; def v[0:7]
10231 ; GFX900-NEXT:    ;;#ASMEND
10232 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
10233 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
10234 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
10235 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
10236 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
10237 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
10238 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
10239 ;
10240 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_4_5:
10241 ; GFX90A:       ; %bb.0:
10242 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10243 ; GFX90A-NEXT:    ;;#ASMSTART
10244 ; GFX90A-NEXT:    ; def v[0:7]
10245 ; GFX90A-NEXT:    ;;#ASMEND
10246 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
10247 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
10248 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
10249 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
10250 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
10251 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
10252 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
10253 ;
10254 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_4_5:
10255 ; GFX940:       ; %bb.0:
10256 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10257 ; GFX940-NEXT:    ;;#ASMSTART
10258 ; GFX940-NEXT:    ; def v[0:7]
10259 ; GFX940-NEXT:    ;;#ASMEND
10260 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
10261 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
10262 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
10263 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
10264 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
10265 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
10266 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
10267   %vec0 = call <4 x i64> asm "; def $0", "=v"()
10268   %vec1 = call <4 x i64> asm "; def $0", "=v"()
10269   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 4, i32 5>
10270   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
10271   ret void
10272 }
10273
10274 define void @v_shuffle_v4i64_v4i64__7_7_6_5(ptr addrspace(1) inreg %ptr) {
10275 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_6_5:
10276 ; GFX900:       ; %bb.0:
10277 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10278 ; GFX900-NEXT:    ;;#ASMSTART
10279 ; GFX900-NEXT:    ; def v[0:7]
10280 ; GFX900-NEXT:    ;;#ASMEND
10281 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
10282 ; GFX900-NEXT:    v_mov_b32_e32 v0, v4
10283 ; GFX900-NEXT:    v_mov_b32_e32 v1, v5
10284 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
10285 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
10286 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
10287 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
10288 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
10289 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
10290 ;
10291 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_6_5:
10292 ; GFX90A:       ; %bb.0:
10293 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10294 ; GFX90A-NEXT:    ;;#ASMSTART
10295 ; GFX90A-NEXT:    ; def v[0:7]
10296 ; GFX90A-NEXT:    ;;#ASMEND
10297 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
10298 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v4
10299 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v5
10300 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
10301 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
10302 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
10303 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
10304 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
10305 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
10306 ;
10307 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_6_5:
10308 ; GFX940:       ; %bb.0:
10309 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10310 ; GFX940-NEXT:    ;;#ASMSTART
10311 ; GFX940-NEXT:    ; def v[0:7]
10312 ; GFX940-NEXT:    ;;#ASMEND
10313 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
10314 ; GFX940-NEXT:    v_mov_b32_e32 v0, v4
10315 ; GFX940-NEXT:    v_mov_b32_e32 v1, v5
10316 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
10317 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
10318 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
10319 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
10320 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
10321 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
10322   %vec0 = call <4 x i64> asm "; def $0", "=v"()
10323   %vec1 = call <4 x i64> asm "; def $0", "=v"()
10324   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 6, i32 5>
10325   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
10326   ret void
10327 }
10328
10329 define void @v_shuffle_v4i64_v4i64__u_6_6_6(ptr addrspace(1) inreg %ptr) {
10330 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__u_6_6_6:
10331 ; GFX900:       ; %bb.0:
10332 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10333 ; GFX900-NEXT:    ;;#ASMSTART
10334 ; GFX900-NEXT:    ; def v[0:7]
10335 ; GFX900-NEXT:    ;;#ASMEND
10336 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
10337 ; GFX900-NEXT:    v_mov_b32_e32 v6, v4
10338 ; GFX900-NEXT:    v_mov_b32_e32 v7, v5
10339 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
10340 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
10341 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
10342 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
10343 ;
10344 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__u_6_6_6:
10345 ; GFX90A:       ; %bb.0:
10346 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10347 ; GFX90A-NEXT:    ;;#ASMSTART
10348 ; GFX90A-NEXT:    ; def v[0:7]
10349 ; GFX90A-NEXT:    ;;#ASMEND
10350 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
10351 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v4
10352 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v5
10353 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
10354 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
10355 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
10356 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
10357 ;
10358 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__u_6_6_6:
10359 ; GFX940:       ; %bb.0:
10360 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10361 ; GFX940-NEXT:    ;;#ASMSTART
10362 ; GFX940-NEXT:    ; def v[0:7]
10363 ; GFX940-NEXT:    ;;#ASMEND
10364 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
10365 ; GFX940-NEXT:    v_mov_b32_e32 v6, v4
10366 ; GFX940-NEXT:    v_mov_b32_e32 v7, v5
10367 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
10368 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
10369 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
10370 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
10371   %vec0 = call <4 x i64> asm "; def $0", "=v"()
10372   %vec1 = call <4 x i64> asm "; def $0", "=v"()
10373   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 poison, i32 6, i32 6, i32 6>
10374   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
10375   ret void
10376 }
10377
10378 define void @v_shuffle_v4i64_v4i64__0_6_6_6(ptr addrspace(1) inreg %ptr) {
10379 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__0_6_6_6:
10380 ; GFX900:       ; %bb.0:
10381 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10382 ; GFX900-NEXT:    ;;#ASMSTART
10383 ; GFX900-NEXT:    ; def v[0:7]
10384 ; GFX900-NEXT:    ;;#ASMEND
10385 ; GFX900-NEXT:    ;;#ASMSTART
10386 ; GFX900-NEXT:    ; def v[2:9]
10387 ; GFX900-NEXT:    ;;#ASMEND
10388 ; GFX900-NEXT:    v_mov_b32_e32 v10, 0
10389 ; GFX900-NEXT:    v_mov_b32_e32 v8, v6
10390 ; GFX900-NEXT:    v_mov_b32_e32 v9, v7
10391 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
10392 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
10393 ; GFX900-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17] offset:16
10394 ; GFX900-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17]
10395 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
10396 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
10397 ;
10398 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__0_6_6_6:
10399 ; GFX90A:       ; %bb.0:
10400 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10401 ; GFX90A-NEXT:    ;;#ASMSTART
10402 ; GFX90A-NEXT:    ; def v[0:7]
10403 ; GFX90A-NEXT:    ;;#ASMEND
10404 ; GFX90A-NEXT:    ;;#ASMSTART
10405 ; GFX90A-NEXT:    ; def v[2:9]
10406 ; GFX90A-NEXT:    ;;#ASMEND
10407 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
10408 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v6
10409 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v7
10410 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
10411 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
10412 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17] offset:16
10413 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17]
10414 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
10415 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
10416 ;
10417 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__0_6_6_6:
10418 ; GFX940:       ; %bb.0:
10419 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10420 ; GFX940-NEXT:    ;;#ASMSTART
10421 ; GFX940-NEXT:    ; def v[0:7]
10422 ; GFX940-NEXT:    ;;#ASMEND
10423 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
10424 ; GFX940-NEXT:    ;;#ASMSTART
10425 ; GFX940-NEXT:    ; def v[2:9]
10426 ; GFX940-NEXT:    ;;#ASMEND
10427 ; GFX940-NEXT:    s_nop 0
10428 ; GFX940-NEXT:    v_mov_b32_e32 v8, v6
10429 ; GFX940-NEXT:    v_mov_b32_e32 v9, v7
10430 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
10431 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
10432 ; GFX940-NEXT:    global_store_dwordx4 v10, v[6:9], s[0:1] offset:16 sc0 sc1
10433 ; GFX940-NEXT:    global_store_dwordx4 v10, v[0:3], s[0:1] sc0 sc1
10434 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
10435 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
10436   %vec0 = call <4 x i64> asm "; def $0", "=v"()
10437   %vec1 = call <4 x i64> asm "; def $0", "=v"()
10438   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 0, i32 6, i32 6, i32 6>
10439   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
10440   ret void
10441 }
10442
10443 define void @v_shuffle_v4i64_v4i64__1_6_6_6(ptr addrspace(1) inreg %ptr) {
10444 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__1_6_6_6:
10445 ; GFX900:       ; %bb.0:
10446 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10447 ; GFX900-NEXT:    ;;#ASMSTART
10448 ; GFX900-NEXT:    ; def v[0:7]
10449 ; GFX900-NEXT:    ;;#ASMEND
10450 ; GFX900-NEXT:    ;;#ASMSTART
10451 ; GFX900-NEXT:    ; def v[4:11]
10452 ; GFX900-NEXT:    ;;#ASMEND
10453 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
10454 ; GFX900-NEXT:    v_mov_b32_e32 v10, v8
10455 ; GFX900-NEXT:    v_mov_b32_e32 v11, v9
10456 ; GFX900-NEXT:    v_mov_b32_e32 v4, v8
10457 ; GFX900-NEXT:    v_mov_b32_e32 v5, v9
10458 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17] offset:16
10459 ; GFX900-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17]
10460 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
10461 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
10462 ;
10463 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__1_6_6_6:
10464 ; GFX90A:       ; %bb.0:
10465 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10466 ; GFX90A-NEXT:    ;;#ASMSTART
10467 ; GFX90A-NEXT:    ; def v[0:7]
10468 ; GFX90A-NEXT:    ;;#ASMEND
10469 ; GFX90A-NEXT:    ;;#ASMSTART
10470 ; GFX90A-NEXT:    ; def v[4:11]
10471 ; GFX90A-NEXT:    ;;#ASMEND
10472 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
10473 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v8
10474 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v9
10475 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v8
10476 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v9
10477 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17] offset:16
10478 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17]
10479 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
10480 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
10481 ;
10482 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__1_6_6_6:
10483 ; GFX940:       ; %bb.0:
10484 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10485 ; GFX940-NEXT:    ;;#ASMSTART
10486 ; GFX940-NEXT:    ; def v[0:7]
10487 ; GFX940-NEXT:    ;;#ASMEND
10488 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
10489 ; GFX940-NEXT:    ;;#ASMSTART
10490 ; GFX940-NEXT:    ; def v[4:11]
10491 ; GFX940-NEXT:    ;;#ASMEND
10492 ; GFX940-NEXT:    s_nop 0
10493 ; GFX940-NEXT:    v_mov_b32_e32 v10, v8
10494 ; GFX940-NEXT:    v_mov_b32_e32 v11, v9
10495 ; GFX940-NEXT:    v_mov_b32_e32 v4, v8
10496 ; GFX940-NEXT:    v_mov_b32_e32 v5, v9
10497 ; GFX940-NEXT:    global_store_dwordx4 v12, v[8:11], s[0:1] offset:16 sc0 sc1
10498 ; GFX940-NEXT:    global_store_dwordx4 v12, v[2:5], s[0:1] sc0 sc1
10499 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
10500 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
10501   %vec0 = call <4 x i64> asm "; def $0", "=v"()
10502   %vec1 = call <4 x i64> asm "; def $0", "=v"()
10503   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 1, i32 6, i32 6, i32 6>
10504   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
10505   ret void
10506 }
10507
10508 define void @v_shuffle_v4i64_v4i64__2_6_6_6(ptr addrspace(1) inreg %ptr) {
10509 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__2_6_6_6:
10510 ; GFX900:       ; %bb.0:
10511 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10512 ; GFX900-NEXT:    ;;#ASMSTART
10513 ; GFX900-NEXT:    ; def v[0:7]
10514 ; GFX900-NEXT:    ;;#ASMEND
10515 ; GFX900-NEXT:    ;;#ASMSTART
10516 ; GFX900-NEXT:    ; def v[6:13]
10517 ; GFX900-NEXT:    ;;#ASMEND
10518 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
10519 ; GFX900-NEXT:    v_mov_b32_e32 v12, v10
10520 ; GFX900-NEXT:    v_mov_b32_e32 v13, v11
10521 ; GFX900-NEXT:    v_mov_b32_e32 v6, v10
10522 ; GFX900-NEXT:    v_mov_b32_e32 v7, v11
10523 ; GFX900-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17] offset:16
10524 ; GFX900-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17]
10525 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
10526 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
10527 ;
10528 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__2_6_6_6:
10529 ; GFX90A:       ; %bb.0:
10530 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10531 ; GFX90A-NEXT:    ;;#ASMSTART
10532 ; GFX90A-NEXT:    ; def v[0:7]
10533 ; GFX90A-NEXT:    ;;#ASMEND
10534 ; GFX90A-NEXT:    ;;#ASMSTART
10535 ; GFX90A-NEXT:    ; def v[6:13]
10536 ; GFX90A-NEXT:    ;;#ASMEND
10537 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
10538 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v10
10539 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v11
10540 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v10
10541 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v11
10542 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17] offset:16
10543 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17]
10544 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
10545 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
10546 ;
10547 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__2_6_6_6:
10548 ; GFX940:       ; %bb.0:
10549 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10550 ; GFX940-NEXT:    ;;#ASMSTART
10551 ; GFX940-NEXT:    ; def v[0:7]
10552 ; GFX940-NEXT:    ;;#ASMEND
10553 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
10554 ; GFX940-NEXT:    ;;#ASMSTART
10555 ; GFX940-NEXT:    ; def v[6:13]
10556 ; GFX940-NEXT:    ;;#ASMEND
10557 ; GFX940-NEXT:    s_nop 0
10558 ; GFX940-NEXT:    v_mov_b32_e32 v12, v10
10559 ; GFX940-NEXT:    v_mov_b32_e32 v13, v11
10560 ; GFX940-NEXT:    v_mov_b32_e32 v6, v10
10561 ; GFX940-NEXT:    v_mov_b32_e32 v7, v11
10562 ; GFX940-NEXT:    global_store_dwordx4 v14, v[10:13], s[0:1] offset:16 sc0 sc1
10563 ; GFX940-NEXT:    global_store_dwordx4 v14, v[4:7], s[0:1] sc0 sc1
10564 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
10565 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
10566   %vec0 = call <4 x i64> asm "; def $0", "=v"()
10567   %vec1 = call <4 x i64> asm "; def $0", "=v"()
10568   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 2, i32 6, i32 6, i32 6>
10569   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
10570   ret void
10571 }
10572
10573 define void @v_shuffle_v4i64_v4i64__3_6_6_6(ptr addrspace(1) inreg %ptr) {
10574 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__3_6_6_6:
10575 ; GFX900:       ; %bb.0:
10576 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10577 ; GFX900-NEXT:    ;;#ASMSTART
10578 ; GFX900-NEXT:    ; def v[8:15]
10579 ; GFX900-NEXT:    ;;#ASMEND
10580 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
10581 ; GFX900-NEXT:    ;;#ASMSTART
10582 ; GFX900-NEXT:    ; def v[0:7]
10583 ; GFX900-NEXT:    ;;#ASMEND
10584 ; GFX900-NEXT:    v_mov_b32_e32 v14, v12
10585 ; GFX900-NEXT:    v_mov_b32_e32 v15, v13
10586 ; GFX900-NEXT:    v_mov_b32_e32 v10, v6
10587 ; GFX900-NEXT:    v_mov_b32_e32 v11, v7
10588 ; GFX900-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17] offset:16
10589 ; GFX900-NEXT:    global_store_dwordx4 v16, v[10:13], s[16:17]
10590 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
10591 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
10592 ;
10593 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__3_6_6_6:
10594 ; GFX90A:       ; %bb.0:
10595 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10596 ; GFX90A-NEXT:    ;;#ASMSTART
10597 ; GFX90A-NEXT:    ; def v[8:15]
10598 ; GFX90A-NEXT:    ;;#ASMEND
10599 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
10600 ; GFX90A-NEXT:    ;;#ASMSTART
10601 ; GFX90A-NEXT:    ; def v[0:7]
10602 ; GFX90A-NEXT:    ;;#ASMEND
10603 ; GFX90A-NEXT:    v_mov_b32_e32 v14, v12
10604 ; GFX90A-NEXT:    v_mov_b32_e32 v15, v13
10605 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v6
10606 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v7
10607 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17] offset:16
10608 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[10:13], s[16:17]
10609 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
10610 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
10611 ;
10612 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__3_6_6_6:
10613 ; GFX940:       ; %bb.0:
10614 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10615 ; GFX940-NEXT:    ;;#ASMSTART
10616 ; GFX940-NEXT:    ; def v[8:15]
10617 ; GFX940-NEXT:    ;;#ASMEND
10618 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
10619 ; GFX940-NEXT:    ;;#ASMSTART
10620 ; GFX940-NEXT:    ; def v[0:7]
10621 ; GFX940-NEXT:    ;;#ASMEND
10622 ; GFX940-NEXT:    v_mov_b32_e32 v14, v12
10623 ; GFX940-NEXT:    v_mov_b32_e32 v15, v13
10624 ; GFX940-NEXT:    v_mov_b32_e32 v10, v6
10625 ; GFX940-NEXT:    v_mov_b32_e32 v11, v7
10626 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] offset:16 sc0 sc1
10627 ; GFX940-NEXT:    global_store_dwordx4 v16, v[10:13], s[0:1] sc0 sc1
10628 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
10629 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
10630   %vec0 = call <4 x i64> asm "; def $0", "=v"()
10631   %vec1 = call <4 x i64> asm "; def $0", "=v"()
10632   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 3, i32 6, i32 6, i32 6>
10633   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
10634   ret void
10635 }
10636
10637 define void @v_shuffle_v4i64_v4i64__4_6_6_6(ptr addrspace(1) inreg %ptr) {
10638 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__4_6_6_6:
10639 ; GFX900:       ; %bb.0:
10640 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10641 ; GFX900-NEXT:    ;;#ASMSTART
10642 ; GFX900-NEXT:    ; def v[0:7]
10643 ; GFX900-NEXT:    ;;#ASMEND
10644 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
10645 ; GFX900-NEXT:    v_mov_b32_e32 v6, v4
10646 ; GFX900-NEXT:    v_mov_b32_e32 v7, v5
10647 ; GFX900-NEXT:    v_mov_b32_e32 v2, v4
10648 ; GFX900-NEXT:    v_mov_b32_e32 v3, v5
10649 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
10650 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
10651 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
10652 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
10653 ;
10654 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__4_6_6_6:
10655 ; GFX90A:       ; %bb.0:
10656 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10657 ; GFX90A-NEXT:    ;;#ASMSTART
10658 ; GFX90A-NEXT:    ; def v[0:7]
10659 ; GFX90A-NEXT:    ;;#ASMEND
10660 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
10661 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v4
10662 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v5
10663 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v4
10664 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v5
10665 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
10666 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
10667 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
10668 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
10669 ;
10670 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__4_6_6_6:
10671 ; GFX940:       ; %bb.0:
10672 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10673 ; GFX940-NEXT:    ;;#ASMSTART
10674 ; GFX940-NEXT:    ; def v[0:7]
10675 ; GFX940-NEXT:    ;;#ASMEND
10676 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
10677 ; GFX940-NEXT:    v_mov_b32_e32 v6, v4
10678 ; GFX940-NEXT:    v_mov_b32_e32 v7, v5
10679 ; GFX940-NEXT:    v_mov_b32_e32 v2, v4
10680 ; GFX940-NEXT:    v_mov_b32_e32 v3, v5
10681 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
10682 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
10683 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
10684 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
10685   %vec0 = call <4 x i64> asm "; def $0", "=v"()
10686   %vec1 = call <4 x i64> asm "; def $0", "=v"()
10687   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 4, i32 6, i32 6, i32 6>
10688   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
10689   ret void
10690 }
10691
10692 define void @v_shuffle_v4i64_v4i64__5_6_6_6(ptr addrspace(1) inreg %ptr) {
10693 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__5_6_6_6:
10694 ; GFX900:       ; %bb.0:
10695 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10696 ; GFX900-NEXT:    ;;#ASMSTART
10697 ; GFX900-NEXT:    ; def v[0:7]
10698 ; GFX900-NEXT:    ;;#ASMEND
10699 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
10700 ; GFX900-NEXT:    v_mov_b32_e32 v6, v4
10701 ; GFX900-NEXT:    v_mov_b32_e32 v7, v5
10702 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
10703 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
10704 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
10705 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
10706 ;
10707 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__5_6_6_6:
10708 ; GFX90A:       ; %bb.0:
10709 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10710 ; GFX90A-NEXT:    ;;#ASMSTART
10711 ; GFX90A-NEXT:    ; def v[0:7]
10712 ; GFX90A-NEXT:    ;;#ASMEND
10713 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
10714 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v4
10715 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v5
10716 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
10717 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
10718 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
10719 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
10720 ;
10721 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__5_6_6_6:
10722 ; GFX940:       ; %bb.0:
10723 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10724 ; GFX940-NEXT:    ;;#ASMSTART
10725 ; GFX940-NEXT:    ; def v[0:7]
10726 ; GFX940-NEXT:    ;;#ASMEND
10727 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
10728 ; GFX940-NEXT:    v_mov_b32_e32 v6, v4
10729 ; GFX940-NEXT:    v_mov_b32_e32 v7, v5
10730 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
10731 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
10732 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
10733 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
10734   %vec0 = call <4 x i64> asm "; def $0", "=v"()
10735   %vec1 = call <4 x i64> asm "; def $0", "=v"()
10736   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 5, i32 6, i32 6, i32 6>
10737   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
10738   ret void
10739 }
10740
10741 define void @v_shuffle_v4i64_v4i64__6_6_6_6(ptr addrspace(1) inreg %ptr) {
10742 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__6_6_6_6:
10743 ; GFX900:       ; %bb.0:
10744 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10745 ; GFX900-NEXT:    ;;#ASMSTART
10746 ; GFX900-NEXT:    ; def v[0:7]
10747 ; GFX900-NEXT:    ;;#ASMEND
10748 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
10749 ; GFX900-NEXT:    v_mov_b32_e32 v6, v4
10750 ; GFX900-NEXT:    v_mov_b32_e32 v7, v5
10751 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
10752 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
10753 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
10754 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
10755 ;
10756 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__6_6_6_6:
10757 ; GFX90A:       ; %bb.0:
10758 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10759 ; GFX90A-NEXT:    ;;#ASMSTART
10760 ; GFX90A-NEXT:    ; def v[0:7]
10761 ; GFX90A-NEXT:    ;;#ASMEND
10762 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
10763 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v4
10764 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v5
10765 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
10766 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
10767 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
10768 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
10769 ;
10770 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__6_6_6_6:
10771 ; GFX940:       ; %bb.0:
10772 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10773 ; GFX940-NEXT:    ;;#ASMSTART
10774 ; GFX940-NEXT:    ; def v[0:7]
10775 ; GFX940-NEXT:    ;;#ASMEND
10776 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
10777 ; GFX940-NEXT:    v_mov_b32_e32 v6, v4
10778 ; GFX940-NEXT:    v_mov_b32_e32 v7, v5
10779 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
10780 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
10781 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
10782 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
10783   %vec0 = call <4 x i64> asm "; def $0", "=v"()
10784   %vec1 = call <4 x i64> asm "; def $0", "=v"()
10785   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 6, i32 6, i32 6, i32 6>
10786   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
10787   ret void
10788 }
10789
10790 define void @v_shuffle_v4i64_v4i64__7_6_6_6(ptr addrspace(1) inreg %ptr) {
10791 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_6_6_6:
10792 ; GFX900:       ; %bb.0:
10793 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10794 ; GFX900-NEXT:    ;;#ASMSTART
10795 ; GFX900-NEXT:    ; def v[0:7]
10796 ; GFX900-NEXT:    ;;#ASMEND
10797 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
10798 ; GFX900-NEXT:    v_mov_b32_e32 v2, v4
10799 ; GFX900-NEXT:    v_mov_b32_e32 v3, v5
10800 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
10801 ; GFX900-NEXT:    s_nop 0
10802 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
10803 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
10804 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
10805 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
10806 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
10807 ;
10808 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_6_6_6:
10809 ; GFX90A:       ; %bb.0:
10810 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10811 ; GFX90A-NEXT:    ;;#ASMSTART
10812 ; GFX90A-NEXT:    ; def v[0:7]
10813 ; GFX90A-NEXT:    ;;#ASMEND
10814 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
10815 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v4
10816 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v5
10817 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
10818 ; GFX90A-NEXT:    s_nop 0
10819 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
10820 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
10821 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
10822 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
10823 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
10824 ;
10825 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_6_6_6:
10826 ; GFX940:       ; %bb.0:
10827 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10828 ; GFX940-NEXT:    ;;#ASMSTART
10829 ; GFX940-NEXT:    ; def v[0:7]
10830 ; GFX940-NEXT:    ;;#ASMEND
10831 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
10832 ; GFX940-NEXT:    v_mov_b32_e32 v2, v4
10833 ; GFX940-NEXT:    v_mov_b32_e32 v3, v5
10834 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
10835 ; GFX940-NEXT:    s_nop 1
10836 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
10837 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
10838 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
10839 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
10840 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
10841   %vec0 = call <4 x i64> asm "; def $0", "=v"()
10842   %vec1 = call <4 x i64> asm "; def $0", "=v"()
10843   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 6, i32 6, i32 6>
10844   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
10845   ret void
10846 }
10847
10848 define void @v_shuffle_v4i64_v4i64__7_u_6_6(ptr addrspace(1) inreg %ptr) {
10849 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_u_6_6:
10850 ; GFX900:       ; %bb.0:
10851 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10852 ; GFX900-NEXT:    ;;#ASMSTART
10853 ; GFX900-NEXT:    ; def v[0:7]
10854 ; GFX900-NEXT:    ;;#ASMEND
10855 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
10856 ; GFX900-NEXT:    v_mov_b32_e32 v2, v4
10857 ; GFX900-NEXT:    v_mov_b32_e32 v3, v5
10858 ; GFX900-NEXT:    v_mov_b32_e32 v0, v6
10859 ; GFX900-NEXT:    v_mov_b32_e32 v1, v7
10860 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
10861 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
10862 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
10863 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
10864 ;
10865 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_u_6_6:
10866 ; GFX90A:       ; %bb.0:
10867 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10868 ; GFX90A-NEXT:    ;;#ASMSTART
10869 ; GFX90A-NEXT:    ; def v[0:7]
10870 ; GFX90A-NEXT:    ;;#ASMEND
10871 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
10872 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v4
10873 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v5
10874 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v6
10875 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v7
10876 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
10877 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
10878 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
10879 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
10880 ;
10881 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_u_6_6:
10882 ; GFX940:       ; %bb.0:
10883 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10884 ; GFX940-NEXT:    ;;#ASMSTART
10885 ; GFX940-NEXT:    ; def v[0:7]
10886 ; GFX940-NEXT:    ;;#ASMEND
10887 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
10888 ; GFX940-NEXT:    v_mov_b32_e32 v2, v4
10889 ; GFX940-NEXT:    v_mov_b32_e32 v3, v5
10890 ; GFX940-NEXT:    v_mov_b32_e32 v0, v6
10891 ; GFX940-NEXT:    v_mov_b32_e32 v1, v7
10892 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
10893 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
10894 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
10895 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
10896   %vec0 = call <4 x i64> asm "; def $0", "=v"()
10897   %vec1 = call <4 x i64> asm "; def $0", "=v"()
10898   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 poison, i32 6, i32 6>
10899   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
10900   ret void
10901 }
10902
10903 define void @v_shuffle_v4i64_v4i64__7_0_6_6(ptr addrspace(1) inreg %ptr) {
10904 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_0_6_6:
10905 ; GFX900:       ; %bb.0:
10906 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10907 ; GFX900-NEXT:    ;;#ASMSTART
10908 ; GFX900-NEXT:    ; def v[0:7]
10909 ; GFX900-NEXT:    ;;#ASMEND
10910 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
10911 ; GFX900-NEXT:    v_mov_b32_e32 v2, v4
10912 ; GFX900-NEXT:    v_mov_b32_e32 v3, v5
10913 ; GFX900-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
10914 ; GFX900-NEXT:    v_mov_b32_e32 v8, v6
10915 ; GFX900-NEXT:    v_mov_b32_e32 v9, v7
10916 ; GFX900-NEXT:    ;;#ASMSTART
10917 ; GFX900-NEXT:    ; def v[0:7]
10918 ; GFX900-NEXT:    ;;#ASMEND
10919 ; GFX900-NEXT:    v_mov_b32_e32 v10, v0
10920 ; GFX900-NEXT:    v_mov_b32_e32 v11, v1
10921 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
10922 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
10923 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
10924 ;
10925 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_0_6_6:
10926 ; GFX90A:       ; %bb.0:
10927 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10928 ; GFX90A-NEXT:    ;;#ASMSTART
10929 ; GFX90A-NEXT:    ; def v[0:7]
10930 ; GFX90A-NEXT:    ;;#ASMEND
10931 ; GFX90A-NEXT:    ;;#ASMSTART
10932 ; GFX90A-NEXT:    ; def v[2:9]
10933 ; GFX90A-NEXT:    ;;#ASMEND
10934 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
10935 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
10936 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
10937 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[4:7], s[16:17] offset:16
10938 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v8
10939 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v9
10940 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
10941 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
10942 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[2:5], s[16:17]
10943 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
10944 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
10945 ;
10946 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_0_6_6:
10947 ; GFX940:       ; %bb.0:
10948 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10949 ; GFX940-NEXT:    ;;#ASMSTART
10950 ; GFX940-NEXT:    ; def v[0:7]
10951 ; GFX940-NEXT:    ;;#ASMEND
10952 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
10953 ; GFX940-NEXT:    ;;#ASMSTART
10954 ; GFX940-NEXT:    ; def v[2:9]
10955 ; GFX940-NEXT:    ;;#ASMEND
10956 ; GFX940-NEXT:    s_nop 0
10957 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
10958 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
10959 ; GFX940-NEXT:    global_store_dwordx4 v10, v[4:7], s[0:1] offset:16 sc0 sc1
10960 ; GFX940-NEXT:    v_mov_b32_e32 v2, v8
10961 ; GFX940-NEXT:    v_mov_b32_e32 v3, v9
10962 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
10963 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
10964 ; GFX940-NEXT:    global_store_dwordx4 v10, v[2:5], s[0:1] sc0 sc1
10965 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
10966 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
10967   %vec0 = call <4 x i64> asm "; def $0", "=v"()
10968   %vec1 = call <4 x i64> asm "; def $0", "=v"()
10969   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 0, i32 6, i32 6>
10970   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
10971   ret void
10972 }
10973
10974 define void @v_shuffle_v4i64_v4i64__7_1_6_6(ptr addrspace(1) inreg %ptr) {
10975 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_1_6_6:
10976 ; GFX900:       ; %bb.0:
10977 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10978 ; GFX900-NEXT:    ;;#ASMSTART
10979 ; GFX900-NEXT:    ; def v[0:7]
10980 ; GFX900-NEXT:    ;;#ASMEND
10981 ; GFX900-NEXT:    ;;#ASMSTART
10982 ; GFX900-NEXT:    ; def v[4:11]
10983 ; GFX900-NEXT:    ;;#ASMEND
10984 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
10985 ; GFX900-NEXT:    v_mov_b32_e32 v6, v8
10986 ; GFX900-NEXT:    v_mov_b32_e32 v7, v9
10987 ; GFX900-NEXT:    v_mov_b32_e32 v0, v10
10988 ; GFX900-NEXT:    v_mov_b32_e32 v1, v11
10989 ; GFX900-NEXT:    global_store_dwordx4 v12, v[6:9], s[16:17] offset:16
10990 ; GFX900-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17]
10991 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
10992 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
10993 ;
10994 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_1_6_6:
10995 ; GFX90A:       ; %bb.0:
10996 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
10997 ; GFX90A-NEXT:    ;;#ASMSTART
10998 ; GFX90A-NEXT:    ; def v[0:7]
10999 ; GFX90A-NEXT:    ;;#ASMEND
11000 ; GFX90A-NEXT:    ;;#ASMSTART
11001 ; GFX90A-NEXT:    ; def v[4:11]
11002 ; GFX90A-NEXT:    ;;#ASMEND
11003 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
11004 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v8
11005 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v9
11006 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v10
11007 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v11
11008 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[6:9], s[16:17] offset:16
11009 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17]
11010 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
11011 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
11012 ;
11013 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_1_6_6:
11014 ; GFX940:       ; %bb.0:
11015 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11016 ; GFX940-NEXT:    ;;#ASMSTART
11017 ; GFX940-NEXT:    ; def v[0:7]
11018 ; GFX940-NEXT:    ;;#ASMEND
11019 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
11020 ; GFX940-NEXT:    ;;#ASMSTART
11021 ; GFX940-NEXT:    ; def v[4:11]
11022 ; GFX940-NEXT:    ;;#ASMEND
11023 ; GFX940-NEXT:    s_nop 0
11024 ; GFX940-NEXT:    v_mov_b32_e32 v6, v8
11025 ; GFX940-NEXT:    v_mov_b32_e32 v7, v9
11026 ; GFX940-NEXT:    v_mov_b32_e32 v0, v10
11027 ; GFX940-NEXT:    v_mov_b32_e32 v1, v11
11028 ; GFX940-NEXT:    global_store_dwordx4 v12, v[6:9], s[0:1] offset:16 sc0 sc1
11029 ; GFX940-NEXT:    global_store_dwordx4 v12, v[0:3], s[0:1] sc0 sc1
11030 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
11031 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
11032   %vec0 = call <4 x i64> asm "; def $0", "=v"()
11033   %vec1 = call <4 x i64> asm "; def $0", "=v"()
11034   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 1, i32 6, i32 6>
11035   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
11036   ret void
11037 }
11038
11039 define void @v_shuffle_v4i64_v4i64__7_2_6_6(ptr addrspace(1) inreg %ptr) {
11040 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_2_6_6:
11041 ; GFX900:       ; %bb.0:
11042 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11043 ; GFX900-NEXT:    ;;#ASMSTART
11044 ; GFX900-NEXT:    ; def v[0:7]
11045 ; GFX900-NEXT:    ;;#ASMEND
11046 ; GFX900-NEXT:    ;;#ASMSTART
11047 ; GFX900-NEXT:    ; def v[6:13]
11048 ; GFX900-NEXT:    ;;#ASMEND
11049 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
11050 ; GFX900-NEXT:    v_mov_b32_e32 v8, v10
11051 ; GFX900-NEXT:    v_mov_b32_e32 v9, v11
11052 ; GFX900-NEXT:    v_mov_b32_e32 v2, v12
11053 ; GFX900-NEXT:    v_mov_b32_e32 v3, v13
11054 ; GFX900-NEXT:    global_store_dwordx4 v14, v[8:11], s[16:17] offset:16
11055 ; GFX900-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17]
11056 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
11057 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
11058 ;
11059 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_2_6_6:
11060 ; GFX90A:       ; %bb.0:
11061 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11062 ; GFX90A-NEXT:    ;;#ASMSTART
11063 ; GFX90A-NEXT:    ; def v[0:7]
11064 ; GFX90A-NEXT:    ;;#ASMEND
11065 ; GFX90A-NEXT:    ;;#ASMSTART
11066 ; GFX90A-NEXT:    ; def v[6:13]
11067 ; GFX90A-NEXT:    ;;#ASMEND
11068 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
11069 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v10
11070 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v11
11071 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v12
11072 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v13
11073 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[8:11], s[16:17] offset:16
11074 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17]
11075 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
11076 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
11077 ;
11078 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_2_6_6:
11079 ; GFX940:       ; %bb.0:
11080 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11081 ; GFX940-NEXT:    ;;#ASMSTART
11082 ; GFX940-NEXT:    ; def v[0:7]
11083 ; GFX940-NEXT:    ;;#ASMEND
11084 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
11085 ; GFX940-NEXT:    ;;#ASMSTART
11086 ; GFX940-NEXT:    ; def v[6:13]
11087 ; GFX940-NEXT:    ;;#ASMEND
11088 ; GFX940-NEXT:    s_nop 0
11089 ; GFX940-NEXT:    v_mov_b32_e32 v8, v10
11090 ; GFX940-NEXT:    v_mov_b32_e32 v9, v11
11091 ; GFX940-NEXT:    v_mov_b32_e32 v2, v12
11092 ; GFX940-NEXT:    v_mov_b32_e32 v3, v13
11093 ; GFX940-NEXT:    global_store_dwordx4 v14, v[8:11], s[0:1] offset:16 sc0 sc1
11094 ; GFX940-NEXT:    global_store_dwordx4 v14, v[2:5], s[0:1] sc0 sc1
11095 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
11096 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
11097   %vec0 = call <4 x i64> asm "; def $0", "=v"()
11098   %vec1 = call <4 x i64> asm "; def $0", "=v"()
11099   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 2, i32 6, i32 6>
11100   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
11101   ret void
11102 }
11103
11104 define void @v_shuffle_v4i64_v4i64__7_3_6_6(ptr addrspace(1) inreg %ptr) {
11105 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_3_6_6:
11106 ; GFX900:       ; %bb.0:
11107 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11108 ; GFX900-NEXT:    ;;#ASMSTART
11109 ; GFX900-NEXT:    ; def v[0:7]
11110 ; GFX900-NEXT:    ;;#ASMEND
11111 ; GFX900-NEXT:    ;;#ASMSTART
11112 ; GFX900-NEXT:    ; def v[8:15]
11113 ; GFX900-NEXT:    ;;#ASMEND
11114 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
11115 ; GFX900-NEXT:    v_mov_b32_e32 v10, v12
11116 ; GFX900-NEXT:    v_mov_b32_e32 v11, v13
11117 ; GFX900-NEXT:    v_mov_b32_e32 v4, v14
11118 ; GFX900-NEXT:    v_mov_b32_e32 v5, v15
11119 ; GFX900-NEXT:    global_store_dwordx4 v16, v[10:13], s[16:17] offset:16
11120 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17]
11121 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
11122 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
11123 ;
11124 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_3_6_6:
11125 ; GFX90A:       ; %bb.0:
11126 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11127 ; GFX90A-NEXT:    ;;#ASMSTART
11128 ; GFX90A-NEXT:    ; def v[0:7]
11129 ; GFX90A-NEXT:    ;;#ASMEND
11130 ; GFX90A-NEXT:    ;;#ASMSTART
11131 ; GFX90A-NEXT:    ; def v[8:15]
11132 ; GFX90A-NEXT:    ;;#ASMEND
11133 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
11134 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v12
11135 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v13
11136 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v14
11137 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v15
11138 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[10:13], s[16:17] offset:16
11139 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17]
11140 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
11141 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
11142 ;
11143 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_3_6_6:
11144 ; GFX940:       ; %bb.0:
11145 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11146 ; GFX940-NEXT:    ;;#ASMSTART
11147 ; GFX940-NEXT:    ; def v[0:7]
11148 ; GFX940-NEXT:    ;;#ASMEND
11149 ; GFX940-NEXT:    ;;#ASMSTART
11150 ; GFX940-NEXT:    ; def v[8:15]
11151 ; GFX940-NEXT:    ;;#ASMEND
11152 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
11153 ; GFX940-NEXT:    v_mov_b32_e32 v10, v12
11154 ; GFX940-NEXT:    v_mov_b32_e32 v11, v13
11155 ; GFX940-NEXT:    v_mov_b32_e32 v4, v14
11156 ; GFX940-NEXT:    v_mov_b32_e32 v5, v15
11157 ; GFX940-NEXT:    global_store_dwordx4 v16, v[10:13], s[0:1] offset:16 sc0 sc1
11158 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] sc0 sc1
11159 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
11160 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
11161   %vec0 = call <4 x i64> asm "; def $0", "=v"()
11162   %vec1 = call <4 x i64> asm "; def $0", "=v"()
11163   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 3, i32 6, i32 6>
11164   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
11165   ret void
11166 }
11167
11168 define void @v_shuffle_v4i64_v4i64__7_4_6_6(ptr addrspace(1) inreg %ptr) {
11169 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_4_6_6:
11170 ; GFX900:       ; %bb.0:
11171 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11172 ; GFX900-NEXT:    ;;#ASMSTART
11173 ; GFX900-NEXT:    ; def v[0:7]
11174 ; GFX900-NEXT:    ;;#ASMEND
11175 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
11176 ; GFX900-NEXT:    v_mov_b32_e32 v2, v4
11177 ; GFX900-NEXT:    v_mov_b32_e32 v3, v5
11178 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
11179 ; GFX900-NEXT:    s_nop 0
11180 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
11181 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
11182 ; GFX900-NEXT:    v_mov_b32_e32 v4, v0
11183 ; GFX900-NEXT:    v_mov_b32_e32 v5, v1
11184 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
11185 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
11186 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
11187 ;
11188 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_4_6_6:
11189 ; GFX90A:       ; %bb.0:
11190 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11191 ; GFX90A-NEXT:    ;;#ASMSTART
11192 ; GFX90A-NEXT:    ; def v[0:7]
11193 ; GFX90A-NEXT:    ;;#ASMEND
11194 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
11195 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v4
11196 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v5
11197 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
11198 ; GFX90A-NEXT:    s_nop 0
11199 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
11200 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
11201 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
11202 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
11203 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
11204 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
11205 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
11206 ;
11207 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_4_6_6:
11208 ; GFX940:       ; %bb.0:
11209 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11210 ; GFX940-NEXT:    ;;#ASMSTART
11211 ; GFX940-NEXT:    ; def v[0:7]
11212 ; GFX940-NEXT:    ;;#ASMEND
11213 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
11214 ; GFX940-NEXT:    v_mov_b32_e32 v2, v4
11215 ; GFX940-NEXT:    v_mov_b32_e32 v3, v5
11216 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
11217 ; GFX940-NEXT:    s_nop 1
11218 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
11219 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
11220 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
11221 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
11222 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
11223 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
11224 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
11225   %vec0 = call <4 x i64> asm "; def $0", "=v"()
11226   %vec1 = call <4 x i64> asm "; def $0", "=v"()
11227   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 4, i32 6, i32 6>
11228   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
11229   ret void
11230 }
11231
11232 define void @v_shuffle_v4i64_v4i64__7_5_6_6(ptr addrspace(1) inreg %ptr) {
11233 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_5_6_6:
11234 ; GFX900:       ; %bb.0:
11235 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11236 ; GFX900-NEXT:    ;;#ASMSTART
11237 ; GFX900-NEXT:    ; def v[0:7]
11238 ; GFX900-NEXT:    ;;#ASMEND
11239 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
11240 ; GFX900-NEXT:    v_mov_b32_e32 v8, v4
11241 ; GFX900-NEXT:    v_mov_b32_e32 v9, v5
11242 ; GFX900-NEXT:    v_mov_b32_e32 v10, v4
11243 ; GFX900-NEXT:    v_mov_b32_e32 v11, v5
11244 ; GFX900-NEXT:    v_mov_b32_e32 v0, v6
11245 ; GFX900-NEXT:    v_mov_b32_e32 v1, v7
11246 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17] offset:16
11247 ; GFX900-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17]
11248 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
11249 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
11250 ;
11251 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_5_6_6:
11252 ; GFX90A:       ; %bb.0:
11253 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11254 ; GFX90A-NEXT:    ;;#ASMSTART
11255 ; GFX90A-NEXT:    ; def v[0:7]
11256 ; GFX90A-NEXT:    ;;#ASMEND
11257 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
11258 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v4
11259 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v5
11260 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v4
11261 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v5
11262 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v6
11263 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v7
11264 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17] offset:16
11265 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17]
11266 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
11267 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
11268 ;
11269 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_5_6_6:
11270 ; GFX940:       ; %bb.0:
11271 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11272 ; GFX940-NEXT:    ;;#ASMSTART
11273 ; GFX940-NEXT:    ; def v[0:7]
11274 ; GFX940-NEXT:    ;;#ASMEND
11275 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
11276 ; GFX940-NEXT:    v_mov_b32_e32 v8, v4
11277 ; GFX940-NEXT:    v_mov_b32_e32 v9, v5
11278 ; GFX940-NEXT:    v_mov_b32_e32 v10, v4
11279 ; GFX940-NEXT:    v_mov_b32_e32 v11, v5
11280 ; GFX940-NEXT:    v_mov_b32_e32 v0, v6
11281 ; GFX940-NEXT:    v_mov_b32_e32 v1, v7
11282 ; GFX940-NEXT:    global_store_dwordx4 v12, v[8:11], s[0:1] offset:16 sc0 sc1
11283 ; GFX940-NEXT:    global_store_dwordx4 v12, v[0:3], s[0:1] sc0 sc1
11284 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
11285 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
11286   %vec0 = call <4 x i64> asm "; def $0", "=v"()
11287   %vec1 = call <4 x i64> asm "; def $0", "=v"()
11288   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 5, i32 6, i32 6>
11289   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
11290   ret void
11291 }
11292
11293 define void @v_shuffle_v4i64_v4i64__7_7_6_6(ptr addrspace(1) inreg %ptr) {
11294 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_6_6:
11295 ; GFX900:       ; %bb.0:
11296 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11297 ; GFX900-NEXT:    ;;#ASMSTART
11298 ; GFX900-NEXT:    ; def v[0:7]
11299 ; GFX900-NEXT:    ;;#ASMEND
11300 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
11301 ; GFX900-NEXT:    v_mov_b32_e32 v2, v4
11302 ; GFX900-NEXT:    v_mov_b32_e32 v3, v5
11303 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
11304 ; GFX900-NEXT:    s_nop 0
11305 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
11306 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
11307 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
11308 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
11309 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
11310 ;
11311 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_6_6:
11312 ; GFX90A:       ; %bb.0:
11313 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11314 ; GFX90A-NEXT:    ;;#ASMSTART
11315 ; GFX90A-NEXT:    ; def v[0:7]
11316 ; GFX90A-NEXT:    ;;#ASMEND
11317 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
11318 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v4
11319 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v5
11320 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
11321 ; GFX90A-NEXT:    s_nop 0
11322 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
11323 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
11324 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
11325 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
11326 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
11327 ;
11328 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_6_6:
11329 ; GFX940:       ; %bb.0:
11330 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11331 ; GFX940-NEXT:    ;;#ASMSTART
11332 ; GFX940-NEXT:    ; def v[0:7]
11333 ; GFX940-NEXT:    ;;#ASMEND
11334 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
11335 ; GFX940-NEXT:    v_mov_b32_e32 v2, v4
11336 ; GFX940-NEXT:    v_mov_b32_e32 v3, v5
11337 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
11338 ; GFX940-NEXT:    s_nop 1
11339 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
11340 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
11341 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
11342 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
11343 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
11344   %vec0 = call <4 x i64> asm "; def $0", "=v"()
11345   %vec1 = call <4 x i64> asm "; def $0", "=v"()
11346   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 6, i32 6>
11347   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
11348   ret void
11349 }
11350
11351 define void @v_shuffle_v4i64_v4i64__7_7_u_6(ptr addrspace(1) inreg %ptr) {
11352 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_u_6:
11353 ; GFX900:       ; %bb.0:
11354 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11355 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
11356 ; GFX900-NEXT:    ;;#ASMSTART
11357 ; GFX900-NEXT:    ; def v[0:7]
11358 ; GFX900-NEXT:    ;;#ASMEND
11359 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
11360 ; GFX900-NEXT:    s_nop 0
11361 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
11362 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
11363 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
11364 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
11365 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
11366 ;
11367 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_u_6:
11368 ; GFX90A:       ; %bb.0:
11369 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11370 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
11371 ; GFX90A-NEXT:    ;;#ASMSTART
11372 ; GFX90A-NEXT:    ; def v[0:7]
11373 ; GFX90A-NEXT:    ;;#ASMEND
11374 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
11375 ; GFX90A-NEXT:    s_nop 0
11376 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
11377 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
11378 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
11379 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
11380 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
11381 ;
11382 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_u_6:
11383 ; GFX940:       ; %bb.0:
11384 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11385 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
11386 ; GFX940-NEXT:    ;;#ASMSTART
11387 ; GFX940-NEXT:    ; def v[0:7]
11388 ; GFX940-NEXT:    ;;#ASMEND
11389 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
11390 ; GFX940-NEXT:    s_nop 1
11391 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
11392 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
11393 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
11394 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
11395 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
11396   %vec0 = call <4 x i64> asm "; def $0", "=v"()
11397   %vec1 = call <4 x i64> asm "; def $0", "=v"()
11398   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 poison, i32 6>
11399   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
11400   ret void
11401 }
11402
11403 define void @v_shuffle_v4i64_v4i64__7_7_0_6(ptr addrspace(1) inreg %ptr) {
11404 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_0_6:
11405 ; GFX900:       ; %bb.0:
11406 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11407 ; GFX900-NEXT:    ;;#ASMSTART
11408 ; GFX900-NEXT:    ; def v[0:7]
11409 ; GFX900-NEXT:    ;;#ASMEND
11410 ; GFX900-NEXT:    ;;#ASMSTART
11411 ; GFX900-NEXT:    ; def v[2:9]
11412 ; GFX900-NEXT:    ;;#ASMEND
11413 ; GFX900-NEXT:    v_mov_b32_e32 v10, 0
11414 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
11415 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
11416 ; GFX900-NEXT:    v_mov_b32_e32 v6, v8
11417 ; GFX900-NEXT:    v_mov_b32_e32 v7, v9
11418 ; GFX900-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
11419 ; GFX900-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17]
11420 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
11421 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
11422 ;
11423 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_0_6:
11424 ; GFX90A:       ; %bb.0:
11425 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11426 ; GFX90A-NEXT:    ;;#ASMSTART
11427 ; GFX90A-NEXT:    ; def v[0:7]
11428 ; GFX90A-NEXT:    ;;#ASMEND
11429 ; GFX90A-NEXT:    ;;#ASMSTART
11430 ; GFX90A-NEXT:    ; def v[2:9]
11431 ; GFX90A-NEXT:    ;;#ASMEND
11432 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
11433 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
11434 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
11435 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v8
11436 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v9
11437 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
11438 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17]
11439 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
11440 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
11441 ;
11442 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_0_6:
11443 ; GFX940:       ; %bb.0:
11444 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11445 ; GFX940-NEXT:    ;;#ASMSTART
11446 ; GFX940-NEXT:    ; def v[0:7]
11447 ; GFX940-NEXT:    ;;#ASMEND
11448 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
11449 ; GFX940-NEXT:    ;;#ASMSTART
11450 ; GFX940-NEXT:    ; def v[2:9]
11451 ; GFX940-NEXT:    ;;#ASMEND
11452 ; GFX940-NEXT:    s_nop 0
11453 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
11454 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
11455 ; GFX940-NEXT:    v_mov_b32_e32 v6, v8
11456 ; GFX940-NEXT:    v_mov_b32_e32 v7, v9
11457 ; GFX940-NEXT:    global_store_dwordx4 v10, v[0:3], s[0:1] offset:16 sc0 sc1
11458 ; GFX940-NEXT:    global_store_dwordx4 v10, v[6:9], s[0:1] sc0 sc1
11459 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
11460 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
11461   %vec0 = call <4 x i64> asm "; def $0", "=v"()
11462   %vec1 = call <4 x i64> asm "; def $0", "=v"()
11463   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 0, i32 6>
11464   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
11465   ret void
11466 }
11467
11468 define void @v_shuffle_v4i64_v4i64__7_7_1_6(ptr addrspace(1) inreg %ptr) {
11469 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_1_6:
11470 ; GFX900:       ; %bb.0:
11471 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11472 ; GFX900-NEXT:    ;;#ASMSTART
11473 ; GFX900-NEXT:    ; def v[0:7]
11474 ; GFX900-NEXT:    ;;#ASMEND
11475 ; GFX900-NEXT:    ;;#ASMSTART
11476 ; GFX900-NEXT:    ; def v[4:11]
11477 ; GFX900-NEXT:    ;;#ASMEND
11478 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
11479 ; GFX900-NEXT:    v_mov_b32_e32 v4, v8
11480 ; GFX900-NEXT:    v_mov_b32_e32 v5, v9
11481 ; GFX900-NEXT:    v_mov_b32_e32 v8, v10
11482 ; GFX900-NEXT:    v_mov_b32_e32 v9, v11
11483 ; GFX900-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
11484 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
11485 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
11486 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
11487 ;
11488 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_1_6:
11489 ; GFX90A:       ; %bb.0:
11490 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11491 ; GFX90A-NEXT:    ;;#ASMSTART
11492 ; GFX90A-NEXT:    ; def v[0:7]
11493 ; GFX90A-NEXT:    ;;#ASMEND
11494 ; GFX90A-NEXT:    ;;#ASMSTART
11495 ; GFX90A-NEXT:    ; def v[4:11]
11496 ; GFX90A-NEXT:    ;;#ASMEND
11497 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
11498 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v8
11499 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v9
11500 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v10
11501 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v11
11502 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
11503 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
11504 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
11505 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
11506 ;
11507 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_1_6:
11508 ; GFX940:       ; %bb.0:
11509 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11510 ; GFX940-NEXT:    ;;#ASMSTART
11511 ; GFX940-NEXT:    ; def v[0:7]
11512 ; GFX940-NEXT:    ;;#ASMEND
11513 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
11514 ; GFX940-NEXT:    ;;#ASMSTART
11515 ; GFX940-NEXT:    ; def v[4:11]
11516 ; GFX940-NEXT:    ;;#ASMEND
11517 ; GFX940-NEXT:    s_nop 0
11518 ; GFX940-NEXT:    v_mov_b32_e32 v4, v8
11519 ; GFX940-NEXT:    v_mov_b32_e32 v5, v9
11520 ; GFX940-NEXT:    v_mov_b32_e32 v8, v10
11521 ; GFX940-NEXT:    v_mov_b32_e32 v9, v11
11522 ; GFX940-NEXT:    global_store_dwordx4 v12, v[2:5], s[0:1] offset:16 sc0 sc1
11523 ; GFX940-NEXT:    global_store_dwordx4 v12, v[8:11], s[0:1] sc0 sc1
11524 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
11525 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
11526   %vec0 = call <4 x i64> asm "; def $0", "=v"()
11527   %vec1 = call <4 x i64> asm "; def $0", "=v"()
11528   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 1, i32 6>
11529   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
11530   ret void
11531 }
11532
11533 define void @v_shuffle_v4i64_v4i64__7_7_2_6(ptr addrspace(1) inreg %ptr) {
11534 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_2_6:
11535 ; GFX900:       ; %bb.0:
11536 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11537 ; GFX900-NEXT:    ;;#ASMSTART
11538 ; GFX900-NEXT:    ; def v[0:7]
11539 ; GFX900-NEXT:    ;;#ASMEND
11540 ; GFX900-NEXT:    ;;#ASMSTART
11541 ; GFX900-NEXT:    ; def v[6:13]
11542 ; GFX900-NEXT:    ;;#ASMEND
11543 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
11544 ; GFX900-NEXT:    v_mov_b32_e32 v6, v10
11545 ; GFX900-NEXT:    v_mov_b32_e32 v7, v11
11546 ; GFX900-NEXT:    v_mov_b32_e32 v10, v12
11547 ; GFX900-NEXT:    v_mov_b32_e32 v11, v13
11548 ; GFX900-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
11549 ; GFX900-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
11550 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
11551 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
11552 ;
11553 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_2_6:
11554 ; GFX90A:       ; %bb.0:
11555 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11556 ; GFX90A-NEXT:    ;;#ASMSTART
11557 ; GFX90A-NEXT:    ; def v[0:7]
11558 ; GFX90A-NEXT:    ;;#ASMEND
11559 ; GFX90A-NEXT:    ;;#ASMSTART
11560 ; GFX90A-NEXT:    ; def v[6:13]
11561 ; GFX90A-NEXT:    ;;#ASMEND
11562 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
11563 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v10
11564 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v11
11565 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v12
11566 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v13
11567 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
11568 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
11569 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
11570 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
11571 ;
11572 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_2_6:
11573 ; GFX940:       ; %bb.0:
11574 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11575 ; GFX940-NEXT:    ;;#ASMSTART
11576 ; GFX940-NEXT:    ; def v[0:7]
11577 ; GFX940-NEXT:    ;;#ASMEND
11578 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
11579 ; GFX940-NEXT:    ;;#ASMSTART
11580 ; GFX940-NEXT:    ; def v[6:13]
11581 ; GFX940-NEXT:    ;;#ASMEND
11582 ; GFX940-NEXT:    s_nop 0
11583 ; GFX940-NEXT:    v_mov_b32_e32 v6, v10
11584 ; GFX940-NEXT:    v_mov_b32_e32 v7, v11
11585 ; GFX940-NEXT:    v_mov_b32_e32 v10, v12
11586 ; GFX940-NEXT:    v_mov_b32_e32 v11, v13
11587 ; GFX940-NEXT:    global_store_dwordx4 v14, v[4:7], s[0:1] offset:16 sc0 sc1
11588 ; GFX940-NEXT:    global_store_dwordx4 v14, v[10:13], s[0:1] sc0 sc1
11589 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
11590 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
11591   %vec0 = call <4 x i64> asm "; def $0", "=v"()
11592   %vec1 = call <4 x i64> asm "; def $0", "=v"()
11593   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 2, i32 6>
11594   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
11595   ret void
11596 }
11597
11598 define void @v_shuffle_v4i64_v4i64__7_7_3_6(ptr addrspace(1) inreg %ptr) {
11599 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_3_6:
11600 ; GFX900:       ; %bb.0:
11601 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11602 ; GFX900-NEXT:    ;;#ASMSTART
11603 ; GFX900-NEXT:    ; def v[8:15]
11604 ; GFX900-NEXT:    ;;#ASMEND
11605 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
11606 ; GFX900-NEXT:    ;;#ASMSTART
11607 ; GFX900-NEXT:    ; def v[0:7]
11608 ; GFX900-NEXT:    ;;#ASMEND
11609 ; GFX900-NEXT:    v_mov_b32_e32 v10, v6
11610 ; GFX900-NEXT:    v_mov_b32_e32 v11, v7
11611 ; GFX900-NEXT:    global_store_dwordx4 v16, v[10:13], s[16:17] offset:16
11612 ; GFX900-NEXT:    s_nop 0
11613 ; GFX900-NEXT:    v_mov_b32_e32 v12, v14
11614 ; GFX900-NEXT:    v_mov_b32_e32 v13, v15
11615 ; GFX900-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
11616 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
11617 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
11618 ;
11619 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_3_6:
11620 ; GFX90A:       ; %bb.0:
11621 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11622 ; GFX90A-NEXT:    ;;#ASMSTART
11623 ; GFX90A-NEXT:    ; def v[8:15]
11624 ; GFX90A-NEXT:    ;;#ASMEND
11625 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
11626 ; GFX90A-NEXT:    ;;#ASMSTART
11627 ; GFX90A-NEXT:    ; def v[0:7]
11628 ; GFX90A-NEXT:    ;;#ASMEND
11629 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v6
11630 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v7
11631 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[10:13], s[16:17] offset:16
11632 ; GFX90A-NEXT:    s_nop 0
11633 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v14
11634 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v15
11635 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
11636 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
11637 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
11638 ;
11639 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_3_6:
11640 ; GFX940:       ; %bb.0:
11641 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11642 ; GFX940-NEXT:    ;;#ASMSTART
11643 ; GFX940-NEXT:    ; def v[8:15]
11644 ; GFX940-NEXT:    ;;#ASMEND
11645 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
11646 ; GFX940-NEXT:    ;;#ASMSTART
11647 ; GFX940-NEXT:    ; def v[0:7]
11648 ; GFX940-NEXT:    ;;#ASMEND
11649 ; GFX940-NEXT:    s_nop 0
11650 ; GFX940-NEXT:    v_mov_b32_e32 v10, v6
11651 ; GFX940-NEXT:    v_mov_b32_e32 v11, v7
11652 ; GFX940-NEXT:    global_store_dwordx4 v16, v[10:13], s[0:1] offset:16 sc0 sc1
11653 ; GFX940-NEXT:    s_nop 1
11654 ; GFX940-NEXT:    v_mov_b32_e32 v12, v14
11655 ; GFX940-NEXT:    v_mov_b32_e32 v13, v15
11656 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] sc0 sc1
11657 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
11658 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
11659   %vec0 = call <4 x i64> asm "; def $0", "=v"()
11660   %vec1 = call <4 x i64> asm "; def $0", "=v"()
11661   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 3, i32 6>
11662   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
11663   ret void
11664 }
11665
11666 define void @v_shuffle_v4i64_v4i64__7_7_4_6(ptr addrspace(1) inreg %ptr) {
11667 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_4_6:
11668 ; GFX900:       ; %bb.0:
11669 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11670 ; GFX900-NEXT:    ;;#ASMSTART
11671 ; GFX900-NEXT:    ; def v[0:7]
11672 ; GFX900-NEXT:    ;;#ASMEND
11673 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
11674 ; GFX900-NEXT:    v_mov_b32_e32 v2, v4
11675 ; GFX900-NEXT:    v_mov_b32_e32 v3, v5
11676 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
11677 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
11678 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
11679 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
11680 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
11681 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
11682 ;
11683 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_4_6:
11684 ; GFX90A:       ; %bb.0:
11685 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11686 ; GFX90A-NEXT:    ;;#ASMSTART
11687 ; GFX90A-NEXT:    ; def v[0:7]
11688 ; GFX90A-NEXT:    ;;#ASMEND
11689 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
11690 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v4
11691 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v5
11692 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
11693 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
11694 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
11695 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
11696 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
11697 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
11698 ;
11699 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_4_6:
11700 ; GFX940:       ; %bb.0:
11701 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11702 ; GFX940-NEXT:    ;;#ASMSTART
11703 ; GFX940-NEXT:    ; def v[0:7]
11704 ; GFX940-NEXT:    ;;#ASMEND
11705 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
11706 ; GFX940-NEXT:    v_mov_b32_e32 v2, v4
11707 ; GFX940-NEXT:    v_mov_b32_e32 v3, v5
11708 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
11709 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
11710 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
11711 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
11712 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
11713 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
11714   %vec0 = call <4 x i64> asm "; def $0", "=v"()
11715   %vec1 = call <4 x i64> asm "; def $0", "=v"()
11716   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 4, i32 6>
11717   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
11718   ret void
11719 }
11720
11721 define void @v_shuffle_v4i64_v4i64__7_7_5_6(ptr addrspace(1) inreg %ptr) {
11722 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_5_6:
11723 ; GFX900:       ; %bb.0:
11724 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11725 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
11726 ; GFX900-NEXT:    ;;#ASMSTART
11727 ; GFX900-NEXT:    ; def v[0:7]
11728 ; GFX900-NEXT:    ;;#ASMEND
11729 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
11730 ; GFX900-NEXT:    s_nop 0
11731 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
11732 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
11733 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
11734 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
11735 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
11736 ;
11737 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_5_6:
11738 ; GFX90A:       ; %bb.0:
11739 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11740 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
11741 ; GFX90A-NEXT:    ;;#ASMSTART
11742 ; GFX90A-NEXT:    ; def v[0:7]
11743 ; GFX90A-NEXT:    ;;#ASMEND
11744 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
11745 ; GFX90A-NEXT:    s_nop 0
11746 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
11747 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
11748 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
11749 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
11750 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
11751 ;
11752 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_5_6:
11753 ; GFX940:       ; %bb.0:
11754 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11755 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
11756 ; GFX940-NEXT:    ;;#ASMSTART
11757 ; GFX940-NEXT:    ; def v[0:7]
11758 ; GFX940-NEXT:    ;;#ASMEND
11759 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
11760 ; GFX940-NEXT:    s_nop 1
11761 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
11762 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
11763 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
11764 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
11765 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
11766   %vec0 = call <4 x i64> asm "; def $0", "=v"()
11767   %vec1 = call <4 x i64> asm "; def $0", "=v"()
11768   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 5, i32 6>
11769   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
11770   ret void
11771 }
11772
11773 define void @v_shuffle_v4i64_v4i64__u_7_7_7(ptr addrspace(1) inreg %ptr) {
11774 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__u_7_7_7:
11775 ; GFX900:       ; %bb.0:
11776 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11777 ; GFX900-NEXT:    ;;#ASMSTART
11778 ; GFX900-NEXT:    ; def v[0:7]
11779 ; GFX900-NEXT:    ;;#ASMEND
11780 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
11781 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
11782 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
11783 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
11784 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
11785 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
11786 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
11787 ;
11788 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__u_7_7_7:
11789 ; GFX90A:       ; %bb.0:
11790 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11791 ; GFX90A-NEXT:    ;;#ASMSTART
11792 ; GFX90A-NEXT:    ; def v[0:7]
11793 ; GFX90A-NEXT:    ;;#ASMEND
11794 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
11795 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
11796 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
11797 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
11798 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
11799 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
11800 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
11801 ;
11802 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__u_7_7_7:
11803 ; GFX940:       ; %bb.0:
11804 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11805 ; GFX940-NEXT:    ;;#ASMSTART
11806 ; GFX940-NEXT:    ; def v[0:7]
11807 ; GFX940-NEXT:    ;;#ASMEND
11808 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
11809 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
11810 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
11811 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
11812 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
11813 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
11814 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
11815   %vec0 = call <4 x i64> asm "; def $0", "=v"()
11816   %vec1 = call <4 x i64> asm "; def $0", "=v"()
11817   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 poison, i32 7, i32 7, i32 7>
11818   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
11819   ret void
11820 }
11821
11822 define void @v_shuffle_v4i64_v4i64__0_7_7_7(ptr addrspace(1) inreg %ptr) {
11823 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__0_7_7_7:
11824 ; GFX900:       ; %bb.0:
11825 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11826 ; GFX900-NEXT:    ;;#ASMSTART
11827 ; GFX900-NEXT:    ; def v[0:7]
11828 ; GFX900-NEXT:    ;;#ASMEND
11829 ; GFX900-NEXT:    ;;#ASMSTART
11830 ; GFX900-NEXT:    ; def v[2:9]
11831 ; GFX900-NEXT:    ;;#ASMEND
11832 ; GFX900-NEXT:    v_mov_b32_e32 v10, 0
11833 ; GFX900-NEXT:    v_mov_b32_e32 v6, v8
11834 ; GFX900-NEXT:    v_mov_b32_e32 v7, v9
11835 ; GFX900-NEXT:    v_mov_b32_e32 v2, v8
11836 ; GFX900-NEXT:    v_mov_b32_e32 v3, v9
11837 ; GFX900-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17] offset:16
11838 ; GFX900-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17]
11839 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
11840 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
11841 ;
11842 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__0_7_7_7:
11843 ; GFX90A:       ; %bb.0:
11844 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11845 ; GFX90A-NEXT:    ;;#ASMSTART
11846 ; GFX90A-NEXT:    ; def v[0:7]
11847 ; GFX90A-NEXT:    ;;#ASMEND
11848 ; GFX90A-NEXT:    ;;#ASMSTART
11849 ; GFX90A-NEXT:    ; def v[2:9]
11850 ; GFX90A-NEXT:    ;;#ASMEND
11851 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
11852 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v8
11853 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v9
11854 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v8
11855 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v9
11856 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17] offset:16
11857 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17]
11858 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
11859 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
11860 ;
11861 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__0_7_7_7:
11862 ; GFX940:       ; %bb.0:
11863 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11864 ; GFX940-NEXT:    ;;#ASMSTART
11865 ; GFX940-NEXT:    ; def v[0:7]
11866 ; GFX940-NEXT:    ;;#ASMEND
11867 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
11868 ; GFX940-NEXT:    ;;#ASMSTART
11869 ; GFX940-NEXT:    ; def v[2:9]
11870 ; GFX940-NEXT:    ;;#ASMEND
11871 ; GFX940-NEXT:    s_nop 0
11872 ; GFX940-NEXT:    v_mov_b32_e32 v6, v8
11873 ; GFX940-NEXT:    v_mov_b32_e32 v7, v9
11874 ; GFX940-NEXT:    v_mov_b32_e32 v2, v8
11875 ; GFX940-NEXT:    v_mov_b32_e32 v3, v9
11876 ; GFX940-NEXT:    global_store_dwordx4 v10, v[6:9], s[0:1] offset:16 sc0 sc1
11877 ; GFX940-NEXT:    global_store_dwordx4 v10, v[0:3], s[0:1] sc0 sc1
11878 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
11879 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
11880   %vec0 = call <4 x i64> asm "; def $0", "=v"()
11881   %vec1 = call <4 x i64> asm "; def $0", "=v"()
11882   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 0, i32 7, i32 7, i32 7>
11883   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
11884   ret void
11885 }
11886
11887 define void @v_shuffle_v4i64_v4i64__1_7_7_7(ptr addrspace(1) inreg %ptr) {
11888 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__1_7_7_7:
11889 ; GFX900:       ; %bb.0:
11890 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11891 ; GFX900-NEXT:    ;;#ASMSTART
11892 ; GFX900-NEXT:    ; def v[0:7]
11893 ; GFX900-NEXT:    ;;#ASMEND
11894 ; GFX900-NEXT:    ;;#ASMSTART
11895 ; GFX900-NEXT:    ; def v[4:11]
11896 ; GFX900-NEXT:    ;;#ASMEND
11897 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
11898 ; GFX900-NEXT:    v_mov_b32_e32 v8, v10
11899 ; GFX900-NEXT:    v_mov_b32_e32 v9, v11
11900 ; GFX900-NEXT:    v_mov_b32_e32 v4, v10
11901 ; GFX900-NEXT:    v_mov_b32_e32 v5, v11
11902 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17] offset:16
11903 ; GFX900-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17]
11904 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
11905 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
11906 ;
11907 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__1_7_7_7:
11908 ; GFX90A:       ; %bb.0:
11909 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11910 ; GFX90A-NEXT:    ;;#ASMSTART
11911 ; GFX90A-NEXT:    ; def v[0:7]
11912 ; GFX90A-NEXT:    ;;#ASMEND
11913 ; GFX90A-NEXT:    ;;#ASMSTART
11914 ; GFX90A-NEXT:    ; def v[4:11]
11915 ; GFX90A-NEXT:    ;;#ASMEND
11916 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
11917 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v10
11918 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v11
11919 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v10
11920 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v11
11921 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17] offset:16
11922 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17]
11923 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
11924 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
11925 ;
11926 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__1_7_7_7:
11927 ; GFX940:       ; %bb.0:
11928 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11929 ; GFX940-NEXT:    ;;#ASMSTART
11930 ; GFX940-NEXT:    ; def v[0:7]
11931 ; GFX940-NEXT:    ;;#ASMEND
11932 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
11933 ; GFX940-NEXT:    ;;#ASMSTART
11934 ; GFX940-NEXT:    ; def v[4:11]
11935 ; GFX940-NEXT:    ;;#ASMEND
11936 ; GFX940-NEXT:    s_nop 0
11937 ; GFX940-NEXT:    v_mov_b32_e32 v8, v10
11938 ; GFX940-NEXT:    v_mov_b32_e32 v9, v11
11939 ; GFX940-NEXT:    v_mov_b32_e32 v4, v10
11940 ; GFX940-NEXT:    v_mov_b32_e32 v5, v11
11941 ; GFX940-NEXT:    global_store_dwordx4 v12, v[8:11], s[0:1] offset:16 sc0 sc1
11942 ; GFX940-NEXT:    global_store_dwordx4 v12, v[2:5], s[0:1] sc0 sc1
11943 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
11944 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
11945   %vec0 = call <4 x i64> asm "; def $0", "=v"()
11946   %vec1 = call <4 x i64> asm "; def $0", "=v"()
11947   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 1, i32 7, i32 7, i32 7>
11948   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
11949   ret void
11950 }
11951
11952 define void @v_shuffle_v4i64_v4i64__2_7_7_7(ptr addrspace(1) inreg %ptr) {
11953 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__2_7_7_7:
11954 ; GFX900:       ; %bb.0:
11955 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11956 ; GFX900-NEXT:    ;;#ASMSTART
11957 ; GFX900-NEXT:    ; def v[0:7]
11958 ; GFX900-NEXT:    ;;#ASMEND
11959 ; GFX900-NEXT:    ;;#ASMSTART
11960 ; GFX900-NEXT:    ; def v[6:13]
11961 ; GFX900-NEXT:    ;;#ASMEND
11962 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
11963 ; GFX900-NEXT:    v_mov_b32_e32 v10, v12
11964 ; GFX900-NEXT:    v_mov_b32_e32 v11, v13
11965 ; GFX900-NEXT:    v_mov_b32_e32 v6, v12
11966 ; GFX900-NEXT:    v_mov_b32_e32 v7, v13
11967 ; GFX900-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17] offset:16
11968 ; GFX900-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17]
11969 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
11970 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
11971 ;
11972 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__2_7_7_7:
11973 ; GFX90A:       ; %bb.0:
11974 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11975 ; GFX90A-NEXT:    ;;#ASMSTART
11976 ; GFX90A-NEXT:    ; def v[0:7]
11977 ; GFX90A-NEXT:    ;;#ASMEND
11978 ; GFX90A-NEXT:    ;;#ASMSTART
11979 ; GFX90A-NEXT:    ; def v[6:13]
11980 ; GFX90A-NEXT:    ;;#ASMEND
11981 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
11982 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v12
11983 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v13
11984 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v12
11985 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v13
11986 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17] offset:16
11987 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17]
11988 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
11989 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
11990 ;
11991 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__2_7_7_7:
11992 ; GFX940:       ; %bb.0:
11993 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
11994 ; GFX940-NEXT:    ;;#ASMSTART
11995 ; GFX940-NEXT:    ; def v[0:7]
11996 ; GFX940-NEXT:    ;;#ASMEND
11997 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
11998 ; GFX940-NEXT:    ;;#ASMSTART
11999 ; GFX940-NEXT:    ; def v[6:13]
12000 ; GFX940-NEXT:    ;;#ASMEND
12001 ; GFX940-NEXT:    s_nop 0
12002 ; GFX940-NEXT:    v_mov_b32_e32 v10, v12
12003 ; GFX940-NEXT:    v_mov_b32_e32 v11, v13
12004 ; GFX940-NEXT:    v_mov_b32_e32 v6, v12
12005 ; GFX940-NEXT:    v_mov_b32_e32 v7, v13
12006 ; GFX940-NEXT:    global_store_dwordx4 v14, v[10:13], s[0:1] offset:16 sc0 sc1
12007 ; GFX940-NEXT:    global_store_dwordx4 v14, v[4:7], s[0:1] sc0 sc1
12008 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
12009 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
12010   %vec0 = call <4 x i64> asm "; def $0", "=v"()
12011   %vec1 = call <4 x i64> asm "; def $0", "=v"()
12012   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 2, i32 7, i32 7, i32 7>
12013   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
12014   ret void
12015 }
12016
12017 define void @v_shuffle_v4i64_v4i64__3_7_7_7(ptr addrspace(1) inreg %ptr) {
12018 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__3_7_7_7:
12019 ; GFX900:       ; %bb.0:
12020 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12021 ; GFX900-NEXT:    ;;#ASMSTART
12022 ; GFX900-NEXT:    ; def v[8:15]
12023 ; GFX900-NEXT:    ;;#ASMEND
12024 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
12025 ; GFX900-NEXT:    v_mov_b32_e32 v12, v14
12026 ; GFX900-NEXT:    v_mov_b32_e32 v13, v15
12027 ; GFX900-NEXT:    ;;#ASMSTART
12028 ; GFX900-NEXT:    ; def v[0:7]
12029 ; GFX900-NEXT:    ;;#ASMEND
12030 ; GFX900-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17] offset:16
12031 ; GFX900-NEXT:    s_nop 0
12032 ; GFX900-NEXT:    v_mov_b32_e32 v12, v6
12033 ; GFX900-NEXT:    v_mov_b32_e32 v13, v7
12034 ; GFX900-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
12035 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
12036 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
12037 ;
12038 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__3_7_7_7:
12039 ; GFX90A:       ; %bb.0:
12040 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12041 ; GFX90A-NEXT:    ;;#ASMSTART
12042 ; GFX90A-NEXT:    ; def v[8:15]
12043 ; GFX90A-NEXT:    ;;#ASMEND
12044 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
12045 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v14
12046 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v15
12047 ; GFX90A-NEXT:    ;;#ASMSTART
12048 ; GFX90A-NEXT:    ; def v[0:7]
12049 ; GFX90A-NEXT:    ;;#ASMEND
12050 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17] offset:16
12051 ; GFX90A-NEXT:    s_nop 0
12052 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v6
12053 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v7
12054 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
12055 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
12056 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
12057 ;
12058 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__3_7_7_7:
12059 ; GFX940:       ; %bb.0:
12060 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12061 ; GFX940-NEXT:    ;;#ASMSTART
12062 ; GFX940-NEXT:    ; def v[8:15]
12063 ; GFX940-NEXT:    ;;#ASMEND
12064 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
12065 ; GFX940-NEXT:    v_mov_b32_e32 v12, v14
12066 ; GFX940-NEXT:    v_mov_b32_e32 v13, v15
12067 ; GFX940-NEXT:    ;;#ASMSTART
12068 ; GFX940-NEXT:    ; def v[0:7]
12069 ; GFX940-NEXT:    ;;#ASMEND
12070 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] offset:16 sc0 sc1
12071 ; GFX940-NEXT:    s_nop 1
12072 ; GFX940-NEXT:    v_mov_b32_e32 v12, v6
12073 ; GFX940-NEXT:    v_mov_b32_e32 v13, v7
12074 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] sc0 sc1
12075 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
12076 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
12077   %vec0 = call <4 x i64> asm "; def $0", "=v"()
12078   %vec1 = call <4 x i64> asm "; def $0", "=v"()
12079   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 3, i32 7, i32 7, i32 7>
12080   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
12081   ret void
12082 }
12083
12084 define void @v_shuffle_v4i64_v4i64__4_7_7_7(ptr addrspace(1) inreg %ptr) {
12085 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__4_7_7_7:
12086 ; GFX900:       ; %bb.0:
12087 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12088 ; GFX900-NEXT:    ;;#ASMSTART
12089 ; GFX900-NEXT:    ; def v[0:7]
12090 ; GFX900-NEXT:    ;;#ASMEND
12091 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
12092 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
12093 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
12094 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
12095 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
12096 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
12097 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
12098 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
12099 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
12100 ;
12101 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__4_7_7_7:
12102 ; GFX90A:       ; %bb.0:
12103 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12104 ; GFX90A-NEXT:    ;;#ASMSTART
12105 ; GFX90A-NEXT:    ; def v[0:7]
12106 ; GFX90A-NEXT:    ;;#ASMEND
12107 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
12108 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
12109 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
12110 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
12111 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
12112 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
12113 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
12114 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
12115 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
12116 ;
12117 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__4_7_7_7:
12118 ; GFX940:       ; %bb.0:
12119 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12120 ; GFX940-NEXT:    ;;#ASMSTART
12121 ; GFX940-NEXT:    ; def v[0:7]
12122 ; GFX940-NEXT:    ;;#ASMEND
12123 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
12124 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
12125 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
12126 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
12127 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
12128 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
12129 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
12130 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
12131 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
12132   %vec0 = call <4 x i64> asm "; def $0", "=v"()
12133   %vec1 = call <4 x i64> asm "; def $0", "=v"()
12134   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 4, i32 7, i32 7, i32 7>
12135   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
12136   ret void
12137 }
12138
12139 define void @v_shuffle_v4i64_v4i64__5_7_7_7(ptr addrspace(1) inreg %ptr) {
12140 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__5_7_7_7:
12141 ; GFX900:       ; %bb.0:
12142 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12143 ; GFX900-NEXT:    ;;#ASMSTART
12144 ; GFX900-NEXT:    ; def v[0:7]
12145 ; GFX900-NEXT:    ;;#ASMEND
12146 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
12147 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
12148 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
12149 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
12150 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
12151 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
12152 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
12153 ;
12154 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__5_7_7_7:
12155 ; GFX90A:       ; %bb.0:
12156 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12157 ; GFX90A-NEXT:    ;;#ASMSTART
12158 ; GFX90A-NEXT:    ; def v[0:7]
12159 ; GFX90A-NEXT:    ;;#ASMEND
12160 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
12161 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
12162 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
12163 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
12164 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
12165 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
12166 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
12167 ;
12168 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__5_7_7_7:
12169 ; GFX940:       ; %bb.0:
12170 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12171 ; GFX940-NEXT:    ;;#ASMSTART
12172 ; GFX940-NEXT:    ; def v[0:7]
12173 ; GFX940-NEXT:    ;;#ASMEND
12174 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
12175 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
12176 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
12177 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
12178 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
12179 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
12180 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
12181   %vec0 = call <4 x i64> asm "; def $0", "=v"()
12182   %vec1 = call <4 x i64> asm "; def $0", "=v"()
12183   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 5, i32 7, i32 7, i32 7>
12184   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
12185   ret void
12186 }
12187
12188 define void @v_shuffle_v4i64_v4i64__6_7_7_7(ptr addrspace(1) inreg %ptr) {
12189 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__6_7_7_7:
12190 ; GFX900:       ; %bb.0:
12191 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12192 ; GFX900-NEXT:    ;;#ASMSTART
12193 ; GFX900-NEXT:    ; def v[0:7]
12194 ; GFX900-NEXT:    ;;#ASMEND
12195 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
12196 ; GFX900-NEXT:    v_mov_b32_e32 v0, v6
12197 ; GFX900-NEXT:    v_mov_b32_e32 v1, v7
12198 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
12199 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
12200 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
12201 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
12202 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
12203 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
12204 ;
12205 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__6_7_7_7:
12206 ; GFX90A:       ; %bb.0:
12207 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12208 ; GFX90A-NEXT:    ;;#ASMSTART
12209 ; GFX90A-NEXT:    ; def v[0:7]
12210 ; GFX90A-NEXT:    ;;#ASMEND
12211 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
12212 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v6
12213 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v7
12214 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
12215 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
12216 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
12217 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
12218 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
12219 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
12220 ;
12221 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__6_7_7_7:
12222 ; GFX940:       ; %bb.0:
12223 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12224 ; GFX940-NEXT:    ;;#ASMSTART
12225 ; GFX940-NEXT:    ; def v[0:7]
12226 ; GFX940-NEXT:    ;;#ASMEND
12227 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
12228 ; GFX940-NEXT:    v_mov_b32_e32 v0, v6
12229 ; GFX940-NEXT:    v_mov_b32_e32 v1, v7
12230 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
12231 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
12232 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
12233 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
12234 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
12235 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
12236   %vec0 = call <4 x i64> asm "; def $0", "=v"()
12237   %vec1 = call <4 x i64> asm "; def $0", "=v"()
12238   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 6, i32 7, i32 7, i32 7>
12239   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
12240   ret void
12241 }
12242
12243 define void @v_shuffle_v4i64_v4i64__7_u_7_7(ptr addrspace(1) inreg %ptr) {
12244 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_u_7_7:
12245 ; GFX900:       ; %bb.0:
12246 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12247 ; GFX900-NEXT:    ;;#ASMSTART
12248 ; GFX900-NEXT:    ; def v[0:7]
12249 ; GFX900-NEXT:    ;;#ASMEND
12250 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
12251 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
12252 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
12253 ; GFX900-NEXT:    v_mov_b32_e32 v0, v6
12254 ; GFX900-NEXT:    v_mov_b32_e32 v1, v7
12255 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
12256 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
12257 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
12258 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
12259 ;
12260 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_u_7_7:
12261 ; GFX90A:       ; %bb.0:
12262 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12263 ; GFX90A-NEXT:    ;;#ASMSTART
12264 ; GFX90A-NEXT:    ; def v[0:7]
12265 ; GFX90A-NEXT:    ;;#ASMEND
12266 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
12267 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
12268 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
12269 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v6
12270 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v7
12271 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
12272 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
12273 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
12274 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
12275 ;
12276 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_u_7_7:
12277 ; GFX940:       ; %bb.0:
12278 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12279 ; GFX940-NEXT:    ;;#ASMSTART
12280 ; GFX940-NEXT:    ; def v[0:7]
12281 ; GFX940-NEXT:    ;;#ASMEND
12282 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
12283 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
12284 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
12285 ; GFX940-NEXT:    v_mov_b32_e32 v0, v6
12286 ; GFX940-NEXT:    v_mov_b32_e32 v1, v7
12287 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
12288 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
12289 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
12290 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
12291   %vec0 = call <4 x i64> asm "; def $0", "=v"()
12292   %vec1 = call <4 x i64> asm "; def $0", "=v"()
12293   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 poison, i32 7, i32 7>
12294   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
12295   ret void
12296 }
12297
12298 define void @v_shuffle_v4i64_v4i64__7_0_7_7(ptr addrspace(1) inreg %ptr) {
12299 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_0_7_7:
12300 ; GFX900:       ; %bb.0:
12301 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12302 ; GFX900-NEXT:    ;;#ASMSTART
12303 ; GFX900-NEXT:    ; def v[0:7]
12304 ; GFX900-NEXT:    ;;#ASMEND
12305 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
12306 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
12307 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
12308 ; GFX900-NEXT:    global_store_dwordx4 v12, v[4:7], s[16:17] offset:16
12309 ; GFX900-NEXT:    v_mov_b32_e32 v8, v6
12310 ; GFX900-NEXT:    v_mov_b32_e32 v9, v7
12311 ; GFX900-NEXT:    ;;#ASMSTART
12312 ; GFX900-NEXT:    ; def v[0:7]
12313 ; GFX900-NEXT:    ;;#ASMEND
12314 ; GFX900-NEXT:    v_mov_b32_e32 v10, v0
12315 ; GFX900-NEXT:    v_mov_b32_e32 v11, v1
12316 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
12317 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
12318 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
12319 ;
12320 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_0_7_7:
12321 ; GFX90A:       ; %bb.0:
12322 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12323 ; GFX90A-NEXT:    ;;#ASMSTART
12324 ; GFX90A-NEXT:    ; def v[0:7]
12325 ; GFX90A-NEXT:    ;;#ASMEND
12326 ; GFX90A-NEXT:    ;;#ASMSTART
12327 ; GFX90A-NEXT:    ; def v[2:9]
12328 ; GFX90A-NEXT:    ;;#ASMEND
12329 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
12330 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v8
12331 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v9
12332 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v8
12333 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v9
12334 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
12335 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
12336 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17] offset:16
12337 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[2:5], s[16:17]
12338 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
12339 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
12340 ;
12341 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_0_7_7:
12342 ; GFX940:       ; %bb.0:
12343 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12344 ; GFX940-NEXT:    ;;#ASMSTART
12345 ; GFX940-NEXT:    ; def v[0:7]
12346 ; GFX940-NEXT:    ;;#ASMEND
12347 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
12348 ; GFX940-NEXT:    ;;#ASMSTART
12349 ; GFX940-NEXT:    ; def v[2:9]
12350 ; GFX940-NEXT:    ;;#ASMEND
12351 ; GFX940-NEXT:    s_nop 0
12352 ; GFX940-NEXT:    v_mov_b32_e32 v6, v8
12353 ; GFX940-NEXT:    v_mov_b32_e32 v7, v9
12354 ; GFX940-NEXT:    v_mov_b32_e32 v2, v8
12355 ; GFX940-NEXT:    v_mov_b32_e32 v3, v9
12356 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
12357 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
12358 ; GFX940-NEXT:    global_store_dwordx4 v10, v[6:9], s[0:1] offset:16 sc0 sc1
12359 ; GFX940-NEXT:    global_store_dwordx4 v10, v[2:5], s[0:1] sc0 sc1
12360 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
12361 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
12362   %vec0 = call <4 x i64> asm "; def $0", "=v"()
12363   %vec1 = call <4 x i64> asm "; def $0", "=v"()
12364   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 0, i32 7, i32 7>
12365   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
12366   ret void
12367 }
12368
12369 define void @v_shuffle_v4i64_v4i64__7_1_7_7(ptr addrspace(1) inreg %ptr) {
12370 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_1_7_7:
12371 ; GFX900:       ; %bb.0:
12372 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12373 ; GFX900-NEXT:    ;;#ASMSTART
12374 ; GFX900-NEXT:    ; def v[0:7]
12375 ; GFX900-NEXT:    ;;#ASMEND
12376 ; GFX900-NEXT:    ;;#ASMSTART
12377 ; GFX900-NEXT:    ; def v[4:11]
12378 ; GFX900-NEXT:    ;;#ASMEND
12379 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
12380 ; GFX900-NEXT:    v_mov_b32_e32 v8, v10
12381 ; GFX900-NEXT:    v_mov_b32_e32 v9, v11
12382 ; GFX900-NEXT:    v_mov_b32_e32 v0, v10
12383 ; GFX900-NEXT:    v_mov_b32_e32 v1, v11
12384 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17] offset:16
12385 ; GFX900-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17]
12386 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
12387 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
12388 ;
12389 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_1_7_7:
12390 ; GFX90A:       ; %bb.0:
12391 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12392 ; GFX90A-NEXT:    ;;#ASMSTART
12393 ; GFX90A-NEXT:    ; def v[0:7]
12394 ; GFX90A-NEXT:    ;;#ASMEND
12395 ; GFX90A-NEXT:    ;;#ASMSTART
12396 ; GFX90A-NEXT:    ; def v[4:11]
12397 ; GFX90A-NEXT:    ;;#ASMEND
12398 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
12399 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v10
12400 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v11
12401 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v10
12402 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v11
12403 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17] offset:16
12404 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[0:3], s[16:17]
12405 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
12406 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
12407 ;
12408 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_1_7_7:
12409 ; GFX940:       ; %bb.0:
12410 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12411 ; GFX940-NEXT:    ;;#ASMSTART
12412 ; GFX940-NEXT:    ; def v[0:7]
12413 ; GFX940-NEXT:    ;;#ASMEND
12414 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
12415 ; GFX940-NEXT:    ;;#ASMSTART
12416 ; GFX940-NEXT:    ; def v[4:11]
12417 ; GFX940-NEXT:    ;;#ASMEND
12418 ; GFX940-NEXT:    s_nop 0
12419 ; GFX940-NEXT:    v_mov_b32_e32 v8, v10
12420 ; GFX940-NEXT:    v_mov_b32_e32 v9, v11
12421 ; GFX940-NEXT:    v_mov_b32_e32 v0, v10
12422 ; GFX940-NEXT:    v_mov_b32_e32 v1, v11
12423 ; GFX940-NEXT:    global_store_dwordx4 v12, v[8:11], s[0:1] offset:16 sc0 sc1
12424 ; GFX940-NEXT:    global_store_dwordx4 v12, v[0:3], s[0:1] sc0 sc1
12425 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
12426 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
12427   %vec0 = call <4 x i64> asm "; def $0", "=v"()
12428   %vec1 = call <4 x i64> asm "; def $0", "=v"()
12429   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 1, i32 7, i32 7>
12430   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
12431   ret void
12432 }
12433
12434 define void @v_shuffle_v4i64_v4i64__7_2_7_7(ptr addrspace(1) inreg %ptr) {
12435 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_2_7_7:
12436 ; GFX900:       ; %bb.0:
12437 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12438 ; GFX900-NEXT:    ;;#ASMSTART
12439 ; GFX900-NEXT:    ; def v[0:7]
12440 ; GFX900-NEXT:    ;;#ASMEND
12441 ; GFX900-NEXT:    ;;#ASMSTART
12442 ; GFX900-NEXT:    ; def v[6:13]
12443 ; GFX900-NEXT:    ;;#ASMEND
12444 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
12445 ; GFX900-NEXT:    v_mov_b32_e32 v10, v12
12446 ; GFX900-NEXT:    v_mov_b32_e32 v11, v13
12447 ; GFX900-NEXT:    v_mov_b32_e32 v2, v12
12448 ; GFX900-NEXT:    v_mov_b32_e32 v3, v13
12449 ; GFX900-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17] offset:16
12450 ; GFX900-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17]
12451 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
12452 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
12453 ;
12454 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_2_7_7:
12455 ; GFX90A:       ; %bb.0:
12456 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12457 ; GFX90A-NEXT:    ;;#ASMSTART
12458 ; GFX90A-NEXT:    ; def v[0:7]
12459 ; GFX90A-NEXT:    ;;#ASMEND
12460 ; GFX90A-NEXT:    ;;#ASMSTART
12461 ; GFX90A-NEXT:    ; def v[6:13]
12462 ; GFX90A-NEXT:    ;;#ASMEND
12463 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
12464 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v12
12465 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v13
12466 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v12
12467 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v13
12468 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17] offset:16
12469 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[2:5], s[16:17]
12470 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
12471 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
12472 ;
12473 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_2_7_7:
12474 ; GFX940:       ; %bb.0:
12475 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12476 ; GFX940-NEXT:    ;;#ASMSTART
12477 ; GFX940-NEXT:    ; def v[0:7]
12478 ; GFX940-NEXT:    ;;#ASMEND
12479 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
12480 ; GFX940-NEXT:    ;;#ASMSTART
12481 ; GFX940-NEXT:    ; def v[6:13]
12482 ; GFX940-NEXT:    ;;#ASMEND
12483 ; GFX940-NEXT:    s_nop 0
12484 ; GFX940-NEXT:    v_mov_b32_e32 v10, v12
12485 ; GFX940-NEXT:    v_mov_b32_e32 v11, v13
12486 ; GFX940-NEXT:    v_mov_b32_e32 v2, v12
12487 ; GFX940-NEXT:    v_mov_b32_e32 v3, v13
12488 ; GFX940-NEXT:    global_store_dwordx4 v14, v[10:13], s[0:1] offset:16 sc0 sc1
12489 ; GFX940-NEXT:    global_store_dwordx4 v14, v[2:5], s[0:1] sc0 sc1
12490 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
12491 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
12492   %vec0 = call <4 x i64> asm "; def $0", "=v"()
12493   %vec1 = call <4 x i64> asm "; def $0", "=v"()
12494   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 2, i32 7, i32 7>
12495   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
12496   ret void
12497 }
12498
12499 define void @v_shuffle_v4i64_v4i64__7_3_7_7(ptr addrspace(1) inreg %ptr) {
12500 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_3_7_7:
12501 ; GFX900:       ; %bb.0:
12502 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12503 ; GFX900-NEXT:    ;;#ASMSTART
12504 ; GFX900-NEXT:    ; def v[0:7]
12505 ; GFX900-NEXT:    ;;#ASMEND
12506 ; GFX900-NEXT:    ;;#ASMSTART
12507 ; GFX900-NEXT:    ; def v[8:15]
12508 ; GFX900-NEXT:    ;;#ASMEND
12509 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
12510 ; GFX900-NEXT:    v_mov_b32_e32 v12, v14
12511 ; GFX900-NEXT:    v_mov_b32_e32 v13, v15
12512 ; GFX900-NEXT:    v_mov_b32_e32 v4, v14
12513 ; GFX900-NEXT:    v_mov_b32_e32 v5, v15
12514 ; GFX900-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17] offset:16
12515 ; GFX900-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17]
12516 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
12517 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
12518 ;
12519 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_3_7_7:
12520 ; GFX90A:       ; %bb.0:
12521 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12522 ; GFX90A-NEXT:    ;;#ASMSTART
12523 ; GFX90A-NEXT:    ; def v[0:7]
12524 ; GFX90A-NEXT:    ;;#ASMEND
12525 ; GFX90A-NEXT:    ;;#ASMSTART
12526 ; GFX90A-NEXT:    ; def v[8:15]
12527 ; GFX90A-NEXT:    ;;#ASMEND
12528 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
12529 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v14
12530 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v15
12531 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v14
12532 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v15
12533 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17] offset:16
12534 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[4:7], s[16:17]
12535 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
12536 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
12537 ;
12538 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_3_7_7:
12539 ; GFX940:       ; %bb.0:
12540 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12541 ; GFX940-NEXT:    ;;#ASMSTART
12542 ; GFX940-NEXT:    ; def v[0:7]
12543 ; GFX940-NEXT:    ;;#ASMEND
12544 ; GFX940-NEXT:    ;;#ASMSTART
12545 ; GFX940-NEXT:    ; def v[8:15]
12546 ; GFX940-NEXT:    ;;#ASMEND
12547 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
12548 ; GFX940-NEXT:    v_mov_b32_e32 v12, v14
12549 ; GFX940-NEXT:    v_mov_b32_e32 v13, v15
12550 ; GFX940-NEXT:    v_mov_b32_e32 v4, v14
12551 ; GFX940-NEXT:    v_mov_b32_e32 v5, v15
12552 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] offset:16 sc0 sc1
12553 ; GFX940-NEXT:    global_store_dwordx4 v16, v[4:7], s[0:1] sc0 sc1
12554 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
12555 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
12556   %vec0 = call <4 x i64> asm "; def $0", "=v"()
12557   %vec1 = call <4 x i64> asm "; def $0", "=v"()
12558   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 3, i32 7, i32 7>
12559   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
12560   ret void
12561 }
12562
12563 define void @v_shuffle_v4i64_v4i64__7_4_7_7(ptr addrspace(1) inreg %ptr) {
12564 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_4_7_7:
12565 ; GFX900:       ; %bb.0:
12566 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12567 ; GFX900-NEXT:    ;;#ASMSTART
12568 ; GFX900-NEXT:    ; def v[0:7]
12569 ; GFX900-NEXT:    ;;#ASMEND
12570 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
12571 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
12572 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
12573 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
12574 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
12575 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
12576 ; GFX900-NEXT:    v_mov_b32_e32 v4, v0
12577 ; GFX900-NEXT:    v_mov_b32_e32 v5, v1
12578 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
12579 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
12580 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
12581 ;
12582 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_4_7_7:
12583 ; GFX90A:       ; %bb.0:
12584 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12585 ; GFX90A-NEXT:    ;;#ASMSTART
12586 ; GFX90A-NEXT:    ; def v[0:7]
12587 ; GFX90A-NEXT:    ;;#ASMEND
12588 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
12589 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
12590 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
12591 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
12592 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
12593 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
12594 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v0
12595 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v1
12596 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
12597 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
12598 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
12599 ;
12600 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_4_7_7:
12601 ; GFX940:       ; %bb.0:
12602 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12603 ; GFX940-NEXT:    ;;#ASMSTART
12604 ; GFX940-NEXT:    ; def v[0:7]
12605 ; GFX940-NEXT:    ;;#ASMEND
12606 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
12607 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
12608 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
12609 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
12610 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
12611 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
12612 ; GFX940-NEXT:    v_mov_b32_e32 v4, v0
12613 ; GFX940-NEXT:    v_mov_b32_e32 v5, v1
12614 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
12615 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
12616 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
12617   %vec0 = call <4 x i64> asm "; def $0", "=v"()
12618   %vec1 = call <4 x i64> asm "; def $0", "=v"()
12619   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 4, i32 7, i32 7>
12620   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
12621   ret void
12622 }
12623
12624 define void @v_shuffle_v4i64_v4i64__7_5_7_7(ptr addrspace(1) inreg %ptr) {
12625 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_5_7_7:
12626 ; GFX900:       ; %bb.0:
12627 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12628 ; GFX900-NEXT:    ;;#ASMSTART
12629 ; GFX900-NEXT:    ; def v[0:7]
12630 ; GFX900-NEXT:    ;;#ASMEND
12631 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
12632 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
12633 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
12634 ; GFX900-NEXT:    v_mov_b32_e32 v0, v6
12635 ; GFX900-NEXT:    v_mov_b32_e32 v1, v7
12636 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
12637 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
12638 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
12639 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
12640 ;
12641 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_5_7_7:
12642 ; GFX90A:       ; %bb.0:
12643 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12644 ; GFX90A-NEXT:    ;;#ASMSTART
12645 ; GFX90A-NEXT:    ; def v[0:7]
12646 ; GFX90A-NEXT:    ;;#ASMEND
12647 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
12648 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
12649 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
12650 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v6
12651 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v7
12652 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
12653 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17]
12654 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
12655 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
12656 ;
12657 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_5_7_7:
12658 ; GFX940:       ; %bb.0:
12659 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12660 ; GFX940-NEXT:    ;;#ASMSTART
12661 ; GFX940-NEXT:    ; def v[0:7]
12662 ; GFX940-NEXT:    ;;#ASMEND
12663 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
12664 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
12665 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
12666 ; GFX940-NEXT:    v_mov_b32_e32 v0, v6
12667 ; GFX940-NEXT:    v_mov_b32_e32 v1, v7
12668 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
12669 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] sc0 sc1
12670 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
12671 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
12672   %vec0 = call <4 x i64> asm "; def $0", "=v"()
12673   %vec1 = call <4 x i64> asm "; def $0", "=v"()
12674   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 5, i32 7, i32 7>
12675   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
12676   ret void
12677 }
12678
12679 define void @v_shuffle_v4i64_v4i64__7_6_7_7(ptr addrspace(1) inreg %ptr) {
12680 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_6_7_7:
12681 ; GFX900:       ; %bb.0:
12682 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12683 ; GFX900-NEXT:    ;;#ASMSTART
12684 ; GFX900-NEXT:    ; def v[0:7]
12685 ; GFX900-NEXT:    ;;#ASMEND
12686 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
12687 ; GFX900-NEXT:    v_mov_b32_e32 v0, v6
12688 ; GFX900-NEXT:    v_mov_b32_e32 v1, v7
12689 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
12690 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
12691 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
12692 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
12693 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
12694 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
12695 ;
12696 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_6_7_7:
12697 ; GFX90A:       ; %bb.0:
12698 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12699 ; GFX90A-NEXT:    ;;#ASMSTART
12700 ; GFX90A-NEXT:    ; def v[0:7]
12701 ; GFX90A-NEXT:    ;;#ASMEND
12702 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
12703 ; GFX90A-NEXT:    v_mov_b32_e32 v0, v6
12704 ; GFX90A-NEXT:    v_mov_b32_e32 v1, v7
12705 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
12706 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
12707 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
12708 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17]
12709 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
12710 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
12711 ;
12712 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_6_7_7:
12713 ; GFX940:       ; %bb.0:
12714 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12715 ; GFX940-NEXT:    ;;#ASMSTART
12716 ; GFX940-NEXT:    ; def v[0:7]
12717 ; GFX940-NEXT:    ;;#ASMEND
12718 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
12719 ; GFX940-NEXT:    v_mov_b32_e32 v0, v6
12720 ; GFX940-NEXT:    v_mov_b32_e32 v1, v7
12721 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
12722 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
12723 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
12724 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] sc0 sc1
12725 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
12726 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
12727   %vec0 = call <4 x i64> asm "; def $0", "=v"()
12728   %vec1 = call <4 x i64> asm "; def $0", "=v"()
12729   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 6, i32 7, i32 7>
12730   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
12731   ret void
12732 }
12733
12734 define void @v_shuffle_v4i64_v4i64__7_7_u_7(ptr addrspace(1) inreg %ptr) {
12735 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_u_7:
12736 ; GFX900:       ; %bb.0:
12737 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12738 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
12739 ; GFX900-NEXT:    ;;#ASMSTART
12740 ; GFX900-NEXT:    ; def v[0:7]
12741 ; GFX900-NEXT:    ;;#ASMEND
12742 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
12743 ; GFX900-NEXT:    s_nop 0
12744 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
12745 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
12746 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
12747 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
12748 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
12749 ;
12750 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_u_7:
12751 ; GFX90A:       ; %bb.0:
12752 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12753 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
12754 ; GFX90A-NEXT:    ;;#ASMSTART
12755 ; GFX90A-NEXT:    ; def v[0:7]
12756 ; GFX90A-NEXT:    ;;#ASMEND
12757 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
12758 ; GFX90A-NEXT:    s_nop 0
12759 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
12760 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
12761 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
12762 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
12763 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
12764 ;
12765 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_u_7:
12766 ; GFX940:       ; %bb.0:
12767 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12768 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
12769 ; GFX940-NEXT:    ;;#ASMSTART
12770 ; GFX940-NEXT:    ; def v[0:7]
12771 ; GFX940-NEXT:    ;;#ASMEND
12772 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
12773 ; GFX940-NEXT:    s_nop 1
12774 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
12775 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
12776 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
12777 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
12778 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
12779   %vec0 = call <4 x i64> asm "; def $0", "=v"()
12780   %vec1 = call <4 x i64> asm "; def $0", "=v"()
12781   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 poison, i32 7>
12782   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
12783   ret void
12784 }
12785
12786 define void @v_shuffle_v4i64_v4i64__7_7_0_7(ptr addrspace(1) inreg %ptr) {
12787 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_0_7:
12788 ; GFX900:       ; %bb.0:
12789 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12790 ; GFX900-NEXT:    ;;#ASMSTART
12791 ; GFX900-NEXT:    ; def v[0:7]
12792 ; GFX900-NEXT:    ;;#ASMEND
12793 ; GFX900-NEXT:    ;;#ASMSTART
12794 ; GFX900-NEXT:    ; def v[2:9]
12795 ; GFX900-NEXT:    ;;#ASMEND
12796 ; GFX900-NEXT:    v_mov_b32_e32 v10, 0
12797 ; GFX900-NEXT:    v_mov_b32_e32 v2, v8
12798 ; GFX900-NEXT:    v_mov_b32_e32 v3, v9
12799 ; GFX900-NEXT:    v_mov_b32_e32 v6, v8
12800 ; GFX900-NEXT:    v_mov_b32_e32 v7, v9
12801 ; GFX900-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
12802 ; GFX900-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17]
12803 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
12804 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
12805 ;
12806 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_0_7:
12807 ; GFX90A:       ; %bb.0:
12808 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12809 ; GFX90A-NEXT:    ;;#ASMSTART
12810 ; GFX90A-NEXT:    ; def v[0:7]
12811 ; GFX90A-NEXT:    ;;#ASMEND
12812 ; GFX90A-NEXT:    ;;#ASMSTART
12813 ; GFX90A-NEXT:    ; def v[2:9]
12814 ; GFX90A-NEXT:    ;;#ASMEND
12815 ; GFX90A-NEXT:    v_mov_b32_e32 v10, 0
12816 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v8
12817 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v9
12818 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v8
12819 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v9
12820 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[0:3], s[16:17] offset:16
12821 ; GFX90A-NEXT:    global_store_dwordx4 v10, v[6:9], s[16:17]
12822 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
12823 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
12824 ;
12825 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_0_7:
12826 ; GFX940:       ; %bb.0:
12827 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12828 ; GFX940-NEXT:    ;;#ASMSTART
12829 ; GFX940-NEXT:    ; def v[0:7]
12830 ; GFX940-NEXT:    ;;#ASMEND
12831 ; GFX940-NEXT:    v_mov_b32_e32 v10, 0
12832 ; GFX940-NEXT:    ;;#ASMSTART
12833 ; GFX940-NEXT:    ; def v[2:9]
12834 ; GFX940-NEXT:    ;;#ASMEND
12835 ; GFX940-NEXT:    s_nop 0
12836 ; GFX940-NEXT:    v_mov_b32_e32 v2, v8
12837 ; GFX940-NEXT:    v_mov_b32_e32 v3, v9
12838 ; GFX940-NEXT:    v_mov_b32_e32 v6, v8
12839 ; GFX940-NEXT:    v_mov_b32_e32 v7, v9
12840 ; GFX940-NEXT:    global_store_dwordx4 v10, v[0:3], s[0:1] offset:16 sc0 sc1
12841 ; GFX940-NEXT:    global_store_dwordx4 v10, v[6:9], s[0:1] sc0 sc1
12842 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
12843 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
12844   %vec0 = call <4 x i64> asm "; def $0", "=v"()
12845   %vec1 = call <4 x i64> asm "; def $0", "=v"()
12846   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 0, i32 7>
12847   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
12848   ret void
12849 }
12850
12851 define void @v_shuffle_v4i64_v4i64__7_7_1_7(ptr addrspace(1) inreg %ptr) {
12852 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_1_7:
12853 ; GFX900:       ; %bb.0:
12854 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12855 ; GFX900-NEXT:    ;;#ASMSTART
12856 ; GFX900-NEXT:    ; def v[0:7]
12857 ; GFX900-NEXT:    ;;#ASMEND
12858 ; GFX900-NEXT:    ;;#ASMSTART
12859 ; GFX900-NEXT:    ; def v[4:11]
12860 ; GFX900-NEXT:    ;;#ASMEND
12861 ; GFX900-NEXT:    v_mov_b32_e32 v12, 0
12862 ; GFX900-NEXT:    v_mov_b32_e32 v4, v10
12863 ; GFX900-NEXT:    v_mov_b32_e32 v5, v11
12864 ; GFX900-NEXT:    v_mov_b32_e32 v8, v10
12865 ; GFX900-NEXT:    v_mov_b32_e32 v9, v11
12866 ; GFX900-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
12867 ; GFX900-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
12868 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
12869 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
12870 ;
12871 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_1_7:
12872 ; GFX90A:       ; %bb.0:
12873 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12874 ; GFX90A-NEXT:    ;;#ASMSTART
12875 ; GFX90A-NEXT:    ; def v[0:7]
12876 ; GFX90A-NEXT:    ;;#ASMEND
12877 ; GFX90A-NEXT:    ;;#ASMSTART
12878 ; GFX90A-NEXT:    ; def v[4:11]
12879 ; GFX90A-NEXT:    ;;#ASMEND
12880 ; GFX90A-NEXT:    v_mov_b32_e32 v12, 0
12881 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v10
12882 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v11
12883 ; GFX90A-NEXT:    v_mov_b32_e32 v8, v10
12884 ; GFX90A-NEXT:    v_mov_b32_e32 v9, v11
12885 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[2:5], s[16:17] offset:16
12886 ; GFX90A-NEXT:    global_store_dwordx4 v12, v[8:11], s[16:17]
12887 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
12888 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
12889 ;
12890 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_1_7:
12891 ; GFX940:       ; %bb.0:
12892 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12893 ; GFX940-NEXT:    ;;#ASMSTART
12894 ; GFX940-NEXT:    ; def v[0:7]
12895 ; GFX940-NEXT:    ;;#ASMEND
12896 ; GFX940-NEXT:    v_mov_b32_e32 v12, 0
12897 ; GFX940-NEXT:    ;;#ASMSTART
12898 ; GFX940-NEXT:    ; def v[4:11]
12899 ; GFX940-NEXT:    ;;#ASMEND
12900 ; GFX940-NEXT:    s_nop 0
12901 ; GFX940-NEXT:    v_mov_b32_e32 v4, v10
12902 ; GFX940-NEXT:    v_mov_b32_e32 v5, v11
12903 ; GFX940-NEXT:    v_mov_b32_e32 v8, v10
12904 ; GFX940-NEXT:    v_mov_b32_e32 v9, v11
12905 ; GFX940-NEXT:    global_store_dwordx4 v12, v[2:5], s[0:1] offset:16 sc0 sc1
12906 ; GFX940-NEXT:    global_store_dwordx4 v12, v[8:11], s[0:1] sc0 sc1
12907 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
12908 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
12909   %vec0 = call <4 x i64> asm "; def $0", "=v"()
12910   %vec1 = call <4 x i64> asm "; def $0", "=v"()
12911   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 1, i32 7>
12912   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
12913   ret void
12914 }
12915
12916 define void @v_shuffle_v4i64_v4i64__7_7_2_7(ptr addrspace(1) inreg %ptr) {
12917 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_2_7:
12918 ; GFX900:       ; %bb.0:
12919 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12920 ; GFX900-NEXT:    ;;#ASMSTART
12921 ; GFX900-NEXT:    ; def v[0:7]
12922 ; GFX900-NEXT:    ;;#ASMEND
12923 ; GFX900-NEXT:    ;;#ASMSTART
12924 ; GFX900-NEXT:    ; def v[6:13]
12925 ; GFX900-NEXT:    ;;#ASMEND
12926 ; GFX900-NEXT:    v_mov_b32_e32 v14, 0
12927 ; GFX900-NEXT:    v_mov_b32_e32 v6, v12
12928 ; GFX900-NEXT:    v_mov_b32_e32 v7, v13
12929 ; GFX900-NEXT:    v_mov_b32_e32 v10, v12
12930 ; GFX900-NEXT:    v_mov_b32_e32 v11, v13
12931 ; GFX900-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
12932 ; GFX900-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
12933 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
12934 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
12935 ;
12936 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_2_7:
12937 ; GFX90A:       ; %bb.0:
12938 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12939 ; GFX90A-NEXT:    ;;#ASMSTART
12940 ; GFX90A-NEXT:    ; def v[0:7]
12941 ; GFX90A-NEXT:    ;;#ASMEND
12942 ; GFX90A-NEXT:    ;;#ASMSTART
12943 ; GFX90A-NEXT:    ; def v[6:13]
12944 ; GFX90A-NEXT:    ;;#ASMEND
12945 ; GFX90A-NEXT:    v_mov_b32_e32 v14, 0
12946 ; GFX90A-NEXT:    v_mov_b32_e32 v6, v12
12947 ; GFX90A-NEXT:    v_mov_b32_e32 v7, v13
12948 ; GFX90A-NEXT:    v_mov_b32_e32 v10, v12
12949 ; GFX90A-NEXT:    v_mov_b32_e32 v11, v13
12950 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[4:7], s[16:17] offset:16
12951 ; GFX90A-NEXT:    global_store_dwordx4 v14, v[10:13], s[16:17]
12952 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
12953 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
12954 ;
12955 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_2_7:
12956 ; GFX940:       ; %bb.0:
12957 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12958 ; GFX940-NEXT:    ;;#ASMSTART
12959 ; GFX940-NEXT:    ; def v[0:7]
12960 ; GFX940-NEXT:    ;;#ASMEND
12961 ; GFX940-NEXT:    v_mov_b32_e32 v14, 0
12962 ; GFX940-NEXT:    ;;#ASMSTART
12963 ; GFX940-NEXT:    ; def v[6:13]
12964 ; GFX940-NEXT:    ;;#ASMEND
12965 ; GFX940-NEXT:    s_nop 0
12966 ; GFX940-NEXT:    v_mov_b32_e32 v6, v12
12967 ; GFX940-NEXT:    v_mov_b32_e32 v7, v13
12968 ; GFX940-NEXT:    v_mov_b32_e32 v10, v12
12969 ; GFX940-NEXT:    v_mov_b32_e32 v11, v13
12970 ; GFX940-NEXT:    global_store_dwordx4 v14, v[4:7], s[0:1] offset:16 sc0 sc1
12971 ; GFX940-NEXT:    global_store_dwordx4 v14, v[10:13], s[0:1] sc0 sc1
12972 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
12973 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
12974   %vec0 = call <4 x i64> asm "; def $0", "=v"()
12975   %vec1 = call <4 x i64> asm "; def $0", "=v"()
12976   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 2, i32 7>
12977   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
12978   ret void
12979 }
12980
12981 define void @v_shuffle_v4i64_v4i64__7_7_3_7(ptr addrspace(1) inreg %ptr) {
12982 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_3_7:
12983 ; GFX900:       ; %bb.0:
12984 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
12985 ; GFX900-NEXT:    ;;#ASMSTART
12986 ; GFX900-NEXT:    ; def v[8:15]
12987 ; GFX900-NEXT:    ;;#ASMEND
12988 ; GFX900-NEXT:    v_mov_b32_e32 v16, 0
12989 ; GFX900-NEXT:    ;;#ASMSTART
12990 ; GFX900-NEXT:    ; def v[0:7]
12991 ; GFX900-NEXT:    ;;#ASMEND
12992 ; GFX900-NEXT:    v_mov_b32_e32 v12, v6
12993 ; GFX900-NEXT:    v_mov_b32_e32 v13, v7
12994 ; GFX900-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17] offset:16
12995 ; GFX900-NEXT:    s_nop 0
12996 ; GFX900-NEXT:    v_mov_b32_e32 v12, v14
12997 ; GFX900-NEXT:    v_mov_b32_e32 v13, v15
12998 ; GFX900-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
12999 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
13000 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
13001 ;
13002 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_3_7:
13003 ; GFX90A:       ; %bb.0:
13004 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13005 ; GFX90A-NEXT:    ;;#ASMSTART
13006 ; GFX90A-NEXT:    ; def v[8:15]
13007 ; GFX90A-NEXT:    ;;#ASMEND
13008 ; GFX90A-NEXT:    v_mov_b32_e32 v16, 0
13009 ; GFX90A-NEXT:    ;;#ASMSTART
13010 ; GFX90A-NEXT:    ; def v[0:7]
13011 ; GFX90A-NEXT:    ;;#ASMEND
13012 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v6
13013 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v7
13014 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17] offset:16
13015 ; GFX90A-NEXT:    s_nop 0
13016 ; GFX90A-NEXT:    v_mov_b32_e32 v12, v14
13017 ; GFX90A-NEXT:    v_mov_b32_e32 v13, v15
13018 ; GFX90A-NEXT:    global_store_dwordx4 v16, v[12:15], s[16:17]
13019 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
13020 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
13021 ;
13022 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_3_7:
13023 ; GFX940:       ; %bb.0:
13024 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13025 ; GFX940-NEXT:    ;;#ASMSTART
13026 ; GFX940-NEXT:    ; def v[8:15]
13027 ; GFX940-NEXT:    ;;#ASMEND
13028 ; GFX940-NEXT:    v_mov_b32_e32 v16, 0
13029 ; GFX940-NEXT:    ;;#ASMSTART
13030 ; GFX940-NEXT:    ; def v[0:7]
13031 ; GFX940-NEXT:    ;;#ASMEND
13032 ; GFX940-NEXT:    s_nop 0
13033 ; GFX940-NEXT:    v_mov_b32_e32 v12, v6
13034 ; GFX940-NEXT:    v_mov_b32_e32 v13, v7
13035 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] offset:16 sc0 sc1
13036 ; GFX940-NEXT:    s_nop 1
13037 ; GFX940-NEXT:    v_mov_b32_e32 v12, v14
13038 ; GFX940-NEXT:    v_mov_b32_e32 v13, v15
13039 ; GFX940-NEXT:    global_store_dwordx4 v16, v[12:15], s[0:1] sc0 sc1
13040 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
13041 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
13042   %vec0 = call <4 x i64> asm "; def $0", "=v"()
13043   %vec1 = call <4 x i64> asm "; def $0", "=v"()
13044   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 3, i32 7>
13045   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
13046   ret void
13047 }
13048
13049 define void @v_shuffle_v4i64_v4i64__7_7_4_7(ptr addrspace(1) inreg %ptr) {
13050 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_4_7:
13051 ; GFX900:       ; %bb.0:
13052 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13053 ; GFX900-NEXT:    ;;#ASMSTART
13054 ; GFX900-NEXT:    ; def v[0:7]
13055 ; GFX900-NEXT:    ;;#ASMEND
13056 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
13057 ; GFX900-NEXT:    v_mov_b32_e32 v2, v6
13058 ; GFX900-NEXT:    v_mov_b32_e32 v3, v7
13059 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
13060 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
13061 ; GFX900-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
13062 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
13063 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
13064 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
13065 ;
13066 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_4_7:
13067 ; GFX90A:       ; %bb.0:
13068 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13069 ; GFX90A-NEXT:    ;;#ASMSTART
13070 ; GFX90A-NEXT:    ; def v[0:7]
13071 ; GFX90A-NEXT:    ;;#ASMEND
13072 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
13073 ; GFX90A-NEXT:    v_mov_b32_e32 v2, v6
13074 ; GFX90A-NEXT:    v_mov_b32_e32 v3, v7
13075 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
13076 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
13077 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[0:3], s[16:17] offset:16
13078 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
13079 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
13080 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
13081 ;
13082 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_4_7:
13083 ; GFX940:       ; %bb.0:
13084 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13085 ; GFX940-NEXT:    ;;#ASMSTART
13086 ; GFX940-NEXT:    ; def v[0:7]
13087 ; GFX940-NEXT:    ;;#ASMEND
13088 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
13089 ; GFX940-NEXT:    v_mov_b32_e32 v2, v6
13090 ; GFX940-NEXT:    v_mov_b32_e32 v3, v7
13091 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
13092 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
13093 ; GFX940-NEXT:    global_store_dwordx4 v8, v[0:3], s[0:1] offset:16 sc0 sc1
13094 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
13095 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
13096 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
13097   %vec0 = call <4 x i64> asm "; def $0", "=v"()
13098   %vec1 = call <4 x i64> asm "; def $0", "=v"()
13099   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 4, i32 7>
13100   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
13101   ret void
13102 }
13103
13104 define void @v_shuffle_v4i64_v4i64__7_7_5_7(ptr addrspace(1) inreg %ptr) {
13105 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_5_7:
13106 ; GFX900:       ; %bb.0:
13107 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13108 ; GFX900-NEXT:    ;;#ASMSTART
13109 ; GFX900-NEXT:    ; def v[0:7]
13110 ; GFX900-NEXT:    ;;#ASMEND
13111 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
13112 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
13113 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
13114 ; GFX900-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
13115 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
13116 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
13117 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
13118 ;
13119 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_5_7:
13120 ; GFX90A:       ; %bb.0:
13121 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13122 ; GFX90A-NEXT:    ;;#ASMSTART
13123 ; GFX90A-NEXT:    ; def v[0:7]
13124 ; GFX90A-NEXT:    ;;#ASMEND
13125 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
13126 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
13127 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
13128 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[2:5], s[16:17] offset:16
13129 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
13130 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
13131 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
13132 ;
13133 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_5_7:
13134 ; GFX940:       ; %bb.0:
13135 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13136 ; GFX940-NEXT:    ;;#ASMSTART
13137 ; GFX940-NEXT:    ; def v[0:7]
13138 ; GFX940-NEXT:    ;;#ASMEND
13139 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
13140 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
13141 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
13142 ; GFX940-NEXT:    global_store_dwordx4 v8, v[2:5], s[0:1] offset:16 sc0 sc1
13143 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
13144 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
13145 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
13146   %vec0 = call <4 x i64> asm "; def $0", "=v"()
13147   %vec1 = call <4 x i64> asm "; def $0", "=v"()
13148   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 5, i32 7>
13149   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
13150   ret void
13151 }
13152
13153 define void @v_shuffle_v4i64_v4i64__7_7_6_7(ptr addrspace(1) inreg %ptr) {
13154 ; GFX900-LABEL: v_shuffle_v4i64_v4i64__7_7_6_7:
13155 ; GFX900:       ; %bb.0:
13156 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13157 ; GFX900-NEXT:    v_mov_b32_e32 v8, 0
13158 ; GFX900-NEXT:    ;;#ASMSTART
13159 ; GFX900-NEXT:    ; def v[0:7]
13160 ; GFX900-NEXT:    ;;#ASMEND
13161 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
13162 ; GFX900-NEXT:    s_nop 0
13163 ; GFX900-NEXT:    v_mov_b32_e32 v4, v6
13164 ; GFX900-NEXT:    v_mov_b32_e32 v5, v7
13165 ; GFX900-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
13166 ; GFX900-NEXT:    s_waitcnt vmcnt(0)
13167 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
13168 ;
13169 ; GFX90A-LABEL: v_shuffle_v4i64_v4i64__7_7_6_7:
13170 ; GFX90A:       ; %bb.0:
13171 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13172 ; GFX90A-NEXT:    v_mov_b32_e32 v8, 0
13173 ; GFX90A-NEXT:    ;;#ASMSTART
13174 ; GFX90A-NEXT:    ; def v[0:7]
13175 ; GFX90A-NEXT:    ;;#ASMEND
13176 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17] offset:16
13177 ; GFX90A-NEXT:    s_nop 0
13178 ; GFX90A-NEXT:    v_mov_b32_e32 v4, v6
13179 ; GFX90A-NEXT:    v_mov_b32_e32 v5, v7
13180 ; GFX90A-NEXT:    global_store_dwordx4 v8, v[4:7], s[16:17]
13181 ; GFX90A-NEXT:    s_waitcnt vmcnt(0)
13182 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
13183 ;
13184 ; GFX940-LABEL: v_shuffle_v4i64_v4i64__7_7_6_7:
13185 ; GFX940:       ; %bb.0:
13186 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13187 ; GFX940-NEXT:    v_mov_b32_e32 v8, 0
13188 ; GFX940-NEXT:    ;;#ASMSTART
13189 ; GFX940-NEXT:    ; def v[0:7]
13190 ; GFX940-NEXT:    ;;#ASMEND
13191 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] offset:16 sc0 sc1
13192 ; GFX940-NEXT:    s_nop 1
13193 ; GFX940-NEXT:    v_mov_b32_e32 v4, v6
13194 ; GFX940-NEXT:    v_mov_b32_e32 v5, v7
13195 ; GFX940-NEXT:    global_store_dwordx4 v8, v[4:7], s[0:1] sc0 sc1
13196 ; GFX940-NEXT:    s_waitcnt vmcnt(0)
13197 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
13198   %vec0 = call <4 x i64> asm "; def $0", "=v"()
13199   %vec1 = call <4 x i64> asm "; def $0", "=v"()
13200   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 6, i32 7>
13201   store <4 x i64> %shuf, ptr addrspace(1) %ptr, align 32
13202   ret void
13203 }
13204
13205 define void @s_shuffle_v4i64_v4i64__u_u_u_u() {
13206 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__u_u_u_u:
13207 ; GFX9:       ; %bb.0:
13208 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13209 ; GFX9-NEXT:    ;;#ASMSTART
13210 ; GFX9-NEXT:    ; use s[8:15]
13211 ; GFX9-NEXT:    ;;#ASMEND
13212 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
13213   %vec0 = call <4 x i64> asm "; def $0", "=s"()
13214   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> poison
13215   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
13216   ret void
13217 }
13218
13219 define void @s_shuffle_v4i64_v4i64__0_u_u_u() {
13220 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__0_u_u_u:
13221 ; GFX900:       ; %bb.0:
13222 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13223 ; GFX900-NEXT:    ;;#ASMSTART
13224 ; GFX900-NEXT:    ; def s[8:15]
13225 ; GFX900-NEXT:    ;;#ASMEND
13226 ; GFX900-NEXT:    ;;#ASMSTART
13227 ; GFX900-NEXT:    ; use s[8:15]
13228 ; GFX900-NEXT:    ;;#ASMEND
13229 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
13230 ;
13231 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__0_u_u_u:
13232 ; GFX90A:       ; %bb.0:
13233 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13234 ; GFX90A-NEXT:    ;;#ASMSTART
13235 ; GFX90A-NEXT:    ; def s[8:15]
13236 ; GFX90A-NEXT:    ;;#ASMEND
13237 ; GFX90A-NEXT:    ;;#ASMSTART
13238 ; GFX90A-NEXT:    ; use s[8:15]
13239 ; GFX90A-NEXT:    ;;#ASMEND
13240 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
13241 ;
13242 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__0_u_u_u:
13243 ; GFX940:       ; %bb.0:
13244 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13245 ; GFX940-NEXT:    ;;#ASMSTART
13246 ; GFX940-NEXT:    ; def s[8:15]
13247 ; GFX940-NEXT:    ;;#ASMEND
13248 ; GFX940-NEXT:    s_nop 0
13249 ; GFX940-NEXT:    ;;#ASMSTART
13250 ; GFX940-NEXT:    ; use s[8:15]
13251 ; GFX940-NEXT:    ;;#ASMEND
13252 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
13253   %vec0 = call <4 x i64> asm "; def $0", "=s"()
13254   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 0, i32 poison, i32 poison, i32 poison>
13255   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
13256   ret void
13257 }
13258
13259 define void @s_shuffle_v4i64_v4i64__1_u_u_u() {
13260 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__1_u_u_u:
13261 ; GFX900:       ; %bb.0:
13262 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13263 ; GFX900-NEXT:    ;;#ASMSTART
13264 ; GFX900-NEXT:    ; def s[4:11]
13265 ; GFX900-NEXT:    ;;#ASMEND
13266 ; GFX900-NEXT:    s_mov_b32 s8, s6
13267 ; GFX900-NEXT:    s_mov_b32 s9, s7
13268 ; GFX900-NEXT:    ;;#ASMSTART
13269 ; GFX900-NEXT:    ; use s[8:15]
13270 ; GFX900-NEXT:    ;;#ASMEND
13271 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
13272 ;
13273 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__1_u_u_u:
13274 ; GFX90A:       ; %bb.0:
13275 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13276 ; GFX90A-NEXT:    ;;#ASMSTART
13277 ; GFX90A-NEXT:    ; def s[4:11]
13278 ; GFX90A-NEXT:    ;;#ASMEND
13279 ; GFX90A-NEXT:    s_mov_b32 s8, s6
13280 ; GFX90A-NEXT:    s_mov_b32 s9, s7
13281 ; GFX90A-NEXT:    ;;#ASMSTART
13282 ; GFX90A-NEXT:    ; use s[8:15]
13283 ; GFX90A-NEXT:    ;;#ASMEND
13284 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
13285 ;
13286 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__1_u_u_u:
13287 ; GFX940:       ; %bb.0:
13288 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13289 ; GFX940-NEXT:    ;;#ASMSTART
13290 ; GFX940-NEXT:    ; def s[0:7]
13291 ; GFX940-NEXT:    ;;#ASMEND
13292 ; GFX940-NEXT:    s_mov_b32 s8, s2
13293 ; GFX940-NEXT:    s_mov_b32 s9, s3
13294 ; GFX940-NEXT:    ;;#ASMSTART
13295 ; GFX940-NEXT:    ; use s[8:15]
13296 ; GFX940-NEXT:    ;;#ASMEND
13297 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
13298   %vec0 = call <4 x i64> asm "; def $0", "=s"()
13299   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 1, i32 poison, i32 poison, i32 poison>
13300   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
13301   ret void
13302 }
13303
13304 define void @s_shuffle_v4i64_v4i64__2_u_u_u() {
13305 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__2_u_u_u:
13306 ; GFX900:       ; %bb.0:
13307 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13308 ; GFX900-NEXT:    ;;#ASMSTART
13309 ; GFX900-NEXT:    ; def s[4:11]
13310 ; GFX900-NEXT:    ;;#ASMEND
13311 ; GFX900-NEXT:    ;;#ASMSTART
13312 ; GFX900-NEXT:    ; use s[8:15]
13313 ; GFX900-NEXT:    ;;#ASMEND
13314 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
13315 ;
13316 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__2_u_u_u:
13317 ; GFX90A:       ; %bb.0:
13318 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13319 ; GFX90A-NEXT:    ;;#ASMSTART
13320 ; GFX90A-NEXT:    ; def s[4:11]
13321 ; GFX90A-NEXT:    ;;#ASMEND
13322 ; GFX90A-NEXT:    ;;#ASMSTART
13323 ; GFX90A-NEXT:    ; use s[8:15]
13324 ; GFX90A-NEXT:    ;;#ASMEND
13325 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
13326 ;
13327 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__2_u_u_u:
13328 ; GFX940:       ; %bb.0:
13329 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13330 ; GFX940-NEXT:    ;;#ASMSTART
13331 ; GFX940-NEXT:    ; def s[0:7]
13332 ; GFX940-NEXT:    ;;#ASMEND
13333 ; GFX940-NEXT:    s_mov_b32 s8, s4
13334 ; GFX940-NEXT:    s_mov_b32 s9, s5
13335 ; GFX940-NEXT:    ;;#ASMSTART
13336 ; GFX940-NEXT:    ; use s[8:15]
13337 ; GFX940-NEXT:    ;;#ASMEND
13338 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
13339   %vec0 = call <4 x i64> asm "; def $0", "=s"()
13340   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 2, i32 poison, i32 poison, i32 poison>
13341   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
13342   ret void
13343 }
13344
13345 define void @s_shuffle_v4i64_v4i64__3_u_u_u() {
13346 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__3_u_u_u:
13347 ; GFX900:       ; %bb.0:
13348 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13349 ; GFX900-NEXT:    ;;#ASMSTART
13350 ; GFX900-NEXT:    ; def s[4:11]
13351 ; GFX900-NEXT:    ;;#ASMEND
13352 ; GFX900-NEXT:    s_mov_b32 s8, s10
13353 ; GFX900-NEXT:    s_mov_b32 s9, s11
13354 ; GFX900-NEXT:    ;;#ASMSTART
13355 ; GFX900-NEXT:    ; use s[8:15]
13356 ; GFX900-NEXT:    ;;#ASMEND
13357 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
13358 ;
13359 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__3_u_u_u:
13360 ; GFX90A:       ; %bb.0:
13361 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13362 ; GFX90A-NEXT:    ;;#ASMSTART
13363 ; GFX90A-NEXT:    ; def s[4:11]
13364 ; GFX90A-NEXT:    ;;#ASMEND
13365 ; GFX90A-NEXT:    s_mov_b32 s8, s10
13366 ; GFX90A-NEXT:    s_mov_b32 s9, s11
13367 ; GFX90A-NEXT:    ;;#ASMSTART
13368 ; GFX90A-NEXT:    ; use s[8:15]
13369 ; GFX90A-NEXT:    ;;#ASMEND
13370 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
13371 ;
13372 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__3_u_u_u:
13373 ; GFX940:       ; %bb.0:
13374 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13375 ; GFX940-NEXT:    ;;#ASMSTART
13376 ; GFX940-NEXT:    ; def s[0:7]
13377 ; GFX940-NEXT:    ;;#ASMEND
13378 ; GFX940-NEXT:    s_mov_b32 s8, s6
13379 ; GFX940-NEXT:    s_mov_b32 s9, s7
13380 ; GFX940-NEXT:    ;;#ASMSTART
13381 ; GFX940-NEXT:    ; use s[8:15]
13382 ; GFX940-NEXT:    ;;#ASMEND
13383 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
13384   %vec0 = call <4 x i64> asm "; def $0", "=s"()
13385   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 3, i32 poison, i32 poison, i32 poison>
13386   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
13387   ret void
13388 }
13389
13390 define void @s_shuffle_v4i64_v4i64__4_u_u_u() {
13391 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__4_u_u_u:
13392 ; GFX9:       ; %bb.0:
13393 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13394 ; GFX9-NEXT:    ;;#ASMSTART
13395 ; GFX9-NEXT:    ; use s[8:15]
13396 ; GFX9-NEXT:    ;;#ASMEND
13397 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
13398   %vec0 = call <4 x i64> asm "; def $0", "=s"()
13399   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 4, i32 poison, i32 poison, i32 poison>
13400   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
13401   ret void
13402 }
13403
13404 define void @s_shuffle_v4i64_v4i64__5_u_u_u() {
13405 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__5_u_u_u:
13406 ; GFX900:       ; %bb.0:
13407 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13408 ; GFX900-NEXT:    ;;#ASMSTART
13409 ; GFX900-NEXT:    ; def s[4:11]
13410 ; GFX900-NEXT:    ;;#ASMEND
13411 ; GFX900-NEXT:    s_mov_b32 s8, s6
13412 ; GFX900-NEXT:    s_mov_b32 s9, s7
13413 ; GFX900-NEXT:    ;;#ASMSTART
13414 ; GFX900-NEXT:    ; use s[8:15]
13415 ; GFX900-NEXT:    ;;#ASMEND
13416 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
13417 ;
13418 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__5_u_u_u:
13419 ; GFX90A:       ; %bb.0:
13420 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13421 ; GFX90A-NEXT:    ;;#ASMSTART
13422 ; GFX90A-NEXT:    ; def s[4:11]
13423 ; GFX90A-NEXT:    ;;#ASMEND
13424 ; GFX90A-NEXT:    s_mov_b32 s8, s6
13425 ; GFX90A-NEXT:    s_mov_b32 s9, s7
13426 ; GFX90A-NEXT:    ;;#ASMSTART
13427 ; GFX90A-NEXT:    ; use s[8:15]
13428 ; GFX90A-NEXT:    ;;#ASMEND
13429 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
13430 ;
13431 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__5_u_u_u:
13432 ; GFX940:       ; %bb.0:
13433 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13434 ; GFX940-NEXT:    ;;#ASMSTART
13435 ; GFX940-NEXT:    ; def s[0:7]
13436 ; GFX940-NEXT:    ;;#ASMEND
13437 ; GFX940-NEXT:    s_mov_b32 s8, s2
13438 ; GFX940-NEXT:    s_mov_b32 s9, s3
13439 ; GFX940-NEXT:    ;;#ASMSTART
13440 ; GFX940-NEXT:    ; use s[8:15]
13441 ; GFX940-NEXT:    ;;#ASMEND
13442 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
13443   %vec0 = call <4 x i64> asm "; def $0", "=s"()
13444   %vec1 = call <4 x i64> asm "; def $0", "=s"()
13445   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 5, i32 poison, i32 poison, i32 poison>
13446   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
13447   ret void
13448 }
13449
13450 define void @s_shuffle_v4i64_v4i64__6_u_u_u() {
13451 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__6_u_u_u:
13452 ; GFX900:       ; %bb.0:
13453 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13454 ; GFX900-NEXT:    ;;#ASMSTART
13455 ; GFX900-NEXT:    ; def s[4:11]
13456 ; GFX900-NEXT:    ;;#ASMEND
13457 ; GFX900-NEXT:    ;;#ASMSTART
13458 ; GFX900-NEXT:    ; use s[8:15]
13459 ; GFX900-NEXT:    ;;#ASMEND
13460 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
13461 ;
13462 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__6_u_u_u:
13463 ; GFX90A:       ; %bb.0:
13464 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13465 ; GFX90A-NEXT:    ;;#ASMSTART
13466 ; GFX90A-NEXT:    ; def s[4:11]
13467 ; GFX90A-NEXT:    ;;#ASMEND
13468 ; GFX90A-NEXT:    ;;#ASMSTART
13469 ; GFX90A-NEXT:    ; use s[8:15]
13470 ; GFX90A-NEXT:    ;;#ASMEND
13471 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
13472 ;
13473 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__6_u_u_u:
13474 ; GFX940:       ; %bb.0:
13475 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13476 ; GFX940-NEXT:    ;;#ASMSTART
13477 ; GFX940-NEXT:    ; def s[0:7]
13478 ; GFX940-NEXT:    ;;#ASMEND
13479 ; GFX940-NEXT:    s_mov_b32 s8, s4
13480 ; GFX940-NEXT:    s_mov_b32 s9, s5
13481 ; GFX940-NEXT:    ;;#ASMSTART
13482 ; GFX940-NEXT:    ; use s[8:15]
13483 ; GFX940-NEXT:    ;;#ASMEND
13484 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
13485   %vec0 = call <4 x i64> asm "; def $0", "=s"()
13486   %vec1 = call <4 x i64> asm "; def $0", "=s"()
13487   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 6, i32 poison, i32 poison, i32 poison>
13488   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
13489   ret void
13490 }
13491
13492 define void @s_shuffle_v4i64_v4i64__7_u_u_u() {
13493 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_u_u_u:
13494 ; GFX900:       ; %bb.0:
13495 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13496 ; GFX900-NEXT:    ;;#ASMSTART
13497 ; GFX900-NEXT:    ; def s[4:11]
13498 ; GFX900-NEXT:    ;;#ASMEND
13499 ; GFX900-NEXT:    s_mov_b32 s8, s10
13500 ; GFX900-NEXT:    s_mov_b32 s9, s11
13501 ; GFX900-NEXT:    ;;#ASMSTART
13502 ; GFX900-NEXT:    ; use s[8:15]
13503 ; GFX900-NEXT:    ;;#ASMEND
13504 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
13505 ;
13506 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_u_u_u:
13507 ; GFX90A:       ; %bb.0:
13508 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13509 ; GFX90A-NEXT:    ;;#ASMSTART
13510 ; GFX90A-NEXT:    ; def s[4:11]
13511 ; GFX90A-NEXT:    ;;#ASMEND
13512 ; GFX90A-NEXT:    s_mov_b32 s8, s10
13513 ; GFX90A-NEXT:    s_mov_b32 s9, s11
13514 ; GFX90A-NEXT:    ;;#ASMSTART
13515 ; GFX90A-NEXT:    ; use s[8:15]
13516 ; GFX90A-NEXT:    ;;#ASMEND
13517 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
13518 ;
13519 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_u_u_u:
13520 ; GFX940:       ; %bb.0:
13521 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13522 ; GFX940-NEXT:    ;;#ASMSTART
13523 ; GFX940-NEXT:    ; def s[0:7]
13524 ; GFX940-NEXT:    ;;#ASMEND
13525 ; GFX940-NEXT:    s_mov_b32 s8, s6
13526 ; GFX940-NEXT:    s_mov_b32 s9, s7
13527 ; GFX940-NEXT:    ;;#ASMSTART
13528 ; GFX940-NEXT:    ; use s[8:15]
13529 ; GFX940-NEXT:    ;;#ASMEND
13530 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
13531   %vec0 = call <4 x i64> asm "; def $0", "=s"()
13532   %vec1 = call <4 x i64> asm "; def $0", "=s"()
13533   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 poison, i32 poison, i32 poison>
13534   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
13535   ret void
13536 }
13537
13538 define void @s_shuffle_v4i64_v4i64__7_0_u_u() {
13539 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_0_u_u:
13540 ; GFX900:       ; %bb.0:
13541 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13542 ; GFX900-NEXT:    ;;#ASMSTART
13543 ; GFX900-NEXT:    ; def s[4:11]
13544 ; GFX900-NEXT:    ;;#ASMEND
13545 ; GFX900-NEXT:    ;;#ASMSTART
13546 ; GFX900-NEXT:    ; def s[8:15]
13547 ; GFX900-NEXT:    ;;#ASMEND
13548 ; GFX900-NEXT:    s_mov_b32 s8, s14
13549 ; GFX900-NEXT:    s_mov_b32 s9, s15
13550 ; GFX900-NEXT:    s_mov_b32 s10, s4
13551 ; GFX900-NEXT:    s_mov_b32 s11, s5
13552 ; GFX900-NEXT:    ;;#ASMSTART
13553 ; GFX900-NEXT:    ; use s[8:15]
13554 ; GFX900-NEXT:    ;;#ASMEND
13555 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
13556 ;
13557 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_0_u_u:
13558 ; GFX90A:       ; %bb.0:
13559 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13560 ; GFX90A-NEXT:    ;;#ASMSTART
13561 ; GFX90A-NEXT:    ; def s[4:11]
13562 ; GFX90A-NEXT:    ;;#ASMEND
13563 ; GFX90A-NEXT:    ;;#ASMSTART
13564 ; GFX90A-NEXT:    ; def s[8:15]
13565 ; GFX90A-NEXT:    ;;#ASMEND
13566 ; GFX90A-NEXT:    s_mov_b32 s8, s14
13567 ; GFX90A-NEXT:    s_mov_b32 s9, s15
13568 ; GFX90A-NEXT:    s_mov_b32 s10, s4
13569 ; GFX90A-NEXT:    s_mov_b32 s11, s5
13570 ; GFX90A-NEXT:    ;;#ASMSTART
13571 ; GFX90A-NEXT:    ; use s[8:15]
13572 ; GFX90A-NEXT:    ;;#ASMEND
13573 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
13574 ;
13575 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_0_u_u:
13576 ; GFX940:       ; %bb.0:
13577 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13578 ; GFX940-NEXT:    ;;#ASMSTART
13579 ; GFX940-NEXT:    ; def s[0:7]
13580 ; GFX940-NEXT:    ;;#ASMEND
13581 ; GFX940-NEXT:    s_nop 0
13582 ; GFX940-NEXT:    ;;#ASMSTART
13583 ; GFX940-NEXT:    ; def s[4:11]
13584 ; GFX940-NEXT:    ;;#ASMEND
13585 ; GFX940-NEXT:    s_mov_b32 s8, s10
13586 ; GFX940-NEXT:    s_mov_b32 s9, s11
13587 ; GFX940-NEXT:    s_mov_b32 s10, s0
13588 ; GFX940-NEXT:    s_mov_b32 s11, s1
13589 ; GFX940-NEXT:    ;;#ASMSTART
13590 ; GFX940-NEXT:    ; use s[8:15]
13591 ; GFX940-NEXT:    ;;#ASMEND
13592 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
13593   %vec0 = call <4 x i64> asm "; def $0", "=s"()
13594   %vec1 = call <4 x i64> asm "; def $0", "=s"()
13595   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 0, i32 poison, i32 poison>
13596   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
13597   ret void
13598 }
13599
13600 define void @s_shuffle_v4i64_v4i64__7_1_u_u() {
13601 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_1_u_u:
13602 ; GFX900:       ; %bb.0:
13603 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13604 ; GFX900-NEXT:    ;;#ASMSTART
13605 ; GFX900-NEXT:    ; def s[8:15]
13606 ; GFX900-NEXT:    ;;#ASMEND
13607 ; GFX900-NEXT:    ;;#ASMSTART
13608 ; GFX900-NEXT:    ; def s[12:19]
13609 ; GFX900-NEXT:    ;;#ASMEND
13610 ; GFX900-NEXT:    s_mov_b32 s8, s18
13611 ; GFX900-NEXT:    s_mov_b32 s9, s19
13612 ; GFX900-NEXT:    ;;#ASMSTART
13613 ; GFX900-NEXT:    ; use s[8:15]
13614 ; GFX900-NEXT:    ;;#ASMEND
13615 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
13616 ;
13617 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_1_u_u:
13618 ; GFX90A:       ; %bb.0:
13619 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13620 ; GFX90A-NEXT:    ;;#ASMSTART
13621 ; GFX90A-NEXT:    ; def s[8:15]
13622 ; GFX90A-NEXT:    ;;#ASMEND
13623 ; GFX90A-NEXT:    ;;#ASMSTART
13624 ; GFX90A-NEXT:    ; def s[12:19]
13625 ; GFX90A-NEXT:    ;;#ASMEND
13626 ; GFX90A-NEXT:    s_mov_b32 s8, s18
13627 ; GFX90A-NEXT:    s_mov_b32 s9, s19
13628 ; GFX90A-NEXT:    ;;#ASMSTART
13629 ; GFX90A-NEXT:    ; use s[8:15]
13630 ; GFX90A-NEXT:    ;;#ASMEND
13631 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
13632 ;
13633 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_1_u_u:
13634 ; GFX940:       ; %bb.0:
13635 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13636 ; GFX940-NEXT:    ;;#ASMSTART
13637 ; GFX940-NEXT:    ; def s[8:15]
13638 ; GFX940-NEXT:    ;;#ASMEND
13639 ; GFX940-NEXT:    ;;#ASMSTART
13640 ; GFX940-NEXT:    ; def s[0:7]
13641 ; GFX940-NEXT:    ;;#ASMEND
13642 ; GFX940-NEXT:    s_mov_b32 s8, s6
13643 ; GFX940-NEXT:    s_mov_b32 s9, s7
13644 ; GFX940-NEXT:    ;;#ASMSTART
13645 ; GFX940-NEXT:    ; use s[8:15]
13646 ; GFX940-NEXT:    ;;#ASMEND
13647 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
13648   %vec0 = call <4 x i64> asm "; def $0", "=s"()
13649   %vec1 = call <4 x i64> asm "; def $0", "=s"()
13650   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 1, i32 poison, i32 poison>
13651   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
13652   ret void
13653 }
13654
13655 define void @s_shuffle_v4i64_v4i64__7_2_u_u() {
13656 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_2_u_u:
13657 ; GFX900:       ; %bb.0:
13658 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13659 ; GFX900-NEXT:    ;;#ASMSTART
13660 ; GFX900-NEXT:    ; def s[8:15]
13661 ; GFX900-NEXT:    ;;#ASMEND
13662 ; GFX900-NEXT:    ;;#ASMSTART
13663 ; GFX900-NEXT:    ; def s[4:11]
13664 ; GFX900-NEXT:    ;;#ASMEND
13665 ; GFX900-NEXT:    s_mov_b32 s8, s10
13666 ; GFX900-NEXT:    s_mov_b32 s9, s11
13667 ; GFX900-NEXT:    s_mov_b32 s10, s12
13668 ; GFX900-NEXT:    s_mov_b32 s11, s13
13669 ; GFX900-NEXT:    ;;#ASMSTART
13670 ; GFX900-NEXT:    ; use s[8:15]
13671 ; GFX900-NEXT:    ;;#ASMEND
13672 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
13673 ;
13674 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_2_u_u:
13675 ; GFX90A:       ; %bb.0:
13676 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13677 ; GFX90A-NEXT:    ;;#ASMSTART
13678 ; GFX90A-NEXT:    ; def s[8:15]
13679 ; GFX90A-NEXT:    ;;#ASMEND
13680 ; GFX90A-NEXT:    ;;#ASMSTART
13681 ; GFX90A-NEXT:    ; def s[4:11]
13682 ; GFX90A-NEXT:    ;;#ASMEND
13683 ; GFX90A-NEXT:    s_mov_b32 s8, s10
13684 ; GFX90A-NEXT:    s_mov_b32 s9, s11
13685 ; GFX90A-NEXT:    s_mov_b32 s10, s12
13686 ; GFX90A-NEXT:    s_mov_b32 s11, s13
13687 ; GFX90A-NEXT:    ;;#ASMSTART
13688 ; GFX90A-NEXT:    ; use s[8:15]
13689 ; GFX90A-NEXT:    ;;#ASMEND
13690 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
13691 ;
13692 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_2_u_u:
13693 ; GFX940:       ; %bb.0:
13694 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13695 ; GFX940-NEXT:    ;;#ASMSTART
13696 ; GFX940-NEXT:    ; def s[8:15]
13697 ; GFX940-NEXT:    ;;#ASMEND
13698 ; GFX940-NEXT:    ;;#ASMSTART
13699 ; GFX940-NEXT:    ; def s[0:7]
13700 ; GFX940-NEXT:    ;;#ASMEND
13701 ; GFX940-NEXT:    s_mov_b32 s8, s14
13702 ; GFX940-NEXT:    s_mov_b32 s9, s15
13703 ; GFX940-NEXT:    s_mov_b32 s10, s4
13704 ; GFX940-NEXT:    s_mov_b32 s11, s5
13705 ; GFX940-NEXT:    ;;#ASMSTART
13706 ; GFX940-NEXT:    ; use s[8:15]
13707 ; GFX940-NEXT:    ;;#ASMEND
13708 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
13709   %vec0 = call <4 x i64> asm "; def $0", "=s"()
13710   %vec1 = call <4 x i64> asm "; def $0", "=s"()
13711   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 2, i32 poison, i32 poison>
13712   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
13713   ret void
13714 }
13715
13716 define void @s_shuffle_v4i64_v4i64__7_3_u_u() {
13717 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_3_u_u:
13718 ; GFX900:       ; %bb.0:
13719 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13720 ; GFX900-NEXT:    ;;#ASMSTART
13721 ; GFX900-NEXT:    ; def s[4:11]
13722 ; GFX900-NEXT:    ;;#ASMEND
13723 ; GFX900-NEXT:    ;;#ASMSTART
13724 ; GFX900-NEXT:    ; def s[12:19]
13725 ; GFX900-NEXT:    ;;#ASMEND
13726 ; GFX900-NEXT:    s_mov_b32 s8, s18
13727 ; GFX900-NEXT:    s_mov_b32 s9, s19
13728 ; GFX900-NEXT:    ;;#ASMSTART
13729 ; GFX900-NEXT:    ; use s[8:15]
13730 ; GFX900-NEXT:    ;;#ASMEND
13731 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
13732 ;
13733 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_3_u_u:
13734 ; GFX90A:       ; %bb.0:
13735 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13736 ; GFX90A-NEXT:    ;;#ASMSTART
13737 ; GFX90A-NEXT:    ; def s[4:11]
13738 ; GFX90A-NEXT:    ;;#ASMEND
13739 ; GFX90A-NEXT:    ;;#ASMSTART
13740 ; GFX90A-NEXT:    ; def s[12:19]
13741 ; GFX90A-NEXT:    ;;#ASMEND
13742 ; GFX90A-NEXT:    s_mov_b32 s8, s18
13743 ; GFX90A-NEXT:    s_mov_b32 s9, s19
13744 ; GFX90A-NEXT:    ;;#ASMSTART
13745 ; GFX90A-NEXT:    ; use s[8:15]
13746 ; GFX90A-NEXT:    ;;#ASMEND
13747 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
13748 ;
13749 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_3_u_u:
13750 ; GFX940:       ; %bb.0:
13751 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13752 ; GFX940-NEXT:    ;;#ASMSTART
13753 ; GFX940-NEXT:    ; def s[8:15]
13754 ; GFX940-NEXT:    ;;#ASMEND
13755 ; GFX940-NEXT:    ;;#ASMSTART
13756 ; GFX940-NEXT:    ; def s[0:7]
13757 ; GFX940-NEXT:    ;;#ASMEND
13758 ; GFX940-NEXT:    s_mov_b32 s8, s14
13759 ; GFX940-NEXT:    s_mov_b32 s9, s15
13760 ; GFX940-NEXT:    s_mov_b32 s10, s6
13761 ; GFX940-NEXT:    s_mov_b32 s11, s7
13762 ; GFX940-NEXT:    ;;#ASMSTART
13763 ; GFX940-NEXT:    ; use s[8:15]
13764 ; GFX940-NEXT:    ;;#ASMEND
13765 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
13766   %vec0 = call <4 x i64> asm "; def $0", "=s"()
13767   %vec1 = call <4 x i64> asm "; def $0", "=s"()
13768   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 3, i32 poison, i32 poison>
13769   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
13770   ret void
13771 }
13772
13773 define void @s_shuffle_v4i64_v4i64__7_4_u_u() {
13774 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_4_u_u:
13775 ; GFX900:       ; %bb.0:
13776 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13777 ; GFX900-NEXT:    ;;#ASMSTART
13778 ; GFX900-NEXT:    ; def s[4:11]
13779 ; GFX900-NEXT:    ;;#ASMEND
13780 ; GFX900-NEXT:    s_mov_b32 s8, s10
13781 ; GFX900-NEXT:    s_mov_b32 s9, s11
13782 ; GFX900-NEXT:    s_mov_b32 s10, s4
13783 ; GFX900-NEXT:    s_mov_b32 s11, s5
13784 ; GFX900-NEXT:    ;;#ASMSTART
13785 ; GFX900-NEXT:    ; use s[8:15]
13786 ; GFX900-NEXT:    ;;#ASMEND
13787 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
13788 ;
13789 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_4_u_u:
13790 ; GFX90A:       ; %bb.0:
13791 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13792 ; GFX90A-NEXT:    ;;#ASMSTART
13793 ; GFX90A-NEXT:    ; def s[4:11]
13794 ; GFX90A-NEXT:    ;;#ASMEND
13795 ; GFX90A-NEXT:    s_mov_b32 s8, s10
13796 ; GFX90A-NEXT:    s_mov_b32 s9, s11
13797 ; GFX90A-NEXT:    s_mov_b32 s10, s4
13798 ; GFX90A-NEXT:    s_mov_b32 s11, s5
13799 ; GFX90A-NEXT:    ;;#ASMSTART
13800 ; GFX90A-NEXT:    ; use s[8:15]
13801 ; GFX90A-NEXT:    ;;#ASMEND
13802 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
13803 ;
13804 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_4_u_u:
13805 ; GFX940:       ; %bb.0:
13806 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13807 ; GFX940-NEXT:    ;;#ASMSTART
13808 ; GFX940-NEXT:    ; def s[0:7]
13809 ; GFX940-NEXT:    ;;#ASMEND
13810 ; GFX940-NEXT:    s_mov_b32 s8, s6
13811 ; GFX940-NEXT:    s_mov_b32 s9, s7
13812 ; GFX940-NEXT:    s_mov_b32 s10, s0
13813 ; GFX940-NEXT:    s_mov_b32 s11, s1
13814 ; GFX940-NEXT:    ;;#ASMSTART
13815 ; GFX940-NEXT:    ; use s[8:15]
13816 ; GFX940-NEXT:    ;;#ASMEND
13817 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
13818   %vec0 = call <4 x i64> asm "; def $0", "=s"()
13819   %vec1 = call <4 x i64> asm "; def $0", "=s"()
13820   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 4, i32 poison, i32 poison>
13821   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
13822   ret void
13823 }
13824
13825 define void @s_shuffle_v4i64_v4i64__7_5_u_u() {
13826 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__7_5_u_u:
13827 ; GFX9:       ; %bb.0:
13828 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13829 ; GFX9-NEXT:    ;;#ASMSTART
13830 ; GFX9-NEXT:    ; def s[8:15]
13831 ; GFX9-NEXT:    ;;#ASMEND
13832 ; GFX9-NEXT:    s_mov_b32 s8, s14
13833 ; GFX9-NEXT:    s_mov_b32 s9, s15
13834 ; GFX9-NEXT:    ;;#ASMSTART
13835 ; GFX9-NEXT:    ; use s[8:15]
13836 ; GFX9-NEXT:    ;;#ASMEND
13837 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
13838   %vec0 = call <4 x i64> asm "; def $0", "=s"()
13839   %vec1 = call <4 x i64> asm "; def $0", "=s"()
13840   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 5, i32 poison, i32 poison>
13841   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
13842   ret void
13843 }
13844
13845 define void @s_shuffle_v4i64_v4i64__7_6_u_u() {
13846 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_6_u_u:
13847 ; GFX900:       ; %bb.0:
13848 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13849 ; GFX900-NEXT:    ;;#ASMSTART
13850 ; GFX900-NEXT:    ; def s[8:15]
13851 ; GFX900-NEXT:    ;;#ASMEND
13852 ; GFX900-NEXT:    s_mov_b32 s8, s14
13853 ; GFX900-NEXT:    s_mov_b32 s9, s15
13854 ; GFX900-NEXT:    s_mov_b32 s10, s12
13855 ; GFX900-NEXT:    s_mov_b32 s11, s13
13856 ; GFX900-NEXT:    ;;#ASMSTART
13857 ; GFX900-NEXT:    ; use s[8:15]
13858 ; GFX900-NEXT:    ;;#ASMEND
13859 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
13860 ;
13861 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_6_u_u:
13862 ; GFX90A:       ; %bb.0:
13863 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13864 ; GFX90A-NEXT:    ;;#ASMSTART
13865 ; GFX90A-NEXT:    ; def s[8:15]
13866 ; GFX90A-NEXT:    ;;#ASMEND
13867 ; GFX90A-NEXT:    s_mov_b32 s8, s14
13868 ; GFX90A-NEXT:    s_mov_b32 s9, s15
13869 ; GFX90A-NEXT:    s_mov_b32 s10, s12
13870 ; GFX90A-NEXT:    s_mov_b32 s11, s13
13871 ; GFX90A-NEXT:    ;;#ASMSTART
13872 ; GFX90A-NEXT:    ; use s[8:15]
13873 ; GFX90A-NEXT:    ;;#ASMEND
13874 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
13875 ;
13876 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_6_u_u:
13877 ; GFX940:       ; %bb.0:
13878 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13879 ; GFX940-NEXT:    ;;#ASMSTART
13880 ; GFX940-NEXT:    ; def s[0:7]
13881 ; GFX940-NEXT:    ;;#ASMEND
13882 ; GFX940-NEXT:    s_mov_b32 s8, s6
13883 ; GFX940-NEXT:    s_mov_b32 s9, s7
13884 ; GFX940-NEXT:    s_mov_b32 s10, s4
13885 ; GFX940-NEXT:    s_mov_b32 s11, s5
13886 ; GFX940-NEXT:    ;;#ASMSTART
13887 ; GFX940-NEXT:    ; use s[8:15]
13888 ; GFX940-NEXT:    ;;#ASMEND
13889 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
13890   %vec0 = call <4 x i64> asm "; def $0", "=s"()
13891   %vec1 = call <4 x i64> asm "; def $0", "=s"()
13892   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 6, i32 poison, i32 poison>
13893   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
13894   ret void
13895 }
13896
13897 define void @s_shuffle_v4i64_v4i64__7_7_u_u() {
13898 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_u_u:
13899 ; GFX900:       ; %bb.0:
13900 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13901 ; GFX900-NEXT:    ;;#ASMSTART
13902 ; GFX900-NEXT:    ; def s[4:11]
13903 ; GFX900-NEXT:    ;;#ASMEND
13904 ; GFX900-NEXT:    s_mov_b32 s8, s10
13905 ; GFX900-NEXT:    s_mov_b32 s9, s11
13906 ; GFX900-NEXT:    ;;#ASMSTART
13907 ; GFX900-NEXT:    ; use s[8:15]
13908 ; GFX900-NEXT:    ;;#ASMEND
13909 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
13910 ;
13911 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_u_u:
13912 ; GFX90A:       ; %bb.0:
13913 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13914 ; GFX90A-NEXT:    ;;#ASMSTART
13915 ; GFX90A-NEXT:    ; def s[4:11]
13916 ; GFX90A-NEXT:    ;;#ASMEND
13917 ; GFX90A-NEXT:    s_mov_b32 s8, s10
13918 ; GFX90A-NEXT:    s_mov_b32 s9, s11
13919 ; GFX90A-NEXT:    ;;#ASMSTART
13920 ; GFX90A-NEXT:    ; use s[8:15]
13921 ; GFX90A-NEXT:    ;;#ASMEND
13922 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
13923 ;
13924 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_u_u:
13925 ; GFX940:       ; %bb.0:
13926 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13927 ; GFX940-NEXT:    ;;#ASMSTART
13928 ; GFX940-NEXT:    ; def s[0:7]
13929 ; GFX940-NEXT:    ;;#ASMEND
13930 ; GFX940-NEXT:    s_mov_b32 s8, s6
13931 ; GFX940-NEXT:    s_mov_b32 s9, s7
13932 ; GFX940-NEXT:    s_mov_b32 s10, s6
13933 ; GFX940-NEXT:    s_mov_b32 s11, s7
13934 ; GFX940-NEXT:    ;;#ASMSTART
13935 ; GFX940-NEXT:    ; use s[8:15]
13936 ; GFX940-NEXT:    ;;#ASMEND
13937 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
13938   %vec0 = call <4 x i64> asm "; def $0", "=s"()
13939   %vec1 = call <4 x i64> asm "; def $0", "=s"()
13940   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 poison, i32 poison>
13941   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
13942   ret void
13943 }
13944
13945 define void @s_shuffle_v4i64_v4i64__7_7_0_u() {
13946 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_0_u:
13947 ; GFX900:       ; %bb.0:
13948 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13949 ; GFX900-NEXT:    ;;#ASMSTART
13950 ; GFX900-NEXT:    ; def s[4:11]
13951 ; GFX900-NEXT:    ;;#ASMEND
13952 ; GFX900-NEXT:    ;;#ASMSTART
13953 ; GFX900-NEXT:    ; def s[8:15]
13954 ; GFX900-NEXT:    ;;#ASMEND
13955 ; GFX900-NEXT:    s_mov_b32 s8, s14
13956 ; GFX900-NEXT:    s_mov_b32 s9, s15
13957 ; GFX900-NEXT:    s_mov_b32 s10, s14
13958 ; GFX900-NEXT:    s_mov_b32 s11, s15
13959 ; GFX900-NEXT:    s_mov_b32 s12, s4
13960 ; GFX900-NEXT:    s_mov_b32 s13, s5
13961 ; GFX900-NEXT:    ;;#ASMSTART
13962 ; GFX900-NEXT:    ; use s[8:15]
13963 ; GFX900-NEXT:    ;;#ASMEND
13964 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
13965 ;
13966 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_0_u:
13967 ; GFX90A:       ; %bb.0:
13968 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13969 ; GFX90A-NEXT:    ;;#ASMSTART
13970 ; GFX90A-NEXT:    ; def s[4:11]
13971 ; GFX90A-NEXT:    ;;#ASMEND
13972 ; GFX90A-NEXT:    ;;#ASMSTART
13973 ; GFX90A-NEXT:    ; def s[8:15]
13974 ; GFX90A-NEXT:    ;;#ASMEND
13975 ; GFX90A-NEXT:    s_mov_b32 s8, s14
13976 ; GFX90A-NEXT:    s_mov_b32 s9, s15
13977 ; GFX90A-NEXT:    s_mov_b32 s10, s14
13978 ; GFX90A-NEXT:    s_mov_b32 s11, s15
13979 ; GFX90A-NEXT:    s_mov_b32 s12, s4
13980 ; GFX90A-NEXT:    s_mov_b32 s13, s5
13981 ; GFX90A-NEXT:    ;;#ASMSTART
13982 ; GFX90A-NEXT:    ; use s[8:15]
13983 ; GFX90A-NEXT:    ;;#ASMEND
13984 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
13985 ;
13986 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_0_u:
13987 ; GFX940:       ; %bb.0:
13988 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
13989 ; GFX940-NEXT:    ;;#ASMSTART
13990 ; GFX940-NEXT:    ; def s[0:7]
13991 ; GFX940-NEXT:    ;;#ASMEND
13992 ; GFX940-NEXT:    s_mov_b32 s12, s0
13993 ; GFX940-NEXT:    ;;#ASMSTART
13994 ; GFX940-NEXT:    ; def s[4:11]
13995 ; GFX940-NEXT:    ;;#ASMEND
13996 ; GFX940-NEXT:    s_mov_b32 s8, s10
13997 ; GFX940-NEXT:    s_mov_b32 s9, s11
13998 ; GFX940-NEXT:    s_mov_b32 s13, s1
13999 ; GFX940-NEXT:    ;;#ASMSTART
14000 ; GFX940-NEXT:    ; use s[8:15]
14001 ; GFX940-NEXT:    ;;#ASMEND
14002 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
14003   %vec0 = call <4 x i64> asm "; def $0", "=s"()
14004   %vec1 = call <4 x i64> asm "; def $0", "=s"()
14005   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 0, i32 poison>
14006   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
14007   ret void
14008 }
14009
14010 define void @s_shuffle_v4i64_v4i64__7_7_1_u() {
14011 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_1_u:
14012 ; GFX900:       ; %bb.0:
14013 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14014 ; GFX900-NEXT:    ;;#ASMSTART
14015 ; GFX900-NEXT:    ; def s[4:11]
14016 ; GFX900-NEXT:    ;;#ASMEND
14017 ; GFX900-NEXT:    ;;#ASMSTART
14018 ; GFX900-NEXT:    ; def s[8:15]
14019 ; GFX900-NEXT:    ;;#ASMEND
14020 ; GFX900-NEXT:    s_mov_b32 s8, s14
14021 ; GFX900-NEXT:    s_mov_b32 s9, s15
14022 ; GFX900-NEXT:    s_mov_b32 s10, s14
14023 ; GFX900-NEXT:    s_mov_b32 s11, s15
14024 ; GFX900-NEXT:    s_mov_b32 s12, s6
14025 ; GFX900-NEXT:    s_mov_b32 s13, s7
14026 ; GFX900-NEXT:    ;;#ASMSTART
14027 ; GFX900-NEXT:    ; use s[8:15]
14028 ; GFX900-NEXT:    ;;#ASMEND
14029 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
14030 ;
14031 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_1_u:
14032 ; GFX90A:       ; %bb.0:
14033 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14034 ; GFX90A-NEXT:    ;;#ASMSTART
14035 ; GFX90A-NEXT:    ; def s[4:11]
14036 ; GFX90A-NEXT:    ;;#ASMEND
14037 ; GFX90A-NEXT:    ;;#ASMSTART
14038 ; GFX90A-NEXT:    ; def s[8:15]
14039 ; GFX90A-NEXT:    ;;#ASMEND
14040 ; GFX90A-NEXT:    s_mov_b32 s8, s14
14041 ; GFX90A-NEXT:    s_mov_b32 s9, s15
14042 ; GFX90A-NEXT:    s_mov_b32 s10, s14
14043 ; GFX90A-NEXT:    s_mov_b32 s11, s15
14044 ; GFX90A-NEXT:    s_mov_b32 s12, s6
14045 ; GFX90A-NEXT:    s_mov_b32 s13, s7
14046 ; GFX90A-NEXT:    ;;#ASMSTART
14047 ; GFX90A-NEXT:    ; use s[8:15]
14048 ; GFX90A-NEXT:    ;;#ASMEND
14049 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
14050 ;
14051 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_1_u:
14052 ; GFX940:       ; %bb.0:
14053 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14054 ; GFX940-NEXT:    ;;#ASMSTART
14055 ; GFX940-NEXT:    ; def s[0:7]
14056 ; GFX940-NEXT:    ;;#ASMEND
14057 ; GFX940-NEXT:    s_mov_b32 s12, s2
14058 ; GFX940-NEXT:    ;;#ASMSTART
14059 ; GFX940-NEXT:    ; def s[4:11]
14060 ; GFX940-NEXT:    ;;#ASMEND
14061 ; GFX940-NEXT:    s_mov_b32 s8, s10
14062 ; GFX940-NEXT:    s_mov_b32 s9, s11
14063 ; GFX940-NEXT:    s_mov_b32 s13, s3
14064 ; GFX940-NEXT:    ;;#ASMSTART
14065 ; GFX940-NEXT:    ; use s[8:15]
14066 ; GFX940-NEXT:    ;;#ASMEND
14067 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
14068   %vec0 = call <4 x i64> asm "; def $0", "=s"()
14069   %vec1 = call <4 x i64> asm "; def $0", "=s"()
14070   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 1, i32 poison>
14071   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
14072   ret void
14073 }
14074
14075 define void @s_shuffle_v4i64_v4i64__7_7_2_u() {
14076 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_2_u:
14077 ; GFX900:       ; %bb.0:
14078 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14079 ; GFX900-NEXT:    ;;#ASMSTART
14080 ; GFX900-NEXT:    ; def s[8:15]
14081 ; GFX900-NEXT:    ;;#ASMEND
14082 ; GFX900-NEXT:    ;;#ASMSTART
14083 ; GFX900-NEXT:    ; def s[4:11]
14084 ; GFX900-NEXT:    ;;#ASMEND
14085 ; GFX900-NEXT:    s_mov_b32 s8, s10
14086 ; GFX900-NEXT:    s_mov_b32 s9, s11
14087 ; GFX900-NEXT:    ;;#ASMSTART
14088 ; GFX900-NEXT:    ; use s[8:15]
14089 ; GFX900-NEXT:    ;;#ASMEND
14090 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
14091 ;
14092 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_2_u:
14093 ; GFX90A:       ; %bb.0:
14094 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14095 ; GFX90A-NEXT:    ;;#ASMSTART
14096 ; GFX90A-NEXT:    ; def s[8:15]
14097 ; GFX90A-NEXT:    ;;#ASMEND
14098 ; GFX90A-NEXT:    ;;#ASMSTART
14099 ; GFX90A-NEXT:    ; def s[4:11]
14100 ; GFX90A-NEXT:    ;;#ASMEND
14101 ; GFX90A-NEXT:    s_mov_b32 s8, s10
14102 ; GFX90A-NEXT:    s_mov_b32 s9, s11
14103 ; GFX90A-NEXT:    ;;#ASMSTART
14104 ; GFX90A-NEXT:    ; use s[8:15]
14105 ; GFX90A-NEXT:    ;;#ASMEND
14106 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
14107 ;
14108 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_2_u:
14109 ; GFX940:       ; %bb.0:
14110 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14111 ; GFX940-NEXT:    ;;#ASMSTART
14112 ; GFX940-NEXT:    ; def s[8:15]
14113 ; GFX940-NEXT:    ;;#ASMEND
14114 ; GFX940-NEXT:    ;;#ASMSTART
14115 ; GFX940-NEXT:    ; def s[0:7]
14116 ; GFX940-NEXT:    ;;#ASMEND
14117 ; GFX940-NEXT:    s_mov_b32 s8, s6
14118 ; GFX940-NEXT:    s_mov_b32 s9, s7
14119 ; GFX940-NEXT:    s_mov_b32 s10, s6
14120 ; GFX940-NEXT:    s_mov_b32 s11, s7
14121 ; GFX940-NEXT:    ;;#ASMSTART
14122 ; GFX940-NEXT:    ; use s[8:15]
14123 ; GFX940-NEXT:    ;;#ASMEND
14124 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
14125   %vec0 = call <4 x i64> asm "; def $0", "=s"()
14126   %vec1 = call <4 x i64> asm "; def $0", "=s"()
14127   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 2, i32 poison>
14128   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
14129   ret void
14130 }
14131
14132 define void @s_shuffle_v4i64_v4i64__7_7_3_u() {
14133 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_3_u:
14134 ; GFX900:       ; %bb.0:
14135 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14136 ; GFX900-NEXT:    ;;#ASMSTART
14137 ; GFX900-NEXT:    ; def s[8:15]
14138 ; GFX900-NEXT:    ;;#ASMEND
14139 ; GFX900-NEXT:    ;;#ASMSTART
14140 ; GFX900-NEXT:    ; def s[4:11]
14141 ; GFX900-NEXT:    ;;#ASMEND
14142 ; GFX900-NEXT:    s_mov_b32 s8, s10
14143 ; GFX900-NEXT:    s_mov_b32 s9, s11
14144 ; GFX900-NEXT:    s_mov_b32 s12, s14
14145 ; GFX900-NEXT:    s_mov_b32 s13, s15
14146 ; GFX900-NEXT:    ;;#ASMSTART
14147 ; GFX900-NEXT:    ; use s[8:15]
14148 ; GFX900-NEXT:    ;;#ASMEND
14149 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
14150 ;
14151 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_3_u:
14152 ; GFX90A:       ; %bb.0:
14153 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14154 ; GFX90A-NEXT:    ;;#ASMSTART
14155 ; GFX90A-NEXT:    ; def s[8:15]
14156 ; GFX90A-NEXT:    ;;#ASMEND
14157 ; GFX90A-NEXT:    ;;#ASMSTART
14158 ; GFX90A-NEXT:    ; def s[4:11]
14159 ; GFX90A-NEXT:    ;;#ASMEND
14160 ; GFX90A-NEXT:    s_mov_b32 s8, s10
14161 ; GFX90A-NEXT:    s_mov_b32 s9, s11
14162 ; GFX90A-NEXT:    s_mov_b32 s12, s14
14163 ; GFX90A-NEXT:    s_mov_b32 s13, s15
14164 ; GFX90A-NEXT:    ;;#ASMSTART
14165 ; GFX90A-NEXT:    ; use s[8:15]
14166 ; GFX90A-NEXT:    ;;#ASMEND
14167 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
14168 ;
14169 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_3_u:
14170 ; GFX940:       ; %bb.0:
14171 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14172 ; GFX940-NEXT:    ;;#ASMSTART
14173 ; GFX940-NEXT:    ; def s[8:15]
14174 ; GFX940-NEXT:    ;;#ASMEND
14175 ; GFX940-NEXT:    ;;#ASMSTART
14176 ; GFX940-NEXT:    ; def s[0:7]
14177 ; GFX940-NEXT:    ;;#ASMEND
14178 ; GFX940-NEXT:    s_mov_b32 s8, s14
14179 ; GFX940-NEXT:    s_mov_b32 s9, s15
14180 ; GFX940-NEXT:    s_mov_b32 s10, s14
14181 ; GFX940-NEXT:    s_mov_b32 s11, s15
14182 ; GFX940-NEXT:    s_mov_b32 s12, s6
14183 ; GFX940-NEXT:    s_mov_b32 s13, s7
14184 ; GFX940-NEXT:    ;;#ASMSTART
14185 ; GFX940-NEXT:    ; use s[8:15]
14186 ; GFX940-NEXT:    ;;#ASMEND
14187 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
14188   %vec0 = call <4 x i64> asm "; def $0", "=s"()
14189   %vec1 = call <4 x i64> asm "; def $0", "=s"()
14190   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 3, i32 poison>
14191   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
14192   ret void
14193 }
14194
14195 define void @s_shuffle_v4i64_v4i64__7_7_4_u() {
14196 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_4_u:
14197 ; GFX900:       ; %bb.0:
14198 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14199 ; GFX900-NEXT:    ;;#ASMSTART
14200 ; GFX900-NEXT:    ; def s[4:11]
14201 ; GFX900-NEXT:    ;;#ASMEND
14202 ; GFX900-NEXT:    s_mov_b32 s8, s10
14203 ; GFX900-NEXT:    s_mov_b32 s9, s11
14204 ; GFX900-NEXT:    s_mov_b32 s12, s4
14205 ; GFX900-NEXT:    s_mov_b32 s13, s5
14206 ; GFX900-NEXT:    ;;#ASMSTART
14207 ; GFX900-NEXT:    ; use s[8:15]
14208 ; GFX900-NEXT:    ;;#ASMEND
14209 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
14210 ;
14211 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_4_u:
14212 ; GFX90A:       ; %bb.0:
14213 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14214 ; GFX90A-NEXT:    ;;#ASMSTART
14215 ; GFX90A-NEXT:    ; def s[4:11]
14216 ; GFX90A-NEXT:    ;;#ASMEND
14217 ; GFX90A-NEXT:    s_mov_b32 s8, s10
14218 ; GFX90A-NEXT:    s_mov_b32 s9, s11
14219 ; GFX90A-NEXT:    s_mov_b32 s12, s4
14220 ; GFX90A-NEXT:    s_mov_b32 s13, s5
14221 ; GFX90A-NEXT:    ;;#ASMSTART
14222 ; GFX90A-NEXT:    ; use s[8:15]
14223 ; GFX90A-NEXT:    ;;#ASMEND
14224 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
14225 ;
14226 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_4_u:
14227 ; GFX940:       ; %bb.0:
14228 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14229 ; GFX940-NEXT:    ;;#ASMSTART
14230 ; GFX940-NEXT:    ; def s[0:7]
14231 ; GFX940-NEXT:    ;;#ASMEND
14232 ; GFX940-NEXT:    s_mov_b32 s8, s6
14233 ; GFX940-NEXT:    s_mov_b32 s9, s7
14234 ; GFX940-NEXT:    s_mov_b32 s10, s6
14235 ; GFX940-NEXT:    s_mov_b32 s11, s7
14236 ; GFX940-NEXT:    s_mov_b32 s12, s0
14237 ; GFX940-NEXT:    s_mov_b32 s13, s1
14238 ; GFX940-NEXT:    ;;#ASMSTART
14239 ; GFX940-NEXT:    ; use s[8:15]
14240 ; GFX940-NEXT:    ;;#ASMEND
14241 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
14242   %vec0 = call <4 x i64> asm "; def $0", "=s"()
14243   %vec1 = call <4 x i64> asm "; def $0", "=s"()
14244   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 4, i32 poison>
14245   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
14246   ret void
14247 }
14248
14249 define void @s_shuffle_v4i64_v4i64__7_7_5_u() {
14250 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_5_u:
14251 ; GFX900:       ; %bb.0:
14252 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14253 ; GFX900-NEXT:    ;;#ASMSTART
14254 ; GFX900-NEXT:    ; def s[4:11]
14255 ; GFX900-NEXT:    ;;#ASMEND
14256 ; GFX900-NEXT:    s_mov_b32 s8, s10
14257 ; GFX900-NEXT:    s_mov_b32 s9, s11
14258 ; GFX900-NEXT:    s_mov_b32 s12, s6
14259 ; GFX900-NEXT:    s_mov_b32 s13, s7
14260 ; GFX900-NEXT:    ;;#ASMSTART
14261 ; GFX900-NEXT:    ; use s[8:15]
14262 ; GFX900-NEXT:    ;;#ASMEND
14263 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
14264 ;
14265 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_5_u:
14266 ; GFX90A:       ; %bb.0:
14267 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14268 ; GFX90A-NEXT:    ;;#ASMSTART
14269 ; GFX90A-NEXT:    ; def s[4:11]
14270 ; GFX90A-NEXT:    ;;#ASMEND
14271 ; GFX90A-NEXT:    s_mov_b32 s8, s10
14272 ; GFX90A-NEXT:    s_mov_b32 s9, s11
14273 ; GFX90A-NEXT:    s_mov_b32 s12, s6
14274 ; GFX90A-NEXT:    s_mov_b32 s13, s7
14275 ; GFX90A-NEXT:    ;;#ASMSTART
14276 ; GFX90A-NEXT:    ; use s[8:15]
14277 ; GFX90A-NEXT:    ;;#ASMEND
14278 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
14279 ;
14280 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_5_u:
14281 ; GFX940:       ; %bb.0:
14282 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14283 ; GFX940-NEXT:    ;;#ASMSTART
14284 ; GFX940-NEXT:    ; def s[0:7]
14285 ; GFX940-NEXT:    ;;#ASMEND
14286 ; GFX940-NEXT:    s_mov_b32 s8, s6
14287 ; GFX940-NEXT:    s_mov_b32 s9, s7
14288 ; GFX940-NEXT:    s_mov_b32 s10, s6
14289 ; GFX940-NEXT:    s_mov_b32 s11, s7
14290 ; GFX940-NEXT:    s_mov_b32 s12, s2
14291 ; GFX940-NEXT:    s_mov_b32 s13, s3
14292 ; GFX940-NEXT:    ;;#ASMSTART
14293 ; GFX940-NEXT:    ; use s[8:15]
14294 ; GFX940-NEXT:    ;;#ASMEND
14295 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
14296   %vec0 = call <4 x i64> asm "; def $0", "=s"()
14297   %vec1 = call <4 x i64> asm "; def $0", "=s"()
14298   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 5, i32 poison>
14299   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
14300   ret void
14301 }
14302
14303 define void @s_shuffle_v4i64_v4i64__7_7_6_u() {
14304 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__7_7_6_u:
14305 ; GFX9:       ; %bb.0:
14306 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14307 ; GFX9-NEXT:    ;;#ASMSTART
14308 ; GFX9-NEXT:    ; def s[8:15]
14309 ; GFX9-NEXT:    ;;#ASMEND
14310 ; GFX9-NEXT:    s_mov_b32 s8, s14
14311 ; GFX9-NEXT:    s_mov_b32 s9, s15
14312 ; GFX9-NEXT:    s_mov_b32 s10, s14
14313 ; GFX9-NEXT:    s_mov_b32 s11, s15
14314 ; GFX9-NEXT:    ;;#ASMSTART
14315 ; GFX9-NEXT:    ; use s[8:15]
14316 ; GFX9-NEXT:    ;;#ASMEND
14317 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
14318   %vec0 = call <4 x i64> asm "; def $0", "=s"()
14319   %vec1 = call <4 x i64> asm "; def $0", "=s"()
14320   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 6, i32 poison>
14321   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
14322   ret void
14323 }
14324
14325 define void @s_shuffle_v4i64_v4i64__7_7_7_u() {
14326 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_7_u:
14327 ; GFX900:       ; %bb.0:
14328 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14329 ; GFX900-NEXT:    ;;#ASMSTART
14330 ; GFX900-NEXT:    ; def s[8:15]
14331 ; GFX900-NEXT:    ;;#ASMEND
14332 ; GFX900-NEXT:    s_mov_b32 s8, s14
14333 ; GFX900-NEXT:    s_mov_b32 s9, s15
14334 ; GFX900-NEXT:    s_mov_b32 s10, s14
14335 ; GFX900-NEXT:    s_mov_b32 s11, s15
14336 ; GFX900-NEXT:    s_mov_b32 s12, s14
14337 ; GFX900-NEXT:    s_mov_b32 s13, s15
14338 ; GFX900-NEXT:    ;;#ASMSTART
14339 ; GFX900-NEXT:    ; use s[8:15]
14340 ; GFX900-NEXT:    ;;#ASMEND
14341 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
14342 ;
14343 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_7_u:
14344 ; GFX90A:       ; %bb.0:
14345 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14346 ; GFX90A-NEXT:    ;;#ASMSTART
14347 ; GFX90A-NEXT:    ; def s[8:15]
14348 ; GFX90A-NEXT:    ;;#ASMEND
14349 ; GFX90A-NEXT:    s_mov_b32 s8, s14
14350 ; GFX90A-NEXT:    s_mov_b32 s9, s15
14351 ; GFX90A-NEXT:    s_mov_b32 s10, s14
14352 ; GFX90A-NEXT:    s_mov_b32 s11, s15
14353 ; GFX90A-NEXT:    s_mov_b32 s12, s14
14354 ; GFX90A-NEXT:    s_mov_b32 s13, s15
14355 ; GFX90A-NEXT:    ;;#ASMSTART
14356 ; GFX90A-NEXT:    ; use s[8:15]
14357 ; GFX90A-NEXT:    ;;#ASMEND
14358 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
14359 ;
14360 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_7_u:
14361 ; GFX940:       ; %bb.0:
14362 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14363 ; GFX940-NEXT:    ;;#ASMSTART
14364 ; GFX940-NEXT:    ; def s[0:7]
14365 ; GFX940-NEXT:    ;;#ASMEND
14366 ; GFX940-NEXT:    s_mov_b32 s8, s6
14367 ; GFX940-NEXT:    s_mov_b32 s9, s7
14368 ; GFX940-NEXT:    s_mov_b32 s10, s6
14369 ; GFX940-NEXT:    s_mov_b32 s11, s7
14370 ; GFX940-NEXT:    s_mov_b32 s12, s6
14371 ; GFX940-NEXT:    s_mov_b32 s13, s7
14372 ; GFX940-NEXT:    ;;#ASMSTART
14373 ; GFX940-NEXT:    ; use s[8:15]
14374 ; GFX940-NEXT:    ;;#ASMEND
14375 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
14376   %vec0 = call <4 x i64> asm "; def $0", "=s"()
14377   %vec1 = call <4 x i64> asm "; def $0", "=s"()
14378   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 7, i32 poison>
14379   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
14380   ret void
14381 }
14382
14383 define void @s_shuffle_v4i64_v4i64__7_7_7_0() {
14384 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_7_0:
14385 ; GFX900:       ; %bb.0:
14386 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14387 ; GFX900-NEXT:    ;;#ASMSTART
14388 ; GFX900-NEXT:    ; def s[4:11]
14389 ; GFX900-NEXT:    ;;#ASMEND
14390 ; GFX900-NEXT:    ;;#ASMSTART
14391 ; GFX900-NEXT:    ; def s[8:15]
14392 ; GFX900-NEXT:    ;;#ASMEND
14393 ; GFX900-NEXT:    s_mov_b32 s8, s14
14394 ; GFX900-NEXT:    s_mov_b32 s9, s15
14395 ; GFX900-NEXT:    s_mov_b32 s10, s14
14396 ; GFX900-NEXT:    s_mov_b32 s11, s15
14397 ; GFX900-NEXT:    s_mov_b32 s12, s14
14398 ; GFX900-NEXT:    s_mov_b32 s13, s15
14399 ; GFX900-NEXT:    s_mov_b32 s14, s4
14400 ; GFX900-NEXT:    s_mov_b32 s15, s5
14401 ; GFX900-NEXT:    ;;#ASMSTART
14402 ; GFX900-NEXT:    ; use s[8:15]
14403 ; GFX900-NEXT:    ;;#ASMEND
14404 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
14405 ;
14406 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_7_0:
14407 ; GFX90A:       ; %bb.0:
14408 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14409 ; GFX90A-NEXT:    ;;#ASMSTART
14410 ; GFX90A-NEXT:    ; def s[4:11]
14411 ; GFX90A-NEXT:    ;;#ASMEND
14412 ; GFX90A-NEXT:    ;;#ASMSTART
14413 ; GFX90A-NEXT:    ; def s[8:15]
14414 ; GFX90A-NEXT:    ;;#ASMEND
14415 ; GFX90A-NEXT:    s_mov_b32 s8, s14
14416 ; GFX90A-NEXT:    s_mov_b32 s9, s15
14417 ; GFX90A-NEXT:    s_mov_b32 s10, s14
14418 ; GFX90A-NEXT:    s_mov_b32 s11, s15
14419 ; GFX90A-NEXT:    s_mov_b32 s12, s14
14420 ; GFX90A-NEXT:    s_mov_b32 s13, s15
14421 ; GFX90A-NEXT:    s_mov_b32 s14, s4
14422 ; GFX90A-NEXT:    s_mov_b32 s15, s5
14423 ; GFX90A-NEXT:    ;;#ASMSTART
14424 ; GFX90A-NEXT:    ; use s[8:15]
14425 ; GFX90A-NEXT:    ;;#ASMEND
14426 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
14427 ;
14428 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_7_0:
14429 ; GFX940:       ; %bb.0:
14430 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14431 ; GFX940-NEXT:    ;;#ASMSTART
14432 ; GFX940-NEXT:    ; def s[8:15]
14433 ; GFX940-NEXT:    ;;#ASMEND
14434 ; GFX940-NEXT:    ;;#ASMSTART
14435 ; GFX940-NEXT:    ; def s[0:7]
14436 ; GFX940-NEXT:    ;;#ASMEND
14437 ; GFX940-NEXT:    s_mov_b32 s8, s14
14438 ; GFX940-NEXT:    s_mov_b32 s9, s15
14439 ; GFX940-NEXT:    s_mov_b32 s10, s14
14440 ; GFX940-NEXT:    s_mov_b32 s11, s15
14441 ; GFX940-NEXT:    s_mov_b32 s12, s14
14442 ; GFX940-NEXT:    s_mov_b32 s13, s15
14443 ; GFX940-NEXT:    s_mov_b32 s14, s0
14444 ; GFX940-NEXT:    s_mov_b32 s15, s1
14445 ; GFX940-NEXT:    ;;#ASMSTART
14446 ; GFX940-NEXT:    ; use s[8:15]
14447 ; GFX940-NEXT:    ;;#ASMEND
14448 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
14449   %vec0 = call <4 x i64> asm "; def $0", "=s"()
14450   %vec1 = call <4 x i64> asm "; def $0", "=s"()
14451   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 7, i32 0>
14452   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
14453   ret void
14454 }
14455
14456 define void @s_shuffle_v4i64_v4i64__7_7_7_1() {
14457 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_7_1:
14458 ; GFX900:       ; %bb.0:
14459 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14460 ; GFX900-NEXT:    ;;#ASMSTART
14461 ; GFX900-NEXT:    ; def s[4:11]
14462 ; GFX900-NEXT:    ;;#ASMEND
14463 ; GFX900-NEXT:    ;;#ASMSTART
14464 ; GFX900-NEXT:    ; def s[8:15]
14465 ; GFX900-NEXT:    ;;#ASMEND
14466 ; GFX900-NEXT:    s_mov_b32 s8, s14
14467 ; GFX900-NEXT:    s_mov_b32 s9, s15
14468 ; GFX900-NEXT:    s_mov_b32 s10, s14
14469 ; GFX900-NEXT:    s_mov_b32 s11, s15
14470 ; GFX900-NEXT:    s_mov_b32 s12, s14
14471 ; GFX900-NEXT:    s_mov_b32 s13, s15
14472 ; GFX900-NEXT:    s_mov_b32 s14, s6
14473 ; GFX900-NEXT:    s_mov_b32 s15, s7
14474 ; GFX900-NEXT:    ;;#ASMSTART
14475 ; GFX900-NEXT:    ; use s[8:15]
14476 ; GFX900-NEXT:    ;;#ASMEND
14477 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
14478 ;
14479 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_7_1:
14480 ; GFX90A:       ; %bb.0:
14481 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14482 ; GFX90A-NEXT:    ;;#ASMSTART
14483 ; GFX90A-NEXT:    ; def s[4:11]
14484 ; GFX90A-NEXT:    ;;#ASMEND
14485 ; GFX90A-NEXT:    ;;#ASMSTART
14486 ; GFX90A-NEXT:    ; def s[8:15]
14487 ; GFX90A-NEXT:    ;;#ASMEND
14488 ; GFX90A-NEXT:    s_mov_b32 s8, s14
14489 ; GFX90A-NEXT:    s_mov_b32 s9, s15
14490 ; GFX90A-NEXT:    s_mov_b32 s10, s14
14491 ; GFX90A-NEXT:    s_mov_b32 s11, s15
14492 ; GFX90A-NEXT:    s_mov_b32 s12, s14
14493 ; GFX90A-NEXT:    s_mov_b32 s13, s15
14494 ; GFX90A-NEXT:    s_mov_b32 s14, s6
14495 ; GFX90A-NEXT:    s_mov_b32 s15, s7
14496 ; GFX90A-NEXT:    ;;#ASMSTART
14497 ; GFX90A-NEXT:    ; use s[8:15]
14498 ; GFX90A-NEXT:    ;;#ASMEND
14499 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
14500 ;
14501 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_7_1:
14502 ; GFX940:       ; %bb.0:
14503 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14504 ; GFX940-NEXT:    ;;#ASMSTART
14505 ; GFX940-NEXT:    ; def s[8:15]
14506 ; GFX940-NEXT:    ;;#ASMEND
14507 ; GFX940-NEXT:    ;;#ASMSTART
14508 ; GFX940-NEXT:    ; def s[0:7]
14509 ; GFX940-NEXT:    ;;#ASMEND
14510 ; GFX940-NEXT:    s_mov_b32 s8, s14
14511 ; GFX940-NEXT:    s_mov_b32 s9, s15
14512 ; GFX940-NEXT:    s_mov_b32 s10, s14
14513 ; GFX940-NEXT:    s_mov_b32 s11, s15
14514 ; GFX940-NEXT:    s_mov_b32 s12, s14
14515 ; GFX940-NEXT:    s_mov_b32 s13, s15
14516 ; GFX940-NEXT:    s_mov_b32 s14, s2
14517 ; GFX940-NEXT:    s_mov_b32 s15, s3
14518 ; GFX940-NEXT:    ;;#ASMSTART
14519 ; GFX940-NEXT:    ; use s[8:15]
14520 ; GFX940-NEXT:    ;;#ASMEND
14521 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
14522   %vec0 = call <4 x i64> asm "; def $0", "=s"()
14523   %vec1 = call <4 x i64> asm "; def $0", "=s"()
14524   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 7, i32 1>
14525   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
14526   ret void
14527 }
14528
14529 define void @s_shuffle_v4i64_v4i64__7_7_7_2() {
14530 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_7_2:
14531 ; GFX900:       ; %bb.0:
14532 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14533 ; GFX900-NEXT:    ;;#ASMSTART
14534 ; GFX900-NEXT:    ; def s[12:19]
14535 ; GFX900-NEXT:    ;;#ASMEND
14536 ; GFX900-NEXT:    ;;#ASMSTART
14537 ; GFX900-NEXT:    ; def s[8:15]
14538 ; GFX900-NEXT:    ;;#ASMEND
14539 ; GFX900-NEXT:    s_mov_b32 s8, s14
14540 ; GFX900-NEXT:    s_mov_b32 s9, s15
14541 ; GFX900-NEXT:    s_mov_b32 s10, s14
14542 ; GFX900-NEXT:    s_mov_b32 s11, s15
14543 ; GFX900-NEXT:    s_mov_b32 s12, s14
14544 ; GFX900-NEXT:    s_mov_b32 s13, s15
14545 ; GFX900-NEXT:    s_mov_b32 s14, s16
14546 ; GFX900-NEXT:    s_mov_b32 s15, s17
14547 ; GFX900-NEXT:    ;;#ASMSTART
14548 ; GFX900-NEXT:    ; use s[8:15]
14549 ; GFX900-NEXT:    ;;#ASMEND
14550 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
14551 ;
14552 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_7_2:
14553 ; GFX90A:       ; %bb.0:
14554 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14555 ; GFX90A-NEXT:    ;;#ASMSTART
14556 ; GFX90A-NEXT:    ; def s[12:19]
14557 ; GFX90A-NEXT:    ;;#ASMEND
14558 ; GFX90A-NEXT:    ;;#ASMSTART
14559 ; GFX90A-NEXT:    ; def s[8:15]
14560 ; GFX90A-NEXT:    ;;#ASMEND
14561 ; GFX90A-NEXT:    s_mov_b32 s8, s14
14562 ; GFX90A-NEXT:    s_mov_b32 s9, s15
14563 ; GFX90A-NEXT:    s_mov_b32 s10, s14
14564 ; GFX90A-NEXT:    s_mov_b32 s11, s15
14565 ; GFX90A-NEXT:    s_mov_b32 s12, s14
14566 ; GFX90A-NEXT:    s_mov_b32 s13, s15
14567 ; GFX90A-NEXT:    s_mov_b32 s14, s16
14568 ; GFX90A-NEXT:    s_mov_b32 s15, s17
14569 ; GFX90A-NEXT:    ;;#ASMSTART
14570 ; GFX90A-NEXT:    ; use s[8:15]
14571 ; GFX90A-NEXT:    ;;#ASMEND
14572 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
14573 ;
14574 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_7_2:
14575 ; GFX940:       ; %bb.0:
14576 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14577 ; GFX940-NEXT:    ;;#ASMSTART
14578 ; GFX940-NEXT:    ; def s[8:15]
14579 ; GFX940-NEXT:    ;;#ASMEND
14580 ; GFX940-NEXT:    ;;#ASMSTART
14581 ; GFX940-NEXT:    ; def s[0:7]
14582 ; GFX940-NEXT:    ;;#ASMEND
14583 ; GFX940-NEXT:    s_mov_b32 s8, s14
14584 ; GFX940-NEXT:    s_mov_b32 s9, s15
14585 ; GFX940-NEXT:    s_mov_b32 s10, s14
14586 ; GFX940-NEXT:    s_mov_b32 s11, s15
14587 ; GFX940-NEXT:    s_mov_b32 s12, s14
14588 ; GFX940-NEXT:    s_mov_b32 s13, s15
14589 ; GFX940-NEXT:    s_mov_b32 s14, s4
14590 ; GFX940-NEXT:    s_mov_b32 s15, s5
14591 ; GFX940-NEXT:    ;;#ASMSTART
14592 ; GFX940-NEXT:    ; use s[8:15]
14593 ; GFX940-NEXT:    ;;#ASMEND
14594 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
14595   %vec0 = call <4 x i64> asm "; def $0", "=s"()
14596   %vec1 = call <4 x i64> asm "; def $0", "=s"()
14597   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 7, i32 2>
14598   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
14599   ret void
14600 }
14601
14602 define void @s_shuffle_v4i64_v4i64__7_7_7_3() {
14603 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_7_3:
14604 ; GFX900:       ; %bb.0:
14605 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14606 ; GFX900-NEXT:    ;;#ASMSTART
14607 ; GFX900-NEXT:    ; def s[8:15]
14608 ; GFX900-NEXT:    ;;#ASMEND
14609 ; GFX900-NEXT:    ;;#ASMSTART
14610 ; GFX900-NEXT:    ; def s[16:23]
14611 ; GFX900-NEXT:    ;;#ASMEND
14612 ; GFX900-NEXT:    s_mov_b32 s8, s22
14613 ; GFX900-NEXT:    s_mov_b32 s9, s23
14614 ; GFX900-NEXT:    s_mov_b32 s10, s22
14615 ; GFX900-NEXT:    s_mov_b32 s11, s23
14616 ; GFX900-NEXT:    s_mov_b32 s12, s22
14617 ; GFX900-NEXT:    s_mov_b32 s13, s23
14618 ; GFX900-NEXT:    ;;#ASMSTART
14619 ; GFX900-NEXT:    ; use s[8:15]
14620 ; GFX900-NEXT:    ;;#ASMEND
14621 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
14622 ;
14623 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_7_3:
14624 ; GFX90A:       ; %bb.0:
14625 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14626 ; GFX90A-NEXT:    ;;#ASMSTART
14627 ; GFX90A-NEXT:    ; def s[8:15]
14628 ; GFX90A-NEXT:    ;;#ASMEND
14629 ; GFX90A-NEXT:    ;;#ASMSTART
14630 ; GFX90A-NEXT:    ; def s[16:23]
14631 ; GFX90A-NEXT:    ;;#ASMEND
14632 ; GFX90A-NEXT:    s_mov_b32 s8, s22
14633 ; GFX90A-NEXT:    s_mov_b32 s9, s23
14634 ; GFX90A-NEXT:    s_mov_b32 s10, s22
14635 ; GFX90A-NEXT:    s_mov_b32 s11, s23
14636 ; GFX90A-NEXT:    s_mov_b32 s12, s22
14637 ; GFX90A-NEXT:    s_mov_b32 s13, s23
14638 ; GFX90A-NEXT:    ;;#ASMSTART
14639 ; GFX90A-NEXT:    ; use s[8:15]
14640 ; GFX90A-NEXT:    ;;#ASMEND
14641 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
14642 ;
14643 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_7_3:
14644 ; GFX940:       ; %bb.0:
14645 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14646 ; GFX940-NEXT:    ;;#ASMSTART
14647 ; GFX940-NEXT:    ; def s[8:15]
14648 ; GFX940-NEXT:    ;;#ASMEND
14649 ; GFX940-NEXT:    ;;#ASMSTART
14650 ; GFX940-NEXT:    ; def s[0:7]
14651 ; GFX940-NEXT:    ;;#ASMEND
14652 ; GFX940-NEXT:    s_mov_b32 s8, s6
14653 ; GFX940-NEXT:    s_mov_b32 s9, s7
14654 ; GFX940-NEXT:    s_mov_b32 s10, s6
14655 ; GFX940-NEXT:    s_mov_b32 s11, s7
14656 ; GFX940-NEXT:    s_mov_b32 s12, s6
14657 ; GFX940-NEXT:    s_mov_b32 s13, s7
14658 ; GFX940-NEXT:    ;;#ASMSTART
14659 ; GFX940-NEXT:    ; use s[8:15]
14660 ; GFX940-NEXT:    ;;#ASMEND
14661 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
14662   %vec0 = call <4 x i64> asm "; def $0", "=s"()
14663   %vec1 = call <4 x i64> asm "; def $0", "=s"()
14664   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 7, i32 3>
14665   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
14666   ret void
14667 }
14668
14669 define void @s_shuffle_v4i64_v4i64__7_7_7_4() {
14670 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_7_4:
14671 ; GFX900:       ; %bb.0:
14672 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14673 ; GFX900-NEXT:    ;;#ASMSTART
14674 ; GFX900-NEXT:    ; def s[16:23]
14675 ; GFX900-NEXT:    ;;#ASMEND
14676 ; GFX900-NEXT:    s_mov_b32 s8, s22
14677 ; GFX900-NEXT:    s_mov_b32 s9, s23
14678 ; GFX900-NEXT:    s_mov_b32 s10, s22
14679 ; GFX900-NEXT:    s_mov_b32 s11, s23
14680 ; GFX900-NEXT:    s_mov_b32 s12, s22
14681 ; GFX900-NEXT:    s_mov_b32 s13, s23
14682 ; GFX900-NEXT:    s_mov_b32 s14, s16
14683 ; GFX900-NEXT:    s_mov_b32 s15, s17
14684 ; GFX900-NEXT:    ;;#ASMSTART
14685 ; GFX900-NEXT:    ; use s[8:15]
14686 ; GFX900-NEXT:    ;;#ASMEND
14687 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
14688 ;
14689 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_7_4:
14690 ; GFX90A:       ; %bb.0:
14691 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14692 ; GFX90A-NEXT:    ;;#ASMSTART
14693 ; GFX90A-NEXT:    ; def s[16:23]
14694 ; GFX90A-NEXT:    ;;#ASMEND
14695 ; GFX90A-NEXT:    s_mov_b32 s8, s22
14696 ; GFX90A-NEXT:    s_mov_b32 s9, s23
14697 ; GFX90A-NEXT:    s_mov_b32 s10, s22
14698 ; GFX90A-NEXT:    s_mov_b32 s11, s23
14699 ; GFX90A-NEXT:    s_mov_b32 s12, s22
14700 ; GFX90A-NEXT:    s_mov_b32 s13, s23
14701 ; GFX90A-NEXT:    s_mov_b32 s14, s16
14702 ; GFX90A-NEXT:    s_mov_b32 s15, s17
14703 ; GFX90A-NEXT:    ;;#ASMSTART
14704 ; GFX90A-NEXT:    ; use s[8:15]
14705 ; GFX90A-NEXT:    ;;#ASMEND
14706 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
14707 ;
14708 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_7_4:
14709 ; GFX940:       ; %bb.0:
14710 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14711 ; GFX940-NEXT:    ;;#ASMSTART
14712 ; GFX940-NEXT:    ; def s[0:7]
14713 ; GFX940-NEXT:    ;;#ASMEND
14714 ; GFX940-NEXT:    s_mov_b32 s8, s6
14715 ; GFX940-NEXT:    s_mov_b32 s9, s7
14716 ; GFX940-NEXT:    s_mov_b32 s10, s6
14717 ; GFX940-NEXT:    s_mov_b32 s11, s7
14718 ; GFX940-NEXT:    s_mov_b32 s12, s6
14719 ; GFX940-NEXT:    s_mov_b32 s13, s7
14720 ; GFX940-NEXT:    s_mov_b32 s14, s0
14721 ; GFX940-NEXT:    s_mov_b32 s15, s1
14722 ; GFX940-NEXT:    ;;#ASMSTART
14723 ; GFX940-NEXT:    ; use s[8:15]
14724 ; GFX940-NEXT:    ;;#ASMEND
14725 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
14726   %vec0 = call <4 x i64> asm "; def $0", "=s"()
14727   %vec1 = call <4 x i64> asm "; def $0", "=s"()
14728   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 7, i32 4>
14729   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
14730   ret void
14731 }
14732
14733 define void @s_shuffle_v4i64_v4i64__7_7_7_5() {
14734 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_7_5:
14735 ; GFX900:       ; %bb.0:
14736 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14737 ; GFX900-NEXT:    ;;#ASMSTART
14738 ; GFX900-NEXT:    ; def s[12:19]
14739 ; GFX900-NEXT:    ;;#ASMEND
14740 ; GFX900-NEXT:    s_mov_b32 s8, s18
14741 ; GFX900-NEXT:    s_mov_b32 s9, s19
14742 ; GFX900-NEXT:    s_mov_b32 s10, s18
14743 ; GFX900-NEXT:    s_mov_b32 s11, s19
14744 ; GFX900-NEXT:    s_mov_b32 s12, s18
14745 ; GFX900-NEXT:    s_mov_b32 s13, s19
14746 ; GFX900-NEXT:    ;;#ASMSTART
14747 ; GFX900-NEXT:    ; use s[8:15]
14748 ; GFX900-NEXT:    ;;#ASMEND
14749 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
14750 ;
14751 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_7_5:
14752 ; GFX90A:       ; %bb.0:
14753 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14754 ; GFX90A-NEXT:    ;;#ASMSTART
14755 ; GFX90A-NEXT:    ; def s[12:19]
14756 ; GFX90A-NEXT:    ;;#ASMEND
14757 ; GFX90A-NEXT:    s_mov_b32 s8, s18
14758 ; GFX90A-NEXT:    s_mov_b32 s9, s19
14759 ; GFX90A-NEXT:    s_mov_b32 s10, s18
14760 ; GFX90A-NEXT:    s_mov_b32 s11, s19
14761 ; GFX90A-NEXT:    s_mov_b32 s12, s18
14762 ; GFX90A-NEXT:    s_mov_b32 s13, s19
14763 ; GFX90A-NEXT:    ;;#ASMSTART
14764 ; GFX90A-NEXT:    ; use s[8:15]
14765 ; GFX90A-NEXT:    ;;#ASMEND
14766 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
14767 ;
14768 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_7_5:
14769 ; GFX940:       ; %bb.0:
14770 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14771 ; GFX940-NEXT:    ;;#ASMSTART
14772 ; GFX940-NEXT:    ; def s[0:7]
14773 ; GFX940-NEXT:    ;;#ASMEND
14774 ; GFX940-NEXT:    s_mov_b32 s8, s6
14775 ; GFX940-NEXT:    s_mov_b32 s9, s7
14776 ; GFX940-NEXT:    s_mov_b32 s10, s6
14777 ; GFX940-NEXT:    s_mov_b32 s11, s7
14778 ; GFX940-NEXT:    s_mov_b32 s12, s6
14779 ; GFX940-NEXT:    s_mov_b32 s13, s7
14780 ; GFX940-NEXT:    s_mov_b32 s14, s2
14781 ; GFX940-NEXT:    s_mov_b32 s15, s3
14782 ; GFX940-NEXT:    ;;#ASMSTART
14783 ; GFX940-NEXT:    ; use s[8:15]
14784 ; GFX940-NEXT:    ;;#ASMEND
14785 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
14786   %vec0 = call <4 x i64> asm "; def $0", "=s"()
14787   %vec1 = call <4 x i64> asm "; def $0", "=s"()
14788   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 7, i32 5>
14789   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
14790   ret void
14791 }
14792
14793 define void @s_shuffle_v4i64_v4i64__7_7_7_6() {
14794 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_7_6:
14795 ; GFX900:       ; %bb.0:
14796 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14797 ; GFX900-NEXT:    ;;#ASMSTART
14798 ; GFX900-NEXT:    ; def s[12:19]
14799 ; GFX900-NEXT:    ;;#ASMEND
14800 ; GFX900-NEXT:    s_mov_b32 s8, s18
14801 ; GFX900-NEXT:    s_mov_b32 s9, s19
14802 ; GFX900-NEXT:    s_mov_b32 s10, s18
14803 ; GFX900-NEXT:    s_mov_b32 s11, s19
14804 ; GFX900-NEXT:    s_mov_b32 s12, s18
14805 ; GFX900-NEXT:    s_mov_b32 s13, s19
14806 ; GFX900-NEXT:    s_mov_b32 s14, s16
14807 ; GFX900-NEXT:    s_mov_b32 s15, s17
14808 ; GFX900-NEXT:    ;;#ASMSTART
14809 ; GFX900-NEXT:    ; use s[8:15]
14810 ; GFX900-NEXT:    ;;#ASMEND
14811 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
14812 ;
14813 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_7_6:
14814 ; GFX90A:       ; %bb.0:
14815 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14816 ; GFX90A-NEXT:    ;;#ASMSTART
14817 ; GFX90A-NEXT:    ; def s[12:19]
14818 ; GFX90A-NEXT:    ;;#ASMEND
14819 ; GFX90A-NEXT:    s_mov_b32 s8, s18
14820 ; GFX90A-NEXT:    s_mov_b32 s9, s19
14821 ; GFX90A-NEXT:    s_mov_b32 s10, s18
14822 ; GFX90A-NEXT:    s_mov_b32 s11, s19
14823 ; GFX90A-NEXT:    s_mov_b32 s12, s18
14824 ; GFX90A-NEXT:    s_mov_b32 s13, s19
14825 ; GFX90A-NEXT:    s_mov_b32 s14, s16
14826 ; GFX90A-NEXT:    s_mov_b32 s15, s17
14827 ; GFX90A-NEXT:    ;;#ASMSTART
14828 ; GFX90A-NEXT:    ; use s[8:15]
14829 ; GFX90A-NEXT:    ;;#ASMEND
14830 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
14831 ;
14832 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_7_6:
14833 ; GFX940:       ; %bb.0:
14834 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14835 ; GFX940-NEXT:    ;;#ASMSTART
14836 ; GFX940-NEXT:    ; def s[0:7]
14837 ; GFX940-NEXT:    ;;#ASMEND
14838 ; GFX940-NEXT:    s_mov_b32 s8, s6
14839 ; GFX940-NEXT:    s_mov_b32 s9, s7
14840 ; GFX940-NEXT:    s_mov_b32 s10, s6
14841 ; GFX940-NEXT:    s_mov_b32 s11, s7
14842 ; GFX940-NEXT:    s_mov_b32 s12, s6
14843 ; GFX940-NEXT:    s_mov_b32 s13, s7
14844 ; GFX940-NEXT:    s_mov_b32 s14, s4
14845 ; GFX940-NEXT:    s_mov_b32 s15, s5
14846 ; GFX940-NEXT:    ;;#ASMSTART
14847 ; GFX940-NEXT:    ; use s[8:15]
14848 ; GFX940-NEXT:    ;;#ASMEND
14849 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
14850   %vec0 = call <4 x i64> asm "; def $0", "=s"()
14851   %vec1 = call <4 x i64> asm "; def $0", "=s"()
14852   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 7, i32 6>
14853   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
14854   ret void
14855 }
14856
14857 define void @s_shuffle_v4i64_v4i64__7_7_7_7() {
14858 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__7_7_7_7:
14859 ; GFX9:       ; %bb.0:
14860 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14861 ; GFX9-NEXT:    ;;#ASMSTART
14862 ; GFX9-NEXT:    ; def s[8:15]
14863 ; GFX9-NEXT:    ;;#ASMEND
14864 ; GFX9-NEXT:    s_mov_b32 s8, s14
14865 ; GFX9-NEXT:    s_mov_b32 s9, s15
14866 ; GFX9-NEXT:    s_mov_b32 s10, s14
14867 ; GFX9-NEXT:    s_mov_b32 s11, s15
14868 ; GFX9-NEXT:    s_mov_b32 s12, s14
14869 ; GFX9-NEXT:    s_mov_b32 s13, s15
14870 ; GFX9-NEXT:    ;;#ASMSTART
14871 ; GFX9-NEXT:    ; use s[8:15]
14872 ; GFX9-NEXT:    ;;#ASMEND
14873 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
14874   %vec0 = call <4 x i64> asm "; def $0", "=s"()
14875   %vec1 = call <4 x i64> asm "; def $0", "=s"()
14876   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 7, i32 7>
14877   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
14878   ret void
14879 }
14880
14881 define void @s_shuffle_v4i64_v4i64__u_0_0_0() {
14882 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__u_0_0_0:
14883 ; GFX900:       ; %bb.0:
14884 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14885 ; GFX900-NEXT:    ;;#ASMSTART
14886 ; GFX900-NEXT:    ; def s[4:11]
14887 ; GFX900-NEXT:    ;;#ASMEND
14888 ; GFX900-NEXT:    s_mov_b32 s10, s4
14889 ; GFX900-NEXT:    s_mov_b32 s11, s5
14890 ; GFX900-NEXT:    s_mov_b32 s12, s4
14891 ; GFX900-NEXT:    s_mov_b32 s13, s5
14892 ; GFX900-NEXT:    s_mov_b32 s14, s4
14893 ; GFX900-NEXT:    s_mov_b32 s15, s5
14894 ; GFX900-NEXT:    ;;#ASMSTART
14895 ; GFX900-NEXT:    ; use s[8:15]
14896 ; GFX900-NEXT:    ;;#ASMEND
14897 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
14898 ;
14899 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__u_0_0_0:
14900 ; GFX90A:       ; %bb.0:
14901 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14902 ; GFX90A-NEXT:    ;;#ASMSTART
14903 ; GFX90A-NEXT:    ; def s[4:11]
14904 ; GFX90A-NEXT:    ;;#ASMEND
14905 ; GFX90A-NEXT:    s_mov_b32 s10, s4
14906 ; GFX90A-NEXT:    s_mov_b32 s11, s5
14907 ; GFX90A-NEXT:    s_mov_b32 s12, s4
14908 ; GFX90A-NEXT:    s_mov_b32 s13, s5
14909 ; GFX90A-NEXT:    s_mov_b32 s14, s4
14910 ; GFX90A-NEXT:    s_mov_b32 s15, s5
14911 ; GFX90A-NEXT:    ;;#ASMSTART
14912 ; GFX90A-NEXT:    ; use s[8:15]
14913 ; GFX90A-NEXT:    ;;#ASMEND
14914 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
14915 ;
14916 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__u_0_0_0:
14917 ; GFX940:       ; %bb.0:
14918 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14919 ; GFX940-NEXT:    ;;#ASMSTART
14920 ; GFX940-NEXT:    ; def s[0:7]
14921 ; GFX940-NEXT:    ;;#ASMEND
14922 ; GFX940-NEXT:    s_mov_b32 s10, s0
14923 ; GFX940-NEXT:    s_mov_b32 s11, s1
14924 ; GFX940-NEXT:    s_mov_b32 s12, s0
14925 ; GFX940-NEXT:    s_mov_b32 s13, s1
14926 ; GFX940-NEXT:    s_mov_b32 s14, s0
14927 ; GFX940-NEXT:    s_mov_b32 s15, s1
14928 ; GFX940-NEXT:    ;;#ASMSTART
14929 ; GFX940-NEXT:    ; use s[8:15]
14930 ; GFX940-NEXT:    ;;#ASMEND
14931 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
14932   %vec0 = call <4 x i64> asm "; def $0", "=s"()
14933   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 poison, i32 0, i32 0, i32 0>
14934   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
14935   ret void
14936 }
14937
14938 define void @s_shuffle_v4i64_v4i64__0_0_0_0() {
14939 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__0_0_0_0:
14940 ; GFX9:       ; %bb.0:
14941 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14942 ; GFX9-NEXT:    ;;#ASMSTART
14943 ; GFX9-NEXT:    ; def s[8:15]
14944 ; GFX9-NEXT:    ;;#ASMEND
14945 ; GFX9-NEXT:    s_mov_b32 s10, s8
14946 ; GFX9-NEXT:    s_mov_b32 s11, s9
14947 ; GFX9-NEXT:    s_mov_b32 s12, s8
14948 ; GFX9-NEXT:    s_mov_b32 s13, s9
14949 ; GFX9-NEXT:    s_mov_b32 s14, s8
14950 ; GFX9-NEXT:    s_mov_b32 s15, s9
14951 ; GFX9-NEXT:    ;;#ASMSTART
14952 ; GFX9-NEXT:    ; use s[8:15]
14953 ; GFX9-NEXT:    ;;#ASMEND
14954 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
14955   %vec0 = call <4 x i64> asm "; def $0", "=s"()
14956   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> zeroinitializer
14957   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
14958   ret void
14959 }
14960
14961 define void @s_shuffle_v4i64_v4i64__1_0_0_0() {
14962 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__1_0_0_0:
14963 ; GFX900:       ; %bb.0:
14964 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14965 ; GFX900-NEXT:    ;;#ASMSTART
14966 ; GFX900-NEXT:    ; def s[4:11]
14967 ; GFX900-NEXT:    ;;#ASMEND
14968 ; GFX900-NEXT:    s_mov_b32 s8, s6
14969 ; GFX900-NEXT:    s_mov_b32 s9, s7
14970 ; GFX900-NEXT:    s_mov_b32 s10, s4
14971 ; GFX900-NEXT:    s_mov_b32 s11, s5
14972 ; GFX900-NEXT:    s_mov_b32 s12, s4
14973 ; GFX900-NEXT:    s_mov_b32 s13, s5
14974 ; GFX900-NEXT:    s_mov_b32 s14, s4
14975 ; GFX900-NEXT:    s_mov_b32 s15, s5
14976 ; GFX900-NEXT:    ;;#ASMSTART
14977 ; GFX900-NEXT:    ; use s[8:15]
14978 ; GFX900-NEXT:    ;;#ASMEND
14979 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
14980 ;
14981 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__1_0_0_0:
14982 ; GFX90A:       ; %bb.0:
14983 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
14984 ; GFX90A-NEXT:    ;;#ASMSTART
14985 ; GFX90A-NEXT:    ; def s[4:11]
14986 ; GFX90A-NEXT:    ;;#ASMEND
14987 ; GFX90A-NEXT:    s_mov_b32 s8, s6
14988 ; GFX90A-NEXT:    s_mov_b32 s9, s7
14989 ; GFX90A-NEXT:    s_mov_b32 s10, s4
14990 ; GFX90A-NEXT:    s_mov_b32 s11, s5
14991 ; GFX90A-NEXT:    s_mov_b32 s12, s4
14992 ; GFX90A-NEXT:    s_mov_b32 s13, s5
14993 ; GFX90A-NEXT:    s_mov_b32 s14, s4
14994 ; GFX90A-NEXT:    s_mov_b32 s15, s5
14995 ; GFX90A-NEXT:    ;;#ASMSTART
14996 ; GFX90A-NEXT:    ; use s[8:15]
14997 ; GFX90A-NEXT:    ;;#ASMEND
14998 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
14999 ;
15000 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__1_0_0_0:
15001 ; GFX940:       ; %bb.0:
15002 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15003 ; GFX940-NEXT:    ;;#ASMSTART
15004 ; GFX940-NEXT:    ; def s[0:7]
15005 ; GFX940-NEXT:    ;;#ASMEND
15006 ; GFX940-NEXT:    s_mov_b32 s8, s2
15007 ; GFX940-NEXT:    s_mov_b32 s9, s3
15008 ; GFX940-NEXT:    s_mov_b32 s10, s0
15009 ; GFX940-NEXT:    s_mov_b32 s11, s1
15010 ; GFX940-NEXT:    s_mov_b32 s12, s0
15011 ; GFX940-NEXT:    s_mov_b32 s13, s1
15012 ; GFX940-NEXT:    s_mov_b32 s14, s0
15013 ; GFX940-NEXT:    s_mov_b32 s15, s1
15014 ; GFX940-NEXT:    ;;#ASMSTART
15015 ; GFX940-NEXT:    ; use s[8:15]
15016 ; GFX940-NEXT:    ;;#ASMEND
15017 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
15018   %vec0 = call <4 x i64> asm "; def $0", "=s"()
15019   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 1, i32 0, i32 0, i32 0>
15020   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
15021   ret void
15022 }
15023
15024 define void @s_shuffle_v4i64_v4i64__2_0_0_0() {
15025 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__2_0_0_0:
15026 ; GFX900:       ; %bb.0:
15027 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15028 ; GFX900-NEXT:    ;;#ASMSTART
15029 ; GFX900-NEXT:    ; def s[4:11]
15030 ; GFX900-NEXT:    ;;#ASMEND
15031 ; GFX900-NEXT:    s_mov_b32 s10, s4
15032 ; GFX900-NEXT:    s_mov_b32 s11, s5
15033 ; GFX900-NEXT:    s_mov_b32 s12, s4
15034 ; GFX900-NEXT:    s_mov_b32 s13, s5
15035 ; GFX900-NEXT:    s_mov_b32 s14, s4
15036 ; GFX900-NEXT:    s_mov_b32 s15, s5
15037 ; GFX900-NEXT:    ;;#ASMSTART
15038 ; GFX900-NEXT:    ; use s[8:15]
15039 ; GFX900-NEXT:    ;;#ASMEND
15040 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
15041 ;
15042 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__2_0_0_0:
15043 ; GFX90A:       ; %bb.0:
15044 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15045 ; GFX90A-NEXT:    ;;#ASMSTART
15046 ; GFX90A-NEXT:    ; def s[4:11]
15047 ; GFX90A-NEXT:    ;;#ASMEND
15048 ; GFX90A-NEXT:    s_mov_b32 s10, s4
15049 ; GFX90A-NEXT:    s_mov_b32 s11, s5
15050 ; GFX90A-NEXT:    s_mov_b32 s12, s4
15051 ; GFX90A-NEXT:    s_mov_b32 s13, s5
15052 ; GFX90A-NEXT:    s_mov_b32 s14, s4
15053 ; GFX90A-NEXT:    s_mov_b32 s15, s5
15054 ; GFX90A-NEXT:    ;;#ASMSTART
15055 ; GFX90A-NEXT:    ; use s[8:15]
15056 ; GFX90A-NEXT:    ;;#ASMEND
15057 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
15058 ;
15059 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__2_0_0_0:
15060 ; GFX940:       ; %bb.0:
15061 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15062 ; GFX940-NEXT:    ;;#ASMSTART
15063 ; GFX940-NEXT:    ; def s[0:7]
15064 ; GFX940-NEXT:    ;;#ASMEND
15065 ; GFX940-NEXT:    s_mov_b32 s8, s4
15066 ; GFX940-NEXT:    s_mov_b32 s9, s5
15067 ; GFX940-NEXT:    s_mov_b32 s10, s0
15068 ; GFX940-NEXT:    s_mov_b32 s11, s1
15069 ; GFX940-NEXT:    s_mov_b32 s12, s0
15070 ; GFX940-NEXT:    s_mov_b32 s13, s1
15071 ; GFX940-NEXT:    s_mov_b32 s14, s0
15072 ; GFX940-NEXT:    s_mov_b32 s15, s1
15073 ; GFX940-NEXT:    ;;#ASMSTART
15074 ; GFX940-NEXT:    ; use s[8:15]
15075 ; GFX940-NEXT:    ;;#ASMEND
15076 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
15077   %vec0 = call <4 x i64> asm "; def $0", "=s"()
15078   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 2, i32 0, i32 0, i32 0>
15079   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
15080   ret void
15081 }
15082
15083 define void @s_shuffle_v4i64_v4i64__3_0_0_0() {
15084 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__3_0_0_0:
15085 ; GFX900:       ; %bb.0:
15086 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15087 ; GFX900-NEXT:    ;;#ASMSTART
15088 ; GFX900-NEXT:    ; def s[4:11]
15089 ; GFX900-NEXT:    ;;#ASMEND
15090 ; GFX900-NEXT:    s_mov_b32 s8, s10
15091 ; GFX900-NEXT:    s_mov_b32 s9, s11
15092 ; GFX900-NEXT:    s_mov_b32 s10, s4
15093 ; GFX900-NEXT:    s_mov_b32 s11, s5
15094 ; GFX900-NEXT:    s_mov_b32 s12, s4
15095 ; GFX900-NEXT:    s_mov_b32 s13, s5
15096 ; GFX900-NEXT:    s_mov_b32 s14, s4
15097 ; GFX900-NEXT:    s_mov_b32 s15, s5
15098 ; GFX900-NEXT:    ;;#ASMSTART
15099 ; GFX900-NEXT:    ; use s[8:15]
15100 ; GFX900-NEXT:    ;;#ASMEND
15101 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
15102 ;
15103 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__3_0_0_0:
15104 ; GFX90A:       ; %bb.0:
15105 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15106 ; GFX90A-NEXT:    ;;#ASMSTART
15107 ; GFX90A-NEXT:    ; def s[4:11]
15108 ; GFX90A-NEXT:    ;;#ASMEND
15109 ; GFX90A-NEXT:    s_mov_b32 s8, s10
15110 ; GFX90A-NEXT:    s_mov_b32 s9, s11
15111 ; GFX90A-NEXT:    s_mov_b32 s10, s4
15112 ; GFX90A-NEXT:    s_mov_b32 s11, s5
15113 ; GFX90A-NEXT:    s_mov_b32 s12, s4
15114 ; GFX90A-NEXT:    s_mov_b32 s13, s5
15115 ; GFX90A-NEXT:    s_mov_b32 s14, s4
15116 ; GFX90A-NEXT:    s_mov_b32 s15, s5
15117 ; GFX90A-NEXT:    ;;#ASMSTART
15118 ; GFX90A-NEXT:    ; use s[8:15]
15119 ; GFX90A-NEXT:    ;;#ASMEND
15120 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
15121 ;
15122 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__3_0_0_0:
15123 ; GFX940:       ; %bb.0:
15124 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15125 ; GFX940-NEXT:    ;;#ASMSTART
15126 ; GFX940-NEXT:    ; def s[0:7]
15127 ; GFX940-NEXT:    ;;#ASMEND
15128 ; GFX940-NEXT:    s_mov_b32 s8, s6
15129 ; GFX940-NEXT:    s_mov_b32 s9, s7
15130 ; GFX940-NEXT:    s_mov_b32 s10, s0
15131 ; GFX940-NEXT:    s_mov_b32 s11, s1
15132 ; GFX940-NEXT:    s_mov_b32 s12, s0
15133 ; GFX940-NEXT:    s_mov_b32 s13, s1
15134 ; GFX940-NEXT:    s_mov_b32 s14, s0
15135 ; GFX940-NEXT:    s_mov_b32 s15, s1
15136 ; GFX940-NEXT:    ;;#ASMSTART
15137 ; GFX940-NEXT:    ; use s[8:15]
15138 ; GFX940-NEXT:    ;;#ASMEND
15139 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
15140   %vec0 = call <4 x i64> asm "; def $0", "=s"()
15141   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 3, i32 0, i32 0, i32 0>
15142   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
15143   ret void
15144 }
15145
15146 define void @s_shuffle_v4i64_v4i64__4_0_0_0() {
15147 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__4_0_0_0:
15148 ; GFX900:       ; %bb.0:
15149 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15150 ; GFX900-NEXT:    ;;#ASMSTART
15151 ; GFX900-NEXT:    ; def s[4:11]
15152 ; GFX900-NEXT:    ;;#ASMEND
15153 ; GFX900-NEXT:    s_mov_b32 s10, s4
15154 ; GFX900-NEXT:    s_mov_b32 s11, s5
15155 ; GFX900-NEXT:    s_mov_b32 s12, s4
15156 ; GFX900-NEXT:    s_mov_b32 s13, s5
15157 ; GFX900-NEXT:    s_mov_b32 s14, s4
15158 ; GFX900-NEXT:    s_mov_b32 s15, s5
15159 ; GFX900-NEXT:    ;;#ASMSTART
15160 ; GFX900-NEXT:    ; use s[8:15]
15161 ; GFX900-NEXT:    ;;#ASMEND
15162 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
15163 ;
15164 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__4_0_0_0:
15165 ; GFX90A:       ; %bb.0:
15166 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15167 ; GFX90A-NEXT:    ;;#ASMSTART
15168 ; GFX90A-NEXT:    ; def s[4:11]
15169 ; GFX90A-NEXT:    ;;#ASMEND
15170 ; GFX90A-NEXT:    s_mov_b32 s10, s4
15171 ; GFX90A-NEXT:    s_mov_b32 s11, s5
15172 ; GFX90A-NEXT:    s_mov_b32 s12, s4
15173 ; GFX90A-NEXT:    s_mov_b32 s13, s5
15174 ; GFX90A-NEXT:    s_mov_b32 s14, s4
15175 ; GFX90A-NEXT:    s_mov_b32 s15, s5
15176 ; GFX90A-NEXT:    ;;#ASMSTART
15177 ; GFX90A-NEXT:    ; use s[8:15]
15178 ; GFX90A-NEXT:    ;;#ASMEND
15179 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
15180 ;
15181 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__4_0_0_0:
15182 ; GFX940:       ; %bb.0:
15183 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15184 ; GFX940-NEXT:    ;;#ASMSTART
15185 ; GFX940-NEXT:    ; def s[0:7]
15186 ; GFX940-NEXT:    ;;#ASMEND
15187 ; GFX940-NEXT:    s_mov_b32 s10, s0
15188 ; GFX940-NEXT:    s_mov_b32 s11, s1
15189 ; GFX940-NEXT:    s_mov_b32 s12, s0
15190 ; GFX940-NEXT:    s_mov_b32 s13, s1
15191 ; GFX940-NEXT:    s_mov_b32 s14, s0
15192 ; GFX940-NEXT:    s_mov_b32 s15, s1
15193 ; GFX940-NEXT:    ;;#ASMSTART
15194 ; GFX940-NEXT:    ; use s[8:15]
15195 ; GFX940-NEXT:    ;;#ASMEND
15196 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
15197   %vec0 = call <4 x i64> asm "; def $0", "=s"()
15198   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 4, i32 0, i32 0, i32 0>
15199   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
15200   ret void
15201 }
15202
15203 define void @s_shuffle_v4i64_v4i64__5_0_0_0() {
15204 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__5_0_0_0:
15205 ; GFX900:       ; %bb.0:
15206 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15207 ; GFX900-NEXT:    ;;#ASMSTART
15208 ; GFX900-NEXT:    ; def s[4:11]
15209 ; GFX900-NEXT:    ;;#ASMEND
15210 ; GFX900-NEXT:    ;;#ASMSTART
15211 ; GFX900-NEXT:    ; def s[8:15]
15212 ; GFX900-NEXT:    ;;#ASMEND
15213 ; GFX900-NEXT:    s_mov_b32 s8, s10
15214 ; GFX900-NEXT:    s_mov_b32 s9, s11
15215 ; GFX900-NEXT:    s_mov_b32 s10, s4
15216 ; GFX900-NEXT:    s_mov_b32 s11, s5
15217 ; GFX900-NEXT:    s_mov_b32 s12, s4
15218 ; GFX900-NEXT:    s_mov_b32 s13, s5
15219 ; GFX900-NEXT:    s_mov_b32 s14, s4
15220 ; GFX900-NEXT:    s_mov_b32 s15, s5
15221 ; GFX900-NEXT:    ;;#ASMSTART
15222 ; GFX900-NEXT:    ; use s[8:15]
15223 ; GFX900-NEXT:    ;;#ASMEND
15224 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
15225 ;
15226 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__5_0_0_0:
15227 ; GFX90A:       ; %bb.0:
15228 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15229 ; GFX90A-NEXT:    ;;#ASMSTART
15230 ; GFX90A-NEXT:    ; def s[4:11]
15231 ; GFX90A-NEXT:    ;;#ASMEND
15232 ; GFX90A-NEXT:    ;;#ASMSTART
15233 ; GFX90A-NEXT:    ; def s[8:15]
15234 ; GFX90A-NEXT:    ;;#ASMEND
15235 ; GFX90A-NEXT:    s_mov_b32 s8, s10
15236 ; GFX90A-NEXT:    s_mov_b32 s9, s11
15237 ; GFX90A-NEXT:    s_mov_b32 s10, s4
15238 ; GFX90A-NEXT:    s_mov_b32 s11, s5
15239 ; GFX90A-NEXT:    s_mov_b32 s12, s4
15240 ; GFX90A-NEXT:    s_mov_b32 s13, s5
15241 ; GFX90A-NEXT:    s_mov_b32 s14, s4
15242 ; GFX90A-NEXT:    s_mov_b32 s15, s5
15243 ; GFX90A-NEXT:    ;;#ASMSTART
15244 ; GFX90A-NEXT:    ; use s[8:15]
15245 ; GFX90A-NEXT:    ;;#ASMEND
15246 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
15247 ;
15248 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__5_0_0_0:
15249 ; GFX940:       ; %bb.0:
15250 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15251 ; GFX940-NEXT:    ;;#ASMSTART
15252 ; GFX940-NEXT:    ; def s[0:7]
15253 ; GFX940-NEXT:    ;;#ASMEND
15254 ; GFX940-NEXT:    s_mov_b32 s12, s0
15255 ; GFX940-NEXT:    ;;#ASMSTART
15256 ; GFX940-NEXT:    ; def s[4:11]
15257 ; GFX940-NEXT:    ;;#ASMEND
15258 ; GFX940-NEXT:    s_mov_b32 s8, s6
15259 ; GFX940-NEXT:    s_mov_b32 s9, s7
15260 ; GFX940-NEXT:    s_mov_b32 s10, s0
15261 ; GFX940-NEXT:    s_mov_b32 s11, s1
15262 ; GFX940-NEXT:    s_mov_b32 s13, s1
15263 ; GFX940-NEXT:    s_mov_b32 s14, s0
15264 ; GFX940-NEXT:    s_mov_b32 s15, s1
15265 ; GFX940-NEXT:    ;;#ASMSTART
15266 ; GFX940-NEXT:    ; use s[8:15]
15267 ; GFX940-NEXT:    ;;#ASMEND
15268 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
15269   %vec0 = call <4 x i64> asm "; def $0", "=s"()
15270   %vec1 = call <4 x i64> asm "; def $0", "=s"()
15271   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 5, i32 0, i32 0, i32 0>
15272   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
15273   ret void
15274 }
15275
15276 define void @s_shuffle_v4i64_v4i64__6_0_0_0() {
15277 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__6_0_0_0:
15278 ; GFX900:       ; %bb.0:
15279 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15280 ; GFX900-NEXT:    ;;#ASMSTART
15281 ; GFX900-NEXT:    ; def s[4:11]
15282 ; GFX900-NEXT:    ;;#ASMEND
15283 ; GFX900-NEXT:    ;;#ASMSTART
15284 ; GFX900-NEXT:    ; def s[8:15]
15285 ; GFX900-NEXT:    ;;#ASMEND
15286 ; GFX900-NEXT:    s_mov_b32 s8, s12
15287 ; GFX900-NEXT:    s_mov_b32 s9, s13
15288 ; GFX900-NEXT:    s_mov_b32 s10, s4
15289 ; GFX900-NEXT:    s_mov_b32 s11, s5
15290 ; GFX900-NEXT:    s_mov_b32 s12, s4
15291 ; GFX900-NEXT:    s_mov_b32 s13, s5
15292 ; GFX900-NEXT:    s_mov_b32 s14, s4
15293 ; GFX900-NEXT:    s_mov_b32 s15, s5
15294 ; GFX900-NEXT:    ;;#ASMSTART
15295 ; GFX900-NEXT:    ; use s[8:15]
15296 ; GFX900-NEXT:    ;;#ASMEND
15297 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
15298 ;
15299 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__6_0_0_0:
15300 ; GFX90A:       ; %bb.0:
15301 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15302 ; GFX90A-NEXT:    ;;#ASMSTART
15303 ; GFX90A-NEXT:    ; def s[4:11]
15304 ; GFX90A-NEXT:    ;;#ASMEND
15305 ; GFX90A-NEXT:    ;;#ASMSTART
15306 ; GFX90A-NEXT:    ; def s[8:15]
15307 ; GFX90A-NEXT:    ;;#ASMEND
15308 ; GFX90A-NEXT:    s_mov_b32 s8, s12
15309 ; GFX90A-NEXT:    s_mov_b32 s9, s13
15310 ; GFX90A-NEXT:    s_mov_b32 s10, s4
15311 ; GFX90A-NEXT:    s_mov_b32 s11, s5
15312 ; GFX90A-NEXT:    s_mov_b32 s12, s4
15313 ; GFX90A-NEXT:    s_mov_b32 s13, s5
15314 ; GFX90A-NEXT:    s_mov_b32 s14, s4
15315 ; GFX90A-NEXT:    s_mov_b32 s15, s5
15316 ; GFX90A-NEXT:    ;;#ASMSTART
15317 ; GFX90A-NEXT:    ; use s[8:15]
15318 ; GFX90A-NEXT:    ;;#ASMEND
15319 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
15320 ;
15321 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__6_0_0_0:
15322 ; GFX940:       ; %bb.0:
15323 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15324 ; GFX940-NEXT:    ;;#ASMSTART
15325 ; GFX940-NEXT:    ; def s[0:7]
15326 ; GFX940-NEXT:    ;;#ASMEND
15327 ; GFX940-NEXT:    s_mov_b32 s12, s0
15328 ; GFX940-NEXT:    ;;#ASMSTART
15329 ; GFX940-NEXT:    ; def s[4:11]
15330 ; GFX940-NEXT:    ;;#ASMEND
15331 ; GFX940-NEXT:    s_mov_b32 s10, s0
15332 ; GFX940-NEXT:    s_mov_b32 s11, s1
15333 ; GFX940-NEXT:    s_mov_b32 s13, s1
15334 ; GFX940-NEXT:    s_mov_b32 s14, s0
15335 ; GFX940-NEXT:    s_mov_b32 s15, s1
15336 ; GFX940-NEXT:    ;;#ASMSTART
15337 ; GFX940-NEXT:    ; use s[8:15]
15338 ; GFX940-NEXT:    ;;#ASMEND
15339 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
15340   %vec0 = call <4 x i64> asm "; def $0", "=s"()
15341   %vec1 = call <4 x i64> asm "; def $0", "=s"()
15342   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 6, i32 0, i32 0, i32 0>
15343   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
15344   ret void
15345 }
15346
15347 define void @s_shuffle_v4i64_v4i64__7_0_0_0() {
15348 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_0_0_0:
15349 ; GFX900:       ; %bb.0:
15350 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15351 ; GFX900-NEXT:    ;;#ASMSTART
15352 ; GFX900-NEXT:    ; def s[4:11]
15353 ; GFX900-NEXT:    ;;#ASMEND
15354 ; GFX900-NEXT:    ;;#ASMSTART
15355 ; GFX900-NEXT:    ; def s[8:15]
15356 ; GFX900-NEXT:    ;;#ASMEND
15357 ; GFX900-NEXT:    s_mov_b32 s8, s14
15358 ; GFX900-NEXT:    s_mov_b32 s9, s15
15359 ; GFX900-NEXT:    s_mov_b32 s10, s4
15360 ; GFX900-NEXT:    s_mov_b32 s11, s5
15361 ; GFX900-NEXT:    s_mov_b32 s12, s4
15362 ; GFX900-NEXT:    s_mov_b32 s13, s5
15363 ; GFX900-NEXT:    s_mov_b32 s14, s4
15364 ; GFX900-NEXT:    s_mov_b32 s15, s5
15365 ; GFX900-NEXT:    ;;#ASMSTART
15366 ; GFX900-NEXT:    ; use s[8:15]
15367 ; GFX900-NEXT:    ;;#ASMEND
15368 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
15369 ;
15370 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_0_0_0:
15371 ; GFX90A:       ; %bb.0:
15372 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15373 ; GFX90A-NEXT:    ;;#ASMSTART
15374 ; GFX90A-NEXT:    ; def s[4:11]
15375 ; GFX90A-NEXT:    ;;#ASMEND
15376 ; GFX90A-NEXT:    ;;#ASMSTART
15377 ; GFX90A-NEXT:    ; def s[8:15]
15378 ; GFX90A-NEXT:    ;;#ASMEND
15379 ; GFX90A-NEXT:    s_mov_b32 s8, s14
15380 ; GFX90A-NEXT:    s_mov_b32 s9, s15
15381 ; GFX90A-NEXT:    s_mov_b32 s10, s4
15382 ; GFX90A-NEXT:    s_mov_b32 s11, s5
15383 ; GFX90A-NEXT:    s_mov_b32 s12, s4
15384 ; GFX90A-NEXT:    s_mov_b32 s13, s5
15385 ; GFX90A-NEXT:    s_mov_b32 s14, s4
15386 ; GFX90A-NEXT:    s_mov_b32 s15, s5
15387 ; GFX90A-NEXT:    ;;#ASMSTART
15388 ; GFX90A-NEXT:    ; use s[8:15]
15389 ; GFX90A-NEXT:    ;;#ASMEND
15390 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
15391 ;
15392 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_0_0_0:
15393 ; GFX940:       ; %bb.0:
15394 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15395 ; GFX940-NEXT:    ;;#ASMSTART
15396 ; GFX940-NEXT:    ; def s[0:7]
15397 ; GFX940-NEXT:    ;;#ASMEND
15398 ; GFX940-NEXT:    s_mov_b32 s12, s0
15399 ; GFX940-NEXT:    ;;#ASMSTART
15400 ; GFX940-NEXT:    ; def s[4:11]
15401 ; GFX940-NEXT:    ;;#ASMEND
15402 ; GFX940-NEXT:    s_mov_b32 s8, s10
15403 ; GFX940-NEXT:    s_mov_b32 s9, s11
15404 ; GFX940-NEXT:    s_mov_b32 s10, s0
15405 ; GFX940-NEXT:    s_mov_b32 s11, s1
15406 ; GFX940-NEXT:    s_mov_b32 s13, s1
15407 ; GFX940-NEXT:    s_mov_b32 s14, s0
15408 ; GFX940-NEXT:    s_mov_b32 s15, s1
15409 ; GFX940-NEXT:    ;;#ASMSTART
15410 ; GFX940-NEXT:    ; use s[8:15]
15411 ; GFX940-NEXT:    ;;#ASMEND
15412 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
15413   %vec0 = call <4 x i64> asm "; def $0", "=s"()
15414   %vec1 = call <4 x i64> asm "; def $0", "=s"()
15415   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 0, i32 0, i32 0>
15416   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
15417   ret void
15418 }
15419
15420 define void @s_shuffle_v4i64_v4i64__7_u_0_0() {
15421 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_u_0_0:
15422 ; GFX900:       ; %bb.0:
15423 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15424 ; GFX900-NEXT:    ;;#ASMSTART
15425 ; GFX900-NEXT:    ; def s[4:11]
15426 ; GFX900-NEXT:    ;;#ASMEND
15427 ; GFX900-NEXT:    ;;#ASMSTART
15428 ; GFX900-NEXT:    ; def s[8:15]
15429 ; GFX900-NEXT:    ;;#ASMEND
15430 ; GFX900-NEXT:    s_mov_b32 s8, s14
15431 ; GFX900-NEXT:    s_mov_b32 s9, s15
15432 ; GFX900-NEXT:    s_mov_b32 s12, s4
15433 ; GFX900-NEXT:    s_mov_b32 s13, s5
15434 ; GFX900-NEXT:    s_mov_b32 s14, s4
15435 ; GFX900-NEXT:    s_mov_b32 s15, s5
15436 ; GFX900-NEXT:    ;;#ASMSTART
15437 ; GFX900-NEXT:    ; use s[8:15]
15438 ; GFX900-NEXT:    ;;#ASMEND
15439 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
15440 ;
15441 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_u_0_0:
15442 ; GFX90A:       ; %bb.0:
15443 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15444 ; GFX90A-NEXT:    ;;#ASMSTART
15445 ; GFX90A-NEXT:    ; def s[4:11]
15446 ; GFX90A-NEXT:    ;;#ASMEND
15447 ; GFX90A-NEXT:    ;;#ASMSTART
15448 ; GFX90A-NEXT:    ; def s[8:15]
15449 ; GFX90A-NEXT:    ;;#ASMEND
15450 ; GFX90A-NEXT:    s_mov_b32 s8, s14
15451 ; GFX90A-NEXT:    s_mov_b32 s9, s15
15452 ; GFX90A-NEXT:    s_mov_b32 s12, s4
15453 ; GFX90A-NEXT:    s_mov_b32 s13, s5
15454 ; GFX90A-NEXT:    s_mov_b32 s14, s4
15455 ; GFX90A-NEXT:    s_mov_b32 s15, s5
15456 ; GFX90A-NEXT:    ;;#ASMSTART
15457 ; GFX90A-NEXT:    ; use s[8:15]
15458 ; GFX90A-NEXT:    ;;#ASMEND
15459 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
15460 ;
15461 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_u_0_0:
15462 ; GFX940:       ; %bb.0:
15463 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15464 ; GFX940-NEXT:    ;;#ASMSTART
15465 ; GFX940-NEXT:    ; def s[0:7]
15466 ; GFX940-NEXT:    ;;#ASMEND
15467 ; GFX940-NEXT:    s_mov_b32 s12, s0
15468 ; GFX940-NEXT:    ;;#ASMSTART
15469 ; GFX940-NEXT:    ; def s[4:11]
15470 ; GFX940-NEXT:    ;;#ASMEND
15471 ; GFX940-NEXT:    s_mov_b32 s8, s10
15472 ; GFX940-NEXT:    s_mov_b32 s9, s11
15473 ; GFX940-NEXT:    s_mov_b32 s13, s1
15474 ; GFX940-NEXT:    s_mov_b32 s14, s0
15475 ; GFX940-NEXT:    s_mov_b32 s15, s1
15476 ; GFX940-NEXT:    ;;#ASMSTART
15477 ; GFX940-NEXT:    ; use s[8:15]
15478 ; GFX940-NEXT:    ;;#ASMEND
15479 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
15480   %vec0 = call <4 x i64> asm "; def $0", "=s"()
15481   %vec1 = call <4 x i64> asm "; def $0", "=s"()
15482   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 poison, i32 0, i32 0>
15483   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
15484   ret void
15485 }
15486
15487 define void @s_shuffle_v4i64_v4i64__7_1_0_0() {
15488 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_1_0_0:
15489 ; GFX900:       ; %bb.0:
15490 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15491 ; GFX900-NEXT:    ;;#ASMSTART
15492 ; GFX900-NEXT:    ; def s[4:11]
15493 ; GFX900-NEXT:    ;;#ASMEND
15494 ; GFX900-NEXT:    ;;#ASMSTART
15495 ; GFX900-NEXT:    ; def s[8:15]
15496 ; GFX900-NEXT:    ;;#ASMEND
15497 ; GFX900-NEXT:    s_mov_b32 s8, s14
15498 ; GFX900-NEXT:    s_mov_b32 s9, s15
15499 ; GFX900-NEXT:    s_mov_b32 s10, s6
15500 ; GFX900-NEXT:    s_mov_b32 s11, s7
15501 ; GFX900-NEXT:    s_mov_b32 s12, s4
15502 ; GFX900-NEXT:    s_mov_b32 s13, s5
15503 ; GFX900-NEXT:    s_mov_b32 s14, s4
15504 ; GFX900-NEXT:    s_mov_b32 s15, s5
15505 ; GFX900-NEXT:    ;;#ASMSTART
15506 ; GFX900-NEXT:    ; use s[8:15]
15507 ; GFX900-NEXT:    ;;#ASMEND
15508 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
15509 ;
15510 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_1_0_0:
15511 ; GFX90A:       ; %bb.0:
15512 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15513 ; GFX90A-NEXT:    ;;#ASMSTART
15514 ; GFX90A-NEXT:    ; def s[4:11]
15515 ; GFX90A-NEXT:    ;;#ASMEND
15516 ; GFX90A-NEXT:    ;;#ASMSTART
15517 ; GFX90A-NEXT:    ; def s[8:15]
15518 ; GFX90A-NEXT:    ;;#ASMEND
15519 ; GFX90A-NEXT:    s_mov_b32 s8, s14
15520 ; GFX90A-NEXT:    s_mov_b32 s9, s15
15521 ; GFX90A-NEXT:    s_mov_b32 s10, s6
15522 ; GFX90A-NEXT:    s_mov_b32 s11, s7
15523 ; GFX90A-NEXT:    s_mov_b32 s12, s4
15524 ; GFX90A-NEXT:    s_mov_b32 s13, s5
15525 ; GFX90A-NEXT:    s_mov_b32 s14, s4
15526 ; GFX90A-NEXT:    s_mov_b32 s15, s5
15527 ; GFX90A-NEXT:    ;;#ASMSTART
15528 ; GFX90A-NEXT:    ; use s[8:15]
15529 ; GFX90A-NEXT:    ;;#ASMEND
15530 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
15531 ;
15532 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_1_0_0:
15533 ; GFX940:       ; %bb.0:
15534 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15535 ; GFX940-NEXT:    ;;#ASMSTART
15536 ; GFX940-NEXT:    ; def s[0:7]
15537 ; GFX940-NEXT:    ;;#ASMEND
15538 ; GFX940-NEXT:    s_mov_b32 s12, s0
15539 ; GFX940-NEXT:    ;;#ASMSTART
15540 ; GFX940-NEXT:    ; def s[4:11]
15541 ; GFX940-NEXT:    ;;#ASMEND
15542 ; GFX940-NEXT:    s_mov_b32 s8, s10
15543 ; GFX940-NEXT:    s_mov_b32 s9, s11
15544 ; GFX940-NEXT:    s_mov_b32 s10, s2
15545 ; GFX940-NEXT:    s_mov_b32 s11, s3
15546 ; GFX940-NEXT:    s_mov_b32 s13, s1
15547 ; GFX940-NEXT:    s_mov_b32 s14, s0
15548 ; GFX940-NEXT:    s_mov_b32 s15, s1
15549 ; GFX940-NEXT:    ;;#ASMSTART
15550 ; GFX940-NEXT:    ; use s[8:15]
15551 ; GFX940-NEXT:    ;;#ASMEND
15552 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
15553   %vec0 = call <4 x i64> asm "; def $0", "=s"()
15554   %vec1 = call <4 x i64> asm "; def $0", "=s"()
15555   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 1, i32 0, i32 0>
15556   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
15557   ret void
15558 }
15559
15560 define void @s_shuffle_v4i64_v4i64__7_2_0_0() {
15561 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_2_0_0:
15562 ; GFX900:       ; %bb.0:
15563 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15564 ; GFX900-NEXT:    ;;#ASMSTART
15565 ; GFX900-NEXT:    ; def s[4:11]
15566 ; GFX900-NEXT:    ;;#ASMEND
15567 ; GFX900-NEXT:    ;;#ASMSTART
15568 ; GFX900-NEXT:    ; def s[16:23]
15569 ; GFX900-NEXT:    ;;#ASMEND
15570 ; GFX900-NEXT:    s_mov_b32 s8, s10
15571 ; GFX900-NEXT:    s_mov_b32 s9, s11
15572 ; GFX900-NEXT:    s_mov_b32 s10, s20
15573 ; GFX900-NEXT:    s_mov_b32 s11, s21
15574 ; GFX900-NEXT:    s_mov_b32 s12, s16
15575 ; GFX900-NEXT:    s_mov_b32 s13, s17
15576 ; GFX900-NEXT:    s_mov_b32 s14, s16
15577 ; GFX900-NEXT:    s_mov_b32 s15, s17
15578 ; GFX900-NEXT:    ;;#ASMSTART
15579 ; GFX900-NEXT:    ; use s[8:15]
15580 ; GFX900-NEXT:    ;;#ASMEND
15581 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
15582 ;
15583 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_2_0_0:
15584 ; GFX90A:       ; %bb.0:
15585 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15586 ; GFX90A-NEXT:    ;;#ASMSTART
15587 ; GFX90A-NEXT:    ; def s[4:11]
15588 ; GFX90A-NEXT:    ;;#ASMEND
15589 ; GFX90A-NEXT:    ;;#ASMSTART
15590 ; GFX90A-NEXT:    ; def s[16:23]
15591 ; GFX90A-NEXT:    ;;#ASMEND
15592 ; GFX90A-NEXT:    s_mov_b32 s8, s10
15593 ; GFX90A-NEXT:    s_mov_b32 s9, s11
15594 ; GFX90A-NEXT:    s_mov_b32 s10, s20
15595 ; GFX90A-NEXT:    s_mov_b32 s11, s21
15596 ; GFX90A-NEXT:    s_mov_b32 s12, s16
15597 ; GFX90A-NEXT:    s_mov_b32 s13, s17
15598 ; GFX90A-NEXT:    s_mov_b32 s14, s16
15599 ; GFX90A-NEXT:    s_mov_b32 s15, s17
15600 ; GFX90A-NEXT:    ;;#ASMSTART
15601 ; GFX90A-NEXT:    ; use s[8:15]
15602 ; GFX90A-NEXT:    ;;#ASMEND
15603 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
15604 ;
15605 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_2_0_0:
15606 ; GFX940:       ; %bb.0:
15607 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15608 ; GFX940-NEXT:    ;;#ASMSTART
15609 ; GFX940-NEXT:    ; def s[8:15]
15610 ; GFX940-NEXT:    ;;#ASMEND
15611 ; GFX940-NEXT:    ;;#ASMSTART
15612 ; GFX940-NEXT:    ; def s[0:7]
15613 ; GFX940-NEXT:    ;;#ASMEND
15614 ; GFX940-NEXT:    s_mov_b32 s8, s14
15615 ; GFX940-NEXT:    s_mov_b32 s9, s15
15616 ; GFX940-NEXT:    s_mov_b32 s10, s4
15617 ; GFX940-NEXT:    s_mov_b32 s11, s5
15618 ; GFX940-NEXT:    s_mov_b32 s12, s0
15619 ; GFX940-NEXT:    s_mov_b32 s13, s1
15620 ; GFX940-NEXT:    s_mov_b32 s14, s0
15621 ; GFX940-NEXT:    s_mov_b32 s15, s1
15622 ; GFX940-NEXT:    ;;#ASMSTART
15623 ; GFX940-NEXT:    ; use s[8:15]
15624 ; GFX940-NEXT:    ;;#ASMEND
15625 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
15626   %vec0 = call <4 x i64> asm "; def $0", "=s"()
15627   %vec1 = call <4 x i64> asm "; def $0", "=s"()
15628   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 2, i32 0, i32 0>
15629   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
15630   ret void
15631 }
15632
15633 define void @s_shuffle_v4i64_v4i64__7_3_0_0() {
15634 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_3_0_0:
15635 ; GFX900:       ; %bb.0:
15636 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15637 ; GFX900-NEXT:    ;;#ASMSTART
15638 ; GFX900-NEXT:    ; def s[4:11]
15639 ; GFX900-NEXT:    ;;#ASMEND
15640 ; GFX900-NEXT:    ;;#ASMSTART
15641 ; GFX900-NEXT:    ; def s[12:19]
15642 ; GFX900-NEXT:    ;;#ASMEND
15643 ; GFX900-NEXT:    s_mov_b32 s8, s18
15644 ; GFX900-NEXT:    s_mov_b32 s9, s19
15645 ; GFX900-NEXT:    s_mov_b32 s12, s4
15646 ; GFX900-NEXT:    s_mov_b32 s13, s5
15647 ; GFX900-NEXT:    s_mov_b32 s14, s4
15648 ; GFX900-NEXT:    s_mov_b32 s15, s5
15649 ; GFX900-NEXT:    ;;#ASMSTART
15650 ; GFX900-NEXT:    ; use s[8:15]
15651 ; GFX900-NEXT:    ;;#ASMEND
15652 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
15653 ;
15654 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_3_0_0:
15655 ; GFX90A:       ; %bb.0:
15656 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15657 ; GFX90A-NEXT:    ;;#ASMSTART
15658 ; GFX90A-NEXT:    ; def s[4:11]
15659 ; GFX90A-NEXT:    ;;#ASMEND
15660 ; GFX90A-NEXT:    ;;#ASMSTART
15661 ; GFX90A-NEXT:    ; def s[12:19]
15662 ; GFX90A-NEXT:    ;;#ASMEND
15663 ; GFX90A-NEXT:    s_mov_b32 s8, s18
15664 ; GFX90A-NEXT:    s_mov_b32 s9, s19
15665 ; GFX90A-NEXT:    s_mov_b32 s12, s4
15666 ; GFX90A-NEXT:    s_mov_b32 s13, s5
15667 ; GFX90A-NEXT:    s_mov_b32 s14, s4
15668 ; GFX90A-NEXT:    s_mov_b32 s15, s5
15669 ; GFX90A-NEXT:    ;;#ASMSTART
15670 ; GFX90A-NEXT:    ; use s[8:15]
15671 ; GFX90A-NEXT:    ;;#ASMEND
15672 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
15673 ;
15674 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_3_0_0:
15675 ; GFX940:       ; %bb.0:
15676 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15677 ; GFX940-NEXT:    ;;#ASMSTART
15678 ; GFX940-NEXT:    ; def s[8:15]
15679 ; GFX940-NEXT:    ;;#ASMEND
15680 ; GFX940-NEXT:    ;;#ASMSTART
15681 ; GFX940-NEXT:    ; def s[0:7]
15682 ; GFX940-NEXT:    ;;#ASMEND
15683 ; GFX940-NEXT:    s_mov_b32 s8, s14
15684 ; GFX940-NEXT:    s_mov_b32 s9, s15
15685 ; GFX940-NEXT:    s_mov_b32 s10, s6
15686 ; GFX940-NEXT:    s_mov_b32 s11, s7
15687 ; GFX940-NEXT:    s_mov_b32 s12, s0
15688 ; GFX940-NEXT:    s_mov_b32 s13, s1
15689 ; GFX940-NEXT:    s_mov_b32 s14, s0
15690 ; GFX940-NEXT:    s_mov_b32 s15, s1
15691 ; GFX940-NEXT:    ;;#ASMSTART
15692 ; GFX940-NEXT:    ; use s[8:15]
15693 ; GFX940-NEXT:    ;;#ASMEND
15694 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
15695   %vec0 = call <4 x i64> asm "; def $0", "=s"()
15696   %vec1 = call <4 x i64> asm "; def $0", "=s"()
15697   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 3, i32 0, i32 0>
15698   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
15699   ret void
15700 }
15701
15702 define void @s_shuffle_v4i64_v4i64__7_4_0_0() {
15703 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_4_0_0:
15704 ; GFX900:       ; %bb.0:
15705 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15706 ; GFX900-NEXT:    ;;#ASMSTART
15707 ; GFX900-NEXT:    ; def s[4:11]
15708 ; GFX900-NEXT:    ;;#ASMEND
15709 ; GFX900-NEXT:    ;;#ASMSTART
15710 ; GFX900-NEXT:    ; def s[12:19]
15711 ; GFX900-NEXT:    ;;#ASMEND
15712 ; GFX900-NEXT:    s_mov_b32 s8, s18
15713 ; GFX900-NEXT:    s_mov_b32 s9, s19
15714 ; GFX900-NEXT:    s_mov_b32 s10, s12
15715 ; GFX900-NEXT:    s_mov_b32 s11, s13
15716 ; GFX900-NEXT:    s_mov_b32 s12, s4
15717 ; GFX900-NEXT:    s_mov_b32 s13, s5
15718 ; GFX900-NEXT:    s_mov_b32 s14, s4
15719 ; GFX900-NEXT:    s_mov_b32 s15, s5
15720 ; GFX900-NEXT:    ;;#ASMSTART
15721 ; GFX900-NEXT:    ; use s[8:15]
15722 ; GFX900-NEXT:    ;;#ASMEND
15723 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
15724 ;
15725 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_4_0_0:
15726 ; GFX90A:       ; %bb.0:
15727 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15728 ; GFX90A-NEXT:    ;;#ASMSTART
15729 ; GFX90A-NEXT:    ; def s[4:11]
15730 ; GFX90A-NEXT:    ;;#ASMEND
15731 ; GFX90A-NEXT:    ;;#ASMSTART
15732 ; GFX90A-NEXT:    ; def s[12:19]
15733 ; GFX90A-NEXT:    ;;#ASMEND
15734 ; GFX90A-NEXT:    s_mov_b32 s8, s18
15735 ; GFX90A-NEXT:    s_mov_b32 s9, s19
15736 ; GFX90A-NEXT:    s_mov_b32 s10, s12
15737 ; GFX90A-NEXT:    s_mov_b32 s11, s13
15738 ; GFX90A-NEXT:    s_mov_b32 s12, s4
15739 ; GFX90A-NEXT:    s_mov_b32 s13, s5
15740 ; GFX90A-NEXT:    s_mov_b32 s14, s4
15741 ; GFX90A-NEXT:    s_mov_b32 s15, s5
15742 ; GFX90A-NEXT:    ;;#ASMSTART
15743 ; GFX90A-NEXT:    ; use s[8:15]
15744 ; GFX90A-NEXT:    ;;#ASMEND
15745 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
15746 ;
15747 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_4_0_0:
15748 ; GFX940:       ; %bb.0:
15749 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15750 ; GFX940-NEXT:    ;;#ASMSTART
15751 ; GFX940-NEXT:    ; def s[0:7]
15752 ; GFX940-NEXT:    ;;#ASMEND
15753 ; GFX940-NEXT:    s_mov_b32 s12, s0
15754 ; GFX940-NEXT:    ;;#ASMSTART
15755 ; GFX940-NEXT:    ; def s[4:11]
15756 ; GFX940-NEXT:    ;;#ASMEND
15757 ; GFX940-NEXT:    s_mov_b32 s8, s10
15758 ; GFX940-NEXT:    s_mov_b32 s9, s11
15759 ; GFX940-NEXT:    s_mov_b32 s10, s4
15760 ; GFX940-NEXT:    s_mov_b32 s11, s5
15761 ; GFX940-NEXT:    s_mov_b32 s13, s1
15762 ; GFX940-NEXT:    s_mov_b32 s14, s0
15763 ; GFX940-NEXT:    s_mov_b32 s15, s1
15764 ; GFX940-NEXT:    ;;#ASMSTART
15765 ; GFX940-NEXT:    ; use s[8:15]
15766 ; GFX940-NEXT:    ;;#ASMEND
15767 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
15768   %vec0 = call <4 x i64> asm "; def $0", "=s"()
15769   %vec1 = call <4 x i64> asm "; def $0", "=s"()
15770   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 4, i32 0, i32 0>
15771   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
15772   ret void
15773 }
15774
15775 define void @s_shuffle_v4i64_v4i64__7_5_0_0() {
15776 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_5_0_0:
15777 ; GFX900:       ; %bb.0:
15778 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15779 ; GFX900-NEXT:    ;;#ASMSTART
15780 ; GFX900-NEXT:    ; def s[4:11]
15781 ; GFX900-NEXT:    ;;#ASMEND
15782 ; GFX900-NEXT:    ;;#ASMSTART
15783 ; GFX900-NEXT:    ; def s[8:15]
15784 ; GFX900-NEXT:    ;;#ASMEND
15785 ; GFX900-NEXT:    s_mov_b32 s8, s14
15786 ; GFX900-NEXT:    s_mov_b32 s9, s15
15787 ; GFX900-NEXT:    s_mov_b32 s12, s4
15788 ; GFX900-NEXT:    s_mov_b32 s13, s5
15789 ; GFX900-NEXT:    s_mov_b32 s14, s4
15790 ; GFX900-NEXT:    s_mov_b32 s15, s5
15791 ; GFX900-NEXT:    ;;#ASMSTART
15792 ; GFX900-NEXT:    ; use s[8:15]
15793 ; GFX900-NEXT:    ;;#ASMEND
15794 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
15795 ;
15796 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_5_0_0:
15797 ; GFX90A:       ; %bb.0:
15798 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15799 ; GFX90A-NEXT:    ;;#ASMSTART
15800 ; GFX90A-NEXT:    ; def s[4:11]
15801 ; GFX90A-NEXT:    ;;#ASMEND
15802 ; GFX90A-NEXT:    ;;#ASMSTART
15803 ; GFX90A-NEXT:    ; def s[8:15]
15804 ; GFX90A-NEXT:    ;;#ASMEND
15805 ; GFX90A-NEXT:    s_mov_b32 s8, s14
15806 ; GFX90A-NEXT:    s_mov_b32 s9, s15
15807 ; GFX90A-NEXT:    s_mov_b32 s12, s4
15808 ; GFX90A-NEXT:    s_mov_b32 s13, s5
15809 ; GFX90A-NEXT:    s_mov_b32 s14, s4
15810 ; GFX90A-NEXT:    s_mov_b32 s15, s5
15811 ; GFX90A-NEXT:    ;;#ASMSTART
15812 ; GFX90A-NEXT:    ; use s[8:15]
15813 ; GFX90A-NEXT:    ;;#ASMEND
15814 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
15815 ;
15816 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_5_0_0:
15817 ; GFX940:       ; %bb.0:
15818 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15819 ; GFX940-NEXT:    ;;#ASMSTART
15820 ; GFX940-NEXT:    ; def s[8:15]
15821 ; GFX940-NEXT:    ;;#ASMEND
15822 ; GFX940-NEXT:    ;;#ASMSTART
15823 ; GFX940-NEXT:    ; def s[0:7]
15824 ; GFX940-NEXT:    ;;#ASMEND
15825 ; GFX940-NEXT:    s_mov_b32 s8, s14
15826 ; GFX940-NEXT:    s_mov_b32 s9, s15
15827 ; GFX940-NEXT:    s_mov_b32 s12, s0
15828 ; GFX940-NEXT:    s_mov_b32 s13, s1
15829 ; GFX940-NEXT:    s_mov_b32 s14, s0
15830 ; GFX940-NEXT:    s_mov_b32 s15, s1
15831 ; GFX940-NEXT:    ;;#ASMSTART
15832 ; GFX940-NEXT:    ; use s[8:15]
15833 ; GFX940-NEXT:    ;;#ASMEND
15834 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
15835   %vec0 = call <4 x i64> asm "; def $0", "=s"()
15836   %vec1 = call <4 x i64> asm "; def $0", "=s"()
15837   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 5, i32 0, i32 0>
15838   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
15839   ret void
15840 }
15841
15842 define void @s_shuffle_v4i64_v4i64__7_6_0_0() {
15843 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_6_0_0:
15844 ; GFX900:       ; %bb.0:
15845 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15846 ; GFX900-NEXT:    ;;#ASMSTART
15847 ; GFX900-NEXT:    ; def s[4:11]
15848 ; GFX900-NEXT:    ;;#ASMEND
15849 ; GFX900-NEXT:    ;;#ASMSTART
15850 ; GFX900-NEXT:    ; def s[8:15]
15851 ; GFX900-NEXT:    ;;#ASMEND
15852 ; GFX900-NEXT:    s_mov_b32 s8, s14
15853 ; GFX900-NEXT:    s_mov_b32 s9, s15
15854 ; GFX900-NEXT:    s_mov_b32 s10, s12
15855 ; GFX900-NEXT:    s_mov_b32 s11, s13
15856 ; GFX900-NEXT:    s_mov_b32 s12, s4
15857 ; GFX900-NEXT:    s_mov_b32 s13, s5
15858 ; GFX900-NEXT:    s_mov_b32 s14, s4
15859 ; GFX900-NEXT:    s_mov_b32 s15, s5
15860 ; GFX900-NEXT:    ;;#ASMSTART
15861 ; GFX900-NEXT:    ; use s[8:15]
15862 ; GFX900-NEXT:    ;;#ASMEND
15863 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
15864 ;
15865 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_6_0_0:
15866 ; GFX90A:       ; %bb.0:
15867 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15868 ; GFX90A-NEXT:    ;;#ASMSTART
15869 ; GFX90A-NEXT:    ; def s[4:11]
15870 ; GFX90A-NEXT:    ;;#ASMEND
15871 ; GFX90A-NEXT:    ;;#ASMSTART
15872 ; GFX90A-NEXT:    ; def s[8:15]
15873 ; GFX90A-NEXT:    ;;#ASMEND
15874 ; GFX90A-NEXT:    s_mov_b32 s8, s14
15875 ; GFX90A-NEXT:    s_mov_b32 s9, s15
15876 ; GFX90A-NEXT:    s_mov_b32 s10, s12
15877 ; GFX90A-NEXT:    s_mov_b32 s11, s13
15878 ; GFX90A-NEXT:    s_mov_b32 s12, s4
15879 ; GFX90A-NEXT:    s_mov_b32 s13, s5
15880 ; GFX90A-NEXT:    s_mov_b32 s14, s4
15881 ; GFX90A-NEXT:    s_mov_b32 s15, s5
15882 ; GFX90A-NEXT:    ;;#ASMSTART
15883 ; GFX90A-NEXT:    ; use s[8:15]
15884 ; GFX90A-NEXT:    ;;#ASMEND
15885 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
15886 ;
15887 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_6_0_0:
15888 ; GFX940:       ; %bb.0:
15889 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15890 ; GFX940-NEXT:    ;;#ASMSTART
15891 ; GFX940-NEXT:    ; def s[8:15]
15892 ; GFX940-NEXT:    ;;#ASMEND
15893 ; GFX940-NEXT:    ;;#ASMSTART
15894 ; GFX940-NEXT:    ; def s[0:7]
15895 ; GFX940-NEXT:    ;;#ASMEND
15896 ; GFX940-NEXT:    s_mov_b32 s8, s14
15897 ; GFX940-NEXT:    s_mov_b32 s9, s15
15898 ; GFX940-NEXT:    s_mov_b32 s10, s12
15899 ; GFX940-NEXT:    s_mov_b32 s11, s13
15900 ; GFX940-NEXT:    s_mov_b32 s12, s0
15901 ; GFX940-NEXT:    s_mov_b32 s13, s1
15902 ; GFX940-NEXT:    s_mov_b32 s14, s0
15903 ; GFX940-NEXT:    s_mov_b32 s15, s1
15904 ; GFX940-NEXT:    ;;#ASMSTART
15905 ; GFX940-NEXT:    ; use s[8:15]
15906 ; GFX940-NEXT:    ;;#ASMEND
15907 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
15908   %vec0 = call <4 x i64> asm "; def $0", "=s"()
15909   %vec1 = call <4 x i64> asm "; def $0", "=s"()
15910   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 6, i32 0, i32 0>
15911   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
15912   ret void
15913 }
15914
15915 define void @s_shuffle_v4i64_v4i64__7_7_0_0() {
15916 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_0_0:
15917 ; GFX900:       ; %bb.0:
15918 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15919 ; GFX900-NEXT:    ;;#ASMSTART
15920 ; GFX900-NEXT:    ; def s[4:11]
15921 ; GFX900-NEXT:    ;;#ASMEND
15922 ; GFX900-NEXT:    ;;#ASMSTART
15923 ; GFX900-NEXT:    ; def s[8:15]
15924 ; GFX900-NEXT:    ;;#ASMEND
15925 ; GFX900-NEXT:    s_mov_b32 s8, s14
15926 ; GFX900-NEXT:    s_mov_b32 s9, s15
15927 ; GFX900-NEXT:    s_mov_b32 s10, s14
15928 ; GFX900-NEXT:    s_mov_b32 s11, s15
15929 ; GFX900-NEXT:    s_mov_b32 s12, s4
15930 ; GFX900-NEXT:    s_mov_b32 s13, s5
15931 ; GFX900-NEXT:    s_mov_b32 s14, s4
15932 ; GFX900-NEXT:    s_mov_b32 s15, s5
15933 ; GFX900-NEXT:    ;;#ASMSTART
15934 ; GFX900-NEXT:    ; use s[8:15]
15935 ; GFX900-NEXT:    ;;#ASMEND
15936 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
15937 ;
15938 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_0_0:
15939 ; GFX90A:       ; %bb.0:
15940 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15941 ; GFX90A-NEXT:    ;;#ASMSTART
15942 ; GFX90A-NEXT:    ; def s[4:11]
15943 ; GFX90A-NEXT:    ;;#ASMEND
15944 ; GFX90A-NEXT:    ;;#ASMSTART
15945 ; GFX90A-NEXT:    ; def s[8:15]
15946 ; GFX90A-NEXT:    ;;#ASMEND
15947 ; GFX90A-NEXT:    s_mov_b32 s8, s14
15948 ; GFX90A-NEXT:    s_mov_b32 s9, s15
15949 ; GFX90A-NEXT:    s_mov_b32 s10, s14
15950 ; GFX90A-NEXT:    s_mov_b32 s11, s15
15951 ; GFX90A-NEXT:    s_mov_b32 s12, s4
15952 ; GFX90A-NEXT:    s_mov_b32 s13, s5
15953 ; GFX90A-NEXT:    s_mov_b32 s14, s4
15954 ; GFX90A-NEXT:    s_mov_b32 s15, s5
15955 ; GFX90A-NEXT:    ;;#ASMSTART
15956 ; GFX90A-NEXT:    ; use s[8:15]
15957 ; GFX90A-NEXT:    ;;#ASMEND
15958 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
15959 ;
15960 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_0_0:
15961 ; GFX940:       ; %bb.0:
15962 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15963 ; GFX940-NEXT:    ;;#ASMSTART
15964 ; GFX940-NEXT:    ; def s[0:7]
15965 ; GFX940-NEXT:    ;;#ASMEND
15966 ; GFX940-NEXT:    s_mov_b32 s12, s0
15967 ; GFX940-NEXT:    ;;#ASMSTART
15968 ; GFX940-NEXT:    ; def s[4:11]
15969 ; GFX940-NEXT:    ;;#ASMEND
15970 ; GFX940-NEXT:    s_mov_b32 s8, s10
15971 ; GFX940-NEXT:    s_mov_b32 s9, s11
15972 ; GFX940-NEXT:    s_mov_b32 s13, s1
15973 ; GFX940-NEXT:    s_mov_b32 s14, s0
15974 ; GFX940-NEXT:    s_mov_b32 s15, s1
15975 ; GFX940-NEXT:    ;;#ASMSTART
15976 ; GFX940-NEXT:    ; use s[8:15]
15977 ; GFX940-NEXT:    ;;#ASMEND
15978 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
15979   %vec0 = call <4 x i64> asm "; def $0", "=s"()
15980   %vec1 = call <4 x i64> asm "; def $0", "=s"()
15981   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 0, i32 0>
15982   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
15983   ret void
15984 }
15985
15986 define void @s_shuffle_v4i64_v4i64__7_7_u_0() {
15987 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_u_0:
15988 ; GFX900:       ; %bb.0:
15989 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
15990 ; GFX900-NEXT:    ;;#ASMSTART
15991 ; GFX900-NEXT:    ; def s[4:11]
15992 ; GFX900-NEXT:    ;;#ASMEND
15993 ; GFX900-NEXT:    ;;#ASMSTART
15994 ; GFX900-NEXT:    ; def s[8:15]
15995 ; GFX900-NEXT:    ;;#ASMEND
15996 ; GFX900-NEXT:    s_mov_b32 s8, s14
15997 ; GFX900-NEXT:    s_mov_b32 s9, s15
15998 ; GFX900-NEXT:    s_mov_b32 s10, s14
15999 ; GFX900-NEXT:    s_mov_b32 s11, s15
16000 ; GFX900-NEXT:    s_mov_b32 s14, s4
16001 ; GFX900-NEXT:    s_mov_b32 s15, s5
16002 ; GFX900-NEXT:    ;;#ASMSTART
16003 ; GFX900-NEXT:    ; use s[8:15]
16004 ; GFX900-NEXT:    ;;#ASMEND
16005 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
16006 ;
16007 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_u_0:
16008 ; GFX90A:       ; %bb.0:
16009 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16010 ; GFX90A-NEXT:    ;;#ASMSTART
16011 ; GFX90A-NEXT:    ; def s[4:11]
16012 ; GFX90A-NEXT:    ;;#ASMEND
16013 ; GFX90A-NEXT:    ;;#ASMSTART
16014 ; GFX90A-NEXT:    ; def s[8:15]
16015 ; GFX90A-NEXT:    ;;#ASMEND
16016 ; GFX90A-NEXT:    s_mov_b32 s8, s14
16017 ; GFX90A-NEXT:    s_mov_b32 s9, s15
16018 ; GFX90A-NEXT:    s_mov_b32 s10, s14
16019 ; GFX90A-NEXT:    s_mov_b32 s11, s15
16020 ; GFX90A-NEXT:    s_mov_b32 s14, s4
16021 ; GFX90A-NEXT:    s_mov_b32 s15, s5
16022 ; GFX90A-NEXT:    ;;#ASMSTART
16023 ; GFX90A-NEXT:    ; use s[8:15]
16024 ; GFX90A-NEXT:    ;;#ASMEND
16025 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
16026 ;
16027 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_u_0:
16028 ; GFX940:       ; %bb.0:
16029 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16030 ; GFX940-NEXT:    ;;#ASMSTART
16031 ; GFX940-NEXT:    ; def s[0:7]
16032 ; GFX940-NEXT:    ;;#ASMEND
16033 ; GFX940-NEXT:    s_mov_b32 s14, s0
16034 ; GFX940-NEXT:    ;;#ASMSTART
16035 ; GFX940-NEXT:    ; def s[4:11]
16036 ; GFX940-NEXT:    ;;#ASMEND
16037 ; GFX940-NEXT:    s_mov_b32 s8, s10
16038 ; GFX940-NEXT:    s_mov_b32 s9, s11
16039 ; GFX940-NEXT:    s_mov_b32 s15, s1
16040 ; GFX940-NEXT:    ;;#ASMSTART
16041 ; GFX940-NEXT:    ; use s[8:15]
16042 ; GFX940-NEXT:    ;;#ASMEND
16043 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
16044   %vec0 = call <4 x i64> asm "; def $0", "=s"()
16045   %vec1 = call <4 x i64> asm "; def $0", "=s"()
16046   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 poison, i32 0>
16047   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
16048   ret void
16049 }
16050
16051 define void @s_shuffle_v4i64_v4i64__7_7_1_0() {
16052 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_1_0:
16053 ; GFX900:       ; %bb.0:
16054 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16055 ; GFX900-NEXT:    ;;#ASMSTART
16056 ; GFX900-NEXT:    ; def s[4:11]
16057 ; GFX900-NEXT:    ;;#ASMEND
16058 ; GFX900-NEXT:    ;;#ASMSTART
16059 ; GFX900-NEXT:    ; def s[8:15]
16060 ; GFX900-NEXT:    ;;#ASMEND
16061 ; GFX900-NEXT:    s_mov_b32 s8, s14
16062 ; GFX900-NEXT:    s_mov_b32 s9, s15
16063 ; GFX900-NEXT:    s_mov_b32 s10, s14
16064 ; GFX900-NEXT:    s_mov_b32 s11, s15
16065 ; GFX900-NEXT:    s_mov_b32 s12, s6
16066 ; GFX900-NEXT:    s_mov_b32 s13, s7
16067 ; GFX900-NEXT:    s_mov_b32 s14, s4
16068 ; GFX900-NEXT:    s_mov_b32 s15, s5
16069 ; GFX900-NEXT:    ;;#ASMSTART
16070 ; GFX900-NEXT:    ; use s[8:15]
16071 ; GFX900-NEXT:    ;;#ASMEND
16072 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
16073 ;
16074 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_1_0:
16075 ; GFX90A:       ; %bb.0:
16076 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16077 ; GFX90A-NEXT:    ;;#ASMSTART
16078 ; GFX90A-NEXT:    ; def s[4:11]
16079 ; GFX90A-NEXT:    ;;#ASMEND
16080 ; GFX90A-NEXT:    ;;#ASMSTART
16081 ; GFX90A-NEXT:    ; def s[8:15]
16082 ; GFX90A-NEXT:    ;;#ASMEND
16083 ; GFX90A-NEXT:    s_mov_b32 s8, s14
16084 ; GFX90A-NEXT:    s_mov_b32 s9, s15
16085 ; GFX90A-NEXT:    s_mov_b32 s10, s14
16086 ; GFX90A-NEXT:    s_mov_b32 s11, s15
16087 ; GFX90A-NEXT:    s_mov_b32 s12, s6
16088 ; GFX90A-NEXT:    s_mov_b32 s13, s7
16089 ; GFX90A-NEXT:    s_mov_b32 s14, s4
16090 ; GFX90A-NEXT:    s_mov_b32 s15, s5
16091 ; GFX90A-NEXT:    ;;#ASMSTART
16092 ; GFX90A-NEXT:    ; use s[8:15]
16093 ; GFX90A-NEXT:    ;;#ASMEND
16094 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
16095 ;
16096 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_1_0:
16097 ; GFX940:       ; %bb.0:
16098 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16099 ; GFX940-NEXT:    ;;#ASMSTART
16100 ; GFX940-NEXT:    ; def s[0:7]
16101 ; GFX940-NEXT:    ;;#ASMEND
16102 ; GFX940-NEXT:    s_mov_b32 s12, s2
16103 ; GFX940-NEXT:    ;;#ASMSTART
16104 ; GFX940-NEXT:    ; def s[4:11]
16105 ; GFX940-NEXT:    ;;#ASMEND
16106 ; GFX940-NEXT:    s_mov_b32 s8, s10
16107 ; GFX940-NEXT:    s_mov_b32 s9, s11
16108 ; GFX940-NEXT:    s_mov_b32 s13, s3
16109 ; GFX940-NEXT:    s_mov_b32 s14, s0
16110 ; GFX940-NEXT:    s_mov_b32 s15, s1
16111 ; GFX940-NEXT:    ;;#ASMSTART
16112 ; GFX940-NEXT:    ; use s[8:15]
16113 ; GFX940-NEXT:    ;;#ASMEND
16114 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
16115   %vec0 = call <4 x i64> asm "; def $0", "=s"()
16116   %vec1 = call <4 x i64> asm "; def $0", "=s"()
16117   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 1, i32 0>
16118   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
16119   ret void
16120 }
16121
16122 define void @s_shuffle_v4i64_v4i64__7_7_2_0() {
16123 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_2_0:
16124 ; GFX900:       ; %bb.0:
16125 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16126 ; GFX900-NEXT:    ;;#ASMSTART
16127 ; GFX900-NEXT:    ; def s[4:11]
16128 ; GFX900-NEXT:    ;;#ASMEND
16129 ; GFX900-NEXT:    ;;#ASMSTART
16130 ; GFX900-NEXT:    ; def s[16:23]
16131 ; GFX900-NEXT:    ;;#ASMEND
16132 ; GFX900-NEXT:    s_mov_b32 s8, s10
16133 ; GFX900-NEXT:    s_mov_b32 s9, s11
16134 ; GFX900-NEXT:    s_mov_b32 s12, s20
16135 ; GFX900-NEXT:    s_mov_b32 s13, s21
16136 ; GFX900-NEXT:    s_mov_b32 s14, s16
16137 ; GFX900-NEXT:    s_mov_b32 s15, s17
16138 ; GFX900-NEXT:    ;;#ASMSTART
16139 ; GFX900-NEXT:    ; use s[8:15]
16140 ; GFX900-NEXT:    ;;#ASMEND
16141 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
16142 ;
16143 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_2_0:
16144 ; GFX90A:       ; %bb.0:
16145 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16146 ; GFX90A-NEXT:    ;;#ASMSTART
16147 ; GFX90A-NEXT:    ; def s[4:11]
16148 ; GFX90A-NEXT:    ;;#ASMEND
16149 ; GFX90A-NEXT:    ;;#ASMSTART
16150 ; GFX90A-NEXT:    ; def s[16:23]
16151 ; GFX90A-NEXT:    ;;#ASMEND
16152 ; GFX90A-NEXT:    s_mov_b32 s8, s10
16153 ; GFX90A-NEXT:    s_mov_b32 s9, s11
16154 ; GFX90A-NEXT:    s_mov_b32 s12, s20
16155 ; GFX90A-NEXT:    s_mov_b32 s13, s21
16156 ; GFX90A-NEXT:    s_mov_b32 s14, s16
16157 ; GFX90A-NEXT:    s_mov_b32 s15, s17
16158 ; GFX90A-NEXT:    ;;#ASMSTART
16159 ; GFX90A-NEXT:    ; use s[8:15]
16160 ; GFX90A-NEXT:    ;;#ASMEND
16161 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
16162 ;
16163 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_2_0:
16164 ; GFX940:       ; %bb.0:
16165 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16166 ; GFX940-NEXT:    ;;#ASMSTART
16167 ; GFX940-NEXT:    ; def s[8:15]
16168 ; GFX940-NEXT:    ;;#ASMEND
16169 ; GFX940-NEXT:    ;;#ASMSTART
16170 ; GFX940-NEXT:    ; def s[0:7]
16171 ; GFX940-NEXT:    ;;#ASMEND
16172 ; GFX940-NEXT:    s_mov_b32 s8, s14
16173 ; GFX940-NEXT:    s_mov_b32 s9, s15
16174 ; GFX940-NEXT:    s_mov_b32 s10, s14
16175 ; GFX940-NEXT:    s_mov_b32 s11, s15
16176 ; GFX940-NEXT:    s_mov_b32 s12, s4
16177 ; GFX940-NEXT:    s_mov_b32 s13, s5
16178 ; GFX940-NEXT:    s_mov_b32 s14, s0
16179 ; GFX940-NEXT:    s_mov_b32 s15, s1
16180 ; GFX940-NEXT:    ;;#ASMSTART
16181 ; GFX940-NEXT:    ; use s[8:15]
16182 ; GFX940-NEXT:    ;;#ASMEND
16183 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
16184   %vec0 = call <4 x i64> asm "; def $0", "=s"()
16185   %vec1 = call <4 x i64> asm "; def $0", "=s"()
16186   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 2, i32 0>
16187   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
16188   ret void
16189 }
16190
16191 define void @s_shuffle_v4i64_v4i64__7_7_3_0() {
16192 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_3_0:
16193 ; GFX900:       ; %bb.0:
16194 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16195 ; GFX900-NEXT:    ;;#ASMSTART
16196 ; GFX900-NEXT:    ; def s[4:11]
16197 ; GFX900-NEXT:    ;;#ASMEND
16198 ; GFX900-NEXT:    ;;#ASMSTART
16199 ; GFX900-NEXT:    ; def s[16:23]
16200 ; GFX900-NEXT:    ;;#ASMEND
16201 ; GFX900-NEXT:    s_mov_b32 s8, s10
16202 ; GFX900-NEXT:    s_mov_b32 s9, s11
16203 ; GFX900-NEXT:    s_mov_b32 s12, s22
16204 ; GFX900-NEXT:    s_mov_b32 s13, s23
16205 ; GFX900-NEXT:    s_mov_b32 s14, s16
16206 ; GFX900-NEXT:    s_mov_b32 s15, s17
16207 ; GFX900-NEXT:    ;;#ASMSTART
16208 ; GFX900-NEXT:    ; use s[8:15]
16209 ; GFX900-NEXT:    ;;#ASMEND
16210 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
16211 ;
16212 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_3_0:
16213 ; GFX90A:       ; %bb.0:
16214 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16215 ; GFX90A-NEXT:    ;;#ASMSTART
16216 ; GFX90A-NEXT:    ; def s[4:11]
16217 ; GFX90A-NEXT:    ;;#ASMEND
16218 ; GFX90A-NEXT:    ;;#ASMSTART
16219 ; GFX90A-NEXT:    ; def s[16:23]
16220 ; GFX90A-NEXT:    ;;#ASMEND
16221 ; GFX90A-NEXT:    s_mov_b32 s8, s10
16222 ; GFX90A-NEXT:    s_mov_b32 s9, s11
16223 ; GFX90A-NEXT:    s_mov_b32 s12, s22
16224 ; GFX90A-NEXT:    s_mov_b32 s13, s23
16225 ; GFX90A-NEXT:    s_mov_b32 s14, s16
16226 ; GFX90A-NEXT:    s_mov_b32 s15, s17
16227 ; GFX90A-NEXT:    ;;#ASMSTART
16228 ; GFX90A-NEXT:    ; use s[8:15]
16229 ; GFX90A-NEXT:    ;;#ASMEND
16230 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
16231 ;
16232 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_3_0:
16233 ; GFX940:       ; %bb.0:
16234 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16235 ; GFX940-NEXT:    ;;#ASMSTART
16236 ; GFX940-NEXT:    ; def s[8:15]
16237 ; GFX940-NEXT:    ;;#ASMEND
16238 ; GFX940-NEXT:    ;;#ASMSTART
16239 ; GFX940-NEXT:    ; def s[0:7]
16240 ; GFX940-NEXT:    ;;#ASMEND
16241 ; GFX940-NEXT:    s_mov_b32 s8, s14
16242 ; GFX940-NEXT:    s_mov_b32 s9, s15
16243 ; GFX940-NEXT:    s_mov_b32 s10, s14
16244 ; GFX940-NEXT:    s_mov_b32 s11, s15
16245 ; GFX940-NEXT:    s_mov_b32 s12, s6
16246 ; GFX940-NEXT:    s_mov_b32 s13, s7
16247 ; GFX940-NEXT:    s_mov_b32 s14, s0
16248 ; GFX940-NEXT:    s_mov_b32 s15, s1
16249 ; GFX940-NEXT:    ;;#ASMSTART
16250 ; GFX940-NEXT:    ; use s[8:15]
16251 ; GFX940-NEXT:    ;;#ASMEND
16252 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
16253   %vec0 = call <4 x i64> asm "; def $0", "=s"()
16254   %vec1 = call <4 x i64> asm "; def $0", "=s"()
16255   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 3, i32 0>
16256   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
16257   ret void
16258 }
16259
16260 define void @s_shuffle_v4i64_v4i64__7_7_4_0() {
16261 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_4_0:
16262 ; GFX900:       ; %bb.0:
16263 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16264 ; GFX900-NEXT:    ;;#ASMSTART
16265 ; GFX900-NEXT:    ; def s[4:11]
16266 ; GFX900-NEXT:    ;;#ASMEND
16267 ; GFX900-NEXT:    ;;#ASMSTART
16268 ; GFX900-NEXT:    ; def s[12:19]
16269 ; GFX900-NEXT:    ;;#ASMEND
16270 ; GFX900-NEXT:    s_mov_b32 s8, s18
16271 ; GFX900-NEXT:    s_mov_b32 s9, s19
16272 ; GFX900-NEXT:    s_mov_b32 s10, s18
16273 ; GFX900-NEXT:    s_mov_b32 s11, s19
16274 ; GFX900-NEXT:    s_mov_b32 s14, s4
16275 ; GFX900-NEXT:    s_mov_b32 s15, s5
16276 ; GFX900-NEXT:    ;;#ASMSTART
16277 ; GFX900-NEXT:    ; use s[8:15]
16278 ; GFX900-NEXT:    ;;#ASMEND
16279 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
16280 ;
16281 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_4_0:
16282 ; GFX90A:       ; %bb.0:
16283 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16284 ; GFX90A-NEXT:    ;;#ASMSTART
16285 ; GFX90A-NEXT:    ; def s[4:11]
16286 ; GFX90A-NEXT:    ;;#ASMEND
16287 ; GFX90A-NEXT:    ;;#ASMSTART
16288 ; GFX90A-NEXT:    ; def s[12:19]
16289 ; GFX90A-NEXT:    ;;#ASMEND
16290 ; GFX90A-NEXT:    s_mov_b32 s8, s18
16291 ; GFX90A-NEXT:    s_mov_b32 s9, s19
16292 ; GFX90A-NEXT:    s_mov_b32 s10, s18
16293 ; GFX90A-NEXT:    s_mov_b32 s11, s19
16294 ; GFX90A-NEXT:    s_mov_b32 s14, s4
16295 ; GFX90A-NEXT:    s_mov_b32 s15, s5
16296 ; GFX90A-NEXT:    ;;#ASMSTART
16297 ; GFX90A-NEXT:    ; use s[8:15]
16298 ; GFX90A-NEXT:    ;;#ASMEND
16299 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
16300 ;
16301 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_4_0:
16302 ; GFX940:       ; %bb.0:
16303 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16304 ; GFX940-NEXT:    ;;#ASMSTART
16305 ; GFX940-NEXT:    ; def s[0:7]
16306 ; GFX940-NEXT:    ;;#ASMEND
16307 ; GFX940-NEXT:    s_mov_b32 s14, s0
16308 ; GFX940-NEXT:    ;;#ASMSTART
16309 ; GFX940-NEXT:    ; def s[4:11]
16310 ; GFX940-NEXT:    ;;#ASMEND
16311 ; GFX940-NEXT:    s_mov_b32 s8, s10
16312 ; GFX940-NEXT:    s_mov_b32 s9, s11
16313 ; GFX940-NEXT:    s_mov_b32 s12, s4
16314 ; GFX940-NEXT:    s_mov_b32 s13, s5
16315 ; GFX940-NEXT:    s_mov_b32 s15, s1
16316 ; GFX940-NEXT:    ;;#ASMSTART
16317 ; GFX940-NEXT:    ; use s[8:15]
16318 ; GFX940-NEXT:    ;;#ASMEND
16319 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
16320   %vec0 = call <4 x i64> asm "; def $0", "=s"()
16321   %vec1 = call <4 x i64> asm "; def $0", "=s"()
16322   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 4, i32 0>
16323   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
16324   ret void
16325 }
16326
16327 define void @s_shuffle_v4i64_v4i64__7_7_5_0() {
16328 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_5_0:
16329 ; GFX900:       ; %bb.0:
16330 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16331 ; GFX900-NEXT:    ;;#ASMSTART
16332 ; GFX900-NEXT:    ; def s[4:11]
16333 ; GFX900-NEXT:    ;;#ASMEND
16334 ; GFX900-NEXT:    ;;#ASMSTART
16335 ; GFX900-NEXT:    ; def s[12:19]
16336 ; GFX900-NEXT:    ;;#ASMEND
16337 ; GFX900-NEXT:    s_mov_b32 s8, s18
16338 ; GFX900-NEXT:    s_mov_b32 s9, s19
16339 ; GFX900-NEXT:    s_mov_b32 s10, s18
16340 ; GFX900-NEXT:    s_mov_b32 s11, s19
16341 ; GFX900-NEXT:    s_mov_b32 s12, s14
16342 ; GFX900-NEXT:    s_mov_b32 s13, s15
16343 ; GFX900-NEXT:    s_mov_b32 s14, s4
16344 ; GFX900-NEXT:    s_mov_b32 s15, s5
16345 ; GFX900-NEXT:    ;;#ASMSTART
16346 ; GFX900-NEXT:    ; use s[8:15]
16347 ; GFX900-NEXT:    ;;#ASMEND
16348 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
16349 ;
16350 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_5_0:
16351 ; GFX90A:       ; %bb.0:
16352 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16353 ; GFX90A-NEXT:    ;;#ASMSTART
16354 ; GFX90A-NEXT:    ; def s[4:11]
16355 ; GFX90A-NEXT:    ;;#ASMEND
16356 ; GFX90A-NEXT:    ;;#ASMSTART
16357 ; GFX90A-NEXT:    ; def s[12:19]
16358 ; GFX90A-NEXT:    ;;#ASMEND
16359 ; GFX90A-NEXT:    s_mov_b32 s8, s18
16360 ; GFX90A-NEXT:    s_mov_b32 s9, s19
16361 ; GFX90A-NEXT:    s_mov_b32 s10, s18
16362 ; GFX90A-NEXT:    s_mov_b32 s11, s19
16363 ; GFX90A-NEXT:    s_mov_b32 s12, s14
16364 ; GFX90A-NEXT:    s_mov_b32 s13, s15
16365 ; GFX90A-NEXT:    s_mov_b32 s14, s4
16366 ; GFX90A-NEXT:    s_mov_b32 s15, s5
16367 ; GFX90A-NEXT:    ;;#ASMSTART
16368 ; GFX90A-NEXT:    ; use s[8:15]
16369 ; GFX90A-NEXT:    ;;#ASMEND
16370 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
16371 ;
16372 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_5_0:
16373 ; GFX940:       ; %bb.0:
16374 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16375 ; GFX940-NEXT:    ;;#ASMSTART
16376 ; GFX940-NEXT:    ; def s[0:7]
16377 ; GFX940-NEXT:    ;;#ASMEND
16378 ; GFX940-NEXT:    s_mov_b32 s14, s0
16379 ; GFX940-NEXT:    ;;#ASMSTART
16380 ; GFX940-NEXT:    ; def s[4:11]
16381 ; GFX940-NEXT:    ;;#ASMEND
16382 ; GFX940-NEXT:    s_mov_b32 s8, s10
16383 ; GFX940-NEXT:    s_mov_b32 s9, s11
16384 ; GFX940-NEXT:    s_mov_b32 s12, s6
16385 ; GFX940-NEXT:    s_mov_b32 s13, s7
16386 ; GFX940-NEXT:    s_mov_b32 s15, s1
16387 ; GFX940-NEXT:    ;;#ASMSTART
16388 ; GFX940-NEXT:    ; use s[8:15]
16389 ; GFX940-NEXT:    ;;#ASMEND
16390 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
16391   %vec0 = call <4 x i64> asm "; def $0", "=s"()
16392   %vec1 = call <4 x i64> asm "; def $0", "=s"()
16393   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 5, i32 0>
16394   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
16395   ret void
16396 }
16397
16398 define void @s_shuffle_v4i64_v4i64__7_7_6_0() {
16399 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_6_0:
16400 ; GFX900:       ; %bb.0:
16401 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16402 ; GFX900-NEXT:    ;;#ASMSTART
16403 ; GFX900-NEXT:    ; def s[4:11]
16404 ; GFX900-NEXT:    ;;#ASMEND
16405 ; GFX900-NEXT:    ;;#ASMSTART
16406 ; GFX900-NEXT:    ; def s[8:15]
16407 ; GFX900-NEXT:    ;;#ASMEND
16408 ; GFX900-NEXT:    s_mov_b32 s8, s14
16409 ; GFX900-NEXT:    s_mov_b32 s9, s15
16410 ; GFX900-NEXT:    s_mov_b32 s10, s14
16411 ; GFX900-NEXT:    s_mov_b32 s11, s15
16412 ; GFX900-NEXT:    s_mov_b32 s14, s4
16413 ; GFX900-NEXT:    s_mov_b32 s15, s5
16414 ; GFX900-NEXT:    ;;#ASMSTART
16415 ; GFX900-NEXT:    ; use s[8:15]
16416 ; GFX900-NEXT:    ;;#ASMEND
16417 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
16418 ;
16419 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_6_0:
16420 ; GFX90A:       ; %bb.0:
16421 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16422 ; GFX90A-NEXT:    ;;#ASMSTART
16423 ; GFX90A-NEXT:    ; def s[4:11]
16424 ; GFX90A-NEXT:    ;;#ASMEND
16425 ; GFX90A-NEXT:    ;;#ASMSTART
16426 ; GFX90A-NEXT:    ; def s[8:15]
16427 ; GFX90A-NEXT:    ;;#ASMEND
16428 ; GFX90A-NEXT:    s_mov_b32 s8, s14
16429 ; GFX90A-NEXT:    s_mov_b32 s9, s15
16430 ; GFX90A-NEXT:    s_mov_b32 s10, s14
16431 ; GFX90A-NEXT:    s_mov_b32 s11, s15
16432 ; GFX90A-NEXT:    s_mov_b32 s14, s4
16433 ; GFX90A-NEXT:    s_mov_b32 s15, s5
16434 ; GFX90A-NEXT:    ;;#ASMSTART
16435 ; GFX90A-NEXT:    ; use s[8:15]
16436 ; GFX90A-NEXT:    ;;#ASMEND
16437 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
16438 ;
16439 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_6_0:
16440 ; GFX940:       ; %bb.0:
16441 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16442 ; GFX940-NEXT:    ;;#ASMSTART
16443 ; GFX940-NEXT:    ; def s[8:15]
16444 ; GFX940-NEXT:    ;;#ASMEND
16445 ; GFX940-NEXT:    ;;#ASMSTART
16446 ; GFX940-NEXT:    ; def s[0:7]
16447 ; GFX940-NEXT:    ;;#ASMEND
16448 ; GFX940-NEXT:    s_mov_b32 s8, s14
16449 ; GFX940-NEXT:    s_mov_b32 s9, s15
16450 ; GFX940-NEXT:    s_mov_b32 s10, s14
16451 ; GFX940-NEXT:    s_mov_b32 s11, s15
16452 ; GFX940-NEXT:    s_mov_b32 s14, s0
16453 ; GFX940-NEXT:    s_mov_b32 s15, s1
16454 ; GFX940-NEXT:    ;;#ASMSTART
16455 ; GFX940-NEXT:    ; use s[8:15]
16456 ; GFX940-NEXT:    ;;#ASMEND
16457 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
16458   %vec0 = call <4 x i64> asm "; def $0", "=s"()
16459   %vec1 = call <4 x i64> asm "; def $0", "=s"()
16460   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 6, i32 0>
16461   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
16462   ret void
16463 }
16464
16465 define void @s_shuffle_v4i64_v4i64__u_1_1_1() {
16466 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__u_1_1_1:
16467 ; GFX9:       ; %bb.0:
16468 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16469 ; GFX9-NEXT:    ;;#ASMSTART
16470 ; GFX9-NEXT:    ; def s[8:15]
16471 ; GFX9-NEXT:    ;;#ASMEND
16472 ; GFX9-NEXT:    s_mov_b32 s12, s10
16473 ; GFX9-NEXT:    s_mov_b32 s13, s11
16474 ; GFX9-NEXT:    s_mov_b32 s14, s10
16475 ; GFX9-NEXT:    s_mov_b32 s15, s11
16476 ; GFX9-NEXT:    ;;#ASMSTART
16477 ; GFX9-NEXT:    ; use s[8:15]
16478 ; GFX9-NEXT:    ;;#ASMEND
16479 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
16480   %vec0 = call <4 x i64> asm "; def $0", "=s"()
16481   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 poison, i32 1, i32 1, i32 1>
16482   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
16483   ret void
16484 }
16485
16486 define void @s_shuffle_v4i64_v4i64__0_1_1_1() {
16487 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__0_1_1_1:
16488 ; GFX9:       ; %bb.0:
16489 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16490 ; GFX9-NEXT:    ;;#ASMSTART
16491 ; GFX9-NEXT:    ; def s[8:15]
16492 ; GFX9-NEXT:    ;;#ASMEND
16493 ; GFX9-NEXT:    s_mov_b32 s12, s10
16494 ; GFX9-NEXT:    s_mov_b32 s13, s11
16495 ; GFX9-NEXT:    s_mov_b32 s14, s10
16496 ; GFX9-NEXT:    s_mov_b32 s15, s11
16497 ; GFX9-NEXT:    ;;#ASMSTART
16498 ; GFX9-NEXT:    ; use s[8:15]
16499 ; GFX9-NEXT:    ;;#ASMEND
16500 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
16501   %vec0 = call <4 x i64> asm "; def $0", "=s"()
16502   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 0, i32 1, i32 1, i32 1>
16503   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
16504   ret void
16505 }
16506
16507 define void @s_shuffle_v4i64_v4i64__1_1_1_1() {
16508 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__1_1_1_1:
16509 ; GFX9:       ; %bb.0:
16510 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16511 ; GFX9-NEXT:    ;;#ASMSTART
16512 ; GFX9-NEXT:    ; def s[8:15]
16513 ; GFX9-NEXT:    ;;#ASMEND
16514 ; GFX9-NEXT:    s_mov_b32 s8, s10
16515 ; GFX9-NEXT:    s_mov_b32 s9, s11
16516 ; GFX9-NEXT:    s_mov_b32 s12, s10
16517 ; GFX9-NEXT:    s_mov_b32 s13, s11
16518 ; GFX9-NEXT:    s_mov_b32 s14, s10
16519 ; GFX9-NEXT:    s_mov_b32 s15, s11
16520 ; GFX9-NEXT:    ;;#ASMSTART
16521 ; GFX9-NEXT:    ; use s[8:15]
16522 ; GFX9-NEXT:    ;;#ASMEND
16523 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
16524   %vec0 = call <4 x i64> asm "; def $0", "=s"()
16525   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 1, i32 1, i32 1, i32 1>
16526   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
16527   ret void
16528 }
16529
16530 define void @s_shuffle_v4i64_v4i64__2_1_1_1() {
16531 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__2_1_1_1:
16532 ; GFX9:       ; %bb.0:
16533 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16534 ; GFX9-NEXT:    ;;#ASMSTART
16535 ; GFX9-NEXT:    ; def s[8:15]
16536 ; GFX9-NEXT:    ;;#ASMEND
16537 ; GFX9-NEXT:    s_mov_b32 s8, s12
16538 ; GFX9-NEXT:    s_mov_b32 s9, s13
16539 ; GFX9-NEXT:    s_mov_b32 s12, s10
16540 ; GFX9-NEXT:    s_mov_b32 s13, s11
16541 ; GFX9-NEXT:    s_mov_b32 s14, s10
16542 ; GFX9-NEXT:    s_mov_b32 s15, s11
16543 ; GFX9-NEXT:    ;;#ASMSTART
16544 ; GFX9-NEXT:    ; use s[8:15]
16545 ; GFX9-NEXT:    ;;#ASMEND
16546 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
16547   %vec0 = call <4 x i64> asm "; def $0", "=s"()
16548   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 2, i32 1, i32 1, i32 1>
16549   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
16550   ret void
16551 }
16552
16553 define void @s_shuffle_v4i64_v4i64__3_1_1_1() {
16554 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__3_1_1_1:
16555 ; GFX9:       ; %bb.0:
16556 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16557 ; GFX9-NEXT:    ;;#ASMSTART
16558 ; GFX9-NEXT:    ; def s[8:15]
16559 ; GFX9-NEXT:    ;;#ASMEND
16560 ; GFX9-NEXT:    s_mov_b32 s8, s14
16561 ; GFX9-NEXT:    s_mov_b32 s9, s15
16562 ; GFX9-NEXT:    s_mov_b32 s12, s10
16563 ; GFX9-NEXT:    s_mov_b32 s13, s11
16564 ; GFX9-NEXT:    s_mov_b32 s14, s10
16565 ; GFX9-NEXT:    s_mov_b32 s15, s11
16566 ; GFX9-NEXT:    ;;#ASMSTART
16567 ; GFX9-NEXT:    ; use s[8:15]
16568 ; GFX9-NEXT:    ;;#ASMEND
16569 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
16570   %vec0 = call <4 x i64> asm "; def $0", "=s"()
16571   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 3, i32 1, i32 1, i32 1>
16572   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
16573   ret void
16574 }
16575
16576 define void @s_shuffle_v4i64_v4i64__4_1_1_1() {
16577 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__4_1_1_1:
16578 ; GFX9:       ; %bb.0:
16579 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16580 ; GFX9-NEXT:    ;;#ASMSTART
16581 ; GFX9-NEXT:    ; def s[8:15]
16582 ; GFX9-NEXT:    ;;#ASMEND
16583 ; GFX9-NEXT:    s_mov_b32 s12, s10
16584 ; GFX9-NEXT:    s_mov_b32 s13, s11
16585 ; GFX9-NEXT:    s_mov_b32 s14, s10
16586 ; GFX9-NEXT:    s_mov_b32 s15, s11
16587 ; GFX9-NEXT:    ;;#ASMSTART
16588 ; GFX9-NEXT:    ; use s[8:15]
16589 ; GFX9-NEXT:    ;;#ASMEND
16590 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
16591   %vec0 = call <4 x i64> asm "; def $0", "=s"()
16592   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 4, i32 1, i32 1, i32 1>
16593   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
16594   ret void
16595 }
16596
16597 define void @s_shuffle_v4i64_v4i64__5_1_1_1() {
16598 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__5_1_1_1:
16599 ; GFX900:       ; %bb.0:
16600 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16601 ; GFX900-NEXT:    ;;#ASMSTART
16602 ; GFX900-NEXT:    ; def s[8:15]
16603 ; GFX900-NEXT:    ;;#ASMEND
16604 ; GFX900-NEXT:    ;;#ASMSTART
16605 ; GFX900-NEXT:    ; def s[12:19]
16606 ; GFX900-NEXT:    ;;#ASMEND
16607 ; GFX900-NEXT:    s_mov_b32 s8, s14
16608 ; GFX900-NEXT:    s_mov_b32 s9, s15
16609 ; GFX900-NEXT:    s_mov_b32 s12, s10
16610 ; GFX900-NEXT:    s_mov_b32 s13, s11
16611 ; GFX900-NEXT:    s_mov_b32 s14, s10
16612 ; GFX900-NEXT:    s_mov_b32 s15, s11
16613 ; GFX900-NEXT:    ;;#ASMSTART
16614 ; GFX900-NEXT:    ; use s[8:15]
16615 ; GFX900-NEXT:    ;;#ASMEND
16616 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
16617 ;
16618 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__5_1_1_1:
16619 ; GFX90A:       ; %bb.0:
16620 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16621 ; GFX90A-NEXT:    ;;#ASMSTART
16622 ; GFX90A-NEXT:    ; def s[8:15]
16623 ; GFX90A-NEXT:    ;;#ASMEND
16624 ; GFX90A-NEXT:    ;;#ASMSTART
16625 ; GFX90A-NEXT:    ; def s[12:19]
16626 ; GFX90A-NEXT:    ;;#ASMEND
16627 ; GFX90A-NEXT:    s_mov_b32 s8, s14
16628 ; GFX90A-NEXT:    s_mov_b32 s9, s15
16629 ; GFX90A-NEXT:    s_mov_b32 s12, s10
16630 ; GFX90A-NEXT:    s_mov_b32 s13, s11
16631 ; GFX90A-NEXT:    s_mov_b32 s14, s10
16632 ; GFX90A-NEXT:    s_mov_b32 s15, s11
16633 ; GFX90A-NEXT:    ;;#ASMSTART
16634 ; GFX90A-NEXT:    ; use s[8:15]
16635 ; GFX90A-NEXT:    ;;#ASMEND
16636 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
16637 ;
16638 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__5_1_1_1:
16639 ; GFX940:       ; %bb.0:
16640 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16641 ; GFX940-NEXT:    ;;#ASMSTART
16642 ; GFX940-NEXT:    ; def s[8:15]
16643 ; GFX940-NEXT:    ;;#ASMEND
16644 ; GFX940-NEXT:    ;;#ASMSTART
16645 ; GFX940-NEXT:    ; def s[0:7]
16646 ; GFX940-NEXT:    ;;#ASMEND
16647 ; GFX940-NEXT:    s_mov_b32 s8, s2
16648 ; GFX940-NEXT:    s_mov_b32 s9, s3
16649 ; GFX940-NEXT:    s_mov_b32 s12, s10
16650 ; GFX940-NEXT:    s_mov_b32 s13, s11
16651 ; GFX940-NEXT:    s_mov_b32 s14, s10
16652 ; GFX940-NEXT:    s_mov_b32 s15, s11
16653 ; GFX940-NEXT:    ;;#ASMSTART
16654 ; GFX940-NEXT:    ; use s[8:15]
16655 ; GFX940-NEXT:    ;;#ASMEND
16656 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
16657   %vec0 = call <4 x i64> asm "; def $0", "=s"()
16658   %vec1 = call <4 x i64> asm "; def $0", "=s"()
16659   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 5, i32 1, i32 1, i32 1>
16660   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
16661   ret void
16662 }
16663
16664 define void @s_shuffle_v4i64_v4i64__6_1_1_1() {
16665 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__6_1_1_1:
16666 ; GFX900:       ; %bb.0:
16667 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16668 ; GFX900-NEXT:    ;;#ASMSTART
16669 ; GFX900-NEXT:    ; def s[8:15]
16670 ; GFX900-NEXT:    ;;#ASMEND
16671 ; GFX900-NEXT:    ;;#ASMSTART
16672 ; GFX900-NEXT:    ; def s[12:19]
16673 ; GFX900-NEXT:    ;;#ASMEND
16674 ; GFX900-NEXT:    s_mov_b32 s8, s16
16675 ; GFX900-NEXT:    s_mov_b32 s9, s17
16676 ; GFX900-NEXT:    s_mov_b32 s12, s10
16677 ; GFX900-NEXT:    s_mov_b32 s13, s11
16678 ; GFX900-NEXT:    s_mov_b32 s14, s10
16679 ; GFX900-NEXT:    s_mov_b32 s15, s11
16680 ; GFX900-NEXT:    ;;#ASMSTART
16681 ; GFX900-NEXT:    ; use s[8:15]
16682 ; GFX900-NEXT:    ;;#ASMEND
16683 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
16684 ;
16685 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__6_1_1_1:
16686 ; GFX90A:       ; %bb.0:
16687 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16688 ; GFX90A-NEXT:    ;;#ASMSTART
16689 ; GFX90A-NEXT:    ; def s[8:15]
16690 ; GFX90A-NEXT:    ;;#ASMEND
16691 ; GFX90A-NEXT:    ;;#ASMSTART
16692 ; GFX90A-NEXT:    ; def s[12:19]
16693 ; GFX90A-NEXT:    ;;#ASMEND
16694 ; GFX90A-NEXT:    s_mov_b32 s8, s16
16695 ; GFX90A-NEXT:    s_mov_b32 s9, s17
16696 ; GFX90A-NEXT:    s_mov_b32 s12, s10
16697 ; GFX90A-NEXT:    s_mov_b32 s13, s11
16698 ; GFX90A-NEXT:    s_mov_b32 s14, s10
16699 ; GFX90A-NEXT:    s_mov_b32 s15, s11
16700 ; GFX90A-NEXT:    ;;#ASMSTART
16701 ; GFX90A-NEXT:    ; use s[8:15]
16702 ; GFX90A-NEXT:    ;;#ASMEND
16703 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
16704 ;
16705 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__6_1_1_1:
16706 ; GFX940:       ; %bb.0:
16707 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16708 ; GFX940-NEXT:    ;;#ASMSTART
16709 ; GFX940-NEXT:    ; def s[8:15]
16710 ; GFX940-NEXT:    ;;#ASMEND
16711 ; GFX940-NEXT:    ;;#ASMSTART
16712 ; GFX940-NEXT:    ; def s[0:7]
16713 ; GFX940-NEXT:    ;;#ASMEND
16714 ; GFX940-NEXT:    s_mov_b32 s8, s4
16715 ; GFX940-NEXT:    s_mov_b32 s9, s5
16716 ; GFX940-NEXT:    s_mov_b32 s12, s10
16717 ; GFX940-NEXT:    s_mov_b32 s13, s11
16718 ; GFX940-NEXT:    s_mov_b32 s14, s10
16719 ; GFX940-NEXT:    s_mov_b32 s15, s11
16720 ; GFX940-NEXT:    ;;#ASMSTART
16721 ; GFX940-NEXT:    ; use s[8:15]
16722 ; GFX940-NEXT:    ;;#ASMEND
16723 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
16724   %vec0 = call <4 x i64> asm "; def $0", "=s"()
16725   %vec1 = call <4 x i64> asm "; def $0", "=s"()
16726   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 6, i32 1, i32 1, i32 1>
16727   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
16728   ret void
16729 }
16730
16731 define void @s_shuffle_v4i64_v4i64__7_1_1_1() {
16732 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_1_1_1:
16733 ; GFX900:       ; %bb.0:
16734 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16735 ; GFX900-NEXT:    ;;#ASMSTART
16736 ; GFX900-NEXT:    ; def s[8:15]
16737 ; GFX900-NEXT:    ;;#ASMEND
16738 ; GFX900-NEXT:    ;;#ASMSTART
16739 ; GFX900-NEXT:    ; def s[12:19]
16740 ; GFX900-NEXT:    ;;#ASMEND
16741 ; GFX900-NEXT:    s_mov_b32 s8, s18
16742 ; GFX900-NEXT:    s_mov_b32 s9, s19
16743 ; GFX900-NEXT:    s_mov_b32 s12, s10
16744 ; GFX900-NEXT:    s_mov_b32 s13, s11
16745 ; GFX900-NEXT:    s_mov_b32 s14, s10
16746 ; GFX900-NEXT:    s_mov_b32 s15, s11
16747 ; GFX900-NEXT:    ;;#ASMSTART
16748 ; GFX900-NEXT:    ; use s[8:15]
16749 ; GFX900-NEXT:    ;;#ASMEND
16750 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
16751 ;
16752 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_1_1_1:
16753 ; GFX90A:       ; %bb.0:
16754 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16755 ; GFX90A-NEXT:    ;;#ASMSTART
16756 ; GFX90A-NEXT:    ; def s[8:15]
16757 ; GFX90A-NEXT:    ;;#ASMEND
16758 ; GFX90A-NEXT:    ;;#ASMSTART
16759 ; GFX90A-NEXT:    ; def s[12:19]
16760 ; GFX90A-NEXT:    ;;#ASMEND
16761 ; GFX90A-NEXT:    s_mov_b32 s8, s18
16762 ; GFX90A-NEXT:    s_mov_b32 s9, s19
16763 ; GFX90A-NEXT:    s_mov_b32 s12, s10
16764 ; GFX90A-NEXT:    s_mov_b32 s13, s11
16765 ; GFX90A-NEXT:    s_mov_b32 s14, s10
16766 ; GFX90A-NEXT:    s_mov_b32 s15, s11
16767 ; GFX90A-NEXT:    ;;#ASMSTART
16768 ; GFX90A-NEXT:    ; use s[8:15]
16769 ; GFX90A-NEXT:    ;;#ASMEND
16770 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
16771 ;
16772 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_1_1_1:
16773 ; GFX940:       ; %bb.0:
16774 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16775 ; GFX940-NEXT:    ;;#ASMSTART
16776 ; GFX940-NEXT:    ; def s[8:15]
16777 ; GFX940-NEXT:    ;;#ASMEND
16778 ; GFX940-NEXT:    ;;#ASMSTART
16779 ; GFX940-NEXT:    ; def s[0:7]
16780 ; GFX940-NEXT:    ;;#ASMEND
16781 ; GFX940-NEXT:    s_mov_b32 s8, s6
16782 ; GFX940-NEXT:    s_mov_b32 s9, s7
16783 ; GFX940-NEXT:    s_mov_b32 s12, s10
16784 ; GFX940-NEXT:    s_mov_b32 s13, s11
16785 ; GFX940-NEXT:    s_mov_b32 s14, s10
16786 ; GFX940-NEXT:    s_mov_b32 s15, s11
16787 ; GFX940-NEXT:    ;;#ASMSTART
16788 ; GFX940-NEXT:    ; use s[8:15]
16789 ; GFX940-NEXT:    ;;#ASMEND
16790 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
16791   %vec0 = call <4 x i64> asm "; def $0", "=s"()
16792   %vec1 = call <4 x i64> asm "; def $0", "=s"()
16793   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 1, i32 1, i32 1>
16794   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
16795   ret void
16796 }
16797
16798 define void @s_shuffle_v4i64_v4i64__7_u_1_1() {
16799 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_u_1_1:
16800 ; GFX900:       ; %bb.0:
16801 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16802 ; GFX900-NEXT:    ;;#ASMSTART
16803 ; GFX900-NEXT:    ; def s[4:11]
16804 ; GFX900-NEXT:    ;;#ASMEND
16805 ; GFX900-NEXT:    ;;#ASMSTART
16806 ; GFX900-NEXT:    ; def s[8:15]
16807 ; GFX900-NEXT:    ;;#ASMEND
16808 ; GFX900-NEXT:    s_mov_b32 s8, s14
16809 ; GFX900-NEXT:    s_mov_b32 s9, s15
16810 ; GFX900-NEXT:    s_mov_b32 s12, s6
16811 ; GFX900-NEXT:    s_mov_b32 s13, s7
16812 ; GFX900-NEXT:    s_mov_b32 s14, s6
16813 ; GFX900-NEXT:    s_mov_b32 s15, s7
16814 ; GFX900-NEXT:    ;;#ASMSTART
16815 ; GFX900-NEXT:    ; use s[8:15]
16816 ; GFX900-NEXT:    ;;#ASMEND
16817 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
16818 ;
16819 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_u_1_1:
16820 ; GFX90A:       ; %bb.0:
16821 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16822 ; GFX90A-NEXT:    ;;#ASMSTART
16823 ; GFX90A-NEXT:    ; def s[4:11]
16824 ; GFX90A-NEXT:    ;;#ASMEND
16825 ; GFX90A-NEXT:    ;;#ASMSTART
16826 ; GFX90A-NEXT:    ; def s[8:15]
16827 ; GFX90A-NEXT:    ;;#ASMEND
16828 ; GFX90A-NEXT:    s_mov_b32 s8, s14
16829 ; GFX90A-NEXT:    s_mov_b32 s9, s15
16830 ; GFX90A-NEXT:    s_mov_b32 s12, s6
16831 ; GFX90A-NEXT:    s_mov_b32 s13, s7
16832 ; GFX90A-NEXT:    s_mov_b32 s14, s6
16833 ; GFX90A-NEXT:    s_mov_b32 s15, s7
16834 ; GFX90A-NEXT:    ;;#ASMSTART
16835 ; GFX90A-NEXT:    ; use s[8:15]
16836 ; GFX90A-NEXT:    ;;#ASMEND
16837 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
16838 ;
16839 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_u_1_1:
16840 ; GFX940:       ; %bb.0:
16841 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16842 ; GFX940-NEXT:    ;;#ASMSTART
16843 ; GFX940-NEXT:    ; def s[0:7]
16844 ; GFX940-NEXT:    ;;#ASMEND
16845 ; GFX940-NEXT:    s_mov_b32 s12, s2
16846 ; GFX940-NEXT:    ;;#ASMSTART
16847 ; GFX940-NEXT:    ; def s[4:11]
16848 ; GFX940-NEXT:    ;;#ASMEND
16849 ; GFX940-NEXT:    s_mov_b32 s8, s10
16850 ; GFX940-NEXT:    s_mov_b32 s9, s11
16851 ; GFX940-NEXT:    s_mov_b32 s13, s3
16852 ; GFX940-NEXT:    s_mov_b32 s14, s2
16853 ; GFX940-NEXT:    s_mov_b32 s15, s3
16854 ; GFX940-NEXT:    ;;#ASMSTART
16855 ; GFX940-NEXT:    ; use s[8:15]
16856 ; GFX940-NEXT:    ;;#ASMEND
16857 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
16858   %vec0 = call <4 x i64> asm "; def $0", "=s"()
16859   %vec1 = call <4 x i64> asm "; def $0", "=s"()
16860   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 poison, i32 1, i32 1>
16861   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
16862   ret void
16863 }
16864
16865 define void @s_shuffle_v4i64_v4i64__7_0_1_1() {
16866 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_0_1_1:
16867 ; GFX900:       ; %bb.0:
16868 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16869 ; GFX900-NEXT:    ;;#ASMSTART
16870 ; GFX900-NEXT:    ; def s[4:11]
16871 ; GFX900-NEXT:    ;;#ASMEND
16872 ; GFX900-NEXT:    ;;#ASMSTART
16873 ; GFX900-NEXT:    ; def s[8:15]
16874 ; GFX900-NEXT:    ;;#ASMEND
16875 ; GFX900-NEXT:    s_mov_b32 s8, s14
16876 ; GFX900-NEXT:    s_mov_b32 s9, s15
16877 ; GFX900-NEXT:    s_mov_b32 s10, s4
16878 ; GFX900-NEXT:    s_mov_b32 s11, s5
16879 ; GFX900-NEXT:    s_mov_b32 s12, s6
16880 ; GFX900-NEXT:    s_mov_b32 s13, s7
16881 ; GFX900-NEXT:    s_mov_b32 s14, s6
16882 ; GFX900-NEXT:    s_mov_b32 s15, s7
16883 ; GFX900-NEXT:    ;;#ASMSTART
16884 ; GFX900-NEXT:    ; use s[8:15]
16885 ; GFX900-NEXT:    ;;#ASMEND
16886 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
16887 ;
16888 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_0_1_1:
16889 ; GFX90A:       ; %bb.0:
16890 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16891 ; GFX90A-NEXT:    ;;#ASMSTART
16892 ; GFX90A-NEXT:    ; def s[4:11]
16893 ; GFX90A-NEXT:    ;;#ASMEND
16894 ; GFX90A-NEXT:    ;;#ASMSTART
16895 ; GFX90A-NEXT:    ; def s[8:15]
16896 ; GFX90A-NEXT:    ;;#ASMEND
16897 ; GFX90A-NEXT:    s_mov_b32 s8, s14
16898 ; GFX90A-NEXT:    s_mov_b32 s9, s15
16899 ; GFX90A-NEXT:    s_mov_b32 s10, s4
16900 ; GFX90A-NEXT:    s_mov_b32 s11, s5
16901 ; GFX90A-NEXT:    s_mov_b32 s12, s6
16902 ; GFX90A-NEXT:    s_mov_b32 s13, s7
16903 ; GFX90A-NEXT:    s_mov_b32 s14, s6
16904 ; GFX90A-NEXT:    s_mov_b32 s15, s7
16905 ; GFX90A-NEXT:    ;;#ASMSTART
16906 ; GFX90A-NEXT:    ; use s[8:15]
16907 ; GFX90A-NEXT:    ;;#ASMEND
16908 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
16909 ;
16910 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_0_1_1:
16911 ; GFX940:       ; %bb.0:
16912 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16913 ; GFX940-NEXT:    ;;#ASMSTART
16914 ; GFX940-NEXT:    ; def s[0:7]
16915 ; GFX940-NEXT:    ;;#ASMEND
16916 ; GFX940-NEXT:    s_mov_b32 s12, s2
16917 ; GFX940-NEXT:    ;;#ASMSTART
16918 ; GFX940-NEXT:    ; def s[4:11]
16919 ; GFX940-NEXT:    ;;#ASMEND
16920 ; GFX940-NEXT:    s_mov_b32 s8, s10
16921 ; GFX940-NEXT:    s_mov_b32 s9, s11
16922 ; GFX940-NEXT:    s_mov_b32 s10, s0
16923 ; GFX940-NEXT:    s_mov_b32 s11, s1
16924 ; GFX940-NEXT:    s_mov_b32 s13, s3
16925 ; GFX940-NEXT:    s_mov_b32 s14, s2
16926 ; GFX940-NEXT:    s_mov_b32 s15, s3
16927 ; GFX940-NEXT:    ;;#ASMSTART
16928 ; GFX940-NEXT:    ; use s[8:15]
16929 ; GFX940-NEXT:    ;;#ASMEND
16930 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
16931   %vec0 = call <4 x i64> asm "; def $0", "=s"()
16932   %vec1 = call <4 x i64> asm "; def $0", "=s"()
16933   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 0, i32 1, i32 1>
16934   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
16935   ret void
16936 }
16937
16938 define void @s_shuffle_v4i64_v4i64__7_2_1_1() {
16939 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_2_1_1:
16940 ; GFX900:       ; %bb.0:
16941 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16942 ; GFX900-NEXT:    ;;#ASMSTART
16943 ; GFX900-NEXT:    ; def s[12:19]
16944 ; GFX900-NEXT:    ;;#ASMEND
16945 ; GFX900-NEXT:    ;;#ASMSTART
16946 ; GFX900-NEXT:    ; def s[4:11]
16947 ; GFX900-NEXT:    ;;#ASMEND
16948 ; GFX900-NEXT:    s_mov_b32 s8, s10
16949 ; GFX900-NEXT:    s_mov_b32 s9, s11
16950 ; GFX900-NEXT:    s_mov_b32 s10, s16
16951 ; GFX900-NEXT:    s_mov_b32 s11, s17
16952 ; GFX900-NEXT:    s_mov_b32 s12, s14
16953 ; GFX900-NEXT:    s_mov_b32 s13, s15
16954 ; GFX900-NEXT:    ;;#ASMSTART
16955 ; GFX900-NEXT:    ; use s[8:15]
16956 ; GFX900-NEXT:    ;;#ASMEND
16957 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
16958 ;
16959 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_2_1_1:
16960 ; GFX90A:       ; %bb.0:
16961 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16962 ; GFX90A-NEXT:    ;;#ASMSTART
16963 ; GFX90A-NEXT:    ; def s[12:19]
16964 ; GFX90A-NEXT:    ;;#ASMEND
16965 ; GFX90A-NEXT:    ;;#ASMSTART
16966 ; GFX90A-NEXT:    ; def s[4:11]
16967 ; GFX90A-NEXT:    ;;#ASMEND
16968 ; GFX90A-NEXT:    s_mov_b32 s8, s10
16969 ; GFX90A-NEXT:    s_mov_b32 s9, s11
16970 ; GFX90A-NEXT:    s_mov_b32 s10, s16
16971 ; GFX90A-NEXT:    s_mov_b32 s11, s17
16972 ; GFX90A-NEXT:    s_mov_b32 s12, s14
16973 ; GFX90A-NEXT:    s_mov_b32 s13, s15
16974 ; GFX90A-NEXT:    ;;#ASMSTART
16975 ; GFX90A-NEXT:    ; use s[8:15]
16976 ; GFX90A-NEXT:    ;;#ASMEND
16977 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
16978 ;
16979 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_2_1_1:
16980 ; GFX940:       ; %bb.0:
16981 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
16982 ; GFX940-NEXT:    ;;#ASMSTART
16983 ; GFX940-NEXT:    ; def s[8:15]
16984 ; GFX940-NEXT:    ;;#ASMEND
16985 ; GFX940-NEXT:    ;;#ASMSTART
16986 ; GFX940-NEXT:    ; def s[0:7]
16987 ; GFX940-NEXT:    ;;#ASMEND
16988 ; GFX940-NEXT:    s_mov_b32 s8, s14
16989 ; GFX940-NEXT:    s_mov_b32 s9, s15
16990 ; GFX940-NEXT:    s_mov_b32 s10, s4
16991 ; GFX940-NEXT:    s_mov_b32 s11, s5
16992 ; GFX940-NEXT:    s_mov_b32 s12, s2
16993 ; GFX940-NEXT:    s_mov_b32 s13, s3
16994 ; GFX940-NEXT:    s_mov_b32 s14, s2
16995 ; GFX940-NEXT:    s_mov_b32 s15, s3
16996 ; GFX940-NEXT:    ;;#ASMSTART
16997 ; GFX940-NEXT:    ; use s[8:15]
16998 ; GFX940-NEXT:    ;;#ASMEND
16999 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
17000   %vec0 = call <4 x i64> asm "; def $0", "=s"()
17001   %vec1 = call <4 x i64> asm "; def $0", "=s"()
17002   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 2, i32 1, i32 1>
17003   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
17004   ret void
17005 }
17006
17007 define void @s_shuffle_v4i64_v4i64__7_3_1_1() {
17008 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_3_1_1:
17009 ; GFX900:       ; %bb.0:
17010 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17011 ; GFX900-NEXT:    ;;#ASMSTART
17012 ; GFX900-NEXT:    ; def s[4:11]
17013 ; GFX900-NEXT:    ;;#ASMEND
17014 ; GFX900-NEXT:    ;;#ASMSTART
17015 ; GFX900-NEXT:    ; def s[12:19]
17016 ; GFX900-NEXT:    ;;#ASMEND
17017 ; GFX900-NEXT:    s_mov_b32 s8, s18
17018 ; GFX900-NEXT:    s_mov_b32 s9, s19
17019 ; GFX900-NEXT:    s_mov_b32 s12, s6
17020 ; GFX900-NEXT:    s_mov_b32 s13, s7
17021 ; GFX900-NEXT:    s_mov_b32 s14, s6
17022 ; GFX900-NEXT:    s_mov_b32 s15, s7
17023 ; GFX900-NEXT:    ;;#ASMSTART
17024 ; GFX900-NEXT:    ; use s[8:15]
17025 ; GFX900-NEXT:    ;;#ASMEND
17026 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
17027 ;
17028 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_3_1_1:
17029 ; GFX90A:       ; %bb.0:
17030 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17031 ; GFX90A-NEXT:    ;;#ASMSTART
17032 ; GFX90A-NEXT:    ; def s[4:11]
17033 ; GFX90A-NEXT:    ;;#ASMEND
17034 ; GFX90A-NEXT:    ;;#ASMSTART
17035 ; GFX90A-NEXT:    ; def s[12:19]
17036 ; GFX90A-NEXT:    ;;#ASMEND
17037 ; GFX90A-NEXT:    s_mov_b32 s8, s18
17038 ; GFX90A-NEXT:    s_mov_b32 s9, s19
17039 ; GFX90A-NEXT:    s_mov_b32 s12, s6
17040 ; GFX90A-NEXT:    s_mov_b32 s13, s7
17041 ; GFX90A-NEXT:    s_mov_b32 s14, s6
17042 ; GFX90A-NEXT:    s_mov_b32 s15, s7
17043 ; GFX90A-NEXT:    ;;#ASMSTART
17044 ; GFX90A-NEXT:    ; use s[8:15]
17045 ; GFX90A-NEXT:    ;;#ASMEND
17046 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
17047 ;
17048 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_3_1_1:
17049 ; GFX940:       ; %bb.0:
17050 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17051 ; GFX940-NEXT:    ;;#ASMSTART
17052 ; GFX940-NEXT:    ; def s[8:15]
17053 ; GFX940-NEXT:    ;;#ASMEND
17054 ; GFX940-NEXT:    ;;#ASMSTART
17055 ; GFX940-NEXT:    ; def s[0:7]
17056 ; GFX940-NEXT:    ;;#ASMEND
17057 ; GFX940-NEXT:    s_mov_b32 s8, s14
17058 ; GFX940-NEXT:    s_mov_b32 s9, s15
17059 ; GFX940-NEXT:    s_mov_b32 s10, s6
17060 ; GFX940-NEXT:    s_mov_b32 s11, s7
17061 ; GFX940-NEXT:    s_mov_b32 s12, s2
17062 ; GFX940-NEXT:    s_mov_b32 s13, s3
17063 ; GFX940-NEXT:    s_mov_b32 s14, s2
17064 ; GFX940-NEXT:    s_mov_b32 s15, s3
17065 ; GFX940-NEXT:    ;;#ASMSTART
17066 ; GFX940-NEXT:    ; use s[8:15]
17067 ; GFX940-NEXT:    ;;#ASMEND
17068 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
17069   %vec0 = call <4 x i64> asm "; def $0", "=s"()
17070   %vec1 = call <4 x i64> asm "; def $0", "=s"()
17071   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 3, i32 1, i32 1>
17072   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
17073   ret void
17074 }
17075
17076 define void @s_shuffle_v4i64_v4i64__7_4_1_1() {
17077 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_4_1_1:
17078 ; GFX900:       ; %bb.0:
17079 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17080 ; GFX900-NEXT:    ;;#ASMSTART
17081 ; GFX900-NEXT:    ; def s[4:11]
17082 ; GFX900-NEXT:    ;;#ASMEND
17083 ; GFX900-NEXT:    ;;#ASMSTART
17084 ; GFX900-NEXT:    ; def s[12:19]
17085 ; GFX900-NEXT:    ;;#ASMEND
17086 ; GFX900-NEXT:    s_mov_b32 s8, s18
17087 ; GFX900-NEXT:    s_mov_b32 s9, s19
17088 ; GFX900-NEXT:    s_mov_b32 s10, s12
17089 ; GFX900-NEXT:    s_mov_b32 s11, s13
17090 ; GFX900-NEXT:    s_mov_b32 s12, s6
17091 ; GFX900-NEXT:    s_mov_b32 s13, s7
17092 ; GFX900-NEXT:    s_mov_b32 s14, s6
17093 ; GFX900-NEXT:    s_mov_b32 s15, s7
17094 ; GFX900-NEXT:    ;;#ASMSTART
17095 ; GFX900-NEXT:    ; use s[8:15]
17096 ; GFX900-NEXT:    ;;#ASMEND
17097 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
17098 ;
17099 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_4_1_1:
17100 ; GFX90A:       ; %bb.0:
17101 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17102 ; GFX90A-NEXT:    ;;#ASMSTART
17103 ; GFX90A-NEXT:    ; def s[4:11]
17104 ; GFX90A-NEXT:    ;;#ASMEND
17105 ; GFX90A-NEXT:    ;;#ASMSTART
17106 ; GFX90A-NEXT:    ; def s[12:19]
17107 ; GFX90A-NEXT:    ;;#ASMEND
17108 ; GFX90A-NEXT:    s_mov_b32 s8, s18
17109 ; GFX90A-NEXT:    s_mov_b32 s9, s19
17110 ; GFX90A-NEXT:    s_mov_b32 s10, s12
17111 ; GFX90A-NEXT:    s_mov_b32 s11, s13
17112 ; GFX90A-NEXT:    s_mov_b32 s12, s6
17113 ; GFX90A-NEXT:    s_mov_b32 s13, s7
17114 ; GFX90A-NEXT:    s_mov_b32 s14, s6
17115 ; GFX90A-NEXT:    s_mov_b32 s15, s7
17116 ; GFX90A-NEXT:    ;;#ASMSTART
17117 ; GFX90A-NEXT:    ; use s[8:15]
17118 ; GFX90A-NEXT:    ;;#ASMEND
17119 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
17120 ;
17121 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_4_1_1:
17122 ; GFX940:       ; %bb.0:
17123 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17124 ; GFX940-NEXT:    ;;#ASMSTART
17125 ; GFX940-NEXT:    ; def s[0:7]
17126 ; GFX940-NEXT:    ;;#ASMEND
17127 ; GFX940-NEXT:    s_mov_b32 s12, s2
17128 ; GFX940-NEXT:    ;;#ASMSTART
17129 ; GFX940-NEXT:    ; def s[4:11]
17130 ; GFX940-NEXT:    ;;#ASMEND
17131 ; GFX940-NEXT:    s_mov_b32 s8, s10
17132 ; GFX940-NEXT:    s_mov_b32 s9, s11
17133 ; GFX940-NEXT:    s_mov_b32 s10, s4
17134 ; GFX940-NEXT:    s_mov_b32 s11, s5
17135 ; GFX940-NEXT:    s_mov_b32 s13, s3
17136 ; GFX940-NEXT:    s_mov_b32 s14, s2
17137 ; GFX940-NEXT:    s_mov_b32 s15, s3
17138 ; GFX940-NEXT:    ;;#ASMSTART
17139 ; GFX940-NEXT:    ; use s[8:15]
17140 ; GFX940-NEXT:    ;;#ASMEND
17141 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
17142   %vec0 = call <4 x i64> asm "; def $0", "=s"()
17143   %vec1 = call <4 x i64> asm "; def $0", "=s"()
17144   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 4, i32 1, i32 1>
17145   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
17146   ret void
17147 }
17148
17149 define void @s_shuffle_v4i64_v4i64__7_5_1_1() {
17150 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_5_1_1:
17151 ; GFX900:       ; %bb.0:
17152 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17153 ; GFX900-NEXT:    ;;#ASMSTART
17154 ; GFX900-NEXT:    ; def s[4:11]
17155 ; GFX900-NEXT:    ;;#ASMEND
17156 ; GFX900-NEXT:    ;;#ASMSTART
17157 ; GFX900-NEXT:    ; def s[8:15]
17158 ; GFX900-NEXT:    ;;#ASMEND
17159 ; GFX900-NEXT:    s_mov_b32 s8, s14
17160 ; GFX900-NEXT:    s_mov_b32 s9, s15
17161 ; GFX900-NEXT:    s_mov_b32 s12, s6
17162 ; GFX900-NEXT:    s_mov_b32 s13, s7
17163 ; GFX900-NEXT:    s_mov_b32 s14, s6
17164 ; GFX900-NEXT:    s_mov_b32 s15, s7
17165 ; GFX900-NEXT:    ;;#ASMSTART
17166 ; GFX900-NEXT:    ; use s[8:15]
17167 ; GFX900-NEXT:    ;;#ASMEND
17168 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
17169 ;
17170 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_5_1_1:
17171 ; GFX90A:       ; %bb.0:
17172 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17173 ; GFX90A-NEXT:    ;;#ASMSTART
17174 ; GFX90A-NEXT:    ; def s[4:11]
17175 ; GFX90A-NEXT:    ;;#ASMEND
17176 ; GFX90A-NEXT:    ;;#ASMSTART
17177 ; GFX90A-NEXT:    ; def s[8:15]
17178 ; GFX90A-NEXT:    ;;#ASMEND
17179 ; GFX90A-NEXT:    s_mov_b32 s8, s14
17180 ; GFX90A-NEXT:    s_mov_b32 s9, s15
17181 ; GFX90A-NEXT:    s_mov_b32 s12, s6
17182 ; GFX90A-NEXT:    s_mov_b32 s13, s7
17183 ; GFX90A-NEXT:    s_mov_b32 s14, s6
17184 ; GFX90A-NEXT:    s_mov_b32 s15, s7
17185 ; GFX90A-NEXT:    ;;#ASMSTART
17186 ; GFX90A-NEXT:    ; use s[8:15]
17187 ; GFX90A-NEXT:    ;;#ASMEND
17188 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
17189 ;
17190 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_5_1_1:
17191 ; GFX940:       ; %bb.0:
17192 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17193 ; GFX940-NEXT:    ;;#ASMSTART
17194 ; GFX940-NEXT:    ; def s[8:15]
17195 ; GFX940-NEXT:    ;;#ASMEND
17196 ; GFX940-NEXT:    ;;#ASMSTART
17197 ; GFX940-NEXT:    ; def s[0:7]
17198 ; GFX940-NEXT:    ;;#ASMEND
17199 ; GFX940-NEXT:    s_mov_b32 s8, s14
17200 ; GFX940-NEXT:    s_mov_b32 s9, s15
17201 ; GFX940-NEXT:    s_mov_b32 s12, s2
17202 ; GFX940-NEXT:    s_mov_b32 s13, s3
17203 ; GFX940-NEXT:    s_mov_b32 s14, s2
17204 ; GFX940-NEXT:    s_mov_b32 s15, s3
17205 ; GFX940-NEXT:    ;;#ASMSTART
17206 ; GFX940-NEXT:    ; use s[8:15]
17207 ; GFX940-NEXT:    ;;#ASMEND
17208 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
17209   %vec0 = call <4 x i64> asm "; def $0", "=s"()
17210   %vec1 = call <4 x i64> asm "; def $0", "=s"()
17211   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 5, i32 1, i32 1>
17212   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
17213   ret void
17214 }
17215
17216 define void @s_shuffle_v4i64_v4i64__7_6_1_1() {
17217 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_6_1_1:
17218 ; GFX900:       ; %bb.0:
17219 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17220 ; GFX900-NEXT:    ;;#ASMSTART
17221 ; GFX900-NEXT:    ; def s[4:11]
17222 ; GFX900-NEXT:    ;;#ASMEND
17223 ; GFX900-NEXT:    ;;#ASMSTART
17224 ; GFX900-NEXT:    ; def s[8:15]
17225 ; GFX900-NEXT:    ;;#ASMEND
17226 ; GFX900-NEXT:    s_mov_b32 s8, s14
17227 ; GFX900-NEXT:    s_mov_b32 s9, s15
17228 ; GFX900-NEXT:    s_mov_b32 s10, s12
17229 ; GFX900-NEXT:    s_mov_b32 s11, s13
17230 ; GFX900-NEXT:    s_mov_b32 s12, s6
17231 ; GFX900-NEXT:    s_mov_b32 s13, s7
17232 ; GFX900-NEXT:    s_mov_b32 s14, s6
17233 ; GFX900-NEXT:    s_mov_b32 s15, s7
17234 ; GFX900-NEXT:    ;;#ASMSTART
17235 ; GFX900-NEXT:    ; use s[8:15]
17236 ; GFX900-NEXT:    ;;#ASMEND
17237 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
17238 ;
17239 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_6_1_1:
17240 ; GFX90A:       ; %bb.0:
17241 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17242 ; GFX90A-NEXT:    ;;#ASMSTART
17243 ; GFX90A-NEXT:    ; def s[4:11]
17244 ; GFX90A-NEXT:    ;;#ASMEND
17245 ; GFX90A-NEXT:    ;;#ASMSTART
17246 ; GFX90A-NEXT:    ; def s[8:15]
17247 ; GFX90A-NEXT:    ;;#ASMEND
17248 ; GFX90A-NEXT:    s_mov_b32 s8, s14
17249 ; GFX90A-NEXT:    s_mov_b32 s9, s15
17250 ; GFX90A-NEXT:    s_mov_b32 s10, s12
17251 ; GFX90A-NEXT:    s_mov_b32 s11, s13
17252 ; GFX90A-NEXT:    s_mov_b32 s12, s6
17253 ; GFX90A-NEXT:    s_mov_b32 s13, s7
17254 ; GFX90A-NEXT:    s_mov_b32 s14, s6
17255 ; GFX90A-NEXT:    s_mov_b32 s15, s7
17256 ; GFX90A-NEXT:    ;;#ASMSTART
17257 ; GFX90A-NEXT:    ; use s[8:15]
17258 ; GFX90A-NEXT:    ;;#ASMEND
17259 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
17260 ;
17261 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_6_1_1:
17262 ; GFX940:       ; %bb.0:
17263 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17264 ; GFX940-NEXT:    ;;#ASMSTART
17265 ; GFX940-NEXT:    ; def s[8:15]
17266 ; GFX940-NEXT:    ;;#ASMEND
17267 ; GFX940-NEXT:    ;;#ASMSTART
17268 ; GFX940-NEXT:    ; def s[0:7]
17269 ; GFX940-NEXT:    ;;#ASMEND
17270 ; GFX940-NEXT:    s_mov_b32 s8, s14
17271 ; GFX940-NEXT:    s_mov_b32 s9, s15
17272 ; GFX940-NEXT:    s_mov_b32 s10, s12
17273 ; GFX940-NEXT:    s_mov_b32 s11, s13
17274 ; GFX940-NEXT:    s_mov_b32 s12, s2
17275 ; GFX940-NEXT:    s_mov_b32 s13, s3
17276 ; GFX940-NEXT:    s_mov_b32 s14, s2
17277 ; GFX940-NEXT:    s_mov_b32 s15, s3
17278 ; GFX940-NEXT:    ;;#ASMSTART
17279 ; GFX940-NEXT:    ; use s[8:15]
17280 ; GFX940-NEXT:    ;;#ASMEND
17281 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
17282   %vec0 = call <4 x i64> asm "; def $0", "=s"()
17283   %vec1 = call <4 x i64> asm "; def $0", "=s"()
17284   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 6, i32 1, i32 1>
17285   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
17286   ret void
17287 }
17288
17289 define void @s_shuffle_v4i64_v4i64__7_7_1_1() {
17290 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_1_1:
17291 ; GFX900:       ; %bb.0:
17292 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17293 ; GFX900-NEXT:    ;;#ASMSTART
17294 ; GFX900-NEXT:    ; def s[4:11]
17295 ; GFX900-NEXT:    ;;#ASMEND
17296 ; GFX900-NEXT:    ;;#ASMSTART
17297 ; GFX900-NEXT:    ; def s[8:15]
17298 ; GFX900-NEXT:    ;;#ASMEND
17299 ; GFX900-NEXT:    s_mov_b32 s8, s14
17300 ; GFX900-NEXT:    s_mov_b32 s9, s15
17301 ; GFX900-NEXT:    s_mov_b32 s10, s14
17302 ; GFX900-NEXT:    s_mov_b32 s11, s15
17303 ; GFX900-NEXT:    s_mov_b32 s12, s6
17304 ; GFX900-NEXT:    s_mov_b32 s13, s7
17305 ; GFX900-NEXT:    s_mov_b32 s14, s6
17306 ; GFX900-NEXT:    s_mov_b32 s15, s7
17307 ; GFX900-NEXT:    ;;#ASMSTART
17308 ; GFX900-NEXT:    ; use s[8:15]
17309 ; GFX900-NEXT:    ;;#ASMEND
17310 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
17311 ;
17312 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_1_1:
17313 ; GFX90A:       ; %bb.0:
17314 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17315 ; GFX90A-NEXT:    ;;#ASMSTART
17316 ; GFX90A-NEXT:    ; def s[4:11]
17317 ; GFX90A-NEXT:    ;;#ASMEND
17318 ; GFX90A-NEXT:    ;;#ASMSTART
17319 ; GFX90A-NEXT:    ; def s[8:15]
17320 ; GFX90A-NEXT:    ;;#ASMEND
17321 ; GFX90A-NEXT:    s_mov_b32 s8, s14
17322 ; GFX90A-NEXT:    s_mov_b32 s9, s15
17323 ; GFX90A-NEXT:    s_mov_b32 s10, s14
17324 ; GFX90A-NEXT:    s_mov_b32 s11, s15
17325 ; GFX90A-NEXT:    s_mov_b32 s12, s6
17326 ; GFX90A-NEXT:    s_mov_b32 s13, s7
17327 ; GFX90A-NEXT:    s_mov_b32 s14, s6
17328 ; GFX90A-NEXT:    s_mov_b32 s15, s7
17329 ; GFX90A-NEXT:    ;;#ASMSTART
17330 ; GFX90A-NEXT:    ; use s[8:15]
17331 ; GFX90A-NEXT:    ;;#ASMEND
17332 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
17333 ;
17334 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_1_1:
17335 ; GFX940:       ; %bb.0:
17336 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17337 ; GFX940-NEXT:    ;;#ASMSTART
17338 ; GFX940-NEXT:    ; def s[0:7]
17339 ; GFX940-NEXT:    ;;#ASMEND
17340 ; GFX940-NEXT:    s_mov_b32 s12, s2
17341 ; GFX940-NEXT:    ;;#ASMSTART
17342 ; GFX940-NEXT:    ; def s[4:11]
17343 ; GFX940-NEXT:    ;;#ASMEND
17344 ; GFX940-NEXT:    s_mov_b32 s8, s10
17345 ; GFX940-NEXT:    s_mov_b32 s9, s11
17346 ; GFX940-NEXT:    s_mov_b32 s13, s3
17347 ; GFX940-NEXT:    s_mov_b32 s14, s2
17348 ; GFX940-NEXT:    s_mov_b32 s15, s3
17349 ; GFX940-NEXT:    ;;#ASMSTART
17350 ; GFX940-NEXT:    ; use s[8:15]
17351 ; GFX940-NEXT:    ;;#ASMEND
17352 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
17353   %vec0 = call <4 x i64> asm "; def $0", "=s"()
17354   %vec1 = call <4 x i64> asm "; def $0", "=s"()
17355   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 1, i32 1>
17356   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
17357   ret void
17358 }
17359
17360 define void @s_shuffle_v4i64_v4i64__7_7_u_1() {
17361 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_u_1:
17362 ; GFX900:       ; %bb.0:
17363 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17364 ; GFX900-NEXT:    ;;#ASMSTART
17365 ; GFX900-NEXT:    ; def s[4:11]
17366 ; GFX900-NEXT:    ;;#ASMEND
17367 ; GFX900-NEXT:    ;;#ASMSTART
17368 ; GFX900-NEXT:    ; def s[8:15]
17369 ; GFX900-NEXT:    ;;#ASMEND
17370 ; GFX900-NEXT:    s_mov_b32 s8, s14
17371 ; GFX900-NEXT:    s_mov_b32 s9, s15
17372 ; GFX900-NEXT:    s_mov_b32 s10, s14
17373 ; GFX900-NEXT:    s_mov_b32 s11, s15
17374 ; GFX900-NEXT:    s_mov_b32 s14, s6
17375 ; GFX900-NEXT:    s_mov_b32 s15, s7
17376 ; GFX900-NEXT:    ;;#ASMSTART
17377 ; GFX900-NEXT:    ; use s[8:15]
17378 ; GFX900-NEXT:    ;;#ASMEND
17379 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
17380 ;
17381 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_u_1:
17382 ; GFX90A:       ; %bb.0:
17383 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17384 ; GFX90A-NEXT:    ;;#ASMSTART
17385 ; GFX90A-NEXT:    ; def s[4:11]
17386 ; GFX90A-NEXT:    ;;#ASMEND
17387 ; GFX90A-NEXT:    ;;#ASMSTART
17388 ; GFX90A-NEXT:    ; def s[8:15]
17389 ; GFX90A-NEXT:    ;;#ASMEND
17390 ; GFX90A-NEXT:    s_mov_b32 s8, s14
17391 ; GFX90A-NEXT:    s_mov_b32 s9, s15
17392 ; GFX90A-NEXT:    s_mov_b32 s10, s14
17393 ; GFX90A-NEXT:    s_mov_b32 s11, s15
17394 ; GFX90A-NEXT:    s_mov_b32 s14, s6
17395 ; GFX90A-NEXT:    s_mov_b32 s15, s7
17396 ; GFX90A-NEXT:    ;;#ASMSTART
17397 ; GFX90A-NEXT:    ; use s[8:15]
17398 ; GFX90A-NEXT:    ;;#ASMEND
17399 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
17400 ;
17401 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_u_1:
17402 ; GFX940:       ; %bb.0:
17403 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17404 ; GFX940-NEXT:    ;;#ASMSTART
17405 ; GFX940-NEXT:    ; def s[0:7]
17406 ; GFX940-NEXT:    ;;#ASMEND
17407 ; GFX940-NEXT:    s_mov_b32 s14, s2
17408 ; GFX940-NEXT:    ;;#ASMSTART
17409 ; GFX940-NEXT:    ; def s[4:11]
17410 ; GFX940-NEXT:    ;;#ASMEND
17411 ; GFX940-NEXT:    s_mov_b32 s8, s10
17412 ; GFX940-NEXT:    s_mov_b32 s9, s11
17413 ; GFX940-NEXT:    s_mov_b32 s15, s3
17414 ; GFX940-NEXT:    ;;#ASMSTART
17415 ; GFX940-NEXT:    ; use s[8:15]
17416 ; GFX940-NEXT:    ;;#ASMEND
17417 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
17418   %vec0 = call <4 x i64> asm "; def $0", "=s"()
17419   %vec1 = call <4 x i64> asm "; def $0", "=s"()
17420   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 poison, i32 1>
17421   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
17422   ret void
17423 }
17424
17425 define void @s_shuffle_v4i64_v4i64__7_7_0_1() {
17426 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_0_1:
17427 ; GFX900:       ; %bb.0:
17428 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17429 ; GFX900-NEXT:    ;;#ASMSTART
17430 ; GFX900-NEXT:    ; def s[4:11]
17431 ; GFX900-NEXT:    ;;#ASMEND
17432 ; GFX900-NEXT:    ;;#ASMSTART
17433 ; GFX900-NEXT:    ; def s[8:15]
17434 ; GFX900-NEXT:    ;;#ASMEND
17435 ; GFX900-NEXT:    s_mov_b32 s8, s14
17436 ; GFX900-NEXT:    s_mov_b32 s9, s15
17437 ; GFX900-NEXT:    s_mov_b32 s10, s14
17438 ; GFX900-NEXT:    s_mov_b32 s11, s15
17439 ; GFX900-NEXT:    s_mov_b32 s12, s4
17440 ; GFX900-NEXT:    s_mov_b32 s13, s5
17441 ; GFX900-NEXT:    s_mov_b32 s14, s6
17442 ; GFX900-NEXT:    s_mov_b32 s15, s7
17443 ; GFX900-NEXT:    ;;#ASMSTART
17444 ; GFX900-NEXT:    ; use s[8:15]
17445 ; GFX900-NEXT:    ;;#ASMEND
17446 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
17447 ;
17448 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_0_1:
17449 ; GFX90A:       ; %bb.0:
17450 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17451 ; GFX90A-NEXT:    ;;#ASMSTART
17452 ; GFX90A-NEXT:    ; def s[4:11]
17453 ; GFX90A-NEXT:    ;;#ASMEND
17454 ; GFX90A-NEXT:    ;;#ASMSTART
17455 ; GFX90A-NEXT:    ; def s[8:15]
17456 ; GFX90A-NEXT:    ;;#ASMEND
17457 ; GFX90A-NEXT:    s_mov_b32 s8, s14
17458 ; GFX90A-NEXT:    s_mov_b32 s9, s15
17459 ; GFX90A-NEXT:    s_mov_b32 s10, s14
17460 ; GFX90A-NEXT:    s_mov_b32 s11, s15
17461 ; GFX90A-NEXT:    s_mov_b32 s12, s4
17462 ; GFX90A-NEXT:    s_mov_b32 s13, s5
17463 ; GFX90A-NEXT:    s_mov_b32 s14, s6
17464 ; GFX90A-NEXT:    s_mov_b32 s15, s7
17465 ; GFX90A-NEXT:    ;;#ASMSTART
17466 ; GFX90A-NEXT:    ; use s[8:15]
17467 ; GFX90A-NEXT:    ;;#ASMEND
17468 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
17469 ;
17470 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_0_1:
17471 ; GFX940:       ; %bb.0:
17472 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17473 ; GFX940-NEXT:    ;;#ASMSTART
17474 ; GFX940-NEXT:    ; def s[0:7]
17475 ; GFX940-NEXT:    ;;#ASMEND
17476 ; GFX940-NEXT:    s_mov_b32 s12, s0
17477 ; GFX940-NEXT:    ;;#ASMSTART
17478 ; GFX940-NEXT:    ; def s[4:11]
17479 ; GFX940-NEXT:    ;;#ASMEND
17480 ; GFX940-NEXT:    s_mov_b32 s8, s10
17481 ; GFX940-NEXT:    s_mov_b32 s9, s11
17482 ; GFX940-NEXT:    s_mov_b32 s13, s1
17483 ; GFX940-NEXT:    s_mov_b32 s14, s2
17484 ; GFX940-NEXT:    s_mov_b32 s15, s3
17485 ; GFX940-NEXT:    ;;#ASMSTART
17486 ; GFX940-NEXT:    ; use s[8:15]
17487 ; GFX940-NEXT:    ;;#ASMEND
17488 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
17489   %vec0 = call <4 x i64> asm "; def $0", "=s"()
17490   %vec1 = call <4 x i64> asm "; def $0", "=s"()
17491   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 0, i32 1>
17492   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
17493   ret void
17494 }
17495
17496 define void @s_shuffle_v4i64_v4i64__7_7_2_1() {
17497 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_2_1:
17498 ; GFX900:       ; %bb.0:
17499 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17500 ; GFX900-NEXT:    ;;#ASMSTART
17501 ; GFX900-NEXT:    ; def s[12:19]
17502 ; GFX900-NEXT:    ;;#ASMEND
17503 ; GFX900-NEXT:    ;;#ASMSTART
17504 ; GFX900-NEXT:    ; def s[4:11]
17505 ; GFX900-NEXT:    ;;#ASMEND
17506 ; GFX900-NEXT:    s_mov_b32 s8, s10
17507 ; GFX900-NEXT:    s_mov_b32 s9, s11
17508 ; GFX900-NEXT:    s_mov_b32 s12, s16
17509 ; GFX900-NEXT:    s_mov_b32 s13, s17
17510 ; GFX900-NEXT:    ;;#ASMSTART
17511 ; GFX900-NEXT:    ; use s[8:15]
17512 ; GFX900-NEXT:    ;;#ASMEND
17513 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
17514 ;
17515 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_2_1:
17516 ; GFX90A:       ; %bb.0:
17517 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17518 ; GFX90A-NEXT:    ;;#ASMSTART
17519 ; GFX90A-NEXT:    ; def s[12:19]
17520 ; GFX90A-NEXT:    ;;#ASMEND
17521 ; GFX90A-NEXT:    ;;#ASMSTART
17522 ; GFX90A-NEXT:    ; def s[4:11]
17523 ; GFX90A-NEXT:    ;;#ASMEND
17524 ; GFX90A-NEXT:    s_mov_b32 s8, s10
17525 ; GFX90A-NEXT:    s_mov_b32 s9, s11
17526 ; GFX90A-NEXT:    s_mov_b32 s12, s16
17527 ; GFX90A-NEXT:    s_mov_b32 s13, s17
17528 ; GFX90A-NEXT:    ;;#ASMSTART
17529 ; GFX90A-NEXT:    ; use s[8:15]
17530 ; GFX90A-NEXT:    ;;#ASMEND
17531 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
17532 ;
17533 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_2_1:
17534 ; GFX940:       ; %bb.0:
17535 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17536 ; GFX940-NEXT:    ;;#ASMSTART
17537 ; GFX940-NEXT:    ; def s[8:15]
17538 ; GFX940-NEXT:    ;;#ASMEND
17539 ; GFX940-NEXT:    ;;#ASMSTART
17540 ; GFX940-NEXT:    ; def s[0:7]
17541 ; GFX940-NEXT:    ;;#ASMEND
17542 ; GFX940-NEXT:    s_mov_b32 s8, s14
17543 ; GFX940-NEXT:    s_mov_b32 s9, s15
17544 ; GFX940-NEXT:    s_mov_b32 s10, s14
17545 ; GFX940-NEXT:    s_mov_b32 s11, s15
17546 ; GFX940-NEXT:    s_mov_b32 s12, s4
17547 ; GFX940-NEXT:    s_mov_b32 s13, s5
17548 ; GFX940-NEXT:    s_mov_b32 s14, s2
17549 ; GFX940-NEXT:    s_mov_b32 s15, s3
17550 ; GFX940-NEXT:    ;;#ASMSTART
17551 ; GFX940-NEXT:    ; use s[8:15]
17552 ; GFX940-NEXT:    ;;#ASMEND
17553 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
17554   %vec0 = call <4 x i64> asm "; def $0", "=s"()
17555   %vec1 = call <4 x i64> asm "; def $0", "=s"()
17556   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 2, i32 1>
17557   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
17558   ret void
17559 }
17560
17561 define void @s_shuffle_v4i64_v4i64__7_7_3_1() {
17562 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_3_1:
17563 ; GFX900:       ; %bb.0:
17564 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17565 ; GFX900-NEXT:    ;;#ASMSTART
17566 ; GFX900-NEXT:    ; def s[12:19]
17567 ; GFX900-NEXT:    ;;#ASMEND
17568 ; GFX900-NEXT:    ;;#ASMSTART
17569 ; GFX900-NEXT:    ; def s[4:11]
17570 ; GFX900-NEXT:    ;;#ASMEND
17571 ; GFX900-NEXT:    s_mov_b32 s8, s10
17572 ; GFX900-NEXT:    s_mov_b32 s9, s11
17573 ; GFX900-NEXT:    s_mov_b32 s12, s18
17574 ; GFX900-NEXT:    s_mov_b32 s13, s19
17575 ; GFX900-NEXT:    ;;#ASMSTART
17576 ; GFX900-NEXT:    ; use s[8:15]
17577 ; GFX900-NEXT:    ;;#ASMEND
17578 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
17579 ;
17580 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_3_1:
17581 ; GFX90A:       ; %bb.0:
17582 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17583 ; GFX90A-NEXT:    ;;#ASMSTART
17584 ; GFX90A-NEXT:    ; def s[12:19]
17585 ; GFX90A-NEXT:    ;;#ASMEND
17586 ; GFX90A-NEXT:    ;;#ASMSTART
17587 ; GFX90A-NEXT:    ; def s[4:11]
17588 ; GFX90A-NEXT:    ;;#ASMEND
17589 ; GFX90A-NEXT:    s_mov_b32 s8, s10
17590 ; GFX90A-NEXT:    s_mov_b32 s9, s11
17591 ; GFX90A-NEXT:    s_mov_b32 s12, s18
17592 ; GFX90A-NEXT:    s_mov_b32 s13, s19
17593 ; GFX90A-NEXT:    ;;#ASMSTART
17594 ; GFX90A-NEXT:    ; use s[8:15]
17595 ; GFX90A-NEXT:    ;;#ASMEND
17596 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
17597 ;
17598 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_3_1:
17599 ; GFX940:       ; %bb.0:
17600 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17601 ; GFX940-NEXT:    ;;#ASMSTART
17602 ; GFX940-NEXT:    ; def s[8:15]
17603 ; GFX940-NEXT:    ;;#ASMEND
17604 ; GFX940-NEXT:    ;;#ASMSTART
17605 ; GFX940-NEXT:    ; def s[0:7]
17606 ; GFX940-NEXT:    ;;#ASMEND
17607 ; GFX940-NEXT:    s_mov_b32 s8, s14
17608 ; GFX940-NEXT:    s_mov_b32 s9, s15
17609 ; GFX940-NEXT:    s_mov_b32 s10, s14
17610 ; GFX940-NEXT:    s_mov_b32 s11, s15
17611 ; GFX940-NEXT:    s_mov_b32 s12, s6
17612 ; GFX940-NEXT:    s_mov_b32 s13, s7
17613 ; GFX940-NEXT:    s_mov_b32 s14, s2
17614 ; GFX940-NEXT:    s_mov_b32 s15, s3
17615 ; GFX940-NEXT:    ;;#ASMSTART
17616 ; GFX940-NEXT:    ; use s[8:15]
17617 ; GFX940-NEXT:    ;;#ASMEND
17618 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
17619   %vec0 = call <4 x i64> asm "; def $0", "=s"()
17620   %vec1 = call <4 x i64> asm "; def $0", "=s"()
17621   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 3, i32 1>
17622   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
17623   ret void
17624 }
17625
17626 define void @s_shuffle_v4i64_v4i64__7_7_4_1() {
17627 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_4_1:
17628 ; GFX900:       ; %bb.0:
17629 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17630 ; GFX900-NEXT:    ;;#ASMSTART
17631 ; GFX900-NEXT:    ; def s[4:11]
17632 ; GFX900-NEXT:    ;;#ASMEND
17633 ; GFX900-NEXT:    ;;#ASMSTART
17634 ; GFX900-NEXT:    ; def s[12:19]
17635 ; GFX900-NEXT:    ;;#ASMEND
17636 ; GFX900-NEXT:    s_mov_b32 s8, s18
17637 ; GFX900-NEXT:    s_mov_b32 s9, s19
17638 ; GFX900-NEXT:    s_mov_b32 s10, s18
17639 ; GFX900-NEXT:    s_mov_b32 s11, s19
17640 ; GFX900-NEXT:    s_mov_b32 s14, s6
17641 ; GFX900-NEXT:    s_mov_b32 s15, s7
17642 ; GFX900-NEXT:    ;;#ASMSTART
17643 ; GFX900-NEXT:    ; use s[8:15]
17644 ; GFX900-NEXT:    ;;#ASMEND
17645 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
17646 ;
17647 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_4_1:
17648 ; GFX90A:       ; %bb.0:
17649 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17650 ; GFX90A-NEXT:    ;;#ASMSTART
17651 ; GFX90A-NEXT:    ; def s[4:11]
17652 ; GFX90A-NEXT:    ;;#ASMEND
17653 ; GFX90A-NEXT:    ;;#ASMSTART
17654 ; GFX90A-NEXT:    ; def s[12:19]
17655 ; GFX90A-NEXT:    ;;#ASMEND
17656 ; GFX90A-NEXT:    s_mov_b32 s8, s18
17657 ; GFX90A-NEXT:    s_mov_b32 s9, s19
17658 ; GFX90A-NEXT:    s_mov_b32 s10, s18
17659 ; GFX90A-NEXT:    s_mov_b32 s11, s19
17660 ; GFX90A-NEXT:    s_mov_b32 s14, s6
17661 ; GFX90A-NEXT:    s_mov_b32 s15, s7
17662 ; GFX90A-NEXT:    ;;#ASMSTART
17663 ; GFX90A-NEXT:    ; use s[8:15]
17664 ; GFX90A-NEXT:    ;;#ASMEND
17665 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
17666 ;
17667 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_4_1:
17668 ; GFX940:       ; %bb.0:
17669 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17670 ; GFX940-NEXT:    ;;#ASMSTART
17671 ; GFX940-NEXT:    ; def s[0:7]
17672 ; GFX940-NEXT:    ;;#ASMEND
17673 ; GFX940-NEXT:    s_mov_b32 s14, s2
17674 ; GFX940-NEXT:    ;;#ASMSTART
17675 ; GFX940-NEXT:    ; def s[4:11]
17676 ; GFX940-NEXT:    ;;#ASMEND
17677 ; GFX940-NEXT:    s_mov_b32 s8, s10
17678 ; GFX940-NEXT:    s_mov_b32 s9, s11
17679 ; GFX940-NEXT:    s_mov_b32 s12, s4
17680 ; GFX940-NEXT:    s_mov_b32 s13, s5
17681 ; GFX940-NEXT:    s_mov_b32 s15, s3
17682 ; GFX940-NEXT:    ;;#ASMSTART
17683 ; GFX940-NEXT:    ; use s[8:15]
17684 ; GFX940-NEXT:    ;;#ASMEND
17685 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
17686   %vec0 = call <4 x i64> asm "; def $0", "=s"()
17687   %vec1 = call <4 x i64> asm "; def $0", "=s"()
17688   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 4, i32 1>
17689   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
17690   ret void
17691 }
17692
17693 define void @s_shuffle_v4i64_v4i64__7_7_5_1() {
17694 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_5_1:
17695 ; GFX900:       ; %bb.0:
17696 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17697 ; GFX900-NEXT:    ;;#ASMSTART
17698 ; GFX900-NEXT:    ; def s[4:11]
17699 ; GFX900-NEXT:    ;;#ASMEND
17700 ; GFX900-NEXT:    ;;#ASMSTART
17701 ; GFX900-NEXT:    ; def s[12:19]
17702 ; GFX900-NEXT:    ;;#ASMEND
17703 ; GFX900-NEXT:    s_mov_b32 s8, s18
17704 ; GFX900-NEXT:    s_mov_b32 s9, s19
17705 ; GFX900-NEXT:    s_mov_b32 s10, s18
17706 ; GFX900-NEXT:    s_mov_b32 s11, s19
17707 ; GFX900-NEXT:    s_mov_b32 s12, s14
17708 ; GFX900-NEXT:    s_mov_b32 s13, s15
17709 ; GFX900-NEXT:    s_mov_b32 s14, s6
17710 ; GFX900-NEXT:    s_mov_b32 s15, s7
17711 ; GFX900-NEXT:    ;;#ASMSTART
17712 ; GFX900-NEXT:    ; use s[8:15]
17713 ; GFX900-NEXT:    ;;#ASMEND
17714 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
17715 ;
17716 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_5_1:
17717 ; GFX90A:       ; %bb.0:
17718 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17719 ; GFX90A-NEXT:    ;;#ASMSTART
17720 ; GFX90A-NEXT:    ; def s[4:11]
17721 ; GFX90A-NEXT:    ;;#ASMEND
17722 ; GFX90A-NEXT:    ;;#ASMSTART
17723 ; GFX90A-NEXT:    ; def s[12:19]
17724 ; GFX90A-NEXT:    ;;#ASMEND
17725 ; GFX90A-NEXT:    s_mov_b32 s8, s18
17726 ; GFX90A-NEXT:    s_mov_b32 s9, s19
17727 ; GFX90A-NEXT:    s_mov_b32 s10, s18
17728 ; GFX90A-NEXT:    s_mov_b32 s11, s19
17729 ; GFX90A-NEXT:    s_mov_b32 s12, s14
17730 ; GFX90A-NEXT:    s_mov_b32 s13, s15
17731 ; GFX90A-NEXT:    s_mov_b32 s14, s6
17732 ; GFX90A-NEXT:    s_mov_b32 s15, s7
17733 ; GFX90A-NEXT:    ;;#ASMSTART
17734 ; GFX90A-NEXT:    ; use s[8:15]
17735 ; GFX90A-NEXT:    ;;#ASMEND
17736 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
17737 ;
17738 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_5_1:
17739 ; GFX940:       ; %bb.0:
17740 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17741 ; GFX940-NEXT:    ;;#ASMSTART
17742 ; GFX940-NEXT:    ; def s[0:7]
17743 ; GFX940-NEXT:    ;;#ASMEND
17744 ; GFX940-NEXT:    s_mov_b32 s14, s2
17745 ; GFX940-NEXT:    ;;#ASMSTART
17746 ; GFX940-NEXT:    ; def s[4:11]
17747 ; GFX940-NEXT:    ;;#ASMEND
17748 ; GFX940-NEXT:    s_mov_b32 s8, s10
17749 ; GFX940-NEXT:    s_mov_b32 s9, s11
17750 ; GFX940-NEXT:    s_mov_b32 s12, s6
17751 ; GFX940-NEXT:    s_mov_b32 s13, s7
17752 ; GFX940-NEXT:    s_mov_b32 s15, s3
17753 ; GFX940-NEXT:    ;;#ASMSTART
17754 ; GFX940-NEXT:    ; use s[8:15]
17755 ; GFX940-NEXT:    ;;#ASMEND
17756 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
17757   %vec0 = call <4 x i64> asm "; def $0", "=s"()
17758   %vec1 = call <4 x i64> asm "; def $0", "=s"()
17759   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 5, i32 1>
17760   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
17761   ret void
17762 }
17763
17764 define void @s_shuffle_v4i64_v4i64__7_7_6_1() {
17765 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_6_1:
17766 ; GFX900:       ; %bb.0:
17767 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17768 ; GFX900-NEXT:    ;;#ASMSTART
17769 ; GFX900-NEXT:    ; def s[4:11]
17770 ; GFX900-NEXT:    ;;#ASMEND
17771 ; GFX900-NEXT:    ;;#ASMSTART
17772 ; GFX900-NEXT:    ; def s[8:15]
17773 ; GFX900-NEXT:    ;;#ASMEND
17774 ; GFX900-NEXT:    s_mov_b32 s8, s14
17775 ; GFX900-NEXT:    s_mov_b32 s9, s15
17776 ; GFX900-NEXT:    s_mov_b32 s10, s14
17777 ; GFX900-NEXT:    s_mov_b32 s11, s15
17778 ; GFX900-NEXT:    s_mov_b32 s14, s6
17779 ; GFX900-NEXT:    s_mov_b32 s15, s7
17780 ; GFX900-NEXT:    ;;#ASMSTART
17781 ; GFX900-NEXT:    ; use s[8:15]
17782 ; GFX900-NEXT:    ;;#ASMEND
17783 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
17784 ;
17785 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_6_1:
17786 ; GFX90A:       ; %bb.0:
17787 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17788 ; GFX90A-NEXT:    ;;#ASMSTART
17789 ; GFX90A-NEXT:    ; def s[4:11]
17790 ; GFX90A-NEXT:    ;;#ASMEND
17791 ; GFX90A-NEXT:    ;;#ASMSTART
17792 ; GFX90A-NEXT:    ; def s[8:15]
17793 ; GFX90A-NEXT:    ;;#ASMEND
17794 ; GFX90A-NEXT:    s_mov_b32 s8, s14
17795 ; GFX90A-NEXT:    s_mov_b32 s9, s15
17796 ; GFX90A-NEXT:    s_mov_b32 s10, s14
17797 ; GFX90A-NEXT:    s_mov_b32 s11, s15
17798 ; GFX90A-NEXT:    s_mov_b32 s14, s6
17799 ; GFX90A-NEXT:    s_mov_b32 s15, s7
17800 ; GFX90A-NEXT:    ;;#ASMSTART
17801 ; GFX90A-NEXT:    ; use s[8:15]
17802 ; GFX90A-NEXT:    ;;#ASMEND
17803 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
17804 ;
17805 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_6_1:
17806 ; GFX940:       ; %bb.0:
17807 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17808 ; GFX940-NEXT:    ;;#ASMSTART
17809 ; GFX940-NEXT:    ; def s[8:15]
17810 ; GFX940-NEXT:    ;;#ASMEND
17811 ; GFX940-NEXT:    ;;#ASMSTART
17812 ; GFX940-NEXT:    ; def s[0:7]
17813 ; GFX940-NEXT:    ;;#ASMEND
17814 ; GFX940-NEXT:    s_mov_b32 s8, s14
17815 ; GFX940-NEXT:    s_mov_b32 s9, s15
17816 ; GFX940-NEXT:    s_mov_b32 s10, s14
17817 ; GFX940-NEXT:    s_mov_b32 s11, s15
17818 ; GFX940-NEXT:    s_mov_b32 s14, s2
17819 ; GFX940-NEXT:    s_mov_b32 s15, s3
17820 ; GFX940-NEXT:    ;;#ASMSTART
17821 ; GFX940-NEXT:    ; use s[8:15]
17822 ; GFX940-NEXT:    ;;#ASMEND
17823 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
17824   %vec0 = call <4 x i64> asm "; def $0", "=s"()
17825   %vec1 = call <4 x i64> asm "; def $0", "=s"()
17826   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 6, i32 1>
17827   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
17828   ret void
17829 }
17830
17831 define void @s_shuffle_v4i64_v4i64__u_2_2_2() {
17832 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__u_2_2_2:
17833 ; GFX9:       ; %bb.0:
17834 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17835 ; GFX9-NEXT:    ;;#ASMSTART
17836 ; GFX9-NEXT:    ; def s[8:15]
17837 ; GFX9-NEXT:    ;;#ASMEND
17838 ; GFX9-NEXT:    s_mov_b32 s10, s12
17839 ; GFX9-NEXT:    s_mov_b32 s11, s13
17840 ; GFX9-NEXT:    s_mov_b32 s14, s12
17841 ; GFX9-NEXT:    s_mov_b32 s15, s13
17842 ; GFX9-NEXT:    ;;#ASMSTART
17843 ; GFX9-NEXT:    ; use s[8:15]
17844 ; GFX9-NEXT:    ;;#ASMEND
17845 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
17846   %vec0 = call <4 x i64> asm "; def $0", "=s"()
17847   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 poison, i32 2, i32 2, i32 2>
17848   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
17849   ret void
17850 }
17851
17852 define void @s_shuffle_v4i64_v4i64__0_2_2_2() {
17853 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__0_2_2_2:
17854 ; GFX9:       ; %bb.0:
17855 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17856 ; GFX9-NEXT:    ;;#ASMSTART
17857 ; GFX9-NEXT:    ; def s[8:15]
17858 ; GFX9-NEXT:    ;;#ASMEND
17859 ; GFX9-NEXT:    s_mov_b32 s10, s12
17860 ; GFX9-NEXT:    s_mov_b32 s11, s13
17861 ; GFX9-NEXT:    s_mov_b32 s14, s12
17862 ; GFX9-NEXT:    s_mov_b32 s15, s13
17863 ; GFX9-NEXT:    ;;#ASMSTART
17864 ; GFX9-NEXT:    ; use s[8:15]
17865 ; GFX9-NEXT:    ;;#ASMEND
17866 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
17867   %vec0 = call <4 x i64> asm "; def $0", "=s"()
17868   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 0, i32 2, i32 2, i32 2>
17869   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
17870   ret void
17871 }
17872
17873 define void @s_shuffle_v4i64_v4i64__1_2_2_2() {
17874 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__1_2_2_2:
17875 ; GFX9:       ; %bb.0:
17876 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17877 ; GFX9-NEXT:    ;;#ASMSTART
17878 ; GFX9-NEXT:    ; def s[8:15]
17879 ; GFX9-NEXT:    ;;#ASMEND
17880 ; GFX9-NEXT:    s_mov_b32 s8, s10
17881 ; GFX9-NEXT:    s_mov_b32 s9, s11
17882 ; GFX9-NEXT:    s_mov_b32 s10, s12
17883 ; GFX9-NEXT:    s_mov_b32 s11, s13
17884 ; GFX9-NEXT:    s_mov_b32 s14, s12
17885 ; GFX9-NEXT:    s_mov_b32 s15, s13
17886 ; GFX9-NEXT:    ;;#ASMSTART
17887 ; GFX9-NEXT:    ; use s[8:15]
17888 ; GFX9-NEXT:    ;;#ASMEND
17889 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
17890   %vec0 = call <4 x i64> asm "; def $0", "=s"()
17891   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 1, i32 2, i32 2, i32 2>
17892   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
17893   ret void
17894 }
17895
17896 define void @s_shuffle_v4i64_v4i64__2_2_2_2() {
17897 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__2_2_2_2:
17898 ; GFX9:       ; %bb.0:
17899 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17900 ; GFX9-NEXT:    ;;#ASMSTART
17901 ; GFX9-NEXT:    ; def s[8:15]
17902 ; GFX9-NEXT:    ;;#ASMEND
17903 ; GFX9-NEXT:    s_mov_b32 s8, s12
17904 ; GFX9-NEXT:    s_mov_b32 s9, s13
17905 ; GFX9-NEXT:    s_mov_b32 s10, s12
17906 ; GFX9-NEXT:    s_mov_b32 s11, s13
17907 ; GFX9-NEXT:    s_mov_b32 s14, s12
17908 ; GFX9-NEXT:    s_mov_b32 s15, s13
17909 ; GFX9-NEXT:    ;;#ASMSTART
17910 ; GFX9-NEXT:    ; use s[8:15]
17911 ; GFX9-NEXT:    ;;#ASMEND
17912 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
17913   %vec0 = call <4 x i64> asm "; def $0", "=s"()
17914   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 2, i32 2, i32 2, i32 2>
17915   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
17916   ret void
17917 }
17918
17919 define void @s_shuffle_v4i64_v4i64__3_2_2_2() {
17920 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__3_2_2_2:
17921 ; GFX9:       ; %bb.0:
17922 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17923 ; GFX9-NEXT:    ;;#ASMSTART
17924 ; GFX9-NEXT:    ; def s[8:15]
17925 ; GFX9-NEXT:    ;;#ASMEND
17926 ; GFX9-NEXT:    s_mov_b32 s8, s14
17927 ; GFX9-NEXT:    s_mov_b32 s9, s15
17928 ; GFX9-NEXT:    s_mov_b32 s10, s12
17929 ; GFX9-NEXT:    s_mov_b32 s11, s13
17930 ; GFX9-NEXT:    s_mov_b32 s14, s12
17931 ; GFX9-NEXT:    s_mov_b32 s15, s13
17932 ; GFX9-NEXT:    ;;#ASMSTART
17933 ; GFX9-NEXT:    ; use s[8:15]
17934 ; GFX9-NEXT:    ;;#ASMEND
17935 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
17936   %vec0 = call <4 x i64> asm "; def $0", "=s"()
17937   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 3, i32 2, i32 2, i32 2>
17938   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
17939   ret void
17940 }
17941
17942 define void @s_shuffle_v4i64_v4i64__4_2_2_2() {
17943 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__4_2_2_2:
17944 ; GFX9:       ; %bb.0:
17945 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17946 ; GFX9-NEXT:    ;;#ASMSTART
17947 ; GFX9-NEXT:    ; def s[8:15]
17948 ; GFX9-NEXT:    ;;#ASMEND
17949 ; GFX9-NEXT:    s_mov_b32 s10, s12
17950 ; GFX9-NEXT:    s_mov_b32 s11, s13
17951 ; GFX9-NEXT:    s_mov_b32 s14, s12
17952 ; GFX9-NEXT:    s_mov_b32 s15, s13
17953 ; GFX9-NEXT:    ;;#ASMSTART
17954 ; GFX9-NEXT:    ; use s[8:15]
17955 ; GFX9-NEXT:    ;;#ASMEND
17956 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
17957   %vec0 = call <4 x i64> asm "; def $0", "=s"()
17958   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 4, i32 2, i32 2, i32 2>
17959   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
17960   ret void
17961 }
17962
17963 define void @s_shuffle_v4i64_v4i64__5_2_2_2() {
17964 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__5_2_2_2:
17965 ; GFX900:       ; %bb.0:
17966 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17967 ; GFX900-NEXT:    ;;#ASMSTART
17968 ; GFX900-NEXT:    ; def s[8:15]
17969 ; GFX900-NEXT:    ;;#ASMEND
17970 ; GFX900-NEXT:    ;;#ASMSTART
17971 ; GFX900-NEXT:    ; def s[4:11]
17972 ; GFX900-NEXT:    ;;#ASMEND
17973 ; GFX900-NEXT:    s_mov_b32 s8, s6
17974 ; GFX900-NEXT:    s_mov_b32 s9, s7
17975 ; GFX900-NEXT:    s_mov_b32 s10, s12
17976 ; GFX900-NEXT:    s_mov_b32 s11, s13
17977 ; GFX900-NEXT:    s_mov_b32 s14, s12
17978 ; GFX900-NEXT:    s_mov_b32 s15, s13
17979 ; GFX900-NEXT:    ;;#ASMSTART
17980 ; GFX900-NEXT:    ; use s[8:15]
17981 ; GFX900-NEXT:    ;;#ASMEND
17982 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
17983 ;
17984 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__5_2_2_2:
17985 ; GFX90A:       ; %bb.0:
17986 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
17987 ; GFX90A-NEXT:    ;;#ASMSTART
17988 ; GFX90A-NEXT:    ; def s[8:15]
17989 ; GFX90A-NEXT:    ;;#ASMEND
17990 ; GFX90A-NEXT:    ;;#ASMSTART
17991 ; GFX90A-NEXT:    ; def s[4:11]
17992 ; GFX90A-NEXT:    ;;#ASMEND
17993 ; GFX90A-NEXT:    s_mov_b32 s8, s6
17994 ; GFX90A-NEXT:    s_mov_b32 s9, s7
17995 ; GFX90A-NEXT:    s_mov_b32 s10, s12
17996 ; GFX90A-NEXT:    s_mov_b32 s11, s13
17997 ; GFX90A-NEXT:    s_mov_b32 s14, s12
17998 ; GFX90A-NEXT:    s_mov_b32 s15, s13
17999 ; GFX90A-NEXT:    ;;#ASMSTART
18000 ; GFX90A-NEXT:    ; use s[8:15]
18001 ; GFX90A-NEXT:    ;;#ASMEND
18002 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
18003 ;
18004 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__5_2_2_2:
18005 ; GFX940:       ; %bb.0:
18006 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18007 ; GFX940-NEXT:    ;;#ASMSTART
18008 ; GFX940-NEXT:    ; def s[8:15]
18009 ; GFX940-NEXT:    ;;#ASMEND
18010 ; GFX940-NEXT:    ;;#ASMSTART
18011 ; GFX940-NEXT:    ; def s[0:7]
18012 ; GFX940-NEXT:    ;;#ASMEND
18013 ; GFX940-NEXT:    s_mov_b32 s8, s2
18014 ; GFX940-NEXT:    s_mov_b32 s9, s3
18015 ; GFX940-NEXT:    s_mov_b32 s10, s12
18016 ; GFX940-NEXT:    s_mov_b32 s11, s13
18017 ; GFX940-NEXT:    s_mov_b32 s14, s12
18018 ; GFX940-NEXT:    s_mov_b32 s15, s13
18019 ; GFX940-NEXT:    ;;#ASMSTART
18020 ; GFX940-NEXT:    ; use s[8:15]
18021 ; GFX940-NEXT:    ;;#ASMEND
18022 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
18023   %vec0 = call <4 x i64> asm "; def $0", "=s"()
18024   %vec1 = call <4 x i64> asm "; def $0", "=s"()
18025   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 5, i32 2, i32 2, i32 2>
18026   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
18027   ret void
18028 }
18029
18030 define void @s_shuffle_v4i64_v4i64__6_2_2_2() {
18031 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__6_2_2_2:
18032 ; GFX900:       ; %bb.0:
18033 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18034 ; GFX900-NEXT:    ;;#ASMSTART
18035 ; GFX900-NEXT:    ; def s[8:15]
18036 ; GFX900-NEXT:    ;;#ASMEND
18037 ; GFX900-NEXT:    ;;#ASMSTART
18038 ; GFX900-NEXT:    ; def s[4:11]
18039 ; GFX900-NEXT:    ;;#ASMEND
18040 ; GFX900-NEXT:    s_mov_b32 s10, s12
18041 ; GFX900-NEXT:    s_mov_b32 s11, s13
18042 ; GFX900-NEXT:    s_mov_b32 s14, s12
18043 ; GFX900-NEXT:    s_mov_b32 s15, s13
18044 ; GFX900-NEXT:    ;;#ASMSTART
18045 ; GFX900-NEXT:    ; use s[8:15]
18046 ; GFX900-NEXT:    ;;#ASMEND
18047 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
18048 ;
18049 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__6_2_2_2:
18050 ; GFX90A:       ; %bb.0:
18051 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18052 ; GFX90A-NEXT:    ;;#ASMSTART
18053 ; GFX90A-NEXT:    ; def s[8:15]
18054 ; GFX90A-NEXT:    ;;#ASMEND
18055 ; GFX90A-NEXT:    ;;#ASMSTART
18056 ; GFX90A-NEXT:    ; def s[4:11]
18057 ; GFX90A-NEXT:    ;;#ASMEND
18058 ; GFX90A-NEXT:    s_mov_b32 s10, s12
18059 ; GFX90A-NEXT:    s_mov_b32 s11, s13
18060 ; GFX90A-NEXT:    s_mov_b32 s14, s12
18061 ; GFX90A-NEXT:    s_mov_b32 s15, s13
18062 ; GFX90A-NEXT:    ;;#ASMSTART
18063 ; GFX90A-NEXT:    ; use s[8:15]
18064 ; GFX90A-NEXT:    ;;#ASMEND
18065 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
18066 ;
18067 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__6_2_2_2:
18068 ; GFX940:       ; %bb.0:
18069 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18070 ; GFX940-NEXT:    ;;#ASMSTART
18071 ; GFX940-NEXT:    ; def s[8:15]
18072 ; GFX940-NEXT:    ;;#ASMEND
18073 ; GFX940-NEXT:    ;;#ASMSTART
18074 ; GFX940-NEXT:    ; def s[0:7]
18075 ; GFX940-NEXT:    ;;#ASMEND
18076 ; GFX940-NEXT:    s_mov_b32 s8, s4
18077 ; GFX940-NEXT:    s_mov_b32 s9, s5
18078 ; GFX940-NEXT:    s_mov_b32 s10, s12
18079 ; GFX940-NEXT:    s_mov_b32 s11, s13
18080 ; GFX940-NEXT:    s_mov_b32 s14, s12
18081 ; GFX940-NEXT:    s_mov_b32 s15, s13
18082 ; GFX940-NEXT:    ;;#ASMSTART
18083 ; GFX940-NEXT:    ; use s[8:15]
18084 ; GFX940-NEXT:    ;;#ASMEND
18085 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
18086   %vec0 = call <4 x i64> asm "; def $0", "=s"()
18087   %vec1 = call <4 x i64> asm "; def $0", "=s"()
18088   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 6, i32 2, i32 2, i32 2>
18089   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
18090   ret void
18091 }
18092
18093 define void @s_shuffle_v4i64_v4i64__7_2_2_2() {
18094 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_2_2_2:
18095 ; GFX900:       ; %bb.0:
18096 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18097 ; GFX900-NEXT:    ;;#ASMSTART
18098 ; GFX900-NEXT:    ; def s[8:15]
18099 ; GFX900-NEXT:    ;;#ASMEND
18100 ; GFX900-NEXT:    ;;#ASMSTART
18101 ; GFX900-NEXT:    ; def s[4:11]
18102 ; GFX900-NEXT:    ;;#ASMEND
18103 ; GFX900-NEXT:    s_mov_b32 s8, s10
18104 ; GFX900-NEXT:    s_mov_b32 s9, s11
18105 ; GFX900-NEXT:    s_mov_b32 s10, s12
18106 ; GFX900-NEXT:    s_mov_b32 s11, s13
18107 ; GFX900-NEXT:    s_mov_b32 s14, s12
18108 ; GFX900-NEXT:    s_mov_b32 s15, s13
18109 ; GFX900-NEXT:    ;;#ASMSTART
18110 ; GFX900-NEXT:    ; use s[8:15]
18111 ; GFX900-NEXT:    ;;#ASMEND
18112 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
18113 ;
18114 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_2_2_2:
18115 ; GFX90A:       ; %bb.0:
18116 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18117 ; GFX90A-NEXT:    ;;#ASMSTART
18118 ; GFX90A-NEXT:    ; def s[8:15]
18119 ; GFX90A-NEXT:    ;;#ASMEND
18120 ; GFX90A-NEXT:    ;;#ASMSTART
18121 ; GFX90A-NEXT:    ; def s[4:11]
18122 ; GFX90A-NEXT:    ;;#ASMEND
18123 ; GFX90A-NEXT:    s_mov_b32 s8, s10
18124 ; GFX90A-NEXT:    s_mov_b32 s9, s11
18125 ; GFX90A-NEXT:    s_mov_b32 s10, s12
18126 ; GFX90A-NEXT:    s_mov_b32 s11, s13
18127 ; GFX90A-NEXT:    s_mov_b32 s14, s12
18128 ; GFX90A-NEXT:    s_mov_b32 s15, s13
18129 ; GFX90A-NEXT:    ;;#ASMSTART
18130 ; GFX90A-NEXT:    ; use s[8:15]
18131 ; GFX90A-NEXT:    ;;#ASMEND
18132 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
18133 ;
18134 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_2_2_2:
18135 ; GFX940:       ; %bb.0:
18136 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18137 ; GFX940-NEXT:    ;;#ASMSTART
18138 ; GFX940-NEXT:    ; def s[8:15]
18139 ; GFX940-NEXT:    ;;#ASMEND
18140 ; GFX940-NEXT:    ;;#ASMSTART
18141 ; GFX940-NEXT:    ; def s[0:7]
18142 ; GFX940-NEXT:    ;;#ASMEND
18143 ; GFX940-NEXT:    s_mov_b32 s8, s6
18144 ; GFX940-NEXT:    s_mov_b32 s9, s7
18145 ; GFX940-NEXT:    s_mov_b32 s10, s12
18146 ; GFX940-NEXT:    s_mov_b32 s11, s13
18147 ; GFX940-NEXT:    s_mov_b32 s14, s12
18148 ; GFX940-NEXT:    s_mov_b32 s15, s13
18149 ; GFX940-NEXT:    ;;#ASMSTART
18150 ; GFX940-NEXT:    ; use s[8:15]
18151 ; GFX940-NEXT:    ;;#ASMEND
18152 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
18153   %vec0 = call <4 x i64> asm "; def $0", "=s"()
18154   %vec1 = call <4 x i64> asm "; def $0", "=s"()
18155   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 2, i32 2, i32 2>
18156   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
18157   ret void
18158 }
18159
18160 define void @s_shuffle_v4i64_v4i64__7_u_2_2() {
18161 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_u_2_2:
18162 ; GFX900:       ; %bb.0:
18163 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18164 ; GFX900-NEXT:    ;;#ASMSTART
18165 ; GFX900-NEXT:    ; def s[8:15]
18166 ; GFX900-NEXT:    ;;#ASMEND
18167 ; GFX900-NEXT:    ;;#ASMSTART
18168 ; GFX900-NEXT:    ; def s[4:11]
18169 ; GFX900-NEXT:    ;;#ASMEND
18170 ; GFX900-NEXT:    s_mov_b32 s8, s10
18171 ; GFX900-NEXT:    s_mov_b32 s9, s11
18172 ; GFX900-NEXT:    s_mov_b32 s14, s12
18173 ; GFX900-NEXT:    s_mov_b32 s15, s13
18174 ; GFX900-NEXT:    ;;#ASMSTART
18175 ; GFX900-NEXT:    ; use s[8:15]
18176 ; GFX900-NEXT:    ;;#ASMEND
18177 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
18178 ;
18179 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_u_2_2:
18180 ; GFX90A:       ; %bb.0:
18181 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18182 ; GFX90A-NEXT:    ;;#ASMSTART
18183 ; GFX90A-NEXT:    ; def s[8:15]
18184 ; GFX90A-NEXT:    ;;#ASMEND
18185 ; GFX90A-NEXT:    ;;#ASMSTART
18186 ; GFX90A-NEXT:    ; def s[4:11]
18187 ; GFX90A-NEXT:    ;;#ASMEND
18188 ; GFX90A-NEXT:    s_mov_b32 s8, s10
18189 ; GFX90A-NEXT:    s_mov_b32 s9, s11
18190 ; GFX90A-NEXT:    s_mov_b32 s14, s12
18191 ; GFX90A-NEXT:    s_mov_b32 s15, s13
18192 ; GFX90A-NEXT:    ;;#ASMSTART
18193 ; GFX90A-NEXT:    ; use s[8:15]
18194 ; GFX90A-NEXT:    ;;#ASMEND
18195 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
18196 ;
18197 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_u_2_2:
18198 ; GFX940:       ; %bb.0:
18199 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18200 ; GFX940-NEXT:    ;;#ASMSTART
18201 ; GFX940-NEXT:    ; def s[8:15]
18202 ; GFX940-NEXT:    ;;#ASMEND
18203 ; GFX940-NEXT:    ;;#ASMSTART
18204 ; GFX940-NEXT:    ; def s[0:7]
18205 ; GFX940-NEXT:    ;;#ASMEND
18206 ; GFX940-NEXT:    s_mov_b32 s8, s6
18207 ; GFX940-NEXT:    s_mov_b32 s9, s7
18208 ; GFX940-NEXT:    s_mov_b32 s14, s12
18209 ; GFX940-NEXT:    s_mov_b32 s15, s13
18210 ; GFX940-NEXT:    ;;#ASMSTART
18211 ; GFX940-NEXT:    ; use s[8:15]
18212 ; GFX940-NEXT:    ;;#ASMEND
18213 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
18214   %vec0 = call <4 x i64> asm "; def $0", "=s"()
18215   %vec1 = call <4 x i64> asm "; def $0", "=s"()
18216   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 poison, i32 2, i32 2>
18217   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
18218   ret void
18219 }
18220
18221 define void @s_shuffle_v4i64_v4i64__7_0_2_2() {
18222 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_0_2_2:
18223 ; GFX900:       ; %bb.0:
18224 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18225 ; GFX900-NEXT:    ;;#ASMSTART
18226 ; GFX900-NEXT:    ; def s[12:19]
18227 ; GFX900-NEXT:    ;;#ASMEND
18228 ; GFX900-NEXT:    ;;#ASMSTART
18229 ; GFX900-NEXT:    ; def s[4:11]
18230 ; GFX900-NEXT:    ;;#ASMEND
18231 ; GFX900-NEXT:    s_mov_b32 s8, s10
18232 ; GFX900-NEXT:    s_mov_b32 s9, s11
18233 ; GFX900-NEXT:    s_mov_b32 s10, s12
18234 ; GFX900-NEXT:    s_mov_b32 s11, s13
18235 ; GFX900-NEXT:    s_mov_b32 s12, s16
18236 ; GFX900-NEXT:    s_mov_b32 s13, s17
18237 ; GFX900-NEXT:    s_mov_b32 s14, s16
18238 ; GFX900-NEXT:    s_mov_b32 s15, s17
18239 ; GFX900-NEXT:    ;;#ASMSTART
18240 ; GFX900-NEXT:    ; use s[8:15]
18241 ; GFX900-NEXT:    ;;#ASMEND
18242 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
18243 ;
18244 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_0_2_2:
18245 ; GFX90A:       ; %bb.0:
18246 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18247 ; GFX90A-NEXT:    ;;#ASMSTART
18248 ; GFX90A-NEXT:    ; def s[12:19]
18249 ; GFX90A-NEXT:    ;;#ASMEND
18250 ; GFX90A-NEXT:    ;;#ASMSTART
18251 ; GFX90A-NEXT:    ; def s[4:11]
18252 ; GFX90A-NEXT:    ;;#ASMEND
18253 ; GFX90A-NEXT:    s_mov_b32 s8, s10
18254 ; GFX90A-NEXT:    s_mov_b32 s9, s11
18255 ; GFX90A-NEXT:    s_mov_b32 s10, s12
18256 ; GFX90A-NEXT:    s_mov_b32 s11, s13
18257 ; GFX90A-NEXT:    s_mov_b32 s12, s16
18258 ; GFX90A-NEXT:    s_mov_b32 s13, s17
18259 ; GFX90A-NEXT:    s_mov_b32 s14, s16
18260 ; GFX90A-NEXT:    s_mov_b32 s15, s17
18261 ; GFX90A-NEXT:    ;;#ASMSTART
18262 ; GFX90A-NEXT:    ; use s[8:15]
18263 ; GFX90A-NEXT:    ;;#ASMEND
18264 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
18265 ;
18266 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_0_2_2:
18267 ; GFX940:       ; %bb.0:
18268 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18269 ; GFX940-NEXT:    ;;#ASMSTART
18270 ; GFX940-NEXT:    ; def s[8:15]
18271 ; GFX940-NEXT:    ;;#ASMEND
18272 ; GFX940-NEXT:    ;;#ASMSTART
18273 ; GFX940-NEXT:    ; def s[0:7]
18274 ; GFX940-NEXT:    ;;#ASMEND
18275 ; GFX940-NEXT:    s_mov_b32 s8, s14
18276 ; GFX940-NEXT:    s_mov_b32 s9, s15
18277 ; GFX940-NEXT:    s_mov_b32 s10, s0
18278 ; GFX940-NEXT:    s_mov_b32 s11, s1
18279 ; GFX940-NEXT:    s_mov_b32 s12, s4
18280 ; GFX940-NEXT:    s_mov_b32 s13, s5
18281 ; GFX940-NEXT:    s_mov_b32 s14, s4
18282 ; GFX940-NEXT:    s_mov_b32 s15, s5
18283 ; GFX940-NEXT:    ;;#ASMSTART
18284 ; GFX940-NEXT:    ; use s[8:15]
18285 ; GFX940-NEXT:    ;;#ASMEND
18286 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
18287   %vec0 = call <4 x i64> asm "; def $0", "=s"()
18288   %vec1 = call <4 x i64> asm "; def $0", "=s"()
18289   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 0, i32 2, i32 2>
18290   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
18291   ret void
18292 }
18293
18294 define void @s_shuffle_v4i64_v4i64__7_1_2_2() {
18295 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_1_2_2:
18296 ; GFX900:       ; %bb.0:
18297 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18298 ; GFX900-NEXT:    ;;#ASMSTART
18299 ; GFX900-NEXT:    ; def s[8:15]
18300 ; GFX900-NEXT:    ;;#ASMEND
18301 ; GFX900-NEXT:    ;;#ASMSTART
18302 ; GFX900-NEXT:    ; def s[16:23]
18303 ; GFX900-NEXT:    ;;#ASMEND
18304 ; GFX900-NEXT:    s_mov_b32 s8, s22
18305 ; GFX900-NEXT:    s_mov_b32 s9, s23
18306 ; GFX900-NEXT:    s_mov_b32 s14, s12
18307 ; GFX900-NEXT:    s_mov_b32 s15, s13
18308 ; GFX900-NEXT:    ;;#ASMSTART
18309 ; GFX900-NEXT:    ; use s[8:15]
18310 ; GFX900-NEXT:    ;;#ASMEND
18311 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
18312 ;
18313 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_1_2_2:
18314 ; GFX90A:       ; %bb.0:
18315 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18316 ; GFX90A-NEXT:    ;;#ASMSTART
18317 ; GFX90A-NEXT:    ; def s[8:15]
18318 ; GFX90A-NEXT:    ;;#ASMEND
18319 ; GFX90A-NEXT:    ;;#ASMSTART
18320 ; GFX90A-NEXT:    ; def s[16:23]
18321 ; GFX90A-NEXT:    ;;#ASMEND
18322 ; GFX90A-NEXT:    s_mov_b32 s8, s22
18323 ; GFX90A-NEXT:    s_mov_b32 s9, s23
18324 ; GFX90A-NEXT:    s_mov_b32 s14, s12
18325 ; GFX90A-NEXT:    s_mov_b32 s15, s13
18326 ; GFX90A-NEXT:    ;;#ASMSTART
18327 ; GFX90A-NEXT:    ; use s[8:15]
18328 ; GFX90A-NEXT:    ;;#ASMEND
18329 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
18330 ;
18331 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_1_2_2:
18332 ; GFX940:       ; %bb.0:
18333 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18334 ; GFX940-NEXT:    ;;#ASMSTART
18335 ; GFX940-NEXT:    ; def s[8:15]
18336 ; GFX940-NEXT:    ;;#ASMEND
18337 ; GFX940-NEXT:    ;;#ASMSTART
18338 ; GFX940-NEXT:    ; def s[0:7]
18339 ; GFX940-NEXT:    ;;#ASMEND
18340 ; GFX940-NEXT:    s_mov_b32 s8, s6
18341 ; GFX940-NEXT:    s_mov_b32 s9, s7
18342 ; GFX940-NEXT:    s_mov_b32 s14, s12
18343 ; GFX940-NEXT:    s_mov_b32 s15, s13
18344 ; GFX940-NEXT:    ;;#ASMSTART
18345 ; GFX940-NEXT:    ; use s[8:15]
18346 ; GFX940-NEXT:    ;;#ASMEND
18347 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
18348   %vec0 = call <4 x i64> asm "; def $0", "=s"()
18349   %vec1 = call <4 x i64> asm "; def $0", "=s"()
18350   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 1, i32 2, i32 2>
18351   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
18352   ret void
18353 }
18354
18355 define void @s_shuffle_v4i64_v4i64__7_3_2_2() {
18356 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_3_2_2:
18357 ; GFX900:       ; %bb.0:
18358 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18359 ; GFX900-NEXT:    ;;#ASMSTART
18360 ; GFX900-NEXT:    ; def s[8:15]
18361 ; GFX900-NEXT:    ;;#ASMEND
18362 ; GFX900-NEXT:    ;;#ASMSTART
18363 ; GFX900-NEXT:    ; def s[4:11]
18364 ; GFX900-NEXT:    ;;#ASMEND
18365 ; GFX900-NEXT:    s_mov_b32 s8, s10
18366 ; GFX900-NEXT:    s_mov_b32 s9, s11
18367 ; GFX900-NEXT:    s_mov_b32 s10, s14
18368 ; GFX900-NEXT:    s_mov_b32 s11, s15
18369 ; GFX900-NEXT:    s_mov_b32 s14, s12
18370 ; GFX900-NEXT:    s_mov_b32 s15, s13
18371 ; GFX900-NEXT:    ;;#ASMSTART
18372 ; GFX900-NEXT:    ; use s[8:15]
18373 ; GFX900-NEXT:    ;;#ASMEND
18374 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
18375 ;
18376 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_3_2_2:
18377 ; GFX90A:       ; %bb.0:
18378 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18379 ; GFX90A-NEXT:    ;;#ASMSTART
18380 ; GFX90A-NEXT:    ; def s[8:15]
18381 ; GFX90A-NEXT:    ;;#ASMEND
18382 ; GFX90A-NEXT:    ;;#ASMSTART
18383 ; GFX90A-NEXT:    ; def s[4:11]
18384 ; GFX90A-NEXT:    ;;#ASMEND
18385 ; GFX90A-NEXT:    s_mov_b32 s8, s10
18386 ; GFX90A-NEXT:    s_mov_b32 s9, s11
18387 ; GFX90A-NEXT:    s_mov_b32 s10, s14
18388 ; GFX90A-NEXT:    s_mov_b32 s11, s15
18389 ; GFX90A-NEXT:    s_mov_b32 s14, s12
18390 ; GFX90A-NEXT:    s_mov_b32 s15, s13
18391 ; GFX90A-NEXT:    ;;#ASMSTART
18392 ; GFX90A-NEXT:    ; use s[8:15]
18393 ; GFX90A-NEXT:    ;;#ASMEND
18394 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
18395 ;
18396 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_3_2_2:
18397 ; GFX940:       ; %bb.0:
18398 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18399 ; GFX940-NEXT:    ;;#ASMSTART
18400 ; GFX940-NEXT:    ; def s[8:15]
18401 ; GFX940-NEXT:    ;;#ASMEND
18402 ; GFX940-NEXT:    ;;#ASMSTART
18403 ; GFX940-NEXT:    ; def s[0:7]
18404 ; GFX940-NEXT:    ;;#ASMEND
18405 ; GFX940-NEXT:    s_mov_b32 s8, s6
18406 ; GFX940-NEXT:    s_mov_b32 s9, s7
18407 ; GFX940-NEXT:    s_mov_b32 s10, s14
18408 ; GFX940-NEXT:    s_mov_b32 s11, s15
18409 ; GFX940-NEXT:    s_mov_b32 s14, s12
18410 ; GFX940-NEXT:    s_mov_b32 s15, s13
18411 ; GFX940-NEXT:    ;;#ASMSTART
18412 ; GFX940-NEXT:    ; use s[8:15]
18413 ; GFX940-NEXT:    ;;#ASMEND
18414 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
18415   %vec0 = call <4 x i64> asm "; def $0", "=s"()
18416   %vec1 = call <4 x i64> asm "; def $0", "=s"()
18417   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 3, i32 2, i32 2>
18418   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
18419   ret void
18420 }
18421
18422 define void @s_shuffle_v4i64_v4i64__7_4_2_2() {
18423 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_4_2_2:
18424 ; GFX900:       ; %bb.0:
18425 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18426 ; GFX900-NEXT:    ;;#ASMSTART
18427 ; GFX900-NEXT:    ; def s[8:15]
18428 ; GFX900-NEXT:    ;;#ASMEND
18429 ; GFX900-NEXT:    ;;#ASMSTART
18430 ; GFX900-NEXT:    ; def s[4:11]
18431 ; GFX900-NEXT:    ;;#ASMEND
18432 ; GFX900-NEXT:    s_mov_b32 s8, s10
18433 ; GFX900-NEXT:    s_mov_b32 s9, s11
18434 ; GFX900-NEXT:    s_mov_b32 s10, s4
18435 ; GFX900-NEXT:    s_mov_b32 s11, s5
18436 ; GFX900-NEXT:    s_mov_b32 s14, s12
18437 ; GFX900-NEXT:    s_mov_b32 s15, s13
18438 ; GFX900-NEXT:    ;;#ASMSTART
18439 ; GFX900-NEXT:    ; use s[8:15]
18440 ; GFX900-NEXT:    ;;#ASMEND
18441 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
18442 ;
18443 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_4_2_2:
18444 ; GFX90A:       ; %bb.0:
18445 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18446 ; GFX90A-NEXT:    ;;#ASMSTART
18447 ; GFX90A-NEXT:    ; def s[8:15]
18448 ; GFX90A-NEXT:    ;;#ASMEND
18449 ; GFX90A-NEXT:    ;;#ASMSTART
18450 ; GFX90A-NEXT:    ; def s[4:11]
18451 ; GFX90A-NEXT:    ;;#ASMEND
18452 ; GFX90A-NEXT:    s_mov_b32 s8, s10
18453 ; GFX90A-NEXT:    s_mov_b32 s9, s11
18454 ; GFX90A-NEXT:    s_mov_b32 s10, s4
18455 ; GFX90A-NEXT:    s_mov_b32 s11, s5
18456 ; GFX90A-NEXT:    s_mov_b32 s14, s12
18457 ; GFX90A-NEXT:    s_mov_b32 s15, s13
18458 ; GFX90A-NEXT:    ;;#ASMSTART
18459 ; GFX90A-NEXT:    ; use s[8:15]
18460 ; GFX90A-NEXT:    ;;#ASMEND
18461 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
18462 ;
18463 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_4_2_2:
18464 ; GFX940:       ; %bb.0:
18465 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18466 ; GFX940-NEXT:    ;;#ASMSTART
18467 ; GFX940-NEXT:    ; def s[8:15]
18468 ; GFX940-NEXT:    ;;#ASMEND
18469 ; GFX940-NEXT:    ;;#ASMSTART
18470 ; GFX940-NEXT:    ; def s[0:7]
18471 ; GFX940-NEXT:    ;;#ASMEND
18472 ; GFX940-NEXT:    s_mov_b32 s8, s6
18473 ; GFX940-NEXT:    s_mov_b32 s9, s7
18474 ; GFX940-NEXT:    s_mov_b32 s10, s0
18475 ; GFX940-NEXT:    s_mov_b32 s11, s1
18476 ; GFX940-NEXT:    s_mov_b32 s14, s12
18477 ; GFX940-NEXT:    s_mov_b32 s15, s13
18478 ; GFX940-NEXT:    ;;#ASMSTART
18479 ; GFX940-NEXT:    ; use s[8:15]
18480 ; GFX940-NEXT:    ;;#ASMEND
18481 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
18482   %vec0 = call <4 x i64> asm "; def $0", "=s"()
18483   %vec1 = call <4 x i64> asm "; def $0", "=s"()
18484   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 4, i32 2, i32 2>
18485   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
18486   ret void
18487 }
18488
18489 define void @s_shuffle_v4i64_v4i64__7_5_2_2() {
18490 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_5_2_2:
18491 ; GFX900:       ; %bb.0:
18492 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18493 ; GFX900-NEXT:    ;;#ASMSTART
18494 ; GFX900-NEXT:    ; def s[12:19]
18495 ; GFX900-NEXT:    ;;#ASMEND
18496 ; GFX900-NEXT:    ;;#ASMSTART
18497 ; GFX900-NEXT:    ; def s[8:15]
18498 ; GFX900-NEXT:    ;;#ASMEND
18499 ; GFX900-NEXT:    s_mov_b32 s8, s14
18500 ; GFX900-NEXT:    s_mov_b32 s9, s15
18501 ; GFX900-NEXT:    s_mov_b32 s12, s16
18502 ; GFX900-NEXT:    s_mov_b32 s13, s17
18503 ; GFX900-NEXT:    s_mov_b32 s14, s16
18504 ; GFX900-NEXT:    s_mov_b32 s15, s17
18505 ; GFX900-NEXT:    ;;#ASMSTART
18506 ; GFX900-NEXT:    ; use s[8:15]
18507 ; GFX900-NEXT:    ;;#ASMEND
18508 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
18509 ;
18510 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_5_2_2:
18511 ; GFX90A:       ; %bb.0:
18512 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18513 ; GFX90A-NEXT:    ;;#ASMSTART
18514 ; GFX90A-NEXT:    ; def s[12:19]
18515 ; GFX90A-NEXT:    ;;#ASMEND
18516 ; GFX90A-NEXT:    ;;#ASMSTART
18517 ; GFX90A-NEXT:    ; def s[8:15]
18518 ; GFX90A-NEXT:    ;;#ASMEND
18519 ; GFX90A-NEXT:    s_mov_b32 s8, s14
18520 ; GFX90A-NEXT:    s_mov_b32 s9, s15
18521 ; GFX90A-NEXT:    s_mov_b32 s12, s16
18522 ; GFX90A-NEXT:    s_mov_b32 s13, s17
18523 ; GFX90A-NEXT:    s_mov_b32 s14, s16
18524 ; GFX90A-NEXT:    s_mov_b32 s15, s17
18525 ; GFX90A-NEXT:    ;;#ASMSTART
18526 ; GFX90A-NEXT:    ; use s[8:15]
18527 ; GFX90A-NEXT:    ;;#ASMEND
18528 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
18529 ;
18530 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_5_2_2:
18531 ; GFX940:       ; %bb.0:
18532 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18533 ; GFX940-NEXT:    ;;#ASMSTART
18534 ; GFX940-NEXT:    ; def s[8:15]
18535 ; GFX940-NEXT:    ;;#ASMEND
18536 ; GFX940-NEXT:    ;;#ASMSTART
18537 ; GFX940-NEXT:    ; def s[0:7]
18538 ; GFX940-NEXT:    ;;#ASMEND
18539 ; GFX940-NEXT:    s_mov_b32 s8, s14
18540 ; GFX940-NEXT:    s_mov_b32 s9, s15
18541 ; GFX940-NEXT:    s_mov_b32 s12, s4
18542 ; GFX940-NEXT:    s_mov_b32 s13, s5
18543 ; GFX940-NEXT:    s_mov_b32 s14, s4
18544 ; GFX940-NEXT:    s_mov_b32 s15, s5
18545 ; GFX940-NEXT:    ;;#ASMSTART
18546 ; GFX940-NEXT:    ; use s[8:15]
18547 ; GFX940-NEXT:    ;;#ASMEND
18548 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
18549   %vec0 = call <4 x i64> asm "; def $0", "=s"()
18550   %vec1 = call <4 x i64> asm "; def $0", "=s"()
18551   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 5, i32 2, i32 2>
18552   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
18553   ret void
18554 }
18555
18556 define void @s_shuffle_v4i64_v4i64__7_6_2_2() {
18557 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_6_2_2:
18558 ; GFX900:       ; %bb.0:
18559 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18560 ; GFX900-NEXT:    ;;#ASMSTART
18561 ; GFX900-NEXT:    ; def s[8:15]
18562 ; GFX900-NEXT:    ;;#ASMEND
18563 ; GFX900-NEXT:    ;;#ASMSTART
18564 ; GFX900-NEXT:    ; def s[16:23]
18565 ; GFX900-NEXT:    ;;#ASMEND
18566 ; GFX900-NEXT:    s_mov_b32 s8, s22
18567 ; GFX900-NEXT:    s_mov_b32 s9, s23
18568 ; GFX900-NEXT:    s_mov_b32 s10, s20
18569 ; GFX900-NEXT:    s_mov_b32 s11, s21
18570 ; GFX900-NEXT:    s_mov_b32 s14, s12
18571 ; GFX900-NEXT:    s_mov_b32 s15, s13
18572 ; GFX900-NEXT:    ;;#ASMSTART
18573 ; GFX900-NEXT:    ; use s[8:15]
18574 ; GFX900-NEXT:    ;;#ASMEND
18575 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
18576 ;
18577 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_6_2_2:
18578 ; GFX90A:       ; %bb.0:
18579 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18580 ; GFX90A-NEXT:    ;;#ASMSTART
18581 ; GFX90A-NEXT:    ; def s[8:15]
18582 ; GFX90A-NEXT:    ;;#ASMEND
18583 ; GFX90A-NEXT:    ;;#ASMSTART
18584 ; GFX90A-NEXT:    ; def s[16:23]
18585 ; GFX90A-NEXT:    ;;#ASMEND
18586 ; GFX90A-NEXT:    s_mov_b32 s8, s22
18587 ; GFX90A-NEXT:    s_mov_b32 s9, s23
18588 ; GFX90A-NEXT:    s_mov_b32 s10, s20
18589 ; GFX90A-NEXT:    s_mov_b32 s11, s21
18590 ; GFX90A-NEXT:    s_mov_b32 s14, s12
18591 ; GFX90A-NEXT:    s_mov_b32 s15, s13
18592 ; GFX90A-NEXT:    ;;#ASMSTART
18593 ; GFX90A-NEXT:    ; use s[8:15]
18594 ; GFX90A-NEXT:    ;;#ASMEND
18595 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
18596 ;
18597 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_6_2_2:
18598 ; GFX940:       ; %bb.0:
18599 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18600 ; GFX940-NEXT:    ;;#ASMSTART
18601 ; GFX940-NEXT:    ; def s[8:15]
18602 ; GFX940-NEXT:    ;;#ASMEND
18603 ; GFX940-NEXT:    ;;#ASMSTART
18604 ; GFX940-NEXT:    ; def s[0:7]
18605 ; GFX940-NEXT:    ;;#ASMEND
18606 ; GFX940-NEXT:    s_mov_b32 s8, s6
18607 ; GFX940-NEXT:    s_mov_b32 s9, s7
18608 ; GFX940-NEXT:    s_mov_b32 s10, s4
18609 ; GFX940-NEXT:    s_mov_b32 s11, s5
18610 ; GFX940-NEXT:    s_mov_b32 s14, s12
18611 ; GFX940-NEXT:    s_mov_b32 s15, s13
18612 ; GFX940-NEXT:    ;;#ASMSTART
18613 ; GFX940-NEXT:    ; use s[8:15]
18614 ; GFX940-NEXT:    ;;#ASMEND
18615 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
18616   %vec0 = call <4 x i64> asm "; def $0", "=s"()
18617   %vec1 = call <4 x i64> asm "; def $0", "=s"()
18618   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 6, i32 2, i32 2>
18619   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
18620   ret void
18621 }
18622
18623 define void @s_shuffle_v4i64_v4i64__7_7_2_2() {
18624 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_2_2:
18625 ; GFX900:       ; %bb.0:
18626 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18627 ; GFX900-NEXT:    ;;#ASMSTART
18628 ; GFX900-NEXT:    ; def s[8:15]
18629 ; GFX900-NEXT:    ;;#ASMEND
18630 ; GFX900-NEXT:    ;;#ASMSTART
18631 ; GFX900-NEXT:    ; def s[4:11]
18632 ; GFX900-NEXT:    ;;#ASMEND
18633 ; GFX900-NEXT:    s_mov_b32 s8, s10
18634 ; GFX900-NEXT:    s_mov_b32 s9, s11
18635 ; GFX900-NEXT:    s_mov_b32 s14, s12
18636 ; GFX900-NEXT:    s_mov_b32 s15, s13
18637 ; GFX900-NEXT:    ;;#ASMSTART
18638 ; GFX900-NEXT:    ; use s[8:15]
18639 ; GFX900-NEXT:    ;;#ASMEND
18640 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
18641 ;
18642 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_2_2:
18643 ; GFX90A:       ; %bb.0:
18644 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18645 ; GFX90A-NEXT:    ;;#ASMSTART
18646 ; GFX90A-NEXT:    ; def s[8:15]
18647 ; GFX90A-NEXT:    ;;#ASMEND
18648 ; GFX90A-NEXT:    ;;#ASMSTART
18649 ; GFX90A-NEXT:    ; def s[4:11]
18650 ; GFX90A-NEXT:    ;;#ASMEND
18651 ; GFX90A-NEXT:    s_mov_b32 s8, s10
18652 ; GFX90A-NEXT:    s_mov_b32 s9, s11
18653 ; GFX90A-NEXT:    s_mov_b32 s14, s12
18654 ; GFX90A-NEXT:    s_mov_b32 s15, s13
18655 ; GFX90A-NEXT:    ;;#ASMSTART
18656 ; GFX90A-NEXT:    ; use s[8:15]
18657 ; GFX90A-NEXT:    ;;#ASMEND
18658 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
18659 ;
18660 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_2_2:
18661 ; GFX940:       ; %bb.0:
18662 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18663 ; GFX940-NEXT:    ;;#ASMSTART
18664 ; GFX940-NEXT:    ; def s[8:15]
18665 ; GFX940-NEXT:    ;;#ASMEND
18666 ; GFX940-NEXT:    ;;#ASMSTART
18667 ; GFX940-NEXT:    ; def s[0:7]
18668 ; GFX940-NEXT:    ;;#ASMEND
18669 ; GFX940-NEXT:    s_mov_b32 s8, s6
18670 ; GFX940-NEXT:    s_mov_b32 s9, s7
18671 ; GFX940-NEXT:    s_mov_b32 s10, s6
18672 ; GFX940-NEXT:    s_mov_b32 s11, s7
18673 ; GFX940-NEXT:    s_mov_b32 s14, s12
18674 ; GFX940-NEXT:    s_mov_b32 s15, s13
18675 ; GFX940-NEXT:    ;;#ASMSTART
18676 ; GFX940-NEXT:    ; use s[8:15]
18677 ; GFX940-NEXT:    ;;#ASMEND
18678 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
18679   %vec0 = call <4 x i64> asm "; def $0", "=s"()
18680   %vec1 = call <4 x i64> asm "; def $0", "=s"()
18681   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 2, i32 2>
18682   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
18683   ret void
18684 }
18685
18686 define void @s_shuffle_v4i64_v4i64__7_7_u_2() {
18687 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_u_2:
18688 ; GFX900:       ; %bb.0:
18689 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18690 ; GFX900-NEXT:    ;;#ASMSTART
18691 ; GFX900-NEXT:    ; def s[8:15]
18692 ; GFX900-NEXT:    ;;#ASMEND
18693 ; GFX900-NEXT:    ;;#ASMSTART
18694 ; GFX900-NEXT:    ; def s[4:11]
18695 ; GFX900-NEXT:    ;;#ASMEND
18696 ; GFX900-NEXT:    s_mov_b32 s8, s10
18697 ; GFX900-NEXT:    s_mov_b32 s9, s11
18698 ; GFX900-NEXT:    s_mov_b32 s14, s12
18699 ; GFX900-NEXT:    s_mov_b32 s15, s13
18700 ; GFX900-NEXT:    ;;#ASMSTART
18701 ; GFX900-NEXT:    ; use s[8:15]
18702 ; GFX900-NEXT:    ;;#ASMEND
18703 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
18704 ;
18705 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_u_2:
18706 ; GFX90A:       ; %bb.0:
18707 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18708 ; GFX90A-NEXT:    ;;#ASMSTART
18709 ; GFX90A-NEXT:    ; def s[8:15]
18710 ; GFX90A-NEXT:    ;;#ASMEND
18711 ; GFX90A-NEXT:    ;;#ASMSTART
18712 ; GFX90A-NEXT:    ; def s[4:11]
18713 ; GFX90A-NEXT:    ;;#ASMEND
18714 ; GFX90A-NEXT:    s_mov_b32 s8, s10
18715 ; GFX90A-NEXT:    s_mov_b32 s9, s11
18716 ; GFX90A-NEXT:    s_mov_b32 s14, s12
18717 ; GFX90A-NEXT:    s_mov_b32 s15, s13
18718 ; GFX90A-NEXT:    ;;#ASMSTART
18719 ; GFX90A-NEXT:    ; use s[8:15]
18720 ; GFX90A-NEXT:    ;;#ASMEND
18721 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
18722 ;
18723 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_u_2:
18724 ; GFX940:       ; %bb.0:
18725 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18726 ; GFX940-NEXT:    ;;#ASMSTART
18727 ; GFX940-NEXT:    ; def s[8:15]
18728 ; GFX940-NEXT:    ;;#ASMEND
18729 ; GFX940-NEXT:    ;;#ASMSTART
18730 ; GFX940-NEXT:    ; def s[0:7]
18731 ; GFX940-NEXT:    ;;#ASMEND
18732 ; GFX940-NEXT:    s_mov_b32 s8, s14
18733 ; GFX940-NEXT:    s_mov_b32 s9, s15
18734 ; GFX940-NEXT:    s_mov_b32 s10, s14
18735 ; GFX940-NEXT:    s_mov_b32 s11, s15
18736 ; GFX940-NEXT:    s_mov_b32 s14, s4
18737 ; GFX940-NEXT:    s_mov_b32 s15, s5
18738 ; GFX940-NEXT:    ;;#ASMSTART
18739 ; GFX940-NEXT:    ; use s[8:15]
18740 ; GFX940-NEXT:    ;;#ASMEND
18741 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
18742   %vec0 = call <4 x i64> asm "; def $0", "=s"()
18743   %vec1 = call <4 x i64> asm "; def $0", "=s"()
18744   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 poison, i32 2>
18745   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
18746   ret void
18747 }
18748
18749 define void @s_shuffle_v4i64_v4i64__7_7_0_2() {
18750 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_0_2:
18751 ; GFX900:       ; %bb.0:
18752 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18753 ; GFX900-NEXT:    ;;#ASMSTART
18754 ; GFX900-NEXT:    ; def s[12:19]
18755 ; GFX900-NEXT:    ;;#ASMEND
18756 ; GFX900-NEXT:    ;;#ASMSTART
18757 ; GFX900-NEXT:    ; def s[4:11]
18758 ; GFX900-NEXT:    ;;#ASMEND
18759 ; GFX900-NEXT:    s_mov_b32 s8, s10
18760 ; GFX900-NEXT:    s_mov_b32 s9, s11
18761 ; GFX900-NEXT:    s_mov_b32 s14, s16
18762 ; GFX900-NEXT:    s_mov_b32 s15, s17
18763 ; GFX900-NEXT:    ;;#ASMSTART
18764 ; GFX900-NEXT:    ; use s[8:15]
18765 ; GFX900-NEXT:    ;;#ASMEND
18766 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
18767 ;
18768 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_0_2:
18769 ; GFX90A:       ; %bb.0:
18770 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18771 ; GFX90A-NEXT:    ;;#ASMSTART
18772 ; GFX90A-NEXT:    ; def s[12:19]
18773 ; GFX90A-NEXT:    ;;#ASMEND
18774 ; GFX90A-NEXT:    ;;#ASMSTART
18775 ; GFX90A-NEXT:    ; def s[4:11]
18776 ; GFX90A-NEXT:    ;;#ASMEND
18777 ; GFX90A-NEXT:    s_mov_b32 s8, s10
18778 ; GFX90A-NEXT:    s_mov_b32 s9, s11
18779 ; GFX90A-NEXT:    s_mov_b32 s14, s16
18780 ; GFX90A-NEXT:    s_mov_b32 s15, s17
18781 ; GFX90A-NEXT:    ;;#ASMSTART
18782 ; GFX90A-NEXT:    ; use s[8:15]
18783 ; GFX90A-NEXT:    ;;#ASMEND
18784 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
18785 ;
18786 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_0_2:
18787 ; GFX940:       ; %bb.0:
18788 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18789 ; GFX940-NEXT:    ;;#ASMSTART
18790 ; GFX940-NEXT:    ; def s[8:15]
18791 ; GFX940-NEXT:    ;;#ASMEND
18792 ; GFX940-NEXT:    ;;#ASMSTART
18793 ; GFX940-NEXT:    ; def s[0:7]
18794 ; GFX940-NEXT:    ;;#ASMEND
18795 ; GFX940-NEXT:    s_mov_b32 s8, s14
18796 ; GFX940-NEXT:    s_mov_b32 s9, s15
18797 ; GFX940-NEXT:    s_mov_b32 s10, s14
18798 ; GFX940-NEXT:    s_mov_b32 s11, s15
18799 ; GFX940-NEXT:    s_mov_b32 s12, s0
18800 ; GFX940-NEXT:    s_mov_b32 s13, s1
18801 ; GFX940-NEXT:    s_mov_b32 s14, s4
18802 ; GFX940-NEXT:    s_mov_b32 s15, s5
18803 ; GFX940-NEXT:    ;;#ASMSTART
18804 ; GFX940-NEXT:    ; use s[8:15]
18805 ; GFX940-NEXT:    ;;#ASMEND
18806 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
18807   %vec0 = call <4 x i64> asm "; def $0", "=s"()
18808   %vec1 = call <4 x i64> asm "; def $0", "=s"()
18809   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 0, i32 2>
18810   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
18811   ret void
18812 }
18813
18814 define void @s_shuffle_v4i64_v4i64__7_7_1_2() {
18815 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_1_2:
18816 ; GFX900:       ; %bb.0:
18817 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18818 ; GFX900-NEXT:    ;;#ASMSTART
18819 ; GFX900-NEXT:    ; def s[12:19]
18820 ; GFX900-NEXT:    ;;#ASMEND
18821 ; GFX900-NEXT:    ;;#ASMSTART
18822 ; GFX900-NEXT:    ; def s[4:11]
18823 ; GFX900-NEXT:    ;;#ASMEND
18824 ; GFX900-NEXT:    s_mov_b32 s8, s10
18825 ; GFX900-NEXT:    s_mov_b32 s9, s11
18826 ; GFX900-NEXT:    s_mov_b32 s12, s14
18827 ; GFX900-NEXT:    s_mov_b32 s13, s15
18828 ; GFX900-NEXT:    s_mov_b32 s14, s16
18829 ; GFX900-NEXT:    s_mov_b32 s15, s17
18830 ; GFX900-NEXT:    ;;#ASMSTART
18831 ; GFX900-NEXT:    ; use s[8:15]
18832 ; GFX900-NEXT:    ;;#ASMEND
18833 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
18834 ;
18835 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_1_2:
18836 ; GFX90A:       ; %bb.0:
18837 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18838 ; GFX90A-NEXT:    ;;#ASMSTART
18839 ; GFX90A-NEXT:    ; def s[12:19]
18840 ; GFX90A-NEXT:    ;;#ASMEND
18841 ; GFX90A-NEXT:    ;;#ASMSTART
18842 ; GFX90A-NEXT:    ; def s[4:11]
18843 ; GFX90A-NEXT:    ;;#ASMEND
18844 ; GFX90A-NEXT:    s_mov_b32 s8, s10
18845 ; GFX90A-NEXT:    s_mov_b32 s9, s11
18846 ; GFX90A-NEXT:    s_mov_b32 s12, s14
18847 ; GFX90A-NEXT:    s_mov_b32 s13, s15
18848 ; GFX90A-NEXT:    s_mov_b32 s14, s16
18849 ; GFX90A-NEXT:    s_mov_b32 s15, s17
18850 ; GFX90A-NEXT:    ;;#ASMSTART
18851 ; GFX90A-NEXT:    ; use s[8:15]
18852 ; GFX90A-NEXT:    ;;#ASMEND
18853 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
18854 ;
18855 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_1_2:
18856 ; GFX940:       ; %bb.0:
18857 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18858 ; GFX940-NEXT:    ;;#ASMSTART
18859 ; GFX940-NEXT:    ; def s[8:15]
18860 ; GFX940-NEXT:    ;;#ASMEND
18861 ; GFX940-NEXT:    ;;#ASMSTART
18862 ; GFX940-NEXT:    ; def s[0:7]
18863 ; GFX940-NEXT:    ;;#ASMEND
18864 ; GFX940-NEXT:    s_mov_b32 s8, s14
18865 ; GFX940-NEXT:    s_mov_b32 s9, s15
18866 ; GFX940-NEXT:    s_mov_b32 s10, s14
18867 ; GFX940-NEXT:    s_mov_b32 s11, s15
18868 ; GFX940-NEXT:    s_mov_b32 s12, s2
18869 ; GFX940-NEXT:    s_mov_b32 s13, s3
18870 ; GFX940-NEXT:    s_mov_b32 s14, s4
18871 ; GFX940-NEXT:    s_mov_b32 s15, s5
18872 ; GFX940-NEXT:    ;;#ASMSTART
18873 ; GFX940-NEXT:    ; use s[8:15]
18874 ; GFX940-NEXT:    ;;#ASMEND
18875 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
18876   %vec0 = call <4 x i64> asm "; def $0", "=s"()
18877   %vec1 = call <4 x i64> asm "; def $0", "=s"()
18878   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 1, i32 2>
18879   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
18880   ret void
18881 }
18882
18883 define void @s_shuffle_v4i64_v4i64__7_7_3_2() {
18884 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_3_2:
18885 ; GFX900:       ; %bb.0:
18886 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18887 ; GFX900-NEXT:    ;;#ASMSTART
18888 ; GFX900-NEXT:    ; def s[12:19]
18889 ; GFX900-NEXT:    ;;#ASMEND
18890 ; GFX900-NEXT:    ;;#ASMSTART
18891 ; GFX900-NEXT:    ; def s[4:11]
18892 ; GFX900-NEXT:    ;;#ASMEND
18893 ; GFX900-NEXT:    s_mov_b32 s8, s10
18894 ; GFX900-NEXT:    s_mov_b32 s9, s11
18895 ; GFX900-NEXT:    s_mov_b32 s12, s18
18896 ; GFX900-NEXT:    s_mov_b32 s13, s19
18897 ; GFX900-NEXT:    s_mov_b32 s14, s16
18898 ; GFX900-NEXT:    s_mov_b32 s15, s17
18899 ; GFX900-NEXT:    ;;#ASMSTART
18900 ; GFX900-NEXT:    ; use s[8:15]
18901 ; GFX900-NEXT:    ;;#ASMEND
18902 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
18903 ;
18904 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_3_2:
18905 ; GFX90A:       ; %bb.0:
18906 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18907 ; GFX90A-NEXT:    ;;#ASMSTART
18908 ; GFX90A-NEXT:    ; def s[12:19]
18909 ; GFX90A-NEXT:    ;;#ASMEND
18910 ; GFX90A-NEXT:    ;;#ASMSTART
18911 ; GFX90A-NEXT:    ; def s[4:11]
18912 ; GFX90A-NEXT:    ;;#ASMEND
18913 ; GFX90A-NEXT:    s_mov_b32 s8, s10
18914 ; GFX90A-NEXT:    s_mov_b32 s9, s11
18915 ; GFX90A-NEXT:    s_mov_b32 s12, s18
18916 ; GFX90A-NEXT:    s_mov_b32 s13, s19
18917 ; GFX90A-NEXT:    s_mov_b32 s14, s16
18918 ; GFX90A-NEXT:    s_mov_b32 s15, s17
18919 ; GFX90A-NEXT:    ;;#ASMSTART
18920 ; GFX90A-NEXT:    ; use s[8:15]
18921 ; GFX90A-NEXT:    ;;#ASMEND
18922 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
18923 ;
18924 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_3_2:
18925 ; GFX940:       ; %bb.0:
18926 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18927 ; GFX940-NEXT:    ;;#ASMSTART
18928 ; GFX940-NEXT:    ; def s[8:15]
18929 ; GFX940-NEXT:    ;;#ASMEND
18930 ; GFX940-NEXT:    ;;#ASMSTART
18931 ; GFX940-NEXT:    ; def s[0:7]
18932 ; GFX940-NEXT:    ;;#ASMEND
18933 ; GFX940-NEXT:    s_mov_b32 s8, s14
18934 ; GFX940-NEXT:    s_mov_b32 s9, s15
18935 ; GFX940-NEXT:    s_mov_b32 s10, s14
18936 ; GFX940-NEXT:    s_mov_b32 s11, s15
18937 ; GFX940-NEXT:    s_mov_b32 s12, s6
18938 ; GFX940-NEXT:    s_mov_b32 s13, s7
18939 ; GFX940-NEXT:    s_mov_b32 s14, s4
18940 ; GFX940-NEXT:    s_mov_b32 s15, s5
18941 ; GFX940-NEXT:    ;;#ASMSTART
18942 ; GFX940-NEXT:    ; use s[8:15]
18943 ; GFX940-NEXT:    ;;#ASMEND
18944 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
18945   %vec0 = call <4 x i64> asm "; def $0", "=s"()
18946   %vec1 = call <4 x i64> asm "; def $0", "=s"()
18947   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 3, i32 2>
18948   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
18949   ret void
18950 }
18951
18952 define void @s_shuffle_v4i64_v4i64__7_7_4_2() {
18953 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_4_2:
18954 ; GFX900:       ; %bb.0:
18955 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18956 ; GFX900-NEXT:    ;;#ASMSTART
18957 ; GFX900-NEXT:    ; def s[12:19]
18958 ; GFX900-NEXT:    ;;#ASMEND
18959 ; GFX900-NEXT:    ;;#ASMSTART
18960 ; GFX900-NEXT:    ; def s[4:11]
18961 ; GFX900-NEXT:    ;;#ASMEND
18962 ; GFX900-NEXT:    s_mov_b32 s8, s10
18963 ; GFX900-NEXT:    s_mov_b32 s9, s11
18964 ; GFX900-NEXT:    s_mov_b32 s12, s4
18965 ; GFX900-NEXT:    s_mov_b32 s13, s5
18966 ; GFX900-NEXT:    s_mov_b32 s14, s16
18967 ; GFX900-NEXT:    s_mov_b32 s15, s17
18968 ; GFX900-NEXT:    ;;#ASMSTART
18969 ; GFX900-NEXT:    ; use s[8:15]
18970 ; GFX900-NEXT:    ;;#ASMEND
18971 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
18972 ;
18973 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_4_2:
18974 ; GFX90A:       ; %bb.0:
18975 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18976 ; GFX90A-NEXT:    ;;#ASMSTART
18977 ; GFX90A-NEXT:    ; def s[12:19]
18978 ; GFX90A-NEXT:    ;;#ASMEND
18979 ; GFX90A-NEXT:    ;;#ASMSTART
18980 ; GFX90A-NEXT:    ; def s[4:11]
18981 ; GFX90A-NEXT:    ;;#ASMEND
18982 ; GFX90A-NEXT:    s_mov_b32 s8, s10
18983 ; GFX90A-NEXT:    s_mov_b32 s9, s11
18984 ; GFX90A-NEXT:    s_mov_b32 s12, s4
18985 ; GFX90A-NEXT:    s_mov_b32 s13, s5
18986 ; GFX90A-NEXT:    s_mov_b32 s14, s16
18987 ; GFX90A-NEXT:    s_mov_b32 s15, s17
18988 ; GFX90A-NEXT:    ;;#ASMSTART
18989 ; GFX90A-NEXT:    ; use s[8:15]
18990 ; GFX90A-NEXT:    ;;#ASMEND
18991 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
18992 ;
18993 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_4_2:
18994 ; GFX940:       ; %bb.0:
18995 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
18996 ; GFX940-NEXT:    ;;#ASMSTART
18997 ; GFX940-NEXT:    ; def s[12:19]
18998 ; GFX940-NEXT:    ;;#ASMEND
18999 ; GFX940-NEXT:    ;;#ASMSTART
19000 ; GFX940-NEXT:    ; def s[0:7]
19001 ; GFX940-NEXT:    ;;#ASMEND
19002 ; GFX940-NEXT:    s_mov_b32 s8, s18
19003 ; GFX940-NEXT:    s_mov_b32 s9, s19
19004 ; GFX940-NEXT:    s_mov_b32 s10, s18
19005 ; GFX940-NEXT:    s_mov_b32 s11, s19
19006 ; GFX940-NEXT:    s_mov_b32 s14, s4
19007 ; GFX940-NEXT:    s_mov_b32 s15, s5
19008 ; GFX940-NEXT:    ;;#ASMSTART
19009 ; GFX940-NEXT:    ; use s[8:15]
19010 ; GFX940-NEXT:    ;;#ASMEND
19011 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
19012   %vec0 = call <4 x i64> asm "; def $0", "=s"()
19013   %vec1 = call <4 x i64> asm "; def $0", "=s"()
19014   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 4, i32 2>
19015   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
19016   ret void
19017 }
19018
19019 define void @s_shuffle_v4i64_v4i64__7_7_5_2() {
19020 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_5_2:
19021 ; GFX900:       ; %bb.0:
19022 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19023 ; GFX900-NEXT:    ;;#ASMSTART
19024 ; GFX900-NEXT:    ; def s[12:19]
19025 ; GFX900-NEXT:    ;;#ASMEND
19026 ; GFX900-NEXT:    ;;#ASMSTART
19027 ; GFX900-NEXT:    ; def s[4:11]
19028 ; GFX900-NEXT:    ;;#ASMEND
19029 ; GFX900-NEXT:    s_mov_b32 s8, s10
19030 ; GFX900-NEXT:    s_mov_b32 s9, s11
19031 ; GFX900-NEXT:    s_mov_b32 s12, s6
19032 ; GFX900-NEXT:    s_mov_b32 s13, s7
19033 ; GFX900-NEXT:    s_mov_b32 s14, s16
19034 ; GFX900-NEXT:    s_mov_b32 s15, s17
19035 ; GFX900-NEXT:    ;;#ASMSTART
19036 ; GFX900-NEXT:    ; use s[8:15]
19037 ; GFX900-NEXT:    ;;#ASMEND
19038 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
19039 ;
19040 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_5_2:
19041 ; GFX90A:       ; %bb.0:
19042 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19043 ; GFX90A-NEXT:    ;;#ASMSTART
19044 ; GFX90A-NEXT:    ; def s[12:19]
19045 ; GFX90A-NEXT:    ;;#ASMEND
19046 ; GFX90A-NEXT:    ;;#ASMSTART
19047 ; GFX90A-NEXT:    ; def s[4:11]
19048 ; GFX90A-NEXT:    ;;#ASMEND
19049 ; GFX90A-NEXT:    s_mov_b32 s8, s10
19050 ; GFX90A-NEXT:    s_mov_b32 s9, s11
19051 ; GFX90A-NEXT:    s_mov_b32 s12, s6
19052 ; GFX90A-NEXT:    s_mov_b32 s13, s7
19053 ; GFX90A-NEXT:    s_mov_b32 s14, s16
19054 ; GFX90A-NEXT:    s_mov_b32 s15, s17
19055 ; GFX90A-NEXT:    ;;#ASMSTART
19056 ; GFX90A-NEXT:    ; use s[8:15]
19057 ; GFX90A-NEXT:    ;;#ASMEND
19058 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
19059 ;
19060 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_5_2:
19061 ; GFX940:       ; %bb.0:
19062 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19063 ; GFX940-NEXT:    ;;#ASMSTART
19064 ; GFX940-NEXT:    ; def s[12:19]
19065 ; GFX940-NEXT:    ;;#ASMEND
19066 ; GFX940-NEXT:    ;;#ASMSTART
19067 ; GFX940-NEXT:    ; def s[0:7]
19068 ; GFX940-NEXT:    ;;#ASMEND
19069 ; GFX940-NEXT:    s_mov_b32 s8, s18
19070 ; GFX940-NEXT:    s_mov_b32 s9, s19
19071 ; GFX940-NEXT:    s_mov_b32 s10, s18
19072 ; GFX940-NEXT:    s_mov_b32 s11, s19
19073 ; GFX940-NEXT:    s_mov_b32 s12, s14
19074 ; GFX940-NEXT:    s_mov_b32 s13, s15
19075 ; GFX940-NEXT:    s_mov_b32 s14, s4
19076 ; GFX940-NEXT:    s_mov_b32 s15, s5
19077 ; GFX940-NEXT:    ;;#ASMSTART
19078 ; GFX940-NEXT:    ; use s[8:15]
19079 ; GFX940-NEXT:    ;;#ASMEND
19080 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
19081   %vec0 = call <4 x i64> asm "; def $0", "=s"()
19082   %vec1 = call <4 x i64> asm "; def $0", "=s"()
19083   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 5, i32 2>
19084   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
19085   ret void
19086 }
19087
19088 define void @s_shuffle_v4i64_v4i64__7_7_6_2() {
19089 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_6_2:
19090 ; GFX900:       ; %bb.0:
19091 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19092 ; GFX900-NEXT:    ;;#ASMSTART
19093 ; GFX900-NEXT:    ; def s[12:19]
19094 ; GFX900-NEXT:    ;;#ASMEND
19095 ; GFX900-NEXT:    ;;#ASMSTART
19096 ; GFX900-NEXT:    ; def s[8:15]
19097 ; GFX900-NEXT:    ;;#ASMEND
19098 ; GFX900-NEXT:    s_mov_b32 s8, s14
19099 ; GFX900-NEXT:    s_mov_b32 s9, s15
19100 ; GFX900-NEXT:    s_mov_b32 s10, s14
19101 ; GFX900-NEXT:    s_mov_b32 s11, s15
19102 ; GFX900-NEXT:    s_mov_b32 s14, s16
19103 ; GFX900-NEXT:    s_mov_b32 s15, s17
19104 ; GFX900-NEXT:    ;;#ASMSTART
19105 ; GFX900-NEXT:    ; use s[8:15]
19106 ; GFX900-NEXT:    ;;#ASMEND
19107 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
19108 ;
19109 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_6_2:
19110 ; GFX90A:       ; %bb.0:
19111 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19112 ; GFX90A-NEXT:    ;;#ASMSTART
19113 ; GFX90A-NEXT:    ; def s[12:19]
19114 ; GFX90A-NEXT:    ;;#ASMEND
19115 ; GFX90A-NEXT:    ;;#ASMSTART
19116 ; GFX90A-NEXT:    ; def s[8:15]
19117 ; GFX90A-NEXT:    ;;#ASMEND
19118 ; GFX90A-NEXT:    s_mov_b32 s8, s14
19119 ; GFX90A-NEXT:    s_mov_b32 s9, s15
19120 ; GFX90A-NEXT:    s_mov_b32 s10, s14
19121 ; GFX90A-NEXT:    s_mov_b32 s11, s15
19122 ; GFX90A-NEXT:    s_mov_b32 s14, s16
19123 ; GFX90A-NEXT:    s_mov_b32 s15, s17
19124 ; GFX90A-NEXT:    ;;#ASMSTART
19125 ; GFX90A-NEXT:    ; use s[8:15]
19126 ; GFX90A-NEXT:    ;;#ASMEND
19127 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
19128 ;
19129 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_6_2:
19130 ; GFX940:       ; %bb.0:
19131 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19132 ; GFX940-NEXT:    ;;#ASMSTART
19133 ; GFX940-NEXT:    ; def s[8:15]
19134 ; GFX940-NEXT:    ;;#ASMEND
19135 ; GFX940-NEXT:    ;;#ASMSTART
19136 ; GFX940-NEXT:    ; def s[0:7]
19137 ; GFX940-NEXT:    ;;#ASMEND
19138 ; GFX940-NEXT:    s_mov_b32 s8, s14
19139 ; GFX940-NEXT:    s_mov_b32 s9, s15
19140 ; GFX940-NEXT:    s_mov_b32 s10, s14
19141 ; GFX940-NEXT:    s_mov_b32 s11, s15
19142 ; GFX940-NEXT:    s_mov_b32 s14, s4
19143 ; GFX940-NEXT:    s_mov_b32 s15, s5
19144 ; GFX940-NEXT:    ;;#ASMSTART
19145 ; GFX940-NEXT:    ; use s[8:15]
19146 ; GFX940-NEXT:    ;;#ASMEND
19147 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
19148   %vec0 = call <4 x i64> asm "; def $0", "=s"()
19149   %vec1 = call <4 x i64> asm "; def $0", "=s"()
19150   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 6, i32 2>
19151   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
19152   ret void
19153 }
19154
19155 define void @s_shuffle_v4i64_v4i64__u_3_3_3() {
19156 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__u_3_3_3:
19157 ; GFX9:       ; %bb.0:
19158 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19159 ; GFX9-NEXT:    ;;#ASMSTART
19160 ; GFX9-NEXT:    ; def s[8:15]
19161 ; GFX9-NEXT:    ;;#ASMEND
19162 ; GFX9-NEXT:    s_mov_b32 s10, s14
19163 ; GFX9-NEXT:    s_mov_b32 s11, s15
19164 ; GFX9-NEXT:    s_mov_b32 s12, s14
19165 ; GFX9-NEXT:    s_mov_b32 s13, s15
19166 ; GFX9-NEXT:    ;;#ASMSTART
19167 ; GFX9-NEXT:    ; use s[8:15]
19168 ; GFX9-NEXT:    ;;#ASMEND
19169 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
19170   %vec0 = call <4 x i64> asm "; def $0", "=s"()
19171   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 poison, i32 3, i32 3, i32 3>
19172   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
19173   ret void
19174 }
19175
19176 define void @s_shuffle_v4i64_v4i64__0_3_3_3() {
19177 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__0_3_3_3:
19178 ; GFX9:       ; %bb.0:
19179 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19180 ; GFX9-NEXT:    ;;#ASMSTART
19181 ; GFX9-NEXT:    ; def s[8:15]
19182 ; GFX9-NEXT:    ;;#ASMEND
19183 ; GFX9-NEXT:    s_mov_b32 s10, s14
19184 ; GFX9-NEXT:    s_mov_b32 s11, s15
19185 ; GFX9-NEXT:    s_mov_b32 s12, s14
19186 ; GFX9-NEXT:    s_mov_b32 s13, s15
19187 ; GFX9-NEXT:    ;;#ASMSTART
19188 ; GFX9-NEXT:    ; use s[8:15]
19189 ; GFX9-NEXT:    ;;#ASMEND
19190 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
19191   %vec0 = call <4 x i64> asm "; def $0", "=s"()
19192   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 0, i32 3, i32 3, i32 3>
19193   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
19194   ret void
19195 }
19196
19197 define void @s_shuffle_v4i64_v4i64__1_3_3_3() {
19198 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__1_3_3_3:
19199 ; GFX9:       ; %bb.0:
19200 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19201 ; GFX9-NEXT:    ;;#ASMSTART
19202 ; GFX9-NEXT:    ; def s[8:15]
19203 ; GFX9-NEXT:    ;;#ASMEND
19204 ; GFX9-NEXT:    s_mov_b32 s8, s10
19205 ; GFX9-NEXT:    s_mov_b32 s9, s11
19206 ; GFX9-NEXT:    s_mov_b32 s10, s14
19207 ; GFX9-NEXT:    s_mov_b32 s11, s15
19208 ; GFX9-NEXT:    s_mov_b32 s12, s14
19209 ; GFX9-NEXT:    s_mov_b32 s13, s15
19210 ; GFX9-NEXT:    ;;#ASMSTART
19211 ; GFX9-NEXT:    ; use s[8:15]
19212 ; GFX9-NEXT:    ;;#ASMEND
19213 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
19214   %vec0 = call <4 x i64> asm "; def $0", "=s"()
19215   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 1, i32 3, i32 3, i32 3>
19216   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
19217   ret void
19218 }
19219
19220 define void @s_shuffle_v4i64_v4i64__2_3_3_3() {
19221 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__2_3_3_3:
19222 ; GFX9:       ; %bb.0:
19223 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19224 ; GFX9-NEXT:    ;;#ASMSTART
19225 ; GFX9-NEXT:    ; def s[8:15]
19226 ; GFX9-NEXT:    ;;#ASMEND
19227 ; GFX9-NEXT:    s_mov_b32 s8, s12
19228 ; GFX9-NEXT:    s_mov_b32 s9, s13
19229 ; GFX9-NEXT:    s_mov_b32 s10, s14
19230 ; GFX9-NEXT:    s_mov_b32 s11, s15
19231 ; GFX9-NEXT:    s_mov_b32 s12, s14
19232 ; GFX9-NEXT:    s_mov_b32 s13, s15
19233 ; GFX9-NEXT:    ;;#ASMSTART
19234 ; GFX9-NEXT:    ; use s[8:15]
19235 ; GFX9-NEXT:    ;;#ASMEND
19236 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
19237   %vec0 = call <4 x i64> asm "; def $0", "=s"()
19238   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 2, i32 3, i32 3, i32 3>
19239   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
19240   ret void
19241 }
19242
19243 define void @s_shuffle_v4i64_v4i64__3_3_3_3() {
19244 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__3_3_3_3:
19245 ; GFX9:       ; %bb.0:
19246 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19247 ; GFX9-NEXT:    ;;#ASMSTART
19248 ; GFX9-NEXT:    ; def s[8:15]
19249 ; GFX9-NEXT:    ;;#ASMEND
19250 ; GFX9-NEXT:    s_mov_b32 s8, s14
19251 ; GFX9-NEXT:    s_mov_b32 s9, s15
19252 ; GFX9-NEXT:    s_mov_b32 s10, s14
19253 ; GFX9-NEXT:    s_mov_b32 s11, s15
19254 ; GFX9-NEXT:    s_mov_b32 s12, s14
19255 ; GFX9-NEXT:    s_mov_b32 s13, s15
19256 ; GFX9-NEXT:    ;;#ASMSTART
19257 ; GFX9-NEXT:    ; use s[8:15]
19258 ; GFX9-NEXT:    ;;#ASMEND
19259 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
19260   %vec0 = call <4 x i64> asm "; def $0", "=s"()
19261   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 3, i32 3, i32 3, i32 3>
19262   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
19263   ret void
19264 }
19265
19266 define void @s_shuffle_v4i64_v4i64__4_3_3_3() {
19267 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__4_3_3_3:
19268 ; GFX9:       ; %bb.0:
19269 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19270 ; GFX9-NEXT:    ;;#ASMSTART
19271 ; GFX9-NEXT:    ; def s[8:15]
19272 ; GFX9-NEXT:    ;;#ASMEND
19273 ; GFX9-NEXT:    s_mov_b32 s10, s14
19274 ; GFX9-NEXT:    s_mov_b32 s11, s15
19275 ; GFX9-NEXT:    s_mov_b32 s12, s14
19276 ; GFX9-NEXT:    s_mov_b32 s13, s15
19277 ; GFX9-NEXT:    ;;#ASMSTART
19278 ; GFX9-NEXT:    ; use s[8:15]
19279 ; GFX9-NEXT:    ;;#ASMEND
19280 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
19281   %vec0 = call <4 x i64> asm "; def $0", "=s"()
19282   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 4, i32 3, i32 3, i32 3>
19283   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
19284   ret void
19285 }
19286
19287 define void @s_shuffle_v4i64_v4i64__5_3_3_3() {
19288 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__5_3_3_3:
19289 ; GFX900:       ; %bb.0:
19290 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19291 ; GFX900-NEXT:    ;;#ASMSTART
19292 ; GFX900-NEXT:    ; def s[8:15]
19293 ; GFX900-NEXT:    ;;#ASMEND
19294 ; GFX900-NEXT:    ;;#ASMSTART
19295 ; GFX900-NEXT:    ; def s[4:11]
19296 ; GFX900-NEXT:    ;;#ASMEND
19297 ; GFX900-NEXT:    s_mov_b32 s8, s6
19298 ; GFX900-NEXT:    s_mov_b32 s9, s7
19299 ; GFX900-NEXT:    s_mov_b32 s10, s14
19300 ; GFX900-NEXT:    s_mov_b32 s11, s15
19301 ; GFX900-NEXT:    s_mov_b32 s12, s14
19302 ; GFX900-NEXT:    s_mov_b32 s13, s15
19303 ; GFX900-NEXT:    ;;#ASMSTART
19304 ; GFX900-NEXT:    ; use s[8:15]
19305 ; GFX900-NEXT:    ;;#ASMEND
19306 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
19307 ;
19308 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__5_3_3_3:
19309 ; GFX90A:       ; %bb.0:
19310 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19311 ; GFX90A-NEXT:    ;;#ASMSTART
19312 ; GFX90A-NEXT:    ; def s[8:15]
19313 ; GFX90A-NEXT:    ;;#ASMEND
19314 ; GFX90A-NEXT:    ;;#ASMSTART
19315 ; GFX90A-NEXT:    ; def s[4:11]
19316 ; GFX90A-NEXT:    ;;#ASMEND
19317 ; GFX90A-NEXT:    s_mov_b32 s8, s6
19318 ; GFX90A-NEXT:    s_mov_b32 s9, s7
19319 ; GFX90A-NEXT:    s_mov_b32 s10, s14
19320 ; GFX90A-NEXT:    s_mov_b32 s11, s15
19321 ; GFX90A-NEXT:    s_mov_b32 s12, s14
19322 ; GFX90A-NEXT:    s_mov_b32 s13, s15
19323 ; GFX90A-NEXT:    ;;#ASMSTART
19324 ; GFX90A-NEXT:    ; use s[8:15]
19325 ; GFX90A-NEXT:    ;;#ASMEND
19326 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
19327 ;
19328 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__5_3_3_3:
19329 ; GFX940:       ; %bb.0:
19330 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19331 ; GFX940-NEXT:    ;;#ASMSTART
19332 ; GFX940-NEXT:    ; def s[8:15]
19333 ; GFX940-NEXT:    ;;#ASMEND
19334 ; GFX940-NEXT:    ;;#ASMSTART
19335 ; GFX940-NEXT:    ; def s[0:7]
19336 ; GFX940-NEXT:    ;;#ASMEND
19337 ; GFX940-NEXT:    s_mov_b32 s8, s2
19338 ; GFX940-NEXT:    s_mov_b32 s9, s3
19339 ; GFX940-NEXT:    s_mov_b32 s10, s14
19340 ; GFX940-NEXT:    s_mov_b32 s11, s15
19341 ; GFX940-NEXT:    s_mov_b32 s12, s14
19342 ; GFX940-NEXT:    s_mov_b32 s13, s15
19343 ; GFX940-NEXT:    ;;#ASMSTART
19344 ; GFX940-NEXT:    ; use s[8:15]
19345 ; GFX940-NEXT:    ;;#ASMEND
19346 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
19347   %vec0 = call <4 x i64> asm "; def $0", "=s"()
19348   %vec1 = call <4 x i64> asm "; def $0", "=s"()
19349   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 5, i32 3, i32 3, i32 3>
19350   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
19351   ret void
19352 }
19353
19354 define void @s_shuffle_v4i64_v4i64__6_3_3_3() {
19355 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__6_3_3_3:
19356 ; GFX900:       ; %bb.0:
19357 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19358 ; GFX900-NEXT:    ;;#ASMSTART
19359 ; GFX900-NEXT:    ; def s[8:15]
19360 ; GFX900-NEXT:    ;;#ASMEND
19361 ; GFX900-NEXT:    ;;#ASMSTART
19362 ; GFX900-NEXT:    ; def s[4:11]
19363 ; GFX900-NEXT:    ;;#ASMEND
19364 ; GFX900-NEXT:    s_mov_b32 s10, s14
19365 ; GFX900-NEXT:    s_mov_b32 s11, s15
19366 ; GFX900-NEXT:    s_mov_b32 s12, s14
19367 ; GFX900-NEXT:    s_mov_b32 s13, s15
19368 ; GFX900-NEXT:    ;;#ASMSTART
19369 ; GFX900-NEXT:    ; use s[8:15]
19370 ; GFX900-NEXT:    ;;#ASMEND
19371 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
19372 ;
19373 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__6_3_3_3:
19374 ; GFX90A:       ; %bb.0:
19375 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19376 ; GFX90A-NEXT:    ;;#ASMSTART
19377 ; GFX90A-NEXT:    ; def s[8:15]
19378 ; GFX90A-NEXT:    ;;#ASMEND
19379 ; GFX90A-NEXT:    ;;#ASMSTART
19380 ; GFX90A-NEXT:    ; def s[4:11]
19381 ; GFX90A-NEXT:    ;;#ASMEND
19382 ; GFX90A-NEXT:    s_mov_b32 s10, s14
19383 ; GFX90A-NEXT:    s_mov_b32 s11, s15
19384 ; GFX90A-NEXT:    s_mov_b32 s12, s14
19385 ; GFX90A-NEXT:    s_mov_b32 s13, s15
19386 ; GFX90A-NEXT:    ;;#ASMSTART
19387 ; GFX90A-NEXT:    ; use s[8:15]
19388 ; GFX90A-NEXT:    ;;#ASMEND
19389 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
19390 ;
19391 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__6_3_3_3:
19392 ; GFX940:       ; %bb.0:
19393 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19394 ; GFX940-NEXT:    ;;#ASMSTART
19395 ; GFX940-NEXT:    ; def s[8:15]
19396 ; GFX940-NEXT:    ;;#ASMEND
19397 ; GFX940-NEXT:    ;;#ASMSTART
19398 ; GFX940-NEXT:    ; def s[0:7]
19399 ; GFX940-NEXT:    ;;#ASMEND
19400 ; GFX940-NEXT:    s_mov_b32 s8, s4
19401 ; GFX940-NEXT:    s_mov_b32 s9, s5
19402 ; GFX940-NEXT:    s_mov_b32 s10, s14
19403 ; GFX940-NEXT:    s_mov_b32 s11, s15
19404 ; GFX940-NEXT:    s_mov_b32 s12, s14
19405 ; GFX940-NEXT:    s_mov_b32 s13, s15
19406 ; GFX940-NEXT:    ;;#ASMSTART
19407 ; GFX940-NEXT:    ; use s[8:15]
19408 ; GFX940-NEXT:    ;;#ASMEND
19409 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
19410   %vec0 = call <4 x i64> asm "; def $0", "=s"()
19411   %vec1 = call <4 x i64> asm "; def $0", "=s"()
19412   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 6, i32 3, i32 3, i32 3>
19413   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
19414   ret void
19415 }
19416
19417 define void @s_shuffle_v4i64_v4i64__7_3_3_3() {
19418 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_3_3_3:
19419 ; GFX900:       ; %bb.0:
19420 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19421 ; GFX900-NEXT:    ;;#ASMSTART
19422 ; GFX900-NEXT:    ; def s[8:15]
19423 ; GFX900-NEXT:    ;;#ASMEND
19424 ; GFX900-NEXT:    ;;#ASMSTART
19425 ; GFX900-NEXT:    ; def s[4:11]
19426 ; GFX900-NEXT:    ;;#ASMEND
19427 ; GFX900-NEXT:    s_mov_b32 s8, s10
19428 ; GFX900-NEXT:    s_mov_b32 s9, s11
19429 ; GFX900-NEXT:    s_mov_b32 s10, s14
19430 ; GFX900-NEXT:    s_mov_b32 s11, s15
19431 ; GFX900-NEXT:    s_mov_b32 s12, s14
19432 ; GFX900-NEXT:    s_mov_b32 s13, s15
19433 ; GFX900-NEXT:    ;;#ASMSTART
19434 ; GFX900-NEXT:    ; use s[8:15]
19435 ; GFX900-NEXT:    ;;#ASMEND
19436 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
19437 ;
19438 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_3_3_3:
19439 ; GFX90A:       ; %bb.0:
19440 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19441 ; GFX90A-NEXT:    ;;#ASMSTART
19442 ; GFX90A-NEXT:    ; def s[8:15]
19443 ; GFX90A-NEXT:    ;;#ASMEND
19444 ; GFX90A-NEXT:    ;;#ASMSTART
19445 ; GFX90A-NEXT:    ; def s[4:11]
19446 ; GFX90A-NEXT:    ;;#ASMEND
19447 ; GFX90A-NEXT:    s_mov_b32 s8, s10
19448 ; GFX90A-NEXT:    s_mov_b32 s9, s11
19449 ; GFX90A-NEXT:    s_mov_b32 s10, s14
19450 ; GFX90A-NEXT:    s_mov_b32 s11, s15
19451 ; GFX90A-NEXT:    s_mov_b32 s12, s14
19452 ; GFX90A-NEXT:    s_mov_b32 s13, s15
19453 ; GFX90A-NEXT:    ;;#ASMSTART
19454 ; GFX90A-NEXT:    ; use s[8:15]
19455 ; GFX90A-NEXT:    ;;#ASMEND
19456 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
19457 ;
19458 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_3_3_3:
19459 ; GFX940:       ; %bb.0:
19460 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19461 ; GFX940-NEXT:    ;;#ASMSTART
19462 ; GFX940-NEXT:    ; def s[8:15]
19463 ; GFX940-NEXT:    ;;#ASMEND
19464 ; GFX940-NEXT:    ;;#ASMSTART
19465 ; GFX940-NEXT:    ; def s[0:7]
19466 ; GFX940-NEXT:    ;;#ASMEND
19467 ; GFX940-NEXT:    s_mov_b32 s8, s6
19468 ; GFX940-NEXT:    s_mov_b32 s9, s7
19469 ; GFX940-NEXT:    s_mov_b32 s10, s14
19470 ; GFX940-NEXT:    s_mov_b32 s11, s15
19471 ; GFX940-NEXT:    s_mov_b32 s12, s14
19472 ; GFX940-NEXT:    s_mov_b32 s13, s15
19473 ; GFX940-NEXT:    ;;#ASMSTART
19474 ; GFX940-NEXT:    ; use s[8:15]
19475 ; GFX940-NEXT:    ;;#ASMEND
19476 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
19477   %vec0 = call <4 x i64> asm "; def $0", "=s"()
19478   %vec1 = call <4 x i64> asm "; def $0", "=s"()
19479   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 3, i32 3, i32 3>
19480   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
19481   ret void
19482 }
19483
19484 define void @s_shuffle_v4i64_v4i64__7_u_3_3() {
19485 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_u_3_3:
19486 ; GFX900:       ; %bb.0:
19487 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19488 ; GFX900-NEXT:    ;;#ASMSTART
19489 ; GFX900-NEXT:    ; def s[8:15]
19490 ; GFX900-NEXT:    ;;#ASMEND
19491 ; GFX900-NEXT:    ;;#ASMSTART
19492 ; GFX900-NEXT:    ; def s[4:11]
19493 ; GFX900-NEXT:    ;;#ASMEND
19494 ; GFX900-NEXT:    s_mov_b32 s8, s10
19495 ; GFX900-NEXT:    s_mov_b32 s9, s11
19496 ; GFX900-NEXT:    s_mov_b32 s12, s14
19497 ; GFX900-NEXT:    s_mov_b32 s13, s15
19498 ; GFX900-NEXT:    ;;#ASMSTART
19499 ; GFX900-NEXT:    ; use s[8:15]
19500 ; GFX900-NEXT:    ;;#ASMEND
19501 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
19502 ;
19503 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_u_3_3:
19504 ; GFX90A:       ; %bb.0:
19505 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19506 ; GFX90A-NEXT:    ;;#ASMSTART
19507 ; GFX90A-NEXT:    ; def s[8:15]
19508 ; GFX90A-NEXT:    ;;#ASMEND
19509 ; GFX90A-NEXT:    ;;#ASMSTART
19510 ; GFX90A-NEXT:    ; def s[4:11]
19511 ; GFX90A-NEXT:    ;;#ASMEND
19512 ; GFX90A-NEXT:    s_mov_b32 s8, s10
19513 ; GFX90A-NEXT:    s_mov_b32 s9, s11
19514 ; GFX90A-NEXT:    s_mov_b32 s12, s14
19515 ; GFX90A-NEXT:    s_mov_b32 s13, s15
19516 ; GFX90A-NEXT:    ;;#ASMSTART
19517 ; GFX90A-NEXT:    ; use s[8:15]
19518 ; GFX90A-NEXT:    ;;#ASMEND
19519 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
19520 ;
19521 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_u_3_3:
19522 ; GFX940:       ; %bb.0:
19523 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19524 ; GFX940-NEXT:    ;;#ASMSTART
19525 ; GFX940-NEXT:    ; def s[8:15]
19526 ; GFX940-NEXT:    ;;#ASMEND
19527 ; GFX940-NEXT:    ;;#ASMSTART
19528 ; GFX940-NEXT:    ; def s[0:7]
19529 ; GFX940-NEXT:    ;;#ASMEND
19530 ; GFX940-NEXT:    s_mov_b32 s8, s6
19531 ; GFX940-NEXT:    s_mov_b32 s9, s7
19532 ; GFX940-NEXT:    s_mov_b32 s12, s14
19533 ; GFX940-NEXT:    s_mov_b32 s13, s15
19534 ; GFX940-NEXT:    ;;#ASMSTART
19535 ; GFX940-NEXT:    ; use s[8:15]
19536 ; GFX940-NEXT:    ;;#ASMEND
19537 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
19538   %vec0 = call <4 x i64> asm "; def $0", "=s"()
19539   %vec1 = call <4 x i64> asm "; def $0", "=s"()
19540   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 poison, i32 3, i32 3>
19541   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
19542   ret void
19543 }
19544
19545 define void @s_shuffle_v4i64_v4i64__7_0_3_3() {
19546 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_0_3_3:
19547 ; GFX900:       ; %bb.0:
19548 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19549 ; GFX900-NEXT:    ;;#ASMSTART
19550 ; GFX900-NEXT:    ; def s[12:19]
19551 ; GFX900-NEXT:    ;;#ASMEND
19552 ; GFX900-NEXT:    ;;#ASMSTART
19553 ; GFX900-NEXT:    ; def s[4:11]
19554 ; GFX900-NEXT:    ;;#ASMEND
19555 ; GFX900-NEXT:    s_mov_b32 s8, s10
19556 ; GFX900-NEXT:    s_mov_b32 s9, s11
19557 ; GFX900-NEXT:    s_mov_b32 s10, s12
19558 ; GFX900-NEXT:    s_mov_b32 s11, s13
19559 ; GFX900-NEXT:    s_mov_b32 s12, s18
19560 ; GFX900-NEXT:    s_mov_b32 s13, s19
19561 ; GFX900-NEXT:    s_mov_b32 s14, s18
19562 ; GFX900-NEXT:    s_mov_b32 s15, s19
19563 ; GFX900-NEXT:    ;;#ASMSTART
19564 ; GFX900-NEXT:    ; use s[8:15]
19565 ; GFX900-NEXT:    ;;#ASMEND
19566 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
19567 ;
19568 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_0_3_3:
19569 ; GFX90A:       ; %bb.0:
19570 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19571 ; GFX90A-NEXT:    ;;#ASMSTART
19572 ; GFX90A-NEXT:    ; def s[12:19]
19573 ; GFX90A-NEXT:    ;;#ASMEND
19574 ; GFX90A-NEXT:    ;;#ASMSTART
19575 ; GFX90A-NEXT:    ; def s[4:11]
19576 ; GFX90A-NEXT:    ;;#ASMEND
19577 ; GFX90A-NEXT:    s_mov_b32 s8, s10
19578 ; GFX90A-NEXT:    s_mov_b32 s9, s11
19579 ; GFX90A-NEXT:    s_mov_b32 s10, s12
19580 ; GFX90A-NEXT:    s_mov_b32 s11, s13
19581 ; GFX90A-NEXT:    s_mov_b32 s12, s18
19582 ; GFX90A-NEXT:    s_mov_b32 s13, s19
19583 ; GFX90A-NEXT:    s_mov_b32 s14, s18
19584 ; GFX90A-NEXT:    s_mov_b32 s15, s19
19585 ; GFX90A-NEXT:    ;;#ASMSTART
19586 ; GFX90A-NEXT:    ; use s[8:15]
19587 ; GFX90A-NEXT:    ;;#ASMEND
19588 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
19589 ;
19590 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_0_3_3:
19591 ; GFX940:       ; %bb.0:
19592 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19593 ; GFX940-NEXT:    ;;#ASMSTART
19594 ; GFX940-NEXT:    ; def s[8:15]
19595 ; GFX940-NEXT:    ;;#ASMEND
19596 ; GFX940-NEXT:    ;;#ASMSTART
19597 ; GFX940-NEXT:    ; def s[0:7]
19598 ; GFX940-NEXT:    ;;#ASMEND
19599 ; GFX940-NEXT:    s_mov_b32 s8, s14
19600 ; GFX940-NEXT:    s_mov_b32 s9, s15
19601 ; GFX940-NEXT:    s_mov_b32 s10, s0
19602 ; GFX940-NEXT:    s_mov_b32 s11, s1
19603 ; GFX940-NEXT:    s_mov_b32 s12, s6
19604 ; GFX940-NEXT:    s_mov_b32 s13, s7
19605 ; GFX940-NEXT:    s_mov_b32 s14, s6
19606 ; GFX940-NEXT:    s_mov_b32 s15, s7
19607 ; GFX940-NEXT:    ;;#ASMSTART
19608 ; GFX940-NEXT:    ; use s[8:15]
19609 ; GFX940-NEXT:    ;;#ASMEND
19610 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
19611   %vec0 = call <4 x i64> asm "; def $0", "=s"()
19612   %vec1 = call <4 x i64> asm "; def $0", "=s"()
19613   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 0, i32 3, i32 3>
19614   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
19615   ret void
19616 }
19617
19618 define void @s_shuffle_v4i64_v4i64__7_1_3_3() {
19619 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_1_3_3:
19620 ; GFX900:       ; %bb.0:
19621 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19622 ; GFX900-NEXT:    ;;#ASMSTART
19623 ; GFX900-NEXT:    ; def s[8:15]
19624 ; GFX900-NEXT:    ;;#ASMEND
19625 ; GFX900-NEXT:    ;;#ASMSTART
19626 ; GFX900-NEXT:    ; def s[16:23]
19627 ; GFX900-NEXT:    ;;#ASMEND
19628 ; GFX900-NEXT:    s_mov_b32 s8, s22
19629 ; GFX900-NEXT:    s_mov_b32 s9, s23
19630 ; GFX900-NEXT:    s_mov_b32 s12, s14
19631 ; GFX900-NEXT:    s_mov_b32 s13, s15
19632 ; GFX900-NEXT:    ;;#ASMSTART
19633 ; GFX900-NEXT:    ; use s[8:15]
19634 ; GFX900-NEXT:    ;;#ASMEND
19635 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
19636 ;
19637 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_1_3_3:
19638 ; GFX90A:       ; %bb.0:
19639 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19640 ; GFX90A-NEXT:    ;;#ASMSTART
19641 ; GFX90A-NEXT:    ; def s[8:15]
19642 ; GFX90A-NEXT:    ;;#ASMEND
19643 ; GFX90A-NEXT:    ;;#ASMSTART
19644 ; GFX90A-NEXT:    ; def s[16:23]
19645 ; GFX90A-NEXT:    ;;#ASMEND
19646 ; GFX90A-NEXT:    s_mov_b32 s8, s22
19647 ; GFX90A-NEXT:    s_mov_b32 s9, s23
19648 ; GFX90A-NEXT:    s_mov_b32 s12, s14
19649 ; GFX90A-NEXT:    s_mov_b32 s13, s15
19650 ; GFX90A-NEXT:    ;;#ASMSTART
19651 ; GFX90A-NEXT:    ; use s[8:15]
19652 ; GFX90A-NEXT:    ;;#ASMEND
19653 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
19654 ;
19655 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_1_3_3:
19656 ; GFX940:       ; %bb.0:
19657 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19658 ; GFX940-NEXT:    ;;#ASMSTART
19659 ; GFX940-NEXT:    ; def s[8:15]
19660 ; GFX940-NEXT:    ;;#ASMEND
19661 ; GFX940-NEXT:    ;;#ASMSTART
19662 ; GFX940-NEXT:    ; def s[0:7]
19663 ; GFX940-NEXT:    ;;#ASMEND
19664 ; GFX940-NEXT:    s_mov_b32 s8, s6
19665 ; GFX940-NEXT:    s_mov_b32 s9, s7
19666 ; GFX940-NEXT:    s_mov_b32 s12, s14
19667 ; GFX940-NEXT:    s_mov_b32 s13, s15
19668 ; GFX940-NEXT:    ;;#ASMSTART
19669 ; GFX940-NEXT:    ; use s[8:15]
19670 ; GFX940-NEXT:    ;;#ASMEND
19671 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
19672   %vec0 = call <4 x i64> asm "; def $0", "=s"()
19673   %vec1 = call <4 x i64> asm "; def $0", "=s"()
19674   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 1, i32 3, i32 3>
19675   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
19676   ret void
19677 }
19678
19679 define void @s_shuffle_v4i64_v4i64__7_2_3_3() {
19680 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_2_3_3:
19681 ; GFX900:       ; %bb.0:
19682 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19683 ; GFX900-NEXT:    ;;#ASMSTART
19684 ; GFX900-NEXT:    ; def s[8:15]
19685 ; GFX900-NEXT:    ;;#ASMEND
19686 ; GFX900-NEXT:    ;;#ASMSTART
19687 ; GFX900-NEXT:    ; def s[4:11]
19688 ; GFX900-NEXT:    ;;#ASMEND
19689 ; GFX900-NEXT:    s_mov_b32 s8, s10
19690 ; GFX900-NEXT:    s_mov_b32 s9, s11
19691 ; GFX900-NEXT:    s_mov_b32 s10, s12
19692 ; GFX900-NEXT:    s_mov_b32 s11, s13
19693 ; GFX900-NEXT:    s_mov_b32 s12, s14
19694 ; GFX900-NEXT:    s_mov_b32 s13, s15
19695 ; GFX900-NEXT:    ;;#ASMSTART
19696 ; GFX900-NEXT:    ; use s[8:15]
19697 ; GFX900-NEXT:    ;;#ASMEND
19698 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
19699 ;
19700 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_2_3_3:
19701 ; GFX90A:       ; %bb.0:
19702 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19703 ; GFX90A-NEXT:    ;;#ASMSTART
19704 ; GFX90A-NEXT:    ; def s[8:15]
19705 ; GFX90A-NEXT:    ;;#ASMEND
19706 ; GFX90A-NEXT:    ;;#ASMSTART
19707 ; GFX90A-NEXT:    ; def s[4:11]
19708 ; GFX90A-NEXT:    ;;#ASMEND
19709 ; GFX90A-NEXT:    s_mov_b32 s8, s10
19710 ; GFX90A-NEXT:    s_mov_b32 s9, s11
19711 ; GFX90A-NEXT:    s_mov_b32 s10, s12
19712 ; GFX90A-NEXT:    s_mov_b32 s11, s13
19713 ; GFX90A-NEXT:    s_mov_b32 s12, s14
19714 ; GFX90A-NEXT:    s_mov_b32 s13, s15
19715 ; GFX90A-NEXT:    ;;#ASMSTART
19716 ; GFX90A-NEXT:    ; use s[8:15]
19717 ; GFX90A-NEXT:    ;;#ASMEND
19718 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
19719 ;
19720 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_2_3_3:
19721 ; GFX940:       ; %bb.0:
19722 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19723 ; GFX940-NEXT:    ;;#ASMSTART
19724 ; GFX940-NEXT:    ; def s[8:15]
19725 ; GFX940-NEXT:    ;;#ASMEND
19726 ; GFX940-NEXT:    ;;#ASMSTART
19727 ; GFX940-NEXT:    ; def s[0:7]
19728 ; GFX940-NEXT:    ;;#ASMEND
19729 ; GFX940-NEXT:    s_mov_b32 s8, s6
19730 ; GFX940-NEXT:    s_mov_b32 s9, s7
19731 ; GFX940-NEXT:    s_mov_b32 s10, s12
19732 ; GFX940-NEXT:    s_mov_b32 s11, s13
19733 ; GFX940-NEXT:    s_mov_b32 s12, s14
19734 ; GFX940-NEXT:    s_mov_b32 s13, s15
19735 ; GFX940-NEXT:    ;;#ASMSTART
19736 ; GFX940-NEXT:    ; use s[8:15]
19737 ; GFX940-NEXT:    ;;#ASMEND
19738 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
19739   %vec0 = call <4 x i64> asm "; def $0", "=s"()
19740   %vec1 = call <4 x i64> asm "; def $0", "=s"()
19741   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 2, i32 3, i32 3>
19742   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
19743   ret void
19744 }
19745
19746 define void @s_shuffle_v4i64_v4i64__7_4_3_3() {
19747 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_4_3_3:
19748 ; GFX900:       ; %bb.0:
19749 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19750 ; GFX900-NEXT:    ;;#ASMSTART
19751 ; GFX900-NEXT:    ; def s[8:15]
19752 ; GFX900-NEXT:    ;;#ASMEND
19753 ; GFX900-NEXT:    ;;#ASMSTART
19754 ; GFX900-NEXT:    ; def s[4:11]
19755 ; GFX900-NEXT:    ;;#ASMEND
19756 ; GFX900-NEXT:    s_mov_b32 s8, s10
19757 ; GFX900-NEXT:    s_mov_b32 s9, s11
19758 ; GFX900-NEXT:    s_mov_b32 s10, s4
19759 ; GFX900-NEXT:    s_mov_b32 s11, s5
19760 ; GFX900-NEXT:    s_mov_b32 s12, s14
19761 ; GFX900-NEXT:    s_mov_b32 s13, s15
19762 ; GFX900-NEXT:    ;;#ASMSTART
19763 ; GFX900-NEXT:    ; use s[8:15]
19764 ; GFX900-NEXT:    ;;#ASMEND
19765 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
19766 ;
19767 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_4_3_3:
19768 ; GFX90A:       ; %bb.0:
19769 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19770 ; GFX90A-NEXT:    ;;#ASMSTART
19771 ; GFX90A-NEXT:    ; def s[8:15]
19772 ; GFX90A-NEXT:    ;;#ASMEND
19773 ; GFX90A-NEXT:    ;;#ASMSTART
19774 ; GFX90A-NEXT:    ; def s[4:11]
19775 ; GFX90A-NEXT:    ;;#ASMEND
19776 ; GFX90A-NEXT:    s_mov_b32 s8, s10
19777 ; GFX90A-NEXT:    s_mov_b32 s9, s11
19778 ; GFX90A-NEXT:    s_mov_b32 s10, s4
19779 ; GFX90A-NEXT:    s_mov_b32 s11, s5
19780 ; GFX90A-NEXT:    s_mov_b32 s12, s14
19781 ; GFX90A-NEXT:    s_mov_b32 s13, s15
19782 ; GFX90A-NEXT:    ;;#ASMSTART
19783 ; GFX90A-NEXT:    ; use s[8:15]
19784 ; GFX90A-NEXT:    ;;#ASMEND
19785 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
19786 ;
19787 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_4_3_3:
19788 ; GFX940:       ; %bb.0:
19789 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19790 ; GFX940-NEXT:    ;;#ASMSTART
19791 ; GFX940-NEXT:    ; def s[8:15]
19792 ; GFX940-NEXT:    ;;#ASMEND
19793 ; GFX940-NEXT:    ;;#ASMSTART
19794 ; GFX940-NEXT:    ; def s[0:7]
19795 ; GFX940-NEXT:    ;;#ASMEND
19796 ; GFX940-NEXT:    s_mov_b32 s8, s6
19797 ; GFX940-NEXT:    s_mov_b32 s9, s7
19798 ; GFX940-NEXT:    s_mov_b32 s10, s0
19799 ; GFX940-NEXT:    s_mov_b32 s11, s1
19800 ; GFX940-NEXT:    s_mov_b32 s12, s14
19801 ; GFX940-NEXT:    s_mov_b32 s13, s15
19802 ; GFX940-NEXT:    ;;#ASMSTART
19803 ; GFX940-NEXT:    ; use s[8:15]
19804 ; GFX940-NEXT:    ;;#ASMEND
19805 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
19806   %vec0 = call <4 x i64> asm "; def $0", "=s"()
19807   %vec1 = call <4 x i64> asm "; def $0", "=s"()
19808   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 4, i32 3, i32 3>
19809   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
19810   ret void
19811 }
19812
19813 define void @s_shuffle_v4i64_v4i64__7_5_3_3() {
19814 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_5_3_3:
19815 ; GFX900:       ; %bb.0:
19816 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19817 ; GFX900-NEXT:    ;;#ASMSTART
19818 ; GFX900-NEXT:    ; def s[12:19]
19819 ; GFX900-NEXT:    ;;#ASMEND
19820 ; GFX900-NEXT:    ;;#ASMSTART
19821 ; GFX900-NEXT:    ; def s[8:15]
19822 ; GFX900-NEXT:    ;;#ASMEND
19823 ; GFX900-NEXT:    s_mov_b32 s8, s14
19824 ; GFX900-NEXT:    s_mov_b32 s9, s15
19825 ; GFX900-NEXT:    s_mov_b32 s12, s18
19826 ; GFX900-NEXT:    s_mov_b32 s13, s19
19827 ; GFX900-NEXT:    s_mov_b32 s14, s18
19828 ; GFX900-NEXT:    s_mov_b32 s15, s19
19829 ; GFX900-NEXT:    ;;#ASMSTART
19830 ; GFX900-NEXT:    ; use s[8:15]
19831 ; GFX900-NEXT:    ;;#ASMEND
19832 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
19833 ;
19834 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_5_3_3:
19835 ; GFX90A:       ; %bb.0:
19836 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19837 ; GFX90A-NEXT:    ;;#ASMSTART
19838 ; GFX90A-NEXT:    ; def s[12:19]
19839 ; GFX90A-NEXT:    ;;#ASMEND
19840 ; GFX90A-NEXT:    ;;#ASMSTART
19841 ; GFX90A-NEXT:    ; def s[8:15]
19842 ; GFX90A-NEXT:    ;;#ASMEND
19843 ; GFX90A-NEXT:    s_mov_b32 s8, s14
19844 ; GFX90A-NEXT:    s_mov_b32 s9, s15
19845 ; GFX90A-NEXT:    s_mov_b32 s12, s18
19846 ; GFX90A-NEXT:    s_mov_b32 s13, s19
19847 ; GFX90A-NEXT:    s_mov_b32 s14, s18
19848 ; GFX90A-NEXT:    s_mov_b32 s15, s19
19849 ; GFX90A-NEXT:    ;;#ASMSTART
19850 ; GFX90A-NEXT:    ; use s[8:15]
19851 ; GFX90A-NEXT:    ;;#ASMEND
19852 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
19853 ;
19854 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_5_3_3:
19855 ; GFX940:       ; %bb.0:
19856 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19857 ; GFX940-NEXT:    ;;#ASMSTART
19858 ; GFX940-NEXT:    ; def s[8:15]
19859 ; GFX940-NEXT:    ;;#ASMEND
19860 ; GFX940-NEXT:    ;;#ASMSTART
19861 ; GFX940-NEXT:    ; def s[0:7]
19862 ; GFX940-NEXT:    ;;#ASMEND
19863 ; GFX940-NEXT:    s_mov_b32 s8, s14
19864 ; GFX940-NEXT:    s_mov_b32 s9, s15
19865 ; GFX940-NEXT:    s_mov_b32 s12, s6
19866 ; GFX940-NEXT:    s_mov_b32 s13, s7
19867 ; GFX940-NEXT:    s_mov_b32 s14, s6
19868 ; GFX940-NEXT:    s_mov_b32 s15, s7
19869 ; GFX940-NEXT:    ;;#ASMSTART
19870 ; GFX940-NEXT:    ; use s[8:15]
19871 ; GFX940-NEXT:    ;;#ASMEND
19872 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
19873   %vec0 = call <4 x i64> asm "; def $0", "=s"()
19874   %vec1 = call <4 x i64> asm "; def $0", "=s"()
19875   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 5, i32 3, i32 3>
19876   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
19877   ret void
19878 }
19879
19880 define void @s_shuffle_v4i64_v4i64__7_6_3_3() {
19881 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_6_3_3:
19882 ; GFX900:       ; %bb.0:
19883 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19884 ; GFX900-NEXT:    ;;#ASMSTART
19885 ; GFX900-NEXT:    ; def s[8:15]
19886 ; GFX900-NEXT:    ;;#ASMEND
19887 ; GFX900-NEXT:    ;;#ASMSTART
19888 ; GFX900-NEXT:    ; def s[16:23]
19889 ; GFX900-NEXT:    ;;#ASMEND
19890 ; GFX900-NEXT:    s_mov_b32 s8, s22
19891 ; GFX900-NEXT:    s_mov_b32 s9, s23
19892 ; GFX900-NEXT:    s_mov_b32 s10, s20
19893 ; GFX900-NEXT:    s_mov_b32 s11, s21
19894 ; GFX900-NEXT:    s_mov_b32 s12, s14
19895 ; GFX900-NEXT:    s_mov_b32 s13, s15
19896 ; GFX900-NEXT:    ;;#ASMSTART
19897 ; GFX900-NEXT:    ; use s[8:15]
19898 ; GFX900-NEXT:    ;;#ASMEND
19899 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
19900 ;
19901 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_6_3_3:
19902 ; GFX90A:       ; %bb.0:
19903 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19904 ; GFX90A-NEXT:    ;;#ASMSTART
19905 ; GFX90A-NEXT:    ; def s[8:15]
19906 ; GFX90A-NEXT:    ;;#ASMEND
19907 ; GFX90A-NEXT:    ;;#ASMSTART
19908 ; GFX90A-NEXT:    ; def s[16:23]
19909 ; GFX90A-NEXT:    ;;#ASMEND
19910 ; GFX90A-NEXT:    s_mov_b32 s8, s22
19911 ; GFX90A-NEXT:    s_mov_b32 s9, s23
19912 ; GFX90A-NEXT:    s_mov_b32 s10, s20
19913 ; GFX90A-NEXT:    s_mov_b32 s11, s21
19914 ; GFX90A-NEXT:    s_mov_b32 s12, s14
19915 ; GFX90A-NEXT:    s_mov_b32 s13, s15
19916 ; GFX90A-NEXT:    ;;#ASMSTART
19917 ; GFX90A-NEXT:    ; use s[8:15]
19918 ; GFX90A-NEXT:    ;;#ASMEND
19919 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
19920 ;
19921 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_6_3_3:
19922 ; GFX940:       ; %bb.0:
19923 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19924 ; GFX940-NEXT:    ;;#ASMSTART
19925 ; GFX940-NEXT:    ; def s[8:15]
19926 ; GFX940-NEXT:    ;;#ASMEND
19927 ; GFX940-NEXT:    ;;#ASMSTART
19928 ; GFX940-NEXT:    ; def s[0:7]
19929 ; GFX940-NEXT:    ;;#ASMEND
19930 ; GFX940-NEXT:    s_mov_b32 s8, s6
19931 ; GFX940-NEXT:    s_mov_b32 s9, s7
19932 ; GFX940-NEXT:    s_mov_b32 s10, s4
19933 ; GFX940-NEXT:    s_mov_b32 s11, s5
19934 ; GFX940-NEXT:    s_mov_b32 s12, s14
19935 ; GFX940-NEXT:    s_mov_b32 s13, s15
19936 ; GFX940-NEXT:    ;;#ASMSTART
19937 ; GFX940-NEXT:    ; use s[8:15]
19938 ; GFX940-NEXT:    ;;#ASMEND
19939 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
19940   %vec0 = call <4 x i64> asm "; def $0", "=s"()
19941   %vec1 = call <4 x i64> asm "; def $0", "=s"()
19942   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 6, i32 3, i32 3>
19943   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
19944   ret void
19945 }
19946
19947 define void @s_shuffle_v4i64_v4i64__7_7_3_3() {
19948 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_3_3:
19949 ; GFX900:       ; %bb.0:
19950 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19951 ; GFX900-NEXT:    ;;#ASMSTART
19952 ; GFX900-NEXT:    ; def s[8:15]
19953 ; GFX900-NEXT:    ;;#ASMEND
19954 ; GFX900-NEXT:    ;;#ASMSTART
19955 ; GFX900-NEXT:    ; def s[4:11]
19956 ; GFX900-NEXT:    ;;#ASMEND
19957 ; GFX900-NEXT:    s_mov_b32 s8, s10
19958 ; GFX900-NEXT:    s_mov_b32 s9, s11
19959 ; GFX900-NEXT:    s_mov_b32 s12, s14
19960 ; GFX900-NEXT:    s_mov_b32 s13, s15
19961 ; GFX900-NEXT:    ;;#ASMSTART
19962 ; GFX900-NEXT:    ; use s[8:15]
19963 ; GFX900-NEXT:    ;;#ASMEND
19964 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
19965 ;
19966 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_3_3:
19967 ; GFX90A:       ; %bb.0:
19968 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19969 ; GFX90A-NEXT:    ;;#ASMSTART
19970 ; GFX90A-NEXT:    ; def s[8:15]
19971 ; GFX90A-NEXT:    ;;#ASMEND
19972 ; GFX90A-NEXT:    ;;#ASMSTART
19973 ; GFX90A-NEXT:    ; def s[4:11]
19974 ; GFX90A-NEXT:    ;;#ASMEND
19975 ; GFX90A-NEXT:    s_mov_b32 s8, s10
19976 ; GFX90A-NEXT:    s_mov_b32 s9, s11
19977 ; GFX90A-NEXT:    s_mov_b32 s12, s14
19978 ; GFX90A-NEXT:    s_mov_b32 s13, s15
19979 ; GFX90A-NEXT:    ;;#ASMSTART
19980 ; GFX90A-NEXT:    ; use s[8:15]
19981 ; GFX90A-NEXT:    ;;#ASMEND
19982 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
19983 ;
19984 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_3_3:
19985 ; GFX940:       ; %bb.0:
19986 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
19987 ; GFX940-NEXT:    ;;#ASMSTART
19988 ; GFX940-NEXT:    ; def s[8:15]
19989 ; GFX940-NEXT:    ;;#ASMEND
19990 ; GFX940-NEXT:    ;;#ASMSTART
19991 ; GFX940-NEXT:    ; def s[0:7]
19992 ; GFX940-NEXT:    ;;#ASMEND
19993 ; GFX940-NEXT:    s_mov_b32 s8, s6
19994 ; GFX940-NEXT:    s_mov_b32 s9, s7
19995 ; GFX940-NEXT:    s_mov_b32 s10, s6
19996 ; GFX940-NEXT:    s_mov_b32 s11, s7
19997 ; GFX940-NEXT:    s_mov_b32 s12, s14
19998 ; GFX940-NEXT:    s_mov_b32 s13, s15
19999 ; GFX940-NEXT:    ;;#ASMSTART
20000 ; GFX940-NEXT:    ; use s[8:15]
20001 ; GFX940-NEXT:    ;;#ASMEND
20002 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
20003   %vec0 = call <4 x i64> asm "; def $0", "=s"()
20004   %vec1 = call <4 x i64> asm "; def $0", "=s"()
20005   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 3, i32 3>
20006   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
20007   ret void
20008 }
20009
20010 define void @s_shuffle_v4i64_v4i64__7_7_u_3() {
20011 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_u_3:
20012 ; GFX900:       ; %bb.0:
20013 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20014 ; GFX900-NEXT:    ;;#ASMSTART
20015 ; GFX900-NEXT:    ; def s[8:15]
20016 ; GFX900-NEXT:    ;;#ASMEND
20017 ; GFX900-NEXT:    ;;#ASMSTART
20018 ; GFX900-NEXT:    ; def s[4:11]
20019 ; GFX900-NEXT:    ;;#ASMEND
20020 ; GFX900-NEXT:    s_mov_b32 s8, s10
20021 ; GFX900-NEXT:    s_mov_b32 s9, s11
20022 ; GFX900-NEXT:    ;;#ASMSTART
20023 ; GFX900-NEXT:    ; use s[8:15]
20024 ; GFX900-NEXT:    ;;#ASMEND
20025 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
20026 ;
20027 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_u_3:
20028 ; GFX90A:       ; %bb.0:
20029 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20030 ; GFX90A-NEXT:    ;;#ASMSTART
20031 ; GFX90A-NEXT:    ; def s[8:15]
20032 ; GFX90A-NEXT:    ;;#ASMEND
20033 ; GFX90A-NEXT:    ;;#ASMSTART
20034 ; GFX90A-NEXT:    ; def s[4:11]
20035 ; GFX90A-NEXT:    ;;#ASMEND
20036 ; GFX90A-NEXT:    s_mov_b32 s8, s10
20037 ; GFX90A-NEXT:    s_mov_b32 s9, s11
20038 ; GFX90A-NEXT:    ;;#ASMSTART
20039 ; GFX90A-NEXT:    ; use s[8:15]
20040 ; GFX90A-NEXT:    ;;#ASMEND
20041 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
20042 ;
20043 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_u_3:
20044 ; GFX940:       ; %bb.0:
20045 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20046 ; GFX940-NEXT:    ;;#ASMSTART
20047 ; GFX940-NEXT:    ; def s[8:15]
20048 ; GFX940-NEXT:    ;;#ASMEND
20049 ; GFX940-NEXT:    ;;#ASMSTART
20050 ; GFX940-NEXT:    ; def s[0:7]
20051 ; GFX940-NEXT:    ;;#ASMEND
20052 ; GFX940-NEXT:    s_mov_b32 s8, s6
20053 ; GFX940-NEXT:    s_mov_b32 s9, s7
20054 ; GFX940-NEXT:    s_mov_b32 s10, s6
20055 ; GFX940-NEXT:    s_mov_b32 s11, s7
20056 ; GFX940-NEXT:    ;;#ASMSTART
20057 ; GFX940-NEXT:    ; use s[8:15]
20058 ; GFX940-NEXT:    ;;#ASMEND
20059 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
20060   %vec0 = call <4 x i64> asm "; def $0", "=s"()
20061   %vec1 = call <4 x i64> asm "; def $0", "=s"()
20062   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 poison, i32 3>
20063   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
20064   ret void
20065 }
20066
20067 define void @s_shuffle_v4i64_v4i64__7_7_0_3() {
20068 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_0_3:
20069 ; GFX900:       ; %bb.0:
20070 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20071 ; GFX900-NEXT:    ;;#ASMSTART
20072 ; GFX900-NEXT:    ; def s[12:19]
20073 ; GFX900-NEXT:    ;;#ASMEND
20074 ; GFX900-NEXT:    ;;#ASMSTART
20075 ; GFX900-NEXT:    ; def s[4:11]
20076 ; GFX900-NEXT:    ;;#ASMEND
20077 ; GFX900-NEXT:    s_mov_b32 s8, s10
20078 ; GFX900-NEXT:    s_mov_b32 s9, s11
20079 ; GFX900-NEXT:    s_mov_b32 s14, s18
20080 ; GFX900-NEXT:    s_mov_b32 s15, s19
20081 ; GFX900-NEXT:    ;;#ASMSTART
20082 ; GFX900-NEXT:    ; use s[8:15]
20083 ; GFX900-NEXT:    ;;#ASMEND
20084 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
20085 ;
20086 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_0_3:
20087 ; GFX90A:       ; %bb.0:
20088 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20089 ; GFX90A-NEXT:    ;;#ASMSTART
20090 ; GFX90A-NEXT:    ; def s[12:19]
20091 ; GFX90A-NEXT:    ;;#ASMEND
20092 ; GFX90A-NEXT:    ;;#ASMSTART
20093 ; GFX90A-NEXT:    ; def s[4:11]
20094 ; GFX90A-NEXT:    ;;#ASMEND
20095 ; GFX90A-NEXT:    s_mov_b32 s8, s10
20096 ; GFX90A-NEXT:    s_mov_b32 s9, s11
20097 ; GFX90A-NEXT:    s_mov_b32 s14, s18
20098 ; GFX90A-NEXT:    s_mov_b32 s15, s19
20099 ; GFX90A-NEXT:    ;;#ASMSTART
20100 ; GFX90A-NEXT:    ; use s[8:15]
20101 ; GFX90A-NEXT:    ;;#ASMEND
20102 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
20103 ;
20104 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_0_3:
20105 ; GFX940:       ; %bb.0:
20106 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20107 ; GFX940-NEXT:    ;;#ASMSTART
20108 ; GFX940-NEXT:    ; def s[8:15]
20109 ; GFX940-NEXT:    ;;#ASMEND
20110 ; GFX940-NEXT:    ;;#ASMSTART
20111 ; GFX940-NEXT:    ; def s[0:7]
20112 ; GFX940-NEXT:    ;;#ASMEND
20113 ; GFX940-NEXT:    s_mov_b32 s8, s14
20114 ; GFX940-NEXT:    s_mov_b32 s9, s15
20115 ; GFX940-NEXT:    s_mov_b32 s10, s14
20116 ; GFX940-NEXT:    s_mov_b32 s11, s15
20117 ; GFX940-NEXT:    s_mov_b32 s12, s0
20118 ; GFX940-NEXT:    s_mov_b32 s13, s1
20119 ; GFX940-NEXT:    s_mov_b32 s14, s6
20120 ; GFX940-NEXT:    s_mov_b32 s15, s7
20121 ; GFX940-NEXT:    ;;#ASMSTART
20122 ; GFX940-NEXT:    ; use s[8:15]
20123 ; GFX940-NEXT:    ;;#ASMEND
20124 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
20125   %vec0 = call <4 x i64> asm "; def $0", "=s"()
20126   %vec1 = call <4 x i64> asm "; def $0", "=s"()
20127   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 0, i32 3>
20128   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
20129   ret void
20130 }
20131
20132 define void @s_shuffle_v4i64_v4i64__7_7_1_3() {
20133 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_1_3:
20134 ; GFX900:       ; %bb.0:
20135 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20136 ; GFX900-NEXT:    ;;#ASMSTART
20137 ; GFX900-NEXT:    ; def s[12:19]
20138 ; GFX900-NEXT:    ;;#ASMEND
20139 ; GFX900-NEXT:    ;;#ASMSTART
20140 ; GFX900-NEXT:    ; def s[4:11]
20141 ; GFX900-NEXT:    ;;#ASMEND
20142 ; GFX900-NEXT:    s_mov_b32 s8, s10
20143 ; GFX900-NEXT:    s_mov_b32 s9, s11
20144 ; GFX900-NEXT:    s_mov_b32 s12, s14
20145 ; GFX900-NEXT:    s_mov_b32 s13, s15
20146 ; GFX900-NEXT:    s_mov_b32 s14, s18
20147 ; GFX900-NEXT:    s_mov_b32 s15, s19
20148 ; GFX900-NEXT:    ;;#ASMSTART
20149 ; GFX900-NEXT:    ; use s[8:15]
20150 ; GFX900-NEXT:    ;;#ASMEND
20151 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
20152 ;
20153 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_1_3:
20154 ; GFX90A:       ; %bb.0:
20155 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20156 ; GFX90A-NEXT:    ;;#ASMSTART
20157 ; GFX90A-NEXT:    ; def s[12:19]
20158 ; GFX90A-NEXT:    ;;#ASMEND
20159 ; GFX90A-NEXT:    ;;#ASMSTART
20160 ; GFX90A-NEXT:    ; def s[4:11]
20161 ; GFX90A-NEXT:    ;;#ASMEND
20162 ; GFX90A-NEXT:    s_mov_b32 s8, s10
20163 ; GFX90A-NEXT:    s_mov_b32 s9, s11
20164 ; GFX90A-NEXT:    s_mov_b32 s12, s14
20165 ; GFX90A-NEXT:    s_mov_b32 s13, s15
20166 ; GFX90A-NEXT:    s_mov_b32 s14, s18
20167 ; GFX90A-NEXT:    s_mov_b32 s15, s19
20168 ; GFX90A-NEXT:    ;;#ASMSTART
20169 ; GFX90A-NEXT:    ; use s[8:15]
20170 ; GFX90A-NEXT:    ;;#ASMEND
20171 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
20172 ;
20173 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_1_3:
20174 ; GFX940:       ; %bb.0:
20175 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20176 ; GFX940-NEXT:    ;;#ASMSTART
20177 ; GFX940-NEXT:    ; def s[8:15]
20178 ; GFX940-NEXT:    ;;#ASMEND
20179 ; GFX940-NEXT:    ;;#ASMSTART
20180 ; GFX940-NEXT:    ; def s[0:7]
20181 ; GFX940-NEXT:    ;;#ASMEND
20182 ; GFX940-NEXT:    s_mov_b32 s8, s14
20183 ; GFX940-NEXT:    s_mov_b32 s9, s15
20184 ; GFX940-NEXT:    s_mov_b32 s10, s14
20185 ; GFX940-NEXT:    s_mov_b32 s11, s15
20186 ; GFX940-NEXT:    s_mov_b32 s12, s2
20187 ; GFX940-NEXT:    s_mov_b32 s13, s3
20188 ; GFX940-NEXT:    s_mov_b32 s14, s6
20189 ; GFX940-NEXT:    s_mov_b32 s15, s7
20190 ; GFX940-NEXT:    ;;#ASMSTART
20191 ; GFX940-NEXT:    ; use s[8:15]
20192 ; GFX940-NEXT:    ;;#ASMEND
20193 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
20194   %vec0 = call <4 x i64> asm "; def $0", "=s"()
20195   %vec1 = call <4 x i64> asm "; def $0", "=s"()
20196   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 1, i32 3>
20197   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
20198   ret void
20199 }
20200
20201 define void @s_shuffle_v4i64_v4i64__7_7_2_3() {
20202 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_2_3:
20203 ; GFX900:       ; %bb.0:
20204 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20205 ; GFX900-NEXT:    ;;#ASMSTART
20206 ; GFX900-NEXT:    ; def s[8:15]
20207 ; GFX900-NEXT:    ;;#ASMEND
20208 ; GFX900-NEXT:    ;;#ASMSTART
20209 ; GFX900-NEXT:    ; def s[4:11]
20210 ; GFX900-NEXT:    ;;#ASMEND
20211 ; GFX900-NEXT:    s_mov_b32 s8, s10
20212 ; GFX900-NEXT:    s_mov_b32 s9, s11
20213 ; GFX900-NEXT:    ;;#ASMSTART
20214 ; GFX900-NEXT:    ; use s[8:15]
20215 ; GFX900-NEXT:    ;;#ASMEND
20216 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
20217 ;
20218 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_2_3:
20219 ; GFX90A:       ; %bb.0:
20220 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20221 ; GFX90A-NEXT:    ;;#ASMSTART
20222 ; GFX90A-NEXT:    ; def s[8:15]
20223 ; GFX90A-NEXT:    ;;#ASMEND
20224 ; GFX90A-NEXT:    ;;#ASMSTART
20225 ; GFX90A-NEXT:    ; def s[4:11]
20226 ; GFX90A-NEXT:    ;;#ASMEND
20227 ; GFX90A-NEXT:    s_mov_b32 s8, s10
20228 ; GFX90A-NEXT:    s_mov_b32 s9, s11
20229 ; GFX90A-NEXT:    ;;#ASMSTART
20230 ; GFX90A-NEXT:    ; use s[8:15]
20231 ; GFX90A-NEXT:    ;;#ASMEND
20232 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
20233 ;
20234 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_2_3:
20235 ; GFX940:       ; %bb.0:
20236 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20237 ; GFX940-NEXT:    ;;#ASMSTART
20238 ; GFX940-NEXT:    ; def s[8:15]
20239 ; GFX940-NEXT:    ;;#ASMEND
20240 ; GFX940-NEXT:    ;;#ASMSTART
20241 ; GFX940-NEXT:    ; def s[0:7]
20242 ; GFX940-NEXT:    ;;#ASMEND
20243 ; GFX940-NEXT:    s_mov_b32 s8, s6
20244 ; GFX940-NEXT:    s_mov_b32 s9, s7
20245 ; GFX940-NEXT:    s_mov_b32 s10, s6
20246 ; GFX940-NEXT:    s_mov_b32 s11, s7
20247 ; GFX940-NEXT:    ;;#ASMSTART
20248 ; GFX940-NEXT:    ; use s[8:15]
20249 ; GFX940-NEXT:    ;;#ASMEND
20250 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
20251   %vec0 = call <4 x i64> asm "; def $0", "=s"()
20252   %vec1 = call <4 x i64> asm "; def $0", "=s"()
20253   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 2, i32 3>
20254   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
20255   ret void
20256 }
20257
20258 define void @s_shuffle_v4i64_v4i64__7_7_4_3() {
20259 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_4_3:
20260 ; GFX900:       ; %bb.0:
20261 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20262 ; GFX900-NEXT:    ;;#ASMSTART
20263 ; GFX900-NEXT:    ; def s[8:15]
20264 ; GFX900-NEXT:    ;;#ASMEND
20265 ; GFX900-NEXT:    ;;#ASMSTART
20266 ; GFX900-NEXT:    ; def s[4:11]
20267 ; GFX900-NEXT:    ;;#ASMEND
20268 ; GFX900-NEXT:    s_mov_b32 s8, s10
20269 ; GFX900-NEXT:    s_mov_b32 s9, s11
20270 ; GFX900-NEXT:    s_mov_b32 s12, s4
20271 ; GFX900-NEXT:    s_mov_b32 s13, s5
20272 ; GFX900-NEXT:    ;;#ASMSTART
20273 ; GFX900-NEXT:    ; use s[8:15]
20274 ; GFX900-NEXT:    ;;#ASMEND
20275 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
20276 ;
20277 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_4_3:
20278 ; GFX90A:       ; %bb.0:
20279 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20280 ; GFX90A-NEXT:    ;;#ASMSTART
20281 ; GFX90A-NEXT:    ; def s[8:15]
20282 ; GFX90A-NEXT:    ;;#ASMEND
20283 ; GFX90A-NEXT:    ;;#ASMSTART
20284 ; GFX90A-NEXT:    ; def s[4:11]
20285 ; GFX90A-NEXT:    ;;#ASMEND
20286 ; GFX90A-NEXT:    s_mov_b32 s8, s10
20287 ; GFX90A-NEXT:    s_mov_b32 s9, s11
20288 ; GFX90A-NEXT:    s_mov_b32 s12, s4
20289 ; GFX90A-NEXT:    s_mov_b32 s13, s5
20290 ; GFX90A-NEXT:    ;;#ASMSTART
20291 ; GFX90A-NEXT:    ; use s[8:15]
20292 ; GFX90A-NEXT:    ;;#ASMEND
20293 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
20294 ;
20295 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_4_3:
20296 ; GFX940:       ; %bb.0:
20297 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20298 ; GFX940-NEXT:    ;;#ASMSTART
20299 ; GFX940-NEXT:    ; def s[8:15]
20300 ; GFX940-NEXT:    ;;#ASMEND
20301 ; GFX940-NEXT:    ;;#ASMSTART
20302 ; GFX940-NEXT:    ; def s[0:7]
20303 ; GFX940-NEXT:    ;;#ASMEND
20304 ; GFX940-NEXT:    s_mov_b32 s8, s6
20305 ; GFX940-NEXT:    s_mov_b32 s9, s7
20306 ; GFX940-NEXT:    s_mov_b32 s10, s6
20307 ; GFX940-NEXT:    s_mov_b32 s11, s7
20308 ; GFX940-NEXT:    s_mov_b32 s12, s0
20309 ; GFX940-NEXT:    s_mov_b32 s13, s1
20310 ; GFX940-NEXT:    ;;#ASMSTART
20311 ; GFX940-NEXT:    ; use s[8:15]
20312 ; GFX940-NEXT:    ;;#ASMEND
20313 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
20314   %vec0 = call <4 x i64> asm "; def $0", "=s"()
20315   %vec1 = call <4 x i64> asm "; def $0", "=s"()
20316   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 4, i32 3>
20317   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
20318   ret void
20319 }
20320
20321 define void @s_shuffle_v4i64_v4i64__7_7_5_3() {
20322 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_5_3:
20323 ; GFX900:       ; %bb.0:
20324 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20325 ; GFX900-NEXT:    ;;#ASMSTART
20326 ; GFX900-NEXT:    ; def s[8:15]
20327 ; GFX900-NEXT:    ;;#ASMEND
20328 ; GFX900-NEXT:    ;;#ASMSTART
20329 ; GFX900-NEXT:    ; def s[4:11]
20330 ; GFX900-NEXT:    ;;#ASMEND
20331 ; GFX900-NEXT:    s_mov_b32 s8, s10
20332 ; GFX900-NEXT:    s_mov_b32 s9, s11
20333 ; GFX900-NEXT:    s_mov_b32 s12, s6
20334 ; GFX900-NEXT:    s_mov_b32 s13, s7
20335 ; GFX900-NEXT:    ;;#ASMSTART
20336 ; GFX900-NEXT:    ; use s[8:15]
20337 ; GFX900-NEXT:    ;;#ASMEND
20338 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
20339 ;
20340 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_5_3:
20341 ; GFX90A:       ; %bb.0:
20342 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20343 ; GFX90A-NEXT:    ;;#ASMSTART
20344 ; GFX90A-NEXT:    ; def s[8:15]
20345 ; GFX90A-NEXT:    ;;#ASMEND
20346 ; GFX90A-NEXT:    ;;#ASMSTART
20347 ; GFX90A-NEXT:    ; def s[4:11]
20348 ; GFX90A-NEXT:    ;;#ASMEND
20349 ; GFX90A-NEXT:    s_mov_b32 s8, s10
20350 ; GFX90A-NEXT:    s_mov_b32 s9, s11
20351 ; GFX90A-NEXT:    s_mov_b32 s12, s6
20352 ; GFX90A-NEXT:    s_mov_b32 s13, s7
20353 ; GFX90A-NEXT:    ;;#ASMSTART
20354 ; GFX90A-NEXT:    ; use s[8:15]
20355 ; GFX90A-NEXT:    ;;#ASMEND
20356 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
20357 ;
20358 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_5_3:
20359 ; GFX940:       ; %bb.0:
20360 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20361 ; GFX940-NEXT:    ;;#ASMSTART
20362 ; GFX940-NEXT:    ; def s[8:15]
20363 ; GFX940-NEXT:    ;;#ASMEND
20364 ; GFX940-NEXT:    ;;#ASMSTART
20365 ; GFX940-NEXT:    ; def s[0:7]
20366 ; GFX940-NEXT:    ;;#ASMEND
20367 ; GFX940-NEXT:    s_mov_b32 s8, s6
20368 ; GFX940-NEXT:    s_mov_b32 s9, s7
20369 ; GFX940-NEXT:    s_mov_b32 s10, s6
20370 ; GFX940-NEXT:    s_mov_b32 s11, s7
20371 ; GFX940-NEXT:    s_mov_b32 s12, s2
20372 ; GFX940-NEXT:    s_mov_b32 s13, s3
20373 ; GFX940-NEXT:    ;;#ASMSTART
20374 ; GFX940-NEXT:    ; use s[8:15]
20375 ; GFX940-NEXT:    ;;#ASMEND
20376 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
20377   %vec0 = call <4 x i64> asm "; def $0", "=s"()
20378   %vec1 = call <4 x i64> asm "; def $0", "=s"()
20379   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 5, i32 3>
20380   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
20381   ret void
20382 }
20383
20384 define void @s_shuffle_v4i64_v4i64__7_7_6_3() {
20385 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_6_3:
20386 ; GFX900:       ; %bb.0:
20387 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20388 ; GFX900-NEXT:    ;;#ASMSTART
20389 ; GFX900-NEXT:    ; def s[12:19]
20390 ; GFX900-NEXT:    ;;#ASMEND
20391 ; GFX900-NEXT:    ;;#ASMSTART
20392 ; GFX900-NEXT:    ; def s[8:15]
20393 ; GFX900-NEXT:    ;;#ASMEND
20394 ; GFX900-NEXT:    s_mov_b32 s8, s14
20395 ; GFX900-NEXT:    s_mov_b32 s9, s15
20396 ; GFX900-NEXT:    s_mov_b32 s10, s14
20397 ; GFX900-NEXT:    s_mov_b32 s11, s15
20398 ; GFX900-NEXT:    s_mov_b32 s14, s18
20399 ; GFX900-NEXT:    s_mov_b32 s15, s19
20400 ; GFX900-NEXT:    ;;#ASMSTART
20401 ; GFX900-NEXT:    ; use s[8:15]
20402 ; GFX900-NEXT:    ;;#ASMEND
20403 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
20404 ;
20405 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_6_3:
20406 ; GFX90A:       ; %bb.0:
20407 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20408 ; GFX90A-NEXT:    ;;#ASMSTART
20409 ; GFX90A-NEXT:    ; def s[12:19]
20410 ; GFX90A-NEXT:    ;;#ASMEND
20411 ; GFX90A-NEXT:    ;;#ASMSTART
20412 ; GFX90A-NEXT:    ; def s[8:15]
20413 ; GFX90A-NEXT:    ;;#ASMEND
20414 ; GFX90A-NEXT:    s_mov_b32 s8, s14
20415 ; GFX90A-NEXT:    s_mov_b32 s9, s15
20416 ; GFX90A-NEXT:    s_mov_b32 s10, s14
20417 ; GFX90A-NEXT:    s_mov_b32 s11, s15
20418 ; GFX90A-NEXT:    s_mov_b32 s14, s18
20419 ; GFX90A-NEXT:    s_mov_b32 s15, s19
20420 ; GFX90A-NEXT:    ;;#ASMSTART
20421 ; GFX90A-NEXT:    ; use s[8:15]
20422 ; GFX90A-NEXT:    ;;#ASMEND
20423 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
20424 ;
20425 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_6_3:
20426 ; GFX940:       ; %bb.0:
20427 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20428 ; GFX940-NEXT:    ;;#ASMSTART
20429 ; GFX940-NEXT:    ; def s[8:15]
20430 ; GFX940-NEXT:    ;;#ASMEND
20431 ; GFX940-NEXT:    ;;#ASMSTART
20432 ; GFX940-NEXT:    ; def s[0:7]
20433 ; GFX940-NEXT:    ;;#ASMEND
20434 ; GFX940-NEXT:    s_mov_b32 s8, s14
20435 ; GFX940-NEXT:    s_mov_b32 s9, s15
20436 ; GFX940-NEXT:    s_mov_b32 s10, s14
20437 ; GFX940-NEXT:    s_mov_b32 s11, s15
20438 ; GFX940-NEXT:    s_mov_b32 s14, s6
20439 ; GFX940-NEXT:    s_mov_b32 s15, s7
20440 ; GFX940-NEXT:    ;;#ASMSTART
20441 ; GFX940-NEXT:    ; use s[8:15]
20442 ; GFX940-NEXT:    ;;#ASMEND
20443 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
20444   %vec0 = call <4 x i64> asm "; def $0", "=s"()
20445   %vec1 = call <4 x i64> asm "; def $0", "=s"()
20446   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 6, i32 3>
20447   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
20448   ret void
20449 }
20450
20451 define void @s_shuffle_v4i64_v4i64__u_4_4_4() {
20452 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__u_4_4_4:
20453 ; GFX9:       ; %bb.0:
20454 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20455 ; GFX9-NEXT:    ;;#ASMSTART
20456 ; GFX9-NEXT:    ; use s[8:15]
20457 ; GFX9-NEXT:    ;;#ASMEND
20458 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
20459   %vec0 = call <4 x i64> asm "; def $0", "=s"()
20460   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 poison, i32 4, i32 4, i32 4>
20461   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
20462   ret void
20463 }
20464
20465 define void @s_shuffle_v4i64_v4i64__0_4_4_4() {
20466 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__0_4_4_4:
20467 ; GFX900:       ; %bb.0:
20468 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20469 ; GFX900-NEXT:    ;;#ASMSTART
20470 ; GFX900-NEXT:    ; def s[8:15]
20471 ; GFX900-NEXT:    ;;#ASMEND
20472 ; GFX900-NEXT:    ;;#ASMSTART
20473 ; GFX900-NEXT:    ; use s[8:15]
20474 ; GFX900-NEXT:    ;;#ASMEND
20475 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
20476 ;
20477 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__0_4_4_4:
20478 ; GFX90A:       ; %bb.0:
20479 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20480 ; GFX90A-NEXT:    ;;#ASMSTART
20481 ; GFX90A-NEXT:    ; def s[8:15]
20482 ; GFX90A-NEXT:    ;;#ASMEND
20483 ; GFX90A-NEXT:    ;;#ASMSTART
20484 ; GFX90A-NEXT:    ; use s[8:15]
20485 ; GFX90A-NEXT:    ;;#ASMEND
20486 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
20487 ;
20488 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__0_4_4_4:
20489 ; GFX940:       ; %bb.0:
20490 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20491 ; GFX940-NEXT:    ;;#ASMSTART
20492 ; GFX940-NEXT:    ; def s[8:15]
20493 ; GFX940-NEXT:    ;;#ASMEND
20494 ; GFX940-NEXT:    s_nop 0
20495 ; GFX940-NEXT:    ;;#ASMSTART
20496 ; GFX940-NEXT:    ; use s[8:15]
20497 ; GFX940-NEXT:    ;;#ASMEND
20498 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
20499   %vec0 = call <4 x i64> asm "; def $0", "=s"()
20500   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 0, i32 4, i32 4, i32 4>
20501   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
20502   ret void
20503 }
20504
20505 define void @s_shuffle_v4i64_v4i64__1_4_4_4() {
20506 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__1_4_4_4:
20507 ; GFX900:       ; %bb.0:
20508 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20509 ; GFX900-NEXT:    ;;#ASMSTART
20510 ; GFX900-NEXT:    ; def s[4:11]
20511 ; GFX900-NEXT:    ;;#ASMEND
20512 ; GFX900-NEXT:    s_mov_b32 s8, s6
20513 ; GFX900-NEXT:    s_mov_b32 s9, s7
20514 ; GFX900-NEXT:    ;;#ASMSTART
20515 ; GFX900-NEXT:    ; use s[8:15]
20516 ; GFX900-NEXT:    ;;#ASMEND
20517 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
20518 ;
20519 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__1_4_4_4:
20520 ; GFX90A:       ; %bb.0:
20521 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20522 ; GFX90A-NEXT:    ;;#ASMSTART
20523 ; GFX90A-NEXT:    ; def s[4:11]
20524 ; GFX90A-NEXT:    ;;#ASMEND
20525 ; GFX90A-NEXT:    s_mov_b32 s8, s6
20526 ; GFX90A-NEXT:    s_mov_b32 s9, s7
20527 ; GFX90A-NEXT:    ;;#ASMSTART
20528 ; GFX90A-NEXT:    ; use s[8:15]
20529 ; GFX90A-NEXT:    ;;#ASMEND
20530 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
20531 ;
20532 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__1_4_4_4:
20533 ; GFX940:       ; %bb.0:
20534 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20535 ; GFX940-NEXT:    ;;#ASMSTART
20536 ; GFX940-NEXT:    ; def s[0:7]
20537 ; GFX940-NEXT:    ;;#ASMEND
20538 ; GFX940-NEXT:    s_mov_b32 s8, s2
20539 ; GFX940-NEXT:    s_mov_b32 s9, s3
20540 ; GFX940-NEXT:    ;;#ASMSTART
20541 ; GFX940-NEXT:    ; use s[8:15]
20542 ; GFX940-NEXT:    ;;#ASMEND
20543 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
20544   %vec0 = call <4 x i64> asm "; def $0", "=s"()
20545   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 1, i32 4, i32 4, i32 4>
20546   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
20547   ret void
20548 }
20549
20550 define void @s_shuffle_v4i64_v4i64__2_4_4_4() {
20551 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__2_4_4_4:
20552 ; GFX900:       ; %bb.0:
20553 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20554 ; GFX900-NEXT:    ;;#ASMSTART
20555 ; GFX900-NEXT:    ; def s[4:11]
20556 ; GFX900-NEXT:    ;;#ASMEND
20557 ; GFX900-NEXT:    ;;#ASMSTART
20558 ; GFX900-NEXT:    ; use s[8:15]
20559 ; GFX900-NEXT:    ;;#ASMEND
20560 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
20561 ;
20562 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__2_4_4_4:
20563 ; GFX90A:       ; %bb.0:
20564 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20565 ; GFX90A-NEXT:    ;;#ASMSTART
20566 ; GFX90A-NEXT:    ; def s[4:11]
20567 ; GFX90A-NEXT:    ;;#ASMEND
20568 ; GFX90A-NEXT:    ;;#ASMSTART
20569 ; GFX90A-NEXT:    ; use s[8:15]
20570 ; GFX90A-NEXT:    ;;#ASMEND
20571 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
20572 ;
20573 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__2_4_4_4:
20574 ; GFX940:       ; %bb.0:
20575 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20576 ; GFX940-NEXT:    ;;#ASMSTART
20577 ; GFX940-NEXT:    ; def s[0:7]
20578 ; GFX940-NEXT:    ;;#ASMEND
20579 ; GFX940-NEXT:    s_mov_b32 s8, s4
20580 ; GFX940-NEXT:    s_mov_b32 s9, s5
20581 ; GFX940-NEXT:    ;;#ASMSTART
20582 ; GFX940-NEXT:    ; use s[8:15]
20583 ; GFX940-NEXT:    ;;#ASMEND
20584 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
20585   %vec0 = call <4 x i64> asm "; def $0", "=s"()
20586   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 2, i32 4, i32 4, i32 4>
20587   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
20588   ret void
20589 }
20590
20591 define void @s_shuffle_v4i64_v4i64__3_4_4_4() {
20592 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__3_4_4_4:
20593 ; GFX900:       ; %bb.0:
20594 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20595 ; GFX900-NEXT:    ;;#ASMSTART
20596 ; GFX900-NEXT:    ; def s[4:11]
20597 ; GFX900-NEXT:    ;;#ASMEND
20598 ; GFX900-NEXT:    s_mov_b32 s8, s10
20599 ; GFX900-NEXT:    s_mov_b32 s9, s11
20600 ; GFX900-NEXT:    ;;#ASMSTART
20601 ; GFX900-NEXT:    ; use s[8:15]
20602 ; GFX900-NEXT:    ;;#ASMEND
20603 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
20604 ;
20605 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__3_4_4_4:
20606 ; GFX90A:       ; %bb.0:
20607 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20608 ; GFX90A-NEXT:    ;;#ASMSTART
20609 ; GFX90A-NEXT:    ; def s[4:11]
20610 ; GFX90A-NEXT:    ;;#ASMEND
20611 ; GFX90A-NEXT:    s_mov_b32 s8, s10
20612 ; GFX90A-NEXT:    s_mov_b32 s9, s11
20613 ; GFX90A-NEXT:    ;;#ASMSTART
20614 ; GFX90A-NEXT:    ; use s[8:15]
20615 ; GFX90A-NEXT:    ;;#ASMEND
20616 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
20617 ;
20618 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__3_4_4_4:
20619 ; GFX940:       ; %bb.0:
20620 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20621 ; GFX940-NEXT:    ;;#ASMSTART
20622 ; GFX940-NEXT:    ; def s[0:7]
20623 ; GFX940-NEXT:    ;;#ASMEND
20624 ; GFX940-NEXT:    s_mov_b32 s8, s6
20625 ; GFX940-NEXT:    s_mov_b32 s9, s7
20626 ; GFX940-NEXT:    ;;#ASMSTART
20627 ; GFX940-NEXT:    ; use s[8:15]
20628 ; GFX940-NEXT:    ;;#ASMEND
20629 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
20630   %vec0 = call <4 x i64> asm "; def $0", "=s"()
20631   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 3, i32 4, i32 4, i32 4>
20632   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
20633   ret void
20634 }
20635
20636 define void @s_shuffle_v4i64_v4i64__4_4_4_4() {
20637 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__4_4_4_4:
20638 ; GFX9:       ; %bb.0:
20639 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20640 ; GFX9-NEXT:    ;;#ASMSTART
20641 ; GFX9-NEXT:    ; use s[8:15]
20642 ; GFX9-NEXT:    ;;#ASMEND
20643 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
20644   %vec0 = call <4 x i64> asm "; def $0", "=s"()
20645   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> poison, <4 x i32> <i32 4, i32 4, i32 4, i32 4>
20646   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
20647   ret void
20648 }
20649
20650 define void @s_shuffle_v4i64_v4i64__5_4_4_4() {
20651 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__5_4_4_4:
20652 ; GFX900:       ; %bb.0:
20653 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20654 ; GFX900-NEXT:    ;;#ASMSTART
20655 ; GFX900-NEXT:    ; def s[4:11]
20656 ; GFX900-NEXT:    ;;#ASMEND
20657 ; GFX900-NEXT:    s_mov_b32 s8, s6
20658 ; GFX900-NEXT:    s_mov_b32 s9, s7
20659 ; GFX900-NEXT:    s_mov_b32 s10, s4
20660 ; GFX900-NEXT:    s_mov_b32 s11, s5
20661 ; GFX900-NEXT:    s_mov_b32 s12, s4
20662 ; GFX900-NEXT:    s_mov_b32 s13, s5
20663 ; GFX900-NEXT:    s_mov_b32 s14, s4
20664 ; GFX900-NEXT:    s_mov_b32 s15, s5
20665 ; GFX900-NEXT:    ;;#ASMSTART
20666 ; GFX900-NEXT:    ; use s[8:15]
20667 ; GFX900-NEXT:    ;;#ASMEND
20668 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
20669 ;
20670 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__5_4_4_4:
20671 ; GFX90A:       ; %bb.0:
20672 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20673 ; GFX90A-NEXT:    ;;#ASMSTART
20674 ; GFX90A-NEXT:    ; def s[4:11]
20675 ; GFX90A-NEXT:    ;;#ASMEND
20676 ; GFX90A-NEXT:    s_mov_b32 s8, s6
20677 ; GFX90A-NEXT:    s_mov_b32 s9, s7
20678 ; GFX90A-NEXT:    s_mov_b32 s10, s4
20679 ; GFX90A-NEXT:    s_mov_b32 s11, s5
20680 ; GFX90A-NEXT:    s_mov_b32 s12, s4
20681 ; GFX90A-NEXT:    s_mov_b32 s13, s5
20682 ; GFX90A-NEXT:    s_mov_b32 s14, s4
20683 ; GFX90A-NEXT:    s_mov_b32 s15, s5
20684 ; GFX90A-NEXT:    ;;#ASMSTART
20685 ; GFX90A-NEXT:    ; use s[8:15]
20686 ; GFX90A-NEXT:    ;;#ASMEND
20687 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
20688 ;
20689 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__5_4_4_4:
20690 ; GFX940:       ; %bb.0:
20691 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20692 ; GFX940-NEXT:    ;;#ASMSTART
20693 ; GFX940-NEXT:    ; def s[0:7]
20694 ; GFX940-NEXT:    ;;#ASMEND
20695 ; GFX940-NEXT:    s_mov_b32 s8, s2
20696 ; GFX940-NEXT:    s_mov_b32 s9, s3
20697 ; GFX940-NEXT:    s_mov_b32 s10, s0
20698 ; GFX940-NEXT:    s_mov_b32 s11, s1
20699 ; GFX940-NEXT:    s_mov_b32 s12, s0
20700 ; GFX940-NEXT:    s_mov_b32 s13, s1
20701 ; GFX940-NEXT:    s_mov_b32 s14, s0
20702 ; GFX940-NEXT:    s_mov_b32 s15, s1
20703 ; GFX940-NEXT:    ;;#ASMSTART
20704 ; GFX940-NEXT:    ; use s[8:15]
20705 ; GFX940-NEXT:    ;;#ASMEND
20706 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
20707   %vec0 = call <4 x i64> asm "; def $0", "=s"()
20708   %vec1 = call <4 x i64> asm "; def $0", "=s"()
20709   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 5, i32 4, i32 4, i32 4>
20710   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
20711   ret void
20712 }
20713
20714 define void @s_shuffle_v4i64_v4i64__6_4_4_4() {
20715 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__6_4_4_4:
20716 ; GFX900:       ; %bb.0:
20717 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20718 ; GFX900-NEXT:    ;;#ASMSTART
20719 ; GFX900-NEXT:    ; def s[4:11]
20720 ; GFX900-NEXT:    ;;#ASMEND
20721 ; GFX900-NEXT:    s_mov_b32 s10, s4
20722 ; GFX900-NEXT:    s_mov_b32 s11, s5
20723 ; GFX900-NEXT:    s_mov_b32 s12, s4
20724 ; GFX900-NEXT:    s_mov_b32 s13, s5
20725 ; GFX900-NEXT:    s_mov_b32 s14, s4
20726 ; GFX900-NEXT:    s_mov_b32 s15, s5
20727 ; GFX900-NEXT:    ;;#ASMSTART
20728 ; GFX900-NEXT:    ; use s[8:15]
20729 ; GFX900-NEXT:    ;;#ASMEND
20730 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
20731 ;
20732 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__6_4_4_4:
20733 ; GFX90A:       ; %bb.0:
20734 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20735 ; GFX90A-NEXT:    ;;#ASMSTART
20736 ; GFX90A-NEXT:    ; def s[4:11]
20737 ; GFX90A-NEXT:    ;;#ASMEND
20738 ; GFX90A-NEXT:    s_mov_b32 s10, s4
20739 ; GFX90A-NEXT:    s_mov_b32 s11, s5
20740 ; GFX90A-NEXT:    s_mov_b32 s12, s4
20741 ; GFX90A-NEXT:    s_mov_b32 s13, s5
20742 ; GFX90A-NEXT:    s_mov_b32 s14, s4
20743 ; GFX90A-NEXT:    s_mov_b32 s15, s5
20744 ; GFX90A-NEXT:    ;;#ASMSTART
20745 ; GFX90A-NEXT:    ; use s[8:15]
20746 ; GFX90A-NEXT:    ;;#ASMEND
20747 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
20748 ;
20749 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__6_4_4_4:
20750 ; GFX940:       ; %bb.0:
20751 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20752 ; GFX940-NEXT:    ;;#ASMSTART
20753 ; GFX940-NEXT:    ; def s[0:7]
20754 ; GFX940-NEXT:    ;;#ASMEND
20755 ; GFX940-NEXT:    s_mov_b32 s8, s4
20756 ; GFX940-NEXT:    s_mov_b32 s9, s5
20757 ; GFX940-NEXT:    s_mov_b32 s10, s0
20758 ; GFX940-NEXT:    s_mov_b32 s11, s1
20759 ; GFX940-NEXT:    s_mov_b32 s12, s0
20760 ; GFX940-NEXT:    s_mov_b32 s13, s1
20761 ; GFX940-NEXT:    s_mov_b32 s14, s0
20762 ; GFX940-NEXT:    s_mov_b32 s15, s1
20763 ; GFX940-NEXT:    ;;#ASMSTART
20764 ; GFX940-NEXT:    ; use s[8:15]
20765 ; GFX940-NEXT:    ;;#ASMEND
20766 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
20767   %vec0 = call <4 x i64> asm "; def $0", "=s"()
20768   %vec1 = call <4 x i64> asm "; def $0", "=s"()
20769   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 6, i32 4, i32 4, i32 4>
20770   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
20771   ret void
20772 }
20773
20774 define void @s_shuffle_v4i64_v4i64__7_4_4_4() {
20775 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_4_4_4:
20776 ; GFX900:       ; %bb.0:
20777 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20778 ; GFX900-NEXT:    ;;#ASMSTART
20779 ; GFX900-NEXT:    ; def s[4:11]
20780 ; GFX900-NEXT:    ;;#ASMEND
20781 ; GFX900-NEXT:    s_mov_b32 s8, s10
20782 ; GFX900-NEXT:    s_mov_b32 s9, s11
20783 ; GFX900-NEXT:    s_mov_b32 s10, s4
20784 ; GFX900-NEXT:    s_mov_b32 s11, s5
20785 ; GFX900-NEXT:    s_mov_b32 s12, s4
20786 ; GFX900-NEXT:    s_mov_b32 s13, s5
20787 ; GFX900-NEXT:    s_mov_b32 s14, s4
20788 ; GFX900-NEXT:    s_mov_b32 s15, s5
20789 ; GFX900-NEXT:    ;;#ASMSTART
20790 ; GFX900-NEXT:    ; use s[8:15]
20791 ; GFX900-NEXT:    ;;#ASMEND
20792 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
20793 ;
20794 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_4_4_4:
20795 ; GFX90A:       ; %bb.0:
20796 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20797 ; GFX90A-NEXT:    ;;#ASMSTART
20798 ; GFX90A-NEXT:    ; def s[4:11]
20799 ; GFX90A-NEXT:    ;;#ASMEND
20800 ; GFX90A-NEXT:    s_mov_b32 s8, s10
20801 ; GFX90A-NEXT:    s_mov_b32 s9, s11
20802 ; GFX90A-NEXT:    s_mov_b32 s10, s4
20803 ; GFX90A-NEXT:    s_mov_b32 s11, s5
20804 ; GFX90A-NEXT:    s_mov_b32 s12, s4
20805 ; GFX90A-NEXT:    s_mov_b32 s13, s5
20806 ; GFX90A-NEXT:    s_mov_b32 s14, s4
20807 ; GFX90A-NEXT:    s_mov_b32 s15, s5
20808 ; GFX90A-NEXT:    ;;#ASMSTART
20809 ; GFX90A-NEXT:    ; use s[8:15]
20810 ; GFX90A-NEXT:    ;;#ASMEND
20811 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
20812 ;
20813 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_4_4_4:
20814 ; GFX940:       ; %bb.0:
20815 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20816 ; GFX940-NEXT:    ;;#ASMSTART
20817 ; GFX940-NEXT:    ; def s[0:7]
20818 ; GFX940-NEXT:    ;;#ASMEND
20819 ; GFX940-NEXT:    s_mov_b32 s8, s6
20820 ; GFX940-NEXT:    s_mov_b32 s9, s7
20821 ; GFX940-NEXT:    s_mov_b32 s10, s0
20822 ; GFX940-NEXT:    s_mov_b32 s11, s1
20823 ; GFX940-NEXT:    s_mov_b32 s12, s0
20824 ; GFX940-NEXT:    s_mov_b32 s13, s1
20825 ; GFX940-NEXT:    s_mov_b32 s14, s0
20826 ; GFX940-NEXT:    s_mov_b32 s15, s1
20827 ; GFX940-NEXT:    ;;#ASMSTART
20828 ; GFX940-NEXT:    ; use s[8:15]
20829 ; GFX940-NEXT:    ;;#ASMEND
20830 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
20831   %vec0 = call <4 x i64> asm "; def $0", "=s"()
20832   %vec1 = call <4 x i64> asm "; def $0", "=s"()
20833   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 4, i32 4, i32 4>
20834   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
20835   ret void
20836 }
20837
20838 define void @s_shuffle_v4i64_v4i64__7_u_4_4() {
20839 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_u_4_4:
20840 ; GFX900:       ; %bb.0:
20841 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20842 ; GFX900-NEXT:    ;;#ASMSTART
20843 ; GFX900-NEXT:    ; def s[4:11]
20844 ; GFX900-NEXT:    ;;#ASMEND
20845 ; GFX900-NEXT:    s_mov_b32 s8, s10
20846 ; GFX900-NEXT:    s_mov_b32 s9, s11
20847 ; GFX900-NEXT:    s_mov_b32 s12, s4
20848 ; GFX900-NEXT:    s_mov_b32 s13, s5
20849 ; GFX900-NEXT:    s_mov_b32 s14, s4
20850 ; GFX900-NEXT:    s_mov_b32 s15, s5
20851 ; GFX900-NEXT:    ;;#ASMSTART
20852 ; GFX900-NEXT:    ; use s[8:15]
20853 ; GFX900-NEXT:    ;;#ASMEND
20854 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
20855 ;
20856 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_u_4_4:
20857 ; GFX90A:       ; %bb.0:
20858 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20859 ; GFX90A-NEXT:    ;;#ASMSTART
20860 ; GFX90A-NEXT:    ; def s[4:11]
20861 ; GFX90A-NEXT:    ;;#ASMEND
20862 ; GFX90A-NEXT:    s_mov_b32 s8, s10
20863 ; GFX90A-NEXT:    s_mov_b32 s9, s11
20864 ; GFX90A-NEXT:    s_mov_b32 s12, s4
20865 ; GFX90A-NEXT:    s_mov_b32 s13, s5
20866 ; GFX90A-NEXT:    s_mov_b32 s14, s4
20867 ; GFX90A-NEXT:    s_mov_b32 s15, s5
20868 ; GFX90A-NEXT:    ;;#ASMSTART
20869 ; GFX90A-NEXT:    ; use s[8:15]
20870 ; GFX90A-NEXT:    ;;#ASMEND
20871 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
20872 ;
20873 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_u_4_4:
20874 ; GFX940:       ; %bb.0:
20875 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20876 ; GFX940-NEXT:    ;;#ASMSTART
20877 ; GFX940-NEXT:    ; def s[0:7]
20878 ; GFX940-NEXT:    ;;#ASMEND
20879 ; GFX940-NEXT:    s_mov_b32 s8, s6
20880 ; GFX940-NEXT:    s_mov_b32 s9, s7
20881 ; GFX940-NEXT:    s_mov_b32 s12, s0
20882 ; GFX940-NEXT:    s_mov_b32 s13, s1
20883 ; GFX940-NEXT:    s_mov_b32 s14, s0
20884 ; GFX940-NEXT:    s_mov_b32 s15, s1
20885 ; GFX940-NEXT:    ;;#ASMSTART
20886 ; GFX940-NEXT:    ; use s[8:15]
20887 ; GFX940-NEXT:    ;;#ASMEND
20888 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
20889   %vec0 = call <4 x i64> asm "; def $0", "=s"()
20890   %vec1 = call <4 x i64> asm "; def $0", "=s"()
20891   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 poison, i32 4, i32 4>
20892   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
20893   ret void
20894 }
20895
20896 define void @s_shuffle_v4i64_v4i64__7_0_4_4() {
20897 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_0_4_4:
20898 ; GFX900:       ; %bb.0:
20899 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20900 ; GFX900-NEXT:    ;;#ASMSTART
20901 ; GFX900-NEXT:    ; def s[4:11]
20902 ; GFX900-NEXT:    ;;#ASMEND
20903 ; GFX900-NEXT:    ;;#ASMSTART
20904 ; GFX900-NEXT:    ; def s[16:23]
20905 ; GFX900-NEXT:    ;;#ASMEND
20906 ; GFX900-NEXT:    s_mov_b32 s8, s22
20907 ; GFX900-NEXT:    s_mov_b32 s9, s23
20908 ; GFX900-NEXT:    s_mov_b32 s10, s4
20909 ; GFX900-NEXT:    s_mov_b32 s11, s5
20910 ; GFX900-NEXT:    s_mov_b32 s12, s16
20911 ; GFX900-NEXT:    s_mov_b32 s13, s17
20912 ; GFX900-NEXT:    s_mov_b32 s14, s16
20913 ; GFX900-NEXT:    s_mov_b32 s15, s17
20914 ; GFX900-NEXT:    ;;#ASMSTART
20915 ; GFX900-NEXT:    ; use s[8:15]
20916 ; GFX900-NEXT:    ;;#ASMEND
20917 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
20918 ;
20919 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_0_4_4:
20920 ; GFX90A:       ; %bb.0:
20921 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20922 ; GFX90A-NEXT:    ;;#ASMSTART
20923 ; GFX90A-NEXT:    ; def s[4:11]
20924 ; GFX90A-NEXT:    ;;#ASMEND
20925 ; GFX90A-NEXT:    ;;#ASMSTART
20926 ; GFX90A-NEXT:    ; def s[16:23]
20927 ; GFX90A-NEXT:    ;;#ASMEND
20928 ; GFX90A-NEXT:    s_mov_b32 s8, s22
20929 ; GFX90A-NEXT:    s_mov_b32 s9, s23
20930 ; GFX90A-NEXT:    s_mov_b32 s10, s4
20931 ; GFX90A-NEXT:    s_mov_b32 s11, s5
20932 ; GFX90A-NEXT:    s_mov_b32 s12, s16
20933 ; GFX90A-NEXT:    s_mov_b32 s13, s17
20934 ; GFX90A-NEXT:    s_mov_b32 s14, s16
20935 ; GFX90A-NEXT:    s_mov_b32 s15, s17
20936 ; GFX90A-NEXT:    ;;#ASMSTART
20937 ; GFX90A-NEXT:    ; use s[8:15]
20938 ; GFX90A-NEXT:    ;;#ASMEND
20939 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
20940 ;
20941 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_0_4_4:
20942 ; GFX940:       ; %bb.0:
20943 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20944 ; GFX940-NEXT:    ;;#ASMSTART
20945 ; GFX940-NEXT:    ; def s[0:7]
20946 ; GFX940-NEXT:    ;;#ASMEND
20947 ; GFX940-NEXT:    s_nop 0
20948 ; GFX940-NEXT:    ;;#ASMSTART
20949 ; GFX940-NEXT:    ; def s[4:11]
20950 ; GFX940-NEXT:    ;;#ASMEND
20951 ; GFX940-NEXT:    s_mov_b32 s8, s10
20952 ; GFX940-NEXT:    s_mov_b32 s9, s11
20953 ; GFX940-NEXT:    s_mov_b32 s10, s0
20954 ; GFX940-NEXT:    s_mov_b32 s11, s1
20955 ; GFX940-NEXT:    s_mov_b32 s12, s4
20956 ; GFX940-NEXT:    s_mov_b32 s13, s5
20957 ; GFX940-NEXT:    s_mov_b32 s14, s4
20958 ; GFX940-NEXT:    s_mov_b32 s15, s5
20959 ; GFX940-NEXT:    ;;#ASMSTART
20960 ; GFX940-NEXT:    ; use s[8:15]
20961 ; GFX940-NEXT:    ;;#ASMEND
20962 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
20963   %vec0 = call <4 x i64> asm "; def $0", "=s"()
20964   %vec1 = call <4 x i64> asm "; def $0", "=s"()
20965   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 0, i32 4, i32 4>
20966   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
20967   ret void
20968 }
20969
20970 define void @s_shuffle_v4i64_v4i64__7_1_4_4() {
20971 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_1_4_4:
20972 ; GFX900:       ; %bb.0:
20973 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20974 ; GFX900-NEXT:    ;;#ASMSTART
20975 ; GFX900-NEXT:    ; def s[8:15]
20976 ; GFX900-NEXT:    ;;#ASMEND
20977 ; GFX900-NEXT:    ;;#ASMSTART
20978 ; GFX900-NEXT:    ; def s[16:23]
20979 ; GFX900-NEXT:    ;;#ASMEND
20980 ; GFX900-NEXT:    s_mov_b32 s8, s22
20981 ; GFX900-NEXT:    s_mov_b32 s9, s23
20982 ; GFX900-NEXT:    s_mov_b32 s12, s16
20983 ; GFX900-NEXT:    s_mov_b32 s13, s17
20984 ; GFX900-NEXT:    s_mov_b32 s14, s16
20985 ; GFX900-NEXT:    s_mov_b32 s15, s17
20986 ; GFX900-NEXT:    ;;#ASMSTART
20987 ; GFX900-NEXT:    ; use s[8:15]
20988 ; GFX900-NEXT:    ;;#ASMEND
20989 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
20990 ;
20991 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_1_4_4:
20992 ; GFX90A:       ; %bb.0:
20993 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
20994 ; GFX90A-NEXT:    ;;#ASMSTART
20995 ; GFX90A-NEXT:    ; def s[8:15]
20996 ; GFX90A-NEXT:    ;;#ASMEND
20997 ; GFX90A-NEXT:    ;;#ASMSTART
20998 ; GFX90A-NEXT:    ; def s[16:23]
20999 ; GFX90A-NEXT:    ;;#ASMEND
21000 ; GFX90A-NEXT:    s_mov_b32 s8, s22
21001 ; GFX90A-NEXT:    s_mov_b32 s9, s23
21002 ; GFX90A-NEXT:    s_mov_b32 s12, s16
21003 ; GFX90A-NEXT:    s_mov_b32 s13, s17
21004 ; GFX90A-NEXT:    s_mov_b32 s14, s16
21005 ; GFX90A-NEXT:    s_mov_b32 s15, s17
21006 ; GFX90A-NEXT:    ;;#ASMSTART
21007 ; GFX90A-NEXT:    ; use s[8:15]
21008 ; GFX90A-NEXT:    ;;#ASMEND
21009 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
21010 ;
21011 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_1_4_4:
21012 ; GFX940:       ; %bb.0:
21013 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21014 ; GFX940-NEXT:    ;;#ASMSTART
21015 ; GFX940-NEXT:    ; def s[8:15]
21016 ; GFX940-NEXT:    ;;#ASMEND
21017 ; GFX940-NEXT:    ;;#ASMSTART
21018 ; GFX940-NEXT:    ; def s[0:7]
21019 ; GFX940-NEXT:    ;;#ASMEND
21020 ; GFX940-NEXT:    s_mov_b32 s8, s6
21021 ; GFX940-NEXT:    s_mov_b32 s9, s7
21022 ; GFX940-NEXT:    s_mov_b32 s12, s0
21023 ; GFX940-NEXT:    s_mov_b32 s13, s1
21024 ; GFX940-NEXT:    s_mov_b32 s14, s0
21025 ; GFX940-NEXT:    s_mov_b32 s15, s1
21026 ; GFX940-NEXT:    ;;#ASMSTART
21027 ; GFX940-NEXT:    ; use s[8:15]
21028 ; GFX940-NEXT:    ;;#ASMEND
21029 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
21030   %vec0 = call <4 x i64> asm "; def $0", "=s"()
21031   %vec1 = call <4 x i64> asm "; def $0", "=s"()
21032   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 1, i32 4, i32 4>
21033   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
21034   ret void
21035 }
21036
21037 define void @s_shuffle_v4i64_v4i64__7_2_4_4() {
21038 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_2_4_4:
21039 ; GFX900:       ; %bb.0:
21040 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21041 ; GFX900-NEXT:    ;;#ASMSTART
21042 ; GFX900-NEXT:    ; def s[8:15]
21043 ; GFX900-NEXT:    ;;#ASMEND
21044 ; GFX900-NEXT:    ;;#ASMSTART
21045 ; GFX900-NEXT:    ; def s[4:11]
21046 ; GFX900-NEXT:    ;;#ASMEND
21047 ; GFX900-NEXT:    s_mov_b32 s8, s10
21048 ; GFX900-NEXT:    s_mov_b32 s9, s11
21049 ; GFX900-NEXT:    s_mov_b32 s10, s12
21050 ; GFX900-NEXT:    s_mov_b32 s11, s13
21051 ; GFX900-NEXT:    s_mov_b32 s12, s4
21052 ; GFX900-NEXT:    s_mov_b32 s13, s5
21053 ; GFX900-NEXT:    s_mov_b32 s14, s4
21054 ; GFX900-NEXT:    s_mov_b32 s15, s5
21055 ; GFX900-NEXT:    ;;#ASMSTART
21056 ; GFX900-NEXT:    ; use s[8:15]
21057 ; GFX900-NEXT:    ;;#ASMEND
21058 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
21059 ;
21060 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_2_4_4:
21061 ; GFX90A:       ; %bb.0:
21062 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21063 ; GFX90A-NEXT:    ;;#ASMSTART
21064 ; GFX90A-NEXT:    ; def s[8:15]
21065 ; GFX90A-NEXT:    ;;#ASMEND
21066 ; GFX90A-NEXT:    ;;#ASMSTART
21067 ; GFX90A-NEXT:    ; def s[4:11]
21068 ; GFX90A-NEXT:    ;;#ASMEND
21069 ; GFX90A-NEXT:    s_mov_b32 s8, s10
21070 ; GFX90A-NEXT:    s_mov_b32 s9, s11
21071 ; GFX90A-NEXT:    s_mov_b32 s10, s12
21072 ; GFX90A-NEXT:    s_mov_b32 s11, s13
21073 ; GFX90A-NEXT:    s_mov_b32 s12, s4
21074 ; GFX90A-NEXT:    s_mov_b32 s13, s5
21075 ; GFX90A-NEXT:    s_mov_b32 s14, s4
21076 ; GFX90A-NEXT:    s_mov_b32 s15, s5
21077 ; GFX90A-NEXT:    ;;#ASMSTART
21078 ; GFX90A-NEXT:    ; use s[8:15]
21079 ; GFX90A-NEXT:    ;;#ASMEND
21080 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
21081 ;
21082 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_2_4_4:
21083 ; GFX940:       ; %bb.0:
21084 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21085 ; GFX940-NEXT:    ;;#ASMSTART
21086 ; GFX940-NEXT:    ; def s[0:7]
21087 ; GFX940-NEXT:    ;;#ASMEND
21088 ; GFX940-NEXT:    ;;#ASMSTART
21089 ; GFX940-NEXT:    ; def s[16:23]
21090 ; GFX940-NEXT:    ;;#ASMEND
21091 ; GFX940-NEXT:    s_mov_b32 s8, s22
21092 ; GFX940-NEXT:    s_mov_b32 s9, s23
21093 ; GFX940-NEXT:    s_mov_b32 s10, s4
21094 ; GFX940-NEXT:    s_mov_b32 s11, s5
21095 ; GFX940-NEXT:    s_mov_b32 s12, s16
21096 ; GFX940-NEXT:    s_mov_b32 s13, s17
21097 ; GFX940-NEXT:    s_mov_b32 s14, s16
21098 ; GFX940-NEXT:    s_mov_b32 s15, s17
21099 ; GFX940-NEXT:    ;;#ASMSTART
21100 ; GFX940-NEXT:    ; use s[8:15]
21101 ; GFX940-NEXT:    ;;#ASMEND
21102 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
21103   %vec0 = call <4 x i64> asm "; def $0", "=s"()
21104   %vec1 = call <4 x i64> asm "; def $0", "=s"()
21105   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 2, i32 4, i32 4>
21106   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
21107   ret void
21108 }
21109
21110 define void @s_shuffle_v4i64_v4i64__7_3_4_4() {
21111 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_3_4_4:
21112 ; GFX900:       ; %bb.0:
21113 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21114 ; GFX900-NEXT:    ;;#ASMSTART
21115 ; GFX900-NEXT:    ; def s[4:11]
21116 ; GFX900-NEXT:    ;;#ASMEND
21117 ; GFX900-NEXT:    ;;#ASMSTART
21118 ; GFX900-NEXT:    ; def s[16:23]
21119 ; GFX900-NEXT:    ;;#ASMEND
21120 ; GFX900-NEXT:    s_mov_b32 s8, s22
21121 ; GFX900-NEXT:    s_mov_b32 s9, s23
21122 ; GFX900-NEXT:    s_mov_b32 s12, s16
21123 ; GFX900-NEXT:    s_mov_b32 s13, s17
21124 ; GFX900-NEXT:    s_mov_b32 s14, s16
21125 ; GFX900-NEXT:    s_mov_b32 s15, s17
21126 ; GFX900-NEXT:    ;;#ASMSTART
21127 ; GFX900-NEXT:    ; use s[8:15]
21128 ; GFX900-NEXT:    ;;#ASMEND
21129 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
21130 ;
21131 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_3_4_4:
21132 ; GFX90A:       ; %bb.0:
21133 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21134 ; GFX90A-NEXT:    ;;#ASMSTART
21135 ; GFX90A-NEXT:    ; def s[4:11]
21136 ; GFX90A-NEXT:    ;;#ASMEND
21137 ; GFX90A-NEXT:    ;;#ASMSTART
21138 ; GFX90A-NEXT:    ; def s[16:23]
21139 ; GFX90A-NEXT:    ;;#ASMEND
21140 ; GFX90A-NEXT:    s_mov_b32 s8, s22
21141 ; GFX90A-NEXT:    s_mov_b32 s9, s23
21142 ; GFX90A-NEXT:    s_mov_b32 s12, s16
21143 ; GFX90A-NEXT:    s_mov_b32 s13, s17
21144 ; GFX90A-NEXT:    s_mov_b32 s14, s16
21145 ; GFX90A-NEXT:    s_mov_b32 s15, s17
21146 ; GFX90A-NEXT:    ;;#ASMSTART
21147 ; GFX90A-NEXT:    ; use s[8:15]
21148 ; GFX90A-NEXT:    ;;#ASMEND
21149 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
21150 ;
21151 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_3_4_4:
21152 ; GFX940:       ; %bb.0:
21153 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21154 ; GFX940-NEXT:    ;;#ASMSTART
21155 ; GFX940-NEXT:    ; def s[0:7]
21156 ; GFX940-NEXT:    ;;#ASMEND
21157 ; GFX940-NEXT:    ;;#ASMSTART
21158 ; GFX940-NEXT:    ; def s[16:23]
21159 ; GFX940-NEXT:    ;;#ASMEND
21160 ; GFX940-NEXT:    s_mov_b32 s8, s22
21161 ; GFX940-NEXT:    s_mov_b32 s9, s23
21162 ; GFX940-NEXT:    s_mov_b32 s10, s6
21163 ; GFX940-NEXT:    s_mov_b32 s11, s7
21164 ; GFX940-NEXT:    s_mov_b32 s12, s16
21165 ; GFX940-NEXT:    s_mov_b32 s13, s17
21166 ; GFX940-NEXT:    s_mov_b32 s14, s16
21167 ; GFX940-NEXT:    s_mov_b32 s15, s17
21168 ; GFX940-NEXT:    ;;#ASMSTART
21169 ; GFX940-NEXT:    ; use s[8:15]
21170 ; GFX940-NEXT:    ;;#ASMEND
21171 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
21172   %vec0 = call <4 x i64> asm "; def $0", "=s"()
21173   %vec1 = call <4 x i64> asm "; def $0", "=s"()
21174   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 3, i32 4, i32 4>
21175   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
21176   ret void
21177 }
21178
21179 define void @s_shuffle_v4i64_v4i64__7_5_4_4() {
21180 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_5_4_4:
21181 ; GFX900:       ; %bb.0:
21182 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21183 ; GFX900-NEXT:    ;;#ASMSTART
21184 ; GFX900-NEXT:    ; def s[4:11]
21185 ; GFX900-NEXT:    ;;#ASMEND
21186 ; GFX900-NEXT:    s_mov_b32 s8, s10
21187 ; GFX900-NEXT:    s_mov_b32 s9, s11
21188 ; GFX900-NEXT:    s_mov_b32 s10, s6
21189 ; GFX900-NEXT:    s_mov_b32 s11, s7
21190 ; GFX900-NEXT:    s_mov_b32 s12, s4
21191 ; GFX900-NEXT:    s_mov_b32 s13, s5
21192 ; GFX900-NEXT:    s_mov_b32 s14, s4
21193 ; GFX900-NEXT:    s_mov_b32 s15, s5
21194 ; GFX900-NEXT:    ;;#ASMSTART
21195 ; GFX900-NEXT:    ; use s[8:15]
21196 ; GFX900-NEXT:    ;;#ASMEND
21197 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
21198 ;
21199 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_5_4_4:
21200 ; GFX90A:       ; %bb.0:
21201 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21202 ; GFX90A-NEXT:    ;;#ASMSTART
21203 ; GFX90A-NEXT:    ; def s[4:11]
21204 ; GFX90A-NEXT:    ;;#ASMEND
21205 ; GFX90A-NEXT:    s_mov_b32 s8, s10
21206 ; GFX90A-NEXT:    s_mov_b32 s9, s11
21207 ; GFX90A-NEXT:    s_mov_b32 s10, s6
21208 ; GFX90A-NEXT:    s_mov_b32 s11, s7
21209 ; GFX90A-NEXT:    s_mov_b32 s12, s4
21210 ; GFX90A-NEXT:    s_mov_b32 s13, s5
21211 ; GFX90A-NEXT:    s_mov_b32 s14, s4
21212 ; GFX90A-NEXT:    s_mov_b32 s15, s5
21213 ; GFX90A-NEXT:    ;;#ASMSTART
21214 ; GFX90A-NEXT:    ; use s[8:15]
21215 ; GFX90A-NEXT:    ;;#ASMEND
21216 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
21217 ;
21218 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_5_4_4:
21219 ; GFX940:       ; %bb.0:
21220 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21221 ; GFX940-NEXT:    ;;#ASMSTART
21222 ; GFX940-NEXT:    ; def s[0:7]
21223 ; GFX940-NEXT:    ;;#ASMEND
21224 ; GFX940-NEXT:    s_mov_b32 s8, s6
21225 ; GFX940-NEXT:    s_mov_b32 s9, s7
21226 ; GFX940-NEXT:    s_mov_b32 s10, s2
21227 ; GFX940-NEXT:    s_mov_b32 s11, s3
21228 ; GFX940-NEXT:    s_mov_b32 s12, s0
21229 ; GFX940-NEXT:    s_mov_b32 s13, s1
21230 ; GFX940-NEXT:    s_mov_b32 s14, s0
21231 ; GFX940-NEXT:    s_mov_b32 s15, s1
21232 ; GFX940-NEXT:    ;;#ASMSTART
21233 ; GFX940-NEXT:    ; use s[8:15]
21234 ; GFX940-NEXT:    ;;#ASMEND
21235 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
21236   %vec0 = call <4 x i64> asm "; def $0", "=s"()
21237   %vec1 = call <4 x i64> asm "; def $0", "=s"()
21238   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 5, i32 4, i32 4>
21239   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
21240   ret void
21241 }
21242
21243 define void @s_shuffle_v4i64_v4i64__7_6_4_4() {
21244 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_6_4_4:
21245 ; GFX900:       ; %bb.0:
21246 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21247 ; GFX900-NEXT:    ;;#ASMSTART
21248 ; GFX900-NEXT:    ; def s[16:23]
21249 ; GFX900-NEXT:    ;;#ASMEND
21250 ; GFX900-NEXT:    s_mov_b32 s8, s22
21251 ; GFX900-NEXT:    s_mov_b32 s9, s23
21252 ; GFX900-NEXT:    s_mov_b32 s10, s20
21253 ; GFX900-NEXT:    s_mov_b32 s11, s21
21254 ; GFX900-NEXT:    s_mov_b32 s12, s16
21255 ; GFX900-NEXT:    s_mov_b32 s13, s17
21256 ; GFX900-NEXT:    s_mov_b32 s14, s16
21257 ; GFX900-NEXT:    s_mov_b32 s15, s17
21258 ; GFX900-NEXT:    ;;#ASMSTART
21259 ; GFX900-NEXT:    ; use s[8:15]
21260 ; GFX900-NEXT:    ;;#ASMEND
21261 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
21262 ;
21263 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_6_4_4:
21264 ; GFX90A:       ; %bb.0:
21265 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21266 ; GFX90A-NEXT:    ;;#ASMSTART
21267 ; GFX90A-NEXT:    ; def s[16:23]
21268 ; GFX90A-NEXT:    ;;#ASMEND
21269 ; GFX90A-NEXT:    s_mov_b32 s8, s22
21270 ; GFX90A-NEXT:    s_mov_b32 s9, s23
21271 ; GFX90A-NEXT:    s_mov_b32 s10, s20
21272 ; GFX90A-NEXT:    s_mov_b32 s11, s21
21273 ; GFX90A-NEXT:    s_mov_b32 s12, s16
21274 ; GFX90A-NEXT:    s_mov_b32 s13, s17
21275 ; GFX90A-NEXT:    s_mov_b32 s14, s16
21276 ; GFX90A-NEXT:    s_mov_b32 s15, s17
21277 ; GFX90A-NEXT:    ;;#ASMSTART
21278 ; GFX90A-NEXT:    ; use s[8:15]
21279 ; GFX90A-NEXT:    ;;#ASMEND
21280 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
21281 ;
21282 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_6_4_4:
21283 ; GFX940:       ; %bb.0:
21284 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21285 ; GFX940-NEXT:    ;;#ASMSTART
21286 ; GFX940-NEXT:    ; def s[0:7]
21287 ; GFX940-NEXT:    ;;#ASMEND
21288 ; GFX940-NEXT:    s_mov_b32 s8, s6
21289 ; GFX940-NEXT:    s_mov_b32 s9, s7
21290 ; GFX940-NEXT:    s_mov_b32 s10, s4
21291 ; GFX940-NEXT:    s_mov_b32 s11, s5
21292 ; GFX940-NEXT:    s_mov_b32 s12, s0
21293 ; GFX940-NEXT:    s_mov_b32 s13, s1
21294 ; GFX940-NEXT:    s_mov_b32 s14, s0
21295 ; GFX940-NEXT:    s_mov_b32 s15, s1
21296 ; GFX940-NEXT:    ;;#ASMSTART
21297 ; GFX940-NEXT:    ; use s[8:15]
21298 ; GFX940-NEXT:    ;;#ASMEND
21299 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
21300   %vec0 = call <4 x i64> asm "; def $0", "=s"()
21301   %vec1 = call <4 x i64> asm "; def $0", "=s"()
21302   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 6, i32 4, i32 4>
21303   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
21304   ret void
21305 }
21306
21307 define void @s_shuffle_v4i64_v4i64__7_7_4_4() {
21308 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_4_4:
21309 ; GFX900:       ; %bb.0:
21310 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21311 ; GFX900-NEXT:    ;;#ASMSTART
21312 ; GFX900-NEXT:    ; def s[4:11]
21313 ; GFX900-NEXT:    ;;#ASMEND
21314 ; GFX900-NEXT:    s_mov_b32 s8, s10
21315 ; GFX900-NEXT:    s_mov_b32 s9, s11
21316 ; GFX900-NEXT:    s_mov_b32 s12, s4
21317 ; GFX900-NEXT:    s_mov_b32 s13, s5
21318 ; GFX900-NEXT:    s_mov_b32 s14, s4
21319 ; GFX900-NEXT:    s_mov_b32 s15, s5
21320 ; GFX900-NEXT:    ;;#ASMSTART
21321 ; GFX900-NEXT:    ; use s[8:15]
21322 ; GFX900-NEXT:    ;;#ASMEND
21323 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
21324 ;
21325 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_4_4:
21326 ; GFX90A:       ; %bb.0:
21327 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21328 ; GFX90A-NEXT:    ;;#ASMSTART
21329 ; GFX90A-NEXT:    ; def s[4:11]
21330 ; GFX90A-NEXT:    ;;#ASMEND
21331 ; GFX90A-NEXT:    s_mov_b32 s8, s10
21332 ; GFX90A-NEXT:    s_mov_b32 s9, s11
21333 ; GFX90A-NEXT:    s_mov_b32 s12, s4
21334 ; GFX90A-NEXT:    s_mov_b32 s13, s5
21335 ; GFX90A-NEXT:    s_mov_b32 s14, s4
21336 ; GFX90A-NEXT:    s_mov_b32 s15, s5
21337 ; GFX90A-NEXT:    ;;#ASMSTART
21338 ; GFX90A-NEXT:    ; use s[8:15]
21339 ; GFX90A-NEXT:    ;;#ASMEND
21340 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
21341 ;
21342 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_4_4:
21343 ; GFX940:       ; %bb.0:
21344 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21345 ; GFX940-NEXT:    ;;#ASMSTART
21346 ; GFX940-NEXT:    ; def s[0:7]
21347 ; GFX940-NEXT:    ;;#ASMEND
21348 ; GFX940-NEXT:    s_mov_b32 s8, s6
21349 ; GFX940-NEXT:    s_mov_b32 s9, s7
21350 ; GFX940-NEXT:    s_mov_b32 s10, s6
21351 ; GFX940-NEXT:    s_mov_b32 s11, s7
21352 ; GFX940-NEXT:    s_mov_b32 s12, s0
21353 ; GFX940-NEXT:    s_mov_b32 s13, s1
21354 ; GFX940-NEXT:    s_mov_b32 s14, s0
21355 ; GFX940-NEXT:    s_mov_b32 s15, s1
21356 ; GFX940-NEXT:    ;;#ASMSTART
21357 ; GFX940-NEXT:    ; use s[8:15]
21358 ; GFX940-NEXT:    ;;#ASMEND
21359 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
21360   %vec0 = call <4 x i64> asm "; def $0", "=s"()
21361   %vec1 = call <4 x i64> asm "; def $0", "=s"()
21362   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 4, i32 4>
21363   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
21364   ret void
21365 }
21366
21367 define void @s_shuffle_v4i64_v4i64__7_7_u_4() {
21368 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_u_4:
21369 ; GFX900:       ; %bb.0:
21370 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21371 ; GFX900-NEXT:    ;;#ASMSTART
21372 ; GFX900-NEXT:    ; def s[4:11]
21373 ; GFX900-NEXT:    ;;#ASMEND
21374 ; GFX900-NEXT:    s_mov_b32 s8, s10
21375 ; GFX900-NEXT:    s_mov_b32 s9, s11
21376 ; GFX900-NEXT:    s_mov_b32 s14, s4
21377 ; GFX900-NEXT:    s_mov_b32 s15, s5
21378 ; GFX900-NEXT:    ;;#ASMSTART
21379 ; GFX900-NEXT:    ; use s[8:15]
21380 ; GFX900-NEXT:    ;;#ASMEND
21381 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
21382 ;
21383 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_u_4:
21384 ; GFX90A:       ; %bb.0:
21385 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21386 ; GFX90A-NEXT:    ;;#ASMSTART
21387 ; GFX90A-NEXT:    ; def s[4:11]
21388 ; GFX90A-NEXT:    ;;#ASMEND
21389 ; GFX90A-NEXT:    s_mov_b32 s8, s10
21390 ; GFX90A-NEXT:    s_mov_b32 s9, s11
21391 ; GFX90A-NEXT:    s_mov_b32 s14, s4
21392 ; GFX90A-NEXT:    s_mov_b32 s15, s5
21393 ; GFX90A-NEXT:    ;;#ASMSTART
21394 ; GFX90A-NEXT:    ; use s[8:15]
21395 ; GFX90A-NEXT:    ;;#ASMEND
21396 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
21397 ;
21398 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_u_4:
21399 ; GFX940:       ; %bb.0:
21400 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21401 ; GFX940-NEXT:    ;;#ASMSTART
21402 ; GFX940-NEXT:    ; def s[0:7]
21403 ; GFX940-NEXT:    ;;#ASMEND
21404 ; GFX940-NEXT:    s_mov_b32 s8, s6
21405 ; GFX940-NEXT:    s_mov_b32 s9, s7
21406 ; GFX940-NEXT:    s_mov_b32 s10, s6
21407 ; GFX940-NEXT:    s_mov_b32 s11, s7
21408 ; GFX940-NEXT:    s_mov_b32 s14, s0
21409 ; GFX940-NEXT:    s_mov_b32 s15, s1
21410 ; GFX940-NEXT:    ;;#ASMSTART
21411 ; GFX940-NEXT:    ; use s[8:15]
21412 ; GFX940-NEXT:    ;;#ASMEND
21413 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
21414   %vec0 = call <4 x i64> asm "; def $0", "=s"()
21415   %vec1 = call <4 x i64> asm "; def $0", "=s"()
21416   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 poison, i32 4>
21417   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
21418   ret void
21419 }
21420
21421 define void @s_shuffle_v4i64_v4i64__7_7_0_4() {
21422 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_0_4:
21423 ; GFX900:       ; %bb.0:
21424 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21425 ; GFX900-NEXT:    ;;#ASMSTART
21426 ; GFX900-NEXT:    ; def s[4:11]
21427 ; GFX900-NEXT:    ;;#ASMEND
21428 ; GFX900-NEXT:    ;;#ASMSTART
21429 ; GFX900-NEXT:    ; def s[16:23]
21430 ; GFX900-NEXT:    ;;#ASMEND
21431 ; GFX900-NEXT:    s_mov_b32 s8, s22
21432 ; GFX900-NEXT:    s_mov_b32 s9, s23
21433 ; GFX900-NEXT:    s_mov_b32 s10, s22
21434 ; GFX900-NEXT:    s_mov_b32 s11, s23
21435 ; GFX900-NEXT:    s_mov_b32 s12, s4
21436 ; GFX900-NEXT:    s_mov_b32 s13, s5
21437 ; GFX900-NEXT:    s_mov_b32 s14, s16
21438 ; GFX900-NEXT:    s_mov_b32 s15, s17
21439 ; GFX900-NEXT:    ;;#ASMSTART
21440 ; GFX900-NEXT:    ; use s[8:15]
21441 ; GFX900-NEXT:    ;;#ASMEND
21442 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
21443 ;
21444 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_0_4:
21445 ; GFX90A:       ; %bb.0:
21446 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21447 ; GFX90A-NEXT:    ;;#ASMSTART
21448 ; GFX90A-NEXT:    ; def s[4:11]
21449 ; GFX90A-NEXT:    ;;#ASMEND
21450 ; GFX90A-NEXT:    ;;#ASMSTART
21451 ; GFX90A-NEXT:    ; def s[16:23]
21452 ; GFX90A-NEXT:    ;;#ASMEND
21453 ; GFX90A-NEXT:    s_mov_b32 s8, s22
21454 ; GFX90A-NEXT:    s_mov_b32 s9, s23
21455 ; GFX90A-NEXT:    s_mov_b32 s10, s22
21456 ; GFX90A-NEXT:    s_mov_b32 s11, s23
21457 ; GFX90A-NEXT:    s_mov_b32 s12, s4
21458 ; GFX90A-NEXT:    s_mov_b32 s13, s5
21459 ; GFX90A-NEXT:    s_mov_b32 s14, s16
21460 ; GFX90A-NEXT:    s_mov_b32 s15, s17
21461 ; GFX90A-NEXT:    ;;#ASMSTART
21462 ; GFX90A-NEXT:    ; use s[8:15]
21463 ; GFX90A-NEXT:    ;;#ASMEND
21464 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
21465 ;
21466 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_0_4:
21467 ; GFX940:       ; %bb.0:
21468 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21469 ; GFX940-NEXT:    ;;#ASMSTART
21470 ; GFX940-NEXT:    ; def s[0:7]
21471 ; GFX940-NEXT:    ;;#ASMEND
21472 ; GFX940-NEXT:    s_mov_b32 s12, s0
21473 ; GFX940-NEXT:    ;;#ASMSTART
21474 ; GFX940-NEXT:    ; def s[4:11]
21475 ; GFX940-NEXT:    ;;#ASMEND
21476 ; GFX940-NEXT:    s_mov_b32 s8, s10
21477 ; GFX940-NEXT:    s_mov_b32 s9, s11
21478 ; GFX940-NEXT:    s_mov_b32 s13, s1
21479 ; GFX940-NEXT:    s_mov_b32 s14, s4
21480 ; GFX940-NEXT:    s_mov_b32 s15, s5
21481 ; GFX940-NEXT:    ;;#ASMSTART
21482 ; GFX940-NEXT:    ; use s[8:15]
21483 ; GFX940-NEXT:    ;;#ASMEND
21484 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
21485   %vec0 = call <4 x i64> asm "; def $0", "=s"()
21486   %vec1 = call <4 x i64> asm "; def $0", "=s"()
21487   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 0, i32 4>
21488   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
21489   ret void
21490 }
21491
21492 define void @s_shuffle_v4i64_v4i64__7_7_1_4() {
21493 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_1_4:
21494 ; GFX900:       ; %bb.0:
21495 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21496 ; GFX900-NEXT:    ;;#ASMSTART
21497 ; GFX900-NEXT:    ; def s[4:11]
21498 ; GFX900-NEXT:    ;;#ASMEND
21499 ; GFX900-NEXT:    ;;#ASMSTART
21500 ; GFX900-NEXT:    ; def s[16:23]
21501 ; GFX900-NEXT:    ;;#ASMEND
21502 ; GFX900-NEXT:    s_mov_b32 s8, s22
21503 ; GFX900-NEXT:    s_mov_b32 s9, s23
21504 ; GFX900-NEXT:    s_mov_b32 s10, s22
21505 ; GFX900-NEXT:    s_mov_b32 s11, s23
21506 ; GFX900-NEXT:    s_mov_b32 s12, s6
21507 ; GFX900-NEXT:    s_mov_b32 s13, s7
21508 ; GFX900-NEXT:    s_mov_b32 s14, s16
21509 ; GFX900-NEXT:    s_mov_b32 s15, s17
21510 ; GFX900-NEXT:    ;;#ASMSTART
21511 ; GFX900-NEXT:    ; use s[8:15]
21512 ; GFX900-NEXT:    ;;#ASMEND
21513 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
21514 ;
21515 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_1_4:
21516 ; GFX90A:       ; %bb.0:
21517 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21518 ; GFX90A-NEXT:    ;;#ASMSTART
21519 ; GFX90A-NEXT:    ; def s[4:11]
21520 ; GFX90A-NEXT:    ;;#ASMEND
21521 ; GFX90A-NEXT:    ;;#ASMSTART
21522 ; GFX90A-NEXT:    ; def s[16:23]
21523 ; GFX90A-NEXT:    ;;#ASMEND
21524 ; GFX90A-NEXT:    s_mov_b32 s8, s22
21525 ; GFX90A-NEXT:    s_mov_b32 s9, s23
21526 ; GFX90A-NEXT:    s_mov_b32 s10, s22
21527 ; GFX90A-NEXT:    s_mov_b32 s11, s23
21528 ; GFX90A-NEXT:    s_mov_b32 s12, s6
21529 ; GFX90A-NEXT:    s_mov_b32 s13, s7
21530 ; GFX90A-NEXT:    s_mov_b32 s14, s16
21531 ; GFX90A-NEXT:    s_mov_b32 s15, s17
21532 ; GFX90A-NEXT:    ;;#ASMSTART
21533 ; GFX90A-NEXT:    ; use s[8:15]
21534 ; GFX90A-NEXT:    ;;#ASMEND
21535 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
21536 ;
21537 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_1_4:
21538 ; GFX940:       ; %bb.0:
21539 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21540 ; GFX940-NEXT:    ;;#ASMSTART
21541 ; GFX940-NEXT:    ; def s[0:7]
21542 ; GFX940-NEXT:    ;;#ASMEND
21543 ; GFX940-NEXT:    s_mov_b32 s12, s2
21544 ; GFX940-NEXT:    ;;#ASMSTART
21545 ; GFX940-NEXT:    ; def s[4:11]
21546 ; GFX940-NEXT:    ;;#ASMEND
21547 ; GFX940-NEXT:    s_mov_b32 s8, s10
21548 ; GFX940-NEXT:    s_mov_b32 s9, s11
21549 ; GFX940-NEXT:    s_mov_b32 s13, s3
21550 ; GFX940-NEXT:    s_mov_b32 s14, s4
21551 ; GFX940-NEXT:    s_mov_b32 s15, s5
21552 ; GFX940-NEXT:    ;;#ASMSTART
21553 ; GFX940-NEXT:    ; use s[8:15]
21554 ; GFX940-NEXT:    ;;#ASMEND
21555 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
21556   %vec0 = call <4 x i64> asm "; def $0", "=s"()
21557   %vec1 = call <4 x i64> asm "; def $0", "=s"()
21558   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 1, i32 4>
21559   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
21560   ret void
21561 }
21562
21563 define void @s_shuffle_v4i64_v4i64__7_7_2_4() {
21564 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_2_4:
21565 ; GFX900:       ; %bb.0:
21566 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21567 ; GFX900-NEXT:    ;;#ASMSTART
21568 ; GFX900-NEXT:    ; def s[8:15]
21569 ; GFX900-NEXT:    ;;#ASMEND
21570 ; GFX900-NEXT:    ;;#ASMSTART
21571 ; GFX900-NEXT:    ; def s[4:11]
21572 ; GFX900-NEXT:    ;;#ASMEND
21573 ; GFX900-NEXT:    s_mov_b32 s8, s10
21574 ; GFX900-NEXT:    s_mov_b32 s9, s11
21575 ; GFX900-NEXT:    s_mov_b32 s14, s4
21576 ; GFX900-NEXT:    s_mov_b32 s15, s5
21577 ; GFX900-NEXT:    ;;#ASMSTART
21578 ; GFX900-NEXT:    ; use s[8:15]
21579 ; GFX900-NEXT:    ;;#ASMEND
21580 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
21581 ;
21582 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_2_4:
21583 ; GFX90A:       ; %bb.0:
21584 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21585 ; GFX90A-NEXT:    ;;#ASMSTART
21586 ; GFX90A-NEXT:    ; def s[8:15]
21587 ; GFX90A-NEXT:    ;;#ASMEND
21588 ; GFX90A-NEXT:    ;;#ASMSTART
21589 ; GFX90A-NEXT:    ; def s[4:11]
21590 ; GFX90A-NEXT:    ;;#ASMEND
21591 ; GFX90A-NEXT:    s_mov_b32 s8, s10
21592 ; GFX90A-NEXT:    s_mov_b32 s9, s11
21593 ; GFX90A-NEXT:    s_mov_b32 s14, s4
21594 ; GFX90A-NEXT:    s_mov_b32 s15, s5
21595 ; GFX90A-NEXT:    ;;#ASMSTART
21596 ; GFX90A-NEXT:    ; use s[8:15]
21597 ; GFX90A-NEXT:    ;;#ASMEND
21598 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
21599 ;
21600 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_2_4:
21601 ; GFX940:       ; %bb.0:
21602 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21603 ; GFX940-NEXT:    ;;#ASMSTART
21604 ; GFX940-NEXT:    ; def s[8:15]
21605 ; GFX940-NEXT:    ;;#ASMEND
21606 ; GFX940-NEXT:    ;;#ASMSTART
21607 ; GFX940-NEXT:    ; def s[0:7]
21608 ; GFX940-NEXT:    ;;#ASMEND
21609 ; GFX940-NEXT:    s_mov_b32 s8, s6
21610 ; GFX940-NEXT:    s_mov_b32 s9, s7
21611 ; GFX940-NEXT:    s_mov_b32 s10, s6
21612 ; GFX940-NEXT:    s_mov_b32 s11, s7
21613 ; GFX940-NEXT:    s_mov_b32 s14, s0
21614 ; GFX940-NEXT:    s_mov_b32 s15, s1
21615 ; GFX940-NEXT:    ;;#ASMSTART
21616 ; GFX940-NEXT:    ; use s[8:15]
21617 ; GFX940-NEXT:    ;;#ASMEND
21618 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
21619   %vec0 = call <4 x i64> asm "; def $0", "=s"()
21620   %vec1 = call <4 x i64> asm "; def $0", "=s"()
21621   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 2, i32 4>
21622   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
21623   ret void
21624 }
21625
21626 define void @s_shuffle_v4i64_v4i64__7_7_3_4() {
21627 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_3_4:
21628 ; GFX900:       ; %bb.0:
21629 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21630 ; GFX900-NEXT:    ;;#ASMSTART
21631 ; GFX900-NEXT:    ; def s[8:15]
21632 ; GFX900-NEXT:    ;;#ASMEND
21633 ; GFX900-NEXT:    ;;#ASMSTART
21634 ; GFX900-NEXT:    ; def s[4:11]
21635 ; GFX900-NEXT:    ;;#ASMEND
21636 ; GFX900-NEXT:    s_mov_b32 s8, s10
21637 ; GFX900-NEXT:    s_mov_b32 s9, s11
21638 ; GFX900-NEXT:    s_mov_b32 s12, s14
21639 ; GFX900-NEXT:    s_mov_b32 s13, s15
21640 ; GFX900-NEXT:    s_mov_b32 s14, s4
21641 ; GFX900-NEXT:    s_mov_b32 s15, s5
21642 ; GFX900-NEXT:    ;;#ASMSTART
21643 ; GFX900-NEXT:    ; use s[8:15]
21644 ; GFX900-NEXT:    ;;#ASMEND
21645 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
21646 ;
21647 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_3_4:
21648 ; GFX90A:       ; %bb.0:
21649 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21650 ; GFX90A-NEXT:    ;;#ASMSTART
21651 ; GFX90A-NEXT:    ; def s[8:15]
21652 ; GFX90A-NEXT:    ;;#ASMEND
21653 ; GFX90A-NEXT:    ;;#ASMSTART
21654 ; GFX90A-NEXT:    ; def s[4:11]
21655 ; GFX90A-NEXT:    ;;#ASMEND
21656 ; GFX90A-NEXT:    s_mov_b32 s8, s10
21657 ; GFX90A-NEXT:    s_mov_b32 s9, s11
21658 ; GFX90A-NEXT:    s_mov_b32 s12, s14
21659 ; GFX90A-NEXT:    s_mov_b32 s13, s15
21660 ; GFX90A-NEXT:    s_mov_b32 s14, s4
21661 ; GFX90A-NEXT:    s_mov_b32 s15, s5
21662 ; GFX90A-NEXT:    ;;#ASMSTART
21663 ; GFX90A-NEXT:    ; use s[8:15]
21664 ; GFX90A-NEXT:    ;;#ASMEND
21665 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
21666 ;
21667 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_3_4:
21668 ; GFX940:       ; %bb.0:
21669 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21670 ; GFX940-NEXT:    ;;#ASMSTART
21671 ; GFX940-NEXT:    ; def s[0:7]
21672 ; GFX940-NEXT:    ;;#ASMEND
21673 ; GFX940-NEXT:    ;;#ASMSTART
21674 ; GFX940-NEXT:    ; def s[16:23]
21675 ; GFX940-NEXT:    ;;#ASMEND
21676 ; GFX940-NEXT:    s_mov_b32 s8, s22
21677 ; GFX940-NEXT:    s_mov_b32 s9, s23
21678 ; GFX940-NEXT:    s_mov_b32 s10, s22
21679 ; GFX940-NEXT:    s_mov_b32 s11, s23
21680 ; GFX940-NEXT:    s_mov_b32 s12, s6
21681 ; GFX940-NEXT:    s_mov_b32 s13, s7
21682 ; GFX940-NEXT:    s_mov_b32 s14, s16
21683 ; GFX940-NEXT:    s_mov_b32 s15, s17
21684 ; GFX940-NEXT:    ;;#ASMSTART
21685 ; GFX940-NEXT:    ; use s[8:15]
21686 ; GFX940-NEXT:    ;;#ASMEND
21687 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
21688   %vec0 = call <4 x i64> asm "; def $0", "=s"()
21689   %vec1 = call <4 x i64> asm "; def $0", "=s"()
21690   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 3, i32 4>
21691   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
21692   ret void
21693 }
21694
21695 define void @s_shuffle_v4i64_v4i64__7_7_5_4() {
21696 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_5_4:
21697 ; GFX900:       ; %bb.0:
21698 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21699 ; GFX900-NEXT:    ;;#ASMSTART
21700 ; GFX900-NEXT:    ; def s[4:11]
21701 ; GFX900-NEXT:    ;;#ASMEND
21702 ; GFX900-NEXT:    s_mov_b32 s8, s10
21703 ; GFX900-NEXT:    s_mov_b32 s9, s11
21704 ; GFX900-NEXT:    s_mov_b32 s12, s6
21705 ; GFX900-NEXT:    s_mov_b32 s13, s7
21706 ; GFX900-NEXT:    s_mov_b32 s14, s4
21707 ; GFX900-NEXT:    s_mov_b32 s15, s5
21708 ; GFX900-NEXT:    ;;#ASMSTART
21709 ; GFX900-NEXT:    ; use s[8:15]
21710 ; GFX900-NEXT:    ;;#ASMEND
21711 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
21712 ;
21713 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_5_4:
21714 ; GFX90A:       ; %bb.0:
21715 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21716 ; GFX90A-NEXT:    ;;#ASMSTART
21717 ; GFX90A-NEXT:    ; def s[4:11]
21718 ; GFX90A-NEXT:    ;;#ASMEND
21719 ; GFX90A-NEXT:    s_mov_b32 s8, s10
21720 ; GFX90A-NEXT:    s_mov_b32 s9, s11
21721 ; GFX90A-NEXT:    s_mov_b32 s12, s6
21722 ; GFX90A-NEXT:    s_mov_b32 s13, s7
21723 ; GFX90A-NEXT:    s_mov_b32 s14, s4
21724 ; GFX90A-NEXT:    s_mov_b32 s15, s5
21725 ; GFX90A-NEXT:    ;;#ASMSTART
21726 ; GFX90A-NEXT:    ; use s[8:15]
21727 ; GFX90A-NEXT:    ;;#ASMEND
21728 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
21729 ;
21730 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_5_4:
21731 ; GFX940:       ; %bb.0:
21732 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21733 ; GFX940-NEXT:    ;;#ASMSTART
21734 ; GFX940-NEXT:    ; def s[0:7]
21735 ; GFX940-NEXT:    ;;#ASMEND
21736 ; GFX940-NEXT:    s_mov_b32 s8, s6
21737 ; GFX940-NEXT:    s_mov_b32 s9, s7
21738 ; GFX940-NEXT:    s_mov_b32 s10, s6
21739 ; GFX940-NEXT:    s_mov_b32 s11, s7
21740 ; GFX940-NEXT:    s_mov_b32 s12, s2
21741 ; GFX940-NEXT:    s_mov_b32 s13, s3
21742 ; GFX940-NEXT:    s_mov_b32 s14, s0
21743 ; GFX940-NEXT:    s_mov_b32 s15, s1
21744 ; GFX940-NEXT:    ;;#ASMSTART
21745 ; GFX940-NEXT:    ; use s[8:15]
21746 ; GFX940-NEXT:    ;;#ASMEND
21747 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
21748   %vec0 = call <4 x i64> asm "; def $0", "=s"()
21749   %vec1 = call <4 x i64> asm "; def $0", "=s"()
21750   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 5, i32 4>
21751   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
21752   ret void
21753 }
21754
21755 define void @s_shuffle_v4i64_v4i64__7_7_6_4() {
21756 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_6_4:
21757 ; GFX900:       ; %bb.0:
21758 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21759 ; GFX900-NEXT:    ;;#ASMSTART
21760 ; GFX900-NEXT:    ; def s[16:23]
21761 ; GFX900-NEXT:    ;;#ASMEND
21762 ; GFX900-NEXT:    s_mov_b32 s8, s22
21763 ; GFX900-NEXT:    s_mov_b32 s9, s23
21764 ; GFX900-NEXT:    s_mov_b32 s10, s22
21765 ; GFX900-NEXT:    s_mov_b32 s11, s23
21766 ; GFX900-NEXT:    s_mov_b32 s12, s20
21767 ; GFX900-NEXT:    s_mov_b32 s13, s21
21768 ; GFX900-NEXT:    s_mov_b32 s14, s16
21769 ; GFX900-NEXT:    s_mov_b32 s15, s17
21770 ; GFX900-NEXT:    ;;#ASMSTART
21771 ; GFX900-NEXT:    ; use s[8:15]
21772 ; GFX900-NEXT:    ;;#ASMEND
21773 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
21774 ;
21775 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_6_4:
21776 ; GFX90A:       ; %bb.0:
21777 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21778 ; GFX90A-NEXT:    ;;#ASMSTART
21779 ; GFX90A-NEXT:    ; def s[16:23]
21780 ; GFX90A-NEXT:    ;;#ASMEND
21781 ; GFX90A-NEXT:    s_mov_b32 s8, s22
21782 ; GFX90A-NEXT:    s_mov_b32 s9, s23
21783 ; GFX90A-NEXT:    s_mov_b32 s10, s22
21784 ; GFX90A-NEXT:    s_mov_b32 s11, s23
21785 ; GFX90A-NEXT:    s_mov_b32 s12, s20
21786 ; GFX90A-NEXT:    s_mov_b32 s13, s21
21787 ; GFX90A-NEXT:    s_mov_b32 s14, s16
21788 ; GFX90A-NEXT:    s_mov_b32 s15, s17
21789 ; GFX90A-NEXT:    ;;#ASMSTART
21790 ; GFX90A-NEXT:    ; use s[8:15]
21791 ; GFX90A-NEXT:    ;;#ASMEND
21792 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
21793 ;
21794 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_6_4:
21795 ; GFX940:       ; %bb.0:
21796 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21797 ; GFX940-NEXT:    ;;#ASMSTART
21798 ; GFX940-NEXT:    ; def s[0:7]
21799 ; GFX940-NEXT:    ;;#ASMEND
21800 ; GFX940-NEXT:    s_mov_b32 s8, s6
21801 ; GFX940-NEXT:    s_mov_b32 s9, s7
21802 ; GFX940-NEXT:    s_mov_b32 s10, s6
21803 ; GFX940-NEXT:    s_mov_b32 s11, s7
21804 ; GFX940-NEXT:    s_mov_b32 s12, s4
21805 ; GFX940-NEXT:    s_mov_b32 s13, s5
21806 ; GFX940-NEXT:    s_mov_b32 s14, s0
21807 ; GFX940-NEXT:    s_mov_b32 s15, s1
21808 ; GFX940-NEXT:    ;;#ASMSTART
21809 ; GFX940-NEXT:    ; use s[8:15]
21810 ; GFX940-NEXT:    ;;#ASMEND
21811 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
21812   %vec0 = call <4 x i64> asm "; def $0", "=s"()
21813   %vec1 = call <4 x i64> asm "; def $0", "=s"()
21814   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 6, i32 4>
21815   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
21816   ret void
21817 }
21818
21819 define void @s_shuffle_v4i64_v4i64__u_5_5_5() {
21820 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__u_5_5_5:
21821 ; GFX9:       ; %bb.0:
21822 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21823 ; GFX9-NEXT:    ;;#ASMSTART
21824 ; GFX9-NEXT:    ; def s[8:15]
21825 ; GFX9-NEXT:    ;;#ASMEND
21826 ; GFX9-NEXT:    s_mov_b32 s12, s10
21827 ; GFX9-NEXT:    s_mov_b32 s13, s11
21828 ; GFX9-NEXT:    s_mov_b32 s14, s10
21829 ; GFX9-NEXT:    s_mov_b32 s15, s11
21830 ; GFX9-NEXT:    ;;#ASMSTART
21831 ; GFX9-NEXT:    ; use s[8:15]
21832 ; GFX9-NEXT:    ;;#ASMEND
21833 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
21834   %vec0 = call <4 x i64> asm "; def $0", "=s"()
21835   %vec1 = call <4 x i64> asm "; def $0", "=s"()
21836   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 poison, i32 5, i32 5, i32 5>
21837   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
21838   ret void
21839 }
21840
21841 define void @s_shuffle_v4i64_v4i64__0_5_5_5() {
21842 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__0_5_5_5:
21843 ; GFX900:       ; %bb.0:
21844 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21845 ; GFX900-NEXT:    ;;#ASMSTART
21846 ; GFX900-NEXT:    ; def s[8:15]
21847 ; GFX900-NEXT:    ;;#ASMEND
21848 ; GFX900-NEXT:    ;;#ASMSTART
21849 ; GFX900-NEXT:    ; def s[12:19]
21850 ; GFX900-NEXT:    ;;#ASMEND
21851 ; GFX900-NEXT:    s_mov_b32 s10, s14
21852 ; GFX900-NEXT:    s_mov_b32 s11, s15
21853 ; GFX900-NEXT:    s_mov_b32 s12, s14
21854 ; GFX900-NEXT:    s_mov_b32 s13, s15
21855 ; GFX900-NEXT:    ;;#ASMSTART
21856 ; GFX900-NEXT:    ; use s[8:15]
21857 ; GFX900-NEXT:    ;;#ASMEND
21858 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
21859 ;
21860 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__0_5_5_5:
21861 ; GFX90A:       ; %bb.0:
21862 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21863 ; GFX90A-NEXT:    ;;#ASMSTART
21864 ; GFX90A-NEXT:    ; def s[8:15]
21865 ; GFX90A-NEXT:    ;;#ASMEND
21866 ; GFX90A-NEXT:    ;;#ASMSTART
21867 ; GFX90A-NEXT:    ; def s[12:19]
21868 ; GFX90A-NEXT:    ;;#ASMEND
21869 ; GFX90A-NEXT:    s_mov_b32 s10, s14
21870 ; GFX90A-NEXT:    s_mov_b32 s11, s15
21871 ; GFX90A-NEXT:    s_mov_b32 s12, s14
21872 ; GFX90A-NEXT:    s_mov_b32 s13, s15
21873 ; GFX90A-NEXT:    ;;#ASMSTART
21874 ; GFX90A-NEXT:    ; use s[8:15]
21875 ; GFX90A-NEXT:    ;;#ASMEND
21876 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
21877 ;
21878 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__0_5_5_5:
21879 ; GFX940:       ; %bb.0:
21880 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21881 ; GFX940-NEXT:    ;;#ASMSTART
21882 ; GFX940-NEXT:    ; def s[8:15]
21883 ; GFX940-NEXT:    ;;#ASMEND
21884 ; GFX940-NEXT:    ;;#ASMSTART
21885 ; GFX940-NEXT:    ; def s[0:7]
21886 ; GFX940-NEXT:    ;;#ASMEND
21887 ; GFX940-NEXT:    s_mov_b32 s10, s2
21888 ; GFX940-NEXT:    s_mov_b32 s11, s3
21889 ; GFX940-NEXT:    s_mov_b32 s12, s2
21890 ; GFX940-NEXT:    s_mov_b32 s13, s3
21891 ; GFX940-NEXT:    s_mov_b32 s14, s2
21892 ; GFX940-NEXT:    s_mov_b32 s15, s3
21893 ; GFX940-NEXT:    ;;#ASMSTART
21894 ; GFX940-NEXT:    ; use s[8:15]
21895 ; GFX940-NEXT:    ;;#ASMEND
21896 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
21897   %vec0 = call <4 x i64> asm "; def $0", "=s"()
21898   %vec1 = call <4 x i64> asm "; def $0", "=s"()
21899   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 0, i32 5, i32 5, i32 5>
21900   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
21901   ret void
21902 }
21903
21904 define void @s_shuffle_v4i64_v4i64__1_5_5_5() {
21905 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__1_5_5_5:
21906 ; GFX900:       ; %bb.0:
21907 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21908 ; GFX900-NEXT:    ;;#ASMSTART
21909 ; GFX900-NEXT:    ; def s[4:11]
21910 ; GFX900-NEXT:    ;;#ASMEND
21911 ; GFX900-NEXT:    ;;#ASMSTART
21912 ; GFX900-NEXT:    ; def s[8:15]
21913 ; GFX900-NEXT:    ;;#ASMEND
21914 ; GFX900-NEXT:    s_mov_b32 s8, s6
21915 ; GFX900-NEXT:    s_mov_b32 s9, s7
21916 ; GFX900-NEXT:    s_mov_b32 s12, s10
21917 ; GFX900-NEXT:    s_mov_b32 s13, s11
21918 ; GFX900-NEXT:    s_mov_b32 s14, s10
21919 ; GFX900-NEXT:    s_mov_b32 s15, s11
21920 ; GFX900-NEXT:    ;;#ASMSTART
21921 ; GFX900-NEXT:    ; use s[8:15]
21922 ; GFX900-NEXT:    ;;#ASMEND
21923 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
21924 ;
21925 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__1_5_5_5:
21926 ; GFX90A:       ; %bb.0:
21927 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21928 ; GFX90A-NEXT:    ;;#ASMSTART
21929 ; GFX90A-NEXT:    ; def s[4:11]
21930 ; GFX90A-NEXT:    ;;#ASMEND
21931 ; GFX90A-NEXT:    ;;#ASMSTART
21932 ; GFX90A-NEXT:    ; def s[8:15]
21933 ; GFX90A-NEXT:    ;;#ASMEND
21934 ; GFX90A-NEXT:    s_mov_b32 s8, s6
21935 ; GFX90A-NEXT:    s_mov_b32 s9, s7
21936 ; GFX90A-NEXT:    s_mov_b32 s12, s10
21937 ; GFX90A-NEXT:    s_mov_b32 s13, s11
21938 ; GFX90A-NEXT:    s_mov_b32 s14, s10
21939 ; GFX90A-NEXT:    s_mov_b32 s15, s11
21940 ; GFX90A-NEXT:    ;;#ASMSTART
21941 ; GFX90A-NEXT:    ; use s[8:15]
21942 ; GFX90A-NEXT:    ;;#ASMEND
21943 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
21944 ;
21945 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__1_5_5_5:
21946 ; GFX940:       ; %bb.0:
21947 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21948 ; GFX940-NEXT:    ;;#ASMSTART
21949 ; GFX940-NEXT:    ; def s[8:15]
21950 ; GFX940-NEXT:    ;;#ASMEND
21951 ; GFX940-NEXT:    ;;#ASMSTART
21952 ; GFX940-NEXT:    ; def s[0:7]
21953 ; GFX940-NEXT:    ;;#ASMEND
21954 ; GFX940-NEXT:    s_mov_b32 s8, s2
21955 ; GFX940-NEXT:    s_mov_b32 s9, s3
21956 ; GFX940-NEXT:    s_mov_b32 s12, s10
21957 ; GFX940-NEXT:    s_mov_b32 s13, s11
21958 ; GFX940-NEXT:    s_mov_b32 s14, s10
21959 ; GFX940-NEXT:    s_mov_b32 s15, s11
21960 ; GFX940-NEXT:    ;;#ASMSTART
21961 ; GFX940-NEXT:    ; use s[8:15]
21962 ; GFX940-NEXT:    ;;#ASMEND
21963 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
21964   %vec0 = call <4 x i64> asm "; def $0", "=s"()
21965   %vec1 = call <4 x i64> asm "; def $0", "=s"()
21966   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 1, i32 5, i32 5, i32 5>
21967   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
21968   ret void
21969 }
21970
21971 define void @s_shuffle_v4i64_v4i64__2_5_5_5() {
21972 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__2_5_5_5:
21973 ; GFX900:       ; %bb.0:
21974 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21975 ; GFX900-NEXT:    ;;#ASMSTART
21976 ; GFX900-NEXT:    ; def s[12:19]
21977 ; GFX900-NEXT:    ;;#ASMEND
21978 ; GFX900-NEXT:    ;;#ASMSTART
21979 ; GFX900-NEXT:    ; def s[8:15]
21980 ; GFX900-NEXT:    ;;#ASMEND
21981 ; GFX900-NEXT:    s_mov_b32 s8, s16
21982 ; GFX900-NEXT:    s_mov_b32 s9, s17
21983 ; GFX900-NEXT:    s_mov_b32 s12, s10
21984 ; GFX900-NEXT:    s_mov_b32 s13, s11
21985 ; GFX900-NEXT:    s_mov_b32 s14, s10
21986 ; GFX900-NEXT:    s_mov_b32 s15, s11
21987 ; GFX900-NEXT:    ;;#ASMSTART
21988 ; GFX900-NEXT:    ; use s[8:15]
21989 ; GFX900-NEXT:    ;;#ASMEND
21990 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
21991 ;
21992 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__2_5_5_5:
21993 ; GFX90A:       ; %bb.0:
21994 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
21995 ; GFX90A-NEXT:    ;;#ASMSTART
21996 ; GFX90A-NEXT:    ; def s[12:19]
21997 ; GFX90A-NEXT:    ;;#ASMEND
21998 ; GFX90A-NEXT:    ;;#ASMSTART
21999 ; GFX90A-NEXT:    ; def s[8:15]
22000 ; GFX90A-NEXT:    ;;#ASMEND
22001 ; GFX90A-NEXT:    s_mov_b32 s8, s16
22002 ; GFX90A-NEXT:    s_mov_b32 s9, s17
22003 ; GFX90A-NEXT:    s_mov_b32 s12, s10
22004 ; GFX90A-NEXT:    s_mov_b32 s13, s11
22005 ; GFX90A-NEXT:    s_mov_b32 s14, s10
22006 ; GFX90A-NEXT:    s_mov_b32 s15, s11
22007 ; GFX90A-NEXT:    ;;#ASMSTART
22008 ; GFX90A-NEXT:    ; use s[8:15]
22009 ; GFX90A-NEXT:    ;;#ASMEND
22010 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
22011 ;
22012 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__2_5_5_5:
22013 ; GFX940:       ; %bb.0:
22014 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22015 ; GFX940-NEXT:    ;;#ASMSTART
22016 ; GFX940-NEXT:    ; def s[8:15]
22017 ; GFX940-NEXT:    ;;#ASMEND
22018 ; GFX940-NEXT:    ;;#ASMSTART
22019 ; GFX940-NEXT:    ; def s[0:7]
22020 ; GFX940-NEXT:    ;;#ASMEND
22021 ; GFX940-NEXT:    s_mov_b32 s8, s4
22022 ; GFX940-NEXT:    s_mov_b32 s9, s5
22023 ; GFX940-NEXT:    s_mov_b32 s12, s10
22024 ; GFX940-NEXT:    s_mov_b32 s13, s11
22025 ; GFX940-NEXT:    s_mov_b32 s14, s10
22026 ; GFX940-NEXT:    s_mov_b32 s15, s11
22027 ; GFX940-NEXT:    ;;#ASMSTART
22028 ; GFX940-NEXT:    ; use s[8:15]
22029 ; GFX940-NEXT:    ;;#ASMEND
22030 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
22031   %vec0 = call <4 x i64> asm "; def $0", "=s"()
22032   %vec1 = call <4 x i64> asm "; def $0", "=s"()
22033   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 2, i32 5, i32 5, i32 5>
22034   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
22035   ret void
22036 }
22037
22038 define void @s_shuffle_v4i64_v4i64__3_5_5_5() {
22039 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__3_5_5_5:
22040 ; GFX900:       ; %bb.0:
22041 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22042 ; GFX900-NEXT:    ;;#ASMSTART
22043 ; GFX900-NEXT:    ; def s[12:19]
22044 ; GFX900-NEXT:    ;;#ASMEND
22045 ; GFX900-NEXT:    ;;#ASMSTART
22046 ; GFX900-NEXT:    ; def s[8:15]
22047 ; GFX900-NEXT:    ;;#ASMEND
22048 ; GFX900-NEXT:    s_mov_b32 s8, s18
22049 ; GFX900-NEXT:    s_mov_b32 s9, s19
22050 ; GFX900-NEXT:    s_mov_b32 s12, s10
22051 ; GFX900-NEXT:    s_mov_b32 s13, s11
22052 ; GFX900-NEXT:    s_mov_b32 s14, s10
22053 ; GFX900-NEXT:    s_mov_b32 s15, s11
22054 ; GFX900-NEXT:    ;;#ASMSTART
22055 ; GFX900-NEXT:    ; use s[8:15]
22056 ; GFX900-NEXT:    ;;#ASMEND
22057 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
22058 ;
22059 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__3_5_5_5:
22060 ; GFX90A:       ; %bb.0:
22061 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22062 ; GFX90A-NEXT:    ;;#ASMSTART
22063 ; GFX90A-NEXT:    ; def s[12:19]
22064 ; GFX90A-NEXT:    ;;#ASMEND
22065 ; GFX90A-NEXT:    ;;#ASMSTART
22066 ; GFX90A-NEXT:    ; def s[8:15]
22067 ; GFX90A-NEXT:    ;;#ASMEND
22068 ; GFX90A-NEXT:    s_mov_b32 s8, s18
22069 ; GFX90A-NEXT:    s_mov_b32 s9, s19
22070 ; GFX90A-NEXT:    s_mov_b32 s12, s10
22071 ; GFX90A-NEXT:    s_mov_b32 s13, s11
22072 ; GFX90A-NEXT:    s_mov_b32 s14, s10
22073 ; GFX90A-NEXT:    s_mov_b32 s15, s11
22074 ; GFX90A-NEXT:    ;;#ASMSTART
22075 ; GFX90A-NEXT:    ; use s[8:15]
22076 ; GFX90A-NEXT:    ;;#ASMEND
22077 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
22078 ;
22079 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__3_5_5_5:
22080 ; GFX940:       ; %bb.0:
22081 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22082 ; GFX940-NEXT:    ;;#ASMSTART
22083 ; GFX940-NEXT:    ; def s[8:15]
22084 ; GFX940-NEXT:    ;;#ASMEND
22085 ; GFX940-NEXT:    ;;#ASMSTART
22086 ; GFX940-NEXT:    ; def s[0:7]
22087 ; GFX940-NEXT:    ;;#ASMEND
22088 ; GFX940-NEXT:    s_mov_b32 s8, s6
22089 ; GFX940-NEXT:    s_mov_b32 s9, s7
22090 ; GFX940-NEXT:    s_mov_b32 s12, s10
22091 ; GFX940-NEXT:    s_mov_b32 s13, s11
22092 ; GFX940-NEXT:    s_mov_b32 s14, s10
22093 ; GFX940-NEXT:    s_mov_b32 s15, s11
22094 ; GFX940-NEXT:    ;;#ASMSTART
22095 ; GFX940-NEXT:    ; use s[8:15]
22096 ; GFX940-NEXT:    ;;#ASMEND
22097 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
22098   %vec0 = call <4 x i64> asm "; def $0", "=s"()
22099   %vec1 = call <4 x i64> asm "; def $0", "=s"()
22100   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 3, i32 5, i32 5, i32 5>
22101   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
22102   ret void
22103 }
22104
22105 define void @s_shuffle_v4i64_v4i64__4_5_5_5() {
22106 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__4_5_5_5:
22107 ; GFX9:       ; %bb.0:
22108 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22109 ; GFX9-NEXT:    ;;#ASMSTART
22110 ; GFX9-NEXT:    ; def s[8:15]
22111 ; GFX9-NEXT:    ;;#ASMEND
22112 ; GFX9-NEXT:    s_mov_b32 s12, s10
22113 ; GFX9-NEXT:    s_mov_b32 s13, s11
22114 ; GFX9-NEXT:    s_mov_b32 s14, s10
22115 ; GFX9-NEXT:    s_mov_b32 s15, s11
22116 ; GFX9-NEXT:    ;;#ASMSTART
22117 ; GFX9-NEXT:    ; use s[8:15]
22118 ; GFX9-NEXT:    ;;#ASMEND
22119 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
22120   %vec0 = call <4 x i64> asm "; def $0", "=s"()
22121   %vec1 = call <4 x i64> asm "; def $0", "=s"()
22122   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 4, i32 5, i32 5, i32 5>
22123   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
22124   ret void
22125 }
22126
22127 define void @s_shuffle_v4i64_v4i64__5_5_5_5() {
22128 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__5_5_5_5:
22129 ; GFX9:       ; %bb.0:
22130 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22131 ; GFX9-NEXT:    ;;#ASMSTART
22132 ; GFX9-NEXT:    ; def s[8:15]
22133 ; GFX9-NEXT:    ;;#ASMEND
22134 ; GFX9-NEXT:    s_mov_b32 s8, s10
22135 ; GFX9-NEXT:    s_mov_b32 s9, s11
22136 ; GFX9-NEXT:    s_mov_b32 s12, s10
22137 ; GFX9-NEXT:    s_mov_b32 s13, s11
22138 ; GFX9-NEXT:    s_mov_b32 s14, s10
22139 ; GFX9-NEXT:    s_mov_b32 s15, s11
22140 ; GFX9-NEXT:    ;;#ASMSTART
22141 ; GFX9-NEXT:    ; use s[8:15]
22142 ; GFX9-NEXT:    ;;#ASMEND
22143 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
22144   %vec0 = call <4 x i64> asm "; def $0", "=s"()
22145   %vec1 = call <4 x i64> asm "; def $0", "=s"()
22146   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 5, i32 5, i32 5, i32 5>
22147   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
22148   ret void
22149 }
22150
22151 define void @s_shuffle_v4i64_v4i64__6_5_5_5() {
22152 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__6_5_5_5:
22153 ; GFX9:       ; %bb.0:
22154 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22155 ; GFX9-NEXT:    ;;#ASMSTART
22156 ; GFX9-NEXT:    ; def s[8:15]
22157 ; GFX9-NEXT:    ;;#ASMEND
22158 ; GFX9-NEXT:    s_mov_b32 s8, s12
22159 ; GFX9-NEXT:    s_mov_b32 s9, s13
22160 ; GFX9-NEXT:    s_mov_b32 s12, s10
22161 ; GFX9-NEXT:    s_mov_b32 s13, s11
22162 ; GFX9-NEXT:    s_mov_b32 s14, s10
22163 ; GFX9-NEXT:    s_mov_b32 s15, s11
22164 ; GFX9-NEXT:    ;;#ASMSTART
22165 ; GFX9-NEXT:    ; use s[8:15]
22166 ; GFX9-NEXT:    ;;#ASMEND
22167 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
22168   %vec0 = call <4 x i64> asm "; def $0", "=s"()
22169   %vec1 = call <4 x i64> asm "; def $0", "=s"()
22170   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 6, i32 5, i32 5, i32 5>
22171   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
22172   ret void
22173 }
22174
22175 define void @s_shuffle_v4i64_v4i64__7_5_5_5() {
22176 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__7_5_5_5:
22177 ; GFX9:       ; %bb.0:
22178 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22179 ; GFX9-NEXT:    ;;#ASMSTART
22180 ; GFX9-NEXT:    ; def s[8:15]
22181 ; GFX9-NEXT:    ;;#ASMEND
22182 ; GFX9-NEXT:    s_mov_b32 s8, s14
22183 ; GFX9-NEXT:    s_mov_b32 s9, s15
22184 ; GFX9-NEXT:    s_mov_b32 s12, s10
22185 ; GFX9-NEXT:    s_mov_b32 s13, s11
22186 ; GFX9-NEXT:    s_mov_b32 s14, s10
22187 ; GFX9-NEXT:    s_mov_b32 s15, s11
22188 ; GFX9-NEXT:    ;;#ASMSTART
22189 ; GFX9-NEXT:    ; use s[8:15]
22190 ; GFX9-NEXT:    ;;#ASMEND
22191 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
22192   %vec0 = call <4 x i64> asm "; def $0", "=s"()
22193   %vec1 = call <4 x i64> asm "; def $0", "=s"()
22194   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 5, i32 5, i32 5>
22195   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
22196   ret void
22197 }
22198
22199 define void @s_shuffle_v4i64_v4i64__7_u_5_5() {
22200 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_u_5_5:
22201 ; GFX900:       ; %bb.0:
22202 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22203 ; GFX900-NEXT:    ;;#ASMSTART
22204 ; GFX900-NEXT:    ; def s[4:11]
22205 ; GFX900-NEXT:    ;;#ASMEND
22206 ; GFX900-NEXT:    s_mov_b32 s8, s10
22207 ; GFX900-NEXT:    s_mov_b32 s9, s11
22208 ; GFX900-NEXT:    s_mov_b32 s12, s6
22209 ; GFX900-NEXT:    s_mov_b32 s13, s7
22210 ; GFX900-NEXT:    s_mov_b32 s14, s6
22211 ; GFX900-NEXT:    s_mov_b32 s15, s7
22212 ; GFX900-NEXT:    ;;#ASMSTART
22213 ; GFX900-NEXT:    ; use s[8:15]
22214 ; GFX900-NEXT:    ;;#ASMEND
22215 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
22216 ;
22217 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_u_5_5:
22218 ; GFX90A:       ; %bb.0:
22219 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22220 ; GFX90A-NEXT:    ;;#ASMSTART
22221 ; GFX90A-NEXT:    ; def s[4:11]
22222 ; GFX90A-NEXT:    ;;#ASMEND
22223 ; GFX90A-NEXT:    s_mov_b32 s8, s10
22224 ; GFX90A-NEXT:    s_mov_b32 s9, s11
22225 ; GFX90A-NEXT:    s_mov_b32 s12, s6
22226 ; GFX90A-NEXT:    s_mov_b32 s13, s7
22227 ; GFX90A-NEXT:    s_mov_b32 s14, s6
22228 ; GFX90A-NEXT:    s_mov_b32 s15, s7
22229 ; GFX90A-NEXT:    ;;#ASMSTART
22230 ; GFX90A-NEXT:    ; use s[8:15]
22231 ; GFX90A-NEXT:    ;;#ASMEND
22232 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
22233 ;
22234 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_u_5_5:
22235 ; GFX940:       ; %bb.0:
22236 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22237 ; GFX940-NEXT:    ;;#ASMSTART
22238 ; GFX940-NEXT:    ; def s[0:7]
22239 ; GFX940-NEXT:    ;;#ASMEND
22240 ; GFX940-NEXT:    s_mov_b32 s8, s6
22241 ; GFX940-NEXT:    s_mov_b32 s9, s7
22242 ; GFX940-NEXT:    s_mov_b32 s12, s2
22243 ; GFX940-NEXT:    s_mov_b32 s13, s3
22244 ; GFX940-NEXT:    s_mov_b32 s14, s2
22245 ; GFX940-NEXT:    s_mov_b32 s15, s3
22246 ; GFX940-NEXT:    ;;#ASMSTART
22247 ; GFX940-NEXT:    ; use s[8:15]
22248 ; GFX940-NEXT:    ;;#ASMEND
22249 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
22250   %vec0 = call <4 x i64> asm "; def $0", "=s"()
22251   %vec1 = call <4 x i64> asm "; def $0", "=s"()
22252   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 poison, i32 5, i32 5>
22253   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
22254   ret void
22255 }
22256
22257 define void @s_shuffle_v4i64_v4i64__7_0_5_5() {
22258 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_0_5_5:
22259 ; GFX900:       ; %bb.0:
22260 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22261 ; GFX900-NEXT:    ;;#ASMSTART
22262 ; GFX900-NEXT:    ; def s[4:11]
22263 ; GFX900-NEXT:    ;;#ASMEND
22264 ; GFX900-NEXT:    ;;#ASMSTART
22265 ; GFX900-NEXT:    ; def s[12:19]
22266 ; GFX900-NEXT:    ;;#ASMEND
22267 ; GFX900-NEXT:    s_mov_b32 s8, s18
22268 ; GFX900-NEXT:    s_mov_b32 s9, s19
22269 ; GFX900-NEXT:    s_mov_b32 s10, s4
22270 ; GFX900-NEXT:    s_mov_b32 s11, s5
22271 ; GFX900-NEXT:    s_mov_b32 s12, s14
22272 ; GFX900-NEXT:    s_mov_b32 s13, s15
22273 ; GFX900-NEXT:    ;;#ASMSTART
22274 ; GFX900-NEXT:    ; use s[8:15]
22275 ; GFX900-NEXT:    ;;#ASMEND
22276 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
22277 ;
22278 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_0_5_5:
22279 ; GFX90A:       ; %bb.0:
22280 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22281 ; GFX90A-NEXT:    ;;#ASMSTART
22282 ; GFX90A-NEXT:    ; def s[4:11]
22283 ; GFX90A-NEXT:    ;;#ASMEND
22284 ; GFX90A-NEXT:    ;;#ASMSTART
22285 ; GFX90A-NEXT:    ; def s[12:19]
22286 ; GFX90A-NEXT:    ;;#ASMEND
22287 ; GFX90A-NEXT:    s_mov_b32 s8, s18
22288 ; GFX90A-NEXT:    s_mov_b32 s9, s19
22289 ; GFX90A-NEXT:    s_mov_b32 s10, s4
22290 ; GFX90A-NEXT:    s_mov_b32 s11, s5
22291 ; GFX90A-NEXT:    s_mov_b32 s12, s14
22292 ; GFX90A-NEXT:    s_mov_b32 s13, s15
22293 ; GFX90A-NEXT:    ;;#ASMSTART
22294 ; GFX90A-NEXT:    ; use s[8:15]
22295 ; GFX90A-NEXT:    ;;#ASMEND
22296 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
22297 ;
22298 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_0_5_5:
22299 ; GFX940:       ; %bb.0:
22300 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22301 ; GFX940-NEXT:    ;;#ASMSTART
22302 ; GFX940-NEXT:    ; def s[0:7]
22303 ; GFX940-NEXT:    ;;#ASMEND
22304 ; GFX940-NEXT:    s_nop 0
22305 ; GFX940-NEXT:    ;;#ASMSTART
22306 ; GFX940-NEXT:    ; def s[4:11]
22307 ; GFX940-NEXT:    ;;#ASMEND
22308 ; GFX940-NEXT:    s_mov_b32 s8, s10
22309 ; GFX940-NEXT:    s_mov_b32 s9, s11
22310 ; GFX940-NEXT:    s_mov_b32 s10, s0
22311 ; GFX940-NEXT:    s_mov_b32 s11, s1
22312 ; GFX940-NEXT:    s_mov_b32 s12, s6
22313 ; GFX940-NEXT:    s_mov_b32 s13, s7
22314 ; GFX940-NEXT:    s_mov_b32 s14, s6
22315 ; GFX940-NEXT:    s_mov_b32 s15, s7
22316 ; GFX940-NEXT:    ;;#ASMSTART
22317 ; GFX940-NEXT:    ; use s[8:15]
22318 ; GFX940-NEXT:    ;;#ASMEND
22319 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
22320   %vec0 = call <4 x i64> asm "; def $0", "=s"()
22321   %vec1 = call <4 x i64> asm "; def $0", "=s"()
22322   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 0, i32 5, i32 5>
22323   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
22324   ret void
22325 }
22326
22327 define void @s_shuffle_v4i64_v4i64__7_1_5_5() {
22328 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_1_5_5:
22329 ; GFX900:       ; %bb.0:
22330 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22331 ; GFX900-NEXT:    ;;#ASMSTART
22332 ; GFX900-NEXT:    ; def s[8:15]
22333 ; GFX900-NEXT:    ;;#ASMEND
22334 ; GFX900-NEXT:    ;;#ASMSTART
22335 ; GFX900-NEXT:    ; def s[12:19]
22336 ; GFX900-NEXT:    ;;#ASMEND
22337 ; GFX900-NEXT:    s_mov_b32 s8, s18
22338 ; GFX900-NEXT:    s_mov_b32 s9, s19
22339 ; GFX900-NEXT:    s_mov_b32 s12, s14
22340 ; GFX900-NEXT:    s_mov_b32 s13, s15
22341 ; GFX900-NEXT:    ;;#ASMSTART
22342 ; GFX900-NEXT:    ; use s[8:15]
22343 ; GFX900-NEXT:    ;;#ASMEND
22344 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
22345 ;
22346 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_1_5_5:
22347 ; GFX90A:       ; %bb.0:
22348 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22349 ; GFX90A-NEXT:    ;;#ASMSTART
22350 ; GFX90A-NEXT:    ; def s[8:15]
22351 ; GFX90A-NEXT:    ;;#ASMEND
22352 ; GFX90A-NEXT:    ;;#ASMSTART
22353 ; GFX90A-NEXT:    ; def s[12:19]
22354 ; GFX90A-NEXT:    ;;#ASMEND
22355 ; GFX90A-NEXT:    s_mov_b32 s8, s18
22356 ; GFX90A-NEXT:    s_mov_b32 s9, s19
22357 ; GFX90A-NEXT:    s_mov_b32 s12, s14
22358 ; GFX90A-NEXT:    s_mov_b32 s13, s15
22359 ; GFX90A-NEXT:    ;;#ASMSTART
22360 ; GFX90A-NEXT:    ; use s[8:15]
22361 ; GFX90A-NEXT:    ;;#ASMEND
22362 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
22363 ;
22364 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_1_5_5:
22365 ; GFX940:       ; %bb.0:
22366 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22367 ; GFX940-NEXT:    ;;#ASMSTART
22368 ; GFX940-NEXT:    ; def s[8:15]
22369 ; GFX940-NEXT:    ;;#ASMEND
22370 ; GFX940-NEXT:    ;;#ASMSTART
22371 ; GFX940-NEXT:    ; def s[0:7]
22372 ; GFX940-NEXT:    ;;#ASMEND
22373 ; GFX940-NEXT:    s_mov_b32 s8, s6
22374 ; GFX940-NEXT:    s_mov_b32 s9, s7
22375 ; GFX940-NEXT:    s_mov_b32 s12, s2
22376 ; GFX940-NEXT:    s_mov_b32 s13, s3
22377 ; GFX940-NEXT:    s_mov_b32 s14, s2
22378 ; GFX940-NEXT:    s_mov_b32 s15, s3
22379 ; GFX940-NEXT:    ;;#ASMSTART
22380 ; GFX940-NEXT:    ; use s[8:15]
22381 ; GFX940-NEXT:    ;;#ASMEND
22382 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
22383   %vec0 = call <4 x i64> asm "; def $0", "=s"()
22384   %vec1 = call <4 x i64> asm "; def $0", "=s"()
22385   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 1, i32 5, i32 5>
22386   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
22387   ret void
22388 }
22389
22390 define void @s_shuffle_v4i64_v4i64__7_2_5_5() {
22391 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_2_5_5:
22392 ; GFX900:       ; %bb.0:
22393 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22394 ; GFX900-NEXT:    ;;#ASMSTART
22395 ; GFX900-NEXT:    ; def s[8:15]
22396 ; GFX900-NEXT:    ;;#ASMEND
22397 ; GFX900-NEXT:    ;;#ASMSTART
22398 ; GFX900-NEXT:    ; def s[4:11]
22399 ; GFX900-NEXT:    ;;#ASMEND
22400 ; GFX900-NEXT:    s_mov_b32 s8, s10
22401 ; GFX900-NEXT:    s_mov_b32 s9, s11
22402 ; GFX900-NEXT:    s_mov_b32 s10, s12
22403 ; GFX900-NEXT:    s_mov_b32 s11, s13
22404 ; GFX900-NEXT:    s_mov_b32 s12, s6
22405 ; GFX900-NEXT:    s_mov_b32 s13, s7
22406 ; GFX900-NEXT:    s_mov_b32 s14, s6
22407 ; GFX900-NEXT:    s_mov_b32 s15, s7
22408 ; GFX900-NEXT:    ;;#ASMSTART
22409 ; GFX900-NEXT:    ; use s[8:15]
22410 ; GFX900-NEXT:    ;;#ASMEND
22411 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
22412 ;
22413 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_2_5_5:
22414 ; GFX90A:       ; %bb.0:
22415 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22416 ; GFX90A-NEXT:    ;;#ASMSTART
22417 ; GFX90A-NEXT:    ; def s[8:15]
22418 ; GFX90A-NEXT:    ;;#ASMEND
22419 ; GFX90A-NEXT:    ;;#ASMSTART
22420 ; GFX90A-NEXT:    ; def s[4:11]
22421 ; GFX90A-NEXT:    ;;#ASMEND
22422 ; GFX90A-NEXT:    s_mov_b32 s8, s10
22423 ; GFX90A-NEXT:    s_mov_b32 s9, s11
22424 ; GFX90A-NEXT:    s_mov_b32 s10, s12
22425 ; GFX90A-NEXT:    s_mov_b32 s11, s13
22426 ; GFX90A-NEXT:    s_mov_b32 s12, s6
22427 ; GFX90A-NEXT:    s_mov_b32 s13, s7
22428 ; GFX90A-NEXT:    s_mov_b32 s14, s6
22429 ; GFX90A-NEXT:    s_mov_b32 s15, s7
22430 ; GFX90A-NEXT:    ;;#ASMSTART
22431 ; GFX90A-NEXT:    ; use s[8:15]
22432 ; GFX90A-NEXT:    ;;#ASMEND
22433 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
22434 ;
22435 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_2_5_5:
22436 ; GFX940:       ; %bb.0:
22437 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22438 ; GFX940-NEXT:    ;;#ASMSTART
22439 ; GFX940-NEXT:    ; def s[12:19]
22440 ; GFX940-NEXT:    ;;#ASMEND
22441 ; GFX940-NEXT:    ;;#ASMSTART
22442 ; GFX940-NEXT:    ; def s[0:7]
22443 ; GFX940-NEXT:    ;;#ASMEND
22444 ; GFX940-NEXT:    s_mov_b32 s8, s18
22445 ; GFX940-NEXT:    s_mov_b32 s9, s19
22446 ; GFX940-NEXT:    s_mov_b32 s10, s4
22447 ; GFX940-NEXT:    s_mov_b32 s11, s5
22448 ; GFX940-NEXT:    s_mov_b32 s12, s14
22449 ; GFX940-NEXT:    s_mov_b32 s13, s15
22450 ; GFX940-NEXT:    ;;#ASMSTART
22451 ; GFX940-NEXT:    ; use s[8:15]
22452 ; GFX940-NEXT:    ;;#ASMEND
22453 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
22454   %vec0 = call <4 x i64> asm "; def $0", "=s"()
22455   %vec1 = call <4 x i64> asm "; def $0", "=s"()
22456   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 2, i32 5, i32 5>
22457   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
22458   ret void
22459 }
22460
22461 define void @s_shuffle_v4i64_v4i64__7_3_5_5() {
22462 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_3_5_5:
22463 ; GFX900:       ; %bb.0:
22464 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22465 ; GFX900-NEXT:    ;;#ASMSTART
22466 ; GFX900-NEXT:    ; def s[4:11]
22467 ; GFX900-NEXT:    ;;#ASMEND
22468 ; GFX900-NEXT:    ;;#ASMSTART
22469 ; GFX900-NEXT:    ; def s[12:19]
22470 ; GFX900-NEXT:    ;;#ASMEND
22471 ; GFX900-NEXT:    s_mov_b32 s8, s18
22472 ; GFX900-NEXT:    s_mov_b32 s9, s19
22473 ; GFX900-NEXT:    s_mov_b32 s12, s14
22474 ; GFX900-NEXT:    s_mov_b32 s13, s15
22475 ; GFX900-NEXT:    ;;#ASMSTART
22476 ; GFX900-NEXT:    ; use s[8:15]
22477 ; GFX900-NEXT:    ;;#ASMEND
22478 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
22479 ;
22480 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_3_5_5:
22481 ; GFX90A:       ; %bb.0:
22482 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22483 ; GFX90A-NEXT:    ;;#ASMSTART
22484 ; GFX90A-NEXT:    ; def s[4:11]
22485 ; GFX90A-NEXT:    ;;#ASMEND
22486 ; GFX90A-NEXT:    ;;#ASMSTART
22487 ; GFX90A-NEXT:    ; def s[12:19]
22488 ; GFX90A-NEXT:    ;;#ASMEND
22489 ; GFX90A-NEXT:    s_mov_b32 s8, s18
22490 ; GFX90A-NEXT:    s_mov_b32 s9, s19
22491 ; GFX90A-NEXT:    s_mov_b32 s12, s14
22492 ; GFX90A-NEXT:    s_mov_b32 s13, s15
22493 ; GFX90A-NEXT:    ;;#ASMSTART
22494 ; GFX90A-NEXT:    ; use s[8:15]
22495 ; GFX90A-NEXT:    ;;#ASMEND
22496 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
22497 ;
22498 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_3_5_5:
22499 ; GFX940:       ; %bb.0:
22500 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22501 ; GFX940-NEXT:    ;;#ASMSTART
22502 ; GFX940-NEXT:    ; def s[12:19]
22503 ; GFX940-NEXT:    ;;#ASMEND
22504 ; GFX940-NEXT:    ;;#ASMSTART
22505 ; GFX940-NEXT:    ; def s[0:7]
22506 ; GFX940-NEXT:    ;;#ASMEND
22507 ; GFX940-NEXT:    s_mov_b32 s8, s18
22508 ; GFX940-NEXT:    s_mov_b32 s9, s19
22509 ; GFX940-NEXT:    s_mov_b32 s10, s6
22510 ; GFX940-NEXT:    s_mov_b32 s11, s7
22511 ; GFX940-NEXT:    s_mov_b32 s12, s14
22512 ; GFX940-NEXT:    s_mov_b32 s13, s15
22513 ; GFX940-NEXT:    ;;#ASMSTART
22514 ; GFX940-NEXT:    ; use s[8:15]
22515 ; GFX940-NEXT:    ;;#ASMEND
22516 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
22517   %vec0 = call <4 x i64> asm "; def $0", "=s"()
22518   %vec1 = call <4 x i64> asm "; def $0", "=s"()
22519   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 3, i32 5, i32 5>
22520   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
22521   ret void
22522 }
22523
22524 define void @s_shuffle_v4i64_v4i64__7_4_5_5() {
22525 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_4_5_5:
22526 ; GFX900:       ; %bb.0:
22527 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22528 ; GFX900-NEXT:    ;;#ASMSTART
22529 ; GFX900-NEXT:    ; def s[4:11]
22530 ; GFX900-NEXT:    ;;#ASMEND
22531 ; GFX900-NEXT:    s_mov_b32 s8, s10
22532 ; GFX900-NEXT:    s_mov_b32 s9, s11
22533 ; GFX900-NEXT:    s_mov_b32 s10, s4
22534 ; GFX900-NEXT:    s_mov_b32 s11, s5
22535 ; GFX900-NEXT:    s_mov_b32 s12, s6
22536 ; GFX900-NEXT:    s_mov_b32 s13, s7
22537 ; GFX900-NEXT:    s_mov_b32 s14, s6
22538 ; GFX900-NEXT:    s_mov_b32 s15, s7
22539 ; GFX900-NEXT:    ;;#ASMSTART
22540 ; GFX900-NEXT:    ; use s[8:15]
22541 ; GFX900-NEXT:    ;;#ASMEND
22542 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
22543 ;
22544 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_4_5_5:
22545 ; GFX90A:       ; %bb.0:
22546 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22547 ; GFX90A-NEXT:    ;;#ASMSTART
22548 ; GFX90A-NEXT:    ; def s[4:11]
22549 ; GFX90A-NEXT:    ;;#ASMEND
22550 ; GFX90A-NEXT:    s_mov_b32 s8, s10
22551 ; GFX90A-NEXT:    s_mov_b32 s9, s11
22552 ; GFX90A-NEXT:    s_mov_b32 s10, s4
22553 ; GFX90A-NEXT:    s_mov_b32 s11, s5
22554 ; GFX90A-NEXT:    s_mov_b32 s12, s6
22555 ; GFX90A-NEXT:    s_mov_b32 s13, s7
22556 ; GFX90A-NEXT:    s_mov_b32 s14, s6
22557 ; GFX90A-NEXT:    s_mov_b32 s15, s7
22558 ; GFX90A-NEXT:    ;;#ASMSTART
22559 ; GFX90A-NEXT:    ; use s[8:15]
22560 ; GFX90A-NEXT:    ;;#ASMEND
22561 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
22562 ;
22563 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_4_5_5:
22564 ; GFX940:       ; %bb.0:
22565 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22566 ; GFX940-NEXT:    ;;#ASMSTART
22567 ; GFX940-NEXT:    ; def s[0:7]
22568 ; GFX940-NEXT:    ;;#ASMEND
22569 ; GFX940-NEXT:    s_mov_b32 s8, s6
22570 ; GFX940-NEXT:    s_mov_b32 s9, s7
22571 ; GFX940-NEXT:    s_mov_b32 s10, s0
22572 ; GFX940-NEXT:    s_mov_b32 s11, s1
22573 ; GFX940-NEXT:    s_mov_b32 s12, s2
22574 ; GFX940-NEXT:    s_mov_b32 s13, s3
22575 ; GFX940-NEXT:    s_mov_b32 s14, s2
22576 ; GFX940-NEXT:    s_mov_b32 s15, s3
22577 ; GFX940-NEXT:    ;;#ASMSTART
22578 ; GFX940-NEXT:    ; use s[8:15]
22579 ; GFX940-NEXT:    ;;#ASMEND
22580 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
22581   %vec0 = call <4 x i64> asm "; def $0", "=s"()
22582   %vec1 = call <4 x i64> asm "; def $0", "=s"()
22583   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 4, i32 5, i32 5>
22584   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
22585   ret void
22586 }
22587
22588 define void @s_shuffle_v4i64_v4i64__7_6_5_5() {
22589 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_6_5_5:
22590 ; GFX900:       ; %bb.0:
22591 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22592 ; GFX900-NEXT:    ;;#ASMSTART
22593 ; GFX900-NEXT:    ; def s[12:19]
22594 ; GFX900-NEXT:    ;;#ASMEND
22595 ; GFX900-NEXT:    s_mov_b32 s8, s18
22596 ; GFX900-NEXT:    s_mov_b32 s9, s19
22597 ; GFX900-NEXT:    s_mov_b32 s10, s16
22598 ; GFX900-NEXT:    s_mov_b32 s11, s17
22599 ; GFX900-NEXT:    s_mov_b32 s12, s14
22600 ; GFX900-NEXT:    s_mov_b32 s13, s15
22601 ; GFX900-NEXT:    ;;#ASMSTART
22602 ; GFX900-NEXT:    ; use s[8:15]
22603 ; GFX900-NEXT:    ;;#ASMEND
22604 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
22605 ;
22606 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_6_5_5:
22607 ; GFX90A:       ; %bb.0:
22608 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22609 ; GFX90A-NEXT:    ;;#ASMSTART
22610 ; GFX90A-NEXT:    ; def s[12:19]
22611 ; GFX90A-NEXT:    ;;#ASMEND
22612 ; GFX90A-NEXT:    s_mov_b32 s8, s18
22613 ; GFX90A-NEXT:    s_mov_b32 s9, s19
22614 ; GFX90A-NEXT:    s_mov_b32 s10, s16
22615 ; GFX90A-NEXT:    s_mov_b32 s11, s17
22616 ; GFX90A-NEXT:    s_mov_b32 s12, s14
22617 ; GFX90A-NEXT:    s_mov_b32 s13, s15
22618 ; GFX90A-NEXT:    ;;#ASMSTART
22619 ; GFX90A-NEXT:    ; use s[8:15]
22620 ; GFX90A-NEXT:    ;;#ASMEND
22621 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
22622 ;
22623 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_6_5_5:
22624 ; GFX940:       ; %bb.0:
22625 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22626 ; GFX940-NEXT:    ;;#ASMSTART
22627 ; GFX940-NEXT:    ; def s[0:7]
22628 ; GFX940-NEXT:    ;;#ASMEND
22629 ; GFX940-NEXT:    s_mov_b32 s8, s6
22630 ; GFX940-NEXT:    s_mov_b32 s9, s7
22631 ; GFX940-NEXT:    s_mov_b32 s10, s4
22632 ; GFX940-NEXT:    s_mov_b32 s11, s5
22633 ; GFX940-NEXT:    s_mov_b32 s12, s2
22634 ; GFX940-NEXT:    s_mov_b32 s13, s3
22635 ; GFX940-NEXT:    s_mov_b32 s14, s2
22636 ; GFX940-NEXT:    s_mov_b32 s15, s3
22637 ; GFX940-NEXT:    ;;#ASMSTART
22638 ; GFX940-NEXT:    ; use s[8:15]
22639 ; GFX940-NEXT:    ;;#ASMEND
22640 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
22641   %vec0 = call <4 x i64> asm "; def $0", "=s"()
22642   %vec1 = call <4 x i64> asm "; def $0", "=s"()
22643   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 6, i32 5, i32 5>
22644   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
22645   ret void
22646 }
22647
22648 define void @s_shuffle_v4i64_v4i64__7_7_5_5() {
22649 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_5_5:
22650 ; GFX900:       ; %bb.0:
22651 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22652 ; GFX900-NEXT:    ;;#ASMSTART
22653 ; GFX900-NEXT:    ; def s[4:11]
22654 ; GFX900-NEXT:    ;;#ASMEND
22655 ; GFX900-NEXT:    s_mov_b32 s8, s10
22656 ; GFX900-NEXT:    s_mov_b32 s9, s11
22657 ; GFX900-NEXT:    s_mov_b32 s12, s6
22658 ; GFX900-NEXT:    s_mov_b32 s13, s7
22659 ; GFX900-NEXT:    s_mov_b32 s14, s6
22660 ; GFX900-NEXT:    s_mov_b32 s15, s7
22661 ; GFX900-NEXT:    ;;#ASMSTART
22662 ; GFX900-NEXT:    ; use s[8:15]
22663 ; GFX900-NEXT:    ;;#ASMEND
22664 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
22665 ;
22666 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_5_5:
22667 ; GFX90A:       ; %bb.0:
22668 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22669 ; GFX90A-NEXT:    ;;#ASMSTART
22670 ; GFX90A-NEXT:    ; def s[4:11]
22671 ; GFX90A-NEXT:    ;;#ASMEND
22672 ; GFX90A-NEXT:    s_mov_b32 s8, s10
22673 ; GFX90A-NEXT:    s_mov_b32 s9, s11
22674 ; GFX90A-NEXT:    s_mov_b32 s12, s6
22675 ; GFX90A-NEXT:    s_mov_b32 s13, s7
22676 ; GFX90A-NEXT:    s_mov_b32 s14, s6
22677 ; GFX90A-NEXT:    s_mov_b32 s15, s7
22678 ; GFX90A-NEXT:    ;;#ASMSTART
22679 ; GFX90A-NEXT:    ; use s[8:15]
22680 ; GFX90A-NEXT:    ;;#ASMEND
22681 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
22682 ;
22683 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_5_5:
22684 ; GFX940:       ; %bb.0:
22685 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22686 ; GFX940-NEXT:    ;;#ASMSTART
22687 ; GFX940-NEXT:    ; def s[0:7]
22688 ; GFX940-NEXT:    ;;#ASMEND
22689 ; GFX940-NEXT:    s_mov_b32 s8, s6
22690 ; GFX940-NEXT:    s_mov_b32 s9, s7
22691 ; GFX940-NEXT:    s_mov_b32 s10, s6
22692 ; GFX940-NEXT:    s_mov_b32 s11, s7
22693 ; GFX940-NEXT:    s_mov_b32 s12, s2
22694 ; GFX940-NEXT:    s_mov_b32 s13, s3
22695 ; GFX940-NEXT:    s_mov_b32 s14, s2
22696 ; GFX940-NEXT:    s_mov_b32 s15, s3
22697 ; GFX940-NEXT:    ;;#ASMSTART
22698 ; GFX940-NEXT:    ; use s[8:15]
22699 ; GFX940-NEXT:    ;;#ASMEND
22700 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
22701   %vec0 = call <4 x i64> asm "; def $0", "=s"()
22702   %vec1 = call <4 x i64> asm "; def $0", "=s"()
22703   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 5, i32 5>
22704   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
22705   ret void
22706 }
22707
22708 define void @s_shuffle_v4i64_v4i64__7_7_u_5() {
22709 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_u_5:
22710 ; GFX900:       ; %bb.0:
22711 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22712 ; GFX900-NEXT:    ;;#ASMSTART
22713 ; GFX900-NEXT:    ; def s[4:11]
22714 ; GFX900-NEXT:    ;;#ASMEND
22715 ; GFX900-NEXT:    s_mov_b32 s8, s10
22716 ; GFX900-NEXT:    s_mov_b32 s9, s11
22717 ; GFX900-NEXT:    s_mov_b32 s14, s6
22718 ; GFX900-NEXT:    s_mov_b32 s15, s7
22719 ; GFX900-NEXT:    ;;#ASMSTART
22720 ; GFX900-NEXT:    ; use s[8:15]
22721 ; GFX900-NEXT:    ;;#ASMEND
22722 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
22723 ;
22724 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_u_5:
22725 ; GFX90A:       ; %bb.0:
22726 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22727 ; GFX90A-NEXT:    ;;#ASMSTART
22728 ; GFX90A-NEXT:    ; def s[4:11]
22729 ; GFX90A-NEXT:    ;;#ASMEND
22730 ; GFX90A-NEXT:    s_mov_b32 s8, s10
22731 ; GFX90A-NEXT:    s_mov_b32 s9, s11
22732 ; GFX90A-NEXT:    s_mov_b32 s14, s6
22733 ; GFX90A-NEXT:    s_mov_b32 s15, s7
22734 ; GFX90A-NEXT:    ;;#ASMSTART
22735 ; GFX90A-NEXT:    ; use s[8:15]
22736 ; GFX90A-NEXT:    ;;#ASMEND
22737 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
22738 ;
22739 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_u_5:
22740 ; GFX940:       ; %bb.0:
22741 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22742 ; GFX940-NEXT:    ;;#ASMSTART
22743 ; GFX940-NEXT:    ; def s[0:7]
22744 ; GFX940-NEXT:    ;;#ASMEND
22745 ; GFX940-NEXT:    s_mov_b32 s8, s6
22746 ; GFX940-NEXT:    s_mov_b32 s9, s7
22747 ; GFX940-NEXT:    s_mov_b32 s10, s6
22748 ; GFX940-NEXT:    s_mov_b32 s11, s7
22749 ; GFX940-NEXT:    s_mov_b32 s14, s2
22750 ; GFX940-NEXT:    s_mov_b32 s15, s3
22751 ; GFX940-NEXT:    ;;#ASMSTART
22752 ; GFX940-NEXT:    ; use s[8:15]
22753 ; GFX940-NEXT:    ;;#ASMEND
22754 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
22755   %vec0 = call <4 x i64> asm "; def $0", "=s"()
22756   %vec1 = call <4 x i64> asm "; def $0", "=s"()
22757   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 poison, i32 5>
22758   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
22759   ret void
22760 }
22761
22762 define void @s_shuffle_v4i64_v4i64__7_7_0_5() {
22763 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_0_5:
22764 ; GFX900:       ; %bb.0:
22765 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22766 ; GFX900-NEXT:    ;;#ASMSTART
22767 ; GFX900-NEXT:    ; def s[4:11]
22768 ; GFX900-NEXT:    ;;#ASMEND
22769 ; GFX900-NEXT:    ;;#ASMSTART
22770 ; GFX900-NEXT:    ; def s[12:19]
22771 ; GFX900-NEXT:    ;;#ASMEND
22772 ; GFX900-NEXT:    s_mov_b32 s8, s18
22773 ; GFX900-NEXT:    s_mov_b32 s9, s19
22774 ; GFX900-NEXT:    s_mov_b32 s10, s18
22775 ; GFX900-NEXT:    s_mov_b32 s11, s19
22776 ; GFX900-NEXT:    s_mov_b32 s12, s4
22777 ; GFX900-NEXT:    s_mov_b32 s13, s5
22778 ; GFX900-NEXT:    ;;#ASMSTART
22779 ; GFX900-NEXT:    ; use s[8:15]
22780 ; GFX900-NEXT:    ;;#ASMEND
22781 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
22782 ;
22783 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_0_5:
22784 ; GFX90A:       ; %bb.0:
22785 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22786 ; GFX90A-NEXT:    ;;#ASMSTART
22787 ; GFX90A-NEXT:    ; def s[4:11]
22788 ; GFX90A-NEXT:    ;;#ASMEND
22789 ; GFX90A-NEXT:    ;;#ASMSTART
22790 ; GFX90A-NEXT:    ; def s[12:19]
22791 ; GFX90A-NEXT:    ;;#ASMEND
22792 ; GFX90A-NEXT:    s_mov_b32 s8, s18
22793 ; GFX90A-NEXT:    s_mov_b32 s9, s19
22794 ; GFX90A-NEXT:    s_mov_b32 s10, s18
22795 ; GFX90A-NEXT:    s_mov_b32 s11, s19
22796 ; GFX90A-NEXT:    s_mov_b32 s12, s4
22797 ; GFX90A-NEXT:    s_mov_b32 s13, s5
22798 ; GFX90A-NEXT:    ;;#ASMSTART
22799 ; GFX90A-NEXT:    ; use s[8:15]
22800 ; GFX90A-NEXT:    ;;#ASMEND
22801 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
22802 ;
22803 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_0_5:
22804 ; GFX940:       ; %bb.0:
22805 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22806 ; GFX940-NEXT:    ;;#ASMSTART
22807 ; GFX940-NEXT:    ; def s[0:7]
22808 ; GFX940-NEXT:    ;;#ASMEND
22809 ; GFX940-NEXT:    s_mov_b32 s12, s0
22810 ; GFX940-NEXT:    ;;#ASMSTART
22811 ; GFX940-NEXT:    ; def s[4:11]
22812 ; GFX940-NEXT:    ;;#ASMEND
22813 ; GFX940-NEXT:    s_mov_b32 s8, s10
22814 ; GFX940-NEXT:    s_mov_b32 s9, s11
22815 ; GFX940-NEXT:    s_mov_b32 s13, s1
22816 ; GFX940-NEXT:    s_mov_b32 s14, s6
22817 ; GFX940-NEXT:    s_mov_b32 s15, s7
22818 ; GFX940-NEXT:    ;;#ASMSTART
22819 ; GFX940-NEXT:    ; use s[8:15]
22820 ; GFX940-NEXT:    ;;#ASMEND
22821 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
22822   %vec0 = call <4 x i64> asm "; def $0", "=s"()
22823   %vec1 = call <4 x i64> asm "; def $0", "=s"()
22824   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 0, i32 5>
22825   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
22826   ret void
22827 }
22828
22829 define void @s_shuffle_v4i64_v4i64__7_7_1_5() {
22830 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_1_5:
22831 ; GFX900:       ; %bb.0:
22832 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22833 ; GFX900-NEXT:    ;;#ASMSTART
22834 ; GFX900-NEXT:    ; def s[4:11]
22835 ; GFX900-NEXT:    ;;#ASMEND
22836 ; GFX900-NEXT:    ;;#ASMSTART
22837 ; GFX900-NEXT:    ; def s[12:19]
22838 ; GFX900-NEXT:    ;;#ASMEND
22839 ; GFX900-NEXT:    s_mov_b32 s8, s18
22840 ; GFX900-NEXT:    s_mov_b32 s9, s19
22841 ; GFX900-NEXT:    s_mov_b32 s10, s18
22842 ; GFX900-NEXT:    s_mov_b32 s11, s19
22843 ; GFX900-NEXT:    s_mov_b32 s12, s6
22844 ; GFX900-NEXT:    s_mov_b32 s13, s7
22845 ; GFX900-NEXT:    ;;#ASMSTART
22846 ; GFX900-NEXT:    ; use s[8:15]
22847 ; GFX900-NEXT:    ;;#ASMEND
22848 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
22849 ;
22850 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_1_5:
22851 ; GFX90A:       ; %bb.0:
22852 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22853 ; GFX90A-NEXT:    ;;#ASMSTART
22854 ; GFX90A-NEXT:    ; def s[4:11]
22855 ; GFX90A-NEXT:    ;;#ASMEND
22856 ; GFX90A-NEXT:    ;;#ASMSTART
22857 ; GFX90A-NEXT:    ; def s[12:19]
22858 ; GFX90A-NEXT:    ;;#ASMEND
22859 ; GFX90A-NEXT:    s_mov_b32 s8, s18
22860 ; GFX90A-NEXT:    s_mov_b32 s9, s19
22861 ; GFX90A-NEXT:    s_mov_b32 s10, s18
22862 ; GFX90A-NEXT:    s_mov_b32 s11, s19
22863 ; GFX90A-NEXT:    s_mov_b32 s12, s6
22864 ; GFX90A-NEXT:    s_mov_b32 s13, s7
22865 ; GFX90A-NEXT:    ;;#ASMSTART
22866 ; GFX90A-NEXT:    ; use s[8:15]
22867 ; GFX90A-NEXT:    ;;#ASMEND
22868 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
22869 ;
22870 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_1_5:
22871 ; GFX940:       ; %bb.0:
22872 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22873 ; GFX940-NEXT:    ;;#ASMSTART
22874 ; GFX940-NEXT:    ; def s[0:7]
22875 ; GFX940-NEXT:    ;;#ASMEND
22876 ; GFX940-NEXT:    s_mov_b32 s12, s2
22877 ; GFX940-NEXT:    ;;#ASMSTART
22878 ; GFX940-NEXT:    ; def s[4:11]
22879 ; GFX940-NEXT:    ;;#ASMEND
22880 ; GFX940-NEXT:    s_mov_b32 s8, s10
22881 ; GFX940-NEXT:    s_mov_b32 s9, s11
22882 ; GFX940-NEXT:    s_mov_b32 s13, s3
22883 ; GFX940-NEXT:    s_mov_b32 s14, s6
22884 ; GFX940-NEXT:    s_mov_b32 s15, s7
22885 ; GFX940-NEXT:    ;;#ASMSTART
22886 ; GFX940-NEXT:    ; use s[8:15]
22887 ; GFX940-NEXT:    ;;#ASMEND
22888 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
22889   %vec0 = call <4 x i64> asm "; def $0", "=s"()
22890   %vec1 = call <4 x i64> asm "; def $0", "=s"()
22891   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 1, i32 5>
22892   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
22893   ret void
22894 }
22895
22896 define void @s_shuffle_v4i64_v4i64__7_7_2_5() {
22897 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_2_5:
22898 ; GFX900:       ; %bb.0:
22899 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22900 ; GFX900-NEXT:    ;;#ASMSTART
22901 ; GFX900-NEXT:    ; def s[8:15]
22902 ; GFX900-NEXT:    ;;#ASMEND
22903 ; GFX900-NEXT:    ;;#ASMSTART
22904 ; GFX900-NEXT:    ; def s[4:11]
22905 ; GFX900-NEXT:    ;;#ASMEND
22906 ; GFX900-NEXT:    s_mov_b32 s8, s10
22907 ; GFX900-NEXT:    s_mov_b32 s9, s11
22908 ; GFX900-NEXT:    s_mov_b32 s14, s6
22909 ; GFX900-NEXT:    s_mov_b32 s15, s7
22910 ; GFX900-NEXT:    ;;#ASMSTART
22911 ; GFX900-NEXT:    ; use s[8:15]
22912 ; GFX900-NEXT:    ;;#ASMEND
22913 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
22914 ;
22915 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_2_5:
22916 ; GFX90A:       ; %bb.0:
22917 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22918 ; GFX90A-NEXT:    ;;#ASMSTART
22919 ; GFX90A-NEXT:    ; def s[8:15]
22920 ; GFX90A-NEXT:    ;;#ASMEND
22921 ; GFX90A-NEXT:    ;;#ASMSTART
22922 ; GFX90A-NEXT:    ; def s[4:11]
22923 ; GFX90A-NEXT:    ;;#ASMEND
22924 ; GFX90A-NEXT:    s_mov_b32 s8, s10
22925 ; GFX90A-NEXT:    s_mov_b32 s9, s11
22926 ; GFX90A-NEXT:    s_mov_b32 s14, s6
22927 ; GFX90A-NEXT:    s_mov_b32 s15, s7
22928 ; GFX90A-NEXT:    ;;#ASMSTART
22929 ; GFX90A-NEXT:    ; use s[8:15]
22930 ; GFX90A-NEXT:    ;;#ASMEND
22931 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
22932 ;
22933 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_2_5:
22934 ; GFX940:       ; %bb.0:
22935 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22936 ; GFX940-NEXT:    ;;#ASMSTART
22937 ; GFX940-NEXT:    ; def s[8:15]
22938 ; GFX940-NEXT:    ;;#ASMEND
22939 ; GFX940-NEXT:    ;;#ASMSTART
22940 ; GFX940-NEXT:    ; def s[0:7]
22941 ; GFX940-NEXT:    ;;#ASMEND
22942 ; GFX940-NEXT:    s_mov_b32 s8, s6
22943 ; GFX940-NEXT:    s_mov_b32 s9, s7
22944 ; GFX940-NEXT:    s_mov_b32 s10, s6
22945 ; GFX940-NEXT:    s_mov_b32 s11, s7
22946 ; GFX940-NEXT:    s_mov_b32 s14, s2
22947 ; GFX940-NEXT:    s_mov_b32 s15, s3
22948 ; GFX940-NEXT:    ;;#ASMSTART
22949 ; GFX940-NEXT:    ; use s[8:15]
22950 ; GFX940-NEXT:    ;;#ASMEND
22951 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
22952   %vec0 = call <4 x i64> asm "; def $0", "=s"()
22953   %vec1 = call <4 x i64> asm "; def $0", "=s"()
22954   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 2, i32 5>
22955   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
22956   ret void
22957 }
22958
22959 define void @s_shuffle_v4i64_v4i64__7_7_3_5() {
22960 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_3_5:
22961 ; GFX900:       ; %bb.0:
22962 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22963 ; GFX900-NEXT:    ;;#ASMSTART
22964 ; GFX900-NEXT:    ; def s[8:15]
22965 ; GFX900-NEXT:    ;;#ASMEND
22966 ; GFX900-NEXT:    ;;#ASMSTART
22967 ; GFX900-NEXT:    ; def s[4:11]
22968 ; GFX900-NEXT:    ;;#ASMEND
22969 ; GFX900-NEXT:    s_mov_b32 s8, s10
22970 ; GFX900-NEXT:    s_mov_b32 s9, s11
22971 ; GFX900-NEXT:    s_mov_b32 s12, s14
22972 ; GFX900-NEXT:    s_mov_b32 s13, s15
22973 ; GFX900-NEXT:    s_mov_b32 s14, s6
22974 ; GFX900-NEXT:    s_mov_b32 s15, s7
22975 ; GFX900-NEXT:    ;;#ASMSTART
22976 ; GFX900-NEXT:    ; use s[8:15]
22977 ; GFX900-NEXT:    ;;#ASMEND
22978 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
22979 ;
22980 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_3_5:
22981 ; GFX90A:       ; %bb.0:
22982 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
22983 ; GFX90A-NEXT:    ;;#ASMSTART
22984 ; GFX90A-NEXT:    ; def s[8:15]
22985 ; GFX90A-NEXT:    ;;#ASMEND
22986 ; GFX90A-NEXT:    ;;#ASMSTART
22987 ; GFX90A-NEXT:    ; def s[4:11]
22988 ; GFX90A-NEXT:    ;;#ASMEND
22989 ; GFX90A-NEXT:    s_mov_b32 s8, s10
22990 ; GFX90A-NEXT:    s_mov_b32 s9, s11
22991 ; GFX90A-NEXT:    s_mov_b32 s12, s14
22992 ; GFX90A-NEXT:    s_mov_b32 s13, s15
22993 ; GFX90A-NEXT:    s_mov_b32 s14, s6
22994 ; GFX90A-NEXT:    s_mov_b32 s15, s7
22995 ; GFX90A-NEXT:    ;;#ASMSTART
22996 ; GFX90A-NEXT:    ; use s[8:15]
22997 ; GFX90A-NEXT:    ;;#ASMEND
22998 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
22999 ;
23000 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_3_5:
23001 ; GFX940:       ; %bb.0:
23002 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23003 ; GFX940-NEXT:    ;;#ASMSTART
23004 ; GFX940-NEXT:    ; def s[12:19]
23005 ; GFX940-NEXT:    ;;#ASMEND
23006 ; GFX940-NEXT:    ;;#ASMSTART
23007 ; GFX940-NEXT:    ; def s[0:7]
23008 ; GFX940-NEXT:    ;;#ASMEND
23009 ; GFX940-NEXT:    s_mov_b32 s8, s18
23010 ; GFX940-NEXT:    s_mov_b32 s9, s19
23011 ; GFX940-NEXT:    s_mov_b32 s10, s18
23012 ; GFX940-NEXT:    s_mov_b32 s11, s19
23013 ; GFX940-NEXT:    s_mov_b32 s12, s6
23014 ; GFX940-NEXT:    s_mov_b32 s13, s7
23015 ; GFX940-NEXT:    ;;#ASMSTART
23016 ; GFX940-NEXT:    ; use s[8:15]
23017 ; GFX940-NEXT:    ;;#ASMEND
23018 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
23019   %vec0 = call <4 x i64> asm "; def $0", "=s"()
23020   %vec1 = call <4 x i64> asm "; def $0", "=s"()
23021   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 3, i32 5>
23022   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
23023   ret void
23024 }
23025
23026 define void @s_shuffle_v4i64_v4i64__7_7_4_5() {
23027 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_4_5:
23028 ; GFX900:       ; %bb.0:
23029 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23030 ; GFX900-NEXT:    ;;#ASMSTART
23031 ; GFX900-NEXT:    ; def s[4:11]
23032 ; GFX900-NEXT:    ;;#ASMEND
23033 ; GFX900-NEXT:    s_mov_b32 s8, s10
23034 ; GFX900-NEXT:    s_mov_b32 s9, s11
23035 ; GFX900-NEXT:    s_mov_b32 s12, s4
23036 ; GFX900-NEXT:    s_mov_b32 s13, s5
23037 ; GFX900-NEXT:    s_mov_b32 s14, s6
23038 ; GFX900-NEXT:    s_mov_b32 s15, s7
23039 ; GFX900-NEXT:    ;;#ASMSTART
23040 ; GFX900-NEXT:    ; use s[8:15]
23041 ; GFX900-NEXT:    ;;#ASMEND
23042 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
23043 ;
23044 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_4_5:
23045 ; GFX90A:       ; %bb.0:
23046 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23047 ; GFX90A-NEXT:    ;;#ASMSTART
23048 ; GFX90A-NEXT:    ; def s[4:11]
23049 ; GFX90A-NEXT:    ;;#ASMEND
23050 ; GFX90A-NEXT:    s_mov_b32 s8, s10
23051 ; GFX90A-NEXT:    s_mov_b32 s9, s11
23052 ; GFX90A-NEXT:    s_mov_b32 s12, s4
23053 ; GFX90A-NEXT:    s_mov_b32 s13, s5
23054 ; GFX90A-NEXT:    s_mov_b32 s14, s6
23055 ; GFX90A-NEXT:    s_mov_b32 s15, s7
23056 ; GFX90A-NEXT:    ;;#ASMSTART
23057 ; GFX90A-NEXT:    ; use s[8:15]
23058 ; GFX90A-NEXT:    ;;#ASMEND
23059 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
23060 ;
23061 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_4_5:
23062 ; GFX940:       ; %bb.0:
23063 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23064 ; GFX940-NEXT:    ;;#ASMSTART
23065 ; GFX940-NEXT:    ; def s[0:7]
23066 ; GFX940-NEXT:    ;;#ASMEND
23067 ; GFX940-NEXT:    s_mov_b32 s8, s6
23068 ; GFX940-NEXT:    s_mov_b32 s9, s7
23069 ; GFX940-NEXT:    s_mov_b32 s10, s6
23070 ; GFX940-NEXT:    s_mov_b32 s11, s7
23071 ; GFX940-NEXT:    s_mov_b32 s12, s0
23072 ; GFX940-NEXT:    s_mov_b32 s13, s1
23073 ; GFX940-NEXT:    s_mov_b32 s14, s2
23074 ; GFX940-NEXT:    s_mov_b32 s15, s3
23075 ; GFX940-NEXT:    ;;#ASMSTART
23076 ; GFX940-NEXT:    ; use s[8:15]
23077 ; GFX940-NEXT:    ;;#ASMEND
23078 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
23079   %vec0 = call <4 x i64> asm "; def $0", "=s"()
23080   %vec1 = call <4 x i64> asm "; def $0", "=s"()
23081   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 4, i32 5>
23082   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
23083   ret void
23084 }
23085
23086 define void @s_shuffle_v4i64_v4i64__7_7_6_5() {
23087 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_6_5:
23088 ; GFX900:       ; %bb.0:
23089 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23090 ; GFX900-NEXT:    ;;#ASMSTART
23091 ; GFX900-NEXT:    ; def s[12:19]
23092 ; GFX900-NEXT:    ;;#ASMEND
23093 ; GFX900-NEXT:    s_mov_b32 s8, s18
23094 ; GFX900-NEXT:    s_mov_b32 s9, s19
23095 ; GFX900-NEXT:    s_mov_b32 s10, s18
23096 ; GFX900-NEXT:    s_mov_b32 s11, s19
23097 ; GFX900-NEXT:    s_mov_b32 s12, s16
23098 ; GFX900-NEXT:    s_mov_b32 s13, s17
23099 ; GFX900-NEXT:    ;;#ASMSTART
23100 ; GFX900-NEXT:    ; use s[8:15]
23101 ; GFX900-NEXT:    ;;#ASMEND
23102 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
23103 ;
23104 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_6_5:
23105 ; GFX90A:       ; %bb.0:
23106 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23107 ; GFX90A-NEXT:    ;;#ASMSTART
23108 ; GFX90A-NEXT:    ; def s[12:19]
23109 ; GFX90A-NEXT:    ;;#ASMEND
23110 ; GFX90A-NEXT:    s_mov_b32 s8, s18
23111 ; GFX90A-NEXT:    s_mov_b32 s9, s19
23112 ; GFX90A-NEXT:    s_mov_b32 s10, s18
23113 ; GFX90A-NEXT:    s_mov_b32 s11, s19
23114 ; GFX90A-NEXT:    s_mov_b32 s12, s16
23115 ; GFX90A-NEXT:    s_mov_b32 s13, s17
23116 ; GFX90A-NEXT:    ;;#ASMSTART
23117 ; GFX90A-NEXT:    ; use s[8:15]
23118 ; GFX90A-NEXT:    ;;#ASMEND
23119 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
23120 ;
23121 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_6_5:
23122 ; GFX940:       ; %bb.0:
23123 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23124 ; GFX940-NEXT:    ;;#ASMSTART
23125 ; GFX940-NEXT:    ; def s[0:7]
23126 ; GFX940-NEXT:    ;;#ASMEND
23127 ; GFX940-NEXT:    s_mov_b32 s8, s6
23128 ; GFX940-NEXT:    s_mov_b32 s9, s7
23129 ; GFX940-NEXT:    s_mov_b32 s10, s6
23130 ; GFX940-NEXT:    s_mov_b32 s11, s7
23131 ; GFX940-NEXT:    s_mov_b32 s12, s4
23132 ; GFX940-NEXT:    s_mov_b32 s13, s5
23133 ; GFX940-NEXT:    s_mov_b32 s14, s2
23134 ; GFX940-NEXT:    s_mov_b32 s15, s3
23135 ; GFX940-NEXT:    ;;#ASMSTART
23136 ; GFX940-NEXT:    ; use s[8:15]
23137 ; GFX940-NEXT:    ;;#ASMEND
23138 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
23139   %vec0 = call <4 x i64> asm "; def $0", "=s"()
23140   %vec1 = call <4 x i64> asm "; def $0", "=s"()
23141   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 6, i32 5>
23142   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
23143   ret void
23144 }
23145
23146 define void @s_shuffle_v4i64_v4i64__u_6_6_6() {
23147 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__u_6_6_6:
23148 ; GFX9:       ; %bb.0:
23149 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23150 ; GFX9-NEXT:    ;;#ASMSTART
23151 ; GFX9-NEXT:    ; def s[8:15]
23152 ; GFX9-NEXT:    ;;#ASMEND
23153 ; GFX9-NEXT:    s_mov_b32 s10, s12
23154 ; GFX9-NEXT:    s_mov_b32 s11, s13
23155 ; GFX9-NEXT:    s_mov_b32 s14, s12
23156 ; GFX9-NEXT:    s_mov_b32 s15, s13
23157 ; GFX9-NEXT:    ;;#ASMSTART
23158 ; GFX9-NEXT:    ; use s[8:15]
23159 ; GFX9-NEXT:    ;;#ASMEND
23160 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
23161   %vec0 = call <4 x i64> asm "; def $0", "=s"()
23162   %vec1 = call <4 x i64> asm "; def $0", "=s"()
23163   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 poison, i32 6, i32 6, i32 6>
23164   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
23165   ret void
23166 }
23167
23168 define void @s_shuffle_v4i64_v4i64__0_6_6_6() {
23169 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__0_6_6_6:
23170 ; GFX900:       ; %bb.0:
23171 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23172 ; GFX900-NEXT:    ;;#ASMSTART
23173 ; GFX900-NEXT:    ; def s[8:15]
23174 ; GFX900-NEXT:    ;;#ASMEND
23175 ; GFX900-NEXT:    ;;#ASMSTART
23176 ; GFX900-NEXT:    ; def s[12:19]
23177 ; GFX900-NEXT:    ;;#ASMEND
23178 ; GFX900-NEXT:    s_mov_b32 s10, s16
23179 ; GFX900-NEXT:    s_mov_b32 s11, s17
23180 ; GFX900-NEXT:    s_mov_b32 s12, s16
23181 ; GFX900-NEXT:    s_mov_b32 s13, s17
23182 ; GFX900-NEXT:    s_mov_b32 s14, s16
23183 ; GFX900-NEXT:    s_mov_b32 s15, s17
23184 ; GFX900-NEXT:    ;;#ASMSTART
23185 ; GFX900-NEXT:    ; use s[8:15]
23186 ; GFX900-NEXT:    ;;#ASMEND
23187 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
23188 ;
23189 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__0_6_6_6:
23190 ; GFX90A:       ; %bb.0:
23191 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23192 ; GFX90A-NEXT:    ;;#ASMSTART
23193 ; GFX90A-NEXT:    ; def s[8:15]
23194 ; GFX90A-NEXT:    ;;#ASMEND
23195 ; GFX90A-NEXT:    ;;#ASMSTART
23196 ; GFX90A-NEXT:    ; def s[12:19]
23197 ; GFX90A-NEXT:    ;;#ASMEND
23198 ; GFX90A-NEXT:    s_mov_b32 s10, s16
23199 ; GFX90A-NEXT:    s_mov_b32 s11, s17
23200 ; GFX90A-NEXT:    s_mov_b32 s12, s16
23201 ; GFX90A-NEXT:    s_mov_b32 s13, s17
23202 ; GFX90A-NEXT:    s_mov_b32 s14, s16
23203 ; GFX90A-NEXT:    s_mov_b32 s15, s17
23204 ; GFX90A-NEXT:    ;;#ASMSTART
23205 ; GFX90A-NEXT:    ; use s[8:15]
23206 ; GFX90A-NEXT:    ;;#ASMEND
23207 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
23208 ;
23209 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__0_6_6_6:
23210 ; GFX940:       ; %bb.0:
23211 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23212 ; GFX940-NEXT:    ;;#ASMSTART
23213 ; GFX940-NEXT:    ; def s[8:15]
23214 ; GFX940-NEXT:    ;;#ASMEND
23215 ; GFX940-NEXT:    ;;#ASMSTART
23216 ; GFX940-NEXT:    ; def s[0:7]
23217 ; GFX940-NEXT:    ;;#ASMEND
23218 ; GFX940-NEXT:    s_mov_b32 s10, s4
23219 ; GFX940-NEXT:    s_mov_b32 s11, s5
23220 ; GFX940-NEXT:    s_mov_b32 s12, s4
23221 ; GFX940-NEXT:    s_mov_b32 s13, s5
23222 ; GFX940-NEXT:    s_mov_b32 s14, s4
23223 ; GFX940-NEXT:    s_mov_b32 s15, s5
23224 ; GFX940-NEXT:    ;;#ASMSTART
23225 ; GFX940-NEXT:    ; use s[8:15]
23226 ; GFX940-NEXT:    ;;#ASMEND
23227 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
23228   %vec0 = call <4 x i64> asm "; def $0", "=s"()
23229   %vec1 = call <4 x i64> asm "; def $0", "=s"()
23230   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 0, i32 6, i32 6, i32 6>
23231   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
23232   ret void
23233 }
23234
23235 define void @s_shuffle_v4i64_v4i64__1_6_6_6() {
23236 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__1_6_6_6:
23237 ; GFX900:       ; %bb.0:
23238 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23239 ; GFX900-NEXT:    ;;#ASMSTART
23240 ; GFX900-NEXT:    ; def s[4:11]
23241 ; GFX900-NEXT:    ;;#ASMEND
23242 ; GFX900-NEXT:    ;;#ASMSTART
23243 ; GFX900-NEXT:    ; def s[8:15]
23244 ; GFX900-NEXT:    ;;#ASMEND
23245 ; GFX900-NEXT:    s_mov_b32 s8, s6
23246 ; GFX900-NEXT:    s_mov_b32 s9, s7
23247 ; GFX900-NEXT:    s_mov_b32 s10, s12
23248 ; GFX900-NEXT:    s_mov_b32 s11, s13
23249 ; GFX900-NEXT:    s_mov_b32 s14, s12
23250 ; GFX900-NEXT:    s_mov_b32 s15, s13
23251 ; GFX900-NEXT:    ;;#ASMSTART
23252 ; GFX900-NEXT:    ; use s[8:15]
23253 ; GFX900-NEXT:    ;;#ASMEND
23254 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
23255 ;
23256 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__1_6_6_6:
23257 ; GFX90A:       ; %bb.0:
23258 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23259 ; GFX90A-NEXT:    ;;#ASMSTART
23260 ; GFX90A-NEXT:    ; def s[4:11]
23261 ; GFX90A-NEXT:    ;;#ASMEND
23262 ; GFX90A-NEXT:    ;;#ASMSTART
23263 ; GFX90A-NEXT:    ; def s[8:15]
23264 ; GFX90A-NEXT:    ;;#ASMEND
23265 ; GFX90A-NEXT:    s_mov_b32 s8, s6
23266 ; GFX90A-NEXT:    s_mov_b32 s9, s7
23267 ; GFX90A-NEXT:    s_mov_b32 s10, s12
23268 ; GFX90A-NEXT:    s_mov_b32 s11, s13
23269 ; GFX90A-NEXT:    s_mov_b32 s14, s12
23270 ; GFX90A-NEXT:    s_mov_b32 s15, s13
23271 ; GFX90A-NEXT:    ;;#ASMSTART
23272 ; GFX90A-NEXT:    ; use s[8:15]
23273 ; GFX90A-NEXT:    ;;#ASMEND
23274 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
23275 ;
23276 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__1_6_6_6:
23277 ; GFX940:       ; %bb.0:
23278 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23279 ; GFX940-NEXT:    ;;#ASMSTART
23280 ; GFX940-NEXT:    ; def s[8:15]
23281 ; GFX940-NEXT:    ;;#ASMEND
23282 ; GFX940-NEXT:    ;;#ASMSTART
23283 ; GFX940-NEXT:    ; def s[0:7]
23284 ; GFX940-NEXT:    ;;#ASMEND
23285 ; GFX940-NEXT:    s_mov_b32 s8, s2
23286 ; GFX940-NEXT:    s_mov_b32 s9, s3
23287 ; GFX940-NEXT:    s_mov_b32 s10, s12
23288 ; GFX940-NEXT:    s_mov_b32 s11, s13
23289 ; GFX940-NEXT:    s_mov_b32 s14, s12
23290 ; GFX940-NEXT:    s_mov_b32 s15, s13
23291 ; GFX940-NEXT:    ;;#ASMSTART
23292 ; GFX940-NEXT:    ; use s[8:15]
23293 ; GFX940-NEXT:    ;;#ASMEND
23294 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
23295   %vec0 = call <4 x i64> asm "; def $0", "=s"()
23296   %vec1 = call <4 x i64> asm "; def $0", "=s"()
23297   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 1, i32 6, i32 6, i32 6>
23298   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
23299   ret void
23300 }
23301
23302 define void @s_shuffle_v4i64_v4i64__2_6_6_6() {
23303 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__2_6_6_6:
23304 ; GFX900:       ; %bb.0:
23305 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23306 ; GFX900-NEXT:    ;;#ASMSTART
23307 ; GFX900-NEXT:    ; def s[12:19]
23308 ; GFX900-NEXT:    ;;#ASMEND
23309 ; GFX900-NEXT:    ;;#ASMSTART
23310 ; GFX900-NEXT:    ; def s[8:15]
23311 ; GFX900-NEXT:    ;;#ASMEND
23312 ; GFX900-NEXT:    s_mov_b32 s8, s16
23313 ; GFX900-NEXT:    s_mov_b32 s9, s17
23314 ; GFX900-NEXT:    s_mov_b32 s10, s12
23315 ; GFX900-NEXT:    s_mov_b32 s11, s13
23316 ; GFX900-NEXT:    s_mov_b32 s14, s12
23317 ; GFX900-NEXT:    s_mov_b32 s15, s13
23318 ; GFX900-NEXT:    ;;#ASMSTART
23319 ; GFX900-NEXT:    ; use s[8:15]
23320 ; GFX900-NEXT:    ;;#ASMEND
23321 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
23322 ;
23323 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__2_6_6_6:
23324 ; GFX90A:       ; %bb.0:
23325 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23326 ; GFX90A-NEXT:    ;;#ASMSTART
23327 ; GFX90A-NEXT:    ; def s[12:19]
23328 ; GFX90A-NEXT:    ;;#ASMEND
23329 ; GFX90A-NEXT:    ;;#ASMSTART
23330 ; GFX90A-NEXT:    ; def s[8:15]
23331 ; GFX90A-NEXT:    ;;#ASMEND
23332 ; GFX90A-NEXT:    s_mov_b32 s8, s16
23333 ; GFX90A-NEXT:    s_mov_b32 s9, s17
23334 ; GFX90A-NEXT:    s_mov_b32 s10, s12
23335 ; GFX90A-NEXT:    s_mov_b32 s11, s13
23336 ; GFX90A-NEXT:    s_mov_b32 s14, s12
23337 ; GFX90A-NEXT:    s_mov_b32 s15, s13
23338 ; GFX90A-NEXT:    ;;#ASMSTART
23339 ; GFX90A-NEXT:    ; use s[8:15]
23340 ; GFX90A-NEXT:    ;;#ASMEND
23341 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
23342 ;
23343 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__2_6_6_6:
23344 ; GFX940:       ; %bb.0:
23345 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23346 ; GFX940-NEXT:    ;;#ASMSTART
23347 ; GFX940-NEXT:    ; def s[8:15]
23348 ; GFX940-NEXT:    ;;#ASMEND
23349 ; GFX940-NEXT:    ;;#ASMSTART
23350 ; GFX940-NEXT:    ; def s[0:7]
23351 ; GFX940-NEXT:    ;;#ASMEND
23352 ; GFX940-NEXT:    s_mov_b32 s8, s4
23353 ; GFX940-NEXT:    s_mov_b32 s9, s5
23354 ; GFX940-NEXT:    s_mov_b32 s10, s12
23355 ; GFX940-NEXT:    s_mov_b32 s11, s13
23356 ; GFX940-NEXT:    s_mov_b32 s14, s12
23357 ; GFX940-NEXT:    s_mov_b32 s15, s13
23358 ; GFX940-NEXT:    ;;#ASMSTART
23359 ; GFX940-NEXT:    ; use s[8:15]
23360 ; GFX940-NEXT:    ;;#ASMEND
23361 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
23362   %vec0 = call <4 x i64> asm "; def $0", "=s"()
23363   %vec1 = call <4 x i64> asm "; def $0", "=s"()
23364   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 2, i32 6, i32 6, i32 6>
23365   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
23366   ret void
23367 }
23368
23369 define void @s_shuffle_v4i64_v4i64__3_6_6_6() {
23370 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__3_6_6_6:
23371 ; GFX900:       ; %bb.0:
23372 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23373 ; GFX900-NEXT:    ;;#ASMSTART
23374 ; GFX900-NEXT:    ; def s[12:19]
23375 ; GFX900-NEXT:    ;;#ASMEND
23376 ; GFX900-NEXT:    ;;#ASMSTART
23377 ; GFX900-NEXT:    ; def s[8:15]
23378 ; GFX900-NEXT:    ;;#ASMEND
23379 ; GFX900-NEXT:    s_mov_b32 s8, s18
23380 ; GFX900-NEXT:    s_mov_b32 s9, s19
23381 ; GFX900-NEXT:    s_mov_b32 s10, s12
23382 ; GFX900-NEXT:    s_mov_b32 s11, s13
23383 ; GFX900-NEXT:    s_mov_b32 s14, s12
23384 ; GFX900-NEXT:    s_mov_b32 s15, s13
23385 ; GFX900-NEXT:    ;;#ASMSTART
23386 ; GFX900-NEXT:    ; use s[8:15]
23387 ; GFX900-NEXT:    ;;#ASMEND
23388 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
23389 ;
23390 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__3_6_6_6:
23391 ; GFX90A:       ; %bb.0:
23392 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23393 ; GFX90A-NEXT:    ;;#ASMSTART
23394 ; GFX90A-NEXT:    ; def s[12:19]
23395 ; GFX90A-NEXT:    ;;#ASMEND
23396 ; GFX90A-NEXT:    ;;#ASMSTART
23397 ; GFX90A-NEXT:    ; def s[8:15]
23398 ; GFX90A-NEXT:    ;;#ASMEND
23399 ; GFX90A-NEXT:    s_mov_b32 s8, s18
23400 ; GFX90A-NEXT:    s_mov_b32 s9, s19
23401 ; GFX90A-NEXT:    s_mov_b32 s10, s12
23402 ; GFX90A-NEXT:    s_mov_b32 s11, s13
23403 ; GFX90A-NEXT:    s_mov_b32 s14, s12
23404 ; GFX90A-NEXT:    s_mov_b32 s15, s13
23405 ; GFX90A-NEXT:    ;;#ASMSTART
23406 ; GFX90A-NEXT:    ; use s[8:15]
23407 ; GFX90A-NEXT:    ;;#ASMEND
23408 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
23409 ;
23410 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__3_6_6_6:
23411 ; GFX940:       ; %bb.0:
23412 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23413 ; GFX940-NEXT:    ;;#ASMSTART
23414 ; GFX940-NEXT:    ; def s[8:15]
23415 ; GFX940-NEXT:    ;;#ASMEND
23416 ; GFX940-NEXT:    ;;#ASMSTART
23417 ; GFX940-NEXT:    ; def s[0:7]
23418 ; GFX940-NEXT:    ;;#ASMEND
23419 ; GFX940-NEXT:    s_mov_b32 s8, s6
23420 ; GFX940-NEXT:    s_mov_b32 s9, s7
23421 ; GFX940-NEXT:    s_mov_b32 s10, s12
23422 ; GFX940-NEXT:    s_mov_b32 s11, s13
23423 ; GFX940-NEXT:    s_mov_b32 s14, s12
23424 ; GFX940-NEXT:    s_mov_b32 s15, s13
23425 ; GFX940-NEXT:    ;;#ASMSTART
23426 ; GFX940-NEXT:    ; use s[8:15]
23427 ; GFX940-NEXT:    ;;#ASMEND
23428 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
23429   %vec0 = call <4 x i64> asm "; def $0", "=s"()
23430   %vec1 = call <4 x i64> asm "; def $0", "=s"()
23431   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 3, i32 6, i32 6, i32 6>
23432   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
23433   ret void
23434 }
23435
23436 define void @s_shuffle_v4i64_v4i64__4_6_6_6() {
23437 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__4_6_6_6:
23438 ; GFX9:       ; %bb.0:
23439 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23440 ; GFX9-NEXT:    ;;#ASMSTART
23441 ; GFX9-NEXT:    ; def s[8:15]
23442 ; GFX9-NEXT:    ;;#ASMEND
23443 ; GFX9-NEXT:    s_mov_b32 s10, s12
23444 ; GFX9-NEXT:    s_mov_b32 s11, s13
23445 ; GFX9-NEXT:    s_mov_b32 s14, s12
23446 ; GFX9-NEXT:    s_mov_b32 s15, s13
23447 ; GFX9-NEXT:    ;;#ASMSTART
23448 ; GFX9-NEXT:    ; use s[8:15]
23449 ; GFX9-NEXT:    ;;#ASMEND
23450 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
23451   %vec0 = call <4 x i64> asm "; def $0", "=s"()
23452   %vec1 = call <4 x i64> asm "; def $0", "=s"()
23453   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 4, i32 6, i32 6, i32 6>
23454   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
23455   ret void
23456 }
23457
23458 define void @s_shuffle_v4i64_v4i64__5_6_6_6() {
23459 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__5_6_6_6:
23460 ; GFX9:       ; %bb.0:
23461 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23462 ; GFX9-NEXT:    ;;#ASMSTART
23463 ; GFX9-NEXT:    ; def s[8:15]
23464 ; GFX9-NEXT:    ;;#ASMEND
23465 ; GFX9-NEXT:    s_mov_b32 s8, s10
23466 ; GFX9-NEXT:    s_mov_b32 s9, s11
23467 ; GFX9-NEXT:    s_mov_b32 s10, s12
23468 ; GFX9-NEXT:    s_mov_b32 s11, s13
23469 ; GFX9-NEXT:    s_mov_b32 s14, s12
23470 ; GFX9-NEXT:    s_mov_b32 s15, s13
23471 ; GFX9-NEXT:    ;;#ASMSTART
23472 ; GFX9-NEXT:    ; use s[8:15]
23473 ; GFX9-NEXT:    ;;#ASMEND
23474 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
23475   %vec0 = call <4 x i64> asm "; def $0", "=s"()
23476   %vec1 = call <4 x i64> asm "; def $0", "=s"()
23477   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 5, i32 6, i32 6, i32 6>
23478   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
23479   ret void
23480 }
23481
23482 define void @s_shuffle_v4i64_v4i64__6_6_6_6() {
23483 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__6_6_6_6:
23484 ; GFX9:       ; %bb.0:
23485 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23486 ; GFX9-NEXT:    ;;#ASMSTART
23487 ; GFX9-NEXT:    ; def s[8:15]
23488 ; GFX9-NEXT:    ;;#ASMEND
23489 ; GFX9-NEXT:    s_mov_b32 s8, s12
23490 ; GFX9-NEXT:    s_mov_b32 s9, s13
23491 ; GFX9-NEXT:    s_mov_b32 s10, s12
23492 ; GFX9-NEXT:    s_mov_b32 s11, s13
23493 ; GFX9-NEXT:    s_mov_b32 s14, s12
23494 ; GFX9-NEXT:    s_mov_b32 s15, s13
23495 ; GFX9-NEXT:    ;;#ASMSTART
23496 ; GFX9-NEXT:    ; use s[8:15]
23497 ; GFX9-NEXT:    ;;#ASMEND
23498 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
23499   %vec0 = call <4 x i64> asm "; def $0", "=s"()
23500   %vec1 = call <4 x i64> asm "; def $0", "=s"()
23501   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 6, i32 6, i32 6, i32 6>
23502   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
23503   ret void
23504 }
23505
23506 define void @s_shuffle_v4i64_v4i64__7_6_6_6() {
23507 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__7_6_6_6:
23508 ; GFX9:       ; %bb.0:
23509 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23510 ; GFX9-NEXT:    ;;#ASMSTART
23511 ; GFX9-NEXT:    ; def s[8:15]
23512 ; GFX9-NEXT:    ;;#ASMEND
23513 ; GFX9-NEXT:    s_mov_b32 s8, s14
23514 ; GFX9-NEXT:    s_mov_b32 s9, s15
23515 ; GFX9-NEXT:    s_mov_b32 s10, s12
23516 ; GFX9-NEXT:    s_mov_b32 s11, s13
23517 ; GFX9-NEXT:    s_mov_b32 s14, s12
23518 ; GFX9-NEXT:    s_mov_b32 s15, s13
23519 ; GFX9-NEXT:    ;;#ASMSTART
23520 ; GFX9-NEXT:    ; use s[8:15]
23521 ; GFX9-NEXT:    ;;#ASMEND
23522 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
23523   %vec0 = call <4 x i64> asm "; def $0", "=s"()
23524   %vec1 = call <4 x i64> asm "; def $0", "=s"()
23525   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 6, i32 6, i32 6>
23526   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
23527   ret void
23528 }
23529
23530 define void @s_shuffle_v4i64_v4i64__7_u_6_6() {
23531 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__7_u_6_6:
23532 ; GFX9:       ; %bb.0:
23533 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23534 ; GFX9-NEXT:    ;;#ASMSTART
23535 ; GFX9-NEXT:    ; def s[8:15]
23536 ; GFX9-NEXT:    ;;#ASMEND
23537 ; GFX9-NEXT:    s_mov_b32 s8, s14
23538 ; GFX9-NEXT:    s_mov_b32 s9, s15
23539 ; GFX9-NEXT:    s_mov_b32 s14, s12
23540 ; GFX9-NEXT:    s_mov_b32 s15, s13
23541 ; GFX9-NEXT:    ;;#ASMSTART
23542 ; GFX9-NEXT:    ; use s[8:15]
23543 ; GFX9-NEXT:    ;;#ASMEND
23544 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
23545   %vec0 = call <4 x i64> asm "; def $0", "=s"()
23546   %vec1 = call <4 x i64> asm "; def $0", "=s"()
23547   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 poison, i32 6, i32 6>
23548   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
23549   ret void
23550 }
23551
23552 define void @s_shuffle_v4i64_v4i64__7_0_6_6() {
23553 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_0_6_6:
23554 ; GFX900:       ; %bb.0:
23555 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23556 ; GFX900-NEXT:    ;;#ASMSTART
23557 ; GFX900-NEXT:    ; def s[4:11]
23558 ; GFX900-NEXT:    ;;#ASMEND
23559 ; GFX900-NEXT:    ;;#ASMSTART
23560 ; GFX900-NEXT:    ; def s[8:15]
23561 ; GFX900-NEXT:    ;;#ASMEND
23562 ; GFX900-NEXT:    s_mov_b32 s8, s14
23563 ; GFX900-NEXT:    s_mov_b32 s9, s15
23564 ; GFX900-NEXT:    s_mov_b32 s10, s4
23565 ; GFX900-NEXT:    s_mov_b32 s11, s5
23566 ; GFX900-NEXT:    s_mov_b32 s14, s12
23567 ; GFX900-NEXT:    s_mov_b32 s15, s13
23568 ; GFX900-NEXT:    ;;#ASMSTART
23569 ; GFX900-NEXT:    ; use s[8:15]
23570 ; GFX900-NEXT:    ;;#ASMEND
23571 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
23572 ;
23573 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_0_6_6:
23574 ; GFX90A:       ; %bb.0:
23575 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23576 ; GFX90A-NEXT:    ;;#ASMSTART
23577 ; GFX90A-NEXT:    ; def s[4:11]
23578 ; GFX90A-NEXT:    ;;#ASMEND
23579 ; GFX90A-NEXT:    ;;#ASMSTART
23580 ; GFX90A-NEXT:    ; def s[8:15]
23581 ; GFX90A-NEXT:    ;;#ASMEND
23582 ; GFX90A-NEXT:    s_mov_b32 s8, s14
23583 ; GFX90A-NEXT:    s_mov_b32 s9, s15
23584 ; GFX90A-NEXT:    s_mov_b32 s10, s4
23585 ; GFX90A-NEXT:    s_mov_b32 s11, s5
23586 ; GFX90A-NEXT:    s_mov_b32 s14, s12
23587 ; GFX90A-NEXT:    s_mov_b32 s15, s13
23588 ; GFX90A-NEXT:    ;;#ASMSTART
23589 ; GFX90A-NEXT:    ; use s[8:15]
23590 ; GFX90A-NEXT:    ;;#ASMEND
23591 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
23592 ;
23593 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_0_6_6:
23594 ; GFX940:       ; %bb.0:
23595 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23596 ; GFX940-NEXT:    ;;#ASMSTART
23597 ; GFX940-NEXT:    ; def s[8:15]
23598 ; GFX940-NEXT:    ;;#ASMEND
23599 ; GFX940-NEXT:    ;;#ASMSTART
23600 ; GFX940-NEXT:    ; def s[0:7]
23601 ; GFX940-NEXT:    ;;#ASMEND
23602 ; GFX940-NEXT:    s_mov_b32 s8, s14
23603 ; GFX940-NEXT:    s_mov_b32 s9, s15
23604 ; GFX940-NEXT:    s_mov_b32 s10, s0
23605 ; GFX940-NEXT:    s_mov_b32 s11, s1
23606 ; GFX940-NEXT:    s_mov_b32 s14, s12
23607 ; GFX940-NEXT:    s_mov_b32 s15, s13
23608 ; GFX940-NEXT:    ;;#ASMSTART
23609 ; GFX940-NEXT:    ; use s[8:15]
23610 ; GFX940-NEXT:    ;;#ASMEND
23611 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
23612   %vec0 = call <4 x i64> asm "; def $0", "=s"()
23613   %vec1 = call <4 x i64> asm "; def $0", "=s"()
23614   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 0, i32 6, i32 6>
23615   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
23616   ret void
23617 }
23618
23619 define void @s_shuffle_v4i64_v4i64__7_1_6_6() {
23620 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_1_6_6:
23621 ; GFX900:       ; %bb.0:
23622 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23623 ; GFX900-NEXT:    ;;#ASMSTART
23624 ; GFX900-NEXT:    ; def s[8:15]
23625 ; GFX900-NEXT:    ;;#ASMEND
23626 ; GFX900-NEXT:    ;;#ASMSTART
23627 ; GFX900-NEXT:    ; def s[12:19]
23628 ; GFX900-NEXT:    ;;#ASMEND
23629 ; GFX900-NEXT:    s_mov_b32 s8, s18
23630 ; GFX900-NEXT:    s_mov_b32 s9, s19
23631 ; GFX900-NEXT:    s_mov_b32 s12, s16
23632 ; GFX900-NEXT:    s_mov_b32 s13, s17
23633 ; GFX900-NEXT:    s_mov_b32 s14, s16
23634 ; GFX900-NEXT:    s_mov_b32 s15, s17
23635 ; GFX900-NEXT:    ;;#ASMSTART
23636 ; GFX900-NEXT:    ; use s[8:15]
23637 ; GFX900-NEXT:    ;;#ASMEND
23638 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
23639 ;
23640 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_1_6_6:
23641 ; GFX90A:       ; %bb.0:
23642 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23643 ; GFX90A-NEXT:    ;;#ASMSTART
23644 ; GFX90A-NEXT:    ; def s[8:15]
23645 ; GFX90A-NEXT:    ;;#ASMEND
23646 ; GFX90A-NEXT:    ;;#ASMSTART
23647 ; GFX90A-NEXT:    ; def s[12:19]
23648 ; GFX90A-NEXT:    ;;#ASMEND
23649 ; GFX90A-NEXT:    s_mov_b32 s8, s18
23650 ; GFX90A-NEXT:    s_mov_b32 s9, s19
23651 ; GFX90A-NEXT:    s_mov_b32 s12, s16
23652 ; GFX90A-NEXT:    s_mov_b32 s13, s17
23653 ; GFX90A-NEXT:    s_mov_b32 s14, s16
23654 ; GFX90A-NEXT:    s_mov_b32 s15, s17
23655 ; GFX90A-NEXT:    ;;#ASMSTART
23656 ; GFX90A-NEXT:    ; use s[8:15]
23657 ; GFX90A-NEXT:    ;;#ASMEND
23658 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
23659 ;
23660 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_1_6_6:
23661 ; GFX940:       ; %bb.0:
23662 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23663 ; GFX940-NEXT:    ;;#ASMSTART
23664 ; GFX940-NEXT:    ; def s[8:15]
23665 ; GFX940-NEXT:    ;;#ASMEND
23666 ; GFX940-NEXT:    ;;#ASMSTART
23667 ; GFX940-NEXT:    ; def s[0:7]
23668 ; GFX940-NEXT:    ;;#ASMEND
23669 ; GFX940-NEXT:    s_mov_b32 s8, s6
23670 ; GFX940-NEXT:    s_mov_b32 s9, s7
23671 ; GFX940-NEXT:    s_mov_b32 s12, s4
23672 ; GFX940-NEXT:    s_mov_b32 s13, s5
23673 ; GFX940-NEXT:    s_mov_b32 s14, s4
23674 ; GFX940-NEXT:    s_mov_b32 s15, s5
23675 ; GFX940-NEXT:    ;;#ASMSTART
23676 ; GFX940-NEXT:    ; use s[8:15]
23677 ; GFX940-NEXT:    ;;#ASMEND
23678 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
23679   %vec0 = call <4 x i64> asm "; def $0", "=s"()
23680   %vec1 = call <4 x i64> asm "; def $0", "=s"()
23681   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 1, i32 6, i32 6>
23682   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
23683   ret void
23684 }
23685
23686 define void @s_shuffle_v4i64_v4i64__7_2_6_6() {
23687 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_2_6_6:
23688 ; GFX900:       ; %bb.0:
23689 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23690 ; GFX900-NEXT:    ;;#ASMSTART
23691 ; GFX900-NEXT:    ; def s[12:19]
23692 ; GFX900-NEXT:    ;;#ASMEND
23693 ; GFX900-NEXT:    ;;#ASMSTART
23694 ; GFX900-NEXT:    ; def s[8:15]
23695 ; GFX900-NEXT:    ;;#ASMEND
23696 ; GFX900-NEXT:    s_mov_b32 s8, s14
23697 ; GFX900-NEXT:    s_mov_b32 s9, s15
23698 ; GFX900-NEXT:    s_mov_b32 s10, s16
23699 ; GFX900-NEXT:    s_mov_b32 s11, s17
23700 ; GFX900-NEXT:    s_mov_b32 s14, s12
23701 ; GFX900-NEXT:    s_mov_b32 s15, s13
23702 ; GFX900-NEXT:    ;;#ASMSTART
23703 ; GFX900-NEXT:    ; use s[8:15]
23704 ; GFX900-NEXT:    ;;#ASMEND
23705 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
23706 ;
23707 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_2_6_6:
23708 ; GFX90A:       ; %bb.0:
23709 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23710 ; GFX90A-NEXT:    ;;#ASMSTART
23711 ; GFX90A-NEXT:    ; def s[12:19]
23712 ; GFX90A-NEXT:    ;;#ASMEND
23713 ; GFX90A-NEXT:    ;;#ASMSTART
23714 ; GFX90A-NEXT:    ; def s[8:15]
23715 ; GFX90A-NEXT:    ;;#ASMEND
23716 ; GFX90A-NEXT:    s_mov_b32 s8, s14
23717 ; GFX90A-NEXT:    s_mov_b32 s9, s15
23718 ; GFX90A-NEXT:    s_mov_b32 s10, s16
23719 ; GFX90A-NEXT:    s_mov_b32 s11, s17
23720 ; GFX90A-NEXT:    s_mov_b32 s14, s12
23721 ; GFX90A-NEXT:    s_mov_b32 s15, s13
23722 ; GFX90A-NEXT:    ;;#ASMSTART
23723 ; GFX90A-NEXT:    ; use s[8:15]
23724 ; GFX90A-NEXT:    ;;#ASMEND
23725 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
23726 ;
23727 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_2_6_6:
23728 ; GFX940:       ; %bb.0:
23729 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23730 ; GFX940-NEXT:    ;;#ASMSTART
23731 ; GFX940-NEXT:    ; def s[8:15]
23732 ; GFX940-NEXT:    ;;#ASMEND
23733 ; GFX940-NEXT:    ;;#ASMSTART
23734 ; GFX940-NEXT:    ; def s[0:7]
23735 ; GFX940-NEXT:    ;;#ASMEND
23736 ; GFX940-NEXT:    s_mov_b32 s8, s14
23737 ; GFX940-NEXT:    s_mov_b32 s9, s15
23738 ; GFX940-NEXT:    s_mov_b32 s10, s4
23739 ; GFX940-NEXT:    s_mov_b32 s11, s5
23740 ; GFX940-NEXT:    s_mov_b32 s14, s12
23741 ; GFX940-NEXT:    s_mov_b32 s15, s13
23742 ; GFX940-NEXT:    ;;#ASMSTART
23743 ; GFX940-NEXT:    ; use s[8:15]
23744 ; GFX940-NEXT:    ;;#ASMEND
23745 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
23746   %vec0 = call <4 x i64> asm "; def $0", "=s"()
23747   %vec1 = call <4 x i64> asm "; def $0", "=s"()
23748   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 2, i32 6, i32 6>
23749   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
23750   ret void
23751 }
23752
23753 define void @s_shuffle_v4i64_v4i64__7_3_6_6() {
23754 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_3_6_6:
23755 ; GFX900:       ; %bb.0:
23756 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23757 ; GFX900-NEXT:    ;;#ASMSTART
23758 ; GFX900-NEXT:    ; def s[12:19]
23759 ; GFX900-NEXT:    ;;#ASMEND
23760 ; GFX900-NEXT:    ;;#ASMSTART
23761 ; GFX900-NEXT:    ; def s[8:15]
23762 ; GFX900-NEXT:    ;;#ASMEND
23763 ; GFX900-NEXT:    s_mov_b32 s8, s14
23764 ; GFX900-NEXT:    s_mov_b32 s9, s15
23765 ; GFX900-NEXT:    s_mov_b32 s10, s18
23766 ; GFX900-NEXT:    s_mov_b32 s11, s19
23767 ; GFX900-NEXT:    s_mov_b32 s14, s12
23768 ; GFX900-NEXT:    s_mov_b32 s15, s13
23769 ; GFX900-NEXT:    ;;#ASMSTART
23770 ; GFX900-NEXT:    ; use s[8:15]
23771 ; GFX900-NEXT:    ;;#ASMEND
23772 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
23773 ;
23774 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_3_6_6:
23775 ; GFX90A:       ; %bb.0:
23776 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23777 ; GFX90A-NEXT:    ;;#ASMSTART
23778 ; GFX90A-NEXT:    ; def s[12:19]
23779 ; GFX90A-NEXT:    ;;#ASMEND
23780 ; GFX90A-NEXT:    ;;#ASMSTART
23781 ; GFX90A-NEXT:    ; def s[8:15]
23782 ; GFX90A-NEXT:    ;;#ASMEND
23783 ; GFX90A-NEXT:    s_mov_b32 s8, s14
23784 ; GFX90A-NEXT:    s_mov_b32 s9, s15
23785 ; GFX90A-NEXT:    s_mov_b32 s10, s18
23786 ; GFX90A-NEXT:    s_mov_b32 s11, s19
23787 ; GFX90A-NEXT:    s_mov_b32 s14, s12
23788 ; GFX90A-NEXT:    s_mov_b32 s15, s13
23789 ; GFX90A-NEXT:    ;;#ASMSTART
23790 ; GFX90A-NEXT:    ; use s[8:15]
23791 ; GFX90A-NEXT:    ;;#ASMEND
23792 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
23793 ;
23794 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_3_6_6:
23795 ; GFX940:       ; %bb.0:
23796 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23797 ; GFX940-NEXT:    ;;#ASMSTART
23798 ; GFX940-NEXT:    ; def s[8:15]
23799 ; GFX940-NEXT:    ;;#ASMEND
23800 ; GFX940-NEXT:    ;;#ASMSTART
23801 ; GFX940-NEXT:    ; def s[0:7]
23802 ; GFX940-NEXT:    ;;#ASMEND
23803 ; GFX940-NEXT:    s_mov_b32 s8, s14
23804 ; GFX940-NEXT:    s_mov_b32 s9, s15
23805 ; GFX940-NEXT:    s_mov_b32 s10, s6
23806 ; GFX940-NEXT:    s_mov_b32 s11, s7
23807 ; GFX940-NEXT:    s_mov_b32 s14, s12
23808 ; GFX940-NEXT:    s_mov_b32 s15, s13
23809 ; GFX940-NEXT:    ;;#ASMSTART
23810 ; GFX940-NEXT:    ; use s[8:15]
23811 ; GFX940-NEXT:    ;;#ASMEND
23812 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
23813   %vec0 = call <4 x i64> asm "; def $0", "=s"()
23814   %vec1 = call <4 x i64> asm "; def $0", "=s"()
23815   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 3, i32 6, i32 6>
23816   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
23817   ret void
23818 }
23819
23820 define void @s_shuffle_v4i64_v4i64__7_4_6_6() {
23821 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_4_6_6:
23822 ; GFX900:       ; %bb.0:
23823 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23824 ; GFX900-NEXT:    ;;#ASMSTART
23825 ; GFX900-NEXT:    ; def s[12:19]
23826 ; GFX900-NEXT:    ;;#ASMEND
23827 ; GFX900-NEXT:    s_mov_b32 s8, s18
23828 ; GFX900-NEXT:    s_mov_b32 s9, s19
23829 ; GFX900-NEXT:    s_mov_b32 s10, s12
23830 ; GFX900-NEXT:    s_mov_b32 s11, s13
23831 ; GFX900-NEXT:    s_mov_b32 s12, s16
23832 ; GFX900-NEXT:    s_mov_b32 s13, s17
23833 ; GFX900-NEXT:    s_mov_b32 s14, s16
23834 ; GFX900-NEXT:    s_mov_b32 s15, s17
23835 ; GFX900-NEXT:    ;;#ASMSTART
23836 ; GFX900-NEXT:    ; use s[8:15]
23837 ; GFX900-NEXT:    ;;#ASMEND
23838 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
23839 ;
23840 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_4_6_6:
23841 ; GFX90A:       ; %bb.0:
23842 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23843 ; GFX90A-NEXT:    ;;#ASMSTART
23844 ; GFX90A-NEXT:    ; def s[12:19]
23845 ; GFX90A-NEXT:    ;;#ASMEND
23846 ; GFX90A-NEXT:    s_mov_b32 s8, s18
23847 ; GFX90A-NEXT:    s_mov_b32 s9, s19
23848 ; GFX90A-NEXT:    s_mov_b32 s10, s12
23849 ; GFX90A-NEXT:    s_mov_b32 s11, s13
23850 ; GFX90A-NEXT:    s_mov_b32 s12, s16
23851 ; GFX90A-NEXT:    s_mov_b32 s13, s17
23852 ; GFX90A-NEXT:    s_mov_b32 s14, s16
23853 ; GFX90A-NEXT:    s_mov_b32 s15, s17
23854 ; GFX90A-NEXT:    ;;#ASMSTART
23855 ; GFX90A-NEXT:    ; use s[8:15]
23856 ; GFX90A-NEXT:    ;;#ASMEND
23857 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
23858 ;
23859 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_4_6_6:
23860 ; GFX940:       ; %bb.0:
23861 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23862 ; GFX940-NEXT:    ;;#ASMSTART
23863 ; GFX940-NEXT:    ; def s[0:7]
23864 ; GFX940-NEXT:    ;;#ASMEND
23865 ; GFX940-NEXT:    s_mov_b32 s8, s6
23866 ; GFX940-NEXT:    s_mov_b32 s9, s7
23867 ; GFX940-NEXT:    s_mov_b32 s10, s0
23868 ; GFX940-NEXT:    s_mov_b32 s11, s1
23869 ; GFX940-NEXT:    s_mov_b32 s12, s4
23870 ; GFX940-NEXT:    s_mov_b32 s13, s5
23871 ; GFX940-NEXT:    s_mov_b32 s14, s4
23872 ; GFX940-NEXT:    s_mov_b32 s15, s5
23873 ; GFX940-NEXT:    ;;#ASMSTART
23874 ; GFX940-NEXT:    ; use s[8:15]
23875 ; GFX940-NEXT:    ;;#ASMEND
23876 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
23877   %vec0 = call <4 x i64> asm "; def $0", "=s"()
23878   %vec1 = call <4 x i64> asm "; def $0", "=s"()
23879   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 4, i32 6, i32 6>
23880   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
23881   ret void
23882 }
23883
23884 define void @s_shuffle_v4i64_v4i64__7_5_6_6() {
23885 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__7_5_6_6:
23886 ; GFX9:       ; %bb.0:
23887 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23888 ; GFX9-NEXT:    ;;#ASMSTART
23889 ; GFX9-NEXT:    ; def s[8:15]
23890 ; GFX9-NEXT:    ;;#ASMEND
23891 ; GFX9-NEXT:    s_mov_b32 s8, s14
23892 ; GFX9-NEXT:    s_mov_b32 s9, s15
23893 ; GFX9-NEXT:    s_mov_b32 s14, s12
23894 ; GFX9-NEXT:    s_mov_b32 s15, s13
23895 ; GFX9-NEXT:    ;;#ASMSTART
23896 ; GFX9-NEXT:    ; use s[8:15]
23897 ; GFX9-NEXT:    ;;#ASMEND
23898 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
23899   %vec0 = call <4 x i64> asm "; def $0", "=s"()
23900   %vec1 = call <4 x i64> asm "; def $0", "=s"()
23901   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 5, i32 6, i32 6>
23902   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
23903   ret void
23904 }
23905
23906 define void @s_shuffle_v4i64_v4i64__7_7_6_6() {
23907 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__7_7_6_6:
23908 ; GFX9:       ; %bb.0:
23909 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23910 ; GFX9-NEXT:    ;;#ASMSTART
23911 ; GFX9-NEXT:    ; def s[8:15]
23912 ; GFX9-NEXT:    ;;#ASMEND
23913 ; GFX9-NEXT:    s_mov_b32 s8, s14
23914 ; GFX9-NEXT:    s_mov_b32 s9, s15
23915 ; GFX9-NEXT:    s_mov_b32 s10, s14
23916 ; GFX9-NEXT:    s_mov_b32 s11, s15
23917 ; GFX9-NEXT:    s_mov_b32 s14, s12
23918 ; GFX9-NEXT:    s_mov_b32 s15, s13
23919 ; GFX9-NEXT:    ;;#ASMSTART
23920 ; GFX9-NEXT:    ; use s[8:15]
23921 ; GFX9-NEXT:    ;;#ASMEND
23922 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
23923   %vec0 = call <4 x i64> asm "; def $0", "=s"()
23924   %vec1 = call <4 x i64> asm "; def $0", "=s"()
23925   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 6, i32 6>
23926   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
23927   ret void
23928 }
23929
23930 define void @s_shuffle_v4i64_v4i64__7_7_u_6() {
23931 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_u_6:
23932 ; GFX900:       ; %bb.0:
23933 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23934 ; GFX900-NEXT:    ;;#ASMSTART
23935 ; GFX900-NEXT:    ; def s[8:15]
23936 ; GFX900-NEXT:    ;;#ASMEND
23937 ; GFX900-NEXT:    s_mov_b32 s8, s14
23938 ; GFX900-NEXT:    s_mov_b32 s9, s15
23939 ; GFX900-NEXT:    s_mov_b32 s10, s14
23940 ; GFX900-NEXT:    s_mov_b32 s11, s15
23941 ; GFX900-NEXT:    s_mov_b32 s14, s12
23942 ; GFX900-NEXT:    s_mov_b32 s15, s13
23943 ; GFX900-NEXT:    ;;#ASMSTART
23944 ; GFX900-NEXT:    ; use s[8:15]
23945 ; GFX900-NEXT:    ;;#ASMEND
23946 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
23947 ;
23948 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_u_6:
23949 ; GFX90A:       ; %bb.0:
23950 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23951 ; GFX90A-NEXT:    ;;#ASMSTART
23952 ; GFX90A-NEXT:    ; def s[8:15]
23953 ; GFX90A-NEXT:    ;;#ASMEND
23954 ; GFX90A-NEXT:    s_mov_b32 s8, s14
23955 ; GFX90A-NEXT:    s_mov_b32 s9, s15
23956 ; GFX90A-NEXT:    s_mov_b32 s10, s14
23957 ; GFX90A-NEXT:    s_mov_b32 s11, s15
23958 ; GFX90A-NEXT:    s_mov_b32 s14, s12
23959 ; GFX90A-NEXT:    s_mov_b32 s15, s13
23960 ; GFX90A-NEXT:    ;;#ASMSTART
23961 ; GFX90A-NEXT:    ; use s[8:15]
23962 ; GFX90A-NEXT:    ;;#ASMEND
23963 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
23964 ;
23965 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_u_6:
23966 ; GFX940:       ; %bb.0:
23967 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23968 ; GFX940-NEXT:    ;;#ASMSTART
23969 ; GFX940-NEXT:    ; def s[0:7]
23970 ; GFX940-NEXT:    ;;#ASMEND
23971 ; GFX940-NEXT:    s_mov_b32 s8, s6
23972 ; GFX940-NEXT:    s_mov_b32 s9, s7
23973 ; GFX940-NEXT:    s_mov_b32 s10, s6
23974 ; GFX940-NEXT:    s_mov_b32 s11, s7
23975 ; GFX940-NEXT:    s_mov_b32 s14, s4
23976 ; GFX940-NEXT:    s_mov_b32 s15, s5
23977 ; GFX940-NEXT:    ;;#ASMSTART
23978 ; GFX940-NEXT:    ; use s[8:15]
23979 ; GFX940-NEXT:    ;;#ASMEND
23980 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
23981   %vec0 = call <4 x i64> asm "; def $0", "=s"()
23982   %vec1 = call <4 x i64> asm "; def $0", "=s"()
23983   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 poison, i32 6>
23984   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
23985   ret void
23986 }
23987
23988 define void @s_shuffle_v4i64_v4i64__7_7_0_6() {
23989 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_0_6:
23990 ; GFX900:       ; %bb.0:
23991 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
23992 ; GFX900-NEXT:    ;;#ASMSTART
23993 ; GFX900-NEXT:    ; def s[4:11]
23994 ; GFX900-NEXT:    ;;#ASMEND
23995 ; GFX900-NEXT:    ;;#ASMSTART
23996 ; GFX900-NEXT:    ; def s[12:19]
23997 ; GFX900-NEXT:    ;;#ASMEND
23998 ; GFX900-NEXT:    s_mov_b32 s8, s18
23999 ; GFX900-NEXT:    s_mov_b32 s9, s19
24000 ; GFX900-NEXT:    s_mov_b32 s10, s18
24001 ; GFX900-NEXT:    s_mov_b32 s11, s19
24002 ; GFX900-NEXT:    s_mov_b32 s12, s4
24003 ; GFX900-NEXT:    s_mov_b32 s13, s5
24004 ; GFX900-NEXT:    s_mov_b32 s14, s16
24005 ; GFX900-NEXT:    s_mov_b32 s15, s17
24006 ; GFX900-NEXT:    ;;#ASMSTART
24007 ; GFX900-NEXT:    ; use s[8:15]
24008 ; GFX900-NEXT:    ;;#ASMEND
24009 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
24010 ;
24011 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_0_6:
24012 ; GFX90A:       ; %bb.0:
24013 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24014 ; GFX90A-NEXT:    ;;#ASMSTART
24015 ; GFX90A-NEXT:    ; def s[4:11]
24016 ; GFX90A-NEXT:    ;;#ASMEND
24017 ; GFX90A-NEXT:    ;;#ASMSTART
24018 ; GFX90A-NEXT:    ; def s[12:19]
24019 ; GFX90A-NEXT:    ;;#ASMEND
24020 ; GFX90A-NEXT:    s_mov_b32 s8, s18
24021 ; GFX90A-NEXT:    s_mov_b32 s9, s19
24022 ; GFX90A-NEXT:    s_mov_b32 s10, s18
24023 ; GFX90A-NEXT:    s_mov_b32 s11, s19
24024 ; GFX90A-NEXT:    s_mov_b32 s12, s4
24025 ; GFX90A-NEXT:    s_mov_b32 s13, s5
24026 ; GFX90A-NEXT:    s_mov_b32 s14, s16
24027 ; GFX90A-NEXT:    s_mov_b32 s15, s17
24028 ; GFX90A-NEXT:    ;;#ASMSTART
24029 ; GFX90A-NEXT:    ; use s[8:15]
24030 ; GFX90A-NEXT:    ;;#ASMEND
24031 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
24032 ;
24033 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_0_6:
24034 ; GFX940:       ; %bb.0:
24035 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24036 ; GFX940-NEXT:    ;;#ASMSTART
24037 ; GFX940-NEXT:    ; def s[12:19]
24038 ; GFX940-NEXT:    ;;#ASMEND
24039 ; GFX940-NEXT:    ;;#ASMSTART
24040 ; GFX940-NEXT:    ; def s[0:7]
24041 ; GFX940-NEXT:    ;;#ASMEND
24042 ; GFX940-NEXT:    s_mov_b32 s8, s18
24043 ; GFX940-NEXT:    s_mov_b32 s9, s19
24044 ; GFX940-NEXT:    s_mov_b32 s10, s18
24045 ; GFX940-NEXT:    s_mov_b32 s11, s19
24046 ; GFX940-NEXT:    s_mov_b32 s12, s0
24047 ; GFX940-NEXT:    s_mov_b32 s13, s1
24048 ; GFX940-NEXT:    s_mov_b32 s14, s16
24049 ; GFX940-NEXT:    s_mov_b32 s15, s17
24050 ; GFX940-NEXT:    ;;#ASMSTART
24051 ; GFX940-NEXT:    ; use s[8:15]
24052 ; GFX940-NEXT:    ;;#ASMEND
24053 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
24054   %vec0 = call <4 x i64> asm "; def $0", "=s"()
24055   %vec1 = call <4 x i64> asm "; def $0", "=s"()
24056   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 0, i32 6>
24057   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
24058   ret void
24059 }
24060
24061 define void @s_shuffle_v4i64_v4i64__7_7_1_6() {
24062 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_1_6:
24063 ; GFX900:       ; %bb.0:
24064 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24065 ; GFX900-NEXT:    ;;#ASMSTART
24066 ; GFX900-NEXT:    ; def s[4:11]
24067 ; GFX900-NEXT:    ;;#ASMEND
24068 ; GFX900-NEXT:    ;;#ASMSTART
24069 ; GFX900-NEXT:    ; def s[12:19]
24070 ; GFX900-NEXT:    ;;#ASMEND
24071 ; GFX900-NEXT:    s_mov_b32 s8, s18
24072 ; GFX900-NEXT:    s_mov_b32 s9, s19
24073 ; GFX900-NEXT:    s_mov_b32 s10, s18
24074 ; GFX900-NEXT:    s_mov_b32 s11, s19
24075 ; GFX900-NEXT:    s_mov_b32 s12, s6
24076 ; GFX900-NEXT:    s_mov_b32 s13, s7
24077 ; GFX900-NEXT:    s_mov_b32 s14, s16
24078 ; GFX900-NEXT:    s_mov_b32 s15, s17
24079 ; GFX900-NEXT:    ;;#ASMSTART
24080 ; GFX900-NEXT:    ; use s[8:15]
24081 ; GFX900-NEXT:    ;;#ASMEND
24082 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
24083 ;
24084 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_1_6:
24085 ; GFX90A:       ; %bb.0:
24086 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24087 ; GFX90A-NEXT:    ;;#ASMSTART
24088 ; GFX90A-NEXT:    ; def s[4:11]
24089 ; GFX90A-NEXT:    ;;#ASMEND
24090 ; GFX90A-NEXT:    ;;#ASMSTART
24091 ; GFX90A-NEXT:    ; def s[12:19]
24092 ; GFX90A-NEXT:    ;;#ASMEND
24093 ; GFX90A-NEXT:    s_mov_b32 s8, s18
24094 ; GFX90A-NEXT:    s_mov_b32 s9, s19
24095 ; GFX90A-NEXT:    s_mov_b32 s10, s18
24096 ; GFX90A-NEXT:    s_mov_b32 s11, s19
24097 ; GFX90A-NEXT:    s_mov_b32 s12, s6
24098 ; GFX90A-NEXT:    s_mov_b32 s13, s7
24099 ; GFX90A-NEXT:    s_mov_b32 s14, s16
24100 ; GFX90A-NEXT:    s_mov_b32 s15, s17
24101 ; GFX90A-NEXT:    ;;#ASMSTART
24102 ; GFX90A-NEXT:    ; use s[8:15]
24103 ; GFX90A-NEXT:    ;;#ASMEND
24104 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
24105 ;
24106 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_1_6:
24107 ; GFX940:       ; %bb.0:
24108 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24109 ; GFX940-NEXT:    ;;#ASMSTART
24110 ; GFX940-NEXT:    ; def s[12:19]
24111 ; GFX940-NEXT:    ;;#ASMEND
24112 ; GFX940-NEXT:    ;;#ASMSTART
24113 ; GFX940-NEXT:    ; def s[0:7]
24114 ; GFX940-NEXT:    ;;#ASMEND
24115 ; GFX940-NEXT:    s_mov_b32 s8, s18
24116 ; GFX940-NEXT:    s_mov_b32 s9, s19
24117 ; GFX940-NEXT:    s_mov_b32 s10, s18
24118 ; GFX940-NEXT:    s_mov_b32 s11, s19
24119 ; GFX940-NEXT:    s_mov_b32 s12, s2
24120 ; GFX940-NEXT:    s_mov_b32 s13, s3
24121 ; GFX940-NEXT:    s_mov_b32 s14, s16
24122 ; GFX940-NEXT:    s_mov_b32 s15, s17
24123 ; GFX940-NEXT:    ;;#ASMSTART
24124 ; GFX940-NEXT:    ; use s[8:15]
24125 ; GFX940-NEXT:    ;;#ASMEND
24126 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
24127   %vec0 = call <4 x i64> asm "; def $0", "=s"()
24128   %vec1 = call <4 x i64> asm "; def $0", "=s"()
24129   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 1, i32 6>
24130   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
24131   ret void
24132 }
24133
24134 define void @s_shuffle_v4i64_v4i64__7_7_2_6() {
24135 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_2_6:
24136 ; GFX900:       ; %bb.0:
24137 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24138 ; GFX900-NEXT:    ;;#ASMSTART
24139 ; GFX900-NEXT:    ; def s[8:15]
24140 ; GFX900-NEXT:    ;;#ASMEND
24141 ; GFX900-NEXT:    ;;#ASMSTART
24142 ; GFX900-NEXT:    ; def s[16:23]
24143 ; GFX900-NEXT:    ;;#ASMEND
24144 ; GFX900-NEXT:    s_mov_b32 s8, s22
24145 ; GFX900-NEXT:    s_mov_b32 s9, s23
24146 ; GFX900-NEXT:    s_mov_b32 s10, s22
24147 ; GFX900-NEXT:    s_mov_b32 s11, s23
24148 ; GFX900-NEXT:    s_mov_b32 s14, s20
24149 ; GFX900-NEXT:    s_mov_b32 s15, s21
24150 ; GFX900-NEXT:    ;;#ASMSTART
24151 ; GFX900-NEXT:    ; use s[8:15]
24152 ; GFX900-NEXT:    ;;#ASMEND
24153 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
24154 ;
24155 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_2_6:
24156 ; GFX90A:       ; %bb.0:
24157 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24158 ; GFX90A-NEXT:    ;;#ASMSTART
24159 ; GFX90A-NEXT:    ; def s[8:15]
24160 ; GFX90A-NEXT:    ;;#ASMEND
24161 ; GFX90A-NEXT:    ;;#ASMSTART
24162 ; GFX90A-NEXT:    ; def s[16:23]
24163 ; GFX90A-NEXT:    ;;#ASMEND
24164 ; GFX90A-NEXT:    s_mov_b32 s8, s22
24165 ; GFX90A-NEXT:    s_mov_b32 s9, s23
24166 ; GFX90A-NEXT:    s_mov_b32 s10, s22
24167 ; GFX90A-NEXT:    s_mov_b32 s11, s23
24168 ; GFX90A-NEXT:    s_mov_b32 s14, s20
24169 ; GFX90A-NEXT:    s_mov_b32 s15, s21
24170 ; GFX90A-NEXT:    ;;#ASMSTART
24171 ; GFX90A-NEXT:    ; use s[8:15]
24172 ; GFX90A-NEXT:    ;;#ASMEND
24173 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
24174 ;
24175 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_2_6:
24176 ; GFX940:       ; %bb.0:
24177 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24178 ; GFX940-NEXT:    ;;#ASMSTART
24179 ; GFX940-NEXT:    ; def s[8:15]
24180 ; GFX940-NEXT:    ;;#ASMEND
24181 ; GFX940-NEXT:    ;;#ASMSTART
24182 ; GFX940-NEXT:    ; def s[0:7]
24183 ; GFX940-NEXT:    ;;#ASMEND
24184 ; GFX940-NEXT:    s_mov_b32 s8, s6
24185 ; GFX940-NEXT:    s_mov_b32 s9, s7
24186 ; GFX940-NEXT:    s_mov_b32 s10, s6
24187 ; GFX940-NEXT:    s_mov_b32 s11, s7
24188 ; GFX940-NEXT:    s_mov_b32 s14, s4
24189 ; GFX940-NEXT:    s_mov_b32 s15, s5
24190 ; GFX940-NEXT:    ;;#ASMSTART
24191 ; GFX940-NEXT:    ; use s[8:15]
24192 ; GFX940-NEXT:    ;;#ASMEND
24193 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
24194   %vec0 = call <4 x i64> asm "; def $0", "=s"()
24195   %vec1 = call <4 x i64> asm "; def $0", "=s"()
24196   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 2, i32 6>
24197   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
24198   ret void
24199 }
24200
24201 define void @s_shuffle_v4i64_v4i64__7_7_3_6() {
24202 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_3_6:
24203 ; GFX900:       ; %bb.0:
24204 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24205 ; GFX900-NEXT:    ;;#ASMSTART
24206 ; GFX900-NEXT:    ; def s[8:15]
24207 ; GFX900-NEXT:    ;;#ASMEND
24208 ; GFX900-NEXT:    ;;#ASMSTART
24209 ; GFX900-NEXT:    ; def s[16:23]
24210 ; GFX900-NEXT:    ;;#ASMEND
24211 ; GFX900-NEXT:    s_mov_b32 s8, s22
24212 ; GFX900-NEXT:    s_mov_b32 s9, s23
24213 ; GFX900-NEXT:    s_mov_b32 s10, s22
24214 ; GFX900-NEXT:    s_mov_b32 s11, s23
24215 ; GFX900-NEXT:    s_mov_b32 s12, s14
24216 ; GFX900-NEXT:    s_mov_b32 s13, s15
24217 ; GFX900-NEXT:    s_mov_b32 s14, s20
24218 ; GFX900-NEXT:    s_mov_b32 s15, s21
24219 ; GFX900-NEXT:    ;;#ASMSTART
24220 ; GFX900-NEXT:    ; use s[8:15]
24221 ; GFX900-NEXT:    ;;#ASMEND
24222 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
24223 ;
24224 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_3_6:
24225 ; GFX90A:       ; %bb.0:
24226 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24227 ; GFX90A-NEXT:    ;;#ASMSTART
24228 ; GFX90A-NEXT:    ; def s[8:15]
24229 ; GFX90A-NEXT:    ;;#ASMEND
24230 ; GFX90A-NEXT:    ;;#ASMSTART
24231 ; GFX90A-NEXT:    ; def s[16:23]
24232 ; GFX90A-NEXT:    ;;#ASMEND
24233 ; GFX90A-NEXT:    s_mov_b32 s8, s22
24234 ; GFX90A-NEXT:    s_mov_b32 s9, s23
24235 ; GFX90A-NEXT:    s_mov_b32 s10, s22
24236 ; GFX90A-NEXT:    s_mov_b32 s11, s23
24237 ; GFX90A-NEXT:    s_mov_b32 s12, s14
24238 ; GFX90A-NEXT:    s_mov_b32 s13, s15
24239 ; GFX90A-NEXT:    s_mov_b32 s14, s20
24240 ; GFX90A-NEXT:    s_mov_b32 s15, s21
24241 ; GFX90A-NEXT:    ;;#ASMSTART
24242 ; GFX90A-NEXT:    ; use s[8:15]
24243 ; GFX90A-NEXT:    ;;#ASMEND
24244 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
24245 ;
24246 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_3_6:
24247 ; GFX940:       ; %bb.0:
24248 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24249 ; GFX940-NEXT:    ;;#ASMSTART
24250 ; GFX940-NEXT:    ; def s[12:19]
24251 ; GFX940-NEXT:    ;;#ASMEND
24252 ; GFX940-NEXT:    ;;#ASMSTART
24253 ; GFX940-NEXT:    ; def s[0:7]
24254 ; GFX940-NEXT:    ;;#ASMEND
24255 ; GFX940-NEXT:    s_mov_b32 s8, s18
24256 ; GFX940-NEXT:    s_mov_b32 s9, s19
24257 ; GFX940-NEXT:    s_mov_b32 s10, s18
24258 ; GFX940-NEXT:    s_mov_b32 s11, s19
24259 ; GFX940-NEXT:    s_mov_b32 s12, s6
24260 ; GFX940-NEXT:    s_mov_b32 s13, s7
24261 ; GFX940-NEXT:    s_mov_b32 s14, s16
24262 ; GFX940-NEXT:    s_mov_b32 s15, s17
24263 ; GFX940-NEXT:    ;;#ASMSTART
24264 ; GFX940-NEXT:    ; use s[8:15]
24265 ; GFX940-NEXT:    ;;#ASMEND
24266 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
24267   %vec0 = call <4 x i64> asm "; def $0", "=s"()
24268   %vec1 = call <4 x i64> asm "; def $0", "=s"()
24269   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 3, i32 6>
24270   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
24271   ret void
24272 }
24273
24274 define void @s_shuffle_v4i64_v4i64__7_7_4_6() {
24275 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_4_6:
24276 ; GFX900:       ; %bb.0:
24277 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24278 ; GFX900-NEXT:    ;;#ASMSTART
24279 ; GFX900-NEXT:    ; def s[12:19]
24280 ; GFX900-NEXT:    ;;#ASMEND
24281 ; GFX900-NEXT:    s_mov_b32 s8, s18
24282 ; GFX900-NEXT:    s_mov_b32 s9, s19
24283 ; GFX900-NEXT:    s_mov_b32 s10, s18
24284 ; GFX900-NEXT:    s_mov_b32 s11, s19
24285 ; GFX900-NEXT:    s_mov_b32 s14, s16
24286 ; GFX900-NEXT:    s_mov_b32 s15, s17
24287 ; GFX900-NEXT:    ;;#ASMSTART
24288 ; GFX900-NEXT:    ; use s[8:15]
24289 ; GFX900-NEXT:    ;;#ASMEND
24290 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
24291 ;
24292 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_4_6:
24293 ; GFX90A:       ; %bb.0:
24294 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24295 ; GFX90A-NEXT:    ;;#ASMSTART
24296 ; GFX90A-NEXT:    ; def s[12:19]
24297 ; GFX90A-NEXT:    ;;#ASMEND
24298 ; GFX90A-NEXT:    s_mov_b32 s8, s18
24299 ; GFX90A-NEXT:    s_mov_b32 s9, s19
24300 ; GFX90A-NEXT:    s_mov_b32 s10, s18
24301 ; GFX90A-NEXT:    s_mov_b32 s11, s19
24302 ; GFX90A-NEXT:    s_mov_b32 s14, s16
24303 ; GFX90A-NEXT:    s_mov_b32 s15, s17
24304 ; GFX90A-NEXT:    ;;#ASMSTART
24305 ; GFX90A-NEXT:    ; use s[8:15]
24306 ; GFX90A-NEXT:    ;;#ASMEND
24307 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
24308 ;
24309 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_4_6:
24310 ; GFX940:       ; %bb.0:
24311 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24312 ; GFX940-NEXT:    ;;#ASMSTART
24313 ; GFX940-NEXT:    ; def s[0:7]
24314 ; GFX940-NEXT:    ;;#ASMEND
24315 ; GFX940-NEXT:    s_mov_b32 s8, s6
24316 ; GFX940-NEXT:    s_mov_b32 s9, s7
24317 ; GFX940-NEXT:    s_mov_b32 s10, s6
24318 ; GFX940-NEXT:    s_mov_b32 s11, s7
24319 ; GFX940-NEXT:    s_mov_b32 s12, s0
24320 ; GFX940-NEXT:    s_mov_b32 s13, s1
24321 ; GFX940-NEXT:    s_mov_b32 s14, s4
24322 ; GFX940-NEXT:    s_mov_b32 s15, s5
24323 ; GFX940-NEXT:    ;;#ASMSTART
24324 ; GFX940-NEXT:    ; use s[8:15]
24325 ; GFX940-NEXT:    ;;#ASMEND
24326 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
24327   %vec0 = call <4 x i64> asm "; def $0", "=s"()
24328   %vec1 = call <4 x i64> asm "; def $0", "=s"()
24329   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 4, i32 6>
24330   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
24331   ret void
24332 }
24333
24334 define void @s_shuffle_v4i64_v4i64__7_7_5_6() {
24335 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_5_6:
24336 ; GFX900:       ; %bb.0:
24337 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24338 ; GFX900-NEXT:    ;;#ASMSTART
24339 ; GFX900-NEXT:    ; def s[12:19]
24340 ; GFX900-NEXT:    ;;#ASMEND
24341 ; GFX900-NEXT:    s_mov_b32 s8, s18
24342 ; GFX900-NEXT:    s_mov_b32 s9, s19
24343 ; GFX900-NEXT:    s_mov_b32 s10, s18
24344 ; GFX900-NEXT:    s_mov_b32 s11, s19
24345 ; GFX900-NEXT:    s_mov_b32 s12, s14
24346 ; GFX900-NEXT:    s_mov_b32 s13, s15
24347 ; GFX900-NEXT:    s_mov_b32 s14, s16
24348 ; GFX900-NEXT:    s_mov_b32 s15, s17
24349 ; GFX900-NEXT:    ;;#ASMSTART
24350 ; GFX900-NEXT:    ; use s[8:15]
24351 ; GFX900-NEXT:    ;;#ASMEND
24352 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
24353 ;
24354 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_5_6:
24355 ; GFX90A:       ; %bb.0:
24356 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24357 ; GFX90A-NEXT:    ;;#ASMSTART
24358 ; GFX90A-NEXT:    ; def s[12:19]
24359 ; GFX90A-NEXT:    ;;#ASMEND
24360 ; GFX90A-NEXT:    s_mov_b32 s8, s18
24361 ; GFX90A-NEXT:    s_mov_b32 s9, s19
24362 ; GFX90A-NEXT:    s_mov_b32 s10, s18
24363 ; GFX90A-NEXT:    s_mov_b32 s11, s19
24364 ; GFX90A-NEXT:    s_mov_b32 s12, s14
24365 ; GFX90A-NEXT:    s_mov_b32 s13, s15
24366 ; GFX90A-NEXT:    s_mov_b32 s14, s16
24367 ; GFX90A-NEXT:    s_mov_b32 s15, s17
24368 ; GFX90A-NEXT:    ;;#ASMSTART
24369 ; GFX90A-NEXT:    ; use s[8:15]
24370 ; GFX90A-NEXT:    ;;#ASMEND
24371 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
24372 ;
24373 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_5_6:
24374 ; GFX940:       ; %bb.0:
24375 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24376 ; GFX940-NEXT:    ;;#ASMSTART
24377 ; GFX940-NEXT:    ; def s[0:7]
24378 ; GFX940-NEXT:    ;;#ASMEND
24379 ; GFX940-NEXT:    s_mov_b32 s8, s6
24380 ; GFX940-NEXT:    s_mov_b32 s9, s7
24381 ; GFX940-NEXT:    s_mov_b32 s10, s6
24382 ; GFX940-NEXT:    s_mov_b32 s11, s7
24383 ; GFX940-NEXT:    s_mov_b32 s12, s2
24384 ; GFX940-NEXT:    s_mov_b32 s13, s3
24385 ; GFX940-NEXT:    s_mov_b32 s14, s4
24386 ; GFX940-NEXT:    s_mov_b32 s15, s5
24387 ; GFX940-NEXT:    ;;#ASMSTART
24388 ; GFX940-NEXT:    ; use s[8:15]
24389 ; GFX940-NEXT:    ;;#ASMEND
24390 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
24391   %vec0 = call <4 x i64> asm "; def $0", "=s"()
24392   %vec1 = call <4 x i64> asm "; def $0", "=s"()
24393   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 5, i32 6>
24394   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
24395   ret void
24396 }
24397
24398 define void @s_shuffle_v4i64_v4i64__u_7_7_7() {
24399 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__u_7_7_7:
24400 ; GFX9:       ; %bb.0:
24401 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24402 ; GFX9-NEXT:    ;;#ASMSTART
24403 ; GFX9-NEXT:    ; def s[8:15]
24404 ; GFX9-NEXT:    ;;#ASMEND
24405 ; GFX9-NEXT:    s_mov_b32 s10, s14
24406 ; GFX9-NEXT:    s_mov_b32 s11, s15
24407 ; GFX9-NEXT:    s_mov_b32 s12, s14
24408 ; GFX9-NEXT:    s_mov_b32 s13, s15
24409 ; GFX9-NEXT:    ;;#ASMSTART
24410 ; GFX9-NEXT:    ; use s[8:15]
24411 ; GFX9-NEXT:    ;;#ASMEND
24412 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
24413   %vec0 = call <4 x i64> asm "; def $0", "=s"()
24414   %vec1 = call <4 x i64> asm "; def $0", "=s"()
24415   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 poison, i32 7, i32 7, i32 7>
24416   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
24417   ret void
24418 }
24419
24420 define void @s_shuffle_v4i64_v4i64__0_7_7_7() {
24421 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__0_7_7_7:
24422 ; GFX900:       ; %bb.0:
24423 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24424 ; GFX900-NEXT:    ;;#ASMSTART
24425 ; GFX900-NEXT:    ; def s[8:15]
24426 ; GFX900-NEXT:    ;;#ASMEND
24427 ; GFX900-NEXT:    ;;#ASMSTART
24428 ; GFX900-NEXT:    ; def s[12:19]
24429 ; GFX900-NEXT:    ;;#ASMEND
24430 ; GFX900-NEXT:    s_mov_b32 s10, s18
24431 ; GFX900-NEXT:    s_mov_b32 s11, s19
24432 ; GFX900-NEXT:    s_mov_b32 s12, s18
24433 ; GFX900-NEXT:    s_mov_b32 s13, s19
24434 ; GFX900-NEXT:    s_mov_b32 s14, s18
24435 ; GFX900-NEXT:    s_mov_b32 s15, s19
24436 ; GFX900-NEXT:    ;;#ASMSTART
24437 ; GFX900-NEXT:    ; use s[8:15]
24438 ; GFX900-NEXT:    ;;#ASMEND
24439 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
24440 ;
24441 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__0_7_7_7:
24442 ; GFX90A:       ; %bb.0:
24443 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24444 ; GFX90A-NEXT:    ;;#ASMSTART
24445 ; GFX90A-NEXT:    ; def s[8:15]
24446 ; GFX90A-NEXT:    ;;#ASMEND
24447 ; GFX90A-NEXT:    ;;#ASMSTART
24448 ; GFX90A-NEXT:    ; def s[12:19]
24449 ; GFX90A-NEXT:    ;;#ASMEND
24450 ; GFX90A-NEXT:    s_mov_b32 s10, s18
24451 ; GFX90A-NEXT:    s_mov_b32 s11, s19
24452 ; GFX90A-NEXT:    s_mov_b32 s12, s18
24453 ; GFX90A-NEXT:    s_mov_b32 s13, s19
24454 ; GFX90A-NEXT:    s_mov_b32 s14, s18
24455 ; GFX90A-NEXT:    s_mov_b32 s15, s19
24456 ; GFX90A-NEXT:    ;;#ASMSTART
24457 ; GFX90A-NEXT:    ; use s[8:15]
24458 ; GFX90A-NEXT:    ;;#ASMEND
24459 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
24460 ;
24461 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__0_7_7_7:
24462 ; GFX940:       ; %bb.0:
24463 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24464 ; GFX940-NEXT:    ;;#ASMSTART
24465 ; GFX940-NEXT:    ; def s[8:15]
24466 ; GFX940-NEXT:    ;;#ASMEND
24467 ; GFX940-NEXT:    ;;#ASMSTART
24468 ; GFX940-NEXT:    ; def s[0:7]
24469 ; GFX940-NEXT:    ;;#ASMEND
24470 ; GFX940-NEXT:    s_mov_b32 s10, s6
24471 ; GFX940-NEXT:    s_mov_b32 s11, s7
24472 ; GFX940-NEXT:    s_mov_b32 s12, s6
24473 ; GFX940-NEXT:    s_mov_b32 s13, s7
24474 ; GFX940-NEXT:    s_mov_b32 s14, s6
24475 ; GFX940-NEXT:    s_mov_b32 s15, s7
24476 ; GFX940-NEXT:    ;;#ASMSTART
24477 ; GFX940-NEXT:    ; use s[8:15]
24478 ; GFX940-NEXT:    ;;#ASMEND
24479 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
24480   %vec0 = call <4 x i64> asm "; def $0", "=s"()
24481   %vec1 = call <4 x i64> asm "; def $0", "=s"()
24482   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 0, i32 7, i32 7, i32 7>
24483   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
24484   ret void
24485 }
24486
24487 define void @s_shuffle_v4i64_v4i64__1_7_7_7() {
24488 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__1_7_7_7:
24489 ; GFX900:       ; %bb.0:
24490 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24491 ; GFX900-NEXT:    ;;#ASMSTART
24492 ; GFX900-NEXT:    ; def s[4:11]
24493 ; GFX900-NEXT:    ;;#ASMEND
24494 ; GFX900-NEXT:    ;;#ASMSTART
24495 ; GFX900-NEXT:    ; def s[8:15]
24496 ; GFX900-NEXT:    ;;#ASMEND
24497 ; GFX900-NEXT:    s_mov_b32 s8, s6
24498 ; GFX900-NEXT:    s_mov_b32 s9, s7
24499 ; GFX900-NEXT:    s_mov_b32 s10, s14
24500 ; GFX900-NEXT:    s_mov_b32 s11, s15
24501 ; GFX900-NEXT:    s_mov_b32 s12, s14
24502 ; GFX900-NEXT:    s_mov_b32 s13, s15
24503 ; GFX900-NEXT:    ;;#ASMSTART
24504 ; GFX900-NEXT:    ; use s[8:15]
24505 ; GFX900-NEXT:    ;;#ASMEND
24506 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
24507 ;
24508 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__1_7_7_7:
24509 ; GFX90A:       ; %bb.0:
24510 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24511 ; GFX90A-NEXT:    ;;#ASMSTART
24512 ; GFX90A-NEXT:    ; def s[4:11]
24513 ; GFX90A-NEXT:    ;;#ASMEND
24514 ; GFX90A-NEXT:    ;;#ASMSTART
24515 ; GFX90A-NEXT:    ; def s[8:15]
24516 ; GFX90A-NEXT:    ;;#ASMEND
24517 ; GFX90A-NEXT:    s_mov_b32 s8, s6
24518 ; GFX90A-NEXT:    s_mov_b32 s9, s7
24519 ; GFX90A-NEXT:    s_mov_b32 s10, s14
24520 ; GFX90A-NEXT:    s_mov_b32 s11, s15
24521 ; GFX90A-NEXT:    s_mov_b32 s12, s14
24522 ; GFX90A-NEXT:    s_mov_b32 s13, s15
24523 ; GFX90A-NEXT:    ;;#ASMSTART
24524 ; GFX90A-NEXT:    ; use s[8:15]
24525 ; GFX90A-NEXT:    ;;#ASMEND
24526 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
24527 ;
24528 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__1_7_7_7:
24529 ; GFX940:       ; %bb.0:
24530 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24531 ; GFX940-NEXT:    ;;#ASMSTART
24532 ; GFX940-NEXT:    ; def s[8:15]
24533 ; GFX940-NEXT:    ;;#ASMEND
24534 ; GFX940-NEXT:    ;;#ASMSTART
24535 ; GFX940-NEXT:    ; def s[0:7]
24536 ; GFX940-NEXT:    ;;#ASMEND
24537 ; GFX940-NEXT:    s_mov_b32 s8, s2
24538 ; GFX940-NEXT:    s_mov_b32 s9, s3
24539 ; GFX940-NEXT:    s_mov_b32 s10, s14
24540 ; GFX940-NEXT:    s_mov_b32 s11, s15
24541 ; GFX940-NEXT:    s_mov_b32 s12, s14
24542 ; GFX940-NEXT:    s_mov_b32 s13, s15
24543 ; GFX940-NEXT:    ;;#ASMSTART
24544 ; GFX940-NEXT:    ; use s[8:15]
24545 ; GFX940-NEXT:    ;;#ASMEND
24546 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
24547   %vec0 = call <4 x i64> asm "; def $0", "=s"()
24548   %vec1 = call <4 x i64> asm "; def $0", "=s"()
24549   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 1, i32 7, i32 7, i32 7>
24550   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
24551   ret void
24552 }
24553
24554 define void @s_shuffle_v4i64_v4i64__2_7_7_7() {
24555 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__2_7_7_7:
24556 ; GFX900:       ; %bb.0:
24557 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24558 ; GFX900-NEXT:    ;;#ASMSTART
24559 ; GFX900-NEXT:    ; def s[12:19]
24560 ; GFX900-NEXT:    ;;#ASMEND
24561 ; GFX900-NEXT:    ;;#ASMSTART
24562 ; GFX900-NEXT:    ; def s[8:15]
24563 ; GFX900-NEXT:    ;;#ASMEND
24564 ; GFX900-NEXT:    s_mov_b32 s8, s16
24565 ; GFX900-NEXT:    s_mov_b32 s9, s17
24566 ; GFX900-NEXT:    s_mov_b32 s10, s14
24567 ; GFX900-NEXT:    s_mov_b32 s11, s15
24568 ; GFX900-NEXT:    s_mov_b32 s12, s14
24569 ; GFX900-NEXT:    s_mov_b32 s13, s15
24570 ; GFX900-NEXT:    ;;#ASMSTART
24571 ; GFX900-NEXT:    ; use s[8:15]
24572 ; GFX900-NEXT:    ;;#ASMEND
24573 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
24574 ;
24575 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__2_7_7_7:
24576 ; GFX90A:       ; %bb.0:
24577 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24578 ; GFX90A-NEXT:    ;;#ASMSTART
24579 ; GFX90A-NEXT:    ; def s[12:19]
24580 ; GFX90A-NEXT:    ;;#ASMEND
24581 ; GFX90A-NEXT:    ;;#ASMSTART
24582 ; GFX90A-NEXT:    ; def s[8:15]
24583 ; GFX90A-NEXT:    ;;#ASMEND
24584 ; GFX90A-NEXT:    s_mov_b32 s8, s16
24585 ; GFX90A-NEXT:    s_mov_b32 s9, s17
24586 ; GFX90A-NEXT:    s_mov_b32 s10, s14
24587 ; GFX90A-NEXT:    s_mov_b32 s11, s15
24588 ; GFX90A-NEXT:    s_mov_b32 s12, s14
24589 ; GFX90A-NEXT:    s_mov_b32 s13, s15
24590 ; GFX90A-NEXT:    ;;#ASMSTART
24591 ; GFX90A-NEXT:    ; use s[8:15]
24592 ; GFX90A-NEXT:    ;;#ASMEND
24593 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
24594 ;
24595 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__2_7_7_7:
24596 ; GFX940:       ; %bb.0:
24597 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24598 ; GFX940-NEXT:    ;;#ASMSTART
24599 ; GFX940-NEXT:    ; def s[8:15]
24600 ; GFX940-NEXT:    ;;#ASMEND
24601 ; GFX940-NEXT:    ;;#ASMSTART
24602 ; GFX940-NEXT:    ; def s[0:7]
24603 ; GFX940-NEXT:    ;;#ASMEND
24604 ; GFX940-NEXT:    s_mov_b32 s8, s4
24605 ; GFX940-NEXT:    s_mov_b32 s9, s5
24606 ; GFX940-NEXT:    s_mov_b32 s10, s14
24607 ; GFX940-NEXT:    s_mov_b32 s11, s15
24608 ; GFX940-NEXT:    s_mov_b32 s12, s14
24609 ; GFX940-NEXT:    s_mov_b32 s13, s15
24610 ; GFX940-NEXT:    ;;#ASMSTART
24611 ; GFX940-NEXT:    ; use s[8:15]
24612 ; GFX940-NEXT:    ;;#ASMEND
24613 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
24614   %vec0 = call <4 x i64> asm "; def $0", "=s"()
24615   %vec1 = call <4 x i64> asm "; def $0", "=s"()
24616   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 2, i32 7, i32 7, i32 7>
24617   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
24618   ret void
24619 }
24620
24621 define void @s_shuffle_v4i64_v4i64__3_7_7_7() {
24622 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__3_7_7_7:
24623 ; GFX900:       ; %bb.0:
24624 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24625 ; GFX900-NEXT:    ;;#ASMSTART
24626 ; GFX900-NEXT:    ; def s[12:19]
24627 ; GFX900-NEXT:    ;;#ASMEND
24628 ; GFX900-NEXT:    ;;#ASMSTART
24629 ; GFX900-NEXT:    ; def s[8:15]
24630 ; GFX900-NEXT:    ;;#ASMEND
24631 ; GFX900-NEXT:    s_mov_b32 s8, s18
24632 ; GFX900-NEXT:    s_mov_b32 s9, s19
24633 ; GFX900-NEXT:    s_mov_b32 s10, s14
24634 ; GFX900-NEXT:    s_mov_b32 s11, s15
24635 ; GFX900-NEXT:    s_mov_b32 s12, s14
24636 ; GFX900-NEXT:    s_mov_b32 s13, s15
24637 ; GFX900-NEXT:    ;;#ASMSTART
24638 ; GFX900-NEXT:    ; use s[8:15]
24639 ; GFX900-NEXT:    ;;#ASMEND
24640 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
24641 ;
24642 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__3_7_7_7:
24643 ; GFX90A:       ; %bb.0:
24644 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24645 ; GFX90A-NEXT:    ;;#ASMSTART
24646 ; GFX90A-NEXT:    ; def s[12:19]
24647 ; GFX90A-NEXT:    ;;#ASMEND
24648 ; GFX90A-NEXT:    ;;#ASMSTART
24649 ; GFX90A-NEXT:    ; def s[8:15]
24650 ; GFX90A-NEXT:    ;;#ASMEND
24651 ; GFX90A-NEXT:    s_mov_b32 s8, s18
24652 ; GFX90A-NEXT:    s_mov_b32 s9, s19
24653 ; GFX90A-NEXT:    s_mov_b32 s10, s14
24654 ; GFX90A-NEXT:    s_mov_b32 s11, s15
24655 ; GFX90A-NEXT:    s_mov_b32 s12, s14
24656 ; GFX90A-NEXT:    s_mov_b32 s13, s15
24657 ; GFX90A-NEXT:    ;;#ASMSTART
24658 ; GFX90A-NEXT:    ; use s[8:15]
24659 ; GFX90A-NEXT:    ;;#ASMEND
24660 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
24661 ;
24662 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__3_7_7_7:
24663 ; GFX940:       ; %bb.0:
24664 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24665 ; GFX940-NEXT:    ;;#ASMSTART
24666 ; GFX940-NEXT:    ; def s[8:15]
24667 ; GFX940-NEXT:    ;;#ASMEND
24668 ; GFX940-NEXT:    ;;#ASMSTART
24669 ; GFX940-NEXT:    ; def s[0:7]
24670 ; GFX940-NEXT:    ;;#ASMEND
24671 ; GFX940-NEXT:    s_mov_b32 s8, s6
24672 ; GFX940-NEXT:    s_mov_b32 s9, s7
24673 ; GFX940-NEXT:    s_mov_b32 s10, s14
24674 ; GFX940-NEXT:    s_mov_b32 s11, s15
24675 ; GFX940-NEXT:    s_mov_b32 s12, s14
24676 ; GFX940-NEXT:    s_mov_b32 s13, s15
24677 ; GFX940-NEXT:    ;;#ASMSTART
24678 ; GFX940-NEXT:    ; use s[8:15]
24679 ; GFX940-NEXT:    ;;#ASMEND
24680 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
24681   %vec0 = call <4 x i64> asm "; def $0", "=s"()
24682   %vec1 = call <4 x i64> asm "; def $0", "=s"()
24683   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 3, i32 7, i32 7, i32 7>
24684   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
24685   ret void
24686 }
24687
24688 define void @s_shuffle_v4i64_v4i64__4_7_7_7() {
24689 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__4_7_7_7:
24690 ; GFX9:       ; %bb.0:
24691 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24692 ; GFX9-NEXT:    ;;#ASMSTART
24693 ; GFX9-NEXT:    ; def s[8:15]
24694 ; GFX9-NEXT:    ;;#ASMEND
24695 ; GFX9-NEXT:    s_mov_b32 s10, s14
24696 ; GFX9-NEXT:    s_mov_b32 s11, s15
24697 ; GFX9-NEXT:    s_mov_b32 s12, s14
24698 ; GFX9-NEXT:    s_mov_b32 s13, s15
24699 ; GFX9-NEXT:    ;;#ASMSTART
24700 ; GFX9-NEXT:    ; use s[8:15]
24701 ; GFX9-NEXT:    ;;#ASMEND
24702 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
24703   %vec0 = call <4 x i64> asm "; def $0", "=s"()
24704   %vec1 = call <4 x i64> asm "; def $0", "=s"()
24705   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 4, i32 7, i32 7, i32 7>
24706   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
24707   ret void
24708 }
24709
24710 define void @s_shuffle_v4i64_v4i64__5_7_7_7() {
24711 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__5_7_7_7:
24712 ; GFX9:       ; %bb.0:
24713 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24714 ; GFX9-NEXT:    ;;#ASMSTART
24715 ; GFX9-NEXT:    ; def s[8:15]
24716 ; GFX9-NEXT:    ;;#ASMEND
24717 ; GFX9-NEXT:    s_mov_b32 s8, s10
24718 ; GFX9-NEXT:    s_mov_b32 s9, s11
24719 ; GFX9-NEXT:    s_mov_b32 s10, s14
24720 ; GFX9-NEXT:    s_mov_b32 s11, s15
24721 ; GFX9-NEXT:    s_mov_b32 s12, s14
24722 ; GFX9-NEXT:    s_mov_b32 s13, s15
24723 ; GFX9-NEXT:    ;;#ASMSTART
24724 ; GFX9-NEXT:    ; use s[8:15]
24725 ; GFX9-NEXT:    ;;#ASMEND
24726 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
24727   %vec0 = call <4 x i64> asm "; def $0", "=s"()
24728   %vec1 = call <4 x i64> asm "; def $0", "=s"()
24729   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 5, i32 7, i32 7, i32 7>
24730   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
24731   ret void
24732 }
24733
24734 define void @s_shuffle_v4i64_v4i64__6_7_7_7() {
24735 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__6_7_7_7:
24736 ; GFX9:       ; %bb.0:
24737 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24738 ; GFX9-NEXT:    ;;#ASMSTART
24739 ; GFX9-NEXT:    ; def s[8:15]
24740 ; GFX9-NEXT:    ;;#ASMEND
24741 ; GFX9-NEXT:    s_mov_b32 s8, s12
24742 ; GFX9-NEXT:    s_mov_b32 s9, s13
24743 ; GFX9-NEXT:    s_mov_b32 s10, s14
24744 ; GFX9-NEXT:    s_mov_b32 s11, s15
24745 ; GFX9-NEXT:    s_mov_b32 s12, s14
24746 ; GFX9-NEXT:    s_mov_b32 s13, s15
24747 ; GFX9-NEXT:    ;;#ASMSTART
24748 ; GFX9-NEXT:    ; use s[8:15]
24749 ; GFX9-NEXT:    ;;#ASMEND
24750 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
24751   %vec0 = call <4 x i64> asm "; def $0", "=s"()
24752   %vec1 = call <4 x i64> asm "; def $0", "=s"()
24753   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 6, i32 7, i32 7, i32 7>
24754   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
24755   ret void
24756 }
24757
24758 define void @s_shuffle_v4i64_v4i64__7_u_7_7() {
24759 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__7_u_7_7:
24760 ; GFX9:       ; %bb.0:
24761 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24762 ; GFX9-NEXT:    ;;#ASMSTART
24763 ; GFX9-NEXT:    ; def s[8:15]
24764 ; GFX9-NEXT:    ;;#ASMEND
24765 ; GFX9-NEXT:    s_mov_b32 s8, s14
24766 ; GFX9-NEXT:    s_mov_b32 s9, s15
24767 ; GFX9-NEXT:    s_mov_b32 s12, s14
24768 ; GFX9-NEXT:    s_mov_b32 s13, s15
24769 ; GFX9-NEXT:    ;;#ASMSTART
24770 ; GFX9-NEXT:    ; use s[8:15]
24771 ; GFX9-NEXT:    ;;#ASMEND
24772 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
24773   %vec0 = call <4 x i64> asm "; def $0", "=s"()
24774   %vec1 = call <4 x i64> asm "; def $0", "=s"()
24775   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 poison, i32 7, i32 7>
24776   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
24777   ret void
24778 }
24779
24780 define void @s_shuffle_v4i64_v4i64__7_0_7_7() {
24781 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_0_7_7:
24782 ; GFX900:       ; %bb.0:
24783 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24784 ; GFX900-NEXT:    ;;#ASMSTART
24785 ; GFX900-NEXT:    ; def s[4:11]
24786 ; GFX900-NEXT:    ;;#ASMEND
24787 ; GFX900-NEXT:    ;;#ASMSTART
24788 ; GFX900-NEXT:    ; def s[8:15]
24789 ; GFX900-NEXT:    ;;#ASMEND
24790 ; GFX900-NEXT:    s_mov_b32 s8, s14
24791 ; GFX900-NEXT:    s_mov_b32 s9, s15
24792 ; GFX900-NEXT:    s_mov_b32 s10, s4
24793 ; GFX900-NEXT:    s_mov_b32 s11, s5
24794 ; GFX900-NEXT:    s_mov_b32 s12, s14
24795 ; GFX900-NEXT:    s_mov_b32 s13, s15
24796 ; GFX900-NEXT:    ;;#ASMSTART
24797 ; GFX900-NEXT:    ; use s[8:15]
24798 ; GFX900-NEXT:    ;;#ASMEND
24799 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
24800 ;
24801 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_0_7_7:
24802 ; GFX90A:       ; %bb.0:
24803 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24804 ; GFX90A-NEXT:    ;;#ASMSTART
24805 ; GFX90A-NEXT:    ; def s[4:11]
24806 ; GFX90A-NEXT:    ;;#ASMEND
24807 ; GFX90A-NEXT:    ;;#ASMSTART
24808 ; GFX90A-NEXT:    ; def s[8:15]
24809 ; GFX90A-NEXT:    ;;#ASMEND
24810 ; GFX90A-NEXT:    s_mov_b32 s8, s14
24811 ; GFX90A-NEXT:    s_mov_b32 s9, s15
24812 ; GFX90A-NEXT:    s_mov_b32 s10, s4
24813 ; GFX90A-NEXT:    s_mov_b32 s11, s5
24814 ; GFX90A-NEXT:    s_mov_b32 s12, s14
24815 ; GFX90A-NEXT:    s_mov_b32 s13, s15
24816 ; GFX90A-NEXT:    ;;#ASMSTART
24817 ; GFX90A-NEXT:    ; use s[8:15]
24818 ; GFX90A-NEXT:    ;;#ASMEND
24819 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
24820 ;
24821 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_0_7_7:
24822 ; GFX940:       ; %bb.0:
24823 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24824 ; GFX940-NEXT:    ;;#ASMSTART
24825 ; GFX940-NEXT:    ; def s[8:15]
24826 ; GFX940-NEXT:    ;;#ASMEND
24827 ; GFX940-NEXT:    ;;#ASMSTART
24828 ; GFX940-NEXT:    ; def s[0:7]
24829 ; GFX940-NEXT:    ;;#ASMEND
24830 ; GFX940-NEXT:    s_mov_b32 s8, s14
24831 ; GFX940-NEXT:    s_mov_b32 s9, s15
24832 ; GFX940-NEXT:    s_mov_b32 s10, s0
24833 ; GFX940-NEXT:    s_mov_b32 s11, s1
24834 ; GFX940-NEXT:    s_mov_b32 s12, s14
24835 ; GFX940-NEXT:    s_mov_b32 s13, s15
24836 ; GFX940-NEXT:    ;;#ASMSTART
24837 ; GFX940-NEXT:    ; use s[8:15]
24838 ; GFX940-NEXT:    ;;#ASMEND
24839 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
24840   %vec0 = call <4 x i64> asm "; def $0", "=s"()
24841   %vec1 = call <4 x i64> asm "; def $0", "=s"()
24842   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 0, i32 7, i32 7>
24843   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
24844   ret void
24845 }
24846
24847 define void @s_shuffle_v4i64_v4i64__7_1_7_7() {
24848 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_1_7_7:
24849 ; GFX900:       ; %bb.0:
24850 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24851 ; GFX900-NEXT:    ;;#ASMSTART
24852 ; GFX900-NEXT:    ; def s[8:15]
24853 ; GFX900-NEXT:    ;;#ASMEND
24854 ; GFX900-NEXT:    ;;#ASMSTART
24855 ; GFX900-NEXT:    ; def s[12:19]
24856 ; GFX900-NEXT:    ;;#ASMEND
24857 ; GFX900-NEXT:    s_mov_b32 s8, s18
24858 ; GFX900-NEXT:    s_mov_b32 s9, s19
24859 ; GFX900-NEXT:    s_mov_b32 s12, s18
24860 ; GFX900-NEXT:    s_mov_b32 s13, s19
24861 ; GFX900-NEXT:    s_mov_b32 s14, s18
24862 ; GFX900-NEXT:    s_mov_b32 s15, s19
24863 ; GFX900-NEXT:    ;;#ASMSTART
24864 ; GFX900-NEXT:    ; use s[8:15]
24865 ; GFX900-NEXT:    ;;#ASMEND
24866 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
24867 ;
24868 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_1_7_7:
24869 ; GFX90A:       ; %bb.0:
24870 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24871 ; GFX90A-NEXT:    ;;#ASMSTART
24872 ; GFX90A-NEXT:    ; def s[8:15]
24873 ; GFX90A-NEXT:    ;;#ASMEND
24874 ; GFX90A-NEXT:    ;;#ASMSTART
24875 ; GFX90A-NEXT:    ; def s[12:19]
24876 ; GFX90A-NEXT:    ;;#ASMEND
24877 ; GFX90A-NEXT:    s_mov_b32 s8, s18
24878 ; GFX90A-NEXT:    s_mov_b32 s9, s19
24879 ; GFX90A-NEXT:    s_mov_b32 s12, s18
24880 ; GFX90A-NEXT:    s_mov_b32 s13, s19
24881 ; GFX90A-NEXT:    s_mov_b32 s14, s18
24882 ; GFX90A-NEXT:    s_mov_b32 s15, s19
24883 ; GFX90A-NEXT:    ;;#ASMSTART
24884 ; GFX90A-NEXT:    ; use s[8:15]
24885 ; GFX90A-NEXT:    ;;#ASMEND
24886 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
24887 ;
24888 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_1_7_7:
24889 ; GFX940:       ; %bb.0:
24890 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24891 ; GFX940-NEXT:    ;;#ASMSTART
24892 ; GFX940-NEXT:    ; def s[8:15]
24893 ; GFX940-NEXT:    ;;#ASMEND
24894 ; GFX940-NEXT:    ;;#ASMSTART
24895 ; GFX940-NEXT:    ; def s[0:7]
24896 ; GFX940-NEXT:    ;;#ASMEND
24897 ; GFX940-NEXT:    s_mov_b32 s8, s6
24898 ; GFX940-NEXT:    s_mov_b32 s9, s7
24899 ; GFX940-NEXT:    s_mov_b32 s12, s6
24900 ; GFX940-NEXT:    s_mov_b32 s13, s7
24901 ; GFX940-NEXT:    s_mov_b32 s14, s6
24902 ; GFX940-NEXT:    s_mov_b32 s15, s7
24903 ; GFX940-NEXT:    ;;#ASMSTART
24904 ; GFX940-NEXT:    ; use s[8:15]
24905 ; GFX940-NEXT:    ;;#ASMEND
24906 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
24907   %vec0 = call <4 x i64> asm "; def $0", "=s"()
24908   %vec1 = call <4 x i64> asm "; def $0", "=s"()
24909   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 1, i32 7, i32 7>
24910   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
24911   ret void
24912 }
24913
24914 define void @s_shuffle_v4i64_v4i64__7_2_7_7() {
24915 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_2_7_7:
24916 ; GFX900:       ; %bb.0:
24917 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24918 ; GFX900-NEXT:    ;;#ASMSTART
24919 ; GFX900-NEXT:    ; def s[12:19]
24920 ; GFX900-NEXT:    ;;#ASMEND
24921 ; GFX900-NEXT:    ;;#ASMSTART
24922 ; GFX900-NEXT:    ; def s[8:15]
24923 ; GFX900-NEXT:    ;;#ASMEND
24924 ; GFX900-NEXT:    s_mov_b32 s8, s14
24925 ; GFX900-NEXT:    s_mov_b32 s9, s15
24926 ; GFX900-NEXT:    s_mov_b32 s10, s16
24927 ; GFX900-NEXT:    s_mov_b32 s11, s17
24928 ; GFX900-NEXT:    s_mov_b32 s12, s14
24929 ; GFX900-NEXT:    s_mov_b32 s13, s15
24930 ; GFX900-NEXT:    ;;#ASMSTART
24931 ; GFX900-NEXT:    ; use s[8:15]
24932 ; GFX900-NEXT:    ;;#ASMEND
24933 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
24934 ;
24935 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_2_7_7:
24936 ; GFX90A:       ; %bb.0:
24937 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24938 ; GFX90A-NEXT:    ;;#ASMSTART
24939 ; GFX90A-NEXT:    ; def s[12:19]
24940 ; GFX90A-NEXT:    ;;#ASMEND
24941 ; GFX90A-NEXT:    ;;#ASMSTART
24942 ; GFX90A-NEXT:    ; def s[8:15]
24943 ; GFX90A-NEXT:    ;;#ASMEND
24944 ; GFX90A-NEXT:    s_mov_b32 s8, s14
24945 ; GFX90A-NEXT:    s_mov_b32 s9, s15
24946 ; GFX90A-NEXT:    s_mov_b32 s10, s16
24947 ; GFX90A-NEXT:    s_mov_b32 s11, s17
24948 ; GFX90A-NEXT:    s_mov_b32 s12, s14
24949 ; GFX90A-NEXT:    s_mov_b32 s13, s15
24950 ; GFX90A-NEXT:    ;;#ASMSTART
24951 ; GFX90A-NEXT:    ; use s[8:15]
24952 ; GFX90A-NEXT:    ;;#ASMEND
24953 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
24954 ;
24955 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_2_7_7:
24956 ; GFX940:       ; %bb.0:
24957 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24958 ; GFX940-NEXT:    ;;#ASMSTART
24959 ; GFX940-NEXT:    ; def s[8:15]
24960 ; GFX940-NEXT:    ;;#ASMEND
24961 ; GFX940-NEXT:    ;;#ASMSTART
24962 ; GFX940-NEXT:    ; def s[0:7]
24963 ; GFX940-NEXT:    ;;#ASMEND
24964 ; GFX940-NEXT:    s_mov_b32 s8, s14
24965 ; GFX940-NEXT:    s_mov_b32 s9, s15
24966 ; GFX940-NEXT:    s_mov_b32 s10, s4
24967 ; GFX940-NEXT:    s_mov_b32 s11, s5
24968 ; GFX940-NEXT:    s_mov_b32 s12, s14
24969 ; GFX940-NEXT:    s_mov_b32 s13, s15
24970 ; GFX940-NEXT:    ;;#ASMSTART
24971 ; GFX940-NEXT:    ; use s[8:15]
24972 ; GFX940-NEXT:    ;;#ASMEND
24973 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
24974   %vec0 = call <4 x i64> asm "; def $0", "=s"()
24975   %vec1 = call <4 x i64> asm "; def $0", "=s"()
24976   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 2, i32 7, i32 7>
24977   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
24978   ret void
24979 }
24980
24981 define void @s_shuffle_v4i64_v4i64__7_3_7_7() {
24982 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_3_7_7:
24983 ; GFX900:       ; %bb.0:
24984 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
24985 ; GFX900-NEXT:    ;;#ASMSTART
24986 ; GFX900-NEXT:    ; def s[12:19]
24987 ; GFX900-NEXT:    ;;#ASMEND
24988 ; GFX900-NEXT:    ;;#ASMSTART
24989 ; GFX900-NEXT:    ; def s[8:15]
24990 ; GFX900-NEXT:    ;;#ASMEND
24991 ; GFX900-NEXT:    s_mov_b32 s8, s14
24992 ; GFX900-NEXT:    s_mov_b32 s9, s15
24993 ; GFX900-NEXT:    s_mov_b32 s10, s18
24994 ; GFX900-NEXT:    s_mov_b32 s11, s19
24995 ; GFX900-NEXT:    s_mov_b32 s12, s14
24996 ; GFX900-NEXT:    s_mov_b32 s13, s15
24997 ; GFX900-NEXT:    ;;#ASMSTART
24998 ; GFX900-NEXT:    ; use s[8:15]
24999 ; GFX900-NEXT:    ;;#ASMEND
25000 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
25001 ;
25002 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_3_7_7:
25003 ; GFX90A:       ; %bb.0:
25004 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25005 ; GFX90A-NEXT:    ;;#ASMSTART
25006 ; GFX90A-NEXT:    ; def s[12:19]
25007 ; GFX90A-NEXT:    ;;#ASMEND
25008 ; GFX90A-NEXT:    ;;#ASMSTART
25009 ; GFX90A-NEXT:    ; def s[8:15]
25010 ; GFX90A-NEXT:    ;;#ASMEND
25011 ; GFX90A-NEXT:    s_mov_b32 s8, s14
25012 ; GFX90A-NEXT:    s_mov_b32 s9, s15
25013 ; GFX90A-NEXT:    s_mov_b32 s10, s18
25014 ; GFX90A-NEXT:    s_mov_b32 s11, s19
25015 ; GFX90A-NEXT:    s_mov_b32 s12, s14
25016 ; GFX90A-NEXT:    s_mov_b32 s13, s15
25017 ; GFX90A-NEXT:    ;;#ASMSTART
25018 ; GFX90A-NEXT:    ; use s[8:15]
25019 ; GFX90A-NEXT:    ;;#ASMEND
25020 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
25021 ;
25022 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_3_7_7:
25023 ; GFX940:       ; %bb.0:
25024 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25025 ; GFX940-NEXT:    ;;#ASMSTART
25026 ; GFX940-NEXT:    ; def s[8:15]
25027 ; GFX940-NEXT:    ;;#ASMEND
25028 ; GFX940-NEXT:    ;;#ASMSTART
25029 ; GFX940-NEXT:    ; def s[0:7]
25030 ; GFX940-NEXT:    ;;#ASMEND
25031 ; GFX940-NEXT:    s_mov_b32 s8, s14
25032 ; GFX940-NEXT:    s_mov_b32 s9, s15
25033 ; GFX940-NEXT:    s_mov_b32 s10, s6
25034 ; GFX940-NEXT:    s_mov_b32 s11, s7
25035 ; GFX940-NEXT:    s_mov_b32 s12, s14
25036 ; GFX940-NEXT:    s_mov_b32 s13, s15
25037 ; GFX940-NEXT:    ;;#ASMSTART
25038 ; GFX940-NEXT:    ; use s[8:15]
25039 ; GFX940-NEXT:    ;;#ASMEND
25040 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
25041   %vec0 = call <4 x i64> asm "; def $0", "=s"()
25042   %vec1 = call <4 x i64> asm "; def $0", "=s"()
25043   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 3, i32 7, i32 7>
25044   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
25045   ret void
25046 }
25047
25048 define void @s_shuffle_v4i64_v4i64__7_4_7_7() {
25049 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_4_7_7:
25050 ; GFX900:       ; %bb.0:
25051 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25052 ; GFX900-NEXT:    ;;#ASMSTART
25053 ; GFX900-NEXT:    ; def s[12:19]
25054 ; GFX900-NEXT:    ;;#ASMEND
25055 ; GFX900-NEXT:    s_mov_b32 s8, s18
25056 ; GFX900-NEXT:    s_mov_b32 s9, s19
25057 ; GFX900-NEXT:    s_mov_b32 s10, s12
25058 ; GFX900-NEXT:    s_mov_b32 s11, s13
25059 ; GFX900-NEXT:    s_mov_b32 s12, s18
25060 ; GFX900-NEXT:    s_mov_b32 s13, s19
25061 ; GFX900-NEXT:    s_mov_b32 s14, s18
25062 ; GFX900-NEXT:    s_mov_b32 s15, s19
25063 ; GFX900-NEXT:    ;;#ASMSTART
25064 ; GFX900-NEXT:    ; use s[8:15]
25065 ; GFX900-NEXT:    ;;#ASMEND
25066 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
25067 ;
25068 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_4_7_7:
25069 ; GFX90A:       ; %bb.0:
25070 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25071 ; GFX90A-NEXT:    ;;#ASMSTART
25072 ; GFX90A-NEXT:    ; def s[12:19]
25073 ; GFX90A-NEXT:    ;;#ASMEND
25074 ; GFX90A-NEXT:    s_mov_b32 s8, s18
25075 ; GFX90A-NEXT:    s_mov_b32 s9, s19
25076 ; GFX90A-NEXT:    s_mov_b32 s10, s12
25077 ; GFX90A-NEXT:    s_mov_b32 s11, s13
25078 ; GFX90A-NEXT:    s_mov_b32 s12, s18
25079 ; GFX90A-NEXT:    s_mov_b32 s13, s19
25080 ; GFX90A-NEXT:    s_mov_b32 s14, s18
25081 ; GFX90A-NEXT:    s_mov_b32 s15, s19
25082 ; GFX90A-NEXT:    ;;#ASMSTART
25083 ; GFX90A-NEXT:    ; use s[8:15]
25084 ; GFX90A-NEXT:    ;;#ASMEND
25085 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
25086 ;
25087 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_4_7_7:
25088 ; GFX940:       ; %bb.0:
25089 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25090 ; GFX940-NEXT:    ;;#ASMSTART
25091 ; GFX940-NEXT:    ; def s[0:7]
25092 ; GFX940-NEXT:    ;;#ASMEND
25093 ; GFX940-NEXT:    s_mov_b32 s8, s6
25094 ; GFX940-NEXT:    s_mov_b32 s9, s7
25095 ; GFX940-NEXT:    s_mov_b32 s10, s0
25096 ; GFX940-NEXT:    s_mov_b32 s11, s1
25097 ; GFX940-NEXT:    s_mov_b32 s12, s6
25098 ; GFX940-NEXT:    s_mov_b32 s13, s7
25099 ; GFX940-NEXT:    s_mov_b32 s14, s6
25100 ; GFX940-NEXT:    s_mov_b32 s15, s7
25101 ; GFX940-NEXT:    ;;#ASMSTART
25102 ; GFX940-NEXT:    ; use s[8:15]
25103 ; GFX940-NEXT:    ;;#ASMEND
25104 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
25105   %vec0 = call <4 x i64> asm "; def $0", "=s"()
25106   %vec1 = call <4 x i64> asm "; def $0", "=s"()
25107   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 4, i32 7, i32 7>
25108   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
25109   ret void
25110 }
25111
25112 define void @s_shuffle_v4i64_v4i64__7_5_7_7() {
25113 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__7_5_7_7:
25114 ; GFX9:       ; %bb.0:
25115 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25116 ; GFX9-NEXT:    ;;#ASMSTART
25117 ; GFX9-NEXT:    ; def s[8:15]
25118 ; GFX9-NEXT:    ;;#ASMEND
25119 ; GFX9-NEXT:    s_mov_b32 s8, s14
25120 ; GFX9-NEXT:    s_mov_b32 s9, s15
25121 ; GFX9-NEXT:    s_mov_b32 s12, s14
25122 ; GFX9-NEXT:    s_mov_b32 s13, s15
25123 ; GFX9-NEXT:    ;;#ASMSTART
25124 ; GFX9-NEXT:    ; use s[8:15]
25125 ; GFX9-NEXT:    ;;#ASMEND
25126 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
25127   %vec0 = call <4 x i64> asm "; def $0", "=s"()
25128   %vec1 = call <4 x i64> asm "; def $0", "=s"()
25129   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 5, i32 7, i32 7>
25130   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
25131   ret void
25132 }
25133
25134 define void @s_shuffle_v4i64_v4i64__7_6_7_7() {
25135 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__7_6_7_7:
25136 ; GFX9:       ; %bb.0:
25137 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25138 ; GFX9-NEXT:    ;;#ASMSTART
25139 ; GFX9-NEXT:    ; def s[8:15]
25140 ; GFX9-NEXT:    ;;#ASMEND
25141 ; GFX9-NEXT:    s_mov_b32 s8, s14
25142 ; GFX9-NEXT:    s_mov_b32 s9, s15
25143 ; GFX9-NEXT:    s_mov_b32 s10, s12
25144 ; GFX9-NEXT:    s_mov_b32 s11, s13
25145 ; GFX9-NEXT:    s_mov_b32 s12, s14
25146 ; GFX9-NEXT:    s_mov_b32 s13, s15
25147 ; GFX9-NEXT:    ;;#ASMSTART
25148 ; GFX9-NEXT:    ; use s[8:15]
25149 ; GFX9-NEXT:    ;;#ASMEND
25150 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
25151   %vec0 = call <4 x i64> asm "; def $0", "=s"()
25152   %vec1 = call <4 x i64> asm "; def $0", "=s"()
25153   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 6, i32 7, i32 7>
25154   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
25155   ret void
25156 }
25157
25158 define void @s_shuffle_v4i64_v4i64__7_7_u_7() {
25159 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__7_7_u_7:
25160 ; GFX9:       ; %bb.0:
25161 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25162 ; GFX9-NEXT:    ;;#ASMSTART
25163 ; GFX9-NEXT:    ; def s[8:15]
25164 ; GFX9-NEXT:    ;;#ASMEND
25165 ; GFX9-NEXT:    s_mov_b32 s8, s14
25166 ; GFX9-NEXT:    s_mov_b32 s9, s15
25167 ; GFX9-NEXT:    s_mov_b32 s10, s14
25168 ; GFX9-NEXT:    s_mov_b32 s11, s15
25169 ; GFX9-NEXT:    ;;#ASMSTART
25170 ; GFX9-NEXT:    ; use s[8:15]
25171 ; GFX9-NEXT:    ;;#ASMEND
25172 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
25173   %vec0 = call <4 x i64> asm "; def $0", "=s"()
25174   %vec1 = call <4 x i64> asm "; def $0", "=s"()
25175   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 poison, i32 7>
25176   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
25177   ret void
25178 }
25179
25180 define void @s_shuffle_v4i64_v4i64__7_7_0_7() {
25181 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_0_7:
25182 ; GFX900:       ; %bb.0:
25183 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25184 ; GFX900-NEXT:    ;;#ASMSTART
25185 ; GFX900-NEXT:    ; def s[4:11]
25186 ; GFX900-NEXT:    ;;#ASMEND
25187 ; GFX900-NEXT:    ;;#ASMSTART
25188 ; GFX900-NEXT:    ; def s[8:15]
25189 ; GFX900-NEXT:    ;;#ASMEND
25190 ; GFX900-NEXT:    s_mov_b32 s8, s14
25191 ; GFX900-NEXT:    s_mov_b32 s9, s15
25192 ; GFX900-NEXT:    s_mov_b32 s10, s14
25193 ; GFX900-NEXT:    s_mov_b32 s11, s15
25194 ; GFX900-NEXT:    s_mov_b32 s12, s4
25195 ; GFX900-NEXT:    s_mov_b32 s13, s5
25196 ; GFX900-NEXT:    ;;#ASMSTART
25197 ; GFX900-NEXT:    ; use s[8:15]
25198 ; GFX900-NEXT:    ;;#ASMEND
25199 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
25200 ;
25201 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_0_7:
25202 ; GFX90A:       ; %bb.0:
25203 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25204 ; GFX90A-NEXT:    ;;#ASMSTART
25205 ; GFX90A-NEXT:    ; def s[4:11]
25206 ; GFX90A-NEXT:    ;;#ASMEND
25207 ; GFX90A-NEXT:    ;;#ASMSTART
25208 ; GFX90A-NEXT:    ; def s[8:15]
25209 ; GFX90A-NEXT:    ;;#ASMEND
25210 ; GFX90A-NEXT:    s_mov_b32 s8, s14
25211 ; GFX90A-NEXT:    s_mov_b32 s9, s15
25212 ; GFX90A-NEXT:    s_mov_b32 s10, s14
25213 ; GFX90A-NEXT:    s_mov_b32 s11, s15
25214 ; GFX90A-NEXT:    s_mov_b32 s12, s4
25215 ; GFX90A-NEXT:    s_mov_b32 s13, s5
25216 ; GFX90A-NEXT:    ;;#ASMSTART
25217 ; GFX90A-NEXT:    ; use s[8:15]
25218 ; GFX90A-NEXT:    ;;#ASMEND
25219 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
25220 ;
25221 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_0_7:
25222 ; GFX940:       ; %bb.0:
25223 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25224 ; GFX940-NEXT:    ;;#ASMSTART
25225 ; GFX940-NEXT:    ; def s[8:15]
25226 ; GFX940-NEXT:    ;;#ASMEND
25227 ; GFX940-NEXT:    ;;#ASMSTART
25228 ; GFX940-NEXT:    ; def s[0:7]
25229 ; GFX940-NEXT:    ;;#ASMEND
25230 ; GFX940-NEXT:    s_mov_b32 s8, s14
25231 ; GFX940-NEXT:    s_mov_b32 s9, s15
25232 ; GFX940-NEXT:    s_mov_b32 s10, s14
25233 ; GFX940-NEXT:    s_mov_b32 s11, s15
25234 ; GFX940-NEXT:    s_mov_b32 s12, s0
25235 ; GFX940-NEXT:    s_mov_b32 s13, s1
25236 ; GFX940-NEXT:    ;;#ASMSTART
25237 ; GFX940-NEXT:    ; use s[8:15]
25238 ; GFX940-NEXT:    ;;#ASMEND
25239 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
25240   %vec0 = call <4 x i64> asm "; def $0", "=s"()
25241   %vec1 = call <4 x i64> asm "; def $0", "=s"()
25242   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 0, i32 7>
25243   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
25244   ret void
25245 }
25246
25247 define void @s_shuffle_v4i64_v4i64__7_7_1_7() {
25248 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_1_7:
25249 ; GFX900:       ; %bb.0:
25250 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25251 ; GFX900-NEXT:    ;;#ASMSTART
25252 ; GFX900-NEXT:    ; def s[4:11]
25253 ; GFX900-NEXT:    ;;#ASMEND
25254 ; GFX900-NEXT:    ;;#ASMSTART
25255 ; GFX900-NEXT:    ; def s[8:15]
25256 ; GFX900-NEXT:    ;;#ASMEND
25257 ; GFX900-NEXT:    s_mov_b32 s8, s14
25258 ; GFX900-NEXT:    s_mov_b32 s9, s15
25259 ; GFX900-NEXT:    s_mov_b32 s10, s14
25260 ; GFX900-NEXT:    s_mov_b32 s11, s15
25261 ; GFX900-NEXT:    s_mov_b32 s12, s6
25262 ; GFX900-NEXT:    s_mov_b32 s13, s7
25263 ; GFX900-NEXT:    ;;#ASMSTART
25264 ; GFX900-NEXT:    ; use s[8:15]
25265 ; GFX900-NEXT:    ;;#ASMEND
25266 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
25267 ;
25268 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_1_7:
25269 ; GFX90A:       ; %bb.0:
25270 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25271 ; GFX90A-NEXT:    ;;#ASMSTART
25272 ; GFX90A-NEXT:    ; def s[4:11]
25273 ; GFX90A-NEXT:    ;;#ASMEND
25274 ; GFX90A-NEXT:    ;;#ASMSTART
25275 ; GFX90A-NEXT:    ; def s[8:15]
25276 ; GFX90A-NEXT:    ;;#ASMEND
25277 ; GFX90A-NEXT:    s_mov_b32 s8, s14
25278 ; GFX90A-NEXT:    s_mov_b32 s9, s15
25279 ; GFX90A-NEXT:    s_mov_b32 s10, s14
25280 ; GFX90A-NEXT:    s_mov_b32 s11, s15
25281 ; GFX90A-NEXT:    s_mov_b32 s12, s6
25282 ; GFX90A-NEXT:    s_mov_b32 s13, s7
25283 ; GFX90A-NEXT:    ;;#ASMSTART
25284 ; GFX90A-NEXT:    ; use s[8:15]
25285 ; GFX90A-NEXT:    ;;#ASMEND
25286 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
25287 ;
25288 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_1_7:
25289 ; GFX940:       ; %bb.0:
25290 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25291 ; GFX940-NEXT:    ;;#ASMSTART
25292 ; GFX940-NEXT:    ; def s[8:15]
25293 ; GFX940-NEXT:    ;;#ASMEND
25294 ; GFX940-NEXT:    ;;#ASMSTART
25295 ; GFX940-NEXT:    ; def s[0:7]
25296 ; GFX940-NEXT:    ;;#ASMEND
25297 ; GFX940-NEXT:    s_mov_b32 s8, s14
25298 ; GFX940-NEXT:    s_mov_b32 s9, s15
25299 ; GFX940-NEXT:    s_mov_b32 s10, s14
25300 ; GFX940-NEXT:    s_mov_b32 s11, s15
25301 ; GFX940-NEXT:    s_mov_b32 s12, s2
25302 ; GFX940-NEXT:    s_mov_b32 s13, s3
25303 ; GFX940-NEXT:    ;;#ASMSTART
25304 ; GFX940-NEXT:    ; use s[8:15]
25305 ; GFX940-NEXT:    ;;#ASMEND
25306 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
25307   %vec0 = call <4 x i64> asm "; def $0", "=s"()
25308   %vec1 = call <4 x i64> asm "; def $0", "=s"()
25309   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 1, i32 7>
25310   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
25311   ret void
25312 }
25313
25314 define void @s_shuffle_v4i64_v4i64__7_7_2_7() {
25315 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_2_7:
25316 ; GFX900:       ; %bb.0:
25317 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25318 ; GFX900-NEXT:    ;;#ASMSTART
25319 ; GFX900-NEXT:    ; def s[8:15]
25320 ; GFX900-NEXT:    ;;#ASMEND
25321 ; GFX900-NEXT:    ;;#ASMSTART
25322 ; GFX900-NEXT:    ; def s[16:23]
25323 ; GFX900-NEXT:    ;;#ASMEND
25324 ; GFX900-NEXT:    s_mov_b32 s8, s22
25325 ; GFX900-NEXT:    s_mov_b32 s9, s23
25326 ; GFX900-NEXT:    s_mov_b32 s10, s22
25327 ; GFX900-NEXT:    s_mov_b32 s11, s23
25328 ; GFX900-NEXT:    s_mov_b32 s14, s22
25329 ; GFX900-NEXT:    s_mov_b32 s15, s23
25330 ; GFX900-NEXT:    ;;#ASMSTART
25331 ; GFX900-NEXT:    ; use s[8:15]
25332 ; GFX900-NEXT:    ;;#ASMEND
25333 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
25334 ;
25335 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_2_7:
25336 ; GFX90A:       ; %bb.0:
25337 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25338 ; GFX90A-NEXT:    ;;#ASMSTART
25339 ; GFX90A-NEXT:    ; def s[8:15]
25340 ; GFX90A-NEXT:    ;;#ASMEND
25341 ; GFX90A-NEXT:    ;;#ASMSTART
25342 ; GFX90A-NEXT:    ; def s[16:23]
25343 ; GFX90A-NEXT:    ;;#ASMEND
25344 ; GFX90A-NEXT:    s_mov_b32 s8, s22
25345 ; GFX90A-NEXT:    s_mov_b32 s9, s23
25346 ; GFX90A-NEXT:    s_mov_b32 s10, s22
25347 ; GFX90A-NEXT:    s_mov_b32 s11, s23
25348 ; GFX90A-NEXT:    s_mov_b32 s14, s22
25349 ; GFX90A-NEXT:    s_mov_b32 s15, s23
25350 ; GFX90A-NEXT:    ;;#ASMSTART
25351 ; GFX90A-NEXT:    ; use s[8:15]
25352 ; GFX90A-NEXT:    ;;#ASMEND
25353 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
25354 ;
25355 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_2_7:
25356 ; GFX940:       ; %bb.0:
25357 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25358 ; GFX940-NEXT:    ;;#ASMSTART
25359 ; GFX940-NEXT:    ; def s[8:15]
25360 ; GFX940-NEXT:    ;;#ASMEND
25361 ; GFX940-NEXT:    ;;#ASMSTART
25362 ; GFX940-NEXT:    ; def s[0:7]
25363 ; GFX940-NEXT:    ;;#ASMEND
25364 ; GFX940-NEXT:    s_mov_b32 s8, s6
25365 ; GFX940-NEXT:    s_mov_b32 s9, s7
25366 ; GFX940-NEXT:    s_mov_b32 s10, s6
25367 ; GFX940-NEXT:    s_mov_b32 s11, s7
25368 ; GFX940-NEXT:    s_mov_b32 s14, s6
25369 ; GFX940-NEXT:    s_mov_b32 s15, s7
25370 ; GFX940-NEXT:    ;;#ASMSTART
25371 ; GFX940-NEXT:    ; use s[8:15]
25372 ; GFX940-NEXT:    ;;#ASMEND
25373 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
25374   %vec0 = call <4 x i64> asm "; def $0", "=s"()
25375   %vec1 = call <4 x i64> asm "; def $0", "=s"()
25376   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 2, i32 7>
25377   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
25378   ret void
25379 }
25380
25381 define void @s_shuffle_v4i64_v4i64__7_7_3_7() {
25382 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_3_7:
25383 ; GFX900:       ; %bb.0:
25384 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25385 ; GFX900-NEXT:    ;;#ASMSTART
25386 ; GFX900-NEXT:    ; def s[12:19]
25387 ; GFX900-NEXT:    ;;#ASMEND
25388 ; GFX900-NEXT:    ;;#ASMSTART
25389 ; GFX900-NEXT:    ; def s[8:15]
25390 ; GFX900-NEXT:    ;;#ASMEND
25391 ; GFX900-NEXT:    s_mov_b32 s8, s14
25392 ; GFX900-NEXT:    s_mov_b32 s9, s15
25393 ; GFX900-NEXT:    s_mov_b32 s10, s14
25394 ; GFX900-NEXT:    s_mov_b32 s11, s15
25395 ; GFX900-NEXT:    s_mov_b32 s12, s18
25396 ; GFX900-NEXT:    s_mov_b32 s13, s19
25397 ; GFX900-NEXT:    ;;#ASMSTART
25398 ; GFX900-NEXT:    ; use s[8:15]
25399 ; GFX900-NEXT:    ;;#ASMEND
25400 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
25401 ;
25402 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_3_7:
25403 ; GFX90A:       ; %bb.0:
25404 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25405 ; GFX90A-NEXT:    ;;#ASMSTART
25406 ; GFX90A-NEXT:    ; def s[12:19]
25407 ; GFX90A-NEXT:    ;;#ASMEND
25408 ; GFX90A-NEXT:    ;;#ASMSTART
25409 ; GFX90A-NEXT:    ; def s[8:15]
25410 ; GFX90A-NEXT:    ;;#ASMEND
25411 ; GFX90A-NEXT:    s_mov_b32 s8, s14
25412 ; GFX90A-NEXT:    s_mov_b32 s9, s15
25413 ; GFX90A-NEXT:    s_mov_b32 s10, s14
25414 ; GFX90A-NEXT:    s_mov_b32 s11, s15
25415 ; GFX90A-NEXT:    s_mov_b32 s12, s18
25416 ; GFX90A-NEXT:    s_mov_b32 s13, s19
25417 ; GFX90A-NEXT:    ;;#ASMSTART
25418 ; GFX90A-NEXT:    ; use s[8:15]
25419 ; GFX90A-NEXT:    ;;#ASMEND
25420 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
25421 ;
25422 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_3_7:
25423 ; GFX940:       ; %bb.0:
25424 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25425 ; GFX940-NEXT:    ;;#ASMSTART
25426 ; GFX940-NEXT:    ; def s[8:15]
25427 ; GFX940-NEXT:    ;;#ASMEND
25428 ; GFX940-NEXT:    ;;#ASMSTART
25429 ; GFX940-NEXT:    ; def s[0:7]
25430 ; GFX940-NEXT:    ;;#ASMEND
25431 ; GFX940-NEXT:    s_mov_b32 s8, s14
25432 ; GFX940-NEXT:    s_mov_b32 s9, s15
25433 ; GFX940-NEXT:    s_mov_b32 s10, s14
25434 ; GFX940-NEXT:    s_mov_b32 s11, s15
25435 ; GFX940-NEXT:    s_mov_b32 s12, s6
25436 ; GFX940-NEXT:    s_mov_b32 s13, s7
25437 ; GFX940-NEXT:    ;;#ASMSTART
25438 ; GFX940-NEXT:    ; use s[8:15]
25439 ; GFX940-NEXT:    ;;#ASMEND
25440 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
25441   %vec0 = call <4 x i64> asm "; def $0", "=s"()
25442   %vec1 = call <4 x i64> asm "; def $0", "=s"()
25443   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 3, i32 7>
25444   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
25445   ret void
25446 }
25447
25448 define void @s_shuffle_v4i64_v4i64__7_7_4_7() {
25449 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_4_7:
25450 ; GFX900:       ; %bb.0:
25451 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25452 ; GFX900-NEXT:    ;;#ASMSTART
25453 ; GFX900-NEXT:    ; def s[12:19]
25454 ; GFX900-NEXT:    ;;#ASMEND
25455 ; GFX900-NEXT:    s_mov_b32 s8, s18
25456 ; GFX900-NEXT:    s_mov_b32 s9, s19
25457 ; GFX900-NEXT:    s_mov_b32 s10, s18
25458 ; GFX900-NEXT:    s_mov_b32 s11, s19
25459 ; GFX900-NEXT:    s_mov_b32 s14, s18
25460 ; GFX900-NEXT:    s_mov_b32 s15, s19
25461 ; GFX900-NEXT:    ;;#ASMSTART
25462 ; GFX900-NEXT:    ; use s[8:15]
25463 ; GFX900-NEXT:    ;;#ASMEND
25464 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
25465 ;
25466 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_4_7:
25467 ; GFX90A:       ; %bb.0:
25468 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25469 ; GFX90A-NEXT:    ;;#ASMSTART
25470 ; GFX90A-NEXT:    ; def s[12:19]
25471 ; GFX90A-NEXT:    ;;#ASMEND
25472 ; GFX90A-NEXT:    s_mov_b32 s8, s18
25473 ; GFX90A-NEXT:    s_mov_b32 s9, s19
25474 ; GFX90A-NEXT:    s_mov_b32 s10, s18
25475 ; GFX90A-NEXT:    s_mov_b32 s11, s19
25476 ; GFX90A-NEXT:    s_mov_b32 s14, s18
25477 ; GFX90A-NEXT:    s_mov_b32 s15, s19
25478 ; GFX90A-NEXT:    ;;#ASMSTART
25479 ; GFX90A-NEXT:    ; use s[8:15]
25480 ; GFX90A-NEXT:    ;;#ASMEND
25481 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
25482 ;
25483 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_4_7:
25484 ; GFX940:       ; %bb.0:
25485 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25486 ; GFX940-NEXT:    ;;#ASMSTART
25487 ; GFX940-NEXT:    ; def s[0:7]
25488 ; GFX940-NEXT:    ;;#ASMEND
25489 ; GFX940-NEXT:    s_mov_b32 s8, s6
25490 ; GFX940-NEXT:    s_mov_b32 s9, s7
25491 ; GFX940-NEXT:    s_mov_b32 s10, s6
25492 ; GFX940-NEXT:    s_mov_b32 s11, s7
25493 ; GFX940-NEXT:    s_mov_b32 s12, s0
25494 ; GFX940-NEXT:    s_mov_b32 s13, s1
25495 ; GFX940-NEXT:    s_mov_b32 s14, s6
25496 ; GFX940-NEXT:    s_mov_b32 s15, s7
25497 ; GFX940-NEXT:    ;;#ASMSTART
25498 ; GFX940-NEXT:    ; use s[8:15]
25499 ; GFX940-NEXT:    ;;#ASMEND
25500 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
25501   %vec0 = call <4 x i64> asm "; def $0", "=s"()
25502   %vec1 = call <4 x i64> asm "; def $0", "=s"()
25503   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 4, i32 7>
25504   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
25505   ret void
25506 }
25507
25508 define void @s_shuffle_v4i64_v4i64__7_7_5_7() {
25509 ; GFX900-LABEL: s_shuffle_v4i64_v4i64__7_7_5_7:
25510 ; GFX900:       ; %bb.0:
25511 ; GFX900-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25512 ; GFX900-NEXT:    ;;#ASMSTART
25513 ; GFX900-NEXT:    ; def s[12:19]
25514 ; GFX900-NEXT:    ;;#ASMEND
25515 ; GFX900-NEXT:    s_mov_b32 s8, s18
25516 ; GFX900-NEXT:    s_mov_b32 s9, s19
25517 ; GFX900-NEXT:    s_mov_b32 s10, s18
25518 ; GFX900-NEXT:    s_mov_b32 s11, s19
25519 ; GFX900-NEXT:    s_mov_b32 s12, s14
25520 ; GFX900-NEXT:    s_mov_b32 s13, s15
25521 ; GFX900-NEXT:    s_mov_b32 s14, s18
25522 ; GFX900-NEXT:    s_mov_b32 s15, s19
25523 ; GFX900-NEXT:    ;;#ASMSTART
25524 ; GFX900-NEXT:    ; use s[8:15]
25525 ; GFX900-NEXT:    ;;#ASMEND
25526 ; GFX900-NEXT:    s_setpc_b64 s[30:31]
25527 ;
25528 ; GFX90A-LABEL: s_shuffle_v4i64_v4i64__7_7_5_7:
25529 ; GFX90A:       ; %bb.0:
25530 ; GFX90A-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25531 ; GFX90A-NEXT:    ;;#ASMSTART
25532 ; GFX90A-NEXT:    ; def s[12:19]
25533 ; GFX90A-NEXT:    ;;#ASMEND
25534 ; GFX90A-NEXT:    s_mov_b32 s8, s18
25535 ; GFX90A-NEXT:    s_mov_b32 s9, s19
25536 ; GFX90A-NEXT:    s_mov_b32 s10, s18
25537 ; GFX90A-NEXT:    s_mov_b32 s11, s19
25538 ; GFX90A-NEXT:    s_mov_b32 s12, s14
25539 ; GFX90A-NEXT:    s_mov_b32 s13, s15
25540 ; GFX90A-NEXT:    s_mov_b32 s14, s18
25541 ; GFX90A-NEXT:    s_mov_b32 s15, s19
25542 ; GFX90A-NEXT:    ;;#ASMSTART
25543 ; GFX90A-NEXT:    ; use s[8:15]
25544 ; GFX90A-NEXT:    ;;#ASMEND
25545 ; GFX90A-NEXT:    s_setpc_b64 s[30:31]
25546 ;
25547 ; GFX940-LABEL: s_shuffle_v4i64_v4i64__7_7_5_7:
25548 ; GFX940:       ; %bb.0:
25549 ; GFX940-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25550 ; GFX940-NEXT:    ;;#ASMSTART
25551 ; GFX940-NEXT:    ; def s[0:7]
25552 ; GFX940-NEXT:    ;;#ASMEND
25553 ; GFX940-NEXT:    s_mov_b32 s8, s6
25554 ; GFX940-NEXT:    s_mov_b32 s9, s7
25555 ; GFX940-NEXT:    s_mov_b32 s10, s6
25556 ; GFX940-NEXT:    s_mov_b32 s11, s7
25557 ; GFX940-NEXT:    s_mov_b32 s12, s2
25558 ; GFX940-NEXT:    s_mov_b32 s13, s3
25559 ; GFX940-NEXT:    s_mov_b32 s14, s6
25560 ; GFX940-NEXT:    s_mov_b32 s15, s7
25561 ; GFX940-NEXT:    ;;#ASMSTART
25562 ; GFX940-NEXT:    ; use s[8:15]
25563 ; GFX940-NEXT:    ;;#ASMEND
25564 ; GFX940-NEXT:    s_setpc_b64 s[30:31]
25565   %vec0 = call <4 x i64> asm "; def $0", "=s"()
25566   %vec1 = call <4 x i64> asm "; def $0", "=s"()
25567   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 5, i32 7>
25568   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
25569   ret void
25570 }
25571
25572 define void @s_shuffle_v4i64_v4i64__7_7_6_7() {
25573 ; GFX9-LABEL: s_shuffle_v4i64_v4i64__7_7_6_7:
25574 ; GFX9:       ; %bb.0:
25575 ; GFX9-NEXT:    s_waitcnt vmcnt(0) expcnt(0) lgkmcnt(0)
25576 ; GFX9-NEXT:    ;;#ASMSTART
25577 ; GFX9-NEXT:    ; def s[8:15]
25578 ; GFX9-NEXT:    ;;#ASMEND
25579 ; GFX9-NEXT:    s_mov_b32 s8, s14
25580 ; GFX9-NEXT:    s_mov_b32 s9, s15
25581 ; GFX9-NEXT:    s_mov_b32 s10, s14
25582 ; GFX9-NEXT:    s_mov_b32 s11, s15
25583 ; GFX9-NEXT:    ;;#ASMSTART
25584 ; GFX9-NEXT:    ; use s[8:15]
25585 ; GFX9-NEXT:    ;;#ASMEND
25586 ; GFX9-NEXT:    s_setpc_b64 s[30:31]
25587   %vec0 = call <4 x i64> asm "; def $0", "=s"()
25588   %vec1 = call <4 x i64> asm "; def $0", "=s"()
25589   %shuf = shufflevector <4 x i64> %vec0, <4 x i64> %vec1, <4 x i32> <i32 7, i32 7, i32 6, i32 7>
25590   call void asm sideeffect "; use $0", "{s[8:15]}"(<4 x i64> %shuf)
25591   ret void
25592 }
25593 ;; NOTE: These prefixes are unused and the list is autogenerated. Do not add tests below this line:
25594 ; GFX90APLUS: {{.*}}