lib/Target/AMDGPU/VOPCInstructions.td

   1 //===-- VOPCInstructions.td - Vector Instruction Defintions ---------------===//
   2 //
   3 // Part of the LLVM Project, under the Apache License v2.0 with LLVM Exceptions.
   4 // See https://llvm.org/LICENSE.txt for license information.
   5 // SPDX-License-Identifier: Apache-2.0 WITH LLVM-exception
   6 //
   7 //===----------------------------------------------------------------------===//
   8
   9 //===----------------------------------------------------------------------===//
  10 // Encodings
  11 //===----------------------------------------------------------------------===//
  12
  13 class VOPCe <bits<8> op> : Enc32 {
  14   bits<9> src0;
  15   bits<8> src1;
  16
  17   let Inst{8-0} = src0;
  18   let Inst{16-9} = src1;
  19   let Inst{24-17} = op;
  20   let Inst{31-25} = 0x3e;
  21 }
  22
  23 class VOPC_SDWAe <bits<8> op, VOPProfile P> : VOP_SDWAe <P> {
  24   bits<8> src1;
  25
  26   let Inst{8-0}   = 0xf9; // sdwa
  27   let Inst{16-9}  = !if(P.HasSrc1, src1{7-0}, 0);
  28   let Inst{24-17} = op;
  29   let Inst{31-25} = 0x3e; // encoding
  30
  31   // VOPC disallows dst_sel and dst_unused as they have no effect on destination
  32   let Inst{42-40} = 0;
  33   let Inst{44-43} = 0;
  34 }
  35
  36 class VOPC_SDWA9e <bits<8> op, VOPProfile P> : VOP_SDWA9Be <P> {
  37   bits<9> src1;
  38
  39   let Inst{8-0}   = 0xf9; // sdwa
  40   let Inst{16-9}  = !if(P.HasSrc1, src1{7-0}, 0);
  41   let Inst{24-17} = op;
  42   let Inst{31-25} = 0x3e; // encoding
  43   let Inst{63}    = !if(P.HasSrc1, src1{8}, 0); // src1_sgpr
  44 }
  45
  46
  47 //===----------------------------------------------------------------------===//
  48 // VOPC classes
  49 //===----------------------------------------------------------------------===//
  50
  51 // VOPC instructions are a special case because for the 32-bit
  52 // encoding, we want to display the implicit vcc write as if it were
  53 // an explicit $dst.
  54 class VOPC_Profile<list<SchedReadWrite> sched, ValueType vt0, ValueType vt1 = vt0> :
  55   VOPProfile <[i1, vt0, vt1, untyped]> {
  56   let Asm32 = "vcc, $src0, $src1";
  57   // The destination for 32-bit encoding is implicit.
  58   let HasDst32 = 0;
  59   let Outs64 = (outs VOPDstS64:$sdst);
  60   list<SchedReadWrite> Schedule = sched;
  61 }
  62
  63 class VOPC_Pseudo <string opName, VOPC_Profile P, list<dag> pattern=[]> :
  64   InstSI<(outs), P.Ins32, "", pattern>,
  65   VOP <opName>,
  66   SIMCInstr<opName#"_e32", SIEncodingFamily.NONE> {
  67
  68   let isPseudo = 1;
  69   let isCodeGenOnly = 1;
  70   let UseNamedOperandTable = 1;
  71
  72   string Mnemonic = opName;
  73   string AsmOperands = P.Asm32;
  74
  75   let Size = 4;
  76   let mayLoad = 0;
  77   let mayStore = 0;
  78   let hasSideEffects = 0;
  79
  80   let VALU = 1;
  81   let VOPC = 1;
  82   let Uses = [EXEC];
  83   let Defs = [VCC];
  84
  85   VOPProfile Pfl = P;
  86 }
  87
  88 class VOPC_Real <VOPC_Pseudo ps, int EncodingFamily> :
  89   InstSI <ps.OutOperandList, ps.InOperandList, ps.PseudoInstr # " " # ps.AsmOperands, []>,
  90   SIMCInstr <ps.PseudoInstr, EncodingFamily> {
  91
  92   let isPseudo = 0;
  93   let isCodeGenOnly = 0;
  94
  95   let Constraints     = ps.Constraints;
  96   let DisableEncoding = ps.DisableEncoding;
  97
  98   // copy relevant pseudo op flags
  99   let SubtargetPredicate = ps.SubtargetPredicate;
 100   let AsmMatchConverter  = ps.AsmMatchConverter;
 101   let Constraints        = ps.Constraints;
 102   let DisableEncoding    = ps.DisableEncoding;
 103   let TSFlags            = ps.TSFlags;
 104   let UseNamedOperandTable = ps.UseNamedOperandTable;
 105   let Uses                 = ps.Uses;
 106   let Defs                 = ps.Defs;
 107 }
 108
 109 class VOPC_SDWA_Pseudo <string OpName, VOPProfile P, list<dag> pattern=[]> :
 110   VOP_SDWA_Pseudo <OpName, P, pattern> {
 111   let AsmMatchConverter = "cvtSdwaVOPC";
 112 }
 113
 114 // This class is used only with VOPC instructions. Use $sdst for out operand
 115 class VOPCInstAlias <VOP3_Pseudo ps, Instruction inst, VOPProfile p = ps.Pfl> :
 116   InstAlias <ps.OpName#" "#p.Asm32, (inst)>, PredicateControl {
 117
 118   field bit isCompare;
 119   field bit isCommutable;
 120
 121   let ResultInst =
 122     !if (p.HasDst32,
 123       !if (!eq(p.NumSrcArgs, 0),
 124         // 1 dst, 0 src
 125         (inst p.DstRC:$sdst),
 126       !if (!eq(p.NumSrcArgs, 1),
 127         // 1 dst, 1 src
 128         (inst p.DstRC:$sdst, p.Src0RC32:$src0),
 129       !if (!eq(p.NumSrcArgs, 2),
 130         // 1 dst, 2 src
 131         (inst p.DstRC:$sdst, p.Src0RC32:$src0, p.Src1RC32:$src1),
 132       // else - unreachable
 133         (inst)))),
 134     // else
 135       !if (!eq(p.NumSrcArgs, 2),
 136         // 0 dst, 2 src
 137         (inst p.Src0RC32:$src0, p.Src1RC32:$src1),
 138       !if (!eq(p.NumSrcArgs, 1),
 139         // 0 dst, 1 src
 140         (inst p.Src0RC32:$src1),
 141       // else
 142         // 0 dst, 0 src
 143         (inst))));
 144
 145   let AsmVariantName = AMDGPUAsmVariants.Default;
 146   let SubtargetPredicate = AssemblerPredicate;
 147 }
 148
 149 class getVOPCPat64 <PatLeaf cond, VOPProfile P> : LetDummies {
 150   list<dag> ret = !if(P.HasModifiers,
 151       [(set i1:$sdst,
 152         (setcc (P.Src0VT
 153                   !if(P.HasOMod,
 154                     (VOP3Mods0 P.Src0VT:$src0, i32:$src0_modifiers, i1:$clamp, i32:$omod),
 155                     (VOP3Mods0 P.Src0VT:$src0, i32:$src0_modifiers, i1:$clamp))),
 156                (P.Src1VT (VOP3Mods P.Src1VT:$src1, i32:$src1_modifiers)),
 157                cond))],
 158       [(set i1:$sdst, (setcc P.Src0VT:$src0, P.Src1VT:$src1, cond))]);
 159 }
 160
 161
 162 multiclass VOPC_Pseudos <string opName,
 163                          VOPC_Profile P,
 164                          PatLeaf cond = COND_NULL,
 165                          string revOp = opName,
 166                          bit DefExec = 0> {
 167
 168   def _e32 : VOPC_Pseudo <opName, P>,
 169              Commutable_REV<revOp#"_e32", !eq(revOp, opName)> {
 170     let Defs = !if(DefExec, [VCC, EXEC], [VCC]);
 171     let SchedRW = P.Schedule;
 172     let isConvergent = DefExec;
 173     let isCompare = 1;
 174     let isCommutable = 1;
 175   }
 176
 177   def _e64 : VOP3_Pseudo<opName, P, getVOPCPat64<cond, P>.ret>,
 178     Commutable_REV<revOp#"_e64", !eq(revOp, opName)> {
 179     let Defs = !if(DefExec, [EXEC], []);
 180     let SchedRW = P.Schedule;
 181     let isCompare = 1;
 182     let isCommutable = 1;
 183   }
 184
 185   def _sdwa : VOPC_SDWA_Pseudo <opName, P> {
 186     let Defs = !if(DefExec, [VCC, EXEC], [VCC]);
 187     let SchedRW = P.Schedule;
 188     let isConvergent = DefExec;
 189     let isCompare = 1;
 190   }
 191 }
 192
 193 def VOPC_I1_F16_F16 : VOPC_Profile<[Write32Bit], f16>;
 194 def VOPC_I1_F32_F32 : VOPC_Profile<[Write32Bit], f32>;
 195 def VOPC_I1_F64_F64 : VOPC_Profile<[WriteDoubleAdd], f64>;
 196 def VOPC_I1_I16_I16 : VOPC_Profile<[Write32Bit], i16>;
 197 def VOPC_I1_I32_I32 : VOPC_Profile<[Write32Bit], i32>;
 198 def VOPC_I1_I64_I64 : VOPC_Profile<[Write64Bit], i64>;
 199
 200 multiclass VOPC_F16 <string opName, PatLeaf cond = COND_NULL, string revOp = opName> :
 201   VOPC_Pseudos <opName, VOPC_I1_F16_F16, cond, revOp, 0>;
 202
 203 multiclass VOPC_F32 <string opName, PatLeaf cond = COND_NULL, string revOp = opName> :
 204   VOPC_Pseudos <opName, VOPC_I1_F32_F32, cond, revOp, 0>;
 205
 206 multiclass VOPC_F64 <string opName, PatLeaf cond = COND_NULL, string revOp = opName> :
 207   VOPC_Pseudos <opName, VOPC_I1_F64_F64, cond, revOp, 0>;
 208
 209 multiclass VOPC_I16 <string opName, PatLeaf cond = COND_NULL, string revOp = opName> :
 210   VOPC_Pseudos <opName, VOPC_I1_I16_I16, cond, revOp, 0>;
 211
 212 multiclass VOPC_I32 <string opName, PatLeaf cond = COND_NULL, string revOp = opName> :
 213   VOPC_Pseudos <opName, VOPC_I1_I32_I32, cond, revOp, 0>;
 214
 215 multiclass VOPC_I64 <string opName, PatLeaf cond = COND_NULL, string revOp = opName> :
 216   VOPC_Pseudos <opName, VOPC_I1_I64_I64, cond, revOp, 0>;
 217
 218 multiclass VOPCX_F16 <string opName, string revOp = opName> :
 219   VOPC_Pseudos <opName, VOPC_I1_F16_F16, COND_NULL, revOp, 1>;
 220
 221 multiclass VOPCX_F32 <string opName, string revOp = opName> :
 222   VOPC_Pseudos <opName, VOPC_I1_F32_F32, COND_NULL, revOp, 1>;
 223
 224 multiclass VOPCX_F64 <string opName, string revOp = opName> :
 225   VOPC_Pseudos <opName, VOPC_I1_F64_F64, COND_NULL, revOp, 1>;
 226
 227 multiclass VOPCX_I16 <string opName, string revOp = opName> :
 228   VOPC_Pseudos <opName, VOPC_I1_I16_I16, COND_NULL, revOp, 1>;
 229
 230 multiclass VOPCX_I32 <string opName, string revOp = opName> :
 231   VOPC_Pseudos <opName, VOPC_I1_I32_I32, COND_NULL, revOp, 1>;
 232
 233 multiclass VOPCX_I64 <string opName, string revOp = opName> :
 234   VOPC_Pseudos <opName, VOPC_I1_I64_I64, COND_NULL, revOp, 1>;
 235
 236
 237 //===----------------------------------------------------------------------===//
 238 // Compare instructions
 239 //===----------------------------------------------------------------------===//
 240
 241 defm V_CMP_F_F32 : VOPC_F32 <"v_cmp_f_f32">;
 242 defm V_CMP_LT_F32 : VOPC_F32 <"v_cmp_lt_f32", COND_OLT, "v_cmp_gt_f32">;
 243 defm V_CMP_EQ_F32 : VOPC_F32 <"v_cmp_eq_f32", COND_OEQ>;
 244 defm V_CMP_LE_F32 : VOPC_F32 <"v_cmp_le_f32", COND_OLE, "v_cmp_ge_f32">;
 245 defm V_CMP_GT_F32 : VOPC_F32 <"v_cmp_gt_f32", COND_OGT>;
 246 defm V_CMP_LG_F32 : VOPC_F32 <"v_cmp_lg_f32", COND_ONE>;
 247 defm V_CMP_GE_F32 : VOPC_F32 <"v_cmp_ge_f32", COND_OGE>;
 248 defm V_CMP_O_F32 : VOPC_F32 <"v_cmp_o_f32", COND_O>;
 249 defm V_CMP_U_F32 : VOPC_F32 <"v_cmp_u_f32", COND_UO>;
 250 defm V_CMP_NGE_F32 : VOPC_F32 <"v_cmp_nge_f32",  COND_ULT, "v_cmp_nle_f32">;
 251 defm V_CMP_NLG_F32 : VOPC_F32 <"v_cmp_nlg_f32", COND_UEQ>;
 252 defm V_CMP_NGT_F32 : VOPC_F32 <"v_cmp_ngt_f32", COND_ULE, "v_cmp_nlt_f32">;
 253 defm V_CMP_NLE_F32 : VOPC_F32 <"v_cmp_nle_f32", COND_UGT>;
 254 defm V_CMP_NEQ_F32 : VOPC_F32 <"v_cmp_neq_f32", COND_UNE>;
 255 defm V_CMP_NLT_F32 : VOPC_F32 <"v_cmp_nlt_f32", COND_UGE>;
 256 defm V_CMP_TRU_F32 : VOPC_F32 <"v_cmp_tru_f32">;
 257
 258 defm V_CMPX_F_F32 : VOPCX_F32 <"v_cmpx_f_f32">;
 259 defm V_CMPX_LT_F32 : VOPCX_F32 <"v_cmpx_lt_f32", "v_cmpx_gt_f32">;
 260 defm V_CMPX_EQ_F32 : VOPCX_F32 <"v_cmpx_eq_f32">;
 261 defm V_CMPX_LE_F32 : VOPCX_F32 <"v_cmpx_le_f32", "v_cmpx_ge_f32">;
 262 defm V_CMPX_GT_F32 : VOPCX_F32 <"v_cmpx_gt_f32">;
 263 defm V_CMPX_LG_F32 : VOPCX_F32 <"v_cmpx_lg_f32">;
 264 defm V_CMPX_GE_F32 : VOPCX_F32 <"v_cmpx_ge_f32">;
 265 defm V_CMPX_O_F32 : VOPCX_F32 <"v_cmpx_o_f32">;
 266 defm V_CMPX_U_F32 : VOPCX_F32 <"v_cmpx_u_f32">;
 267 defm V_CMPX_NGE_F32 : VOPCX_F32 <"v_cmpx_nge_f32", "v_cmpx_nle_f32">;
 268 defm V_CMPX_NLG_F32 : VOPCX_F32 <"v_cmpx_nlg_f32">;
 269 defm V_CMPX_NGT_F32 : VOPCX_F32 <"v_cmpx_ngt_f32", "v_cmpx_nlt_f32">;
 270 defm V_CMPX_NLE_F32 : VOPCX_F32 <"v_cmpx_nle_f32">;
 271 defm V_CMPX_NEQ_F32 : VOPCX_F32 <"v_cmpx_neq_f32">;
 272 defm V_CMPX_NLT_F32 : VOPCX_F32 <"v_cmpx_nlt_f32">;
 273 defm V_CMPX_TRU_F32 : VOPCX_F32 <"v_cmpx_tru_f32">;
 274
 275 defm V_CMP_F_F64 : VOPC_F64 <"v_cmp_f_f64">;
 276 defm V_CMP_LT_F64 : VOPC_F64 <"v_cmp_lt_f64", COND_OLT, "v_cmp_gt_f64">;
 277 defm V_CMP_EQ_F64 : VOPC_F64 <"v_cmp_eq_f64", COND_OEQ>;
 278 defm V_CMP_LE_F64 : VOPC_F64 <"v_cmp_le_f64", COND_OLE, "v_cmp_ge_f64">;
 279 defm V_CMP_GT_F64 : VOPC_F64 <"v_cmp_gt_f64", COND_OGT>;
 280 defm V_CMP_LG_F64 : VOPC_F64 <"v_cmp_lg_f64", COND_ONE>;
 281 defm V_CMP_GE_F64 : VOPC_F64 <"v_cmp_ge_f64", COND_OGE>;
 282 defm V_CMP_O_F64 : VOPC_F64 <"v_cmp_o_f64", COND_O>;
 283 defm V_CMP_U_F64 : VOPC_F64 <"v_cmp_u_f64", COND_UO>;
 284 defm V_CMP_NGE_F64 : VOPC_F64 <"v_cmp_nge_f64", COND_ULT, "v_cmp_nle_f64">;
 285 defm V_CMP_NLG_F64 : VOPC_F64 <"v_cmp_nlg_f64", COND_UEQ>;
 286 defm V_CMP_NGT_F64 : VOPC_F64 <"v_cmp_ngt_f64", COND_ULE, "v_cmp_nlt_f64">;
 287 defm V_CMP_NLE_F64 : VOPC_F64 <"v_cmp_nle_f64", COND_UGT>;
 288 defm V_CMP_NEQ_F64 : VOPC_F64 <"v_cmp_neq_f64", COND_UNE>;
 289 defm V_CMP_NLT_F64 : VOPC_F64 <"v_cmp_nlt_f64", COND_UGE>;
 290 defm V_CMP_TRU_F64 : VOPC_F64 <"v_cmp_tru_f64">;
 291
 292 defm V_CMPX_F_F64 : VOPCX_F64 <"v_cmpx_f_f64">;
 293 defm V_CMPX_LT_F64 : VOPCX_F64 <"v_cmpx_lt_f64", "v_cmpx_gt_f64">;
 294 defm V_CMPX_EQ_F64 : VOPCX_F64 <"v_cmpx_eq_f64">;
 295 defm V_CMPX_LE_F64 : VOPCX_F64 <"v_cmpx_le_f64", "v_cmpx_ge_f64">;
 296 defm V_CMPX_GT_F64 : VOPCX_F64 <"v_cmpx_gt_f64">;
 297 defm V_CMPX_LG_F64 : VOPCX_F64 <"v_cmpx_lg_f64">;
 298 defm V_CMPX_GE_F64 : VOPCX_F64 <"v_cmpx_ge_f64">;
 299 defm V_CMPX_O_F64 : VOPCX_F64 <"v_cmpx_o_f64">;
 300 defm V_CMPX_U_F64 : VOPCX_F64 <"v_cmpx_u_f64">;
 301 defm V_CMPX_NGE_F64 : VOPCX_F64 <"v_cmpx_nge_f64", "v_cmpx_nle_f64">;
 302 defm V_CMPX_NLG_F64 : VOPCX_F64 <"v_cmpx_nlg_f64">;
 303 defm V_CMPX_NGT_F64 : VOPCX_F64 <"v_cmpx_ngt_f64", "v_cmpx_nlt_f64">;
 304 defm V_CMPX_NLE_F64 : VOPCX_F64 <"v_cmpx_nle_f64">;
 305 defm V_CMPX_NEQ_F64 : VOPCX_F64 <"v_cmpx_neq_f64">;
 306 defm V_CMPX_NLT_F64 : VOPCX_F64 <"v_cmpx_nlt_f64">;
 307 defm V_CMPX_TRU_F64 : VOPCX_F64 <"v_cmpx_tru_f64">;
 308
 309 let SubtargetPredicate = isSICI in {
 310
 311 defm V_CMPS_F_F32 : VOPC_F32 <"v_cmps_f_f32">;
 312 defm V_CMPS_LT_F32 : VOPC_F32 <"v_cmps_lt_f32", COND_NULL, "v_cmps_gt_f32">;
 313 defm V_CMPS_EQ_F32 : VOPC_F32 <"v_cmps_eq_f32">;
 314 defm V_CMPS_LE_F32 : VOPC_F32 <"v_cmps_le_f32", COND_NULL, "v_cmps_ge_f32">;
 315 defm V_CMPS_GT_F32 : VOPC_F32 <"v_cmps_gt_f32">;
 316 defm V_CMPS_LG_F32 : VOPC_F32 <"v_cmps_lg_f32">;
 317 defm V_CMPS_GE_F32 : VOPC_F32 <"v_cmps_ge_f32">;
 318 defm V_CMPS_O_F32 : VOPC_F32 <"v_cmps_o_f32">;
 319 defm V_CMPS_U_F32 : VOPC_F32 <"v_cmps_u_f32">;
 320 defm V_CMPS_NGE_F32 : VOPC_F32 <"v_cmps_nge_f32", COND_NULL, "v_cmps_nle_f32">;
 321 defm V_CMPS_NLG_F32 : VOPC_F32 <"v_cmps_nlg_f32">;
 322 defm V_CMPS_NGT_F32 : VOPC_F32 <"v_cmps_ngt_f32", COND_NULL, "v_cmps_nlt_f32">;
 323 defm V_CMPS_NLE_F32 : VOPC_F32 <"v_cmps_nle_f32">;
 324 defm V_CMPS_NEQ_F32 : VOPC_F32 <"v_cmps_neq_f32">;
 325 defm V_CMPS_NLT_F32 : VOPC_F32 <"v_cmps_nlt_f32">;
 326 defm V_CMPS_TRU_F32 : VOPC_F32 <"v_cmps_tru_f32">;
 327
 328 defm V_CMPSX_F_F32 : VOPCX_F32 <"v_cmpsx_f_f32">;
 329 defm V_CMPSX_LT_F32 : VOPCX_F32 <"v_cmpsx_lt_f32", "v_cmpsx_gt_f32">;
 330 defm V_CMPSX_EQ_F32 : VOPCX_F32 <"v_cmpsx_eq_f32">;
 331 defm V_CMPSX_LE_F32 : VOPCX_F32 <"v_cmpsx_le_f32", "v_cmpsx_ge_f32">;
 332 defm V_CMPSX_GT_F32 : VOPCX_F32 <"v_cmpsx_gt_f32">;
 333 defm V_CMPSX_LG_F32 : VOPCX_F32 <"v_cmpsx_lg_f32">;
 334 defm V_CMPSX_GE_F32 : VOPCX_F32 <"v_cmpsx_ge_f32">;
 335 defm V_CMPSX_O_F32 : VOPCX_F32 <"v_cmpsx_o_f32">;
 336 defm V_CMPSX_U_F32 : VOPCX_F32 <"v_cmpsx_u_f32">;
 337 defm V_CMPSX_NGE_F32 : VOPCX_F32 <"v_cmpsx_nge_f32", "v_cmpsx_nle_f32">;
 338 defm V_CMPSX_NLG_F32 : VOPCX_F32 <"v_cmpsx_nlg_f32">;
 339 defm V_CMPSX_NGT_F32 : VOPCX_F32 <"v_cmpsx_ngt_f32", "v_cmpsx_nlt_f32">;
 340 defm V_CMPSX_NLE_F32 : VOPCX_F32 <"v_cmpsx_nle_f32">;
 341 defm V_CMPSX_NEQ_F32 : VOPCX_F32 <"v_cmpsx_neq_f32">;
 342 defm V_CMPSX_NLT_F32 : VOPCX_F32 <"v_cmpsx_nlt_f32">;
 343 defm V_CMPSX_TRU_F32 : VOPCX_F32 <"v_cmpsx_tru_f32">;
 344
 345 defm V_CMPS_F_F64 : VOPC_F64 <"v_cmps_f_f64">;
 346 defm V_CMPS_LT_F64 : VOPC_F64 <"v_cmps_lt_f64", COND_NULL, "v_cmps_gt_f64">;
 347 defm V_CMPS_EQ_F64 : VOPC_F64 <"v_cmps_eq_f64">;
 348 defm V_CMPS_LE_F64 : VOPC_F64 <"v_cmps_le_f64", COND_NULL, "v_cmps_ge_f64">;
 349 defm V_CMPS_GT_F64 : VOPC_F64 <"v_cmps_gt_f64">;
 350 defm V_CMPS_LG_F64 : VOPC_F64 <"v_cmps_lg_f64">;
 351 defm V_CMPS_GE_F64 : VOPC_F64 <"v_cmps_ge_f64">;
 352 defm V_CMPS_O_F64 : VOPC_F64 <"v_cmps_o_f64">;
 353 defm V_CMPS_U_F64 : VOPC_F64 <"v_cmps_u_f64">;
 354 defm V_CMPS_NGE_F64 : VOPC_F64 <"v_cmps_nge_f64", COND_NULL, "v_cmps_nle_f64">;
 355 defm V_CMPS_NLG_F64 : VOPC_F64 <"v_cmps_nlg_f64">;
 356 defm V_CMPS_NGT_F64 : VOPC_F64 <"v_cmps_ngt_f64", COND_NULL, "v_cmps_nlt_f64">;
 357 defm V_CMPS_NLE_F64 : VOPC_F64 <"v_cmps_nle_f64">;
 358 defm V_CMPS_NEQ_F64 : VOPC_F64 <"v_cmps_neq_f64">;
 359 defm V_CMPS_NLT_F64 : VOPC_F64 <"v_cmps_nlt_f64">;
 360 defm V_CMPS_TRU_F64 : VOPC_F64 <"v_cmps_tru_f64">;
 361
 362 defm V_CMPSX_F_F64 : VOPCX_F64 <"v_cmpsx_f_f64">;
 363 defm V_CMPSX_LT_F64 : VOPCX_F64 <"v_cmpsx_lt_f64", "v_cmpsx_gt_f64">;
 364 defm V_CMPSX_EQ_F64 : VOPCX_F64 <"v_cmpsx_eq_f64">;
 365 defm V_CMPSX_LE_F64 : VOPCX_F64 <"v_cmpsx_le_f64", "v_cmpsx_ge_f64">;
 366 defm V_CMPSX_GT_F64 : VOPCX_F64 <"v_cmpsx_gt_f64">;
 367 defm V_CMPSX_LG_F64 : VOPCX_F64 <"v_cmpsx_lg_f64">;
 368 defm V_CMPSX_GE_F64 : VOPCX_F64 <"v_cmpsx_ge_f64">;
 369 defm V_CMPSX_O_F64 : VOPCX_F64 <"v_cmpsx_o_f64">;
 370 defm V_CMPSX_U_F64 : VOPCX_F64 <"v_cmpsx_u_f64">;
 371 defm V_CMPSX_NGE_F64 : VOPCX_F64 <"v_cmpsx_nge_f64", "v_cmpsx_nle_f64">;
 372 defm V_CMPSX_NLG_F64 : VOPCX_F64 <"v_cmpsx_nlg_f64">;
 373 defm V_CMPSX_NGT_F64 : VOPCX_F64 <"v_cmpsx_ngt_f64", "v_cmpsx_nlt_f64">;
 374 defm V_CMPSX_NLE_F64 : VOPCX_F64 <"v_cmpsx_nle_f64">;
 375 defm V_CMPSX_NEQ_F64 : VOPCX_F64 <"v_cmpsx_neq_f64">;
 376 defm V_CMPSX_NLT_F64 : VOPCX_F64 <"v_cmpsx_nlt_f64">;
 377 defm V_CMPSX_TRU_F64 : VOPCX_F64 <"v_cmpsx_tru_f64">;
 378
 379 } // End SubtargetPredicate = isSICI
 380
 381 let SubtargetPredicate = Has16BitInsts in {
 382
 383 defm V_CMP_F_F16    : VOPC_F16 <"v_cmp_f_f16">;
 384 defm V_CMP_LT_F16   : VOPC_F16 <"v_cmp_lt_f16", COND_OLT, "v_cmp_gt_f16">;
 385 defm V_CMP_EQ_F16   : VOPC_F16 <"v_cmp_eq_f16", COND_OEQ>;
 386 defm V_CMP_LE_F16   : VOPC_F16 <"v_cmp_le_f16", COND_OLE, "v_cmp_ge_f16">;
 387 defm V_CMP_GT_F16   : VOPC_F16 <"v_cmp_gt_f16", COND_OGT>;
 388 defm V_CMP_LG_F16   : VOPC_F16 <"v_cmp_lg_f16", COND_ONE>;
 389 defm V_CMP_GE_F16   : VOPC_F16 <"v_cmp_ge_f16", COND_OGE>;
 390 defm V_CMP_O_F16    : VOPC_F16 <"v_cmp_o_f16", COND_O>;
 391 defm V_CMP_U_F16    : VOPC_F16 <"v_cmp_u_f16", COND_UO>;
 392 defm V_CMP_NGE_F16  : VOPC_F16 <"v_cmp_nge_f16", COND_ULT, "v_cmp_nle_f16">;
 393 defm V_CMP_NLG_F16  : VOPC_F16 <"v_cmp_nlg_f16", COND_UEQ>;
 394 defm V_CMP_NGT_F16  : VOPC_F16 <"v_cmp_ngt_f16", COND_ULE, "v_cmp_nlt_f16">;
 395 defm V_CMP_NLE_F16  : VOPC_F16 <"v_cmp_nle_f16", COND_UGT>;
 396 defm V_CMP_NEQ_F16  : VOPC_F16 <"v_cmp_neq_f16", COND_UNE>;
 397 defm V_CMP_NLT_F16  : VOPC_F16 <"v_cmp_nlt_f16", COND_UGE>;
 398 defm V_CMP_TRU_F16  : VOPC_F16 <"v_cmp_tru_f16">;
 399
 400 defm V_CMPX_F_F16   : VOPCX_F16 <"v_cmpx_f_f16">;
 401 defm V_CMPX_LT_F16  : VOPCX_F16 <"v_cmpx_lt_f16", "v_cmpx_gt_f16">;
 402 defm V_CMPX_EQ_F16  : VOPCX_F16 <"v_cmpx_eq_f16">;
 403 defm V_CMPX_LE_F16  : VOPCX_F16 <"v_cmpx_le_f16", "v_cmpx_ge_f16">;
 404 defm V_CMPX_GT_F16  : VOPCX_F16 <"v_cmpx_gt_f16">;
 405 defm V_CMPX_LG_F16  : VOPCX_F16 <"v_cmpx_lg_f16">;
 406 defm V_CMPX_GE_F16  : VOPCX_F16 <"v_cmpx_ge_f16">;
 407 defm V_CMPX_O_F16   : VOPCX_F16 <"v_cmpx_o_f16">;
 408 defm V_CMPX_U_F16   : VOPCX_F16 <"v_cmpx_u_f16">;
 409 defm V_CMPX_NGE_F16 : VOPCX_F16 <"v_cmpx_nge_f16", "v_cmpx_nle_f16">;
 410 defm V_CMPX_NLG_F16 : VOPCX_F16 <"v_cmpx_nlg_f16">;
 411 defm V_CMPX_NGT_F16 : VOPCX_F16 <"v_cmpx_ngt_f16", "v_cmpx_nlt_f16">;
 412 defm V_CMPX_NLE_F16 : VOPCX_F16 <"v_cmpx_nle_f16">;
 413 defm V_CMPX_NEQ_F16 : VOPCX_F16 <"v_cmpx_neq_f16">;
 414 defm V_CMPX_NLT_F16 : VOPCX_F16 <"v_cmpx_nlt_f16">;
 415 defm V_CMPX_TRU_F16 : VOPCX_F16 <"v_cmpx_tru_f16">;
 416
 417 defm V_CMP_F_I16 : VOPC_I16 <"v_cmp_f_i16">;
 418 defm V_CMP_LT_I16 : VOPC_I16 <"v_cmp_lt_i16", COND_SLT, "v_cmp_gt_i16">;
 419 defm V_CMP_EQ_I16 : VOPC_I16 <"v_cmp_eq_i16">;
 420 defm V_CMP_LE_I16 : VOPC_I16 <"v_cmp_le_i16", COND_SLE, "v_cmp_ge_i16">;
 421 defm V_CMP_GT_I16 : VOPC_I16 <"v_cmp_gt_i16", COND_SGT>;
 422 defm V_CMP_NE_I16 : VOPC_I16 <"v_cmp_ne_i16">;
 423 defm V_CMP_GE_I16 : VOPC_I16 <"v_cmp_ge_i16", COND_SGE>;
 424 defm V_CMP_T_I16 : VOPC_I16 <"v_cmp_t_i16">;
 425
 426 defm V_CMP_F_U16 : VOPC_I16 <"v_cmp_f_u16">;
 427 defm V_CMP_LT_U16 : VOPC_I16 <"v_cmp_lt_u16", COND_ULT, "v_cmp_gt_u16">;
 428 defm V_CMP_EQ_U16 : VOPC_I16 <"v_cmp_eq_u16", COND_EQ>;
 429 defm V_CMP_LE_U16 : VOPC_I16 <"v_cmp_le_u16", COND_ULE, "v_cmp_ge_u16">;
 430 defm V_CMP_GT_U16 : VOPC_I16 <"v_cmp_gt_u16", COND_UGT>;
 431 defm V_CMP_NE_U16 : VOPC_I16 <"v_cmp_ne_u16", COND_NE>;
 432 defm V_CMP_GE_U16 : VOPC_I16 <"v_cmp_ge_u16", COND_UGE>;
 433 defm V_CMP_T_U16 : VOPC_I16 <"v_cmp_t_u16">;
 434
 435 defm V_CMPX_F_I16 : VOPCX_I16 <"v_cmpx_f_i16">;
 436 defm V_CMPX_LT_I16 : VOPCX_I16 <"v_cmpx_lt_i16", "v_cmpx_gt_i16">;
 437 defm V_CMPX_EQ_I16 : VOPCX_I16 <"v_cmpx_eq_i16">;
 438 defm V_CMPX_LE_I16 : VOPCX_I16 <"v_cmpx_le_i16", "v_cmpx_ge_i16">;
 439 defm V_CMPX_GT_I16 : VOPCX_I16 <"v_cmpx_gt_i16">;
 440 defm V_CMPX_NE_I16 : VOPCX_I16 <"v_cmpx_ne_i16">;
 441 defm V_CMPX_GE_I16 : VOPCX_I16 <"v_cmpx_ge_i16">;
 442 defm V_CMPX_T_I16 : VOPCX_I16 <"v_cmpx_t_i16">;
 443 defm V_CMPX_F_U16 : VOPCX_I16 <"v_cmpx_f_u16">;
 444
 445 defm V_CMPX_LT_U16 : VOPCX_I16 <"v_cmpx_lt_u16", "v_cmpx_gt_u16">;
 446 defm V_CMPX_EQ_U16 : VOPCX_I16 <"v_cmpx_eq_u16">;
 447 defm V_CMPX_LE_U16 : VOPCX_I16 <"v_cmpx_le_u16", "v_cmpx_ge_u16">;
 448 defm V_CMPX_GT_U16 : VOPCX_I16 <"v_cmpx_gt_u16">;
 449 defm V_CMPX_NE_U16 : VOPCX_I16 <"v_cmpx_ne_u16">;
 450 defm V_CMPX_GE_U16 : VOPCX_I16 <"v_cmpx_ge_u16">;
 451 defm V_CMPX_T_U16 : VOPCX_I16 <"v_cmpx_t_u16">;
 452
 453 } // End SubtargetPredicate = Has16BitInsts
 454
 455 defm V_CMP_F_I32 : VOPC_I32 <"v_cmp_f_i32">;
 456 defm V_CMP_LT_I32 : VOPC_I32 <"v_cmp_lt_i32", COND_SLT, "v_cmp_gt_i32">;
 457 defm V_CMP_EQ_I32 : VOPC_I32 <"v_cmp_eq_i32">;
 458 defm V_CMP_LE_I32 : VOPC_I32 <"v_cmp_le_i32", COND_SLE, "v_cmp_ge_i32">;
 459 defm V_CMP_GT_I32 : VOPC_I32 <"v_cmp_gt_i32", COND_SGT>;
 460 defm V_CMP_NE_I32 : VOPC_I32 <"v_cmp_ne_i32">;
 461 defm V_CMP_GE_I32 : VOPC_I32 <"v_cmp_ge_i32", COND_SGE>;
 462 defm V_CMP_T_I32 : VOPC_I32 <"v_cmp_t_i32">;
 463
 464 defm V_CMPX_F_I32 : VOPCX_I32 <"v_cmpx_f_i32">;
 465 defm V_CMPX_LT_I32 : VOPCX_I32 <"v_cmpx_lt_i32", "v_cmpx_gt_i32">;
 466 defm V_CMPX_EQ_I32 : VOPCX_I32 <"v_cmpx_eq_i32">;
 467 defm V_CMPX_LE_I32 : VOPCX_I32 <"v_cmpx_le_i32", "v_cmpx_ge_i32">;
 468 defm V_CMPX_GT_I32 : VOPCX_I32 <"v_cmpx_gt_i32">;
 469 defm V_CMPX_NE_I32 : VOPCX_I32 <"v_cmpx_ne_i32">;
 470 defm V_CMPX_GE_I32 : VOPCX_I32 <"v_cmpx_ge_i32">;
 471 defm V_CMPX_T_I32 : VOPCX_I32 <"v_cmpx_t_i32">;
 472
 473 defm V_CMP_F_I64 : VOPC_I64 <"v_cmp_f_i64">;
 474 defm V_CMP_LT_I64 : VOPC_I64 <"v_cmp_lt_i64", COND_SLT, "v_cmp_gt_i64">;
 475 defm V_CMP_EQ_I64 : VOPC_I64 <"v_cmp_eq_i64">;
 476 defm V_CMP_LE_I64 : VOPC_I64 <"v_cmp_le_i64", COND_SLE, "v_cmp_ge_i64">;
 477 defm V_CMP_GT_I64 : VOPC_I64 <"v_cmp_gt_i64", COND_SGT>;
 478 defm V_CMP_NE_I64 : VOPC_I64 <"v_cmp_ne_i64">;
 479 defm V_CMP_GE_I64 : VOPC_I64 <"v_cmp_ge_i64", COND_SGE>;
 480 defm V_CMP_T_I64 : VOPC_I64 <"v_cmp_t_i64">;
 481
 482 defm V_CMPX_F_I64 : VOPCX_I64 <"v_cmpx_f_i64">;
 483 defm V_CMPX_LT_I64 : VOPCX_I64 <"v_cmpx_lt_i64", "v_cmpx_gt_i64">;
 484 defm V_CMPX_EQ_I64 : VOPCX_I64 <"v_cmpx_eq_i64">;
 485 defm V_CMPX_LE_I64 : VOPCX_I64 <"v_cmpx_le_i64", "v_cmpx_ge_i64">;
 486 defm V_CMPX_GT_I64 : VOPCX_I64 <"v_cmpx_gt_i64">;
 487 defm V_CMPX_NE_I64 : VOPCX_I64 <"v_cmpx_ne_i64">;
 488 defm V_CMPX_GE_I64 : VOPCX_I64 <"v_cmpx_ge_i64">;
 489 defm V_CMPX_T_I64 : VOPCX_I64 <"v_cmpx_t_i64">;
 490
 491 defm V_CMP_F_U32 : VOPC_I32 <"v_cmp_f_u32">;
 492 defm V_CMP_LT_U32 : VOPC_I32 <"v_cmp_lt_u32", COND_ULT, "v_cmp_gt_u32">;
 493 defm V_CMP_EQ_U32 : VOPC_I32 <"v_cmp_eq_u32", COND_EQ>;
 494 defm V_CMP_LE_U32 : VOPC_I32 <"v_cmp_le_u32", COND_ULE, "v_cmp_ge_u32">;
 495 defm V_CMP_GT_U32 : VOPC_I32 <"v_cmp_gt_u32", COND_UGT>;
 496 defm V_CMP_NE_U32 : VOPC_I32 <"v_cmp_ne_u32", COND_NE>;
 497 defm V_CMP_GE_U32 : VOPC_I32 <"v_cmp_ge_u32", COND_UGE>;
 498 defm V_CMP_T_U32 : VOPC_I32 <"v_cmp_t_u32">;
 499
 500 defm V_CMPX_F_U32 : VOPCX_I32 <"v_cmpx_f_u32">;
 501 defm V_CMPX_LT_U32 : VOPCX_I32 <"v_cmpx_lt_u32", "v_cmpx_gt_u32">;
 502 defm V_CMPX_EQ_U32 : VOPCX_I32 <"v_cmpx_eq_u32">;
 503 defm V_CMPX_LE_U32 : VOPCX_I32 <"v_cmpx_le_u32", "v_cmpx_le_u32">;
 504 defm V_CMPX_GT_U32 : VOPCX_I32 <"v_cmpx_gt_u32">;
 505 defm V_CMPX_NE_U32 : VOPCX_I32 <"v_cmpx_ne_u32">;
 506 defm V_CMPX_GE_U32 : VOPCX_I32 <"v_cmpx_ge_u32">;
 507 defm V_CMPX_T_U32 : VOPCX_I32 <"v_cmpx_t_u32">;
 508
 509 defm V_CMP_F_U64 : VOPC_I64 <"v_cmp_f_u64">;
 510 defm V_CMP_LT_U64 : VOPC_I64 <"v_cmp_lt_u64", COND_ULT, "v_cmp_gt_u64">;
 511 defm V_CMP_EQ_U64 : VOPC_I64 <"v_cmp_eq_u64", COND_EQ>;
 512 defm V_CMP_LE_U64 : VOPC_I64 <"v_cmp_le_u64", COND_ULE, "v_cmp_ge_u64">;
 513 defm V_CMP_GT_U64 : VOPC_I64 <"v_cmp_gt_u64", COND_UGT>;
 514 defm V_CMP_NE_U64 : VOPC_I64 <"v_cmp_ne_u64", COND_NE>;
 515 defm V_CMP_GE_U64 : VOPC_I64 <"v_cmp_ge_u64", COND_UGE>;
 516 defm V_CMP_T_U64 : VOPC_I64 <"v_cmp_t_u64">;
 517
 518 defm V_CMPX_F_U64 : VOPCX_I64 <"v_cmpx_f_u64">;
 519 defm V_CMPX_LT_U64 : VOPCX_I64 <"v_cmpx_lt_u64", "v_cmpx_gt_u64">;
 520 defm V_CMPX_EQ_U64 : VOPCX_I64 <"v_cmpx_eq_u64">;
 521 defm V_CMPX_LE_U64 : VOPCX_I64 <"v_cmpx_le_u64", "v_cmpx_ge_u64">;
 522 defm V_CMPX_GT_U64 : VOPCX_I64 <"v_cmpx_gt_u64">;
 523 defm V_CMPX_NE_U64 : VOPCX_I64 <"v_cmpx_ne_u64">;
 524 defm V_CMPX_GE_U64 : VOPCX_I64 <"v_cmpx_ge_u64">;
 525 defm V_CMPX_T_U64 : VOPCX_I64 <"v_cmpx_t_u64">;
 526
 527 //===----------------------------------------------------------------------===//
 528 // Class instructions
 529 //===----------------------------------------------------------------------===//
 530
 531 class VOPC_Class_Profile<list<SchedReadWrite> sched, ValueType vt> :
 532   VOPC_Profile<sched, vt, i32> {
 533   let Ins64 = (ins Src0Mod:$src0_modifiers, Src0RC64:$src0, Src1RC64:$src1);
 534   let Asm64 = "$sdst, $src0_modifiers, $src1";
 535
 536   let InsSDWA = (ins Src0ModSDWA:$src0_modifiers, Src0SDWA:$src0,
 537                      Src1ModSDWA:$src1_modifiers, Src1SDWA:$src1,
 538                      clampmod:$clamp, src0_sel:$src0_sel, src1_sel:$src1_sel);
 539
 540   let AsmSDWA = " vcc, $src0_modifiers, $src1_modifiers$clamp $src0_sel $src1_sel";
 541   let HasSrc1Mods = 0;
 542   let HasClamp = 0;
 543   let HasOMod = 0;
 544 }
 545
 546 class getVOPCClassPat64 <VOPProfile P> {
 547   list<dag> ret =
 548     [(set i1:$sdst,
 549       (AMDGPUfp_class
 550         (P.Src0VT (VOP3Mods0Clamp0OMod P.Src0VT:$src0, i32:$src0_modifiers)),
 551         P.Src1VT:$src1))];
 552 }
 553
 554 // Special case for class instructions which only have modifiers on
 555 // the 1st source operand.
 556 multiclass VOPC_Class_Pseudos <string opName, VOPC_Profile p, bit DefExec> {
 557   def _e32 : VOPC_Pseudo <opName, p> {
 558     let Defs = !if(DefExec, [VCC, EXEC], [VCC]);
 559     let SchedRW = p.Schedule;
 560     let isConvergent = DefExec;
 561   }
 562
 563   def _e64 : VOP3_Pseudo<opName, p, getVOPCClassPat64<p>.ret> {
 564     let Defs = !if(DefExec, [EXEC], []);
 565     let SchedRW = p.Schedule;
 566   }
 567
 568   def _sdwa : VOPC_SDWA_Pseudo <opName, p> {
 569     let Defs = !if(DefExec, [VCC, EXEC], [VCC]);
 570     let SchedRW = p.Schedule;
 571     let isConvergent = DefExec;
 572   }
 573 }
 574
 575 def VOPC_I1_F16_I32 : VOPC_Class_Profile<[Write32Bit], f16>;
 576 def VOPC_I1_F32_I32 : VOPC_Class_Profile<[Write32Bit], f32>;
 577 def VOPC_I1_F64_I32 : VOPC_Class_Profile<[WriteDoubleAdd], f64>;
 578
 579 multiclass VOPC_CLASS_F16 <string opName> :
 580   VOPC_Class_Pseudos <opName, VOPC_I1_F16_I32, 0>;
 581
 582 multiclass VOPCX_CLASS_F16 <string opName> :
 583   VOPC_Class_Pseudos <opName, VOPC_I1_F16_I32, 1>;
 584
 585 multiclass VOPC_CLASS_F32 <string opName> :
 586   VOPC_Class_Pseudos <opName, VOPC_I1_F32_I32, 0>;
 587
 588 multiclass VOPCX_CLASS_F32 <string opName> :
 589   VOPC_Class_Pseudos <opName, VOPC_I1_F32_I32, 1>;
 590
 591 multiclass VOPC_CLASS_F64 <string opName> :
 592   VOPC_Class_Pseudos <opName, VOPC_I1_F64_I32, 0>;
 593
 594 multiclass VOPCX_CLASS_F64 <string opName> :
 595   VOPC_Class_Pseudos <opName, VOPC_I1_F64_I32, 1>;
 596
 597 defm V_CMP_CLASS_F32 : VOPC_CLASS_F32 <"v_cmp_class_f32">;
 598 defm V_CMPX_CLASS_F32 : VOPCX_CLASS_F32 <"v_cmpx_class_f32">;
 599 defm V_CMP_CLASS_F64 : VOPC_CLASS_F64 <"v_cmp_class_f64">;
 600 defm V_CMPX_CLASS_F64 : VOPCX_CLASS_F64 <"v_cmpx_class_f64">;
 601 defm V_CMP_CLASS_F16  : VOPC_CLASS_F16 <"v_cmp_class_f16">;
 602 defm V_CMPX_CLASS_F16 : VOPCX_CLASS_F16 <"v_cmpx_class_f16">;
 603
 604 //===----------------------------------------------------------------------===//
 605 // V_ICMPIntrinsic Pattern.
 606 //===----------------------------------------------------------------------===//
 607
 608 class ICMP_Pattern <PatLeaf cond, Instruction inst, ValueType vt> : GCNPat <
 609   (AMDGPUsetcc vt:$src0, vt:$src1, cond),
 610   (inst $src0, $src1)
 611 >;
 612
 613 def : ICMP_Pattern <COND_EQ, V_CMP_EQ_U32_e64, i32>;
 614 def : ICMP_Pattern <COND_NE, V_CMP_NE_U32_e64, i32>;
 615 def : ICMP_Pattern <COND_UGT, V_CMP_GT_U32_e64, i32>;
 616 def : ICMP_Pattern <COND_UGE, V_CMP_GE_U32_e64, i32>;
 617 def : ICMP_Pattern <COND_ULT, V_CMP_LT_U32_e64, i32>;
 618 def : ICMP_Pattern <COND_ULE, V_CMP_LE_U32_e64, i32>;
 619 def : ICMP_Pattern <COND_SGT, V_CMP_GT_I32_e64, i32>;
 620 def : ICMP_Pattern <COND_SGE, V_CMP_GE_I32_e64, i32>;
 621 def : ICMP_Pattern <COND_SLT, V_CMP_LT_I32_e64, i32>;
 622 def : ICMP_Pattern <COND_SLE, V_CMP_LE_I32_e64, i32>;
 623
 624 def : ICMP_Pattern <COND_EQ, V_CMP_EQ_U64_e64, i64>;
 625 def : ICMP_Pattern <COND_NE, V_CMP_NE_U64_e64, i64>;
 626 def : ICMP_Pattern <COND_UGT, V_CMP_GT_U64_e64, i64>;
 627 def : ICMP_Pattern <COND_UGE, V_CMP_GE_U64_e64, i64>;
 628 def : ICMP_Pattern <COND_ULT, V_CMP_LT_U64_e64, i64>;
 629 def : ICMP_Pattern <COND_ULE, V_CMP_LE_U64_e64, i64>;
 630 def : ICMP_Pattern <COND_SGT, V_CMP_GT_I64_e64, i64>;
 631 def : ICMP_Pattern <COND_SGE, V_CMP_GE_I64_e64, i64>;
 632 def : ICMP_Pattern <COND_SLT, V_CMP_LT_I64_e64, i64>;
 633 def : ICMP_Pattern <COND_SLE, V_CMP_LE_I64_e64, i64>;
 634
 635 def : ICMP_Pattern <COND_EQ, V_CMP_EQ_U16_e64, i16>;
 636 def : ICMP_Pattern <COND_NE, V_CMP_NE_U16_e64, i16>;
 637 def : ICMP_Pattern <COND_UGT, V_CMP_GT_U16_e64, i16>;
 638 def : ICMP_Pattern <COND_UGE, V_CMP_GE_U16_e64, i16>;
 639 def : ICMP_Pattern <COND_ULT, V_CMP_LT_U16_e64, i16>;
 640 def : ICMP_Pattern <COND_ULE, V_CMP_LE_U16_e64, i16>;
 641 def : ICMP_Pattern <COND_SGT, V_CMP_GT_I16_e64, i16>;
 642 def : ICMP_Pattern <COND_SGE, V_CMP_GE_I16_e64, i16>;
 643 def : ICMP_Pattern <COND_SLT, V_CMP_LT_I16_e64, i16>;
 644 def : ICMP_Pattern <COND_SLE, V_CMP_LE_I16_e64, i16>;
 645
 646 class FCMP_Pattern <PatLeaf cond, Instruction inst, ValueType vt> : GCNPat <
 647   (i64 (AMDGPUsetcc (vt (VOP3Mods vt:$src0, i32:$src0_modifiers)),
 648                    (vt (VOP3Mods vt:$src1, i32:$src1_modifiers)), cond)),
 649   (inst $src0_modifiers, $src0, $src1_modifiers, $src1,
 650         DSTCLAMP.NONE)
 651 >;
 652
 653 def : FCMP_Pattern <COND_OEQ, V_CMP_EQ_F32_e64, f32>;
 654 def : FCMP_Pattern <COND_ONE, V_CMP_NEQ_F32_e64, f32>;
 655 def : FCMP_Pattern <COND_OGT, V_CMP_GT_F32_e64, f32>;
 656 def : FCMP_Pattern <COND_OGE, V_CMP_GE_F32_e64, f32>;
 657 def : FCMP_Pattern <COND_OLT, V_CMP_LT_F32_e64, f32>;
 658 def : FCMP_Pattern <COND_OLE, V_CMP_LE_F32_e64, f32>;
 659
 660 def : FCMP_Pattern <COND_OEQ, V_CMP_EQ_F64_e64, f64>;
 661 def : FCMP_Pattern <COND_ONE, V_CMP_NEQ_F64_e64, f64>;
 662 def : FCMP_Pattern <COND_OGT, V_CMP_GT_F64_e64, f64>;
 663 def : FCMP_Pattern <COND_OGE, V_CMP_GE_F64_e64, f64>;
 664 def : FCMP_Pattern <COND_OLT, V_CMP_LT_F64_e64, f64>;
 665 def : FCMP_Pattern <COND_OLE, V_CMP_LE_F64_e64, f64>;
 666
 667 def : FCMP_Pattern <COND_OEQ, V_CMP_EQ_F16_e64, f16>;
 668 def : FCMP_Pattern <COND_ONE, V_CMP_NEQ_F16_e64, f16>;
 669 def : FCMP_Pattern <COND_OGT, V_CMP_GT_F16_e64, f16>;
 670 def : FCMP_Pattern <COND_OGE, V_CMP_GE_F16_e64, f16>;
 671 def : FCMP_Pattern <COND_OLT, V_CMP_LT_F16_e64, f16>;
 672 def : FCMP_Pattern <COND_OLE, V_CMP_LE_F16_e64, f16>;
 673
 674
 675 def : FCMP_Pattern <COND_UEQ, V_CMP_NLG_F32_e64, f32>;
 676 def : FCMP_Pattern <COND_UNE, V_CMP_NEQ_F32_e64, f32>;
 677 def : FCMP_Pattern <COND_UGT, V_CMP_NLE_F32_e64, f32>;
 678 def : FCMP_Pattern <COND_UGE, V_CMP_NLT_F32_e64, f32>;
 679 def : FCMP_Pattern <COND_ULT, V_CMP_NGE_F32_e64, f32>;
 680 def : FCMP_Pattern <COND_ULE, V_CMP_NGT_F32_e64, f32>;
 681
 682 def : FCMP_Pattern <COND_UEQ, V_CMP_NLG_F64_e64, f64>;
 683 def : FCMP_Pattern <COND_UNE, V_CMP_NEQ_F64_e64, f64>;
 684 def : FCMP_Pattern <COND_UGT, V_CMP_NLE_F64_e64, f64>;
 685 def : FCMP_Pattern <COND_UGE, V_CMP_NLT_F64_e64, f64>;
 686 def : FCMP_Pattern <COND_ULT, V_CMP_NGE_F64_e64, f64>;
 687 def : FCMP_Pattern <COND_ULE, V_CMP_NGT_F64_e64, f64>;
 688
 689 def : FCMP_Pattern <COND_UEQ, V_CMP_NLG_F16_e64, f16>;
 690 def : FCMP_Pattern <COND_UNE, V_CMP_NEQ_F16_e64, f16>;
 691 def : FCMP_Pattern <COND_UGT, V_CMP_NLE_F16_e64, f16>;
 692 def : FCMP_Pattern <COND_UGE, V_CMP_NLT_F16_e64, f16>;
 693 def : FCMP_Pattern <COND_ULT, V_CMP_NGE_F16_e64, f16>;
 694 def : FCMP_Pattern <COND_ULE, V_CMP_NGT_F16_e64, f16>;
 695
 696 //===----------------------------------------------------------------------===//
 697 // Target
 698 //===----------------------------------------------------------------------===//
 699
 700 //===----------------------------------------------------------------------===//
 701 // SI
 702 //===----------------------------------------------------------------------===//
 703
 704 multiclass VOPC_Real_si <bits<9> op> {
 705   let AssemblerPredicates = [isSICI], DecoderNamespace = "SICI" in {
 706     def _e32_si :
 707       VOPC_Real<!cast<VOPC_Pseudo>(NAME#"_e32"), SIEncodingFamily.SI>,
 708       VOPCe<op{7-0}>;
 709
 710     def _e64_si :
 711       VOP3_Real<!cast<VOP3_Pseudo>(NAME#"_e64"), SIEncodingFamily.SI>,
 712       VOP3a_si <op, !cast<VOP3_Pseudo>(NAME#"_e64").Pfl> {
 713       // Encoding used for VOPC instructions encoded as VOP3
 714       // Differs from VOP3e by destination name (sdst) as VOPC doesn't have vector dst
 715       bits<8> sdst;
 716       let Inst{7-0} = sdst;
 717     }
 718   }
 719   def : VOPCInstAlias <!cast<VOP3_Pseudo>(NAME#"_e64"),
 720                        !cast<Instruction>(NAME#"_e32_si")> {
 721     let AssemblerPredicate = isSICI;
 722   }
 723 }
 724
 725 defm V_CMP_F_F32     : VOPC_Real_si <0x0>;
 726 defm V_CMP_LT_F32    : VOPC_Real_si <0x1>;
 727 defm V_CMP_EQ_F32    : VOPC_Real_si <0x2>;
 728 defm V_CMP_LE_F32    : VOPC_Real_si <0x3>;
 729 defm V_CMP_GT_F32    : VOPC_Real_si <0x4>;
 730 defm V_CMP_LG_F32    : VOPC_Real_si <0x5>;
 731 defm V_CMP_GE_F32    : VOPC_Real_si <0x6>;
 732 defm V_CMP_O_F32     : VOPC_Real_si <0x7>;
 733 defm V_CMP_U_F32     : VOPC_Real_si <0x8>;
 734 defm V_CMP_NGE_F32   : VOPC_Real_si <0x9>;
 735 defm V_CMP_NLG_F32   : VOPC_Real_si <0xa>;
 736 defm V_CMP_NGT_F32   : VOPC_Real_si <0xb>;
 737 defm V_CMP_NLE_F32   : VOPC_Real_si <0xc>;
 738 defm V_CMP_NEQ_F32   : VOPC_Real_si <0xd>;
 739 defm V_CMP_NLT_F32   : VOPC_Real_si <0xe>;
 740 defm V_CMP_TRU_F32   : VOPC_Real_si <0xf>;
 741
 742 defm V_CMPX_F_F32    : VOPC_Real_si <0x10>;
 743 defm V_CMPX_LT_F32   : VOPC_Real_si <0x11>;
 744 defm V_CMPX_EQ_F32   : VOPC_Real_si <0x12>;
 745 defm V_CMPX_LE_F32   : VOPC_Real_si <0x13>;
 746 defm V_CMPX_GT_F32   : VOPC_Real_si <0x14>;
 747 defm V_CMPX_LG_F32   : VOPC_Real_si <0x15>;
 748 defm V_CMPX_GE_F32   : VOPC_Real_si <0x16>;
 749 defm V_CMPX_O_F32    : VOPC_Real_si <0x17>;
 750 defm V_CMPX_U_F32    : VOPC_Real_si <0x18>;
 751 defm V_CMPX_NGE_F32  : VOPC_Real_si <0x19>;
 752 defm V_CMPX_NLG_F32  : VOPC_Real_si <0x1a>;
 753 defm V_CMPX_NGT_F32  : VOPC_Real_si <0x1b>;
 754 defm V_CMPX_NLE_F32  : VOPC_Real_si <0x1c>;
 755 defm V_CMPX_NEQ_F32  : VOPC_Real_si <0x1d>;
 756 defm V_CMPX_NLT_F32  : VOPC_Real_si <0x1e>;
 757 defm V_CMPX_TRU_F32  : VOPC_Real_si <0x1f>;
 758
 759 defm V_CMP_F_F64     : VOPC_Real_si <0x20>;
 760 defm V_CMP_LT_F64    : VOPC_Real_si <0x21>;
 761 defm V_CMP_EQ_F64    : VOPC_Real_si <0x22>;
 762 defm V_CMP_LE_F64    : VOPC_Real_si <0x23>;
 763 defm V_CMP_GT_F64    : VOPC_Real_si <0x24>;
 764 defm V_CMP_LG_F64    : VOPC_Real_si <0x25>;
 765 defm V_CMP_GE_F64    : VOPC_Real_si <0x26>;
 766 defm V_CMP_O_F64     : VOPC_Real_si <0x27>;
 767 defm V_CMP_U_F64     : VOPC_Real_si <0x28>;
 768 defm V_CMP_NGE_F64   : VOPC_Real_si <0x29>;
 769 defm V_CMP_NLG_F64   : VOPC_Real_si <0x2a>;
 770 defm V_CMP_NGT_F64   : VOPC_Real_si <0x2b>;
 771 defm V_CMP_NLE_F64   : VOPC_Real_si <0x2c>;
 772 defm V_CMP_NEQ_F64   : VOPC_Real_si <0x2d>;
 773 defm V_CMP_NLT_F64   : VOPC_Real_si <0x2e>;
 774 defm V_CMP_TRU_F64   : VOPC_Real_si <0x2f>;
 775
 776 defm V_CMPX_F_F64    : VOPC_Real_si <0x30>;
 777 defm V_CMPX_LT_F64   : VOPC_Real_si <0x31>;
 778 defm V_CMPX_EQ_F64   : VOPC_Real_si <0x32>;
 779 defm V_CMPX_LE_F64   : VOPC_Real_si <0x33>;
 780 defm V_CMPX_GT_F64   : VOPC_Real_si <0x34>;
 781 defm V_CMPX_LG_F64   : VOPC_Real_si <0x35>;
 782 defm V_CMPX_GE_F64   : VOPC_Real_si <0x36>;
 783 defm V_CMPX_O_F64    : VOPC_Real_si <0x37>;
 784 defm V_CMPX_U_F64    : VOPC_Real_si <0x38>;
 785 defm V_CMPX_NGE_F64  : VOPC_Real_si <0x39>;
 786 defm V_CMPX_NLG_F64  : VOPC_Real_si <0x3a>;
 787 defm V_CMPX_NGT_F64  : VOPC_Real_si <0x3b>;
 788 defm V_CMPX_NLE_F64  : VOPC_Real_si <0x3c>;
 789 defm V_CMPX_NEQ_F64  : VOPC_Real_si <0x3d>;
 790 defm V_CMPX_NLT_F64  : VOPC_Real_si <0x3e>;
 791 defm V_CMPX_TRU_F64  : VOPC_Real_si <0x3f>;
 792
 793 defm V_CMPS_F_F32    : VOPC_Real_si <0x40>;
 794 defm V_CMPS_LT_F32   : VOPC_Real_si <0x41>;
 795 defm V_CMPS_EQ_F32   : VOPC_Real_si <0x42>;
 796 defm V_CMPS_LE_F32   : VOPC_Real_si <0x43>;
 797 defm V_CMPS_GT_F32   : VOPC_Real_si <0x44>;
 798 defm V_CMPS_LG_F32   : VOPC_Real_si <0x45>;
 799 defm V_CMPS_GE_F32   : VOPC_Real_si <0x46>;
 800 defm V_CMPS_O_F32    : VOPC_Real_si <0x47>;
 801 defm V_CMPS_U_F32    : VOPC_Real_si <0x48>;
 802 defm V_CMPS_NGE_F32  : VOPC_Real_si <0x49>;
 803 defm V_CMPS_NLG_F32  : VOPC_Real_si <0x4a>;
 804 defm V_CMPS_NGT_F32  : VOPC_Real_si <0x4b>;
 805 defm V_CMPS_NLE_F32  : VOPC_Real_si <0x4c>;
 806 defm V_CMPS_NEQ_F32  : VOPC_Real_si <0x4d>;
 807 defm V_CMPS_NLT_F32  : VOPC_Real_si <0x4e>;
 808 defm V_CMPS_TRU_F32  : VOPC_Real_si <0x4f>;
 809
 810 defm V_CMPSX_F_F32   : VOPC_Real_si <0x50>;
 811 defm V_CMPSX_LT_F32  : VOPC_Real_si <0x51>;
 812 defm V_CMPSX_EQ_F32  : VOPC_Real_si <0x52>;
 813 defm V_CMPSX_LE_F32  : VOPC_Real_si <0x53>;
 814 defm V_CMPSX_GT_F32  : VOPC_Real_si <0x54>;
 815 defm V_CMPSX_LG_F32  : VOPC_Real_si <0x55>;
 816 defm V_CMPSX_GE_F32  : VOPC_Real_si <0x56>;
 817 defm V_CMPSX_O_F32   : VOPC_Real_si <0x57>;
 818 defm V_CMPSX_U_F32   : VOPC_Real_si <0x58>;
 819 defm V_CMPSX_NGE_F32 : VOPC_Real_si <0x59>;
 820 defm V_CMPSX_NLG_F32 : VOPC_Real_si <0x5a>;
 821 defm V_CMPSX_NGT_F32 : VOPC_Real_si <0x5b>;
 822 defm V_CMPSX_NLE_F32 : VOPC_Real_si <0x5c>;
 823 defm V_CMPSX_NEQ_F32 : VOPC_Real_si <0x5d>;
 824 defm V_CMPSX_NLT_F32 : VOPC_Real_si <0x5e>;
 825 defm V_CMPSX_TRU_F32 : VOPC_Real_si <0x5f>;
 826
 827 defm V_CMPS_F_F64    : VOPC_Real_si <0x60>;
 828 defm V_CMPS_LT_F64   : VOPC_Real_si <0x61>;
 829 defm V_CMPS_EQ_F64   : VOPC_Real_si <0x62>;
 830 defm V_CMPS_LE_F64   : VOPC_Real_si <0x63>;
 831 defm V_CMPS_GT_F64   : VOPC_Real_si <0x64>;
 832 defm V_CMPS_LG_F64   : VOPC_Real_si <0x65>;
 833 defm V_CMPS_GE_F64   : VOPC_Real_si <0x66>;
 834 defm V_CMPS_O_F64    : VOPC_Real_si <0x67>;
 835 defm V_CMPS_U_F64    : VOPC_Real_si <0x68>;
 836 defm V_CMPS_NGE_F64  : VOPC_Real_si <0x69>;
 837 defm V_CMPS_NLG_F64  : VOPC_Real_si <0x6a>;
 838 defm V_CMPS_NGT_F64  : VOPC_Real_si <0x6b>;
 839 defm V_CMPS_NLE_F64  : VOPC_Real_si <0x6c>;
 840 defm V_CMPS_NEQ_F64  : VOPC_Real_si <0x6d>;
 841 defm V_CMPS_NLT_F64  : VOPC_Real_si <0x6e>;
 842 defm V_CMPS_TRU_F64  : VOPC_Real_si <0x6f>;
 843
 844 defm V_CMPSX_F_F64   : VOPC_Real_si <0x70>;
 845 defm V_CMPSX_LT_F64  : VOPC_Real_si <0x71>;
 846 defm V_CMPSX_EQ_F64  : VOPC_Real_si <0x72>;
 847 defm V_CMPSX_LE_F64  : VOPC_Real_si <0x73>;
 848 defm V_CMPSX_GT_F64  : VOPC_Real_si <0x74>;
 849 defm V_CMPSX_LG_F64  : VOPC_Real_si <0x75>;
 850 defm V_CMPSX_GE_F64  : VOPC_Real_si <0x76>;
 851 defm V_CMPSX_O_F64   : VOPC_Real_si <0x77>;
 852 defm V_CMPSX_U_F64   : VOPC_Real_si <0x78>;
 853 defm V_CMPSX_NGE_F64 : VOPC_Real_si <0x79>;
 854 defm V_CMPSX_NLG_F64 : VOPC_Real_si <0x7a>;
 855 defm V_CMPSX_NGT_F64 : VOPC_Real_si <0x7b>;
 856 defm V_CMPSX_NLE_F64 : VOPC_Real_si <0x7c>;
 857 defm V_CMPSX_NEQ_F64 : VOPC_Real_si <0x7d>;
 858 defm V_CMPSX_NLT_F64 : VOPC_Real_si <0x7e>;
 859 defm V_CMPSX_TRU_F64 : VOPC_Real_si <0x7f>;
 860
 861 defm V_CMP_F_I32     : VOPC_Real_si <0x80>;
 862 defm V_CMP_LT_I32    : VOPC_Real_si <0x81>;
 863 defm V_CMP_EQ_I32    : VOPC_Real_si <0x82>;
 864 defm V_CMP_LE_I32    : VOPC_Real_si <0x83>;
 865 defm V_CMP_GT_I32    : VOPC_Real_si <0x84>;
 866 defm V_CMP_NE_I32    : VOPC_Real_si <0x85>;
 867 defm V_CMP_GE_I32    : VOPC_Real_si <0x86>;
 868 defm V_CMP_T_I32     : VOPC_Real_si <0x87>;
 869
 870 defm V_CMPX_F_I32    : VOPC_Real_si <0x90>;
 871 defm V_CMPX_LT_I32   : VOPC_Real_si <0x91>;
 872 defm V_CMPX_EQ_I32   : VOPC_Real_si <0x92>;
 873 defm V_CMPX_LE_I32   : VOPC_Real_si <0x93>;
 874 defm V_CMPX_GT_I32   : VOPC_Real_si <0x94>;
 875 defm V_CMPX_NE_I32   : VOPC_Real_si <0x95>;
 876 defm V_CMPX_GE_I32   : VOPC_Real_si <0x96>;
 877 defm V_CMPX_T_I32    : VOPC_Real_si <0x97>;
 878
 879 defm V_CMP_F_I64     : VOPC_Real_si <0xa0>;
 880 defm V_CMP_LT_I64    : VOPC_Real_si <0xa1>;
 881 defm V_CMP_EQ_I64    : VOPC_Real_si <0xa2>;
 882 defm V_CMP_LE_I64    : VOPC_Real_si <0xa3>;
 883 defm V_CMP_GT_I64    : VOPC_Real_si <0xa4>;
 884 defm V_CMP_NE_I64    : VOPC_Real_si <0xa5>;
 885 defm V_CMP_GE_I64    : VOPC_Real_si <0xa6>;
 886 defm V_CMP_T_I64     : VOPC_Real_si <0xa7>;
 887
 888 defm V_CMPX_F_I64    : VOPC_Real_si <0xb0>;
 889 defm V_CMPX_LT_I64   : VOPC_Real_si <0xb1>;
 890 defm V_CMPX_EQ_I64   : VOPC_Real_si <0xb2>;
 891 defm V_CMPX_LE_I64   : VOPC_Real_si <0xb3>;
 892 defm V_CMPX_GT_I64   : VOPC_Real_si <0xb4>;
 893 defm V_CMPX_NE_I64   : VOPC_Real_si <0xb5>;
 894 defm V_CMPX_GE_I64   : VOPC_Real_si <0xb6>;
 895 defm V_CMPX_T_I64    : VOPC_Real_si <0xb7>;
 896
 897 defm V_CMP_F_U32     : VOPC_Real_si <0xc0>;
 898 defm V_CMP_LT_U32    : VOPC_Real_si <0xc1>;
 899 defm V_CMP_EQ_U32    : VOPC_Real_si <0xc2>;
 900 defm V_CMP_LE_U32    : VOPC_Real_si <0xc3>;
 901 defm V_CMP_GT_U32    : VOPC_Real_si <0xc4>;
 902 defm V_CMP_NE_U32    : VOPC_Real_si <0xc5>;
 903 defm V_CMP_GE_U32    : VOPC_Real_si <0xc6>;
 904 defm V_CMP_T_U32     : VOPC_Real_si <0xc7>;
 905
 906 defm V_CMPX_F_U32    : VOPC_Real_si <0xd0>;
 907 defm V_CMPX_LT_U32   : VOPC_Real_si <0xd1>;
 908 defm V_CMPX_EQ_U32   : VOPC_Real_si <0xd2>;
 909 defm V_CMPX_LE_U32   : VOPC_Real_si <0xd3>;
 910 defm V_CMPX_GT_U32   : VOPC_Real_si <0xd4>;
 911 defm V_CMPX_NE_U32   : VOPC_Real_si <0xd5>;
 912 defm V_CMPX_GE_U32   : VOPC_Real_si <0xd6>;
 913 defm V_CMPX_T_U32    : VOPC_Real_si <0xd7>;
 914
 915 defm V_CMP_F_U64     : VOPC_Real_si <0xe0>;
 916 defm V_CMP_LT_U64    : VOPC_Real_si <0xe1>;
 917 defm V_CMP_EQ_U64    : VOPC_Real_si <0xe2>;
 918 defm V_CMP_LE_U64    : VOPC_Real_si <0xe3>;
 919 defm V_CMP_GT_U64    : VOPC_Real_si <0xe4>;
 920 defm V_CMP_NE_U64    : VOPC_Real_si <0xe5>;
 921 defm V_CMP_GE_U64    : VOPC_Real_si <0xe6>;
 922 defm V_CMP_T_U64     : VOPC_Real_si <0xe7>;
 923
 924 defm V_CMPX_F_U64    : VOPC_Real_si <0xf0>;
 925 defm V_CMPX_LT_U64   : VOPC_Real_si <0xf1>;
 926 defm V_CMPX_EQ_U64   : VOPC_Real_si <0xf2>;
 927 defm V_CMPX_LE_U64   : VOPC_Real_si <0xf3>;
 928 defm V_CMPX_GT_U64   : VOPC_Real_si <0xf4>;
 929 defm V_CMPX_NE_U64   : VOPC_Real_si <0xf5>;
 930 defm V_CMPX_GE_U64   : VOPC_Real_si <0xf6>;
 931 defm V_CMPX_T_U64    : VOPC_Real_si <0xf7>;
 932
 933 defm V_CMP_CLASS_F32  : VOPC_Real_si <0x88>;
 934 defm V_CMPX_CLASS_F32 : VOPC_Real_si <0x98>;
 935 defm V_CMP_CLASS_F64  : VOPC_Real_si <0xa8>;
 936 defm V_CMPX_CLASS_F64 : VOPC_Real_si <0xb8>;
 937
 938 //===----------------------------------------------------------------------===//
 939 // VI
 940 //===----------------------------------------------------------------------===//
 941
 942 multiclass VOPC_Real_vi <bits<10> op> {
 943   let AssemblerPredicates = [isVI], DecoderNamespace = "VI" in {
 944     def _e32_vi :
 945       VOPC_Real<!cast<VOPC_Pseudo>(NAME#"_e32"), SIEncodingFamily.VI>,
 946       VOPCe<op{7-0}>;
 947
 948     def _e64_vi :
 949       VOP3_Real<!cast<VOP3_Pseudo>(NAME#"_e64"), SIEncodingFamily.VI>,
 950       VOP3a_vi <op, !cast<VOP3_Pseudo>(NAME#"_e64").Pfl> {
 951       // Encoding used for VOPC instructions encoded as VOP3
 952       // Differs from VOP3e by destination name (sdst) as VOPC doesn't have vector dst
 953       bits<8> sdst;
 954       let Inst{7-0} = sdst;
 955     }
 956   }
 957
 958   def _sdwa_vi :
 959     VOP_SDWA_Real <!cast<VOPC_SDWA_Pseudo>(NAME#"_sdwa")>,
 960     VOPC_SDWAe <op{7-0}, !cast<VOPC_SDWA_Pseudo>(NAME#"_sdwa").Pfl>;
 961
 962   def _sdwa_gfx9 :
 963     VOP_SDWA9_Real <!cast<VOPC_SDWA_Pseudo>(NAME#"_sdwa")>,
 964     VOPC_SDWA9e <op{7-0}, !cast<VOPC_SDWA_Pseudo>(NAME#"_sdwa").Pfl>;
 965
 966   def : VOPCInstAlias <!cast<VOP3_Pseudo>(NAME#"_e64"),
 967                        !cast<Instruction>(NAME#"_e32_vi")> {
 968     let AssemblerPredicate = isVI;
 969   }
 970 }
 971
 972 defm V_CMP_CLASS_F32  : VOPC_Real_vi <0x10>;
 973 defm V_CMPX_CLASS_F32 : VOPC_Real_vi <0x11>;
 974 defm V_CMP_CLASS_F64  : VOPC_Real_vi <0x12>;
 975 defm V_CMPX_CLASS_F64 : VOPC_Real_vi <0x13>;
 976 defm V_CMP_CLASS_F16  : VOPC_Real_vi <0x14>;
 977 defm V_CMPX_CLASS_F16 : VOPC_Real_vi <0x15>;
 978
 979 defm V_CMP_F_F16      : VOPC_Real_vi <0x20>;
 980 defm V_CMP_LT_F16     : VOPC_Real_vi <0x21>;
 981 defm V_CMP_EQ_F16     : VOPC_Real_vi <0x22>;
 982 defm V_CMP_LE_F16     : VOPC_Real_vi <0x23>;
 983 defm V_CMP_GT_F16     : VOPC_Real_vi <0x24>;
 984 defm V_CMP_LG_F16     : VOPC_Real_vi <0x25>;
 985 defm V_CMP_GE_F16     : VOPC_Real_vi <0x26>;
 986 defm V_CMP_O_F16      : VOPC_Real_vi <0x27>;
 987 defm V_CMP_U_F16      : VOPC_Real_vi <0x28>;
 988 defm V_CMP_NGE_F16    : VOPC_Real_vi <0x29>;
 989 defm V_CMP_NLG_F16    : VOPC_Real_vi <0x2a>;
 990 defm V_CMP_NGT_F16    : VOPC_Real_vi <0x2b>;
 991 defm V_CMP_NLE_F16    : VOPC_Real_vi <0x2c>;
 992 defm V_CMP_NEQ_F16    : VOPC_Real_vi <0x2d>;
 993 defm V_CMP_NLT_F16    : VOPC_Real_vi <0x2e>;
 994 defm V_CMP_TRU_F16    : VOPC_Real_vi <0x2f>;
 995
 996 defm V_CMPX_F_F16     : VOPC_Real_vi <0x30>;
 997 defm V_CMPX_LT_F16    : VOPC_Real_vi <0x31>;
 998 defm V_CMPX_EQ_F16    : VOPC_Real_vi <0x32>;
 999 defm V_CMPX_LE_F16    : VOPC_Real_vi <0x33>;
1000 defm V_CMPX_GT_F16    : VOPC_Real_vi <0x34>;
1001 defm V_CMPX_LG_F16    : VOPC_Real_vi <0x35>;
1002 defm V_CMPX_GE_F16    : VOPC_Real_vi <0x36>;
1003 defm V_CMPX_O_F16     : VOPC_Real_vi <0x37>;
1004 defm V_CMPX_U_F16     : VOPC_Real_vi <0x38>;
1005 defm V_CMPX_NGE_F16   : VOPC_Real_vi <0x39>;
1006 defm V_CMPX_NLG_F16   : VOPC_Real_vi <0x3a>;
1007 defm V_CMPX_NGT_F16   : VOPC_Real_vi <0x3b>;
1008 defm V_CMPX_NLE_F16   : VOPC_Real_vi <0x3c>;
1009 defm V_CMPX_NEQ_F16   : VOPC_Real_vi <0x3d>;
1010 defm V_CMPX_NLT_F16   : VOPC_Real_vi <0x3e>;
1011 defm V_CMPX_TRU_F16   : VOPC_Real_vi <0x3f>;
1012
1013 defm V_CMP_F_F32      : VOPC_Real_vi <0x40>;
1014 defm V_CMP_LT_F32     : VOPC_Real_vi <0x41>;
1015 defm V_CMP_EQ_F32     : VOPC_Real_vi <0x42>;
1016 defm V_CMP_LE_F32     : VOPC_Real_vi <0x43>;
1017 defm V_CMP_GT_F32     : VOPC_Real_vi <0x44>;
1018 defm V_CMP_LG_F32     : VOPC_Real_vi <0x45>;
1019 defm V_CMP_GE_F32     : VOPC_Real_vi <0x46>;
1020 defm V_CMP_O_F32      : VOPC_Real_vi <0x47>;
1021 defm V_CMP_U_F32      : VOPC_Real_vi <0x48>;
1022 defm V_CMP_NGE_F32    : VOPC_Real_vi <0x49>;
1023 defm V_CMP_NLG_F32    : VOPC_Real_vi <0x4a>;
1024 defm V_CMP_NGT_F32    : VOPC_Real_vi <0x4b>;
1025 defm V_CMP_NLE_F32    : VOPC_Real_vi <0x4c>;
1026 defm V_CMP_NEQ_F32    : VOPC_Real_vi <0x4d>;
1027 defm V_CMP_NLT_F32    : VOPC_Real_vi <0x4e>;
1028 defm V_CMP_TRU_F32    : VOPC_Real_vi <0x4f>;
1029
1030 defm V_CMPX_F_F32     : VOPC_Real_vi <0x50>;
1031 defm V_CMPX_LT_F32    : VOPC_Real_vi <0x51>;
1032 defm V_CMPX_EQ_F32    : VOPC_Real_vi <0x52>;
1033 defm V_CMPX_LE_F32    : VOPC_Real_vi <0x53>;
1034 defm V_CMPX_GT_F32    : VOPC_Real_vi <0x54>;
1035 defm V_CMPX_LG_F32    : VOPC_Real_vi <0x55>;
1036 defm V_CMPX_GE_F32    : VOPC_Real_vi <0x56>;
1037 defm V_CMPX_O_F32     : VOPC_Real_vi <0x57>;
1038 defm V_CMPX_U_F32     : VOPC_Real_vi <0x58>;
1039 defm V_CMPX_NGE_F32   : VOPC_Real_vi <0x59>;
1040 defm V_CMPX_NLG_F32   : VOPC_Real_vi <0x5a>;
1041 defm V_CMPX_NGT_F32   : VOPC_Real_vi <0x5b>;
1042 defm V_CMPX_NLE_F32   : VOPC_Real_vi <0x5c>;
1043 defm V_CMPX_NEQ_F32   : VOPC_Real_vi <0x5d>;
1044 defm V_CMPX_NLT_F32   : VOPC_Real_vi <0x5e>;
1045 defm V_CMPX_TRU_F32   : VOPC_Real_vi <0x5f>;
1046
1047 defm V_CMP_F_F64      : VOPC_Real_vi <0x60>;
1048 defm V_CMP_LT_F64     : VOPC_Real_vi <0x61>;
1049 defm V_CMP_EQ_F64     : VOPC_Real_vi <0x62>;
1050 defm V_CMP_LE_F64     : VOPC_Real_vi <0x63>;
1051 defm V_CMP_GT_F64     : VOPC_Real_vi <0x64>;
1052 defm V_CMP_LG_F64     : VOPC_Real_vi <0x65>;
1053 defm V_CMP_GE_F64     : VOPC_Real_vi <0x66>;
1054 defm V_CMP_O_F64      : VOPC_Real_vi <0x67>;
1055 defm V_CMP_U_F64      : VOPC_Real_vi <0x68>;
1056 defm V_CMP_NGE_F64    : VOPC_Real_vi <0x69>;
1057 defm V_CMP_NLG_F64    : VOPC_Real_vi <0x6a>;
1058 defm V_CMP_NGT_F64    : VOPC_Real_vi <0x6b>;
1059 defm V_CMP_NLE_F64    : VOPC_Real_vi <0x6c>;
1060 defm V_CMP_NEQ_F64    : VOPC_Real_vi <0x6d>;
1061 defm V_CMP_NLT_F64    : VOPC_Real_vi <0x6e>;
1062 defm V_CMP_TRU_F64    : VOPC_Real_vi <0x6f>;
1063
1064 defm V_CMPX_F_F64     : VOPC_Real_vi <0x70>;
1065 defm V_CMPX_LT_F64    : VOPC_Real_vi <0x71>;
1066 defm V_CMPX_EQ_F64    : VOPC_Real_vi <0x72>;
1067 defm V_CMPX_LE_F64    : VOPC_Real_vi <0x73>;
1068 defm V_CMPX_GT_F64    : VOPC_Real_vi <0x74>;
1069 defm V_CMPX_LG_F64    : VOPC_Real_vi <0x75>;
1070 defm V_CMPX_GE_F64    : VOPC_Real_vi <0x76>;
1071 defm V_CMPX_O_F64     : VOPC_Real_vi <0x77>;
1072 defm V_CMPX_U_F64     : VOPC_Real_vi <0x78>;
1073 defm V_CMPX_NGE_F64   : VOPC_Real_vi <0x79>;
1074 defm V_CMPX_NLG_F64   : VOPC_Real_vi <0x7a>;
1075 defm V_CMPX_NGT_F64   : VOPC_Real_vi <0x7b>;
1076 defm V_CMPX_NLE_F64   : VOPC_Real_vi <0x7c>;
1077 defm V_CMPX_NEQ_F64   : VOPC_Real_vi <0x7d>;
1078 defm V_CMPX_NLT_F64   : VOPC_Real_vi <0x7e>;
1079 defm V_CMPX_TRU_F64   : VOPC_Real_vi <0x7f>;
1080
1081 defm V_CMP_F_I16      : VOPC_Real_vi <0xa0>;
1082 defm V_CMP_LT_I16     : VOPC_Real_vi <0xa1>;
1083 defm V_CMP_EQ_I16     : VOPC_Real_vi <0xa2>;
1084 defm V_CMP_LE_I16     : VOPC_Real_vi <0xa3>;
1085 defm V_CMP_GT_I16     : VOPC_Real_vi <0xa4>;
1086 defm V_CMP_NE_I16     : VOPC_Real_vi <0xa5>;
1087 defm V_CMP_GE_I16     : VOPC_Real_vi <0xa6>;
1088 defm V_CMP_T_I16      : VOPC_Real_vi <0xa7>;
1089
1090 defm V_CMP_F_U16      : VOPC_Real_vi <0xa8>;
1091 defm V_CMP_LT_U16     : VOPC_Real_vi <0xa9>;
1092 defm V_CMP_EQ_U16     : VOPC_Real_vi <0xaa>;
1093 defm V_CMP_LE_U16     : VOPC_Real_vi <0xab>;
1094 defm V_CMP_GT_U16     : VOPC_Real_vi <0xac>;
1095 defm V_CMP_NE_U16     : VOPC_Real_vi <0xad>;
1096 defm V_CMP_GE_U16     : VOPC_Real_vi <0xae>;
1097 defm V_CMP_T_U16      : VOPC_Real_vi <0xaf>;
1098
1099 defm V_CMPX_F_I16 : VOPC_Real_vi <0xb0>;
1100 defm V_CMPX_LT_I16 : VOPC_Real_vi <0xb1>;
1101 defm V_CMPX_EQ_I16 : VOPC_Real_vi <0xb2>;
1102 defm V_CMPX_LE_I16 : VOPC_Real_vi <0xb3>;
1103 defm V_CMPX_GT_I16 : VOPC_Real_vi <0xb4>;
1104 defm V_CMPX_NE_I16 : VOPC_Real_vi <0xb5>;
1105 defm V_CMPX_GE_I16 : VOPC_Real_vi <0xb6>;
1106 defm V_CMPX_T_I16 : VOPC_Real_vi <0xb7>;
1107
1108 defm V_CMPX_F_U16 : VOPC_Real_vi <0xb8>;
1109 defm V_CMPX_LT_U16 : VOPC_Real_vi <0xb9>;
1110 defm V_CMPX_EQ_U16 : VOPC_Real_vi <0xba>;
1111 defm V_CMPX_LE_U16 : VOPC_Real_vi <0xbb>;
1112 defm V_CMPX_GT_U16 : VOPC_Real_vi <0xbc>;
1113 defm V_CMPX_NE_U16 : VOPC_Real_vi <0xbd>;
1114 defm V_CMPX_GE_U16 : VOPC_Real_vi <0xbe>;
1115 defm V_CMPX_T_U16 : VOPC_Real_vi <0xbf>;
1116
1117 defm V_CMP_F_I32      : VOPC_Real_vi <0xc0>;
1118 defm V_CMP_LT_I32     : VOPC_Real_vi <0xc1>;
1119 defm V_CMP_EQ_I32     : VOPC_Real_vi <0xc2>;
1120 defm V_CMP_LE_I32     : VOPC_Real_vi <0xc3>;
1121 defm V_CMP_GT_I32     : VOPC_Real_vi <0xc4>;
1122 defm V_CMP_NE_I32     : VOPC_Real_vi <0xc5>;
1123 defm V_CMP_GE_I32     : VOPC_Real_vi <0xc6>;
1124 defm V_CMP_T_I32      : VOPC_Real_vi <0xc7>;
1125
1126 defm V_CMPX_F_I32     : VOPC_Real_vi <0xd0>;
1127 defm V_CMPX_LT_I32    : VOPC_Real_vi <0xd1>;
1128 defm V_CMPX_EQ_I32    : VOPC_Real_vi <0xd2>;
1129 defm V_CMPX_LE_I32    : VOPC_Real_vi <0xd3>;
1130 defm V_CMPX_GT_I32    : VOPC_Real_vi <0xd4>;
1131 defm V_CMPX_NE_I32    : VOPC_Real_vi <0xd5>;
1132 defm V_CMPX_GE_I32    : VOPC_Real_vi <0xd6>;
1133 defm V_CMPX_T_I32     : VOPC_Real_vi <0xd7>;
1134
1135 defm V_CMP_F_I64      : VOPC_Real_vi <0xe0>;
1136 defm V_CMP_LT_I64     : VOPC_Real_vi <0xe1>;
1137 defm V_CMP_EQ_I64     : VOPC_Real_vi <0xe2>;
1138 defm V_CMP_LE_I64     : VOPC_Real_vi <0xe3>;
1139 defm V_CMP_GT_I64     : VOPC_Real_vi <0xe4>;
1140 defm V_CMP_NE_I64     : VOPC_Real_vi <0xe5>;
1141 defm V_CMP_GE_I64     : VOPC_Real_vi <0xe6>;
1142 defm V_CMP_T_I64      : VOPC_Real_vi <0xe7>;
1143
1144 defm V_CMPX_F_I64     : VOPC_Real_vi <0xf0>;
1145 defm V_CMPX_LT_I64    : VOPC_Real_vi <0xf1>;
1146 defm V_CMPX_EQ_I64    : VOPC_Real_vi <0xf2>;
1147 defm V_CMPX_LE_I64    : VOPC_Real_vi <0xf3>;
1148 defm V_CMPX_GT_I64    : VOPC_Real_vi <0xf4>;
1149 defm V_CMPX_NE_I64    : VOPC_Real_vi <0xf5>;
1150 defm V_CMPX_GE_I64    : VOPC_Real_vi <0xf6>;
1151 defm V_CMPX_T_I64     : VOPC_Real_vi <0xf7>;
1152
1153 defm V_CMP_F_U32      : VOPC_Real_vi <0xc8>;
1154 defm V_CMP_LT_U32     : VOPC_Real_vi <0xc9>;
1155 defm V_CMP_EQ_U32     : VOPC_Real_vi <0xca>;
1156 defm V_CMP_LE_U32     : VOPC_Real_vi <0xcb>;
1157 defm V_CMP_GT_U32     : VOPC_Real_vi <0xcc>;
1158 defm V_CMP_NE_U32     : VOPC_Real_vi <0xcd>;
1159 defm V_CMP_GE_U32     : VOPC_Real_vi <0xce>;
1160 defm V_CMP_T_U32      : VOPC_Real_vi <0xcf>;
1161
1162 defm V_CMPX_F_U32     : VOPC_Real_vi <0xd8>;
1163 defm V_CMPX_LT_U32    : VOPC_Real_vi <0xd9>;
1164 defm V_CMPX_EQ_U32    : VOPC_Real_vi <0xda>;
1165 defm V_CMPX_LE_U32    : VOPC_Real_vi <0xdb>;
1166 defm V_CMPX_GT_U32    : VOPC_Real_vi <0xdc>;
1167 defm V_CMPX_NE_U32    : VOPC_Real_vi <0xdd>;
1168 defm V_CMPX_GE_U32    : VOPC_Real_vi <0xde>;
1169 defm V_CMPX_T_U32     : VOPC_Real_vi <0xdf>;
1170
1171 defm V_CMP_F_U64      : VOPC_Real_vi <0xe8>;
1172 defm V_CMP_LT_U64     : VOPC_Real_vi <0xe9>;
1173 defm V_CMP_EQ_U64     : VOPC_Real_vi <0xea>;
1174 defm V_CMP_LE_U64     : VOPC_Real_vi <0xeb>;
1175 defm V_CMP_GT_U64     : VOPC_Real_vi <0xec>;
1176 defm V_CMP_NE_U64     : VOPC_Real_vi <0xed>;
1177 defm V_CMP_GE_U64     : VOPC_Real_vi <0xee>;
1178 defm V_CMP_T_U64      : VOPC_Real_vi <0xef>;
1179
1180 defm V_CMPX_F_U64     : VOPC_Real_vi <0xf8>;
1181 defm V_CMPX_LT_U64    : VOPC_Real_vi <0xf9>;
1182 defm V_CMPX_EQ_U64    : VOPC_Real_vi <0xfa>;
1183 defm V_CMPX_LE_U64    : VOPC_Real_vi <0xfb>;
1184 defm V_CMPX_GT_U64    : VOPC_Real_vi <0xfc>;
1185 defm V_CMPX_NE_U64    : VOPC_Real_vi <0xfd>;
1186 defm V_CMPX_GE_U64    : VOPC_Real_vi <0xfe>;
1187 defm V_CMPX_T_U64     : VOPC_Real_vi <0xff>;