lib/Target/AMDGPU/VOPCInstructions.td

   1 //===-- VOPCInstructions.td - Vector Instruction Defintions ---------------===//
   2 //
   3 //                     The LLVM Compiler Infrastructure
   4 //
   5 // This file is distributed under the University of Illinois Open Source
   6 // License. See LICENSE.TXT for details.
   7 //
   8 //===----------------------------------------------------------------------===//
   9
  10 //===----------------------------------------------------------------------===//
  11 // Encodings
  12 //===----------------------------------------------------------------------===//
  13
  14 class VOPCe <bits<8> op> : Enc32 {
  15   bits<9> src0;
  16   bits<8> src1;
  17
  18   let Inst{8-0} = src0;
  19   let Inst{16-9} = src1;
  20   let Inst{24-17} = op;
  21   let Inst{31-25} = 0x3e;
  22 }
  23
  24 class VOPC_SDWAe <bits<8> op, VOPProfile P> : VOP_SDWAe <P> {
  25   bits<8> src1;
  26
  27   let Inst{8-0}   = 0xf9; // sdwa
  28   let Inst{16-9}  = !if(P.HasSrc1, src1{7-0}, 0);
  29   let Inst{24-17} = op;
  30   let Inst{31-25} = 0x3e; // encoding
  31
  32   // VOPC disallows dst_sel and dst_unused as they have no effect on destination
  33   let Inst{42-40} = 0;
  34   let Inst{44-43} = 0;
  35 }
  36
  37 class VOPC_SDWA9e <bits<8> op, VOPProfile P> : VOP_SDWA9Be <P> {
  38   bits<9> src1;
  39
  40   let Inst{8-0}   = 0xf9; // sdwa
  41   let Inst{16-9}  = !if(P.HasSrc1, src1{7-0}, 0);
  42   let Inst{24-17} = op;
  43   let Inst{31-25} = 0x3e; // encoding
  44   let Inst{63}    = !if(P.HasSrc1, src1{8}, 0); // src1_sgpr
  45 }
  46
  47
  48 //===----------------------------------------------------------------------===//
  49 // VOPC classes
  50 //===----------------------------------------------------------------------===//
  51
  52 // VOPC instructions are a special case because for the 32-bit
  53 // encoding, we want to display the implicit vcc write as if it were
  54 // an explicit $dst.
  55 class VOPC_Profile<list<SchedReadWrite> sched, ValueType vt0, ValueType vt1 = vt0> :
  56   VOPProfile <[i1, vt0, vt1, untyped]> {
  57   let Asm32 = "vcc, $src0, $src1";
  58   // The destination for 32-bit encoding is implicit.
  59   let HasDst32 = 0;
  60   let Outs64 = (outs VOPDstS64:$sdst);
  61   list<SchedReadWrite> Schedule = sched;
  62 }
  63
  64 class VOPC_Pseudo <string opName, VOPC_Profile P, list<dag> pattern=[]> :
  65   InstSI<(outs), P.Ins32, "", pattern>,
  66   VOP <opName>,
  67   SIMCInstr<opName#"_e32", SIEncodingFamily.NONE> {
  68
  69   let isPseudo = 1;
  70   let isCodeGenOnly = 1;
  71   let UseNamedOperandTable = 1;
  72
  73   string Mnemonic = opName;
  74   string AsmOperands = P.Asm32;
  75
  76   let Size = 4;
  77   let mayLoad = 0;
  78   let mayStore = 0;
  79   let hasSideEffects = 0;
  80
  81   let VALU = 1;
  82   let VOPC = 1;
  83   let Uses = [EXEC];
  84   let Defs = [VCC];
  85
  86   let SubtargetPredicate = isGCN;
  87
  88   VOPProfile Pfl = P;
  89 }
  90
  91 class VOPC_Real <VOPC_Pseudo ps, int EncodingFamily> :
  92   InstSI <ps.OutOperandList, ps.InOperandList, ps.PseudoInstr # " " # ps.AsmOperands, []>,
  93   SIMCInstr <ps.PseudoInstr, EncodingFamily> {
  94
  95   let isPseudo = 0;
  96   let isCodeGenOnly = 0;
  97
  98   let Constraints     = ps.Constraints;
  99   let DisableEncoding = ps.DisableEncoding;
 100
 101   // copy relevant pseudo op flags
 102   let SubtargetPredicate = ps.SubtargetPredicate;
 103   let AsmMatchConverter  = ps.AsmMatchConverter;
 104   let Constraints        = ps.Constraints;
 105   let DisableEncoding    = ps.DisableEncoding;
 106   let TSFlags            = ps.TSFlags;
 107   let UseNamedOperandTable = ps.UseNamedOperandTable;
 108   let Uses                 = ps.Uses;
 109   let Defs                 = ps.Defs;
 110 }
 111
 112 class VOPC_SDWA_Pseudo <string OpName, VOPProfile P, list<dag> pattern=[]> :
 113   VOP_SDWA_Pseudo <OpName, P, pattern> {
 114   let AsmMatchConverter = "cvtSdwaVOPC";
 115 }
 116
 117 // This class is used only with VOPC instructions. Use $sdst for out operand
 118 class VOPCInstAlias <VOP3_Pseudo ps, Instruction inst, VOPProfile p = ps.Pfl> :
 119   InstAlias <ps.OpName#" "#p.Asm32, (inst)>, PredicateControl {
 120
 121   field bit isCompare;
 122   field bit isCommutable;
 123
 124   let ResultInst =
 125     !if (p.HasDst32,
 126       !if (!eq(p.NumSrcArgs, 0),
 127         // 1 dst, 0 src
 128         (inst p.DstRC:$sdst),
 129       !if (!eq(p.NumSrcArgs, 1),
 130         // 1 dst, 1 src
 131         (inst p.DstRC:$sdst, p.Src0RC32:$src0),
 132       !if (!eq(p.NumSrcArgs, 2),
 133         // 1 dst, 2 src
 134         (inst p.DstRC:$sdst, p.Src0RC32:$src0, p.Src1RC32:$src1),
 135       // else - unreachable
 136         (inst)))),
 137     // else
 138       !if (!eq(p.NumSrcArgs, 2),
 139         // 0 dst, 2 src
 140         (inst p.Src0RC32:$src0, p.Src1RC32:$src1),
 141       !if (!eq(p.NumSrcArgs, 1),
 142         // 0 dst, 1 src
 143         (inst p.Src0RC32:$src1),
 144       // else
 145         // 0 dst, 0 src
 146         (inst))));
 147
 148   let AsmVariantName = AMDGPUAsmVariants.Default;
 149   let SubtargetPredicate = AssemblerPredicate;
 150 }
 151
 152 class getVOPCPat64 <PatLeaf cond, VOPProfile P> : LetDummies {
 153   list<dag> ret = !if(P.HasModifiers,
 154       [(set i1:$sdst,
 155         (setcc (P.Src0VT
 156                   !if(P.HasOMod,
 157                     (VOP3Mods0 P.Src0VT:$src0, i32:$src0_modifiers, i1:$clamp, i32:$omod),
 158                     (VOP3Mods0 P.Src0VT:$src0, i32:$src0_modifiers, i1:$clamp))),
 159                (P.Src1VT (VOP3Mods P.Src1VT:$src1, i32:$src1_modifiers)),
 160                cond))],
 161       [(set i1:$sdst, (setcc P.Src0VT:$src0, P.Src1VT:$src1, cond))]);
 162 }
 163
 164
 165 multiclass VOPC_Pseudos <string opName,
 166                          VOPC_Profile P,
 167                          PatLeaf cond = COND_NULL,
 168                          string revOp = opName,
 169                          bit DefExec = 0> {
 170
 171   def _e32 : VOPC_Pseudo <opName, P>,
 172              Commutable_REV<revOp#"_e32", !eq(revOp, opName)> {
 173     let Defs = !if(DefExec, [VCC, EXEC], [VCC]);
 174     let SchedRW = P.Schedule;
 175     let isConvergent = DefExec;
 176     let isCompare = 1;
 177     let isCommutable = 1;
 178   }
 179
 180   def _e64 : VOP3_Pseudo<opName, P, getVOPCPat64<cond, P>.ret>,
 181     Commutable_REV<revOp#"_e64", !eq(revOp, opName)> {
 182     let Defs = !if(DefExec, [EXEC], []);
 183     let SchedRW = P.Schedule;
 184     let isCompare = 1;
 185     let isCommutable = 1;
 186   }
 187
 188   def _sdwa : VOPC_SDWA_Pseudo <opName, P> {
 189     let Defs = !if(DefExec, [VCC, EXEC], [VCC]);
 190     let SchedRW = P.Schedule;
 191     let isConvergent = DefExec;
 192     let isCompare = 1;
 193   }
 194 }
 195
 196 def VOPC_I1_F16_F16 : VOPC_Profile<[Write32Bit], f16>;
 197 def VOPC_I1_F32_F32 : VOPC_Profile<[Write32Bit], f32>;
 198 def VOPC_I1_F64_F64 : VOPC_Profile<[WriteDoubleAdd], f64>;
 199 def VOPC_I1_I16_I16 : VOPC_Profile<[Write32Bit], i16>;
 200 def VOPC_I1_I32_I32 : VOPC_Profile<[Write32Bit], i32>;
 201 def VOPC_I1_I64_I64 : VOPC_Profile<[Write64Bit], i64>;
 202
 203 multiclass VOPC_F16 <string opName, PatLeaf cond = COND_NULL, string revOp = opName> :
 204   VOPC_Pseudos <opName, VOPC_I1_F16_F16, cond, revOp, 0>;
 205
 206 multiclass VOPC_F32 <string opName, PatLeaf cond = COND_NULL, string revOp = opName> :
 207   VOPC_Pseudos <opName, VOPC_I1_F32_F32, cond, revOp, 0>;
 208
 209 multiclass VOPC_F64 <string opName, PatLeaf cond = COND_NULL, string revOp = opName> :
 210   VOPC_Pseudos <opName, VOPC_I1_F64_F64, cond, revOp, 0>;
 211
 212 multiclass VOPC_I16 <string opName, PatLeaf cond = COND_NULL, string revOp = opName> :
 213   VOPC_Pseudos <opName, VOPC_I1_I16_I16, cond, revOp, 0>;
 214
 215 multiclass VOPC_I32 <string opName, PatLeaf cond = COND_NULL, string revOp = opName> :
 216   VOPC_Pseudos <opName, VOPC_I1_I32_I32, cond, revOp, 0>;
 217
 218 multiclass VOPC_I64 <string opName, PatLeaf cond = COND_NULL, string revOp = opName> :
 219   VOPC_Pseudos <opName, VOPC_I1_I64_I64, cond, revOp, 0>;
 220
 221 multiclass VOPCX_F16 <string opName, string revOp = opName> :
 222   VOPC_Pseudos <opName, VOPC_I1_F16_F16, COND_NULL, revOp, 1>;
 223
 224 multiclass VOPCX_F32 <string opName, string revOp = opName> :
 225   VOPC_Pseudos <opName, VOPC_I1_F32_F32, COND_NULL, revOp, 1>;
 226
 227 multiclass VOPCX_F64 <string opName, string revOp = opName> :
 228   VOPC_Pseudos <opName, VOPC_I1_F64_F64, COND_NULL, revOp, 1>;
 229
 230 multiclass VOPCX_I16 <string opName, string revOp = opName> :
 231   VOPC_Pseudos <opName, VOPC_I1_I16_I16, COND_NULL, revOp, 1>;
 232
 233 multiclass VOPCX_I32 <string opName, string revOp = opName> :
 234   VOPC_Pseudos <opName, VOPC_I1_I32_I32, COND_NULL, revOp, 1>;
 235
 236 multiclass VOPCX_I64 <string opName, string revOp = opName> :
 237   VOPC_Pseudos <opName, VOPC_I1_I64_I64, COND_NULL, revOp, 1>;
 238
 239
 240 //===----------------------------------------------------------------------===//
 241 // Compare instructions
 242 //===----------------------------------------------------------------------===//
 243
 244 defm V_CMP_F_F32 : VOPC_F32 <"v_cmp_f_f32">;
 245 defm V_CMP_LT_F32 : VOPC_F32 <"v_cmp_lt_f32", COND_OLT, "v_cmp_gt_f32">;
 246 defm V_CMP_EQ_F32 : VOPC_F32 <"v_cmp_eq_f32", COND_OEQ>;
 247 defm V_CMP_LE_F32 : VOPC_F32 <"v_cmp_le_f32", COND_OLE, "v_cmp_ge_f32">;
 248 defm V_CMP_GT_F32 : VOPC_F32 <"v_cmp_gt_f32", COND_OGT>;
 249 defm V_CMP_LG_F32 : VOPC_F32 <"v_cmp_lg_f32", COND_ONE>;
 250 defm V_CMP_GE_F32 : VOPC_F32 <"v_cmp_ge_f32", COND_OGE>;
 251 defm V_CMP_O_F32 : VOPC_F32 <"v_cmp_o_f32", COND_O>;
 252 defm V_CMP_U_F32 : VOPC_F32 <"v_cmp_u_f32", COND_UO>;
 253 defm V_CMP_NGE_F32 : VOPC_F32 <"v_cmp_nge_f32",  COND_ULT, "v_cmp_nle_f32">;
 254 defm V_CMP_NLG_F32 : VOPC_F32 <"v_cmp_nlg_f32", COND_UEQ>;
 255 defm V_CMP_NGT_F32 : VOPC_F32 <"v_cmp_ngt_f32", COND_ULE, "v_cmp_nlt_f32">;
 256 defm V_CMP_NLE_F32 : VOPC_F32 <"v_cmp_nle_f32", COND_UGT>;
 257 defm V_CMP_NEQ_F32 : VOPC_F32 <"v_cmp_neq_f32", COND_UNE>;
 258 defm V_CMP_NLT_F32 : VOPC_F32 <"v_cmp_nlt_f32", COND_UGE>;
 259 defm V_CMP_TRU_F32 : VOPC_F32 <"v_cmp_tru_f32">;
 260
 261 defm V_CMPX_F_F32 : VOPCX_F32 <"v_cmpx_f_f32">;
 262 defm V_CMPX_LT_F32 : VOPCX_F32 <"v_cmpx_lt_f32", "v_cmpx_gt_f32">;
 263 defm V_CMPX_EQ_F32 : VOPCX_F32 <"v_cmpx_eq_f32">;
 264 defm V_CMPX_LE_F32 : VOPCX_F32 <"v_cmpx_le_f32", "v_cmpx_ge_f32">;
 265 defm V_CMPX_GT_F32 : VOPCX_F32 <"v_cmpx_gt_f32">;
 266 defm V_CMPX_LG_F32 : VOPCX_F32 <"v_cmpx_lg_f32">;
 267 defm V_CMPX_GE_F32 : VOPCX_F32 <"v_cmpx_ge_f32">;
 268 defm V_CMPX_O_F32 : VOPCX_F32 <"v_cmpx_o_f32">;
 269 defm V_CMPX_U_F32 : VOPCX_F32 <"v_cmpx_u_f32">;
 270 defm V_CMPX_NGE_F32 : VOPCX_F32 <"v_cmpx_nge_f32", "v_cmpx_nle_f32">;
 271 defm V_CMPX_NLG_F32 : VOPCX_F32 <"v_cmpx_nlg_f32">;
 272 defm V_CMPX_NGT_F32 : VOPCX_F32 <"v_cmpx_ngt_f32", "v_cmpx_nlt_f32">;
 273 defm V_CMPX_NLE_F32 : VOPCX_F32 <"v_cmpx_nle_f32">;
 274 defm V_CMPX_NEQ_F32 : VOPCX_F32 <"v_cmpx_neq_f32">;
 275 defm V_CMPX_NLT_F32 : VOPCX_F32 <"v_cmpx_nlt_f32">;
 276 defm V_CMPX_TRU_F32 : VOPCX_F32 <"v_cmpx_tru_f32">;
 277
 278 defm V_CMP_F_F64 : VOPC_F64 <"v_cmp_f_f64">;
 279 defm V_CMP_LT_F64 : VOPC_F64 <"v_cmp_lt_f64", COND_OLT, "v_cmp_gt_f64">;
 280 defm V_CMP_EQ_F64 : VOPC_F64 <"v_cmp_eq_f64", COND_OEQ>;
 281 defm V_CMP_LE_F64 : VOPC_F64 <"v_cmp_le_f64", COND_OLE, "v_cmp_ge_f64">;
 282 defm V_CMP_GT_F64 : VOPC_F64 <"v_cmp_gt_f64", COND_OGT>;
 283 defm V_CMP_LG_F64 : VOPC_F64 <"v_cmp_lg_f64", COND_ONE>;
 284 defm V_CMP_GE_F64 : VOPC_F64 <"v_cmp_ge_f64", COND_OGE>;
 285 defm V_CMP_O_F64 : VOPC_F64 <"v_cmp_o_f64", COND_O>;
 286 defm V_CMP_U_F64 : VOPC_F64 <"v_cmp_u_f64", COND_UO>;
 287 defm V_CMP_NGE_F64 : VOPC_F64 <"v_cmp_nge_f64", COND_ULT, "v_cmp_nle_f64">;
 288 defm V_CMP_NLG_F64 : VOPC_F64 <"v_cmp_nlg_f64", COND_UEQ>;
 289 defm V_CMP_NGT_F64 : VOPC_F64 <"v_cmp_ngt_f64", COND_ULE, "v_cmp_nlt_f64">;
 290 defm V_CMP_NLE_F64 : VOPC_F64 <"v_cmp_nle_f64", COND_UGT>;
 291 defm V_CMP_NEQ_F64 : VOPC_F64 <"v_cmp_neq_f64", COND_UNE>;
 292 defm V_CMP_NLT_F64 : VOPC_F64 <"v_cmp_nlt_f64", COND_UGE>;
 293 defm V_CMP_TRU_F64 : VOPC_F64 <"v_cmp_tru_f64">;
 294
 295 defm V_CMPX_F_F64 : VOPCX_F64 <"v_cmpx_f_f64">;
 296 defm V_CMPX_LT_F64 : VOPCX_F64 <"v_cmpx_lt_f64", "v_cmpx_gt_f64">;
 297 defm V_CMPX_EQ_F64 : VOPCX_F64 <"v_cmpx_eq_f64">;
 298 defm V_CMPX_LE_F64 : VOPCX_F64 <"v_cmpx_le_f64", "v_cmpx_ge_f64">;
 299 defm V_CMPX_GT_F64 : VOPCX_F64 <"v_cmpx_gt_f64">;
 300 defm V_CMPX_LG_F64 : VOPCX_F64 <"v_cmpx_lg_f64">;
 301 defm V_CMPX_GE_F64 : VOPCX_F64 <"v_cmpx_ge_f64">;
 302 defm V_CMPX_O_F64 : VOPCX_F64 <"v_cmpx_o_f64">;
 303 defm V_CMPX_U_F64 : VOPCX_F64 <"v_cmpx_u_f64">;
 304 defm V_CMPX_NGE_F64 : VOPCX_F64 <"v_cmpx_nge_f64", "v_cmpx_nle_f64">;
 305 defm V_CMPX_NLG_F64 : VOPCX_F64 <"v_cmpx_nlg_f64">;
 306 defm V_CMPX_NGT_F64 : VOPCX_F64 <"v_cmpx_ngt_f64", "v_cmpx_nlt_f64">;
 307 defm V_CMPX_NLE_F64 : VOPCX_F64 <"v_cmpx_nle_f64">;
 308 defm V_CMPX_NEQ_F64 : VOPCX_F64 <"v_cmpx_neq_f64">;
 309 defm V_CMPX_NLT_F64 : VOPCX_F64 <"v_cmpx_nlt_f64">;
 310 defm V_CMPX_TRU_F64 : VOPCX_F64 <"v_cmpx_tru_f64">;
 311
 312 let SubtargetPredicate = isSICI in {
 313
 314 defm V_CMPS_F_F32 : VOPC_F32 <"v_cmps_f_f32">;
 315 defm V_CMPS_LT_F32 : VOPC_F32 <"v_cmps_lt_f32", COND_NULL, "v_cmps_gt_f32">;
 316 defm V_CMPS_EQ_F32 : VOPC_F32 <"v_cmps_eq_f32">;
 317 defm V_CMPS_LE_F32 : VOPC_F32 <"v_cmps_le_f32", COND_NULL, "v_cmps_ge_f32">;
 318 defm V_CMPS_GT_F32 : VOPC_F32 <"v_cmps_gt_f32">;
 319 defm V_CMPS_LG_F32 : VOPC_F32 <"v_cmps_lg_f32">;
 320 defm V_CMPS_GE_F32 : VOPC_F32 <"v_cmps_ge_f32">;
 321 defm V_CMPS_O_F32 : VOPC_F32 <"v_cmps_o_f32">;
 322 defm V_CMPS_U_F32 : VOPC_F32 <"v_cmps_u_f32">;
 323 defm V_CMPS_NGE_F32 : VOPC_F32 <"v_cmps_nge_f32", COND_NULL, "v_cmps_nle_f32">;
 324 defm V_CMPS_NLG_F32 : VOPC_F32 <"v_cmps_nlg_f32">;
 325 defm V_CMPS_NGT_F32 : VOPC_F32 <"v_cmps_ngt_f32", COND_NULL, "v_cmps_nlt_f32">;
 326 defm V_CMPS_NLE_F32 : VOPC_F32 <"v_cmps_nle_f32">;
 327 defm V_CMPS_NEQ_F32 : VOPC_F32 <"v_cmps_neq_f32">;
 328 defm V_CMPS_NLT_F32 : VOPC_F32 <"v_cmps_nlt_f32">;
 329 defm V_CMPS_TRU_F32 : VOPC_F32 <"v_cmps_tru_f32">;
 330
 331 defm V_CMPSX_F_F32 : VOPCX_F32 <"v_cmpsx_f_f32">;
 332 defm V_CMPSX_LT_F32 : VOPCX_F32 <"v_cmpsx_lt_f32", "v_cmpsx_gt_f32">;
 333 defm V_CMPSX_EQ_F32 : VOPCX_F32 <"v_cmpsx_eq_f32">;
 334 defm V_CMPSX_LE_F32 : VOPCX_F32 <"v_cmpsx_le_f32", "v_cmpsx_ge_f32">;
 335 defm V_CMPSX_GT_F32 : VOPCX_F32 <"v_cmpsx_gt_f32">;
 336 defm V_CMPSX_LG_F32 : VOPCX_F32 <"v_cmpsx_lg_f32">;
 337 defm V_CMPSX_GE_F32 : VOPCX_F32 <"v_cmpsx_ge_f32">;
 338 defm V_CMPSX_O_F32 : VOPCX_F32 <"v_cmpsx_o_f32">;
 339 defm V_CMPSX_U_F32 : VOPCX_F32 <"v_cmpsx_u_f32">;
 340 defm V_CMPSX_NGE_F32 : VOPCX_F32 <"v_cmpsx_nge_f32", "v_cmpsx_nle_f32">;
 341 defm V_CMPSX_NLG_F32 : VOPCX_F32 <"v_cmpsx_nlg_f32">;
 342 defm V_CMPSX_NGT_F32 : VOPCX_F32 <"v_cmpsx_ngt_f32", "v_cmpsx_nlt_f32">;
 343 defm V_CMPSX_NLE_F32 : VOPCX_F32 <"v_cmpsx_nle_f32">;
 344 defm V_CMPSX_NEQ_F32 : VOPCX_F32 <"v_cmpsx_neq_f32">;
 345 defm V_CMPSX_NLT_F32 : VOPCX_F32 <"v_cmpsx_nlt_f32">;
 346 defm V_CMPSX_TRU_F32 : VOPCX_F32 <"v_cmpsx_tru_f32">;
 347
 348 defm V_CMPS_F_F64 : VOPC_F64 <"v_cmps_f_f64">;
 349 defm V_CMPS_LT_F64 : VOPC_F64 <"v_cmps_lt_f64", COND_NULL, "v_cmps_gt_f64">;
 350 defm V_CMPS_EQ_F64 : VOPC_F64 <"v_cmps_eq_f64">;
 351 defm V_CMPS_LE_F64 : VOPC_F64 <"v_cmps_le_f64", COND_NULL, "v_cmps_ge_f64">;
 352 defm V_CMPS_GT_F64 : VOPC_F64 <"v_cmps_gt_f64">;
 353 defm V_CMPS_LG_F64 : VOPC_F64 <"v_cmps_lg_f64">;
 354 defm V_CMPS_GE_F64 : VOPC_F64 <"v_cmps_ge_f64">;
 355 defm V_CMPS_O_F64 : VOPC_F64 <"v_cmps_o_f64">;
 356 defm V_CMPS_U_F64 : VOPC_F64 <"v_cmps_u_f64">;
 357 defm V_CMPS_NGE_F64 : VOPC_F64 <"v_cmps_nge_f64", COND_NULL, "v_cmps_nle_f64">;
 358 defm V_CMPS_NLG_F64 : VOPC_F64 <"v_cmps_nlg_f64">;
 359 defm V_CMPS_NGT_F64 : VOPC_F64 <"v_cmps_ngt_f64", COND_NULL, "v_cmps_nlt_f64">;
 360 defm V_CMPS_NLE_F64 : VOPC_F64 <"v_cmps_nle_f64">;
 361 defm V_CMPS_NEQ_F64 : VOPC_F64 <"v_cmps_neq_f64">;
 362 defm V_CMPS_NLT_F64 : VOPC_F64 <"v_cmps_nlt_f64">;
 363 defm V_CMPS_TRU_F64 : VOPC_F64 <"v_cmps_tru_f64">;
 364
 365 defm V_CMPSX_F_F64 : VOPCX_F64 <"v_cmpsx_f_f64">;
 366 defm V_CMPSX_LT_F64 : VOPCX_F64 <"v_cmpsx_lt_f64", "v_cmpsx_gt_f64">;
 367 defm V_CMPSX_EQ_F64 : VOPCX_F64 <"v_cmpsx_eq_f64">;
 368 defm V_CMPSX_LE_F64 : VOPCX_F64 <"v_cmpsx_le_f64", "v_cmpsx_ge_f64">;
 369 defm V_CMPSX_GT_F64 : VOPCX_F64 <"v_cmpsx_gt_f64">;
 370 defm V_CMPSX_LG_F64 : VOPCX_F64 <"v_cmpsx_lg_f64">;
 371 defm V_CMPSX_GE_F64 : VOPCX_F64 <"v_cmpsx_ge_f64">;
 372 defm V_CMPSX_O_F64 : VOPCX_F64 <"v_cmpsx_o_f64">;
 373 defm V_CMPSX_U_F64 : VOPCX_F64 <"v_cmpsx_u_f64">;
 374 defm V_CMPSX_NGE_F64 : VOPCX_F64 <"v_cmpsx_nge_f64", "v_cmpsx_nle_f64">;
 375 defm V_CMPSX_NLG_F64 : VOPCX_F64 <"v_cmpsx_nlg_f64">;
 376 defm V_CMPSX_NGT_F64 : VOPCX_F64 <"v_cmpsx_ngt_f64", "v_cmpsx_nlt_f64">;
 377 defm V_CMPSX_NLE_F64 : VOPCX_F64 <"v_cmpsx_nle_f64">;
 378 defm V_CMPSX_NEQ_F64 : VOPCX_F64 <"v_cmpsx_neq_f64">;
 379 defm V_CMPSX_NLT_F64 : VOPCX_F64 <"v_cmpsx_nlt_f64">;
 380 defm V_CMPSX_TRU_F64 : VOPCX_F64 <"v_cmpsx_tru_f64">;
 381
 382 } // End SubtargetPredicate = isSICI
 383
 384 let SubtargetPredicate = Has16BitInsts in {
 385
 386 defm V_CMP_F_F16    : VOPC_F16 <"v_cmp_f_f16">;
 387 defm V_CMP_LT_F16   : VOPC_F16 <"v_cmp_lt_f16", COND_OLT, "v_cmp_gt_f16">;
 388 defm V_CMP_EQ_F16   : VOPC_F16 <"v_cmp_eq_f16", COND_OEQ>;
 389 defm V_CMP_LE_F16   : VOPC_F16 <"v_cmp_le_f16", COND_OLE, "v_cmp_ge_f16">;
 390 defm V_CMP_GT_F16   : VOPC_F16 <"v_cmp_gt_f16", COND_OGT>;
 391 defm V_CMP_LG_F16   : VOPC_F16 <"v_cmp_lg_f16", COND_ONE>;
 392 defm V_CMP_GE_F16   : VOPC_F16 <"v_cmp_ge_f16", COND_OGE>;
 393 defm V_CMP_O_F16    : VOPC_F16 <"v_cmp_o_f16", COND_O>;
 394 defm V_CMP_U_F16    : VOPC_F16 <"v_cmp_u_f16", COND_UO>;
 395 defm V_CMP_NGE_F16  : VOPC_F16 <"v_cmp_nge_f16", COND_ULT, "v_cmp_nle_f16">;
 396 defm V_CMP_NLG_F16  : VOPC_F16 <"v_cmp_nlg_f16", COND_UEQ>;
 397 defm V_CMP_NGT_F16  : VOPC_F16 <"v_cmp_ngt_f16", COND_ULE, "v_cmp_nlt_f16">;
 398 defm V_CMP_NLE_F16  : VOPC_F16 <"v_cmp_nle_f16", COND_UGT>;
 399 defm V_CMP_NEQ_F16  : VOPC_F16 <"v_cmp_neq_f16", COND_UNE>;
 400 defm V_CMP_NLT_F16  : VOPC_F16 <"v_cmp_nlt_f16", COND_UGE>;
 401 defm V_CMP_TRU_F16  : VOPC_F16 <"v_cmp_tru_f16">;
 402
 403 defm V_CMPX_F_F16   : VOPCX_F16 <"v_cmpx_f_f16">;
 404 defm V_CMPX_LT_F16  : VOPCX_F16 <"v_cmpx_lt_f16", "v_cmpx_gt_f16">;
 405 defm V_CMPX_EQ_F16  : VOPCX_F16 <"v_cmpx_eq_f16">;
 406 defm V_CMPX_LE_F16  : VOPCX_F16 <"v_cmpx_le_f16", "v_cmpx_ge_f16">;
 407 defm V_CMPX_GT_F16  : VOPCX_F16 <"v_cmpx_gt_f16">;
 408 defm V_CMPX_LG_F16  : VOPCX_F16 <"v_cmpx_lg_f16">;
 409 defm V_CMPX_GE_F16  : VOPCX_F16 <"v_cmpx_ge_f16">;
 410 defm V_CMPX_O_F16   : VOPCX_F16 <"v_cmpx_o_f16">;
 411 defm V_CMPX_U_F16   : VOPCX_F16 <"v_cmpx_u_f16">;
 412 defm V_CMPX_NGE_F16 : VOPCX_F16 <"v_cmpx_nge_f16", "v_cmpx_nle_f16">;
 413 defm V_CMPX_NLG_F16 : VOPCX_F16 <"v_cmpx_nlg_f16">;
 414 defm V_CMPX_NGT_F16 : VOPCX_F16 <"v_cmpx_ngt_f16", "v_cmpx_nlt_f16">;
 415 defm V_CMPX_NLE_F16 : VOPCX_F16 <"v_cmpx_nle_f16">;
 416 defm V_CMPX_NEQ_F16 : VOPCX_F16 <"v_cmpx_neq_f16">;
 417 defm V_CMPX_NLT_F16 : VOPCX_F16 <"v_cmpx_nlt_f16">;
 418 defm V_CMPX_TRU_F16 : VOPCX_F16 <"v_cmpx_tru_f16">;
 419
 420 defm V_CMP_F_I16 : VOPC_I16 <"v_cmp_f_i16">;
 421 defm V_CMP_LT_I16 : VOPC_I16 <"v_cmp_lt_i16", COND_SLT, "v_cmp_gt_i16">;
 422 defm V_CMP_EQ_I16 : VOPC_I16 <"v_cmp_eq_i16">;
 423 defm V_CMP_LE_I16 : VOPC_I16 <"v_cmp_le_i16", COND_SLE, "v_cmp_ge_i16">;
 424 defm V_CMP_GT_I16 : VOPC_I16 <"v_cmp_gt_i16", COND_SGT>;
 425 defm V_CMP_NE_I16 : VOPC_I16 <"v_cmp_ne_i16">;
 426 defm V_CMP_GE_I16 : VOPC_I16 <"v_cmp_ge_i16", COND_SGE>;
 427 defm V_CMP_T_I16 : VOPC_I16 <"v_cmp_t_i16">;
 428
 429 defm V_CMP_F_U16 : VOPC_I16 <"v_cmp_f_u16">;
 430 defm V_CMP_LT_U16 : VOPC_I16 <"v_cmp_lt_u16", COND_ULT, "v_cmp_gt_u16">;
 431 defm V_CMP_EQ_U16 : VOPC_I16 <"v_cmp_eq_u16", COND_EQ>;
 432 defm V_CMP_LE_U16 : VOPC_I16 <"v_cmp_le_u16", COND_ULE, "v_cmp_ge_u16">;
 433 defm V_CMP_GT_U16 : VOPC_I16 <"v_cmp_gt_u16", COND_UGT>;
 434 defm V_CMP_NE_U16 : VOPC_I16 <"v_cmp_ne_u16", COND_NE>;
 435 defm V_CMP_GE_U16 : VOPC_I16 <"v_cmp_ge_u16", COND_UGE>;
 436 defm V_CMP_T_U16 : VOPC_I16 <"v_cmp_t_u16">;
 437
 438 defm V_CMPX_F_I16 : VOPCX_I16 <"v_cmpx_f_i16">;
 439 defm V_CMPX_LT_I16 : VOPCX_I16 <"v_cmpx_lt_i16", "v_cmpx_gt_i16">;
 440 defm V_CMPX_EQ_I16 : VOPCX_I16 <"v_cmpx_eq_i16">;
 441 defm V_CMPX_LE_I16 : VOPCX_I16 <"v_cmpx_le_i16", "v_cmpx_ge_i16">;
 442 defm V_CMPX_GT_I16 : VOPCX_I16 <"v_cmpx_gt_i16">;
 443 defm V_CMPX_NE_I16 : VOPCX_I16 <"v_cmpx_ne_i16">;
 444 defm V_CMPX_GE_I16 : VOPCX_I16 <"v_cmpx_ge_i16">;
 445 defm V_CMPX_T_I16 : VOPCX_I16 <"v_cmpx_t_i16">;
 446 defm V_CMPX_F_U16 : VOPCX_I16 <"v_cmpx_f_u16">;
 447
 448 defm V_CMPX_LT_U16 : VOPCX_I16 <"v_cmpx_lt_u16", "v_cmpx_gt_u16">;
 449 defm V_CMPX_EQ_U16 : VOPCX_I16 <"v_cmpx_eq_u16">;
 450 defm V_CMPX_LE_U16 : VOPCX_I16 <"v_cmpx_le_u16", "v_cmpx_ge_u16">;
 451 defm V_CMPX_GT_U16 : VOPCX_I16 <"v_cmpx_gt_u16">;
 452 defm V_CMPX_NE_U16 : VOPCX_I16 <"v_cmpx_ne_u16">;
 453 defm V_CMPX_GE_U16 : VOPCX_I16 <"v_cmpx_ge_u16">;
 454 defm V_CMPX_T_U16 : VOPCX_I16 <"v_cmpx_t_u16">;
 455
 456 } // End SubtargetPredicate = Has16BitInsts
 457
 458 defm V_CMP_F_I32 : VOPC_I32 <"v_cmp_f_i32">;
 459 defm V_CMP_LT_I32 : VOPC_I32 <"v_cmp_lt_i32", COND_SLT, "v_cmp_gt_i32">;
 460 defm V_CMP_EQ_I32 : VOPC_I32 <"v_cmp_eq_i32">;
 461 defm V_CMP_LE_I32 : VOPC_I32 <"v_cmp_le_i32", COND_SLE, "v_cmp_ge_i32">;
 462 defm V_CMP_GT_I32 : VOPC_I32 <"v_cmp_gt_i32", COND_SGT>;
 463 defm V_CMP_NE_I32 : VOPC_I32 <"v_cmp_ne_i32">;
 464 defm V_CMP_GE_I32 : VOPC_I32 <"v_cmp_ge_i32", COND_SGE>;
 465 defm V_CMP_T_I32 : VOPC_I32 <"v_cmp_t_i32">;
 466
 467 defm V_CMPX_F_I32 : VOPCX_I32 <"v_cmpx_f_i32">;
 468 defm V_CMPX_LT_I32 : VOPCX_I32 <"v_cmpx_lt_i32", "v_cmpx_gt_i32">;
 469 defm V_CMPX_EQ_I32 : VOPCX_I32 <"v_cmpx_eq_i32">;
 470 defm V_CMPX_LE_I32 : VOPCX_I32 <"v_cmpx_le_i32", "v_cmpx_ge_i32">;
 471 defm V_CMPX_GT_I32 : VOPCX_I32 <"v_cmpx_gt_i32">;
 472 defm V_CMPX_NE_I32 : VOPCX_I32 <"v_cmpx_ne_i32">;
 473 defm V_CMPX_GE_I32 : VOPCX_I32 <"v_cmpx_ge_i32">;
 474 defm V_CMPX_T_I32 : VOPCX_I32 <"v_cmpx_t_i32">;
 475
 476 defm V_CMP_F_I64 : VOPC_I64 <"v_cmp_f_i64">;
 477 defm V_CMP_LT_I64 : VOPC_I64 <"v_cmp_lt_i64", COND_SLT, "v_cmp_gt_i64">;
 478 defm V_CMP_EQ_I64 : VOPC_I64 <"v_cmp_eq_i64">;
 479 defm V_CMP_LE_I64 : VOPC_I64 <"v_cmp_le_i64", COND_SLE, "v_cmp_ge_i64">;
 480 defm V_CMP_GT_I64 : VOPC_I64 <"v_cmp_gt_i64", COND_SGT>;
 481 defm V_CMP_NE_I64 : VOPC_I64 <"v_cmp_ne_i64">;
 482 defm V_CMP_GE_I64 : VOPC_I64 <"v_cmp_ge_i64", COND_SGE>;
 483 defm V_CMP_T_I64 : VOPC_I64 <"v_cmp_t_i64">;
 484
 485 defm V_CMPX_F_I64 : VOPCX_I64 <"v_cmpx_f_i64">;
 486 defm V_CMPX_LT_I64 : VOPCX_I64 <"v_cmpx_lt_i64", "v_cmpx_gt_i64">;
 487 defm V_CMPX_EQ_I64 : VOPCX_I64 <"v_cmpx_eq_i64">;
 488 defm V_CMPX_LE_I64 : VOPCX_I64 <"v_cmpx_le_i64", "v_cmpx_ge_i64">;
 489 defm V_CMPX_GT_I64 : VOPCX_I64 <"v_cmpx_gt_i64">;
 490 defm V_CMPX_NE_I64 : VOPCX_I64 <"v_cmpx_ne_i64">;
 491 defm V_CMPX_GE_I64 : VOPCX_I64 <"v_cmpx_ge_i64">;
 492 defm V_CMPX_T_I64 : VOPCX_I64 <"v_cmpx_t_i64">;
 493
 494 defm V_CMP_F_U32 : VOPC_I32 <"v_cmp_f_u32">;
 495 defm V_CMP_LT_U32 : VOPC_I32 <"v_cmp_lt_u32", COND_ULT, "v_cmp_gt_u32">;
 496 defm V_CMP_EQ_U32 : VOPC_I32 <"v_cmp_eq_u32", COND_EQ>;
 497 defm V_CMP_LE_U32 : VOPC_I32 <"v_cmp_le_u32", COND_ULE, "v_cmp_ge_u32">;
 498 defm V_CMP_GT_U32 : VOPC_I32 <"v_cmp_gt_u32", COND_UGT>;
 499 defm V_CMP_NE_U32 : VOPC_I32 <"v_cmp_ne_u32", COND_NE>;
 500 defm V_CMP_GE_U32 : VOPC_I32 <"v_cmp_ge_u32", COND_UGE>;
 501 defm V_CMP_T_U32 : VOPC_I32 <"v_cmp_t_u32">;
 502
 503 defm V_CMPX_F_U32 : VOPCX_I32 <"v_cmpx_f_u32">;
 504 defm V_CMPX_LT_U32 : VOPCX_I32 <"v_cmpx_lt_u32", "v_cmpx_gt_u32">;
 505 defm V_CMPX_EQ_U32 : VOPCX_I32 <"v_cmpx_eq_u32">;
 506 defm V_CMPX_LE_U32 : VOPCX_I32 <"v_cmpx_le_u32", "v_cmpx_le_u32">;
 507 defm V_CMPX_GT_U32 : VOPCX_I32 <"v_cmpx_gt_u32">;
 508 defm V_CMPX_NE_U32 : VOPCX_I32 <"v_cmpx_ne_u32">;
 509 defm V_CMPX_GE_U32 : VOPCX_I32 <"v_cmpx_ge_u32">;
 510 defm V_CMPX_T_U32 : VOPCX_I32 <"v_cmpx_t_u32">;
 511
 512 defm V_CMP_F_U64 : VOPC_I64 <"v_cmp_f_u64">;
 513 defm V_CMP_LT_U64 : VOPC_I64 <"v_cmp_lt_u64", COND_ULT, "v_cmp_gt_u64">;
 514 defm V_CMP_EQ_U64 : VOPC_I64 <"v_cmp_eq_u64", COND_EQ>;
 515 defm V_CMP_LE_U64 : VOPC_I64 <"v_cmp_le_u64", COND_ULE, "v_cmp_ge_u64">;
 516 defm V_CMP_GT_U64 : VOPC_I64 <"v_cmp_gt_u64", COND_UGT>;
 517 defm V_CMP_NE_U64 : VOPC_I64 <"v_cmp_ne_u64", COND_NE>;
 518 defm V_CMP_GE_U64 : VOPC_I64 <"v_cmp_ge_u64", COND_UGE>;
 519 defm V_CMP_T_U64 : VOPC_I64 <"v_cmp_t_u64">;
 520
 521 defm V_CMPX_F_U64 : VOPCX_I64 <"v_cmpx_f_u64">;
 522 defm V_CMPX_LT_U64 : VOPCX_I64 <"v_cmpx_lt_u64", "v_cmpx_gt_u64">;
 523 defm V_CMPX_EQ_U64 : VOPCX_I64 <"v_cmpx_eq_u64">;
 524 defm V_CMPX_LE_U64 : VOPCX_I64 <"v_cmpx_le_u64", "v_cmpx_ge_u64">;
 525 defm V_CMPX_GT_U64 : VOPCX_I64 <"v_cmpx_gt_u64">;
 526 defm V_CMPX_NE_U64 : VOPCX_I64 <"v_cmpx_ne_u64">;
 527 defm V_CMPX_GE_U64 : VOPCX_I64 <"v_cmpx_ge_u64">;
 528 defm V_CMPX_T_U64 : VOPCX_I64 <"v_cmpx_t_u64">;
 529
 530 //===----------------------------------------------------------------------===//
 531 // Class instructions
 532 //===----------------------------------------------------------------------===//
 533
 534 class VOPC_Class_Profile<list<SchedReadWrite> sched, ValueType vt> :
 535   VOPC_Profile<sched, vt, i32> {
 536   let Ins64 = (ins Src0Mod:$src0_modifiers, Src0RC64:$src0, Src1RC64:$src1);
 537   let Asm64 = "$sdst, $src0_modifiers, $src1";
 538
 539   let InsSDWA = (ins Src0ModSDWA:$src0_modifiers, Src0SDWA:$src0,
 540                      Src1ModSDWA:$src1_modifiers, Src1SDWA:$src1,
 541                      clampmod:$clamp, src0_sel:$src0_sel, src1_sel:$src1_sel);
 542
 543   let AsmSDWA = " vcc, $src0_modifiers, $src1_modifiers$clamp $src0_sel $src1_sel";
 544   let HasSrc1Mods = 0;
 545   let HasClamp = 0;
 546   let HasOMod = 0;
 547 }
 548
 549 class getVOPCClassPat64 <VOPProfile P> {
 550   list<dag> ret =
 551     [(set i1:$sdst,
 552       (AMDGPUfp_class
 553         (P.Src0VT (VOP3Mods0Clamp0OMod P.Src0VT:$src0, i32:$src0_modifiers)),
 554         P.Src1VT:$src1))];
 555 }
 556
 557 // Special case for class instructions which only have modifiers on
 558 // the 1st source operand.
 559 multiclass VOPC_Class_Pseudos <string opName, VOPC_Profile p, bit DefExec> {
 560   def _e32 : VOPC_Pseudo <opName, p> {
 561     let Defs = !if(DefExec, [VCC, EXEC], [VCC]);
 562     let SchedRW = p.Schedule;
 563     let isConvergent = DefExec;
 564   }
 565
 566   def _e64 : VOP3_Pseudo<opName, p, getVOPCClassPat64<p>.ret> {
 567     let Defs = !if(DefExec, [EXEC], []);
 568     let SchedRW = p.Schedule;
 569   }
 570
 571   def _sdwa : VOPC_SDWA_Pseudo <opName, p> {
 572     let Defs = !if(DefExec, [VCC, EXEC], [VCC]);
 573     let SchedRW = p.Schedule;
 574     let isConvergent = DefExec;
 575   }
 576 }
 577
 578 def VOPC_I1_F16_I32 : VOPC_Class_Profile<[Write32Bit], f16>;
 579 def VOPC_I1_F32_I32 : VOPC_Class_Profile<[Write32Bit], f32>;
 580 def VOPC_I1_F64_I32 : VOPC_Class_Profile<[WriteDoubleAdd], f64>;
 581
 582 multiclass VOPC_CLASS_F16 <string opName> :
 583   VOPC_Class_Pseudos <opName, VOPC_I1_F16_I32, 0>;
 584
 585 multiclass VOPCX_CLASS_F16 <string opName> :
 586   VOPC_Class_Pseudos <opName, VOPC_I1_F16_I32, 1>;
 587
 588 multiclass VOPC_CLASS_F32 <string opName> :
 589   VOPC_Class_Pseudos <opName, VOPC_I1_F32_I32, 0>;
 590
 591 multiclass VOPCX_CLASS_F32 <string opName> :
 592   VOPC_Class_Pseudos <opName, VOPC_I1_F32_I32, 1>;
 593
 594 multiclass VOPC_CLASS_F64 <string opName> :
 595   VOPC_Class_Pseudos <opName, VOPC_I1_F64_I32, 0>;
 596
 597 multiclass VOPCX_CLASS_F64 <string opName> :
 598   VOPC_Class_Pseudos <opName, VOPC_I1_F64_I32, 1>;
 599
 600 defm V_CMP_CLASS_F32 : VOPC_CLASS_F32 <"v_cmp_class_f32">;
 601 defm V_CMPX_CLASS_F32 : VOPCX_CLASS_F32 <"v_cmpx_class_f32">;
 602 defm V_CMP_CLASS_F64 : VOPC_CLASS_F64 <"v_cmp_class_f64">;
 603 defm V_CMPX_CLASS_F64 : VOPCX_CLASS_F64 <"v_cmpx_class_f64">;
 604 defm V_CMP_CLASS_F16  : VOPC_CLASS_F16 <"v_cmp_class_f16">;
 605 defm V_CMPX_CLASS_F16 : VOPCX_CLASS_F16 <"v_cmpx_class_f16">;
 606
 607 //===----------------------------------------------------------------------===//
 608 // V_ICMPIntrinsic Pattern.
 609 //===----------------------------------------------------------------------===//
 610
 611 class ICMP_Pattern <PatLeaf cond, Instruction inst, ValueType vt> : GCNPat <
 612   (AMDGPUsetcc vt:$src0, vt:$src1, cond),
 613   (inst $src0, $src1)
 614 >;
 615
 616 def : ICMP_Pattern <COND_EQ, V_CMP_EQ_U32_e64, i32>;
 617 def : ICMP_Pattern <COND_NE, V_CMP_NE_U32_e64, i32>;
 618 def : ICMP_Pattern <COND_UGT, V_CMP_GT_U32_e64, i32>;
 619 def : ICMP_Pattern <COND_UGE, V_CMP_GE_U32_e64, i32>;
 620 def : ICMP_Pattern <COND_ULT, V_CMP_LT_U32_e64, i32>;
 621 def : ICMP_Pattern <COND_ULE, V_CMP_LE_U32_e64, i32>;
 622 def : ICMP_Pattern <COND_SGT, V_CMP_GT_I32_e64, i32>;
 623 def : ICMP_Pattern <COND_SGE, V_CMP_GE_I32_e64, i32>;
 624 def : ICMP_Pattern <COND_SLT, V_CMP_LT_I32_e64, i32>;
 625 def : ICMP_Pattern <COND_SLE, V_CMP_LE_I32_e64, i32>;
 626
 627 def : ICMP_Pattern <COND_EQ, V_CMP_EQ_U64_e64, i64>;
 628 def : ICMP_Pattern <COND_NE, V_CMP_NE_U64_e64, i64>;
 629 def : ICMP_Pattern <COND_UGT, V_CMP_GT_U64_e64, i64>;
 630 def : ICMP_Pattern <COND_UGE, V_CMP_GE_U64_e64, i64>;
 631 def : ICMP_Pattern <COND_ULT, V_CMP_LT_U64_e64, i64>;
 632 def : ICMP_Pattern <COND_ULE, V_CMP_LE_U64_e64, i64>;
 633 def : ICMP_Pattern <COND_SGT, V_CMP_GT_I64_e64, i64>;
 634 def : ICMP_Pattern <COND_SGE, V_CMP_GE_I64_e64, i64>;
 635 def : ICMP_Pattern <COND_SLT, V_CMP_LT_I64_e64, i64>;
 636 def : ICMP_Pattern <COND_SLE, V_CMP_LE_I64_e64, i64>;
 637
 638 def : ICMP_Pattern <COND_EQ, V_CMP_EQ_U16_e64, i16>;
 639 def : ICMP_Pattern <COND_NE, V_CMP_NE_U16_e64, i16>;
 640 def : ICMP_Pattern <COND_UGT, V_CMP_GT_U16_e64, i16>;
 641 def : ICMP_Pattern <COND_UGE, V_CMP_GE_U16_e64, i16>;
 642 def : ICMP_Pattern <COND_ULT, V_CMP_LT_U16_e64, i16>;
 643 def : ICMP_Pattern <COND_ULE, V_CMP_LE_U16_e64, i16>;
 644 def : ICMP_Pattern <COND_SGT, V_CMP_GT_I16_e64, i16>;
 645 def : ICMP_Pattern <COND_SGE, V_CMP_GE_I16_e64, i16>;
 646 def : ICMP_Pattern <COND_SLT, V_CMP_LT_I16_e64, i16>;
 647 def : ICMP_Pattern <COND_SLE, V_CMP_LE_I16_e64, i16>;
 648
 649 class FCMP_Pattern <PatLeaf cond, Instruction inst, ValueType vt> : GCNPat <
 650   (i64 (AMDGPUsetcc (vt (VOP3Mods vt:$src0, i32:$src0_modifiers)),
 651                    (vt (VOP3Mods vt:$src1, i32:$src1_modifiers)), cond)),
 652   (inst $src0_modifiers, $src0, $src1_modifiers, $src1,
 653         DSTCLAMP.NONE)
 654 >;
 655
 656 def : FCMP_Pattern <COND_OEQ, V_CMP_EQ_F32_e64, f32>;
 657 def : FCMP_Pattern <COND_ONE, V_CMP_NEQ_F32_e64, f32>;
 658 def : FCMP_Pattern <COND_OGT, V_CMP_GT_F32_e64, f32>;
 659 def : FCMP_Pattern <COND_OGE, V_CMP_GE_F32_e64, f32>;
 660 def : FCMP_Pattern <COND_OLT, V_CMP_LT_F32_e64, f32>;
 661 def : FCMP_Pattern <COND_OLE, V_CMP_LE_F32_e64, f32>;
 662
 663 def : FCMP_Pattern <COND_OEQ, V_CMP_EQ_F64_e64, f64>;
 664 def : FCMP_Pattern <COND_ONE, V_CMP_NEQ_F64_e64, f64>;
 665 def : FCMP_Pattern <COND_OGT, V_CMP_GT_F64_e64, f64>;
 666 def : FCMP_Pattern <COND_OGE, V_CMP_GE_F64_e64, f64>;
 667 def : FCMP_Pattern <COND_OLT, V_CMP_LT_F64_e64, f64>;
 668 def : FCMP_Pattern <COND_OLE, V_CMP_LE_F64_e64, f64>;
 669
 670 def : FCMP_Pattern <COND_OEQ, V_CMP_EQ_F16_e64, f16>;
 671 def : FCMP_Pattern <COND_ONE, V_CMP_NEQ_F16_e64, f16>;
 672 def : FCMP_Pattern <COND_OGT, V_CMP_GT_F16_e64, f16>;
 673 def : FCMP_Pattern <COND_OGE, V_CMP_GE_F16_e64, f16>;
 674 def : FCMP_Pattern <COND_OLT, V_CMP_LT_F16_e64, f16>;
 675 def : FCMP_Pattern <COND_OLE, V_CMP_LE_F16_e64, f16>;
 676
 677
 678 def : FCMP_Pattern <COND_UEQ, V_CMP_NLG_F32_e64, f32>;
 679 def : FCMP_Pattern <COND_UNE, V_CMP_NEQ_F32_e64, f32>;
 680 def : FCMP_Pattern <COND_UGT, V_CMP_NLE_F32_e64, f32>;
 681 def : FCMP_Pattern <COND_UGE, V_CMP_NLT_F32_e64, f32>;
 682 def : FCMP_Pattern <COND_ULT, V_CMP_NGE_F32_e64, f32>;
 683 def : FCMP_Pattern <COND_ULE, V_CMP_NGT_F32_e64, f32>;
 684
 685 def : FCMP_Pattern <COND_UEQ, V_CMP_NLG_F64_e64, f64>;
 686 def : FCMP_Pattern <COND_UNE, V_CMP_NEQ_F64_e64, f64>;
 687 def : FCMP_Pattern <COND_UGT, V_CMP_NLE_F64_e64, f64>;
 688 def : FCMP_Pattern <COND_UGE, V_CMP_NLT_F64_e64, f64>;
 689 def : FCMP_Pattern <COND_ULT, V_CMP_NGE_F64_e64, f64>;
 690 def : FCMP_Pattern <COND_ULE, V_CMP_NGT_F64_e64, f64>;
 691
 692 def : FCMP_Pattern <COND_UEQ, V_CMP_NLG_F16_e64, f16>;
 693 def : FCMP_Pattern <COND_UNE, V_CMP_NEQ_F16_e64, f16>;
 694 def : FCMP_Pattern <COND_UGT, V_CMP_NLE_F16_e64, f16>;
 695 def : FCMP_Pattern <COND_UGE, V_CMP_NLT_F16_e64, f16>;
 696 def : FCMP_Pattern <COND_ULT, V_CMP_NGE_F16_e64, f16>;
 697 def : FCMP_Pattern <COND_ULE, V_CMP_NGT_F16_e64, f16>;
 698
 699 //===----------------------------------------------------------------------===//
 700 // Target
 701 //===----------------------------------------------------------------------===//
 702
 703 //===----------------------------------------------------------------------===//
 704 // SI
 705 //===----------------------------------------------------------------------===//
 706
 707 multiclass VOPC_Real_si <bits<9> op> {
 708   let AssemblerPredicates = [isSICI], DecoderNamespace = "SICI" in {
 709     def _e32_si :
 710       VOPC_Real<!cast<VOPC_Pseudo>(NAME#"_e32"), SIEncodingFamily.SI>,
 711       VOPCe<op{7-0}>;
 712
 713     def _e64_si :
 714       VOP3_Real<!cast<VOP3_Pseudo>(NAME#"_e64"), SIEncodingFamily.SI>,
 715       VOP3a_si <op, !cast<VOP3_Pseudo>(NAME#"_e64").Pfl> {
 716       // Encoding used for VOPC instructions encoded as VOP3
 717       // Differs from VOP3e by destination name (sdst) as VOPC doesn't have vector dst
 718       bits<8> sdst;
 719       let Inst{7-0} = sdst;
 720     }
 721   }
 722   def : VOPCInstAlias <!cast<VOP3_Pseudo>(NAME#"_e64"),
 723                        !cast<Instruction>(NAME#"_e32_si")> {
 724     let AssemblerPredicate = isSICI;
 725   }
 726 }
 727
 728 defm V_CMP_F_F32     : VOPC_Real_si <0x0>;
 729 defm V_CMP_LT_F32    : VOPC_Real_si <0x1>;
 730 defm V_CMP_EQ_F32    : VOPC_Real_si <0x2>;
 731 defm V_CMP_LE_F32    : VOPC_Real_si <0x3>;
 732 defm V_CMP_GT_F32    : VOPC_Real_si <0x4>;
 733 defm V_CMP_LG_F32    : VOPC_Real_si <0x5>;
 734 defm V_CMP_GE_F32    : VOPC_Real_si <0x6>;
 735 defm V_CMP_O_F32     : VOPC_Real_si <0x7>;
 736 defm V_CMP_U_F32     : VOPC_Real_si <0x8>;
 737 defm V_CMP_NGE_F32   : VOPC_Real_si <0x9>;
 738 defm V_CMP_NLG_F32   : VOPC_Real_si <0xa>;
 739 defm V_CMP_NGT_F32   : VOPC_Real_si <0xb>;
 740 defm V_CMP_NLE_F32   : VOPC_Real_si <0xc>;
 741 defm V_CMP_NEQ_F32   : VOPC_Real_si <0xd>;
 742 defm V_CMP_NLT_F32   : VOPC_Real_si <0xe>;
 743 defm V_CMP_TRU_F32   : VOPC_Real_si <0xf>;
 744
 745 defm V_CMPX_F_F32    : VOPC_Real_si <0x10>;
 746 defm V_CMPX_LT_F32   : VOPC_Real_si <0x11>;
 747 defm V_CMPX_EQ_F32   : VOPC_Real_si <0x12>;
 748 defm V_CMPX_LE_F32   : VOPC_Real_si <0x13>;
 749 defm V_CMPX_GT_F32   : VOPC_Real_si <0x14>;
 750 defm V_CMPX_LG_F32   : VOPC_Real_si <0x15>;
 751 defm V_CMPX_GE_F32   : VOPC_Real_si <0x16>;
 752 defm V_CMPX_O_F32    : VOPC_Real_si <0x17>;
 753 defm V_CMPX_U_F32    : VOPC_Real_si <0x18>;
 754 defm V_CMPX_NGE_F32  : VOPC_Real_si <0x19>;
 755 defm V_CMPX_NLG_F32  : VOPC_Real_si <0x1a>;
 756 defm V_CMPX_NGT_F32  : VOPC_Real_si <0x1b>;
 757 defm V_CMPX_NLE_F32  : VOPC_Real_si <0x1c>;
 758 defm V_CMPX_NEQ_F32  : VOPC_Real_si <0x1d>;
 759 defm V_CMPX_NLT_F32  : VOPC_Real_si <0x1e>;
 760 defm V_CMPX_TRU_F32  : VOPC_Real_si <0x1f>;
 761
 762 defm V_CMP_F_F64     : VOPC_Real_si <0x20>;
 763 defm V_CMP_LT_F64    : VOPC_Real_si <0x21>;
 764 defm V_CMP_EQ_F64    : VOPC_Real_si <0x22>;
 765 defm V_CMP_LE_F64    : VOPC_Real_si <0x23>;
 766 defm V_CMP_GT_F64    : VOPC_Real_si <0x24>;
 767 defm V_CMP_LG_F64    : VOPC_Real_si <0x25>;
 768 defm V_CMP_GE_F64    : VOPC_Real_si <0x26>;
 769 defm V_CMP_O_F64     : VOPC_Real_si <0x27>;
 770 defm V_CMP_U_F64     : VOPC_Real_si <0x28>;
 771 defm V_CMP_NGE_F64   : VOPC_Real_si <0x29>;
 772 defm V_CMP_NLG_F64   : VOPC_Real_si <0x2a>;
 773 defm V_CMP_NGT_F64   : VOPC_Real_si <0x2b>;
 774 defm V_CMP_NLE_F64   : VOPC_Real_si <0x2c>;
 775 defm V_CMP_NEQ_F64   : VOPC_Real_si <0x2d>;
 776 defm V_CMP_NLT_F64   : VOPC_Real_si <0x2e>;
 777 defm V_CMP_TRU_F64   : VOPC_Real_si <0x2f>;
 778
 779 defm V_CMPX_F_F64    : VOPC_Real_si <0x30>;
 780 defm V_CMPX_LT_F64   : VOPC_Real_si <0x31>;
 781 defm V_CMPX_EQ_F64   : VOPC_Real_si <0x32>;
 782 defm V_CMPX_LE_F64   : VOPC_Real_si <0x33>;
 783 defm V_CMPX_GT_F64   : VOPC_Real_si <0x34>;
 784 defm V_CMPX_LG_F64   : VOPC_Real_si <0x35>;
 785 defm V_CMPX_GE_F64   : VOPC_Real_si <0x36>;
 786 defm V_CMPX_O_F64    : VOPC_Real_si <0x37>;
 787 defm V_CMPX_U_F64    : VOPC_Real_si <0x38>;
 788 defm V_CMPX_NGE_F64  : VOPC_Real_si <0x39>;
 789 defm V_CMPX_NLG_F64  : VOPC_Real_si <0x3a>;
 790 defm V_CMPX_NGT_F64  : VOPC_Real_si <0x3b>;
 791 defm V_CMPX_NLE_F64  : VOPC_Real_si <0x3c>;
 792 defm V_CMPX_NEQ_F64  : VOPC_Real_si <0x3d>;
 793 defm V_CMPX_NLT_F64  : VOPC_Real_si <0x3e>;
 794 defm V_CMPX_TRU_F64  : VOPC_Real_si <0x3f>;
 795
 796 defm V_CMPS_F_F32    : VOPC_Real_si <0x40>;
 797 defm V_CMPS_LT_F32   : VOPC_Real_si <0x41>;
 798 defm V_CMPS_EQ_F32   : VOPC_Real_si <0x42>;
 799 defm V_CMPS_LE_F32   : VOPC_Real_si <0x43>;
 800 defm V_CMPS_GT_F32   : VOPC_Real_si <0x44>;
 801 defm V_CMPS_LG_F32   : VOPC_Real_si <0x45>;
 802 defm V_CMPS_GE_F32   : VOPC_Real_si <0x46>;
 803 defm V_CMPS_O_F32    : VOPC_Real_si <0x47>;
 804 defm V_CMPS_U_F32    : VOPC_Real_si <0x48>;
 805 defm V_CMPS_NGE_F32  : VOPC_Real_si <0x49>;
 806 defm V_CMPS_NLG_F32  : VOPC_Real_si <0x4a>;
 807 defm V_CMPS_NGT_F32  : VOPC_Real_si <0x4b>;
 808 defm V_CMPS_NLE_F32  : VOPC_Real_si <0x4c>;
 809 defm V_CMPS_NEQ_F32  : VOPC_Real_si <0x4d>;
 810 defm V_CMPS_NLT_F32  : VOPC_Real_si <0x4e>;
 811 defm V_CMPS_TRU_F32  : VOPC_Real_si <0x4f>;
 812
 813 defm V_CMPSX_F_F32   : VOPC_Real_si <0x50>;
 814 defm V_CMPSX_LT_F32  : VOPC_Real_si <0x51>;
 815 defm V_CMPSX_EQ_F32  : VOPC_Real_si <0x52>;
 816 defm V_CMPSX_LE_F32  : VOPC_Real_si <0x53>;
 817 defm V_CMPSX_GT_F32  : VOPC_Real_si <0x54>;
 818 defm V_CMPSX_LG_F32  : VOPC_Real_si <0x55>;
 819 defm V_CMPSX_GE_F32  : VOPC_Real_si <0x56>;
 820 defm V_CMPSX_O_F32   : VOPC_Real_si <0x57>;
 821 defm V_CMPSX_U_F32   : VOPC_Real_si <0x58>;
 822 defm V_CMPSX_NGE_F32 : VOPC_Real_si <0x59>;
 823 defm V_CMPSX_NLG_F32 : VOPC_Real_si <0x5a>;
 824 defm V_CMPSX_NGT_F32 : VOPC_Real_si <0x5b>;
 825 defm V_CMPSX_NLE_F32 : VOPC_Real_si <0x5c>;
 826 defm V_CMPSX_NEQ_F32 : VOPC_Real_si <0x5d>;
 827 defm V_CMPSX_NLT_F32 : VOPC_Real_si <0x5e>;
 828 defm V_CMPSX_TRU_F32 : VOPC_Real_si <0x5f>;
 829
 830 defm V_CMPS_F_F64    : VOPC_Real_si <0x60>;
 831 defm V_CMPS_LT_F64   : VOPC_Real_si <0x61>;
 832 defm V_CMPS_EQ_F64   : VOPC_Real_si <0x62>;
 833 defm V_CMPS_LE_F64   : VOPC_Real_si <0x63>;
 834 defm V_CMPS_GT_F64   : VOPC_Real_si <0x64>;
 835 defm V_CMPS_LG_F64   : VOPC_Real_si <0x65>;
 836 defm V_CMPS_GE_F64   : VOPC_Real_si <0x66>;
 837 defm V_CMPS_O_F64    : VOPC_Real_si <0x67>;
 838 defm V_CMPS_U_F64    : VOPC_Real_si <0x68>;
 839 defm V_CMPS_NGE_F64  : VOPC_Real_si <0x69>;
 840 defm V_CMPS_NLG_F64  : VOPC_Real_si <0x6a>;
 841 defm V_CMPS_NGT_F64  : VOPC_Real_si <0x6b>;
 842 defm V_CMPS_NLE_F64  : VOPC_Real_si <0x6c>;
 843 defm V_CMPS_NEQ_F64  : VOPC_Real_si <0x6d>;
 844 defm V_CMPS_NLT_F64  : VOPC_Real_si <0x6e>;
 845 defm V_CMPS_TRU_F64  : VOPC_Real_si <0x6f>;
 846
 847 defm V_CMPSX_F_F64   : VOPC_Real_si <0x70>;
 848 defm V_CMPSX_LT_F64  : VOPC_Real_si <0x71>;
 849 defm V_CMPSX_EQ_F64  : VOPC_Real_si <0x72>;
 850 defm V_CMPSX_LE_F64  : VOPC_Real_si <0x73>;
 851 defm V_CMPSX_GT_F64  : VOPC_Real_si <0x74>;
 852 defm V_CMPSX_LG_F64  : VOPC_Real_si <0x75>;
 853 defm V_CMPSX_GE_F64  : VOPC_Real_si <0x76>;
 854 defm V_CMPSX_O_F64   : VOPC_Real_si <0x77>;
 855 defm V_CMPSX_U_F64   : VOPC_Real_si <0x78>;
 856 defm V_CMPSX_NGE_F64 : VOPC_Real_si <0x79>;
 857 defm V_CMPSX_NLG_F64 : VOPC_Real_si <0x7a>;
 858 defm V_CMPSX_NGT_F64 : VOPC_Real_si <0x7b>;
 859 defm V_CMPSX_NLE_F64 : VOPC_Real_si <0x7c>;
 860 defm V_CMPSX_NEQ_F64 : VOPC_Real_si <0x7d>;
 861 defm V_CMPSX_NLT_F64 : VOPC_Real_si <0x7e>;
 862 defm V_CMPSX_TRU_F64 : VOPC_Real_si <0x7f>;
 863
 864 defm V_CMP_F_I32     : VOPC_Real_si <0x80>;
 865 defm V_CMP_LT_I32    : VOPC_Real_si <0x81>;
 866 defm V_CMP_EQ_I32    : VOPC_Real_si <0x82>;
 867 defm V_CMP_LE_I32    : VOPC_Real_si <0x83>;
 868 defm V_CMP_GT_I32    : VOPC_Real_si <0x84>;
 869 defm V_CMP_NE_I32    : VOPC_Real_si <0x85>;
 870 defm V_CMP_GE_I32    : VOPC_Real_si <0x86>;
 871 defm V_CMP_T_I32     : VOPC_Real_si <0x87>;
 872
 873 defm V_CMPX_F_I32    : VOPC_Real_si <0x90>;
 874 defm V_CMPX_LT_I32   : VOPC_Real_si <0x91>;
 875 defm V_CMPX_EQ_I32   : VOPC_Real_si <0x92>;
 876 defm V_CMPX_LE_I32   : VOPC_Real_si <0x93>;
 877 defm V_CMPX_GT_I32   : VOPC_Real_si <0x94>;
 878 defm V_CMPX_NE_I32   : VOPC_Real_si <0x95>;
 879 defm V_CMPX_GE_I32   : VOPC_Real_si <0x96>;
 880 defm V_CMPX_T_I32    : VOPC_Real_si <0x97>;
 881
 882 defm V_CMP_F_I64     : VOPC_Real_si <0xa0>;
 883 defm V_CMP_LT_I64    : VOPC_Real_si <0xa1>;
 884 defm V_CMP_EQ_I64    : VOPC_Real_si <0xa2>;
 885 defm V_CMP_LE_I64    : VOPC_Real_si <0xa3>;
 886 defm V_CMP_GT_I64    : VOPC_Real_si <0xa4>;
 887 defm V_CMP_NE_I64    : VOPC_Real_si <0xa5>;
 888 defm V_CMP_GE_I64    : VOPC_Real_si <0xa6>;
 889 defm V_CMP_T_I64     : VOPC_Real_si <0xa7>;
 890
 891 defm V_CMPX_F_I64    : VOPC_Real_si <0xb0>;
 892 defm V_CMPX_LT_I64   : VOPC_Real_si <0xb1>;
 893 defm V_CMPX_EQ_I64   : VOPC_Real_si <0xb2>;
 894 defm V_CMPX_LE_I64   : VOPC_Real_si <0xb3>;
 895 defm V_CMPX_GT_I64   : VOPC_Real_si <0xb4>;
 896 defm V_CMPX_NE_I64   : VOPC_Real_si <0xb5>;
 897 defm V_CMPX_GE_I64   : VOPC_Real_si <0xb6>;
 898 defm V_CMPX_T_I64    : VOPC_Real_si <0xb7>;
 899
 900 defm V_CMP_F_U32     : VOPC_Real_si <0xc0>;
 901 defm V_CMP_LT_U32    : VOPC_Real_si <0xc1>;
 902 defm V_CMP_EQ_U32    : VOPC_Real_si <0xc2>;
 903 defm V_CMP_LE_U32    : VOPC_Real_si <0xc3>;
 904 defm V_CMP_GT_U32    : VOPC_Real_si <0xc4>;
 905 defm V_CMP_NE_U32    : VOPC_Real_si <0xc5>;
 906 defm V_CMP_GE_U32    : VOPC_Real_si <0xc6>;
 907 defm V_CMP_T_U32     : VOPC_Real_si <0xc7>;
 908
 909 defm V_CMPX_F_U32    : VOPC_Real_si <0xd0>;
 910 defm V_CMPX_LT_U32   : VOPC_Real_si <0xd1>;
 911 defm V_CMPX_EQ_U32   : VOPC_Real_si <0xd2>;
 912 defm V_CMPX_LE_U32   : VOPC_Real_si <0xd3>;
 913 defm V_CMPX_GT_U32   : VOPC_Real_si <0xd4>;
 914 defm V_CMPX_NE_U32   : VOPC_Real_si <0xd5>;
 915 defm V_CMPX_GE_U32   : VOPC_Real_si <0xd6>;
 916 defm V_CMPX_T_U32    : VOPC_Real_si <0xd7>;
 917
 918 defm V_CMP_F_U64     : VOPC_Real_si <0xe0>;
 919 defm V_CMP_LT_U64    : VOPC_Real_si <0xe1>;
 920 defm V_CMP_EQ_U64    : VOPC_Real_si <0xe2>;
 921 defm V_CMP_LE_U64    : VOPC_Real_si <0xe3>;
 922 defm V_CMP_GT_U64    : VOPC_Real_si <0xe4>;
 923 defm V_CMP_NE_U64    : VOPC_Real_si <0xe5>;
 924 defm V_CMP_GE_U64    : VOPC_Real_si <0xe6>;
 925 defm V_CMP_T_U64     : VOPC_Real_si <0xe7>;
 926
 927 defm V_CMPX_F_U64    : VOPC_Real_si <0xf0>;
 928 defm V_CMPX_LT_U64   : VOPC_Real_si <0xf1>;
 929 defm V_CMPX_EQ_U64   : VOPC_Real_si <0xf2>;
 930 defm V_CMPX_LE_U64   : VOPC_Real_si <0xf3>;
 931 defm V_CMPX_GT_U64   : VOPC_Real_si <0xf4>;
 932 defm V_CMPX_NE_U64   : VOPC_Real_si <0xf5>;
 933 defm V_CMPX_GE_U64   : VOPC_Real_si <0xf6>;
 934 defm V_CMPX_T_U64    : VOPC_Real_si <0xf7>;
 935
 936 defm V_CMP_CLASS_F32  : VOPC_Real_si <0x88>;
 937 defm V_CMPX_CLASS_F32 : VOPC_Real_si <0x98>;
 938 defm V_CMP_CLASS_F64  : VOPC_Real_si <0xa8>;
 939 defm V_CMPX_CLASS_F64 : VOPC_Real_si <0xb8>;
 940
 941 //===----------------------------------------------------------------------===//
 942 // VI
 943 //===----------------------------------------------------------------------===//
 944
 945 multiclass VOPC_Real_vi <bits<10> op> {
 946   let AssemblerPredicates = [isVI], DecoderNamespace = "VI" in {
 947     def _e32_vi :
 948       VOPC_Real<!cast<VOPC_Pseudo>(NAME#"_e32"), SIEncodingFamily.VI>,
 949       VOPCe<op{7-0}>;
 950
 951     def _e64_vi :
 952       VOP3_Real<!cast<VOP3_Pseudo>(NAME#"_e64"), SIEncodingFamily.VI>,
 953       VOP3a_vi <op, !cast<VOP3_Pseudo>(NAME#"_e64").Pfl> {
 954       // Encoding used for VOPC instructions encoded as VOP3
 955       // Differs from VOP3e by destination name (sdst) as VOPC doesn't have vector dst
 956       bits<8> sdst;
 957       let Inst{7-0} = sdst;
 958     }
 959   }
 960
 961   def _sdwa_vi :
 962     VOP_SDWA_Real <!cast<VOPC_SDWA_Pseudo>(NAME#"_sdwa")>,
 963     VOPC_SDWAe <op{7-0}, !cast<VOPC_SDWA_Pseudo>(NAME#"_sdwa").Pfl>;
 964
 965   def _sdwa_gfx9 :
 966     VOP_SDWA9_Real <!cast<VOPC_SDWA_Pseudo>(NAME#"_sdwa")>,
 967     VOPC_SDWA9e <op{7-0}, !cast<VOPC_SDWA_Pseudo>(NAME#"_sdwa").Pfl>;
 968
 969   def : VOPCInstAlias <!cast<VOP3_Pseudo>(NAME#"_e64"),
 970                        !cast<Instruction>(NAME#"_e32_vi")> {
 971     let AssemblerPredicate = isVI;
 972   }
 973 }
 974
 975 defm V_CMP_CLASS_F32  : VOPC_Real_vi <0x10>;
 976 defm V_CMPX_CLASS_F32 : VOPC_Real_vi <0x11>;
 977 defm V_CMP_CLASS_F64  : VOPC_Real_vi <0x12>;
 978 defm V_CMPX_CLASS_F64 : VOPC_Real_vi <0x13>;
 979 defm V_CMP_CLASS_F16  : VOPC_Real_vi <0x14>;
 980 defm V_CMPX_CLASS_F16 : VOPC_Real_vi <0x15>;
 981
 982 defm V_CMP_F_F16      : VOPC_Real_vi <0x20>;
 983 defm V_CMP_LT_F16     : VOPC_Real_vi <0x21>;
 984 defm V_CMP_EQ_F16     : VOPC_Real_vi <0x22>;
 985 defm V_CMP_LE_F16     : VOPC_Real_vi <0x23>;
 986 defm V_CMP_GT_F16     : VOPC_Real_vi <0x24>;
 987 defm V_CMP_LG_F16     : VOPC_Real_vi <0x25>;
 988 defm V_CMP_GE_F16     : VOPC_Real_vi <0x26>;
 989 defm V_CMP_O_F16      : VOPC_Real_vi <0x27>;
 990 defm V_CMP_U_F16      : VOPC_Real_vi <0x28>;
 991 defm V_CMP_NGE_F16    : VOPC_Real_vi <0x29>;
 992 defm V_CMP_NLG_F16    : VOPC_Real_vi <0x2a>;
 993 defm V_CMP_NGT_F16    : VOPC_Real_vi <0x2b>;
 994 defm V_CMP_NLE_F16    : VOPC_Real_vi <0x2c>;
 995 defm V_CMP_NEQ_F16    : VOPC_Real_vi <0x2d>;
 996 defm V_CMP_NLT_F16    : VOPC_Real_vi <0x2e>;
 997 defm V_CMP_TRU_F16    : VOPC_Real_vi <0x2f>;
 998
 999 defm V_CMPX_F_F16     : VOPC_Real_vi <0x30>;
1000 defm V_CMPX_LT_F16    : VOPC_Real_vi <0x31>;
1001 defm V_CMPX_EQ_F16    : VOPC_Real_vi <0x32>;
1002 defm V_CMPX_LE_F16    : VOPC_Real_vi <0x33>;
1003 defm V_CMPX_GT_F16    : VOPC_Real_vi <0x34>;
1004 defm V_CMPX_LG_F16    : VOPC_Real_vi <0x35>;
1005 defm V_CMPX_GE_F16    : VOPC_Real_vi <0x36>;
1006 defm V_CMPX_O_F16     : VOPC_Real_vi <0x37>;
1007 defm V_CMPX_U_F16     : VOPC_Real_vi <0x38>;
1008 defm V_CMPX_NGE_F16   : VOPC_Real_vi <0x39>;
1009 defm V_CMPX_NLG_F16   : VOPC_Real_vi <0x3a>;
1010 defm V_CMPX_NGT_F16   : VOPC_Real_vi <0x3b>;
1011 defm V_CMPX_NLE_F16   : VOPC_Real_vi <0x3c>;
1012 defm V_CMPX_NEQ_F16   : VOPC_Real_vi <0x3d>;
1013 defm V_CMPX_NLT_F16   : VOPC_Real_vi <0x3e>;
1014 defm V_CMPX_TRU_F16   : VOPC_Real_vi <0x3f>;
1015
1016 defm V_CMP_F_F32      : VOPC_Real_vi <0x40>;
1017 defm V_CMP_LT_F32     : VOPC_Real_vi <0x41>;
1018 defm V_CMP_EQ_F32     : VOPC_Real_vi <0x42>;
1019 defm V_CMP_LE_F32     : VOPC_Real_vi <0x43>;
1020 defm V_CMP_GT_F32     : VOPC_Real_vi <0x44>;
1021 defm V_CMP_LG_F32     : VOPC_Real_vi <0x45>;
1022 defm V_CMP_GE_F32     : VOPC_Real_vi <0x46>;
1023 defm V_CMP_O_F32      : VOPC_Real_vi <0x47>;
1024 defm V_CMP_U_F32      : VOPC_Real_vi <0x48>;
1025 defm V_CMP_NGE_F32    : VOPC_Real_vi <0x49>;
1026 defm V_CMP_NLG_F32    : VOPC_Real_vi <0x4a>;
1027 defm V_CMP_NGT_F32    : VOPC_Real_vi <0x4b>;
1028 defm V_CMP_NLE_F32    : VOPC_Real_vi <0x4c>;
1029 defm V_CMP_NEQ_F32    : VOPC_Real_vi <0x4d>;
1030 defm V_CMP_NLT_F32    : VOPC_Real_vi <0x4e>;
1031 defm V_CMP_TRU_F32    : VOPC_Real_vi <0x4f>;
1032
1033 defm V_CMPX_F_F32     : VOPC_Real_vi <0x50>;
1034 defm V_CMPX_LT_F32    : VOPC_Real_vi <0x51>;
1035 defm V_CMPX_EQ_F32    : VOPC_Real_vi <0x52>;
1036 defm V_CMPX_LE_F32    : VOPC_Real_vi <0x53>;
1037 defm V_CMPX_GT_F32    : VOPC_Real_vi <0x54>;
1038 defm V_CMPX_LG_F32    : VOPC_Real_vi <0x55>;
1039 defm V_CMPX_GE_F32    : VOPC_Real_vi <0x56>;
1040 defm V_CMPX_O_F32     : VOPC_Real_vi <0x57>;
1041 defm V_CMPX_U_F32     : VOPC_Real_vi <0x58>;
1042 defm V_CMPX_NGE_F32   : VOPC_Real_vi <0x59>;
1043 defm V_CMPX_NLG_F32   : VOPC_Real_vi <0x5a>;
1044 defm V_CMPX_NGT_F32   : VOPC_Real_vi <0x5b>;
1045 defm V_CMPX_NLE_F32   : VOPC_Real_vi <0x5c>;
1046 defm V_CMPX_NEQ_F32   : VOPC_Real_vi <0x5d>;
1047 defm V_CMPX_NLT_F32   : VOPC_Real_vi <0x5e>;
1048 defm V_CMPX_TRU_F32   : VOPC_Real_vi <0x5f>;
1049
1050 defm V_CMP_F_F64      : VOPC_Real_vi <0x60>;
1051 defm V_CMP_LT_F64     : VOPC_Real_vi <0x61>;
1052 defm V_CMP_EQ_F64     : VOPC_Real_vi <0x62>;
1053 defm V_CMP_LE_F64     : VOPC_Real_vi <0x63>;
1054 defm V_CMP_GT_F64     : VOPC_Real_vi <0x64>;
1055 defm V_CMP_LG_F64     : VOPC_Real_vi <0x65>;
1056 defm V_CMP_GE_F64     : VOPC_Real_vi <0x66>;
1057 defm V_CMP_O_F64      : VOPC_Real_vi <0x67>;
1058 defm V_CMP_U_F64      : VOPC_Real_vi <0x68>;
1059 defm V_CMP_NGE_F64    : VOPC_Real_vi <0x69>;
1060 defm V_CMP_NLG_F64    : VOPC_Real_vi <0x6a>;
1061 defm V_CMP_NGT_F64    : VOPC_Real_vi <0x6b>;
1062 defm V_CMP_NLE_F64    : VOPC_Real_vi <0x6c>;
1063 defm V_CMP_NEQ_F64    : VOPC_Real_vi <0x6d>;
1064 defm V_CMP_NLT_F64    : VOPC_Real_vi <0x6e>;
1065 defm V_CMP_TRU_F64    : VOPC_Real_vi <0x6f>;
1066
1067 defm V_CMPX_F_F64     : VOPC_Real_vi <0x70>;
1068 defm V_CMPX_LT_F64    : VOPC_Real_vi <0x71>;
1069 defm V_CMPX_EQ_F64    : VOPC_Real_vi <0x72>;
1070 defm V_CMPX_LE_F64    : VOPC_Real_vi <0x73>;
1071 defm V_CMPX_GT_F64    : VOPC_Real_vi <0x74>;
1072 defm V_CMPX_LG_F64    : VOPC_Real_vi <0x75>;
1073 defm V_CMPX_GE_F64    : VOPC_Real_vi <0x76>;
1074 defm V_CMPX_O_F64     : VOPC_Real_vi <0x77>;
1075 defm V_CMPX_U_F64     : VOPC_Real_vi <0x78>;
1076 defm V_CMPX_NGE_F64   : VOPC_Real_vi <0x79>;
1077 defm V_CMPX_NLG_F64   : VOPC_Real_vi <0x7a>;
1078 defm V_CMPX_NGT_F64   : VOPC_Real_vi <0x7b>;
1079 defm V_CMPX_NLE_F64   : VOPC_Real_vi <0x7c>;
1080 defm V_CMPX_NEQ_F64   : VOPC_Real_vi <0x7d>;
1081 defm V_CMPX_NLT_F64   : VOPC_Real_vi <0x7e>;
1082 defm V_CMPX_TRU_F64   : VOPC_Real_vi <0x7f>;
1083
1084 defm V_CMP_F_I16      : VOPC_Real_vi <0xa0>;
1085 defm V_CMP_LT_I16     : VOPC_Real_vi <0xa1>;
1086 defm V_CMP_EQ_I16     : VOPC_Real_vi <0xa2>;
1087 defm V_CMP_LE_I16     : VOPC_Real_vi <0xa3>;
1088 defm V_CMP_GT_I16     : VOPC_Real_vi <0xa4>;
1089 defm V_CMP_NE_I16     : VOPC_Real_vi <0xa5>;
1090 defm V_CMP_GE_I16     : VOPC_Real_vi <0xa6>;
1091 defm V_CMP_T_I16      : VOPC_Real_vi <0xa7>;
1092
1093 defm V_CMP_F_U16      : VOPC_Real_vi <0xa8>;
1094 defm V_CMP_LT_U16     : VOPC_Real_vi <0xa9>;
1095 defm V_CMP_EQ_U16     : VOPC_Real_vi <0xaa>;
1096 defm V_CMP_LE_U16     : VOPC_Real_vi <0xab>;
1097 defm V_CMP_GT_U16     : VOPC_Real_vi <0xac>;
1098 defm V_CMP_NE_U16     : VOPC_Real_vi <0xad>;
1099 defm V_CMP_GE_U16     : VOPC_Real_vi <0xae>;
1100 defm V_CMP_T_U16      : VOPC_Real_vi <0xaf>;
1101
1102 defm V_CMPX_F_I16 : VOPC_Real_vi <0xb0>;
1103 defm V_CMPX_LT_I16 : VOPC_Real_vi <0xb1>;
1104 defm V_CMPX_EQ_I16 : VOPC_Real_vi <0xb2>;
1105 defm V_CMPX_LE_I16 : VOPC_Real_vi <0xb3>;
1106 defm V_CMPX_GT_I16 : VOPC_Real_vi <0xb4>;
1107 defm V_CMPX_NE_I16 : VOPC_Real_vi <0xb5>;
1108 defm V_CMPX_GE_I16 : VOPC_Real_vi <0xb6>;
1109 defm V_CMPX_T_I16 : VOPC_Real_vi <0xb7>;
1110
1111 defm V_CMPX_F_U16 : VOPC_Real_vi <0xb8>;
1112 defm V_CMPX_LT_U16 : VOPC_Real_vi <0xb9>;
1113 defm V_CMPX_EQ_U16 : VOPC_Real_vi <0xba>;
1114 defm V_CMPX_LE_U16 : VOPC_Real_vi <0xbb>;
1115 defm V_CMPX_GT_U16 : VOPC_Real_vi <0xbc>;
1116 defm V_CMPX_NE_U16 : VOPC_Real_vi <0xbd>;
1117 defm V_CMPX_GE_U16 : VOPC_Real_vi <0xbe>;
1118 defm V_CMPX_T_U16 : VOPC_Real_vi <0xbf>;
1119
1120 defm V_CMP_F_I32      : VOPC_Real_vi <0xc0>;
1121 defm V_CMP_LT_I32     : VOPC_Real_vi <0xc1>;
1122 defm V_CMP_EQ_I32     : VOPC_Real_vi <0xc2>;
1123 defm V_CMP_LE_I32     : VOPC_Real_vi <0xc3>;
1124 defm V_CMP_GT_I32     : VOPC_Real_vi <0xc4>;
1125 defm V_CMP_NE_I32     : VOPC_Real_vi <0xc5>;
1126 defm V_CMP_GE_I32     : VOPC_Real_vi <0xc6>;
1127 defm V_CMP_T_I32      : VOPC_Real_vi <0xc7>;
1128
1129 defm V_CMPX_F_I32     : VOPC_Real_vi <0xd0>;
1130 defm V_CMPX_LT_I32    : VOPC_Real_vi <0xd1>;
1131 defm V_CMPX_EQ_I32    : VOPC_Real_vi <0xd2>;
1132 defm V_CMPX_LE_I32    : VOPC_Real_vi <0xd3>;
1133 defm V_CMPX_GT_I32    : VOPC_Real_vi <0xd4>;
1134 defm V_CMPX_NE_I32    : VOPC_Real_vi <0xd5>;
1135 defm V_CMPX_GE_I32    : VOPC_Real_vi <0xd6>;
1136 defm V_CMPX_T_I32     : VOPC_Real_vi <0xd7>;
1137
1138 defm V_CMP_F_I64      : VOPC_Real_vi <0xe0>;
1139 defm V_CMP_LT_I64     : VOPC_Real_vi <0xe1>;
1140 defm V_CMP_EQ_I64     : VOPC_Real_vi <0xe2>;
1141 defm V_CMP_LE_I64     : VOPC_Real_vi <0xe3>;
1142 defm V_CMP_GT_I64     : VOPC_Real_vi <0xe4>;
1143 defm V_CMP_NE_I64     : VOPC_Real_vi <0xe5>;
1144 defm V_CMP_GE_I64     : VOPC_Real_vi <0xe6>;
1145 defm V_CMP_T_I64      : VOPC_Real_vi <0xe7>;
1146
1147 defm V_CMPX_F_I64     : VOPC_Real_vi <0xf0>;
1148 defm V_CMPX_LT_I64    : VOPC_Real_vi <0xf1>;
1149 defm V_CMPX_EQ_I64    : VOPC_Real_vi <0xf2>;
1150 defm V_CMPX_LE_I64    : VOPC_Real_vi <0xf3>;
1151 defm V_CMPX_GT_I64    : VOPC_Real_vi <0xf4>;
1152 defm V_CMPX_NE_I64    : VOPC_Real_vi <0xf5>;
1153 defm V_CMPX_GE_I64    : VOPC_Real_vi <0xf6>;
1154 defm V_CMPX_T_I64     : VOPC_Real_vi <0xf7>;
1155
1156 defm V_CMP_F_U32      : VOPC_Real_vi <0xc8>;
1157 defm V_CMP_LT_U32     : VOPC_Real_vi <0xc9>;
1158 defm V_CMP_EQ_U32     : VOPC_Real_vi <0xca>;
1159 defm V_CMP_LE_U32     : VOPC_Real_vi <0xcb>;
1160 defm V_CMP_GT_U32     : VOPC_Real_vi <0xcc>;
1161 defm V_CMP_NE_U32     : VOPC_Real_vi <0xcd>;
1162 defm V_CMP_GE_U32     : VOPC_Real_vi <0xce>;
1163 defm V_CMP_T_U32      : VOPC_Real_vi <0xcf>;
1164
1165 defm V_CMPX_F_U32     : VOPC_Real_vi <0xd8>;
1166 defm V_CMPX_LT_U32    : VOPC_Real_vi <0xd9>;
1167 defm V_CMPX_EQ_U32    : VOPC_Real_vi <0xda>;
1168 defm V_CMPX_LE_U32    : VOPC_Real_vi <0xdb>;
1169 defm V_CMPX_GT_U32    : VOPC_Real_vi <0xdc>;
1170 defm V_CMPX_NE_U32    : VOPC_Real_vi <0xdd>;
1171 defm V_CMPX_GE_U32    : VOPC_Real_vi <0xde>;
1172 defm V_CMPX_T_U32     : VOPC_Real_vi <0xdf>;
1173
1174 defm V_CMP_F_U64      : VOPC_Real_vi <0xe8>;
1175 defm V_CMP_LT_U64     : VOPC_Real_vi <0xe9>;
1176 defm V_CMP_EQ_U64     : VOPC_Real_vi <0xea>;
1177 defm V_CMP_LE_U64     : VOPC_Real_vi <0xeb>;
1178 defm V_CMP_GT_U64     : VOPC_Real_vi <0xec>;
1179 defm V_CMP_NE_U64     : VOPC_Real_vi <0xed>;
1180 defm V_CMP_GE_U64     : VOPC_Real_vi <0xee>;
1181 defm V_CMP_T_U64      : VOPC_Real_vi <0xef>;
1182
1183 defm V_CMPX_F_U64     : VOPC_Real_vi <0xf8>;
1184 defm V_CMPX_LT_U64    : VOPC_Real_vi <0xf9>;
1185 defm V_CMPX_EQ_U64    : VOPC_Real_vi <0xfa>;
1186 defm V_CMPX_LE_U64    : VOPC_Real_vi <0xfb>;
1187 defm V_CMPX_GT_U64    : VOPC_Real_vi <0xfc>;
1188 defm V_CMPX_NE_U64    : VOPC_Real_vi <0xfd>;
1189 defm V_CMPX_GE_U64    : VOPC_Real_vi <0xfe>;
1190 defm V_CMPX_T_U64     : VOPC_Real_vi <0xff>;