llvm/test/Transforms/PhaseOrdering/X86/masked-memory-ops.ll

   1 ; NOTE: Assertions have been autogenerated by utils/update_test_checks.py
   2 ; RUN: opt < %s -O2 -S                                        | FileCheck %s
   3 ; RUN: opt < %s -passes='default<O2>' -S | FileCheck %s
   4
   5 target triple = "x86_64--"
   6 target datalayout = "e-m:e-i64:64-f80:128-n8:16:32:64-S128"
   7
   8 declare void @llvm.x86.avx.maskstore.ps.256(i8*, <8 x i32>, <8 x float>) #0
   9 declare void @llvm.masked.store.v8f32.p0v8f32(<8 x float>, <8 x float>*, i32, <8 x i1>)
  10
  11 ; PR11210: If we have been able to replace a AVX/AVX2 masked store with a
  12 ; generic masked store intrinsic, then we should be able to remove dead
  13 ; masked stores.
  14
  15 define void @PR11210_v8f32_maskstore_maskstore(i8* %ptr, <8 x float> %x, <8 x float> %y, <8 x i32> %src) {
  16 ; CHECK-LABEL: @PR11210_v8f32_maskstore_maskstore(
  17 ; CHECK-NEXT:    [[CMP:%.*]] = icmp sgt <8 x i32> [[SRC:%.*]], zeroinitializer
  18 ; CHECK-NEXT:    [[CASTVEC:%.*]] = bitcast i8* [[PTR:%.*]] to <8 x float>*
  19 ; CHECK-NEXT:    tail call void @llvm.masked.store.v8f32.p0v8f32(<8 x float> [[Y:%.*]], <8 x float>* [[CASTVEC]], i32 1, <8 x i1> [[CMP]])
  20 ; CHECK-NEXT:    ret void
  21 ;
  22   %cmp = icmp sgt <8 x i32> %src, zeroinitializer
  23   %mask = sext <8 x i1> %cmp to <8 x i32>
  24   call void @llvm.x86.avx.maskstore.ps.256(i8* %ptr, <8 x i32> %mask, <8 x float> %x)
  25   call void @llvm.x86.avx.maskstore.ps.256(i8* %ptr, <8 x i32> %mask, <8 x float> %y)
  26   ret void
  27 }
  28
  29 ; The contents of %mask are unknown so we don't replace this with a generic masked.store.
  30 define void @PR11210_v8f32_maskstore_maskstore_raw_mask(i8* %ptr, <8 x float> %x, <8 x float> %y, <8 x i32> %mask) {
  31 ; CHECK-LABEL: @PR11210_v8f32_maskstore_maskstore_raw_mask(
  32 ; CHECK-NEXT:    tail call void @llvm.x86.avx.maskstore.ps.256(i8* [[PTR:%.*]], <8 x i32> [[MASK:%.*]], <8 x float> [[X:%.*]])
  33 ; CHECK-NEXT:    tail call void @llvm.x86.avx.maskstore.ps.256(i8* [[PTR]], <8 x i32> [[MASK]], <8 x float> [[Y:%.*]])
  34 ; CHECK-NEXT:    ret void
  35 ;
  36   call void @llvm.x86.avx.maskstore.ps.256(i8* %ptr, <8 x i32> %mask, <8 x float> %x)
  37   call void @llvm.x86.avx.maskstore.ps.256(i8* %ptr, <8 x i32> %mask, <8 x float> %y)
  38   ret void
  39 }
  40
  41 ; Mix AVX and generic masked stores.
  42 define void @PR11210_v8f32_mstore_maskstore(i8* %ptr, <8 x float> %x, <8 x float> %y, <8 x i32> %src) {
  43 ; CHECK-LABEL: @PR11210_v8f32_mstore_maskstore(
  44 ; CHECK-NEXT:    [[CMP:%.*]] = icmp sgt <8 x i32> [[SRC:%.*]], zeroinitializer
  45 ; CHECK-NEXT:    [[PTRF:%.*]] = bitcast i8* [[PTR:%.*]] to <8 x float>*
  46 ; CHECK-NEXT:    tail call void @llvm.masked.store.v8f32.p0v8f32(<8 x float> [[Y:%.*]], <8 x float>* [[PTRF]], i32 1, <8 x i1> [[CMP]])
  47 ; CHECK-NEXT:    ret void
  48 ;
  49   %cmp = icmp sgt <8 x i32> %src, zeroinitializer
  50   %mask = sext <8 x i1> %cmp to <8 x i32>
  51   %ptrf = bitcast i8* %ptr to <8 x float>*
  52   tail call void @llvm.masked.store.v8f32.p0v8f32(<8 x float> %x, <8 x float>* %ptrf, i32 1, <8 x i1> %cmp)
  53   call void @llvm.x86.avx.maskstore.ps.256(i8* %ptr, <8 x i32> %mask, <8 x float> %y)
  54   ret void
  55 }
  56