llvm/test/Transforms/CodeGenPrepare/X86/gather-scatter-opt-inseltpoison.ll

   1 ; NOTE: Assertions have been autogenerated by utils/update_test_checks.py
   2 ; RUN: opt -S -passes='require<profile-summary>,function(codegenprepare)' < %s | FileCheck %s
   3 ; RUN: opt -S -passes='require<profile-summary>,function(codegenprepare)' -cgpp-huge-func=0 < %s | FileCheck %s
   4
   5 target datalayout =
   6 "e-p:64:64:64-i1:8:8-i8:8:8-i16:16:16-i32:32:32-i64:64:64-f32:32:32-f64:64:64-v64:64:64-v128:128:128-a0:0:64-s0:64:64-f80:128:128"
   7 target triple = "x86_64-unknown-linux-gnu"
   8
   9 %struct.a = type { i32, i32 }
  10 @c = external dso_local global %struct.a, align 4
  11 @glob_array = internal unnamed_addr constant [16 x i32] [i32 1, i32 1, i32 2, i32 3, i32 5, i32 8, i32 13, i32 21, i32 34, i32 55, i32 89, i32 144, i32 233, i32 377, i32 610, i32 987], align 16
  12
  13 define <4 x i32> @splat_base(ptr %base, <4 x i64> %index) {
  14 ; CHECK-LABEL: @splat_base(
  15 ; CHECK-NEXT:    [[TMP1:%.*]] = getelementptr i32, ptr [[BASE:%.*]], <4 x i64> [[INDEX:%.*]]
  16 ; CHECK-NEXT:    [[RES:%.*]] = call <4 x i32> @llvm.masked.gather.v4i32.v4p0(<4 x ptr> [[TMP1]], i32 4, <4 x i1> splat (i1 true), <4 x i32> undef)
  17 ; CHECK-NEXT:    ret <4 x i32> [[RES]]
  18 ;
  19   %broadcast.splatinsert = insertelement <4 x ptr> poison, ptr %base, i32 0
  20   %broadcast.splat = shufflevector <4 x ptr> %broadcast.splatinsert, <4 x ptr> poison, <4 x i32> zeroinitializer
  21   %gep = getelementptr i32, <4 x ptr> %broadcast.splat, <4 x i64> %index
  22   %res = call <4 x i32> @llvm.masked.gather.v4i32.v4p0(<4 x ptr> %gep, i32 4, <4 x i1> <i1 true, i1 true, i1 true, i1 true>, <4 x i32> undef)
  23   ret <4 x i32> %res
  24 }
  25
  26 define <4 x i32> @splat_struct(ptr %base) {
  27 ; CHECK-LABEL: @splat_struct(
  28 ; CHECK-NEXT:    [[TMP1:%.*]] = getelementptr [[STRUCT_A:%.*]], ptr [[BASE:%.*]], i64 0, i32 1
  29 ; CHECK-NEXT:    [[TMP2:%.*]] = getelementptr i32, ptr [[TMP1]], <4 x i64> zeroinitializer
  30 ; CHECK-NEXT:    [[RES:%.*]] = call <4 x i32> @llvm.masked.gather.v4i32.v4p0(<4 x ptr> [[TMP2]], i32 4, <4 x i1> splat (i1 true), <4 x i32> undef)
  31 ; CHECK-NEXT:    ret <4 x i32> [[RES]]
  32 ;
  33   %gep = getelementptr %struct.a, ptr %base, <4 x i64> zeroinitializer, i32 1
  34   %res = call <4 x i32> @llvm.masked.gather.v4i32.v4p0(<4 x ptr> %gep, i32 4, <4 x i1> <i1 true, i1 true, i1 true, i1 true>, <4 x i32> undef)
  35   ret <4 x i32> %res
  36 }
  37
  38 define <4 x i32> @scalar_index(ptr %base, i64 %index) {
  39 ; CHECK-LABEL: @scalar_index(
  40 ; CHECK-NEXT:    [[TMP1:%.*]] = getelementptr i32, ptr [[BASE:%.*]], i64 [[INDEX:%.*]]
  41 ; CHECK-NEXT:    [[TMP2:%.*]] = getelementptr i32, ptr [[TMP1]], <4 x i64> zeroinitializer
  42 ; CHECK-NEXT:    [[RES:%.*]] = call <4 x i32> @llvm.masked.gather.v4i32.v4p0(<4 x ptr> [[TMP2]], i32 4, <4 x i1> splat (i1 true), <4 x i32> undef)
  43 ; CHECK-NEXT:    ret <4 x i32> [[RES]]
  44 ;
  45   %broadcast.splatinsert = insertelement <4 x ptr> poison, ptr %base, i32 0
  46   %broadcast.splat = shufflevector <4 x ptr> %broadcast.splatinsert, <4 x ptr> poison, <4 x i32> zeroinitializer
  47   %gep = getelementptr i32, <4 x ptr> %broadcast.splat, i64 %index
  48   %res = call <4 x i32> @llvm.masked.gather.v4i32.v4p0(<4 x ptr> %gep, i32 4, <4 x i1> <i1 true, i1 true, i1 true, i1 true>, <4 x i32> undef)
  49   ret <4 x i32> %res
  50 }
  51
  52 define <4 x i32> @splat_index(ptr %base, i64 %index) {
  53 ; CHECK-LABEL: @splat_index(
  54 ; CHECK-NEXT:    [[TMP1:%.*]] = getelementptr i32, ptr [[BASE:%.*]], i64 [[INDEX:%.*]]
  55 ; CHECK-NEXT:    [[TMP2:%.*]] = getelementptr i32, ptr [[TMP1]], <4 x i64> zeroinitializer
  56 ; CHECK-NEXT:    [[RES:%.*]] = call <4 x i32> @llvm.masked.gather.v4i32.v4p0(<4 x ptr> [[TMP2]], i32 4, <4 x i1> splat (i1 true), <4 x i32> undef)
  57 ; CHECK-NEXT:    ret <4 x i32> [[RES]]
  58 ;
  59   %broadcast.splatinsert = insertelement <4 x i64> poison, i64 %index, i32 0
  60   %broadcast.splat = shufflevector <4 x i64> %broadcast.splatinsert, <4 x i64> poison, <4 x i32> zeroinitializer
  61   %gep = getelementptr i32, ptr %base, <4 x i64> %broadcast.splat
  62   %res = call <4 x i32> @llvm.masked.gather.v4i32.v4p0(<4 x ptr> %gep, i32 4, <4 x i1> <i1 true, i1 true, i1 true, i1 true>, <4 x i32> undef)
  63   ret <4 x i32> %res
  64 }
  65
  66 define <4 x i32> @test_global_array(<4 x i64> %indxs) {
  67 ; CHECK-LABEL: @test_global_array(
  68 ; CHECK-NEXT:    [[TMP1:%.*]] = getelementptr i32, ptr @glob_array, <4 x i64> [[INDXS:%.*]]
  69 ; CHECK-NEXT:    [[G:%.*]] = call <4 x i32> @llvm.masked.gather.v4i32.v4p0(<4 x ptr> [[TMP1]], i32 4, <4 x i1> splat (i1 true), <4 x i32> undef)
  70 ; CHECK-NEXT:    ret <4 x i32> [[G]]
  71 ;
  72   %p = getelementptr inbounds [16 x i32], ptr @glob_array, i64 0, <4 x i64> %indxs
  73   %g = call <4 x i32> @llvm.masked.gather.v4i32.v4p0(<4 x ptr> %p, i32 4, <4 x i1> <i1 true, i1 true, i1 true, i1 true>, <4 x i32> undef)
  74   ret <4 x i32> %g
  75 }
  76
  77 define <4 x i32> @global_struct_splat() {
  78 ; CHECK-LABEL: @global_struct_splat(
  79 ; CHECK-NEXT:    [[TMP1:%.*]] = call <4 x i32> @llvm.masked.gather.v4i32.v4p0(<4 x ptr> <ptr getelementptr ([[STRUCT_A:%.*]], ptr @c, i64 0, i32 1), ptr getelementptr ([[STRUCT_A]], ptr @c, i64 0, i32 1), ptr getelementptr ([[STRUCT_A]], ptr @c, i64 0, i32 1), ptr getelementptr ([[STRUCT_A]], ptr @c, i64 0, i32 1)>, i32 4, <4 x i1> splat (i1 true), <4 x i32> undef)
  80 ; CHECK-NEXT:    ret <4 x i32> [[TMP1]]
  81 ;
  82   %1 = insertelement <4 x ptr> poison, ptr @c, i32 0
  83   %2 = shufflevector <4 x ptr> %1, <4 x ptr> poison, <4 x i32> zeroinitializer
  84   %3 = getelementptr %struct.a, <4 x ptr> %2, <4 x i64> zeroinitializer, i32 1
  85   %4 = call <4 x i32> @llvm.masked.gather.v4i32.v4p0(<4 x ptr> %3, i32 4, <4 x i1> <i1 true, i1 true, i1 true, i1 true>, <4 x i32> undef)
  86   ret <4 x i32> %4
  87 }
  88
  89 define <4 x i32> @splat_ptr_gather(ptr %ptr, <4 x i1> %mask, <4 x i32> %passthru) {
  90 ; CHECK-LABEL: @splat_ptr_gather(
  91 ; CHECK-NEXT:    [[TMP1:%.*]] = getelementptr i32, ptr [[PTR:%.*]], <4 x i64> zeroinitializer
  92 ; CHECK-NEXT:    [[TMP2:%.*]] = call <4 x i32> @llvm.masked.gather.v4i32.v4p0(<4 x ptr> [[TMP1]], i32 4, <4 x i1> [[MASK:%.*]], <4 x i32> [[PASSTHRU:%.*]])
  93 ; CHECK-NEXT:    ret <4 x i32> [[TMP2]]
  94 ;
  95   %1 = insertelement <4 x ptr> poison, ptr %ptr, i32 0
  96   %2 = shufflevector <4 x ptr> %1, <4 x ptr> poison, <4 x i32> zeroinitializer
  97   %3 = call <4 x i32> @llvm.masked.gather.v4i32.v4p0(<4 x ptr> %2, i32 4, <4 x i1> %mask, <4 x i32> %passthru)
  98   ret <4 x i32> %3
  99 }
 100
 101 define void @splat_ptr_scatter(ptr %ptr, <4 x i1> %mask, <4 x i32> %val) {
 102 ; CHECK-LABEL: @splat_ptr_scatter(
 103 ; CHECK-NEXT:    [[TMP1:%.*]] = getelementptr i32, ptr [[PTR:%.*]], <4 x i64> zeroinitializer
 104 ; CHECK-NEXT:    call void @llvm.masked.scatter.v4i32.v4p0(<4 x i32> [[VAL:%.*]], <4 x ptr> [[TMP1]], i32 4, <4 x i1> [[MASK:%.*]])
 105 ; CHECK-NEXT:    ret void
 106 ;
 107   %1 = insertelement <4 x ptr> poison, ptr %ptr, i32 0
 108   %2 = shufflevector <4 x ptr> %1, <4 x ptr> poison, <4 x i32> zeroinitializer
 109   call void @llvm.masked.scatter.v4i32.v4p0(<4 x i32> %val, <4 x ptr> %2, i32 4, <4 x i1> %mask)
 110   ret void
 111 }
 112
 113 declare <4 x i32> @llvm.masked.gather.v4i32.v4p0(<4 x ptr>, i32, <4 x i1>, <4 x i32>)
 114 declare void @llvm.masked.scatter.v4i32.v4p0(<4 x i32>, <4 x ptr>, i32, <4 x i1>)