llvm/test/Transforms/InstSimplify/fp-nan.ll

   1 ; NOTE: Assertions have been autogenerated by utils/update_test_checks.py
   2 ; RUN: opt < %s -passes=instsimplify -S | FileCheck %s
   3
   4 ; Default NaN constant
   5
   6 define double @fadd_nan_op0(double %x) {
   7 ; CHECK-LABEL: @fadd_nan_op0(
   8 ; CHECK-NEXT:    ret double 0x7FF8000000000000
   9 ;
  10   %r = fadd double 0x7FF8000000000000, %x
  11   ret double %r
  12 }
  13
  14 ; Sign bit is set
  15
  16 define double @fadd_nan_op1(double %x) {
  17 ; CHECK-LABEL: @fadd_nan_op1(
  18 ; CHECK-NEXT:    ret double 0xFFF8000000000000
  19 ;
  20   %r = fadd double %x, 0xFFF8000000000000
  21   ret double %r
  22 }
  23
  24 ; Non-zero payload
  25
  26 define float @fsub_nan_op0(float %x) {
  27 ; CHECK-LABEL: @fsub_nan_op0(
  28 ; CHECK-NEXT:    ret float 0x7FFFFF0000000000
  29 ;
  30   %r = fsub float 0x7FFFFF0000000000, %x
  31   ret float %r
  32 }
  33
  34 ; Signaling - make quiet and preserve the payload and signbit
  35
  36 define float @fsub_nan_op1(float %x) {
  37 ; CHECK-LABEL: @fsub_nan_op1(
  38 ; CHECK-NEXT:    ret float 0x7FF9000000000000
  39 ;
  40   %r = fsub float %x, 0x7FF1000000000000
  41   ret float %r
  42 }
  43
  44 define <2 x float> @fsub_nan_op1_vec(<2 x float> %x) {
  45 ; CHECK-LABEL: @fsub_nan_op1_vec(
  46 ; CHECK-NEXT:    ret <2 x float> <float 0x7FF9000000000000, float 0xFFF9000000000000>
  47 ;
  48   %r = fsub <2 x float> %x, <float 0x7FF1000000000000, float 0xFFF1000000000000>
  49   ret <2 x float> %r
  50 }
  51
  52 define <vscale x 1 x float> @fsub_nan_op1_scalable_vec_0(<vscale x 1 x float> %x) {
  53 ; CHECK-LABEL: @fsub_nan_op1_scalable_vec_0(
  54 ; CHECK-NEXT:    ret <vscale x 1 x float> shufflevector (<vscale x 1 x float> insertelement (<vscale x 1 x float> poison, float 0x7FF9000000000000, i64 0), <vscale x 1 x float> poison, <vscale x 1 x i32> zeroinitializer)
  55 ;
  56   %r = fsub <vscale x 1 x float> %x, shufflevector (<vscale x 1 x float> insertelement (<vscale x 1 x float> poison, float 0x7FF1000000000000, i64 0), <vscale x 1 x float> poison, <vscale x 1 x i32> zeroinitializer)
  57   ret <vscale x 1 x float> %r
  58 }
  59
  60 define <vscale x 1 x float> @fsub_nan_op1_scalable_vec_1(<vscale x 1 x float> %x) {
  61 ; CHECK-LABEL: @fsub_nan_op1_scalable_vec_1(
  62 ; CHECK-NEXT:    ret <vscale x 1 x float> shufflevector (<vscale x 1 x float> insertelement (<vscale x 1 x float> poison, float 0xFFF9000000000000, i64 0), <vscale x 1 x float> poison, <vscale x 1 x i32> zeroinitializer)
  63 ;
  64   %r = fsub <vscale x 1 x float> %x, shufflevector (<vscale x 1 x float> insertelement (<vscale x 1 x float> poison, float 0xFFF1000000000000, i64 0), <vscale x 1 x float> poison, <vscale x 1 x i32> zeroinitializer)
  65   ret <vscale x 1 x float> %r
  66 }
  67
  68 ; Signaling and signed - make quiet and preserve the payload and signbit
  69
  70 define double @fmul_nan_op0(double %x) {
  71 ; CHECK-LABEL: @fmul_nan_op0(
  72 ; CHECK-NEXT:    ret double 0xFFF8000000000001
  73 ;
  74   %r = fmul double 0xFFF0000000000001, %x
  75   ret double %r
  76 }
  77
  78 define <2 x double> @fmul_nan_op0_vec(<2 x double> %x) {
  79 ; CHECK-LABEL: @fmul_nan_op0_vec(
  80 ; CHECK-NEXT:    ret <2 x double> <double 0xFFF8000000000001, double 0xFFF8DEADDEADDEAD>
  81 ;
  82   %r = fmul <2 x double> <double 0xFFF0000000000001, double 0xFFF0DEADDEADDEAD>, %x
  83   ret <2 x double> %r
  84 }
  85
  86 define <vscale x 1 x double> @fmul_nan_op0_scalable_vec_0(<vscale x 1 x double> %x) {
  87 ; CHECK-LABEL: @fmul_nan_op0_scalable_vec_0(
  88 ; CHECK-NEXT:    ret <vscale x 1 x double> shufflevector (<vscale x 1 x double> insertelement (<vscale x 1 x double> poison, double 0xFFF8000000000001, i64 0), <vscale x 1 x double> poison, <vscale x 1 x i32> zeroinitializer)
  89 ;
  90   %r = fmul <vscale x 1 x double> shufflevector (<vscale x 1 x double> insertelement (<vscale x 1 x double> poison, double 0xFFF0000000000001, i64 0), <vscale x 1 x double> poison, <vscale x 1 x i32> zeroinitializer), %x
  91   ret <vscale x 1 x double> %r
  92 }
  93
  94 define <vscale x 1 x double> @fmul_nan_op0_scalable_vec_1(<vscale x 1 x double> %x) {
  95 ; CHECK-LABEL: @fmul_nan_op0_scalable_vec_1(
  96 ; CHECK-NEXT:    ret <vscale x 1 x double> shufflevector (<vscale x 1 x double> insertelement (<vscale x 1 x double> poison, double 0xFFF8DEADDEADDEAD, i64 0), <vscale x 1 x double> poison, <vscale x 1 x i32> zeroinitializer)
  97 ;
  98   %r = fmul <vscale x 1 x double> shufflevector (<vscale x 1 x double> insertelement (<vscale x 1 x double> poison, double 0xFFF0DEADDEADDEAD, i64 0), <vscale x 1 x double> poison, <vscale x 1 x i32> zeroinitializer), %x
  99   ret <vscale x 1 x double> %r
 100 }
 101
 102 ; Vector type
 103
 104 define <2 x float> @fmul_nan_op1(<2 x float> %x) {
 105 ; CHECK-LABEL: @fmul_nan_op1(
 106 ; CHECK-NEXT:    ret <2 x float> <float 0x7FF8000000000000, float 0x7FF8000000000000>
 107 ;
 108   %r = fmul <2 x float> %x, <float 0x7FF8000000000000, float 0x7FF8000000000000>
 109   ret <2 x float> %r
 110 }
 111
 112 define <vscale x 1 x double> @fmul_nan_op1_scalable_vec(<vscale x 1 x double> %x) {
 113 ; CHECK-LABEL: @fmul_nan_op1_scalable_vec(
 114 ; CHECK-NEXT:    ret <vscale x 1 x double> shufflevector (<vscale x 1 x double> insertelement (<vscale x 1 x double> poison, double 0x7FF8000000000000, i64 0), <vscale x 1 x double> poison, <vscale x 1 x i32> zeroinitializer)
 115 ;
 116   %r = fmul <vscale x 1 x double> %x, shufflevector (<vscale x 1 x double> insertelement (<vscale x 1 x double> poison, double 0x7FF8000000000000, i64 0), <vscale x 1 x double> poison, <vscale x 1 x i32> zeroinitializer)
 117   ret <vscale x 1 x double> %r
 118 }
 119
 120 ; Vector signed and non-zero payload
 121
 122 define <2 x double> @fdiv_nan_op0(<2 x double> %x) {
 123 ; CHECK-LABEL: @fdiv_nan_op0(
 124 ; CHECK-NEXT:    ret <2 x double> <double 0xFFF800000000000F, double 0xFFF800000000000F>
 125 ;
 126   %r = fdiv <2 x double> <double 0xFFF800000000000F, double 0xFFF800000000000F>, %x
 127   ret <2 x double>  %r
 128 }
 129
 130 define <vscale x 1 x double> @fdivl_nan_op0_scalable_vec(<vscale x 1 x double> %x) {
 131 ; CHECK-LABEL: @fdivl_nan_op0_scalable_vec(
 132 ; CHECK-NEXT:    ret <vscale x 1 x double> shufflevector (<vscale x 1 x double> insertelement (<vscale x 1 x double> poison, double 0xFFF800000000000F, i64 0), <vscale x 1 x double> poison, <vscale x 1 x i32> zeroinitializer)
 133 ;
 134   %r = fdiv <vscale x 1 x double> shufflevector (<vscale x 1 x double> insertelement (<vscale x 1 x double> poison, double 0xFFF800000000000F, i64 0), <vscale x 1 x double> poison, <vscale x 1 x i32> zeroinitializer), %x
 135   ret <vscale x 1 x double> %r
 136 }
 137
 138 ; Vector with different NaN constant elements
 139
 140 define <2 x half> @fdiv_nan_op1(<2 x half> %x) {
 141 ; CHECK-LABEL: @fdiv_nan_op1(
 142 ; CHECK-NEXT:    ret <2 x half> <half 0xH7FFF, half 0xHFF00>
 143 ;
 144   %r = fdiv <2 x half> %x, <half 0xH7FFF, half 0xHFF00>
 145   ret <2 x half> %r
 146 }
 147
 148 define <vscale x 1 x half> @fdiv_nan_op1_scalable_vec(<vscale x 1 x half> %x) {
 149 ; CHECK-LABEL: @fdiv_nan_op1_scalable_vec(
 150 ; CHECK-NEXT:    ret <vscale x 1 x half> shufflevector (<vscale x 1 x half> insertelement (<vscale x 1 x half> poison, half 0xH7FFF, i64 0), <vscale x 1 x half> poison, <vscale x 1 x i32> zeroinitializer)
 151 ;
 152   %r = fdiv <vscale x 1 x half> %x, shufflevector (<vscale x 1 x half> insertelement (<vscale x 1 x half> poison, half 0xH7FFF, i64 0), <vscale x 1 x half> poison, <vscale x 1 x i32> zeroinitializer)
 153   ret <vscale x 1 x half> %r
 154 }
 155
 156 ; Vector with poison element
 157
 158 define <2 x double> @fsub_nan_poison_op1(<2 x double> %x) {
 159 ; CHECK-LABEL: @fsub_nan_poison_op1(
 160 ; CHECK-NEXT:    ret <2 x double> <double 0xFFFF00000000DEAD, double poison>
 161 ;
 162   %r = fsub <2 x double> %x, <double 0xFFFF00000000DEAD, double poison>
 163   ret <2 x double> %r
 164 }
 165
 166 ; Vector with undef element
 167
 168 define <2 x double> @frem_nan_undef_op0(<2 x double> %x) {
 169 ; CHECK-LABEL: @frem_nan_undef_op0(
 170 ; CHECK-NEXT:    ret <2 x double> <double 0xFFFF00000000DEAD, double 0x7FF8000000000000>
 171 ;
 172   %r = frem <2 x double> <double 0xFFFF00000000DEAD, double undef>, %x
 173   ret <2 x double> %r
 174 }
 175
 176 ; Vector with poison and undef elements
 177
 178 define <3 x double> @fadd_nan_poison_undef_op1(<3 x double> %x) {
 179 ; CHECK-LABEL: @fadd_nan_poison_undef_op1(
 180 ; CHECK-NEXT:    ret <3 x double> <double 0xFFFF00000000DEAD, double poison, double 0x7FF8000000000000>
 181 ;
 182   %r = fadd <3 x double> %x, <double 0xFFFF00000000DEAD, double poison, double undef>
 183   ret <3 x double> %r
 184 }
 185
 186 define float @frem_nan_op1(float %x) {
 187 ; CHECK-LABEL: @frem_nan_op1(
 188 ; CHECK-NEXT:    ret float 0x7FF8000000000000
 189 ;
 190   %r = frem float %x, 0x7FF8000000000000
 191   ret float %r
 192 }
 193
 194 ; Special-case: fneg must only change the sign bit (this is handled by constant folding).
 195
 196 define double @fneg_nan_1(double %x) {
 197 ; CHECK-LABEL: @fneg_nan_1(
 198 ; CHECK-NEXT:    ret double 0x7FFABCDEF0123456
 199 ;
 200   %r = fsub double -0.0, 0x7FFABCDEF0123456
 201   ret double %r
 202 }
 203
 204 define double @unary_fneg_nan_1(double %x) {
 205 ; CHECK-LABEL: @unary_fneg_nan_1(
 206 ; CHECK-NEXT:    ret double 0xFFFABCDEF0123456
 207 ;
 208   %r = fneg double 0x7FFABCDEF0123456
 209   ret double %r
 210 }
 211
 212 define <2 x double> @fneg_nan_2(<2 x double> %x) {
 213 ; CHECK-LABEL: @fneg_nan_2(
 214 ; CHECK-NEXT:    ret <2 x double> <double 0xFFF9234567890ABC, double 0x7FF8000000000001>
 215 ;
 216   %r = fsub <2 x double> <double -0.0, double -0.0>, <double 0xFFF1234567890ABC, double 0x7FF0000000000001>
 217   ret <2 x double> %r
 218 }
 219
 220 define <vscale x 1 x double> @fneg_nan_2_scalable_vec() {
 221 ; CHECK-LABEL: @fneg_nan_2_scalable_vec(
 222 ; CHECK-NEXT:    ret <vscale x 1 x double> shufflevector (<vscale x 1 x double> insertelement (<vscale x 1 x double> poison, double 0xFFF9234567890ABC, i64 0), <vscale x 1 x double> poison, <vscale x 1 x i32> zeroinitializer)
 223 ;
 224   %r = fsub <vscale x 1 x double> shufflevector (<vscale x 1 x double> insertelement (<vscale x 1 x double> poison, double -0.0, i64 0), <vscale x 1 x double> poison, <vscale x 1 x i32> zeroinitializer), shufflevector (<vscale x 1 x double> insertelement (<vscale x 1 x double> poison, double 0xFFF1234567890ABC, i64 0), <vscale x 1 x double> poison, <vscale x 1 x i32> zeroinitializer)
 225   ret <vscale x 1 x double> %r
 226 }
 227
 228 define <2 x double> @unary_fneg_nan_2(<2 x double> %x) {
 229 ; CHECK-LABEL: @unary_fneg_nan_2(
 230 ; CHECK-NEXT:    ret <2 x double> <double 0x7FF1234567890ABC, double 0xFFF0000000000001>
 231 ;
 232   %r = fneg <2 x double> <double 0xFFF1234567890ABC, double 0x7FF0000000000001>
 233   ret <2 x double> %r
 234 }
 235
 236 ; FIXME: This doesn't behave the same way as the fixed-length vectors above
 237 define <vscale x 1 x double> @unary_fneg_nan_2_scalable_vec_0() {
 238 ; CHECK-LABEL: @unary_fneg_nan_2_scalable_vec_0(
 239 ; CHECK-NEXT:    [[R:%.*]] = fneg <vscale x 1 x double> shufflevector (<vscale x 1 x double> insertelement (<vscale x 1 x double> poison, double 0xFFF1234567890ABC, i64 0), <vscale x 1 x double> poison, <vscale x 1 x i32> zeroinitializer)
 240 ; CHECK-NEXT:    ret <vscale x 1 x double> [[R]]
 241 ;
 242   %r = fneg <vscale x 1 x double> shufflevector (<vscale x 1 x double> insertelement (<vscale x 1 x double> poison, double 0xFFF1234567890ABC, i64 0), <vscale x 1 x double> poison, <vscale x 1 x i32> zeroinitializer)
 243   ret <vscale x 1 x double> %r
 244 }
 245
 246 ; FIXME: This doesn't behave the same way as the fixed-length vectors above
 247 define <vscale x 1 x double> @unary_fneg_nan_2_scalable_vec_1() {
 248 ; CHECK-LABEL: @unary_fneg_nan_2_scalable_vec_1(
 249 ; CHECK-NEXT:    [[R:%.*]] = fneg <vscale x 1 x double> shufflevector (<vscale x 1 x double> insertelement (<vscale x 1 x double> poison, double 0x7FF0000000000001, i64 0), <vscale x 1 x double> poison, <vscale x 1 x i32> zeroinitializer)
 250 ; CHECK-NEXT:    ret <vscale x 1 x double> [[R]]
 251 ;
 252   %r = fneg <vscale x 1 x double> shufflevector (<vscale x 1 x double> insertelement (<vscale x 1 x double> poison, double 0x7FF0000000000001, i64 0), <vscale x 1 x double> poison, <vscale x 1 x i32> zeroinitializer)
 253   ret <vscale x 1 x double> %r
 254 }
 255
 256 ; Repeat all tests with fast-math-flags. Alternate 'nnan' and 'fast' for more coverage.
 257
 258 define float @fadd_nan_op0_nnan(float %x) {
 259 ; CHECK-LABEL: @fadd_nan_op0_nnan(
 260 ; CHECK-NEXT:    ret float poison
 261 ;
 262   %r = fadd nnan float 0x7FF8000000000000, %x
 263   ret float %r
 264 }
 265
 266 define float @fadd_nan_op1_fast(float %x) {
 267 ; CHECK-LABEL: @fadd_nan_op1_fast(
 268 ; CHECK-NEXT:    ret float poison
 269 ;
 270   %r = fadd fast float %x, 0x7FF8000000000000
 271   ret float %r
 272 }
 273
 274 define float @fsub_nan_op0_fast(float %x) {
 275 ; CHECK-LABEL: @fsub_nan_op0_fast(
 276 ; CHECK-NEXT:    ret float poison
 277 ;
 278   %r = fsub fast float 0x7FF8000000000000, %x
 279   ret float %r
 280 }
 281
 282 define float @fsub_nan_op1_nnan(float %x) {
 283 ; CHECK-LABEL: @fsub_nan_op1_nnan(
 284 ; CHECK-NEXT:    ret float poison
 285 ;
 286   %r = fsub nnan float %x, 0x7FF8000000000000
 287   ret float %r
 288 }
 289
 290 define float @fmul_nan_op0_nnan(float %x) {
 291 ; CHECK-LABEL: @fmul_nan_op0_nnan(
 292 ; CHECK-NEXT:    ret float poison
 293 ;
 294   %r = fmul nnan float 0x7FF8000000000000, %x
 295   ret float %r
 296 }
 297
 298 define float @fmul_nan_op1_fast(float %x) {
 299 ; CHECK-LABEL: @fmul_nan_op1_fast(
 300 ; CHECK-NEXT:    ret float poison
 301 ;
 302   %r = fmul fast float %x, 0x7FF8000000000000
 303   ret float %r
 304 }
 305
 306 define float @fdiv_nan_op0_fast(float %x) {
 307 ; CHECK-LABEL: @fdiv_nan_op0_fast(
 308 ; CHECK-NEXT:    ret float poison
 309 ;
 310   %r = fdiv fast float 0x7FF8000000000000, %x
 311   ret float %r
 312 }
 313
 314 define float @fdiv_nan_op1_nnan(float %x) {
 315 ; CHECK-LABEL: @fdiv_nan_op1_nnan(
 316 ; CHECK-NEXT:    ret float poison
 317 ;
 318   %r = fdiv nnan float %x, 0x7FF8000000000000
 319   ret float %r
 320 }
 321
 322 define float @frem_nan_op0_nnan(float %x) {
 323 ; CHECK-LABEL: @frem_nan_op0_nnan(
 324 ; CHECK-NEXT:    ret float poison
 325 ;
 326   %r = frem nnan float 0x7FF8000000000000, %x
 327   ret float %r
 328 }
 329
 330 define float @frem_nan_op1_fast(float %x) {
 331 ; CHECK-LABEL: @frem_nan_op1_fast(
 332 ; CHECK-NEXT:    ret float poison
 333 ;
 334   %r = frem fast float %x, 0x7FF8000000000000
 335   ret float %r
 336 }
 337