tests/ulp_tests.mac

   1 /*
   2  * The following tests assume the default value for fpprec; make sure
   3  * it's the default
   4 */
   5 (reset(fpprec), 0);
   6 0;
   7
   8 unit_in_last_place(0) ;
   9 1 ;
  10
  11 unit_in_last_place(-534234) ;
  12 1 ;
  13
  14 unit_in_last_place(2/3) ;
  15 0 ;
  16
  17 unit_in_last_place(0.0b0) ;
  18 0.0b0 ;
  19
  20 unit_in_last_place(0.0) - least_positive_float ;
  21 0.0;
  22
  23 unit_in_last_place(2*unit_in_last_place(0.0)) - least_positive_float ;
  24 0.0;
  25
  26 unit_in_last_place(unit_in_last_place(0.0)*(2^53+1)) - least_positive_float ;
  27 0.0;
  28
  29 unit_in_last_place(unit_in_last_place(0.0)*(2^53+2)) - 2*least_positive_float ;
  30 0.0;
  31
  32 2*unit_in_last_place(float((0+2^52)/2^1073)) - unit_in_last_place(float((1+2^52)/2^1073)) ;
  33 0.0 ;
  34
  35 unit_in_last_place(1.0)-unit_in_last_place(.9999) ;
  36 0.0 ;
  37
  38 unit_in_last_place(1.0001)-2*unit_in_last_place(1.0000) ;
  39 0.0 ;
  40
  41 unit_in_last_place(1.0b0)-unit_in_last_place(.9999b0) ;
  42 0.0b0 ;
  43
  44 unit_in_last_place(1.0001b0)-2*unit_in_last_place(1.0000b0) ;
  45 0.0b0 ;
  46
  47 2.0^1023*(2.0-unit_in_last_place(2.0)) - most_positive_float ;
  48 0.0 ;
  49
  50 unit_in_last_place(-1.0)-unit_in_last_place(1.0) ;
  51 0.0 ;
  52
  53 is_power_of_two(0) ;
  54 false ;
  55
  56 is_power_of_two(1) ;
  57 true ;
  58
  59 is_power_of_two(1048576) ;
  60 true ;
  61
  62 is_power_of_two(1048575) ;
  63 false ;
  64
  65 is_power_of_two(1048577) ;
  66 false ;
  67
  68 is_power_of_two(1/256) ;
  69 true ;
  70
  71 is_power_of_two(1/384) ;
  72 false ;
  73
  74 is_power_of_two(0.0e0) ;
  75 false ;
  76
  77 is_power_of_two(1.0e0) ;
  78 true ;
  79
  80 is_power_of_two(1048576.0e0) ;
  81 true ;
  82
  83 is_power_of_two(1048575.0e0) ;
  84 false ;
  85
  86 is_power_of_two(1048577.0e0) ;
  87 false ;
  88
  89 is_power_of_two(1/256.0e0) ;
  90 true ;
  91
  92 is_power_of_two(0.0b0) ;
  93 false ;
  94
  95 is_power_of_two(1.0b0) ;
  96 true ;
  97
  98 is_power_of_two(1048576.0b0) ;
  99 true ;
 100
 101 is_power_of_two(1048575.0b0) ;
 102 false ;
 103
 104 is_power_of_two(1048577.0b0) ;
 105 false ;
 106
 107 is_power_of_two(1/256.0b0) ;
 108 true ;
 109
 110 decode_float(3.0);
 111 [1.5, 1, 1.0];
 112
 113 decode_float(-0.25);
 114 [1.0, - 2, - 1.0];
 115
 116 decode_float(3b0);
 117 [1.5b0, 1, 1.0b0];
 118
 119 decode_float(-0.25b0);
 120 [1.0b0, - 2, - 1.0b0];
 121
 122 decode_float(least_positive_normalized_float);
 123 [1.0, - 1022, 1.0];
 124
 125 decode_float(most_positive_float);
 126 [1.9999999999999998, 1023, 1.0];
 127
 128 /* This assumes denormals are supported .*/
 129 decode_float(least_positive_float);
 130 [1.0, - 1074, 1.0];
 131
 132 integer_decode_float(3.0);
 133 [6755399441055744, - 51, 1];
 134
 135 integer_decode_float(-0.25);
 136 [4503599627370496, - 54, - 1];
 137
 138 integer_decode_float(3b0);
 139 [54043195528445952, - 54, 1];
 140
 141 integer_decode_float(-0.25b0);
 142 [36028797018963968, - 57, - 1];
 143
 144 integer_decode_float(least_positive_normalized_float);
 145 [4503599627370496, - 1074, 1];
 146
 147 integer_decode_float(most_positive_float);
 148 [9007199254740991, 971, 1];
 149
 150 /* This assumes denormals are supported .*/
 151 integer_decode_float(least_positive_float);
 152 [1, - 1074, 1];
 153
 154 scale_float(1.0, 2);
 155 4.0;
 156
 157 scale_float(-1.0, 2);
 158 -4.0;
 159
 160 scale_float(1.0, -5000);
 161 0.0;
 162
 163 /*
 164  * The second scale_float was determined from integer_decode_float to
 165  * get the bits, and scaled by -53 to get the final result.
 166  */
 167 scale_float(most_positive_float, -1024) - scale_float(float(9007199254740991),-53);
 168 0.0;
 169
 170 scale_float(1b0, 2);
 171 4b0;
 172
 173 scale_float(-1b0, 2);
 174 -4b0;
 175
 176 scale_float(0.125b0, 3);
 177 1.0b0;
 178
 179 float_sign(-5.0);
 180 -1.0;
 181
 182 float_sign(5.0);
 183 1.0;
 184
 185 float_sign(0.0);
 186 1.0;
 187
 188 float_sign(-5b0);
 189 -1b0;
 190
 191 float_sign(5b0);
 192 1b0;
 193
 194 float_sign(0b0);
 195 1b0;
 196
 197 float_sign(-0b0);
 198 1b0;
 199