[SampleProfileLoader] Fix integer overflow in generateMDProfMetadata (#90217)
[llvm-project.git] / libclc / generic / lib / math / frexp.inc
blobb61cc3592a2a9efde6f18af9826b095b173c672d
1 /*
2  * Copyright (c) 2014 Advanced Micro Devices, Inc.
3  * Copyright (c) 2016 Aaron Watry
4  *
5  * Permission is hereby granted, free of charge, to any person obtaining a copy
6  * of this software and associated documentation files (the "Software"), to deal
7  * in the Software without restriction, including without limitation the rights
8  * to use, copy, modify, merge, publish, distribute, sublicense, and/or sell
9  * copies of the Software, and to permit persons to whom the Software is
10  * furnished to do so, subject to the following conditions:
11  *
12  * The above copyright notice and this permission notice shall be included in
13  * all copies or substantial portions of the Software.
14  *
15  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
16  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
17  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE
18  * AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
19  * LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM,
20  * OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN
21  * THE SOFTWARE.
22  */
24 #define __CLC_AS_GENTYPE __CLC_XCONCAT(as_, __CLC_GENTYPE)
25 #define __CLC_AS_INTN __CLC_XCONCAT(as_, __CLC_INTN)
27 #if __CLC_FPSIZE == 32
28 _CLC_OVERLOAD _CLC_DEF __CLC_GENTYPE frexp(__CLC_GENTYPE x, __CLC_ADDRESS_SPACE __CLC_INTN *ep) {
29     __CLC_INTN i = __CLC_AS_INTN(x);
30     __CLC_INTN ai = i & 0x7fffffff;
31     __CLC_INTN d = ai > 0 & ai < 0x00800000;
32     /* scale subnormal by 2^26 without multiplying */
33     __CLC_GENTYPE s = __CLC_AS_GENTYPE(ai | 0x0d800000) - 0x1.0p-100f;
34     ai = select(ai, __CLC_AS_INTN(s), d);
35     __CLC_INTN e = (ai >> 23) - 126 - select((__CLC_INTN)0, (__CLC_INTN)26, d);
36     __CLC_INTN t = ai == (__CLC_INTN)0 | e == (__CLC_INTN)129;
37     i = (i & (__CLC_INTN)0x80000000) | (__CLC_INTN)0x3f000000 | (ai & 0x007fffff);
38     *ep = select(e, (__CLC_INTN)0, t);
39     return select(__CLC_AS_GENTYPE(i), x, t);
41 #endif
43 #if __CLC_FPSIZE == 64
44 #ifdef __CLC_SCALAR
45 #define __CLC_AS_LONGN as_long
46 #define __CLC_LONGN long
47 #define __CLC_CONVERT_INTN convert_int
48 #else
49 #define __CLC_AS_LONGN __CLC_XCONCAT(as_long, __CLC_VECSIZE)
50 #define __CLC_LONGN __CLC_XCONCAT(long, __CLC_VECSIZE)
51 #define __CLC_CONVERT_INTN __CLC_XCONCAT(convert_int, __CLC_VECSIZE)
52 #endif
54 _CLC_OVERLOAD _CLC_DEF __CLC_GENTYPE frexp(__CLC_GENTYPE x, __CLC_ADDRESS_SPACE __CLC_INTN *ep) {
55     __CLC_LONGN i = __CLC_AS_LONGN(x);
56     __CLC_LONGN ai = i & 0x7fffffffffffffffL;
57     __CLC_LONGN d = ai > 0 & ai < 0x0010000000000000L;
58     // scale subnormal by 2^54 without multiplying
59     __CLC_GENTYPE s = __CLC_AS_GENTYPE(ai | 0x0370000000000000L) - 0x1.0p-968;
60     ai = select(ai, __CLC_AS_LONGN(s), d);
61     __CLC_LONGN e = (ai >> 52) - (__CLC_LONGN)1022 - select((__CLC_LONGN)0, (__CLC_LONGN)54, d);
62     __CLC_LONGN t = ai == 0 | e == 1025;
63     i = (i & (__CLC_LONGN)0x8000000000000000L) | (__CLC_LONGN)0x3fe0000000000000L | (ai & (__CLC_LONGN)0x000fffffffffffffL);
64     *ep = __CLC_CONVERT_INTN(select(e, 0L, t));
65     return select(__CLC_AS_GENTYPE(i), x, t);
68 #undef __CLC_AS_LONGN
69 #undef __CLC_LONGN
70 #undef __CLC_CONVERT_INTN
71 #endif
73 #undef __CLC_AS_GENTYPE
74 #undef __CLC_AS_INTN