Linux: Fix big endian and partial read bugs in get_system_hostid()
commit72a366f0181e541d62c776dbefd12e01f7afd216
authorRichard Yao <richard.yao@alumni.stonybrook.edu>
Thu, 20 Oct 2022 21:52:35 +0000 (20 17:52 -0400)
committerGitHub <noreply@github.com>
Thu, 20 Oct 2022 21:52:35 +0000 (20 14:52 -0700)
tree4a94d3e8150225878f8c04fbaec09f713b7c2b9e
parentab32a14b2ed7531a76fd13a5278dd7d47d2ee923
Linux: Fix big endian and partial read bugs in get_system_hostid()

Coverity made two complaints about this function. The first is that we
ignore the number of bytes read. The second is that we have a sizeof
mismatch.

On 64-bit systems, long is a 64-bit type. Paradoxically, the standard
says that hostid is 32-bit, yet is also a long type. On 64-bit big
endian systems, reading into the long would cause us to return 0 as our
hostid after the mask. This is wrong.

Also, if a partial read were to happen (it should not), we would return
a partial hostid, which is also wrong.

We introduce a uint32_t system_hostid stack variable and ensure that the
read is done into it and check the read's return value. Then we set the
value based on whether the read was successful. This should fix both of
coverity's complaints.

Reviewed-by: Brian Behlendorf <behlendorf1@llnl.gov>
Reviewed-by: Neal Gompa <ngompa@datto.com>
Signed-off-by: Richard Yao <richard.yao@alumni.stonybrook.edu>
Closes #13968
lib/libspl/os/linux/gethostid.c