config/ac_c_bigendian_cross.m4

   1 # ===========================================================================
   2 #          http://autoconf-archive.cryp.to/ac_c_bigendian_cross.html
   3 # ===========================================================================
   4 #
   5 # SYNOPSIS
   6 #
   7 #   AC_C_BIGENDIAN_CROSS
   8 #
   9 # DESCRIPTION
  10 #
  11 #   Check endianess even when crosscompiling (partially based on the
  12 #   original AC_C_BIGENDIAN).
  13 #
  14 #   The implementation will create a binary, but instead of running the
  15 #   binary it will be grep'ed for some symbols that differ for different
  16 #   endianess of the binary.
  17 #
  18 #   NOTE: The upcoming autoconf 2.53 does include the idea of this macro,
  19 #   what makes it superfluous by then.
  20 #
  21 # LAST MODIFICATION
  22 #
  23 #   2008-04-12
  24 #
  25 # COPYLEFT
  26 #
  27 #   Copyright (c) 2008 Guido U. Draheim <guidod@gmx.de>
  28 #
  29 #   This program is free software; you can redistribute it and/or modify it
  30 #   under the terms of the GNU General Public License as published by the
  31 #   Free Software Foundation; either version 2 of the License, or (at your
  32 #   option) any later version.
  33 #
  34 #   This program is distributed in the hope that it will be useful, but
  35 #   WITHOUT ANY WARRANTY; without even the implied warranty of
  36 #   MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU General
  37 #   Public License for more details.
  38 #
  39 #   You should have received a copy of the GNU General Public License along
  40 #   with this program. If not, see <http://www.gnu.org/licenses/>.
  41 #
  42 #   As a special exception, the respective Autoconf Macro's copyright owner
  43 #   gives unlimited permission to copy, distribute and modify the configure
  44 #   scripts that are the output of Autoconf when processing the Macro. You
  45 #   need not follow the terms of the GNU General Public License when using
  46 #   or distributing such scripts, even though portions of the text of the
  47 #   Macro appear in them. The GNU General Public License (GPL) does govern
  48 #   all other use of the material that constitutes the Autoconf Macro.
  49 #
  50 #   This special exception to the GPL applies to versions of the Autoconf
  51 #   Macro released by the Autoconf Macro Archive. When you make and
  52 #   distribute a modified version of the Autoconf Macro, you may extend this
  53 #   special exception to the GPL to apply to your modified version as well.
  54
  55 AC_DEFUN([AC_C_BIGENDIAN_CROSS],
  56 [AC_CACHE_CHECK(whether byte ordering is bigendian, ac_cv_c_bigendian,
  57 [ac_cv_c_bigendian=unknown
  58 # See if sys/param.h defines the BYTE_ORDER macro.
  59 AC_TRY_COMPILE([#include <sys/types.h>
  60 #include <sys/param.h>], [
  61 #if !BYTE_ORDER || !BIG_ENDIAN || !LITTLE_ENDIAN
  62  bogus endian macros
  63 #endif], [# It does; now see whether it defined to BIG_ENDIAN or not.
  64 AC_TRY_COMPILE([#include <sys/types.h>
  65 #include <sys/param.h>], [
  66 #if BYTE_ORDER != BIG_ENDIAN
  67  not big endian
  68 #endif], ac_cv_c_bigendian=yes, ac_cv_c_bigendian=no)])
  69 if test $ac_cv_c_bigendian = unknown; then
  70 AC_TRY_RUN([main () {
  71   /* Are we little or big endian?  From Harbison&Steele.  */
  72   union
  73   {
  74     long l;
  75     char c[sizeof (long)];
  76   } u;
  77   u.l = 1;
  78   exit (u.c[sizeof (long) - 1] == 1);
  79 }], ac_cv_c_bigendian=no, ac_cv_c_bigendian=yes,
  80 [ echo $ac_n "cross-compiling... " 2>&AC_FD_MSG ])
  81 fi])
  82 if test $ac_cv_c_bigendian = unknown; then
  83 AC_MSG_CHECKING(to probe for byte ordering)
  84 [
  85 cat >conftest.c <<EOF
  86 short ascii_mm[] = { 0x4249, 0x4765, 0x6E44, 0x6961, 0x6E53, 0x7953, 0 };
  87 short ascii_ii[] = { 0x694C, 0x5454, 0x656C, 0x6E45, 0x6944, 0x6E61, 0 };
  88 void _ascii() { char* s = (char*) ascii_mm; s = (char*) ascii_ii; }
  89 short ebcdic_ii[] = { 0x89D3, 0xE3E3, 0x8593, 0x95C5, 0x89C4, 0x9581, 0 };
  90 short ebcdic_mm[] = { 0xC2C9, 0xC785, 0x95C4, 0x8981, 0x95E2, 0xA8E2, 0 };
  91 void _ebcdic() { char* s = (char*) ebcdic_mm; s = (char*) ebcdic_ii; }
  92 int main() { _ascii (); _ebcdic (); return 0; }
  93 EOF
  94 ] if test -f conftest.c ; then
  95      if ${CC-cc} -c conftest.c -o conftest.o && test -f conftest.o ; then
  96         if test `grep -l BIGenDianSyS conftest.o` ; then
  97            echo $ac_n ' big endian probe OK, ' 1>&AC_FD_MSG
  98            ac_cv_c_bigendian=yes
  99         fi
 100         if test `grep -l LiTTleEnDian conftest.o` ; then
 101            echo $ac_n ' little endian probe OK, ' 1>&AC_FD_MSG
 102            if test $ac_cv_c_bigendian = yes ; then
 103             ac_cv_c_bigendian=unknown;
 104            else
 105             ac_cv_c_bigendian=no
 106            fi
 107         fi
 108         echo $ac_n 'guessing bigendian ...  ' >&AC_FD_MSG
 109      fi
 110   fi
 111 AC_MSG_RESULT($ac_cv_c_bigendian)
 112 fi
 113 if test $ac_cv_c_bigendian = yes; then
 114   AC_DEFINE(WORDS_BIGENDIAN, 1, [whether byteorder is bigendian])
 115   BYTEORDER=4321
 116 else
 117   BYTEORDER=1234
 118 fi
 119 AC_DEFINE_UNQUOTED(BYTEORDER, $BYTEORDER, [1234 = LIL_ENDIAN, 4321 = BIGENDIAN])
 120 if test $ac_cv_c_bigendian = unknown; then
 121   AC_MSG_ERROR(unknown endianess - sorry, please pre-set ac_cv_c_bigendian)
 122 fi
 123 ])