tests/vg_regtest: Always evaluate prerequisite expressions with sh
[valgrind.git] / drd / Testing.txt
blobf0c3c9d9432a1af435f617318927c744ad5abf0c
1 How to test DRD
2 ~~~~~~~~~~~~~~~
4 1. Start with compiling DRD.
6 2. Check as follows that all global symbols in DRD have been wrapped by the
7    DRD_() macro (output must be empty):
8      ( cd drd && nm -A drd*.o|grep ' T '|grep -v ' T vgDrd_' )
10 3. Check as follows that all global symbols in the preloaded shared library
11    are redirected functions (output must contain one symbol that starts with
12    a double underscore, something like __i686.get_pc_thunk.bx):
13      ( cd drd && nm -A vgpreload*.o|grep ' T '|grep -v ' T _vg' )
15 4. Verify that all files needed for the regression tests are included in
16    drd/tests/Makefile.am:
17      (
18        cd drd/tests;
19        for f in *.vgtest *.exp*; do grep -q "$f" Makefile.am || echo $f; done
20      )
22 5. Verify that all files referenced in EXTRA_DIST in drd/tests/Makefile.am
23    exist:
24      (
25        cd drd/tests;
26        for e in $(awk '/\\$/{n=$0; sub("\\\\$", "", n); if (line != "")\
27            { line = line " " n } else { line=n }} \
28            /[^\\]$/{if (line != ""){print line;line=""};print}' < Makefile.am \
29          | sed -n 's/^EXTRA_DIST *=//p' | sed 's/..noinst_SCRIPTS.//')
30        do
31          [ -e "$e" ] || echo "$e"
32        done
33      )
34      
35 6. Run the regression tests as follows:
36      perl tests/vg_regtest drd
37      DRD_VERIFY_CONFLICT_SET=1 perl tests/vg_regtest drd
39 7. Run the regression tests that were developed for Thread Sanitizer:
40      ./vg-in-place --tool=drd --check-stack-var=yes drd/tests/tsan_unittest 2>&1|less
42 8. Test the slowdown for matinv for various matrix sizes via the script
43    drd/scripts/run-matinv (must be about 25 for i == 1 and about
44    50 for i == 10 with n == 200).
46 9. Test whether DRD works with standard KDE applications and whether it does
47    not print any false positives. Test this both with KDE3 and KDE4 on Linux:
48      ./vg-in-place --tool=drd --read-var-info=yes kate
49      ./vg-in-place --tool=drd --read-var-info=yes --check-stack-var=yes kate
50      ./vg-in-place --tool=drd --read-var-info=yes --trace-children=yes knode
51      ./vg-in-place --tool=drd --read-var-info=yes --check-stack-var=yes --trace-children=yes knode
52      ./vg-in-place --tool=drd --read-var-info=yes --check-stack-var=yes /usr/bin/designer
54   and on Darwin:
55     ./vg-in-place --tool=drd --trace-fork-join=yes --show-confl-seg=no --gen-suppressions=all /Applications/Utilities/Terminal.app/Contents/MacOS/Terminal
56     ./vg-in-place --tool=drd --trace-fork-join=yes --show-confl-seg=no --gen-suppressions=all /Applications/Safari.app/Contents/MacOS/Safari
58 10. Test whether DRD works with standard GNOME applications. Expect
59    race reports triggered by ORBit_RootObject_duplicate() and after
60    having closed the GNOME terminal window:
61      ./vg-in-place --tool=drd --read-var-info=yes --trace-children=yes gnome-terminal
63 11. Rerun the GraphicsMagick test suite:
64     1. Recompile gcc via drd/scripts/download-and-build-gcc.
65     2. Replace the distro-provided libgomp.so* by the newly compiled versions:
66        cp $HOME/gcc-.../lib/libgomp.so.1.0.0.0 /usr/lib
67        cp $HOME/gcc-.../lib64/libgomp.so.1.0.0.0 /usr/lib64
68        rpm --verify libgomp43-32bit
69        rpm --verify libgomp43
70     3. Build and install Valgrind in /usr:
71        ./autogen.sh && ./configure --prefix=/usr CC=$HOME/gcc-4.4.0/bin/gcc \
72        && make -s && make -s install
73     4. Download the GraphicsMagick source code:
74        cvs -d :pserver:anonymous@cvs.graphicsmagick.org:/GraphicsMagick login
75        cvs -d :pserver:anonymous@cvs.graphicsmagick.org:/GraphicsMagick co GraphicsMagick
76        cd GraphicsMagick
77        ./configure
78        export OMP_NUM_THREADS=4
79        make -j2 -s MEMCHECK="$HOME/software/valgrind/vg-in-place --tool=drd --check-stack-var=yes --read-var-info=yes --quiet" check
80     5. Expected result: 776 tests / 23 expected failures / 147m24s user time
81        on a E8400 CPU @ 3 GHz.
83 12. Test DRD with Firefox. First build and install Firefox 3:
84      drd/scripts/download-and-build-firefox
85    Now run the following command:
86      LD_LIBRARY_PATH=$HOME/software/mozilla-build/dist/lib: ./vg-in-place --tool=drd --check-stack-var=yes --trace-children=yes --show-confl-seg=no $HOME/software/mozilla-build/dist/bin/firefox-bin
88 13. Verify that the XML output matches the DRD XML output XSD.
90    drd/tests/verify-xml-output