.gitlab-ci.yml

   1 ####
   2 # DO NOT EDIT THIS FILE IN MASTER.  ONLY EDIT IT IN THE OLDEST SUPPORTED
   3 # BRANCH, THEN MERGE FORWARD.
   4 ####
   5
   6 # This file controls how gitlab validates Tor commits and merge requests.
   7 #
   8 # It is primarily based on a set of scripts and configurations by
   9 # Hans-Christoph Steiner.  It only copies parts of those scripts and
  10 # configurations for now.  If you want a new piece of functionality
  11 # (more debians, more fedoras, android support) then you shouldn't
  12 # start from scratch: have a look at the original ticket, at
  13 # https://gitlab.torproject.org/tpo/core/tor/-/issues/32193 !
  14 #
  15 # The file to copy from is
  16 # https://gitlab.torproject.org/tpo/core/tor/-/merge_requests/96/diffs#diff-content-587d266bb27a4dc3022bbed44dfa19849df3044c
  17 #
  18 # Having said that, if there is anything really stupid here, don't
  19 # blame it on Hans-Christoph! Tor probably added it on their own.
  20 #
  21 # Copyright 2020, The Tor Project, Inc.
  22 # See LICENSE for licence information.
  23
  24 # These variables are set everywhere, unconditionally.
  25 variables:
  26   TERM: "ansi"
  27   DEBUG_CI: "yes"
  28
  29 # This template is for exporting ephemeral things from the scripts.  By
  30 # convention we expect our scripts to copy stuff into artifacts/, rather than
  31 # having a big list of files that be treated as artifacts.
  32 .artifacts-template: &artifacts-template
  33   artifacts:
  34     name: "${CI_PROJECT_PATH}_${CI_JOB_STAGE}_${CI_COMMIT_REF_NAME}_${CI_COMMIT_SHA}"
  35     expire_in: 1 week
  36     when: always
  37     paths:
  38       - artifacts/
  39
  40
  41 # This template is used for x86-64 builds.
  42 .x86-64-template: &x86-64-template
  43   tags:
  44     - amd64
  45     - physical
  46
  47 # This template should be usable on any system that's based on apt.
  48 .apt-template: &apt-template |
  49       export LC_ALL=C.UTF-8
  50       echo Etc/UTC > /etc/timezone
  51       mkdir -p apt-cache
  52       export APT_CACHE_DIR="$(pwd)/apt-cache"
  53       rm -f /etc/apt/apt.conf.d/docker-clean
  54       echo 'quiet "1";' \
  55            'Acquire::Retries "20";' \
  56            'APT::Install-Recommends "0";' \
  57            'APT::Install-Suggests "0";' \
  58            'APT::Get::Assume-Yes "true";' \
  59            'Dpkg::Use-Pty "0";' \
  60            "Dir::Cache::Archives \"${APT_CACHE_DIR}\"; " \
  61         >> /etc/apt/apt.conf.d/99gitlab
  62       apt-get update -qq
  63       apt-get upgrade -qy
  64
  65 # This template sets us up for Debian system in particular.
  66 .debian-template: &debian-template
  67   <<: *artifacts-template
  68   <<: *x86-64-template
  69   variables:
  70     DEBIAN_FRONTEND: "noninteractive"
  71   # TODO: Using "cache" in this way speeds up our downloads.  It would be
  72   # even better, though, to start with a pre-upgraded debian image.
  73   #
  74   # TODO: Will we have to do this differently once we have more than one
  75   # debian version that we're using?
  76   cache:
  77     key: apt
  78     paths:
  79       - apt-cache
  80   before_script:
  81     - *apt-template
  82     # Install patches unconditionally.
  83     - apt-get install
  84         apt-utils
  85         automake
  86         build-essential
  87         ca-certificates
  88         file
  89         git
  90         libevent-dev
  91         liblzma-dev
  92         libscrypt-dev
  93         libseccomp-dev
  94         libssl-dev
  95         pkg-config
  96         python3
  97         zlib1g-dev
  98     # Install patches that we only need for some use cases.
  99     - if [ "$ASCIIDOC" = yes ]; then apt-get install asciidoc xmlto; fi
 100     - if [ "$DOXYGEN" = yes ]; then apt-get install doxygen; fi
 101     - if [ "$STEM" = yes ]; then apt-get install timelimit; fi
 102     - if [ "$CC" = clang ]; then apt-get install clang; fi
 103     - if [ "$NSS" = yes ]; then apt-get install libnss3 libnss3-dev; fi
 104     # llvm-symbolizer for sanitizer backtrace
 105     - if [ "$HARDENING" = yes ]; then apt-get install llvm; fi
 106     # TODO: This next line should not be debian-only.
 107     - if [ "$STEM" = yes ]; then git clone --depth 1 https://gitlab.torproject.org/tpo/network-health/stem.git ; export STEM_PATH="$(pwd)/stem"; fi
 108     # TODO: This next line should not be debian-only.
 109     - if [ "$CHUTNEY" = yes ]; then git clone --depth 1 https://gitlab.torproject.org/tpo/core/chutney.git ;  export CHUTNEY_PATH="$(pwd)/chutney"; fi
 110     - if [ "$TRACING" = yes ]; then apt install liblttng-ust-dev; fi
 111
 112 # Minimal check on debian: just make, make check.
 113 #
 114 debian-minimal:
 115   image: debian:bullseye
 116   <<: *debian-template
 117   script:
 118     - ./scripts/ci/ci-driver.sh
 119
 120 # Minimal check on debian/i386: just make, make check.
 121 #
 122 debian-i386-minimal:
 123   image: i386/debian:bullseye
 124   <<: *debian-template
 125   script:
 126     - ./scripts/ci/ci-driver.sh
 127   tags:
 128     - physical
 129
 130 #####
 131 # Run "make check" with a hardened clang on debian stable.  This takes
 132 # care of a hardening check, and a compile-with-clang check.
 133 #
 134 # TODO: This will be faster once we merge #40098 and #40099.
 135 debian-hardened:
 136   image: debian:bullseye
 137   <<: *debian-template
 138   variables:
 139     ALL_BUGS_ARE_FATAL: "yes"
 140     HARDENING: "yes"
 141     CC: "clang"
 142   script:
 143     - ./scripts/ci/ci-driver.sh
 144
 145 #####
 146 # Distcheck on debian stable
 147 debian-distcheck:
 148   image: debian:bullseye
 149   <<: *debian-template
 150   variables:
 151     DISTCHECK: "yes"
 152     CHECK: "no"
 153   script:
 154     - ./scripts/ci/ci-driver.sh
 155
 156 #####
 157 # Documentation tests on debian stable: doxygen and asciidoc.
 158 debian-docs:
 159   image: debian:bullseye
 160   <<: *debian-template
 161   variables:
 162     DOXYGEN: "yes"
 163     ASCIIDOC: "yes"
 164     CHECK: "no"
 165     RUN_STAGE_BUILD: "no"
 166   script:
 167     - ./scripts/ci/ci-driver.sh
 168
 169 #####
 170 # Integration tests on debian stable: chutney and stem.
 171 #
 172 # TODO: It would be cool if this target didn't have to re-build tor, and
 173 #       could instead re-use Tor from debian-minimal.  That can be done
 174 #       with the 'artifacts' mechanism, in theory, but it would be good to
 175 #       avoid having to have a system with hundreds of artifacts.
 176 debian-integration:
 177   image: debian:bullseye
 178   <<: *debian-template
 179   variables:
 180     CHECK: "no"
 181     CHUTNEY: "yes"
 182     CHUTNEY_MAKE_TARGET: "test-network-all"
 183     STEM: "yes"
 184     ALL_BUGS_ARE_FATAL: "yes"
 185   script:
 186     - ./scripts/ci/ci-driver.sh
 187
 188 #####
 189 # Tracing build on Debian stable.
 190 debian-tracing:
 191   image: debian:bullseye
 192   <<: *debian-template
 193   variables:
 194     TRACING: "yes"
 195     CHECK: "no"
 196     DISTCHECK: "yes"
 197   script:
 198     - ./scripts/ci/ci-driver.sh
 199
 200 #####
 201 # No-authority mode
 202 debian-disable-dirauth:
 203   image: debian:bullseye
 204   <<: *debian-template
 205   variables:
 206     DISABLE_DIRAUTH: "yes"
 207   script:
 208     - ./scripts/ci/ci-driver.sh
 209
 210 #####
 211 # No-relay mode
 212 debian-disable-relay:
 213   image: debian:bullseye
 214   <<: *debian-template
 215   variables:
 216     DISABLE_RELAY: "yes"
 217   script:
 218     - ./scripts/ci/ci-driver.sh
 219
 220 #####
 221 # GPL licensed mode, enables pow module
 222 debian-gpl:
 223   image: debian:buster
 224   <<: *debian-template
 225   variables:
 226     GPL: "yes"
 227   script:
 228     - ./scripts/ci/ci-driver.sh
 229
 230 #####
 231 # NSS check on debian
 232 debian-nss:
 233   image: debian:bullseye
 234   <<: *debian-template
 235   variables:
 236     NSS: "yes"
 237   script:
 238     - ./scripts/ci/ci-driver.sh
 239
 240 #####
 241 # Debian packaging triggers for maintenance branches
 242 debian-packaging-0.4.5:
 243   stage: deploy
 244   trigger:
 245     project: tpo/core/debian/tor
 246     branch: debian-0.4.5
 247   rules:
 248     - if: $CI_PROJECT_NAMESPACE == "tpo/core" &&
 249           $CI_COMMIT_BRANCH == "maint-0.4.5"
 250 debian-packaging-0.4.6:
 251   stage: deploy
 252   trigger:
 253     project: tpo/core/debian/tor
 254     branch: debian-0.4.6
 255   rules:
 256     - if: $CI_PROJECT_NAMESPACE == "tpo/core" &&
 257           $CI_COMMIT_BRANCH == "maint-0.4.6"
 258
 259 #####
 260 # Run tests written in Rust, and run clippy on all Rust code here.
 261 rust-latest:
 262   image: rust:latest
 263   <<: *debian-template
 264   script:
 265     - apt-get install llvm-dev libclang-dev clang
 266     - rustup show
 267     - cargo build --locked --verbose
 268     - cargo test --verbose
 269     - rustup component add clippy
 270     - rustup show
 271     - cargo clippy --all-features --all-targets -- -D warnings
 272   after_script:
 273     - cargo clean