.gitlab-ci.yml

   1 ####
   2 # DO NOT EDIT THIS FILE IN MASTER.  ONLY EDIT IT IN THE OLDEST SUPPORTED
   3 # BRANCH, THEN MERGE FORWARD.
   4 ####
   5
   6 # This file controls how gitlab validates Tor commits and merge requests.
   7 #
   8 # It is primarily based on a set of scripts and configurations by
   9 # Hans-Christoph Steiner.  It only copies parts of those scripts and
  10 # configurations for now.  If you want a new piece of functionality
  11 # (more debians, more fedoras, android support) then you shouldn't
  12 # start from scratch: have a look at the original ticket, at
  13 # https://gitlab.torproject.org/tpo/core/tor/-/issues/32193 !
  14 #
  15 # The file to copy from is
  16 # https://gitlab.torproject.org/tpo/core/tor/-/merge_requests/96/diffs#diff-content-587d266bb27a4dc3022bbed44dfa19849df3044c
  17 #
  18 # Having said that, if there is anything really stupid here, don't
  19 # blame it on Hans-Christoph! Tor probably added it on their own.
  20 #
  21 # Copyright 2020, The Tor Project, Inc.
  22 # See LICENSE for licence information.
  23
  24 # These variables are set everywhere, unconditionally.
  25 variables:
  26   TERM: "ansi"
  27   DEBUG_CI: "yes"
  28
  29 # This template is for exporting ephemeral things from the scripts.  By
  30 # convention we expect our scripts to copy stuff into artifacts/, rather than
  31 # having a big list of files that be treated as artifacts.
  32 .artifacts-template: &artifacts-template
  33   artifacts:
  34     name: "${CI_PROJECT_PATH}_${CI_JOB_STAGE}_${CI_COMMIT_REF_NAME}_${CI_COMMIT_SHA}"
  35     expire_in: 1 week
  36     when: always
  37     paths:
  38       - artifacts/
  39
  40
  41 # This template is used for x86-64 builds.
  42 .x86-64-template: &x86-64-template
  43   tags:
  44     - amd64
  45     - physical
  46
  47 # This template should be usable on any system that's based on apt.
  48 .apt-template: &apt-template |
  49       export LC_ALL=C.UTF-8
  50       echo Etc/UTC > /etc/timezone
  51       mkdir -p apt-cache
  52       export APT_CACHE_DIR="$(pwd)/apt-cache"
  53       rm -f /etc/apt/apt.conf.d/docker-clean
  54       echo 'quiet "1";' \
  55            'Acquire::Retries "20";' \
  56            'APT::Install-Recommends "0";' \
  57            'APT::Install-Suggests "0";' \
  58            'APT::Get::Assume-Yes "true";' \
  59            'Dpkg::Use-Pty "0";' \
  60            "Dir::Cache::Archives \"${APT_CACHE_DIR}\"; " \
  61         >> /etc/apt/apt.conf.d/99gitlab
  62       apt-get update -qq
  63       apt-get upgrade -qy
  64
  65 # This template sets us up for Debian system in particular.
  66 .debian-template: &debian-template
  67   <<: *artifacts-template
  68   <<: *x86-64-template
  69   variables:
  70     DEBIAN_FRONTEND: "noninteractive"
  71   # TODO: Using "cache" in this way speeds up our downloads.  It would be
  72   # even better, though, to start with a pre-upgraded debian image.
  73   #
  74   # TODO: Will we have to do this differently once we have more than one
  75   # debian version that we're using?
  76   cache:
  77     key: apt
  78     paths:
  79       - apt-cache
  80   before_script:
  81     - *apt-template
  82     # Install patches unconditionally.
  83     - apt-get install
  84         apt-utils
  85         automake
  86         build-essential
  87         ca-certificates
  88         file
  89         git
  90         libevent-dev
  91         liblzma-dev
  92         libscrypt-dev
  93         libseccomp-dev
  94         libssl-dev
  95         pkg-config
  96         python3
  97         zlib1g-dev
  98     # Install patches that we only need for some use cases.
  99     - if [ "$ASCIIDOC" = yes ]; then apt-get install asciidoc xmlto; fi
 100     - if [ "$DOXYGEN" = yes ]; then apt-get install doxygen; fi
 101     - if [ "$STEM" = yes ]; then apt-get install timelimit; fi
 102     - if [ "$CC" = clang ]; then apt-get install clang; fi
 103     - if [ "$NSS" = yes ]; then apt-get install libnss3 libnss3-dev; fi
 104     # llvm-symbolizer for sanitizer backtrace
 105     - if [ "$HARDENING" = yes ]; then apt-get install llvm; fi
 106     # TODO: This next line should not be debian-only.
 107     - if [ "$STEM" = yes ]; then git clone --depth 1 https://gitlab.torproject.org/tpo/network-health/stem.git ; export STEM_PATH="$(pwd)/stem"; fi
 108     # TODO: This next line should not be debian-only.
 109     - |
 110       if [ "$CHUTNEY" = yes ]; then
 111         git clone --depth 1 https://gitlab.torproject.org/tpo/core/chutney.git
 112         export CHUTNEY_PATH="$(pwd)/chutney"
 113         # Have pip install chutney's python dependencies by installing chutney
 114         # itself.
 115         apt-get install python3-pip
 116         pip3 install --user ./chutney
 117       fi
 118     - if [ "$TRACING" = yes ]; then apt install liblttng-ust-dev; fi
 119
 120 # Minimal check on debian: just make, make check.
 121 #
 122 debian-minimal:
 123   image: debian:bullseye
 124   <<: *debian-template
 125   script:
 126     - ./scripts/ci/ci-driver.sh
 127
 128 # Minimal check on debian/i386: just make, make check.
 129 #
 130 debian-i386-minimal:
 131   image: i386/debian:bullseye
 132   <<: *debian-template
 133   script:
 134     - ./scripts/ci/ci-driver.sh
 135   tags:
 136     - physical
 137
 138 #####
 139 # Run "make check" with a hardened clang on debian stable.  This takes
 140 # care of a hardening check, and a compile-with-clang check.
 141 #
 142 # TODO: This will be faster once we merge #40098 and #40099.
 143 debian-hardened:
 144   image: debian:bullseye
 145   <<: *debian-template
 146   variables:
 147     ALL_BUGS_ARE_FATAL: "yes"
 148     HARDENING: "yes"
 149     CC: "clang"
 150   script:
 151     - ./scripts/ci/ci-driver.sh
 152
 153 #####
 154 # Distcheck on debian stable
 155 debian-distcheck:
 156   image: debian:bullseye
 157   <<: *debian-template
 158   variables:
 159     DISTCHECK: "yes"
 160     CHECK: "no"
 161   script:
 162     - ./scripts/ci/ci-driver.sh
 163
 164 #####
 165 # Documentation tests on debian stable: doxygen and asciidoc.
 166 debian-docs:
 167   image: debian:bullseye
 168   <<: *debian-template
 169   variables:
 170     DOXYGEN: "yes"
 171     ASCIIDOC: "yes"
 172     CHECK: "no"
 173     RUN_STAGE_BUILD: "no"
 174   script:
 175     - ./scripts/ci/ci-driver.sh
 176
 177 #####
 178 # Integration tests on debian stable: chutney and stem.
 179 #
 180 # TODO: It would be cool if this target didn't have to re-build tor, and
 181 #       could instead re-use Tor from debian-minimal.  That can be done
 182 #       with the 'artifacts' mechanism, in theory, but it would be good to
 183 #       avoid having to have a system with hundreds of artifacts.
 184 debian-integration:
 185   image: debian:bullseye
 186   <<: *debian-template
 187   variables:
 188     CHECK: "no"
 189     CHUTNEY: "yes"
 190     CHUTNEY_MAKE_TARGET: "test-network-all"
 191     STEM: "yes"
 192     ALL_BUGS_ARE_FATAL: "yes"
 193   script:
 194     - ./scripts/ci/ci-driver.sh
 195
 196 #####
 197 # Tracing build on Debian stable.
 198 debian-tracing:
 199   image: debian:bullseye
 200   <<: *debian-template
 201   variables:
 202     TRACING: "yes"
 203     CHECK: "no"
 204     DISTCHECK: "yes"
 205   script:
 206     - ./scripts/ci/ci-driver.sh
 207
 208 #####
 209 # No-authority mode
 210 debian-disable-dirauth:
 211   image: debian:bullseye
 212   <<: *debian-template
 213   variables:
 214     DISABLE_DIRAUTH: "yes"
 215   script:
 216     - ./scripts/ci/ci-driver.sh
 217
 218 #####
 219 # No-relay mode
 220 debian-disable-relay:
 221   image: debian:bullseye
 222   <<: *debian-template
 223   variables:
 224     DISABLE_RELAY: "yes"
 225   script:
 226     - ./scripts/ci/ci-driver.sh
 227
 228 #####
 229 # GPL licensed mode, enables pow module
 230 debian-gpl:
 231   image: debian:buster
 232   <<: *debian-template
 233   variables:
 234     GPL: "yes"
 235   script:
 236     - ./scripts/ci/ci-driver.sh
 237
 238 #####
 239 # NSS check on debian
 240 debian-nss:
 241   image: debian:bullseye
 242   <<: *debian-template
 243   variables:
 244     NSS: "yes"
 245   script:
 246     - ./scripts/ci/ci-driver.sh
 247
 248 #####
 249 # Debian packaging triggers for maintenance branches
 250 debian-packaging-0.4.5:
 251   stage: deploy
 252   trigger:
 253     project: tpo/core/debian/tor
 254     branch: debian-0.4.5
 255   rules:
 256     - if: $CI_PROJECT_NAMESPACE == "tpo/core" &&
 257           $CI_COMMIT_BRANCH == "maint-0.4.5"
 258 debian-packaging-0.4.6:
 259   stage: deploy
 260   trigger:
 261     project: tpo/core/debian/tor
 262     branch: debian-0.4.6
 263   rules:
 264     - if: $CI_PROJECT_NAMESPACE == "tpo/core" &&
 265           $CI_COMMIT_BRANCH == "maint-0.4.6"
 266
 267 #####
 268 # Run tests written in Rust, and run clippy on all Rust code here.
 269 rust-latest:
 270   image: rust:latest
 271   <<: *debian-template
 272   script:
 273     - apt-get install llvm-dev libclang-dev clang
 274     - rustup show
 275     - cargo build --locked --verbose
 276     - cargo test --verbose
 277     - rustup component add clippy
 278     - rustup show
 279     - cargo clippy --all-features --all-targets -- -D warnings
 280   after_script:
 281     - cargo clean