.gitlab-ci.yml

   1 ####
   2 # DO NOT EDIT THIS FILE IN MASTER.  ONLY EDIT IT IN THE OLDEST SUPPORTED
   3 # BRANCH, THEN MERGE FORWARD.
   4 ####
   5
   6 # This file controls how gitlab validates Tor commits and merge requests.
   7 #
   8 # It is primarily based on a set of scripts and configurations by
   9 # Hans-Christoph Steiner.  It only copies parts of those scripts and
  10 # configurations for now.  If you want a new piece of functionality
  11 # (more debians, more fedoras, android support) then you shouldn't
  12 # start from scratch: have a look at the original ticket, at
  13 # https://gitlab.torproject.org/tpo/core/tor/-/issues/32193 !
  14 #
  15 # The file to copy from is
  16 # https://gitlab.torproject.org/tpo/core/tor/-/merge_requests/96/diffs#diff-content-587d266bb27a4dc3022bbed44dfa19849df3044c
  17 #
  18 # Having said that, if there is anything really stupid here, don't
  19 # blame it on Hans-Christoph! Tor probably added it on their own.
  20 #
  21 # Copyright 2020, The Tor Project, Inc.
  22 # See LICENSE for licence information.
  23
  24 # These variables are set everywhere, unconditionally.
  25 variables:
  26   TERM: "ansi"
  27   DEBUG_CI: "yes"
  28
  29 # This template is for exporting ephemeral things from the scripts.  By
  30 # convention we expect our scripts to copy stuff into artifacts/, rather than
  31 # having a big list of files that be treated as artifacts.
  32 .artifacts-template: &artifacts-template
  33   artifacts:
  34     name: "${CI_PROJECT_PATH}_${CI_JOB_STAGE}_${CI_COMMIT_REF_NAME}_${CI_COMMIT_SHA}"
  35     expire_in: 1 week
  36     when: always
  37     paths:
  38       - artifacts/
  39
  40
  41 # This template is used for x86-64 builds.
  42 .x86-64-template: &x86-64-template
  43   tags:
  44     - amd64
  45     - physical
  46
  47 # This template should be usable on any system that's based on apt.
  48 .apt-template: &apt-template |
  49       export LC_ALL=C.UTF-8
  50       echo Etc/UTC > /etc/timezone
  51       mkdir -p apt-cache
  52       export APT_CACHE_DIR="$(pwd)/apt-cache"
  53       rm -f /etc/apt/apt.conf.d/docker-clean
  54       echo 'quiet "1";' \
  55            'Acquire::Retries "20";' \
  56            'APT::Install-Recommends "0";' \
  57            'APT::Install-Suggests "0";' \
  58            'APT::Get::Assume-Yes "true";' \
  59            'Dpkg::Use-Pty "0";' \
  60            "Dir::Cache::Archives \"${APT_CACHE_DIR}\"; " \
  61         >> /etc/apt/apt.conf.d/99gitlab
  62       apt-get update -qq
  63       apt-get upgrade -qy
  64
  65 # This template sets us up for Debian system in particular.
  66 .debian-template: &debian-template
  67   <<: *artifacts-template
  68   <<: *x86-64-template
  69   variables:
  70     DEBIAN_FRONTEND: "noninteractive"
  71   # TODO: Using "cache" in this way speeds up our downloads.  It would be
  72   # even better, though, to start with a pre-upgraded debian image.
  73   #
  74   # TODO: Will we have to do this differently once we have more than one
  75   # debian version that we're using?
  76   cache:
  77     key: apt
  78     paths:
  79       - apt-cache
  80   before_script:
  81     - *apt-template
  82     # Install patches unconditionally.
  83     - apt-get install
  84         apt-utils
  85         automake
  86         build-essential
  87         ca-certificates
  88         file
  89         git
  90         libevent-dev
  91         liblzma-dev
  92         libscrypt-dev
  93         libseccomp-dev
  94         libssl-dev
  95         pkg-config
  96         python3
  97         zlib1g-dev
  98     # Install patches that we only need for some use cases.
  99     - if [ "$ASCIIDOC" = yes ]; then apt-get install asciidoc xmlto; fi
 100     - if [ "$DOXYGEN" = yes ]; then apt-get install doxygen; fi
 101     - if [ "$STEM" = yes ]; then apt-get install timelimit; fi
 102     - if [ "$CC" = clang ]; then apt-get install clang; fi
 103     - if [ "$NSS" = yes ]; then apt-get install libnss3 libnss3-dev; fi
 104     # llvm-symbolizer for sanitizer backtrace
 105     - if [ "$HARDENING" = yes ]; then apt-get install llvm; fi
 106     # TODO: This next line should not be debian-only.
 107     - if [ "$STEM" = yes ]; then git clone --depth 1 https://gitlab.torproject.org/tpo/network-health/stem.git ; export STEM_PATH="$(pwd)/stem"; fi
 108     # TODO: This next line should not be debian-only.
 109     - |
 110       if [ "$CHUTNEY" = yes ]; then
 111         # Use a fixed version of chutney to avoid surprise breakage.
 112         CHUTNEY_SHALLOW_SINCE=2024-10-28
 113         CHUTNEY_COMMIT=be881a1e7c4bc8038fa13fde4a7b24e5c56349c4
 114
 115         git clone --shallow-since "$CHUTNEY_SHALLOW_SINCE" https://gitlab.torproject.org/tpo/core/chutney.git
 116         git -C ./chutney checkout "$CHUTNEY_COMMIT"
 117         export CHUTNEY_PATH="$(pwd)/chutney"
 118         # Have pip install chutney's python dependencies by installing chutney
 119         # itself.
 120         apt-get install python3-pip
 121         pip3 install --user ./chutney
 122       fi
 123     - if [ "$TRACING" = yes ]; then apt install liblttng-ust-dev; fi
 124
 125 # Minimal check on debian: just make, make check.
 126 #
 127 debian-minimal:
 128   image: debian:bullseye
 129   <<: *debian-template
 130   script:
 131     - ./scripts/ci/ci-driver.sh
 132
 133 # Minimal check on debian/i386: just make, make check.
 134 #
 135 debian-i386-minimal:
 136   image: i386/debian:bullseye
 137   <<: *debian-template
 138   script:
 139     - ./scripts/ci/ci-driver.sh
 140   tags:
 141     - physical
 142
 143 #####
 144 # Run "make check" with a hardened clang on debian stable.  This takes
 145 # care of a hardening check, and a compile-with-clang check.
 146 #
 147 # TODO: This will be faster once we merge #40098 and #40099.
 148 debian-hardened:
 149   image: debian:bullseye
 150   <<: *debian-template
 151   variables:
 152     ALL_BUGS_ARE_FATAL: "yes"
 153     HARDENING: "yes"
 154     CC: "clang"
 155   script:
 156     - ./scripts/ci/ci-driver.sh
 157
 158 #####
 159 # Distcheck on debian stable
 160 debian-distcheck:
 161   image: debian:bullseye
 162   <<: *debian-template
 163   variables:
 164     DISTCHECK: "yes"
 165     CHECK: "no"
 166   script:
 167     - ./scripts/ci/ci-driver.sh
 168
 169 #####
 170 # Documentation tests on debian stable: doxygen and asciidoc.
 171 debian-docs:
 172   image: debian:bullseye
 173   <<: *debian-template
 174   variables:
 175     DOXYGEN: "yes"
 176     ASCIIDOC: "yes"
 177     CHECK: "no"
 178     RUN_STAGE_BUILD: "no"
 179   script:
 180     - ./scripts/ci/ci-driver.sh
 181
 182 #####
 183 # Integration tests on debian stable: chutney and stem.
 184 #
 185 # TODO: It would be cool if this target didn't have to re-build tor, and
 186 #       could instead re-use Tor from debian-minimal.  That can be done
 187 #       with the 'artifacts' mechanism, in theory, but it would be good to
 188 #       avoid having to have a system with hundreds of artifacts.
 189 debian-integration:
 190   image: debian:bullseye
 191   <<: *debian-template
 192   variables:
 193     CHECK: "no"
 194     CHUTNEY: "yes"
 195     CHUTNEY_MAKE_TARGET: "test-network-all"
 196     STEM: "yes"
 197     ALL_BUGS_ARE_FATAL: "yes"
 198   script:
 199     - ./scripts/ci/ci-driver.sh
 200
 201 #####
 202 # Tracing build on Debian stable.
 203 debian-tracing:
 204   image: debian:bullseye
 205   <<: *debian-template
 206   variables:
 207     TRACING: "yes"
 208     CHECK: "no"
 209     DISTCHECK: "yes"
 210   script:
 211     - ./scripts/ci/ci-driver.sh
 212
 213 #####
 214 # No-authority mode
 215 debian-disable-dirauth:
 216   image: debian:bullseye
 217   <<: *debian-template
 218   variables:
 219     DISABLE_DIRAUTH: "yes"
 220   script:
 221     - ./scripts/ci/ci-driver.sh
 222
 223 #####
 224 # No-relay mode
 225 debian-disable-relay:
 226   image: debian:bullseye
 227   <<: *debian-template
 228   variables:
 229     DISABLE_RELAY: "yes"
 230   script:
 231     - ./scripts/ci/ci-driver.sh
 232
 233 #####
 234 # GPL licensed mode, enables pow module
 235 debian-gpl:
 236   image: debian:buster
 237   <<: *debian-template
 238   variables:
 239     GPL: "yes"
 240   script:
 241     - ./scripts/ci/ci-driver.sh
 242
 243 #####
 244 # NSS check on debian
 245 debian-nss:
 246   image: debian:bullseye
 247   <<: *debian-template
 248   variables:
 249     NSS: "yes"
 250   script:
 251     - ./scripts/ci/ci-driver.sh
 252
 253 #####
 254 # Debian packaging triggers for maintenance branches
 255 debian-packaging-0.4.5:
 256   stage: deploy
 257   trigger:
 258     project: tpo/core/debian/tor
 259     branch: debian-0.4.5
 260   rules:
 261     - if: $CI_PROJECT_NAMESPACE == "tpo/core" &&
 262           $CI_COMMIT_BRANCH == "maint-0.4.5"
 263 debian-packaging-0.4.6:
 264   stage: deploy
 265   trigger:
 266     project: tpo/core/debian/tor
 267     branch: debian-0.4.6
 268   rules:
 269     - if: $CI_PROJECT_NAMESPACE == "tpo/core" &&
 270           $CI_COMMIT_BRANCH == "maint-0.4.6"
 271
 272 #####
 273 # Run tests written in Rust, and run clippy on all Rust code here.
 274 rust-latest:
 275   image: rust:latest
 276   <<: *debian-template
 277   script:
 278     - apt-get install llvm-dev libclang-dev clang
 279     - rustup show
 280     - cargo build --locked --verbose
 281     - cargo test --verbose
 282     - rustup component add clippy
 283     - rustup show
 284     - cargo clippy --all-features --all-targets -- -D warnings
 285   after_script:
 286     - cargo clean