raycast: 1.85.2 -> 1.86.0 (#357579)
[NixPkgs.git] / pkgs / README.md
blobf907d79ef34805cfc2ccb8efacb23a83bdbee22f
1 # Contributing to Nixpkgs packages
3 This document is for people wanting to contribute specifically to the package collection in Nixpkgs.
4 See the [CONTRIBUTING.md](../CONTRIBUTING.md) document for more general information.
6 ## Overview
8 - [`top-level`](./top-level): Entrypoints, package set aggregations
9   - [`impure.nix`](./top-level/impure.nix), [`default.nix`](./top-level/default.nix), [`config.nix`](./top-level/config.nix): Definitions for the evaluation entry point of `import <nixpkgs>`
10   - [`stage.nix`](./top-level/stage.nix), [`all-packages.nix`](./top-level/all-packages.nix), [`by-name-overlay.nix`](./top-level/by-name-overlay.nix), [`splice.nix`](./top-level/splice.nix): Definitions for the top-level attribute set made available through `import <nixpkgs> {…}`
11   - `*-packages.nix`, [`linux-kernels.nix`](./top-level/linux-kernels.nix), [`unixtools.nix`](./top-level/unixtools.nix): Aggregations of nested package sets defined in `development`
12   - [`aliases.nix`](./top-level/aliases.nix), [`python-aliases.nix`](./top-level/python-aliases.nix): Aliases for package definitions that have been renamed or removed
13   - `release*.nix`, [`make-tarball.nix`](./top-level/make-tarball.nix), [`packages-config.nix`](./top-level/packages-config.nix), [`metrics.nix`](./top-level/metrics.nix), [`nixpkgs-basic-release-checks.nix`](./top-level/nixpkgs-basic-release-checks.nix): Entry-points and utilities used by Hydra for continuous integration
14 - [`development`](./development)
15   - `*-modules`, `*-packages`, `*-pkgs`: Package definitions for nested package sets
16   - All other directories loosely categorise top-level package definitions, see [category hierarchy][categories]
17 - [`build-support`](./build-support): [Builders](https://nixos.org/manual/nixpkgs/stable/#part-builders)
18   - `fetch*`: [Fetchers](https://nixos.org/manual/nixpkgs/stable/#chap-pkgs-fetchers)
19 - [`stdenv`](./stdenv): [Standard environment](https://nixos.org/manual/nixpkgs/stable/#part-stdenv)
20 - [`pkgs-lib`](./pkgs-lib): Definitions for utilities that need packages but are not needed for packages
21 - [`test`](./test): Tests not directly associated with any specific packages
22 - [`by-name`](./by-name): Top-level packages organised by name ([docs](./by-name/README.md))
23 - All other directories loosely categorise top-level packages definitions, see [category hierarchy][categories]
25 ## Quick Start to Adding a Package
27 We welcome new contributors of new packages to Nixpkgs, arguably the greatest software database known. However, each new package comes with a cost for the maintainers, Continuous Integration, caching servers and users downloading Nixpkgs.
29 Before adding a new package, please consider the following questions:
31 * Is the package ready for general use? We don't want to include projects that are too immature or are going to be abandoned immediately. In case of doubt, check with upstream.
32 * Does the project have a clear license statement? Remember that software is unfree by default (all rights reserved), and merely providing access to the source code does not imply its redistribution. In case of doubt, ask upstream.
33 * How realistic is it that it will be used by other people? It's good that nixpkgs caters to various niches, but if it's a niche of 5 people it's probably too small.
34 * Are you willing to maintain the package? You should care enough about the package to be willing to keep it up and running for at least one complete Nixpkgs' release life-cycle.
35   * In case you are not able to maintain the package you wrote, you can seek someone to fill that role, effectively adopting the package.
37 If any of these questions' answer is no, then you should probably not add the package.
39 This is section describes a general framework of understanding and exceptions might apply.
41 Luckily it's pretty easy to maintain your own package set with Nix, which can then be added to the [Nix User Repository](https://github.com/nix-community/nur) project.
43 ---
45 Now that this is out of the way. To add a package to Nixpkgs:
47 1. Checkout the Nixpkgs source tree:
49    ```ShellSession
50    $ git clone https://github.com/NixOS/nixpkgs
51    $ cd nixpkgs
52    ```
54 2. Create a package directory `pkgs/by-name/so/some-package` where `some-package` is the package name and `so` is the lowercased 2-letter prefix of the package name:
56    ```ShellSession
57    $ mkdir -p pkgs/by-name/so/some-package
58    ```
60    For more detailed information, see [here](./by-name/README.md).
62 3. Create a `package.nix` file in the package directory, containing a Nix expression — a piece of code that describes how to build the package. In this case, it should be a _function_ that is called with the package dependencies as arguments, and returns a build of the package in the Nix store.
64    ```ShellSession
65    $ emacs pkgs/by-name/so/some-package/package.nix
66    $ git add pkgs/by-name/so/some-package/package.nix
67    ```
69    If the package is written in a language other than C, you should use [the corresponding language framework](https://nixos.org/manual/nixpkgs/stable/#chap-language-support).
71    You can have a look at the existing Nix expressions under `pkgs/` to see how it’s done, some of which are also using the [category hierarchy](#category-hierarchy).
72    Here are some good ones:
74    - GNU Hello: [`pkgs/by-name/he/hello/package.nix`](./by-name/he/hello/package.nix). Trivial package, which specifies some `meta` attributes which is good practice.
76    - GNU cpio: [`pkgs/tools/archivers/cpio/default.nix`](tools/archivers/cpio/default.nix). Also a simple package. The generic builder in `stdenv` does everything for you. It has no dependencies beyond `stdenv`.
78    - GNU Multiple Precision arithmetic library (GMP): [`pkgs/development/libraries/gmp`](development/libraries/gmp). Also done by the generic builder, but has a dependency on `m4`.
80    - Pan, a GTK-based newsreader: [`pkgs/applications/networking/newsreaders/pan/default.nix`](applications/networking/newsreaders/pan/default.nix). Has an optional dependency on `gtkspell`, which is only built if `spellCheck` is `true`.
82    - Apache HTTPD: [`pkgs/servers/http/apache-httpd/2.4.nix`](servers/http/apache-httpd/2.4.nix). A bunch of optional features, variable substitutions in the configure flags, a post-install hook, and miscellaneous hackery.
84    - buildMozillaMach: [`pkgs/applications/networking/browser/firefox/common.nix`](applications/networking/browsers/firefox/common.nix). A reusable build function for Firefox, Thunderbird and Librewolf.
86    - JDiskReport, a Java utility: [`pkgs/tools/misc/jdiskreport/default.nix`](tools/misc/jdiskreport/default.nix). Nixpkgs doesn’t have a decent `stdenv` for Java yet so this is pretty ad-hoc.
88    - XML::Simple, a Perl module: [`pkgs/top-level/perl-packages.nix`](top-level/perl-packages.nix) (search for the `XMLSimple` attribute). Most Perl modules are so simple to build that they are defined directly in `perl-packages.nix`; no need to make a separate file for them.
90    - Adobe Reader: [`pkgs/applications/misc/adobe-reader/default.nix`](applications/misc/adobe-reader/default.nix). Shows how binary-only packages can be supported. In particular the [builder](applications/misc/adobe-reader/builder.sh) uses `patchelf` to set the RUNPATH and ELF interpreter of the executables so that the right libraries are found at runtime.
92    Some notes:
94    - Add yourself as the maintainer of the package.
96    - All other [`meta`](https://nixos.org/manual/nixpkgs/stable/#chap-meta) attributes are optional, but it’s still a good idea to provide at least the `description`, `homepage` and [`license`](https://nixos.org/manual/nixpkgs/stable/#sec-meta-license).
98    - The exact syntax and semantics of the Nix expression language, including the built-in functions, are [Nix language reference](https://nixos.org/manual/nix/stable/language/).
100 5. To test whether the package builds, run the following command from the root of the nixpkgs source tree:
102    ```ShellSession
103    $ nix-build -A some-package
104    ```
106    where `some-package` should be the package name. You may want to add the flag `-K` to keep the temporary build directory in case something fails. If the build succeeds, a symlink `./result` to the package in the Nix store is created.
108 6. If you want to install the package into your profile (optional), do
110    ```ShellSession
111    $ nix-env -f . -iA libfoo
112    ```
114 7. Optionally commit the new package and open a pull request [to nixpkgs](https://github.com/NixOS/nixpkgs/pulls), or use [the Patches category](https://discourse.nixos.org/t/about-the-patches-category/477) on Discourse for sending a patch without a GitHub account.
116 ## Commit conventions
118 - Make sure you read about the [commit conventions](../CONTRIBUTING.md#commit-conventions) common to Nixpkgs as a whole.
120 - Format the commit messages in the following way:
122   ```
123   (pkg-name): (from -> to | init at version | refactor | etc)
125   (Motivation for change. Link to release notes. Additional information.)
126   ```
128   Examples:
130   * nginx: init at 2.0.1
131   * firefox: 54.0.1 -> 55.0
133     https://www.mozilla.org/en-US/firefox/55.0/releasenotes/
135 (using "→" instead of "->" is also accepted)
137 ## Category Hierarchy
138 [categories]: #category-hierarchy
140 Most top-level packages are organised in a loosely-categorised directory hierarchy in this directory.
141 See the [overview](#overview) for which directories are part of this.
143 This category hierarchy is partially deprecated and will be migrated away over time.
144 The new `pkgs/by-name` directory ([docs](./by-name/README.md)) should be preferred instead.
145 The category hierarchy may still be used for packages that should be imported using an alternate `callPackage`, such as `python3Packages.callPackage` or `libsForQt5.callPackage`.
147 If that is the case for a new package, here are some rules for picking the right category.
148 Many packages fall under several categories; what matters is the _primary_ purpose of a package.
149 For example, the `libxml2` package builds both a library and some tools; but it’s a library foremost, so it goes under `pkgs/development/libraries`.
151 <details>
152 <summary>Categories</summary>
154 **If it’s used to support _software development_:**
156 - **If it’s a _library_ used by other packages:**
158   - `development/libraries` (e.g. `libxml2`)
160 - **If it’s a _compiler_:**
162   - `development/compilers` (e.g. `gcc`)
164 - **If it’s an _interpreter_:**
166   - `development/interpreters` (e.g. `guile`)
168 - **If it’s a (set of) development _tool(s)_:**
170   - **If it’s a _parser generator_ (including lexers):**
172     - `development/tools/parsing` (e.g. `bison`, `flex`)
174   - **If it’s a _build manager_:**
176     - `development/tools/build-managers` (e.g. `gnumake`)
178   - **If it’s a _language server_:**
180     - `development/tools/language-servers` (e.g. `ccls` or `nil`)
182   - **Else:**
184     - `development/tools/misc` (e.g. `binutils`)
186 - **Else:**
188   - `development/misc`
190 **If it’s a (set of) _tool(s)_:**
192 (A tool is a relatively small program, especially one intended to be used non-interactively.)
194 - **If it’s for _networking_:**
196   - `tools/networking` (e.g. `wget`)
198 - **If it’s for _text processing_:**
200   - `tools/text` (e.g. `diffutils`)
202 - **If it’s a _system utility_, i.e., something related or essential to the operation of a system:**
204   - `tools/system` (e.g. `cron`)
206 - **If it’s an _archiver_ (which may include a compression function):**
208   - `tools/archivers` (e.g. `zip`, `tar`)
210 - **If it’s a _compression_ program:**
212   - `tools/compression` (e.g. `gzip`, `bzip2`)
214 - **If it’s a _security_-related program:**
216   - `tools/security` (e.g. `nmap`, `gnupg`)
218 - **Else:**
220   - `tools/misc`
222 **If it’s a _shell_:**
224 - `shells` (e.g. `bash`)
226 **If it’s a _server_:**
228 - **If it’s a web server:**
230   - `servers/http` (e.g. `apache-httpd`)
232 - **If it’s an implementation of the X Windowing System:**
234   - `servers/x11` (e.g. `xorg` — this includes the client libraries and programs)
236 - **Else:**
238   - `servers/misc`
240 **If it’s a _desktop environment_:**
242 - `desktops` (e.g. `kde`, `gnome`, `enlightenment`)
244 **If it’s a _window manager_:**
246 - `applications/window-managers` (e.g. `awesome`, `stumpwm`)
248 **If it’s an _application_:**
250 A (typically large) program with a distinct user interface, primarily used interactively.
252 - **If it’s a _version management system_:**
254   - `applications/version-management` (e.g. `subversion`)
256 - **If it’s a _terminal emulator_:**
258   - `applications/terminal-emulators` (e.g. `alacritty` or `rxvt` or `termite`)
260 - **If it’s a _file manager_:**
262   - `applications/file-managers` (e.g. `mc` or `ranger` or `pcmanfm`)
264 - **If it’s for _video playback / editing_:**
266   - `applications/video` (e.g. `vlc`)
268 - **If it’s for _graphics viewing / editing_:**
270   - `applications/graphics` (e.g. `gimp`)
272 - **If it’s for _networking_:**
274   - **If it’s a _mailreader_:**
276     - `applications/networking/mailreaders` (e.g. `thunderbird`)
278   - **If it’s a _newsreader_:**
280     - `applications/networking/newsreaders` (e.g. `pan`)
282   - **If it’s a _web browser_:**
284     - `applications/networking/browsers` (e.g. `firefox`)
286   - **Else:**
288     - `applications/networking/misc`
290 - **Else:**
292   - `applications/misc`
294 **If it’s _data_ (i.e., does not have a straight-forward executable semantics):**
296 - **If it’s a _font_:**
298   - `data/fonts`
300 - **If it’s an _icon theme_:**
302   - `data/icons`
304 - **If it’s related to _SGML/XML processing_:**
306   - **If it’s an _XML DTD_:**
308     - `data/sgml+xml/schemas/xml-dtd` (e.g. `docbook`)
310   - **If it’s an _XSLT stylesheet_:**
312     (Okay, these are executable...)
314     - `data/sgml+xml/stylesheets/xslt` (e.g. `docbook-xsl`)
316 - **If it’s a _theme_ for a _desktop environment_, a _window manager_ or a _display manager_:**
318   - `data/themes`
320 **If it’s a _game_:**
322 - `games`
324 **Else:**
326 - `misc`
328 </details>
330 # Conventions
332 The key words _must_, _must not_, _required_, _shall_, _shall not_, _should_, _should not_, _recommended_, _may_, and _optional_ in this section are to be interpreted as described in [RFC 2119](https://tools.ietf.org/html/rfc2119). Only _emphasized_ words are to be interpreted in this way.
334 ## Package naming
336 In Nixpkgs, there are generally three different names associated with a package:
338 - The `pname` attribute of the derivation. This is what most users see, in particular when using `nix-env`.
340 - The attribute name used for the package in the [`pkgs/by-name` structure](./pkgs/by-name/README.md) or in [`all-packages.nix`](./pkgs/top-level/all-packages.nix), and when passing it as a dependency in recipes.
342 - The filename for (the directory containing) the Nix expression.
344 Most of the time, these are the same. For instance, the package `e2fsprogs` has a `pname` attribute `"e2fsprogs"`, is bound to the attribute name `e2fsprogs` in `all-packages.nix`, and the Nix expression is in `pkgs/os-specific/linux/e2fsprogs/default.nix`.
346 Follow these guidelines:
348 - For the `pname` attribute:
350   - It _should_ be identical to the upstream package name.
352   - It _must not_ contain uppercase letters.
354     Example: Use `"mplayer"` instead of `"MPlayer"`
356 - For the package attribute name:
358   - It _must_ be a valid identifier in Nix.
360   - If the `pname` starts with a digit, the attribute name _should_ be prefixed with an underscore. Otherwise the attribute name _should not_ be prefixed with an underline.
362     Example: The corresponding attribute name for `0ad` should be `_0ad`.
364   - New attribute names _should_ be the same as the value in `pname`.
366     Hyphenated names _should not_ be converted to [snake case](https://en.wikipedia.org/wiki/Snake_case) or [camel case](https://en.wikipedia.org/wiki/Camel_case).
367     This was done historically, but is not necessary any more.
368     [The Nix language allows dashes in identifiers since 2012](https://github.com/NixOS/nix/commit/95c74eae269b2b9e4bc514581b5caa1d80b54acc).
370   - If there are multiple versions of a package, this _should_ be reflected in the attribute names in `all-packages.nix`.
372     Example: `json-c_0_9` and `json-c_0_11`
374     If there is an obvious “default” version, make an extra attribute.
376     Example: `json-c = json-c_0_9;`
378     See also [versioning][versioning].
380 ## Versioning
381 [versioning]: #versioning
383 These are the guidelines the `version` attribute of a package:
385 - It _must_ start with a digit. This is required for backwards-compatibility with [how `nix-env` parses derivation names](https://nix.dev/manual/nix/latest/command-ref/nix-env#selectors).
387   Example: `"0.3.1rc2"` or `"0-unstable-1970-01-01"`
389 - If a package is a commit from a repository without a version assigned, then the `version` attribute _should_ be the latest upstream version preceding that commit, followed by `-unstable-` and the date of the (fetched) commit. The date _must_ be in `"YYYY-MM-DD"` format.
391   Example: Given a project had its latest releases `2.2` in November 2021 and `3.0` in January 2022, a commit authored on March 15, 2022 for an upcoming bugfix release `2.2.1` would have `version = "2.2-unstable-2022-03-15"`.
393 - If a project has no suitable preceding releases - e.g., no versions at all, or an incompatible versioning or tagging scheme - then the latest upstream version in the above schema should be `0`.
395   Example: Given a project that has no tags or released versions at all, or applies versionless tags like `latest` or `YYYY-MM-DD-Build`, a commit authored on March 15, 2022 would have `version = "0-unstable-2022-03-15"`.
397 Because every version of a package in Nixpkgs creates a potential maintenance burden, old versions of a package should not be kept unless there is a good reason to do so. For instance, Nixpkgs contains several versions of GCC because other packages don’t build with the latest version of GCC. Other examples are having both the latest stable and latest pre-release version of a package, or to keep several major releases of an application that differ significantly in functionality.
399 If there is only one version of a package, its Nix expression should be named (e.g) `pkgs/by-name/xy/xyz/package.nix`. If there are multiple versions, this should be reflected in the attribute name. If you wish to share code between the Nix expressions of each version, you cannot rely upon `pkgs/by-name`'s automatic attribute creation, and must create the attributes yourself in `all-packages.nix`. See also [`pkgs/by-name/README.md`'s section on this topic](https://github.com/NixOS/nixpkgs/blob/master/pkgs/by-name/README.md#recommendation-for-new-packages-with-multiple-versions).
401 ## Meta attributes
403 * `meta.description` must:
404   * Be short, just one sentence.
405   * Be capitalized.
406   * Not start with the definite or an indefinite article.
407   * Not start with the package name.
408     * More generally, it should not refer to the package name.
409   * Not end with a period (or any punctuation for that matter).
410   * Provide factual information.
411     * Avoid subjective language.
412 * `meta.license` must be set and match the upstream license.
413   * If there is no upstream license, `meta.license` should default to `lib.licenses.unfree`.
414   * If in doubt, try to contact the upstream developers for clarification.
415 * `meta.mainProgram` must be set to the name of the executable which facilitates the primary function or purpose of the package, if there is such an executable in `$bin/bin/` (or `$out/bin/`, if there is no `"bin"` output).
416   * Packages that only have a single executable in the applicable directory above should set `meta.mainProgram`. For example, the package `ripgrep` only has a single executable `rg` under `$out/bin/`, so `ripgrep.meta.mainProgram` is set to `"rg"`.
417   * Packages like `polkit_gnome` that have no executables in the applicable directory should not set `meta.mainProgram`.
418   * Packages like `e2fsprogs` that have multiple executables, none of which can be considered the main program, should not set `meta.mainProgram`.
419   * Packages which are not primarily used for a single executable do not need to set `meta.mainProgram`.
420   * Always prefer using a hardcoded string (don't use `pname`, for example).
421   * When in doubt, ask for reviewer input.
422 * `meta.maintainers` must be set for new packages.
424 See the Nixpkgs manual for more details on [standard meta-attributes](https://nixos.org/nixpkgs/manual/#sec-standard-meta-attributes).
426 ## Import From Derivation
428 [Import From Derivation](https://nixos.org/manual/nix/unstable/language/import-from-derivation) (IFD) is disallowed in Nixpkgs for performance reasons:
429 [Hydra](https://github.com/NixOS/hydra) evaluates the entire package set, and sequential builds during evaluation would increase evaluation times to become impractical.
431 Import From Derivation can be worked around in some cases by committing generated intermediate files to version control and reading those instead.
433 ## Sources
435 Always fetch source files using [Nixpkgs fetchers](https://nixos.org/manual/nixpkgs/unstable/#chap-pkgs-fetchers).
436 Use reproducible sources with a high degree of availability.
437 Prefer protocols that support proxies.
439 A list of schemes for `mirror://` URLs can be found in [`pkgs/build-support/fetchurl/mirrors.nix`](build-support/fetchurl/mirrors.nix), and is supported by [`fetchurl`](https://nixos.org/manual/nixpkgs/unstable/#fetchurl).
440 Other fetchers which end up relying on `fetchurl` may also support mirroring.
442 The preferred source hash type is `sha256`.
444 Examples going from bad to best practices:
446 - Bad: Uses `git://` which won't be proxied.
448   ```nix
449   {
450     src = fetchgit {
451       url = "git://github.com/NixOS/nix.git";
452       rev = "1f795f9f44607cc5bec70d1300150bfefcef2aae";
453       hash = "sha256-7D4m+saJjbSFP5hOwpQq2FGR2rr+psQMTcyb1ZvtXsQ=";
454     };
455   }
456   ```
458 - Better: This is ok, but an archive fetch will still be faster.
460   ```nix
461   {
462     src = fetchgit {
463       url = "https://github.com/NixOS/nix.git";
464       rev = "1f795f9f44607cc5bec70d1300150bfefcef2aae";
465       hash = "sha256-7D4m+saJjbSFP5hOwpQq2FGR2rr+psQMTcyb1ZvtXsQ=";
466     };
467   }
468   ```
470 - Best: Fetches a snapshot archive for the given revision.
472   ```nix
473   {
474     src = fetchFromGitHub {
475       owner = "NixOS";
476       repo = "nix";
477       rev = "1f795f9f44607cc5bec70d1300150bfefcef2aae";
478       hash = "sha256-7D4m+saJjbSFP5hOwpQq2FGR2rr+psQMTcyb1ZvtXsQ=";
479     };
480   }
481   ```
483 > [!Note]
484 > When fetching from GitHub, always reference revisions by their full commit hash.
485 > GitHub shares commit hashes among all forks and returns `404 Not Found` when a short commit hash is ambiguous.
486 > It already happened in Nixpkgs for short, 6-character commit hashes.
488 > Pushing large amounts of auto generated commits into forks is a practical vector for a denial-of-service attack, and was already [demonstrated against GitHub Actions Beta](https://blog.teddykatz.com/2019/11/12/github-actions-dos.html).
490 ## Patches
492 Sometimes, changes are needed to the source to allow building a derivation in nixpkgs, or to get earlier access to an upstream fix or improvement.
493 When using the `patches` parameter to `mkDerivation`, make sure the patch name clearly describes the reason for the patch, or add a comment.
495 Patches already merged upstream or published elsewhere should be retrieved using `fetchpatch`.
497 ```nix
499   patches = [
500     (fetchpatch {
501       name = "fix-check-for-using-shared-freetype-lib.patch";
502       url = "http://git.ghostscript.com/?p=ghostpdl.git;a=patch;h=8f5d285";
503       hash = "sha256-uRcxaCjd+WAuGrXOmGfFeu79cUILwkRdBu48mwcBE7g=";
504     })
505   ];
509 Otherwise, you can add a `.patch` file to the `nixpkgs` repository.
510 In the interest of keeping our maintenance burden and the size of nixpkgs to a minimum, only do this for patches that are unique to `nixpkgs` or that have been proposed upstream but are not merged yet, cannot be easily fetched or have a high chance to disappear in the future due to unstable or unreliable URLs.
511 The latter avoids link rot when the upstream abandons, squashes or rebases their change, in which case the commit may get garbage-collected.
513 If a patch is available online but does not cleanly apply, it can be modified in some fixed ways by using additional optional arguments for `fetchpatch`. Check [the `fetchpatch` reference](https://nixos.org/manual/nixpkgs/unstable/#fetchpatch) for details.
515 ```nix
517   patches = [ ./0001-changes.patch ];
521 If you do need to do create this sort of patch file, one way to do so is with git:
523 1. Move to the root directory of the source code you're patching.
525     ```ShellSession
526     $ cd the/program/source
527     ```
529 2. If a git repository is not already present, create one and stage all of the source files.
531     ```ShellSession
532     $ git init
533     $ git add .
534     ```
536 3. Edit some files to make whatever changes need to be included in the patch.
538 4. Use git to create a diff, and pipe the output to a patch file:
540     ```ShellSession
541     $ git diff -a > nixpkgs/pkgs/the/package/0001-changes.patch
542     ```
544 ## Deprecating/removing packages
546 There is currently no policy when to remove a package.
548 Before removing a package, one should try to find a new maintainer or fix smaller issues first.
550 ### Steps to remove a package from Nixpkgs
552 We use jbidwatcher as an example for a discontinued project here.
554 1. Have Nixpkgs checked out locally and up to date.
555 1. Create a new branch for your change, e.g. `git checkout -b jbidwatcher`
556 1. Remove the actual package including its directory, e.g. `git rm -rf pkgs/applications/misc/jbidwatcher`
557 1. Remove the package from the list of all packages (`pkgs/top-level/all-packages.nix`).
558 1. Add an alias for the package name in `pkgs/top-level/aliases.nix` (There is also `pkgs/applications/editors/vim/plugins/aliases.nix`. Package sets typically do not have aliases, so we can't add them there.)
560     For example in this case:
562     ```nix
563     {
564       jbidwatcher = throw "jbidwatcher was discontinued in march 2021"; # added 2021-03-15
565     }
566     ```
568     The throw message should explain in short why the package was removed for users that still have it installed.
570 1. Test if the changes introduced any issues by running `nix-env -qaP -f . --show-trace`. It should show the list of packages without errors.
571 1. Commit the changes. Explain again why the package was removed. If it was declared discontinued upstream, add a link to the source.
573     ```ShellSession
574     $ git add pkgs/applications/misc/jbidwatcher/default.nix pkgs/top-level/all-packages.nix pkgs/top-level/aliases.nix
575     $ git commit
576     ```
578     Example commit message:
580     ```
581     jbidwatcher: remove
583     project was discontinued in march 2021. the program does not work anymore because ebay changed the login.
585     https://web.archive.org/web/20210315205723/http://www.jbidwatcher.com/
586     ```
588 1. Push changes to your GitHub fork with `git push`
589 1. Create a pull request against Nixpkgs. Mention the package maintainer.
591 This is how the pull request looks like in this case: [https://github.com/NixOS/nixpkgs/pull/116470](https://github.com/NixOS/nixpkgs/pull/116470)
593 ## Package tests
595 To run the main types of tests locally:
597 - Run package-internal tests with `nix-build --attr pkgs.PACKAGE.passthru.tests`
598 - Run [NixOS tests](https://nixos.org/manual/nixos/unstable/#sec-nixos-tests) with `nix-build --attr nixosTests.NAME`, where `NAME` is the name of the test listed in `nixos/tests/all-tests.nix`
599 - Run [global package tests](https://nixos.org/manual/nixpkgs/unstable/#sec-package-tests) with `nix-build --attr tests.PACKAGE`, where `PACKAGE` is the name of the test listed in `pkgs/test/default.nix`
600 - See `lib/tests/NAME.nix` for instructions on running specific library tests
602 Tests are important to ensure quality and make reviews and automatic updates easy.
604 The following types of tests exists:
606 * [NixOS **module tests**](https://nixos.org/manual/nixos/stable/#sec-nixos-tests), which spawn one or more NixOS VMs. They exercise both NixOS modules and the packaged programs used within them. For example, a NixOS module test can start a web server VM running the `nginx` module, and a client VM running `curl` or a graphical `firefox`, and test that they can talk to each other and display the correct content.
607 * Nix **package tests** are a lightweight alternative to NixOS module tests. They should be used to create simple integration tests for packages, but cannot test NixOS services, and some programs with graphical user interfaces may also be difficult to test with them.
608 * The **`checkPhase` of a package**, which should execute the unit tests that are included in the source code of a package.
610 Here in the nixpkgs manual we describe mostly _package tests_; for _module tests_ head over to the corresponding [section in the NixOS manual](https://nixos.org/manual/nixos/stable/#sec-nixos-tests).
612 ### Writing inline package tests
614 For very simple tests, they can be written inline:
616 ```nix
617 { /* ... , */ yq-go }:
619 buildGoModule rec {
620   # …
622   passthru.tests = {
623     simple = runCommand "${pname}-test" {} ''
624       echo "test: 1" | ${yq-go}/bin/yq eval -j > $out
625       [ "$(cat $out | tr -d $'\n ')" = '{"test":1}' ]
626     '';
627   };
631 Any derivation can be specified as a test, even if it's in a different file.
632 Such a derivation that implements a test can depend on the package under test, even in the presence of `overrideAttrs`.
634 In the following example, `(my-package.overrideAttrs f).passthru.tests` will work as expected, as long as the definition of `tests` does not rely on the original `my-package` or overrides all occurrences of `my-package`:
636 ```nix
637 # my-package/default.nix
638 { stdenv, callPackage }:
639 stdenv.mkDerivation (finalAttrs: {
640   # ...
641   passthru.tests.example = callPackage ./example.nix { my-package = finalAttrs.finalPackage; };
645 ```nix
646 # my-package/example.nix
647 { runCommand, lib, my-package, ... }:
648 runCommand "my-package-test" {
649   nativeBuildInputs = [ my-package ];
650   src = lib.sources.sourcesByRegex ./. [ ".*.in" ".*.expected" ];
651 } ''
652   my-package --help
653   my-package <example.in >example.actual
654   diff -U3 --color=auto example.expected example.actual
655   mkdir $out
659 ### Writing larger package tests
660 [larger-package-tests]: #writing-larger-package-tests
662 This is an example using the `phoronix-test-suite` package with the current best practices.
664 Add the tests in `passthru.tests` to the package definition like this:
666 ```nix
667 { stdenv, lib, fetchurl, callPackage }:
669 stdenv.mkDerivation {
670   # …
672   passthru.tests = {
673     simple-execution = callPackage ./tests.nix { };
674   };
676   meta = { /* … */ };
680 Create `tests.nix` in the package directory:
682 ```nix
683 { runCommand, phoronix-test-suite }:
686   inherit (phoronix-test-suite) pname version;
689 runCommand "${pname}-tests" { meta.timeout = 60; }
690   ''
691     # automatic initial setup to prevent interactive questions
692     ${phoronix-test-suite}/bin/phoronix-test-suite enterprise-setup >/dev/null
693     # get version of installed program and compare with package version
694     if [[ `${phoronix-test-suite}/bin/phoronix-test-suite version` != *"${version}"*  ]]; then
695       echo "Error: program version does not match package version"
696       exit 1
697     fi
698     # run dummy command
699     ${phoronix-test-suite}/bin/phoronix-test-suite dummy_module.dummy-command >/dev/null
700     # needed for Nix to register the command as successful
701     touch $out
702   ''
705 ### Running package tests
707 You can run these tests with:
709 ```ShellSession
710 $ cd path/to/nixpkgs
711 $ nix-build -A phoronix-test-suite.tests
714 ### Examples of package tests
716 Here are examples of package tests:
718 - [Jasmin compile test](development/compilers/jasmin/test-assemble-hello-world/default.nix)
719 - [Lobster compile test](development/compilers/lobster/test-can-run-hello-world.nix)
720 - [Spacy annotation test](development/python-modules/spacy/annotation-test/default.nix)
721 - [Libtorch test](development/libraries/science/math/libtorch/test/default.nix)
722 - [Multiple tests for nanopb](./by-name/na/nanopb/package.nix)
724 ### Linking NixOS module tests to a package
726 Like [package tests][larger-package-tests] as shown above, [NixOS module tests](https://nixos.org/manual/nixos/stable/#sec-nixos-tests) can also be linked to a package, so that the tests can be easily run when changing the related package.
728 For example, assuming we're packaging `nginx`, we can link its module test via `passthru.tests`:
730 ```nix
731 { stdenv, lib, nixosTests }:
733 stdenv.mkDerivation {
734   # ...
736   passthru.tests = {
737     nginx = nixosTests.nginx;
738   };
740   # ...
744 ## Automatic package updates
745 [automatic-package-updates]: #automatic-package-updates
747 Nixpkgs periodically tries to update all packages that have a `passthru.updateScript` attribute.
749 > [!Note]
750 > A common pattern is to use the [`nix-update-script`](../pkgs/by-name/ni/nix-update/nix-update-script.nix) attribute provided in Nixpkgs, which runs [`nix-update`](https://github.com/Mic92/nix-update):
752 > ```nix
753 > { stdenv, nix-update-script }:
754 > stdenv.mkDerivation {
755 >   # ...
756 >   passthru.updateScript = nix-update-script { };
757 > }
758 > ```
760 > For simple packages, this is often enough, and will ensure that the package is updated automatically by [`nixpkgs-update`](https://github.com/nix-community/nixpkgs-update) when a new version is released.
761 > The [update bot](https://nix-community.org/update-bot) runs periodically to attempt to automatically update packages, and will run `passthru.updateScript` if set.
762 > While not strictly necessary if the project is listed on [Repology](https://repology.org), using `nix-update-script` allows the package to update via many more sources (e.g. GitHub releases).
764 The `passthru.updateScript` attribute can contain one of the following:
766 - an executable file, either on the file system:
768   ```nix
769   { stdenv }:
770   stdenv.mkDerivation {
771     # ...
772     passthru.updateScript = ./update.sh;
773   }
774   ```
776   or inside the expression itself:
778   ```nix
779   { stdenv, writeScript }:
780   stdenv.mkDerivation {
781     # ...
782     passthru.updateScript = writeScript "update-zoom-us" ''
783       #!/usr/bin/env nix-shell
784       #!nix-shell -i bash -p curl pcre2 common-updater-scripts
786       set -eu -o pipefail
788       version="$(curl -sI https://zoom.us/client/latest/zoom_x86_64.tar.xz | grep -Fi 'Location:' | pcre2grep -o1 '/(([0-9]\.?)+)/')"
789       update-source-version zoom-us "$version"
790     '';
791   }
792   ```
794 - a list, a script file followed by arguments to be passed to it:
796   ```nix
797   { stdenv }:
798   stdenv.mkDerivation {
799     # ...
800     passthru.updateScript = [ ../../update.sh pname "--requested-release=unstable" ];
801   }
802   ```
804 - an attribute set containing:
805   - `command`
807     A string or list in the [format expected by `passthru.updateScript`][automatic-package-updates]
809   - `attrPath` (optional)
811     A string containing the canonical attribute path for the package.
813     If present, it will be passed to the update script instead of the attribute path on which the package was discovered during Nixpkgs traversal.
815   - `supportedFeatures` (optional)
817     A list of the [extra features the script supports][supported-features].
819     ```nix
820     { stdenv }:
821     stdenv.mkDerivation rec {
822       pname = "my-package";
823       # ...
824       passthru.updateScript = {
825         command = [ ../../update.sh pname ];
826         attrPath = pname;
827         supportedFeatures = [ /* ... */ ];
828       };
829     }
830     ```
832 ### How are update scripts executed?
834 Update scripts are to be invoked by the [automatic package update script](../maintainers/scripts/update.nix).
835 You can run `nix-shell maintainers/scripts/update.nix` in the root of Nixpkgs repository for information on how to use it.
836 `update.nix` offers several modes for selecting packages to update, and it will execute update scripts for all matched packages that have an `updateScript` attribute.
838 Each update script will be passed the following environment variables:
840 - [`UPDATE_NIX_NAME`] – content of the `name` attribute of the updated package
841 - [`UPDATE_NIX_PNAME`] – content of the `pname` attribute of the updated package
842 - [`UPDATE_NIX_OLD_VERSION`] – content of the `version` attribute of the updated package
843 - [`UPDATE_NIX_ATTR_PATH`] – attribute path the `update.nix` discovered the package on (or the package's specified `attrPath` when available). Example: `pantheon.elementary-terminal`
845 > [!Note]
846 > An update script will be usually run from the root of the Nixpkgs repository, but you should not rely on that.
847 > Also note that `update.nix` executes update scripts in parallel by default, so you should avoid running `git commit` or any other commands that cannot handle that.
849 While update scripts should not create commits themselves, `update.nix` supports automatically creating commits when running it with `--argstr commit true`.
850 If you need to customize commit message, you can have the update script implement the `commit` feature.
852 ### Supported features
853 [update-script-supported-features]: #supported-features
855 - `commit`
857   This feature allows update scripts to *ask* `update.nix` to create Git commits.
859   When support of this feature is declared, whenever the update script exits with `0` return status, it is expected to print a JSON list containing an object described below for each updated attribute to standard output.
860   Example:
862   ```json
863   [
864     {
865       "attrPath": "volume_key",
866       "oldVersion": "0.3.11",
867       "newVersion": "0.3.12",
868       "files": [
869         "/path/to/nixpkgs/pkgs/development/libraries/volume-key/default.nix"
870       ]
871     }
872   ]
873   ```
874   :::
876   When `update.nix` is run with `--argstr commit true`, it will create a separate commit for each of the objects.
877   An empty list can be returned when the script did not update any files; for example, when the package is already at the latest version.
879   The commit object contains the following values:
881   - `attrPath` – a string containing the attribute path
882   - `oldVersion` – a string containing the old version
883   - `newVersion` – a string containing the new version
884   - `files` – a non-empty list of file paths (as strings) to add to the commit
885   - `commitBody` (optional) – a string with extra content to be appended to the default commit message (useful for adding changelog links)
886   - `commitMessage` (optional) – a string to use instead of the default commit message
888   If the returned list contains exactly one object (e.g. `[{}]`), all values are optional and will be determined automatically.
890 ## Reviewing contributions
892 ### Package updates
894 A package update is the most trivial and common type of pull request. These pull requests mainly consist of updating the version part of the package name and the source hash.
896 It can happen that non-trivial updates include patches or more complex changes.
898 Reviewing process:
900 - Ensure that the package versioning [fits the guidelines](#versioning).
901 - Ensure that the commit text [fits the guidelines](../CONTRIBUTING.md#commit-conventions).
902 - Ensure that the package maintainers are notified.
903   - [CODEOWNERS](https://help.github.com/articles/about-codeowners) will make GitHub notify users based on the submitted changes, but it can happen that it misses some of the package maintainers.
904 - Ensure that the meta field information [fits the guidelines](#meta-attributes) and is correct:
905   - License can change with version updates, so it should be checked to match the upstream license.
906   - If the package has no maintainer, a maintainer must be set. This can be the update submitter or a community member that accepts to take maintainership of the package.
907 - Ensure that the code contains no typos.
908 - Build the package locally.
909   - Pull requests are often targeted to the master or staging branch, and building the pull request locally when it is submitted can trigger many source builds.
910   - It is possible to rebase the changes on nixos-unstable or nixpkgs-unstable for easier review by running the following commands from a nixpkgs clone.
912     ```ShellSession
913     $ git fetch origin nixos-unstable
914     $ git fetch origin pull/PRNUMBER/head
915     $ git rebase --onto nixos-unstable BASEBRANCH FETCH_HEAD
916     ```
918     - The first command fetches the nixos-unstable branch.
919     - The second command fetches the pull request changes, `PRNUMBER` is the number at the end of the pull request title and `BASEBRANCH` the base branch of the pull request.
920     - The third command rebases the pull request changes to the nixos-unstable branch.
921   - The [nixpkgs-review](https://github.com/Mic92/nixpkgs-review) tool can be used to review a pull request content in a single command. `PRNUMBER` should be replaced by the number at the end of the pull request title. You can also provide the full github pull request url.
923     ```ShellSession
924     $ nix-shell -p nixpkgs-review --run "nixpkgs-review pr PRNUMBER"
925     ```
926 - Run every binary.
928 Sample template for a package update review is provided below.
930 ```markdown
931 ##### Reviewed points
933 - [ ] package name fits guidelines
934 - [ ] package version fits guidelines
935 - [ ] package builds on ARCHITECTURE
936 - [ ] executables tested on ARCHITECTURE
937 - [ ] all depending packages build
938 - [ ] patches have a comment describing either the upstream URL or a reason why the patch wasn't upstreamed
939 - [ ] patches that are remotely available are fetched rather than vendored
941 ##### Possible improvements
943 ##### Comments
946 ### New packages
948 New packages are a common type of pull requests. These pull requests consists in adding a new nix-expression for a package.
950 Review process:
952 - Ensure that all file paths [fit the guidelines](../CONTRIBUTING.md#file-naming-and-organisation).
953 - Ensure that the package name and version [fits the guidelines](#package-naming).
954 - Ensure that the package versioning [fits the guidelines](#versioning).
955 - Ensure that the commit text [fits the guidelines](../CONTRIBUTING.md#commit-conventions).
956 - Ensure that the meta fields [fits the guidelines](#meta-attributes) and contain the correct information:
957   - License must match the upstream license.
958   - Platforms should be set (or the package will not get binary substitutes).
959   - Maintainers must be set. This can be the package submitter or a community member that accepts taking up maintainership of the package.
960   - The `meta.mainProgram` must be set if a main executable exists.
961 - Report detected typos.
962 - Ensure the package source:
963   - Uses `mirror://` URLs when available.
964   - Uses the most appropriate functions (e.g. packages from GitHub should use `fetchFromGitHub`).
965 - Build the package locally.
966 - Run every binary.
968 Sample template for a new package review is provided below.
970 ```markdown
971 ##### Reviewed points
973 - [ ] package path fits guidelines
974 - [ ] package name fits guidelines
975 - [ ] package version fits guidelines
976 - [ ] package builds on ARCHITECTURE
977 - [ ] executables tested on ARCHITECTURE
978 - [ ] `meta.description` is set and fits guidelines
979 - [ ] `meta.license` fits upstream license
980 - [ ] `meta.platforms` is set
981 - [ ] `meta.maintainers` is set
982 - [ ] `meta.mainProgram` is set, if applicable.
983 - [ ] build time only dependencies are declared in `nativeBuildInputs`
984 - [ ] source is fetched using the appropriate function
985 - [ ] the list of `phases` is not overridden
986 - [ ] when a phase (like `installPhase`) is overridden it starts with `runHook preInstall` and ends with `runHook postInstall`.
987 - [ ] patches have a comment describing either the upstream URL or a reason why the patch wasn't upstreamed
988 - [ ] patches that are remotely available are fetched rather than vendored
990 ##### Possible improvements
992 ##### Comments
995 ## Security
997 ### Submitting security fixes
998 [security-fixes]: #submitting-security-fixes
1000 Security fixes are submitted in the same way as other changes and thus the same guidelines apply.
1002 - If a new version fixing the vulnerability has been released, update the package;
1003 - If the security fix comes in the form of a patch and a CVE is available, then add the patch to the Nixpkgs tree, and apply it to the package.
1004   The name of the patch should be the CVE identifier, so e.g. `CVE-2019-13636.patch`; If a patch is fetched the name needs to be set as well, e.g.:
1006   ```nix
1007   (fetchpatch {
1008     name = "CVE-2019-11068.patch";
1009     url = "https://gitlab.gnome.org/GNOME/libxslt/commit/e03553605b45c88f0b4b2980adfbbb8f6fca2fd6.patch";
1010     hash = "sha256-SEKe/8HcW0UBHCfPTTOnpRlzmV2nQPPeL6HOMxBZd14=";
1011   })
1012   ```
1014 If a security fix applies to both master and a stable release then, similar to regular changes, they are preferably delivered via master first and cherry-picked to the release branch.
1016 Critical security fixes may by-pass the staging branches and be delivered directly to release branches such as `master` and `release-*`.
1018 ### Vulnerability Roundup
1020 #### Issues
1022 Vulnerable packages in Nixpkgs are managed using issues.
1023 Currently opened ones can be found using the following:
1025 [github.com/NixOS/nixpkgs/issues?q=is:issue+is:open+"Vulnerability+roundup"](https://github.com/NixOS/nixpkgs/issues?q=is%3Aissue+is%3Aopen+%22Vulnerability+roundup%22)
1027 Each issue correspond to a vulnerable version of a package; As a consequence:
1029 - One issue can contain several CVEs;
1030 - One CVE can be shared across several issues;
1031 - A single package can be concerned by several issues.
1034 A "Vulnerability roundup" issue usually respects the following format:
1036 ```txt
1037 <link to relevant package search on search.nix.gsc.io>, <link to relevant files in Nixpkgs on GitHub>
1039 <list of related CVEs, their CVSS score, and the impacted NixOS version>
1041 <list of the scanned Nixpkgs versions>
1043 <list of relevant contributors>
1046 Note that there can be an extra comment containing links to previously reported (and still open) issues for the same package.
1049 #### Triaging and Fixing
1051 **Note**: An issue can be a "false positive" (i.e. automatically opened, but without the package it refers to being actually vulnerable).
1052 If you find such a "false positive", comment on the issue an explanation of why it falls into this category, linking as much information as the necessary to help maintainers double check.
1054 If you are investigating a "true positive":
1056 - Find the earliest patched version or a code patch in the CVE details;
1057 - Is the issue already patched (version up-to-date or patch applied manually) in Nixpkgs's `master` branch?
1058   - **No**:
1059     - [Submit a security fix][security-fixes];
1060     - Once the fix is merged into `master`, [submit the change to the vulnerable release branch(es)](../CONTRIBUTING.md#how-to-backport-pull-requests);
1061   - **Yes**: [Backport the change to the vulnerable release branch(es)](../CONTRIBUTING.md#how-to-backport-pull-requests).
1062 - When the patch has made it into all the relevant branches (`master`, and the vulnerable releases), close the relevant issue(s).