1:255.16-alt1
[systemd_ALT.git] / man / systemd-nspawn.xml
blob559c21cde76ac4b0a67fde7a25181ca04ef15743
1 <?xml version='1.0'?>
2 <!DOCTYPE refentry PUBLIC "-//OASIS//DTD DocBook XML V4.5//EN"
3   "http://www.oasis-open.org/docbook/xml/4.2/docbookx.dtd" [
4 <!ENTITY % entities SYSTEM "custom-entities.ent" >
5 %entities;
6 ]>
7 <!-- SPDX-License-Identifier: LGPL-2.1-or-later -->
9 <refentry id="systemd-nspawn"
10     xmlns:xi="http://www.w3.org/2001/XInclude">
12   <refentryinfo>
13     <title>systemd-nspawn</title>
14     <productname>systemd</productname>
15   </refentryinfo>
17   <refmeta>
18     <refentrytitle>systemd-nspawn</refentrytitle>
19     <manvolnum>1</manvolnum>
20   </refmeta>
22   <refnamediv>
23     <refname>systemd-nspawn</refname>
24     <refpurpose>Spawn a command or OS in a light-weight container</refpurpose>
25   </refnamediv>
27   <refsynopsisdiv>
28     <cmdsynopsis>
29       <command>systemd-nspawn</command>
30       <arg choice="opt" rep="repeat">OPTIONS</arg>
31       <arg choice="opt"><replaceable>COMMAND</replaceable>
32       <arg choice="opt" rep="repeat">ARGS</arg>
33       </arg>
34     </cmdsynopsis>
35     <cmdsynopsis>
36       <command>systemd-nspawn</command>
37       <arg choice="plain">--boot</arg>
38       <arg choice="opt" rep="repeat">OPTIONS</arg>
39       <arg choice="opt" rep="repeat">ARGS</arg>
40     </cmdsynopsis>
41   </refsynopsisdiv>
43   <refsect1>
44     <title>Description</title>
46     <para><command>systemd-nspawn</command> may be used to run a command or OS in a light-weight namespace
47     container. In many ways it is similar to <citerefentry
48     project='man-pages'><refentrytitle>chroot</refentrytitle><manvolnum>1</manvolnum></citerefentry>, but more powerful
49     since it virtualizes the file system hierarchy, as well as the process tree, the various IPC subsystems, and
50     the host and domain names.</para>
52     <para><command>systemd-nspawn</command> may be invoked on any directory tree containing an operating system tree,
53     using the <option>--directory=</option> command line option. By using the <option>--machine=</option> option an OS
54     tree is automatically searched for in a couple of locations, most importantly in
55     <filename>/var/lib/machines/</filename>, the suggested directory to place OS container images installed on the
56     system.</para>
58     <para>In contrast to <citerefentry
59     project='man-pages'><refentrytitle>chroot</refentrytitle><manvolnum>1</manvolnum></citerefentry> <command>systemd-nspawn</command>
60     may be used to boot full Linux-based operating systems in a container.</para>
62     <para><command>systemd-nspawn</command> limits access to various kernel interfaces in the container to
63     read-only, such as <filename>/sys/</filename>, <filename>/proc/sys/</filename>, or
64     <filename>/sys/fs/selinux/</filename>. The host's network interfaces and the system clock may not be
65     changed from within the container. Device nodes may not be created. The host system cannot be rebooted
66     and kernel modules may not be loaded from within the container. <emphasis>This sandbox can easily be
67     circumvented from within the container if user namespaces are not used</emphasis>. This means that
68     untrusted code must always be run in a user namespace, see the discussion of the
69     <option>--private-users=</option> option below.</para>
71     <para>Use a tool like <citerefentry
72     project='mankier'><refentrytitle>dnf</refentrytitle><manvolnum>8</manvolnum></citerefentry>, <citerefentry
73     project='die-net'><refentrytitle>debootstrap</refentrytitle><manvolnum>8</manvolnum></citerefentry>, or
74     <citerefentry project='archlinux'><refentrytitle>pacman</refentrytitle><manvolnum>8</manvolnum></citerefentry> to
75     set up an OS directory tree suitable as file system hierarchy for <command>systemd-nspawn</command> containers. See
76     the Examples section below for details on suitable invocation of these commands.</para>
78     <para>As a safety check <command>systemd-nspawn</command> will verify the existence of
79     <filename>/usr/lib/os-release</filename> or <filename>/etc/os-release</filename> in the container tree before
80     booting a container (see
81     <citerefentry><refentrytitle>os-release</refentrytitle><manvolnum>5</manvolnum></citerefentry>).  It might be
82     necessary to add this file to the container tree manually if the OS of the container is too old to contain this
83     file out-of-the-box.</para>
85     <para><command>systemd-nspawn</command> may be invoked directly from the interactive command line or run as system
86     service in the background. In this mode each container instance runs as its own service instance; a default
87     template unit file <filename>systemd-nspawn@.service</filename> is provided to make this easy, taking the container
88     name as instance identifier. Note that different default options apply when <command>systemd-nspawn</command> is
89     invoked by the template unit file than interactively on the command line. Most importantly the template unit file
90     makes use of the <option>--boot</option> option which is not the default in case <command>systemd-nspawn</command>
91     is invoked from the interactive command line. Further differences with the defaults are documented along with the
92     various supported options below.</para>
94     <para>The <citerefentry><refentrytitle>machinectl</refentrytitle><manvolnum>1</manvolnum></citerefentry> tool may
95     be used to execute a number of operations on containers. In particular it provides easy-to-use commands to run
96     containers as system services using the <filename>systemd-nspawn@.service</filename> template unit
97     file.</para>
99     <para>Along with each container a settings file with the <filename>.nspawn</filename> suffix may exist, containing
100     additional settings to apply when running the container. See
101     <citerefentry><refentrytitle>systemd.nspawn</refentrytitle><manvolnum>5</manvolnum></citerefentry> for
102     details. Settings files override the default options used by the <filename>systemd-nspawn@.service</filename>
103     template unit file, making it usually unnecessary to alter this template file directly.</para>
105     <para>Note that <command>systemd-nspawn</command> will mount file systems private to the container to
106     <filename>/dev/</filename>, <filename>/run/</filename>, and similar. These will not be visible outside of
107     the container, and their contents will be lost when the container exits.</para>
109     <para>Note that running two <command>systemd-nspawn</command> containers from the same directory tree will not make
110     processes in them see each other. The PID namespace separation of the two containers is complete and the containers
111     will share very few runtime objects except for the underlying file system. Rather use
112     <citerefentry><refentrytitle>machinectl</refentrytitle><manvolnum>1</manvolnum></citerefentry>'s
113     <command>login</command> or <command>shell</command> commands to request an additional login session in a running
114     container.</para>
116     <para><command>systemd-nspawn</command> implements the <ulink
117     url="https://systemd.io/CONTAINER_INTERFACE">Container Interface</ulink> specification.</para>
119     <para>While running, containers invoked with <command>systemd-nspawn</command> are registered with the
120     <citerefentry><refentrytitle>systemd-machined</refentrytitle><manvolnum>8</manvolnum></citerefentry> service that
121     keeps track of running containers, and provides programming interfaces to interact with them.</para>
122   </refsect1>
124   <refsect1>
125     <title>Options</title>
127     <para>If option <option>--boot</option> is specified, the arguments
128     are used as arguments for the init program. Otherwise,
129     <replaceable>COMMAND</replaceable> specifies the program to launch
130     in the container, and the remaining arguments are used as
131     arguments for this program. If <option>--boot</option> is not used and
132     no arguments are specified, a shell is launched in the
133     container.</para>
135     <para>The following options are understood:</para>
137     <variablelist>
139       <varlistentry>
140         <term><option>-q</option></term>
141         <term><option>--quiet</option></term>
143         <listitem><para>Turns off any status output by the tool
144         itself. When this switch is used, the only output from nspawn
145         will be the console output of the container OS
146         itself.</para>
148         <xi:include href="version-info.xml" xpointer="v209"/></listitem>
149       </varlistentry>
151       <varlistentry>
152         <term><option>--settings=</option><replaceable>MODE</replaceable></term>
154         <listitem><para>Controls whether
155         <command>systemd-nspawn</command> shall search for and use
156         additional per-container settings from
157         <filename>.nspawn</filename> files. Takes a boolean or the
158         special values <option>override</option> or
159         <option>trusted</option>.</para>
161         <para>If enabled (the default), a settings file named after the
162         machine (as specified with the <option>--machine=</option>
163         setting, or derived from the directory or image file name)
164         with the suffix <filename>.nspawn</filename> is searched in
165         <filename>/etc/systemd/nspawn/</filename> and
166         <filename>/run/systemd/nspawn/</filename>. If it is found
167         there, its settings are read and used. If it is not found
168         there, it is subsequently searched in the same directory as the
169         image file or in the immediate parent of the root directory of
170         the container. In this case, if the file is found, its settings
171         will be also read and used, but potentially unsafe settings
172         are ignored. Note that in both these cases, settings on the
173         command line take precedence over the corresponding settings
174         from loaded <filename>.nspawn</filename> files, if both are
175         specified. Unsafe settings are considered all settings that
176         elevate the container's privileges or grant access to
177         additional resources such as files or directories of the
178         host. For details about the format and contents of
179         <filename>.nspawn</filename> files, consult
180         <citerefentry><refentrytitle>systemd.nspawn</refentrytitle><manvolnum>5</manvolnum></citerefentry>.</para>
182         <para>If this option is set to <option>override</option>, the
183         file is searched, read and used the same way, however, the order of
184         precedence is reversed: settings read from the
185         <filename>.nspawn</filename> file will take precedence over
186         the corresponding command line options, if both are
187         specified.</para>
189         <para>If this option is set to <option>trusted</option>, the
190         file is searched, read and used the same way, but regardless
191         of being found in <filename>/etc/systemd/nspawn/</filename>,
192         <filename>/run/systemd/nspawn/</filename> or next to the image
193         file or container root directory, all settings will take
194         effect, however, command line arguments still take precedence
195         over corresponding settings.</para>
197         <para>If disabled, no <filename>.nspawn</filename> file is read
198         and no settings except the ones on the command line are in
199         effect.</para>
201         <xi:include href="version-info.xml" xpointer="v226"/></listitem>
202       </varlistentry>
204     </variablelist>
206     <refsect2>
207     <title>Image Options</title>
209     <variablelist>
211       <varlistentry>
212         <term><option>-D</option></term>
213         <term><option>--directory=</option></term>
215         <listitem><para>Directory to use as file system root for the
216         container.</para>
218         <para>If neither <option>--directory=</option>, nor
219         <option>--image=</option> is specified the directory is
220         determined by searching for a directory named the same as the
221         machine name specified with <option>--machine=</option>. See
222         <citerefentry><refentrytitle>machinectl</refentrytitle><manvolnum>1</manvolnum></citerefentry>
223         section "Files and Directories" for the precise search path.</para>
225         <para>If neither <option>--directory=</option>,
226         <option>--image=</option>, nor <option>--machine=</option>
227         are specified, the current directory will
228         be used. May not be specified together with
229         <option>--image=</option>.</para></listitem>
230       </varlistentry>
232       <varlistentry>
233         <term><option>--template=</option></term>
235         <listitem><para>Directory or <literal>btrfs</literal> subvolume to use as template for the
236         container's root directory. If this is specified and the container's root directory (as configured by
237         <option>--directory=</option>) does not yet exist it is created as <literal>btrfs</literal> snapshot
238         (if supported) or plain directory (otherwise) and populated from this template tree. Ideally, the
239         specified template path refers to the root of a <literal>btrfs</literal> subvolume, in which case a
240         simple copy-on-write snapshot is taken, and populating the root directory is instant. If the
241         specified template path does not refer to the root of a <literal>btrfs</literal> subvolume (or not
242         even to a <literal>btrfs</literal> file system at all), the tree is copied (though possibly in a
243         'reflink' copy-on-write scheme — if the file system supports that), which can be substantially more
244         time-consuming. Note that the snapshot taken is of the specified directory or subvolume, including
245         all subdirectories and subvolumes below it, but excluding any sub-mounts. May not be specified
246         together with <option>--image=</option> or <option>--ephemeral</option>.</para>
248         <para>Note that this switch leaves hostname, machine ID and
249         all other settings that could identify the instance
250         unmodified.</para>
252         <xi:include href="version-info.xml" xpointer="v219"/></listitem>
253       </varlistentry>
255       <varlistentry>
256         <term><option>-x</option></term>
257         <term><option>--ephemeral</option></term>
259         <listitem><para>If specified, the container is run with a temporary snapshot of its file system that is removed
260         immediately when the container terminates. May not be specified together with
261         <option>--template=</option>.</para>
262         <para>Note that this switch leaves hostname, machine ID and all other settings that could identify
263         the instance unmodified. Please note that — as with <option>--template=</option> — taking the
264         temporary snapshot is more efficient on file systems that support subvolume snapshots or 'reflinks'
265         natively (<literal>btrfs</literal> or new <literal>xfs</literal>) than on more traditional file
266         systems that do not (<literal>ext4</literal>). Note that the snapshot taken is of the specified
267         directory or subvolume, including all subdirectories and subvolumes below it, but excluding any
268         sub-mounts.</para>
270         <para>With this option no modifications of the container image are retained. Use
271         <option>--volatile=</option> (described below) for other mechanisms to restrict persistency of
272         container images during runtime.</para>
274         <xi:include href="version-info.xml" xpointer="v219"/>
275         </listitem>
276       </varlistentry>
278       <varlistentry>
279         <term><option>-i</option></term>
280         <term><option>--image=</option></term>
282         <listitem><para>Disk image to mount the root directory for the
283         container from. Takes a path to a regular file or to a block
284         device node. The file or block device must contain
285         either:</para>
287         <itemizedlist>
288           <listitem><para>An MBR partition table with a single
289           partition of type 0x83 that is marked
290           bootable.</para></listitem>
292           <listitem><para>A GUID partition table (GPT) with a single
293           partition of type
294           0fc63daf-8483-4772-8e79-3d69d8477de4.</para></listitem>
296           <listitem><para>A GUID partition table (GPT) with a marked
297           root partition which is mounted as the root directory of the
298           container. Optionally, GPT images may contain a home and/or
299           a server data partition which are mounted to the appropriate
300           places in the container. All these partitions must be
301           identified by the partition types defined by the <ulink
302           url="https://uapi-group.org/specifications/specs/discoverable_partitions_specification">Discoverable
303           Partitions Specification</ulink>.</para></listitem>
305           <listitem><para>No partition table, and a single file system spanning the whole image.</para></listitem>
306         </itemizedlist>
308         <para>On GPT images, if an EFI System Partition (ESP) is discovered, it is automatically mounted to
309         <filename>/efi</filename> (or <filename>/boot</filename> as fallback) in case a directory by this name exists
310         and is empty.</para>
312         <para>Partitions encrypted with LUKS are automatically decrypted. Also, on GPT images dm-verity data integrity
313         hash partitions are set up if the root hash for them is specified using the <option>--root-hash=</option>
314         option.</para>
316         <para>Single file system images (i.e. file systems without a surrounding partition table) can be opened using
317         dm-verity if the integrity data is passed using the <option>--root-hash=</option> and
318         <option>--verity-data=</option> (and optionally <option>--root-hash-sig=</option>) options.</para>
320         <para>Any other partitions, such as foreign partitions or swap partitions are not mounted. May not be specified
321         together with <option>--directory=</option>, <option>--template=</option>.</para>
323         <xi:include href="version-info.xml" xpointer="v211"/></listitem>
324       </varlistentry>
326       <varlistentry>
327         <term><option>--image-policy=<replaceable>policy</replaceable></option></term>
329         <listitem><para>Takes an image policy string as argument, as per
330         <citerefentry><refentrytitle>systemd.image-policy</refentrytitle><manvolnum>7</manvolnum></citerefentry>. The
331         policy is enforced when operating on the disk image specified via <option>--image=</option>, see
332         above. If not specified defaults to
333         <literal>root=verity+signed+encrypted+unprotected+absent:usr=verity+signed+encrypted+unprotected+absent:home=encrypted+unprotected+absent:srv=encrypted+unprotected+absent:esp=unprotected+absent:xbootldr=unprotected+absent:tmp=encrypted+unprotected+absent:var=encrypted+unprotected+absent</literal>,
334         i.e. all recognized file systems in the image are used, but not the swap partition.</para>
336         <xi:include href="version-info.xml" xpointer="v254"/></listitem>
337       </varlistentry>
339       <varlistentry>
340         <term><option>--oci-bundle=</option></term>
342         <listitem><para>Takes the path to an OCI runtime bundle to invoke, as specified in the <ulink
343         url="https://github.com/opencontainers/runtime-spec/blob/master/spec.md">OCI Runtime Specification</ulink>. In
344         this case no <filename>.nspawn</filename> file is loaded, and the root directory and various settings are read
345         from the OCI runtime JSON data (but data passed on the command line takes precedence).</para>
347         <xi:include href="version-info.xml" xpointer="v242"/></listitem>
348       </varlistentry>
350       <varlistentry>
351         <term><option>--read-only</option></term>
353         <listitem><para>Mount the container's root file system (and any other file systems contained in the container
354         image) read-only. This has no effect on additional mounts made with <option>--bind=</option>,
355         <option>--tmpfs=</option> and similar options. This mode is implied if the container image file or directory is
356         marked read-only itself. It is also implied if <option>--volatile=</option> is used. In this case the container
357         image on disk is strictly read-only, while changes are permitted but kept non-persistently in memory only. For
358         further details, see below.</para></listitem>
359       </varlistentry>
361       <varlistentry>
362         <term><option>--volatile</option></term>
363         <term><option>--volatile=</option><replaceable>MODE</replaceable></term>
365         <listitem><para>Boots the container in volatile mode. When no mode parameter is passed or when mode is
366         specified as <option>yes</option>, full volatile mode is enabled. This means the root directory is mounted as a
367         mostly unpopulated <literal>tmpfs</literal> instance, and <filename>/usr/</filename> from the OS tree is
368         mounted into it in read-only mode (the system thus starts up with read-only OS image, but pristine state and
369         configuration, any changes are lost on shutdown). When the mode parameter is specified as
370         <option>state</option>, the OS tree is mounted read-only, but <filename>/var/</filename> is mounted as a
371         writable <literal>tmpfs</literal> instance into it (the system thus starts up with read-only OS resources and
372         configuration, but pristine state, and any changes to the latter are lost on shutdown). When the mode parameter
373         is specified as <option>overlay</option> the read-only root file system is combined with a writable
374         <filename>tmpfs</filename> instance through <literal>overlayfs</literal>, so that it appears at it normally
375         would, but any changes are applied to the temporary file system only and lost when the container is
376         terminated. When the mode parameter is specified as <option>no</option> (the default), the whole OS tree is
377         made available writable (unless <option>--read-only</option> is specified, see above).</para>
379         <para>Note that if one of the volatile modes is chosen, its effect is limited to the root file system
380         (or <filename>/var/</filename> in case of <option>state</option>), and any other mounts placed in the
381         hierarchy are unaffected — regardless if they are established automatically (e.g. the EFI system
382         partition that might be mounted to <filename>/efi/</filename> or <filename>/boot/</filename>) or
383         explicitly (e.g. through an additional command line option such as <option>--bind=</option>, see
384         below). This means, even if <option>--volatile=overlay</option> is used changes to
385         <filename>/efi/</filename> or <filename>/boot/</filename> are prohibited in case such a partition
386         exists in the container image operated on, and even if <option>--volatile=state</option> is used the
387         hypothetical file <filename index="false">/etc/foobar</filename> is potentially writable if
388         <option>--bind=/etc/foobar</option> is used to mount it from outside the read-only container
389         <filename>/etc/</filename> directory.</para>
391         <para>The <option>--ephemeral</option> option is closely related to this setting, and provides similar
392         behaviour by making a temporary, ephemeral copy of the whole OS image and executing that. For further details,
393         see above.</para>
395         <para>The <option>--tmpfs=</option> and <option>--overlay=</option> options provide similar functionality, but
396         for specific sub-directories of the OS image only. For details, see below.</para>
398         <para>This option provides similar functionality for containers as the <literal>systemd.volatile=</literal>
399         kernel command line switch provides for host systems. See
400         <citerefentry><refentrytitle>kernel-command-line</refentrytitle><manvolnum>7</manvolnum></citerefentry> for
401         details.</para>
403         <para>Note that setting this option to <option>yes</option> or <option>state</option> will only work
404         correctly with operating systems in the container that can boot up with only
405         <filename>/usr/</filename> mounted, and are able to automatically populate <filename>/var/</filename>
406         (and <filename>/etc/</filename> in case of <literal>--volatile=yes</literal>). Specifically, this
407         means that operating systems that follow the historic split of <filename>/bin/</filename> and
408         <filename>/lib/</filename> (and related directories) from <filename>/usr/</filename> (i.e. where the
409         former are not symlinks into the latter) are not supported by <literal>--volatile=yes</literal> as
410         container payload. The <option>overlay</option> option does not require any particular preparations
411         in the OS, but do note that <literal>overlayfs</literal> behaviour differs from regular file systems
412         in a number of ways, and hence compatibility is limited.</para>
414         <xi:include href="version-info.xml" xpointer="v216"/></listitem>
415       </varlistentry>
417       <varlistentry>
418         <term><option>--root-hash=</option></term>
420         <listitem><para>Takes a data integrity (dm-verity) root hash specified in hexadecimal. This option enables data
421         integrity checks using dm-verity, if the used image contains the appropriate integrity data (see above). The
422         specified hash must match the root hash of integrity data, and is usually at least 256 bits (and hence 64
423         formatted hexadecimal characters) long (in case of SHA256 for example). If this option is not specified, but
424         the image file carries the <literal>user.verity.roothash</literal> extended file attribute (see <citerefentry
425         project='man-pages'><refentrytitle>xattr</refentrytitle><manvolnum>7</manvolnum></citerefentry>), then the root
426         hash is read from it, also as formatted hexadecimal characters. If the extended file attribute is not found (or
427         is not supported by the underlying file system), but a file with the <filename>.roothash</filename> suffix is
428         found next to the image file, bearing otherwise the same name (except if the image has the
429         <filename>.raw</filename> suffix, in which case the root hash file must not have it in its name), the root hash
430         is read from it and automatically used, also as formatted hexadecimal characters.</para>
432         <para>Note that this configures the root hash for the root file system. Disk images may also contain
433         separate file systems for the <filename>/usr/</filename> hierarchy, which may be Verity protected as
434         well. The root hash for this protection may be configured via the
435         <literal>user.verity.usrhash</literal> extended file attribute or via a <filename>.usrhash</filename>
436         file adjacent to the disk image, following the same format and logic as for the root hash for the
437         root file system described here. Note that there's currently no switch to configure the root hash for
438         the <filename>/usr/</filename> from the command line.</para>
440         <para>Also see the <varname>RootHash=</varname> option in
441         <citerefentry><refentrytitle>systemd.exec</refentrytitle><manvolnum>5</manvolnum></citerefentry>.</para>
443         <xi:include href="version-info.xml" xpointer="v233"/>
444         </listitem>
445       </varlistentry>
447       <varlistentry>
448         <term><option>--root-hash-sig=</option></term>
450         <listitem><para>Takes a PKCS7 signature of the <option>--root-hash=</option> option.
451         The semantics are the same as for the <varname>RootHashSignature=</varname> option, see
452         <citerefentry><refentrytitle>systemd.exec</refentrytitle><manvolnum>5</manvolnum></citerefentry>.
453         </para>
455         <xi:include href="version-info.xml" xpointer="v246"/></listitem>
456       </varlistentry>
458       <varlistentry>
459         <term><option>--verity-data=</option></term>
461         <listitem><para>Takes the path to a data integrity (dm-verity) file. This option enables data integrity checks
462         using dm-verity, if a root-hash is passed and if the used image itself does not contain the integrity data.
463         The integrity data must be matched by the root hash. If this option is not specified, but a file with the
464         <filename>.verity</filename> suffix is found next to the image file, bearing otherwise the same name (except if
465         the image has the <filename>.raw</filename> suffix, in which case the verity data file must not have it in its name),
466         the verity data is read from it and automatically used.</para>
468         <xi:include href="version-info.xml" xpointer="v246"/></listitem>
469       </varlistentry>
471       <varlistentry>
472         <term><option>--pivot-root=</option></term>
474         <listitem><para>Pivot the specified directory to <filename>/</filename> inside the container, and either unmount the
475         container's old root, or pivot it to another specified directory. Takes one of: a path argument — in which case the
476         specified path will be pivoted to <filename>/</filename> and the old root will be unmounted; or a colon-separated pair
477         of new root path and pivot destination for the old root. The new root path will be pivoted to <filename>/</filename>,
478         and the old <filename>/</filename> will be pivoted to the other directory. Both paths must be absolute, and are resolved
479         in the container's file system namespace.</para>
481         <para>This is for containers which have several bootable directories in them; for example, several
482         <ulink url="https://ostree.readthedocs.io/en/latest/">OSTree</ulink> deployments. It emulates the
483         behavior of the boot loader and the initrd which normally select which directory to mount as the root
484         and start the container's PID 1 in.</para>
486         <xi:include href="version-info.xml" xpointer="v233"/></listitem>
487       </varlistentry>
488     </variablelist>
490     </refsect2><refsect2>
491     <title>Execution Options</title>
493     <variablelist>
494       <varlistentry>
495         <term><option>-a</option></term>
496         <term><option>--as-pid2</option></term>
498         <listitem><para>Invoke the shell or specified program as process ID (PID) 2 instead of PID 1 (init). By
499         default, if neither this option nor <option>--boot</option> is used, the selected program is run as the process
500         with PID 1, a mode only suitable for programs that are aware of the special semantics that the process with
501         PID 1 has on UNIX. For example, it needs to reap all processes reparented to it, and should implement
502         <command>sysvinit</command> compatible signal handling (specifically: it needs to reboot on SIGINT, reexecute
503         on SIGTERM, reload configuration on SIGHUP, and so on). With <option>--as-pid2</option> a minimal stub init
504         process is run as PID 1 and the selected program is executed as PID 2 (and hence does not need to implement any
505         special semantics). The stub init process will reap processes as necessary and react appropriately to
506         signals. It is recommended to use this mode to invoke arbitrary commands in containers, unless they have been
507         modified to run correctly as PID 1. Or in other words: this switch should be used for pretty much all commands,
508         except when the command refers to an init or shell implementation, as these are generally capable of running
509         correctly as PID 1. This option may not be combined with <option>--boot</option>.</para>
511         <xi:include href="version-info.xml" xpointer="v229"/>
512         </listitem>
513       </varlistentry>
515       <varlistentry>
516         <term><option>-b</option></term>
517         <term><option>--boot</option></term>
519         <listitem><para>Automatically search for an init program and invoke it as PID 1, instead of a shell or a user
520         supplied program. If this option is used, arguments specified on the command line are used as arguments for the
521         init program. This option may not be combined with <option>--as-pid2</option>.</para>
523         <para>The following table explains the different modes of invocation and relationship to
524         <option>--as-pid2</option> (see above):</para>
526         <table>
527           <title>Invocation Mode</title>
528           <tgroup cols='2' align='left' colsep='1' rowsep='1'>
529             <colspec colname="switch" />
530             <colspec colname="explanation" />
531             <thead>
532               <row>
533                 <entry>Switch</entry>
534                 <entry>Explanation</entry>
535               </row>
536             </thead>
537             <tbody>
538               <row>
539                 <entry>Neither <option>--as-pid2</option> nor <option>--boot</option> specified</entry>
540                 <entry>The passed parameters are interpreted as the command line, which is executed as PID 1 in the container.</entry>
541               </row>
543               <row>
544                 <entry><option>--as-pid2</option> specified</entry>
545                 <entry>The passed parameters are interpreted as the command line, which is executed as PID 2 in the container. A stub init process is run as PID 1.</entry>
546               </row>
548               <row>
549                 <entry><option>--boot</option> specified</entry>
550                 <entry>An init program is automatically searched for and run as PID 1 in the container. The passed parameters are used as invocation parameters for this process.</entry>
551               </row>
553             </tbody>
554           </tgroup>
555         </table>
557         <para>Note that <option>--boot</option> is the default mode of operation if the
558         <filename>systemd-nspawn@.service</filename> template unit file is used.</para>
559         </listitem>
560       </varlistentry>
562       <varlistentry>
563         <term><option>--chdir=</option></term>
565         <listitem><para>Change to the specified working directory before invoking the process in the container. Expects
566         an absolute path in the container's file system namespace.</para>
568         <xi:include href="version-info.xml" xpointer="v229"/></listitem>
569       </varlistentry>
571       <varlistentry>
572         <term><option>-E <replaceable>NAME</replaceable>[=<replaceable>VALUE</replaceable>]</option></term>
573         <term><option>--setenv=<replaceable>NAME</replaceable>[=<replaceable>VALUE</replaceable>]</option></term>
575         <listitem><para>Specifies an environment variable to pass to the init process in the container. This
576         may be used to override the default variables or to set additional variables. It may be used more
577         than once to set multiple variables. When <literal>=</literal> and <replaceable>VALUE</replaceable>
578         are omitted, the value of the variable with the same name in the program environment will be used.
579         </para>
581         <xi:include href="version-info.xml" xpointer="v209"/></listitem>
582       </varlistentry>
584       <varlistentry>
585         <term><option>-u</option></term>
586         <term><option>--user=</option></term>
588         <listitem><para>After transitioning into the container, change to the specified user defined in the
589         container's user database. Like all other systemd-nspawn features, this is not a security feature and
590         provides protection against accidental destructive operations only.</para></listitem>
591       </varlistentry>
593       <varlistentry>
594         <term><option>--kill-signal=</option></term>
596         <listitem><para>Specify the process signal to send to the container's PID 1 when nspawn itself receives
597         <constant>SIGTERM</constant>, in order to trigger an orderly shutdown of the container. Defaults to
598         <constant>SIGRTMIN+3</constant> if <option>--boot</option> is used (on systemd-compatible init systems
599         <constant>SIGRTMIN+3</constant> triggers an orderly shutdown). If <option>--boot</option> is not used and this
600         option is not specified the container's processes are terminated abruptly via <constant>SIGKILL</constant>. For
601         a list of valid signals, see <citerefentry
602         project='man-pages'><refentrytitle>signal</refentrytitle><manvolnum>7</manvolnum></citerefentry>.</para>
604         <xi:include href="version-info.xml" xpointer="v220"/></listitem>
605       </varlistentry>
607       <varlistentry>
608         <term><option>--notify-ready=</option></term>
610         <listitem><para>Configures support for notifications from the container's init process.
611         <option>--notify-ready=</option> takes a boolean (<option>no</option> and  <option>yes</option>).
612         With option <option>no</option> systemd-nspawn notifies systemd
613         with a <literal>READY=1</literal> message when the init process is created.
614         With option <option>yes</option> systemd-nspawn waits for the
615         <literal>READY=1</literal> message from the init process in the container
616         before sending its own to systemd. For more details about notifications
617         see <citerefentry><refentrytitle>sd_notify</refentrytitle><manvolnum>3</manvolnum></citerefentry>.</para>
619         <xi:include href="version-info.xml" xpointer="v231"/></listitem>
620       </varlistentry>
622       <varlistentry>
623         <term><option>--suppress-sync=</option></term>
625         <listitem><para>Expects a boolean argument. If true, turns off any form of on-disk file system
626         synchronization for the container payload. This means all system calls such as <citerefentry
627         project='man-pages'><refentrytitle>sync</refentrytitle><manvolnum>2</manvolnum></citerefentry>,
628         <function>fsync()</function>, <function>syncfs()</function>, … will execute no operation, and the
629         <constant>O_SYNC</constant>/<constant>O_DSYNC</constant> flags to <citerefentry
630         project='man-pages'><refentrytitle>open</refentrytitle><manvolnum>2</manvolnum></citerefentry> and
631         related calls will be made unavailable. This is potentially dangerous, as assumed data integrity
632         guarantees to the container payload are not actually enforced (i.e. data assumed to have been written
633         to disk might be lost if the system is shut down abnormally). However, this can dramatically improve
634         container runtime performance – as long as these guarantees are not required or desirable, for
635         example because any data written by the container is of temporary, redundant nature, or just an
636         intermediary artifact that will be further processed and finalized by a later step in a
637         pipeline. Defaults to false.</para>
639         <xi:include href="version-info.xml" xpointer="v250"/></listitem>
640       </varlistentry>
641     </variablelist>
643     </refsect2><refsect2>
644     <title>System Identity Options</title>
646     <variablelist>
647       <varlistentry>
648         <term><option>-M</option></term>
649         <term><option>--machine=</option></term>
651         <listitem><para>Sets the machine name for this container. This
652         name may be used to identify this container during its runtime
653         (for example in tools like
654         <citerefentry><refentrytitle>machinectl</refentrytitle><manvolnum>1</manvolnum></citerefentry>
655         and similar), and is used to initialize the container's
656         hostname (which the container can choose to override,
657         however). If not specified, the last component of the root
658         directory path of the container is used, possibly suffixed
659         with a random identifier in case <option>--ephemeral</option>
660         mode is selected. If the root directory selected is the host's
661         root directory the host's hostname is used as default
662         instead.</para>
664         <xi:include href="version-info.xml" xpointer="v202"/></listitem>
665       </varlistentry>
667       <varlistentry>
668         <term><option>--hostname=</option></term>
670         <listitem><para>Controls the hostname to set within the container, if different from the machine name. Expects
671         a valid hostname as argument. If this option is used, the kernel hostname of the container will be set to this
672         value, otherwise it will be initialized to the machine name as controlled by the <option>--machine=</option>
673         option described above. The machine name is used for various aspect of identification of the container from the
674         outside, the kernel hostname configurable with this option is useful for the container to identify itself from
675         the inside. It is usually a good idea to keep both forms of identification synchronized, in order to avoid
676         confusion. It is hence recommended to avoid usage of this option, and use <option>--machine=</option>
677         exclusively. Note that regardless whether the container's hostname is initialized from the name set with
678         <option>--hostname=</option> or the one set with <option>--machine=</option>, the container can later override
679         its kernel hostname freely on its own as well.</para>
681         <xi:include href="version-info.xml" xpointer="v239"/>
682         </listitem>
683       </varlistentry>
685       <varlistentry>
686         <term><option>--uuid=</option></term>
688         <listitem><para>Set the specified UUID for the container. The
689         init system will initialize
690         <filename>/etc/machine-id</filename> from this if this file is
691         not set yet. Note that this option takes effect only if
692         <filename>/etc/machine-id</filename> in the container is
693         unpopulated.</para></listitem>
694       </varlistentry>
695     </variablelist>
697     </refsect2><refsect2>
698     <title>Property Options</title>
700     <variablelist>
701       <varlistentry>
702         <term><option>-S</option></term>
703         <term><option>--slice=</option></term>
705         <listitem><para>Make the container part of the specified slice, instead of the default
706         <filename>machine.slice</filename>. This applies only if the machine is run in its own scope unit, i.e. if
707         <option>--keep-unit</option> isn't used.</para>
709         <xi:include href="version-info.xml" xpointer="v206"/>
710         </listitem>
711       </varlistentry>
713       <varlistentry>
714         <term><option>--property=</option></term>
716         <listitem><para>Set a unit property on the scope unit to register for the machine. This applies only if the
717         machine is run in its own scope unit, i.e. if <option>--keep-unit</option> isn't used. Takes unit property
718         assignments in the same format as <command>systemctl set-property</command>. This is useful to set memory
719         limits and similar for the container.</para>
721         <xi:include href="version-info.xml" xpointer="v220"/>
722         </listitem>
723       </varlistentry>
725       <varlistentry>
726         <term><option>--register=</option></term>
728         <listitem><para>Controls whether the container is registered with
729         <citerefentry><refentrytitle>systemd-machined</refentrytitle><manvolnum>8</manvolnum></citerefentry>.  Takes a
730         boolean argument, which defaults to <literal>yes</literal>.  This option should be enabled when the container
731         runs a full Operating System (more specifically: a system and service manager as PID 1), and is useful to
732         ensure that the container is accessible via
733         <citerefentry><refentrytitle>machinectl</refentrytitle><manvolnum>1</manvolnum></citerefentry> and shown by
734         tools such as <citerefentry
735         project='man-pages'><refentrytitle>ps</refentrytitle><manvolnum>1</manvolnum></citerefentry>.  If the container
736         does not run a service manager, it is recommended to set this option to
737         <literal>no</literal>.</para>
739         <xi:include href="version-info.xml" xpointer="v209"/></listitem>
740       </varlistentry>
742       <varlistentry>
743         <term><option>--keep-unit</option></term>
745         <listitem><para>Instead of creating a transient scope unit to run the container in, simply use the service or
746         scope unit <command>systemd-nspawn</command> has been invoked in. If <option>--register=yes</option> is set
747         this unit is registered with
748         <citerefentry><refentrytitle>systemd-machined</refentrytitle><manvolnum>8</manvolnum></citerefentry>. This
749         switch should be used if <command>systemd-nspawn</command> is invoked from within a service unit, and the
750         service unit's sole purpose is to run a single <command>systemd-nspawn</command> container. This option is not
751         available if run from a user session.</para>
752         <para>Note that passing <option>--keep-unit</option> disables the effect of <option>--slice=</option> and
753         <option>--property=</option>. Use <option>--keep-unit</option> and <option>--register=no</option> in
754         combination to disable any kind of unit allocation or registration with
755         <command>systemd-machined</command>.</para>
757         <xi:include href="version-info.xml" xpointer="v209"/></listitem>
758       </varlistentry>
759     </variablelist>
761     </refsect2><refsect2>
762     <title>User Namespacing Options</title>
764     <variablelist>
765       <varlistentry>
766         <term><option>--private-users=</option></term>
768         <listitem><para>Controls user namespacing. If enabled, the container will run with its own private set of UNIX
769         user and group ids (UIDs and GIDs). This involves mapping the private UIDs/GIDs used in the container (starting
770         with the container's root user 0 and up) to a range of UIDs/GIDs on the host that are not used for other
771         purposes (usually in the range beyond the host's UID/GID 65536). The parameter may be specified as follows:</para>
773         <orderedlist>
774           <listitem><para>If one or two colon-separated numbers are specified, user namespacing is turned on. The first
775           parameter specifies the first host UID/GID to assign to the container, the second parameter specifies the
776           number of host UIDs/GIDs to assign to the container. If the second parameter is omitted, 65536 UIDs/GIDs are
777           assigned.</para></listitem>
779           <listitem><para>If the parameter is <literal>yes</literal>, user namespacing is turned on. The
780           UID/GID range to use is determined automatically from the file ownership of the root directory of
781           the container's directory tree. To use this option, make sure to prepare the directory tree in
782           advance, and ensure that all files and directories in it are owned by UIDs/GIDs in the range you'd
783           like to use. Also, make sure that used file ACLs exclusively reference UIDs/GIDs in the appropriate
784           range. In this mode, the number of UIDs/GIDs assigned to the container is 65536, and the owner
785           UID/GID of the root directory must be a multiple of 65536.</para></listitem>
787           <listitem><para>The special value <literal>pick</literal> turns on user namespacing. In this case
788           the UID/GID range is automatically chosen. As first step, the file owner UID/GID of the root
789           directory of the container's directory tree is read, and it is checked that no other container is
790           currently using it. If this check is successful, the UID/GID range determined this way is used,
791           similarly to the behavior if <literal>yes</literal> is specified. If the check is not successful
792           (and thus the UID/GID range indicated in the root directory's file owner is already used elsewhere)
793           a new – currently unused – UID/GID range of 65536 UIDs/GIDs is randomly chosen between the host
794           UID/GIDs of 524288 and 1878982656, always starting at a multiple of 65536, and, if possible,
795           consistently hashed from the machine name. This setting implies
796           <option>--private-users-ownership=auto</option> (see below), which possibly has the effect that the
797           files and directories in the container's directory tree will be owned by the appropriate users of
798           the range picked. Using this option makes user namespace behavior fully automatic. Note that the
799           first invocation of a previously unused container image might result in picking a new UID/GID range
800           for it, and thus in the (possibly expensive) file ownership adjustment operation. However,
801           subsequent invocations of the container will be cheap (unless of course the picked UID/GID range is
802           assigned to a different use by then).</para></listitem>
804           <listitem><para>If the parameter is <literal>no</literal>, user namespacing is turned off. This is
805           the default when <command>systemd-nspawn</command> is invoked directly. (Note that the
806           <filename>systemd-nspawn@.service</filename> unit enables private users.) This option is not
807           secure and must not be used to run untrusted code.</para></listitem>
809           <listitem><para>If the parameter is <literal>identity</literal>, user namespacing is employed with
810           an identity mapping for the first 65536 UIDs/GIDs. This is mostly equivalent to
811           <option>--private-users=0:65536</option>. While it does not provide UID/GID isolation, since all
812           host and container UIDs/GIDs are chosen identically it does provide process capability isolation,
813           but may be useful if proper user namespacing with distinct UID maps is not possible. This option is
814           not secure and must not be used to run untrusted code.</para></listitem>
815         </orderedlist>
817         <para>It is recommended to assign at least 65536 UIDs/GIDs to each container, so that the usable
818         UID/GID range in the container covers 16 bits. For best security, do not assign overlapping UID/GID
819         ranges to multiple containers. It is hence a good idea to use the upper 16 bit of the host 32-bit
820         UIDs/GIDs as container identifier, while the lower 16 bits encode the container UID/GID used. This is
821         in fact the behavior enforced by the <option>--private-users=pick</option> option.</para>
823         <para>When user namespaces are used, the GID range assigned to each container is always chosen
824         identical to the UID range.</para>
826         <para>In most cases, using <option>--private-users=pick</option> is the recommended option as user
827         namespacing is required for security, and this option massively enhances container security while
828         operating fully automatically in most cases.</para>
830         <para>Note that the picked UID/GID range is not written to <filename>/etc/passwd</filename> or
831         <filename>/etc/group</filename>. In fact, the allocation of the range is not stored persistently,
832         except in the file ownership of the files and directories of the container.</para>
834         <para>Note that when user namespacing is used file ownership on disk reflects this, and all of the container's
835         files and directories are owned by the container's effective user and group IDs. This means that copying files
836         from and to the container image requires correction of the numeric UID/GID values, according to the UID/GID
837         shift applied.</para>
839         <xi:include href="version-info.xml" xpointer="v220"/></listitem>
840       </varlistentry>
842       <varlistentry>
843         <term><option>--private-users-ownership=</option></term>
845         <listitem><para>Controls how to adjust the container image's UIDs and GIDs to match the UID/GID range
846         chosen with <option>--private-users=</option>, see above. Takes one of <literal>off</literal> (to
847         leave the image as is), <literal>chown</literal> (to recursively <function>chown()</function> the
848         container's directory tree as needed), <literal>map</literal> (in order to use transparent ID mapping
849         mounts) or <literal>auto</literal> for automatically using <literal>map</literal> where available and
850         <literal>chown</literal> where not.</para>
852         <para>If <literal>chown</literal> is selected, all files and directories in the container's directory
853         tree will be adjusted so that they are owned by the appropriate UIDs/GIDs selected for the container
854         (see above).  This operation is potentially expensive, as it involves iterating through the full
855         directory tree of the container. Besides actual file ownership, file ACLs are adjusted as
856         well.</para>
858         <para>Typically <literal>map</literal> is the best choice, since it transparently maps UIDs/GIDs in
859         memory as needed without modifying the image, and without requiring an expensive recursive adjustment
860         operation. However, it is not available for all file systems, currently.</para>
862         <para>The <option>--private-users-ownership=auto</option> option is implied if
863         <option>--private-users=pick</option> is used. This option has no effect if user namespacing is not
864         used.</para>
866         <xi:include href="version-info.xml" xpointer="v230"/></listitem>
867       </varlistentry>
869       <varlistentry>
870         <term><option>-U</option></term>
872         <listitem><para>If the kernel supports the user namespaces feature, equivalent to
873         <option>--private-users=pick --private-users-ownership=auto</option>, otherwise equivalent to
874         <option>--private-users=no</option>.</para>
876         <para>Note that <option>-U</option> is the default if the
877         <filename>systemd-nspawn@.service</filename> template unit file is used.</para>
879         <para>Note: it is possible to undo the effect of <option>--private-users-ownership=chown</option> (or
880         <option>-U</option>) on the file system by redoing the operation with the first UID of 0:</para>
882         <programlisting>systemd-nspawn … --private-users=0 --private-users-ownership=chown</programlisting>
884         <xi:include href="version-info.xml" xpointer="v230"/>
885         </listitem>
886       </varlistentry>
888     </variablelist>
890     </refsect2><refsect2>
891     <title>Networking Options</title>
893     <variablelist>
895       <varlistentry>
896         <term><option>--private-network</option></term>
898         <listitem><para>Disconnect networking of the container from
899         the host. This makes all network interfaces unavailable in the
900         container, with the exception of the loopback device and those
901         specified with <option>--network-interface=</option> and
902         configured with <option>--network-veth</option>. If this
903         option is specified, the <constant>CAP_NET_ADMIN</constant> capability will be
904         added to the set of capabilities the container retains. The
905         latter may be disabled by using <option>--drop-capability=</option>.
906         If this option is not specified (or implied by one of the options
907         listed below), the container will have full access to the host network.
908         </para></listitem>
909       </varlistentry>
911       <varlistentry>
912         <term><option>--network-interface=</option></term>
914         <listitem><para>Assign the specified network interface to the container. Either takes a single
915         interface name, referencing the name on the host, or a colon-separated pair of interfaces, in which
916         case the first one references the name on the host, and the second one the name in the container.
917         When the container terminates, the interface is moved back to the calling namespace and renamed to
918         its original name.  Note that <option>--network-interface=</option> implies
919         <option>--private-network</option>. This option may be used more than once to add multiple network
920         interfaces to the container.</para>
922         <para>Note that any network interface specified this way must already exist at the time the container
923         is started. If the container shall be started automatically at boot via a
924         <filename>systemd-nspawn@.service</filename> unit file instance, it might hence make sense to add a
925         unit file drop-in to the service instance
926         (e.g. <filename>/etc/systemd/system/systemd-nspawn@foobar.service.d/50-network.conf</filename>) with
927         contents like the following:</para>
929         <programlisting>[Unit]
930 Wants=sys-subsystem-net-devices-ens1.device
931 After=sys-subsystem-net-devices-ens1.device</programlisting>
933         <para>This will make sure that activation of the container service will be delayed until the
934         <literal>ens1</literal> network interface has shown up. This is required since hardware probing is
935         fully asynchronous, and network interfaces might be discovered only later during the boot process,
936         after the container would normally be started without these explicit dependencies.</para>
938         <xi:include href="version-info.xml" xpointer="v209"/>
939         </listitem>
940       </varlistentry>
942       <varlistentry>
943         <term><option>--network-macvlan=</option></term>
945         <listitem><para>Create a <literal>macvlan</literal> interface of the specified Ethernet network
946         interface and add it to the container. Either takes a single interface name, referencing the name
947         on the host, or a colon-separated pair of interfaces, in which case the first one references the name
948         on the host, and the second one the name in the container. A <literal>macvlan</literal> interface is
949         a virtual interface that adds a second MAC address to an existing physical Ethernet link. If the
950         container interface name is not defined, the interface in the container will be named after the
951         interface on the host, prefixed with <literal>mv-</literal>. Note that
952         <option>--network-macvlan=</option> implies <option>--private-network</option>. This option may be
953         used more than once to add multiple network interfaces to the container.</para>
955         <para>As with <option>--network-interface=</option>, the underlying Ethernet network interface must
956         already exist at the time the container is started, and thus similar unit file drop-ins as described
957         above might be useful.</para>
959         <xi:include href="version-info.xml" xpointer="v211"/></listitem>
960       </varlistentry>
962       <varlistentry>
963         <term><option>--network-ipvlan=</option></term>
965         <listitem><para>Create an <literal>ipvlan</literal> interface of the specified Ethernet network
966         interface and add it to the container. Either takes a single interface name, referencing the name on
967         the host, or a colon-separated pair of interfaces, in which case the first one references the name
968         on the host, and the second one the name in the container. An <literal>ipvlan</literal> interface is
969         a virtual interface,
970         similar to a <literal>macvlan</literal> interface, which uses the same MAC address as the underlying
971         interface. If the container interface name is not defined, the interface in the container will be
972         named after the interface on the host, prefixed
973         with <literal>iv-</literal>.  Note that <option>--network-ipvlan=</option> implies
974         <option>--private-network</option>. This option may be used more than once to add multiple network
975         interfaces to the container.</para>
977         <para>As with <option>--network-interface=</option>, the underlying Ethernet network interface must
978         already exist at the time the container is started, and thus similar unit file drop-ins as described
979         above might be useful.</para>
981         <xi:include href="version-info.xml" xpointer="v219"/></listitem>
982       </varlistentry>
984       <varlistentry>
985         <term><option>-n</option></term>
986         <term><option>--network-veth</option></term>
988         <listitem><para>Create a virtual Ethernet link (<literal>veth</literal>) between host and container. The host
989         side of the Ethernet link will be available as a network interface named after the container's name (as
990         specified with <option>--machine=</option>), prefixed with <literal>ve-</literal>. The container side of the
991         Ethernet link will be named <literal>host0</literal>. The <option>--network-veth</option> option implies
992         <option>--private-network</option>.</para>
994         <para>Note that
995         <citerefentry><refentrytitle>systemd-networkd.service</refentrytitle><manvolnum>8</manvolnum></citerefentry>
996         includes by default a network file <filename>/usr/lib/systemd/network/80-container-ve.network</filename>
997         matching the host-side interfaces created this way, which contains settings to enable automatic address
998         provisioning on the created virtual link via DHCP, as well as automatic IP routing onto the host's external
999         network interfaces. It also contains <filename>/usr/lib/systemd/network/80-container-host0.network</filename>
1000         matching the container-side interface created this way, containing settings to enable client side address
1001         assignment via DHCP. In case <filename>systemd-networkd</filename> is running on both the host and inside the
1002         container, automatic IP communication from the container to the host is thus available, with further
1003         connectivity to the external network.</para>
1005         <para>Note that <option>--network-veth</option> is the default if the
1006         <filename>systemd-nspawn@.service</filename> template unit file is used.</para>
1008         <para>Note that on Linux network interface names may have a length of 15 characters at maximum, while
1009         container names may have a length up to 64 characters. As this option derives the host-side interface
1010         name from the container name the name is possibly truncated. Thus, care needs to be taken to ensure
1011         that interface names remain unique in this case, or even better container names are generally not
1012         chosen longer than 12 characters, to avoid the truncation. If the name is truncated,
1013         <command>systemd-nspawn</command> will automatically append a 4-digit hash value to the name to
1014         reduce the chance of collisions. However, the hash algorithm is not collision-free. (See
1015         <citerefentry><refentrytitle>systemd.net-naming-scheme</refentrytitle><manvolnum>7</manvolnum></citerefentry>
1016         for details on older naming algorithms for this interface). Alternatively, the
1017         <option>--network-veth-extra=</option> option may be used, which allows free configuration of the
1018         host-side interface name independently of the container name — but might require a bit more
1019         additional configuration in case bridging in a fashion similar to <option>--network-bridge=</option>
1020         is desired.</para>
1022         <xi:include href="version-info.xml" xpointer="v209"/>
1023         </listitem>
1024       </varlistentry>
1026       <varlistentry>
1027         <term><option>--network-veth-extra=</option></term>
1029         <listitem><para>Adds an additional virtual Ethernet link
1030         between host and container. Takes a colon-separated pair of
1031         host interface name and container interface name. The latter
1032         may be omitted in which case the container and host sides will
1033         be assigned the same name. This switch is independent of
1034         <option>--network-veth</option>, and — in contrast — may be
1035         used multiple times, and allows configuration of the network
1036         interface names. Note that <option>--network-bridge=</option>
1037         has no effect on interfaces created with
1038         <option>--network-veth-extra=</option>.</para>
1040         <xi:include href="version-info.xml" xpointer="v228"/></listitem>
1041       </varlistentry>
1043       <varlistentry>
1044         <term><option>--network-bridge=</option></term>
1046         <listitem><para>Adds the host side of the Ethernet link created with <option>--network-veth</option>
1047         to the specified Ethernet bridge interface. Expects a valid network interface name of a bridge device
1048         as argument. Note that <option>--network-bridge=</option> implies <option>--network-veth</option>. If
1049         this option is used, the host side of the Ethernet link will use the <literal>vb-</literal> prefix
1050         instead of <literal>ve-</literal>. Regardless of the used naming prefix the same network interface
1051         name length limits imposed by Linux apply, along with the complications this creates (for details see
1052         above).</para>
1054         <para>As with <option>--network-interface=</option>, the underlying bridge network interface must
1055         already exist at the time the container is started, and thus similar unit file drop-ins as described
1056         above might be useful.</para>
1058         <xi:include href="version-info.xml" xpointer="v209"/></listitem>
1059       </varlistentry>
1061       <varlistentry>
1062         <term><option>--network-zone=</option></term>
1064         <listitem><para>Creates a virtual Ethernet link (<literal>veth</literal>) to the container and adds it to an
1065         automatically managed Ethernet bridge interface. The bridge interface is named after the passed argument,
1066         prefixed with <literal>vz-</literal>. The bridge interface is automatically created when the first container
1067         configured for its name is started, and is automatically removed when the last container configured for its
1068         name exits. Hence, each bridge interface configured this way exists only as long as there's at least one
1069         container referencing it running. This option is very similar to <option>--network-bridge=</option>, besides
1070         this automatic creation/removal of the bridge device.</para>
1072         <para>This setting makes it easy to place multiple related containers on a common, virtual Ethernet-based
1073         broadcast domain, here called a "zone". Each container may only be part of one zone, but each zone may contain
1074         any number of containers. Each zone is referenced by its name. Names may be chosen freely (as long as they form
1075         valid network interface names when prefixed with <literal>vz-</literal>), and it is sufficient to pass the same
1076         name to the <option>--network-zone=</option> switch of the various concurrently running containers to join
1077         them in one zone.</para>
1079         <para>Note that
1080         <citerefentry><refentrytitle>systemd-networkd.service</refentrytitle><manvolnum>8</manvolnum></citerefentry>
1081         includes by default a network file <filename>/usr/lib/systemd/network/80-container-vz.network</filename>
1082         matching the bridge interfaces created this way, which contains settings to enable automatic address
1083         provisioning on the created virtual network via DHCP, as well as automatic IP routing onto the host's external
1084         network interfaces. Using <option>--network-zone=</option> is hence in most cases fully automatic and
1085         sufficient to connect multiple local containers in a joined broadcast domain to the host, with further
1086         connectivity to the external network.</para>
1088         <xi:include href="version-info.xml" xpointer="v230"/>
1089         </listitem>
1090       </varlistentry>
1092       <varlistentry>
1093         <term><option>--network-namespace-path=</option></term>
1095         <listitem><para>Takes the path to a file representing a kernel
1096         network namespace that the container shall run in. The specified path
1097         should refer to a (possibly bind-mounted) network namespace file, as
1098         exposed by the kernel below <filename>/proc/$PID/ns/net</filename>.
1099         This makes the container enter the given network namespace. One of the
1100         typical use cases is to give a network namespace under
1101         <filename>/run/netns</filename> created by <citerefentry
1102         project='man-pages'><refentrytitle>ip-netns</refentrytitle><manvolnum>8</manvolnum></citerefentry>,
1103         for example, <option>--network-namespace-path=/run/netns/foo</option>.
1104         Note that this option cannot be used together with other
1105         network-related options, such as <option>--private-network</option>
1106         or <option>--network-interface=</option>.</para>
1108         <xi:include href="version-info.xml" xpointer="v236"/></listitem>
1109       </varlistentry>
1111       <varlistentry>
1112         <term><option>-p</option></term>
1113         <term><option>--port=</option></term>
1115         <listitem><para>If private networking is enabled, maps an IP
1116         port on the host onto an IP port on the container. Takes a
1117         protocol specifier (either <literal>tcp</literal> or
1118         <literal>udp</literal>), separated by a colon from a host port
1119         number in the range 1 to 65535, separated by a colon from a
1120         container port number in the range from 1 to 65535. The
1121         protocol specifier and its separating colon may be omitted, in
1122         which case <literal>tcp</literal> is assumed. The container
1123         port number and its colon may be omitted, in which case the
1124         same port as the host port is implied. This option is only
1125         supported if private networking is used, such as with
1126         <option>--network-veth</option>, <option>--network-zone=</option>
1127         <option>--network-bridge=</option>.</para>
1129         <xi:include href="version-info.xml" xpointer="v219"/></listitem>
1130       </varlistentry>
1131     </variablelist>
1133     </refsect2><refsect2>
1134     <title>Security Options</title>
1136     <variablelist>
1137       <varlistentry>
1138         <term><option>--capability=</option></term>
1140         <listitem><para>List one or more additional capabilities to grant the container.  Takes a
1141         comma-separated list of capability names, see <citerefentry
1142         project='man-pages'><refentrytitle>capabilities</refentrytitle><manvolnum>7</manvolnum></citerefentry>
1143         for more information. Note that the following capabilities will be granted in any way:
1144         <constant>CAP_AUDIT_CONTROL</constant>, <constant>CAP_AUDIT_WRITE</constant>,
1145         <constant>CAP_CHOWN</constant>, <constant>CAP_DAC_OVERRIDE</constant>,
1146         <constant>CAP_DAC_READ_SEARCH</constant>, <constant>CAP_FOWNER</constant>,
1147         <constant>CAP_FSETID</constant>, <constant>CAP_IPC_OWNER</constant>, <constant>CAP_KILL</constant>,
1148         <constant>CAP_LEASE</constant>, <constant>CAP_LINUX_IMMUTABLE</constant>,
1149         <constant>CAP_MKNOD</constant>, <constant>CAP_NET_BIND_SERVICE</constant>,
1150         <constant>CAP_NET_BROADCAST</constant>, <constant>CAP_NET_RAW</constant>,
1151         <constant>CAP_SETFCAP</constant>, <constant>CAP_SETGID</constant>, <constant>CAP_SETPCAP</constant>,
1152         <constant>CAP_SETUID</constant>, <constant>CAP_SYS_ADMIN</constant>,
1153         <constant>CAP_SYS_BOOT</constant>, <constant>CAP_SYS_CHROOT</constant>,
1154         <constant>CAP_SYS_NICE</constant>, <constant>CAP_SYS_PTRACE</constant>,
1155         <constant>CAP_SYS_RESOURCE</constant>, <constant>CAP_SYS_TTY_CONFIG</constant>. Also
1156         <constant>CAP_NET_ADMIN</constant> is retained if <option>--private-network</option> is specified.
1157         If the special value <literal>all</literal> is passed, all capabilities are retained.</para>
1159         <para>If the special value of <literal>help</literal> is passed, the program will print known
1160         capability names and exit.</para>
1162         <para>This option sets the bounding set of capabilities which
1163         also limits the ambient capabilities as given with the
1164         <option>--ambient-capability=</option>.</para>
1166         <xi:include href="version-info.xml" xpointer="v186"/></listitem>
1167       </varlistentry>
1169       <varlistentry>
1170         <term><option>--drop-capability=</option></term>
1172         <listitem><para>Specify one or more additional capabilities to
1173         drop for the container. This allows running the container with
1174         fewer capabilities than the default (see
1175         above).</para>
1177         <para>If the special value of <literal>help</literal> is passed, the program will print known
1178         capability names and exit.</para>
1180         <para>This option sets the bounding set of capabilities which
1181         also limits the ambient capabilities as given with the
1182         <option>--ambient-capability=</option>.</para>
1184         <xi:include href="version-info.xml" xpointer="v209"/></listitem>
1185       </varlistentry>
1187       <varlistentry>
1188         <term><option>--ambient-capability=</option></term>
1190         <listitem><para>Specify one or more additional capabilities to
1191         pass in the inheritable and ambient set to the program started
1192         within the container. The value <literal>all</literal> is not
1193         supported for this setting.</para>
1195         <para>All capabilities specified here must be in the set
1196         allowed with the <option>--capability=</option> and
1197         <option>--drop-capability=</option> options. Otherwise, an
1198         error message will be shown.</para>
1200         <para>This option cannot be combined with the boot mode of the
1201         container (as requested via <option>--boot</option>).</para>
1203         <para>If the special value of <literal>help</literal> is
1204         passed, the program will print known capability names and
1205         exit.</para>
1207         <xi:include href="version-info.xml" xpointer="v248"/></listitem>
1208       </varlistentry>
1210       <varlistentry>
1211         <term><option>--no-new-privileges=</option></term>
1213         <listitem><para>Takes a boolean argument. Specifies the value of the
1214         <constant>PR_SET_NO_NEW_PRIVS</constant> flag for the container payload. Defaults to off. When turned
1215         on the payload code of the container cannot acquire new privileges, i.e. the "setuid" file bit as
1216         well as file system capabilities will not have an effect anymore. See <citerefentry
1217         project='man-pages'><refentrytitle>prctl</refentrytitle><manvolnum>2</manvolnum></citerefentry> for
1218         details about this flag. </para>
1220         <xi:include href="version-info.xml" xpointer="v239"/></listitem>
1221       </varlistentry>
1223       <varlistentry>
1224         <term><option>--system-call-filter=</option></term> <listitem><para>Alter the system call filter
1225         applied to containers. Takes a space-separated list of system call names or group names (the latter
1226         prefixed with <literal>@</literal>, as listed by the <command>syscall-filter</command> command of
1227         <citerefentry><refentrytitle>systemd-analyze</refentrytitle><manvolnum>1</manvolnum></citerefentry>). Passed
1228         system calls will be permitted. The list may optionally be prefixed by <literal>~</literal>, in which
1229         case all listed system calls are prohibited. If this command line option is used multiple times the
1230         configured lists are combined. If both a positive and a negative list (that is one system call list
1231         without and one with the <literal>~</literal> prefix) are configured, the negative list takes
1232         precedence over the positive list. Note that <command>systemd-nspawn</command> always implements a
1233         system call allow list (as opposed to a deny list!), and this command line option hence adds or
1234         removes entries from the default allow list, depending on the <literal>~</literal> prefix. Note that
1235         the applied system call filter is also altered implicitly if additional capabilities are passed using
1236         the <command>--capabilities=</command>.</para>
1238         <xi:include href="version-info.xml" xpointer="v235"/></listitem>
1239       </varlistentry>
1241       <varlistentry>
1242         <term><option>-Z</option></term>
1243         <term><option>--selinux-context=</option></term>
1245         <listitem><para>Sets the SELinux security context to be used
1246         to label processes in the container.</para>
1248         <xi:include href="version-info.xml" xpointer="v209"/>
1249         </listitem>
1250       </varlistentry>
1252       <varlistentry>
1253         <term><option>-L</option></term>
1254         <term><option>--selinux-apifs-context=</option></term>
1256         <listitem><para>Sets the SELinux security context to be used
1257         to label files in the virtual API file systems in the
1258         container.</para>
1260         <xi:include href="version-info.xml" xpointer="v209"/>
1261         </listitem>
1262       </varlistentry>
1263     </variablelist>
1265     </refsect2><refsect2>
1266     <title>Resource Options</title>
1268     <variablelist>
1270       <varlistentry>
1271         <term><option>--rlimit=</option></term>
1273         <listitem><para>Sets the specified POSIX resource limit for the container payload. Expects an assignment of the
1274         form
1275         <literal><replaceable>LIMIT</replaceable>=<replaceable>SOFT</replaceable>:<replaceable>HARD</replaceable></literal>
1276         or <literal><replaceable>LIMIT</replaceable>=<replaceable>VALUE</replaceable></literal>, where
1277         <replaceable>LIMIT</replaceable> should refer to a resource limit type, such as
1278         <constant>RLIMIT_NOFILE</constant> or <constant>RLIMIT_NICE</constant>. The <replaceable>SOFT</replaceable> and
1279         <replaceable>HARD</replaceable> fields should refer to the numeric soft and hard resource limit values. If the
1280         second form is used, <replaceable>VALUE</replaceable> may specify a value that is used both as soft and hard
1281         limit. In place of a numeric value the special string <literal>infinity</literal> may be used to turn off
1282         resource limiting for the specific type of resource. This command line option may be used multiple times to
1283         control limits on multiple limit types. If used multiple times for the same limit type, the last use
1284         wins. For details about resource limits see <citerefentry
1285         project='man-pages'><refentrytitle>setrlimit</refentrytitle><manvolnum>2</manvolnum></citerefentry>. By default
1286         resource limits for the container's init process (PID 1) are set to the same values the Linux kernel originally
1287         passed to the host init system. Note that some resource limits are enforced on resources counted per user, in
1288         particular <constant>RLIMIT_NPROC</constant>. This means that unless user namespacing is deployed
1289         (i.e. <option>--private-users=</option> is used, see above), any limits set will be applied to the resource
1290         usage of the same user on all local containers as well as the host. This means particular care needs to be
1291         taken with these limits as they might be triggered by possibly less trusted code. Example:
1292         <literal>--rlimit=RLIMIT_NOFILE=8192:16384</literal>.</para>
1294         <xi:include href="version-info.xml" xpointer="v239"/></listitem>
1295       </varlistentry>
1297       <varlistentry>
1298         <term><option>--oom-score-adjust=</option></term>
1300         <listitem><para>Changes the OOM ("Out Of Memory") score adjustment value for the container payload. This controls
1301         <filename>/proc/self/oom_score_adj</filename> which influences the preference with which this container is
1302         terminated when memory becomes scarce. For details see <citerefentry
1303         project='man-pages'><refentrytitle>proc</refentrytitle><manvolnum>5</manvolnum></citerefentry>. Takes an
1304         integer in the range -1000…1000.</para>
1306         <xi:include href="version-info.xml" xpointer="v239"/></listitem>
1307       </varlistentry>
1309       <varlistentry>
1310         <term><option>--cpu-affinity=</option></term>
1312         <listitem><para>Controls the CPU affinity of the container payload. Takes a comma separated list of CPU numbers
1313         or number ranges (the latter's start and end value separated by dashes). See <citerefentry
1314         project='man-pages'><refentrytitle>sched_setaffinity</refentrytitle><manvolnum>2</manvolnum></citerefentry> for
1315         details.</para>
1317         <xi:include href="version-info.xml" xpointer="v239"/></listitem>
1318       </varlistentry>
1320       <varlistentry>
1321         <term><option>--personality=</option></term>
1323         <listitem><para>Control the architecture ("personality")
1324         reported by
1325         <citerefentry project='man-pages'><refentrytitle>uname</refentrytitle><manvolnum>2</manvolnum></citerefentry>
1326         in the container. Currently, only <literal>x86</literal> and
1327         <literal>x86-64</literal> are supported. This is useful when
1328         running a 32-bit container on a 64-bit host. If this setting
1329         is not used, the personality reported in the container is the
1330         same as the one reported on the host.</para>
1332         <xi:include href="version-info.xml" xpointer="v209"/></listitem>
1333       </varlistentry>
1334     </variablelist>
1336     </refsect2><refsect2>
1337     <title>Integration Options</title>
1339     <variablelist>
1340       <varlistentry>
1341         <term><option>--resolv-conf=</option></term>
1343         <listitem><para>Configures how <filename>/etc/resolv.conf</filename> inside of the container shall be
1344         handled (i.e. DNS configuration synchronization from host to container). Takes one of
1345         <literal>off</literal>, <literal>copy-host</literal>, <literal>copy-static</literal>,
1346         <literal>copy-uplink</literal>, <literal>copy-stub</literal>, <literal>replace-host</literal>,
1347         <literal>replace-static</literal>, <literal>replace-uplink</literal>,
1348         <literal>replace-stub</literal>, <literal>bind-host</literal>, <literal>bind-static</literal>,
1349         <literal>bind-uplink</literal>, <literal>bind-stub</literal>, <literal>delete</literal> or
1350         <literal>auto</literal>.</para>
1352         <para>If set to <literal>off</literal> the <filename>/etc/resolv.conf</filename> file in the
1353         container is left as it is included in the image, and neither modified nor bind mounted over.</para>
1355         <para>If set to <literal>copy-host</literal>, the <filename>/etc/resolv.conf</filename> file from the
1356         host is copied into the container, unless the file exists already and is not a regular file (e.g. a
1357         symlink). Similarly, if <literal>replace-host</literal> is used the file is copied, replacing any
1358         existing inode, including symlinks. Similarly, if <literal>bind-host</literal> is used, the file is
1359         bind mounted from the host into the container.</para>
1361         <para>If set to <literal>copy-static</literal>, <literal>replace-static</literal> or
1362         <literal>bind-static</literal> the static <filename>resolv.conf</filename> file supplied with
1363         <citerefentry><refentrytitle>systemd-resolved.service</refentrytitle><manvolnum>8</manvolnum></citerefentry>
1364         (specifically: <filename>/usr/lib/systemd/resolv.conf</filename>) is copied or bind mounted into the
1365         container.</para>
1367         <para>If set to <literal>copy-uplink</literal>, <literal>replace-uplink</literal> or
1368         <literal>bind-uplink</literal> the uplink <filename>resolv.conf</filename> file managed by
1369         <filename>systemd-resolved.service</filename> (specifically:
1370         <filename>/run/systemd/resolve/resolv.conf</filename>) is copied or bind mounted into the
1371         container.</para>
1373         <para>If set to <literal>copy-stub</literal>, <literal>replace-stub</literal> or
1374         <literal>bind-stub</literal> the stub <filename>resolv.conf</filename> file managed by
1375         <filename>systemd-resolved.service</filename> (specifically:
1376         <filename>/run/systemd/resolve/stub-resolv.conf</filename>) is copied or bind mounted into the
1377         container.</para>
1379         <para>If set to <literal>delete</literal> the <filename>/etc/resolv.conf</filename> file in the
1380         container is deleted if it exists.</para>
1382         <para>Finally, if set to <literal>auto</literal> the file is left as it is if private networking is
1383         turned on (see <option>--private-network</option>). Otherwise, if
1384         <filename>systemd-resolved.service</filename> is running its stub <filename>resolv.conf</filename>
1385         file is used, and if not the host's <filename>/etc/resolv.conf</filename> file. In the latter cases
1386         the file is copied if the image is writable, and bind mounted otherwise.</para>
1388         <para>It's recommended to use <literal>copy-…</literal> or <literal>replace-…</literal> if the
1389         container shall be able to make changes to the DNS configuration on its own, deviating from the
1390         host's settings. Otherwise <literal>bind</literal> is preferable, as it means direct changes to
1391         <filename>/etc/resolv.conf</filename> in the container are not allowed, as it is a read-only bind
1392         mount (but note that if the container has enough privileges, it might simply go ahead and unmount the
1393         bind mount anyway). Note that both if the file is bind mounted and if it is copied no further
1394         propagation of configuration is generally done after the one-time early initialization (this is
1395         because the file is usually updated through copying and renaming). Defaults to
1396         <literal>auto</literal>.</para>
1398         <xi:include href="version-info.xml" xpointer="v239"/></listitem>
1399       </varlistentry>
1401       <varlistentry>
1402         <term><option>--timezone=</option></term>
1404         <listitem><para>Configures how <filename>/etc/localtime</filename> inside of the container
1405         (i.e. local timezone synchronization from host to container) shall be handled. Takes one of
1406         <literal>off</literal>, <literal>copy</literal>, <literal>bind</literal>, <literal>symlink</literal>,
1407         <literal>delete</literal> or <literal>auto</literal>. If set to <literal>off</literal> the
1408         <filename>/etc/localtime</filename> file in the container is left as it is included in the image, and
1409         neither modified nor bind mounted over. If set to <literal>copy</literal> the
1410         <filename>/etc/localtime</filename> file of the host is copied into the container. Similarly, if
1411         <literal>bind</literal> is used, the file is bind mounted from the host into the container. If set to
1412         <literal>symlink</literal>, a symlink is created pointing from <filename>/etc/localtime</filename> in
1413         the container to the timezone file in the container that matches the timezone setting on the host. If
1414         set to <literal>delete</literal>, the file in the container is deleted, should it exist. If set to
1415         <literal>auto</literal> and the <filename>/etc/localtime</filename> file of the host is a symlink,
1416         then <literal>symlink</literal> mode is used, and <literal>copy</literal> otherwise, except if the
1417         image is read-only in which case <literal>bind</literal> is used instead. Defaults to
1418         <literal>auto</literal>.</para>
1420         <xi:include href="version-info.xml" xpointer="v239"/></listitem>
1421       </varlistentry>
1423       <varlistentry>
1424         <term><option>--link-journal=</option></term>
1426         <listitem><para>Control whether the container's journal shall
1427         be made visible to the host system. If enabled, allows viewing
1428         the container's journal files from the host (but not vice
1429         versa). Takes one of <literal>no</literal>,
1430         <literal>host</literal>, <literal>try-host</literal>,
1431         <literal>guest</literal>, <literal>try-guest</literal>,
1432         <literal>auto</literal>. If <literal>no</literal>, the journal
1433         is not linked. If <literal>host</literal>, the journal files
1434         are stored on the host file system (beneath
1435         <filename>/var/log/journal/<replaceable>machine-id</replaceable></filename>)
1436         and the subdirectory is bind-mounted into the container at the
1437         same location. If <literal>guest</literal>, the journal files
1438         are stored on the guest file system (beneath
1439         <filename>/var/log/journal/<replaceable>machine-id</replaceable></filename>)
1440         and the subdirectory is symlinked into the host at the same
1441         location. <literal>try-host</literal> and
1442         <literal>try-guest</literal> do the same but do not fail if
1443         the host does not have persistent journaling enabled, or if
1444         the container is in the <option>--ephemeral</option> mode. If
1445         <literal>auto</literal> (the default), and the right
1446         subdirectory of <filename>/var/log/journal</filename> exists,
1447         it will be bind mounted into the container. If the
1448         subdirectory does not exist, no linking is performed.
1449         Effectively, booting a container once with
1450         <literal>guest</literal> or <literal>host</literal> will link
1451         the journal persistently if further on the default of
1452         <literal>auto</literal> is used.</para>
1454         <para>Note that <option>--link-journal=try-guest</option> is the default if the
1455         <filename>systemd-nspawn@.service</filename> template unit file is used.</para>
1457         <xi:include href="version-info.xml" xpointer="v187"/></listitem>
1458       </varlistentry>
1460       <varlistentry>
1461         <term><option>-j</option></term>
1463         <listitem><para>Equivalent to
1464         <option>--link-journal=try-guest</option>.</para>
1466         <xi:include href="version-info.xml" xpointer="v187"/></listitem>
1467       </varlistentry>
1469     </variablelist>
1471     </refsect2><refsect2>
1472     <title>Mount Options</title>
1474     <variablelist>
1476       <varlistentry>
1477         <term><option>--bind=</option></term>
1478         <term><option>--bind-ro=</option></term>
1480         <listitem><para>Bind mount a file or directory from the host into the container. Takes one of: a path
1481         argument — in which case the specified path will be mounted from the host to the same path in the container, or
1482         a colon-separated pair of paths — in which case the first specified path is the source in the host, and the
1483         second path is the destination in the container, or a colon-separated triple of source path, destination path
1484         and mount options. The source path may optionally be prefixed with a <literal>+</literal> character. If so, the
1485         source path is taken relative to the image's root directory. This permits setting up bind mounts within the
1486         container image. The source path may be specified as empty string, in which case a temporary directory below
1487         the host's <filename>/var/tmp/</filename> directory is used. It is automatically removed when the container is
1488         shut down. If the source path is not absolute, it is resolved relative to the current working directory.
1489         The <option>--bind-ro=</option> option creates read-only bind mounts. Backslash escapes are interpreted,
1490         so <literal>\:</literal> may be used to embed colons in either path. This option may be specified
1491         multiple times for creating multiple independent bind mount points.</para>
1493         <para>Mount options are comma-separated. <option>rbind</option> and <option>norbind</option> control whether
1494         to create a recursive or a regular bind mount. Defaults to <option>rbind</option>. <option>noidmap</option>,
1495         <option>idmap</option>, and <option>rootidmap</option> control ID mapping.</para>
1497         <para>Using <option>idmap</option> or <option>rootidmap</option> requires support by the source filesystem
1498         for user/group ID mapped mounts. Defaults to <option>noidmap</option>. With <option>x</option> being the container's UID range
1499         offset, <option>y</option> being the length of the container's UID range, and <option>p</option> being the
1500         owner UID of the bind mount source inode on the host:
1502         <itemizedlist>
1503           <listitem><para>If <option>noidmap</option> is used, any user <option>z</option> in the range
1504           <option>0 … y</option> seen from inside of the container is mapped to <option>x + z</option> in the
1505           <option>x … x + y</option> range on the host. Other host users are mapped to
1506           <option>nobody</option> inside the container.</para></listitem>
1508           <listitem><para>If <option>idmap</option> is used, any user <option>z</option> in the UID range
1509           <option>0 … y</option> as seen from inside the container is mapped to the same <option>z</option>
1510           in the same <option>0 … y</option> range on the host. Other host users are mapped to
1511           <option>nobody</option> inside the container.</para></listitem>
1513           <listitem><para>If <option>rootidmap</option> is used, the user <option>0</option> seen from inside
1514           of the container is mapped to <option>p</option> on the host. Other host users are mapped to
1515           <option>nobody</option> inside the container.</para></listitem>
1516         </itemizedlist></para>
1518         <para>Whichever ID mapping option is used, the same mapping will be used for users and groups IDs. If
1519         <option>rootidmap</option> is used, the group owning the bind mounted directory will have no effect.</para>
1521         <para>Note that when this option is used in combination with <option>--private-users</option>, the resulting
1522         mount points will be owned by the <constant>nobody</constant> user. That's because the mount and its files and
1523         directories continue to be owned by the relevant host users and groups, which do not exist in the container,
1524         and thus show up under the wildcard UID 65534 (nobody). If such bind mounts are created, it is recommended to
1525         make them read-only, using <option>--bind-ro=</option>. Alternatively you can use the "idmap" mount option to
1526         map the filesystem IDs.</para>
1528         <xi:include href="version-info.xml" xpointer="v198"/></listitem>
1529       </varlistentry>
1531       <varlistentry>
1532         <term><option>--bind-user=</option></term>
1534         <listitem><para>Binds the home directory of the specified user on the host into the container. Takes
1535         the name of an existing user on the host as argument. May be used multiple times to bind multiple
1536         users into the container. This does three things:</para>
1538         <orderedlist>
1539           <listitem><para>The user's home directory is bind mounted from the host into
1540           <filename>/run/host/home/</filename>.</para></listitem>
1542           <listitem><para>An additional UID/GID mapping is added that maps the host user's UID/GID to a
1543           container UID/GID, allocated from the 60514…60577 range.</para></listitem>
1545           <listitem><para>A JSON user and group record is generated in <filename>/run/userdb/</filename> that
1546           describes the mapped user. It contains a minimized representation of the host's user record,
1547           adjusted to the UID/GID and home directory path assigned to the user in the container. The
1548           <citerefentry><refentrytitle>nss-systemd</refentrytitle><manvolnum>8</manvolnum></citerefentry>
1549           glibc NSS module will pick up these records from there and make them available in the container's
1550           user/group databases.</para></listitem>
1551         </orderedlist>
1553         <para>The combination of the three operations above ensures that it is possible to log into the
1554         container using the same account information as on the host. The user is only mapped transiently,
1555         while the container is running, and the mapping itself does not result in persistent changes to the
1556         container (except maybe for log messages generated at login time, and similar). Note that in
1557         particular the UID/GID assignment in the container is not made persistently. If the user is mapped
1558         transiently, it is best to not allow the user to make persistent changes to the container. If the
1559         user leaves files or directories owned by the user, and those UIDs/GIDs are reused during later
1560         container invocations (possibly with a different <option>--bind-user=</option> mapping), those files
1561         and directories will be accessible to the "new" user.</para>
1563         <para>The user/group record mapping only works if the container contains systemd 249 or newer, with
1564         <command>nss-systemd</command> properly configured in <filename>nsswitch.conf</filename>. See
1565         <citerefentry><refentrytitle>nss-systemd</refentrytitle><manvolnum>8</manvolnum></citerefentry> for
1566         details.</para>
1568         <para>Note that the user record propagated from the host into the container will contain the UNIX
1569         password hash of the user, so that seamless logins in the container are possible. If the container is
1570         less trusted than the host it's hence important to use a strong UNIX password hash function
1571         (e.g. yescrypt or similar, with the <literal>$y$</literal> hash prefix).</para>
1573         <para>When binding a user from the host into the container checks are executed to ensure that the
1574         username is not yet known in the container. Moreover, it is checked that the UID/GID allocated for it
1575         is not currently defined in the user/group databases of the container. Both checks directly access
1576         the container's <filename>/etc/passwd</filename> and <filename>/etc/group</filename>, and thus might
1577         not detect existing accounts in other databases.</para>
1579         <para>This operation is only supported in combination with
1580         <option>--private-users=</option>/<option>-U</option>.</para>
1582         <xi:include href="version-info.xml" xpointer="v249"/></listitem>
1583       </varlistentry>
1585       <varlistentry>
1586         <term><option>--inaccessible=</option></term>
1588         <listitem><para>Make the specified path inaccessible in the container. This over-mounts the specified path
1589         (which must exist in the container) with a file node of the same type that is empty and has the most
1590         restrictive access mode supported. This is an effective way to mask files, directories and other file system
1591         objects from the container payload. This option may be used more than once in case all specified paths are
1592         masked.</para>
1594         <xi:include href="version-info.xml" xpointer="v242"/></listitem>
1595       </varlistentry>
1597       <varlistentry>
1598         <term><option>--tmpfs=</option></term>
1600         <listitem><para>Mount a tmpfs file system into the container.  Takes a single absolute path argument that
1601         specifies where to mount the tmpfs instance to (in which case the directory access mode will be chosen as 0755,
1602         owned by root/root), or optionally a colon-separated pair of path and mount option string that is used for
1603         mounting (in which case the kernel default for access mode and owner will be chosen, unless otherwise
1604         specified). Backslash escapes are interpreted in the path, so <literal>\:</literal> may be used to embed colons
1605         in the path.</para>
1607         <para>Note that this option cannot be used to replace the root file system of the container with a temporary
1608         file system. However, the <option>--volatile=</option> option described below provides similar
1609         functionality, with a focus on implementing stateless operating system images.</para>
1611         <xi:include href="version-info.xml" xpointer="v214"/></listitem>
1612       </varlistentry>
1614       <varlistentry>
1615         <term><option>--overlay=</option></term>
1616         <term><option>--overlay-ro=</option></term>
1618         <listitem><para>Combine multiple directory trees into one overlay file system and mount it into the
1619         container. Takes a list of colon-separated paths to the directory trees to combine and the
1620         destination mount point.</para>
1622         <para>Backslash escapes are interpreted in the paths, so <literal>\:</literal> may be used to embed
1623         colons in the paths.</para>
1625         <para>If three or more paths are specified, then the last specified path is the destination mount
1626         point in the container, all paths specified before refer to directory trees on the host and are
1627         combined in the specified order into one overlay file system. The left-most path is hence the lowest
1628         directory tree, the second-to-last path the highest directory tree in the stacking order. If
1629         <option>--overlay-ro=</option> is used instead of <option>--overlay=</option>, a read-only overlay
1630         file system is created. If a writable overlay file system is created, all changes made to it are
1631         written to the highest directory tree in the stacking order, i.e. the second-to-last specified.
1632         </para>
1634         <para>If only two paths are specified, then the second specified path is used both as the top-level
1635         directory tree in the stacking order as seen from the host, as well as the mount point for the
1636         overlay file system in the container. At least two paths have to be specified.</para>
1638         <para>The source paths may optionally be prefixed with <literal>+</literal> character. If so they are
1639         taken relative to the image's root directory. The uppermost source path may also be specified as an
1640         empty string, in which case a temporary directory below the host's <filename>/var/tmp/</filename> is
1641         used. The directory is removed automatically when the container is shut down. This behaviour is
1642         useful in order to make read-only container directories writable while the container is running. For
1643         example, use <literal>--overlay=+/var::/var</literal> in order to automatically overlay a writable
1644         temporary directory on a read-only <filename>/var/</filename> directory. If a source path is not
1645         absolute, it is resolved relative to the current working directory.</para>
1647         <para>For details about overlay file systems, see <ulink
1648         url="https://docs.kernel.org/filesystems/overlayfs.html">Overlay Filesystem</ulink>.
1649         Note that the semantics of overlay file systems are substantially different from normal file systems,
1650         in particular regarding reported device and inode information. Device and inode information may
1651         change for a file while it is being written to, and processes might see out-of-date versions of files
1652         at times. Note that this switch automatically derives the <literal>workdir=</literal> mount option
1653         for the overlay file system from the top-level directory tree, making it a sibling of it. It is hence
1654         essential that the top-level directory tree is not a mount point itself (since the working directory
1655         must be on the same file system as the top-most directory tree). Also note that the
1656         <literal>lowerdir=</literal> mount option receives the paths to stack in the opposite order of this
1657         switch.</para>
1659         <para>Note that this option cannot be used to replace the root file system of the container with an overlay
1660         file system. However, the <option>--volatile=</option> option described above provides similar functionality,
1661         with a focus on implementing stateless operating system images.</para>
1663         <xi:include href="version-info.xml" xpointer="v220"/></listitem>
1664       </varlistentry>
1665     </variablelist>
1666   </refsect2>
1668   <refsect2>
1669     <title>Input/Output Options</title>
1671     <variablelist>
1672       <varlistentry>
1673         <term><option>--console=</option><replaceable>MODE</replaceable></term>
1675         <listitem><para>Configures how to set up standard input, output and error output for the container
1676         payload, as well as the <filename>/dev/console</filename> device for the container. Takes one of
1677         <option>interactive</option>, <option>read-only</option>, <option>passive</option>,
1678         <option>pipe</option> or <option>autopipe</option>. If <option>interactive</option>, a pseudo-TTY is
1679         allocated and made available as <filename>/dev/console</filename> in the container. It is then
1680         bi-directionally connected to the standard input and output passed to
1681         <command>systemd-nspawn</command>. <option>read-only</option> is similar but only the output of the
1682         container is propagated and no input from the caller is read. If <option>passive</option>, a pseudo
1683         TTY is allocated, but it is not connected anywhere. In <option>pipe</option> mode no pseudo TTY is
1684         allocated, but the standard input, output and error output file descriptors passed to
1685         <command>systemd-nspawn</command> are passed on — as they are — to the container payload, see the
1686         following paragraph. Finally, <option>autopipe</option> mode operates like
1687         <option>interactive</option> when <command>systemd-nspawn</command> is invoked on a terminal, and
1688         like <option>pipe</option> otherwise. Defaults to <option>interactive</option> if
1689         <command>systemd-nspawn</command> is invoked from a terminal, and <option>read-only</option>
1690         otherwise.</para>
1692         <para>In <option>pipe</option> mode, <filename>/dev/console</filename> will not exist in the
1693         container. This means that the container payload generally cannot be a full init system as init
1694         systems tend to require <filename>/dev/console</filename> to be available. On the other hand, in this
1695         mode container invocations can be used within shell pipelines. This is because intermediary pseudo
1696         TTYs do not permit independent bidirectional propagation of the end-of-file (EOF) condition, which is
1697         necessary for shell pipelines to work correctly. <emphasis>Note that the <option>pipe</option> mode
1698         should be used carefully</emphasis>, as passing arbitrary file descriptors to less trusted container
1699         payloads might open up unwanted interfaces for access by the container payload. For example, if a
1700         passed file descriptor refers to a TTY of some form, APIs such as <constant>TIOCSTI</constant> may be
1701         used to synthesize input that might be used for escaping the container. Hence <option>pipe</option>
1702         mode should only be used if the payload is sufficiently trusted or when the standard
1703         input/output/error output file descriptors are known safe, for example pipes.</para>
1705         <xi:include href="version-info.xml" xpointer="v242"/></listitem>
1706       </varlistentry>
1708       <varlistentry>
1709         <term><option>--pipe</option></term>
1710         <term><option>-P</option></term>
1712         <listitem><para>Equivalent to <option>--console=pipe</option>.</para>
1714         <xi:include href="version-info.xml" xpointer="v242"/></listitem>
1715       </varlistentry>
1716     </variablelist>
1718     </refsect2>
1719     <refsect2>
1720       <title>Credentials</title>
1722       <variablelist>
1723         <varlistentry>
1724           <term><option>--load-credential=</option><replaceable>ID</replaceable>:<replaceable>PATH</replaceable></term>
1725           <term><option>--set-credential=</option><replaceable>ID</replaceable>:<replaceable>VALUE</replaceable></term>
1727           <listitem><para>Pass a credential to the container. These two options correspond to the
1728           <varname>LoadCredential=</varname> and <varname>SetCredential=</varname> settings in unit files. See
1729           <citerefentry><refentrytitle>systemd.exec</refentrytitle><manvolnum>5</manvolnum></citerefentry> for
1730           details about these concepts, as well as the syntax of the option's arguments.</para>
1732           <para>Note: when <command>systemd-nspawn</command> runs as systemd system service it can propagate
1733           the credentials it received via <varname>LoadCredential=</varname>/<varname>SetCredential=</varname>
1734           to the container payload. A systemd service manager running as PID 1 in the container can further
1735           propagate them to the services it itself starts. It is thus possible to easily propagate credentials
1736           from a parent service manager to a container manager service and from there into its payload. This
1737           can even be done recursively.</para>
1739           <para>In order to embed binary data into the credential data for <option>--set-credential=</option>,
1740           use C-style escaping (i.e. <literal>\n</literal> to embed a newline, or <literal>\x00</literal> to
1741           embed a <constant>NUL</constant> byte). Note that the invoking shell might already apply unescaping
1742           once, hence this might require double escaping!</para>
1744           <para>The
1745           <citerefentry><refentrytitle>systemd-sysusers.service</refentrytitle><manvolnum>8</manvolnum></citerefentry>
1746           and
1747           <citerefentry><refentrytitle>systemd-firstboot</refentrytitle><manvolnum>1</manvolnum></citerefentry>
1748           services read credentials configured this way for the purpose of configuring the container's root
1749           user's password and shell, as well as system locale, keymap and timezone during the first boot
1750           process of the container. This is particularly useful in combination with
1751           <option>--volatile=yes</option> where every single boot appears as first boot, since configuration
1752           applied to <filename>/etc/</filename> is lost on container reboot cycles. See the respective man
1753           pages for details. Example:</para>
1755           <programlisting># systemd-nspawn -i image.raw \
1756           --volatile=yes \
1757           --set-credential=firstboot.locale:de_DE.UTF-8 \
1758           --set-credential=passwd.hashed-password.root:'$y$j9T$yAuRJu1o5HioZAGDYPU5d.$F64ni6J2y2nNQve90M/p0ZP0ECP/qqzipNyaY9fjGpC' \
1759           -b</programlisting>
1761           <para>The above command line will invoke the specified image file <filename>image.raw</filename> in
1762           volatile mode, i.e. with empty <filename>/etc/</filename> and <filename>/var/</filename>.  The
1763           container payload will recognize this as a first boot, and will invoke
1764           <filename>systemd-firstboot.service</filename>, which then reads the two passed credentials to
1765           configure the system's initial locale and root password.</para>
1767           <xi:include href="version-info.xml" xpointer="v247"/>
1768           </listitem>
1769         </varlistentry>
1770       </variablelist>
1772     </refsect2><refsect2>
1773     <title>Other</title>
1775     <variablelist>
1776       <xi:include href="standard-options.xml" xpointer="no-pager" />
1777       <xi:include href="standard-options.xml" xpointer="help" />
1778       <xi:include href="standard-options.xml" xpointer="version" />
1779     </variablelist>
1780    </refsect2>
1781   </refsect1>
1783   <xi:include href="common-variables.xml" />
1785   <refsect1>
1786     <title>Examples</title>
1788     <example>
1789       <title>Download a
1790       <ulink url="https://getfedora.org">Fedora</ulink> image and start a shell in it</title>
1792       <programlisting># machinectl pull-raw --verify=no \
1793       https://download.fedoraproject.org/pub/fedora/linux/releases/&fedora_latest_version;/Cloud/x86_64/images/Fedora-Cloud-Base-&fedora_latest_version;-&fedora_cloud_release;.x86_64.raw.xz \
1794       Fedora-Cloud-Base-&fedora_latest_version;-&fedora_cloud_release;.x86-64
1795 # systemd-nspawn -M Fedora-Cloud-Base-&fedora_latest_version;-&fedora_cloud_release;.x86-64</programlisting>
1797       <para>This downloads an image using
1798       <citerefentry><refentrytitle>machinectl</refentrytitle><manvolnum>1</manvolnum></citerefentry>
1799       and opens a shell in it.</para>
1800     </example>
1802     <example>
1803       <title>Build and boot a minimal Fedora distribution in a container</title>
1805       <programlisting># dnf -y --releasever=&fedora_latest_version; --installroot=/var/lib/machines/f&fedora_latest_version; \
1806       --repo=fedora --repo=updates --setopt=install_weak_deps=False install \
1807       passwd dnf fedora-release vim-minimal util-linux systemd systemd-networkd
1808 # systemd-nspawn -bD /var/lib/machines/f&fedora_latest_version;</programlisting>
1810       <para>This installs a minimal Fedora distribution into the
1811       directory <filename index="false">/var/lib/machines/f&fedora_latest_version;</filename>
1812       and then boots that OS in a namespace container. Because the installation
1813       is located underneath the standard <filename>/var/lib/machines/</filename>
1814       directory, it is also possible to start the machine using
1815       <command>systemd-nspawn -M f&fedora_latest_version;</command>.</para>
1816     </example>
1818     <example>
1819       <title>Spawn a shell in a container of a minimal Debian unstable distribution</title>
1821       <programlisting># debootstrap unstable ~/debian-tree/
1822 # systemd-nspawn -D ~/debian-tree/</programlisting>
1824       <para>This installs a minimal Debian unstable distribution into
1825       the directory <filename>~/debian-tree/</filename> and then
1826       spawns a shell from this image in a namespace container.</para>
1828       <para><command>debootstrap</command> supports
1829       <ulink url="https://www.debian.org">Debian</ulink>,
1830       <ulink url="https://www.ubuntu.com">Ubuntu</ulink>,
1831       and <ulink url="https://www.tanglu.org">Tanglu</ulink>
1832       out of the box, so the same command can be used to install any of those. For other
1833       distributions from the Debian family, a mirror has to be specified, see
1834       <citerefentry project='die-net'><refentrytitle>debootstrap</refentrytitle><manvolnum>8</manvolnum></citerefentry>.
1835       </para>
1836     </example>
1838     <example>
1839       <title>Boot a minimal
1840       <ulink url="https://www.archlinux.org">Arch Linux</ulink> distribution in a container</title>
1842       <programlisting># pacstrap -c ~/arch-tree/ base
1843 # systemd-nspawn -bD ~/arch-tree/</programlisting>
1845       <para>This installs a minimal Arch Linux distribution into the
1846       directory <filename>~/arch-tree/</filename> and then boots an OS
1847       in a namespace container in it.</para>
1848     </example>
1850     <example>
1851       <title>Install the
1852       <ulink url="https://software.opensuse.org/distributions/tumbleweed">OpenSUSE Tumbleweed</ulink>
1853       rolling distribution</title>
1855       <programlisting># zypper --root=/var/lib/machines/tumbleweed ar -c \
1856       https://download.opensuse.org/tumbleweed/repo/oss tumbleweed
1857 # zypper --root=/var/lib/machines/tumbleweed refresh
1858 # zypper --root=/var/lib/machines/tumbleweed install --no-recommends \
1859       systemd shadow zypper openSUSE-release vim
1860 # systemd-nspawn -M tumbleweed passwd root
1861 # systemd-nspawn -M tumbleweed -b</programlisting>
1862     </example>
1864     <example>
1865       <title>Boot into an ephemeral snapshot of the host system</title>
1867       <programlisting># systemd-nspawn -D / -xb</programlisting>
1869       <para>This runs a copy of the host system in a snapshot which is removed immediately when the container
1870       exits. All file system changes made during runtime will be lost on shutdown, hence.</para>
1871     </example>
1873     <example>
1874       <title>Run a container with SELinux sandbox security contexts</title>
1876       <programlisting># chcon system_u:object_r:svirt_sandbox_file_t:s0:c0,c1 -R /srv/container
1877 # systemd-nspawn -L system_u:object_r:svirt_sandbox_file_t:s0:c0,c1 \
1878       -Z system_u:system_r:svirt_lxc_net_t:s0:c0,c1 -D /srv/container /bin/sh</programlisting>
1879     </example>
1881     <example>
1882       <title>Run a container with an OSTree deployment</title>
1884       <programlisting># systemd-nspawn -b -i ~/image.raw \
1885       --pivot-root=/ostree/deploy/$OS/deploy/$CHECKSUM:/sysroot \
1886       --bind=+/sysroot/ostree/deploy/$OS/var:/var</programlisting>
1887     </example>
1888   </refsect1>
1890   <refsect1>
1891     <title>Exit status</title>
1893     <para>The exit code of the program executed in the container is
1894     returned.</para>
1895   </refsect1>
1897   <refsect1>
1898     <title>See Also</title>
1899     <para>
1900       <citerefentry><refentrytitle>systemd</refentrytitle><manvolnum>1</manvolnum></citerefentry>,
1901       <citerefentry><refentrytitle>systemd.nspawn</refentrytitle><manvolnum>5</manvolnum></citerefentry>,
1902       <citerefentry project='man-pages'><refentrytitle>chroot</refentrytitle><manvolnum>1</manvolnum></citerefentry>,
1903       <citerefentry project='mankier'><refentrytitle>dnf</refentrytitle><manvolnum>8</manvolnum></citerefentry>,
1904       <citerefentry project='die-net'><refentrytitle>debootstrap</refentrytitle><manvolnum>8</manvolnum></citerefentry>,
1905       <citerefentry project='archlinux'><refentrytitle>pacman</refentrytitle><manvolnum>8</manvolnum></citerefentry>,
1906       <citerefentry project='mankier'><refentrytitle>zypper</refentrytitle><manvolnum>8</manvolnum></citerefentry>,
1907       <citerefentry><refentrytitle>systemd.slice</refentrytitle><manvolnum>5</manvolnum></citerefentry>,
1908       <citerefentry><refentrytitle>machinectl</refentrytitle><manvolnum>1</manvolnum></citerefentry>,
1909       <citerefentry project='url'><refentrytitle url='https://btrfs.readthedocs.io/en/latest/btrfs.html'>btrfs</refentrytitle><manvolnum>8</manvolnum></citerefentry>
1910     </para>
1911   </refsect1>
1913 </refentry>