[docs] Add LICENSE.txt to the root of the mono-repo
[llvm-project.git] / llvm / docs / SourceLevelDebugging.rst
bloba9ce60029b448fcbb555552d62a5e74ccfb345e2
1 ================================
2 Source Level Debugging with LLVM
3 ================================
5 .. contents::
6    :local:
8 Introduction
9 ============
11 This document is the central repository for all information pertaining to debug
12 information in LLVM.  It describes the :ref:`actual format that the LLVM debug
13 information takes <format>`, which is useful for those interested in creating
14 front-ends or dealing directly with the information.  Further, this document
15 provides specific examples of what debug information for C/C++ looks like.
17 Philosophy behind LLVM debugging information
18 --------------------------------------------
20 The idea of the LLVM debugging information is to capture how the important
21 pieces of the source-language's Abstract Syntax Tree map onto LLVM code.
22 Several design aspects have shaped the solution that appears here.  The
23 important ones are:
25 * Debugging information should have very little impact on the rest of the
26   compiler.  No transformations, analyses, or code generators should need to
27   be modified because of debugging information.
29 * LLVM optimizations should interact in :ref:`well-defined and easily described
30   ways <intro_debugopt>` with the debugging information.
32 * Because LLVM is designed to support arbitrary programming languages,
33   LLVM-to-LLVM tools should not need to know anything about the semantics of
34   the source-level-language.
36 * Source-level languages are often **widely** different from one another.
37   LLVM should not put any restrictions of the flavor of the source-language,
38   and the debugging information should work with any language.
40 * With code generator support, it should be possible to use an LLVM compiler
41   to compile a program to native machine code and standard debugging
42   formats.  This allows compatibility with traditional machine-code level
43   debuggers, like GDB or DBX.
45 The approach used by the LLVM implementation is to use a small set of
46 :ref:`intrinsic functions <format_common_intrinsics>` to define a mapping
47 between LLVM program objects and the source-level objects.  The description of
48 the source-level program is maintained in LLVM metadata in an
49 :ref:`implementation-defined format <ccxx_frontend>` (the C/C++ front-end
50 currently uses working draft 7 of the `DWARF 3 standard
51 <http://www.eagercon.com/dwarf/dwarf3std.htm>`_).
53 When a program is being debugged, a debugger interacts with the user and turns
54 the stored debug information into source-language specific information.  As
55 such, a debugger must be aware of the source-language, and is thus tied to a
56 specific language or family of languages.
58 Debug information consumers
59 ---------------------------
61 The role of debug information is to provide meta information normally stripped
62 away during the compilation process.  This meta information provides an LLVM
63 user a relationship between generated code and the original program source
64 code.
66 Currently, there are two backend consumers of debug info: DwarfDebug and
67 CodeViewDebug. DwarfDebug produces DWARF suitable for use with GDB, LLDB, and
68 other DWARF-based debuggers. :ref:`CodeViewDebug <codeview>` produces CodeView,
69 the Microsoft debug info format, which is usable with Microsoft debuggers such
70 as Visual Studio and WinDBG. LLVM's debug information format is mostly derived
71 from and inspired by DWARF, but it is feasible to translate into other target
72 debug info formats such as STABS.
74 It would also be reasonable to use debug information to feed profiling tools
75 for analysis of generated code, or, tools for reconstructing the original
76 source from generated code.
78 .. _intro_debugopt:
80 Debug information and optimizations
81 -----------------------------------
83 An extremely high priority of LLVM debugging information is to make it interact
84 well with optimizations and analysis.  In particular, the LLVM debug
85 information provides the following guarantees:
87 * LLVM debug information **always provides information to accurately read
88   the source-level state of the program**, regardless of which LLVM
89   optimizations have been run. :doc:`HowToUpdateDebugInfo` specifies how debug
90   info should be updated in various kinds of code transformations to avoid
91   breaking this guarantee, and how to preserve as much useful debug info as
92   possible.  Note that some optimizations may impact the ability to modify the
93   current state of the program with a debugger, such as setting program
94   variables, or calling functions that have been deleted.
96 * As desired, LLVM optimizations can be upgraded to be aware of debugging
97   information, allowing them to update the debugging information as they
98   perform aggressive optimizations.  This means that, with effort, the LLVM
99   optimizers could optimize debug code just as well as non-debug code.
101 * LLVM debug information does not prevent optimizations from
102   happening (for example inlining, basic block reordering/merging/cleanup,
103   tail duplication, etc).
105 * LLVM debug information is automatically optimized along with the rest of
106   the program, using existing facilities.  For example, duplicate
107   information is automatically merged by the linker, and unused information
108   is automatically removed.
110 Basically, the debug information allows you to compile a program with
111 "``-O0 -g``" and get full debug information, allowing you to arbitrarily modify
112 the program as it executes from a debugger.  Compiling a program with
113 "``-O3 -g``" gives you full debug information that is always available and
114 accurate for reading (e.g., you get accurate stack traces despite tail call
115 elimination and inlining), but you might lose the ability to modify the program
116 and call functions which were optimized out of the program, or inlined away
117 completely.
119 The :doc:`LLVM test-suite <TestSuiteMakefileGuide>` provides a framework to
120 test the optimizer's handling of debugging information.  It can be run like
121 this:
123 .. code-block:: bash
125   % cd llvm/projects/test-suite/MultiSource/Benchmarks  # or some other level
126   % make TEST=dbgopt
128 This will test impact of debugging information on optimization passes.  If
129 debugging information influences optimization passes then it will be reported
130 as a failure.  See :doc:`TestingGuide` for more information on LLVM test
131 infrastructure and how to run various tests.
133 .. _format:
135 Debugging information format
136 ============================
138 LLVM debugging information has been carefully designed to make it possible for
139 the optimizer to optimize the program and debugging information without
140 necessarily having to know anything about debugging information.  In
141 particular, the use of metadata avoids duplicated debugging information from
142 the beginning, and the global dead code elimination pass automatically deletes
143 debugging information for a function if it decides to delete the function.
145 To do this, most of the debugging information (descriptors for types,
146 variables, functions, source files, etc) is inserted by the language front-end
147 in the form of LLVM metadata.
149 Debug information is designed to be agnostic about the target debugger and
150 debugging information representation (e.g. DWARF/Stabs/etc).  It uses a generic
151 pass to decode the information that represents variables, types, functions,
152 namespaces, etc: this allows for arbitrary source-language semantics and
153 type-systems to be used, as long as there is a module written for the target
154 debugger to interpret the information.
156 To provide basic functionality, the LLVM debugger does have to make some
157 assumptions about the source-level language being debugged, though it keeps
158 these to a minimum.  The only common features that the LLVM debugger assumes
159 exist are `source files <LangRef.html#difile>`_, and `program objects
160 <LangRef.html#diglobalvariable>`_.  These abstract objects are used by a
161 debugger to form stack traces, show information about local variables, etc.
163 This section of the documentation first describes the representation aspects
164 common to any source-language.  :ref:`ccxx_frontend` describes the data layout
165 conventions used by the C and C++ front-ends.
167 Debug information descriptors are `specialized metadata nodes
168 <LangRef.html#specialized-metadata>`_, first-class subclasses of ``Metadata``.
170 .. _format_common_intrinsics:
172 Debugger intrinsic functions
173 ----------------------------
175 LLVM uses several intrinsic functions (name prefixed with "``llvm.dbg``") to
176 track source local variables through optimization and code generation.
178 ``llvm.dbg.addr``
179 ^^^^^^^^^^^^^^^^^^^^
181 .. code-block:: llvm
183   void @llvm.dbg.addr(metadata, metadata, metadata)
185 This intrinsic provides information about a local element (e.g., variable).
186 The first argument is metadata holding the address of variable, typically a
187 static alloca in the function entry block.  The second argument is a
188 `local variable <LangRef.html#dilocalvariable>`_ containing a description of
189 the variable.  The third argument is a `complex expression
190 <LangRef.html#diexpression>`_.  An `llvm.dbg.addr` intrinsic describes the
191 *address* of a source variable.
193 .. code-block:: text
195     %i.addr = alloca i32, align 4
196     call void @llvm.dbg.addr(metadata i32* %i.addr, metadata !1,
197                              metadata !DIExpression()), !dbg !2
198     !1 = !DILocalVariable(name: "i", ...) ; int i
199     !2 = !DILocation(...)
200     ...
201     %buffer = alloca [256 x i8], align 8
202     ; The address of i is buffer+64.
203     call void @llvm.dbg.addr(metadata [256 x i8]* %buffer, metadata !3,
204                              metadata !DIExpression(DW_OP_plus, 64)), !dbg !4
205     !3 = !DILocalVariable(name: "i", ...) ; int i
206     !4 = !DILocation(...)
208 A frontend should generate exactly one call to ``llvm.dbg.addr`` at the point
209 of declaration of a source variable. Optimization passes that fully promote the
210 variable from memory to SSA values will replace this call with possibly
211 multiple calls to `llvm.dbg.value`. Passes that delete stores are effectively
212 partial promotion, and they will insert a mix of calls to ``llvm.dbg.value``
213 and ``llvm.dbg.addr`` to track the source variable value when it is available.
214 After optimization, there may be multiple calls to ``llvm.dbg.addr`` describing
215 the program points where the variables lives in memory. All calls for the same
216 concrete source variable must agree on the memory location.
219 ``llvm.dbg.declare``
220 ^^^^^^^^^^^^^^^^^^^^
222 .. code-block:: llvm
224   void @llvm.dbg.declare(metadata, metadata, metadata)
226 This intrinsic is identical to `llvm.dbg.addr`, except that there can only be
227 one call to `llvm.dbg.declare` for a given concrete `local variable
228 <LangRef.html#dilocalvariable>`_. It is not control-dependent, meaning that if
229 a call to `llvm.dbg.declare` exists and has a valid location argument, that
230 address is considered to be the true home of the variable across its entire
231 lifetime. This makes it hard for optimizations to preserve accurate debug info
232 in the presence of ``llvm.dbg.declare``, so we are transitioning away from it,
233 and we plan to deprecate it in future LLVM releases.
236 ``llvm.dbg.value``
237 ^^^^^^^^^^^^^^^^^^
239 .. code-block:: llvm
241   void @llvm.dbg.value(metadata, metadata, metadata)
243 This intrinsic provides information when a user source variable is set to a new
244 value.  The first argument is the new value (wrapped as metadata).  The second
245 argument is a `local variable <LangRef.html#dilocalvariable>`_ containing a
246 description of the variable.  The third argument is a `complex expression
247 <LangRef.html#diexpression>`_.
249 An `llvm.dbg.value` intrinsic describes the *value* of a source variable
250 directly, not its address.  Note that the value operand of this intrinsic may
251 be indirect (i.e, a pointer to the source variable), provided that interpreting
252 the complex expression derives the direct value.
254 Object lifetimes and scoping
255 ============================
257 In many languages, the local variables in functions can have their lifetimes or
258 scopes limited to a subset of a function.  In the C family of languages, for
259 example, variables are only live (readable and writable) within the source
260 block that they are defined in.  In functional languages, values are only
261 readable after they have been defined.  Though this is a very obvious concept,
262 it is non-trivial to model in LLVM, because it has no notion of scoping in this
263 sense, and does not want to be tied to a language's scoping rules.
265 In order to handle this, the LLVM debug format uses the metadata attached to
266 llvm instructions to encode line number and scoping information.  Consider the
267 following C fragment, for example:
269 .. code-block:: c
271   1.  void foo() {
272   2.    int X = 21;
273   3.    int Y = 22;
274   4.    {
275   5.      int Z = 23;
276   6.      Z = X;
277   7.    }
278   8.    X = Y;
279   9.  }
281 .. FIXME: Update the following example to use llvm.dbg.addr once that is the
282    default in clang.
284 Compiled to LLVM, this function would be represented like this:
286 .. code-block:: text
288   ; Function Attrs: nounwind ssp uwtable
289   define void @foo() #0 !dbg !4 {
290   entry:
291     %X = alloca i32, align 4
292     %Y = alloca i32, align 4
293     %Z = alloca i32, align 4
294     call void @llvm.dbg.declare(metadata i32* %X, metadata !11, metadata !13), !dbg !14
295     store i32 21, i32* %X, align 4, !dbg !14
296     call void @llvm.dbg.declare(metadata i32* %Y, metadata !15, metadata !13), !dbg !16
297     store i32 22, i32* %Y, align 4, !dbg !16
298     call void @llvm.dbg.declare(metadata i32* %Z, metadata !17, metadata !13), !dbg !19
299     store i32 23, i32* %Z, align 4, !dbg !19
300     %0 = load i32, i32* %X, align 4, !dbg !20
301     store i32 %0, i32* %Z, align 4, !dbg !21
302     %1 = load i32, i32* %Y, align 4, !dbg !22
303     store i32 %1, i32* %X, align 4, !dbg !23
304     ret void, !dbg !24
305   }
307   ; Function Attrs: nounwind readnone
308   declare void @llvm.dbg.declare(metadata, metadata, metadata) #1
310   attributes #0 = { nounwind ssp uwtable "less-precise-fpmad"="false" "frame-pointer"="all" "no-infs-fp-math"="false" "no-nans-fp-math"="false" "stack-protector-buffer-size"="8" "unsafe-fp-math"="false" "use-soft-float"="false" }
311   attributes #1 = { nounwind readnone }
313   !llvm.dbg.cu = !{!0}
314   !llvm.module.flags = !{!7, !8, !9}
315   !llvm.ident = !{!10}
317   !0 = !DICompileUnit(language: DW_LANG_C99, file: !1, producer: "clang version 3.7.0 (trunk 231150) (llvm/trunk 231154)", isOptimized: false, runtimeVersion: 0, emissionKind: FullDebug, enums: !2, retainedTypes: !2, subprograms: !3, globals: !2, imports: !2)
318   !1 = !DIFile(filename: "/dev/stdin", directory: "/Users/dexonsmith/data/llvm/debug-info")
319   !2 = !{}
320   !3 = !{!4}
321   !4 = distinct !DISubprogram(name: "foo", scope: !1, file: !1, line: 1, type: !5, isLocal: false, isDefinition: true, scopeLine: 1, isOptimized: false, retainedNodes: !2)
322   !5 = !DISubroutineType(types: !6)
323   !6 = !{null}
324   !7 = !{i32 2, !"Dwarf Version", i32 2}
325   !8 = !{i32 2, !"Debug Info Version", i32 3}
326   !9 = !{i32 1, !"PIC Level", i32 2}
327   !10 = !{!"clang version 3.7.0 (trunk 231150) (llvm/trunk 231154)"}
328   !11 = !DILocalVariable(name: "X", scope: !4, file: !1, line: 2, type: !12)
329   !12 = !DIBasicType(name: "int", size: 32, align: 32, encoding: DW_ATE_signed)
330   !13 = !DIExpression()
331   !14 = !DILocation(line: 2, column: 9, scope: !4)
332   !15 = !DILocalVariable(name: "Y", scope: !4, file: !1, line: 3, type: !12)
333   !16 = !DILocation(line: 3, column: 9, scope: !4)
334   !17 = !DILocalVariable(name: "Z", scope: !18, file: !1, line: 5, type: !12)
335   !18 = distinct !DILexicalBlock(scope: !4, file: !1, line: 4, column: 5)
336   !19 = !DILocation(line: 5, column: 11, scope: !18)
337   !20 = !DILocation(line: 6, column: 11, scope: !18)
338   !21 = !DILocation(line: 6, column: 9, scope: !18)
339   !22 = !DILocation(line: 8, column: 9, scope: !4)
340   !23 = !DILocation(line: 8, column: 7, scope: !4)
341   !24 = !DILocation(line: 9, column: 3, scope: !4)
344 This example illustrates a few important details about LLVM debugging
345 information.  In particular, it shows how the ``llvm.dbg.declare`` intrinsic and
346 location information, which are attached to an instruction, are applied
347 together to allow a debugger to analyze the relationship between statements,
348 variable definitions, and the code used to implement the function.
350 .. code-block:: llvm
352   call void @llvm.dbg.declare(metadata i32* %X, metadata !11, metadata !13), !dbg !14
353     ; [debug line = 2:7] [debug variable = X]
355 The first intrinsic ``%llvm.dbg.declare`` encodes debugging information for the
356 variable ``X``.  The metadata ``!dbg !14`` attached to the intrinsic provides
357 scope information for the variable ``X``.
359 .. code-block:: text
361   !14 = !DILocation(line: 2, column: 9, scope: !4)
362   !4 = distinct !DISubprogram(name: "foo", scope: !1, file: !1, line: 1, type: !5,
363                               isLocal: false, isDefinition: true, scopeLine: 1,
364                               isOptimized: false, retainedNodes: !2)
366 Here ``!14`` is metadata providing `location information
367 <LangRef.html#dilocation>`_.  In this example, scope is encoded by ``!4``, a
368 `subprogram descriptor <LangRef.html#disubprogram>`_.  This way the location
369 information attached to the intrinsics indicates that the variable ``X`` is
370 declared at line number 2 at a function level scope in function ``foo``.
372 Now lets take another example.
374 .. code-block:: llvm
376   call void @llvm.dbg.declare(metadata i32* %Z, metadata !17, metadata !13), !dbg !19
377     ; [debug line = 5:9] [debug variable = Z]
379 The third intrinsic ``%llvm.dbg.declare`` encodes debugging information for
380 variable ``Z``.  The metadata ``!dbg !19`` attached to the intrinsic provides
381 scope information for the variable ``Z``.
383 .. code-block:: text
385   !18 = distinct !DILexicalBlock(scope: !4, file: !1, line: 4, column: 5)
386   !19 = !DILocation(line: 5, column: 11, scope: !18)
388 Here ``!19`` indicates that ``Z`` is declared at line number 5 and column
389 number 11 inside of lexical scope ``!18``.  The lexical scope itself resides
390 inside of subprogram ``!4`` described above.
392 The scope information attached with each instruction provides a straightforward
393 way to find instructions covered by a scope.
395 Object lifetime in optimized code
396 =================================
398 In the example above, every variable assignment uniquely corresponds to a
399 memory store to the variable's position on the stack. However in heavily
400 optimized code LLVM promotes most variables into SSA values, which can
401 eventually be placed in physical registers or memory locations. To track SSA
402 values through compilation, when objects are promoted to SSA values an
403 ``llvm.dbg.value`` intrinsic is created for each assignment, recording the
404 variable's new location. Compared with the ``llvm.dbg.declare`` intrinsic:
406 * A dbg.value terminates the effect of any preceding dbg.values for (any
407   overlapping fragments of) the specified variable.
408 * The dbg.value's position in the IR defines where in the instruction stream
409   the variable's value changes.
410 * Operands can be constants, indicating the variable is assigned a
411   constant value.
413 Care must be taken to update ``llvm.dbg.value`` intrinsics when optimization
414 passes alter or move instructions and blocks -- the developer could observe such
415 changes reflected in the value of variables when debugging the program. For any
416 execution of the optimized program, the set of variable values presented to the
417 developer by the debugger should not show a state that would never have existed
418 in the execution of the unoptimized program, given the same input. Doing so
419 risks misleading the developer by reporting a state that does not exist,
420 damaging their understanding of the optimized program and undermining their
421 trust in the debugger.
423 Sometimes perfectly preserving variable locations is not possible, often when a
424 redundant calculation is optimized out. In such cases, a ``llvm.dbg.value``
425 with operand ``undef`` should be used, to terminate earlier variable locations
426 and let the debugger present ``optimized out`` to the developer. Withholding
427 these potentially stale variable values from the developer diminishes the
428 amount of available debug information, but increases the reliability of the
429 remaining information.
431 To illustrate some potential issues, consider the following example:
433 .. code-block:: llvm
435   define i32 @foo(i32 %bar, i1 %cond) {
436   entry:
437     call @llvm.dbg.value(metadata i32 0, metadata !1, metadata !2)
438     br i1 %cond, label %truebr, label %falsebr
439   truebr:
440     %tval = add i32 %bar, 1
441     call @llvm.dbg.value(metadata i32 %tval, metadata !1, metadata !2)
442     %g1 = call i32 @gazonk()
443     br label %exit
444   falsebr:
445     %fval = add i32 %bar, 2
446     call @llvm.dbg.value(metadata i32 %fval, metadata !1, metadata !2)
447     %g2 = call i32 @gazonk()
448     br label %exit
449   exit:
450     %merge = phi [ %tval, %truebr ], [ %fval, %falsebr ]
451     %g = phi [ %g1, %truebr ], [ %g2, %falsebr ]
452     call @llvm.dbg.value(metadata i32 %merge, metadata !1, metadata !2)
453     call @llvm.dbg.value(metadata i32 %g, metadata !3, metadata !2)
454     %plusten = add i32 %merge, 10
455     %toret = add i32 %plusten, %g
456     call @llvm.dbg.value(metadata i32 %toret, metadata !1, metadata !2)
457     ret i32 %toret
458   }
460 Containing two source-level variables in ``!1`` and ``!3``. The function could,
461 perhaps, be optimized into the following code:
463 .. code-block:: llvm
465   define i32 @foo(i32 %bar, i1 %cond) {
466   entry:
467     %g = call i32 @gazonk()
468     %addoper = select i1 %cond, i32 11, i32 12
469     %plusten = add i32 %bar, %addoper
470     %toret = add i32 %plusten, %g
471     ret i32 %toret
472   }
474 What ``llvm.dbg.value`` intrinsics should be placed to represent the original variable
475 locations in this code? Unfortunately the second, third and fourth
476 dbg.values for ``!1`` in the source function have had their operands
477 (%tval, %fval, %merge) optimized out. Assuming we cannot recover them, we
478 might consider this placement of dbg.values:
480 .. code-block:: llvm
482   define i32 @foo(i32 %bar, i1 %cond) {
483   entry:
484     call @llvm.dbg.value(metadata i32 0, metadata !1, metadata !2)
485     %g = call i32 @gazonk()
486     call @llvm.dbg.value(metadata i32 %g, metadata !3, metadata !2)
487     %addoper = select i1 %cond, i32 11, i32 12
488     %plusten = add i32 %bar, %addoper
489     %toret = add i32 %plusten, %g
490     call @llvm.dbg.value(metadata i32 %toret, metadata !1, metadata !2)
491     ret i32 %toret
492   }
494 However, this will cause ``!3`` to have the return value of ``@gazonk()`` at
495 the same time as ``!1`` has the constant value zero -- a pair of assignments
496 that never occurred in the unoptimized program. To avoid this, we must terminate
497 the range that ``!1`` has the constant value assignment by inserting an undef
498 dbg.value before the dbg.value for ``!3``:
500 .. code-block:: llvm
502   define i32 @foo(i32 %bar, i1 %cond) {
503   entry:
504     call @llvm.dbg.value(metadata i32 0, metadata !1, metadata !2)
505     %g = call i32 @gazonk()
506     call @llvm.dbg.value(metadata i32 undef, metadata !1, metadata !2)
507     call @llvm.dbg.value(metadata i32 %g, metadata !3, metadata !2)
508     %addoper = select i1 %cond, i32 11, i32 12
509     %plusten = add i32 %bar, %addoper
510     %toret = add i32 %plusten, %g
511     call @llvm.dbg.value(metadata i32 %toret, metadata !1, metadata !2)
512     ret i32 %toret
513   }
515 In general, if any dbg.value has its operand optimized out and cannot be
516 recovered, then an undef dbg.value is necessary to terminate earlier variable
517 locations. Additional undef dbg.values may be necessary when the debugger can
518 observe re-ordering of assignments.
520 How variable location metadata is transformed during CodeGen
521 ============================================================
523 LLVM preserves debug information throughout mid-level and backend passes,
524 ultimately producing a mapping between source-level information and
525 instruction ranges. This
526 is relatively straightforwards for line number information, as mapping
527 instructions to line numbers is a simple association. For variable locations
528 however the story is more complex. As each ``llvm.dbg.value`` intrinsic
529 represents a source-level assignment of a value to a source variable, the
530 variable location intrinsics effectively embed a small imperative program
531 within the LLVM IR. By the end of CodeGen, this becomes a mapping from each
532 variable to their machine locations over ranges of instructions.
533 From IR to object emission, the major transformations which affect variable
534 location fidelity are:
536 1. Instruction Selection
537 2. Register allocation
538 3. Block layout
540 each of which are discussed below. In addition, instruction scheduling can
541 significantly change the ordering of the program, and occurs in a number of
542 different passes.
544 Some variable locations are not transformed during CodeGen. Stack locations
545 specified by ``llvm.dbg.declare`` are valid and unchanging for the entire
546 duration of the function, and are recorded in a simple MachineFunction table.
547 Location changes in the prologue and epilogue of a function are also ignored:
548 frame setup and destruction may take several instructions, require a
549 disproportionate amount of debugging information in the output binary to
550 describe, and should be stepped over by debuggers anyway.
552 Variable locations in Instruction Selection and MIR
553 ---------------------------------------------------
555 Instruction selection creates a MIR function from an IR function, and just as
556 it transforms ``intermediate`` instructions into machine instructions, so must
557 ``intermediate`` variable locations become machine variable locations.
558 Within IR, variable locations are always identified by a Value, but in MIR
559 there can be different types of variable locations. In addition, some IR
560 locations become unavailable, for example if the operation of multiple IR
561 instructions are combined into one machine instruction (such as
562 multiply-and-accumulate) then intermediate Values are lost. To track variable
563 locations through instruction selection, they are first separated into
564 locations that do not depend on code generation (constants, stack locations,
565 allocated virtual registers) and those that do. For those that do, debug
566 metadata is attached to SDNodes in SelectionDAGs. After instruction selection
567 has occurred and a MIR function is created, if the SDNode associated with debug
568 metadata is allocated a virtual register, that virtual register is used as the
569 variable location. If the SDNode is folded into a machine instruction or
570 otherwise transformed into a non-register, the variable location becomes
571 unavailable.
573 Locations that are unavailable are treated as if they have been optimized out:
574 in IR the location would be assigned ``undef`` by a debug intrinsic, and in MIR
575 the equivalent location is used.
577 After MIR locations are assigned to each variable, machine pseudo-instructions
578 corresponding to each ``llvm.dbg.value`` and ``llvm.dbg.addr`` intrinsic are
579 inserted. There are two forms of this type of instruction.
581 The first form, ``DBG_VALUE``, appears thus:
583 .. code-block:: text
585   DBG_VALUE %1, $noreg, !123, !DIExpression()
587 And has the following operands:
588  * The first operand can record the variable location as a register,
589    a frame index, an immediate, or the base address register if the original
590    debug intrinsic referred to memory. ``$noreg`` indicates the variable
591    location is undefined, equivalent to an ``undef`` dbg.value operand.
592  * The type of the second operand indicates whether the variable location is
593    directly referred to by the DBG_VALUE, or whether it is indirect. The
594    ``$noreg`` register signifies the former, an immediate operand (0) the
595    latter.
596  * Operand 3 is the Variable field of the original debug intrinsic.
597  * Operand 4 is the Expression field of the original debug intrinsic.
599 The second form, ``DBG_VALUE_LIST``, appears thus:
601 .. code-block:: text
603   DBG_VALUE_LIST !123, !DIExpression(DW_OP_LLVM_arg, 0, DW_OP_LLVM_arg, 1, DW_OP_plus), %1, %2
605 And has the following operands:
606  * The first operand is the Variable field of the original debug intrinsic.
607  * The second operand is the Expression field of the original debug intrinsic.
608  * Any number of operands, from the 3rd onwards, record a sequence of variable
609    location operands, which may take any of the same values as the first
610    operand of the ``DBG_VALUE`` instruction above. These variable location
611    operands are inserted into the final DWARF Expression in positions indicated
612    by the DW_OP_LLVM_arg operator in the `DIExpression
613    <LangRef.html#diexpression>`.
615 The position at which the DBG_VALUEs are inserted should correspond to the
616 positions of their matching ``llvm.dbg.value`` intrinsics in the IR block.  As
617 with optimization, LLVM aims to preserve the order in which variable
618 assignments occurred in the source program. However SelectionDAG performs some
619 instruction scheduling, which can reorder assignments (discussed below).
620 Function parameter locations are moved to the beginning of the function if
621 they're not already, to ensure they're immediately available on function entry.
623 To demonstrate variable locations during instruction selection, consider
624 the following example:
626 .. code-block:: llvm
628   define i32 @foo(i32* %addr) {
629   entry:
630     call void @llvm.dbg.value(metadata i32 0, metadata !3, metadata !DIExpression()), !dbg !5
631     br label %bb1, !dbg !5
633   bb1:                                              ; preds = %bb1, %entry
634     %bar.0 = phi i32 [ 0, %entry ], [ %add, %bb1 ]
635     call void @llvm.dbg.value(metadata i32 %bar.0, metadata !3, metadata !DIExpression()), !dbg !5
636     %addr1 = getelementptr i32, i32 *%addr, i32 1, !dbg !5
637     call void @llvm.dbg.value(metadata i32 *%addr1, metadata !3, metadata !DIExpression()), !dbg !5
638     %loaded1 = load i32, i32* %addr1, !dbg !5
639     %addr2 = getelementptr i32, i32 *%addr, i32 %bar.0, !dbg !5
640     call void @llvm.dbg.value(metadata i32 *%addr2, metadata !3, metadata !DIExpression()), !dbg !5
641     %loaded2 = load i32, i32* %addr2, !dbg !5
642     %add = add i32 %bar.0, 1, !dbg !5
643     call void @llvm.dbg.value(metadata i32 %add, metadata !3, metadata !DIExpression()), !dbg !5
644     %added = add i32 %loaded1, %loaded2
645     %cond = icmp ult i32 %added, %bar.0, !dbg !5
646     br i1 %cond, label %bb1, label %bb2, !dbg !5
648   bb2:                                              ; preds = %bb1
649     ret i32 0, !dbg !5
650   }
652 If one compiles this IR with ``llc -o - -start-after=codegen-prepare -stop-after=expand-isel-pseudos -mtriple=x86_64--``, the following MIR is produced:
654 .. code-block:: text
656   bb.0.entry:
657     successors: %bb.1(0x80000000)
658     liveins: $rdi
660     %2:gr64 = COPY $rdi
661     %3:gr32 = MOV32r0 implicit-def dead $eflags
662     DBG_VALUE 0, $noreg, !3, !DIExpression(), debug-location !5
664   bb.1.bb1:
665     successors: %bb.1(0x7c000000), %bb.2(0x04000000)
667     %0:gr32 = PHI %3, %bb.0, %1, %bb.1
668     DBG_VALUE %0, $noreg, !3, !DIExpression(), debug-location !5
669     DBG_VALUE %2, $noreg, !3, !DIExpression(DW_OP_plus_uconst, 4, DW_OP_stack_value), debug-location !5
670     %4:gr32 = MOV32rm %2, 1, $noreg, 4, $noreg, debug-location !5 :: (load 4 from %ir.addr1)
671     %5:gr64_nosp = MOVSX64rr32 %0, debug-location !5
672     DBG_VALUE $noreg, $noreg, !3, !DIExpression(), debug-location !5
673     %1:gr32 = INC32r %0, implicit-def dead $eflags, debug-location !5
674     DBG_VALUE %1, $noreg, !3, !DIExpression(), debug-location !5
675     %6:gr32 = ADD32rm %4, %2, 4, killed %5, 0, $noreg, implicit-def dead $eflags :: (load 4 from %ir.addr2)
676     %7:gr32 = SUB32rr %6, %0, implicit-def $eflags, debug-location !5
677     JB_1 %bb.1, implicit $eflags, debug-location !5
678     JMP_1 %bb.2, debug-location !5
680   bb.2.bb2:
681     %8:gr32 = MOV32r0 implicit-def dead $eflags
682     $eax = COPY %8, debug-location !5
683     RET 0, $eax, debug-location !5
685 Observe first that there is a DBG_VALUE instruction for every ``llvm.dbg.value``
686 intrinsic in the source IR, ensuring no source level assignments go missing.
687 Then consider the different ways in which variable locations have been recorded:
689 * For the first dbg.value an immediate operand is used to record a zero value.
690 * The dbg.value of the PHI instruction leads to a DBG_VALUE of virtual register
691   ``%0``.
692 * The first GEP has its effect folded into the first load instruction
693   (as a 4-byte offset), but the variable location is salvaged by folding
694   the GEPs effect into the DIExpression.
695 * The second GEP is also folded into the corresponding load. However, it is
696   insufficiently simple to be salvaged, and is emitted as a ``$noreg``
697   DBG_VALUE, indicating that the variable takes on an undefined location.
698 * The final dbg.value has its Value placed in virtual register ``%1``.
700 Instruction Scheduling
701 ----------------------
703 A number of passes can reschedule instructions, notably instruction selection
704 and the pre-and-post RA machine schedulers. Instruction scheduling can
705 significantly change the nature of the program -- in the (very unlikely) worst
706 case the instruction sequence could be completely reversed. In such
707 circumstances LLVM follows the principle applied to optimizations, that it is
708 better for the debugger not to display any state than a misleading state.
709 Thus, whenever instructions are advanced in order of execution, any
710 corresponding DBG_VALUE is kept in its original position, and if an instruction
711 is delayed then the variable is given an undefined location for the duration
712 of the delay. To illustrate, consider this pseudo-MIR:
714 .. code-block:: text
716   %1:gr32 = MOV32rm %0, 1, $noreg, 4, $noreg, debug-location !5 :: (load 4 from %ir.addr1)
717   DBG_VALUE %1, $noreg, !1, !2
718   %4:gr32 = ADD32rr %3, %2, implicit-def dead $eflags
719   DBG_VALUE %4, $noreg, !3, !4
720   %7:gr32 = SUB32rr %6, %5, implicit-def dead $eflags
721   DBG_VALUE %7, $noreg, !5, !6
723 Imagine that the SUB32rr were moved forward to give us the following MIR:
725 .. code-block:: text
727   %7:gr32 = SUB32rr %6, %5, implicit-def dead $eflags
728   %1:gr32 = MOV32rm %0, 1, $noreg, 4, $noreg, debug-location !5 :: (load 4 from %ir.addr1)
729   DBG_VALUE %1, $noreg, !1, !2
730   %4:gr32 = ADD32rr %3, %2, implicit-def dead $eflags
731   DBG_VALUE %4, $noreg, !3, !4
732   DBG_VALUE %7, $noreg, !5, !6
734 In this circumstance LLVM would leave the MIR as shown above. Were we to move
735 the DBG_VALUE of virtual register %7 upwards with the SUB32rr, we would re-order
736 assignments and introduce a new state of the program. Whereas with the solution
737 above, the debugger will see one fewer combination of variable values, because
738 ``!3`` and ``!5`` will change value at the same time. This is preferred over
739 misrepresenting the original program.
741 In comparison, if one sunk the MOV32rm, LLVM would produce the following:
743 .. code-block:: text
745   DBG_VALUE $noreg, $noreg, !1, !2
746   %4:gr32 = ADD32rr %3, %2, implicit-def dead $eflags
747   DBG_VALUE %4, $noreg, !3, !4
748   %7:gr32 = SUB32rr %6, %5, implicit-def dead $eflags
749   DBG_VALUE %7, $noreg, !5, !6
750   %1:gr32 = MOV32rm %0, 1, $noreg, 4, $noreg, debug-location !5 :: (load 4 from %ir.addr1)
751   DBG_VALUE %1, $noreg, !1, !2
753 Here, to avoid presenting a state in which the first assignment to ``!1``
754 disappears, the DBG_VALUE at the top of the block assigns the variable the
755 undefined location, until its value is available at the end of the block where
756 an additional DBG_VALUE is added. Were any other DBG_VALUE for ``!1`` to occur
757 in the instructions that the MOV32rm was sunk past, the DBG_VALUE for ``%1``
758 would be dropped and the debugger would never observe it in the variable. This
759 accurately reflects that the value is not available during the corresponding
760 portion of the original program.
762 Variable locations during Register Allocation
763 ---------------------------------------------
765 To avoid debug instructions interfering with the register allocator, the
766 LiveDebugVariables pass extracts variable locations from a MIR function and
767 deletes the corresponding DBG_VALUE instructions. Some localized copy
768 propagation is performed within blocks. After register allocation, the
769 VirtRegRewriter pass re-inserts DBG_VALUE instructions in their original
770 positions, translating virtual register references into their physical
771 machine locations. To avoid encoding incorrect variable locations, in this
772 pass any DBG_VALUE of a virtual register that is not live, is replaced by
773 the undefined location. The LiveDebugVariables may insert redundant DBG_VALUEs
774 because of virtual register rewriting. These will be subsequently removed by
775 the RemoveRedundantDebugValues pass.
777 LiveDebugValues expansion of variable locations
778 -----------------------------------------------
780 After all optimizations have run and shortly before emission, the
781 LiveDebugValues pass runs to achieve two aims:
783 * To propagate the location of variables through copies and register spills,
784 * For every block, to record every valid variable location in that block.
786 After this pass the DBG_VALUE instruction changes meaning: rather than
787 corresponding to a source-level assignment where the variable may change value,
788 it asserts the location of a variable in a block, and loses effect outside the
789 block. Propagating variable locations through copies and spills is
790 straightforwards: determining the variable location in every basic block
791 requires the consideration of control flow. Consider the following IR, which
792 presents several difficulties:
794 .. code-block:: text
796   define dso_local i32 @foo(i1 %cond, i32 %input) !dbg !12 {
797   entry:
798     br i1 %cond, label %truebr, label %falsebr
800   bb1:
801     %value = phi i32 [ %value1, %truebr ], [ %value2, %falsebr ]
802     br label %exit, !dbg !26
804   truebr:
805     call void @llvm.dbg.value(metadata i32 %input, metadata !30, metadata !DIExpression()), !dbg !24
806     call void @llvm.dbg.value(metadata i32 1, metadata !23, metadata !DIExpression()), !dbg !24
807     %value1 = add i32 %input, 1
808     br label %bb1
810   falsebr:
811     call void @llvm.dbg.value(metadata i32 %input, metadata !30, metadata !DIExpression()), !dbg !24
812     call void @llvm.dbg.value(metadata i32 2, metadata !23, metadata !DIExpression()), !dbg !24
813     %value = add i32 %input, 2
814     br label %bb1
816   exit:
817     ret i32 %value, !dbg !30
818   }
820 Here the difficulties are:
822 * The control flow is roughly the opposite of basic block order
823 * The value of the ``!23`` variable merges into ``%bb1``, but there is no PHI
824   node
826 As mentioned above, the ``llvm.dbg.value`` intrinsics essentially form an
827 imperative program embedded in the IR, with each intrinsic defining a variable
828 location. This *could* be converted to an SSA form by mem2reg, in the same way
829 that it uses use-def chains to identify control flow merges and insert phi
830 nodes for IR Values. However, because debug variable locations are defined for
831 every machine instruction, in effect every IR instruction uses every variable
832 location, which would lead to a large number of debugging intrinsics being
833 generated.
835 Examining the example above, variable ``!30`` is assigned ``%input`` on both
836 conditional paths through the function, while ``!23`` is assigned differing
837 constant values on either path. Where control flow merges in ``%bb1`` we would
838 want ``!30`` to keep its location (``%input``), but ``!23`` to become undefined
839 as we cannot determine at runtime what value it should have in %bb1 without
840 inserting a PHI node. mem2reg does not insert the PHI node to avoid changing
841 codegen when debugging is enabled, and does not insert the other dbg.values
842 to avoid adding very large numbers of intrinsics.
844 Instead, LiveDebugValues determines variable locations when control
845 flow merges. A dataflow analysis is used to propagate locations between blocks:
846 when control flow merges, if a variable has the same location in all
847 predecessors then that location is propagated into the successor. If the
848 predecessor locations disagree, the location becomes undefined.
850 Once LiveDebugValues has run, every block should have all valid variable
851 locations described by DBG_VALUE instructions within the block. Very little
852 effort is then required by supporting classes (such as
853 DbgEntityHistoryCalculator) to build a map of each instruction to every
854 valid variable location, without the need to consider control flow. From
855 the example above, it is otherwise difficult to determine that the location
856 of variable ``!30`` should flow "up" into block ``%bb1``, but that the location
857 of variable ``!23`` should not flow "down" into the ``%exit`` block.
859 .. _ccxx_frontend:
861 C/C++ front-end specific debug information
862 ==========================================
864 The C and C++ front-ends represent information about the program in a
865 format that is effectively identical to `DWARF <http://www.dwarfstd.org/>`_
866 in terms of information content.  This allows code generators to
867 trivially support native debuggers by generating standard dwarf
868 information, and contains enough information for non-dwarf targets to
869 translate it as needed.
871 This section describes the forms used to represent C and C++ programs.  Other
872 languages could pattern themselves after this (which itself is tuned to
873 representing programs in the same way that DWARF does), or they could choose
874 to provide completely different forms if they don't fit into the DWARF model.
875 As support for debugging information gets added to the various LLVM
876 source-language front-ends, the information used should be documented here.
878 The following sections provide examples of a few C/C++ constructs and
879 the debug information that would best describe those constructs.  The
880 canonical references are the ``DINode`` classes defined in
881 ``include/llvm/IR/DebugInfoMetadata.h`` and the implementations of the
882 helper functions in ``lib/IR/DIBuilder.cpp``.
884 C/C++ source file information
885 -----------------------------
887 ``llvm::Instruction`` provides easy access to metadata attached with an
888 instruction.  One can extract line number information encoded in LLVM IR using
889 ``Instruction::getDebugLoc()`` and ``DILocation::getLine()``.
891 .. code-block:: c++
893   if (DILocation *Loc = I->getDebugLoc()) { // Here I is an LLVM instruction
894     unsigned Line = Loc->getLine();
895     StringRef File = Loc->getFilename();
896     StringRef Dir = Loc->getDirectory();
897     bool ImplicitCode = Loc->isImplicitCode();
898   }
900 When the flag ImplicitCode is true then it means that the Instruction has been
901 added by the front-end but doesn't correspond to source code written by the user. For example
903 .. code-block:: c++
905   if (MyBoolean) {
906     MyObject MO;
907     ...
908   }
910 At the end of the scope the MyObject's destructor is called but it isn't written
911 explicitly. This information is useful to avoid to have counters on brackets when
912 making code coverage.
914 C/C++ global variable information
915 ---------------------------------
917 Given an integer global variable declared as follows:
919 .. code-block:: c
921   _Alignas(8) int MyGlobal = 100;
923 a C/C++ front-end would generate the following descriptors:
925 .. code-block:: text
927   ;;
928   ;; Define the global itself.
929   ;;
930   @MyGlobal = global i32 100, align 8, !dbg !0
932   ;;
933   ;; List of debug info of globals
934   ;;
935   !llvm.dbg.cu = !{!1}
937   ;; Some unrelated metadata.
938   !llvm.module.flags = !{!6, !7}
939   !llvm.ident = !{!8}
941   ;; Define the global variable itself
942   !0 = distinct !DIGlobalVariable(name: "MyGlobal", scope: !1, file: !2, line: 1, type: !5, isLocal: false, isDefinition: true, align: 64)
944   ;; Define the compile unit.
945   !1 = distinct !DICompileUnit(language: DW_LANG_C99, file: !2,
946                                producer: "clang version 4.0.0",
947                                isOptimized: false, runtimeVersion: 0, emissionKind: FullDebug,
948                                enums: !3, globals: !4)
950   ;;
951   ;; Define the file
952   ;;
953   !2 = !DIFile(filename: "/dev/stdin",
954                directory: "/Users/dexonsmith/data/llvm/debug-info")
956   ;; An empty array.
957   !3 = !{}
959   ;; The Array of Global Variables
960   !4 = !{!0}
962   ;;
963   ;; Define the type
964   ;;
965   !5 = !DIBasicType(name: "int", size: 32, encoding: DW_ATE_signed)
967   ;; Dwarf version to output.
968   !6 = !{i32 2, !"Dwarf Version", i32 4}
970   ;; Debug info schema version.
971   !7 = !{i32 2, !"Debug Info Version", i32 3}
973   ;; Compiler identification
974   !8 = !{!"clang version 4.0.0"}
977 The align value in DIGlobalVariable description specifies variable alignment in
978 case it was forced by C11 _Alignas(), C++11 alignas() keywords or compiler
979 attribute __attribute__((aligned ())). In other case (when this field is missing)
980 alignment is considered default. This is used when producing DWARF output
981 for DW_AT_alignment value.
983 C/C++ function information
984 --------------------------
986 Given a function declared as follows:
988 .. code-block:: c
990   int main(int argc, char *argv[]) {
991     return 0;
992   }
994 a C/C++ front-end would generate the following descriptors:
996 .. code-block:: text
998   ;;
999   ;; Define the anchor for subprograms.
1000   ;;
1001   !4 = !DISubprogram(name: "main", scope: !1, file: !1, line: 1, type: !5,
1002                      isLocal: false, isDefinition: true, scopeLine: 1,
1003                      flags: DIFlagPrototyped, isOptimized: false,
1004                      retainedNodes: !2)
1006   ;;
1007   ;; Define the subprogram itself.
1008   ;;
1009   define i32 @main(i32 %argc, i8** %argv) !dbg !4 {
1010   ...
1011   }
1013 C++ specific debug information
1014 ==============================
1016 C++ special member functions information
1017 ----------------------------------------
1019 DWARF v5 introduces attributes defined to enhance debugging information of C++ programs. LLVM can generate (or omit) these appropriate DWARF attributes. In C++ a special member function Ctors, Dtors, Copy/Move Ctors, assignment operators can be declared with C++11 keyword deleted. This is represented in LLVM using spFlags value DISPFlagDeleted.
1021 Given a class declaration with copy constructor declared as deleted:
1023 .. code-block:: c
1025   class foo {
1026    public:
1027      foo(const foo&) = deleted;
1028   };
1030 A C++ frontend would generate following:
1032 .. code-block:: text
1034   !17 = !DISubprogram(name: "foo", scope: !11, file: !1, line: 5, type: !18, scopeLine: 5, flags: DIFlagPublic | DIFlagPrototyped, spFlags: DISPFlagDeleted)
1036 and this will produce an additional DWARF attribute as:
1038 .. code-block:: text
1040   DW_TAG_subprogram [7] *
1041     DW_AT_name [DW_FORM_strx1]    (indexed (00000006) string = "foo")
1042     DW_AT_decl_line [DW_FORM_data1]       (5)
1043     ...
1044     DW_AT_deleted [DW_FORM_flag_present]  (true)
1046 Fortran specific debug information
1047 ==================================
1049 Fortran function information
1050 ----------------------------
1052 There are a few DWARF attributes defined to support client debugging of Fortran programs.  LLVM can generate (or omit) the appropriate DWARF attributes for the prefix-specs of ELEMENTAL, PURE, IMPURE, RECURSIVE, and NON_RECURSIVE.  This is done by using the spFlags values: DISPFlagElemental, DISPFlagPure, and DISPFlagRecursive.
1054 .. code-block:: fortran
1056   elemental function elem_func(a)
1058 a Fortran front-end would generate the following descriptors:
1060 .. code-block:: text
1062   !11 = distinct !DISubprogram(name: "subroutine2", scope: !1, file: !1,
1063           line: 5, type: !8, scopeLine: 6,
1064           spFlags: DISPFlagDefinition | DISPFlagElemental, unit: !0,
1065           retainedNodes: !2)
1067 and this will materialize an additional DWARF attribute as:
1069 .. code-block:: text
1071   DW_TAG_subprogram [3]
1072      DW_AT_low_pc [DW_FORM_addr]     (0x0000000000000010 ".text")
1073      DW_AT_high_pc [DW_FORM_data4]   (0x00000001)
1074      ...
1075      DW_AT_elemental [DW_FORM_flag_present]  (true)
1077 There are a few DWARF tags defined to represent Fortran specific constructs i.e DW_TAG_string_type for representing Fortran character(n). In LLVM this is represented as DIStringType.
1079 .. code-block:: fortran
1081   character(len=*), intent(in) :: string
1083 a Fortran front-end would generate the following descriptors:
1085 .. code-block:: text
1087   !DILocalVariable(name: "string", arg: 1, scope: !10, file: !3, line: 4, type: !15)
1088   !DIStringType(name: "character(*)!2", stringLength: !16, stringLengthExpression: !DIExpression(), size: 32)
1090 A fortran deferred-length character can also contain the information of raw storage of the characters in addition to the length of the string. This information is encoded in the  stringLocationExpression field. Based on this information, DW_AT_data_location attribute is emitted in a DW_TAG_string_type debug info.
1092   !DIStringType(name: "character(*)!2", stringLengthExpression: !DIExpression(), stringLocationExpression: !DIExpression(DW_OP_push_object_address, DW_OP_deref), size: 32)
1094 and this will materialize in DWARF tags as:
1096 .. code-block:: text
1098    DW_TAG_string_type
1099                 DW_AT_name      ("character(*)!2")
1100                 DW_AT_string_length     (0x00000064)
1101    0x00000064:    DW_TAG_variable
1102                   DW_AT_location      (DW_OP_fbreg +16)
1103                   DW_AT_type  (0x00000083 "integer*8")
1104                   DW_AT_data_location (DW_OP_push_object_address, DW_OP_deref)
1105                   ...
1106                   DW_AT_artificial    (true)
1108 A Fortran front-end may need to generate a *trampoline* function to call a
1109 function defined in a different compilation unit. In this case, the front-end
1110 can emit the following descriptor for the trampoline function:
1112 .. code-block:: text
1114   !DISubprogram(name: "sub1_.t0p", linkageName: "sub1_.t0p", scope: !4, file: !4, type: !5, spFlags: DISPFlagLocalToUnit | DISPFlagDefinition, unit: !7, retainedNodes: !24, targetFuncName: "sub1_")
1116 The targetFuncName field is the name of the function that the trampoline
1117 calls. This descriptor results in the following DWARF tag:
1119 .. code-block:: text
1121   DW_TAG_subprogram
1122     ...
1123     DW_AT_linkage_name  ("sub1_.t0p")
1124     DW_AT_name  ("sub1_.t0p")
1125     DW_AT_trampoline    ("sub1_")
1127 Debugging information format
1128 ============================
1130 Debugging Information Extension for Objective C Properties
1131 ----------------------------------------------------------
1133 Introduction
1134 ^^^^^^^^^^^^
1136 Objective C provides a simpler way to declare and define accessor methods using
1137 declared properties.  The language provides features to declare a property and
1138 to let compiler synthesize accessor methods.
1140 The debugger lets developer inspect Objective C interfaces and their instance
1141 variables and class variables.  However, the debugger does not know anything
1142 about the properties defined in Objective C interfaces.  The debugger consumes
1143 information generated by compiler in DWARF format.  The format does not support
1144 encoding of Objective C properties.  This proposal describes DWARF extensions to
1145 encode Objective C properties, which the debugger can use to let developers
1146 inspect Objective C properties.
1148 Proposal
1149 ^^^^^^^^
1151 Objective C properties exist separately from class members.  A property can be
1152 defined only by "setter" and "getter" selectors, and be calculated anew on each
1153 access.  Or a property can just be a direct access to some declared ivar.
1154 Finally it can have an ivar "automatically synthesized" for it by the compiler,
1155 in which case the property can be referred to in user code directly using the
1156 standard C dereference syntax as well as through the property "dot" syntax, but
1157 there is no entry in the ``@interface`` declaration corresponding to this ivar.
1159 To facilitate debugging, these properties we will add a new DWARF TAG into the
1160 ``DW_TAG_structure_type`` definition for the class to hold the description of a
1161 given property, and a set of DWARF attributes that provide said description.
1162 The property tag will also contain the name and declared type of the property.
1164 If there is a related ivar, there will also be a DWARF property attribute placed
1165 in the ``DW_TAG_member`` DIE for that ivar referring back to the property TAG
1166 for that property.  And in the case where the compiler synthesizes the ivar
1167 directly, the compiler is expected to generate a ``DW_TAG_member`` for that
1168 ivar (with the ``DW_AT_artificial`` set to 1), whose name will be the name used
1169 to access this ivar directly in code, and with the property attribute pointing
1170 back to the property it is backing.
1172 The following examples will serve as illustration for our discussion:
1174 .. code-block:: objc
1176   @interface I1 {
1177     int n2;
1178   }
1180   @property int p1;
1181   @property int p2;
1182   @end
1184   @implementation I1
1185   @synthesize p1;
1186   @synthesize p2 = n2;
1187   @end
1189 This produces the following DWARF (this is a "pseudo dwarfdump" output):
1191 .. code-block:: none
1193   0x00000100:  TAG_structure_type [7] *
1194                  AT_APPLE_runtime_class( 0x10 )
1195                  AT_name( "I1" )
1196                  AT_decl_file( "Objc_Property.m" )
1197                  AT_decl_line( 3 )
1199   0x00000110    TAG_APPLE_property
1200                   AT_name ( "p1" )
1201                   AT_type ( {0x00000150} ( int ) )
1203   0x00000120:   TAG_APPLE_property
1204                   AT_name ( "p2" )
1205                   AT_type ( {0x00000150} ( int ) )
1207   0x00000130:   TAG_member [8]
1208                   AT_name( "_p1" )
1209                   AT_APPLE_property ( {0x00000110} "p1" )
1210                   AT_type( {0x00000150} ( int ) )
1211                   AT_artificial ( 0x1 )
1213   0x00000140:    TAG_member [8]
1214                    AT_name( "n2" )
1215                    AT_APPLE_property ( {0x00000120} "p2" )
1216                    AT_type( {0x00000150} ( int ) )
1218   0x00000150:  AT_type( ( int ) )
1220 Note, the current convention is that the name of the ivar for an
1221 auto-synthesized property is the name of the property from which it derives
1222 with an underscore prepended, as is shown in the example.  But we actually
1223 don't need to know this convention, since we are given the name of the ivar
1224 directly.
1226 Also, it is common practice in ObjC to have different property declarations in
1227 the @interface and @implementation - e.g. to provide a read-only property in
1228 the interface, and a read-write interface in the implementation.  In that case,
1229 the compiler should emit whichever property declaration will be in force in the
1230 current translation unit.
1232 Developers can decorate a property with attributes which are encoded using
1233 ``DW_AT_APPLE_property_attribute``.
1235 .. code-block:: objc
1237   @property (readonly, nonatomic) int pr;
1239 .. code-block:: none
1241   TAG_APPLE_property [8]
1242     AT_name( "pr" )
1243     AT_type ( {0x00000147} (int) )
1244     AT_APPLE_property_attribute (DW_APPLE_PROPERTY_readonly, DW_APPLE_PROPERTY_nonatomic)
1246 The setter and getter method names are attached to the property using
1247 ``DW_AT_APPLE_property_setter`` and ``DW_AT_APPLE_property_getter`` attributes.
1249 .. code-block:: objc
1251   @interface I1
1252   @property (setter=myOwnP3Setter:) int p3;
1253   -(void)myOwnP3Setter:(int)a;
1254   @end
1256   @implementation I1
1257   @synthesize p3;
1258   -(void)myOwnP3Setter:(int)a{ }
1259   @end
1261 The DWARF for this would be:
1263 .. code-block:: none
1265   0x000003bd: TAG_structure_type [7] *
1266                 AT_APPLE_runtime_class( 0x10 )
1267                 AT_name( "I1" )
1268                 AT_decl_file( "Objc_Property.m" )
1269                 AT_decl_line( 3 )
1271   0x000003cd      TAG_APPLE_property
1272                     AT_name ( "p3" )
1273                     AT_APPLE_property_setter ( "myOwnP3Setter:" )
1274                     AT_type( {0x00000147} ( int ) )
1276   0x000003f3:     TAG_member [8]
1277                     AT_name( "_p3" )
1278                     AT_type ( {0x00000147} ( int ) )
1279                     AT_APPLE_property ( {0x000003cd} )
1280                     AT_artificial ( 0x1 )
1282 New DWARF Tags
1283 ^^^^^^^^^^^^^^
1285 +-----------------------+--------+
1286 | TAG                   | Value  |
1287 +=======================+========+
1288 | DW_TAG_APPLE_property | 0x4200 |
1289 +-----------------------+--------+
1291 New DWARF Attributes
1292 ^^^^^^^^^^^^^^^^^^^^
1294 +--------------------------------+--------+-----------+
1295 | Attribute                      | Value  | Classes   |
1296 +================================+========+===========+
1297 | DW_AT_APPLE_property           | 0x3fed | Reference |
1298 +--------------------------------+--------+-----------+
1299 | DW_AT_APPLE_property_getter    | 0x3fe9 | String    |
1300 +--------------------------------+--------+-----------+
1301 | DW_AT_APPLE_property_setter    | 0x3fea | String    |
1302 +--------------------------------+--------+-----------+
1303 | DW_AT_APPLE_property_attribute | 0x3feb | Constant  |
1304 +--------------------------------+--------+-----------+
1306 New DWARF Constants
1307 ^^^^^^^^^^^^^^^^^^^
1309 +--------------------------------------+-------+
1310 | Name                                 | Value |
1311 +======================================+=======+
1312 | DW_APPLE_PROPERTY_readonly           | 0x01  |
1313 +--------------------------------------+-------+
1314 | DW_APPLE_PROPERTY_getter             | 0x02  |
1315 +--------------------------------------+-------+
1316 | DW_APPLE_PROPERTY_assign             | 0x04  |
1317 +--------------------------------------+-------+
1318 | DW_APPLE_PROPERTY_readwrite          | 0x08  |
1319 +--------------------------------------+-------+
1320 | DW_APPLE_PROPERTY_retain             | 0x10  |
1321 +--------------------------------------+-------+
1322 | DW_APPLE_PROPERTY_copy               | 0x20  |
1323 +--------------------------------------+-------+
1324 | DW_APPLE_PROPERTY_nonatomic          | 0x40  |
1325 +--------------------------------------+-------+
1326 | DW_APPLE_PROPERTY_setter             | 0x80  |
1327 +--------------------------------------+-------+
1328 | DW_APPLE_PROPERTY_atomic             | 0x100 |
1329 +--------------------------------------+-------+
1330 | DW_APPLE_PROPERTY_weak               | 0x200 |
1331 +--------------------------------------+-------+
1332 | DW_APPLE_PROPERTY_strong             | 0x400 |
1333 +--------------------------------------+-------+
1334 | DW_APPLE_PROPERTY_unsafe_unretained  | 0x800 |
1335 +--------------------------------------+-------+
1336 | DW_APPLE_PROPERTY_nullability        | 0x1000|
1337 +--------------------------------------+-------+
1338 | DW_APPLE_PROPERTY_null_resettable    | 0x2000|
1339 +--------------------------------------+-------+
1340 | DW_APPLE_PROPERTY_class              | 0x4000|
1341 +--------------------------------------+-------+
1343 Name Accelerator Tables
1344 -----------------------
1346 Introduction
1347 ^^^^^^^^^^^^
1349 The "``.debug_pubnames``" and "``.debug_pubtypes``" formats are not what a
1350 debugger needs.  The "``pub``" in the section name indicates that the entries
1351 in the table are publicly visible names only.  This means no static or hidden
1352 functions show up in the "``.debug_pubnames``".  No static variables or private
1353 class variables are in the "``.debug_pubtypes``".  Many compilers add different
1354 things to these tables, so we can't rely upon the contents between gcc, icc, or
1355 clang.
1357 The typical query given by users tends not to match up with the contents of
1358 these tables.  For example, the DWARF spec states that "In the case of the name
1359 of a function member or static data member of a C++ structure, class or union,
1360 the name presented in the "``.debug_pubnames``" section is not the simple name
1361 given by the ``DW_AT_name attribute`` of the referenced debugging information
1362 entry, but rather the fully qualified name of the data or function member."
1363 So the only names in these tables for complex C++ entries is a fully
1364 qualified name.  Debugger users tend not to enter their search strings as
1365 "``a::b::c(int,const Foo&) const``", but rather as "``c``", "``b::c``" , or
1366 "``a::b::c``".  So the name entered in the name table must be demangled in
1367 order to chop it up appropriately and additional names must be manually entered
1368 into the table to make it effective as a name lookup table for debuggers to
1369 use.
1371 All debuggers currently ignore the "``.debug_pubnames``" table as a result of
1372 its inconsistent and useless public-only name content making it a waste of
1373 space in the object file.  These tables, when they are written to disk, are not
1374 sorted in any way, leaving every debugger to do its own parsing and sorting.
1375 These tables also include an inlined copy of the string values in the table
1376 itself making the tables much larger than they need to be on disk, especially
1377 for large C++ programs.
1379 Can't we just fix the sections by adding all of the names we need to this
1380 table? No, because that is not what the tables are defined to contain and we
1381 won't know the difference between the old bad tables and the new good tables.
1382 At best we could make our own renamed sections that contain all of the data we
1383 need.
1385 These tables are also insufficient for what a debugger like LLDB needs.  LLDB
1386 uses clang for its expression parsing where LLDB acts as a PCH.  LLDB is then
1387 often asked to look for type "``foo``" or namespace "``bar``", or list items in
1388 namespace "``baz``".  Namespaces are not included in the pubnames or pubtypes
1389 tables.  Since clang asks a lot of questions when it is parsing an expression,
1390 we need to be very fast when looking up names, as it happens a lot.  Having new
1391 accelerator tables that are optimized for very quick lookups will benefit this
1392 type of debugging experience greatly.
1394 We would like to generate name lookup tables that can be mapped into memory
1395 from disk, and used as is, with little or no up-front parsing.  We would also
1396 be able to control the exact content of these different tables so they contain
1397 exactly what we need.  The Name Accelerator Tables were designed to fix these
1398 issues.  In order to solve these issues we need to:
1400 * Have a format that can be mapped into memory from disk and used as is
1401 * Lookups should be very fast
1402 * Extensible table format so these tables can be made by many producers
1403 * Contain all of the names needed for typical lookups out of the box
1404 * Strict rules for the contents of tables
1406 Table size is important and the accelerator table format should allow the reuse
1407 of strings from common string tables so the strings for the names are not
1408 duplicated.  We also want to make sure the table is ready to be used as-is by
1409 simply mapping the table into memory with minimal header parsing.
1411 The name lookups need to be fast and optimized for the kinds of lookups that
1412 debuggers tend to do.  Optimally we would like to touch as few parts of the
1413 mapped table as possible when doing a name lookup and be able to quickly find
1414 the name entry we are looking for, or discover there are no matches.  In the
1415 case of debuggers we optimized for lookups that fail most of the time.
1417 Each table that is defined should have strict rules on exactly what is in the
1418 accelerator tables and documented so clients can rely on the content.
1420 Hash Tables
1421 ^^^^^^^^^^^
1423 Standard Hash Tables
1424 """"""""""""""""""""
1426 Typical hash tables have a header, buckets, and each bucket points to the
1427 bucket contents:
1429 .. code-block:: none
1431   .------------.
1432   |  HEADER    |
1433   |------------|
1434   |  BUCKETS   |
1435   |------------|
1436   |  DATA      |
1437   `------------'
1439 The BUCKETS are an array of offsets to DATA for each hash:
1441 .. code-block:: none
1443   .------------.
1444   | 0x00001000 | BUCKETS[0]
1445   | 0x00002000 | BUCKETS[1]
1446   | 0x00002200 | BUCKETS[2]
1447   | 0x000034f0 | BUCKETS[3]
1448   |            | ...
1449   | 0xXXXXXXXX | BUCKETS[n_buckets]
1450   '------------'
1452 So for ``bucket[3]`` in the example above, we have an offset into the table
1453 0x000034f0 which points to a chain of entries for the bucket.  Each bucket must
1454 contain a next pointer, full 32 bit hash value, the string itself, and the data
1455 for the current string value.
1457 .. code-block:: none
1459               .------------.
1460   0x000034f0: | 0x00003500 | next pointer
1461               | 0x12345678 | 32 bit hash
1462               | "erase"    | string value
1463               | data[n]    | HashData for this bucket
1464               |------------|
1465   0x00003500: | 0x00003550 | next pointer
1466               | 0x29273623 | 32 bit hash
1467               | "dump"     | string value
1468               | data[n]    | HashData for this bucket
1469               |------------|
1470   0x00003550: | 0x00000000 | next pointer
1471               | 0x82638293 | 32 bit hash
1472               | "main"     | string value
1473               | data[n]    | HashData for this bucket
1474               `------------'
1476 The problem with this layout for debuggers is that we need to optimize for the
1477 negative lookup case where the symbol we're searching for is not present.  So
1478 if we were to lookup "``printf``" in the table above, we would make a 32-bit
1479 hash for "``printf``", it might match ``bucket[3]``.  We would need to go to
1480 the offset 0x000034f0 and start looking to see if our 32 bit hash matches.  To
1481 do so, we need to read the next pointer, then read the hash, compare it, and
1482 skip to the next bucket.  Each time we are skipping many bytes in memory and
1483 touching new pages just to do the compare on the full 32 bit hash.  All of
1484 these accesses then tell us that we didn't have a match.
1486 Name Hash Tables
1487 """"""""""""""""
1489 To solve the issues mentioned above we have structured the hash tables a bit
1490 differently: a header, buckets, an array of all unique 32 bit hash values,
1491 followed by an array of hash value data offsets, one for each hash value, then
1492 the data for all hash values:
1494 .. code-block:: none
1496   .-------------.
1497   |  HEADER     |
1498   |-------------|
1499   |  BUCKETS    |
1500   |-------------|
1501   |  HASHES     |
1502   |-------------|
1503   |  OFFSETS    |
1504   |-------------|
1505   |  DATA       |
1506   `-------------'
1508 The ``BUCKETS`` in the name tables are an index into the ``HASHES`` array.  By
1509 making all of the full 32 bit hash values contiguous in memory, we allow
1510 ourselves to efficiently check for a match while touching as little memory as
1511 possible.  Most often checking the 32 bit hash values is as far as the lookup
1512 goes.  If it does match, it usually is a match with no collisions.  So for a
1513 table with "``n_buckets``" buckets, and "``n_hashes``" unique 32 bit hash
1514 values, we can clarify the contents of the ``BUCKETS``, ``HASHES`` and
1515 ``OFFSETS`` as:
1517 .. code-block:: none
1519   .-------------------------.
1520   |  HEADER.magic           | uint32_t
1521   |  HEADER.version         | uint16_t
1522   |  HEADER.hash_function   | uint16_t
1523   |  HEADER.bucket_count    | uint32_t
1524   |  HEADER.hashes_count    | uint32_t
1525   |  HEADER.header_data_len | uint32_t
1526   |  HEADER_DATA            | HeaderData
1527   |-------------------------|
1528   |  BUCKETS                | uint32_t[n_buckets] // 32 bit hash indexes
1529   |-------------------------|
1530   |  HASHES                 | uint32_t[n_hashes] // 32 bit hash values
1531   |-------------------------|
1532   |  OFFSETS                | uint32_t[n_hashes] // 32 bit offsets to hash value data
1533   |-------------------------|
1534   |  ALL HASH DATA          |
1535   `-------------------------'
1537 So taking the exact same data from the standard hash example above we end up
1538 with:
1540 .. code-block:: none
1542               .------------.
1543               | HEADER     |
1544               |------------|
1545               |          0 | BUCKETS[0]
1546               |          2 | BUCKETS[1]
1547               |          5 | BUCKETS[2]
1548               |          6 | BUCKETS[3]
1549               |            | ...
1550               |        ... | BUCKETS[n_buckets]
1551               |------------|
1552               | 0x........ | HASHES[0]
1553               | 0x........ | HASHES[1]
1554               | 0x........ | HASHES[2]
1555               | 0x........ | HASHES[3]
1556               | 0x........ | HASHES[4]
1557               | 0x........ | HASHES[5]
1558               | 0x12345678 | HASHES[6]    hash for BUCKETS[3]
1559               | 0x29273623 | HASHES[7]    hash for BUCKETS[3]
1560               | 0x82638293 | HASHES[8]    hash for BUCKETS[3]
1561               | 0x........ | HASHES[9]
1562               | 0x........ | HASHES[10]
1563               | 0x........ | HASHES[11]
1564               | 0x........ | HASHES[12]
1565               | 0x........ | HASHES[13]
1566               | 0x........ | HASHES[n_hashes]
1567               |------------|
1568               | 0x........ | OFFSETS[0]
1569               | 0x........ | OFFSETS[1]
1570               | 0x........ | OFFSETS[2]
1571               | 0x........ | OFFSETS[3]
1572               | 0x........ | OFFSETS[4]
1573               | 0x........ | OFFSETS[5]
1574               | 0x000034f0 | OFFSETS[6]   offset for BUCKETS[3]
1575               | 0x00003500 | OFFSETS[7]   offset for BUCKETS[3]
1576               | 0x00003550 | OFFSETS[8]   offset for BUCKETS[3]
1577               | 0x........ | OFFSETS[9]
1578               | 0x........ | OFFSETS[10]
1579               | 0x........ | OFFSETS[11]
1580               | 0x........ | OFFSETS[12]
1581               | 0x........ | OFFSETS[13]
1582               | 0x........ | OFFSETS[n_hashes]
1583               |------------|
1584               |            |
1585               |            |
1586               |            |
1587               |            |
1588               |            |
1589               |------------|
1590   0x000034f0: | 0x00001203 | .debug_str ("erase")
1591               | 0x00000004 | A 32 bit array count - number of HashData with name "erase"
1592               | 0x........ | HashData[0]
1593               | 0x........ | HashData[1]
1594               | 0x........ | HashData[2]
1595               | 0x........ | HashData[3]
1596               | 0x00000000 | String offset into .debug_str (terminate data for hash)
1597               |------------|
1598   0x00003500: | 0x00001203 | String offset into .debug_str ("collision")
1599               | 0x00000002 | A 32 bit array count - number of HashData with name "collision"
1600               | 0x........ | HashData[0]
1601               | 0x........ | HashData[1]
1602               | 0x00001203 | String offset into .debug_str ("dump")
1603               | 0x00000003 | A 32 bit array count - number of HashData with name "dump"
1604               | 0x........ | HashData[0]
1605               | 0x........ | HashData[1]
1606               | 0x........ | HashData[2]
1607               | 0x00000000 | String offset into .debug_str (terminate data for hash)
1608               |------------|
1609   0x00003550: | 0x00001203 | String offset into .debug_str ("main")
1610               | 0x00000009 | A 32 bit array count - number of HashData with name "main"
1611               | 0x........ | HashData[0]
1612               | 0x........ | HashData[1]
1613               | 0x........ | HashData[2]
1614               | 0x........ | HashData[3]
1615               | 0x........ | HashData[4]
1616               | 0x........ | HashData[5]
1617               | 0x........ | HashData[6]
1618               | 0x........ | HashData[7]
1619               | 0x........ | HashData[8]
1620               | 0x00000000 | String offset into .debug_str (terminate data for hash)
1621               `------------'
1623 So we still have all of the same data, we just organize it more efficiently for
1624 debugger lookup.  If we repeat the same "``printf``" lookup from above, we
1625 would hash "``printf``" and find it matches ``BUCKETS[3]`` by taking the 32 bit
1626 hash value and modulo it by ``n_buckets``.  ``BUCKETS[3]`` contains "6" which
1627 is the index into the ``HASHES`` table.  We would then compare any consecutive
1628 32 bit hashes values in the ``HASHES`` array as long as the hashes would be in
1629 ``BUCKETS[3]``.  We do this by verifying that each subsequent hash value modulo
1630 ``n_buckets`` is still 3.  In the case of a failed lookup we would access the
1631 memory for ``BUCKETS[3]``, and then compare a few consecutive 32 bit hashes
1632 before we know that we have no match.  We don't end up marching through
1633 multiple words of memory and we really keep the number of processor data cache
1634 lines being accessed as small as possible.
1636 The string hash that is used for these lookup tables is the Daniel J.
1637 Bernstein hash which is also used in the ELF ``GNU_HASH`` sections.  It is a
1638 very good hash for all kinds of names in programs with very few hash
1639 collisions.
1641 Empty buckets are designated by using an invalid hash index of ``UINT32_MAX``.
1643 Details
1644 ^^^^^^^
1646 These name hash tables are designed to be generic where specializations of the
1647 table get to define additional data that goes into the header ("``HeaderData``"),
1648 how the string value is stored ("``KeyType``") and the content of the data for each
1649 hash value.
1651 Header Layout
1652 """""""""""""
1654 The header has a fixed part, and the specialized part.  The exact format of the
1655 header is:
1657 .. code-block:: c
1659   struct Header
1660   {
1661     uint32_t   magic;           // 'HASH' magic value to allow endian detection
1662     uint16_t   version;         // Version number
1663     uint16_t   hash_function;   // The hash function enumeration that was used
1664     uint32_t   bucket_count;    // The number of buckets in this hash table
1665     uint32_t   hashes_count;    // The total number of unique hash values and hash data offsets in this table
1666     uint32_t   header_data_len; // The bytes to skip to get to the hash indexes (buckets) for correct alignment
1667                                 // Specifically the length of the following HeaderData field - this does not
1668                                 // include the size of the preceding fields
1669     HeaderData header_data;     // Implementation specific header data
1670   };
1672 The header starts with a 32 bit "``magic``" value which must be ``'HASH'``
1673 encoded as an ASCII integer.  This allows the detection of the start of the
1674 hash table and also allows the table's byte order to be determined so the table
1675 can be correctly extracted.  The "``magic``" value is followed by a 16 bit
1676 ``version`` number which allows the table to be revised and modified in the
1677 future.  The current version number is 1. ``hash_function`` is a ``uint16_t``
1678 enumeration that specifies which hash function was used to produce this table.
1679 The current values for the hash function enumerations include:
1681 .. code-block:: c
1683   enum HashFunctionType
1684   {
1685     eHashFunctionDJB = 0u, // Daniel J Bernstein hash function
1686   };
1688 ``bucket_count`` is a 32 bit unsigned integer that represents how many buckets
1689 are in the ``BUCKETS`` array.  ``hashes_count`` is the number of unique 32 bit
1690 hash values that are in the ``HASHES`` array, and is the same number of offsets
1691 are contained in the ``OFFSETS`` array.  ``header_data_len`` specifies the size
1692 in bytes of the ``HeaderData`` that is filled in by specialized versions of
1693 this table.
1695 Fixed Lookup
1696 """"""""""""
1698 The header is followed by the buckets, hashes, offsets, and hash value data.
1700 .. code-block:: c
1702   struct FixedTable
1703   {
1704     uint32_t buckets[Header.bucket_count];  // An array of hash indexes into the "hashes[]" array below
1705     uint32_t hashes [Header.hashes_count];  // Every unique 32 bit hash for the entire table is in this table
1706     uint32_t offsets[Header.hashes_count];  // An offset that corresponds to each item in the "hashes[]" array above
1707   };
1709 ``buckets`` is an array of 32 bit indexes into the ``hashes`` array.  The
1710 ``hashes`` array contains all of the 32 bit hash values for all names in the
1711 hash table.  Each hash in the ``hashes`` table has an offset in the ``offsets``
1712 array that points to the data for the hash value.
1714 This table setup makes it very easy to repurpose these tables to contain
1715 different data, while keeping the lookup mechanism the same for all tables.
1716 This layout also makes it possible to save the table to disk and map it in
1717 later and do very efficient name lookups with little or no parsing.
1719 DWARF lookup tables can be implemented in a variety of ways and can store a lot
1720 of information for each name.  We want to make the DWARF tables extensible and
1721 able to store the data efficiently so we have used some of the DWARF features
1722 that enable efficient data storage to define exactly what kind of data we store
1723 for each name.
1725 The ``HeaderData`` contains a definition of the contents of each HashData chunk.
1726 We might want to store an offset to all of the debug information entries (DIEs)
1727 for each name.  To keep things extensible, we create a list of items, or
1728 Atoms, that are contained in the data for each name.  First comes the type of
1729 the data in each atom:
1731 .. code-block:: c
1733   enum AtomType
1734   {
1735     eAtomTypeNULL       = 0u,
1736     eAtomTypeDIEOffset  = 1u,   // DIE offset, check form for encoding
1737     eAtomTypeCUOffset   = 2u,   // DIE offset of the compiler unit header that contains the item in question
1738     eAtomTypeTag        = 3u,   // DW_TAG_xxx value, should be encoded as DW_FORM_data1 (if no tags exceed 255) or DW_FORM_data2
1739     eAtomTypeNameFlags  = 4u,   // Flags from enum NameFlags
1740     eAtomTypeTypeFlags  = 5u,   // Flags from enum TypeFlags
1741   };
1743 The enumeration values and their meanings are:
1745 .. code-block:: none
1747   eAtomTypeNULL       - a termination atom that specifies the end of the atom list
1748   eAtomTypeDIEOffset  - an offset into the .debug_info section for the DWARF DIE for this name
1749   eAtomTypeCUOffset   - an offset into the .debug_info section for the CU that contains the DIE
1750   eAtomTypeDIETag     - The DW_TAG_XXX enumeration value so you don't have to parse the DWARF to see what it is
1751   eAtomTypeNameFlags  - Flags for functions and global variables (isFunction, isInlined, isExternal...)
1752   eAtomTypeTypeFlags  - Flags for types (isCXXClass, isObjCClass, ...)
1754 Then we allow each atom type to define the atom type and how the data for each
1755 atom type data is encoded:
1757 .. code-block:: c
1759   struct Atom
1760   {
1761     uint16_t type;  // AtomType enum value
1762     uint16_t form;  // DWARF DW_FORM_XXX defines
1763   };
1765 The ``form`` type above is from the DWARF specification and defines the exact
1766 encoding of the data for the Atom type.  See the DWARF specification for the
1767 ``DW_FORM_`` definitions.
1769 .. code-block:: c
1771   struct HeaderData
1772   {
1773     uint32_t die_offset_base;
1774     uint32_t atom_count;
1775     Atoms    atoms[atom_count0];
1776   };
1778 ``HeaderData`` defines the base DIE offset that should be added to any atoms
1779 that are encoded using the ``DW_FORM_ref1``, ``DW_FORM_ref2``,
1780 ``DW_FORM_ref4``, ``DW_FORM_ref8`` or ``DW_FORM_ref_udata``.  It also defines
1781 what is contained in each ``HashData`` object -- ``Atom.form`` tells us how large
1782 each field will be in the ``HashData`` and the ``Atom.type`` tells us how this data
1783 should be interpreted.
1785 For the current implementations of the "``.apple_names``" (all functions +
1786 globals), the "``.apple_types``" (names of all types that are defined), and
1787 the "``.apple_namespaces``" (all namespaces), we currently set the ``Atom``
1788 array to be:
1790 .. code-block:: c
1792   HeaderData.atom_count = 1;
1793   HeaderData.atoms[0].type = eAtomTypeDIEOffset;
1794   HeaderData.atoms[0].form = DW_FORM_data4;
1796 This defines the contents to be the DIE offset (eAtomTypeDIEOffset) that is
1797 encoded as a 32 bit value (DW_FORM_data4).  This allows a single name to have
1798 multiple matching DIEs in a single file, which could come up with an inlined
1799 function for instance.  Future tables could include more information about the
1800 DIE such as flags indicating if the DIE is a function, method, block,
1801 or inlined.
1803 The KeyType for the DWARF table is a 32 bit string table offset into the
1804 ".debug_str" table.  The ".debug_str" is the string table for the DWARF which
1805 may already contain copies of all of the strings.  This helps make sure, with
1806 help from the compiler, that we reuse the strings between all of the DWARF
1807 sections and keeps the hash table size down.  Another benefit to having the
1808 compiler generate all strings as DW_FORM_strp in the debug info, is that
1809 DWARF parsing can be made much faster.
1811 After a lookup is made, we get an offset into the hash data.  The hash data
1812 needs to be able to deal with 32 bit hash collisions, so the chunk of data
1813 at the offset in the hash data consists of a triple:
1815 .. code-block:: c
1817   uint32_t str_offset
1818   uint32_t hash_data_count
1819   HashData[hash_data_count]
1821 If "str_offset" is zero, then the bucket contents are done. 99.9% of the
1822 hash data chunks contain a single item (no 32 bit hash collision):
1824 .. code-block:: none
1826   .------------.
1827   | 0x00001023 | uint32_t KeyType (.debug_str[0x0001023] => "main")
1828   | 0x00000004 | uint32_t HashData count
1829   | 0x........ | uint32_t HashData[0] DIE offset
1830   | 0x........ | uint32_t HashData[1] DIE offset
1831   | 0x........ | uint32_t HashData[2] DIE offset
1832   | 0x........ | uint32_t HashData[3] DIE offset
1833   | 0x00000000 | uint32_t KeyType (end of hash chain)
1834   `------------'
1836 If there are collisions, you will have multiple valid string offsets:
1838 .. code-block:: none
1840   .------------.
1841   | 0x00001023 | uint32_t KeyType (.debug_str[0x0001023] => "main")
1842   | 0x00000004 | uint32_t HashData count
1843   | 0x........ | uint32_t HashData[0] DIE offset
1844   | 0x........ | uint32_t HashData[1] DIE offset
1845   | 0x........ | uint32_t HashData[2] DIE offset
1846   | 0x........ | uint32_t HashData[3] DIE offset
1847   | 0x00002023 | uint32_t KeyType (.debug_str[0x0002023] => "print")
1848   | 0x00000002 | uint32_t HashData count
1849   | 0x........ | uint32_t HashData[0] DIE offset
1850   | 0x........ | uint32_t HashData[1] DIE offset
1851   | 0x00000000 | uint32_t KeyType (end of hash chain)
1852   `------------'
1854 Current testing with real world C++ binaries has shown that there is around 1
1855 32 bit hash collision per 100,000 name entries.
1857 Contents
1858 ^^^^^^^^
1860 As we said, we want to strictly define exactly what is included in the
1861 different tables.  For DWARF, we have 3 tables: "``.apple_names``",
1862 "``.apple_types``", and "``.apple_namespaces``".
1864 "``.apple_names``" sections should contain an entry for each DWARF DIE whose
1865 ``DW_TAG`` is a ``DW_TAG_label``, ``DW_TAG_inlined_subroutine``, or
1866 ``DW_TAG_subprogram`` that has address attributes: ``DW_AT_low_pc``,
1867 ``DW_AT_high_pc``, ``DW_AT_ranges`` or ``DW_AT_entry_pc``.  It also contains
1868 ``DW_TAG_variable`` DIEs that have a ``DW_OP_addr`` in the location (global and
1869 static variables).  All global and static variables should be included,
1870 including those scoped within functions and classes.  For example using the
1871 following code:
1873 .. code-block:: c
1875   static int var = 0;
1877   void f ()
1878   {
1879     static int var = 0;
1880   }
1882 Both of the static ``var`` variables would be included in the table.  All
1883 functions should emit both their full names and their basenames.  For C or C++,
1884 the full name is the mangled name (if available) which is usually in the
1885 ``DW_AT_MIPS_linkage_name`` attribute, and the ``DW_AT_name`` contains the
1886 function basename.  If global or static variables have a mangled name in a
1887 ``DW_AT_MIPS_linkage_name`` attribute, this should be emitted along with the
1888 simple name found in the ``DW_AT_name`` attribute.
1890 "``.apple_types``" sections should contain an entry for each DWARF DIE whose
1891 tag is one of:
1893 * DW_TAG_array_type
1894 * DW_TAG_class_type
1895 * DW_TAG_enumeration_type
1896 * DW_TAG_pointer_type
1897 * DW_TAG_reference_type
1898 * DW_TAG_string_type
1899 * DW_TAG_structure_type
1900 * DW_TAG_subroutine_type
1901 * DW_TAG_typedef
1902 * DW_TAG_union_type
1903 * DW_TAG_ptr_to_member_type
1904 * DW_TAG_set_type
1905 * DW_TAG_subrange_type
1906 * DW_TAG_base_type
1907 * DW_TAG_const_type
1908 * DW_TAG_immutable_type
1909 * DW_TAG_file_type
1910 * DW_TAG_namelist
1911 * DW_TAG_packed_type
1912 * DW_TAG_volatile_type
1913 * DW_TAG_restrict_type
1914 * DW_TAG_atomic_type
1915 * DW_TAG_interface_type
1916 * DW_TAG_unspecified_type
1917 * DW_TAG_shared_type
1919 Only entries with a ``DW_AT_name`` attribute are included, and the entry must
1920 not be a forward declaration (``DW_AT_declaration`` attribute with a non-zero
1921 value).  For example, using the following code:
1923 .. code-block:: c
1925   int main ()
1926   {
1927     int *b = 0;
1928     return *b;
1929   }
1931 We get a few type DIEs:
1933 .. code-block:: none
1935   0x00000067:     TAG_base_type [5]
1936                   AT_encoding( DW_ATE_signed )
1937                   AT_name( "int" )
1938                   AT_byte_size( 0x04 )
1940   0x0000006e:     TAG_pointer_type [6]
1941                   AT_type( {0x00000067} ( int ) )
1942                   AT_byte_size( 0x08 )
1944 The DW_TAG_pointer_type is not included because it does not have a ``DW_AT_name``.
1946 "``.apple_namespaces``" section should contain all ``DW_TAG_namespace`` DIEs.
1947 If we run into a namespace that has no name this is an anonymous namespace, and
1948 the name should be output as "``(anonymous namespace)``" (without the quotes).
1949 Why?  This matches the output of the ``abi::cxa_demangle()`` that is in the
1950 standard C++ library that demangles mangled names.
1953 Language Extensions and File Format Changes
1954 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
1956 Objective-C Extensions
1957 """"""""""""""""""""""
1959 "``.apple_objc``" section should contain all ``DW_TAG_subprogram`` DIEs for an
1960 Objective-C class.  The name used in the hash table is the name of the
1961 Objective-C class itself.  If the Objective-C class has a category, then an
1962 entry is made for both the class name without the category, and for the class
1963 name with the category.  So if we have a DIE at offset 0x1234 with a name of
1964 method "``-[NSString(my_additions) stringWithSpecialString:]``", we would add
1965 an entry for "``NSString``" that points to DIE 0x1234, and an entry for
1966 "``NSString(my_additions)``" that points to 0x1234.  This allows us to quickly
1967 track down all Objective-C methods for an Objective-C class when doing
1968 expressions.  It is needed because of the dynamic nature of Objective-C where
1969 anyone can add methods to a class.  The DWARF for Objective-C methods is also
1970 emitted differently from C++ classes where the methods are not usually
1971 contained in the class definition, they are scattered about across one or more
1972 compile units.  Categories can also be defined in different shared libraries.
1973 So we need to be able to quickly find all of the methods and class functions
1974 given the Objective-C class name, or quickly find all methods and class
1975 functions for a class + category name.  This table does not contain any
1976 selector names, it just maps Objective-C class names (or class names +
1977 category) to all of the methods and class functions.  The selectors are added
1978 as function basenames in the "``.debug_names``" section.
1980 In the "``.apple_names``" section for Objective-C functions, the full name is
1981 the entire function name with the brackets ("``-[NSString
1982 stringWithCString:]``") and the basename is the selector only
1983 ("``stringWithCString:``").
1985 Mach-O Changes
1986 """"""""""""""
1988 The sections names for the apple hash tables are for non-mach-o files.  For
1989 mach-o files, the sections should be contained in the ``__DWARF`` segment with
1990 names as follows:
1992 * "``.apple_names``" -> "``__apple_names``"
1993 * "``.apple_types``" -> "``__apple_types``"
1994 * "``.apple_namespaces``" -> "``__apple_namespac``" (16 character limit)
1995 * "``.apple_objc``" -> "``__apple_objc``"
1997 .. _codeview:
1999 CodeView Debug Info Format
2000 ==========================
2002 LLVM supports emitting CodeView, the Microsoft debug info format, and this
2003 section describes the design and implementation of that support.
2005 Format Background
2006 -----------------
2008 CodeView as a format is clearly oriented around C++ debugging, and in C++, the
2009 majority of debug information tends to be type information. Therefore, the
2010 overriding design constraint of CodeView is the separation of type information
2011 from other "symbol" information so that type information can be efficiently
2012 merged across translation units. Both type information and symbol information is
2013 generally stored as a sequence of records, where each record begins with a
2014 16-bit record size and a 16-bit record kind.
2016 Type information is usually stored in the ``.debug$T`` section of the object
2017 file.  All other debug info, such as line info, string table, symbol info, and
2018 inlinee info, is stored in one or more ``.debug$S`` sections. There may only be
2019 one ``.debug$T`` section per object file, since all other debug info refers to
2020 it. If a PDB (enabled by the ``/Zi`` MSVC option) was used during compilation,
2021 the ``.debug$T`` section will contain only an ``LF_TYPESERVER2`` record pointing
2022 to the PDB. When using PDBs, symbol information appears to remain in the object
2023 file ``.debug$S`` sections.
2025 Type records are referred to by their index, which is the number of records in
2026 the stream before a given record plus ``0x1000``. Many common basic types, such
2027 as the basic integral types and unqualified pointers to them, are represented
2028 using type indices less than ``0x1000``. Such basic types are built in to
2029 CodeView consumers and do not require type records.
2031 Each type record may only contain type indices that are less than its own type
2032 index. This ensures that the graph of type stream references is acyclic. While
2033 the source-level type graph may contain cycles through pointer types (consider a
2034 linked list struct), these cycles are removed from the type stream by always
2035 referring to the forward declaration record of user-defined record types. Only
2036 "symbol" records in the ``.debug$S`` streams may refer to complete,
2037 non-forward-declaration type records.
2039 Working with CodeView
2040 ---------------------
2042 These are instructions for some common tasks for developers working to improve
2043 LLVM's CodeView support. Most of them revolve around using the CodeView dumper
2044 embedded in ``llvm-readobj``.
2046 * Testing MSVC's output::
2048     $ cl -c -Z7 foo.cpp # Use /Z7 to keep types in the object file
2049     $ llvm-readobj --codeview foo.obj
2051 * Getting LLVM IR debug info out of Clang::
2053     $ clang -g -gcodeview --target=x86_64-windows-msvc foo.cpp -S -emit-llvm
2055   Use this to generate LLVM IR for LLVM test cases.
2057 * Generate and dump CodeView from LLVM IR metadata::
2059     $ llc foo.ll -filetype=obj -o foo.obj
2060     $ llvm-readobj --codeview foo.obj > foo.txt
2062   Use this pattern in lit test cases and FileCheck the output of llvm-readobj
2064 Improving LLVM's CodeView support is a process of finding interesting type
2065 records, constructing a C++ test case that makes MSVC emit those records,
2066 dumping the records, understanding them, and then generating equivalent records
2067 in LLVM's backend.