mm: fix exec activate_mm vs TLB shootdown and lazy tlb switching race
[linux/fpc-iii.git] / arch / arm / lib / copy_from_user.S
blobf1e34f16cfab9ad98db4628c78bbf558544cebc5
1 /*
2  *  linux/arch/arm/lib/copy_from_user.S
3  *
4  *  Author:     Nicolas Pitre
5  *  Created:    Sep 29, 2005
6  *  Copyright:  MontaVista Software, Inc.
7  *
8  *  This program is free software; you can redistribute it and/or modify
9  *  it under the terms of the GNU General Public License version 2 as
10  *  published by the Free Software Foundation.
11  */
13 #include <linux/linkage.h>
14 #include <asm/assembler.h>
15 #include <asm/unwind.h>
18  * Prototype:
19  *
20  *      size_t arm_copy_from_user(void *to, const void *from, size_t n)
21  *
22  * Purpose:
23  *
24  *      copy a block to kernel memory from user memory
25  *
26  * Params:
27  *
28  *      to = kernel memory
29  *      from = user memory
30  *      n = number of bytes to copy
31  *
32  * Return value:
33  *
34  *      Number of bytes NOT copied.
35  */
37 #ifndef CONFIG_THUMB2_KERNEL
38 #define LDR1W_SHIFT     0
39 #else
40 #define LDR1W_SHIFT     1
41 #endif
42 #define STR1W_SHIFT     0
44         .macro ldr1w ptr reg abort
45         ldrusr  \reg, \ptr, 4, abort=\abort
46         .endm
48         .macro ldr4w ptr reg1 reg2 reg3 reg4 abort
49         ldr1w \ptr, \reg1, \abort
50         ldr1w \ptr, \reg2, \abort
51         ldr1w \ptr, \reg3, \abort
52         ldr1w \ptr, \reg4, \abort
53         .endm
55         .macro ldr8w ptr reg1 reg2 reg3 reg4 reg5 reg6 reg7 reg8 abort
56         ldr4w \ptr, \reg1, \reg2, \reg3, \reg4, \abort
57         ldr4w \ptr, \reg5, \reg6, \reg7, \reg8, \abort
58         .endm
60         .macro ldr1b ptr reg cond=al abort
61         ldrusr  \reg, \ptr, 1, \cond, abort=\abort
62         .endm
64         .macro str1w ptr reg abort
65         W(str) \reg, [\ptr], #4
66         .endm
68         .macro str8w ptr reg1 reg2 reg3 reg4 reg5 reg6 reg7 reg8 abort
69         stmia \ptr!, {\reg1, \reg2, \reg3, \reg4, \reg5, \reg6, \reg7, \reg8}
70         .endm
72         .macro str1b ptr reg cond=al abort
73         str\cond\()b \reg, [\ptr], #1
74         .endm
76         .macro enter reg1 reg2
77         mov     r3, #0
78         stmdb   sp!, {r0, r2, r3, \reg1, \reg2}
79         .endm
81         .macro usave reg1 reg2
82         UNWIND( .save {r0, r2, r3, \reg1, \reg2}        )
83         .endm
85         .macro exit reg1 reg2
86         add     sp, sp, #8
87         ldmfd   sp!, {r0, \reg1, \reg2}
88         .endm
90         .text
92 ENTRY(arm_copy_from_user)
93 #ifdef CONFIG_CPU_SPECTRE
94         get_thread_info r3
95         ldr     r3, [r3, #TI_ADDR_LIMIT]
96         uaccess_mask_range_ptr r1, r2, r3, ip
97 #endif
99 #include "copy_template.S"
101 ENDPROC(arm_copy_from_user)
103         .pushsection .text.fixup,"ax"
104         .align 0
105         copy_abort_preamble
106         ldmfd   sp!, {r1, r2, r3}
107         sub     r0, r0, r1
108         rsb     r0, r0, r2
109         copy_abort_end
110         .popsection