pinctrl: make a copy of pinmux map
[linux/fpc-iii.git] / arch / powerpc / kvm / book3s_segment.S
blob0676ae249b9fd033c87a2c361ea6a9c78ce81952
1 /*
2  * This program is free software; you can redistribute it and/or modify
3  * it under the terms of the GNU General Public License, version 2, as
4  * published by the Free Software Foundation.
5  *
6  * This program is distributed in the hope that it will be useful,
7  * but WITHOUT ANY WARRANTY; without even the implied warranty of
8  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
9  * GNU General Public License for more details.
10  *
11  * You should have received a copy of the GNU General Public License
12  * along with this program; if not, write to the Free Software
13  * Foundation, 51 Franklin Street, Fifth Floor, Boston, MA  02110-1301, USA.
14  *
15  * Copyright SUSE Linux Products GmbH 2010
16  *
17  * Authors: Alexander Graf <agraf@suse.de>
18  */
20 /* Real mode helpers */
22 #if defined(CONFIG_PPC_BOOK3S_64)
24 #define GET_SHADOW_VCPU(reg)    \
25         mr      reg, r13
26 #define MTMSR_EERI(reg)         mtmsrd  (reg),1
28 #elif defined(CONFIG_PPC_BOOK3S_32)
30 #define GET_SHADOW_VCPU(reg)                            \
31         tophys(reg, r2);                        \
32         lwz     reg, (THREAD + THREAD_KVM_SVCPU)(reg);  \
33         tophys(reg, reg)
34 #define MTMSR_EERI(reg)         mtmsr   (reg)
36 #endif
38 /* Disable for nested KVM */
39 #define USE_QUICK_LAST_INST
42 /* Get helper functions for subarch specific functionality */
44 #if defined(CONFIG_PPC_BOOK3S_64)
45 #include "book3s_64_slb.S"
46 #elif defined(CONFIG_PPC_BOOK3S_32)
47 #include "book3s_32_sr.S"
48 #endif
50 /******************************************************************************
51  *                                                                            *
52  *                               Entry code                                   *
53  *                                                                            *
54  *****************************************************************************/
56 .global kvmppc_handler_trampoline_enter
57 kvmppc_handler_trampoline_enter:
59         /* Required state:
60          *
61          * MSR = ~IR|DR
62          * R1 = host R1
63          * R2 = host R2
64          * R4 = guest shadow MSR
65          * R5 = normal host MSR
66          * R6 = current host MSR (EE, IR, DR off)
67          * LR = highmem guest exit code
68          * all other volatile GPRS = free
69          * SVCPU[CR] = guest CR
70          * SVCPU[XER] = guest XER
71          * SVCPU[CTR] = guest CTR
72          * SVCPU[LR] = guest LR
73          */
75         /* r3 = shadow vcpu */
76         GET_SHADOW_VCPU(r3)
78         /* Save guest exit handler address and MSR */
79         mflr    r0
80         PPC_STL r0, HSTATE_VMHANDLER(r3)
81         PPC_STL r5, HSTATE_HOST_MSR(r3)
83         /* Save R1/R2 in the PACA (64-bit) or shadow_vcpu (32-bit) */
84         PPC_STL r1, HSTATE_HOST_R1(r3)
85         PPC_STL r2, HSTATE_HOST_R2(r3)
87         /* Activate guest mode, so faults get handled by KVM */
88         li      r11, KVM_GUEST_MODE_GUEST
89         stb     r11, HSTATE_IN_GUEST(r3)
91         /* Switch to guest segment. This is subarch specific. */
92         LOAD_GUEST_SEGMENTS
94 #ifdef CONFIG_PPC_BOOK3S_64
95         /* Some guests may need to have dcbz set to 32 byte length.
96          *
97          * Usually we ensure that by patching the guest's instructions
98          * to trap on dcbz and emulate it in the hypervisor.
99          *
100          * If we can, we should tell the CPU to use 32 byte dcbz though,
101          * because that's a lot faster.
102          */
103         lbz     r0, HSTATE_RESTORE_HID5(r3)
104         cmpwi   r0, 0
105         beq     no_dcbz32_on
107         mfspr   r0,SPRN_HID5
108         ori     r0, r0, 0x80            /* XXX HID5_dcbz32 = 0x80 */
109         mtspr   SPRN_HID5,r0
110 no_dcbz32_on:
112 #endif /* CONFIG_PPC_BOOK3S_64 */
114         /* Enter guest */
116         PPC_LL  r8, SVCPU_CTR(r3)
117         PPC_LL  r9, SVCPU_LR(r3)
118         lwz     r10, SVCPU_CR(r3)
119         lwz     r11, SVCPU_XER(r3)
121         mtctr   r8
122         mtlr    r9
123         mtcr    r10
124         mtxer   r11
126         /* Move SRR0 and SRR1 into the respective regs */
127         PPC_LL  r9, SVCPU_PC(r3)
128         /* First clear RI in our current MSR value */
129         li      r0, MSR_RI
130         andc    r6, r6, r0
131         MTMSR_EERI(r6)
132         mtsrr0  r9
133         mtsrr1  r4
135         PPC_LL  r0, SVCPU_R0(r3)
136         PPC_LL  r1, SVCPU_R1(r3)
137         PPC_LL  r2, SVCPU_R2(r3)
138         PPC_LL  r4, SVCPU_R4(r3)
139         PPC_LL  r5, SVCPU_R5(r3)
140         PPC_LL  r6, SVCPU_R6(r3)
141         PPC_LL  r7, SVCPU_R7(r3)
142         PPC_LL  r8, SVCPU_R8(r3)
143         PPC_LL  r9, SVCPU_R9(r3)
144         PPC_LL  r10, SVCPU_R10(r3)
145         PPC_LL  r11, SVCPU_R11(r3)
146         PPC_LL  r12, SVCPU_R12(r3)
147         PPC_LL  r13, SVCPU_R13(r3)
149         PPC_LL  r3, (SVCPU_R3)(r3)
151         RFI
152 kvmppc_handler_trampoline_enter_end:
156 /******************************************************************************
157  *                                                                            *
158  *                               Exit code                                    *
159  *                                                                            *
160  *****************************************************************************/
162 .global kvmppc_handler_trampoline_exit
163 kvmppc_handler_trampoline_exit:
165 .global kvmppc_interrupt
166 kvmppc_interrupt:
168         /* Register usage at this point:
169          *
170          * SPRG_SCRATCH0  = guest R13
171          * R12            = exit handler id
172          * R13            = shadow vcpu (32-bit) or PACA (64-bit)
173          * HSTATE.SCRATCH0 = guest R12
174          * HSTATE.SCRATCH1 = guest CR
175          *
176          */
178         /* Save registers */
180         PPC_STL r0, SVCPU_R0(r13)
181         PPC_STL r1, SVCPU_R1(r13)
182         PPC_STL r2, SVCPU_R2(r13)
183         PPC_STL r3, SVCPU_R3(r13)
184         PPC_STL r4, SVCPU_R4(r13)
185         PPC_STL r5, SVCPU_R5(r13)
186         PPC_STL r6, SVCPU_R6(r13)
187         PPC_STL r7, SVCPU_R7(r13)
188         PPC_STL r8, SVCPU_R8(r13)
189         PPC_STL r9, SVCPU_R9(r13)
190         PPC_STL r10, SVCPU_R10(r13)
191         PPC_STL r11, SVCPU_R11(r13)
193         /* Restore R1/R2 so we can handle faults */
194         PPC_LL  r1, HSTATE_HOST_R1(r13)
195         PPC_LL  r2, HSTATE_HOST_R2(r13)
197         /* Save guest PC and MSR */
198 #ifdef CONFIG_PPC64
199 BEGIN_FTR_SECTION
200         andi.   r0,r12,0x2
201         beq     1f
202         mfspr   r3,SPRN_HSRR0
203         mfspr   r4,SPRN_HSRR1
204         andi.   r12,r12,0x3ffd
205         b       2f
206 END_FTR_SECTION_IFSET(CPU_FTR_HVMODE)
207 #endif
208 1:      mfsrr0  r3
209         mfsrr1  r4
211         PPC_STL r3, SVCPU_PC(r13)
212         PPC_STL r4, SVCPU_SHADOW_SRR1(r13)
214         /* Get scratch'ed off registers */
215         GET_SCRATCH0(r9)
216         PPC_LL  r8, HSTATE_SCRATCH0(r13)
217         lwz     r7, HSTATE_SCRATCH1(r13)
219         PPC_STL r9, SVCPU_R13(r13)
220         PPC_STL r8, SVCPU_R12(r13)
221         stw     r7, SVCPU_CR(r13)
223         /* Save more register state  */
225         mfxer   r5
226         mfdar   r6
227         mfdsisr r7
228         mfctr   r8
229         mflr    r9
231         stw     r5, SVCPU_XER(r13)
232         PPC_STL r6, SVCPU_FAULT_DAR(r13)
233         stw     r7, SVCPU_FAULT_DSISR(r13)
234         PPC_STL r8, SVCPU_CTR(r13)
235         PPC_STL r9, SVCPU_LR(r13)
237         /*
238          * In order for us to easily get the last instruction,
239          * we got the #vmexit at, we exploit the fact that the
240          * virtual layout is still the same here, so we can just
241          * ld from the guest's PC address
242          */
244         /* We only load the last instruction when it's safe */
245         cmpwi   r12, BOOK3S_INTERRUPT_DATA_STORAGE
246         beq     ld_last_inst
247         cmpwi   r12, BOOK3S_INTERRUPT_PROGRAM
248         beq     ld_last_inst
249         cmpwi   r12, BOOK3S_INTERRUPT_SYSCALL
250         beq     ld_last_prev_inst
251         cmpwi   r12, BOOK3S_INTERRUPT_ALIGNMENT
252         beq-    ld_last_inst
254         b       no_ld_last_inst
256 ld_last_prev_inst:
257         addi    r3, r3, -4
259 ld_last_inst:
260         /* Save off the guest instruction we're at */
262         /* In case lwz faults */
263         li      r0, KVM_INST_FETCH_FAILED
265 #ifdef USE_QUICK_LAST_INST
267         /* Set guest mode to 'jump over instruction' so if lwz faults
268          * we'll just continue at the next IP. */
269         li      r9, KVM_GUEST_MODE_SKIP
270         stb     r9, HSTATE_IN_GUEST(r13)
272         /*    1) enable paging for data */
273         mfmsr   r9
274         ori     r11, r9, MSR_DR                 /* Enable paging for data */
275         mtmsr   r11
276         sync
277         /*    2) fetch the instruction */
278         lwz     r0, 0(r3)
279         /*    3) disable paging again */
280         mtmsr   r9
281         sync
283 #endif
284         stw     r0, SVCPU_LAST_INST(r13)
286 no_ld_last_inst:
288         /* Unset guest mode */
289         li      r9, KVM_GUEST_MODE_NONE
290         stb     r9, HSTATE_IN_GUEST(r13)
292         /* Switch back to host MMU */
293         LOAD_HOST_SEGMENTS
295 #ifdef CONFIG_PPC_BOOK3S_64
297         lbz     r5, HSTATE_RESTORE_HID5(r13)
298         cmpwi   r5, 0
299         beq     no_dcbz32_off
301         li      r4, 0
302         mfspr   r5,SPRN_HID5
303         rldimi  r5,r4,6,56
304         mtspr   SPRN_HID5,r5
306 no_dcbz32_off:
308 #endif /* CONFIG_PPC_BOOK3S_64 */
310         /*
311          * For some interrupts, we need to call the real Linux
312          * handler, so it can do work for us. This has to happen
313          * as if the interrupt arrived from the kernel though,
314          * so let's fake it here where most state is restored.
315          *
316          * Having set up SRR0/1 with the address where we want
317          * to continue with relocation on (potentially in module
318          * space), we either just go straight there with rfi[d],
319          * or we jump to an interrupt handler with bctr if there
320          * is an interrupt to be handled first.  In the latter
321          * case, the rfi[d] at the end of the interrupt handler
322          * will get us back to where we want to continue.
323          */
325         cmpwi   r12, BOOK3S_INTERRUPT_EXTERNAL
326         beq     1f
327         cmpwi   r12, BOOK3S_INTERRUPT_DECREMENTER
328         beq     1f
329         cmpwi   r12, BOOK3S_INTERRUPT_PERFMON
330 1:      mtctr   r12
332         /* Register usage at this point:
333          *
334          * R1       = host R1
335          * R2       = host R2
336          * R12      = exit handler id
337          * R13      = shadow vcpu (32-bit) or PACA (64-bit)
338          * SVCPU.*  = guest *
339          *
340          */
342         PPC_LL  r6, HSTATE_HOST_MSR(r13)
343         PPC_LL  r8, HSTATE_VMHANDLER(r13)
345         /* Restore host msr -> SRR1 */
346         mtsrr1  r6
347         /* Load highmem handler address */
348         mtsrr0  r8
350         /* RFI into the highmem handler, or jump to interrupt handler */
351         beqctr
352         RFI
353 kvmppc_handler_trampoline_exit_end: