arch/arm/include/asm/tlb.h

   1 /*
   2  *  arch/arm/include/asm/tlb.h
   3  *
   4  *  Copyright (C) 2002 Russell King
   5  *
   6  * This program is free software; you can redistribute it and/or modify
   7  * it under the terms of the GNU General Public License version 2 as
   8  * published by the Free Software Foundation.
   9  *
  10  *  Experimentation shows that on a StrongARM, it appears to be faster
  11  *  to use the "invalidate whole tlb" rather than "invalidate single
  12  *  tlb" for this.
  13  *
  14  *  This appears true for both the process fork+exit case, as well as
  15  *  the munmap-large-area case.
  16  */
  17 #ifndef __ASMARM_TLB_H
  18 #define __ASMARM_TLB_H
  19
  20 #include <asm/cacheflush.h>
  21
  22 #ifndef CONFIG_MMU
  23
  24 #include <linux/pagemap.h>
  25
  26 #define tlb_flush(tlb)  ((void) tlb)
  27
  28 #include <asm-generic/tlb.h>
  29
  30 #else /* !CONFIG_MMU */
  31
  32 #include <linux/swap.h>
  33 #include <asm/pgalloc.h>
  34 #include <asm/tlbflush.h>
  35
  36 /*
  37  * We need to delay page freeing for SMP as other CPUs can access pages
  38  * which have been removed but not yet had their TLB entries invalidated.
  39  * Also, as ARMv7 speculative prefetch can drag new entries into the TLB,
  40  * we need to apply this same delaying tactic to ensure correct operation.
  41  */
  42 #if defined(CONFIG_SMP) || defined(CONFIG_CPU_32v7)
  43 #define tlb_fast_mode(tlb)      0
  44 #else
  45 #define tlb_fast_mode(tlb)      1
  46 #endif
  47
  48 #define MMU_GATHER_BUNDLE       8
  49
  50 /*
  51  * TLB handling.  This allows us to remove pages from the page
  52  * tables, and efficiently handle the TLB issues.
  53  */
  54 struct mmu_gather {
  55         struct mm_struct        *mm;
  56         unsigned int            fullmm;
  57         struct vm_area_struct   *vma;
  58         unsigned long           range_start;
  59         unsigned long           range_end;
  60         unsigned int            nr;
  61         unsigned int            max;
  62         struct page             **pages;
  63         struct page             *local[MMU_GATHER_BUNDLE];
  64 };
  65
  66 DECLARE_PER_CPU(struct mmu_gather, mmu_gathers);
  67
  68 /*
  69  * This is unnecessarily complex.  There's three ways the TLB shootdown
  70  * code is used:
  71  *  1. Unmapping a range of vmas.  See zap_page_range(), unmap_region().
  72  *     tlb->fullmm = 0, and tlb_start_vma/tlb_end_vma will be called.
  73  *     tlb->vma will be non-NULL.
  74  *  2. Unmapping all vmas.  See exit_mmap().
  75  *     tlb->fullmm = 1, and tlb_start_vma/tlb_end_vma will be called.
  76  *     tlb->vma will be non-NULL.  Additionally, page tables will be freed.
  77  *  3. Unmapping argument pages.  See shift_arg_pages().
  78  *     tlb->fullmm = 0, but tlb_start_vma/tlb_end_vma will not be called.
  79  *     tlb->vma will be NULL.
  80  */
  81 static inline void tlb_flush(struct mmu_gather *tlb)
  82 {
  83         if (tlb->fullmm || !tlb->vma)
  84                 flush_tlb_mm(tlb->mm);
  85         else if (tlb->range_end > 0) {
  86                 flush_tlb_range(tlb->vma, tlb->range_start, tlb->range_end);
  87                 tlb->range_start = TASK_SIZE;
  88                 tlb->range_end = 0;
  89         }
  90 }
  91
  92 static inline void tlb_add_flush(struct mmu_gather *tlb, unsigned long addr)
  93 {
  94         if (!tlb->fullmm) {
  95                 unsigned long size = PAGE_SIZE;
  96
  97                 if (addr < tlb->range_start)
  98                         tlb->range_start = addr;
  99
 100                 if (tlb->vma && is_vm_hugetlb_page(tlb->vma))
 101                         size = HPAGE_SIZE;
 102
 103                 if (addr + size > tlb->range_end)
 104                         tlb->range_end = addr + size;
 105         }
 106 }
 107
 108 static inline void __tlb_alloc_page(struct mmu_gather *tlb)
 109 {
 110         unsigned long addr = __get_free_pages(GFP_NOWAIT | __GFP_NOWARN, 0);
 111
 112         if (addr) {
 113                 tlb->pages = (void *)addr;
 114                 tlb->max = PAGE_SIZE / sizeof(struct page *);
 115         }
 116 }
 117
 118 static inline void tlb_flush_mmu(struct mmu_gather *tlb)
 119 {
 120         tlb_flush(tlb);
 121         if (!tlb_fast_mode(tlb)) {
 122                 free_pages_and_swap_cache(tlb->pages, tlb->nr);
 123                 tlb->nr = 0;
 124                 if (tlb->pages == tlb->local)
 125                         __tlb_alloc_page(tlb);
 126         }
 127 }
 128
 129 static inline void
 130 tlb_gather_mmu(struct mmu_gather *tlb, struct mm_struct *mm, unsigned int fullmm)
 131 {
 132         tlb->mm = mm;
 133         tlb->fullmm = fullmm;
 134         tlb->vma = NULL;
 135         tlb->max = ARRAY_SIZE(tlb->local);
 136         tlb->pages = tlb->local;
 137         tlb->nr = 0;
 138         __tlb_alloc_page(tlb);
 139 }
 140
 141 static inline void
 142 tlb_finish_mmu(struct mmu_gather *tlb, unsigned long start, unsigned long end)
 143 {
 144         tlb_flush_mmu(tlb);
 145
 146         /* keep the page table cache within bounds */
 147         check_pgt_cache();
 148
 149         if (tlb->pages != tlb->local)
 150                 free_pages((unsigned long)tlb->pages, 0);
 151 }
 152
 153 /*
 154  * Memorize the range for the TLB flush.
 155  */
 156 static inline void
 157 tlb_remove_tlb_entry(struct mmu_gather *tlb, pte_t *ptep, unsigned long addr)
 158 {
 159         tlb_add_flush(tlb, addr);
 160 }
 161
 162 /*
 163  * In the case of tlb vma handling, we can optimise these away in the
 164  * case where we're doing a full MM flush.  When we're doing a munmap,
 165  * the vmas are adjusted to only cover the region to be torn down.
 166  */
 167 static inline void
 168 tlb_start_vma(struct mmu_gather *tlb, struct vm_area_struct *vma)
 169 {
 170         if (!tlb->fullmm) {
 171                 flush_cache_range(vma, vma->vm_start, vma->vm_end);
 172                 tlb->vma = vma;
 173                 tlb->range_start = TASK_SIZE;
 174                 tlb->range_end = 0;
 175         }
 176 }
 177
 178 static inline void
 179 tlb_end_vma(struct mmu_gather *tlb, struct vm_area_struct *vma)
 180 {
 181         if (!tlb->fullmm)
 182                 tlb_flush(tlb);
 183 }
 184
 185 static inline int __tlb_remove_page(struct mmu_gather *tlb, struct page *page)
 186 {
 187         if (tlb_fast_mode(tlb)) {
 188                 free_page_and_swap_cache(page);
 189                 return 1; /* avoid calling tlb_flush_mmu */
 190         }
 191
 192         tlb->pages[tlb->nr++] = page;
 193         VM_BUG_ON(tlb->nr > tlb->max);
 194         return tlb->max - tlb->nr;
 195 }
 196
 197 static inline void tlb_remove_page(struct mmu_gather *tlb, struct page *page)
 198 {
 199         if (!__tlb_remove_page(tlb, page))
 200                 tlb_flush_mmu(tlb);
 201 }
 202
 203 static inline void __pte_free_tlb(struct mmu_gather *tlb, pgtable_t pte,
 204         unsigned long addr)
 205 {
 206         pgtable_page_dtor(pte);
 207         tlb_add_flush(tlb, addr);
 208         tlb_remove_page(tlb, pte);
 209 }
 210
 211 static inline void __pmd_free_tlb(struct mmu_gather *tlb, pmd_t *pmdp,
 212                                   unsigned long addr)
 213 {
 214 #ifdef CONFIG_ARM_LPAE
 215         tlb_add_flush(tlb, addr);
 216         tlb_remove_page(tlb, virt_to_page(pmdp));
 217 #endif
 218 }
 219
 220 static inline void
 221 tlb_remove_pmd_tlb_entry(struct mmu_gather *tlb, pmd_t *pmdp, unsigned long addr)
 222 {
 223         tlb_add_flush(tlb, addr);
 224 }
 225
 226 #define pte_free_tlb(tlb, ptep, addr)   __pte_free_tlb(tlb, ptep, addr)
 227 #define pmd_free_tlb(tlb, pmdp, addr)   __pmd_free_tlb(tlb, pmdp, addr)
 228 #define pud_free_tlb(tlb, pudp, addr)   pud_free((tlb)->mm, pudp)
 229
 230 #define tlb_migrate_finish(mm)          do { } while (0)
 231
 232 #endif /* CONFIG_MMU */
 233 #endif