mm: replace ACCESS_ONCE with READ_ONCE or barriers
authorChristian Borntraeger <borntraeger@de.ibm.com>
Sun, 7 Dec 2014 20:41:33 +0000 (21:41 +0100)
committerChristian Borntraeger <borntraeger@de.ibm.com>
Thu, 18 Dec 2014 08:54:37 +0000 (09:54 +0100)
ACCESS_ONCE does not work reliably on non-scalar types. For
example gcc 4.6 and 4.7 might remove the volatile tag for such
accesses during the SRA (scalar replacement of aggregates) step
(https://gcc.gnu.org/bugzilla/show_bug.cgi?id=58145)

Let's change the code to access the page table elements with
READ_ONCE that does implicit scalar accesses for the gup code.

mm_find_pmd is tricky, because m68k and sparc(32bit) define pmd_t
as array of longs. This code requires just that the pmd_present
and pmd_trans_huge check are done on the same value, so a barrier
is sufficent.

A similar case is in handle_pte_fault. On ppc44x the word size is
32 bit, but a pte is 64 bit. A barrier is ok as well.

Signed-off-by: Christian Borntraeger <borntraeger@de.ibm.com>
Cc: linux-mm@kvack.org
Acked-by: Paul E. McKenney <paulmck@linux.vnet.ibm.com>
mm/gup.c
mm/memory.c
mm/rmap.c

index cd62c8c..f2305de 100644 (file)
--- a/mm/gup.c
+++ b/mm/gup.c
@@ -917,7 +917,7 @@ static int gup_pud_range(pgd_t *pgdp, unsigned long addr, unsigned long end,
 
        pudp = pud_offset(pgdp, addr);
        do {
-               pud_t pud = ACCESS_ONCE(*pudp);
+               pud_t pud = READ_ONCE(*pudp);
 
                next = pud_addr_end(addr, end);
                if (pud_none(pud))
diff --cc mm/memory.c
Simple merge
diff --cc mm/rmap.c
Simple merge