mm: fix find_vma_prev
authorMikulas Patocka <mpatocka@redhat.com>
Mon, 5 Mar 2012 00:52:03 +0000 (19:52 -0500)
committerBen Hutchings <ben@decadent.org.uk>
Sun, 2 Jul 2017 16:12:48 +0000 (17:12 +0100)
commit0e49b7dd019da207f0cae45962175f9996682cb7
tree1da03b66a1d2e51d844ba5a9497f9e174a0771fc
parent2e8d6ed89dc84f4f7a82c57e10125f6fc3c98d9d
mm: fix find_vma_prev

commit 83cd904d271ba960c53f3adbb037f3486518f1e6 upstream.

Commit 6bd4837de96e ("mm: simplify find_vma_prev()") broke memory
management on PA-RISC.

After application of the patch, programs that allocate big arrays on the
stack crash with segfault, for example, this will crash if compiled
without optimization:

  int main()
  {
char array[200000];
array[199999] = 0;
return 0;
  }

The reason is that PA-RISC has up-growing stack and the stack is usually
the last memory area.  In the above example, a page fault happens above
the stack.

Previously, if we passed too high address to find_vma_prev, it returned
NULL and stored the last VMA in *pprev.  After "simplify find_vma_prev"
change, it stores NULL in *pprev.  Consequently, the stack area is not
found and it is not expanded, as it used to be before the change.

This patch restores the old behavior and makes it return the last VMA in
*pprev if the requested address is higher than address of any other VMA.

Signed-off-by: Mikulas Patocka <mpatocka@redhat.com>
Acked-by: KOSAKI Motohiro <kosaki.motohiro@jp.fujitsu.com>
Signed-off-by: Linus Torvalds <torvalds@linux-foundation.org>
Signed-off-by: Ben Hutchings <ben@decadent.org.uk>
mm/mmap.c