compat: Fix RT signal mask corruption via sigprocmask
authorJan Kiszka <jan.kiszka@siemens.com>
Thu, 10 May 2012 13:04:36 +0000 (10:04 -0300)
committerLinus Torvalds <torvalds@linux-foundation.org>
Thu, 10 May 2012 15:58:33 +0000 (08:58 -0700)
compat_sys_sigprocmask reads a smaller signal mask from userspace than
sigprogmask accepts for setting.  So the high word of blocked.sig[0]
will be cleared, releasing any potentially blocked RT signal.

This was discovered via userspace code that relies on get/setcontext.
glibc's i386 versions of those functions use sigprogmask instead of
rt_sigprogmask to save/restore signal mask and caused RT signal
unblocking this way.

As suggested by Linus, this replaces the sys_sigprocmask based compat
version with one that open-codes the required logic, including the merge
of the existing blocked set with the new one provided on SIG_SETMASK.

Signed-off-by: Jan Kiszka <jan.kiszka@siemens.com>
Signed-off-by: Linus Torvalds <torvalds@linux-foundation.org>
kernel/compat.c

diff --cc kernel/compat.c
Simple merge