kernel/ptrace.c

   1 /*
   2  * linux/kernel/ptrace.c
   3  *
   4  * (C) Copyright 1999 Linus Torvalds
   5  *
   6  * Common interfaces for "ptrace()" which we do not want
   7  * to continually duplicate across every architecture.
   8  */
   9
  10 #include <linux/capability.h>
  11 #include <linux/export.h>
  12 #include <linux/sched.h>
  13 #include <linux/errno.h>
  14 #include <linux/mm.h>
  15 #include <linux/highmem.h>
  16 #include <linux/pagemap.h>
  17 #include <linux/ptrace.h>
  18 #include <linux/security.h>
  19 #include <linux/signal.h>
  20 #include <linux/audit.h>
  21 #include <linux/pid_namespace.h>
  22 #include <linux/syscalls.h>
  23 #include <linux/uaccess.h>
  24 #include <linux/regset.h>
  25 #include <linux/hw_breakpoint.h>
  26 #include <linux/cn_proc.h>
  27
  28
  29 static int ptrace_trapping_sleep_fn(void *flags)
  30 {
  31         schedule();
  32         return 0;
  33 }
  34
  35 /*
  36  * ptrace a task: make the debugger its new parent and
  37  * move it to the ptrace list.
  38  *
  39  * Must be called with the tasklist lock write-held.
  40  */
  41 void __ptrace_link(struct task_struct *child, struct task_struct *new_parent)
  42 {
  43         BUG_ON(!list_empty(&child->ptrace_entry));
  44         list_add(&child->ptrace_entry, &new_parent->ptraced);
  45         child->parent = new_parent;
  46 }
  47
  48 /**
  49  * __ptrace_unlink - unlink ptracee and restore its execution state
  50  * @child: ptracee to be unlinked
  51  *
  52  * Remove @child from the ptrace list, move it back to the original parent,
  53  * and restore the execution state so that it conforms to the group stop
  54  * state.
  55  *
  56  * Unlinking can happen via two paths - explicit PTRACE_DETACH or ptracer
  57  * exiting.  For PTRACE_DETACH, unless the ptracee has been killed between
  58  * ptrace_check_attach() and here, it's guaranteed to be in TASK_TRACED.
  59  * If the ptracer is exiting, the ptracee can be in any state.
  60  *
  61  * After detach, the ptracee should be in a state which conforms to the
  62  * group stop.  If the group is stopped or in the process of stopping, the
  63  * ptracee should be put into TASK_STOPPED; otherwise, it should be woken
  64  * up from TASK_TRACED.
  65  *
  66  * If the ptracee is in TASK_TRACED and needs to be moved to TASK_STOPPED,
  67  * it goes through TRACED -> RUNNING -> STOPPED transition which is similar
  68  * to but in the opposite direction of what happens while attaching to a
  69  * stopped task.  However, in this direction, the intermediate RUNNING
  70  * state is not hidden even from the current ptracer and if it immediately
  71  * re-attaches and performs a WNOHANG wait(2), it may fail.
  72  *
  73  * CONTEXT:
  74  * write_lock_irq(tasklist_lock)
  75  */
  76 void __ptrace_unlink(struct task_struct *child)
  77 {
  78         BUG_ON(!child->ptrace);
  79
  80         child->ptrace = 0;
  81         child->parent = child->real_parent;
  82         list_del_init(&child->ptrace_entry);
  83
  84         spin_lock(&child->sighand->siglock);
  85
  86         /*
  87          * Clear all pending traps and TRAPPING.  TRAPPING should be
  88          * cleared regardless of JOBCTL_STOP_PENDING.  Do it explicitly.
  89          */
  90         task_clear_jobctl_pending(child, JOBCTL_TRAP_MASK);
  91         task_clear_jobctl_trapping(child);
  92
  93         /*
  94          * Reinstate JOBCTL_STOP_PENDING if group stop is in effect and
  95          * @child isn't dead.
  96          */
  97         if (!(child->flags & PF_EXITING) &&
  98             (child->signal->flags & SIGNAL_STOP_STOPPED ||
  99              child->signal->group_stop_count)) {
 100                 child->jobctl |= JOBCTL_STOP_PENDING;
 101
 102                 /*
 103                  * This is only possible if this thread was cloned by the
 104                  * traced task running in the stopped group, set the signal
 105                  * for the future reports.
 106                  * FIXME: we should change ptrace_init_task() to handle this
 107                  * case.
 108                  */
 109                 if (!(child->jobctl & JOBCTL_STOP_SIGMASK))
 110                         child->jobctl |= SIGSTOP;
 111         }
 112
 113         /*
 114          * If transition to TASK_STOPPED is pending or in TASK_TRACED, kick
 115          * @child in the butt.  Note that @resume should be used iff @child
 116          * is in TASK_TRACED; otherwise, we might unduly disrupt
 117          * TASK_KILLABLE sleeps.
 118          */
 119         if (child->jobctl & JOBCTL_STOP_PENDING || task_is_traced(child))
 120                 ptrace_signal_wake_up(child, true);
 121
 122         spin_unlock(&child->sighand->siglock);
 123 }
 124
 125 /* Ensure that nothing can wake it up, even SIGKILL */
 126 static bool ptrace_freeze_traced(struct task_struct *task)
 127 {
 128         bool ret = false;
 129
 130         /* Lockless, nobody but us can set this flag */
 131         if (task->jobctl & JOBCTL_LISTENING)
 132                 return ret;
 133
 134         spin_lock_irq(&task->sighand->siglock);
 135         if (task_is_traced(task) && !__fatal_signal_pending(task)) {
 136                 task->state = __TASK_TRACED;
 137                 ret = true;
 138         }
 139         spin_unlock_irq(&task->sighand->siglock);
 140
 141         return ret;
 142 }
 143
 144 static void ptrace_unfreeze_traced(struct task_struct *task)
 145 {
 146         if (task->state != __TASK_TRACED)
 147                 return;
 148
 149         WARN_ON(!task->ptrace || task->parent != current);
 150
 151         spin_lock_irq(&task->sighand->siglock);
 152         if (__fatal_signal_pending(task))
 153                 wake_up_state(task, __TASK_TRACED);
 154         else
 155                 task->state = TASK_TRACED;
 156         spin_unlock_irq(&task->sighand->siglock);
 157 }
 158
 159 /**
 160  * ptrace_check_attach - check whether ptracee is ready for ptrace operation
 161  * @child: ptracee to check for
 162  * @ignore_state: don't check whether @child is currently %TASK_TRACED
 163  *
 164  * Check whether @child is being ptraced by %current and ready for further
 165  * ptrace operations.  If @ignore_state is %false, @child also should be in
 166  * %TASK_TRACED state and on return the child is guaranteed to be traced
 167  * and not executing.  If @ignore_state is %true, @child can be in any
 168  * state.
 169  *
 170  * CONTEXT:
 171  * Grabs and releases tasklist_lock and @child->sighand->siglock.
 172  *
 173  * RETURNS:
 174  * 0 on success, -ESRCH if %child is not ready.
 175  */
 176 int ptrace_check_attach(struct task_struct *child, bool ignore_state)
 177 {
 178         int ret = -ESRCH;
 179
 180         /*
 181          * We take the read lock around doing both checks to close a
 182          * possible race where someone else was tracing our child and
 183          * detached between these two checks.  After this locked check,
 184          * we are sure that this is our traced child and that can only
 185          * be changed by us so it's not changing right after this.
 186          */
 187         read_lock(&tasklist_lock);
 188         if (child->ptrace && child->parent == current) {
 189                 WARN_ON(child->state == __TASK_TRACED);
 190                 /*
 191                  * child->sighand can't be NULL, release_task()
 192                  * does ptrace_unlink() before __exit_signal().
 193                  */
 194                 if (ignore_state || ptrace_freeze_traced(child))
 195                         ret = 0;
 196         }
 197         read_unlock(&tasklist_lock);
 198
 199         if (!ret && !ignore_state) {
 200                 if (!wait_task_inactive(child, __TASK_TRACED)) {
 201                         /*
 202                          * This can only happen if may_ptrace_stop() fails and
 203                          * ptrace_stop() changes ->state back to TASK_RUNNING,
 204                          * so we should not worry about leaking __TASK_TRACED.
 205                          */
 206                         WARN_ON(child->state == __TASK_TRACED);
 207                         ret = -ESRCH;
 208                 }
 209         }
 210
 211         return ret;
 212 }
 213
 214 int __ptrace_may_access(struct task_struct *task, unsigned int mode)
 215 {
 216         const struct cred *cred = current_cred(), *tcred;
 217
 218         /* May we inspect the given task?
 219          * This check is used both for attaching with ptrace
 220          * and for allowing access to sensitive information in /proc.
 221          *
 222          * ptrace_attach denies several cases that /proc allows
 223          * because setting up the necessary parent/child relationship
 224          * or halting the specified task is impossible.
 225          */
 226         int dumpable = 0;
 227         /* Don't let security modules deny introspection */
 228         if (task == current)
 229                 return 0;
 230         rcu_read_lock();
 231         tcred = __task_cred(task);
 232         if (cred->user->user_ns == tcred->user->user_ns &&
 233             (cred->uid == tcred->euid &&
 234              cred->uid == tcred->suid &&
 235              cred->uid == tcred->uid  &&
 236              cred->gid == tcred->egid &&
 237              cred->gid == tcred->sgid &&
 238              cred->gid == tcred->gid))
 239                 goto ok;
 240         if (ns_capable(tcred->user->user_ns, CAP_SYS_PTRACE))
 241                 goto ok;
 242         rcu_read_unlock();
 243         return -EPERM;
 244 ok:
 245         rcu_read_unlock();
 246         smp_rmb();
 247         if (task->mm)
 248                 dumpable = get_dumpable(task->mm);
 249         if (dumpable != SUID_DUMP_USER &&
 250             !task_ns_capable(task, CAP_SYS_PTRACE))
 251                 return -EPERM;
 252
 253         return security_ptrace_access_check(task, mode);
 254 }
 255
 256 bool ptrace_may_access(struct task_struct *task, unsigned int mode)
 257 {
 258         int err;
 259         task_lock(task);
 260         err = __ptrace_may_access(task, mode);
 261         task_unlock(task);
 262         return !err;
 263 }
 264
 265 static int ptrace_attach(struct task_struct *task, long request,
 266                          unsigned long flags)
 267 {
 268         bool seize = (request == PTRACE_SEIZE);
 269         int retval;
 270
 271         /*
 272          * SEIZE will enable new ptrace behaviors which will be implemented
 273          * gradually.  SEIZE_DEVEL is used to prevent applications
 274          * expecting full SEIZE behaviors trapping on kernel commits which
 275          * are still in the process of implementing them.
 276          *
 277          * Only test programs for new ptrace behaviors being implemented
 278          * should set SEIZE_DEVEL.  If unset, SEIZE will fail with -EIO.
 279          *
 280          * Once SEIZE behaviors are completely implemented, this flag and
 281          * the following test will be removed.
 282          */
 283         retval = -EIO;
 284         if (seize && !(flags & PTRACE_SEIZE_DEVEL))
 285                 goto out;
 286
 287         audit_ptrace(task);
 288
 289         retval = -EPERM;
 290         if (unlikely(task->flags & PF_KTHREAD))
 291                 goto out;
 292         if (same_thread_group(task, current))
 293                 goto out;
 294
 295         /*
 296          * Protect exec's credential calculations against our interference;
 297          * interference; SUID, SGID and LSM creds get determined differently
 298          * under ptrace.
 299          */
 300         retval = -ERESTARTNOINTR;
 301         if (mutex_lock_interruptible(&task->signal->cred_guard_mutex))
 302                 goto out;
 303
 304         task_lock(task);
 305         retval = __ptrace_may_access(task, PTRACE_MODE_ATTACH);
 306         task_unlock(task);
 307         if (retval)
 308                 goto unlock_creds;
 309
 310         write_lock_irq(&tasklist_lock);
 311         retval = -EPERM;
 312         if (unlikely(task->exit_state))
 313                 goto unlock_tasklist;
 314         if (task->ptrace)
 315                 goto unlock_tasklist;
 316
 317         task->ptrace = PT_PTRACED;
 318         if (seize)
 319                 task->ptrace |= PT_SEIZED;
 320         if (task_ns_capable(task, CAP_SYS_PTRACE))
 321                 task->ptrace |= PT_PTRACE_CAP;
 322
 323         __ptrace_link(task, current);
 324
 325         /* SEIZE doesn't trap tracee on attach */
 326         if (!seize)
 327                 send_sig_info(SIGSTOP, SEND_SIG_FORCED, task);
 328
 329         spin_lock(&task->sighand->siglock);
 330
 331         /*
 332          * If the task is already STOPPED, set JOBCTL_TRAP_STOP and
 333          * TRAPPING, and kick it so that it transits to TRACED.  TRAPPING
 334          * will be cleared if the child completes the transition or any
 335          * event which clears the group stop states happens.  We'll wait
 336          * for the transition to complete before returning from this
 337          * function.
 338          *
 339          * This hides STOPPED -> RUNNING -> TRACED transition from the
 340          * attaching thread but a different thread in the same group can
 341          * still observe the transient RUNNING state.  IOW, if another
 342          * thread's WNOHANG wait(2) on the stopped tracee races against
 343          * ATTACH, the wait(2) may fail due to the transient RUNNING.
 344          *
 345          * The following task_is_stopped() test is safe as both transitions
 346          * in and out of STOPPED are protected by siglock.
 347          */
 348         if (task_is_stopped(task) &&
 349             task_set_jobctl_pending(task, JOBCTL_TRAP_STOP | JOBCTL_TRAPPING))
 350                 signal_wake_up_state(task, __TASK_STOPPED);
 351
 352         spin_unlock(&task->sighand->siglock);
 353
 354         retval = 0;
 355 unlock_tasklist:
 356         write_unlock_irq(&tasklist_lock);
 357 unlock_creds:
 358         mutex_unlock(&task->signal->cred_guard_mutex);
 359 out:
 360         if (!retval) {
 361                 wait_on_bit(&task->jobctl, JOBCTL_TRAPPING_BIT,
 362                             ptrace_trapping_sleep_fn, TASK_UNINTERRUPTIBLE);
 363                 proc_ptrace_connector(task, PTRACE_ATTACH);
 364         }
 365
 366         return retval;
 367 }
 368
 369 /**
 370  * ptrace_traceme  --  helper for PTRACE_TRACEME
 371  *
 372  * Performs checks and sets PT_PTRACED.
 373  * Should be used by all ptrace implementations for PTRACE_TRACEME.
 374  */
 375 static int ptrace_traceme(void)
 376 {
 377         int ret = -EPERM;
 378
 379         write_lock_irq(&tasklist_lock);
 380         /* Are we already being traced? */
 381         if (!current->ptrace) {
 382                 ret = security_ptrace_traceme(current->parent);
 383                 /*
 384                  * Check PF_EXITING to ensure ->real_parent has not passed
 385                  * exit_ptrace(). Otherwise we don't report the error but
 386                  * pretend ->real_parent untraces us right after return.
 387                  */
 388                 if (!ret && !(current->real_parent->flags & PF_EXITING)) {
 389                         current->ptrace = PT_PTRACED;
 390                         __ptrace_link(current, current->real_parent);
 391                 }
 392         }
 393         write_unlock_irq(&tasklist_lock);
 394
 395         return ret;
 396 }
 397
 398 /*
 399  * Called with irqs disabled, returns true if childs should reap themselves.
 400  */
 401 static int ignoring_children(struct sighand_struct *sigh)
 402 {
 403         int ret;
 404         spin_lock(&sigh->siglock);
 405         ret = (sigh->action[SIGCHLD-1].sa.sa_handler == SIG_IGN) ||
 406               (sigh->action[SIGCHLD-1].sa.sa_flags & SA_NOCLDWAIT);
 407         spin_unlock(&sigh->siglock);
 408         return ret;
 409 }
 410
 411 /*
 412  * Called with tasklist_lock held for writing.
 413  * Unlink a traced task, and clean it up if it was a traced zombie.
 414  * Return true if it needs to be reaped with release_task().
 415  * (We can't call release_task() here because we already hold tasklist_lock.)
 416  *
 417  * If it's a zombie, our attachedness prevented normal parent notification
 418  * or self-reaping.  Do notification now if it would have happened earlier.
 419  * If it should reap itself, return true.
 420  *
 421  * If it's our own child, there is no notification to do. But if our normal
 422  * children self-reap, then this child was prevented by ptrace and we must
 423  * reap it now, in that case we must also wake up sub-threads sleeping in
 424  * do_wait().
 425  */
 426 static bool __ptrace_detach(struct task_struct *tracer, struct task_struct *p)
 427 {
 428         bool dead;
 429
 430         __ptrace_unlink(p);
 431
 432         if (p->exit_state != EXIT_ZOMBIE)
 433                 return false;
 434
 435         dead = !thread_group_leader(p);
 436
 437         if (!dead && thread_group_empty(p)) {
 438                 if (!same_thread_group(p->real_parent, tracer))
 439                         dead = do_notify_parent(p, p->exit_signal);
 440                 else if (ignoring_children(tracer->sighand)) {
 441                         __wake_up_parent(p, tracer);
 442                         dead = true;
 443                 }
 444         }
 445         /* Mark it as in the process of being reaped. */
 446         if (dead)
 447                 p->exit_state = EXIT_DEAD;
 448         return dead;
 449 }
 450
 451 static int ptrace_detach(struct task_struct *child, unsigned int data)
 452 {
 453         bool dead = false;
 454
 455         if (!valid_signal(data))
 456                 return -EIO;
 457
 458         /* Architecture-specific hardware disable .. */
 459         ptrace_disable(child);
 460         clear_tsk_thread_flag(child, TIF_SYSCALL_TRACE);
 461
 462         write_lock_irq(&tasklist_lock);
 463         /*
 464          * This child can be already killed. Make sure de_thread() or
 465          * our sub-thread doing do_wait() didn't do release_task() yet.
 466          */
 467         if (child->ptrace) {
 468                 child->exit_code = data;
 469                 dead = __ptrace_detach(current, child);
 470         }
 471         write_unlock_irq(&tasklist_lock);
 472
 473         proc_ptrace_connector(child, PTRACE_DETACH);
 474         if (unlikely(dead))
 475                 release_task(child);
 476
 477         return 0;
 478 }
 479
 480 /*
 481  * Detach all tasks we were using ptrace on. Called with tasklist held
 482  * for writing, and returns with it held too. But note it can release
 483  * and reacquire the lock.
 484  */
 485 void exit_ptrace(struct task_struct *tracer)
 486         __releases(&tasklist_lock)
 487         __acquires(&tasklist_lock)
 488 {
 489         struct task_struct *p, *n;
 490         LIST_HEAD(ptrace_dead);
 491
 492         if (likely(list_empty(&tracer->ptraced)))
 493                 return;
 494
 495         list_for_each_entry_safe(p, n, &tracer->ptraced, ptrace_entry) {
 496                 if (__ptrace_detach(tracer, p))
 497                         list_add(&p->ptrace_entry, &ptrace_dead);
 498         }
 499
 500         write_unlock_irq(&tasklist_lock);
 501         BUG_ON(!list_empty(&tracer->ptraced));
 502
 503         list_for_each_entry_safe(p, n, &ptrace_dead, ptrace_entry) {
 504                 list_del_init(&p->ptrace_entry);
 505                 release_task(p);
 506         }
 507
 508         write_lock_irq(&tasklist_lock);
 509 }
 510
 511 int ptrace_readdata(struct task_struct *tsk, unsigned long src, char __user *dst, int len)
 512 {
 513         int copied = 0;
 514
 515         while (len > 0) {
 516                 char buf[128];
 517                 int this_len, retval;
 518
 519                 this_len = (len > sizeof(buf)) ? sizeof(buf) : len;
 520                 retval = access_process_vm(tsk, src, buf, this_len, 0);
 521                 if (!retval) {
 522                         if (copied)
 523                                 break;
 524                         return -EIO;
 525                 }
 526                 if (copy_to_user(dst, buf, retval))
 527                         return -EFAULT;
 528                 copied += retval;
 529                 src += retval;
 530                 dst += retval;
 531                 len -= retval;
 532         }
 533         return copied;
 534 }
 535
 536 int ptrace_writedata(struct task_struct *tsk, char __user *src, unsigned long dst, int len)
 537 {
 538         int copied = 0;
 539
 540         while (len > 0) {
 541                 char buf[128];
 542                 int this_len, retval;
 543
 544                 this_len = (len > sizeof(buf)) ? sizeof(buf) : len;
 545                 if (copy_from_user(buf, src, this_len))
 546                         return -EFAULT;
 547                 retval = access_process_vm(tsk, dst, buf, this_len, 1);
 548                 if (!retval) {
 549                         if (copied)
 550                                 break;
 551                         return -EIO;
 552                 }
 553                 copied += retval;
 554                 src += retval;
 555                 dst += retval;
 556                 len -= retval;
 557         }
 558         return copied;
 559 }
 560
 561 static int ptrace_setoptions(struct task_struct *child, unsigned long data)
 562 {
 563         child->ptrace &= ~PT_TRACE_MASK;
 564
 565         if (data & PTRACE_O_TRACESYSGOOD)
 566                 child->ptrace |= PT_TRACESYSGOOD;
 567
 568         if (data & PTRACE_O_TRACEFORK)
 569                 child->ptrace |= PT_TRACE_FORK;
 570
 571         if (data & PTRACE_O_TRACEVFORK)
 572                 child->ptrace |= PT_TRACE_VFORK;
 573
 574         if (data & PTRACE_O_TRACECLONE)
 575                 child->ptrace |= PT_TRACE_CLONE;
 576
 577         if (data & PTRACE_O_TRACEEXEC)
 578                 child->ptrace |= PT_TRACE_EXEC;
 579
 580         if (data & PTRACE_O_TRACEVFORKDONE)
 581                 child->ptrace |= PT_TRACE_VFORK_DONE;
 582
 583         if (data & PTRACE_O_TRACEEXIT)
 584                 child->ptrace |= PT_TRACE_EXIT;
 585
 586         return (data & ~PTRACE_O_MASK) ? -EINVAL : 0;
 587 }
 588
 589 static int ptrace_getsiginfo(struct task_struct *child, siginfo_t *info)
 590 {
 591         unsigned long flags;
 592         int error = -ESRCH;
 593
 594         if (lock_task_sighand(child, &flags)) {
 595                 error = -EINVAL;
 596                 if (likely(child->last_siginfo != NULL)) {
 597                         *info = *child->last_siginfo;
 598                         error = 0;
 599                 }
 600                 unlock_task_sighand(child, &flags);
 601         }
 602         return error;
 603 }
 604
 605 static int ptrace_setsiginfo(struct task_struct *child, const siginfo_t *info)
 606 {
 607         unsigned long flags;
 608         int error = -ESRCH;
 609
 610         if (lock_task_sighand(child, &flags)) {
 611                 error = -EINVAL;
 612                 if (likely(child->last_siginfo != NULL)) {
 613                         *child->last_siginfo = *info;
 614                         error = 0;
 615                 }
 616                 unlock_task_sighand(child, &flags);
 617         }
 618         return error;
 619 }
 620
 621
 622 #ifdef PTRACE_SINGLESTEP
 623 #define is_singlestep(request)          ((request) == PTRACE_SINGLESTEP)
 624 #else
 625 #define is_singlestep(request)          0
 626 #endif
 627
 628 #ifdef PTRACE_SINGLEBLOCK
 629 #define is_singleblock(request)         ((request) == PTRACE_SINGLEBLOCK)
 630 #else
 631 #define is_singleblock(request)         0
 632 #endif
 633
 634 #ifdef PTRACE_SYSEMU
 635 #define is_sysemu_singlestep(request)   ((request) == PTRACE_SYSEMU_SINGLESTEP)
 636 #else
 637 #define is_sysemu_singlestep(request)   0
 638 #endif
 639
 640 static int ptrace_resume(struct task_struct *child, long request,
 641                          unsigned long data)
 642 {
 643         bool need_siglock;
 644
 645         if (!valid_signal(data))
 646                 return -EIO;
 647
 648         if (request == PTRACE_SYSCALL)
 649                 set_tsk_thread_flag(child, TIF_SYSCALL_TRACE);
 650         else
 651                 clear_tsk_thread_flag(child, TIF_SYSCALL_TRACE);
 652
 653 #ifdef TIF_SYSCALL_EMU
 654         if (request == PTRACE_SYSEMU || request == PTRACE_SYSEMU_SINGLESTEP)
 655                 set_tsk_thread_flag(child, TIF_SYSCALL_EMU);
 656         else
 657                 clear_tsk_thread_flag(child, TIF_SYSCALL_EMU);
 658 #endif
 659
 660         if (is_singleblock(request)) {
 661                 if (unlikely(!arch_has_block_step()))
 662                         return -EIO;
 663                 user_enable_block_step(child);
 664         } else if (is_singlestep(request) || is_sysemu_singlestep(request)) {
 665                 if (unlikely(!arch_has_single_step()))
 666                         return -EIO;
 667                 user_enable_single_step(child);
 668         } else {
 669                 user_disable_single_step(child);
 670         }
 671
 672         /*
 673          * Change ->exit_code and ->state under siglock to avoid the race
 674          * with wait_task_stopped() in between; a non-zero ->exit_code will
 675          * wrongly look like another report from tracee.
 676          *
 677          * Note that we need siglock even if ->exit_code == data and/or this
 678          * status was not reported yet, the new status must not be cleared by
 679          * wait_task_stopped() after resume.
 680          *
 681          * If data == 0 we do not care if wait_task_stopped() reports the old
 682          * status and clears the code too; this can't race with the tracee, it
 683          * takes siglock after resume.
 684          */
 685         need_siglock = data && !thread_group_empty(current);
 686         if (need_siglock)
 687                 spin_lock_irq(&child->sighand->siglock);
 688         child->exit_code = data;
 689         wake_up_state(child, __TASK_TRACED);
 690         if (need_siglock)
 691                 spin_unlock_irq(&child->sighand->siglock);
 692
 693         return 0;
 694 }
 695
 696 #ifdef CONFIG_HAVE_ARCH_TRACEHOOK
 697
 698 static const struct user_regset *
 699 find_regset(const struct user_regset_view *view, unsigned int type)
 700 {
 701         const struct user_regset *regset;
 702         int n;
 703
 704         for (n = 0; n < view->n; ++n) {
 705                 regset = view->regsets + n;
 706                 if (regset->core_note_type == type)
 707                         return regset;
 708         }
 709
 710         return NULL;
 711 }
 712
 713 static int ptrace_regset(struct task_struct *task, int req, unsigned int type,
 714                          struct iovec *kiov)
 715 {
 716         const struct user_regset_view *view = task_user_regset_view(task);
 717         const struct user_regset *regset = find_regset(view, type);
 718         int regset_no;
 719
 720         if (!regset || (kiov->iov_len % regset->size) != 0)
 721                 return -EINVAL;
 722
 723         regset_no = regset - view->regsets;
 724         kiov->iov_len = min(kiov->iov_len,
 725                             (__kernel_size_t) (regset->n * regset->size));
 726
 727         if (req == PTRACE_GETREGSET)
 728                 return copy_regset_to_user(task, view, regset_no, 0,
 729                                            kiov->iov_len, kiov->iov_base);
 730         else
 731                 return copy_regset_from_user(task, view, regset_no, 0,
 732                                              kiov->iov_len, kiov->iov_base);
 733 }
 734
 735 #endif
 736
 737 int ptrace_request(struct task_struct *child, long request,
 738                    unsigned long addr, unsigned long data)
 739 {
 740         bool seized = child->ptrace & PT_SEIZED;
 741         int ret = -EIO;
 742         siginfo_t siginfo, *si;
 743         void __user *datavp = (void __user *) data;
 744         unsigned long __user *datalp = datavp;
 745         unsigned long flags;
 746
 747         switch (request) {
 748         case PTRACE_PEEKTEXT:
 749         case PTRACE_PEEKDATA:
 750                 return generic_ptrace_peekdata(child, addr, data);
 751         case PTRACE_POKETEXT:
 752         case PTRACE_POKEDATA:
 753                 return generic_ptrace_pokedata(child, addr, data);
 754
 755 #ifdef PTRACE_OLDSETOPTIONS
 756         case PTRACE_OLDSETOPTIONS:
 757 #endif
 758         case PTRACE_SETOPTIONS:
 759                 ret = ptrace_setoptions(child, data);
 760                 break;
 761         case PTRACE_GETEVENTMSG:
 762                 ret = put_user(child->ptrace_message, datalp);
 763                 break;
 764
 765         case PTRACE_GETSIGINFO:
 766                 ret = ptrace_getsiginfo(child, &siginfo);
 767                 if (!ret)
 768                         ret = copy_siginfo_to_user(datavp, &siginfo);
 769                 break;
 770
 771         case PTRACE_SETSIGINFO:
 772                 if (copy_from_user(&siginfo, datavp, sizeof siginfo))
 773                         ret = -EFAULT;
 774                 else
 775                         ret = ptrace_setsiginfo(child, &siginfo);
 776                 break;
 777
 778         case PTRACE_INTERRUPT:
 779                 /*
 780                  * Stop tracee without any side-effect on signal or job
 781                  * control.  At least one trap is guaranteed to happen
 782                  * after this request.  If @child is already trapped, the
 783                  * current trap is not disturbed and another trap will
 784                  * happen after the current trap is ended with PTRACE_CONT.
 785                  *
 786                  * The actual trap might not be PTRACE_EVENT_STOP trap but
 787                  * the pending condition is cleared regardless.
 788                  */
 789                 if (unlikely(!seized || !lock_task_sighand(child, &flags)))
 790                         break;
 791
 792                 /*
 793                  * INTERRUPT doesn't disturb existing trap sans one
 794                  * exception.  If ptracer issued LISTEN for the current
 795                  * STOP, this INTERRUPT should clear LISTEN and re-trap
 796                  * tracee into STOP.
 797                  */
 798                 if (likely(task_set_jobctl_pending(child, JOBCTL_TRAP_STOP)))
 799                         ptrace_signal_wake_up(child, child->jobctl & JOBCTL_LISTENING);
 800
 801                 unlock_task_sighand(child, &flags);
 802                 ret = 0;
 803                 break;
 804
 805         case PTRACE_LISTEN:
 806                 /*
 807                  * Listen for events.  Tracee must be in STOP.  It's not
 808                  * resumed per-se but is not considered to be in TRACED by
 809                  * wait(2) or ptrace(2).  If an async event (e.g. group
 810                  * stop state change) happens, tracee will enter STOP trap
 811                  * again.  Alternatively, ptracer can issue INTERRUPT to
 812                  * finish listening and re-trap tracee into STOP.
 813                  */
 814                 if (unlikely(!seized || !lock_task_sighand(child, &flags)))
 815                         break;
 816
 817                 si = child->last_siginfo;
 818                 if (likely(si && (si->si_code >> 8) == PTRACE_EVENT_STOP)) {
 819                         child->jobctl |= JOBCTL_LISTENING;
 820                         /*
 821                          * If NOTIFY is set, it means event happened between
 822                          * start of this trap and now.  Trigger re-trap.
 823                          */
 824                         if (child->jobctl & JOBCTL_TRAP_NOTIFY)
 825                                 ptrace_signal_wake_up(child, true);
 826                         ret = 0;
 827                 }
 828                 unlock_task_sighand(child, &flags);
 829                 break;
 830
 831         case PTRACE_DETACH:      /* detach a process that was attached. */
 832                 ret = ptrace_detach(child, data);
 833                 break;
 834
 835 #ifdef CONFIG_BINFMT_ELF_FDPIC
 836         case PTRACE_GETFDPIC: {
 837                 struct mm_struct *mm = get_task_mm(child);
 838                 unsigned long tmp = 0;
 839
 840                 ret = -ESRCH;
 841                 if (!mm)
 842                         break;
 843
 844                 switch (addr) {
 845                 case PTRACE_GETFDPIC_EXEC:
 846                         tmp = mm->context.exec_fdpic_loadmap;
 847                         break;
 848                 case PTRACE_GETFDPIC_INTERP:
 849                         tmp = mm->context.interp_fdpic_loadmap;
 850                         break;
 851                 default:
 852                         break;
 853                 }
 854                 mmput(mm);
 855
 856                 ret = put_user(tmp, datalp);
 857                 break;
 858         }
 859 #endif
 860
 861 #ifdef PTRACE_SINGLESTEP
 862         case PTRACE_SINGLESTEP:
 863 #endif
 864 #ifdef PTRACE_SINGLEBLOCK
 865         case PTRACE_SINGLEBLOCK:
 866 #endif
 867 #ifdef PTRACE_SYSEMU
 868         case PTRACE_SYSEMU:
 869         case PTRACE_SYSEMU_SINGLESTEP:
 870 #endif
 871         case PTRACE_SYSCALL:
 872         case PTRACE_CONT:
 873                 return ptrace_resume(child, request, data);
 874
 875         case PTRACE_KILL:
 876                 if (child->exit_state)  /* already dead */
 877                         return 0;
 878                 return ptrace_resume(child, request, SIGKILL);
 879
 880 #ifdef CONFIG_HAVE_ARCH_TRACEHOOK
 881         case PTRACE_GETREGSET:
 882         case PTRACE_SETREGSET:
 883         {
 884                 struct iovec kiov;
 885                 struct iovec __user *uiov = datavp;
 886
 887                 if (!access_ok(VERIFY_WRITE, uiov, sizeof(*uiov)))
 888                         return -EFAULT;
 889
 890                 if (__get_user(kiov.iov_base, &uiov->iov_base) ||
 891                     __get_user(kiov.iov_len, &uiov->iov_len))
 892                         return -EFAULT;
 893
 894                 ret = ptrace_regset(child, request, addr, &kiov);
 895                 if (!ret)
 896                         ret = __put_user(kiov.iov_len, &uiov->iov_len);
 897                 break;
 898         }
 899 #endif
 900         default:
 901                 break;
 902         }
 903
 904         return ret;
 905 }
 906
 907 static struct task_struct *ptrace_get_task_struct(pid_t pid)
 908 {
 909         struct task_struct *child;
 910
 911         rcu_read_lock();
 912         child = find_task_by_vpid(pid);
 913         if (child)
 914                 get_task_struct(child);
 915         rcu_read_unlock();
 916
 917         if (!child)
 918                 return ERR_PTR(-ESRCH);
 919         return child;
 920 }
 921
 922 #ifndef arch_ptrace_attach
 923 #define arch_ptrace_attach(child)       do { } while (0)
 924 #endif
 925
 926 SYSCALL_DEFINE4(ptrace, long, request, long, pid, unsigned long, addr,
 927                 unsigned long, data)
 928 {
 929         struct task_struct *child;
 930         long ret;
 931
 932         if (request == PTRACE_TRACEME) {
 933                 ret = ptrace_traceme();
 934                 if (!ret)
 935                         arch_ptrace_attach(current);
 936                 goto out;
 937         }
 938
 939         child = ptrace_get_task_struct(pid);
 940         if (IS_ERR(child)) {
 941                 ret = PTR_ERR(child);
 942                 goto out;
 943         }
 944
 945         if (request == PTRACE_ATTACH || request == PTRACE_SEIZE) {
 946                 ret = ptrace_attach(child, request, data);
 947                 /*
 948                  * Some architectures need to do book-keeping after
 949                  * a ptrace attach.
 950                  */
 951                 if (!ret)
 952                         arch_ptrace_attach(child);
 953                 goto out_put_task_struct;
 954         }
 955
 956         ret = ptrace_check_attach(child, request == PTRACE_KILL ||
 957                                   request == PTRACE_INTERRUPT);
 958         if (ret < 0)
 959                 goto out_put_task_struct;
 960
 961         ret = arch_ptrace(child, request, addr, data);
 962         if (ret || request != PTRACE_DETACH)
 963                 ptrace_unfreeze_traced(child);
 964
 965  out_put_task_struct:
 966         put_task_struct(child);
 967  out:
 968         return ret;
 969 }
 970
 971 int generic_ptrace_peekdata(struct task_struct *tsk, unsigned long addr,
 972                             unsigned long data)
 973 {
 974         unsigned long tmp;
 975         int copied;
 976
 977         copied = access_process_vm(tsk, addr, &tmp, sizeof(tmp), 0);
 978         if (copied != sizeof(tmp))
 979                 return -EIO;
 980         return put_user(tmp, (unsigned long __user *)data);
 981 }
 982
 983 int generic_ptrace_pokedata(struct task_struct *tsk, unsigned long addr,
 984                             unsigned long data)
 985 {
 986         int copied;
 987
 988         copied = access_process_vm(tsk, addr, &data, sizeof(data), 1);
 989         return (copied == sizeof(data)) ? 0 : -EIO;
 990 }
 991
 992 #if defined CONFIG_COMPAT
 993 #include <linux/compat.h>
 994
 995 int compat_ptrace_request(struct task_struct *child, compat_long_t request,
 996                           compat_ulong_t addr, compat_ulong_t data)
 997 {
 998         compat_ulong_t __user *datap = compat_ptr(data);
 999         compat_ulong_t word;
1000         siginfo_t siginfo;
1001         int ret;
1002
1003         switch (request) {
1004         case PTRACE_PEEKTEXT:
1005         case PTRACE_PEEKDATA:
1006                 ret = access_process_vm(child, addr, &word, sizeof(word), 0);
1007                 if (ret != sizeof(word))
1008                         ret = -EIO;
1009                 else
1010                         ret = put_user(word, datap);
1011                 break;
1012
1013         case PTRACE_POKETEXT:
1014         case PTRACE_POKEDATA:
1015                 ret = access_process_vm(child, addr, &data, sizeof(data), 1);
1016                 ret = (ret != sizeof(data) ? -EIO : 0);
1017                 break;
1018
1019         case PTRACE_GETEVENTMSG:
1020                 ret = put_user((compat_ulong_t) child->ptrace_message, datap);
1021                 break;
1022
1023         case PTRACE_GETSIGINFO:
1024                 ret = ptrace_getsiginfo(child, &siginfo);
1025                 if (!ret)
1026                         ret = copy_siginfo_to_user32(
1027                                 (struct compat_siginfo __user *) datap,
1028                                 &siginfo);
1029                 break;
1030
1031         case PTRACE_SETSIGINFO:
1032                 memset(&siginfo, 0, sizeof siginfo);
1033                 if (copy_siginfo_from_user32(
1034                             &siginfo, (struct compat_siginfo __user *) datap))
1035                         ret = -EFAULT;
1036                 else
1037                         ret = ptrace_setsiginfo(child, &siginfo);
1038                 break;
1039 #ifdef CONFIG_HAVE_ARCH_TRACEHOOK
1040         case PTRACE_GETREGSET:
1041         case PTRACE_SETREGSET:
1042         {
1043                 struct iovec kiov;
1044                 struct compat_iovec __user *uiov =
1045                         (struct compat_iovec __user *) datap;
1046                 compat_uptr_t ptr;
1047                 compat_size_t len;
1048
1049                 if (!access_ok(VERIFY_WRITE, uiov, sizeof(*uiov)))
1050                         return -EFAULT;
1051
1052                 if (__get_user(ptr, &uiov->iov_base) ||
1053                     __get_user(len, &uiov->iov_len))
1054                         return -EFAULT;
1055
1056                 kiov.iov_base = compat_ptr(ptr);
1057                 kiov.iov_len = len;
1058
1059                 ret = ptrace_regset(child, request, addr, &kiov);
1060                 if (!ret)
1061                         ret = __put_user(kiov.iov_len, &uiov->iov_len);
1062                 break;
1063         }
1064 #endif
1065
1066         default:
1067                 ret = ptrace_request(child, request, addr, data);
1068         }
1069
1070         return ret;
1071 }
1072
1073 asmlinkage long compat_sys_ptrace(compat_long_t request, compat_long_t pid,
1074                                   compat_long_t addr, compat_long_t data)
1075 {
1076         struct task_struct *child;
1077         long ret;
1078
1079         if (request == PTRACE_TRACEME) {
1080                 ret = ptrace_traceme();
1081                 goto out;
1082         }
1083
1084         child = ptrace_get_task_struct(pid);
1085         if (IS_ERR(child)) {
1086                 ret = PTR_ERR(child);
1087                 goto out;
1088         }
1089
1090         if (request == PTRACE_ATTACH || request == PTRACE_SEIZE) {
1091                 ret = ptrace_attach(child, request, data);
1092                 /*
1093                  * Some architectures need to do book-keeping after
1094                  * a ptrace attach.
1095                  */
1096                 if (!ret)
1097                         arch_ptrace_attach(child);
1098                 goto out_put_task_struct;
1099         }
1100
1101         ret = ptrace_check_attach(child, request == PTRACE_KILL ||
1102                                   request == PTRACE_INTERRUPT);
1103         if (!ret) {
1104                 ret = compat_arch_ptrace(child, request, addr, data);
1105                 if (ret || request != PTRACE_DETACH)
1106                         ptrace_unfreeze_traced(child);
1107         }
1108
1109  out_put_task_struct:
1110         put_task_struct(child);
1111  out:
1112         return ret;
1113 }
1114 #endif  /* CONFIG_COMPAT */
1115
1116 #ifdef CONFIG_HAVE_HW_BREAKPOINT
1117 int ptrace_get_breakpoints(struct task_struct *tsk)
1118 {
1119         if (atomic_inc_not_zero(&tsk->ptrace_bp_refcnt))
1120                 return 0;
1121
1122         return -1;
1123 }
1124
1125 void ptrace_put_breakpoints(struct task_struct *tsk)
1126 {
1127         if (atomic_dec_and_test(&tsk->ptrace_bp_refcnt))
1128                 flush_ptrace_hw_breakpoint(tsk);
1129 }
1130 #endif /* CONFIG_HAVE_HW_BREAKPOINT */