lib/dynamic_debug.c

   1 /*
   2  * lib/dynamic_debug.c
   3  *
   4  * make pr_debug()/dev_dbg() calls runtime configurable based upon their
   5  * source module.
   6  *
   7  * Copyright (C) 2008 Jason Baron <jbaron@redhat.com>
   8  * By Greg Banks <gnb@melbourne.sgi.com>
   9  * Copyright (c) 2008 Silicon Graphics Inc.  All Rights Reserved.
  10  * Copyright (C) 2011 Bart Van Assche.  All Rights Reserved.
  11  */
  12
  13 #include <linux/kernel.h>
  14 #include <linux/module.h>
  15 #include <linux/moduleparam.h>
  16 #include <linux/kallsyms.h>
  17 #include <linux/version.h>
  18 #include <linux/types.h>
  19 #include <linux/mutex.h>
  20 #include <linux/proc_fs.h>
  21 #include <linux/seq_file.h>
  22 #include <linux/list.h>
  23 #include <linux/sysctl.h>
  24 #include <linux/ctype.h>
  25 #include <linux/string.h>
  26 #include <linux/uaccess.h>
  27 #include <linux/dynamic_debug.h>
  28 #include <linux/debugfs.h>
  29 #include <linux/slab.h>
  30 #include <linux/jump_label.h>
  31 #include <linux/hardirq.h>
  32 #include <linux/sched.h>
  33 #include <linux/device.h>
  34
  35 extern struct _ddebug __start___verbose[];
  36 extern struct _ddebug __stop___verbose[];
  37
  38 struct ddebug_table {
  39         struct list_head link;
  40         char *mod_name;
  41         unsigned int num_ddebugs;
  42         unsigned int num_enabled;
  43         struct _ddebug *ddebugs;
  44 };
  45
  46 struct ddebug_query {
  47         const char *filename;
  48         const char *module;
  49         const char *function;
  50         const char *format;
  51         unsigned int first_lineno, last_lineno;
  52 };
  53
  54 struct ddebug_iter {
  55         struct ddebug_table *table;
  56         unsigned int idx;
  57 };
  58
  59 static DEFINE_MUTEX(ddebug_lock);
  60 static LIST_HEAD(ddebug_tables);
  61 static int verbose = 0;
  62
  63 /* Return the last part of a pathname */
  64 static inline const char *basename(const char *path)
  65 {
  66         const char *tail = strrchr(path, '/');
  67         return tail ? tail+1 : path;
  68 }
  69
  70 static struct { unsigned flag:8; char opt_char; } opt_array[] = {
  71         { _DPRINTK_FLAGS_PRINT, 'p' },
  72         { _DPRINTK_FLAGS_INCL_MODNAME, 'm' },
  73         { _DPRINTK_FLAGS_INCL_FUNCNAME, 'f' },
  74         { _DPRINTK_FLAGS_INCL_LINENO, 'l' },
  75         { _DPRINTK_FLAGS_INCL_TID, 't' },
  76 };
  77
  78 /* format a string into buf[] which describes the _ddebug's flags */
  79 static char *ddebug_describe_flags(struct _ddebug *dp, char *buf,
  80                                     size_t maxlen)
  81 {
  82         char *p = buf;
  83         int i;
  84
  85         BUG_ON(maxlen < 4);
  86         for (i = 0; i < ARRAY_SIZE(opt_array); ++i)
  87                 if (dp->flags & opt_array[i].flag)
  88                         *p++ = opt_array[i].opt_char;
  89         if (p == buf)
  90                 *p++ = '-';
  91         *p = '\0';
  92
  93         return buf;
  94 }
  95
  96 /*
  97  * Search the tables for _ddebug's which match the given
  98  * `query' and apply the `flags' and `mask' to them.  Tells
  99  * the user which ddebug's were changed, or whether none
 100  * were matched.
 101  */
 102 static void ddebug_change(const struct ddebug_query *query,
 103                            unsigned int flags, unsigned int mask)
 104 {
 105         int i;
 106         struct ddebug_table *dt;
 107         unsigned int newflags;
 108         unsigned int nfound = 0;
 109         char flagbuf[8];
 110
 111         /* search for matching ddebugs */
 112         mutex_lock(&ddebug_lock);
 113         list_for_each_entry(dt, &ddebug_tables, link) {
 114
 115                 /* match against the module name */
 116                 if (query->module != NULL &&
 117                     strcmp(query->module, dt->mod_name))
 118                         continue;
 119
 120                 for (i = 0 ; i < dt->num_ddebugs ; i++) {
 121                         struct _ddebug *dp = &dt->ddebugs[i];
 122
 123                         /* match against the source filename */
 124                         if (query->filename != NULL &&
 125                             strcmp(query->filename, dp->filename) &&
 126                             strcmp(query->filename, basename(dp->filename)))
 127                                 continue;
 128
 129                         /* match against the function */
 130                         if (query->function != NULL &&
 131                             strcmp(query->function, dp->function))
 132                                 continue;
 133
 134                         /* match against the format */
 135                         if (query->format != NULL &&
 136                             strstr(dp->format, query->format) == NULL)
 137                                 continue;
 138
 139                         /* match against the line number range */
 140                         if (query->first_lineno &&
 141                             dp->lineno < query->first_lineno)
 142                                 continue;
 143                         if (query->last_lineno &&
 144                             dp->lineno > query->last_lineno)
 145                                 continue;
 146
 147                         nfound++;
 148
 149                         newflags = (dp->flags & mask) | flags;
 150                         if (newflags == dp->flags)
 151                                 continue;
 152
 153                         if (!newflags)
 154                                 dt->num_enabled--;
 155                         else if (!dp->flags)
 156                                 dt->num_enabled++;
 157                         dp->flags = newflags;
 158                         if (newflags)
 159                                 dp->enabled = 1;
 160                         else
 161                                 dp->enabled = 0;
 162                         if (verbose)
 163                                 printk(KERN_INFO
 164                                         "ddebug: changed %s:%d [%s]%s %s\n",
 165                                         dp->filename, dp->lineno,
 166                                         dt->mod_name, dp->function,
 167                                         ddebug_describe_flags(dp, flagbuf,
 168                                                         sizeof(flagbuf)));
 169                 }
 170         }
 171         mutex_unlock(&ddebug_lock);
 172
 173         if (!nfound && verbose)
 174                 printk(KERN_INFO "ddebug: no matches for query\n");
 175 }
 176
 177 /*
 178  * Split the buffer `buf' into space-separated words.
 179  * Handles simple " and ' quoting, i.e. without nested,
 180  * embedded or escaped \".  Return the number of words
 181  * or <0 on error.
 182  */
 183 static int ddebug_tokenize(char *buf, char *words[], int maxwords)
 184 {
 185         int nwords = 0;
 186
 187         while (*buf) {
 188                 char *end;
 189
 190                 /* Skip leading whitespace */
 191                 buf = skip_spaces(buf);
 192                 if (!*buf)
 193                         break;  /* oh, it was trailing whitespace */
 194
 195                 /* Run `end' over a word, either whitespace separated or quoted */
 196                 if (*buf == '"' || *buf == '\'') {
 197                         int quote = *buf++;
 198                         for (end = buf ; *end && *end != quote ; end++)
 199                                 ;
 200                         if (!*end)
 201                                 return -EINVAL; /* unclosed quote */
 202                 } else {
 203                         for (end = buf ; *end && !isspace(*end) ; end++)
 204                                 ;
 205                         BUG_ON(end == buf);
 206                 }
 207                 /* Here `buf' is the start of the word, `end' is one past the end */
 208
 209                 if (nwords == maxwords)
 210                         return -EINVAL; /* ran out of words[] before bytes */
 211                 if (*end)
 212                         *end++ = '\0';  /* terminate the word */
 213                 words[nwords++] = buf;
 214                 buf = end;
 215         }
 216
 217         if (verbose) {
 218                 int i;
 219                 printk(KERN_INFO "%s: split into words:", __func__);
 220                 for (i = 0 ; i < nwords ; i++)
 221                         printk(" \"%s\"", words[i]);
 222                 printk("\n");
 223         }
 224
 225         return nwords;
 226 }
 227
 228 /*
 229  * Parse a single line number.  Note that the empty string ""
 230  * is treated as a special case and converted to zero, which
 231  * is later treated as a "don't care" value.
 232  */
 233 static inline int parse_lineno(const char *str, unsigned int *val)
 234 {
 235         char *end = NULL;
 236         BUG_ON(str == NULL);
 237         if (*str == '\0') {
 238                 *val = 0;
 239                 return 0;
 240         }
 241         *val = simple_strtoul(str, &end, 10);
 242         return end == NULL || end == str || *end != '\0' ? -EINVAL : 0;
 243 }
 244
 245 /*
 246  * Undo octal escaping in a string, inplace.  This is useful to
 247  * allow the user to express a query which matches a format
 248  * containing embedded spaces.
 249  */
 250 #define isodigit(c)             ((c) >= '0' && (c) <= '7')
 251 static char *unescape(char *str)
 252 {
 253         char *in = str;
 254         char *out = str;
 255
 256         while (*in) {
 257                 if (*in == '\\') {
 258                         if (in[1] == '\\') {
 259                                 *out++ = '\\';
 260                                 in += 2;
 261                                 continue;
 262                         } else if (in[1] == 't') {
 263                                 *out++ = '\t';
 264                                 in += 2;
 265                                 continue;
 266                         } else if (in[1] == 'n') {
 267                                 *out++ = '\n';
 268                                 in += 2;
 269                                 continue;
 270                         } else if (isodigit(in[1]) &&
 271                                  isodigit(in[2]) &&
 272                                  isodigit(in[3])) {
 273                                 *out++ = ((in[1] - '0')<<6) |
 274                                           ((in[2] - '0')<<3) |
 275                                           (in[3] - '0');
 276                                 in += 4;
 277                                 continue;
 278                         }
 279                 }
 280                 *out++ = *in++;
 281         }
 282         *out = '\0';
 283
 284         return str;
 285 }
 286
 287 /*
 288  * Parse words[] as a ddebug query specification, which is a series
 289  * of (keyword, value) pairs chosen from these possibilities:
 290  *
 291  * func <function-name>
 292  * file <full-pathname>
 293  * file <base-filename>
 294  * module <module-name>
 295  * format <escaped-string-to-find-in-format>
 296  * line <lineno>
 297  * line <first-lineno>-<last-lineno> // where either may be empty
 298  */
 299 static int ddebug_parse_query(char *words[], int nwords,
 300                                struct ddebug_query *query)
 301 {
 302         unsigned int i;
 303
 304         /* check we have an even number of words */
 305         if (nwords % 2 != 0)
 306                 return -EINVAL;
 307         memset(query, 0, sizeof(*query));
 308
 309         for (i = 0 ; i < nwords ; i += 2) {
 310                 if (!strcmp(words[i], "func"))
 311                         query->function = words[i+1];
 312                 else if (!strcmp(words[i], "file"))
 313                         query->filename = words[i+1];
 314                 else if (!strcmp(words[i], "module"))
 315                         query->module = words[i+1];
 316                 else if (!strcmp(words[i], "format"))
 317                         query->format = unescape(words[i+1]);
 318                 else if (!strcmp(words[i], "line")) {
 319                         char *first = words[i+1];
 320                         char *last = strchr(first, '-');
 321                         if (last)
 322                                 *last++ = '\0';
 323                         if (parse_lineno(first, &query->first_lineno) < 0)
 324                                 return -EINVAL;
 325                         if (last != NULL) {
 326                                 /* range <first>-<last> */
 327                                 if (parse_lineno(last, &query->last_lineno) < 0)
 328                                         return -EINVAL;
 329                         } else {
 330                                 query->last_lineno = query->first_lineno;
 331                         }
 332                 } else {
 333                         if (verbose)
 334                                 printk(KERN_ERR "%s: unknown keyword \"%s\"\n",
 335                                         __func__, words[i]);
 336                         return -EINVAL;
 337                 }
 338         }
 339
 340         if (verbose)
 341                 printk(KERN_INFO "%s: q->function=\"%s\" q->filename=\"%s\" "
 342                        "q->module=\"%s\" q->format=\"%s\" q->lineno=%u-%u\n",
 343                         __func__, query->function, query->filename,
 344                         query->module, query->format, query->first_lineno,
 345                         query->last_lineno);
 346
 347         return 0;
 348 }
 349
 350 /*
 351  * Parse `str' as a flags specification, format [-+=][p]+.
 352  * Sets up *maskp and *flagsp to be used when changing the
 353  * flags fields of matched _ddebug's.  Returns 0 on success
 354  * or <0 on error.
 355  */
 356 static int ddebug_parse_flags(const char *str, unsigned int *flagsp,
 357                                unsigned int *maskp)
 358 {
 359         unsigned flags = 0;
 360         int op = '=', i;
 361
 362         switch (*str) {
 363         case '+':
 364         case '-':
 365         case '=':
 366                 op = *str++;
 367                 break;
 368         default:
 369                 return -EINVAL;
 370         }
 371         if (verbose)
 372                 printk(KERN_INFO "%s: op='%c'\n", __func__, op);
 373
 374         for ( ; *str ; ++str) {
 375                 for (i = ARRAY_SIZE(opt_array) - 1; i >= 0; i--) {
 376                         if (*str == opt_array[i].opt_char) {
 377                                 flags |= opt_array[i].flag;
 378                                 break;
 379                         }
 380                 }
 381                 if (i < 0)
 382                         return -EINVAL;
 383         }
 384         if (flags == 0)
 385                 return -EINVAL;
 386         if (verbose)
 387                 printk(KERN_INFO "%s: flags=0x%x\n", __func__, flags);
 388
 389         /* calculate final *flagsp, *maskp according to mask and op */
 390         switch (op) {
 391         case '=':
 392                 *maskp = 0;
 393                 *flagsp = flags;
 394                 break;
 395         case '+':
 396                 *maskp = ~0U;
 397                 *flagsp = flags;
 398                 break;
 399         case '-':
 400                 *maskp = ~flags;
 401                 *flagsp = 0;
 402                 break;
 403         }
 404         if (verbose)
 405                 printk(KERN_INFO "%s: *flagsp=0x%x *maskp=0x%x\n",
 406                         __func__, *flagsp, *maskp);
 407         return 0;
 408 }
 409
 410 static int ddebug_exec_query(char *query_string)
 411 {
 412         unsigned int flags = 0, mask = 0;
 413         struct ddebug_query query;
 414 #define MAXWORDS 9
 415         int nwords;
 416         char *words[MAXWORDS];
 417
 418         nwords = ddebug_tokenize(query_string, words, MAXWORDS);
 419         if (nwords <= 0)
 420                 return -EINVAL;
 421         if (ddebug_parse_query(words, nwords-1, &query))
 422                 return -EINVAL;
 423         if (ddebug_parse_flags(words[nwords-1], &flags, &mask))
 424                 return -EINVAL;
 425
 426         /* actually go and implement the change */
 427         ddebug_change(&query, flags, mask);
 428         return 0;
 429 }
 430
 431 static int dynamic_emit_prefix(const struct _ddebug *descriptor)
 432 {
 433         int res;
 434
 435         res = printk(KERN_DEBUG);
 436         if (descriptor->flags & _DPRINTK_FLAGS_INCL_TID) {
 437                 if (in_interrupt())
 438                         res += printk(KERN_CONT "<intr> ");
 439                 else
 440                         res += printk(KERN_CONT "[%d] ", task_pid_vnr(current));
 441         }
 442         if (descriptor->flags & _DPRINTK_FLAGS_INCL_MODNAME)
 443                 res += printk(KERN_CONT "%s:", descriptor->modname);
 444         if (descriptor->flags & _DPRINTK_FLAGS_INCL_FUNCNAME)
 445                 res += printk(KERN_CONT "%s:", descriptor->function);
 446         if (descriptor->flags & _DPRINTK_FLAGS_INCL_LINENO)
 447                 res += printk(KERN_CONT "%d ", descriptor->lineno);
 448
 449         return res;
 450 }
 451
 452 int __dynamic_pr_debug(struct _ddebug *descriptor, const char *fmt, ...)
 453 {
 454         va_list args;
 455         int res;
 456
 457         BUG_ON(!descriptor);
 458         BUG_ON(!fmt);
 459
 460         va_start(args, fmt);
 461
 462         res = dynamic_emit_prefix(descriptor);
 463         res += vprintk(fmt, args);
 464
 465         va_end(args);
 466
 467         return res;
 468 }
 469 EXPORT_SYMBOL(__dynamic_pr_debug);
 470
 471 int __dynamic_dev_dbg(struct _ddebug *descriptor,
 472                       const struct device *dev, const char *fmt, ...)
 473 {
 474         struct va_format vaf;
 475         va_list args;
 476         int res;
 477
 478         BUG_ON(!descriptor);
 479         BUG_ON(!fmt);
 480
 481         va_start(args, fmt);
 482
 483         vaf.fmt = fmt;
 484         vaf.va = &args;
 485
 486         res = dynamic_emit_prefix(descriptor);
 487         res += __dev_printk(KERN_CONT, dev, &vaf);
 488
 489         va_end(args);
 490
 491         return res;
 492 }
 493 EXPORT_SYMBOL(__dynamic_dev_dbg);
 494
 495 static __initdata char ddebug_setup_string[1024];
 496 static __init int ddebug_setup_query(char *str)
 497 {
 498         if (strlen(str) >= 1024) {
 499                 pr_warning("ddebug boot param string too large\n");
 500                 return 0;
 501         }
 502         strcpy(ddebug_setup_string, str);
 503         return 1;
 504 }
 505
 506 __setup("ddebug_query=", ddebug_setup_query);
 507
 508 /*
 509  * File_ops->write method for <debugfs>/dynamic_debug/conrol.  Gathers the
 510  * command text from userspace, parses and executes it.
 511  */
 512 static ssize_t ddebug_proc_write(struct file *file, const char __user *ubuf,
 513                                   size_t len, loff_t *offp)
 514 {
 515         char tmpbuf[256];
 516         int ret;
 517
 518         if (len == 0)
 519                 return 0;
 520         /* we don't check *offp -- multiple writes() are allowed */
 521         if (len > sizeof(tmpbuf)-1)
 522                 return -E2BIG;
 523         if (copy_from_user(tmpbuf, ubuf, len))
 524                 return -EFAULT;
 525         tmpbuf[len] = '\0';
 526         if (verbose)
 527                 printk(KERN_INFO "%s: read %d bytes from userspace\n",
 528                         __func__, (int)len);
 529
 530         ret = ddebug_exec_query(tmpbuf);
 531         if (ret)
 532                 return ret;
 533
 534         *offp += len;
 535         return len;
 536 }
 537
 538 /*
 539  * Set the iterator to point to the first _ddebug object
 540  * and return a pointer to that first object.  Returns
 541  * NULL if there are no _ddebugs at all.
 542  */
 543 static struct _ddebug *ddebug_iter_first(struct ddebug_iter *iter)
 544 {
 545         if (list_empty(&ddebug_tables)) {
 546                 iter->table = NULL;
 547                 iter->idx = 0;
 548                 return NULL;
 549         }
 550         iter->table = list_entry(ddebug_tables.next,
 551                                  struct ddebug_table, link);
 552         iter->idx = 0;
 553         return &iter->table->ddebugs[iter->idx];
 554 }
 555
 556 /*
 557  * Advance the iterator to point to the next _ddebug
 558  * object from the one the iterator currently points at,
 559  * and returns a pointer to the new _ddebug.  Returns
 560  * NULL if the iterator has seen all the _ddebugs.
 561  */
 562 static struct _ddebug *ddebug_iter_next(struct ddebug_iter *iter)
 563 {
 564         if (iter->table == NULL)
 565                 return NULL;
 566         if (++iter->idx == iter->table->num_ddebugs) {
 567                 /* iterate to next table */
 568                 iter->idx = 0;
 569                 if (list_is_last(&iter->table->link, &ddebug_tables)) {
 570                         iter->table = NULL;
 571                         return NULL;
 572                 }
 573                 iter->table = list_entry(iter->table->link.next,
 574                                          struct ddebug_table, link);
 575         }
 576         return &iter->table->ddebugs[iter->idx];
 577 }
 578
 579 /*
 580  * Seq_ops start method.  Called at the start of every
 581  * read() call from userspace.  Takes the ddebug_lock and
 582  * seeks the seq_file's iterator to the given position.
 583  */
 584 static void *ddebug_proc_start(struct seq_file *m, loff_t *pos)
 585 {
 586         struct ddebug_iter *iter = m->private;
 587         struct _ddebug *dp;
 588         int n = *pos;
 589
 590         if (verbose)
 591                 printk(KERN_INFO "%s: called m=%p *pos=%lld\n",
 592                         __func__, m, (unsigned long long)*pos);
 593
 594         mutex_lock(&ddebug_lock);
 595
 596         if (!n)
 597                 return SEQ_START_TOKEN;
 598         if (n < 0)
 599                 return NULL;
 600         dp = ddebug_iter_first(iter);
 601         while (dp != NULL && --n > 0)
 602                 dp = ddebug_iter_next(iter);
 603         return dp;
 604 }
 605
 606 /*
 607  * Seq_ops next method.  Called several times within a read()
 608  * call from userspace, with ddebug_lock held.  Walks to the
 609  * next _ddebug object with a special case for the header line.
 610  */
 611 static void *ddebug_proc_next(struct seq_file *m, void *p, loff_t *pos)
 612 {
 613         struct ddebug_iter *iter = m->private;
 614         struct _ddebug *dp;
 615
 616         if (verbose)
 617                 printk(KERN_INFO "%s: called m=%p p=%p *pos=%lld\n",
 618                         __func__, m, p, (unsigned long long)*pos);
 619
 620         if (p == SEQ_START_TOKEN)
 621                 dp = ddebug_iter_first(iter);
 622         else
 623                 dp = ddebug_iter_next(iter);
 624         ++*pos;
 625         return dp;
 626 }
 627
 628 /*
 629  * Seq_ops show method.  Called several times within a read()
 630  * call from userspace, with ddebug_lock held.  Formats the
 631  * current _ddebug as a single human-readable line, with a
 632  * special case for the header line.
 633  */
 634 static int ddebug_proc_show(struct seq_file *m, void *p)
 635 {
 636         struct ddebug_iter *iter = m->private;
 637         struct _ddebug *dp = p;
 638         char flagsbuf[8];
 639
 640         if (verbose)
 641                 printk(KERN_INFO "%s: called m=%p p=%p\n",
 642                         __func__, m, p);
 643
 644         if (p == SEQ_START_TOKEN) {
 645                 seq_puts(m,
 646                         "# filename:lineno [module]function flags format\n");
 647                 return 0;
 648         }
 649
 650         seq_printf(m, "%s:%u [%s]%s %s \"",
 651                    dp->filename, dp->lineno,
 652                    iter->table->mod_name, dp->function,
 653                    ddebug_describe_flags(dp, flagsbuf, sizeof(flagsbuf)));
 654         seq_escape(m, dp->format, "\t\r\n\"");
 655         seq_puts(m, "\"\n");
 656
 657         return 0;
 658 }
 659
 660 /*
 661  * Seq_ops stop method.  Called at the end of each read()
 662  * call from userspace.  Drops ddebug_lock.
 663  */
 664 static void ddebug_proc_stop(struct seq_file *m, void *p)
 665 {
 666         if (verbose)
 667                 printk(KERN_INFO "%s: called m=%p p=%p\n",
 668                         __func__, m, p);
 669         mutex_unlock(&ddebug_lock);
 670 }
 671
 672 static const struct seq_operations ddebug_proc_seqops = {
 673         .start = ddebug_proc_start,
 674         .next = ddebug_proc_next,
 675         .show = ddebug_proc_show,
 676         .stop = ddebug_proc_stop
 677 };
 678
 679 /*
 680  * File_ops->open method for <debugfs>/dynamic_debug/control.  Does the seq_file
 681  * setup dance, and also creates an iterator to walk the _ddebugs.
 682  * Note that we create a seq_file always, even for O_WRONLY files
 683  * where it's not needed, as doing so simplifies the ->release method.
 684  */
 685 static int ddebug_proc_open(struct inode *inode, struct file *file)
 686 {
 687         struct ddebug_iter *iter;
 688         int err;
 689
 690         if (verbose)
 691                 printk(KERN_INFO "%s: called\n", __func__);
 692
 693         iter = kzalloc(sizeof(*iter), GFP_KERNEL);
 694         if (iter == NULL)
 695                 return -ENOMEM;
 696
 697         err = seq_open(file, &ddebug_proc_seqops);
 698         if (err) {
 699                 kfree(iter);
 700                 return err;
 701         }
 702         ((struct seq_file *) file->private_data)->private = iter;
 703         return 0;
 704 }
 705
 706 static const struct file_operations ddebug_proc_fops = {
 707         .owner = THIS_MODULE,
 708         .open = ddebug_proc_open,
 709         .read = seq_read,
 710         .llseek = seq_lseek,
 711         .release = seq_release_private,
 712         .write = ddebug_proc_write
 713 };
 714
 715 /*
 716  * Allocate a new ddebug_table for the given module
 717  * and add it to the global list.
 718  */
 719 int ddebug_add_module(struct _ddebug *tab, unsigned int n,
 720                              const char *name)
 721 {
 722         struct ddebug_table *dt;
 723         char *new_name;
 724
 725         dt = kzalloc(sizeof(*dt), GFP_KERNEL);
 726         if (dt == NULL)
 727                 return -ENOMEM;
 728         new_name = kstrdup(name, GFP_KERNEL);
 729         if (new_name == NULL) {
 730                 kfree(dt);
 731                 return -ENOMEM;
 732         }
 733         dt->mod_name = new_name;
 734         dt->num_ddebugs = n;
 735         dt->num_enabled = 0;
 736         dt->ddebugs = tab;
 737
 738         mutex_lock(&ddebug_lock);
 739         list_add_tail(&dt->link, &ddebug_tables);
 740         mutex_unlock(&ddebug_lock);
 741
 742         if (verbose)
 743                 printk(KERN_INFO "%u debug prints in module %s\n",
 744                                  n, dt->mod_name);
 745         return 0;
 746 }
 747 EXPORT_SYMBOL_GPL(ddebug_add_module);
 748
 749 static void ddebug_table_free(struct ddebug_table *dt)
 750 {
 751         list_del_init(&dt->link);
 752         kfree(dt->mod_name);
 753         kfree(dt);
 754 }
 755
 756 /*
 757  * Called in response to a module being unloaded.  Removes
 758  * any ddebug_table's which point at the module.
 759  */
 760 int ddebug_remove_module(const char *mod_name)
 761 {
 762         struct ddebug_table *dt, *nextdt;
 763         int ret = -ENOENT;
 764
 765         if (verbose)
 766                 printk(KERN_INFO "%s: removing module \"%s\"\n",
 767                                 __func__, mod_name);
 768
 769         mutex_lock(&ddebug_lock);
 770         list_for_each_entry_safe(dt, nextdt, &ddebug_tables, link) {
 771                 if (!strcmp(dt->mod_name, mod_name)) {
 772                         ddebug_table_free(dt);
 773                         ret = 0;
 774                 }
 775         }
 776         mutex_unlock(&ddebug_lock);
 777         return ret;
 778 }
 779 EXPORT_SYMBOL_GPL(ddebug_remove_module);
 780
 781 static void ddebug_remove_all_tables(void)
 782 {
 783         mutex_lock(&ddebug_lock);
 784         while (!list_empty(&ddebug_tables)) {
 785                 struct ddebug_table *dt = list_entry(ddebug_tables.next,
 786                                                       struct ddebug_table,
 787                                                       link);
 788                 ddebug_table_free(dt);
 789         }
 790         mutex_unlock(&ddebug_lock);
 791 }
 792
 793 static __initdata int ddebug_init_success;
 794
 795 static int __init dynamic_debug_init_debugfs(void)
 796 {
 797         struct dentry *dir, *file;
 798
 799         if (!ddebug_init_success)
 800                 return -ENODEV;
 801
 802         dir = debugfs_create_dir("dynamic_debug", NULL);
 803         if (!dir)
 804                 return -ENOMEM;
 805         file = debugfs_create_file("control", 0644, dir, NULL,
 806                                         &ddebug_proc_fops);
 807         if (!file) {
 808                 debugfs_remove(dir);
 809                 return -ENOMEM;
 810         }
 811         return 0;
 812 }
 813
 814 static int __init dynamic_debug_init(void)
 815 {
 816         struct _ddebug *iter, *iter_start;
 817         const char *modname = NULL;
 818         int ret = 0;
 819         int n = 0;
 820
 821         if (__start___verbose != __stop___verbose) {
 822                 iter = __start___verbose;
 823                 modname = iter->modname;
 824                 iter_start = iter;
 825                 for (; iter < __stop___verbose; iter++) {
 826                         if (strcmp(modname, iter->modname)) {
 827                                 ret = ddebug_add_module(iter_start, n, modname);
 828                                 if (ret)
 829                                         goto out_free;
 830                                 n = 0;
 831                                 modname = iter->modname;
 832                                 iter_start = iter;
 833                         }
 834                         n++;
 835                 }
 836                 ret = ddebug_add_module(iter_start, n, modname);
 837         }
 838
 839         /* ddebug_query boot param got passed -> set it up */
 840         if (ddebug_setup_string[0] != '\0') {
 841                 ret = ddebug_exec_query(ddebug_setup_string);
 842                 if (ret)
 843                         pr_warning("Invalid ddebug boot param %s",
 844                                    ddebug_setup_string);
 845                 else
 846                         pr_info("ddebug initialized with string %s",
 847                                 ddebug_setup_string);
 848         }
 849
 850 out_free:
 851         if (ret)
 852                 ddebug_remove_all_tables();
 853         else
 854                 ddebug_init_success = 1;
 855         return 0;
 856 }
 857 /* Allow early initialization for boot messages via boot param */
 858 arch_initcall(dynamic_debug_init);
 859 /* Debugfs setup must be done later */
 860 module_init(dynamic_debug_init_debugfs);