arch/x86_64/kernel/mce.c

   1 /*
   2  * Machine check handler.
   3  * K8 parts Copyright 2002,2003 Andi Kleen, SuSE Labs.
   4  * Rest from unknown author(s).
   5  * 2004 Andi Kleen. Rewrote most of it.
   6  */
   7
   8 #include <linux/init.h>
   9 #include <linux/types.h>
  10 #include <linux/kernel.h>
  11 #include <linux/sched.h>
  12 #include <linux/string.h>
  13 #include <linux/rcupdate.h>
  14 #include <linux/kallsyms.h>
  15 #include <linux/sysdev.h>
  16 #include <linux/miscdevice.h>
  17 #include <linux/fs.h>
  18 #include <asm/processor.h>
  19 #include <asm/msr.h>
  20 #include <asm/mce.h>
  21 #include <asm/kdebug.h>
  22 #include <asm/uaccess.h>
  23
  24 #define MISC_MCELOG_MINOR 227
  25 #define NR_BANKS 5
  26
  27 static int mce_dont_init;
  28
  29 /* 0: always panic, 1: panic if deadlock possible, 2: try to avoid panic,
  30    3: never panic or exit (for testing only) */
  31 static int tolerant = 1;
  32 static int banks;
  33 static unsigned long bank[NR_BANKS] = { [0 ... NR_BANKS-1] = ~0UL };
  34 static unsigned long console_logged;
  35 static int notify_user;
  36 static int rip_msr;
  37
  38 /*
  39  * Lockless MCE logging infrastructure.
  40  * This avoids deadlocks on printk locks without having to break locks. Also
  41  * separate MCEs from kernel messages to avoid bogus bug reports.
  42  */
  43
  44 struct mce_log mcelog = {
  45         MCE_LOG_SIGNATURE,
  46         MCE_LOG_LEN,
  47 };
  48
  49 void mce_log(struct mce *mce)
  50 {
  51         unsigned next, entry;
  52         mce->finished = 0;
  53         smp_wmb();
  54         for (;;) {
  55                 entry = rcu_dereference(mcelog.next);
  56                 /* When the buffer fills up discard new entries. Assume
  57                    that the earlier errors are the more interesting. */
  58                 if (entry >= MCE_LOG_LEN) {
  59                         set_bit(MCE_OVERFLOW, &mcelog.flags);
  60                         return;
  61                 }
  62                 /* Old left over entry. Skip. */
  63                 if (mcelog.entry[entry].finished)
  64                         continue;
  65                 smp_rmb();
  66                 next = entry + 1;
  67                 if (cmpxchg(&mcelog.next, entry, next) == entry)
  68                         break;
  69         }
  70         memcpy(mcelog.entry + entry, mce, sizeof(struct mce));
  71         smp_wmb();
  72         mcelog.entry[entry].finished = 1;
  73         smp_wmb();
  74
  75         if (!test_and_set_bit(0, &console_logged))
  76                 notify_user = 1;
  77 }
  78
  79 static void print_mce(struct mce *m)
  80 {
  81         printk(KERN_EMERG "\n"
  82                KERN_EMERG
  83                "CPU %d: Machine Check Exception: %16Lx Bank %d: %016Lx\n",
  84                m->cpu, m->mcgstatus, m->bank, m->status);
  85         if (m->rip) {
  86                 printk(KERN_EMERG
  87                        "RIP%s %02x:<%016Lx> ",
  88                        !(m->mcgstatus & MCG_STATUS_EIPV) ? " !INEXACT!" : "",
  89                        m->cs, m->rip);
  90                 if (m->cs == __KERNEL_CS)
  91                         print_symbol("{%s}", m->rip);
  92                 printk("\n");
  93         }
  94         printk(KERN_EMERG "TSC %Lx ", m->tsc);
  95         if (m->addr)
  96                 printk("ADDR %Lx ", m->addr);
  97         if (m->misc)
  98                 printk("MISC %Lx ", m->misc);
  99         printk("\n");
 100 }
 101
 102 static void mce_panic(char *msg, struct mce *backup, unsigned long start)
 103 {
 104         int i;
 105         oops_begin();
 106         for (i = 0; i < MCE_LOG_LEN; i++) {
 107                 unsigned long tsc = mcelog.entry[i].tsc;
 108                 if (time_before(tsc, start))
 109                         continue;
 110                 print_mce(&mcelog.entry[i]);
 111                 if (backup && mcelog.entry[i].tsc == backup->tsc)
 112                         backup = NULL;
 113         }
 114         if (backup)
 115                 print_mce(backup);
 116         if (tolerant >= 3)
 117                 printk("Fake panic: %s\n", msg);
 118         else
 119                 panic(msg);
 120 }
 121
 122 static int mce_available(struct cpuinfo_x86 *c)
 123 {
 124         return test_bit(X86_FEATURE_MCE, &c->x86_capability) &&
 125                test_bit(X86_FEATURE_MCA, &c->x86_capability);
 126 }
 127
 128 static inline void mce_get_rip(struct mce *m, struct pt_regs *regs)
 129 {
 130         if (regs && (m->mcgstatus & MCG_STATUS_RIPV)) {
 131                 m->rip = regs->rip;
 132                 m->cs = regs->cs;
 133         } else {
 134                 m->rip = 0;
 135                 m->cs = 0;
 136         }
 137         if (rip_msr) {
 138                 /* Assume the RIP in the MSR is exact. Is this true? */
 139                 m->mcgstatus |= MCG_STATUS_EIPV;
 140                 rdmsrl(rip_msr, m->rip);
 141                 m->cs = 0;
 142         }
 143 }
 144
 145 /*
 146  * The actual machine check handler
 147  */
 148
 149 void do_machine_check(struct pt_regs * regs, long error_code)
 150 {
 151         struct mce m, panicm;
 152         int nowayout = (tolerant < 1);
 153         int kill_it = 0;
 154         u64 mcestart = 0;
 155         int i;
 156         int panicm_found = 0;
 157
 158         if (regs)
 159                 notify_die(DIE_NMI, "machine check", regs, error_code, 255, SIGKILL);
 160         if (!banks)
 161                 return;
 162
 163         memset(&m, 0, sizeof(struct mce));
 164         m.cpu = hard_smp_processor_id();
 165         rdmsrl(MSR_IA32_MCG_STATUS, m.mcgstatus);
 166         if (!(m.mcgstatus & MCG_STATUS_RIPV))
 167                 kill_it = 1;
 168
 169         rdtscll(mcestart);
 170         barrier();
 171
 172         for (i = 0; i < banks; i++) {
 173                 if (!bank[i])
 174                         continue;
 175
 176                 m.misc = 0;
 177                 m.addr = 0;
 178                 m.bank = i;
 179                 m.tsc = 0;
 180
 181                 rdmsrl(MSR_IA32_MC0_STATUS + i*4, m.status);
 182                 if ((m.status & MCI_STATUS_VAL) == 0)
 183                         continue;
 184
 185                 if (m.status & MCI_STATUS_EN) {
 186                         /* In theory _OVER could be a nowayout too, but
 187                            assume any overflowed errors were no fatal. */
 188                         nowayout |= !!(m.status & MCI_STATUS_PCC);
 189                         kill_it |= !!(m.status & MCI_STATUS_UC);
 190                 }
 191
 192                 if (m.status & MCI_STATUS_MISCV)
 193                         rdmsrl(MSR_IA32_MC0_MISC + i*4, m.misc);
 194                 if (m.status & MCI_STATUS_ADDRV)
 195                         rdmsrl(MSR_IA32_MC0_ADDR + i*4, m.addr);
 196
 197                 mce_get_rip(&m, regs);
 198                 if (error_code != -1)
 199                         rdtscll(m.tsc);
 200                 wrmsrl(MSR_IA32_MC0_STATUS + i*4, 0);
 201                 mce_log(&m);
 202
 203                 /* Did this bank cause the exception? */
 204                 /* Assume that the bank with uncorrectable errors did it,
 205                    and that there is only a single one. */
 206                 if ((m.status & MCI_STATUS_UC) && (m.status & MCI_STATUS_EN)) {
 207                         panicm = m;
 208                         panicm_found = 1;
 209                 }
 210
 211                 tainted |= TAINT_MACHINE_CHECK;
 212         }
 213
 214         /* Never do anything final in the polling timer */
 215         if (!regs)
 216                 goto out;
 217
 218         /* If we didn't find an uncorrectable error, pick
 219            the last one (shouldn't happen, just being safe). */
 220         if (!panicm_found)
 221                 panicm = m;
 222         if (nowayout)
 223                 mce_panic("Machine check", &panicm, mcestart);
 224         if (kill_it) {
 225                 int user_space = 0;
 226
 227                 if (m.mcgstatus & MCG_STATUS_RIPV)
 228                         user_space = panicm.rip && (panicm.cs & 3);
 229
 230                 /* When the machine was in user space and the CPU didn't get
 231                    confused it's normally not necessary to panic, unless you
 232                    are paranoid (tolerant == 0)
 233
 234                    RED-PEN could be more tolerant for MCEs in idle,
 235                    but most likely they occur at boot anyways, where
 236                    it is best to just halt the machine. */
 237                 if ((!user_space && (panic_on_oops || tolerant < 2)) ||
 238                     (unsigned)current->pid <= 1)
 239                         mce_panic("Uncorrected machine check", &panicm, mcestart);
 240
 241                 /* do_exit takes an awful lot of locks and has as
 242                    slight risk of deadlocking. If you don't want that
 243                    don't set tolerant >= 2 */
 244                 if (tolerant < 3)
 245                         do_exit(SIGBUS);
 246         }
 247
 248  out:
 249         /* Last thing done in the machine check exception to clear state. */
 250         wrmsrl(MSR_IA32_MCG_STATUS, 0);
 251 }
 252
 253 /*
 254  * Periodic polling timer for "silent" machine check errors.
 255  */
 256
 257 static int check_interval = 5 * 60; /* 5 minutes */
 258 static void mcheck_timer(void *data);
 259 static DECLARE_WORK(mcheck_work, mcheck_timer, NULL);
 260
 261 static void mcheck_check_cpu(void *info)
 262 {
 263         if (mce_available(&current_cpu_data))
 264                 do_machine_check(NULL, 0);
 265 }
 266
 267 static void mcheck_timer(void *data)
 268 {
 269         on_each_cpu(mcheck_check_cpu, NULL, 1, 1);
 270         schedule_delayed_work(&mcheck_work, check_interval * HZ);
 271
 272         /*
 273          * It's ok to read stale data here for notify_user and
 274          * console_logged as we'll simply get the updated versions
 275          * on the next mcheck_timer execution and atomic operations
 276          * on console_logged act as synchronization for notify_user
 277          * writes.
 278          */
 279         if (notify_user && console_logged) {
 280                 notify_user = 0;
 281                 clear_bit(0, &console_logged);
 282                 printk(KERN_INFO "Machine check events logged\n");
 283         }
 284 }
 285
 286
 287 static __init int periodic_mcheck_init(void)
 288 {
 289         if (check_interval)
 290                 schedule_delayed_work(&mcheck_work, check_interval*HZ);
 291         return 0;
 292 }
 293 __initcall(periodic_mcheck_init);
 294
 295
 296 /*
 297  * Initialize Machine Checks for a CPU.
 298  */
 299 static void mce_init(void *dummy)
 300 {
 301         u64 cap;
 302         int i;
 303
 304         rdmsrl(MSR_IA32_MCG_CAP, cap);
 305         banks = cap & 0xff;
 306         if (banks > NR_BANKS) {
 307                 printk(KERN_INFO "MCE: warning: using only %d banks\n", banks);
 308                 banks = NR_BANKS;
 309         }
 310         /* Use accurate RIP reporting if available. */
 311         if ((cap & (1<<9)) && ((cap >> 16) & 0xff) >= 9)
 312                 rip_msr = MSR_IA32_MCG_EIP;
 313
 314         /* Log the machine checks left over from the previous reset.
 315            This also clears all registers */
 316         do_machine_check(NULL, -1);
 317
 318         set_in_cr4(X86_CR4_MCE);
 319
 320         if (cap & MCG_CTL_P)
 321                 wrmsr(MSR_IA32_MCG_CTL, 0xffffffff, 0xffffffff);
 322
 323         for (i = 0; i < banks; i++) {
 324                 wrmsrl(MSR_IA32_MC0_CTL+4*i, bank[i]);
 325                 wrmsrl(MSR_IA32_MC0_STATUS+4*i, 0);
 326         }
 327 }
 328
 329 /* Add per CPU specific workarounds here */
 330 static void __cpuinit mce_cpu_quirks(struct cpuinfo_x86 *c)
 331 {
 332         /* This should be disabled by the BIOS, but isn't always */
 333         if (c->x86_vendor == X86_VENDOR_AMD && c->x86 == 15) {
 334                 /* disable GART TBL walk error reporting, which trips off
 335                    incorrectly with the IOMMU & 3ware & Cerberus. */
 336                 clear_bit(10, &bank[4]);
 337         }
 338 }
 339
 340 static void __cpuinit mce_cpu_features(struct cpuinfo_x86 *c)
 341 {
 342         switch (c->x86_vendor) {
 343         case X86_VENDOR_INTEL:
 344                 mce_intel_feature_init(c);
 345                 break;
 346         default:
 347                 break;
 348         }
 349 }
 350
 351 /*
 352  * Called for each booted CPU to set up machine checks.
 353  * Must be called with preempt off.
 354  */
 355 void __cpuinit mcheck_init(struct cpuinfo_x86 *c)
 356 {
 357         static cpumask_t mce_cpus __initdata = CPU_MASK_NONE;
 358
 359         mce_cpu_quirks(c);
 360
 361         if (mce_dont_init ||
 362             cpu_test_and_set(smp_processor_id(), mce_cpus) ||
 363             !mce_available(c))
 364                 return;
 365
 366         mce_init(NULL);
 367         mce_cpu_features(c);
 368 }
 369
 370 /*
 371  * Character device to read and clear the MCE log.
 372  */
 373
 374 static void collect_tscs(void *data)
 375 {
 376         unsigned long *cpu_tsc = (unsigned long *)data;
 377         rdtscll(cpu_tsc[smp_processor_id()]);
 378 }
 379
 380 static ssize_t mce_read(struct file *filp, char __user *ubuf, size_t usize, loff_t *off)
 381 {
 382         unsigned long *cpu_tsc;
 383         static DECLARE_MUTEX(mce_read_sem);
 384         unsigned next;
 385         char __user *buf = ubuf;
 386         int i, err;
 387
 388         cpu_tsc = kmalloc(NR_CPUS * sizeof(long), GFP_KERNEL);
 389         if (!cpu_tsc)
 390                 return -ENOMEM;
 391
 392         down(&mce_read_sem);
 393         next = rcu_dereference(mcelog.next);
 394
 395         /* Only supports full reads right now */
 396         if (*off != 0 || usize < MCE_LOG_LEN*sizeof(struct mce)) {
 397                 up(&mce_read_sem);
 398                 kfree(cpu_tsc);
 399                 return -EINVAL;
 400         }
 401
 402         err = 0;
 403         for (i = 0; i < next; i++) {
 404                 if (!mcelog.entry[i].finished)
 405                         continue;
 406                 smp_rmb();
 407                 err |= copy_to_user(buf, mcelog.entry + i, sizeof(struct mce));
 408                 buf += sizeof(struct mce);
 409         }
 410
 411         memset(mcelog.entry, 0, next * sizeof(struct mce));
 412         mcelog.next = 0;
 413
 414         synchronize_sched();
 415
 416         /* Collect entries that were still getting written before the synchronize. */
 417
 418         on_each_cpu(collect_tscs, cpu_tsc, 1, 1);
 419         for (i = next; i < MCE_LOG_LEN; i++) {
 420                 if (mcelog.entry[i].finished &&
 421                     mcelog.entry[i].tsc < cpu_tsc[mcelog.entry[i].cpu]) {
 422                         err |= copy_to_user(buf, mcelog.entry+i, sizeof(struct mce));
 423                         smp_rmb();
 424                         buf += sizeof(struct mce);
 425                         memset(&mcelog.entry[i], 0, sizeof(struct mce));
 426                 }
 427         }
 428         up(&mce_read_sem);
 429         kfree(cpu_tsc);
 430         return err ? -EFAULT : buf - ubuf;
 431 }
 432
 433 static int mce_ioctl(struct inode *i, struct file *f,unsigned int cmd, unsigned long arg)
 434 {
 435         int __user *p = (int __user *)arg;
 436         if (!capable(CAP_SYS_ADMIN))
 437                 return -EPERM;
 438         switch (cmd) {
 439         case MCE_GET_RECORD_LEN:
 440                 return put_user(sizeof(struct mce), p);
 441         case MCE_GET_LOG_LEN:
 442                 return put_user(MCE_LOG_LEN, p);
 443         case MCE_GETCLEAR_FLAGS: {
 444                 unsigned flags;
 445                 do {
 446                         flags = mcelog.flags;
 447                 } while (cmpxchg(&mcelog.flags, flags, 0) != flags);
 448                 return put_user(flags, p);
 449         }
 450         default:
 451                 return -ENOTTY;
 452         }
 453 }
 454
 455 static struct file_operations mce_chrdev_ops = {
 456         .read = mce_read,
 457         .ioctl = mce_ioctl,
 458 };
 459
 460 static struct miscdevice mce_log_device = {
 461         MISC_MCELOG_MINOR,
 462         "mcelog",
 463         &mce_chrdev_ops,
 464 };
 465
 466 /*
 467  * Old style boot options parsing. Only for compatibility.
 468  */
 469
 470 static int __init mcheck_disable(char *str)
 471 {
 472         mce_dont_init = 1;
 473         return 0;
 474 }
 475
 476 /* mce=off disables machine check. Note you can reenable it later
 477    using sysfs */
 478 static int __init mcheck_enable(char *str)
 479 {
 480         if (!strcmp(str, "off"))
 481                 mce_dont_init = 1;
 482         else
 483                 printk("mce= argument %s ignored. Please use /sys", str);
 484         return 0;
 485 }
 486
 487 __setup("nomce", mcheck_disable);
 488 __setup("mce", mcheck_enable);
 489
 490 /*
 491  * Sysfs support
 492  */
 493
 494 /* On resume clear all MCE state. Don't want to see leftovers from the BIOS. */
 495 static int mce_resume(struct sys_device *dev)
 496 {
 497         on_each_cpu(mce_init, NULL, 1, 1);
 498         return 0;
 499 }
 500
 501 /* Reinit MCEs after user configuration changes */
 502 static void mce_restart(void)
 503 {
 504         if (check_interval)
 505                 cancel_delayed_work(&mcheck_work);
 506         /* Timer race is harmless here */
 507         on_each_cpu(mce_init, NULL, 1, 1);
 508         if (check_interval)
 509                 schedule_delayed_work(&mcheck_work, check_interval*HZ);
 510 }
 511
 512 static struct sysdev_class mce_sysclass = {
 513         .resume = mce_resume,
 514         set_kset_name("machinecheck"),
 515 };
 516
 517 static struct sys_device device_mce = {
 518         .id     = 0,
 519         .cls    = &mce_sysclass,
 520 };
 521
 522 /* Why are there no generic functions for this? */
 523 #define ACCESSOR(name, var, start) \
 524         static ssize_t show_ ## name(struct sys_device *s, char *buf) {                    \
 525                 return sprintf(buf, "%lx\n", (unsigned long)var);                  \
 526         }                                                                          \
 527         static ssize_t set_ ## name(struct sys_device *s,const char *buf,size_t siz) { \
 528                 char *end;                                                         \
 529                 unsigned long new = simple_strtoul(buf, &end, 0);                  \
 530                 if (end == buf) return -EINVAL;                                    \
 531                 var = new;                                                         \
 532                 start;                                                             \
 533                 return end-buf;                                                    \
 534         }                                                                          \
 535         static SYSDEV_ATTR(name, 0644, show_ ## name, set_ ## name);
 536
 537 ACCESSOR(bank0ctl,bank[0],mce_restart())
 538 ACCESSOR(bank1ctl,bank[1],mce_restart())
 539 ACCESSOR(bank2ctl,bank[2],mce_restart())
 540 ACCESSOR(bank3ctl,bank[3],mce_restart())
 541 ACCESSOR(bank4ctl,bank[4],mce_restart())
 542 ACCESSOR(tolerant,tolerant,)
 543 ACCESSOR(check_interval,check_interval,mce_restart())
 544
 545 static __cpuinit int mce_init_device(void)
 546 {
 547         int err;
 548         if (!mce_available(&boot_cpu_data))
 549                 return -EIO;
 550         err = sysdev_class_register(&mce_sysclass);
 551         if (!err)
 552                 err = sysdev_register(&device_mce);
 553         if (!err) {
 554                 /* could create per CPU objects, but it is not worth it. */
 555                 sysdev_create_file(&device_mce, &attr_bank0ctl);
 556                 sysdev_create_file(&device_mce, &attr_bank1ctl);
 557                 sysdev_create_file(&device_mce, &attr_bank2ctl);
 558                 sysdev_create_file(&device_mce, &attr_bank3ctl);
 559                 sysdev_create_file(&device_mce, &attr_bank4ctl);
 560                 sysdev_create_file(&device_mce, &attr_tolerant);
 561                 sysdev_create_file(&device_mce, &attr_check_interval);
 562         }
 563
 564         misc_register(&mce_log_device);
 565         return err;
 566
 567 }
 568 device_initcall(mce_init_device);