arch/powerpc/kernel/sysfs.c

   1 #include <linux/sysdev.h>
   2 #include <linux/cpu.h>
   3 #include <linux/smp.h>
   4 #include <linux/percpu.h>
   5 #include <linux/init.h>
   6 #include <linux/sched.h>
   7 #include <linux/module.h>
   8 #include <linux/nodemask.h>
   9 #include <linux/cpumask.h>
  10 #include <linux/notifier.h>
  11
  12 #include <asm/current.h>
  13 #include <asm/processor.h>
  14 #include <asm/cputable.h>
  15 #include <asm/firmware.h>
  16 #include <asm/hvcall.h>
  17 #include <asm/prom.h>
  18 #include <asm/machdep.h>
  19 #include <asm/smp.h>
  20
  21 #include "cacheinfo.h"
  22
  23 #ifdef CONFIG_PPC64
  24 #include <asm/paca.h>
  25 #include <asm/lppaca.h>
  26 #endif
  27
  28 static DEFINE_PER_CPU(struct cpu, cpu_devices);
  29
  30 /*
  31  * SMT snooze delay stuff, 64-bit only for now
  32  */
  33
  34 #ifdef CONFIG_PPC64
  35
  36 /* Time in microseconds we delay before sleeping in the idle loop */
  37 DEFINE_PER_CPU(unsigned long, smt_snooze_delay) = { 100 };
  38
  39 static ssize_t store_smt_snooze_delay(struct sys_device *dev,
  40                                       struct sysdev_attribute *attr,
  41                                       const char *buf,
  42                                       size_t count)
  43 {
  44         struct cpu *cpu = container_of(dev, struct cpu, sysdev);
  45         ssize_t ret;
  46         unsigned long snooze;
  47
  48         ret = sscanf(buf, "%lu", &snooze);
  49         if (ret != 1)
  50                 return -EINVAL;
  51
  52         per_cpu(smt_snooze_delay, cpu->sysdev.id) = snooze;
  53
  54         return count;
  55 }
  56
  57 static ssize_t show_smt_snooze_delay(struct sys_device *dev,
  58                                      struct sysdev_attribute *attr,
  59                                      char *buf)
  60 {
  61         struct cpu *cpu = container_of(dev, struct cpu, sysdev);
  62
  63         return sprintf(buf, "%lu\n", per_cpu(smt_snooze_delay, cpu->sysdev.id));
  64 }
  65
  66 static SYSDEV_ATTR(smt_snooze_delay, 0644, show_smt_snooze_delay,
  67                    store_smt_snooze_delay);
  68
  69 /* Only parse OF options if the matching cmdline option was not specified */
  70 static int smt_snooze_cmdline;
  71
  72 static int __init smt_setup(void)
  73 {
  74         struct device_node *options;
  75         const unsigned int *val;
  76         unsigned int cpu;
  77
  78         if (!cpu_has_feature(CPU_FTR_SMT))
  79                 return -ENODEV;
  80
  81         options = of_find_node_by_path("/options");
  82         if (!options)
  83                 return -ENODEV;
  84
  85         val = of_get_property(options, "ibm,smt-snooze-delay", NULL);
  86         if (!smt_snooze_cmdline && val) {
  87                 for_each_possible_cpu(cpu)
  88                         per_cpu(smt_snooze_delay, cpu) = *val;
  89         }
  90
  91         of_node_put(options);
  92         return 0;
  93 }
  94 __initcall(smt_setup);
  95
  96 static int __init setup_smt_snooze_delay(char *str)
  97 {
  98         unsigned int cpu;
  99         int snooze;
 100
 101         if (!cpu_has_feature(CPU_FTR_SMT))
 102                 return 1;
 103
 104         smt_snooze_cmdline = 1;
 105
 106         if (get_option(&str, &snooze)) {
 107                 for_each_possible_cpu(cpu)
 108                         per_cpu(smt_snooze_delay, cpu) = snooze;
 109         }
 110
 111         return 1;
 112 }
 113 __setup("smt-snooze-delay=", setup_smt_snooze_delay);
 114
 115 #endif /* CONFIG_PPC64 */
 116
 117 /*
 118  * Enabling PMCs will slow partition context switch times so we only do
 119  * it the first time we write to the PMCs.
 120  */
 121
 122 static DEFINE_PER_CPU(char, pmcs_enabled);
 123
 124 void ppc_enable_pmcs(void)
 125 {
 126         /* Only need to enable them once */
 127         if (__get_cpu_var(pmcs_enabled))
 128                 return;
 129
 130         __get_cpu_var(pmcs_enabled) = 1;
 131
 132         if (ppc_md.enable_pmcs)
 133                 ppc_md.enable_pmcs();
 134 }
 135 EXPORT_SYMBOL(ppc_enable_pmcs);
 136
 137 #if defined(CONFIG_6xx) || defined(CONFIG_PPC64)
 138 /* XXX convert to rusty's on_one_cpu */
 139 static unsigned long run_on_cpu(unsigned long cpu,
 140                                 unsigned long (*func)(unsigned long),
 141                                 unsigned long arg)
 142 {
 143         cpumask_t old_affinity = current->cpus_allowed;
 144         unsigned long ret;
 145
 146         /* should return -EINVAL to userspace */
 147         if (set_cpus_allowed(current, cpumask_of_cpu(cpu)))
 148                 return 0;
 149
 150         ret = func(arg);
 151
 152         set_cpus_allowed(current, old_affinity);
 153
 154         return ret;
 155 }
 156 #endif
 157
 158 #define SYSFS_PMCSETUP(NAME, ADDRESS) \
 159 static unsigned long read_##NAME(unsigned long junk) \
 160 { \
 161         return mfspr(ADDRESS); \
 162 } \
 163 static unsigned long write_##NAME(unsigned long val) \
 164 { \
 165         ppc_enable_pmcs(); \
 166         mtspr(ADDRESS, val); \
 167         return 0; \
 168 } \
 169 static ssize_t show_##NAME(struct sys_device *dev, \
 170                         struct sysdev_attribute *attr, \
 171                         char *buf) \
 172 { \
 173         struct cpu *cpu = container_of(dev, struct cpu, sysdev); \
 174         unsigned long val = run_on_cpu(cpu->sysdev.id, read_##NAME, 0); \
 175         return sprintf(buf, "%lx\n", val); \
 176 } \
 177 static ssize_t __used \
 178         store_##NAME(struct sys_device *dev, struct sysdev_attribute *attr, \
 179                         const char *buf, size_t count) \
 180 { \
 181         struct cpu *cpu = container_of(dev, struct cpu, sysdev); \
 182         unsigned long val; \
 183         int ret = sscanf(buf, "%lx", &val); \
 184         if (ret != 1) \
 185                 return -EINVAL; \
 186         run_on_cpu(cpu->sysdev.id, write_##NAME, val); \
 187         return count; \
 188 }
 189
 190
 191 /* Let's define all possible registers, we'll only hook up the ones
 192  * that are implemented on the current processor
 193  */
 194
 195 #if defined(CONFIG_PPC64)
 196 #define HAS_PPC_PMC_CLASSIC     1
 197 #define HAS_PPC_PMC_IBM         1
 198 #define HAS_PPC_PMC_PA6T        1
 199 #elif defined(CONFIG_6xx)
 200 #define HAS_PPC_PMC_CLASSIC     1
 201 #define HAS_PPC_PMC_IBM         1
 202 #define HAS_PPC_PMC_G4          1
 203 #endif
 204
 205
 206 #ifdef HAS_PPC_PMC_CLASSIC
 207 SYSFS_PMCSETUP(mmcr0, SPRN_MMCR0);
 208 SYSFS_PMCSETUP(mmcr1, SPRN_MMCR1);
 209 SYSFS_PMCSETUP(pmc1, SPRN_PMC1);
 210 SYSFS_PMCSETUP(pmc2, SPRN_PMC2);
 211 SYSFS_PMCSETUP(pmc3, SPRN_PMC3);
 212 SYSFS_PMCSETUP(pmc4, SPRN_PMC4);
 213 SYSFS_PMCSETUP(pmc5, SPRN_PMC5);
 214 SYSFS_PMCSETUP(pmc6, SPRN_PMC6);
 215
 216 #ifdef HAS_PPC_PMC_G4
 217 SYSFS_PMCSETUP(mmcr2, SPRN_MMCR2);
 218 #endif
 219
 220 #ifdef CONFIG_PPC64
 221 SYSFS_PMCSETUP(pmc7, SPRN_PMC7);
 222 SYSFS_PMCSETUP(pmc8, SPRN_PMC8);
 223
 224 SYSFS_PMCSETUP(mmcra, SPRN_MMCRA);
 225 SYSFS_PMCSETUP(purr, SPRN_PURR);
 226 SYSFS_PMCSETUP(spurr, SPRN_SPURR);
 227 SYSFS_PMCSETUP(dscr, SPRN_DSCR);
 228
 229 static SYSDEV_ATTR(mmcra, 0600, show_mmcra, store_mmcra);
 230 static SYSDEV_ATTR(spurr, 0600, show_spurr, NULL);
 231 static SYSDEV_ATTR(dscr, 0600, show_dscr, store_dscr);
 232 static SYSDEV_ATTR(purr, 0600, show_purr, store_purr);
 233 #endif /* CONFIG_PPC64 */
 234
 235 #ifdef HAS_PPC_PMC_PA6T
 236 SYSFS_PMCSETUP(pa6t_pmc0, SPRN_PA6T_PMC0);
 237 SYSFS_PMCSETUP(pa6t_pmc1, SPRN_PA6T_PMC1);
 238 SYSFS_PMCSETUP(pa6t_pmc2, SPRN_PA6T_PMC2);
 239 SYSFS_PMCSETUP(pa6t_pmc3, SPRN_PA6T_PMC3);
 240 SYSFS_PMCSETUP(pa6t_pmc4, SPRN_PA6T_PMC4);
 241 SYSFS_PMCSETUP(pa6t_pmc5, SPRN_PA6T_PMC5);
 242 #ifdef CONFIG_DEBUG_KERNEL
 243 SYSFS_PMCSETUP(hid0, SPRN_HID0);
 244 SYSFS_PMCSETUP(hid1, SPRN_HID1);
 245 SYSFS_PMCSETUP(hid4, SPRN_HID4);
 246 SYSFS_PMCSETUP(hid5, SPRN_HID5);
 247 SYSFS_PMCSETUP(ima0, SPRN_PA6T_IMA0);
 248 SYSFS_PMCSETUP(ima1, SPRN_PA6T_IMA1);
 249 SYSFS_PMCSETUP(ima2, SPRN_PA6T_IMA2);
 250 SYSFS_PMCSETUP(ima3, SPRN_PA6T_IMA3);
 251 SYSFS_PMCSETUP(ima4, SPRN_PA6T_IMA4);
 252 SYSFS_PMCSETUP(ima5, SPRN_PA6T_IMA5);
 253 SYSFS_PMCSETUP(ima6, SPRN_PA6T_IMA6);
 254 SYSFS_PMCSETUP(ima7, SPRN_PA6T_IMA7);
 255 SYSFS_PMCSETUP(ima8, SPRN_PA6T_IMA8);
 256 SYSFS_PMCSETUP(ima9, SPRN_PA6T_IMA9);
 257 SYSFS_PMCSETUP(imaat, SPRN_PA6T_IMAAT);
 258 SYSFS_PMCSETUP(btcr, SPRN_PA6T_BTCR);
 259 SYSFS_PMCSETUP(pccr, SPRN_PA6T_PCCR);
 260 SYSFS_PMCSETUP(rpccr, SPRN_PA6T_RPCCR);
 261 SYSFS_PMCSETUP(der, SPRN_PA6T_DER);
 262 SYSFS_PMCSETUP(mer, SPRN_PA6T_MER);
 263 SYSFS_PMCSETUP(ber, SPRN_PA6T_BER);
 264 SYSFS_PMCSETUP(ier, SPRN_PA6T_IER);
 265 SYSFS_PMCSETUP(sier, SPRN_PA6T_SIER);
 266 SYSFS_PMCSETUP(siar, SPRN_PA6T_SIAR);
 267 SYSFS_PMCSETUP(tsr0, SPRN_PA6T_TSR0);
 268 SYSFS_PMCSETUP(tsr1, SPRN_PA6T_TSR1);
 269 SYSFS_PMCSETUP(tsr2, SPRN_PA6T_TSR2);
 270 SYSFS_PMCSETUP(tsr3, SPRN_PA6T_TSR3);
 271 #endif /* CONFIG_DEBUG_KERNEL */
 272 #endif /* HAS_PPC_PMC_PA6T */
 273
 274 #ifdef HAS_PPC_PMC_IBM
 275 static struct sysdev_attribute ibm_common_attrs[] = {
 276         _SYSDEV_ATTR(mmcr0, 0600, show_mmcr0, store_mmcr0),
 277         _SYSDEV_ATTR(mmcr1, 0600, show_mmcr1, store_mmcr1),
 278 };
 279 #endif /* HAS_PPC_PMC_G4 */
 280
 281 #ifdef HAS_PPC_PMC_G4
 282 static struct sysdev_attribute g4_common_attrs[] = {
 283         _SYSDEV_ATTR(mmcr0, 0600, show_mmcr0, store_mmcr0),
 284         _SYSDEV_ATTR(mmcr1, 0600, show_mmcr1, store_mmcr1),
 285         _SYSDEV_ATTR(mmcr2, 0600, show_mmcr2, store_mmcr2),
 286 };
 287 #endif /* HAS_PPC_PMC_G4 */
 288
 289 static struct sysdev_attribute classic_pmc_attrs[] = {
 290         _SYSDEV_ATTR(pmc1, 0600, show_pmc1, store_pmc1),
 291         _SYSDEV_ATTR(pmc2, 0600, show_pmc2, store_pmc2),
 292         _SYSDEV_ATTR(pmc3, 0600, show_pmc3, store_pmc3),
 293         _SYSDEV_ATTR(pmc4, 0600, show_pmc4, store_pmc4),
 294         _SYSDEV_ATTR(pmc5, 0600, show_pmc5, store_pmc5),
 295         _SYSDEV_ATTR(pmc6, 0600, show_pmc6, store_pmc6),
 296 #ifdef CONFIG_PPC64
 297         _SYSDEV_ATTR(pmc7, 0600, show_pmc7, store_pmc7),
 298         _SYSDEV_ATTR(pmc8, 0600, show_pmc8, store_pmc8),
 299 #endif
 300 };
 301
 302 #ifdef HAS_PPC_PMC_PA6T
 303 static struct sysdev_attribute pa6t_attrs[] = {
 304         _SYSDEV_ATTR(mmcr0, 0600, show_mmcr0, store_mmcr0),
 305         _SYSDEV_ATTR(mmcr1, 0600, show_mmcr1, store_mmcr1),
 306         _SYSDEV_ATTR(pmc0, 0600, show_pa6t_pmc0, store_pa6t_pmc0),
 307         _SYSDEV_ATTR(pmc1, 0600, show_pa6t_pmc1, store_pa6t_pmc1),
 308         _SYSDEV_ATTR(pmc2, 0600, show_pa6t_pmc2, store_pa6t_pmc2),
 309         _SYSDEV_ATTR(pmc3, 0600, show_pa6t_pmc3, store_pa6t_pmc3),
 310         _SYSDEV_ATTR(pmc4, 0600, show_pa6t_pmc4, store_pa6t_pmc4),
 311         _SYSDEV_ATTR(pmc5, 0600, show_pa6t_pmc5, store_pa6t_pmc5),
 312 #ifdef CONFIG_DEBUG_KERNEL
 313         _SYSDEV_ATTR(hid0, 0600, show_hid0, store_hid0),
 314         _SYSDEV_ATTR(hid1, 0600, show_hid1, store_hid1),
 315         _SYSDEV_ATTR(hid4, 0600, show_hid4, store_hid4),
 316         _SYSDEV_ATTR(hid5, 0600, show_hid5, store_hid5),
 317         _SYSDEV_ATTR(ima0, 0600, show_ima0, store_ima0),
 318         _SYSDEV_ATTR(ima1, 0600, show_ima1, store_ima1),
 319         _SYSDEV_ATTR(ima2, 0600, show_ima2, store_ima2),
 320         _SYSDEV_ATTR(ima3, 0600, show_ima3, store_ima3),
 321         _SYSDEV_ATTR(ima4, 0600, show_ima4, store_ima4),
 322         _SYSDEV_ATTR(ima5, 0600, show_ima5, store_ima5),
 323         _SYSDEV_ATTR(ima6, 0600, show_ima6, store_ima6),
 324         _SYSDEV_ATTR(ima7, 0600, show_ima7, store_ima7),
 325         _SYSDEV_ATTR(ima8, 0600, show_ima8, store_ima8),
 326         _SYSDEV_ATTR(ima9, 0600, show_ima9, store_ima9),
 327         _SYSDEV_ATTR(imaat, 0600, show_imaat, store_imaat),
 328         _SYSDEV_ATTR(btcr, 0600, show_btcr, store_btcr),
 329         _SYSDEV_ATTR(pccr, 0600, show_pccr, store_pccr),
 330         _SYSDEV_ATTR(rpccr, 0600, show_rpccr, store_rpccr),
 331         _SYSDEV_ATTR(der, 0600, show_der, store_der),
 332         _SYSDEV_ATTR(mer, 0600, show_mer, store_mer),
 333         _SYSDEV_ATTR(ber, 0600, show_ber, store_ber),
 334         _SYSDEV_ATTR(ier, 0600, show_ier, store_ier),
 335         _SYSDEV_ATTR(sier, 0600, show_sier, store_sier),
 336         _SYSDEV_ATTR(siar, 0600, show_siar, store_siar),
 337         _SYSDEV_ATTR(tsr0, 0600, show_tsr0, store_tsr0),
 338         _SYSDEV_ATTR(tsr1, 0600, show_tsr1, store_tsr1),
 339         _SYSDEV_ATTR(tsr2, 0600, show_tsr2, store_tsr2),
 340         _SYSDEV_ATTR(tsr3, 0600, show_tsr3, store_tsr3),
 341 #endif /* CONFIG_DEBUG_KERNEL */
 342 };
 343 #endif /* HAS_PPC_PMC_PA6T */
 344 #endif /* HAS_PPC_PMC_CLASSIC */
 345
 346 static void __cpuinit register_cpu_online(unsigned int cpu)
 347 {
 348         struct cpu *c = &per_cpu(cpu_devices, cpu);
 349         struct sys_device *s = &c->sysdev;
 350         struct sysdev_attribute *attrs, *pmc_attrs;
 351         int i, nattrs;
 352
 353 #ifdef CONFIG_PPC64
 354         if (!firmware_has_feature(FW_FEATURE_ISERIES) &&
 355                         cpu_has_feature(CPU_FTR_SMT))
 356                 sysdev_create_file(s, &attr_smt_snooze_delay);
 357 #endif
 358
 359         /* PMC stuff */
 360         switch (cur_cpu_spec->pmc_type) {
 361 #ifdef HAS_PPC_PMC_IBM
 362         case PPC_PMC_IBM:
 363                 attrs = ibm_common_attrs;
 364                 nattrs = sizeof(ibm_common_attrs) / sizeof(struct sysdev_attribute);
 365                 pmc_attrs = classic_pmc_attrs;
 366                 break;
 367 #endif /* HAS_PPC_PMC_IBM */
 368 #ifdef HAS_PPC_PMC_G4
 369         case PPC_PMC_G4:
 370                 attrs = g4_common_attrs;
 371                 nattrs = sizeof(g4_common_attrs) / sizeof(struct sysdev_attribute);
 372                 pmc_attrs = classic_pmc_attrs;
 373                 break;
 374 #endif /* HAS_PPC_PMC_G4 */
 375 #ifdef HAS_PPC_PMC_PA6T
 376         case PPC_PMC_PA6T:
 377                 /* PA Semi starts counting at PMC0 */
 378                 attrs = pa6t_attrs;
 379                 nattrs = sizeof(pa6t_attrs) / sizeof(struct sysdev_attribute);
 380                 pmc_attrs = NULL;
 381                 break;
 382 #endif /* HAS_PPC_PMC_PA6T */
 383         default:
 384                 attrs = NULL;
 385                 nattrs = 0;
 386                 pmc_attrs = NULL;
 387         }
 388
 389         for (i = 0; i < nattrs; i++)
 390                 sysdev_create_file(s, &attrs[i]);
 391
 392         if (pmc_attrs)
 393                 for (i = 0; i < cur_cpu_spec->num_pmcs; i++)
 394                         sysdev_create_file(s, &pmc_attrs[i]);
 395
 396 #ifdef CONFIG_PPC64
 397         if (cpu_has_feature(CPU_FTR_MMCRA))
 398                 sysdev_create_file(s, &attr_mmcra);
 399
 400         if (cpu_has_feature(CPU_FTR_PURR))
 401                 sysdev_create_file(s, &attr_purr);
 402
 403         if (cpu_has_feature(CPU_FTR_SPURR))
 404                 sysdev_create_file(s, &attr_spurr);
 405
 406         if (cpu_has_feature(CPU_FTR_DSCR))
 407                 sysdev_create_file(s, &attr_dscr);
 408 #endif /* CONFIG_PPC64 */
 409
 410         cacheinfo_cpu_online(cpu);
 411 }
 412
 413 #ifdef CONFIG_HOTPLUG_CPU
 414 static void unregister_cpu_online(unsigned int cpu)
 415 {
 416         struct cpu *c = &per_cpu(cpu_devices, cpu);
 417         struct sys_device *s = &c->sysdev;
 418         struct sysdev_attribute *attrs, *pmc_attrs;
 419         int i, nattrs;
 420
 421         BUG_ON(!c->hotpluggable);
 422
 423 #ifdef CONFIG_PPC64
 424         if (!firmware_has_feature(FW_FEATURE_ISERIES) &&
 425                         cpu_has_feature(CPU_FTR_SMT))
 426                 sysdev_remove_file(s, &attr_smt_snooze_delay);
 427 #endif
 428
 429         /* PMC stuff */
 430         switch (cur_cpu_spec->pmc_type) {
 431 #ifdef HAS_PPC_PMC_IBM
 432         case PPC_PMC_IBM:
 433                 attrs = ibm_common_attrs;
 434                 nattrs = sizeof(ibm_common_attrs) / sizeof(struct sysdev_attribute);
 435                 pmc_attrs = classic_pmc_attrs;
 436                 break;
 437 #endif /* HAS_PPC_PMC_IBM */
 438 #ifdef HAS_PPC_PMC_G4
 439         case PPC_PMC_G4:
 440                 attrs = g4_common_attrs;
 441                 nattrs = sizeof(g4_common_attrs) / sizeof(struct sysdev_attribute);
 442                 pmc_attrs = classic_pmc_attrs;
 443                 break;
 444 #endif /* HAS_PPC_PMC_G4 */
 445 #ifdef HAS_PPC_PMC_PA6T
 446         case PPC_PMC_PA6T:
 447                 /* PA Semi starts counting at PMC0 */
 448                 attrs = pa6t_attrs;
 449                 nattrs = sizeof(pa6t_attrs) / sizeof(struct sysdev_attribute);
 450                 pmc_attrs = NULL;
 451                 break;
 452 #endif /* HAS_PPC_PMC_PA6T */
 453         default:
 454                 attrs = NULL;
 455                 nattrs = 0;
 456                 pmc_attrs = NULL;
 457         }
 458
 459         for (i = 0; i < nattrs; i++)
 460                 sysdev_remove_file(s, &attrs[i]);
 461
 462         if (pmc_attrs)
 463                 for (i = 0; i < cur_cpu_spec->num_pmcs; i++)
 464                         sysdev_remove_file(s, &pmc_attrs[i]);
 465
 466 #ifdef CONFIG_PPC64
 467         if (cpu_has_feature(CPU_FTR_MMCRA))
 468                 sysdev_remove_file(s, &attr_mmcra);
 469
 470         if (cpu_has_feature(CPU_FTR_PURR))
 471                 sysdev_remove_file(s, &attr_purr);
 472
 473         if (cpu_has_feature(CPU_FTR_SPURR))
 474                 sysdev_remove_file(s, &attr_spurr);
 475
 476         if (cpu_has_feature(CPU_FTR_DSCR))
 477                 sysdev_remove_file(s, &attr_dscr);
 478 #endif /* CONFIG_PPC64 */
 479
 480         cacheinfo_cpu_offline(cpu);
 481 }
 482 #endif /* CONFIG_HOTPLUG_CPU */
 483
 484 static int __cpuinit sysfs_cpu_notify(struct notifier_block *self,
 485                                       unsigned long action, void *hcpu)
 486 {
 487         unsigned int cpu = (unsigned int)(long)hcpu;
 488
 489         switch (action) {
 490         case CPU_ONLINE:
 491         case CPU_ONLINE_FROZEN:
 492                 register_cpu_online(cpu);
 493                 break;
 494 #ifdef CONFIG_HOTPLUG_CPU
 495         case CPU_DEAD:
 496         case CPU_DEAD_FROZEN:
 497                 unregister_cpu_online(cpu);
 498                 break;
 499 #endif
 500         }
 501         return NOTIFY_OK;
 502 }
 503
 504 static struct notifier_block __cpuinitdata sysfs_cpu_nb = {
 505         .notifier_call  = sysfs_cpu_notify,
 506 };
 507
 508 static DEFINE_MUTEX(cpu_mutex);
 509
 510 int cpu_add_sysdev_attr(struct sysdev_attribute *attr)
 511 {
 512         int cpu;
 513
 514         mutex_lock(&cpu_mutex);
 515
 516         for_each_possible_cpu(cpu) {
 517                 sysdev_create_file(get_cpu_sysdev(cpu), attr);
 518         }
 519
 520         mutex_unlock(&cpu_mutex);
 521         return 0;
 522 }
 523 EXPORT_SYMBOL_GPL(cpu_add_sysdev_attr);
 524
 525 int cpu_add_sysdev_attr_group(struct attribute_group *attrs)
 526 {
 527         int cpu;
 528         struct sys_device *sysdev;
 529         int ret;
 530
 531         mutex_lock(&cpu_mutex);
 532
 533         for_each_possible_cpu(cpu) {
 534                 sysdev = get_cpu_sysdev(cpu);
 535                 ret = sysfs_create_group(&sysdev->kobj, attrs);
 536                 WARN_ON(ret != 0);
 537         }
 538
 539         mutex_unlock(&cpu_mutex);
 540         return 0;
 541 }
 542 EXPORT_SYMBOL_GPL(cpu_add_sysdev_attr_group);
 543
 544
 545 void cpu_remove_sysdev_attr(struct sysdev_attribute *attr)
 546 {
 547         int cpu;
 548
 549         mutex_lock(&cpu_mutex);
 550
 551         for_each_possible_cpu(cpu) {
 552                 sysdev_remove_file(get_cpu_sysdev(cpu), attr);
 553         }
 554
 555         mutex_unlock(&cpu_mutex);
 556 }
 557 EXPORT_SYMBOL_GPL(cpu_remove_sysdev_attr);
 558
 559 void cpu_remove_sysdev_attr_group(struct attribute_group *attrs)
 560 {
 561         int cpu;
 562         struct sys_device *sysdev;
 563
 564         mutex_lock(&cpu_mutex);
 565
 566         for_each_possible_cpu(cpu) {
 567                 sysdev = get_cpu_sysdev(cpu);
 568                 sysfs_remove_group(&sysdev->kobj, attrs);
 569         }
 570
 571         mutex_unlock(&cpu_mutex);
 572 }
 573 EXPORT_SYMBOL_GPL(cpu_remove_sysdev_attr_group);
 574
 575
 576 /* NUMA stuff */
 577
 578 #ifdef CONFIG_NUMA
 579 static void register_nodes(void)
 580 {
 581         int i;
 582
 583         for (i = 0; i < MAX_NUMNODES; i++)
 584                 register_one_node(i);
 585 }
 586
 587 int sysfs_add_device_to_node(struct sys_device *dev, int nid)
 588 {
 589         struct node *node = &node_devices[nid];
 590         return sysfs_create_link(&node->sysdev.kobj, &dev->kobj,
 591                         kobject_name(&dev->kobj));
 592 }
 593 EXPORT_SYMBOL_GPL(sysfs_add_device_to_node);
 594
 595 void sysfs_remove_device_from_node(struct sys_device *dev, int nid)
 596 {
 597         struct node *node = &node_devices[nid];
 598         sysfs_remove_link(&node->sysdev.kobj, kobject_name(&dev->kobj));
 599 }
 600 EXPORT_SYMBOL_GPL(sysfs_remove_device_from_node);
 601
 602 #else
 603 static void register_nodes(void)
 604 {
 605         return;
 606 }
 607
 608 #endif
 609
 610 /* Only valid if CPU is present. */
 611 static ssize_t show_physical_id(struct sys_device *dev,
 612                                 struct sysdev_attribute *attr, char *buf)
 613 {
 614         struct cpu *cpu = container_of(dev, struct cpu, sysdev);
 615
 616         return sprintf(buf, "%d\n", get_hard_smp_processor_id(cpu->sysdev.id));
 617 }
 618 static SYSDEV_ATTR(physical_id, 0444, show_physical_id, NULL);
 619
 620 static int __init topology_init(void)
 621 {
 622         int cpu;
 623
 624         register_nodes();
 625         register_cpu_notifier(&sysfs_cpu_nb);
 626
 627         for_each_possible_cpu(cpu) {
 628                 struct cpu *c = &per_cpu(cpu_devices, cpu);
 629
 630                 /*
 631                  * For now, we just see if the system supports making
 632                  * the RTAS calls for CPU hotplug.  But, there may be a
 633                  * more comprehensive way to do this for an individual
 634                  * CPU.  For instance, the boot cpu might never be valid
 635                  * for hotplugging.
 636                  */
 637                 if (ppc_md.cpu_die)
 638                         c->hotpluggable = 1;
 639
 640                 if (cpu_online(cpu) || c->hotpluggable) {
 641                         register_cpu(c, cpu);
 642
 643                         sysdev_create_file(&c->sysdev, &attr_physical_id);
 644                 }
 645
 646                 if (cpu_online(cpu))
 647                         register_cpu_online(cpu);
 648         }
 649
 650         return 0;
 651 }
 652 subsys_initcall(topology_init);