arch/powerpc/platforms/cell/cbe_cpufreq.c

   1 /*
   2  * cpufreq driver for the cell processor
   3  *
   4  * (C) Copyright IBM Deutschland Entwicklung GmbH 2005
   5  *
   6  * Author: Christian Krafft <krafft@de.ibm.com>
   7  *
   8  * This program is free software; you can redistribute it and/or modify
   9  * it under the terms of the GNU General Public License as published by
  10  * the Free Software Foundation; either version 2, or (at your option)
  11  * any later version.
  12  *
  13  * This program is distributed in the hope that it will be useful,
  14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  16  * GNU General Public License for more details.
  17  *
  18  * You should have received a copy of the GNU General Public License
  19  * along with this program; if not, write to the Free Software
  20  * Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
  21  */
  22
  23 #include <linux/cpufreq.h>
  24 #include <linux/timer.h>
  25
  26 #include <asm/hw_irq.h>
  27 #include <asm/io.h>
  28 #include <asm/machdep.h>
  29 #include <asm/processor.h>
  30 #include <asm/prom.h>
  31 #include <asm/time.h>
  32 #include <asm/pmi.h>
  33 #include <asm/of_platform.h>
  34
  35 #include "cbe_regs.h"
  36
  37 static DEFINE_MUTEX(cbe_switch_mutex);
  38
  39
  40 /* the CBE supports an 8 step frequency scaling */
  41 static struct cpufreq_frequency_table cbe_freqs[] = {
  42         {1,     0},
  43         {2,     0},
  44         {3,     0},
  45         {4,     0},
  46         {5,     0},
  47         {6,     0},
  48         {8,     0},
  49         {10,    0},
  50         {0,     CPUFREQ_TABLE_END},
  51 };
  52
  53 /* to write to MIC register */
  54 static u64 MIC_Slow_Fast_Timer_table[] = {
  55         [0 ... 7] = 0x007fc00000000000ull,
  56 };
  57
  58 /* more values for the MIC */
  59 static u64 MIC_Slow_Next_Timer_table[] = {
  60         0x0000240000000000ull,
  61         0x0000268000000000ull,
  62         0x000029C000000000ull,
  63         0x00002D0000000000ull,
  64         0x0000300000000000ull,
  65         0x0000334000000000ull,
  66         0x000039C000000000ull,
  67         0x00003FC000000000ull,
  68 };
  69
  70 static unsigned int pmi_frequency_limit = 0;
  71 /*
  72  * hardware specific functions
  73  */
  74
  75 static struct of_device *pmi_dev;
  76
  77 #ifdef CONFIG_PPC_PMI
  78 static int set_pmode_pmi(int cpu, unsigned int pmode)
  79 {
  80         int ret;
  81         pmi_message_t pmi_msg;
  82 #ifdef DEBUG
  83         u64 time;
  84 #endif
  85
  86         pmi_msg.type = PMI_TYPE_FREQ_CHANGE;
  87         pmi_msg.data1 = cbe_cpu_to_node(cpu);
  88         pmi_msg.data2 = pmode;
  89
  90 #ifdef DEBUG
  91         time = (u64) get_cycles();
  92 #endif
  93
  94         pmi_send_message(pmi_dev, pmi_msg);
  95         ret = pmi_msg.data2;
  96
  97         pr_debug("PMI returned slow mode %d\n", ret);
  98
  99 #ifdef DEBUG
 100         time = (u64) get_cycles() - time; /* actual cycles (not cpu cycles!) */
 101         time = 1000000000 * time / CLOCK_TICK_RATE; /* time in ns (10^-9) */
 102         pr_debug("had to wait %lu ns for a transition\n", time);
 103 #endif
 104         return ret;
 105 }
 106 #endif
 107
 108 static int get_pmode(int cpu)
 109 {
 110         int ret;
 111         struct cbe_pmd_regs __iomem *pmd_regs;
 112
 113         pmd_regs = cbe_get_cpu_pmd_regs(cpu);
 114         ret = in_be64(&pmd_regs->pmsr) & 0x07;
 115
 116         return ret;
 117 }
 118
 119 static int set_pmode_reg(int cpu, unsigned int pmode)
 120 {
 121         struct cbe_pmd_regs __iomem *pmd_regs;
 122         struct cbe_mic_tm_regs __iomem *mic_tm_regs;
 123         u64 flags;
 124         u64 value;
 125
 126         local_irq_save(flags);
 127
 128         mic_tm_regs = cbe_get_cpu_mic_tm_regs(cpu);
 129         pmd_regs = cbe_get_cpu_pmd_regs(cpu);
 130
 131         pr_debug("pm register is mapped at %p\n", &pmd_regs->pmcr);
 132         pr_debug("mic register is mapped at %p\n", &mic_tm_regs->slow_fast_timer_0);
 133
 134         out_be64(&mic_tm_regs->slow_fast_timer_0, MIC_Slow_Fast_Timer_table[pmode]);
 135         out_be64(&mic_tm_regs->slow_fast_timer_1, MIC_Slow_Fast_Timer_table[pmode]);
 136
 137         out_be64(&mic_tm_regs->slow_next_timer_0, MIC_Slow_Next_Timer_table[pmode]);
 138         out_be64(&mic_tm_regs->slow_next_timer_1, MIC_Slow_Next_Timer_table[pmode]);
 139
 140         value = in_be64(&pmd_regs->pmcr);
 141         /* set bits to zero */
 142         value &= 0xFFFFFFFFFFFFFFF8ull;
 143         /* set bits to next pmode */
 144         value |= pmode;
 145
 146         out_be64(&pmd_regs->pmcr, value);
 147
 148         /* wait until new pmode appears in status register */
 149         value = in_be64(&pmd_regs->pmsr) & 0x07;
 150         while(value != pmode) {
 151                 cpu_relax();
 152                 value = in_be64(&pmd_regs->pmsr) & 0x07;
 153         }
 154
 155         local_irq_restore(flags);
 156
 157         return 0;
 158 }
 159
 160 static int set_pmode(int cpu, unsigned int slow_mode) {
 161 #ifdef CONFIG_PPC_PMI
 162         if (pmi_dev)
 163                 return set_pmode_pmi(cpu, slow_mode);
 164         else
 165 #endif
 166                 return set_pmode_reg(cpu, slow_mode);
 167 }
 168
 169 static void cbe_cpufreq_handle_pmi(struct of_device *dev, pmi_message_t pmi_msg)
 170 {
 171         u8 cpu;
 172         u8 cbe_pmode_new;
 173
 174         BUG_ON(pmi_msg.type != PMI_TYPE_FREQ_CHANGE);
 175
 176         cpu = cbe_node_to_cpu(pmi_msg.data1);
 177         cbe_pmode_new = pmi_msg.data2;
 178
 179         pmi_frequency_limit = cbe_freqs[cbe_pmode_new].frequency;
 180
 181         pr_debug("cbe_handle_pmi: max freq=%d\n", pmi_frequency_limit);
 182 }
 183
 184 static int pmi_notifier(struct notifier_block *nb,
 185                                        unsigned long event, void *data)
 186 {
 187         struct cpufreq_policy *policy = data;
 188
 189         if (event != CPUFREQ_INCOMPATIBLE)
 190                 return 0;
 191
 192         cpufreq_verify_within_limits(policy, 0, pmi_frequency_limit);
 193         return 0;
 194 }
 195
 196 static struct notifier_block pmi_notifier_block = {
 197         .notifier_call = pmi_notifier,
 198 };
 199
 200 static struct pmi_handler cbe_pmi_handler = {
 201         .type                   = PMI_TYPE_FREQ_CHANGE,
 202         .handle_pmi_message     = cbe_cpufreq_handle_pmi,
 203 };
 204
 205
 206 /*
 207  * cpufreq functions
 208  */
 209
 210 static int cbe_cpufreq_cpu_init(struct cpufreq_policy *policy)
 211 {
 212         const u32 *max_freqp;
 213         u32 max_freq;
 214         int i, cur_pmode;
 215         struct device_node *cpu;
 216
 217         cpu = of_get_cpu_node(policy->cpu, NULL);
 218
 219         if (!cpu)
 220                 return -ENODEV;
 221
 222         pr_debug("init cpufreq on CPU %d\n", policy->cpu);
 223
 224         max_freqp = of_get_property(cpu, "clock-frequency", NULL);
 225
 226         if (!max_freqp)
 227                 return -EINVAL;
 228
 229         /* we need the freq in kHz */
 230         max_freq = *max_freqp / 1000;
 231
 232         pr_debug("max clock-frequency is at %u kHz\n", max_freq);
 233         pr_debug("initializing frequency table\n");
 234
 235         /* initialize frequency table */
 236         for (i=0; cbe_freqs[i].frequency!=CPUFREQ_TABLE_END; i++) {
 237                 cbe_freqs[i].frequency = max_freq / cbe_freqs[i].index;
 238                 pr_debug("%d: %d\n", i, cbe_freqs[i].frequency);
 239         }
 240
 241         policy->governor = CPUFREQ_DEFAULT_GOVERNOR;
 242         /* if DEBUG is enabled set_pmode() measures the correct latency of a transition */
 243         policy->cpuinfo.transition_latency = 25000;
 244
 245         cur_pmode = get_pmode(policy->cpu);
 246         pr_debug("current pmode is at %d\n",cur_pmode);
 247
 248         policy->cur = cbe_freqs[cur_pmode].frequency;
 249
 250 #ifdef CONFIG_SMP
 251         policy->cpus = cpu_sibling_map[policy->cpu];
 252 #endif
 253
 254         cpufreq_frequency_table_get_attr(cbe_freqs, policy->cpu);
 255
 256         if (pmi_dev) {
 257                 /* frequency might get limited later, initialize limit with max_freq */
 258                 pmi_frequency_limit = max_freq;
 259                 cpufreq_register_notifier(&pmi_notifier_block, CPUFREQ_POLICY_NOTIFIER);
 260         }
 261
 262         /* this ensures that policy->cpuinfo_min and policy->cpuinfo_max are set correctly */
 263         return cpufreq_frequency_table_cpuinfo(policy, cbe_freqs);
 264 }
 265
 266 static int cbe_cpufreq_cpu_exit(struct cpufreq_policy *policy)
 267 {
 268         if (pmi_dev)
 269                 cpufreq_unregister_notifier(&pmi_notifier_block, CPUFREQ_POLICY_NOTIFIER);
 270
 271         cpufreq_frequency_table_put_attr(policy->cpu);
 272         return 0;
 273 }
 274
 275 static int cbe_cpufreq_verify(struct cpufreq_policy *policy)
 276 {
 277         return cpufreq_frequency_table_verify(policy, cbe_freqs);
 278 }
 279
 280
 281 static int cbe_cpufreq_target(struct cpufreq_policy *policy, unsigned int target_freq,
 282                             unsigned int relation)
 283 {
 284         int rc;
 285         struct cpufreq_freqs freqs;
 286         int cbe_pmode_new;
 287
 288         cpufreq_frequency_table_target(policy,
 289                                        cbe_freqs,
 290                                        target_freq,
 291                                        relation,
 292                                        &cbe_pmode_new);
 293
 294         freqs.old = policy->cur;
 295         freqs.new = cbe_freqs[cbe_pmode_new].frequency;
 296         freqs.cpu = policy->cpu;
 297
 298         mutex_lock(&cbe_switch_mutex);
 299         cpufreq_notify_transition(&freqs, CPUFREQ_PRECHANGE);
 300
 301         pr_debug("setting frequency for cpu %d to %d kHz, 1/%d of max frequency\n",
 302                  policy->cpu,
 303                  cbe_freqs[cbe_pmode_new].frequency,
 304                  cbe_freqs[cbe_pmode_new].index);
 305
 306         rc = set_pmode(policy->cpu, cbe_pmode_new);
 307         cpufreq_notify_transition(&freqs, CPUFREQ_POSTCHANGE);
 308         mutex_unlock(&cbe_switch_mutex);
 309
 310         return rc;
 311 }
 312
 313 static struct cpufreq_driver cbe_cpufreq_driver = {
 314         .verify         = cbe_cpufreq_verify,
 315         .target         = cbe_cpufreq_target,
 316         .init           = cbe_cpufreq_cpu_init,
 317         .exit           = cbe_cpufreq_cpu_exit,
 318         .name           = "cbe-cpufreq",
 319         .owner          = THIS_MODULE,
 320         .flags          = CPUFREQ_CONST_LOOPS,
 321 };
 322
 323 /*
 324  * module init and destoy
 325  */
 326
 327 static int __init cbe_cpufreq_init(void)
 328 {
 329 #ifdef CONFIG_PPC_PMI
 330         struct device_node *np;
 331 #endif
 332         if (!machine_is(cell))
 333                 return -ENODEV;
 334 #ifdef CONFIG_PPC_PMI
 335         np = of_find_node_by_type(NULL, "ibm,pmi");
 336
 337         pmi_dev = of_find_device_by_node(np);
 338
 339         if (pmi_dev)
 340                 pmi_register_handler(pmi_dev, &cbe_pmi_handler);
 341 #endif
 342         return cpufreq_register_driver(&cbe_cpufreq_driver);
 343 }
 344
 345 static void __exit cbe_cpufreq_exit(void)
 346 {
 347 #ifdef CONFIG_PPC_PMI
 348         if (pmi_dev)
 349                 pmi_unregister_handler(pmi_dev, &cbe_pmi_handler);
 350 #endif
 351         cpufreq_unregister_driver(&cbe_cpufreq_driver);
 352 }
 353
 354 module_init(cbe_cpufreq_init);
 355 module_exit(cbe_cpufreq_exit);
 356
 357 MODULE_LICENSE("GPL");
 358 MODULE_AUTHOR("Christian Krafft <krafft@de.ibm.com>");