arch/sparc64/kernel/ds.c

   1 /* ds.c: Domain Services driver for Logical Domains
   2  *
   3  * Copyright (C) 2007 David S. Miller <davem@davemloft.net>
   4  */
   5
   6 #include <linux/kernel.h>
   7 #include <linux/module.h>
   8 #include <linux/types.h>
   9 #include <linux/module.h>
  10 #include <linux/string.h>
  11 #include <linux/slab.h>
  12 #include <linux/sched.h>
  13 #include <linux/delay.h>
  14 #include <linux/mutex.h>
  15 #include <linux/workqueue.h>
  16 #include <linux/cpu.h>
  17
  18 #include <asm/ldc.h>
  19 #include <asm/vio.h>
  20 #include <asm/power.h>
  21 #include <asm/mdesc.h>
  22 #include <asm/head.h>
  23 #include <asm/io.h>
  24 #include <asm/hvtramp.h>
  25
  26 #define DRV_MODULE_NAME         "ds"
  27 #define PFX DRV_MODULE_NAME     ": "
  28 #define DRV_MODULE_VERSION      "1.0"
  29 #define DRV_MODULE_RELDATE      "Jul 11, 2007"
  30
  31 static char version[] __devinitdata =
  32         DRV_MODULE_NAME ".c:v" DRV_MODULE_VERSION " (" DRV_MODULE_RELDATE ")\n";
  33 MODULE_AUTHOR("David S. Miller (davem@davemloft.net)");
  34 MODULE_DESCRIPTION("Sun LDOM domain services driver");
  35 MODULE_LICENSE("GPL");
  36 MODULE_VERSION(DRV_MODULE_VERSION);
  37
  38 struct ds_msg_tag {
  39         __u32                   type;
  40 #define DS_INIT_REQ             0x00
  41 #define DS_INIT_ACK             0x01
  42 #define DS_INIT_NACK            0x02
  43 #define DS_REG_REQ              0x03
  44 #define DS_REG_ACK              0x04
  45 #define DS_REG_NACK             0x05
  46 #define DS_UNREG_REQ            0x06
  47 #define DS_UNREG_ACK            0x07
  48 #define DS_UNREG_NACK           0x08
  49 #define DS_DATA                 0x09
  50 #define DS_NACK                 0x0a
  51
  52         __u32                   len;
  53 };
  54
  55 /* Result codes */
  56 #define DS_OK                   0x00
  57 #define DS_REG_VER_NACK         0x01
  58 #define DS_REG_DUP              0x02
  59 #define DS_INV_HDL              0x03
  60 #define DS_TYPE_UNKNOWN         0x04
  61
  62 struct ds_version {
  63         __u16                   major;
  64         __u16                   minor;
  65 };
  66
  67 struct ds_ver_req {
  68         struct ds_msg_tag       tag;
  69         struct ds_version       ver;
  70 };
  71
  72 struct ds_ver_ack {
  73         struct ds_msg_tag       tag;
  74         __u16                   minor;
  75 };
  76
  77 struct ds_ver_nack {
  78         struct ds_msg_tag       tag;
  79         __u16                   major;
  80 };
  81
  82 struct ds_reg_req {
  83         struct ds_msg_tag       tag;
  84         __u64                   handle;
  85         __u16                   major;
  86         __u16                   minor;
  87         char                    svc_id[0];
  88 };
  89
  90 struct ds_reg_ack {
  91         struct ds_msg_tag       tag;
  92         __u64                   handle;
  93         __u16                   minor;
  94 };
  95
  96 struct ds_reg_nack {
  97         struct ds_msg_tag       tag;
  98         __u64                   handle;
  99         __u16                   major;
 100 };
 101
 102 struct ds_unreg_req {
 103         struct ds_msg_tag       tag;
 104         __u64                   handle;
 105 };
 106
 107 struct ds_unreg_ack {
 108         struct ds_msg_tag       tag;
 109         __u64                   handle;
 110 };
 111
 112 struct ds_unreg_nack {
 113         struct ds_msg_tag       tag;
 114         __u64                   handle;
 115 };
 116
 117 struct ds_data {
 118         struct ds_msg_tag       tag;
 119         __u64                   handle;
 120 };
 121
 122 struct ds_data_nack {
 123         struct ds_msg_tag       tag;
 124         __u64                   handle;
 125         __u64                   result;
 126 };
 127
 128 struct ds_cap_state {
 129         __u64                   handle;
 130
 131         void                    (*data)(struct ldc_channel *lp,
 132                                         struct ds_cap_state *cp,
 133                                         void *buf, int len);
 134
 135         const char              *service_id;
 136
 137         u8                      state;
 138 #define CAP_STATE_UNKNOWN       0x00
 139 #define CAP_STATE_REG_SENT      0x01
 140 #define CAP_STATE_REGISTERED    0x02
 141 };
 142
 143 static void md_update_data(struct ldc_channel *lp, struct ds_cap_state *cp,
 144                            void *buf, int len);
 145 static void domain_shutdown_data(struct ldc_channel *lp,
 146                                  struct ds_cap_state *cp,
 147                                  void *buf, int len);
 148 static void domain_panic_data(struct ldc_channel *lp,
 149                               struct ds_cap_state *cp,
 150                               void *buf, int len);
 151 #ifdef CONFIG_HOTPLUG_CPU
 152 static void dr_cpu_data(struct ldc_channel *lp,
 153                         struct ds_cap_state *cp,
 154                         void *buf, int len);
 155 #endif
 156 static void ds_pri_data(struct ldc_channel *lp,
 157                         struct ds_cap_state *cp,
 158                         void *buf, int len);
 159 static void ds_var_data(struct ldc_channel *lp,
 160                         struct ds_cap_state *cp,
 161                         void *buf, int len);
 162
 163 struct ds_cap_state ds_states[] = {
 164         {
 165                 .service_id     = "md-update",
 166                 .data           = md_update_data,
 167         },
 168         {
 169                 .service_id     = "domain-shutdown",
 170                 .data           = domain_shutdown_data,
 171         },
 172         {
 173                 .service_id     = "domain-panic",
 174                 .data           = domain_panic_data,
 175         },
 176 #ifdef CONFIG_HOTPLUG_CPU
 177         {
 178                 .service_id     = "dr-cpu",
 179                 .data           = dr_cpu_data,
 180         },
 181 #endif
 182         {
 183                 .service_id     = "pri",
 184                 .data           = ds_pri_data,
 185         },
 186         {
 187                 .service_id     = "var-config",
 188                 .data           = ds_var_data,
 189         },
 190         {
 191                 .service_id     = "var-config-backup",
 192                 .data           = ds_var_data,
 193         },
 194 };
 195
 196 static DEFINE_SPINLOCK(ds_lock);
 197
 198 struct ds_info {
 199         struct ldc_channel      *lp;
 200         u8                      hs_state;
 201 #define DS_HS_START             0x01
 202 #define DS_HS_DONE              0x02
 203
 204         void                    *rcv_buf;
 205         int                     rcv_buf_len;
 206 };
 207
 208 static struct ds_info *ds_info;
 209
 210 static struct ds_cap_state *find_cap(u64 handle)
 211 {
 212         unsigned int index = handle >> 32;
 213
 214         if (index >= ARRAY_SIZE(ds_states))
 215                 return NULL;
 216         return &ds_states[index];
 217 }
 218
 219 static struct ds_cap_state *find_cap_by_string(const char *name)
 220 {
 221         int i;
 222
 223         for (i = 0; i < ARRAY_SIZE(ds_states); i++) {
 224                 if (strcmp(ds_states[i].service_id, name))
 225                         continue;
 226
 227                 return &ds_states[i];
 228         }
 229         return NULL;
 230 }
 231
 232 static int ds_send(struct ldc_channel *lp, void *data, int len)
 233 {
 234         int err, limit = 1000;
 235
 236         err = -EINVAL;
 237         while (limit-- > 0) {
 238                 err = ldc_write(lp, data, len);
 239                 if (!err || (err != -EAGAIN))
 240                         break;
 241                 udelay(1);
 242         }
 243
 244         return err;
 245 }
 246
 247 struct ds_md_update_req {
 248         __u64                           req_num;
 249 };
 250
 251 struct ds_md_update_res {
 252         __u64                           req_num;
 253         __u32                           result;
 254 };
 255
 256 static void md_update_data(struct ldc_channel *lp,
 257                            struct ds_cap_state *dp,
 258                            void *buf, int len)
 259 {
 260         struct ds_data *dpkt = buf;
 261         struct ds_md_update_req *rp;
 262         struct {
 263                 struct ds_data          data;
 264                 struct ds_md_update_res res;
 265         } pkt;
 266
 267         rp = (struct ds_md_update_req *) (dpkt + 1);
 268
 269         printk(KERN_INFO PFX "Machine description update.\n");
 270
 271         memset(&pkt, 0, sizeof(pkt));
 272         pkt.data.tag.type = DS_DATA;
 273         pkt.data.tag.len = sizeof(pkt) - sizeof(struct ds_msg_tag);
 274         pkt.data.handle = dp->handle;
 275         pkt.res.req_num = rp->req_num;
 276         pkt.res.result = DS_OK;
 277
 278         ds_send(lp, &pkt, sizeof(pkt));
 279
 280         mdesc_update();
 281 }
 282
 283 struct ds_shutdown_req {
 284         __u64                           req_num;
 285         __u32                           ms_delay;
 286 };
 287
 288 struct ds_shutdown_res {
 289         __u64                           req_num;
 290         __u32                           result;
 291         char                            reason[1];
 292 };
 293
 294 static void domain_shutdown_data(struct ldc_channel *lp,
 295                                  struct ds_cap_state *dp,
 296                                  void *buf, int len)
 297 {
 298         struct ds_data *dpkt = buf;
 299         struct ds_shutdown_req *rp;
 300         struct {
 301                 struct ds_data          data;
 302                 struct ds_shutdown_res  res;
 303         } pkt;
 304
 305         rp = (struct ds_shutdown_req *) (dpkt + 1);
 306
 307         printk(KERN_ALERT PFX "Shutdown request from "
 308                "LDOM manager received.\n");
 309
 310         memset(&pkt, 0, sizeof(pkt));
 311         pkt.data.tag.type = DS_DATA;
 312         pkt.data.tag.len = sizeof(pkt) - sizeof(struct ds_msg_tag);
 313         pkt.data.handle = dp->handle;
 314         pkt.res.req_num = rp->req_num;
 315         pkt.res.result = DS_OK;
 316         pkt.res.reason[0] = 0;
 317
 318         ds_send(lp, &pkt, sizeof(pkt));
 319
 320         wake_up_powerd();
 321 }
 322
 323 struct ds_panic_req {
 324         __u64                           req_num;
 325 };
 326
 327 struct ds_panic_res {
 328         __u64                           req_num;
 329         __u32                           result;
 330         char                            reason[1];
 331 };
 332
 333 static void domain_panic_data(struct ldc_channel *lp,
 334                               struct ds_cap_state *dp,
 335                               void *buf, int len)
 336 {
 337         struct ds_data *dpkt = buf;
 338         struct ds_panic_req *rp;
 339         struct {
 340                 struct ds_data          data;
 341                 struct ds_panic_res     res;
 342         } pkt;
 343
 344         rp = (struct ds_panic_req *) (dpkt + 1);
 345
 346         printk(KERN_ALERT PFX "Panic request from "
 347                "LDOM manager received.\n");
 348
 349         memset(&pkt, 0, sizeof(pkt));
 350         pkt.data.tag.type = DS_DATA;
 351         pkt.data.tag.len = sizeof(pkt) - sizeof(struct ds_msg_tag);
 352         pkt.data.handle = dp->handle;
 353         pkt.res.req_num = rp->req_num;
 354         pkt.res.result = DS_OK;
 355         pkt.res.reason[0] = 0;
 356
 357         ds_send(lp, &pkt, sizeof(pkt));
 358
 359         panic("PANIC requested by LDOM manager.");
 360 }
 361
 362 #ifdef CONFIG_HOTPLUG_CPU
 363 struct dr_cpu_tag {
 364         __u64                           req_num;
 365         __u32                           type;
 366 #define DR_CPU_CONFIGURE                0x43
 367 #define DR_CPU_UNCONFIGURE              0x55
 368 #define DR_CPU_FORCE_UNCONFIGURE        0x46
 369 #define DR_CPU_STATUS                   0x53
 370
 371 /* Responses */
 372 #define DR_CPU_OK                       0x6f
 373 #define DR_CPU_ERROR                    0x65
 374
 375         __u32                           num_records;
 376 };
 377
 378 struct dr_cpu_resp_entry {
 379         __u32                           cpu;
 380         __u32                           result;
 381 #define DR_CPU_RES_OK                   0x00
 382 #define DR_CPU_RES_FAILURE              0x01
 383 #define DR_CPU_RES_BLOCKED              0x02
 384 #define DR_CPU_RES_CPU_NOT_RESPONDING   0x03
 385 #define DR_CPU_RES_NOT_IN_MD            0x04
 386
 387         __u32                           stat;
 388 #define DR_CPU_STAT_NOT_PRESENT         0x00
 389 #define DR_CPU_STAT_UNCONFIGURED        0x01
 390 #define DR_CPU_STAT_CONFIGURED          0x02
 391
 392         __u32                           str_off;
 393 };
 394
 395 /* XXX Put this in some common place. XXX */
 396 static unsigned long kimage_addr_to_ra(void *p)
 397 {
 398         unsigned long val = (unsigned long) p;
 399
 400         return kern_base + (val - KERNBASE);
 401 }
 402
 403 /* DR cpu requests get queued onto the work list by the
 404  * dr_cpu_data() callback.  The list is protected by
 405  * ds_lock, and processed by dr_cpu_process() in order.
 406  */
 407 static LIST_HEAD(dr_cpu_work_list);
 408
 409 struct dr_cpu_queue_entry {
 410         struct list_head                list;
 411         char                            req[0];
 412 };
 413
 414 static void __dr_cpu_send_error(struct ds_cap_state *cp, struct ds_data *data)
 415 {
 416         struct dr_cpu_tag *tag = (struct dr_cpu_tag *) (data + 1);
 417         struct ds_info *dp = ds_info;
 418         struct {
 419                 struct ds_data          data;
 420                 struct dr_cpu_tag       tag;
 421         } pkt;
 422         int msg_len;
 423
 424         memset(&pkt, 0, sizeof(pkt));
 425         pkt.data.tag.type = DS_DATA;
 426         pkt.data.handle = cp->handle;
 427         pkt.tag.req_num = tag->req_num;
 428         pkt.tag.type = DR_CPU_ERROR;
 429         pkt.tag.num_records = 0;
 430
 431         msg_len = (sizeof(struct ds_data) +
 432                    sizeof(struct dr_cpu_tag));
 433
 434         pkt.data.tag.len = msg_len - sizeof(struct ds_msg_tag);
 435
 436         ds_send(dp->lp, &pkt, msg_len);
 437 }
 438
 439 static void dr_cpu_send_error(struct ds_cap_state *cp, struct ds_data *data)
 440 {
 441         unsigned long flags;
 442
 443         spin_lock_irqsave(&ds_lock, flags);
 444         __dr_cpu_send_error(cp, data);
 445         spin_unlock_irqrestore(&ds_lock, flags);
 446 }
 447
 448 #define CPU_SENTINEL    0xffffffff
 449
 450 static void purge_dups(u32 *list, u32 num_ents)
 451 {
 452         unsigned int i;
 453
 454         for (i = 0; i < num_ents; i++) {
 455                 u32 cpu = list[i];
 456                 unsigned int j;
 457
 458                 if (cpu == CPU_SENTINEL)
 459                         continue;
 460
 461                 for (j = i + 1; j < num_ents; j++) {
 462                         if (list[j] == cpu)
 463                                 list[j] = CPU_SENTINEL;
 464                 }
 465         }
 466 }
 467
 468 static int dr_cpu_size_response(int ncpus)
 469 {
 470         return (sizeof(struct ds_data) +
 471                 sizeof(struct dr_cpu_tag) +
 472                 (sizeof(struct dr_cpu_resp_entry) * ncpus));
 473 }
 474
 475 static void dr_cpu_init_response(struct ds_data *resp, u64 req_num,
 476                                  u64 handle, int resp_len, int ncpus,
 477                                  cpumask_t *mask, u32 default_stat)
 478 {
 479         struct dr_cpu_resp_entry *ent;
 480         struct dr_cpu_tag *tag;
 481         int i, cpu;
 482
 483         tag = (struct dr_cpu_tag *) (resp + 1);
 484         ent = (struct dr_cpu_resp_entry *) (tag + 1);
 485
 486         resp->tag.type = DS_DATA;
 487         resp->tag.len = resp_len - sizeof(struct ds_msg_tag);
 488         resp->handle = handle;
 489         tag->req_num = req_num;
 490         tag->type = DR_CPU_OK;
 491         tag->num_records = ncpus;
 492
 493         i = 0;
 494         for_each_cpu_mask(cpu, *mask) {
 495                 ent[i].cpu = cpu;
 496                 ent[i].result = DR_CPU_RES_OK;
 497                 ent[i].stat = default_stat;
 498                 i++;
 499         }
 500         BUG_ON(i != ncpus);
 501 }
 502
 503 static void dr_cpu_mark(struct ds_data *resp, int cpu, int ncpus,
 504                         u32 res, u32 stat)
 505 {
 506         struct dr_cpu_resp_entry *ent;
 507         struct dr_cpu_tag *tag;
 508         int i;
 509
 510         tag = (struct dr_cpu_tag *) (resp + 1);
 511         ent = (struct dr_cpu_resp_entry *) (tag + 1);
 512
 513         for (i = 0; i < ncpus; i++) {
 514                 if (ent[i].cpu != cpu)
 515                         continue;
 516                 ent[i].result = res;
 517                 ent[i].stat = stat;
 518                 break;
 519         }
 520 }
 521
 522 static int dr_cpu_configure(struct ds_cap_state *cp, u64 req_num,
 523                             cpumask_t *mask)
 524 {
 525         struct ds_data *resp;
 526         int resp_len, ncpus, cpu;
 527         unsigned long flags;
 528
 529         ncpus = cpus_weight(*mask);
 530         resp_len = dr_cpu_size_response(ncpus);
 531         resp = kzalloc(resp_len, GFP_KERNEL);
 532         if (!resp)
 533                 return -ENOMEM;
 534
 535         dr_cpu_init_response(resp, req_num, cp->handle,
 536                              resp_len, ncpus, mask,
 537                              DR_CPU_STAT_CONFIGURED);
 538
 539         mdesc_fill_in_cpu_data(*mask);
 540
 541         for_each_cpu_mask(cpu, *mask) {
 542                 int err;
 543
 544                 printk(KERN_INFO PFX "Starting cpu %d...\n", cpu);
 545                 err = cpu_up(cpu);
 546                 if (err)
 547                         dr_cpu_mark(resp, cpu, ncpus,
 548                                     DR_CPU_RES_FAILURE,
 549                                     DR_CPU_STAT_UNCONFIGURED);
 550         }
 551
 552         spin_lock_irqsave(&ds_lock, flags);
 553         ds_send(ds_info->lp, resp, resp_len);
 554         spin_unlock_irqrestore(&ds_lock, flags);
 555
 556         kfree(resp);
 557
 558         return 0;
 559 }
 560
 561 static int dr_cpu_unconfigure(struct ds_cap_state *cp, u64 req_num,
 562                               cpumask_t *mask)
 563 {
 564         struct ds_data *resp;
 565         int resp_len, ncpus;
 566
 567         ncpus = cpus_weight(*mask);
 568         resp_len = dr_cpu_size_response(ncpus);
 569         resp = kzalloc(resp_len, GFP_KERNEL);
 570         if (!resp)
 571                 return -ENOMEM;
 572
 573         dr_cpu_init_response(resp, req_num, cp->handle,
 574                              resp_len, ncpus, mask,
 575                              DR_CPU_STAT_UNCONFIGURED);
 576
 577         kfree(resp);
 578
 579         return -EOPNOTSUPP;
 580 }
 581
 582 static void dr_cpu_process(struct work_struct *work)
 583 {
 584         struct dr_cpu_queue_entry *qp, *tmp;
 585         struct ds_cap_state *cp;
 586         unsigned long flags;
 587         LIST_HEAD(todo);
 588         cpumask_t mask;
 589
 590         cp = find_cap_by_string("dr-cpu");
 591
 592         spin_lock_irqsave(&ds_lock, flags);
 593         list_splice(&dr_cpu_work_list, &todo);
 594         spin_unlock_irqrestore(&ds_lock, flags);
 595
 596         list_for_each_entry_safe(qp, tmp, &todo, list) {
 597                 struct ds_data *data = (struct ds_data *) qp->req;
 598                 struct dr_cpu_tag *tag = (struct dr_cpu_tag *) (data + 1);
 599                 u32 *cpu_list = (u32 *) (tag + 1);
 600                 u64 req_num = tag->req_num;
 601                 unsigned int i;
 602                 int err;
 603
 604                 switch (tag->type) {
 605                 case DR_CPU_CONFIGURE:
 606                 case DR_CPU_UNCONFIGURE:
 607                 case DR_CPU_FORCE_UNCONFIGURE:
 608                         break;
 609
 610                 default:
 611                         dr_cpu_send_error(cp, data);
 612                         goto next;
 613                 }
 614
 615                 purge_dups(cpu_list, tag->num_records);
 616
 617                 cpus_clear(mask);
 618                 for (i = 0; i < tag->num_records; i++) {
 619                         if (cpu_list[i] == CPU_SENTINEL)
 620                                 continue;
 621
 622                         if (cpu_list[i] < NR_CPUS)
 623                                 cpu_set(cpu_list[i], mask);
 624                 }
 625
 626                 if (tag->type == DR_CPU_CONFIGURE)
 627                         err = dr_cpu_configure(cp, req_num, &mask);
 628                 else
 629                         err = dr_cpu_unconfigure(cp, req_num, &mask);
 630
 631                 if (err)
 632                         dr_cpu_send_error(cp, data);
 633
 634 next:
 635                 list_del(&qp->list);
 636                 kfree(qp);
 637         }
 638 }
 639
 640 static DECLARE_WORK(dr_cpu_work, dr_cpu_process);
 641
 642 static void dr_cpu_data(struct ldc_channel *lp,
 643                         struct ds_cap_state *dp,
 644                         void *buf, int len)
 645 {
 646         struct dr_cpu_queue_entry *qp;
 647         struct ds_data *dpkt = buf;
 648         struct dr_cpu_tag *rp;
 649
 650         rp = (struct dr_cpu_tag *) (dpkt + 1);
 651
 652         qp = kmalloc(sizeof(struct dr_cpu_queue_entry) + len, GFP_ATOMIC);
 653         if (!qp) {
 654                 struct ds_cap_state *cp;
 655
 656                 cp = find_cap_by_string("dr-cpu");
 657                 __dr_cpu_send_error(cp, dpkt);
 658         } else {
 659                 memcpy(&qp->req, buf, len);
 660                 list_add_tail(&qp->list, &dr_cpu_work_list);
 661                 schedule_work(&dr_cpu_work);
 662         }
 663 }
 664 #endif
 665
 666 struct ds_pri_msg {
 667         __u64                           req_num;
 668         __u64                           type;
 669 #define DS_PRI_REQUEST                  0x00
 670 #define DS_PRI_DATA                     0x01
 671 #define DS_PRI_UPDATE                   0x02
 672 };
 673
 674 static void ds_pri_data(struct ldc_channel *lp,
 675                         struct ds_cap_state *dp,
 676                         void *buf, int len)
 677 {
 678         struct ds_data *dpkt = buf;
 679         struct ds_pri_msg *rp;
 680
 681         rp = (struct ds_pri_msg *) (dpkt + 1);
 682
 683         printk(KERN_INFO PFX "PRI REQ [%lx:%lx], len=%d\n",
 684                rp->req_num, rp->type, len);
 685 }
 686
 687 struct ds_var_hdr {
 688         __u32                           type;
 689 #define DS_VAR_SET_REQ                  0x00
 690 #define DS_VAR_DELETE_REQ               0x01
 691 #define DS_VAR_SET_RESP                 0x02
 692 #define DS_VAR_DELETE_RESP              0x03
 693 };
 694
 695 struct ds_var_set_msg {
 696         struct ds_var_hdr               hdr;
 697         char                            name_and_value[0];
 698 };
 699
 700 struct ds_var_delete_msg {
 701         struct ds_var_hdr               hdr;
 702         char                            name[0];
 703 };
 704
 705 struct ds_var_resp {
 706         struct ds_var_hdr               hdr;
 707         __u32                           result;
 708 #define DS_VAR_SUCCESS                  0x00
 709 #define DS_VAR_NO_SPACE                 0x01
 710 #define DS_VAR_INVALID_VAR              0x02
 711 #define DS_VAR_INVALID_VAL              0x03
 712 #define DS_VAR_NOT_PRESENT              0x04
 713 };
 714
 715 static DEFINE_MUTEX(ds_var_mutex);
 716 static int ds_var_doorbell;
 717 static int ds_var_response;
 718
 719 static void ds_var_data(struct ldc_channel *lp,
 720                         struct ds_cap_state *dp,
 721                         void *buf, int len)
 722 {
 723         struct ds_data *dpkt = buf;
 724         struct ds_var_resp *rp;
 725
 726         rp = (struct ds_var_resp *) (dpkt + 1);
 727
 728         if (rp->hdr.type != DS_VAR_SET_RESP &&
 729             rp->hdr.type != DS_VAR_DELETE_RESP)
 730                 return;
 731
 732         ds_var_response = rp->result;
 733         wmb();
 734         ds_var_doorbell = 1;
 735 }
 736
 737 void ldom_set_var(const char *var, const char *value)
 738 {
 739         struct ds_info *dp = ds_info;
 740         struct ds_cap_state *cp;
 741
 742         cp = find_cap_by_string("var-config");
 743         if (cp->state != CAP_STATE_REGISTERED)
 744                 cp = find_cap_by_string("var-config-backup");
 745
 746         if (cp->state == CAP_STATE_REGISTERED) {
 747                 union {
 748                         struct {
 749                                 struct ds_data          data;
 750                                 struct ds_var_set_msg   msg;
 751                         } header;
 752                         char                    all[512];
 753                 } pkt;
 754                 unsigned long flags;
 755                 char  *base, *p;
 756                 int msg_len, loops;
 757
 758                 memset(&pkt, 0, sizeof(pkt));
 759                 pkt.header.data.tag.type = DS_DATA;
 760                 pkt.header.data.handle = cp->handle;
 761                 pkt.header.msg.hdr.type = DS_VAR_SET_REQ;
 762                 base = p = &pkt.header.msg.name_and_value[0];
 763                 strcpy(p, var);
 764                 p += strlen(var) + 1;
 765                 strcpy(p, value);
 766                 p += strlen(value) + 1;
 767
 768                 msg_len = (sizeof(struct ds_data) +
 769                            sizeof(struct ds_var_set_msg) +
 770                            (p - base));
 771                 msg_len = (msg_len + 3) & ~3;
 772                 pkt.header.data.tag.len = msg_len - sizeof(struct ds_msg_tag);
 773
 774                 mutex_lock(&ds_var_mutex);
 775
 776                 spin_lock_irqsave(&ds_lock, flags);
 777                 ds_var_doorbell = 0;
 778                 ds_var_response = -1;
 779
 780                 ds_send(dp->lp, &pkt, msg_len);
 781                 spin_unlock_irqrestore(&ds_lock, flags);
 782
 783                 loops = 1000;
 784                 while (ds_var_doorbell == 0) {
 785                         if (loops-- < 0)
 786                                 break;
 787                         barrier();
 788                         udelay(100);
 789                 }
 790
 791                 mutex_unlock(&ds_var_mutex);
 792
 793                 if (ds_var_doorbell == 0 ||
 794                     ds_var_response != DS_VAR_SUCCESS)
 795                         printk(KERN_ERR PFX "var-config [%s:%s] "
 796                                "failed, response(%d).\n",
 797                                var, value,
 798                                ds_var_response);
 799         } else {
 800                 printk(KERN_ERR PFX "var-config not registered so "
 801                        "could not set (%s) variable to (%s).\n",
 802                        var, value);
 803         }
 804 }
 805
 806 void ldom_reboot(const char *boot_command)
 807 {
 808         /* Don't bother with any of this if the boot_command
 809          * is empty.
 810          */
 811         if (boot_command && strlen(boot_command)) {
 812                 char full_boot_str[256];
 813
 814                 strcpy(full_boot_str, "boot ");
 815                 strcpy(full_boot_str + strlen("boot "), boot_command);
 816
 817                 ldom_set_var("reboot-command", full_boot_str);
 818         }
 819         sun4v_mach_sir();
 820 }
 821
 822 void ldom_power_off(void)
 823 {
 824         sun4v_mach_exit(0);
 825 }
 826
 827 static void ds_conn_reset(struct ds_info *dp)
 828 {
 829         printk(KERN_ERR PFX "ds_conn_reset() from %p\n",
 830                __builtin_return_address(0));
 831 }
 832
 833 static int register_services(struct ds_info *dp)
 834 {
 835         struct ldc_channel *lp = dp->lp;
 836         int i;
 837
 838         for (i = 0; i < ARRAY_SIZE(ds_states); i++) {
 839                 struct {
 840                         struct ds_reg_req req;
 841                         u8 id_buf[256];
 842                 } pbuf;
 843                 struct ds_cap_state *cp = &ds_states[i];
 844                 int err, msg_len;
 845                 u64 new_count;
 846
 847                 if (cp->state == CAP_STATE_REGISTERED)
 848                         continue;
 849
 850                 new_count = sched_clock() & 0xffffffff;
 851                 cp->handle = ((u64) i << 32) | new_count;
 852
 853                 msg_len = (sizeof(struct ds_reg_req) +
 854                            strlen(cp->service_id));
 855
 856                 memset(&pbuf, 0, sizeof(pbuf));
 857                 pbuf.req.tag.type = DS_REG_REQ;
 858                 pbuf.req.tag.len = (msg_len - sizeof(struct ds_msg_tag));
 859                 pbuf.req.handle = cp->handle;
 860                 pbuf.req.major = 1;
 861                 pbuf.req.minor = 0;
 862                 strcpy(pbuf.req.svc_id, cp->service_id);
 863
 864                 err = ds_send(lp, &pbuf, msg_len);
 865                 if (err > 0)
 866                         cp->state = CAP_STATE_REG_SENT;
 867         }
 868         return 0;
 869 }
 870
 871 static int ds_handshake(struct ds_info *dp, struct ds_msg_tag *pkt)
 872 {
 873
 874         if (dp->hs_state == DS_HS_START) {
 875                 if (pkt->type != DS_INIT_ACK)
 876                         goto conn_reset;
 877
 878                 dp->hs_state = DS_HS_DONE;
 879
 880                 return register_services(dp);
 881         }
 882
 883         if (dp->hs_state != DS_HS_DONE)
 884                 goto conn_reset;
 885
 886         if (pkt->type == DS_REG_ACK) {
 887                 struct ds_reg_ack *ap = (struct ds_reg_ack *) pkt;
 888                 struct ds_cap_state *cp = find_cap(ap->handle);
 889
 890                 if (!cp) {
 891                         printk(KERN_ERR PFX "REG ACK for unknown handle %lx\n",
 892                                ap->handle);
 893                         return 0;
 894                 }
 895                 printk(KERN_INFO PFX "Registered %s service.\n",
 896                        cp->service_id);
 897                 cp->state = CAP_STATE_REGISTERED;
 898         } else if (pkt->type == DS_REG_NACK) {
 899                 struct ds_reg_nack *np = (struct ds_reg_nack *) pkt;
 900                 struct ds_cap_state *cp = find_cap(np->handle);
 901
 902                 if (!cp) {
 903                         printk(KERN_ERR PFX "REG NACK for "
 904                                "unknown handle %lx\n",
 905                                np->handle);
 906                         return 0;
 907                 }
 908                 printk(KERN_INFO PFX "Could not register %s service\n",
 909                        cp->service_id);
 910                 cp->state = CAP_STATE_UNKNOWN;
 911         }
 912
 913         return 0;
 914
 915 conn_reset:
 916         ds_conn_reset(dp);
 917         return -ECONNRESET;
 918 }
 919
 920 static int ds_data(struct ds_info *dp, struct ds_msg_tag *pkt, int len)
 921 {
 922         struct ds_data *dpkt = (struct ds_data *) pkt;
 923         struct ds_cap_state *cp = find_cap(dpkt->handle);
 924
 925         if (!cp) {
 926                 struct ds_data_nack nack = {
 927                         .tag = {
 928                                 .type = DS_NACK,
 929                                 .len = (sizeof(struct ds_data_nack) -
 930                                         sizeof(struct ds_msg_tag)),
 931                         },
 932                         .handle = dpkt->handle,
 933                         .result = DS_INV_HDL,
 934                 };
 935
 936                 printk(KERN_ERR PFX "Data for unknown handle %lu\n",
 937                        dpkt->handle);
 938                 ds_send(dp->lp, &nack, sizeof(nack));
 939         } else {
 940                 cp->data(dp->lp, cp, dpkt, len);
 941         }
 942         return 0;
 943 }
 944
 945 static void ds_up(struct ds_info *dp)
 946 {
 947         struct ldc_channel *lp = dp->lp;
 948         struct ds_ver_req req;
 949         int err;
 950
 951         req.tag.type = DS_INIT_REQ;
 952         req.tag.len = sizeof(req) - sizeof(struct ds_msg_tag);
 953         req.ver.major = 1;
 954         req.ver.minor = 0;
 955
 956         err = ds_send(lp, &req, sizeof(req));
 957         if (err > 0)
 958                 dp->hs_state = DS_HS_START;
 959 }
 960
 961 static void ds_event(void *arg, int event)
 962 {
 963         struct ds_info *dp = arg;
 964         struct ldc_channel *lp = dp->lp;
 965         unsigned long flags;
 966         int err;
 967
 968         spin_lock_irqsave(&ds_lock, flags);
 969
 970         if (event == LDC_EVENT_UP) {
 971                 ds_up(dp);
 972                 spin_unlock_irqrestore(&ds_lock, flags);
 973                 return;
 974         }
 975
 976         if (event != LDC_EVENT_DATA_READY) {
 977                 printk(KERN_WARNING PFX "Unexpected LDC event %d\n", event);
 978                 spin_unlock_irqrestore(&ds_lock, flags);
 979                 return;
 980         }
 981
 982         err = 0;
 983         while (1) {
 984                 struct ds_msg_tag *tag;
 985
 986                 err = ldc_read(lp, dp->rcv_buf, sizeof(*tag));
 987
 988                 if (unlikely(err < 0)) {
 989                         if (err == -ECONNRESET)
 990                                 ds_conn_reset(dp);
 991                         break;
 992                 }
 993                 if (err == 0)
 994                         break;
 995
 996                 tag = dp->rcv_buf;
 997                 err = ldc_read(lp, tag + 1, tag->len);
 998
 999                 if (unlikely(err < 0)) {
1000                         if (err == -ECONNRESET)
1001                                 ds_conn_reset(dp);
1002                         break;
1003                 }
1004                 if (err < tag->len)
1005                         break;
1006
1007                 if (tag->type < DS_DATA)
1008                         err = ds_handshake(dp, dp->rcv_buf);
1009                 else
1010                         err = ds_data(dp, dp->rcv_buf,
1011                                       sizeof(*tag) + err);
1012                 if (err == -ECONNRESET)
1013                         break;
1014         }
1015
1016         spin_unlock_irqrestore(&ds_lock, flags);
1017 }
1018
1019 static int __devinit ds_probe(struct vio_dev *vdev,
1020                               const struct vio_device_id *id)
1021 {
1022         static int ds_version_printed;
1023         struct ldc_channel_config ds_cfg = {
1024                 .event          = ds_event,
1025                 .mtu            = 4096,
1026                 .mode           = LDC_MODE_STREAM,
1027         };
1028         struct ldc_channel *lp;
1029         struct ds_info *dp;
1030         int err;
1031
1032         if (ds_version_printed++ == 0)
1033                 printk(KERN_INFO "%s", version);
1034
1035         dp = kzalloc(sizeof(*dp), GFP_KERNEL);
1036         err = -ENOMEM;
1037         if (!dp)
1038                 goto out_err;
1039
1040         dp->rcv_buf = kzalloc(4096, GFP_KERNEL);
1041         if (!dp->rcv_buf)
1042                 goto out_free_dp;
1043
1044         dp->rcv_buf_len = 4096;
1045
1046         ds_cfg.tx_irq = vdev->tx_irq;
1047         ds_cfg.rx_irq = vdev->rx_irq;
1048
1049         lp = ldc_alloc(vdev->channel_id, &ds_cfg, dp);
1050         if (IS_ERR(lp)) {
1051                 err = PTR_ERR(lp);
1052                 goto out_free_rcv_buf;
1053         }
1054         dp->lp = lp;
1055
1056         err = ldc_bind(lp, "DS");
1057         if (err)
1058                 goto out_free_ldc;
1059
1060         ds_info = dp;
1061
1062         start_powerd();
1063
1064         return err;
1065
1066 out_free_ldc:
1067         ldc_free(dp->lp);
1068
1069 out_free_rcv_buf:
1070         kfree(dp->rcv_buf);
1071
1072 out_free_dp:
1073         kfree(dp);
1074
1075 out_err:
1076         return err;
1077 }
1078
1079 static int ds_remove(struct vio_dev *vdev)
1080 {
1081         return 0;
1082 }
1083
1084 static struct vio_device_id ds_match[] = {
1085         {
1086                 .type = "domain-services-port",
1087         },
1088         {},
1089 };
1090
1091 static struct vio_driver ds_driver = {
1092         .id_table       = ds_match,
1093         .probe          = ds_probe,
1094         .remove         = ds_remove,
1095         .driver         = {
1096                 .name   = "ds",
1097                 .owner  = THIS_MODULE,
1098         }
1099 };
1100
1101 static int __init ds_init(void)
1102 {
1103         int i;
1104
1105         for (i = 0; i < ARRAY_SIZE(ds_states); i++)
1106                 ds_states[i].handle = ((u64)i << 32);
1107
1108         return vio_register_driver(&ds_driver);
1109 }
1110
1111 subsys_initcall(ds_init);