powerpc/dma: implement new dma_*map*_attrs() interfaces
[pandora-kernel.git] / arch / powerpc / platforms / ps3 / system-bus.c
1 /*
2  *  PS3 system bus driver.
3  *
4  *  Copyright (C) 2006 Sony Computer Entertainment Inc.
5  *  Copyright 2006 Sony Corp.
6  *
7  *  This program is free software; you can redistribute it and/or modify
8  *  it under the terms of the GNU General Public License as published by
9  *  the Free Software Foundation; version 2 of the License.
10  *
11  *  This program is distributed in the hope that it will be useful,
12  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
13  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  *  GNU General Public License for more details.
15  *
16  *  You should have received a copy of the GNU General Public License
17  *  along with this program; if not, write to the Free Software
18  *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
19  */
20
21 #include <linux/kernel.h>
22 #include <linux/init.h>
23 #include <linux/module.h>
24 #include <linux/dma-mapping.h>
25 #include <linux/err.h>
26
27 #include <asm/udbg.h>
28 #include <asm/lv1call.h>
29 #include <asm/firmware.h>
30
31 #include "platform.h"
32
33 static struct device ps3_system_bus = {
34         .bus_id = "ps3_system",
35 };
36
37 /* FIXME: need device usage counters! */
38 struct {
39         struct mutex mutex;
40         int sb_11; /* usb 0 */
41         int sb_12; /* usb 0 */
42         int gpu;
43 } static usage_hack;
44
45 static int ps3_is_device(struct ps3_system_bus_device *dev, u64 bus_id,
46                          u64 dev_id)
47 {
48         return dev->bus_id == bus_id && dev->dev_id == dev_id;
49 }
50
51 static int ps3_open_hv_device_sb(struct ps3_system_bus_device *dev)
52 {
53         int result;
54
55         BUG_ON(!dev->bus_id);
56         mutex_lock(&usage_hack.mutex);
57
58         if (ps3_is_device(dev, 1, 1)) {
59                 usage_hack.sb_11++;
60                 if (usage_hack.sb_11 > 1) {
61                         result = 0;
62                         goto done;
63                 }
64         }
65
66         if (ps3_is_device(dev, 1, 2)) {
67                 usage_hack.sb_12++;
68                 if (usage_hack.sb_12 > 1) {
69                         result = 0;
70                         goto done;
71                 }
72         }
73
74         result = lv1_open_device(dev->bus_id, dev->dev_id, 0);
75
76         if (result) {
77                 pr_debug("%s:%d: lv1_open_device failed: %s\n", __func__,
78                         __LINE__, ps3_result(result));
79                         result = -EPERM;
80         }
81
82 done:
83         mutex_unlock(&usage_hack.mutex);
84         return result;
85 }
86
87 static int ps3_close_hv_device_sb(struct ps3_system_bus_device *dev)
88 {
89         int result;
90
91         BUG_ON(!dev->bus_id);
92         mutex_lock(&usage_hack.mutex);
93
94         if (ps3_is_device(dev, 1, 1)) {
95                 usage_hack.sb_11--;
96                 if (usage_hack.sb_11) {
97                         result = 0;
98                         goto done;
99                 }
100         }
101
102         if (ps3_is_device(dev, 1, 2)) {
103                 usage_hack.sb_12--;
104                 if (usage_hack.sb_12) {
105                         result = 0;
106                         goto done;
107                 }
108         }
109
110         result = lv1_close_device(dev->bus_id, dev->dev_id);
111         BUG_ON(result);
112
113 done:
114         mutex_unlock(&usage_hack.mutex);
115         return result;
116 }
117
118 static int ps3_open_hv_device_gpu(struct ps3_system_bus_device *dev)
119 {
120         int result;
121
122         mutex_lock(&usage_hack.mutex);
123
124         usage_hack.gpu++;
125         if (usage_hack.gpu > 1) {
126                 result = 0;
127                 goto done;
128         }
129
130         result = lv1_gpu_open(0);
131
132         if (result) {
133                 pr_debug("%s:%d: lv1_gpu_open failed: %s\n", __func__,
134                         __LINE__, ps3_result(result));
135                         result = -EPERM;
136         }
137
138 done:
139         mutex_unlock(&usage_hack.mutex);
140         return result;
141 }
142
143 static int ps3_close_hv_device_gpu(struct ps3_system_bus_device *dev)
144 {
145         int result;
146
147         mutex_lock(&usage_hack.mutex);
148
149         usage_hack.gpu--;
150         if (usage_hack.gpu) {
151                 result = 0;
152                 goto done;
153         }
154
155         result = lv1_gpu_close();
156         BUG_ON(result);
157
158 done:
159         mutex_unlock(&usage_hack.mutex);
160         return result;
161 }
162
163 int ps3_open_hv_device(struct ps3_system_bus_device *dev)
164 {
165         BUG_ON(!dev);
166         pr_debug("%s:%d: match_id: %u\n", __func__, __LINE__, dev->match_id);
167
168         switch (dev->match_id) {
169         case PS3_MATCH_ID_EHCI:
170         case PS3_MATCH_ID_OHCI:
171         case PS3_MATCH_ID_GELIC:
172         case PS3_MATCH_ID_STOR_DISK:
173         case PS3_MATCH_ID_STOR_ROM:
174         case PS3_MATCH_ID_STOR_FLASH:
175                 return ps3_open_hv_device_sb(dev);
176
177         case PS3_MATCH_ID_SOUND:
178         case PS3_MATCH_ID_GRAPHICS:
179                 return ps3_open_hv_device_gpu(dev);
180
181         case PS3_MATCH_ID_AV_SETTINGS:
182         case PS3_MATCH_ID_SYSTEM_MANAGER:
183                 pr_debug("%s:%d: unsupported match_id: %u\n", __func__,
184                         __LINE__, dev->match_id);
185                 pr_debug("%s:%d: bus_id: %lu\n", __func__, __LINE__,
186                         dev->bus_id);
187                 BUG();
188                 return -EINVAL;
189
190         default:
191                 break;
192         }
193
194         pr_debug("%s:%d: unknown match_id: %u\n", __func__, __LINE__,
195                 dev->match_id);
196         BUG();
197         return -ENODEV;
198 }
199 EXPORT_SYMBOL_GPL(ps3_open_hv_device);
200
201 int ps3_close_hv_device(struct ps3_system_bus_device *dev)
202 {
203         BUG_ON(!dev);
204         pr_debug("%s:%d: match_id: %u\n", __func__, __LINE__, dev->match_id);
205
206         switch (dev->match_id) {
207         case PS3_MATCH_ID_EHCI:
208         case PS3_MATCH_ID_OHCI:
209         case PS3_MATCH_ID_GELIC:
210         case PS3_MATCH_ID_STOR_DISK:
211         case PS3_MATCH_ID_STOR_ROM:
212         case PS3_MATCH_ID_STOR_FLASH:
213                 return ps3_close_hv_device_sb(dev);
214
215         case PS3_MATCH_ID_SOUND:
216         case PS3_MATCH_ID_GRAPHICS:
217                 return ps3_close_hv_device_gpu(dev);
218
219         case PS3_MATCH_ID_AV_SETTINGS:
220         case PS3_MATCH_ID_SYSTEM_MANAGER:
221                 pr_debug("%s:%d: unsupported match_id: %u\n", __func__,
222                         __LINE__, dev->match_id);
223                 pr_debug("%s:%d: bus_id: %lu\n", __func__, __LINE__,
224                         dev->bus_id);
225                 BUG();
226                 return -EINVAL;
227
228         default:
229                 break;
230         }
231
232         pr_debug("%s:%d: unknown match_id: %u\n", __func__, __LINE__,
233                 dev->match_id);
234         BUG();
235         return -ENODEV;
236 }
237 EXPORT_SYMBOL_GPL(ps3_close_hv_device);
238
239 #define dump_mmio_region(_a) _dump_mmio_region(_a, __func__, __LINE__)
240 static void _dump_mmio_region(const struct ps3_mmio_region* r,
241         const char* func, int line)
242 {
243         pr_debug("%s:%d: dev       %lu:%lu\n", func, line, r->dev->bus_id,
244                 r->dev->dev_id);
245         pr_debug("%s:%d: bus_addr  %lxh\n", func, line, r->bus_addr);
246         pr_debug("%s:%d: len       %lxh\n", func, line, r->len);
247         pr_debug("%s:%d: lpar_addr %lxh\n", func, line, r->lpar_addr);
248 }
249
250 static int ps3_sb_mmio_region_create(struct ps3_mmio_region *r)
251 {
252         int result;
253
254         result = lv1_map_device_mmio_region(r->dev->bus_id, r->dev->dev_id,
255                 r->bus_addr, r->len, r->page_size, &r->lpar_addr);
256
257         if (result) {
258                 pr_debug("%s:%d: lv1_map_device_mmio_region failed: %s\n",
259                         __func__, __LINE__, ps3_result(result));
260                 r->lpar_addr = 0;
261         }
262
263         dump_mmio_region(r);
264         return result;
265 }
266
267 static int ps3_ioc0_mmio_region_create(struct ps3_mmio_region *r)
268 {
269         /* device specific; do nothing currently */
270         return 0;
271 }
272
273 int ps3_mmio_region_create(struct ps3_mmio_region *r)
274 {
275         return r->mmio_ops->create(r);
276 }
277 EXPORT_SYMBOL_GPL(ps3_mmio_region_create);
278
279 static int ps3_sb_free_mmio_region(struct ps3_mmio_region *r)
280 {
281         int result;
282
283         dump_mmio_region(r);
284 ;
285         result = lv1_unmap_device_mmio_region(r->dev->bus_id, r->dev->dev_id,
286                 r->lpar_addr);
287
288         if (result)
289                 pr_debug("%s:%d: lv1_unmap_device_mmio_region failed: %s\n",
290                         __func__, __LINE__, ps3_result(result));
291
292         r->lpar_addr = 0;
293         return result;
294 }
295
296 static int ps3_ioc0_free_mmio_region(struct ps3_mmio_region *r)
297 {
298         /* device specific; do nothing currently */
299         return 0;
300 }
301
302
303 int ps3_free_mmio_region(struct ps3_mmio_region *r)
304 {
305         return r->mmio_ops->free(r);
306 }
307
308 EXPORT_SYMBOL_GPL(ps3_free_mmio_region);
309
310 static const struct ps3_mmio_region_ops ps3_mmio_sb_region_ops = {
311         .create = ps3_sb_mmio_region_create,
312         .free = ps3_sb_free_mmio_region
313 };
314
315 static const struct ps3_mmio_region_ops ps3_mmio_ioc0_region_ops = {
316         .create = ps3_ioc0_mmio_region_create,
317         .free = ps3_ioc0_free_mmio_region
318 };
319
320 int ps3_mmio_region_init(struct ps3_system_bus_device *dev,
321         struct ps3_mmio_region *r, unsigned long bus_addr, unsigned long len,
322         enum ps3_mmio_page_size page_size)
323 {
324         r->dev = dev;
325         r->bus_addr = bus_addr;
326         r->len = len;
327         r->page_size = page_size;
328         switch (dev->dev_type) {
329         case PS3_DEVICE_TYPE_SB:
330                 r->mmio_ops = &ps3_mmio_sb_region_ops;
331                 break;
332         case PS3_DEVICE_TYPE_IOC0:
333                 r->mmio_ops = &ps3_mmio_ioc0_region_ops;
334                 break;
335         default:
336                 BUG();
337                 return -EINVAL;
338         }
339         return 0;
340 }
341 EXPORT_SYMBOL_GPL(ps3_mmio_region_init);
342
343 static int ps3_system_bus_match(struct device *_dev,
344         struct device_driver *_drv)
345 {
346         int result;
347         struct ps3_system_bus_driver *drv = ps3_drv_to_system_bus_drv(_drv);
348         struct ps3_system_bus_device *dev = ps3_dev_to_system_bus_dev(_dev);
349
350         result = dev->match_id == drv->match_id;
351
352         if (result)
353                 pr_info("%s:%d: dev=%u(%s), drv=%u(%s): match\n", __func__,
354                         __LINE__, dev->match_id, dev->core.bus_id,
355                         drv->match_id, drv->core.name);
356         else
357                 pr_debug("%s:%d: dev=%u(%s), drv=%u(%s): miss\n", __func__,
358                         __LINE__, dev->match_id, dev->core.bus_id,
359                         drv->match_id, drv->core.name);
360         return result;
361 }
362
363 static int ps3_system_bus_probe(struct device *_dev)
364 {
365         int result = 0;
366         struct ps3_system_bus_device *dev = ps3_dev_to_system_bus_dev(_dev);
367         struct ps3_system_bus_driver *drv;
368
369         BUG_ON(!dev);
370         pr_debug(" -> %s:%d: %s\n", __func__, __LINE__, _dev->bus_id);
371
372         drv = ps3_system_bus_dev_to_system_bus_drv(dev);
373         BUG_ON(!drv);
374
375         if (drv->probe)
376                 result = drv->probe(dev);
377         else
378                 pr_debug("%s:%d: %s no probe method\n", __func__, __LINE__,
379                         dev->core.bus_id);
380
381         pr_debug(" <- %s:%d: %s\n", __func__, __LINE__, dev->core.bus_id);
382         return result;
383 }
384
385 static int ps3_system_bus_remove(struct device *_dev)
386 {
387         int result = 0;
388         struct ps3_system_bus_device *dev = ps3_dev_to_system_bus_dev(_dev);
389         struct ps3_system_bus_driver *drv;
390
391         BUG_ON(!dev);
392         pr_debug(" -> %s:%d: %s\n", __func__, __LINE__, _dev->bus_id);
393
394         drv = ps3_system_bus_dev_to_system_bus_drv(dev);
395         BUG_ON(!drv);
396
397         if (drv->remove)
398                 result = drv->remove(dev);
399         else
400                 dev_dbg(&dev->core, "%s:%d %s: no remove method\n",
401                         __func__, __LINE__, drv->core.name);
402
403         pr_debug(" <- %s:%d: %s\n", __func__, __LINE__, dev->core.bus_id);
404         return result;
405 }
406
407 static void ps3_system_bus_shutdown(struct device *_dev)
408 {
409         struct ps3_system_bus_device *dev = ps3_dev_to_system_bus_dev(_dev);
410         struct ps3_system_bus_driver *drv;
411
412         BUG_ON(!dev);
413
414         dev_dbg(&dev->core, " -> %s:%d: match_id %d\n", __func__, __LINE__,
415                 dev->match_id);
416
417         if (!dev->core.driver) {
418                 dev_dbg(&dev->core, "%s:%d: no driver bound\n", __func__,
419                         __LINE__);
420                 return;
421         }
422
423         drv = ps3_system_bus_dev_to_system_bus_drv(dev);
424
425         BUG_ON(!drv);
426
427         dev_dbg(&dev->core, "%s:%d: %s -> %s\n", __func__, __LINE__,
428                 dev->core.bus_id, drv->core.name);
429
430         if (drv->shutdown)
431                 drv->shutdown(dev);
432         else if (drv->remove) {
433                 dev_dbg(&dev->core, "%s:%d %s: no shutdown, calling remove\n",
434                         __func__, __LINE__, drv->core.name);
435                 drv->remove(dev);
436         } else {
437                 dev_dbg(&dev->core, "%s:%d %s: no shutdown method\n",
438                         __func__, __LINE__, drv->core.name);
439                 BUG();
440         }
441
442         dev_dbg(&dev->core, " <- %s:%d\n", __func__, __LINE__);
443 }
444
445 static int ps3_system_bus_uevent(struct device *_dev, struct kobj_uevent_env *env)
446 {
447         struct ps3_system_bus_device *dev = ps3_dev_to_system_bus_dev(_dev);
448
449         if (add_uevent_var(env, "MODALIAS=ps3:%d", dev->match_id))
450                 return -ENOMEM;
451         return 0;
452 }
453
454 static ssize_t modalias_show(struct device *_dev, struct device_attribute *a,
455         char *buf)
456 {
457         struct ps3_system_bus_device *dev = ps3_dev_to_system_bus_dev(_dev);
458         int len = snprintf(buf, PAGE_SIZE, "ps3:%d\n", dev->match_id);
459
460         return (len >= PAGE_SIZE) ? (PAGE_SIZE - 1) : len;
461 }
462
463 static struct device_attribute ps3_system_bus_dev_attrs[] = {
464         __ATTR_RO(modalias),
465         __ATTR_NULL,
466 };
467
468 struct bus_type ps3_system_bus_type = {
469         .name = "ps3_system_bus",
470         .match = ps3_system_bus_match,
471         .uevent = ps3_system_bus_uevent,
472         .probe = ps3_system_bus_probe,
473         .remove = ps3_system_bus_remove,
474         .shutdown = ps3_system_bus_shutdown,
475         .dev_attrs = ps3_system_bus_dev_attrs,
476 };
477
478 static int __init ps3_system_bus_init(void)
479 {
480         int result;
481
482         if (!firmware_has_feature(FW_FEATURE_PS3_LV1))
483                 return -ENODEV;
484
485         pr_debug(" -> %s:%d\n", __func__, __LINE__);
486
487         mutex_init(&usage_hack.mutex);
488
489         result = device_register(&ps3_system_bus);
490         BUG_ON(result);
491
492         result = bus_register(&ps3_system_bus_type);
493         BUG_ON(result);
494
495         pr_debug(" <- %s:%d\n", __func__, __LINE__);
496         return result;
497 }
498
499 core_initcall(ps3_system_bus_init);
500
501 /* Allocates a contiguous real buffer and creates mappings over it.
502  * Returns the virtual address of the buffer and sets dma_handle
503  * to the dma address (mapping) of the first page.
504  */
505 static void * ps3_alloc_coherent(struct device *_dev, size_t size,
506                                       dma_addr_t *dma_handle, gfp_t flag)
507 {
508         int result;
509         struct ps3_system_bus_device *dev = ps3_dev_to_system_bus_dev(_dev);
510         unsigned long virt_addr;
511
512         flag &= ~(__GFP_DMA | __GFP_HIGHMEM);
513         flag |= __GFP_ZERO;
514
515         virt_addr = __get_free_pages(flag, get_order(size));
516
517         if (!virt_addr) {
518                 pr_debug("%s:%d: get_free_pages failed\n", __func__, __LINE__);
519                 goto clean_none;
520         }
521
522         result = ps3_dma_map(dev->d_region, virt_addr, size, dma_handle,
523                              IOPTE_PP_W | IOPTE_PP_R | IOPTE_SO_RW | IOPTE_M);
524
525         if (result) {
526                 pr_debug("%s:%d: ps3_dma_map failed (%d)\n",
527                         __func__, __LINE__, result);
528                 BUG_ON("check region type");
529                 goto clean_alloc;
530         }
531
532         return (void*)virt_addr;
533
534 clean_alloc:
535         free_pages(virt_addr, get_order(size));
536 clean_none:
537         dma_handle = NULL;
538         return NULL;
539 }
540
541 static void ps3_free_coherent(struct device *_dev, size_t size, void *vaddr,
542         dma_addr_t dma_handle)
543 {
544         struct ps3_system_bus_device *dev = ps3_dev_to_system_bus_dev(_dev);
545
546         ps3_dma_unmap(dev->d_region, dma_handle, size);
547         free_pages((unsigned long)vaddr, get_order(size));
548 }
549
550 /* Creates TCEs for a user provided buffer.  The user buffer must be
551  * contiguous real kernel storage (not vmalloc).  The address of the buffer
552  * passed here is the kernel (virtual) address of the buffer.  The buffer
553  * need not be page aligned, the dma_addr_t returned will point to the same
554  * byte within the page as vaddr.
555  */
556
557 static dma_addr_t ps3_sb_map_single(struct device *_dev, void *ptr, size_t size,
558         enum dma_data_direction direction, struct dma_attrs *attrs)
559 {
560         struct ps3_system_bus_device *dev = ps3_dev_to_system_bus_dev(_dev);
561         int result;
562         unsigned long bus_addr;
563
564         result = ps3_dma_map(dev->d_region, (unsigned long)ptr, size,
565                              &bus_addr,
566                              IOPTE_PP_R | IOPTE_PP_W | IOPTE_SO_RW | IOPTE_M);
567
568         if (result) {
569                 pr_debug("%s:%d: ps3_dma_map failed (%d)\n",
570                         __func__, __LINE__, result);
571         }
572
573         return bus_addr;
574 }
575
576 static dma_addr_t ps3_ioc0_map_single(struct device *_dev, void *ptr,
577                                       size_t size,
578                                       enum dma_data_direction direction,
579                                       struct dma_attrs *attrs)
580 {
581         struct ps3_system_bus_device *dev = ps3_dev_to_system_bus_dev(_dev);
582         int result;
583         unsigned long bus_addr;
584         u64 iopte_flag;
585
586         iopte_flag = IOPTE_M;
587         switch (direction) {
588         case DMA_BIDIRECTIONAL:
589                 iopte_flag |= IOPTE_PP_R | IOPTE_PP_W | IOPTE_SO_RW;
590                 break;
591         case DMA_TO_DEVICE:
592                 iopte_flag |= IOPTE_PP_R | IOPTE_SO_R;
593                 break;
594         case DMA_FROM_DEVICE:
595                 iopte_flag |= IOPTE_PP_W | IOPTE_SO_RW;
596                 break;
597         default:
598                 /* not happned */
599                 BUG();
600         };
601         result = ps3_dma_map(dev->d_region, (unsigned long)ptr, size,
602                              &bus_addr, iopte_flag);
603
604         if (result) {
605                 pr_debug("%s:%d: ps3_dma_map failed (%d)\n",
606                         __func__, __LINE__, result);
607         }
608         return bus_addr;
609 }
610
611 static void ps3_unmap_single(struct device *_dev, dma_addr_t dma_addr,
612         size_t size, enum dma_data_direction direction, struct dma_attrs *attrs)
613 {
614         struct ps3_system_bus_device *dev = ps3_dev_to_system_bus_dev(_dev);
615         int result;
616
617         result = ps3_dma_unmap(dev->d_region, dma_addr, size);
618
619         if (result) {
620                 pr_debug("%s:%d: ps3_dma_unmap failed (%d)\n",
621                         __func__, __LINE__, result);
622         }
623 }
624
625 static int ps3_sb_map_sg(struct device *_dev, struct scatterlist *sgl,
626         int nents, enum dma_data_direction direction, struct dma_attrs *attrs)
627 {
628 #if defined(CONFIG_PS3_DYNAMIC_DMA)
629         BUG_ON("do");
630         return -EPERM;
631 #else
632         struct ps3_system_bus_device *dev = ps3_dev_to_system_bus_dev(_dev);
633         struct scatterlist *sg;
634         int i;
635
636         for_each_sg(sgl, sg, nents, i) {
637                 int result = ps3_dma_map(dev->d_region, sg_phys(sg),
638                                         sg->length, &sg->dma_address, 0);
639
640                 if (result) {
641                         pr_debug("%s:%d: ps3_dma_map failed (%d)\n",
642                                 __func__, __LINE__, result);
643                         return -EINVAL;
644                 }
645
646                 sg->dma_length = sg->length;
647         }
648
649         return nents;
650 #endif
651 }
652
653 static int ps3_ioc0_map_sg(struct device *_dev, struct scatterlist *sg,
654                            int nents,
655                            enum dma_data_direction direction,
656                            struct dma_attrs *attrs)
657 {
658         BUG();
659         return 0;
660 }
661
662 static void ps3_sb_unmap_sg(struct device *_dev, struct scatterlist *sg,
663         int nents, enum dma_data_direction direction, struct dma_attrs *attrs)
664 {
665 #if defined(CONFIG_PS3_DYNAMIC_DMA)
666         BUG_ON("do");
667 #endif
668 }
669
670 static void ps3_ioc0_unmap_sg(struct device *_dev, struct scatterlist *sg,
671                             int nents, enum dma_data_direction direction,
672                             struct dma_attrs *attrs)
673 {
674         BUG();
675 }
676
677 static int ps3_dma_supported(struct device *_dev, u64 mask)
678 {
679         return mask >= DMA_32BIT_MASK;
680 }
681
682 static struct dma_mapping_ops ps3_sb_dma_ops = {
683         .alloc_coherent = ps3_alloc_coherent,
684         .free_coherent = ps3_free_coherent,
685         .map_single = ps3_sb_map_single,
686         .unmap_single = ps3_unmap_single,
687         .map_sg = ps3_sb_map_sg,
688         .unmap_sg = ps3_sb_unmap_sg,
689         .dma_supported = ps3_dma_supported
690 };
691
692 static struct dma_mapping_ops ps3_ioc0_dma_ops = {
693         .alloc_coherent = ps3_alloc_coherent,
694         .free_coherent = ps3_free_coherent,
695         .map_single = ps3_ioc0_map_single,
696         .unmap_single = ps3_unmap_single,
697         .map_sg = ps3_ioc0_map_sg,
698         .unmap_sg = ps3_ioc0_unmap_sg,
699         .dma_supported = ps3_dma_supported
700 };
701
702 /**
703  * ps3_system_bus_release_device - remove a device from the system bus
704  */
705
706 static void ps3_system_bus_release_device(struct device *_dev)
707 {
708         struct ps3_system_bus_device *dev = ps3_dev_to_system_bus_dev(_dev);
709         kfree(dev);
710 }
711
712 /**
713  * ps3_system_bus_device_register - add a device to the system bus
714  *
715  * ps3_system_bus_device_register() expects the dev object to be allocated
716  * dynamically by the caller.  The system bus takes ownership of the dev
717  * object and frees the object in ps3_system_bus_release_device().
718  */
719
720 int ps3_system_bus_device_register(struct ps3_system_bus_device *dev)
721 {
722         int result;
723         static unsigned int dev_ioc0_count;
724         static unsigned int dev_sb_count;
725         static unsigned int dev_vuart_count;
726         static unsigned int dev_lpm_count;
727
728         if (!dev->core.parent)
729                 dev->core.parent = &ps3_system_bus;
730         dev->core.bus = &ps3_system_bus_type;
731         dev->core.release = ps3_system_bus_release_device;
732
733         switch (dev->dev_type) {
734         case PS3_DEVICE_TYPE_IOC0:
735                 dev->core.archdata.dma_ops = &ps3_ioc0_dma_ops;
736                 snprintf(dev->core.bus_id, sizeof(dev->core.bus_id),
737                         "ioc0_%02x", ++dev_ioc0_count);
738                 break;
739         case PS3_DEVICE_TYPE_SB:
740                 dev->core.archdata.dma_ops = &ps3_sb_dma_ops;
741                 snprintf(dev->core.bus_id, sizeof(dev->core.bus_id),
742                         "sb_%02x", ++dev_sb_count);
743
744                 break;
745         case PS3_DEVICE_TYPE_VUART:
746                 snprintf(dev->core.bus_id, sizeof(dev->core.bus_id),
747                         "vuart_%02x", ++dev_vuart_count);
748                 break;
749         case PS3_DEVICE_TYPE_LPM:
750                 snprintf(dev->core.bus_id, sizeof(dev->core.bus_id),
751                         "lpm_%02x", ++dev_lpm_count);
752                 break;
753         default:
754                 BUG();
755         };
756
757         dev->core.archdata.of_node = NULL;
758         dev->core.archdata.numa_node = 0;
759
760         pr_debug("%s:%d add %s\n", __func__, __LINE__, dev->core.bus_id);
761
762         result = device_register(&dev->core);
763         return result;
764 }
765
766 EXPORT_SYMBOL_GPL(ps3_system_bus_device_register);
767
768 int ps3_system_bus_driver_register(struct ps3_system_bus_driver *drv)
769 {
770         int result;
771
772         pr_debug(" -> %s:%d: %s\n", __func__, __LINE__, drv->core.name);
773
774         if (!firmware_has_feature(FW_FEATURE_PS3_LV1))
775                 return -ENODEV;
776
777         drv->core.bus = &ps3_system_bus_type;
778
779         result = driver_register(&drv->core);
780         pr_debug(" <- %s:%d: %s\n", __func__, __LINE__, drv->core.name);
781         return result;
782 }
783
784 EXPORT_SYMBOL_GPL(ps3_system_bus_driver_register);
785
786 void ps3_system_bus_driver_unregister(struct ps3_system_bus_driver *drv)
787 {
788         pr_debug(" -> %s:%d: %s\n", __func__, __LINE__, drv->core.name);
789         driver_unregister(&drv->core);
790         pr_debug(" <- %s:%d: %s\n", __func__, __LINE__, drv->core.name);
791 }
792
793 EXPORT_SYMBOL_GPL(ps3_system_bus_driver_unregister);