mmc: uniphier-sd: move uniphier_sd_init() below
[pandora-u-boot.git] / drivers / mmc / uniphier-sd.c
1 /*
2  * Copyright (C) 2016 Socionext Inc.
3  *   Author: Masahiro Yamada <yamada.masahiro@socionext.com>
4  *
5  * SPDX-License-Identifier:     GPL-2.0+
6  */
7
8 #include <common.h>
9 #include <clk.h>
10 #include <fdtdec.h>
11 #include <mmc.h>
12 #include <dm/device.h>
13 #include <linux/compat.h>
14 #include <linux/io.h>
15 #include <linux/sizes.h>
16 #include <asm/unaligned.h>
17 #include <asm/dma-mapping.h>
18
19 DECLARE_GLOBAL_DATA_PTR;
20
21 #define UNIPHIER_SD_CMD                 0x000   /* command */
22 #define   UNIPHIER_SD_CMD_NOSTOP        BIT(14) /* No automatic CMD12 issue */
23 #define   UNIPHIER_SD_CMD_MULTI         BIT(13) /* multiple block transfer */
24 #define   UNIPHIER_SD_CMD_RD            BIT(12) /* 1: read, 0: write */
25 #define   UNIPHIER_SD_CMD_DATA          BIT(11) /* data transfer */
26 #define   UNIPHIER_SD_CMD_APP           BIT(6)  /* ACMD preceded by CMD55 */
27 #define   UNIPHIER_SD_CMD_NORMAL        (0 << 8)/* auto-detect of resp-type */
28 #define   UNIPHIER_SD_CMD_RSP_NONE      (3 << 8)/* response: none */
29 #define   UNIPHIER_SD_CMD_RSP_R1        (4 << 8)/* response: R1, R5, R6, R7 */
30 #define   UNIPHIER_SD_CMD_RSP_R1B       (5 << 8)/* response: R1b, R5b */
31 #define   UNIPHIER_SD_CMD_RSP_R2        (6 << 8)/* response: R2 */
32 #define   UNIPHIER_SD_CMD_RSP_R3        (7 << 8)/* response: R3, R4 */
33 #define UNIPHIER_SD_ARG                 0x008   /* command argument */
34 #define UNIPHIER_SD_STOP                0x010   /* stop action control */
35 #define   UNIPHIER_SD_STOP_SEC          BIT(8)  /* use sector count */
36 #define   UNIPHIER_SD_STOP_STP          BIT(0)  /* issue CMD12 */
37 #define UNIPHIER_SD_SECCNT              0x014   /* sector counter */
38 #define UNIPHIER_SD_RSP10               0x018   /* response[39:8] */
39 #define UNIPHIER_SD_RSP32               0x020   /* response[71:40] */
40 #define UNIPHIER_SD_RSP54               0x028   /* response[103:72] */
41 #define UNIPHIER_SD_RSP76               0x030   /* response[127:104] */
42 #define UNIPHIER_SD_INFO1               0x038   /* IRQ status 1 */
43 #define   UNIPHIER_SD_INFO1_CD          BIT(5)  /* state of card detect */
44 #define   UNIPHIER_SD_INFO1_INSERT      BIT(4)  /* card inserted */
45 #define   UNIPHIER_SD_INFO1_REMOVE      BIT(3)  /* card removed */
46 #define   UNIPHIER_SD_INFO1_CMP         BIT(2)  /* data complete */
47 #define   UNIPHIER_SD_INFO1_RSP         BIT(0)  /* response complete */
48 #define UNIPHIER_SD_INFO2               0x03c   /* IRQ status 2 */
49 #define   UNIPHIER_SD_INFO2_ERR_ILA     BIT(15) /* illegal access err */
50 #define   UNIPHIER_SD_INFO2_CBSY        BIT(14) /* command busy */
51 #define   UNIPHIER_SD_INFO2_BWE         BIT(9)  /* write buffer ready */
52 #define   UNIPHIER_SD_INFO2_BRE         BIT(8)  /* read buffer ready */
53 #define   UNIPHIER_SD_INFO2_DAT0        BIT(7)  /* SDDAT0 */
54 #define   UNIPHIER_SD_INFO2_ERR_RTO     BIT(6)  /* response time out */
55 #define   UNIPHIER_SD_INFO2_ERR_ILR     BIT(5)  /* illegal read err */
56 #define   UNIPHIER_SD_INFO2_ERR_ILW     BIT(4)  /* illegal write err */
57 #define   UNIPHIER_SD_INFO2_ERR_TO      BIT(3)  /* time out error */
58 #define   UNIPHIER_SD_INFO2_ERR_END     BIT(2)  /* END bit error */
59 #define   UNIPHIER_SD_INFO2_ERR_CRC     BIT(1)  /* CRC error */
60 #define   UNIPHIER_SD_INFO2_ERR_IDX     BIT(0)  /* cmd index error */
61 #define UNIPHIER_SD_INFO1_MASK          0x040
62 #define UNIPHIER_SD_INFO2_MASK          0x044
63 #define UNIPHIER_SD_CLKCTL              0x048   /* clock divisor */
64 #define   UNIPHIER_SD_CLKCTL_DIV_MASK   0x104ff
65 #define   UNIPHIER_SD_CLKCTL_DIV1024    BIT(16) /* SDCLK = CLK / 1024 */
66 #define   UNIPHIER_SD_CLKCTL_DIV512     BIT(7)  /* SDCLK = CLK / 512 */
67 #define   UNIPHIER_SD_CLKCTL_DIV256     BIT(6)  /* SDCLK = CLK / 256 */
68 #define   UNIPHIER_SD_CLKCTL_DIV128     BIT(5)  /* SDCLK = CLK / 128 */
69 #define   UNIPHIER_SD_CLKCTL_DIV64      BIT(4)  /* SDCLK = CLK / 64 */
70 #define   UNIPHIER_SD_CLKCTL_DIV32      BIT(3)  /* SDCLK = CLK / 32 */
71 #define   UNIPHIER_SD_CLKCTL_DIV16      BIT(2)  /* SDCLK = CLK / 16 */
72 #define   UNIPHIER_SD_CLKCTL_DIV8       BIT(1)  /* SDCLK = CLK / 8 */
73 #define   UNIPHIER_SD_CLKCTL_DIV4       BIT(0)  /* SDCLK = CLK / 4 */
74 #define   UNIPHIER_SD_CLKCTL_DIV2       0       /* SDCLK = CLK / 2 */
75 #define   UNIPHIER_SD_CLKCTL_DIV1       BIT(10) /* SDCLK = CLK */
76 #define   UNIPHIER_SD_CLKCTL_OFFEN      BIT(9)  /* stop SDCLK when unused */
77 #define   UNIPHIER_SD_CLKCTL_SCLKEN     BIT(8)  /* SDCLK output enable */
78 #define UNIPHIER_SD_SIZE                0x04c   /* block size */
79 #define UNIPHIER_SD_OPTION              0x050
80 #define   UNIPHIER_SD_OPTION_WIDTH_MASK (5 << 13)
81 #define   UNIPHIER_SD_OPTION_WIDTH_1    (4 << 13)
82 #define   UNIPHIER_SD_OPTION_WIDTH_4    (0 << 13)
83 #define   UNIPHIER_SD_OPTION_WIDTH_8    (1 << 13)
84 #define UNIPHIER_SD_BUF                 0x060   /* read/write buffer */
85 #define UNIPHIER_SD_EXTMODE             0x1b0
86 #define   UNIPHIER_SD_EXTMODE_DMA_EN    BIT(1)  /* transfer 1: DMA, 0: pio */
87 #define UNIPHIER_SD_SOFT_RST            0x1c0
88 #define UNIPHIER_SD_SOFT_RST_RSTX       BIT(0)  /* reset deassert */
89 #define UNIPHIER_SD_VERSION             0x1c4   /* version register */
90 #define UNIPHIER_SD_VERSION_IP          0xff    /* IP version */
91 #define UNIPHIER_SD_HOST_MODE           0x1c8
92 #define UNIPHIER_SD_IF_MODE             0x1cc
93 #define   UNIPHIER_SD_IF_MODE_DDR       BIT(0)  /* DDR mode */
94 #define UNIPHIER_SD_VOLT                0x1e4   /* voltage switch */
95 #define   UNIPHIER_SD_VOLT_MASK         (3 << 0)
96 #define   UNIPHIER_SD_VOLT_OFF          (0 << 0)
97 #define   UNIPHIER_SD_VOLT_330          (1 << 0)/* 3.3V signal */
98 #define   UNIPHIER_SD_VOLT_180          (2 << 0)/* 1.8V signal */
99 #define UNIPHIER_SD_DMA_MODE            0x410
100 #define   UNIPHIER_SD_DMA_MODE_DIR_RD   BIT(16) /* 1: from device, 0: to dev */
101 #define   UNIPHIER_SD_DMA_MODE_ADDR_INC BIT(0)  /* 1: address inc, 0: fixed */
102 #define UNIPHIER_SD_DMA_CTL             0x414
103 #define   UNIPHIER_SD_DMA_CTL_START     BIT(0)  /* start DMA (auto cleared) */
104 #define UNIPHIER_SD_DMA_RST             0x418
105 #define   UNIPHIER_SD_DMA_RST_RD        BIT(9)
106 #define   UNIPHIER_SD_DMA_RST_WR        BIT(8)
107 #define UNIPHIER_SD_DMA_INFO1           0x420
108 #define   UNIPHIER_SD_DMA_INFO1_END_RD2 BIT(20) /* DMA from device is complete*/
109 #define   UNIPHIER_SD_DMA_INFO1_END_RD  BIT(17) /* Don't use!  Hardware bug */
110 #define   UNIPHIER_SD_DMA_INFO1_END_WR  BIT(16) /* DMA to device is complete */
111 #define UNIPHIER_SD_DMA_INFO1_MASK      0x424
112 #define UNIPHIER_SD_DMA_INFO2           0x428
113 #define   UNIPHIER_SD_DMA_INFO2_ERR_RD  BIT(17)
114 #define   UNIPHIER_SD_DMA_INFO2_ERR_WR  BIT(16)
115 #define UNIPHIER_SD_DMA_INFO2_MASK      0x42c
116 #define UNIPHIER_SD_DMA_ADDR_L          0x440
117 #define UNIPHIER_SD_DMA_ADDR_H          0x444
118
119 /* alignment required by the DMA engine of this controller */
120 #define UNIPHIER_SD_DMA_MINALIGN        0x10
121
122 struct uniphier_sd_priv {
123         struct mmc_config cfg;
124         struct mmc *mmc;
125         void __iomem *regbase;
126         unsigned long mclk;
127         unsigned int version;
128         u32 caps;
129 #define UNIPHIER_SD_CAP_NONREMOVABLE    BIT(0)  /* Nonremovable e.g. eMMC */
130 #define UNIPHIER_SD_CAP_DMA_INTERNAL    BIT(1)  /* have internal DMA engine */
131 #define UNIPHIER_SD_CAP_DIV1024         BIT(2)  /* divisor 1024 is available */
132 };
133
134 static dma_addr_t __dma_map_single(void *ptr, size_t size,
135                                    enum dma_data_direction dir)
136 {
137         unsigned long addr = (unsigned long)ptr;
138
139         if (dir == DMA_FROM_DEVICE)
140                 invalidate_dcache_range(addr, addr + size);
141         else
142                 flush_dcache_range(addr, addr + size);
143
144         return addr;
145 }
146
147 static void __dma_unmap_single(dma_addr_t addr, size_t size,
148                                enum dma_data_direction dir)
149 {
150         if (dir != DMA_TO_DEVICE)
151                 invalidate_dcache_range(addr, addr + size);
152 }
153
154 static int uniphier_sd_check_error(struct udevice *dev)
155 {
156         struct uniphier_sd_priv *priv = dev_get_priv(dev);
157         u32 info2 = readl(priv->regbase + UNIPHIER_SD_INFO2);
158
159         if (info2 & UNIPHIER_SD_INFO2_ERR_RTO) {
160                 /*
161                  * TIMEOUT must be returned for unsupported command.  Do not
162                  * display error log since this might be a part of sequence to
163                  * distinguish between SD and MMC.
164                  */
165                 return -ETIMEDOUT;
166         }
167
168         if (info2 & UNIPHIER_SD_INFO2_ERR_TO) {
169                 dev_err(dev, "timeout error\n");
170                 return -ETIMEDOUT;
171         }
172
173         if (info2 & (UNIPHIER_SD_INFO2_ERR_END | UNIPHIER_SD_INFO2_ERR_CRC |
174                      UNIPHIER_SD_INFO2_ERR_IDX)) {
175                 dev_err(dev, "communication out of sync\n");
176                 return -EILSEQ;
177         }
178
179         if (info2 & (UNIPHIER_SD_INFO2_ERR_ILA | UNIPHIER_SD_INFO2_ERR_ILR |
180                      UNIPHIER_SD_INFO2_ERR_ILW)) {
181                 dev_err(dev, "illegal access\n");
182                 return -EIO;
183         }
184
185         return 0;
186 }
187
188 static int uniphier_sd_wait_for_irq(struct udevice *dev, unsigned int reg,
189                                     u32 flag)
190 {
191         struct uniphier_sd_priv *priv = dev_get_priv(dev);
192         long wait = 1000000;
193         int ret;
194
195         while (!(readl(priv->regbase + reg) & flag)) {
196                 if (wait-- < 0) {
197                         dev_err(dev, "timeout\n");
198                         return -ETIMEDOUT;
199                 }
200
201                 ret = uniphier_sd_check_error(dev);
202                 if (ret)
203                         return ret;
204
205                 udelay(1);
206         }
207
208         return 0;
209 }
210
211 static int uniphier_sd_pio_read_one_block(struct udevice *dev, u32 **pbuf,
212                                           uint blocksize)
213 {
214         struct uniphier_sd_priv *priv = dev_get_priv(dev);
215         int i, ret;
216
217         /* wait until the buffer is filled with data */
218         ret = uniphier_sd_wait_for_irq(dev, UNIPHIER_SD_INFO2,
219                                        UNIPHIER_SD_INFO2_BRE);
220         if (ret)
221                 return ret;
222
223         /*
224          * Clear the status flag _before_ read the buffer out because
225          * UNIPHIER_SD_INFO2_BRE is edge-triggered, not level-triggered.
226          */
227         writel(0, priv->regbase + UNIPHIER_SD_INFO2);
228
229         if (likely(IS_ALIGNED((unsigned long)*pbuf, 4))) {
230                 for (i = 0; i < blocksize / 4; i++)
231                         *(*pbuf)++ = readl(priv->regbase + UNIPHIER_SD_BUF);
232         } else {
233                 for (i = 0; i < blocksize / 4; i++)
234                         put_unaligned(readl(priv->regbase + UNIPHIER_SD_BUF),
235                                       (*pbuf)++);
236         }
237
238         return 0;
239 }
240
241 static int uniphier_sd_pio_write_one_block(struct udevice *dev,
242                                            const u32 **pbuf, uint blocksize)
243 {
244         struct uniphier_sd_priv *priv = dev_get_priv(dev);
245         int i, ret;
246
247         /* wait until the buffer becomes empty */
248         ret = uniphier_sd_wait_for_irq(dev, UNIPHIER_SD_INFO2,
249                                        UNIPHIER_SD_INFO2_BWE);
250         if (ret)
251                 return ret;
252
253         writel(0, priv->regbase + UNIPHIER_SD_INFO2);
254
255         if (likely(IS_ALIGNED((unsigned long)*pbuf, 4))) {
256                 for (i = 0; i < blocksize / 4; i++)
257                         writel(*(*pbuf)++, priv->regbase + UNIPHIER_SD_BUF);
258         } else {
259                 for (i = 0; i < blocksize / 4; i++)
260                         writel(get_unaligned((*pbuf)++),
261                                priv->regbase + UNIPHIER_SD_BUF);
262         }
263
264         return 0;
265 }
266
267 static int uniphier_sd_pio_xfer(struct udevice *dev, struct mmc_data *data)
268 {
269         u32 *dest = (u32 *)data->dest;
270         const u32 *src = (const u32 *)data->src;
271         int i, ret;
272
273         for (i = 0; i < data->blocks; i++) {
274                 if (data->flags & MMC_DATA_READ)
275                         ret = uniphier_sd_pio_read_one_block(dev, &dest,
276                                                              data->blocksize);
277                 else
278                         ret = uniphier_sd_pio_write_one_block(dev, &src,
279                                                               data->blocksize);
280                 if (ret)
281                         return ret;
282         }
283
284         return 0;
285 }
286
287 static void uniphier_sd_dma_start(struct uniphier_sd_priv *priv,
288                                   dma_addr_t dma_addr)
289 {
290         u32 tmp;
291
292         writel(0, priv->regbase + UNIPHIER_SD_DMA_INFO1);
293         writel(0, priv->regbase + UNIPHIER_SD_DMA_INFO2);
294
295         /* enable DMA */
296         tmp = readl(priv->regbase + UNIPHIER_SD_EXTMODE);
297         tmp |= UNIPHIER_SD_EXTMODE_DMA_EN;
298         writel(tmp, priv->regbase + UNIPHIER_SD_EXTMODE);
299
300         writel(dma_addr & U32_MAX, priv->regbase + UNIPHIER_SD_DMA_ADDR_L);
301
302         /* suppress the warning "right shift count >= width of type" */
303         dma_addr >>= min_t(int, 32, 8 * sizeof(dma_addr));
304
305         writel(dma_addr & U32_MAX, priv->regbase + UNIPHIER_SD_DMA_ADDR_H);
306
307         writel(UNIPHIER_SD_DMA_CTL_START, priv->regbase + UNIPHIER_SD_DMA_CTL);
308 }
309
310 static int uniphier_sd_dma_wait_for_irq(struct udevice *dev, u32 flag,
311                                         unsigned int blocks)
312 {
313         struct uniphier_sd_priv *priv = dev_get_priv(dev);
314         long wait = 1000000 + 10 * blocks;
315
316         while (!(readl(priv->regbase + UNIPHIER_SD_DMA_INFO1) & flag)) {
317                 if (wait-- < 0) {
318                         dev_err(dev, "timeout during DMA\n");
319                         return -ETIMEDOUT;
320                 }
321
322                 udelay(10);
323         }
324
325         if (readl(priv->regbase + UNIPHIER_SD_DMA_INFO2)) {
326                 dev_err(dev, "error during DMA\n");
327                 return -EIO;
328         }
329
330         return 0;
331 }
332
333 static int uniphier_sd_dma_xfer(struct udevice *dev, struct mmc_data *data)
334 {
335         struct uniphier_sd_priv *priv = dev_get_priv(dev);
336         size_t len = data->blocks * data->blocksize;
337         void *buf;
338         enum dma_data_direction dir;
339         dma_addr_t dma_addr;
340         u32 poll_flag, tmp;
341         int ret;
342
343         tmp = readl(priv->regbase + UNIPHIER_SD_DMA_MODE);
344
345         if (data->flags & MMC_DATA_READ) {
346                 buf = data->dest;
347                 dir = DMA_FROM_DEVICE;
348                 poll_flag = UNIPHIER_SD_DMA_INFO1_END_RD2;
349                 tmp |= UNIPHIER_SD_DMA_MODE_DIR_RD;
350         } else {
351                 buf = (void *)data->src;
352                 dir = DMA_TO_DEVICE;
353                 poll_flag = UNIPHIER_SD_DMA_INFO1_END_WR;
354                 tmp &= ~UNIPHIER_SD_DMA_MODE_DIR_RD;
355         }
356
357         writel(tmp, priv->regbase + UNIPHIER_SD_DMA_MODE);
358
359         dma_addr = __dma_map_single(buf, len, dir);
360
361         uniphier_sd_dma_start(priv, dma_addr);
362
363         ret = uniphier_sd_dma_wait_for_irq(dev, poll_flag, data->blocks);
364
365         __dma_unmap_single(dma_addr, len, dir);
366
367         return ret;
368 }
369
370 /* check if the address is DMA'able */
371 static bool uniphier_sd_addr_is_dmaable(unsigned long addr)
372 {
373         if (!IS_ALIGNED(addr, UNIPHIER_SD_DMA_MINALIGN))
374                 return false;
375
376 #if defined(CONFIG_ARCH_UNIPHIER) && !defined(CONFIG_ARM64) && \
377         defined(CONFIG_SPL_BUILD)
378         /*
379          * For UniPhier ARMv7 SoCs, the stack is allocated in the locked ways
380          * of L2, which is unreachable from the DMA engine.
381          */
382         if (addr < CONFIG_SPL_STACK)
383                 return false;
384 #endif
385
386         return true;
387 }
388
389 static int uniphier_sd_send_cmd(struct udevice *dev, struct mmc_cmd *cmd,
390                                 struct mmc_data *data)
391 {
392         struct uniphier_sd_priv *priv = dev_get_priv(dev);
393         int ret;
394         u32 tmp;
395
396         if (readl(priv->regbase + UNIPHIER_SD_INFO2) & UNIPHIER_SD_INFO2_CBSY) {
397                 dev_err(dev, "command busy\n");
398                 return -EBUSY;
399         }
400
401         /* clear all status flags */
402         writel(0, priv->regbase + UNIPHIER_SD_INFO1);
403         writel(0, priv->regbase + UNIPHIER_SD_INFO2);
404
405         /* disable DMA once */
406         tmp = readl(priv->regbase + UNIPHIER_SD_EXTMODE);
407         tmp &= ~UNIPHIER_SD_EXTMODE_DMA_EN;
408         writel(tmp, priv->regbase + UNIPHIER_SD_EXTMODE);
409
410         writel(cmd->cmdarg, priv->regbase + UNIPHIER_SD_ARG);
411
412         tmp = cmd->cmdidx;
413
414         if (data) {
415                 writel(data->blocksize, priv->regbase + UNIPHIER_SD_SIZE);
416                 writel(data->blocks, priv->regbase + UNIPHIER_SD_SECCNT);
417
418                 /* Do not send CMD12 automatically */
419                 tmp |= UNIPHIER_SD_CMD_NOSTOP | UNIPHIER_SD_CMD_DATA;
420
421                 if (data->blocks > 1)
422                         tmp |= UNIPHIER_SD_CMD_MULTI;
423
424                 if (data->flags & MMC_DATA_READ)
425                         tmp |= UNIPHIER_SD_CMD_RD;
426         }
427
428         /*
429          * Do not use the response type auto-detection on this hardware.
430          * CMD8, for example, has different response types on SD and eMMC,
431          * while this controller always assumes the response type for SD.
432          * Set the response type manually.
433          */
434         switch (cmd->resp_type) {
435         case MMC_RSP_NONE:
436                 tmp |= UNIPHIER_SD_CMD_RSP_NONE;
437                 break;
438         case MMC_RSP_R1:
439                 tmp |= UNIPHIER_SD_CMD_RSP_R1;
440                 break;
441         case MMC_RSP_R1b:
442                 tmp |= UNIPHIER_SD_CMD_RSP_R1B;
443                 break;
444         case MMC_RSP_R2:
445                 tmp |= UNIPHIER_SD_CMD_RSP_R2;
446                 break;
447         case MMC_RSP_R3:
448                 tmp |= UNIPHIER_SD_CMD_RSP_R3;
449                 break;
450         default:
451                 dev_err(dev, "unknown response type\n");
452                 return -EINVAL;
453         }
454
455         dev_dbg(dev, "sending CMD%d (SD_CMD=%08x, SD_ARG=%08x)\n",
456                 cmd->cmdidx, tmp, cmd->cmdarg);
457         writel(tmp, priv->regbase + UNIPHIER_SD_CMD);
458
459         ret = uniphier_sd_wait_for_irq(dev, UNIPHIER_SD_INFO1,
460                                        UNIPHIER_SD_INFO1_RSP);
461         if (ret)
462                 return ret;
463
464         if (cmd->resp_type & MMC_RSP_136) {
465                 u32 rsp_127_104 = readl(priv->regbase + UNIPHIER_SD_RSP76);
466                 u32 rsp_103_72 = readl(priv->regbase + UNIPHIER_SD_RSP54);
467                 u32 rsp_71_40 = readl(priv->regbase + UNIPHIER_SD_RSP32);
468                 u32 rsp_39_8 = readl(priv->regbase + UNIPHIER_SD_RSP10);
469
470                 cmd->response[0] = (rsp_127_104 & 0xffffff) << 8 |
471                                                         (rsp_103_72 & 0xff);
472                 cmd->response[1] = (rsp_103_72  & 0xffffff) << 8 |
473                                                         (rsp_71_40 & 0xff);
474                 cmd->response[2] = (rsp_71_40   & 0xffffff) << 8 |
475                                                         (rsp_39_8 & 0xff);
476                 cmd->response[3] = (rsp_39_8    & 0xffffff) << 8;
477         } else {
478                 /* bit 39-8 */
479                 cmd->response[0] = readl(priv->regbase + UNIPHIER_SD_RSP10);
480         }
481
482         if (data) {
483                 /* use DMA if the HW supports it and the buffer is aligned */
484                 if (priv->caps & UNIPHIER_SD_CAP_DMA_INTERNAL &&
485                     uniphier_sd_addr_is_dmaable((long)data->src))
486                         ret = uniphier_sd_dma_xfer(dev, data);
487                 else
488                         ret = uniphier_sd_pio_xfer(dev, data);
489
490                 ret = uniphier_sd_wait_for_irq(dev, UNIPHIER_SD_INFO1,
491                                                UNIPHIER_SD_INFO1_CMP);
492                 if (ret)
493                         return ret;
494         }
495
496         return ret;
497 }
498
499 static void uniphier_sd_set_bus_width(struct uniphier_sd_priv *priv,
500                                       struct mmc *mmc)
501 {
502         u32 val, tmp;
503
504         switch (mmc->bus_width) {
505         case 1:
506                 val = UNIPHIER_SD_OPTION_WIDTH_1;
507                 break;
508         case 4:
509                 val = UNIPHIER_SD_OPTION_WIDTH_4;
510                 break;
511         case 8:
512                 val = UNIPHIER_SD_OPTION_WIDTH_8;
513                 break;
514         default:
515                 BUG();
516                 break;
517         }
518
519         tmp = readl(priv->regbase + UNIPHIER_SD_OPTION);
520         tmp &= ~UNIPHIER_SD_OPTION_WIDTH_MASK;
521         tmp |= val;
522         writel(tmp, priv->regbase + UNIPHIER_SD_OPTION);
523 }
524
525 static void uniphier_sd_set_ddr_mode(struct uniphier_sd_priv *priv,
526                                      struct mmc *mmc)
527 {
528         u32 tmp;
529
530         tmp = readl(priv->regbase + UNIPHIER_SD_IF_MODE);
531         if (mmc->ddr_mode)
532                 tmp |= UNIPHIER_SD_IF_MODE_DDR;
533         else
534                 tmp &= ~UNIPHIER_SD_IF_MODE_DDR;
535         writel(tmp, priv->regbase + UNIPHIER_SD_IF_MODE);
536 }
537
538 static void uniphier_sd_set_clk_rate(struct uniphier_sd_priv *priv,
539                                      struct mmc *mmc)
540 {
541         unsigned int divisor;
542         u32 val, tmp;
543
544         if (!mmc->clock)
545                 return;
546
547         divisor = DIV_ROUND_UP(priv->mclk, mmc->clock);
548
549         if (divisor <= 1)
550                 val = UNIPHIER_SD_CLKCTL_DIV1;
551         else if (divisor <= 2)
552                 val = UNIPHIER_SD_CLKCTL_DIV2;
553         else if (divisor <= 4)
554                 val = UNIPHIER_SD_CLKCTL_DIV4;
555         else if (divisor <= 8)
556                 val = UNIPHIER_SD_CLKCTL_DIV8;
557         else if (divisor <= 16)
558                 val = UNIPHIER_SD_CLKCTL_DIV16;
559         else if (divisor <= 32)
560                 val = UNIPHIER_SD_CLKCTL_DIV32;
561         else if (divisor <= 64)
562                 val = UNIPHIER_SD_CLKCTL_DIV64;
563         else if (divisor <= 128)
564                 val = UNIPHIER_SD_CLKCTL_DIV128;
565         else if (divisor <= 256)
566                 val = UNIPHIER_SD_CLKCTL_DIV256;
567         else if (divisor <= 512 || !(priv->caps & UNIPHIER_SD_CAP_DIV1024))
568                 val = UNIPHIER_SD_CLKCTL_DIV512;
569         else
570                 val = UNIPHIER_SD_CLKCTL_DIV1024;
571
572         tmp = readl(priv->regbase + UNIPHIER_SD_CLKCTL);
573
574         /* stop the clock before changing its rate to avoid a glitch signal */
575         tmp &= ~UNIPHIER_SD_CLKCTL_SCLKEN;
576         writel(tmp, priv->regbase + UNIPHIER_SD_CLKCTL);
577
578         tmp &= ~UNIPHIER_SD_CLKCTL_DIV_MASK;
579         tmp |= val | UNIPHIER_SD_CLKCTL_OFFEN;
580         writel(tmp, priv->regbase + UNIPHIER_SD_CLKCTL);
581
582         tmp |= UNIPHIER_SD_CLKCTL_SCLKEN;
583         writel(tmp, priv->regbase + UNIPHIER_SD_CLKCTL);
584 }
585
586 static int uniphier_sd_set_ios(struct udevice *dev)
587 {
588         struct uniphier_sd_priv *priv = dev_get_priv(dev);
589         struct mmc *mmc = mmc_get_mmc_dev(dev);
590
591         dev_dbg(dev, "clock %uHz, DDRmode %d, width %u\n",
592                 mmc->clock, mmc->ddr_mode, mmc->bus_width);
593
594         uniphier_sd_set_bus_width(priv, mmc);
595         uniphier_sd_set_ddr_mode(priv, mmc);
596         uniphier_sd_set_clk_rate(priv, mmc);
597
598         udelay(1000);
599
600         return 0;
601 }
602
603 static int uniphier_sd_get_cd(struct udevice *dev)
604 {
605         struct uniphier_sd_priv *priv = dev_get_priv(dev);
606
607         if (priv->caps & UNIPHIER_SD_CAP_NONREMOVABLE)
608                 return 1;
609
610         return !!(readl(priv->regbase + UNIPHIER_SD_INFO1) &
611                   UNIPHIER_SD_INFO1_CD);
612 }
613
614 static const struct dm_mmc_ops uniphier_sd_ops = {
615         .send_cmd = uniphier_sd_send_cmd,
616         .set_ios = uniphier_sd_set_ios,
617         .get_cd = uniphier_sd_get_cd,
618 };
619
620 static void uniphier_sd_host_init(struct uniphier_sd_priv *priv)
621 {
622         u32 tmp;
623
624         /* soft reset of the host */
625         tmp = readl(priv->regbase + UNIPHIER_SD_SOFT_RST);
626         tmp &= ~UNIPHIER_SD_SOFT_RST_RSTX;
627         writel(tmp, priv->regbase + UNIPHIER_SD_SOFT_RST);
628         tmp |= UNIPHIER_SD_SOFT_RST_RSTX;
629         writel(tmp, priv->regbase + UNIPHIER_SD_SOFT_RST);
630
631         /* FIXME: implement eMMC hw_reset */
632
633         writel(UNIPHIER_SD_STOP_SEC, priv->regbase + UNIPHIER_SD_STOP);
634
635         /*
636          * Connected to 32bit AXI.
637          * This register dropped backward compatibility at version 0x10.
638          * Write an appropriate value depending on the IP version.
639          */
640         writel(priv->version >= 0x10 ? 0x00000101 : 0x00000000,
641                priv->regbase + UNIPHIER_SD_HOST_MODE);
642
643         if (priv->caps & UNIPHIER_SD_CAP_DMA_INTERNAL) {
644                 tmp = readl(priv->regbase + UNIPHIER_SD_DMA_MODE);
645                 tmp |= UNIPHIER_SD_DMA_MODE_ADDR_INC;
646                 writel(tmp, priv->regbase + UNIPHIER_SD_DMA_MODE);
647         }
648 }
649
650 static int uniphier_sd_probe(struct udevice *dev)
651 {
652         struct uniphier_sd_priv *priv = dev_get_priv(dev);
653         struct mmc_uclass_priv *upriv = dev_get_uclass_priv(dev);
654         fdt_addr_t base;
655         struct clk clk;
656         int ret;
657
658         base = dev_get_addr(dev);
659         if (base == FDT_ADDR_T_NONE)
660                 return -EINVAL;
661
662         priv->regbase = devm_ioremap(dev, base, SZ_2K);
663         if (!priv->regbase)
664                 return -ENOMEM;
665
666         ret = clk_get_by_index(dev, 0, &clk);
667         if (ret < 0) {
668                 dev_err(dev, "failed to get host clock\n");
669                 return ret;
670         }
671
672         /* set to max rate */
673         priv->mclk = clk_set_rate(&clk, ULONG_MAX);
674         if (IS_ERR_VALUE(priv->mclk)) {
675                 dev_err(dev, "failed to set rate for host clock\n");
676                 clk_free(&clk);
677                 return priv->mclk;
678         }
679
680         ret = clk_enable(&clk);
681         clk_free(&clk);
682         if (ret) {
683                 dev_err(dev, "failed to enable host clock\n");
684                 return ret;
685         }
686
687         priv->cfg.name = dev->name;
688         priv->cfg.host_caps = MMC_MODE_HS_52MHz | MMC_MODE_HS;
689
690         switch (fdtdec_get_int(gd->fdt_blob, dev->of_offset, "bus-width", 1)) {
691         case 8:
692                 priv->cfg.host_caps |= MMC_MODE_8BIT;
693                 break;
694         case 4:
695                 priv->cfg.host_caps |= MMC_MODE_4BIT;
696                 break;
697         case 1:
698                 break;
699         default:
700                 dev_err(dev, "Invalid \"bus-width\" value\n");
701                 return -EINVAL;
702         }
703
704         if (fdt_get_property(gd->fdt_blob, dev->of_offset, "non-removable",
705                              NULL))
706                 priv->caps |= UNIPHIER_SD_CAP_NONREMOVABLE;
707
708         priv->version = readl(priv->regbase + UNIPHIER_SD_VERSION) &
709                                                         UNIPHIER_SD_VERSION_IP;
710         dev_dbg(dev, "version %x\n", priv->version);
711         if (priv->version >= 0x10) {
712                 priv->caps |= UNIPHIER_SD_CAP_DMA_INTERNAL;
713                 priv->caps |= UNIPHIER_SD_CAP_DIV1024;
714         }
715
716         uniphier_sd_host_init(priv);
717
718         priv->cfg.voltages = MMC_VDD_165_195 | MMC_VDD_32_33 | MMC_VDD_33_34;
719         priv->cfg.f_min = priv->mclk /
720                         (priv->caps & UNIPHIER_SD_CAP_DIV1024 ? 1024 : 512);
721         priv->cfg.f_max = priv->mclk;
722         priv->cfg.b_max = U32_MAX; /* max value of UNIPHIER_SD_SECCNT */
723
724         priv->mmc = mmc_create(&priv->cfg, priv);
725         if (!priv->mmc)
726                 return -EIO;
727
728         upriv->mmc = priv->mmc;
729         priv->mmc->dev = dev;
730
731         return 0;
732 }
733
734 static int uniphier_sd_remove(struct udevice *dev)
735 {
736         struct uniphier_sd_priv *priv = dev_get_priv(dev);
737
738         mmc_destroy(priv->mmc);
739
740         return 0;
741 }
742
743 static const struct udevice_id uniphier_sd_match[] = {
744         { .compatible = "socionext,uniphier-sdhc" },
745         { /* sentinel */ }
746 };
747
748 U_BOOT_DRIVER(uniphier_mmc) = {
749         .name = "uniphier-mmc",
750         .id = UCLASS_MMC,
751         .of_match = uniphier_sd_match,
752         .probe = uniphier_sd_probe,
753         .remove = uniphier_sd_remove,
754         .priv_auto_alloc_size = sizeof(struct uniphier_sd_priv),
755         .ops = &uniphier_sd_ops,
756 };