mtd: nand: pull in td into read_bbt()
[pandora-kernel.git] / drivers / mtd / nand / nand_bbt.c
1 /*
2  *  drivers/mtd/nand_bbt.c
3  *
4  *  Overview:
5  *   Bad block table support for the NAND driver
6  *
7  *  Copyright (C) 2004 Thomas Gleixner (tglx@linutronix.de)
8  *
9  * This program is free software; you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License version 2 as
11  * published by the Free Software Foundation.
12  *
13  * Description:
14  *
15  * When nand_scan_bbt is called, then it tries to find the bad block table
16  * depending on the options in the bbt descriptor(s). If a bbt is found
17  * then the contents are read and the memory based bbt is created. If a
18  * mirrored bbt is selected then the mirror is searched too and the
19  * versions are compared. If the mirror has a greater version number
20  * than the mirror bbt is used to build the memory based bbt.
21  * If the tables are not versioned, then we "or" the bad block information.
22  * If one of the bbt's is out of date or does not exist it is (re)created.
23  * If no bbt exists at all then the device is scanned for factory marked
24  * good / bad blocks and the bad block tables are created.
25  *
26  * For manufacturer created bbts like the one found on M-SYS DOC devices
27  * the bbt is searched and read but never created
28  *
29  * The autogenerated bad block table is located in the last good blocks
30  * of the device. The table is mirrored, so it can be updated eventually.
31  * The table is marked in the oob area with an ident pattern and a version
32  * number which indicates which of both tables is more up to date.
33  *
34  * The table uses 2 bits per block
35  * 11b:         block is good
36  * 00b:         block is factory marked bad
37  * 01b, 10b:    block is marked bad due to wear
38  *
39  * The memory bad block table uses the following scheme:
40  * 00b:         block is good
41  * 01b:         block is marked bad due to wear
42  * 10b:         block is reserved (to protect the bbt area)
43  * 11b:         block is factory marked bad
44  *
45  * Multichip devices like DOC store the bad block info per floor.
46  *
47  * Following assumptions are made:
48  * - bbts start at a page boundary, if autolocated on a block boundary
49  * - the space necessary for a bbt in FLASH does not exceed a block boundary
50  *
51  */
52
53 #include <linux/slab.h>
54 #include <linux/types.h>
55 #include <linux/mtd/mtd.h>
56 #include <linux/mtd/nand.h>
57 #include <linux/mtd/nand_ecc.h>
58 #include <linux/bitops.h>
59 #include <linux/delay.h>
60 #include <linux/vmalloc.h>
61
62 /**
63  * check_pattern - [GENERIC] check if a pattern is in the buffer
64  * @buf:        the buffer to search
65  * @len:        the length of buffer to search
66  * @paglen:     the pagelength
67  * @td:         search pattern descriptor
68  *
69  * Check for a pattern at the given place. Used to search bad block
70  * tables and good / bad block identifiers.
71  * If the SCAN_EMPTY option is set then check, if all bytes except the
72  * pattern area contain 0xff
73  *
74 */
75 static int check_pattern(uint8_t *buf, int len, int paglen, struct nand_bbt_descr *td)
76 {
77         int i, end = 0;
78         uint8_t *p = buf;
79
80         end = paglen + td->offs;
81         if (td->options & NAND_BBT_SCANEMPTY) {
82                 for (i = 0; i < end; i++) {
83                         if (p[i] != 0xff)
84                                 return -1;
85                 }
86         }
87         p += end;
88
89         /* Compare the pattern */
90         for (i = 0; i < td->len; i++) {
91                 if (p[i] != td->pattern[i])
92                         return -1;
93         }
94
95         /* Check both positions 1 and 6 for pattern? */
96         if (td->options & NAND_BBT_SCANBYTE1AND6) {
97                 if (td->options & NAND_BBT_SCANEMPTY) {
98                         p += td->len;
99                         end += NAND_SMALL_BADBLOCK_POS - td->offs;
100                         /* Check region between positions 1 and 6 */
101                         for (i = 0; i < NAND_SMALL_BADBLOCK_POS - td->offs - td->len;
102                                         i++) {
103                                 if (*p++ != 0xff)
104                                         return -1;
105                         }
106                 }
107                 else {
108                         p += NAND_SMALL_BADBLOCK_POS - td->offs;
109                 }
110                 /* Compare the pattern */
111                 for (i = 0; i < td->len; i++) {
112                         if (p[i] != td->pattern[i])
113                                 return -1;
114                 }
115         }
116
117         if (td->options & NAND_BBT_SCANEMPTY) {
118                 p += td->len;
119                 end += td->len;
120                 for (i = end; i < len; i++) {
121                         if (*p++ != 0xff)
122                                 return -1;
123                 }
124         }
125         return 0;
126 }
127
128 /**
129  * check_short_pattern - [GENERIC] check if a pattern is in the buffer
130  * @buf:        the buffer to search
131  * @td:         search pattern descriptor
132  *
133  * Check for a pattern at the given place. Used to search bad block
134  * tables and good / bad block identifiers. Same as check_pattern, but
135  * no optional empty check
136  *
137 */
138 static int check_short_pattern(uint8_t *buf, struct nand_bbt_descr *td)
139 {
140         int i;
141         uint8_t *p = buf;
142
143         /* Compare the pattern */
144         for (i = 0; i < td->len; i++) {
145                 if (p[td->offs + i] != td->pattern[i])
146                         return -1;
147         }
148         /* Need to check location 1 AND 6? */
149         if (td->options & NAND_BBT_SCANBYTE1AND6) {
150                 for (i = 0; i < td->len; i++) {
151                         if (p[NAND_SMALL_BADBLOCK_POS + i] != td->pattern[i])
152                                 return -1;
153                 }
154         }
155         return 0;
156 }
157
158 /**
159  * read_bbt - [GENERIC] Read the bad block table starting from page
160  * @mtd:        MTD device structure
161  * @buf:        temporary buffer
162  * @page:       the starting page
163  * @num:        the number of bbt descriptors to read
164  * @td:         the bbt describtion table
165  * @offs:       offset in the memory table
166  *
167  * Read the bad block table starting from page.
168  *
169  */
170 static int read_bbt(struct mtd_info *mtd, uint8_t *buf, int page, int num,
171                 struct nand_bbt_descr *td, int offs)
172 {
173         int res, i, j, act = 0;
174         struct nand_chip *this = mtd->priv;
175         size_t retlen, len, totlen;
176         loff_t from;
177         int bits = td->options & NAND_BBT_NRBITS_MSK;
178         uint8_t msk = (uint8_t) ((1 << bits) - 1);
179         int reserved_block_code = td->reserved_block_code;
180
181         totlen = (num * bits) >> 3;
182         from = ((loff_t) page) << this->page_shift;
183
184         while (totlen) {
185                 len = min(totlen, (size_t) (1 << this->bbt_erase_shift));
186                 res = mtd->read(mtd, from, len, &retlen, buf);
187                 if (res < 0) {
188                         if (retlen != len) {
189                                 printk(KERN_INFO "nand_bbt: Error reading bad block table\n");
190                                 return res;
191                         }
192                         printk(KERN_WARNING "nand_bbt: ECC error while reading bad block table\n");
193                 }
194
195                 /* Analyse data */
196                 for (i = 0; i < len; i++) {
197                         uint8_t dat = buf[i];
198                         for (j = 0; j < 8; j += bits, act += 2) {
199                                 uint8_t tmp = (dat >> j) & msk;
200                                 if (tmp == msk)
201                                         continue;
202                                 if (reserved_block_code && (tmp == reserved_block_code)) {
203                                         printk(KERN_DEBUG "nand_read_bbt: Reserved block at 0x%012llx\n",
204                                                (loff_t)((offs << 2) + (act >> 1)) << this->bbt_erase_shift);
205                                         this->bbt[offs + (act >> 3)] |= 0x2 << (act & 0x06);
206                                         mtd->ecc_stats.bbtblocks++;
207                                         continue;
208                                 }
209                                 /* Leave it for now, if its matured we can move this
210                                  * message to MTD_DEBUG_LEVEL0 */
211                                 printk(KERN_DEBUG "nand_read_bbt: Bad block at 0x%012llx\n",
212                                        (loff_t)((offs << 2) + (act >> 1)) << this->bbt_erase_shift);
213                                 /* Factory marked bad or worn out ? */
214                                 if (tmp == 0)
215                                         this->bbt[offs + (act >> 3)] |= 0x3 << (act & 0x06);
216                                 else
217                                         this->bbt[offs + (act >> 3)] |= 0x1 << (act & 0x06);
218                                 mtd->ecc_stats.badblocks++;
219                         }
220                 }
221                 totlen -= len;
222                 from += len;
223         }
224         return 0;
225 }
226
227 /**
228  * read_abs_bbt - [GENERIC] Read the bad block table starting at a given page
229  * @mtd:        MTD device structure
230  * @buf:        temporary buffer
231  * @td:         descriptor for the bad block table
232  * @chip:       read the table for a specific chip, -1 read all chips.
233  *              Applies only if NAND_BBT_PERCHIP option is set
234  *
235  * Read the bad block table for all chips starting at a given page
236  * We assume that the bbt bits are in consecutive order.
237 */
238 static int read_abs_bbt(struct mtd_info *mtd, uint8_t *buf, struct nand_bbt_descr *td, int chip)
239 {
240         struct nand_chip *this = mtd->priv;
241         int res = 0, i;
242
243         if (td->options & NAND_BBT_PERCHIP) {
244                 int offs = 0;
245                 for (i = 0; i < this->numchips; i++) {
246                         if (chip == -1 || chip == i)
247                                 res = read_bbt(mtd, buf, td->pages[i],
248                                         this->chipsize >> this->bbt_erase_shift,
249                                         td, offs);
250                         if (res)
251                                 return res;
252                         offs += this->chipsize >> (this->bbt_erase_shift + 2);
253                 }
254         } else {
255                 res = read_bbt(mtd, buf, td->pages[0],
256                                 mtd->size >> this->bbt_erase_shift, td, 0);
257                 if (res)
258                         return res;
259         }
260         return 0;
261 }
262
263 /*
264  * Scan read raw data from flash
265  */
266 static int scan_read_raw(struct mtd_info *mtd, uint8_t *buf, loff_t offs,
267                          size_t len)
268 {
269         struct mtd_oob_ops ops;
270         int res;
271
272         ops.mode = MTD_OOB_RAW;
273         ops.ooboffs = 0;
274         ops.ooblen = mtd->oobsize;
275
276
277         while (len > 0) {
278                 if (len <= mtd->writesize) {
279                         ops.oobbuf = buf + len;
280                         ops.datbuf = buf;
281                         ops.len = len;
282                         return mtd->read_oob(mtd, offs, &ops);
283                 } else {
284                         ops.oobbuf = buf + mtd->writesize;
285                         ops.datbuf = buf;
286                         ops.len = mtd->writesize;
287                         res = mtd->read_oob(mtd, offs, &ops);
288
289                         if (res)
290                                 return res;
291                 }
292
293                 buf += mtd->oobsize + mtd->writesize;
294                 len -= mtd->writesize;
295         }
296         return 0;
297 }
298
299 /*
300  * Scan write data with oob to flash
301  */
302 static int scan_write_bbt(struct mtd_info *mtd, loff_t offs, size_t len,
303                           uint8_t *buf, uint8_t *oob)
304 {
305         struct mtd_oob_ops ops;
306
307         ops.mode = MTD_OOB_PLACE;
308         ops.ooboffs = 0;
309         ops.ooblen = mtd->oobsize;
310         ops.datbuf = buf;
311         ops.oobbuf = oob;
312         ops.len = len;
313
314         return mtd->write_oob(mtd, offs, &ops);
315 }
316
317 /**
318  * read_abs_bbts - [GENERIC] Read the bad block table(s) for all chips starting at a given page
319  * @mtd:        MTD device structure
320  * @buf:        temporary buffer
321  * @td:         descriptor for the bad block table
322  * @md:         descriptor for the bad block table mirror
323  *
324  * Read the bad block table(s) for all chips starting at a given page
325  * We assume that the bbt bits are in consecutive order.
326  *
327 */
328 static int read_abs_bbts(struct mtd_info *mtd, uint8_t *buf,
329                          struct nand_bbt_descr *td, struct nand_bbt_descr *md)
330 {
331         struct nand_chip *this = mtd->priv;
332
333         /* Read the primary version, if available */
334         if (td->options & NAND_BBT_VERSION) {
335                 scan_read_raw(mtd, buf, (loff_t)td->pages[0] << this->page_shift,
336                               mtd->writesize);
337                 td->version[0] = buf[mtd->writesize + td->veroffs];
338                 printk(KERN_DEBUG "Bad block table at page %d, version 0x%02X\n",
339                        td->pages[0], td->version[0]);
340         }
341
342         /* Read the mirror version, if available */
343         if (md && (md->options & NAND_BBT_VERSION)) {
344                 scan_read_raw(mtd, buf, (loff_t)md->pages[0] << this->page_shift,
345                               mtd->writesize);
346                 md->version[0] = buf[mtd->writesize + md->veroffs];
347                 printk(KERN_DEBUG "Bad block table at page %d, version 0x%02X\n",
348                        md->pages[0], md->version[0]);
349         }
350         return 1;
351 }
352
353 /*
354  * Scan a given block full
355  */
356 static int scan_block_full(struct mtd_info *mtd, struct nand_bbt_descr *bd,
357                            loff_t offs, uint8_t *buf, size_t readlen,
358                            int scanlen, int len)
359 {
360         int ret, j;
361
362         ret = scan_read_raw(mtd, buf, offs, readlen);
363         if (ret)
364                 return ret;
365
366         for (j = 0; j < len; j++, buf += scanlen) {
367                 if (check_pattern(buf, scanlen, mtd->writesize, bd))
368                         return 1;
369         }
370         return 0;
371 }
372
373 /*
374  * Scan a given block partially
375  */
376 static int scan_block_fast(struct mtd_info *mtd, struct nand_bbt_descr *bd,
377                            loff_t offs, uint8_t *buf, int len)
378 {
379         struct mtd_oob_ops ops;
380         int j, ret;
381
382         ops.ooblen = mtd->oobsize;
383         ops.oobbuf = buf;
384         ops.ooboffs = 0;
385         ops.datbuf = NULL;
386         ops.mode = MTD_OOB_PLACE;
387
388         for (j = 0; j < len; j++) {
389                 /*
390                  * Read the full oob until read_oob is fixed to
391                  * handle single byte reads for 16 bit
392                  * buswidth
393                  */
394                 ret = mtd->read_oob(mtd, offs, &ops);
395                 if (ret)
396                         return ret;
397
398                 if (check_short_pattern(buf, bd))
399                         return 1;
400
401                 offs += mtd->writesize;
402         }
403         return 0;
404 }
405
406 /**
407  * create_bbt - [GENERIC] Create a bad block table by scanning the device
408  * @mtd:        MTD device structure
409  * @buf:        temporary buffer
410  * @bd:         descriptor for the good/bad block search pattern
411  * @chip:       create the table for a specific chip, -1 read all chips.
412  *              Applies only if NAND_BBT_PERCHIP option is set
413  *
414  * Create a bad block table by scanning the device
415  * for the given good/bad block identify pattern
416  */
417 static int create_bbt(struct mtd_info *mtd, uint8_t *buf,
418         struct nand_bbt_descr *bd, int chip)
419 {
420         struct nand_chip *this = mtd->priv;
421         int i, numblocks, len, scanlen;
422         int startblock;
423         loff_t from;
424         size_t readlen;
425
426         printk(KERN_INFO "Scanning device for bad blocks\n");
427
428         if (bd->options & NAND_BBT_SCANALLPAGES)
429                 len = 1 << (this->bbt_erase_shift - this->page_shift);
430         else if (bd->options & NAND_BBT_SCAN2NDPAGE)
431                 len = 2;
432         else
433                 len = 1;
434
435         if (!(bd->options & NAND_BBT_SCANEMPTY)) {
436                 /* We need only read few bytes from the OOB area */
437                 scanlen = 0;
438                 readlen = bd->len;
439         } else {
440                 /* Full page content should be read */
441                 scanlen = mtd->writesize + mtd->oobsize;
442                 readlen = len * mtd->writesize;
443         }
444
445         if (chip == -1) {
446                 /* Note that numblocks is 2 * (real numblocks) here, see i+=2
447                  * below as it makes shifting and masking less painful */
448                 numblocks = mtd->size >> (this->bbt_erase_shift - 1);
449                 startblock = 0;
450                 from = 0;
451         } else {
452                 if (chip >= this->numchips) {
453                         printk(KERN_WARNING "create_bbt(): chipnr (%d) > available chips (%d)\n",
454                                chip + 1, this->numchips);
455                         return -EINVAL;
456                 }
457                 numblocks = this->chipsize >> (this->bbt_erase_shift - 1);
458                 startblock = chip * numblocks;
459                 numblocks += startblock;
460                 from = (loff_t)startblock << (this->bbt_erase_shift - 1);
461         }
462
463         if (this->options & NAND_BBT_SCANLASTPAGE)
464                 from += mtd->erasesize - (mtd->writesize * len);
465
466         for (i = startblock; i < numblocks;) {
467                 int ret;
468
469                 if (bd->options & NAND_BBT_SCANALLPAGES)
470                         ret = scan_block_full(mtd, bd, from, buf, readlen,
471                                               scanlen, len);
472                 else
473                         ret = scan_block_fast(mtd, bd, from, buf, len);
474
475                 if (ret < 0)
476                         return ret;
477
478                 if (ret) {
479                         this->bbt[i >> 3] |= 0x03 << (i & 0x6);
480                         printk(KERN_WARNING "Bad eraseblock %d at 0x%012llx\n",
481                                i >> 1, (unsigned long long)from);
482                         mtd->ecc_stats.badblocks++;
483                 }
484
485                 i += 2;
486                 from += (1 << this->bbt_erase_shift);
487         }
488         return 0;
489 }
490
491 /**
492  * search_bbt - [GENERIC] scan the device for a specific bad block table
493  * @mtd:        MTD device structure
494  * @buf:        temporary buffer
495  * @td:         descriptor for the bad block table
496  *
497  * Read the bad block table by searching for a given ident pattern.
498  * Search is preformed either from the beginning up or from the end of
499  * the device downwards. The search starts always at the start of a
500  * block.
501  * If the option NAND_BBT_PERCHIP is given, each chip is searched
502  * for a bbt, which contains the bad block information of this chip.
503  * This is necessary to provide support for certain DOC devices.
504  *
505  * The bbt ident pattern resides in the oob area of the first page
506  * in a block.
507  */
508 static int search_bbt(struct mtd_info *mtd, uint8_t *buf, struct nand_bbt_descr *td)
509 {
510         struct nand_chip *this = mtd->priv;
511         int i, chips;
512         int bits, startblock, block, dir;
513         int scanlen = mtd->writesize + mtd->oobsize;
514         int bbtblocks;
515         int blocktopage = this->bbt_erase_shift - this->page_shift;
516
517         /* Search direction top -> down ? */
518         if (td->options & NAND_BBT_LASTBLOCK) {
519                 startblock = (mtd->size >> this->bbt_erase_shift) - 1;
520                 dir = -1;
521         } else {
522                 startblock = 0;
523                 dir = 1;
524         }
525
526         /* Do we have a bbt per chip ? */
527         if (td->options & NAND_BBT_PERCHIP) {
528                 chips = this->numchips;
529                 bbtblocks = this->chipsize >> this->bbt_erase_shift;
530                 startblock &= bbtblocks - 1;
531         } else {
532                 chips = 1;
533                 bbtblocks = mtd->size >> this->bbt_erase_shift;
534         }
535
536         /* Number of bits for each erase block in the bbt */
537         bits = td->options & NAND_BBT_NRBITS_MSK;
538
539         for (i = 0; i < chips; i++) {
540                 /* Reset version information */
541                 td->version[i] = 0;
542                 td->pages[i] = -1;
543                 /* Scan the maximum number of blocks */
544                 for (block = 0; block < td->maxblocks; block++) {
545
546                         int actblock = startblock + dir * block;
547                         loff_t offs = (loff_t)actblock << this->bbt_erase_shift;
548
549                         /* Read first page */
550                         scan_read_raw(mtd, buf, offs, mtd->writesize);
551                         if (!check_pattern(buf, scanlen, mtd->writesize, td)) {
552                                 td->pages[i] = actblock << blocktopage;
553                                 if (td->options & NAND_BBT_VERSION) {
554                                         td->version[i] = buf[mtd->writesize + td->veroffs];
555                                 }
556                                 break;
557                         }
558                 }
559                 startblock += this->chipsize >> this->bbt_erase_shift;
560         }
561         /* Check, if we found a bbt for each requested chip */
562         for (i = 0; i < chips; i++) {
563                 if (td->pages[i] == -1)
564                         printk(KERN_WARNING "Bad block table not found for chip %d\n", i);
565                 else
566                         printk(KERN_DEBUG "Bad block table found at page %d, version 0x%02X\n", td->pages[i],
567                                td->version[i]);
568         }
569         return 0;
570 }
571
572 /**
573  * search_read_bbts - [GENERIC] scan the device for bad block table(s)
574  * @mtd:        MTD device structure
575  * @buf:        temporary buffer
576  * @td:         descriptor for the bad block table
577  * @md:         descriptor for the bad block table mirror
578  *
579  * Search and read the bad block table(s)
580 */
581 static int search_read_bbts(struct mtd_info *mtd, uint8_t * buf, struct nand_bbt_descr *td, struct nand_bbt_descr *md)
582 {
583         /* Search the primary table */
584         search_bbt(mtd, buf, td);
585
586         /* Search the mirror table */
587         if (md)
588                 search_bbt(mtd, buf, md);
589
590         /* Force result check */
591         return 1;
592 }
593
594 /**
595  * write_bbt - [GENERIC] (Re)write the bad block table
596  *
597  * @mtd:        MTD device structure
598  * @buf:        temporary buffer
599  * @td:         descriptor for the bad block table
600  * @md:         descriptor for the bad block table mirror
601  * @chipsel:    selector for a specific chip, -1 for all
602  *
603  * (Re)write the bad block table
604  *
605 */
606 static int write_bbt(struct mtd_info *mtd, uint8_t *buf,
607                      struct nand_bbt_descr *td, struct nand_bbt_descr *md,
608                      int chipsel)
609 {
610         struct nand_chip *this = mtd->priv;
611         struct erase_info einfo;
612         int i, j, res, chip = 0;
613         int bits, startblock, dir, page, offs, numblocks, sft, sftmsk;
614         int nrchips, bbtoffs, pageoffs, ooboffs;
615         uint8_t msk[4];
616         uint8_t rcode = td->reserved_block_code;
617         size_t retlen, len = 0;
618         loff_t to;
619         struct mtd_oob_ops ops;
620
621         ops.ooblen = mtd->oobsize;
622         ops.ooboffs = 0;
623         ops.datbuf = NULL;
624         ops.mode = MTD_OOB_PLACE;
625
626         if (!rcode)
627                 rcode = 0xff;
628         /* Write bad block table per chip rather than per device ? */
629         if (td->options & NAND_BBT_PERCHIP) {
630                 numblocks = (int)(this->chipsize >> this->bbt_erase_shift);
631                 /* Full device write or specific chip ? */
632                 if (chipsel == -1) {
633                         nrchips = this->numchips;
634                 } else {
635                         nrchips = chipsel + 1;
636                         chip = chipsel;
637                 }
638         } else {
639                 numblocks = (int)(mtd->size >> this->bbt_erase_shift);
640                 nrchips = 1;
641         }
642
643         /* Loop through the chips */
644         for (; chip < nrchips; chip++) {
645
646                 /* There was already a version of the table, reuse the page
647                  * This applies for absolute placement too, as we have the
648                  * page nr. in td->pages.
649                  */
650                 if (td->pages[chip] != -1) {
651                         page = td->pages[chip];
652                         goto write;
653                 }
654
655                 /* Automatic placement of the bad block table */
656                 /* Search direction top -> down ? */
657                 if (td->options & NAND_BBT_LASTBLOCK) {
658                         startblock = numblocks * (chip + 1) - 1;
659                         dir = -1;
660                 } else {
661                         startblock = chip * numblocks;
662                         dir = 1;
663                 }
664
665                 for (i = 0; i < td->maxblocks; i++) {
666                         int block = startblock + dir * i;
667                         /* Check, if the block is bad */
668                         switch ((this->bbt[block >> 2] >>
669                                  (2 * (block & 0x03))) & 0x03) {
670                         case 0x01:
671                         case 0x03:
672                                 continue;
673                         }
674                         page = block <<
675                                 (this->bbt_erase_shift - this->page_shift);
676                         /* Check, if the block is used by the mirror table */
677                         if (!md || md->pages[chip] != page)
678                                 goto write;
679                 }
680                 printk(KERN_ERR "No space left to write bad block table\n");
681                 return -ENOSPC;
682         write:
683
684                 /* Set up shift count and masks for the flash table */
685                 bits = td->options & NAND_BBT_NRBITS_MSK;
686                 msk[2] = ~rcode;
687                 switch (bits) {
688                 case 1: sft = 3; sftmsk = 0x07; msk[0] = 0x00; msk[1] = 0x01;
689                         msk[3] = 0x01;
690                         break;
691                 case 2: sft = 2; sftmsk = 0x06; msk[0] = 0x00; msk[1] = 0x01;
692                         msk[3] = 0x03;
693                         break;
694                 case 4: sft = 1; sftmsk = 0x04; msk[0] = 0x00; msk[1] = 0x0C;
695                         msk[3] = 0x0f;
696                         break;
697                 case 8: sft = 0; sftmsk = 0x00; msk[0] = 0x00; msk[1] = 0x0F;
698                         msk[3] = 0xff;
699                         break;
700                 default: return -EINVAL;
701                 }
702
703                 bbtoffs = chip * (numblocks >> 2);
704
705                 to = ((loff_t) page) << this->page_shift;
706
707                 /* Must we save the block contents ? */
708                 if (td->options & NAND_BBT_SAVECONTENT) {
709                         /* Make it block aligned */
710                         to &= ~((loff_t) ((1 << this->bbt_erase_shift) - 1));
711                         len = 1 << this->bbt_erase_shift;
712                         res = mtd->read(mtd, to, len, &retlen, buf);
713                         if (res < 0) {
714                                 if (retlen != len) {
715                                         printk(KERN_INFO "nand_bbt: Error "
716                                                "reading block for writing "
717                                                "the bad block table\n");
718                                         return res;
719                                 }
720                                 printk(KERN_WARNING "nand_bbt: ECC error "
721                                        "while reading block for writing "
722                                        "bad block table\n");
723                         }
724                         /* Read oob data */
725                         ops.ooblen = (len >> this->page_shift) * mtd->oobsize;
726                         ops.oobbuf = &buf[len];
727                         res = mtd->read_oob(mtd, to + mtd->writesize, &ops);
728                         if (res < 0 || ops.oobretlen != ops.ooblen)
729                                 goto outerr;
730
731                         /* Calc the byte offset in the buffer */
732                         pageoffs = page - (int)(to >> this->page_shift);
733                         offs = pageoffs << this->page_shift;
734                         /* Preset the bbt area with 0xff */
735                         memset(&buf[offs], 0xff, (size_t) (numblocks >> sft));
736                         ooboffs = len + (pageoffs * mtd->oobsize);
737
738                 } else {
739                         /* Calc length */
740                         len = (size_t) (numblocks >> sft);
741                         /* Make it page aligned ! */
742                         len = ALIGN(len, mtd->writesize);
743                         /* Preset the buffer with 0xff */
744                         memset(buf, 0xff, len +
745                                (len >> this->page_shift)* mtd->oobsize);
746                         offs = 0;
747                         ooboffs = len;
748                         /* Pattern is located in oob area of first page */
749                         memcpy(&buf[ooboffs + td->offs], td->pattern, td->len);
750                 }
751
752                 if (td->options & NAND_BBT_VERSION)
753                         buf[ooboffs + td->veroffs] = td->version[chip];
754
755                 /* walk through the memory table */
756                 for (i = 0; i < numblocks;) {
757                         uint8_t dat;
758                         dat = this->bbt[bbtoffs + (i >> 2)];
759                         for (j = 0; j < 4; j++, i++) {
760                                 int sftcnt = (i << (3 - sft)) & sftmsk;
761                                 /* Do not store the reserved bbt blocks ! */
762                                 buf[offs + (i >> sft)] &=
763                                         ~(msk[dat & 0x03] << sftcnt);
764                                 dat >>= 2;
765                         }
766                 }
767
768                 memset(&einfo, 0, sizeof(einfo));
769                 einfo.mtd = mtd;
770                 einfo.addr = to;
771                 einfo.len = 1 << this->bbt_erase_shift;
772                 res = nand_erase_nand(mtd, &einfo, 1);
773                 if (res < 0)
774                         goto outerr;
775
776                 res = scan_write_bbt(mtd, to, len, buf, &buf[len]);
777                 if (res < 0)
778                         goto outerr;
779
780                 printk(KERN_DEBUG "Bad block table written to 0x%012llx, version "
781                        "0x%02X\n", (unsigned long long)to, td->version[chip]);
782
783                 /* Mark it as used */
784                 td->pages[chip] = page;
785         }
786         return 0;
787
788  outerr:
789         printk(KERN_WARNING
790                "nand_bbt: Error while writing bad block table %d\n", res);
791         return res;
792 }
793
794 /**
795  * nand_memory_bbt - [GENERIC] create a memory based bad block table
796  * @mtd:        MTD device structure
797  * @bd:         descriptor for the good/bad block search pattern
798  *
799  * The function creates a memory based bbt by scanning the device
800  * for manufacturer / software marked good / bad blocks
801 */
802 static inline int nand_memory_bbt(struct mtd_info *mtd, struct nand_bbt_descr *bd)
803 {
804         struct nand_chip *this = mtd->priv;
805
806         bd->options &= ~NAND_BBT_SCANEMPTY;
807         return create_bbt(mtd, this->buffers->databuf, bd, -1);
808 }
809
810 /**
811  * check_create - [GENERIC] create and write bbt(s) if necessary
812  * @mtd:        MTD device structure
813  * @buf:        temporary buffer
814  * @bd:         descriptor for the good/bad block search pattern
815  *
816  * The function checks the results of the previous call to read_bbt
817  * and creates / updates the bbt(s) if necessary
818  * Creation is necessary if no bbt was found for the chip/device
819  * Update is necessary if one of the tables is missing or the
820  * version nr. of one table is less than the other
821 */
822 static int check_create(struct mtd_info *mtd, uint8_t *buf, struct nand_bbt_descr *bd)
823 {
824         int i, chips, writeops, chipsel, res;
825         struct nand_chip *this = mtd->priv;
826         struct nand_bbt_descr *td = this->bbt_td;
827         struct nand_bbt_descr *md = this->bbt_md;
828         struct nand_bbt_descr *rd, *rd2;
829
830         /* Do we have a bbt per chip ? */
831         if (td->options & NAND_BBT_PERCHIP)
832                 chips = this->numchips;
833         else
834                 chips = 1;
835
836         for (i = 0; i < chips; i++) {
837                 writeops = 0;
838                 rd = NULL;
839                 rd2 = NULL;
840                 /* Per chip or per device ? */
841                 chipsel = (td->options & NAND_BBT_PERCHIP) ? i : -1;
842                 /* Mirrored table avilable ? */
843                 if (md) {
844                         if (td->pages[i] == -1 && md->pages[i] == -1) {
845                                 writeops = 0x03;
846                                 goto create;
847                         }
848
849                         if (td->pages[i] == -1) {
850                                 rd = md;
851                                 td->version[i] = md->version[i];
852                                 writeops = 1;
853                                 goto writecheck;
854                         }
855
856                         if (md->pages[i] == -1) {
857                                 rd = td;
858                                 md->version[i] = td->version[i];
859                                 writeops = 2;
860                                 goto writecheck;
861                         }
862
863                         if (td->version[i] == md->version[i]) {
864                                 rd = td;
865                                 if (!(td->options & NAND_BBT_VERSION))
866                                         rd2 = md;
867                                 goto writecheck;
868                         }
869
870                         if (((int8_t) (td->version[i] - md->version[i])) > 0) {
871                                 rd = td;
872                                 md->version[i] = td->version[i];
873                                 writeops = 2;
874                         } else {
875                                 rd = md;
876                                 td->version[i] = md->version[i];
877                                 writeops = 1;
878                         }
879
880                         goto writecheck;
881
882                 } else {
883                         if (td->pages[i] == -1) {
884                                 writeops = 0x01;
885                                 goto create;
886                         }
887                         rd = td;
888                         goto writecheck;
889                 }
890         create:
891                 /* Create the bad block table by scanning the device ? */
892                 if (!(td->options & NAND_BBT_CREATE))
893                         continue;
894
895                 /* Create the table in memory by scanning the chip(s) */
896                 create_bbt(mtd, buf, bd, chipsel);
897
898                 td->version[i] = 1;
899                 if (md)
900                         md->version[i] = 1;
901         writecheck:
902                 /* read back first ? */
903                 if (rd)
904                         read_abs_bbt(mtd, buf, rd, chipsel);
905                 /* If they weren't versioned, read both. */
906                 if (rd2)
907                         read_abs_bbt(mtd, buf, rd2, chipsel);
908
909                 /* Write the bad block table to the device ? */
910                 if ((writeops & 0x01) && (td->options & NAND_BBT_WRITE)) {
911                         res = write_bbt(mtd, buf, td, md, chipsel);
912                         if (res < 0)
913                                 return res;
914                 }
915
916                 /* Write the mirror bad block table to the device ? */
917                 if ((writeops & 0x02) && md && (md->options & NAND_BBT_WRITE)) {
918                         res = write_bbt(mtd, buf, md, td, chipsel);
919                         if (res < 0)
920                                 return res;
921                 }
922         }
923         return 0;
924 }
925
926 /**
927  * mark_bbt_regions - [GENERIC] mark the bad block table regions
928  * @mtd:        MTD device structure
929  * @td:         bad block table descriptor
930  *
931  * The bad block table regions are marked as "bad" to prevent
932  * accidental erasures / writes. The regions are identified by
933  * the mark 0x02.
934 */
935 static void mark_bbt_region(struct mtd_info *mtd, struct nand_bbt_descr *td)
936 {
937         struct nand_chip *this = mtd->priv;
938         int i, j, chips, block, nrblocks, update;
939         uint8_t oldval, newval;
940
941         /* Do we have a bbt per chip ? */
942         if (td->options & NAND_BBT_PERCHIP) {
943                 chips = this->numchips;
944                 nrblocks = (int)(this->chipsize >> this->bbt_erase_shift);
945         } else {
946                 chips = 1;
947                 nrblocks = (int)(mtd->size >> this->bbt_erase_shift);
948         }
949
950         for (i = 0; i < chips; i++) {
951                 if ((td->options & NAND_BBT_ABSPAGE) ||
952                     !(td->options & NAND_BBT_WRITE)) {
953                         if (td->pages[i] == -1)
954                                 continue;
955                         block = td->pages[i] >> (this->bbt_erase_shift - this->page_shift);
956                         block <<= 1;
957                         oldval = this->bbt[(block >> 3)];
958                         newval = oldval | (0x2 << (block & 0x06));
959                         this->bbt[(block >> 3)] = newval;
960                         if ((oldval != newval) && td->reserved_block_code)
961                                 nand_update_bbt(mtd, (loff_t)block << (this->bbt_erase_shift - 1));
962                         continue;
963                 }
964                 update = 0;
965                 if (td->options & NAND_BBT_LASTBLOCK)
966                         block = ((i + 1) * nrblocks) - td->maxblocks;
967                 else
968                         block = i * nrblocks;
969                 block <<= 1;
970                 for (j = 0; j < td->maxblocks; j++) {
971                         oldval = this->bbt[(block >> 3)];
972                         newval = oldval | (0x2 << (block & 0x06));
973                         this->bbt[(block >> 3)] = newval;
974                         if (oldval != newval)
975                                 update = 1;
976                         block += 2;
977                 }
978                 /* If we want reserved blocks to be recorded to flash, and some
979                    new ones have been marked, then we need to update the stored
980                    bbts.  This should only happen once. */
981                 if (update && td->reserved_block_code)
982                         nand_update_bbt(mtd, (loff_t)(block - 2) << (this->bbt_erase_shift - 1));
983         }
984 }
985
986 /**
987  * nand_scan_bbt - [NAND Interface] scan, find, read and maybe create bad block table(s)
988  * @mtd:        MTD device structure
989  * @bd:         descriptor for the good/bad block search pattern
990  *
991  * The function checks, if a bad block table(s) is/are already
992  * available. If not it scans the device for manufacturer
993  * marked good / bad blocks and writes the bad block table(s) to
994  * the selected place.
995  *
996  * The bad block table memory is allocated here. It must be freed
997  * by calling the nand_free_bbt function.
998  *
999 */
1000 int nand_scan_bbt(struct mtd_info *mtd, struct nand_bbt_descr *bd)
1001 {
1002         struct nand_chip *this = mtd->priv;
1003         int len, res = 0;
1004         uint8_t *buf;
1005         struct nand_bbt_descr *td = this->bbt_td;
1006         struct nand_bbt_descr *md = this->bbt_md;
1007
1008         len = mtd->size >> (this->bbt_erase_shift + 2);
1009         /* Allocate memory (2bit per block) and clear the memory bad block table */
1010         this->bbt = kzalloc(len, GFP_KERNEL);
1011         if (!this->bbt) {
1012                 printk(KERN_ERR "nand_scan_bbt: Out of memory\n");
1013                 return -ENOMEM;
1014         }
1015
1016         /* If no primary table decriptor is given, scan the device
1017          * to build a memory based bad block table
1018          */
1019         if (!td) {
1020                 if ((res = nand_memory_bbt(mtd, bd))) {
1021                         printk(KERN_ERR "nand_bbt: Can't scan flash and build the RAM-based BBT\n");
1022                         kfree(this->bbt);
1023                         this->bbt = NULL;
1024                 }
1025                 return res;
1026         }
1027
1028         /* Allocate a temporary buffer for one eraseblock incl. oob */
1029         len = (1 << this->bbt_erase_shift);
1030         len += (len >> this->page_shift) * mtd->oobsize;
1031         buf = vmalloc(len);
1032         if (!buf) {
1033                 printk(KERN_ERR "nand_bbt: Out of memory\n");
1034                 kfree(this->bbt);
1035                 this->bbt = NULL;
1036                 return -ENOMEM;
1037         }
1038
1039         /* Is the bbt at a given page ? */
1040         if (td->options & NAND_BBT_ABSPAGE) {
1041                 res = read_abs_bbts(mtd, buf, td, md);
1042         } else {
1043                 /* Search the bad block table using a pattern in oob */
1044                 res = search_read_bbts(mtd, buf, td, md);
1045         }
1046
1047         if (res)
1048                 res = check_create(mtd, buf, bd);
1049
1050         /* Prevent the bbt regions from erasing / writing */
1051         mark_bbt_region(mtd, td);
1052         if (md)
1053                 mark_bbt_region(mtd, md);
1054
1055         vfree(buf);
1056         return res;
1057 }
1058
1059 /**
1060  * nand_update_bbt - [NAND Interface] update bad block table(s)
1061  * @mtd:        MTD device structure
1062  * @offs:       the offset of the newly marked block
1063  *
1064  * The function updates the bad block table(s)
1065 */
1066 int nand_update_bbt(struct mtd_info *mtd, loff_t offs)
1067 {
1068         struct nand_chip *this = mtd->priv;
1069         int len, res = 0, writeops = 0;
1070         int chip, chipsel;
1071         uint8_t *buf;
1072         struct nand_bbt_descr *td = this->bbt_td;
1073         struct nand_bbt_descr *md = this->bbt_md;
1074
1075         if (!this->bbt || !td)
1076                 return -EINVAL;
1077
1078         /* Allocate a temporary buffer for one eraseblock incl. oob */
1079         len = (1 << this->bbt_erase_shift);
1080         len += (len >> this->page_shift) * mtd->oobsize;
1081         buf = kmalloc(len, GFP_KERNEL);
1082         if (!buf) {
1083                 printk(KERN_ERR "nand_update_bbt: Out of memory\n");
1084                 return -ENOMEM;
1085         }
1086
1087         writeops = md != NULL ? 0x03 : 0x01;
1088
1089         /* Do we have a bbt per chip ? */
1090         if (td->options & NAND_BBT_PERCHIP) {
1091                 chip = (int)(offs >> this->chip_shift);
1092                 chipsel = chip;
1093         } else {
1094                 chip = 0;
1095                 chipsel = -1;
1096         }
1097
1098         td->version[chip]++;
1099         if (md)
1100                 md->version[chip]++;
1101
1102         /* Write the bad block table to the device ? */
1103         if ((writeops & 0x01) && (td->options & NAND_BBT_WRITE)) {
1104                 res = write_bbt(mtd, buf, td, md, chipsel);
1105                 if (res < 0)
1106                         goto out;
1107         }
1108         /* Write the mirror bad block table to the device ? */
1109         if ((writeops & 0x02) && md && (md->options & NAND_BBT_WRITE)) {
1110                 res = write_bbt(mtd, buf, md, td, chipsel);
1111         }
1112
1113  out:
1114         kfree(buf);
1115         return res;
1116 }
1117
1118 /* Define some generic bad / good block scan pattern which are used
1119  * while scanning a device for factory marked good / bad blocks. */
1120 static uint8_t scan_ff_pattern[] = { 0xff, 0xff };
1121
1122 static struct nand_bbt_descr smallpage_flashbased = {
1123         .options = NAND_BBT_SCAN2NDPAGE,
1124         .offs = NAND_SMALL_BADBLOCK_POS,
1125         .len = 1,
1126         .pattern = scan_ff_pattern
1127 };
1128
1129 static struct nand_bbt_descr largepage_flashbased = {
1130         .options = NAND_BBT_SCAN2NDPAGE,
1131         .offs = NAND_LARGE_BADBLOCK_POS,
1132         .len = 2,
1133         .pattern = scan_ff_pattern
1134 };
1135
1136 static uint8_t scan_agand_pattern[] = { 0x1C, 0x71, 0xC7, 0x1C, 0x71, 0xC7 };
1137
1138 static struct nand_bbt_descr agand_flashbased = {
1139         .options = NAND_BBT_SCANEMPTY | NAND_BBT_SCANALLPAGES,
1140         .offs = 0x20,
1141         .len = 6,
1142         .pattern = scan_agand_pattern
1143 };
1144
1145 /* Generic flash bbt decriptors
1146 */
1147 static uint8_t bbt_pattern[] = {'B', 'b', 't', '0' };
1148 static uint8_t mirror_pattern[] = {'1', 't', 'b', 'B' };
1149
1150 static struct nand_bbt_descr bbt_main_descr = {
1151         .options = NAND_BBT_LASTBLOCK | NAND_BBT_CREATE | NAND_BBT_WRITE
1152                 | NAND_BBT_2BIT | NAND_BBT_VERSION | NAND_BBT_PERCHIP,
1153         .offs = 8,
1154         .len = 4,
1155         .veroffs = 12,
1156         .maxblocks = 4,
1157         .pattern = bbt_pattern
1158 };
1159
1160 static struct nand_bbt_descr bbt_mirror_descr = {
1161         .options = NAND_BBT_LASTBLOCK | NAND_BBT_CREATE | NAND_BBT_WRITE
1162                 | NAND_BBT_2BIT | NAND_BBT_VERSION | NAND_BBT_PERCHIP,
1163         .offs = 8,
1164         .len = 4,
1165         .veroffs = 12,
1166         .maxblocks = 4,
1167         .pattern = mirror_pattern
1168 };
1169
1170 #define BBT_SCAN_OPTIONS (NAND_BBT_SCANLASTPAGE | NAND_BBT_SCAN2NDPAGE | \
1171                 NAND_BBT_SCANBYTE1AND6)
1172 /**
1173  * nand_create_default_bbt_descr - [Internal] Creates a BBT descriptor structure
1174  * @this:       NAND chip to create descriptor for
1175  *
1176  * This function allocates and initializes a nand_bbt_descr for BBM detection
1177  * based on the properties of "this". The new descriptor is stored in
1178  * this->badblock_pattern. Thus, this->badblock_pattern should be NULL when
1179  * passed to this function.
1180  *
1181  * TODO: Handle other flags, replace other static structs
1182  *        (e.g. handle NAND_BBT_FLASH for flash-based BBT,
1183  *             replace smallpage_flashbased)
1184  *
1185  */
1186 static int nand_create_default_bbt_descr(struct nand_chip *this)
1187 {
1188         struct nand_bbt_descr *bd;
1189         if (this->badblock_pattern) {
1190                 printk(KERN_WARNING "BBT descr already allocated; not replacing.\n");
1191                 return -EINVAL;
1192         }
1193         bd = kzalloc(sizeof(*bd), GFP_KERNEL);
1194         if (!bd) {
1195                 printk(KERN_ERR "nand_create_default_bbt_descr: Out of memory\n");
1196                 return -ENOMEM;
1197         }
1198         bd->options = this->options & BBT_SCAN_OPTIONS;
1199         bd->offs = this->badblockpos;
1200         bd->len = (this->options & NAND_BUSWIDTH_16) ? 2 : 1;
1201         bd->pattern = scan_ff_pattern;
1202         bd->options |= NAND_BBT_DYNAMICSTRUCT;
1203         this->badblock_pattern = bd;
1204         return 0;
1205 }
1206
1207 /**
1208  * nand_default_bbt - [NAND Interface] Select a default bad block table for the device
1209  * @mtd:        MTD device structure
1210  *
1211  * This function selects the default bad block table
1212  * support for the device and calls the nand_scan_bbt function
1213  *
1214 */
1215 int nand_default_bbt(struct mtd_info *mtd)
1216 {
1217         struct nand_chip *this = mtd->priv;
1218
1219         /* Default for AG-AND. We must use a flash based
1220          * bad block table as the devices have factory marked
1221          * _good_ blocks. Erasing those blocks leads to loss
1222          * of the good / bad information, so we _must_ store
1223          * this information in a good / bad table during
1224          * startup
1225          */
1226         if (this->options & NAND_IS_AND) {
1227                 /* Use the default pattern descriptors */
1228                 if (!this->bbt_td) {
1229                         this->bbt_td = &bbt_main_descr;
1230                         this->bbt_md = &bbt_mirror_descr;
1231                 }
1232                 this->options |= NAND_USE_FLASH_BBT;
1233                 return nand_scan_bbt(mtd, &agand_flashbased);
1234         }
1235
1236         /* Is a flash based bad block table requested ? */
1237         if (this->options & NAND_USE_FLASH_BBT) {
1238                 /* Use the default pattern descriptors */
1239                 if (!this->bbt_td) {
1240                         this->bbt_td = &bbt_main_descr;
1241                         this->bbt_md = &bbt_mirror_descr;
1242                 }
1243                 if (!this->badblock_pattern) {
1244                         this->badblock_pattern = (mtd->writesize > 512) ? &largepage_flashbased : &smallpage_flashbased;
1245                 }
1246         } else {
1247                 this->bbt_td = NULL;
1248                 this->bbt_md = NULL;
1249                 if (!this->badblock_pattern)
1250                         nand_create_default_bbt_descr(this);
1251         }
1252         return nand_scan_bbt(mtd, this->badblock_pattern);
1253 }
1254
1255 /**
1256  * nand_isbad_bbt - [NAND Interface] Check if a block is bad
1257  * @mtd:        MTD device structure
1258  * @offs:       offset in the device
1259  * @allowbbt:   allow access to bad block table region
1260  *
1261 */
1262 int nand_isbad_bbt(struct mtd_info *mtd, loff_t offs, int allowbbt)
1263 {
1264         struct nand_chip *this = mtd->priv;
1265         int block;
1266         uint8_t res;
1267
1268         /* Get block number * 2 */
1269         block = (int)(offs >> (this->bbt_erase_shift - 1));
1270         res = (this->bbt[block >> 3] >> (block & 0x06)) & 0x03;
1271
1272         DEBUG(MTD_DEBUG_LEVEL2, "nand_isbad_bbt(): bbt info for offs 0x%08x: (block %d) 0x%02x\n",
1273               (unsigned int)offs, block >> 1, res);
1274
1275         switch ((int)res) {
1276         case 0x00:
1277                 return 0;
1278         case 0x01:
1279                 return 1;
1280         case 0x02:
1281                 return allowbbt ? 0 : 1;
1282         }
1283         return 1;
1284 }
1285
1286 EXPORT_SYMBOL(nand_scan_bbt);
1287 EXPORT_SYMBOL(nand_default_bbt);