Merge mainline v2.6.27-rc2 tree into linux-omap tree
[pandora-kernel.git] / drivers / serial / 8250.c
1 /*
2  *  linux/drivers/char/8250.c
3  *
4  *  Driver for 8250/16550-type serial ports
5  *
6  *  Based on drivers/char/serial.c, by Linus Torvalds, Theodore Ts'o.
7  *
8  *  Copyright (C) 2001 Russell King.
9  *
10  * This program is free software; you can redistribute it and/or modify
11  * it under the terms of the GNU General Public License as published by
12  * the Free Software Foundation; either version 2 of the License, or
13  * (at your option) any later version.
14  *
15  * A note about mapbase / membase
16  *
17  *  mapbase is the physical address of the IO port.
18  *  membase is an 'ioremapped' cookie.
19  */
20
21 #if defined(CONFIG_SERIAL_8250_CONSOLE) && defined(CONFIG_MAGIC_SYSRQ)
22 #define SUPPORT_SYSRQ
23 #endif
24
25 #include <linux/module.h>
26 #include <linux/moduleparam.h>
27 #include <linux/ioport.h>
28 #include <linux/init.h>
29 #include <linux/console.h>
30 #include <linux/sysrq.h>
31 #include <linux/delay.h>
32 #include <linux/platform_device.h>
33 #include <linux/tty.h>
34 #include <linux/tty_flip.h>
35 #include <linux/serial_reg.h>
36 #include <linux/serial_core.h>
37 #include <linux/serial.h>
38 #include <linux/serial_8250.h>
39 #include <linux/nmi.h>
40 #include <linux/mutex.h>
41
42 #include <asm/io.h>
43 #include <asm/irq.h>
44
45 #include "8250.h"
46
47 /*
48  * Configuration:
49  *   share_irqs - whether we pass IRQF_SHARED to request_irq().  This option
50  *                is unsafe when used on edge-triggered interrupts.
51  */
52 static unsigned int share_irqs = SERIAL8250_SHARE_IRQS;
53
54 static unsigned int nr_uarts = CONFIG_SERIAL_8250_RUNTIME_UARTS;
55
56 /*
57  * Debugging.
58  */
59 #if 0
60 #define DEBUG_AUTOCONF(fmt...)  printk(fmt)
61 #else
62 #define DEBUG_AUTOCONF(fmt...)  do { } while (0)
63 #endif
64
65 #if 0
66 #define DEBUG_INTR(fmt...)      printk(fmt)
67 #else
68 #define DEBUG_INTR(fmt...)      do { } while (0)
69 #endif
70
71 #define PASS_LIMIT      256
72
73 /*
74  * We default to IRQ0 for the "no irq" hack.   Some
75  * machine types want others as well - they're free
76  * to redefine this in their header file.
77  */
78 #define is_real_interrupt(irq)  ((irq) != 0)
79
80 #ifdef CONFIG_SERIAL_8250_DETECT_IRQ
81 #define CONFIG_SERIAL_DETECT_IRQ 1
82 #endif
83 #ifdef CONFIG_SERIAL_8250_MANY_PORTS
84 #define CONFIG_SERIAL_MANY_PORTS 1
85 #endif
86
87 /*
88  * HUB6 is always on.  This will be removed once the header
89  * files have been cleaned.
90  */
91 #define CONFIG_HUB6 1
92
93 #include <asm/serial.h>
94 /*
95  * SERIAL_PORT_DFNS tells us about built-in ports that have no
96  * standard enumeration mechanism.   Platforms that can find all
97  * serial ports via mechanisms like ACPI or PCI need not supply it.
98  */
99 #ifndef SERIAL_PORT_DFNS
100 #define SERIAL_PORT_DFNS
101 #endif
102
103 static const struct old_serial_port old_serial_port[] = {
104         SERIAL_PORT_DFNS /* defined in asm/serial.h */
105 };
106
107 #define UART_NR CONFIG_SERIAL_8250_NR_UARTS
108
109 #ifdef CONFIG_SERIAL_8250_RSA
110
111 #define PORT_RSA_MAX 4
112 static unsigned long probe_rsa[PORT_RSA_MAX];
113 static unsigned int probe_rsa_count;
114 #endif /* CONFIG_SERIAL_8250_RSA  */
115
116 struct uart_8250_port {
117         struct uart_port        port;
118         struct timer_list       timer;          /* "no irq" timer */
119         struct list_head        list;           /* ports on this IRQ */
120         unsigned short          capabilities;   /* port capabilities */
121         unsigned short          bugs;           /* port bugs */
122         unsigned int            tx_loadsz;      /* transmit fifo load size */
123         unsigned char           acr;
124         unsigned char           ier;
125         unsigned char           lcr;
126         unsigned char           mcr;
127         unsigned char           mcr_mask;       /* mask of user bits */
128         unsigned char           mcr_force;      /* mask of forced bits */
129
130         /*
131          * Some bits in registers are cleared on a read, so they must
132          * be saved whenever the register is read but the bits will not
133          * be immediately processed.
134          */
135 #define LSR_SAVE_FLAGS UART_LSR_BRK_ERROR_BITS
136         unsigned char           lsr_saved_flags;
137 #define MSR_SAVE_FLAGS UART_MSR_ANY_DELTA
138         unsigned char           msr_saved_flags;
139
140         /*
141          * We provide a per-port pm hook.
142          */
143         void                    (*pm)(struct uart_port *port,
144                                       unsigned int state, unsigned int old);
145 };
146
147 struct irq_info {
148         spinlock_t              lock;
149         struct list_head        *head;
150 };
151
152 static struct irq_info irq_lists[NR_IRQS];
153
154 /*
155  * Here we define the default xmit fifo size used for each type of UART.
156  */
157 static const struct serial8250_config uart_config[] = {
158         [PORT_UNKNOWN] = {
159                 .name           = "unknown",
160                 .fifo_size      = 1,
161                 .tx_loadsz      = 1,
162         },
163         [PORT_8250] = {
164                 .name           = "8250",
165                 .fifo_size      = 1,
166                 .tx_loadsz      = 1,
167         },
168         [PORT_16450] = {
169                 .name           = "16450",
170                 .fifo_size      = 1,
171                 .tx_loadsz      = 1,
172         },
173         [PORT_16550] = {
174                 .name           = "16550",
175                 .fifo_size      = 1,
176                 .tx_loadsz      = 1,
177         },
178         [PORT_16550A] = {
179                 .name           = "16550A",
180                 .fifo_size      = 16,
181                 .tx_loadsz      = 16,
182                 .fcr            = UART_FCR_ENABLE_FIFO | UART_FCR_R_TRIG_10,
183                 .flags          = UART_CAP_FIFO,
184         },
185         [PORT_CIRRUS] = {
186                 .name           = "Cirrus",
187                 .fifo_size      = 1,
188                 .tx_loadsz      = 1,
189         },
190         [PORT_16650] = {
191                 .name           = "ST16650",
192                 .fifo_size      = 1,
193                 .tx_loadsz      = 1,
194                 .flags          = UART_CAP_FIFO | UART_CAP_EFR | UART_CAP_SLEEP,
195         },
196         [PORT_16650V2] = {
197                 .name           = "ST16650V2",
198                 .fifo_size      = 32,
199                 .tx_loadsz      = 16,
200                 .fcr            = UART_FCR_ENABLE_FIFO | UART_FCR_R_TRIG_01 |
201                                   UART_FCR_T_TRIG_00,
202                 .flags          = UART_CAP_FIFO | UART_CAP_EFR | UART_CAP_SLEEP,
203         },
204         [PORT_16750] = {
205                 .name           = "TI16750",
206                 .fifo_size      = 64,
207                 .tx_loadsz      = 64,
208                 .fcr            = UART_FCR_ENABLE_FIFO | UART_FCR_R_TRIG_10 |
209                                   UART_FCR7_64BYTE,
210                 .flags          = UART_CAP_FIFO | UART_CAP_SLEEP | UART_CAP_AFE,
211         },
212         [PORT_STARTECH] = {
213                 .name           = "Startech",
214                 .fifo_size      = 1,
215                 .tx_loadsz      = 1,
216         },
217         [PORT_16C950] = {
218                 .name           = "16C950/954",
219                 .fifo_size      = 128,
220                 .tx_loadsz      = 128,
221                 .fcr            = UART_FCR_ENABLE_FIFO | UART_FCR_R_TRIG_10,
222                 .flags          = UART_CAP_FIFO,
223         },
224         [PORT_16654] = {
225                 .name           = "ST16654",
226                 .fifo_size      = 64,
227                 .tx_loadsz      = 32,
228                 .fcr            = UART_FCR_ENABLE_FIFO | UART_FCR_R_TRIG_01 |
229                                   UART_FCR_T_TRIG_10,
230                 .flags          = UART_CAP_FIFO | UART_CAP_EFR | UART_CAP_SLEEP,
231         },
232         [PORT_16850] = {
233                 .name           = "XR16850",
234                 .fifo_size      = 128,
235                 .tx_loadsz      = 128,
236                 .fcr            = UART_FCR_ENABLE_FIFO | UART_FCR_R_TRIG_10,
237                 .flags          = UART_CAP_FIFO | UART_CAP_EFR | UART_CAP_SLEEP,
238         },
239         [PORT_RSA] = {
240                 .name           = "RSA",
241                 .fifo_size      = 2048,
242                 .tx_loadsz      = 2048,
243                 .fcr            = UART_FCR_ENABLE_FIFO | UART_FCR_R_TRIG_11,
244                 .flags          = UART_CAP_FIFO,
245         },
246         [PORT_NS16550A] = {
247                 .name           = "NS16550A",
248                 .fifo_size      = 16,
249                 .tx_loadsz      = 16,
250                 .fcr            = UART_FCR_ENABLE_FIFO | UART_FCR_R_TRIG_10,
251                 .flags          = UART_CAP_FIFO | UART_NATSEMI,
252         },
253         [PORT_XSCALE] = {
254                 .name           = "XScale",
255                 .fifo_size      = 32,
256                 .tx_loadsz      = 32,
257                 .fcr            = UART_FCR_ENABLE_FIFO | UART_FCR_R_TRIG_10,
258                 .flags          = UART_CAP_FIFO | UART_CAP_UUE,
259         },
260         [PORT_RM9000] = {
261                 .name           = "RM9000",
262                 .fifo_size      = 16,
263                 .tx_loadsz      = 16,
264                 .fcr            = UART_FCR_ENABLE_FIFO | UART_FCR_R_TRIG_10,
265                 .flags          = UART_CAP_FIFO,
266         },
267 };
268
269 #if defined (CONFIG_SERIAL_8250_AU1X00)
270
271 /* Au1x00 UART hardware has a weird register layout */
272 static const u8 au_io_in_map[] = {
273         [UART_RX]  = 0,
274         [UART_IER] = 2,
275         [UART_IIR] = 3,
276         [UART_LCR] = 5,
277         [UART_MCR] = 6,
278         [UART_LSR] = 7,
279         [UART_MSR] = 8,
280 };
281
282 static const u8 au_io_out_map[] = {
283         [UART_TX]  = 1,
284         [UART_IER] = 2,
285         [UART_FCR] = 4,
286         [UART_LCR] = 5,
287         [UART_MCR] = 6,
288 };
289
290 /* sane hardware needs no mapping */
291 static inline int map_8250_in_reg(struct uart_8250_port *up, int offset)
292 {
293         if (up->port.iotype != UPIO_AU)
294                 return offset;
295         return au_io_in_map[offset];
296 }
297
298 static inline int map_8250_out_reg(struct uart_8250_port *up, int offset)
299 {
300         if (up->port.iotype != UPIO_AU)
301                 return offset;
302         return au_io_out_map[offset];
303 }
304
305 #elif defined(CONFIG_SERIAL_8250_RM9K)
306
307 static const u8
308         regmap_in[8] = {
309                 [UART_RX]       = 0x00,
310                 [UART_IER]      = 0x0c,
311                 [UART_IIR]      = 0x14,
312                 [UART_LCR]      = 0x1c,
313                 [UART_MCR]      = 0x20,
314                 [UART_LSR]      = 0x24,
315                 [UART_MSR]      = 0x28,
316                 [UART_SCR]      = 0x2c
317         },
318         regmap_out[8] = {
319                 [UART_TX]       = 0x04,
320                 [UART_IER]      = 0x0c,
321                 [UART_FCR]      = 0x18,
322                 [UART_LCR]      = 0x1c,
323                 [UART_MCR]      = 0x20,
324                 [UART_LSR]      = 0x24,
325                 [UART_MSR]      = 0x28,
326                 [UART_SCR]      = 0x2c
327         };
328
329 static inline int map_8250_in_reg(struct uart_8250_port *up, int offset)
330 {
331         if (up->port.iotype != UPIO_RM9000)
332                 return offset;
333         return regmap_in[offset];
334 }
335
336 static inline int map_8250_out_reg(struct uart_8250_port *up, int offset)
337 {
338         if (up->port.iotype != UPIO_RM9000)
339                 return offset;
340         return regmap_out[offset];
341 }
342
343 #else
344
345 /* sane hardware needs no mapping */
346 #define map_8250_in_reg(up, offset) (offset)
347 #define map_8250_out_reg(up, offset) (offset)
348
349 #endif
350
351 static unsigned int serial_in(struct uart_8250_port *up, int offset)
352 {
353         unsigned int tmp;
354         offset = map_8250_in_reg(up, offset) << up->port.regshift;
355
356         switch (up->port.iotype) {
357         case UPIO_HUB6:
358                 outb(up->port.hub6 - 1 + offset, up->port.iobase);
359                 return inb(up->port.iobase + 1);
360
361         case UPIO_MEM:
362         case UPIO_DWAPB:
363                 return readb(up->port.membase + offset);
364
365         case UPIO_RM9000:
366         case UPIO_MEM32:
367                 return readl(up->port.membase + offset);
368
369 #ifdef CONFIG_SERIAL_8250_AU1X00
370         case UPIO_AU:
371                 return __raw_readl(up->port.membase + offset);
372 #endif
373
374         case UPIO_TSI:
375                 if (offset == UART_IIR) {
376                         tmp = readl(up->port.membase + (UART_IIR & ~3));
377                         return (tmp >> 16) & 0xff; /* UART_IIR % 4 == 2 */
378                 } else
379                         return readb(up->port.membase + offset);
380
381         default:
382                 return inb(up->port.iobase + offset);
383         }
384 }
385
386 static void
387 serial_out(struct uart_8250_port *up, int offset, int value)
388 {
389         /* Save the offset before it's remapped */
390         int save_offset = offset;
391         offset = map_8250_out_reg(up, offset) << up->port.regshift;
392
393         switch (up->port.iotype) {
394         case UPIO_HUB6:
395                 outb(up->port.hub6 - 1 + offset, up->port.iobase);
396                 outb(value, up->port.iobase + 1);
397                 break;
398
399         case UPIO_MEM:
400                 writeb(value, up->port.membase + offset);
401                 break;
402
403         case UPIO_RM9000:
404         case UPIO_MEM32:
405                 writel(value, up->port.membase + offset);
406                 break;
407
408 #ifdef CONFIG_SERIAL_8250_AU1X00
409         case UPIO_AU:
410                 __raw_writel(value, up->port.membase + offset);
411                 break;
412 #endif
413         case UPIO_TSI:
414                 if (!((offset == UART_IER) && (value & UART_IER_UUE)))
415                         writeb(value, up->port.membase + offset);
416                 break;
417
418         case UPIO_DWAPB:
419                 /* Save the LCR value so it can be re-written when a
420                  * Busy Detect interrupt occurs. */
421                 if (save_offset == UART_LCR)
422                         up->lcr = value;
423                 writeb(value, up->port.membase + offset);
424                 /* Read the IER to ensure any interrupt is cleared before
425                  * returning from ISR. */
426                 if (save_offset == UART_TX || save_offset == UART_IER)
427                         value = serial_in(up, UART_IER);
428                 break;
429
430         default:
431                 outb(value, up->port.iobase + offset);
432         }
433 }
434
435 static void
436 serial_out_sync(struct uart_8250_port *up, int offset, int value)
437 {
438         switch (up->port.iotype) {
439         case UPIO_MEM:
440         case UPIO_MEM32:
441 #ifdef CONFIG_SERIAL_8250_AU1X00
442         case UPIO_AU:
443 #endif
444         case UPIO_DWAPB:
445                 serial_out(up, offset, value);
446                 serial_in(up, UART_LCR);        /* safe, no side-effects */
447                 break;
448         default:
449                 serial_out(up, offset, value);
450         }
451 }
452
453 /*
454  * We used to support using pause I/O for certain machines.  We
455  * haven't supported this for a while, but just in case it's badly
456  * needed for certain old 386 machines, I've left these #define's
457  * in....
458  */
459 #define serial_inp(up, offset)          serial_in(up, offset)
460 #define serial_outp(up, offset, value)  serial_out(up, offset, value)
461
462 /* Uart divisor latch read */
463 static inline int _serial_dl_read(struct uart_8250_port *up)
464 {
465         return serial_inp(up, UART_DLL) | serial_inp(up, UART_DLM) << 8;
466 }
467
468 /* Uart divisor latch write */
469 static inline void _serial_dl_write(struct uart_8250_port *up, int value)
470 {
471         serial_outp(up, UART_DLL, value & 0xff);
472         serial_outp(up, UART_DLM, value >> 8 & 0xff);
473 }
474
475 #if defined(CONFIG_SERIAL_8250_AU1X00)
476 /* Au1x00 haven't got a standard divisor latch */
477 static int serial_dl_read(struct uart_8250_port *up)
478 {
479         if (up->port.iotype == UPIO_AU)
480                 return __raw_readl(up->port.membase + 0x28);
481         else
482                 return _serial_dl_read(up);
483 }
484
485 static void serial_dl_write(struct uart_8250_port *up, int value)
486 {
487         if (up->port.iotype == UPIO_AU)
488                 __raw_writel(value, up->port.membase + 0x28);
489         else
490                 _serial_dl_write(up, value);
491 }
492 #elif defined(CONFIG_SERIAL_8250_RM9K)
493 static int serial_dl_read(struct uart_8250_port *up)
494 {
495         return  (up->port.iotype == UPIO_RM9000) ?
496                 (((__raw_readl(up->port.membase + 0x10) << 8) |
497                 (__raw_readl(up->port.membase + 0x08) & 0xff)) & 0xffff) :
498                 _serial_dl_read(up);
499 }
500
501 static void serial_dl_write(struct uart_8250_port *up, int value)
502 {
503         if (up->port.iotype == UPIO_RM9000) {
504                 __raw_writel(value, up->port.membase + 0x08);
505                 __raw_writel(value >> 8, up->port.membase + 0x10);
506         } else {
507                 _serial_dl_write(up, value);
508         }
509 }
510 #else
511 #define serial_dl_read(up) _serial_dl_read(up)
512 #define serial_dl_write(up, value) _serial_dl_write(up, value)
513 #endif
514
515 /*
516  * For the 16C950
517  */
518 static void serial_icr_write(struct uart_8250_port *up, int offset, int value)
519 {
520         serial_out(up, UART_SCR, offset);
521         serial_out(up, UART_ICR, value);
522 }
523
524 static unsigned int serial_icr_read(struct uart_8250_port *up, int offset)
525 {
526         unsigned int value;
527
528         serial_icr_write(up, UART_ACR, up->acr | UART_ACR_ICRRD);
529         serial_out(up, UART_SCR, offset);
530         value = serial_in(up, UART_ICR);
531         serial_icr_write(up, UART_ACR, up->acr);
532
533         return value;
534 }
535
536 /*
537  * FIFO support.
538  */
539 static inline void serial8250_clear_fifos(struct uart_8250_port *p)
540 {
541         if (p->capabilities & UART_CAP_FIFO) {
542                 serial_outp(p, UART_FCR, UART_FCR_ENABLE_FIFO);
543                 serial_outp(p, UART_FCR, UART_FCR_ENABLE_FIFO |
544                                UART_FCR_CLEAR_RCVR | UART_FCR_CLEAR_XMIT);
545                 serial_outp(p, UART_FCR, 0);
546         }
547 }
548
549 /*
550  * IER sleep support.  UARTs which have EFRs need the "extended
551  * capability" bit enabled.  Note that on XR16C850s, we need to
552  * reset LCR to write to IER.
553  */
554 static inline void serial8250_set_sleep(struct uart_8250_port *p, int sleep)
555 {
556         if (p->capabilities & UART_CAP_SLEEP) {
557                 if (p->capabilities & UART_CAP_EFR) {
558                         serial_outp(p, UART_LCR, 0xBF);
559                         serial_outp(p, UART_EFR, UART_EFR_ECB);
560                         serial_outp(p, UART_LCR, 0);
561                 }
562                 serial_outp(p, UART_IER, sleep ? UART_IERX_SLEEP : 0);
563                 if (p->capabilities & UART_CAP_EFR) {
564                         serial_outp(p, UART_LCR, 0xBF);
565                         serial_outp(p, UART_EFR, 0);
566                         serial_outp(p, UART_LCR, 0);
567                 }
568         }
569 }
570
571 #ifdef CONFIG_SERIAL_8250_RSA
572 /*
573  * Attempts to turn on the RSA FIFO.  Returns zero on failure.
574  * We set the port uart clock rate if we succeed.
575  */
576 static int __enable_rsa(struct uart_8250_port *up)
577 {
578         unsigned char mode;
579         int result;
580
581         mode = serial_inp(up, UART_RSA_MSR);
582         result = mode & UART_RSA_MSR_FIFO;
583
584         if (!result) {
585                 serial_outp(up, UART_RSA_MSR, mode | UART_RSA_MSR_FIFO);
586                 mode = serial_inp(up, UART_RSA_MSR);
587                 result = mode & UART_RSA_MSR_FIFO;
588         }
589
590         if (result)
591                 up->port.uartclk = SERIAL_RSA_BAUD_BASE * 16;
592
593         return result;
594 }
595
596 static void enable_rsa(struct uart_8250_port *up)
597 {
598         if (up->port.type == PORT_RSA) {
599                 if (up->port.uartclk != SERIAL_RSA_BAUD_BASE * 16) {
600                         spin_lock_irq(&up->port.lock);
601                         __enable_rsa(up);
602                         spin_unlock_irq(&up->port.lock);
603                 }
604                 if (up->port.uartclk == SERIAL_RSA_BAUD_BASE * 16)
605                         serial_outp(up, UART_RSA_FRR, 0);
606         }
607 }
608
609 /*
610  * Attempts to turn off the RSA FIFO.  Returns zero on failure.
611  * It is unknown why interrupts were disabled in here.  However,
612  * the caller is expected to preserve this behaviour by grabbing
613  * the spinlock before calling this function.
614  */
615 static void disable_rsa(struct uart_8250_port *up)
616 {
617         unsigned char mode;
618         int result;
619
620         if (up->port.type == PORT_RSA &&
621             up->port.uartclk == SERIAL_RSA_BAUD_BASE * 16) {
622                 spin_lock_irq(&up->port.lock);
623
624                 mode = serial_inp(up, UART_RSA_MSR);
625                 result = !(mode & UART_RSA_MSR_FIFO);
626
627                 if (!result) {
628                         serial_outp(up, UART_RSA_MSR, mode & ~UART_RSA_MSR_FIFO);
629                         mode = serial_inp(up, UART_RSA_MSR);
630                         result = !(mode & UART_RSA_MSR_FIFO);
631                 }
632
633                 if (result)
634                         up->port.uartclk = SERIAL_RSA_BAUD_BASE_LO * 16;
635                 spin_unlock_irq(&up->port.lock);
636         }
637 }
638 #endif /* CONFIG_SERIAL_8250_RSA */
639
640 /*
641  * This is a quickie test to see how big the FIFO is.
642  * It doesn't work at all the time, more's the pity.
643  */
644 static int size_fifo(struct uart_8250_port *up)
645 {
646         unsigned char old_fcr, old_mcr, old_lcr;
647         unsigned short old_dl;
648         int count;
649
650         old_lcr = serial_inp(up, UART_LCR);
651         serial_outp(up, UART_LCR, 0);
652         old_fcr = serial_inp(up, UART_FCR);
653         old_mcr = serial_inp(up, UART_MCR);
654         serial_outp(up, UART_FCR, UART_FCR_ENABLE_FIFO |
655                     UART_FCR_CLEAR_RCVR | UART_FCR_CLEAR_XMIT);
656         serial_outp(up, UART_MCR, UART_MCR_LOOP);
657         serial_outp(up, UART_LCR, UART_LCR_DLAB);
658         old_dl = serial_dl_read(up);
659         serial_dl_write(up, 0x0001);
660         serial_outp(up, UART_LCR, 0x03);
661         for (count = 0; count < 256; count++)
662                 serial_outp(up, UART_TX, count);
663         mdelay(20);/* FIXME - schedule_timeout */
664         for (count = 0; (serial_inp(up, UART_LSR) & UART_LSR_DR) &&
665              (count < 256); count++)
666                 serial_inp(up, UART_RX);
667         serial_outp(up, UART_FCR, old_fcr);
668         serial_outp(up, UART_MCR, old_mcr);
669         serial_outp(up, UART_LCR, UART_LCR_DLAB);
670         serial_dl_write(up, old_dl);
671         serial_outp(up, UART_LCR, old_lcr);
672
673         return count;
674 }
675
676 /*
677  * Read UART ID using the divisor method - set DLL and DLM to zero
678  * and the revision will be in DLL and device type in DLM.  We
679  * preserve the device state across this.
680  */
681 static unsigned int autoconfig_read_divisor_id(struct uart_8250_port *p)
682 {
683         unsigned char old_dll, old_dlm, old_lcr;
684         unsigned int id;
685
686         old_lcr = serial_inp(p, UART_LCR);
687         serial_outp(p, UART_LCR, UART_LCR_DLAB);
688
689         old_dll = serial_inp(p, UART_DLL);
690         old_dlm = serial_inp(p, UART_DLM);
691
692         serial_outp(p, UART_DLL, 0);
693         serial_outp(p, UART_DLM, 0);
694
695         id = serial_inp(p, UART_DLL) | serial_inp(p, UART_DLM) << 8;
696
697         serial_outp(p, UART_DLL, old_dll);
698         serial_outp(p, UART_DLM, old_dlm);
699         serial_outp(p, UART_LCR, old_lcr);
700
701         return id;
702 }
703
704 /*
705  * This is a helper routine to autodetect StarTech/Exar/Oxsemi UART's.
706  * When this function is called we know it is at least a StarTech
707  * 16650 V2, but it might be one of several StarTech UARTs, or one of
708  * its clones.  (We treat the broken original StarTech 16650 V1 as a
709  * 16550, and why not?  Startech doesn't seem to even acknowledge its
710  * existence.)
711  *
712  * What evil have men's minds wrought...
713  */
714 static void autoconfig_has_efr(struct uart_8250_port *up)
715 {
716         unsigned int id1, id2, id3, rev;
717
718         /*
719          * Everything with an EFR has SLEEP
720          */
721         up->capabilities |= UART_CAP_EFR | UART_CAP_SLEEP;
722
723         /*
724          * First we check to see if it's an Oxford Semiconductor UART.
725          *
726          * If we have to do this here because some non-National
727          * Semiconductor clone chips lock up if you try writing to the
728          * LSR register (which serial_icr_read does)
729          */
730
731         /*
732          * Check for Oxford Semiconductor 16C950.
733          *
734          * EFR [4] must be set else this test fails.
735          *
736          * This shouldn't be necessary, but Mike Hudson (Exoray@isys.ca)
737          * claims that it's needed for 952 dual UART's (which are not
738          * recommended for new designs).
739          */
740         up->acr = 0;
741         serial_out(up, UART_LCR, 0xBF);
742         serial_out(up, UART_EFR, UART_EFR_ECB);
743         serial_out(up, UART_LCR, 0x00);
744         id1 = serial_icr_read(up, UART_ID1);
745         id2 = serial_icr_read(up, UART_ID2);
746         id3 = serial_icr_read(up, UART_ID3);
747         rev = serial_icr_read(up, UART_REV);
748
749         DEBUG_AUTOCONF("950id=%02x:%02x:%02x:%02x ", id1, id2, id3, rev);
750
751         if (id1 == 0x16 && id2 == 0xC9 &&
752             (id3 == 0x50 || id3 == 0x52 || id3 == 0x54)) {
753                 up->port.type = PORT_16C950;
754
755                 /*
756                  * Enable work around for the Oxford Semiconductor 952 rev B
757                  * chip which causes it to seriously miscalculate baud rates
758                  * when DLL is 0.
759                  */
760                 if (id3 == 0x52 && rev == 0x01)
761                         up->bugs |= UART_BUG_QUOT;
762                 return;
763         }
764
765         /*
766          * We check for a XR16C850 by setting DLL and DLM to 0, and then
767          * reading back DLL and DLM.  The chip type depends on the DLM
768          * value read back:
769          *  0x10 - XR16C850 and the DLL contains the chip revision.
770          *  0x12 - XR16C2850.
771          *  0x14 - XR16C854.
772          */
773         id1 = autoconfig_read_divisor_id(up);
774         DEBUG_AUTOCONF("850id=%04x ", id1);
775
776         id2 = id1 >> 8;
777         if (id2 == 0x10 || id2 == 0x12 || id2 == 0x14) {
778                 up->port.type = PORT_16850;
779                 return;
780         }
781
782         /*
783          * It wasn't an XR16C850.
784          *
785          * We distinguish between the '654 and the '650 by counting
786          * how many bytes are in the FIFO.  I'm using this for now,
787          * since that's the technique that was sent to me in the
788          * serial driver update, but I'm not convinced this works.
789          * I've had problems doing this in the past.  -TYT
790          */
791         if (size_fifo(up) == 64)
792                 up->port.type = PORT_16654;
793         else
794                 up->port.type = PORT_16650V2;
795 }
796
797 /*
798  * We detected a chip without a FIFO.  Only two fall into
799  * this category - the original 8250 and the 16450.  The
800  * 16450 has a scratch register (accessible with LCR=0)
801  */
802 static void autoconfig_8250(struct uart_8250_port *up)
803 {
804         unsigned char scratch, status1, status2;
805
806         up->port.type = PORT_8250;
807
808         scratch = serial_in(up, UART_SCR);
809         serial_outp(up, UART_SCR, 0xa5);
810         status1 = serial_in(up, UART_SCR);
811         serial_outp(up, UART_SCR, 0x5a);
812         status2 = serial_in(up, UART_SCR);
813         serial_outp(up, UART_SCR, scratch);
814
815         if (status1 == 0xa5 && status2 == 0x5a)
816                 up->port.type = PORT_16450;
817 }
818
819 static int broken_efr(struct uart_8250_port *up)
820 {
821         /*
822          * Exar ST16C2550 "A2" devices incorrectly detect as
823          * having an EFR, and report an ID of 0x0201.  See
824          * http://www.exar.com/info.php?pdf=dan180_oct2004.pdf
825          */
826         if (autoconfig_read_divisor_id(up) == 0x0201 && size_fifo(up) == 16)
827                 return 1;
828
829         return 0;
830 }
831
832 /*
833  * We know that the chip has FIFOs.  Does it have an EFR?  The
834  * EFR is located in the same register position as the IIR and
835  * we know the top two bits of the IIR are currently set.  The
836  * EFR should contain zero.  Try to read the EFR.
837  */
838 static void autoconfig_16550a(struct uart_8250_port *up)
839 {
840         unsigned char status1, status2;
841         unsigned int iersave;
842
843         up->port.type = PORT_16550A;
844         up->capabilities |= UART_CAP_FIFO;
845
846         /*
847          * Check for presence of the EFR when DLAB is set.
848          * Only ST16C650V1 UARTs pass this test.
849          */
850         serial_outp(up, UART_LCR, UART_LCR_DLAB);
851         if (serial_in(up, UART_EFR) == 0) {
852                 serial_outp(up, UART_EFR, 0xA8);
853                 if (serial_in(up, UART_EFR) != 0) {
854                         DEBUG_AUTOCONF("EFRv1 ");
855                         up->port.type = PORT_16650;
856                         up->capabilities |= UART_CAP_EFR | UART_CAP_SLEEP;
857                 } else {
858                         DEBUG_AUTOCONF("Motorola 8xxx DUART ");
859                 }
860                 serial_outp(up, UART_EFR, 0);
861                 return;
862         }
863
864         /*
865          * Maybe it requires 0xbf to be written to the LCR.
866          * (other ST16C650V2 UARTs, TI16C752A, etc)
867          */
868         serial_outp(up, UART_LCR, 0xBF);
869         if (serial_in(up, UART_EFR) == 0 && !broken_efr(up)) {
870                 DEBUG_AUTOCONF("EFRv2 ");
871                 autoconfig_has_efr(up);
872                 return;
873         }
874
875         /*
876          * Check for a National Semiconductor SuperIO chip.
877          * Attempt to switch to bank 2, read the value of the LOOP bit
878          * from EXCR1. Switch back to bank 0, change it in MCR. Then
879          * switch back to bank 2, read it from EXCR1 again and check
880          * it's changed. If so, set baud_base in EXCR2 to 921600. -- dwmw2
881          */
882         serial_outp(up, UART_LCR, 0);
883         status1 = serial_in(up, UART_MCR);
884         serial_outp(up, UART_LCR, 0xE0);
885         status2 = serial_in(up, 0x02); /* EXCR1 */
886
887         if (!((status2 ^ status1) & UART_MCR_LOOP)) {
888                 serial_outp(up, UART_LCR, 0);
889                 serial_outp(up, UART_MCR, status1 ^ UART_MCR_LOOP);
890                 serial_outp(up, UART_LCR, 0xE0);
891                 status2 = serial_in(up, 0x02); /* EXCR1 */
892                 serial_outp(up, UART_LCR, 0);
893                 serial_outp(up, UART_MCR, status1);
894
895                 if ((status2 ^ status1) & UART_MCR_LOOP) {
896                         unsigned short quot;
897
898                         serial_outp(up, UART_LCR, 0xE0);
899
900                         quot = serial_dl_read(up);
901                         quot <<= 3;
902
903                         status1 = serial_in(up, 0x04); /* EXCR2 */
904                         status1 &= ~0xB0; /* Disable LOCK, mask out PRESL[01] */
905                         status1 |= 0x10;  /* 1.625 divisor for baud_base --> 921600 */
906                         serial_outp(up, 0x04, status1);
907
908                         serial_dl_write(up, quot);
909
910                         serial_outp(up, UART_LCR, 0);
911
912                         up->port.uartclk = 921600*16;
913                         up->port.type = PORT_NS16550A;
914                         up->capabilities |= UART_NATSEMI;
915                         return;
916                 }
917         }
918
919         /*
920          * No EFR.  Try to detect a TI16750, which only sets bit 5 of
921          * the IIR when 64 byte FIFO mode is enabled when DLAB is set.
922          * Try setting it with and without DLAB set.  Cheap clones
923          * set bit 5 without DLAB set.
924          */
925         serial_outp(up, UART_LCR, 0);
926         serial_outp(up, UART_FCR, UART_FCR_ENABLE_FIFO | UART_FCR7_64BYTE);
927         status1 = serial_in(up, UART_IIR) >> 5;
928         serial_outp(up, UART_FCR, UART_FCR_ENABLE_FIFO);
929         serial_outp(up, UART_LCR, UART_LCR_DLAB);
930         serial_outp(up, UART_FCR, UART_FCR_ENABLE_FIFO | UART_FCR7_64BYTE);
931         status2 = serial_in(up, UART_IIR) >> 5;
932         serial_outp(up, UART_FCR, UART_FCR_ENABLE_FIFO);
933         serial_outp(up, UART_LCR, 0);
934
935         DEBUG_AUTOCONF("iir1=%d iir2=%d ", status1, status2);
936
937         if (status1 == 6 && status2 == 7) {
938                 up->port.type = PORT_16750;
939                 up->capabilities |= UART_CAP_AFE | UART_CAP_SLEEP;
940                 return;
941         }
942
943         /*
944          * Try writing and reading the UART_IER_UUE bit (b6).
945          * If it works, this is probably one of the Xscale platform's
946          * internal UARTs.
947          * We're going to explicitly set the UUE bit to 0 before
948          * trying to write and read a 1 just to make sure it's not
949          * already a 1 and maybe locked there before we even start start.
950          */
951         iersave = serial_in(up, UART_IER);
952         serial_outp(up, UART_IER, iersave & ~UART_IER_UUE);
953         if (!(serial_in(up, UART_IER) & UART_IER_UUE)) {
954                 /*
955                  * OK it's in a known zero state, try writing and reading
956                  * without disturbing the current state of the other bits.
957                  */
958                 serial_outp(up, UART_IER, iersave | UART_IER_UUE);
959                 if (serial_in(up, UART_IER) & UART_IER_UUE) {
960                         /*
961                          * It's an Xscale.
962                          * We'll leave the UART_IER_UUE bit set to 1 (enabled).
963                          */
964                         DEBUG_AUTOCONF("Xscale ");
965                         up->port.type = PORT_XSCALE;
966                         up->capabilities |= UART_CAP_UUE;
967                         return;
968                 }
969         } else {
970                 /*
971                  * If we got here we couldn't force the IER_UUE bit to 0.
972                  * Log it and continue.
973                  */
974                 DEBUG_AUTOCONF("Couldn't force IER_UUE to 0 ");
975         }
976         serial_outp(up, UART_IER, iersave);
977 }
978
979 /*
980  * This routine is called by rs_init() to initialize a specific serial
981  * port.  It determines what type of UART chip this serial port is
982  * using: 8250, 16450, 16550, 16550A.  The important question is
983  * whether or not this UART is a 16550A or not, since this will
984  * determine whether or not we can use its FIFO features or not.
985  */
986 static void autoconfig(struct uart_8250_port *up, unsigned int probeflags)
987 {
988         unsigned char status1, scratch, scratch2, scratch3;
989         unsigned char save_lcr, save_mcr;
990         unsigned long flags;
991
992         if (!up->port.iobase && !up->port.mapbase && !up->port.membase)
993                 return;
994
995         DEBUG_AUTOCONF("ttyS%d: autoconf (0x%04x, 0x%p): ",
996                         up->port.line, up->port.iobase, up->port.membase);
997
998         /*
999          * We really do need global IRQs disabled here - we're going to
1000          * be frobbing the chips IRQ enable register to see if it exists.
1001          */
1002         spin_lock_irqsave(&up->port.lock, flags);
1003
1004         up->capabilities = 0;
1005         up->bugs = 0;
1006
1007         if (!(up->port.flags & UPF_BUGGY_UART)) {
1008                 /*
1009                  * Do a simple existence test first; if we fail this,
1010                  * there's no point trying anything else.
1011                  *
1012                  * 0x80 is used as a nonsense port to prevent against
1013                  * false positives due to ISA bus float.  The
1014                  * assumption is that 0x80 is a non-existent port;
1015                  * which should be safe since include/asm/io.h also
1016                  * makes this assumption.
1017                  *
1018                  * Note: this is safe as long as MCR bit 4 is clear
1019                  * and the device is in "PC" mode.
1020                  */
1021                 scratch = serial_inp(up, UART_IER);
1022                 serial_outp(up, UART_IER, 0);
1023 #ifdef __i386__
1024                 outb(0xff, 0x080);
1025 #endif
1026                 /*
1027                  * Mask out IER[7:4] bits for test as some UARTs (e.g. TL
1028                  * 16C754B) allow only to modify them if an EFR bit is set.
1029                  */
1030                 scratch2 = serial_inp(up, UART_IER) & 0x0f;
1031                 serial_outp(up, UART_IER, 0x0F);
1032 #ifdef __i386__
1033                 outb(0, 0x080);
1034 #endif
1035                 scratch3 = serial_inp(up, UART_IER) & 0x0f;
1036                 serial_outp(up, UART_IER, scratch);
1037                 if (scratch2 != 0 || scratch3 != 0x0F) {
1038                         /*
1039                          * We failed; there's nothing here
1040                          */
1041                         DEBUG_AUTOCONF("IER test failed (%02x, %02x) ",
1042                                        scratch2, scratch3);
1043                         goto out;
1044                 }
1045         }
1046
1047         save_mcr = serial_in(up, UART_MCR);
1048         save_lcr = serial_in(up, UART_LCR);
1049
1050         /*
1051          * Check to see if a UART is really there.  Certain broken
1052          * internal modems based on the Rockwell chipset fail this
1053          * test, because they apparently don't implement the loopback
1054          * test mode.  So this test is skipped on the COM 1 through
1055          * COM 4 ports.  This *should* be safe, since no board
1056          * manufacturer would be stupid enough to design a board
1057          * that conflicts with COM 1-4 --- we hope!
1058          */
1059         if (!(up->port.flags & UPF_SKIP_TEST)) {
1060                 serial_outp(up, UART_MCR, UART_MCR_LOOP | 0x0A);
1061                 status1 = serial_inp(up, UART_MSR) & 0xF0;
1062                 serial_outp(up, UART_MCR, save_mcr);
1063                 if (status1 != 0x90) {
1064                         DEBUG_AUTOCONF("LOOP test failed (%02x) ",
1065                                        status1);
1066                         goto out;
1067                 }
1068         }
1069
1070         /*
1071          * We're pretty sure there's a port here.  Lets find out what
1072          * type of port it is.  The IIR top two bits allows us to find
1073          * out if it's 8250 or 16450, 16550, 16550A or later.  This
1074          * determines what we test for next.
1075          *
1076          * We also initialise the EFR (if any) to zero for later.  The
1077          * EFR occupies the same register location as the FCR and IIR.
1078          */
1079         serial_outp(up, UART_LCR, 0xBF);
1080         serial_outp(up, UART_EFR, 0);
1081         serial_outp(up, UART_LCR, 0);
1082
1083         serial_outp(up, UART_FCR, UART_FCR_ENABLE_FIFO);
1084         scratch = serial_in(up, UART_IIR) >> 6;
1085
1086         DEBUG_AUTOCONF("iir=%d ", scratch);
1087
1088         switch (scratch) {
1089         case 0:
1090                 autoconfig_8250(up);
1091                 break;
1092         case 1:
1093                 up->port.type = PORT_UNKNOWN;
1094                 break;
1095         case 2:
1096                 up->port.type = PORT_16550;
1097                 break;
1098         case 3:
1099                 autoconfig_16550a(up);
1100                 break;
1101         }
1102
1103 #ifdef CONFIG_SERIAL_8250_RSA
1104         /*
1105          * Only probe for RSA ports if we got the region.
1106          */
1107         if (up->port.type == PORT_16550A && probeflags & PROBE_RSA) {
1108                 int i;
1109
1110                 for (i = 0 ; i < probe_rsa_count; ++i) {
1111                         if (probe_rsa[i] == up->port.iobase &&
1112                             __enable_rsa(up)) {
1113                                 up->port.type = PORT_RSA;
1114                                 break;
1115                         }
1116                 }
1117         }
1118 #endif
1119
1120 #ifdef CONFIG_SERIAL_8250_AU1X00
1121         /* if access method is AU, it is a 16550 with a quirk */
1122         if (up->port.type == PORT_16550A && up->port.iotype == UPIO_AU)
1123                 up->bugs |= UART_BUG_NOMSR;
1124 #endif
1125
1126         serial_outp(up, UART_LCR, save_lcr);
1127
1128         if (up->capabilities != uart_config[up->port.type].flags) {
1129                 printk(KERN_WARNING
1130                        "ttyS%d: detected caps %08x should be %08x\n",
1131                         up->port.line, up->capabilities,
1132                         uart_config[up->port.type].flags);
1133         }
1134
1135         up->port.fifosize = uart_config[up->port.type].fifo_size;
1136         up->capabilities = uart_config[up->port.type].flags;
1137         up->tx_loadsz = uart_config[up->port.type].tx_loadsz;
1138
1139         if (up->port.type == PORT_UNKNOWN)
1140                 goto out;
1141
1142         /*
1143          * Reset the UART.
1144          */
1145 #ifdef CONFIG_SERIAL_8250_RSA
1146         if (up->port.type == PORT_RSA)
1147                 serial_outp(up, UART_RSA_FRR, 0);
1148 #endif
1149         serial_outp(up, UART_MCR, save_mcr);
1150         serial8250_clear_fifos(up);
1151         serial_in(up, UART_RX);
1152         if (up->capabilities & UART_CAP_UUE)
1153                 serial_outp(up, UART_IER, UART_IER_UUE);
1154         else
1155                 serial_outp(up, UART_IER, 0);
1156
1157  out:
1158         spin_unlock_irqrestore(&up->port.lock, flags);
1159         DEBUG_AUTOCONF("type=%s\n", uart_config[up->port.type].name);
1160 }
1161
1162 static void autoconfig_irq(struct uart_8250_port *up)
1163 {
1164         unsigned char save_mcr, save_ier;
1165         unsigned char save_ICP = 0;
1166         unsigned int ICP = 0;
1167         unsigned long irqs;
1168         int irq;
1169
1170         if (up->port.flags & UPF_FOURPORT) {
1171                 ICP = (up->port.iobase & 0xfe0) | 0x1f;
1172                 save_ICP = inb_p(ICP);
1173                 outb_p(0x80, ICP);
1174                 (void) inb_p(ICP);
1175         }
1176
1177         /* forget possible initially masked and pending IRQ */
1178         probe_irq_off(probe_irq_on());
1179         save_mcr = serial_inp(up, UART_MCR);
1180         save_ier = serial_inp(up, UART_IER);
1181         serial_outp(up, UART_MCR, UART_MCR_OUT1 | UART_MCR_OUT2);
1182
1183         irqs = probe_irq_on();
1184         serial_outp(up, UART_MCR, 0);
1185         udelay(10);
1186         if (up->port.flags & UPF_FOURPORT) {
1187                 serial_outp(up, UART_MCR,
1188                             UART_MCR_DTR | UART_MCR_RTS);
1189         } else {
1190                 serial_outp(up, UART_MCR,
1191                             UART_MCR_DTR | UART_MCR_RTS | UART_MCR_OUT2);
1192         }
1193         serial_outp(up, UART_IER, 0x0f);        /* enable all intrs */
1194         (void)serial_inp(up, UART_LSR);
1195         (void)serial_inp(up, UART_RX);
1196         (void)serial_inp(up, UART_IIR);
1197         (void)serial_inp(up, UART_MSR);
1198         serial_outp(up, UART_TX, 0xFF);
1199         udelay(20);
1200         irq = probe_irq_off(irqs);
1201
1202         serial_outp(up, UART_MCR, save_mcr);
1203         serial_outp(up, UART_IER, save_ier);
1204
1205         if (up->port.flags & UPF_FOURPORT)
1206                 outb_p(save_ICP, ICP);
1207
1208         up->port.irq = (irq > 0) ? irq : 0;
1209 }
1210
1211 static inline void __stop_tx(struct uart_8250_port *p)
1212 {
1213         if (p->ier & UART_IER_THRI) {
1214                 p->ier &= ~UART_IER_THRI;
1215                 serial_out(p, UART_IER, p->ier);
1216         }
1217 }
1218
1219 static void serial8250_stop_tx(struct uart_port *port)
1220 {
1221         struct uart_8250_port *up = (struct uart_8250_port *)port;
1222
1223         __stop_tx(up);
1224
1225         /*
1226          * We really want to stop the transmitter from sending.
1227          */
1228         if (up->port.type == PORT_16C950) {
1229                 up->acr |= UART_ACR_TXDIS;
1230                 serial_icr_write(up, UART_ACR, up->acr);
1231         }
1232 }
1233
1234 static void transmit_chars(struct uart_8250_port *up);
1235
1236 static void serial8250_start_tx(struct uart_port *port)
1237 {
1238         struct uart_8250_port *up = (struct uart_8250_port *)port;
1239
1240         if (!(up->ier & UART_IER_THRI)) {
1241                 up->ier |= UART_IER_THRI;
1242                 serial_out(up, UART_IER, up->ier);
1243
1244                 if (up->bugs & UART_BUG_TXEN) {
1245                         unsigned char lsr, iir;
1246                         lsr = serial_in(up, UART_LSR);
1247                         up->lsr_saved_flags |= lsr & LSR_SAVE_FLAGS;
1248                         iir = serial_in(up, UART_IIR) & 0x0f;
1249                         if ((up->port.type == PORT_RM9000) ?
1250                                 (lsr & UART_LSR_THRE &&
1251                                 (iir == UART_IIR_NO_INT || iir == UART_IIR_THRI)) :
1252                                 (lsr & UART_LSR_TEMT && iir & UART_IIR_NO_INT))
1253                                 transmit_chars(up);
1254                 }
1255         }
1256
1257         /*
1258          * Re-enable the transmitter if we disabled it.
1259          */
1260         if (up->port.type == PORT_16C950 && up->acr & UART_ACR_TXDIS) {
1261                 up->acr &= ~UART_ACR_TXDIS;
1262                 serial_icr_write(up, UART_ACR, up->acr);
1263         }
1264 }
1265
1266 static void serial8250_stop_rx(struct uart_port *port)
1267 {
1268         struct uart_8250_port *up = (struct uart_8250_port *)port;
1269
1270         up->ier &= ~UART_IER_RLSI;
1271         up->port.read_status_mask &= ~UART_LSR_DR;
1272         serial_out(up, UART_IER, up->ier);
1273 }
1274
1275 static void serial8250_enable_ms(struct uart_port *port)
1276 {
1277         struct uart_8250_port *up = (struct uart_8250_port *)port;
1278
1279         /* no MSR capabilities */
1280         if (up->bugs & UART_BUG_NOMSR)
1281                 return;
1282
1283         up->ier |= UART_IER_MSI;
1284         serial_out(up, UART_IER, up->ier);
1285 }
1286
1287 static void
1288 receive_chars(struct uart_8250_port *up, unsigned int *status)
1289 {
1290         struct tty_struct *tty = up->port.info->port.tty;
1291         unsigned char ch, lsr = *status;
1292         int max_count = 256;
1293         char flag;
1294
1295         do {
1296                 if (likely(lsr & UART_LSR_DR))
1297                         ch = serial_inp(up, UART_RX);
1298                 else
1299                         /*
1300                          * Intel 82571 has a Serial Over Lan device that will
1301                          * set UART_LSR_BI without setting UART_LSR_DR when
1302                          * it receives a break. To avoid reading from the
1303                          * receive buffer without UART_LSR_DR bit set, we
1304                          * just force the read character to be 0
1305                          */
1306                         ch = 0;
1307
1308                 flag = TTY_NORMAL;
1309                 up->port.icount.rx++;
1310
1311                 lsr |= up->lsr_saved_flags;
1312                 up->lsr_saved_flags = 0;
1313
1314                 if (unlikely(lsr & UART_LSR_BRK_ERROR_BITS)) {
1315                         /*
1316                          * For statistics only
1317                          */
1318                         if (lsr & UART_LSR_BI) {
1319                                 lsr &= ~(UART_LSR_FE | UART_LSR_PE);
1320                                 up->port.icount.brk++;
1321                                 /*
1322                                  * We do the SysRQ and SAK checking
1323                                  * here because otherwise the break
1324                                  * may get masked by ignore_status_mask
1325                                  * or read_status_mask.
1326                                  */
1327                                 if (uart_handle_break(&up->port))
1328                                         goto ignore_char;
1329                         } else if (lsr & UART_LSR_PE)
1330                                 up->port.icount.parity++;
1331                         else if (lsr & UART_LSR_FE)
1332                                 up->port.icount.frame++;
1333                         if (lsr & UART_LSR_OE)
1334                                 up->port.icount.overrun++;
1335
1336                         /*
1337                          * Mask off conditions which should be ignored.
1338                          */
1339                         lsr &= up->port.read_status_mask;
1340
1341                         if (lsr & UART_LSR_BI) {
1342                                 DEBUG_INTR("handling break....");
1343                                 flag = TTY_BREAK;
1344                         } else if (lsr & UART_LSR_PE)
1345                                 flag = TTY_PARITY;
1346                         else if (lsr & UART_LSR_FE)
1347                                 flag = TTY_FRAME;
1348                 }
1349                 if (uart_handle_sysrq_char(&up->port, ch))
1350                         goto ignore_char;
1351
1352                 uart_insert_char(&up->port, lsr, UART_LSR_OE, ch, flag);
1353
1354 ignore_char:
1355                 lsr = serial_inp(up, UART_LSR);
1356         } while ((lsr & (UART_LSR_DR | UART_LSR_BI)) && (max_count-- > 0));
1357         spin_unlock(&up->port.lock);
1358         tty_flip_buffer_push(tty);
1359         spin_lock(&up->port.lock);
1360         *status = lsr;
1361 }
1362
1363 static void transmit_chars(struct uart_8250_port *up)
1364 {
1365         struct circ_buf *xmit = &up->port.info->xmit;
1366         int count;
1367
1368         if (up->port.x_char) {
1369                 serial_outp(up, UART_TX, up->port.x_char);
1370                 up->port.icount.tx++;
1371                 up->port.x_char = 0;
1372                 return;
1373         }
1374         if (uart_tx_stopped(&up->port)) {
1375                 serial8250_stop_tx(&up->port);
1376                 return;
1377         }
1378         if (uart_circ_empty(xmit)) {
1379                 __stop_tx(up);
1380                 return;
1381         }
1382
1383         count = up->tx_loadsz;
1384         do {
1385                 serial_out(up, UART_TX, xmit->buf[xmit->tail]);
1386                 xmit->tail = (xmit->tail + 1) & (UART_XMIT_SIZE - 1);
1387                 up->port.icount.tx++;
1388                 if (uart_circ_empty(xmit))
1389                         break;
1390         } while (--count > 0);
1391
1392         if (uart_circ_chars_pending(xmit) < WAKEUP_CHARS)
1393                 uart_write_wakeup(&up->port);
1394
1395         DEBUG_INTR("THRE...");
1396
1397         if (uart_circ_empty(xmit))
1398                 __stop_tx(up);
1399 }
1400
1401 static unsigned int check_modem_status(struct uart_8250_port *up)
1402 {
1403         unsigned int status = serial_in(up, UART_MSR);
1404
1405         status |= up->msr_saved_flags;
1406         up->msr_saved_flags = 0;
1407         if (status & UART_MSR_ANY_DELTA && up->ier & UART_IER_MSI &&
1408             up->port.info != NULL) {
1409                 if (status & UART_MSR_TERI)
1410                         up->port.icount.rng++;
1411                 if (status & UART_MSR_DDSR)
1412                         up->port.icount.dsr++;
1413                 if (status & UART_MSR_DDCD)
1414                         uart_handle_dcd_change(&up->port, status & UART_MSR_DCD);
1415                 if (status & UART_MSR_DCTS)
1416                         uart_handle_cts_change(&up->port, status & UART_MSR_CTS);
1417
1418                 wake_up_interruptible(&up->port.info->delta_msr_wait);
1419         }
1420
1421         return status;
1422 }
1423
1424 /*
1425  * This handles the interrupt from one port.
1426  */
1427 static inline void
1428 serial8250_handle_port(struct uart_8250_port *up)
1429 {
1430         unsigned int status;
1431         unsigned long flags;
1432
1433         spin_lock_irqsave(&up->port.lock, flags);
1434
1435         status = serial_inp(up, UART_LSR);
1436
1437         DEBUG_INTR("status = %x...", status);
1438
1439         if (status & (UART_LSR_DR | UART_LSR_BI))
1440                 receive_chars(up, &status);
1441         check_modem_status(up);
1442         if (status & UART_LSR_THRE)
1443                 transmit_chars(up);
1444
1445         spin_unlock_irqrestore(&up->port.lock, flags);
1446 }
1447
1448 /*
1449  * This is the serial driver's interrupt routine.
1450  *
1451  * Arjan thinks the old way was overly complex, so it got simplified.
1452  * Alan disagrees, saying that need the complexity to handle the weird
1453  * nature of ISA shared interrupts.  (This is a special exception.)
1454  *
1455  * In order to handle ISA shared interrupts properly, we need to check
1456  * that all ports have been serviced, and therefore the ISA interrupt
1457  * line has been de-asserted.
1458  *
1459  * This means we need to loop through all ports. checking that they
1460  * don't have an interrupt pending.
1461  */
1462 static irqreturn_t serial8250_interrupt(int irq, void *dev_id)
1463 {
1464         struct irq_info *i = dev_id;
1465         struct list_head *l, *end = NULL;
1466         int pass_counter = 0, handled = 0;
1467
1468         DEBUG_INTR("serial8250_interrupt(%d)...", irq);
1469
1470         spin_lock(&i->lock);
1471
1472         l = i->head;
1473         do {
1474                 struct uart_8250_port *up;
1475                 unsigned int iir;
1476
1477                 up = list_entry(l, struct uart_8250_port, list);
1478
1479                 iir = serial_in(up, UART_IIR);
1480                 if (!(iir & UART_IIR_NO_INT)) {
1481                         serial8250_handle_port(up);
1482
1483                         handled = 1;
1484
1485                         end = NULL;
1486                 } else if (up->port.iotype == UPIO_DWAPB &&
1487                           (iir & UART_IIR_BUSY) == UART_IIR_BUSY) {
1488                         /* The DesignWare APB UART has an Busy Detect (0x07)
1489                          * interrupt meaning an LCR write attempt occured while the
1490                          * UART was busy. The interrupt must be cleared by reading
1491                          * the UART status register (USR) and the LCR re-written. */
1492                         unsigned int status;
1493                         status = *(volatile u32 *)up->port.private_data;
1494                         serial_out(up, UART_LCR, up->lcr);
1495
1496                         handled = 1;
1497
1498                         end = NULL;
1499                 } else if (end == NULL)
1500                         end = l;
1501
1502                 l = l->next;
1503
1504                 if (l == i->head && pass_counter++ > PASS_LIMIT) {
1505                         /* If we hit this, we're dead. */
1506                         printk(KERN_ERR "serial8250: too much work for "
1507                                 "irq%d\n", irq);
1508                         break;
1509                 }
1510         } while (l != end);
1511
1512         spin_unlock(&i->lock);
1513
1514         DEBUG_INTR("end.\n");
1515
1516 #ifdef CONFIG_ARCH_OMAP15XX
1517         return IRQ_HANDLED;     /* FIXME: iir status not ready on 1510 */
1518 #else
1519         return IRQ_RETVAL(handled);
1520 #endif
1521 }
1522
1523 /*
1524  * To support ISA shared interrupts, we need to have one interrupt
1525  * handler that ensures that the IRQ line has been deasserted
1526  * before returning.  Failing to do this will result in the IRQ
1527  * line being stuck active, and, since ISA irqs are edge triggered,
1528  * no more IRQs will be seen.
1529  */
1530 static void serial_do_unlink(struct irq_info *i, struct uart_8250_port *up)
1531 {
1532         spin_lock_irq(&i->lock);
1533
1534         if (!list_empty(i->head)) {
1535                 if (i->head == &up->list)
1536                         i->head = i->head->next;
1537                 list_del(&up->list);
1538         } else {
1539                 BUG_ON(i->head != &up->list);
1540                 i->head = NULL;
1541         }
1542
1543         spin_unlock_irq(&i->lock);
1544 }
1545
1546 static int serial_link_irq_chain(struct uart_8250_port *up)
1547 {
1548         struct irq_info *i = irq_lists + up->port.irq;
1549         int ret, irq_flags = up->port.flags & UPF_SHARE_IRQ ? IRQF_SHARED : 0;
1550
1551         spin_lock_irq(&i->lock);
1552
1553         if (i->head) {
1554                 list_add(&up->list, i->head);
1555                 spin_unlock_irq(&i->lock);
1556
1557                 ret = 0;
1558         } else {
1559                 INIT_LIST_HEAD(&up->list);
1560                 i->head = &up->list;
1561                 spin_unlock_irq(&i->lock);
1562
1563                 ret = request_irq(up->port.irq, serial8250_interrupt,
1564                                   irq_flags, "serial", i);
1565                 if (ret < 0)
1566                         serial_do_unlink(i, up);
1567         }
1568
1569         return ret;
1570 }
1571
1572 static void serial_unlink_irq_chain(struct uart_8250_port *up)
1573 {
1574         struct irq_info *i = irq_lists + up->port.irq;
1575
1576         BUG_ON(i->head == NULL);
1577
1578         if (list_empty(i->head))
1579                 free_irq(up->port.irq, i);
1580
1581         serial_do_unlink(i, up);
1582 }
1583
1584 /* Base timer interval for polling */
1585 static inline int poll_timeout(int timeout)
1586 {
1587         return timeout > 6 ? (timeout / 2 - 2) : 1;
1588 }
1589
1590 /*
1591  * This function is used to handle ports that do not have an
1592  * interrupt.  This doesn't work very well for 16450's, but gives
1593  * barely passable results for a 16550A.  (Although at the expense
1594  * of much CPU overhead).
1595  */
1596 static void serial8250_timeout(unsigned long data)
1597 {
1598         struct uart_8250_port *up = (struct uart_8250_port *)data;
1599         unsigned int iir;
1600
1601         iir = serial_in(up, UART_IIR);
1602         if (!(iir & UART_IIR_NO_INT))
1603                 serial8250_handle_port(up);
1604         mod_timer(&up->timer, jiffies + poll_timeout(up->port.timeout));
1605 }
1606
1607 static void serial8250_backup_timeout(unsigned long data)
1608 {
1609         struct uart_8250_port *up = (struct uart_8250_port *)data;
1610         unsigned int iir, ier = 0, lsr;
1611         unsigned long flags;
1612
1613         /*
1614          * Must disable interrupts or else we risk racing with the interrupt
1615          * based handler.
1616          */
1617         if (is_real_interrupt(up->port.irq)) {
1618                 ier = serial_in(up, UART_IER);
1619                 serial_out(up, UART_IER, 0);
1620         }
1621
1622         iir = serial_in(up, UART_IIR);
1623
1624         /*
1625          * This should be a safe test for anyone who doesn't trust the
1626          * IIR bits on their UART, but it's specifically designed for
1627          * the "Diva" UART used on the management processor on many HP
1628          * ia64 and parisc boxes.
1629          */
1630         spin_lock_irqsave(&up->port.lock, flags);
1631         lsr = serial_in(up, UART_LSR);
1632         up->lsr_saved_flags |= lsr & LSR_SAVE_FLAGS;
1633         spin_unlock_irqrestore(&up->port.lock, flags);
1634         if ((iir & UART_IIR_NO_INT) && (up->ier & UART_IER_THRI) &&
1635             (!uart_circ_empty(&up->port.info->xmit) || up->port.x_char) &&
1636             (lsr & UART_LSR_THRE)) {
1637                 iir &= ~(UART_IIR_ID | UART_IIR_NO_INT);
1638                 iir |= UART_IIR_THRI;
1639         }
1640
1641         if (!(iir & UART_IIR_NO_INT))
1642                 serial8250_handle_port(up);
1643
1644         if (is_real_interrupt(up->port.irq))
1645                 serial_out(up, UART_IER, ier);
1646
1647         /* Standard timer interval plus 0.2s to keep the port running */
1648         mod_timer(&up->timer,
1649                 jiffies + poll_timeout(up->port.timeout) + HZ / 5);
1650 }
1651
1652 static unsigned int serial8250_tx_empty(struct uart_port *port)
1653 {
1654         struct uart_8250_port *up = (struct uart_8250_port *)port;
1655         unsigned long flags;
1656         unsigned int lsr;
1657
1658         spin_lock_irqsave(&up->port.lock, flags);
1659         lsr = serial_in(up, UART_LSR);
1660         up->lsr_saved_flags |= lsr & LSR_SAVE_FLAGS;
1661         spin_unlock_irqrestore(&up->port.lock, flags);
1662
1663         return lsr & UART_LSR_TEMT ? TIOCSER_TEMT : 0;
1664 }
1665
1666 static unsigned int serial8250_get_mctrl(struct uart_port *port)
1667 {
1668         struct uart_8250_port *up = (struct uart_8250_port *)port;
1669         unsigned int status;
1670         unsigned int ret;
1671
1672         status = check_modem_status(up);
1673
1674         ret = 0;
1675         if (status & UART_MSR_DCD)
1676                 ret |= TIOCM_CAR;
1677         if (status & UART_MSR_RI)
1678                 ret |= TIOCM_RNG;
1679         if (status & UART_MSR_DSR)
1680                 ret |= TIOCM_DSR;
1681         if (status & UART_MSR_CTS)
1682                 ret |= TIOCM_CTS;
1683         return ret;
1684 }
1685
1686 static void serial8250_set_mctrl(struct uart_port *port, unsigned int mctrl)
1687 {
1688         struct uart_8250_port *up = (struct uart_8250_port *)port;
1689         unsigned char mcr = 0;
1690
1691         if (mctrl & TIOCM_RTS)
1692                 mcr |= UART_MCR_RTS;
1693         if (mctrl & TIOCM_DTR)
1694                 mcr |= UART_MCR_DTR;
1695         if (mctrl & TIOCM_OUT1)
1696                 mcr |= UART_MCR_OUT1;
1697         if (mctrl & TIOCM_OUT2)
1698                 mcr |= UART_MCR_OUT2;
1699         if (mctrl & TIOCM_LOOP)
1700                 mcr |= UART_MCR_LOOP;
1701
1702         mcr = (mcr & up->mcr_mask) | up->mcr_force | up->mcr;
1703
1704         serial_out(up, UART_MCR, mcr);
1705 }
1706
1707 static void serial8250_break_ctl(struct uart_port *port, int break_state)
1708 {
1709         struct uart_8250_port *up = (struct uart_8250_port *)port;
1710         unsigned long flags;
1711
1712         spin_lock_irqsave(&up->port.lock, flags);
1713         if (break_state == -1)
1714                 up->lcr |= UART_LCR_SBC;
1715         else
1716                 up->lcr &= ~UART_LCR_SBC;
1717         serial_out(up, UART_LCR, up->lcr);
1718         spin_unlock_irqrestore(&up->port.lock, flags);
1719 }
1720
1721 #define BOTH_EMPTY (UART_LSR_TEMT | UART_LSR_THRE)
1722
1723 /*
1724  *      Wait for transmitter & holding register to empty
1725  */
1726 static inline void wait_for_xmitr(struct uart_8250_port *up, int bits)
1727 {
1728         unsigned int status, tmout = 10000;
1729
1730         /* Wait up to 10ms for the character(s) to be sent. */
1731         do {
1732                 status = serial_in(up, UART_LSR);
1733
1734                 up->lsr_saved_flags |= status & LSR_SAVE_FLAGS;
1735
1736                 if (--tmout == 0)
1737                         break;
1738                 udelay(1);
1739         } while ((status & bits) != bits);
1740
1741         /* Wait up to 1s for flow control if necessary */
1742         if (up->port.flags & UPF_CONS_FLOW) {
1743                 unsigned int tmout;
1744                 for (tmout = 1000000; tmout; tmout--) {
1745                         unsigned int msr = serial_in(up, UART_MSR);
1746                         up->msr_saved_flags |= msr & MSR_SAVE_FLAGS;
1747                         if (msr & UART_MSR_CTS)
1748                                 break;
1749                         udelay(1);
1750                         touch_nmi_watchdog();
1751                 }
1752         }
1753 }
1754
1755 #ifdef CONFIG_CONSOLE_POLL
1756 /*
1757  * Console polling routines for writing and reading from the uart while
1758  * in an interrupt or debug context.
1759  */
1760
1761 static int serial8250_get_poll_char(struct uart_port *port)
1762 {
1763         struct uart_8250_port *up = (struct uart_8250_port *)port;
1764         unsigned char lsr = serial_inp(up, UART_LSR);
1765
1766         while (!(lsr & UART_LSR_DR))
1767                 lsr = serial_inp(up, UART_LSR);
1768
1769         return serial_inp(up, UART_RX);
1770 }
1771
1772
1773 static void serial8250_put_poll_char(struct uart_port *port,
1774                          unsigned char c)
1775 {
1776         unsigned int ier;
1777         struct uart_8250_port *up = (struct uart_8250_port *)port;
1778
1779         /*
1780          *      First save the IER then disable the interrupts
1781          */
1782         ier = serial_in(up, UART_IER);
1783         if (up->capabilities & UART_CAP_UUE)
1784                 serial_out(up, UART_IER, UART_IER_UUE);
1785         else
1786                 serial_out(up, UART_IER, 0);
1787
1788         wait_for_xmitr(up, BOTH_EMPTY);
1789         /*
1790          *      Send the character out.
1791          *      If a LF, also do CR...
1792          */
1793         serial_out(up, UART_TX, c);
1794         if (c == 10) {
1795                 wait_for_xmitr(up, BOTH_EMPTY);
1796                 serial_out(up, UART_TX, 13);
1797         }
1798
1799         /*
1800          *      Finally, wait for transmitter to become empty
1801          *      and restore the IER
1802          */
1803         wait_for_xmitr(up, BOTH_EMPTY);
1804         serial_out(up, UART_IER, ier);
1805 }
1806
1807 #endif /* CONFIG_CONSOLE_POLL */
1808
1809 static int serial8250_startup(struct uart_port *port)
1810 {
1811         struct uart_8250_port *up = (struct uart_8250_port *)port;
1812         unsigned long flags;
1813         unsigned char lsr, iir;
1814         int retval;
1815
1816         up->capabilities = uart_config[up->port.type].flags;
1817         up->mcr = 0;
1818
1819         if (up->port.type == PORT_16C950) {
1820                 /* Wake up and initialize UART */
1821                 up->acr = 0;
1822                 serial_outp(up, UART_LCR, 0xBF);
1823                 serial_outp(up, UART_EFR, UART_EFR_ECB);
1824                 serial_outp(up, UART_IER, 0);
1825                 serial_outp(up, UART_LCR, 0);
1826                 serial_icr_write(up, UART_CSR, 0); /* Reset the UART */
1827                 serial_outp(up, UART_LCR, 0xBF);
1828                 serial_outp(up, UART_EFR, UART_EFR_ECB);
1829                 serial_outp(up, UART_LCR, 0);
1830         }
1831
1832 #ifdef CONFIG_SERIAL_8250_RSA
1833         /*
1834          * If this is an RSA port, see if we can kick it up to the
1835          * higher speed clock.
1836          */
1837         enable_rsa(up);
1838 #endif
1839
1840         /*
1841          * Clear the FIFO buffers and disable them.
1842          * (they will be reenabled in set_termios())
1843          */
1844         serial8250_clear_fifos(up);
1845
1846         /*
1847          * Clear the interrupt registers.
1848          */
1849         (void) serial_inp(up, UART_LSR);
1850         (void) serial_inp(up, UART_RX);
1851         (void) serial_inp(up, UART_IIR);
1852         (void) serial_inp(up, UART_MSR);
1853
1854         /*
1855          * At this point, there's no way the LSR could still be 0xff;
1856          * if it is, then bail out, because there's likely no UART
1857          * here.
1858          */
1859         if (!(up->port.flags & UPF_BUGGY_UART) &&
1860             (serial_inp(up, UART_LSR) == 0xff)) {
1861                 printk("ttyS%d: LSR safety check engaged!\n", up->port.line);
1862                 return -ENODEV;
1863         }
1864
1865         /*
1866          * For a XR16C850, we need to set the trigger levels
1867          */
1868         if (up->port.type == PORT_16850) {
1869                 unsigned char fctr;
1870
1871                 serial_outp(up, UART_LCR, 0xbf);
1872
1873                 fctr = serial_inp(up, UART_FCTR) & ~(UART_FCTR_RX|UART_FCTR_TX);
1874                 serial_outp(up, UART_FCTR, fctr | UART_FCTR_TRGD | UART_FCTR_RX);
1875                 serial_outp(up, UART_TRG, UART_TRG_96);
1876                 serial_outp(up, UART_FCTR, fctr | UART_FCTR_TRGD | UART_FCTR_TX);
1877                 serial_outp(up, UART_TRG, UART_TRG_96);
1878
1879                 serial_outp(up, UART_LCR, 0);
1880         }
1881
1882         if (is_real_interrupt(up->port.irq)) {
1883                 unsigned char iir1;
1884                 /*
1885                  * Test for UARTs that do not reassert THRE when the
1886                  * transmitter is idle and the interrupt has already
1887                  * been cleared.  Real 16550s should always reassert
1888                  * this interrupt whenever the transmitter is idle and
1889                  * the interrupt is enabled.  Delays are necessary to
1890                  * allow register changes to become visible.
1891                  */
1892                 spin_lock_irqsave(&up->port.lock, flags);
1893                 if (up->port.flags & UPF_SHARE_IRQ)
1894                         disable_irq_nosync(up->port.irq);
1895
1896                 wait_for_xmitr(up, UART_LSR_THRE);
1897                 serial_out_sync(up, UART_IER, UART_IER_THRI);
1898                 udelay(1); /* allow THRE to set */
1899                 iir1 = serial_in(up, UART_IIR);
1900                 serial_out(up, UART_IER, 0);
1901                 serial_out_sync(up, UART_IER, UART_IER_THRI);
1902                 udelay(1); /* allow a working UART time to re-assert THRE */
1903                 iir = serial_in(up, UART_IIR);
1904                 serial_out(up, UART_IER, 0);
1905
1906                 if (up->port.flags & UPF_SHARE_IRQ)
1907                         enable_irq(up->port.irq);
1908                 spin_unlock_irqrestore(&up->port.lock, flags);
1909
1910                 /*
1911                  * If the interrupt is not reasserted, setup a timer to
1912                  * kick the UART on a regular basis.
1913                  */
1914                 if (!(iir1 & UART_IIR_NO_INT) && (iir & UART_IIR_NO_INT)) {
1915                         pr_debug("ttyS%d - using backup timer\n", port->line);
1916                         up->timer.function = serial8250_backup_timeout;
1917                         up->timer.data = (unsigned long)up;
1918                         mod_timer(&up->timer, jiffies +
1919                                 poll_timeout(up->port.timeout) + HZ / 5);
1920                 }
1921         }
1922
1923         /*
1924          * If the "interrupt" for this port doesn't correspond with any
1925          * hardware interrupt, we use a timer-based system.  The original
1926          * driver used to do this with IRQ0.
1927          */
1928         if (!is_real_interrupt(up->port.irq)) {
1929                 up->timer.data = (unsigned long)up;
1930                 mod_timer(&up->timer, jiffies + poll_timeout(up->port.timeout));
1931         } else {
1932                 retval = serial_link_irq_chain(up);
1933                 if (retval)
1934                         return retval;
1935         }
1936
1937         /*
1938          * Now, initialize the UART
1939          */
1940         serial_outp(up, UART_LCR, UART_LCR_WLEN8);
1941
1942         spin_lock_irqsave(&up->port.lock, flags);
1943         if (up->port.flags & UPF_FOURPORT) {
1944                 if (!is_real_interrupt(up->port.irq))
1945                         up->port.mctrl |= TIOCM_OUT1;
1946         } else
1947                 /*
1948                  * Most PC uarts need OUT2 raised to enable interrupts.
1949                  */
1950                 if (is_real_interrupt(up->port.irq))
1951                         up->port.mctrl |= TIOCM_OUT2;
1952
1953         serial8250_set_mctrl(&up->port, up->port.mctrl);
1954
1955         /*
1956          * Do a quick test to see if we receive an
1957          * interrupt when we enable the TX irq.
1958          */
1959         serial_outp(up, UART_IER, UART_IER_THRI);
1960         lsr = serial_in(up, UART_LSR);
1961         iir = serial_in(up, UART_IIR);
1962         serial_outp(up, UART_IER, 0);
1963
1964         if (lsr & UART_LSR_TEMT && iir & UART_IIR_NO_INT) {
1965                 if (!(up->bugs & UART_BUG_TXEN)) {
1966                         up->bugs |= UART_BUG_TXEN;
1967                         pr_debug("ttyS%d - enabling bad tx status workarounds\n",
1968                                  port->line);
1969                 }
1970         } else {
1971                 up->bugs &= ~UART_BUG_TXEN;
1972         }
1973
1974         spin_unlock_irqrestore(&up->port.lock, flags);
1975
1976         /*
1977          * Clear the interrupt registers again for luck, and clear the
1978          * saved flags to avoid getting false values from polling
1979          * routines or the previous session.
1980          */
1981         serial_inp(up, UART_LSR);
1982         serial_inp(up, UART_RX);
1983         serial_inp(up, UART_IIR);
1984         serial_inp(up, UART_MSR);
1985         up->lsr_saved_flags = 0;
1986         up->msr_saved_flags = 0;
1987
1988         /*
1989          * Finally, enable interrupts.  Note: Modem status interrupts
1990          * are set via set_termios(), which will be occurring imminently
1991          * anyway, so we don't enable them here.
1992          */
1993         up->ier = UART_IER_RLSI | UART_IER_RDI;
1994         serial_outp(up, UART_IER, up->ier);
1995
1996         if (up->port.flags & UPF_FOURPORT) {
1997                 unsigned int icp;
1998                 /*
1999                  * Enable interrupts on the AST Fourport board
2000                  */
2001                 icp = (up->port.iobase & 0xfe0) | 0x01f;
2002                 outb_p(0x80, icp);
2003                 (void) inb_p(icp);
2004         }
2005
2006         return 0;
2007 }
2008
2009 static void serial8250_shutdown(struct uart_port *port)
2010 {
2011         struct uart_8250_port *up = (struct uart_8250_port *)port;
2012         unsigned long flags;
2013
2014         /*
2015          * Disable interrupts from this port
2016          */
2017         up->ier = 0;
2018         serial_outp(up, UART_IER, 0);
2019
2020         spin_lock_irqsave(&up->port.lock, flags);
2021         if (up->port.flags & UPF_FOURPORT) {
2022                 /* reset interrupts on the AST Fourport board */
2023                 inb((up->port.iobase & 0xfe0) | 0x1f);
2024                 up->port.mctrl |= TIOCM_OUT1;
2025         } else
2026                 up->port.mctrl &= ~TIOCM_OUT2;
2027
2028         serial8250_set_mctrl(&up->port, up->port.mctrl);
2029         spin_unlock_irqrestore(&up->port.lock, flags);
2030
2031         /*
2032          * Disable break condition and FIFOs
2033          */
2034         serial_out(up, UART_LCR, serial_inp(up, UART_LCR) & ~UART_LCR_SBC);
2035         serial8250_clear_fifos(up);
2036
2037 #ifdef CONFIG_SERIAL_8250_RSA
2038         /*
2039          * Reset the RSA board back to 115kbps compat mode.
2040          */
2041         disable_rsa(up);
2042 #endif
2043
2044         /*
2045          * Read data port to reset things, and then unlink from
2046          * the IRQ chain.
2047          */
2048         (void) serial_in(up, UART_RX);
2049
2050         del_timer_sync(&up->timer);
2051         up->timer.function = serial8250_timeout;
2052         if (is_real_interrupt(up->port.irq))
2053                 serial_unlink_irq_chain(up);
2054 }
2055
2056 static unsigned int serial8250_get_divisor(struct uart_port *port, unsigned int baud)
2057 {
2058         unsigned int quot;
2059
2060         /*
2061          * Handle magic divisors for baud rates above baud_base on
2062          * SMSC SuperIO chips.
2063          */
2064         if ((port->flags & UPF_MAGIC_MULTIPLIER) &&
2065             baud == (port->uartclk/4))
2066                 quot = 0x8001;
2067         else if ((port->flags & UPF_MAGIC_MULTIPLIER) &&
2068                  baud == (port->uartclk/8))
2069                 quot = 0x8002;
2070         else
2071                 quot = uart_get_divisor(port, baud);
2072
2073         return quot;
2074 }
2075
2076 static void
2077 serial8250_set_termios(struct uart_port *port, struct ktermios *termios,
2078                        struct ktermios *old)
2079 {
2080         struct uart_8250_port *up = (struct uart_8250_port *)port;
2081         unsigned char cval, fcr = 0;
2082         unsigned long flags;
2083         unsigned int baud, quot;
2084
2085         switch (termios->c_cflag & CSIZE) {
2086         case CS5:
2087                 cval = UART_LCR_WLEN5;
2088                 break;
2089         case CS6:
2090                 cval = UART_LCR_WLEN6;
2091                 break;
2092         case CS7:
2093                 cval = UART_LCR_WLEN7;
2094                 break;
2095         default:
2096         case CS8:
2097                 cval = UART_LCR_WLEN8;
2098                 break;
2099         }
2100
2101         if (termios->c_cflag & CSTOPB)
2102                 cval |= UART_LCR_STOP;
2103         if (termios->c_cflag & PARENB)
2104                 cval |= UART_LCR_PARITY;
2105         if (!(termios->c_cflag & PARODD))
2106                 cval |= UART_LCR_EPAR;
2107 #ifdef CMSPAR
2108         if (termios->c_cflag & CMSPAR)
2109                 cval |= UART_LCR_SPAR;
2110 #endif
2111
2112         /*
2113          * Ask the core to calculate the divisor for us.
2114          */
2115         baud = uart_get_baud_rate(port, termios, old, 0, port->uartclk/16);
2116         quot = serial8250_get_divisor(port, baud);
2117
2118         /*
2119          * Oxford Semi 952 rev B workaround
2120          */
2121         if (up->bugs & UART_BUG_QUOT && (quot & 0xff) == 0)
2122                 quot++;
2123
2124         if (up->capabilities & UART_CAP_FIFO && up->port.fifosize > 1) {
2125                 if (baud < 2400)
2126                         fcr = UART_FCR_ENABLE_FIFO | UART_FCR_TRIGGER_1;
2127                 else
2128                         fcr = uart_config[up->port.type].fcr;
2129         }
2130
2131         /*
2132          * MCR-based auto flow control.  When AFE is enabled, RTS will be
2133          * deasserted when the receive FIFO contains more characters than
2134          * the trigger, or the MCR RTS bit is cleared.  In the case where
2135          * the remote UART is not using CTS auto flow control, we must
2136          * have sufficient FIFO entries for the latency of the remote
2137          * UART to respond.  IOW, at least 32 bytes of FIFO.
2138          */
2139         if (up->capabilities & UART_CAP_AFE && up->port.fifosize >= 32) {
2140                 up->mcr &= ~UART_MCR_AFE;
2141                 if (termios->c_cflag & CRTSCTS)
2142                         up->mcr |= UART_MCR_AFE;
2143         }
2144
2145         /*
2146          * Ok, we're now changing the port state.  Do it with
2147          * interrupts disabled.
2148          */
2149         spin_lock_irqsave(&up->port.lock, flags);
2150
2151         /*
2152          * Update the per-port timeout.
2153          */
2154         uart_update_timeout(port, termios->c_cflag, baud);
2155
2156         up->port.read_status_mask = UART_LSR_OE | UART_LSR_THRE | UART_LSR_DR;
2157         if (termios->c_iflag & INPCK)
2158                 up->port.read_status_mask |= UART_LSR_FE | UART_LSR_PE;
2159         if (termios->c_iflag & (BRKINT | PARMRK))
2160                 up->port.read_status_mask |= UART_LSR_BI;
2161
2162         /*
2163          * Characteres to ignore
2164          */
2165         up->port.ignore_status_mask = 0;
2166         if (termios->c_iflag & IGNPAR)
2167                 up->port.ignore_status_mask |= UART_LSR_PE | UART_LSR_FE;
2168         if (termios->c_iflag & IGNBRK) {
2169                 up->port.ignore_status_mask |= UART_LSR_BI;
2170                 /*
2171                  * If we're ignoring parity and break indicators,
2172                  * ignore overruns too (for real raw support).
2173                  */
2174                 if (termios->c_iflag & IGNPAR)
2175                         up->port.ignore_status_mask |= UART_LSR_OE;
2176         }
2177
2178         /*
2179          * ignore all characters if CREAD is not set
2180          */
2181         if ((termios->c_cflag & CREAD) == 0)
2182                 up->port.ignore_status_mask |= UART_LSR_DR;
2183
2184         /*
2185          * CTS flow control flag and modem status interrupts
2186          */
2187         up->ier &= ~UART_IER_MSI;
2188         if (!(up->bugs & UART_BUG_NOMSR) &&
2189                         UART_ENABLE_MS(&up->port, termios->c_cflag))
2190                 up->ier |= UART_IER_MSI;
2191         if (up->capabilities & UART_CAP_UUE)
2192                 up->ier |= UART_IER_UUE | UART_IER_RTOIE;
2193
2194         serial_out(up, UART_IER, up->ier);
2195
2196         if (up->capabilities & UART_CAP_EFR) {
2197                 unsigned char efr = 0;
2198                 /*
2199                  * TI16C752/Startech hardware flow control.  FIXME:
2200                  * - TI16C752 requires control thresholds to be set.
2201                  * - UART_MCR_RTS is ineffective if auto-RTS mode is enabled.
2202                  */
2203                 if (termios->c_cflag & CRTSCTS)
2204                         efr |= UART_EFR_CTS;
2205
2206                 serial_outp(up, UART_LCR, 0xBF);
2207                 serial_outp(up, UART_EFR, efr);
2208         }
2209
2210 #ifdef CONFIG_ARCH_OMAP15XX
2211         /* Workaround to enable 115200 baud on OMAP1510 internal ports */
2212         if (cpu_is_omap1510() && is_omap_port((unsigned int)up->port.membase)) {
2213                 if (baud == 115200) {
2214                         quot = 1;
2215                         serial_out(up, UART_OMAP_OSC_12M_SEL, 1);
2216                 } else
2217                         serial_out(up, UART_OMAP_OSC_12M_SEL, 0);
2218         }
2219 #endif
2220
2221         if (up->capabilities & UART_NATSEMI) {
2222                 /* Switch to bank 2 not bank 1, to avoid resetting EXCR2 */
2223                 serial_outp(up, UART_LCR, 0xe0);
2224         } else {
2225                 serial_outp(up, UART_LCR, cval | UART_LCR_DLAB);/* set DLAB */
2226         }
2227
2228         serial_dl_write(up, quot);
2229
2230         /*
2231          * LCR DLAB must be set to enable 64-byte FIFO mode. If the FCR
2232          * is written without DLAB set, this mode will be disabled.
2233          */
2234         if (up->port.type == PORT_16750)
2235                 serial_outp(up, UART_FCR, fcr);
2236
2237         serial_outp(up, UART_LCR, cval);                /* reset DLAB */
2238         up->lcr = cval;                                 /* Save LCR */
2239         if (up->port.type != PORT_16750) {
2240                 if (fcr & UART_FCR_ENABLE_FIFO) {
2241                         /* emulated UARTs (Lucent Venus 167x) need two steps */
2242                         serial_outp(up, UART_FCR, UART_FCR_ENABLE_FIFO);
2243                 }
2244
2245                 /* Note that we need to set ECB to access write water mark
2246                  * bits. First allow FCR tx fifo write, then set fcr with
2247                  * possible TX fifo settings. */
2248                 if (uart_config[up->port.type].flags & UART_CAP_EFR) {
2249                         serial_outp(up, UART_LCR, 0xbf);        /* Access EFR */
2250                         serial_outp(up, UART_EFR, UART_EFR_ECB);
2251                         serial_outp(up, UART_LCR, 0x0);         /* Access FCR */
2252                         serial_outp(up, UART_FCR, fcr);
2253                         serial_outp(up, UART_LCR, 0xbf);        /* Access EFR */
2254                         serial_outp(up, UART_EFR, 0);
2255                         serial_outp(up, UART_LCR, cval);        /* Access FCR */
2256         } else
2257                 serial_outp(up, UART_FCR, fcr);         /* set fcr */
2258         }
2259         serial8250_set_mctrl(&up->port, up->port.mctrl);
2260         spin_unlock_irqrestore(&up->port.lock, flags);
2261         /* Don't rewrite B0 */
2262         if (tty_termios_baud_rate(termios))
2263                 tty_termios_encode_baud_rate(termios, baud, baud);
2264 }
2265
2266 static void
2267 serial8250_pm(struct uart_port *port, unsigned int state,
2268               unsigned int oldstate)
2269 {
2270         struct uart_8250_port *p = (struct uart_8250_port *)port;
2271
2272         serial8250_set_sleep(p, state != 0);
2273
2274         if (p->pm)
2275                 p->pm(port, state, oldstate);
2276 }
2277
2278 /*
2279  * Resource handling.
2280  */
2281 static int serial8250_request_std_resource(struct uart_8250_port *up)
2282 {
2283         unsigned int size = 8 << up->port.regshift;
2284         int ret = 0;
2285
2286 #ifdef CONFIG_ARCH_OMAP
2287         if (is_omap_port((unsigned int)up->port.membase))
2288                 size = 0x16 << up->port.regshift;
2289 #endif
2290
2291         switch (up->port.iotype) {
2292         case UPIO_AU:
2293                 size = 0x100000;
2294                 /* fall thru */
2295         case UPIO_TSI:
2296         case UPIO_MEM32:
2297         case UPIO_MEM:
2298         case UPIO_DWAPB:
2299                 if (!up->port.mapbase)
2300                         break;
2301
2302                 if (!request_mem_region(up->port.mapbase, size, "serial")) {
2303                         ret = -EBUSY;
2304                         break;
2305                 }
2306
2307                 if (up->port.flags & UPF_IOREMAP) {
2308                         up->port.membase = ioremap_nocache(up->port.mapbase,
2309                                                                         size);
2310                         if (!up->port.membase) {
2311                                 release_mem_region(up->port.mapbase, size);
2312                                 ret = -ENOMEM;
2313                         }
2314                 }
2315                 break;
2316
2317         case UPIO_HUB6:
2318         case UPIO_PORT:
2319                 if (!request_region(up->port.iobase, size, "serial"))
2320                         ret = -EBUSY;
2321                 break;
2322         }
2323         return ret;
2324 }
2325
2326 static void serial8250_release_std_resource(struct uart_8250_port *up)
2327 {
2328         unsigned int size = 8 << up->port.regshift;
2329
2330         switch (up->port.iotype) {
2331         case UPIO_AU:
2332                 size = 0x100000;
2333                 /* fall thru */
2334         case UPIO_TSI:
2335         case UPIO_MEM32:
2336         case UPIO_MEM:
2337         case UPIO_DWAPB:
2338                 if (!up->port.mapbase)
2339                         break;
2340
2341                 if (up->port.flags & UPF_IOREMAP) {
2342                         iounmap(up->port.membase);
2343                         up->port.membase = NULL;
2344                 }
2345
2346                 release_mem_region(up->port.mapbase, size);
2347                 break;
2348
2349         case UPIO_HUB6:
2350         case UPIO_PORT:
2351                 release_region(up->port.iobase, size);
2352                 break;
2353         }
2354 }
2355
2356 static int serial8250_request_rsa_resource(struct uart_8250_port *up)
2357 {
2358         unsigned long start = UART_RSA_BASE << up->port.regshift;
2359         unsigned int size = 8 << up->port.regshift;
2360         int ret = -EINVAL;
2361
2362         switch (up->port.iotype) {
2363         case UPIO_HUB6:
2364         case UPIO_PORT:
2365                 start += up->port.iobase;
2366                 if (request_region(start, size, "serial-rsa"))
2367                         ret = 0;
2368                 else
2369                         ret = -EBUSY;
2370                 break;
2371         }
2372
2373         return ret;
2374 }
2375
2376 static void serial8250_release_rsa_resource(struct uart_8250_port *up)
2377 {
2378         unsigned long offset = UART_RSA_BASE << up->port.regshift;
2379         unsigned int size = 8 << up->port.regshift;
2380
2381         switch (up->port.iotype) {
2382         case UPIO_HUB6:
2383         case UPIO_PORT:
2384                 release_region(up->port.iobase + offset, size);
2385                 break;
2386         }
2387 }
2388
2389 static void serial8250_release_port(struct uart_port *port)
2390 {
2391         struct uart_8250_port *up = (struct uart_8250_port *)port;
2392
2393         serial8250_release_std_resource(up);
2394         if (up->port.type == PORT_RSA)
2395                 serial8250_release_rsa_resource(up);
2396 }
2397
2398 static int serial8250_request_port(struct uart_port *port)
2399 {
2400         struct uart_8250_port *up = (struct uart_8250_port *)port;
2401         int ret = 0;
2402
2403         ret = serial8250_request_std_resource(up);
2404         if (ret == 0 && up->port.type == PORT_RSA) {
2405                 ret = serial8250_request_rsa_resource(up);
2406                 if (ret < 0)
2407                         serial8250_release_std_resource(up);
2408         }
2409
2410         return ret;
2411 }
2412
2413 static void serial8250_config_port(struct uart_port *port, int flags)
2414 {
2415         struct uart_8250_port *up = (struct uart_8250_port *)port;
2416         int probeflags = PROBE_ANY;
2417         int ret;
2418
2419         /*
2420          * Find the region that we can probe for.  This in turn
2421          * tells us whether we can probe for the type of port.
2422          */
2423         ret = serial8250_request_std_resource(up);
2424         if (ret < 0)
2425                 return;
2426
2427         ret = serial8250_request_rsa_resource(up);
2428         if (ret < 0)
2429                 probeflags &= ~PROBE_RSA;
2430
2431         if (flags & UART_CONFIG_TYPE)
2432                 autoconfig(up, probeflags);
2433         if (up->port.type != PORT_UNKNOWN && flags & UART_CONFIG_IRQ)
2434                 autoconfig_irq(up);
2435
2436         if (up->port.type != PORT_RSA && probeflags & PROBE_RSA)
2437                 serial8250_release_rsa_resource(up);
2438         if (up->port.type == PORT_UNKNOWN)
2439                 serial8250_release_std_resource(up);
2440 }
2441
2442 static int
2443 serial8250_verify_port(struct uart_port *port, struct serial_struct *ser)
2444 {
2445         if (ser->irq >= NR_IRQS || ser->irq < 0 ||
2446             ser->baud_base < 9600 || ser->type < PORT_UNKNOWN ||
2447             ser->type >= ARRAY_SIZE(uart_config) || ser->type == PORT_CIRRUS ||
2448             ser->type == PORT_STARTECH)
2449                 return -EINVAL;
2450         return 0;
2451 }
2452
2453 static const char *
2454 serial8250_type(struct uart_port *port)
2455 {
2456         int type = port->type;
2457
2458         if (type >= ARRAY_SIZE(uart_config))
2459                 type = 0;
2460         return uart_config[type].name;
2461 }
2462
2463 static struct uart_ops serial8250_pops = {
2464         .tx_empty       = serial8250_tx_empty,
2465         .set_mctrl      = serial8250_set_mctrl,
2466         .get_mctrl      = serial8250_get_mctrl,
2467         .stop_tx        = serial8250_stop_tx,
2468         .start_tx       = serial8250_start_tx,
2469         .stop_rx        = serial8250_stop_rx,
2470         .enable_ms      = serial8250_enable_ms,
2471         .break_ctl      = serial8250_break_ctl,
2472         .startup        = serial8250_startup,
2473         .shutdown       = serial8250_shutdown,
2474         .set_termios    = serial8250_set_termios,
2475         .pm             = serial8250_pm,
2476         .type           = serial8250_type,
2477         .release_port   = serial8250_release_port,
2478         .request_port   = serial8250_request_port,
2479         .config_port    = serial8250_config_port,
2480         .verify_port    = serial8250_verify_port,
2481 #ifdef CONFIG_CONSOLE_POLL
2482         .poll_get_char = serial8250_get_poll_char,
2483         .poll_put_char = serial8250_put_poll_char,
2484 #endif
2485 };
2486
2487 static struct uart_8250_port serial8250_ports[UART_NR];
2488
2489 static void __init serial8250_isa_init_ports(void)
2490 {
2491         struct uart_8250_port *up;
2492         static int first = 1;
2493         int i;
2494
2495         if (!first)
2496                 return;
2497         first = 0;
2498
2499         for (i = 0; i < nr_uarts; i++) {
2500                 struct uart_8250_port *up = &serial8250_ports[i];
2501
2502                 up->port.line = i;
2503                 spin_lock_init(&up->port.lock);
2504
2505                 init_timer(&up->timer);
2506                 up->timer.function = serial8250_timeout;
2507
2508                 /*
2509                  * ALPHA_KLUDGE_MCR needs to be killed.
2510                  */
2511                 up->mcr_mask = ~ALPHA_KLUDGE_MCR;
2512                 up->mcr_force = ALPHA_KLUDGE_MCR;
2513
2514                 up->port.ops = &serial8250_pops;
2515         }
2516
2517         for (i = 0, up = serial8250_ports;
2518              i < ARRAY_SIZE(old_serial_port) && i < nr_uarts;
2519              i++, up++) {
2520                 up->port.iobase   = old_serial_port[i].port;
2521                 up->port.irq      = irq_canonicalize(old_serial_port[i].irq);
2522                 up->port.uartclk  = old_serial_port[i].baud_base * 16;
2523                 up->port.flags    = old_serial_port[i].flags;
2524                 up->port.hub6     = old_serial_port[i].hub6;
2525                 up->port.membase  = old_serial_port[i].iomem_base;
2526                 up->port.iotype   = old_serial_port[i].io_type;
2527                 up->port.regshift = old_serial_port[i].iomem_reg_shift;
2528                 if (share_irqs)
2529                         up->port.flags |= UPF_SHARE_IRQ;
2530         }
2531 }
2532
2533 static void __init
2534 serial8250_register_ports(struct uart_driver *drv, struct device *dev)
2535 {
2536         int i;
2537
2538         serial8250_isa_init_ports();
2539
2540         for (i = 0; i < nr_uarts; i++) {
2541                 struct uart_8250_port *up = &serial8250_ports[i];
2542
2543                 up->port.dev = dev;
2544                 uart_add_one_port(drv, &up->port);
2545         }
2546 }
2547
2548 #ifdef CONFIG_SERIAL_8250_CONSOLE
2549
2550 static void serial8250_console_putchar(struct uart_port *port, int ch)
2551 {
2552         struct uart_8250_port *up = (struct uart_8250_port *)port;
2553
2554         wait_for_xmitr(up, UART_LSR_THRE);
2555         serial_out(up, UART_TX, ch);
2556 }
2557
2558 /*
2559  *      Print a string to the serial port trying not to disturb
2560  *      any possible real use of the port...
2561  *
2562  *      The console_lock must be held when we get here.
2563  */
2564 static void
2565 serial8250_console_write(struct console *co, const char *s, unsigned int count)
2566 {
2567         struct uart_8250_port *up = &serial8250_ports[co->index];
2568         unsigned long flags;
2569         unsigned int ier;
2570         int locked = 1;
2571
2572         touch_nmi_watchdog();
2573
2574         local_irq_save(flags);
2575         if (up->port.sysrq) {
2576                 /* serial8250_handle_port() already took the lock */
2577                 locked = 0;
2578         } else if (oops_in_progress) {
2579                 locked = spin_trylock(&up->port.lock);
2580         } else
2581                 spin_lock(&up->port.lock);
2582
2583         /*
2584          *      First save the IER then disable the interrupts
2585          */
2586         ier = serial_in(up, UART_IER);
2587
2588         if (up->capabilities & UART_CAP_UUE)
2589                 serial_out(up, UART_IER, UART_IER_UUE);
2590         else
2591                 serial_out(up, UART_IER, 0);
2592
2593         uart_console_write(&up->port, s, count, serial8250_console_putchar);
2594
2595         /*
2596          *      Finally, wait for transmitter to become empty
2597          *      and restore the IER
2598          */
2599         wait_for_xmitr(up, BOTH_EMPTY);
2600         serial_out(up, UART_IER, ier);
2601
2602         /*
2603          *      The receive handling will happen properly because the
2604          *      receive ready bit will still be set; it is not cleared
2605          *      on read.  However, modem control will not, we must
2606          *      call it if we have saved something in the saved flags
2607          *      while processing with interrupts off.
2608          */
2609         if (up->msr_saved_flags)
2610                 check_modem_status(up);
2611
2612         if (locked)
2613                 spin_unlock(&up->port.lock);
2614         local_irq_restore(flags);
2615 }
2616
2617 static int __init serial8250_console_setup(struct console *co, char *options)
2618 {
2619         struct uart_port *port;
2620         int baud = 9600;
2621         int bits = 8;
2622         int parity = 'n';
2623         int flow = 'n';
2624
2625         /*
2626          * Check whether an invalid uart number has been specified, and
2627          * if so, search for the first available port that does have
2628          * console support.
2629          */
2630         if (co->index >= nr_uarts)
2631                 co->index = 0;
2632         port = &serial8250_ports[co->index].port;
2633         if (!port->iobase && !port->membase)
2634                 return -ENODEV;
2635
2636         if (options)
2637                 uart_parse_options(options, &baud, &parity, &bits, &flow);
2638
2639         return uart_set_options(port, co, baud, parity, bits, flow);
2640 }
2641
2642 static int serial8250_console_early_setup(void)
2643 {
2644         return serial8250_find_port_for_earlycon();
2645 }
2646
2647 static struct uart_driver serial8250_reg;
2648 static struct console serial8250_console = {
2649         .name           = "ttyS",
2650         .write          = serial8250_console_write,
2651         .device         = uart_console_device,
2652         .setup          = serial8250_console_setup,
2653         .early_setup    = serial8250_console_early_setup,
2654         .flags          = CON_PRINTBUFFER,
2655         .index          = -1,
2656         .data           = &serial8250_reg,
2657 };
2658
2659 static int __init serial8250_console_init(void)
2660 {
2661         if (nr_uarts > UART_NR)
2662                 nr_uarts = UART_NR;
2663
2664         serial8250_isa_init_ports();
2665         register_console(&serial8250_console);
2666         return 0;
2667 }
2668 console_initcall(serial8250_console_init);
2669
2670 int serial8250_find_port(struct uart_port *p)
2671 {
2672         int line;
2673         struct uart_port *port;
2674
2675         for (line = 0; line < nr_uarts; line++) {
2676                 port = &serial8250_ports[line].port;
2677                 if (uart_match_port(p, port))
2678                         return line;
2679         }
2680         return -ENODEV;
2681 }
2682
2683 #define SERIAL8250_CONSOLE      &serial8250_console
2684 #else
2685 #define SERIAL8250_CONSOLE      NULL
2686 #endif
2687
2688 static struct uart_driver serial8250_reg = {
2689         .owner                  = THIS_MODULE,
2690         .driver_name            = "serial",
2691         .dev_name               = "ttyS",
2692         .major                  = TTY_MAJOR,
2693         .minor                  = 64,
2694         .nr                     = UART_NR,
2695         .cons                   = SERIAL8250_CONSOLE,
2696 };
2697
2698 /*
2699  * early_serial_setup - early registration for 8250 ports
2700  *
2701  * Setup an 8250 port structure prior to console initialisation.  Use
2702  * after console initialisation will cause undefined behaviour.
2703  */
2704 int __init early_serial_setup(struct uart_port *port)
2705 {
2706         if (port->line >= ARRAY_SIZE(serial8250_ports))
2707                 return -ENODEV;
2708
2709         serial8250_isa_init_ports();
2710         serial8250_ports[port->line].port       = *port;
2711         serial8250_ports[port->line].port.ops   = &serial8250_pops;
2712         return 0;
2713 }
2714
2715 /**
2716  *      serial8250_suspend_port - suspend one serial port
2717  *      @line:  serial line number
2718  *
2719  *      Suspend one serial port.
2720  */
2721 void serial8250_suspend_port(int line)
2722 {
2723         uart_suspend_port(&serial8250_reg, &serial8250_ports[line].port);
2724 }
2725
2726 /**
2727  *      serial8250_resume_port - resume one serial port
2728  *      @line:  serial line number
2729  *
2730  *      Resume one serial port.
2731  */
2732 void serial8250_resume_port(int line)
2733 {
2734         struct uart_8250_port *up = &serial8250_ports[line];
2735
2736         if (up->capabilities & UART_NATSEMI) {
2737                 unsigned char tmp;
2738
2739                 /* Ensure it's still in high speed mode */
2740                 serial_outp(up, UART_LCR, 0xE0);
2741
2742                 tmp = serial_in(up, 0x04); /* EXCR2 */
2743                 tmp &= ~0xB0; /* Disable LOCK, mask out PRESL[01] */
2744                 tmp |= 0x10;  /* 1.625 divisor for baud_base --> 921600 */
2745                 serial_outp(up, 0x04, tmp);
2746
2747                 serial_outp(up, UART_LCR, 0);
2748         }
2749         uart_resume_port(&serial8250_reg, &up->port);
2750 }
2751
2752 /*
2753  * Register a set of serial devices attached to a platform device.  The
2754  * list is terminated with a zero flags entry, which means we expect
2755  * all entries to have at least UPF_BOOT_AUTOCONF set.
2756  */
2757 static int __devinit serial8250_probe(struct platform_device *dev)
2758 {
2759         struct plat_serial8250_port *p = dev->dev.platform_data;
2760         struct uart_port port;
2761         int ret, i;
2762
2763         memset(&port, 0, sizeof(struct uart_port));
2764
2765         for (i = 0; p && p->flags != 0; p++, i++) {
2766                 port.iobase             = p->iobase;
2767                 port.membase            = p->membase;
2768                 port.irq                = p->irq;
2769                 port.uartclk            = p->uartclk;
2770                 port.regshift           = p->regshift;
2771                 port.iotype             = p->iotype;
2772                 port.flags              = p->flags;
2773                 port.mapbase            = p->mapbase;
2774                 port.hub6               = p->hub6;
2775                 port.private_data       = p->private_data;
2776                 port.dev                = &dev->dev;
2777                 if (share_irqs)
2778                         port.flags |= UPF_SHARE_IRQ;
2779                 ret = serial8250_register_port(&port);
2780                 if (ret < 0) {
2781                         dev_err(&dev->dev, "unable to register port at index %d "
2782                                 "(IO%lx MEM%llx IRQ%d): %d\n", i,
2783                                 p->iobase, (unsigned long long)p->mapbase,
2784                                 p->irq, ret);
2785                 }
2786         }
2787         return 0;
2788 }
2789
2790 /*
2791  * Remove serial ports registered against a platform device.
2792  */
2793 static int __devexit serial8250_remove(struct platform_device *dev)
2794 {
2795         int i;
2796
2797         for (i = 0; i < nr_uarts; i++) {
2798                 struct uart_8250_port *up = &serial8250_ports[i];
2799
2800                 if (up->port.dev == &dev->dev)
2801                         serial8250_unregister_port(i);
2802         }
2803         return 0;
2804 }
2805
2806 static int serial8250_suspend(struct platform_device *dev, pm_message_t state)
2807 {
2808         int i;
2809
2810         for (i = 0; i < UART_NR; i++) {
2811                 struct uart_8250_port *up = &serial8250_ports[i];
2812
2813                 if (up->port.type != PORT_UNKNOWN && up->port.dev == &dev->dev)
2814                         uart_suspend_port(&serial8250_reg, &up->port);
2815         }
2816
2817         return 0;
2818 }
2819
2820 static int serial8250_resume(struct platform_device *dev)
2821 {
2822         int i;
2823
2824         for (i = 0; i < UART_NR; i++) {
2825                 struct uart_8250_port *up = &serial8250_ports[i];
2826
2827                 if (up->port.type != PORT_UNKNOWN && up->port.dev == &dev->dev)
2828                         serial8250_resume_port(i);
2829         }
2830
2831         return 0;
2832 }
2833
2834 static struct platform_driver serial8250_isa_driver = {
2835         .probe          = serial8250_probe,
2836         .remove         = __devexit_p(serial8250_remove),
2837         .suspend        = serial8250_suspend,
2838         .resume         = serial8250_resume,
2839         .driver         = {
2840                 .name   = "serial8250",
2841                 .owner  = THIS_MODULE,
2842         },
2843 };
2844
2845 /*
2846  * This "device" covers _all_ ISA 8250-compatible serial devices listed
2847  * in the table in include/asm/serial.h
2848  */
2849 static struct platform_device *serial8250_isa_devs;
2850
2851 /*
2852  * serial8250_register_port and serial8250_unregister_port allows for
2853  * 16x50 serial ports to be configured at run-time, to support PCMCIA
2854  * modems and PCI multiport cards.
2855  */
2856 static DEFINE_MUTEX(serial_mutex);
2857
2858 static struct uart_8250_port *serial8250_find_match_or_unused(struct uart_port *port)
2859 {
2860         int i;
2861
2862         /*
2863          * First, find a port entry which matches.
2864          */
2865         for (i = 0; i < nr_uarts; i++)
2866                 if (uart_match_port(&serial8250_ports[i].port, port))
2867                         return &serial8250_ports[i];
2868
2869         /*
2870          * We didn't find a matching entry, so look for the first
2871          * free entry.  We look for one which hasn't been previously
2872          * used (indicated by zero iobase).
2873          */
2874         for (i = 0; i < nr_uarts; i++)
2875                 if (serial8250_ports[i].port.type == PORT_UNKNOWN &&
2876                     serial8250_ports[i].port.iobase == 0)
2877                         return &serial8250_ports[i];
2878
2879         /*
2880          * That also failed.  Last resort is to find any entry which
2881          * doesn't have a real port associated with it.
2882          */
2883         for (i = 0; i < nr_uarts; i++)
2884                 if (serial8250_ports[i].port.type == PORT_UNKNOWN)
2885                         return &serial8250_ports[i];
2886
2887         return NULL;
2888 }
2889
2890 /**
2891  *      serial8250_register_port - register a serial port
2892  *      @port: serial port template
2893  *
2894  *      Configure the serial port specified by the request. If the
2895  *      port exists and is in use, it is hung up and unregistered
2896  *      first.
2897  *
2898  *      The port is then probed and if necessary the IRQ is autodetected
2899  *      If this fails an error is returned.
2900  *
2901  *      On success the port is ready to use and the line number is returned.
2902  */
2903 int serial8250_register_port(struct uart_port *port)
2904 {
2905         struct uart_8250_port *uart;
2906         int ret = -ENOSPC;
2907
2908         if (port->uartclk == 0)
2909                 return -EINVAL;
2910
2911         mutex_lock(&serial_mutex);
2912
2913         uart = serial8250_find_match_or_unused(port);
2914         if (uart) {
2915                 uart_remove_one_port(&serial8250_reg, &uart->port);
2916
2917                 uart->port.iobase       = port->iobase;
2918                 uart->port.membase      = port->membase;
2919                 uart->port.irq          = port->irq;
2920                 uart->port.uartclk      = port->uartclk;
2921                 uart->port.fifosize     = port->fifosize;
2922                 uart->port.regshift     = port->regshift;
2923                 uart->port.iotype       = port->iotype;
2924                 uart->port.flags        = port->flags | UPF_BOOT_AUTOCONF;
2925                 uart->port.mapbase      = port->mapbase;
2926                 uart->port.private_data = port->private_data;
2927                 if (port->dev)
2928                         uart->port.dev = port->dev;
2929
2930                 ret = uart_add_one_port(&serial8250_reg, &uart->port);
2931                 if (ret == 0)
2932                         ret = uart->port.line;
2933         }
2934         mutex_unlock(&serial_mutex);
2935
2936         return ret;
2937 }
2938 EXPORT_SYMBOL(serial8250_register_port);
2939
2940 /**
2941  *      serial8250_unregister_port - remove a 16x50 serial port at runtime
2942  *      @line: serial line number
2943  *
2944  *      Remove one serial port.  This may not be called from interrupt
2945  *      context.  We hand the port back to the our control.
2946  */
2947 void serial8250_unregister_port(int line)
2948 {
2949         struct uart_8250_port *uart = &serial8250_ports[line];
2950
2951         mutex_lock(&serial_mutex);
2952         uart_remove_one_port(&serial8250_reg, &uart->port);
2953         if (serial8250_isa_devs) {
2954                 uart->port.flags &= ~UPF_BOOT_AUTOCONF;
2955                 uart->port.type = PORT_UNKNOWN;
2956                 uart->port.dev = &serial8250_isa_devs->dev;
2957                 uart_add_one_port(&serial8250_reg, &uart->port);
2958         } else {
2959                 uart->port.dev = NULL;
2960         }
2961         mutex_unlock(&serial_mutex);
2962 }
2963 EXPORT_SYMBOL(serial8250_unregister_port);
2964
2965 static int __init serial8250_init(void)
2966 {
2967         int ret, i;
2968
2969         if (nr_uarts > UART_NR)
2970                 nr_uarts = UART_NR;
2971
2972         printk(KERN_INFO "Serial: 8250/16550 driver"
2973                 "%d ports, IRQ sharing %sabled\n", nr_uarts,
2974                 share_irqs ? "en" : "dis");
2975
2976         for (i = 0; i < NR_IRQS; i++)
2977                 spin_lock_init(&irq_lists[i].lock);
2978
2979         ret = uart_register_driver(&serial8250_reg);
2980         if (ret)
2981                 goto out;
2982
2983         serial8250_isa_devs = platform_device_alloc("serial8250",
2984                                                     PLAT8250_DEV_LEGACY);
2985         if (!serial8250_isa_devs) {
2986                 ret = -ENOMEM;
2987                 goto unreg_uart_drv;
2988         }
2989
2990         ret = platform_device_add(serial8250_isa_devs);
2991         if (ret)
2992                 goto put_dev;
2993
2994         serial8250_register_ports(&serial8250_reg, &serial8250_isa_devs->dev);
2995
2996         ret = platform_driver_register(&serial8250_isa_driver);
2997         if (ret == 0)
2998                 goto out;
2999
3000         platform_device_del(serial8250_isa_devs);
3001  put_dev:
3002         platform_device_put(serial8250_isa_devs);
3003  unreg_uart_drv:
3004         uart_unregister_driver(&serial8250_reg);
3005  out:
3006         return ret;
3007 }
3008
3009 static void __exit serial8250_exit(void)
3010 {
3011         struct platform_device *isa_dev = serial8250_isa_devs;
3012
3013         /*
3014          * This tells serial8250_unregister_port() not to re-register
3015          * the ports (thereby making serial8250_isa_driver permanently
3016          * in use.)
3017          */
3018         serial8250_isa_devs = NULL;
3019
3020         platform_driver_unregister(&serial8250_isa_driver);
3021         platform_device_unregister(isa_dev);
3022
3023         uart_unregister_driver(&serial8250_reg);
3024 }
3025
3026 module_init(serial8250_init);
3027 module_exit(serial8250_exit);
3028
3029 EXPORT_SYMBOL(serial8250_suspend_port);
3030 EXPORT_SYMBOL(serial8250_resume_port);
3031
3032 MODULE_LICENSE("GPL");
3033 MODULE_DESCRIPTION("Generic 8250/16x50 serial driver");
3034
3035 module_param(share_irqs, uint, 0644);
3036 MODULE_PARM_DESC(share_irqs, "Share IRQs with other non-8250/16x50 devices"
3037         " (unsafe)");
3038
3039 module_param(nr_uarts, uint, 0644);
3040 MODULE_PARM_DESC(nr_uarts, "Maximum number of UARTs supported. (1-" __MODULE_STRING(CONFIG_SERIAL_8250_NR_UARTS) ")");
3041
3042 #ifdef CONFIG_SERIAL_8250_RSA
3043 module_param_array(probe_rsa, ulong, &probe_rsa_count, 0444);
3044 MODULE_PARM_DESC(probe_rsa, "Probe I/O ports for RSA");
3045 #endif
3046 MODULE_ALIAS_CHARDEV_MAJOR(TTY_MAJOR);